378f637433668fef2288b5f3699ad8cdbbbfab18
[blender.git] / source / blender / editors / mesh / meshtools.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2004 by Blender Foundation
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/mesh/meshtools.c
29  *  \ingroup edmesh
30  *
31  * meshtools.c: no editmode (violated already :), mirror & join),
32  * tools operating on meshes
33  */
34
35 #include "MEM_guardedalloc.h"
36
37 #include "DNA_mesh_types.h"
38 #include "DNA_key_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_modifier_types.h"
41 #include "DNA_object_types.h"
42 #include "DNA_scene_types.h"
43 #include "DNA_screen_types.h"
44 #include "DNA_view3d_types.h"
45
46 #include "BLI_math.h"
47 #include "BLI_blenlib.h"
48
49
50 #include "BKE_context.h"
51 #include "BKE_depsgraph.h"
52 #include "BKE_deform.h"
53 #include "BKE_DerivedMesh.h"
54 #include "BKE_key.h"
55 #include "BKE_library.h"
56 #include "BKE_main.h"
57 #include "BKE_mesh.h"
58 #include "BKE_material.h"
59 #include "BKE_report.h"
60 #include "BKE_tessmesh.h"
61 #include "BKE_multires.h"
62
63
64 #include "ED_mesh.h"
65 #include "ED_object.h"
66 #include "ED_view3d.h"
67
68 #include "WM_api.h"
69 #include "WM_types.h"
70
71 /* * ********************** no editmode!!! *********** */
72
73 /*********************** JOIN ***************************/
74
75 /* join selected meshes into the active mesh, context sensitive
76  * return 0 if no join is made (error) and 1 if the join is done */
77
78 int join_mesh_exec(bContext *C, wmOperator *op)
79 {
80         Main *bmain = CTX_data_main(C);
81         Scene *scene = CTX_data_scene(C);
82         Object *ob = CTX_data_active_object(C);
83         Material **matar, *ma;
84         Mesh *me;
85         MVert *mvert, *mv;
86         MEdge *medge = NULL;
87         MPoly *mpoly = NULL;
88         MLoop *mloop = NULL;
89         Key *key, *nkey = NULL;
90         KeyBlock *kb, *okb, *kbn;
91         float imat[4][4], cmat[4][4], *fp1, *fp2;
92         int a, b, totcol, totmat = 0, totedge = 0, totvert = 0, ok = 0;
93         int totloop = 0, totpoly = 0, vertofs, *matmap = NULL;
94         int i, j, index, haskey = 0, edgeofs, loopofs, polyofs;
95         bDeformGroup *dg, *odg;
96         MDeformVert *dvert;
97         CustomData vdata, edata, fdata, ldata, pdata;
98
99         if (scene->obedit) {
100                 BKE_report(op->reports, RPT_WARNING, "Cannot join while in edit mode");
101                 return OPERATOR_CANCELLED;
102         }
103         
104         /* ob is the object we are adding geometry to */
105         if (!ob || ob->type != OB_MESH) {
106                 BKE_report(op->reports, RPT_WARNING, "Active object is not a mesh");
107                 return OPERATOR_CANCELLED;
108         }
109         
110         /* count & check */
111         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
112         {
113                 if (base->object->type == OB_MESH) {
114                         me = base->object->data;
115
116                         totvert += me->totvert;
117                         totedge += me->totedge;
118                         totloop += me->totloop;
119                         totpoly += me->totpoly;
120                         totmat += base->object->totcol;
121                         
122                         if (base->object == ob)
123                                 ok = 1;
124                         
125                         /* check for shapekeys */
126                         if (me->key)
127                                 haskey++;
128                 }
129         }
130         CTX_DATA_END;
131         
132         /* that way the active object is always selected */ 
133         if (ok == 0) {
134                 BKE_report(op->reports, RPT_WARNING, "Active object is not a selected mesh");
135                 return OPERATOR_CANCELLED;
136         }
137         
138         /* only join meshes if there are verts to join, there aren't too many, and we only had one mesh selected */
139         me = (Mesh *)ob->data;
140         key = me->key;
141
142         if (totvert == 0 || totvert == me->totvert) {
143                 BKE_report(op->reports, RPT_WARNING, "No mesh data to join");
144                 return OPERATOR_CANCELLED;
145         }
146         
147         if (totvert > MESH_MAX_VERTS) {
148                 BKE_reportf(op->reports, RPT_WARNING, "Joining results in %d vertices, limit is %ld", totvert, MESH_MAX_VERTS);
149                 return OPERATOR_CANCELLED;
150         }
151
152         /* remove tessface to ensure we don't hold references to invalid faces */
153         BKE_mesh_tessface_clear(me);
154
155         /* new material indices and material array */
156         matar = MEM_callocN(sizeof(void *) * totmat, "join_mesh matar");
157         if (totmat) matmap = MEM_callocN(sizeof(int) * totmat, "join_mesh matmap");
158         totcol = ob->totcol;
159         
160         /* obact materials in new main array, is nicer start! */
161         for (a = 0; a < ob->totcol; a++) {
162                 matar[a] = give_current_material(ob, a + 1);
163                 id_us_plus((ID *)matar[a]);
164                 /* increase id->us : will be lowered later */
165         }
166         
167         /* - if destination mesh had shapekeys, move them somewhere safe, and set up placeholders
168          *  with arrays that are large enough to hold shapekey data for all meshes
169          * -    if destination mesh didn't have shapekeys, but we encountered some in the meshes we're 
170          *      joining, set up a new keyblock and assign to the mesh
171          */
172         if (key) {
173                 /* make a duplicate copy that will only be used here... (must remember to free it!) */
174                 nkey = BKE_key_copy(key);
175                 
176                 /* for all keys in old block, clear data-arrays */
177                 for (kb = key->block.first; kb; kb = kb->next) {
178                         if (kb->data) MEM_freeN(kb->data);
179                         kb->data = MEM_callocN(sizeof(float) * 3 * totvert, "join_shapekey");
180                         kb->totelem = totvert;
181                         kb->weights = NULL;
182                 }
183         }
184         else if (haskey) {
185                 /* add a new key-block and add to the mesh */
186                 key = me->key = BKE_key_add((ID *)me);
187                 key->type = KEY_RELATIVE;
188         }
189         
190         /* first pass over objects - copying materials and vertexgroups across */
191         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
192         {
193                 /* only act if a mesh, and not the one we're joining to */
194                 if ((ob != base->object) && (base->object->type == OB_MESH)) {
195                         me = base->object->data;
196                         
197                         /* Join this object's vertex groups to the base one's */
198                         for (dg = base->object->defbase.first; dg; dg = dg->next) {
199                                 /* See if this group exists in the object (if it doesn't, add it to the end) */
200                                 if (!defgroup_find_name(ob, dg->name)) {
201                                         odg = MEM_callocN(sizeof(bDeformGroup), "join deformGroup");
202                                         memcpy(odg, dg, sizeof(bDeformGroup));
203                                         BLI_addtail(&ob->defbase, odg);
204                                 }
205                         }
206                         if (ob->defbase.first && ob->actdef == 0)
207                                 ob->actdef = 1;
208                         
209                         
210                         if (me->totvert) {
211                                 /* Add this object's materials to the base one's if they don't exist already (but only if limits not exceeded yet) */
212                                 if (totcol < MAXMAT) {
213                                         for (a = 1; a <= base->object->totcol; a++) {
214                                                 ma = give_current_material(base->object, a);
215
216                                                 for (b = 0; b < totcol; b++) {
217                                                         if (ma == matar[b]) break;
218                                                 }
219                                                 if (b == totcol) {
220                                                         matar[b] = ma;
221                                                         if (ma) {
222                                                                 id_us_plus(&ma->id);
223                                                         }
224                                                         totcol++;
225                                                 }
226                                                 if (totcol >= MAXMAT)
227                                                         break;
228                                         }
229                                 }
230                                 
231                                 /* if this mesh has shapekeys, check if destination mesh already has matching entries too */
232                                 if (me->key && key) {
233                                         /* for remapping KeyBlock.relative */
234                                         int      *index_map = MEM_mallocN(sizeof(int)        * me->key->totkey, __func__);
235                                         KeyBlock **kb_map   = MEM_mallocN(sizeof(KeyBlock *) * me->key->totkey, __func__);
236
237                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
238                                                 BLI_assert(i < me->key->totkey);
239
240                                                 kbn = BKE_keyblock_find_name(key, kb->name);
241                                                 /* if key doesn't exist in destination mesh, add it */
242                                                 if (kbn) {
243                                                         index_map[i] = BLI_findindex(&key->block, kbn);
244                                                 }
245                                                 else {
246                                                         index_map[i] = key->totkey;
247
248                                                         kbn = BKE_keyblock_add(key, kb->name);
249
250                                                         BKE_keyblock_copy_settings(kbn, kb);
251
252                                                         /* adjust settings to fit (allocate a new data-array) */
253                                                         kbn->data = MEM_callocN(sizeof(float) * 3 * totvert, "joined_shapekey");
254                                                         kbn->totelem = totvert;
255                 
256                                                         /* XXX 2.5 Animato */
257 #if 0
258                                                         /* also, copy corresponding ipo-curve to ipo-block if applicable */
259                                                         if (me->key->ipo && key->ipo) {
260                                                                 /* FIXME... this is a luxury item! */
261                                                                 puts("FIXME: ignoring IPO's when joining shapekeys on Meshes for now...");
262                                                         }
263 #endif
264                                                 }
265
266                                                 kb_map[i] = kbn;
267                                         }
268
269                                         /* remap relative index values */
270                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
271                                                 if (LIKELY(kb->relative < me->key->totkey)) {  /* sanity check, should always be true */
272                                                         kb_map[i]->relative = index_map[kb->relative];
273                                                 }
274                                         }
275
276                                         MEM_freeN(index_map);
277                                         MEM_freeN(kb_map);
278                                 }
279                         }
280                 }
281         }
282         CTX_DATA_END;
283
284
285         /* setup new data for destination mesh */
286         CustomData_reset(&vdata);
287         CustomData_reset(&edata);
288         CustomData_reset(&fdata);
289         CustomData_reset(&ldata);
290         CustomData_reset(&pdata);
291
292         mvert = CustomData_add_layer(&vdata, CD_MVERT, CD_CALLOC, NULL, totvert);
293         medge = CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
294         mloop = CustomData_add_layer(&ldata, CD_MLOOP, CD_CALLOC, NULL, totloop);
295         mpoly = CustomData_add_layer(&pdata, CD_MPOLY, CD_CALLOC, NULL, totpoly);
296
297         vertofs = 0;
298         edgeofs = 0;
299         loopofs = 0;
300         polyofs = 0;
301         
302         /* inverse transform for all selected meshes in this object */
303         invert_m4_m4(imat, ob->obmat);
304         
305         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
306         {
307                 /* only join if this is a mesh */
308                 if (base->object->type == OB_MESH) {
309                         me = base->object->data;
310                         
311                         if (me->totvert) {
312
313                                 /* merge customdata flag */
314                                 ((Mesh *)ob->data)->cd_flag |= me->cd_flag;
315
316                                 /* standard data */
317                                 CustomData_merge(&me->vdata, &vdata, CD_MASK_MESH, CD_DEFAULT, totvert);
318                                 CustomData_copy_data(&me->vdata, &vdata, 0, vertofs, me->totvert);
319                                 
320                                 /* vertex groups */
321                                 dvert = CustomData_get(&vdata, vertofs, CD_MDEFORMVERT);
322                                 
323                                 /* NB: vertex groups here are new version */
324                                 if (dvert) {
325                                         for (i = 0; i < me->totvert; i++) {
326                                                 for (j = 0; j < dvert[i].totweight; j++) {
327                                                         /*      Find the old vertex group */
328                                                         odg = BLI_findlink(&base->object->defbase, dvert[i].dw[j].def_nr);
329                                                         if (odg) {
330                                                                 /*      Search for a match in the new object, and set new index */
331                                                                 for (dg = ob->defbase.first, index = 0; dg; dg = dg->next, index++) {
332                                                                         if (!strcmp(dg->name, odg->name)) {
333                                                                                 dvert[i].dw[j].def_nr = index;
334                                                                                 break;
335                                                                         }
336                                                                 }
337                                                         }
338                                                 }
339                                         }
340                                 }
341                                 
342                                 /* if this is the object we're merging into, no need to do anything */
343                                 if (base->object != ob) {
344                                         /* watch this: switch matmul order really goes wrong */
345                                         mult_m4_m4m4(cmat, imat, base->object->obmat);
346                                         
347                                         /* transform vertex coordinates into new space */
348                                         for (a = 0, mv = mvert; a < me->totvert; a++, mv++) {
349                                                 mul_m4_v3(cmat, mv->co);
350                                         }
351                                         
352                                         /* for each shapekey in destination mesh:
353                                          *      - if there's a matching one, copy it across (will need to transform vertices into new space...)
354                                          *      - otherwise, just copy own coordinates of mesh (no need to transform vertex coordinates into new space)
355                                          */
356                                         if (key) {
357                                                 /* if this mesh has any shapekeys, check first, otherwise just copy coordinates */
358                                                 for (kb = key->block.first; kb; kb = kb->next) {
359                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
360                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
361                                                         
362                                                         /* check if this mesh has such a shapekey */
363                                                         okb = me->key ? BKE_keyblock_find_name(me->key, kb->name) : NULL;
364
365                                                         if (okb) {
366                                                                 /* copy this mesh's shapekey to the destination shapekey (need to transform first) */
367                                                                 fp2 = ((float *)(okb->data));
368                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
369                                                                         copy_v3_v3(fp1, fp2);
370                                                                         mul_m4_v3(cmat, fp1);
371                                                                 }
372                                                         }
373                                                         else {
374                                                                 /* copy this mesh's vertex coordinates to the destination shapekey */
375                                                                 mv = mvert;
376                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
377                                                                         copy_v3_v3(fp1, mv->co);
378                                                                 }
379                                                         }
380                                                 }
381                                         }
382                                 }
383                                 else {
384                                         /* for each shapekey in destination mesh:
385                                          *      - if it was an 'original', copy the appropriate data from nkey
386                                          *      - otherwise, copy across plain coordinates (no need to transform coordinates)
387                                          */
388                                         if (key) {
389                                                 for (kb = key->block.first; kb; kb = kb->next) {
390                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
391                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
392                                                         
393                                                         /* check if this was one of the original shapekeys */
394                                                         okb = nkey ? BKE_keyblock_find_name(nkey, kb->name) : NULL;
395                                                         if (okb) {
396                                                                 /* copy this mesh's shapekey to the destination shapekey */
397                                                                 fp2 = ((float *)(okb->data));
398                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
399                                                                         copy_v3_v3(fp1, fp2);
400                                                                 }
401                                                         }
402                                                         else {
403                                                                 /* copy base-coordinates to the destination shapekey */
404                                                                 mv = mvert;
405                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
406                                                                         copy_v3_v3(fp1, mv->co);
407                                                                 }
408                                                         }
409                                                 }
410                                         }
411                                 }
412                                 
413                                 /* advance mvert pointer to end of base mesh's data */
414                                 mvert += me->totvert;
415                         }
416                         
417                         if (me->totedge) {
418                                 CustomData_merge(&me->edata, &edata, CD_MASK_MESH, CD_DEFAULT, totedge);
419                                 CustomData_copy_data(&me->edata, &edata, 0, edgeofs, me->totedge);
420                                 
421                                 for (a = 0; a < me->totedge; a++, medge++) {
422                                         medge->v1 += vertofs;
423                                         medge->v2 += vertofs;
424                                 }
425                         }
426
427                         if (me->totloop) {
428                                 if (base->object != ob) {
429                                         MultiresModifierData *mmd;
430
431                                         multiresModifier_prepare_join(scene, base->object, ob);
432
433                                         if ((mmd = get_multires_modifier(scene, base->object, TRUE))) {
434                                                 ED_object_iter_other(bmain, base->object, TRUE,
435                                                                      ED_object_multires_update_totlevels_cb,
436                                                                      &mmd->totlvl);
437                                         }
438                                 }
439                                 
440                                 CustomData_merge(&me->ldata, &ldata, CD_MASK_MESH, CD_DEFAULT, totloop);
441                                 CustomData_copy_data(&me->ldata, &ldata, 0, loopofs, me->totloop);
442                                 
443                                 for (a = 0; a < me->totloop; a++, mloop++) {
444                                         mloop->v += vertofs;
445                                         mloop->e += edgeofs;
446                                 }
447                         }
448                         
449                         if (me->totpoly) {
450                                 if (totmat) {
451                                         /* make mapping for materials */
452                                         for (a = 1; a <= base->object->totcol; a++) {
453                                                 ma = give_current_material(base->object, a);
454
455                                                 for (b = 0; b < totcol; b++) {
456                                                         if (ma == matar[b]) {
457                                                                 matmap[a - 1] = b;
458                                                                 break;
459                                                         }
460                                                 }
461                                         }
462                                 }
463
464                                 CustomData_merge(&me->pdata, &pdata, CD_MASK_MESH, CD_DEFAULT, totpoly);
465                                 CustomData_copy_data(&me->pdata, &pdata, 0, polyofs, me->totpoly);
466                                 
467                                 for (a = 0; a < me->totpoly; a++, mpoly++) {
468                                         mpoly->loopstart += loopofs;
469                                         mpoly->mat_nr = matmap ? matmap[(int)mpoly->mat_nr] : 0;
470                                 }
471                                 
472                                 polyofs += me->totpoly;
473                         }
474
475                         /* these are used for relinking (cannot be set earlier, 
476                          * or else reattaching goes wrong)
477                          */
478                         vertofs += me->totvert;
479                         edgeofs += me->totedge;
480                         loopofs += me->totloop;
481                         
482                         /* free base, now that data is merged */
483                         if (base->object != ob)
484                                 ED_base_object_free_and_unlink(bmain, scene, base);
485                 }
486         }
487         CTX_DATA_END;
488         
489         /* return to mesh we're merging to */
490         me = ob->data;
491         
492         CustomData_free(&me->vdata, me->totvert);
493         CustomData_free(&me->edata, me->totedge);
494         CustomData_free(&me->ldata, me->totloop);
495         CustomData_free(&me->pdata, me->totpoly);
496
497         me->totvert = totvert;
498         me->totedge = totedge;
499         me->totloop = totloop;
500         me->totpoly = totpoly;
501
502         me->vdata = vdata;
503         me->edata = edata;
504         me->ldata = ldata;
505         me->pdata = pdata;
506
507         /* tessface data removed above, no need to update */
508         mesh_update_customdata_pointers(me, FALSE);
509
510         /* update normals in case objects with non-uniform scale are joined */
511         ED_mesh_calc_normals(me);
512         
513         /* old material array */
514         for (a = 1; a <= ob->totcol; a++) {
515                 ma = ob->mat[a - 1];
516                 if (ma) ma->id.us--;
517         }
518         for (a = 1; a <= me->totcol; a++) {
519                 ma = me->mat[a - 1];
520                 if (ma) ma->id.us--;
521         }
522         if (ob->mat) MEM_freeN(ob->mat);
523         if (ob->matbits) MEM_freeN(ob->matbits);
524         if (me->mat) MEM_freeN(me->mat);
525         ob->mat = me->mat = NULL;
526         ob->matbits = NULL;
527         
528         if (totcol) {
529                 me->mat = matar;
530                 ob->mat = MEM_callocN(sizeof(void *) * totcol, "join obmatar");
531                 ob->matbits = MEM_callocN(sizeof(char) * totcol, "join obmatbits");
532         }
533         else
534                 MEM_freeN(matar);
535         
536         ob->totcol = me->totcol = totcol;
537
538         if (matmap) MEM_freeN(matmap);
539         
540         /* other mesh users */
541         test_object_materials((ID *)me);
542         
543         /* free temp copy of destination shapekeys (if applicable) */
544         if (nkey) {
545                 /* XXX 2.5 Animato */
546 #if 0
547                 /* free it's ipo too - both are not actually freed from memory yet as ID-blocks */
548                 if (nkey->ipo) {
549                         BKE_ipo_free(nkey->ipo);
550                         BLI_remlink(&bmain->ipo, nkey->ipo);
551                         MEM_freeN(nkey->ipo);
552                 }
553 #endif
554                 
555                 BKE_key_free(nkey);
556                 BLI_remlink(&bmain->key, nkey);
557                 MEM_freeN(nkey);
558         }
559         
560         /* ensure newly inserted keys are time sorted */
561         if (key && (key->type != KEY_RELATIVE)) {
562                 BKE_key_sort(key);
563         }
564
565
566         DAG_relations_tag_update(bmain);   // removed objects, need to rebuild dag
567
568 #if 0
569         ED_object_enter_editmode(C, EM_WAITCURSOR);
570         ED_object_exit_editmode(C, EM_FREEDATA | EM_WAITCURSOR | EM_DO_UNDO);
571 #else
572         /* toggle editmode using lower level functions so this can be called from python */
573         EDBM_mesh_make(scene->toolsettings, scene, ob);
574         EDBM_mesh_load(ob);
575         EDBM_mesh_free(me->edit_btmesh);
576         MEM_freeN(me->edit_btmesh);
577         me->edit_btmesh = NULL;
578         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA);
579 #endif
580         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
581
582         return OPERATOR_FINISHED;
583 }
584
585 /*********************** JOIN AS SHAPES ***************************/
586
587 /* Append selected meshes vertex locations as shapes of the active mesh, 
588  * return 0 if no join is made (error) and 1 of the join is done */
589
590 int join_mesh_shapes_exec(bContext *C, wmOperator *op)
591 {
592         Scene *scene = CTX_data_scene(C);
593         Object *ob = CTX_data_active_object(C);
594         Mesh *me = (Mesh *)ob->data;
595         Mesh *selme = NULL;
596         DerivedMesh *dm = NULL;
597         Key *key = me->key;
598         KeyBlock *kb;
599         int ok = 0, nonequal_verts = 0;
600         
601         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
602         {
603                 if (base->object == ob) continue;
604                 
605                 if (base->object->type == OB_MESH) {
606                         selme = (Mesh *)base->object->data;
607                         
608                         if (selme->totvert == me->totvert)
609                                 ok++;
610                         else
611                                 nonequal_verts = 1;
612                 }
613         }
614         CTX_DATA_END;
615         
616         if (!ok) {
617                 if (nonequal_verts)
618                         BKE_report(op->reports, RPT_WARNING, "Selected meshes must have equal numbers of vertices");
619                 else
620                         BKE_report(op->reports, RPT_WARNING, "No additional selected meshes with equal vertex count to join");
621                 return OPERATOR_CANCELLED;
622         }
623         
624         if (key == NULL) {
625                 key = me->key = BKE_key_add((ID *)me);
626                 key->type = KEY_RELATIVE;
627
628                 /* first key added, so it was the basis. initialize it with the existing mesh */
629                 kb = BKE_keyblock_add(key, NULL);
630                 BKE_key_convert_from_mesh(me, kb);
631         }
632         
633         /* now ready to add new keys from selected meshes */
634         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
635         {
636                 if (base->object == ob) continue;
637                 
638                 if (base->object->type == OB_MESH) {
639                         selme = (Mesh *)base->object->data;
640                         
641                         if (selme->totvert == me->totvert) {
642                                 dm = mesh_get_derived_deform(scene, base->object, CD_MASK_BAREMESH);
643                                 
644                                 if (!dm) continue;
645                                         
646                                 kb = BKE_keyblock_add(key, base->object->id.name + 2);
647                                 
648                                 DM_to_meshkey(dm, me, kb);
649                                 
650                                 dm->release(dm);
651                         }
652                 }
653         }
654         CTX_DATA_END;
655         
656         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
657         
658         return OPERATOR_FINISHED;
659 }
660
661 /* ********************* MESH VERTEX OCTREE LOOKUP ************* */
662
663 /* important note; this is unfinished, needs better API for editmode, and custom threshold */
664
665 #define MOC_RES         8
666 #define MOC_NODE_RES    8
667 #define MOC_THRESH      0.00002f
668
669 typedef struct MocNode {
670         struct MocNode *next;
671         intptr_t index[MOC_NODE_RES];
672 } MocNode;
673
674 static int mesh_octree_get_base_offs(const float co[3], const float offs[3], const float div[3])
675 {
676         int vx, vy, vz;
677         
678         vx = floor((co[0] - offs[0]) / div[0]);
679         vy = floor((co[1] - offs[1]) / div[1]);
680         vz = floor((co[2] - offs[2]) / div[2]);
681
682         CLAMP(vx, 0, MOC_RES - 1);
683         CLAMP(vy, 0, MOC_RES - 1);
684         CLAMP(vz, 0, MOC_RES - 1);
685
686         return (vx * MOC_RES * MOC_RES) + vy * MOC_RES + vz;
687 }
688
689 static void mesh_octree_add_node(MocNode **bt, intptr_t index)
690 {
691         if (*bt == NULL) {
692                 *bt = MEM_callocN(sizeof(MocNode), "MocNode");
693                 (*bt)->index[0] = index;
694         }
695         else {
696                 int a;
697                 for (a = 0; a < MOC_NODE_RES; a++) {
698                         if ((*bt)->index[a] == index)
699                                 return;
700                         else if ((*bt)->index[a] == 0) {
701                                 (*bt)->index[a] = index;
702                                 return;
703                         }
704                 }
705                 mesh_octree_add_node(&(*bt)->next, index);
706         }
707 }
708
709 static void mesh_octree_free_node(MocNode **bt)
710 {
711         if ( (*bt)->next) {
712                 mesh_octree_free_node(&(*bt)->next);
713         }
714         MEM_freeN(*bt);
715 }
716
717
718 /* temporal define, just to make nicer code below */
719 #define MOC_INDEX(vx, vy, vz)  (((vx) * MOC_RES * MOC_RES) + (vy) * MOC_RES + (vz))
720
721 static void mesh_octree_add_nodes(MocNode **basetable, const float co[3], const float offs[3],
722                                   const float div[3], intptr_t index)
723 {
724         float fx, fy, fz;
725         int vx, vy, vz;
726         
727         if ((finite(co[0]) == FALSE) ||
728             (finite(co[1]) == FALSE) ||
729             (finite(co[2]) == FALSE))
730         {
731                 return;
732         }
733         
734         fx = (co[0] - offs[0]) / div[0];
735         fy = (co[1] - offs[1]) / div[1];
736         fz = (co[2] - offs[2]) / div[2];
737         CLAMP(fx, 0.0f, MOC_RES - MOC_THRESH);
738         CLAMP(fy, 0.0f, MOC_RES - MOC_THRESH);
739         CLAMP(fz, 0.0f, MOC_RES - MOC_THRESH);
740
741         vx = (int)floorf(fx);
742         vy = (int)floorf(fy);
743         vz = (int)floorf(fz);
744
745         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz), index);
746
747         if (vx > 0)
748                 if (fx - ((float)vx) - MOC_THRESH < 0.0f)
749                         mesh_octree_add_node(basetable + MOC_INDEX(vx - 1, vy, vz), index);
750         if (vx < MOC_RES - 2)
751                 if (fx - ((float)vx) + MOC_THRESH > 1.0f)
752                         mesh_octree_add_node(basetable + MOC_INDEX(vx + 1, vy, vz), index);
753
754         if (vy > 0)
755                 if (fy - ((float)vy) - MOC_THRESH < 0.0f)
756                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy - 1, vz), index);
757         if (vy < MOC_RES - 2)
758                 if (fy - ((float)vy) + MOC_THRESH > 1.0f)
759                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy + 1, vz), index);
760
761         if (vz > 0)
762                 if (fz - ((float)vz) - MOC_THRESH < 0.0f)
763                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz - 1), index);
764         if (vz < MOC_RES - 2)
765                 if (fz - ((float)vz) + MOC_THRESH > 1.0f)
766                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz + 1), index);
767
768 }
769
770 static intptr_t mesh_octree_find_index(MocNode **bt, MVert *mvert, const float co[3])
771 {
772         float *vec;
773         int a;
774         
775         if (*bt == NULL)
776                 return -1;
777         
778         for (a = 0; a < MOC_NODE_RES; a++) {
779                 if ((*bt)->index[a]) {
780                         /* does mesh verts and editmode, code looks potential dangerous, octree should really be filled OK! */
781                         if (mvert) {
782                                 vec = (mvert + (*bt)->index[a] - 1)->co;
783                                 if (compare_v3v3(vec, co, MOC_THRESH))
784                                         return (*bt)->index[a] - 1;
785                         }
786                         else {
787                                 BMVert *eve = (BMVert *)((*bt)->index[a]);
788                                 if (compare_v3v3(eve->co, co, MOC_THRESH))
789                                         return (*bt)->index[a];
790                         }
791                 }
792                 else return -1;
793         }
794         if ( (*bt)->next)
795                 return mesh_octree_find_index(&(*bt)->next, mvert, co);
796         
797         return -1;
798 }
799
800 static struct {
801         MocNode **table;
802         float offs[3], div[3];
803 } MeshOctree = {NULL, {0, 0, 0}, {0, 0, 0}};
804
805 /* mode is 's' start, or 'e' end, or 'u' use */
806 /* if end, ob can be NULL */
807 intptr_t mesh_octree_table(Object *ob, BMEditMesh *em, const float co[3], char mode)
808 {
809         MocNode **bt;
810         
811         if (mode == 'u') {        /* use table */
812                 if (MeshOctree.table == NULL)
813                         mesh_octree_table(ob, em, NULL, 's');
814
815                 if (MeshOctree.table) {
816                         Mesh *me = ob->data;
817                         bt = MeshOctree.table + mesh_octree_get_base_offs(co, MeshOctree.offs, MeshOctree.div);
818                         if (em)
819                                 return mesh_octree_find_index(bt, NULL, co);
820                         else
821                                 return mesh_octree_find_index(bt, me->mvert, co);
822                 }
823                 return -1;
824         }
825         else if (mode == 's') {   /* start table */
826                 Mesh *me = ob->data;
827                 float min[3], max[3];
828
829                 /* we compute own bounding box and don't reuse ob->bb because
830                  * we are using the undeformed coordinates*/
831                 INIT_MINMAX(min, max);
832
833                 if (em && me->edit_btmesh == em) {
834                         BMIter iter;
835                         BMVert *eve;
836                         
837                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
838                                 minmax_v3v3_v3(min, max, eve->co);
839                         }
840                 }
841                 else {
842                         MVert *mvert;
843                         int a;
844                         
845                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
846                                 minmax_v3v3_v3(min, max, mvert->co);
847                 }
848                 
849                 /* for quick unit coordinate calculus */
850                 copy_v3_v3(MeshOctree.offs, min);
851                 /* we offset it 1 threshold unit extra */
852                 add_v3_fl(MeshOctree.offs, -MOC_THRESH);
853                 
854                 sub_v3_v3v3(MeshOctree.div, max, min);
855                 /* and divide with 2 threshold unit more extra (try 8x8 unit grid on paint) */
856                 add_v3_fl(MeshOctree.div, 2.0f * MOC_THRESH);
857
858                 mul_v3_fl(MeshOctree.div, 1.0f / MOC_RES);
859                 if (MeshOctree.div[0] == 0.0f) MeshOctree.div[0] = 1.0f;
860                 if (MeshOctree.div[1] == 0.0f) MeshOctree.div[1] = 1.0f;
861                 if (MeshOctree.div[2] == 0.0f) MeshOctree.div[2] = 1.0f;
862                         
863                 if (MeshOctree.table) /* happens when entering this call without ending it */
864                         mesh_octree_table(ob, em, co, 'e');
865                 
866                 MeshOctree.table = MEM_callocN(MOC_RES * MOC_RES * MOC_RES * sizeof(void *), "sym table");
867                 
868                 if (em && me->edit_btmesh == em) {
869                         BMVert *eve;
870                         BMIter iter;
871
872                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
873                                 mesh_octree_add_nodes(MeshOctree.table, eve->co, MeshOctree.offs, MeshOctree.div, (intptr_t)(eve));
874                         }
875                 }
876                 else {
877                         MVert *mvert;
878                         int a;
879                         
880                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
881                                 mesh_octree_add_nodes(MeshOctree.table, mvert->co, MeshOctree.offs, MeshOctree.div, a + 1);
882                 }
883         }
884         else if (mode == 'e') { /* end table */
885                 if (MeshOctree.table) {
886                         int a;
887                         
888                         for (a = 0, bt = MeshOctree.table; a < MOC_RES * MOC_RES * MOC_RES; a++, bt++) {
889                                 if (*bt) mesh_octree_free_node(bt);
890                         }
891                         MEM_freeN(MeshOctree.table);
892                         MeshOctree.table = NULL;
893                 }
894         }
895         return 0;
896 }
897
898 static MirrTopoStore_t mesh_topo_store = {NULL, -1. - 1, -1};
899
900 /* mode is 's' start, or 'e' end, or 'u' use */
901 /* if end, ob can be NULL */
902 /* note, is supposed return -1 on error, which callers are currently checking for, but is not used so far */
903 int mesh_mirrtopo_table(Object *ob, char mode)
904 {
905         if (mode == 'u') {        /* use table */
906                 if (ED_mesh_mirrtopo_recalc_check(ob->data, ob->mode, &mesh_topo_store)) {
907                         mesh_mirrtopo_table(ob, 's');
908                 }
909         }
910         else if (mode == 's') { /* start table */
911                 ED_mesh_mirrtopo_init(ob->data, ob->mode, &mesh_topo_store, FALSE);
912         }
913         else if (mode == 'e') { /* end table */
914                 ED_mesh_mirrtopo_free(&mesh_topo_store);
915         }
916         return 0;
917 }
918
919 static int mesh_get_x_mirror_vert_spatial(Object *ob, int index)
920 {
921         Mesh *me = ob->data;
922         MVert *mvert;
923         float vec[3];
924         
925         mvert = me->mvert + index;
926         vec[0] = -mvert->co[0];
927         vec[1] = mvert->co[1];
928         vec[2] = mvert->co[2];
929         
930         return mesh_octree_table(ob, NULL, vec, 'u');
931 }
932
933 static int mesh_get_x_mirror_vert_topo(Object *ob, int index)
934 {
935         if (mesh_mirrtopo_table(ob, 'u') == -1)
936                 return -1;
937
938         return mesh_topo_store.index_lookup[index];
939 }
940
941 int mesh_get_x_mirror_vert(Object *ob, int index)
942 {
943         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
944                 return mesh_get_x_mirror_vert_topo(ob, index);
945         }
946         else {
947                 return mesh_get_x_mirror_vert_spatial(ob, index);
948         }
949         return 0;
950 }
951
952 static BMVert *editbmesh_get_x_mirror_vert_spatial(Object *ob, BMEditMesh *em, const float co[3])
953 {
954         float vec[3];
955         intptr_t poinval;
956         
957         /* ignore nan verts */
958         if ((finite(co[0]) == FALSE) ||
959             (finite(co[1]) == FALSE) ||
960             (finite(co[2]) == FALSE))
961         {
962                 return NULL;
963         }
964         
965         vec[0] = -co[0];
966         vec[1] = co[1];
967         vec[2] = co[2];
968         
969         poinval = mesh_octree_table(ob, em, vec, 'u');
970         if (poinval != -1)
971                 return (BMVert *)(poinval);
972         return NULL;
973 }
974
975 static BMVert *editbmesh_get_x_mirror_vert_topo(Object *ob, struct BMEditMesh *em, BMVert *eve, int index)
976 {
977         intptr_t poinval;
978         if (mesh_mirrtopo_table(ob, 'u') == -1)
979                 return NULL;
980
981         if (index == -1) {
982                 BMIter iter;
983                 BMVert *v;
984                 
985                 index = 0;
986                 BM_ITER_MESH (v, &iter, em->bm, BM_VERTS_OF_MESH) {
987                         if (v == eve)
988                                 break;
989                         index++;
990                 }
991                 
992                 if (index == em->bm->totvert) {
993                         return NULL;
994                 }
995         }
996
997         poinval = mesh_topo_store.index_lookup[index];
998
999         if (poinval != -1)
1000                 return (BMVert *)(poinval);
1001         return NULL;
1002 }       
1003
1004 BMVert *editbmesh_get_x_mirror_vert(Object *ob, struct BMEditMesh *em, BMVert *eve, const float co[3], int index)
1005 {
1006         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
1007                 return editbmesh_get_x_mirror_vert_topo(ob, em, eve, index);
1008         }
1009         else {
1010                 return editbmesh_get_x_mirror_vert_spatial(ob, em, co);
1011         }
1012 }
1013
1014 #if 0
1015
1016 static float *editmesh_get_mirror_uv(BMEditMesh *em, int axis, float *uv, float *mirrCent, float *face_cent)
1017 {
1018         float vec[2];
1019         float cent_vec[2];
1020         float cent[2];
1021
1022         /* ignore nan verts */
1023         if (isnan(uv[0]) || !finite(uv[0]) ||
1024             isnan(uv[1]) || !finite(uv[1])
1025             )
1026                 return NULL;
1027
1028         if (axis) {
1029                 vec[0] = uv[0];
1030                 vec[1] = -((uv[1]) - mirrCent[1]) + mirrCent[1];
1031
1032                 cent_vec[0] = face_cent[0];
1033                 cent_vec[1] = -((face_cent[1]) - mirrCent[1]) + mirrCent[1];
1034         }
1035         else {
1036                 vec[0] = -((uv[0]) - mirrCent[0]) + mirrCent[0];
1037                 vec[1] = uv[1];
1038
1039                 cent_vec[0] = -((face_cent[0]) - mirrCent[0]) + mirrCent[0];
1040                 cent_vec[1] = face_cent[1];
1041         }
1042
1043         /* TODO - Optimize */
1044         {
1045                 BMIter iter;
1046                 BMFace *efa;
1047                 
1048                 BM_ITER_MESH (efa, &iter, em->bm, BM_FACES_OF_MESH) {
1049                         uv_poly_center(em, efa, cent);
1050                         
1051                         if ( (fabsf(cent[0] - cent_vec[0]) < 0.001f) && (fabsf(cent[1] - cent_vec[1]) < 0.001f) ) {
1052                                 BMIter liter;
1053                                 BMLoop *l;
1054                                 
1055                                 BM_ITER_ELEM (l, &liter, efa, BM_LOOPS_OF_FACE) {
1056                                         MLoopUV *luv = CustomData_bmesh_get(&em->bm->ldata, l->head.data, CD_MLOOPUV);
1057                                         if ( (fabsf(luv->uv[0] - vec[0]) < 0.001f) && (fabsf(luv->uv[1] - vec[1]) < 0.001f) ) {
1058                                                 return luv->uv;
1059                                                                 
1060                                         }
1061                                 }
1062                         }
1063                 }
1064         }
1065
1066         return NULL;
1067 }
1068
1069 #endif
1070
1071 static unsigned int mirror_facehash(const void *ptr)
1072 {
1073         const MFace *mf = ptr;
1074         unsigned int v0, v1;
1075
1076         if (mf->v4) {
1077                 v0 = MIN4(mf->v1, mf->v2, mf->v3, mf->v4);
1078                 v1 = MAX4(mf->v1, mf->v2, mf->v3, mf->v4);
1079         }
1080         else {
1081                 v0 = MIN3(mf->v1, mf->v2, mf->v3);
1082                 v1 = MAX3(mf->v1, mf->v2, mf->v3);
1083         }
1084
1085         return ((v0 * 39) ^ (v1 * 31));
1086 }
1087
1088 static int mirror_facerotation(MFace *a, MFace *b)
1089 {
1090         if (b->v4) {
1091                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3 && a->v4 == b->v4)
1092                         return 0;
1093                 else if (a->v4 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3 && a->v3 == b->v4)
1094                         return 1;
1095                 else if (a->v3 == b->v1 && a->v4 == b->v2 && a->v1 == b->v3 && a->v2 == b->v4)
1096                         return 2;
1097                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v4 == b->v3 && a->v1 == b->v4)
1098                         return 3;
1099         }
1100         else {
1101                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3)
1102                         return 0;
1103                 else if (a->v3 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3)
1104                         return 1;
1105                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v1 == b->v3)
1106                         return 2;
1107         }
1108         
1109         return -1;
1110 }
1111
1112 static int mirror_facecmp(const void *a, const void *b)
1113 {
1114         return (mirror_facerotation((MFace *)a, (MFace *)b) == -1);
1115 }
1116
1117 /* BMESH_TODO, convert to MPoly (functions above also) */
1118 int *mesh_get_x_mirror_faces(Object *ob, BMEditMesh *em)
1119 {
1120         Mesh *me = ob->data;
1121         MVert *mv, *mvert = me->mvert;
1122         MFace mirrormf, *mf, *hashmf, *mface = me->mface;
1123         GHash *fhash;
1124         int *mirrorverts, *mirrorfaces;
1125         int a;
1126
1127         mirrorverts = MEM_callocN(sizeof(int) * me->totvert, "MirrorVerts");
1128         mirrorfaces = MEM_callocN(sizeof(int) * 2 * me->totface, "MirrorFaces");
1129
1130         mesh_octree_table(ob, em, NULL, 's');
1131
1132         for (a = 0, mv = mvert; a < me->totvert; a++, mv++)
1133                 mirrorverts[a] = mesh_get_x_mirror_vert(ob, a);
1134
1135         mesh_octree_table(ob, em, NULL, 'e');
1136
1137         fhash = BLI_ghash_new(mirror_facehash, mirror_facecmp, "mirror_facehash gh");
1138         for (a = 0, mf = mface; a < me->totface; a++, mf++)
1139                 BLI_ghash_insert(fhash, mf, mf);
1140
1141         for (a = 0, mf = mface; a < me->totface; a++, mf++) {
1142                 mirrormf.v1 = mirrorverts[mf->v3];
1143                 mirrormf.v2 = mirrorverts[mf->v2];
1144                 mirrormf.v3 = mirrorverts[mf->v1];
1145                 mirrormf.v4 = (mf->v4) ? mirrorverts[mf->v4] : 0;
1146
1147                 /* make sure v4 is not 0 if a quad */
1148                 if (mf->v4 && mirrormf.v4 == 0) {
1149                         SWAP(unsigned int, mirrormf.v1, mirrormf.v3);
1150                         SWAP(unsigned int, mirrormf.v2, mirrormf.v4);
1151                 }
1152
1153                 hashmf = BLI_ghash_lookup(fhash, &mirrormf);
1154                 if (hashmf) {
1155                         mirrorfaces[a * 2] = hashmf - mface;
1156                         mirrorfaces[a * 2 + 1] = mirror_facerotation(&mirrormf, hashmf);
1157                 }
1158                 else
1159                         mirrorfaces[a * 2] = -1;
1160         }
1161
1162         BLI_ghash_free(fhash, NULL, NULL);
1163         MEM_freeN(mirrorverts);
1164         
1165         return mirrorfaces;
1166 }
1167
1168 /* selection, vertex and face */
1169 /* returns 0 if not found, otherwise 1 */
1170
1171 /**
1172  * Face selection in object mode,
1173  * currently only weight-paint and vertex-paint use this.
1174  *
1175  * \return boolean TRUE == Found
1176  */
1177 int ED_mesh_pick_face(bContext *C, Object *ob, const int mval[2], unsigned int *index, int size)
1178 {
1179         ViewContext vc;
1180         Mesh *me = ob->data;
1181
1182         BLI_assert(me && GS(me->id.name) == ID_ME);
1183
1184         if (!me || me->totpoly == 0)
1185                 return 0;
1186
1187         view3d_set_viewcontext(C, &vc);
1188
1189         if (size) {
1190                 /* sample rect to increase chances of selecting, so that when clicking
1191                  * on an edge in the backbuf, we can still select a face */
1192
1193                 float dummy_dist;
1194                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totpoly + 1, &dummy_dist, 0, NULL, NULL);
1195         }
1196         else {
1197                 /* sample only on the exact position */
1198                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1199         }
1200
1201         if ((*index) <= 0 || (*index) > (unsigned int)me->totpoly)
1202                 return 0;
1203
1204         (*index)--;
1205
1206         return 1;
1207 }
1208 /**
1209  * Use when the back buffer stores face index values. but we want a vert.
1210  * This gets the face then finds the closest vertex to mval.
1211  */
1212 int ED_mesh_pick_face_vert(bContext *C, Object *ob, const int mval[2], unsigned int *index, int size)
1213 {
1214         unsigned int poly_index;
1215         Mesh *me = ob->data;
1216
1217         BLI_assert(me && GS(me->id.name) == ID_ME);
1218
1219         if (ED_mesh_pick_face(C, ob, mval, &poly_index, size)) {
1220                 Scene *scene = CTX_data_scene(C);
1221                 struct ARegion *ar = CTX_wm_region(C);
1222
1223                 /* derived mesh to find deformed locations */
1224                 DerivedMesh *dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
1225                 int v_idx_best = -1;
1226
1227                 if (dm->getVertCo) {
1228                         RegionView3D *rv3d = ar->regiondata;
1229
1230                         /* find the vert closest to 'mval' */
1231                         const float mval_f[2] = {(float)mval[0],
1232                                                  (float)mval[1]};
1233                         MPoly *mp = &me->mpoly[poly_index];
1234                         int fidx;
1235                         float len_best = FLT_MAX;
1236
1237                         ED_view3d_init_mats_rv3d(ob, rv3d);
1238
1239                         fidx = mp->totloop - 1;
1240                         do {
1241                                 float co[3], sco[2], len;
1242                                 const int v_idx = me->mloop[mp->loopstart + fidx].v;
1243                                 dm->getVertCo(dm, v_idx, co);
1244                                 if (ED_view3d_project_float_object(ar, co, sco, V3D_PROJ_TEST_NOP) == V3D_PROJ_RET_OK) {
1245                                         len = len_manhattan_v2v2(mval_f, sco);
1246                                         if (len < len_best) {
1247                                                 len_best = len;
1248                                                 v_idx_best = v_idx;
1249                                         }
1250                                 }
1251                         } while (fidx--);
1252                 }
1253
1254                 dm->release(dm);
1255
1256                 if (v_idx_best != -1) {
1257                         *index = v_idx_best;
1258                         return 1;
1259                 }
1260         }
1261
1262         return 0;
1263 }
1264
1265 /**
1266  * Vertex selection in object mode,
1267  * currently only weight paint uses this.
1268  *
1269  * \return boolean TRUE == Found
1270  */
1271 typedef struct VertPickData {
1272         const MVert *mvert;
1273         const float *mval_f;  /* [2] */
1274         ARegion *ar;
1275
1276         /* runtime */
1277         float len_best;
1278         int v_idx_best;
1279 } VertPickData;
1280
1281 static void ed_mesh_pick_vert__mapFunc(void *userData, int index, const float co[3],
1282                                        const float UNUSED(no_f[3]), const short UNUSED(no_s[3]))
1283 {
1284         VertPickData *data = userData;
1285         if ((data->mvert[index].flag & ME_HIDE) == 0) {
1286                 float sco[2];
1287
1288                 if (ED_view3d_project_float_object(data->ar, co, sco, V3D_PROJ_TEST_CLIP_DEFAULT) == V3D_PROJ_RET_OK) {
1289                         const float len = len_manhattan_v2v2(data->mval_f, sco);
1290                         if (len < data->len_best) {
1291                                 data->len_best = len;
1292                                 data->v_idx_best = index;
1293                         }
1294                 }
1295         }
1296 }
1297 int ED_mesh_pick_vert(bContext *C, Object *ob, const int mval[2], unsigned int *index, int size, int use_zbuf)
1298 {
1299         ViewContext vc;
1300         Mesh *me = ob->data;
1301
1302         BLI_assert(me && GS(me->id.name) == ID_ME);
1303
1304         if (!me || me->totvert == 0)
1305                 return 0;
1306
1307         view3d_set_viewcontext(C, &vc);
1308
1309         if (use_zbuf) {
1310                 if (size > 0) {
1311                         /* sample rect to increase chances of selecting, so that when clicking
1312                          * on an face in the backbuf, we can still select a vert */
1313
1314                         float dummy_dist;
1315                         *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totvert + 1, &dummy_dist, 0, NULL, NULL);
1316                 }
1317                 else {
1318                         /* sample only on the exact position */
1319                         *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1320                 }
1321
1322                 if ((*index) <= 0 || (*index) > (unsigned int)me->totvert)
1323                         return 0;
1324
1325                 (*index)--;
1326         }
1327         else {
1328                 /* derived mesh to find deformed locations */
1329                 DerivedMesh *dm = mesh_get_derived_final(vc.scene, ob, CD_MASK_BAREMESH);
1330                 ARegion *ar = vc.ar;
1331                 RegionView3D *rv3d = ar->regiondata;
1332
1333                 /* find the vert closest to 'mval' */
1334                 const float mval_f[2] = {(float)mval[0],
1335                                          (float)mval[1]};
1336
1337                 VertPickData data = {0};
1338
1339                 ED_view3d_init_mats_rv3d(ob, rv3d);
1340
1341                 if (dm == NULL) {
1342                         return 0;
1343                 }
1344
1345                 /* setup data */
1346                 data.mvert = me->mvert;
1347                 data.ar = ar;
1348                 data.mval_f = mval_f;
1349                 data.len_best = FLT_MAX;
1350                 data.v_idx_best = -1;
1351
1352                 dm->foreachMappedVert(dm, ed_mesh_pick_vert__mapFunc, &data);
1353
1354                 dm->release(dm);
1355
1356                 if (data.v_idx_best == -1) {
1357                         return 0;
1358                 }
1359
1360                 *index = data.v_idx_best;
1361         }
1362
1363         return 1;
1364 }