Merging r50625 through r51896 from trunk into soc-2011-tomato
[blender.git] / source / blender / editors / mesh / meshtools.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2004 by Blender Foundation
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/mesh/meshtools.c
29  *  \ingroup edmesh
30  */
31
32
33 /*
34  * meshtools.c: no editmode (violated already :), tools operating on meshes
35  */
36
37 #include <stddef.h>
38 #include <stdlib.h>
39 #include <math.h>
40 #include <float.h>
41
42 #include "MEM_guardedalloc.h"
43
44 #include "DNA_mesh_types.h"
45 #include "DNA_view3d_types.h"
46 #include "DNA_key_types.h"
47 #include "DNA_material_types.h"
48 #include "DNA_meshdata_types.h"
49 #include "DNA_modifier_types.h"
50 #include "DNA_object_types.h"
51 #include "DNA_scene_types.h"
52
53 #include "BLI_math.h"
54 #include "BLI_blenlib.h"
55 #include "BLI_utildefines.h"
56 #include "BLI_ghash.h"
57 #include "BLI_rand.h" /* for randome face sorting */
58 #include "BLI_threads.h"
59
60
61 #include "BKE_context.h"
62 #include "BKE_depsgraph.h"
63 #include "BKE_deform.h"
64 #include "BKE_DerivedMesh.h"
65 #include "BKE_key.h"
66 #include "BKE_library.h"
67 #include "BKE_main.h"
68 #include "BKE_mesh.h"
69 #include "BKE_material.h"
70 #include "BKE_report.h"
71 #include "BKE_tessmesh.h"
72 #include "BKE_multires.h"
73
74 #include "BLO_sys_types.h" // for intptr_t support
75
76 #include "ED_mesh.h"
77 #include "ED_object.h"
78 #include "ED_view3d.h"
79
80 #include "WM_api.h"
81 #include "WM_types.h"
82
83 /* own include */
84 #include "mesh_intern.h"
85 #include "uvedit_intern.h"
86
87 /* * ********************** no editmode!!! *********** */
88
89 /*********************** JOIN ***************************/
90
91 /* join selected meshes into the active mesh, context sensitive
92  * return 0 if no join is made (error) and 1 if the join is done */
93
94 int join_mesh_exec(bContext *C, wmOperator *op)
95 {
96         Main *bmain = CTX_data_main(C);
97         Scene *scene = CTX_data_scene(C);
98         Object *ob = CTX_data_active_object(C);
99         Material **matar, *ma;
100         Mesh *me;
101         MVert *mvert, *mv;
102         MEdge *medge = NULL;
103         MPoly *mpoly = NULL;
104         MLoop *mloop = NULL;
105         Key *key, *nkey = NULL;
106         KeyBlock *kb, *okb, *kbn;
107         float imat[4][4], cmat[4][4], *fp1, *fp2;
108         int a, b, totcol, totmat = 0, totedge = 0, totvert = 0, ok = 0;
109         int totloop = 0, totpoly = 0, vertofs, *matmap = NULL;
110         int i, j, index, haskey = 0, edgeofs, loopofs, polyofs;
111         bDeformGroup *dg, *odg;
112         MDeformVert *dvert;
113         CustomData vdata, edata, fdata, ldata, pdata;
114
115         if (scene->obedit) {
116                 BKE_report(op->reports, RPT_WARNING, "Cannot join while in edit mode");
117                 return OPERATOR_CANCELLED;
118         }
119         
120         /* ob is the object we are adding geometry to */
121         if (!ob || ob->type != OB_MESH) {
122                 BKE_report(op->reports, RPT_WARNING, "Active object is not a mesh");
123                 return OPERATOR_CANCELLED;
124         }
125         
126         /* count & check */
127         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
128         {
129                 if (base->object->type == OB_MESH) {
130                         me = base->object->data;
131
132                         totvert += me->totvert;
133                         totedge += me->totedge;
134                         totloop += me->totloop;
135                         totpoly += me->totpoly;
136                         totmat += base->object->totcol;
137                         
138                         if (base->object == ob)
139                                 ok = 1;
140                         
141                         /* check for shapekeys */
142                         if (me->key)
143                                 haskey++;
144                 }
145         }
146         CTX_DATA_END;
147         
148         /* that way the active object is always selected */ 
149         if (ok == 0) {
150                 BKE_report(op->reports, RPT_WARNING, "Active object is not a selected mesh");
151                 return OPERATOR_CANCELLED;
152         }
153         
154         /* only join meshes if there are verts to join, there aren't too many, and we only had one mesh selected */
155         me = (Mesh *)ob->data;
156         key = me->key;
157
158         if (totvert == 0 || totvert == me->totvert) {
159                 BKE_report(op->reports, RPT_WARNING, "No mesh data to join");
160                 return OPERATOR_CANCELLED;
161         }
162         
163         if (totvert > MESH_MAX_VERTS) {
164                 BKE_reportf(op->reports, RPT_WARNING, "Joining results in %d vertices, limit is %ld", totvert, MESH_MAX_VERTS);
165                 return OPERATOR_CANCELLED;
166         }
167
168         /* remove tessface to ensure we don't old references to invalid faces */
169         BKE_mesh_tessface_clear(me);
170
171         /* new material indices and material array */
172         matar = MEM_callocN(sizeof(void *) * totmat, "join_mesh matar");
173         if (totmat) matmap = MEM_callocN(sizeof(int) * totmat, "join_mesh matmap");
174         totcol = ob->totcol;
175         
176         /* obact materials in new main array, is nicer start! */
177         for (a = 0; a < ob->totcol; a++) {
178                 matar[a] = give_current_material(ob, a + 1);
179                 id_us_plus((ID *)matar[a]);
180                 /* increase id->us : will be lowered later */
181         }
182         
183         /* - if destination mesh had shapekeys, move them somewhere safe, and set up placeholders
184          *  with arrays that are large enough to hold shapekey data for all meshes
185          * -    if destination mesh didn't have shapekeys, but we encountered some in the meshes we're 
186          *      joining, set up a new keyblock and assign to the mesh
187          */
188         if (key) {
189                 /* make a duplicate copy that will only be used here... (must remember to free it!) */
190                 nkey = BKE_key_copy(key);
191                 
192                 /* for all keys in old block, clear data-arrays */
193                 for (kb = key->block.first; kb; kb = kb->next) {
194                         if (kb->data) MEM_freeN(kb->data);
195                         kb->data = MEM_callocN(sizeof(float) * 3 * totvert, "join_shapekey");
196                         kb->totelem = totvert;
197                         kb->weights = NULL;
198                 }
199         }
200         else if (haskey) {
201                 /* add a new key-block and add to the mesh */
202                 key = me->key = BKE_key_add((ID *)me);
203                 key->type = KEY_RELATIVE;
204         }
205         
206         /* first pass over objects - copying materials and vertexgroups across */
207         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
208         {
209                 /* only act if a mesh, and not the one we're joining to */
210                 if ((ob != base->object) && (base->object->type == OB_MESH)) {
211                         me = base->object->data;
212                         
213                         /* Join this object's vertex groups to the base one's */
214                         for (dg = base->object->defbase.first; dg; dg = dg->next) {
215                                 /* See if this group exists in the object (if it doesn't, add it to the end) */
216                                 if (!defgroup_find_name(ob, dg->name)) {
217                                         odg = MEM_callocN(sizeof(bDeformGroup), "join deformGroup");
218                                         memcpy(odg, dg, sizeof(bDeformGroup));
219                                         BLI_addtail(&ob->defbase, odg);
220                                 }
221                         }
222                         if (ob->defbase.first && ob->actdef == 0)
223                                 ob->actdef = 1;
224                         
225                         
226                         if (me->totvert) {
227                                 /* Add this object's materials to the base one's if they don't exist already (but only if limits not exceeded yet) */
228                                 if (totcol < MAXMAT) {
229                                         for (a = 1; a <= base->object->totcol; a++) {
230                                                 ma = give_current_material(base->object, a);
231
232                                                 for (b = 0; b < totcol; b++) {
233                                                         if (ma == matar[b]) break;
234                                                 }
235                                                 if (b == totcol) {
236                                                         matar[b] = ma;
237                                                         if (ma) {
238                                                                 id_us_plus(&ma->id);
239                                                         }
240                                                         totcol++;
241                                                 }
242                                                 if (totcol >= MAXMAT)
243                                                         break;
244                                         }
245                                 }
246                                 
247                                 /* if this mesh has shapekeys, check if destination mesh already has matching entries too */
248                                 if (me->key && key) {
249                                         /* for remapping KeyBlock.relative */
250                                         int      *index_map = MEM_mallocN(sizeof(int)        * me->key->totkey, __func__);
251                                         KeyBlock **kb_map   = MEM_mallocN(sizeof(KeyBlock *) * me->key->totkey, __func__);
252
253                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
254                                                 BLI_assert(i < me->key->totkey);
255
256                                                 kbn = BKE_keyblock_find_name(key, kb->name);
257                                                 /* if key doesn't exist in destination mesh, add it */
258                                                 if (kbn) {
259                                                         index_map[i] = BLI_findindex(&key->block, kbn);
260                                                 }
261                                                 else {
262                                                         index_map[i] = key->totkey;
263
264                                                         kbn = BKE_keyblock_add(key, kb->name);
265
266                                                         BKE_keyblock_copy_settings(kbn, kb);
267
268                                                         /* adjust settings to fit (allocate a new data-array) */
269                                                         kbn->data = MEM_callocN(sizeof(float) * 3 * totvert, "joined_shapekey");
270                                                         kbn->totelem = totvert;
271                 
272                                                         /* XXX 2.5 Animato */
273 #if 0
274                                                         /* also, copy corresponding ipo-curve to ipo-block if applicable */
275                                                         if (me->key->ipo && key->ipo) {
276                                                                 /* FIXME... this is a luxury item! */
277                                                                 puts("FIXME: ignoring IPO's when joining shapekeys on Meshes for now...");
278                                                         }
279 #endif
280                                                 }
281
282                                                 kb_map[i] = kbn;
283                                         }
284
285                                         /* remap relative index values */
286                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
287                                                 if (LIKELY(kb->relative < me->key->totkey)) {  /* sanity check, should always be true */
288                                                         kb_map[i]->relative = index_map[kb->relative];
289                                                 }
290                                         }
291
292                                         MEM_freeN(index_map);
293                                         MEM_freeN(kb_map);
294                                 }
295                         }
296                 }
297         }
298         CTX_DATA_END;
299
300
301         /* setup new data for destination mesh */
302         CustomData_reset(&vdata);
303         CustomData_reset(&edata);
304         CustomData_reset(&fdata);
305         CustomData_reset(&ldata);
306         CustomData_reset(&pdata);
307
308         mvert = CustomData_add_layer(&vdata, CD_MVERT, CD_CALLOC, NULL, totvert);
309         medge = CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
310         mloop = CustomData_add_layer(&ldata, CD_MLOOP, CD_CALLOC, NULL, totloop);
311         mpoly = CustomData_add_layer(&pdata, CD_MPOLY, CD_CALLOC, NULL, totpoly);
312
313         vertofs = 0;
314         edgeofs = 0;
315         loopofs = 0;
316         polyofs = 0;
317         
318         /* inverse transform for all selected meshes in this object */
319         invert_m4_m4(imat, ob->obmat);
320         
321         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
322         {
323                 /* only join if this is a mesh */
324                 if (base->object->type == OB_MESH) {
325                         me = base->object->data;
326                         
327                         if (me->totvert) {
328                                 /* standard data */
329                                 CustomData_merge(&me->vdata, &vdata, CD_MASK_MESH, CD_DEFAULT, totvert);
330                                 CustomData_copy_data(&me->vdata, &vdata, 0, vertofs, me->totvert);
331                                 
332                                 /* vertex groups */
333                                 dvert = CustomData_get(&vdata, vertofs, CD_MDEFORMVERT);
334                                 
335                                 /* NB: vertex groups here are new version */
336                                 if (dvert) {
337                                         for (i = 0; i < me->totvert; i++) {
338                                                 for (j = 0; j < dvert[i].totweight; j++) {
339                                                         /*      Find the old vertex group */
340                                                         odg = BLI_findlink(&base->object->defbase, dvert[i].dw[j].def_nr);
341                                                         if (odg) {
342                                                                 /*      Search for a match in the new object, and set new index */
343                                                                 for (dg = ob->defbase.first, index = 0; dg; dg = dg->next, index++) {
344                                                                         if (!strcmp(dg->name, odg->name)) {
345                                                                                 dvert[i].dw[j].def_nr = index;
346                                                                                 break;
347                                                                         }
348                                                                 }
349                                                         }
350                                                 }
351                                         }
352                                 }
353                                 
354                                 /* if this is the object we're merging into, no need to do anything */
355                                 if (base->object != ob) {
356                                         /* watch this: switch matmul order really goes wrong */
357                                         mult_m4_m4m4(cmat, imat, base->object->obmat);
358                                         
359                                         /* transform vertex coordinates into new space */
360                                         for (a = 0, mv = mvert; a < me->totvert; a++, mv++) {
361                                                 mul_m4_v3(cmat, mv->co);
362                                         }
363                                         
364                                         /* for each shapekey in destination mesh:
365                                          *      - if there's a matching one, copy it across (will need to transform vertices into new space...)
366                                          *      - otherwise, just copy own coordinates of mesh (no need to transform vertex coordinates into new space)
367                                          */
368                                         if (key) {
369                                                 /* if this mesh has any shapekeys, check first, otherwise just copy coordinates */
370                                                 for (kb = key->block.first; kb; kb = kb->next) {
371                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
372                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
373                                                         
374                                                         /* check if this mesh has such a shapekey */
375                                                         okb = me->key ? BKE_keyblock_find_name(me->key, kb->name) : NULL;
376
377                                                         if (okb) {
378                                                                 /* copy this mesh's shapekey to the destination shapekey (need to transform first) */
379                                                                 fp2 = ((float *)(okb->data));
380                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
381                                                                         copy_v3_v3(fp1, fp2);
382                                                                         mul_m4_v3(cmat, fp1);
383                                                                 }
384                                                         }
385                                                         else {
386                                                                 /* copy this mesh's vertex coordinates to the destination shapekey */
387                                                                 mv = mvert;
388                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
389                                                                         copy_v3_v3(fp1, mv->co);
390                                                                 }
391                                                         }
392                                                 }
393                                         }
394                                 }
395                                 else {
396                                         /* for each shapekey in destination mesh:
397                                          *      - if it was an 'original', copy the appropriate data from nkey
398                                          *      - otherwise, copy across plain coordinates (no need to transform coordinates)
399                                          */
400                                         if (key) {
401                                                 for (kb = key->block.first; kb; kb = kb->next) {
402                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
403                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
404                                                         
405                                                         /* check if this was one of the original shapekeys */
406                                                         okb = nkey ? BKE_keyblock_find_name(nkey, kb->name) : NULL;
407                                                         if (okb) {
408                                                                 /* copy this mesh's shapekey to the destination shapekey */
409                                                                 fp2 = ((float *)(okb->data));
410                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
411                                                                         copy_v3_v3(fp1, fp2);
412                                                                 }
413                                                         }
414                                                         else {
415                                                                 /* copy base-coordinates to the destination shapekey */
416                                                                 mv = mvert;
417                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
418                                                                         copy_v3_v3(fp1, mv->co);
419                                                                 }
420                                                         }
421                                                 }
422                                         }
423                                 }
424                                 
425                                 /* advance mvert pointer to end of base mesh's data */
426                                 mvert += me->totvert;
427                         }
428                         
429                         if (me->totedge) {
430                                 CustomData_merge(&me->edata, &edata, CD_MASK_MESH, CD_DEFAULT, totedge);
431                                 CustomData_copy_data(&me->edata, &edata, 0, edgeofs, me->totedge);
432                                 
433                                 for (a = 0; a < me->totedge; a++, medge++) {
434                                         medge->v1 += vertofs;
435                                         medge->v2 += vertofs;
436                                 }
437                         }
438
439                         if (me->totloop) {
440                                 if (base->object != ob) {
441                                         MultiresModifierData *mmd;
442
443                                         multiresModifier_prepare_join(scene, base->object, ob);
444
445                                         if ((mmd = get_multires_modifier(scene, base->object, TRUE))) {
446                                                 ED_object_iter_other(bmain, base->object, TRUE,
447                                                                      ED_object_multires_update_totlevels_cb,
448                                                                      &mmd->totlvl);
449                                         }
450                                 }
451                                 
452                                 CustomData_merge(&me->ldata, &ldata, CD_MASK_MESH, CD_DEFAULT, totloop);
453                                 CustomData_copy_data(&me->ldata, &ldata, 0, loopofs, me->totloop);
454                                 
455                                 for (a = 0; a < me->totloop; a++, mloop++) {
456                                         mloop->v += vertofs;
457                                         mloop->e += edgeofs;
458                                 }
459                         }
460                         
461                         if (me->totpoly) {
462                                 if (totmat) {
463                                         /* make mapping for materials */
464                                         for (a = 1; a <= base->object->totcol; a++) {
465                                                 ma = give_current_material(base->object, a);
466
467                                                 for (b = 0; b < totcol; b++) {
468                                                         if (ma == matar[b]) {
469                                                                 matmap[a - 1] = b;
470                                                                 break;
471                                                         }
472                                                 }
473                                         }
474                                 }
475
476                                 CustomData_merge(&me->pdata, &pdata, CD_MASK_MESH, CD_DEFAULT, totpoly);
477                                 CustomData_copy_data(&me->pdata, &pdata, 0, polyofs, me->totpoly);
478                                 
479                                 for (a = 0; a < me->totpoly; a++, mpoly++) {
480                                         mpoly->loopstart += loopofs;
481                                         mpoly->mat_nr = matmap ? matmap[(int)mpoly->mat_nr] : 0;
482                                 }
483                                 
484                                 polyofs += me->totpoly;
485                         }
486
487                         /* these are used for relinking (cannot be set earlier, 
488                          * or else reattaching goes wrong)
489                          */
490                         vertofs += me->totvert;
491                         edgeofs += me->totedge;
492                         loopofs += me->totloop;
493                         
494                         /* free base, now that data is merged */
495                         if (base->object != ob)
496                                 ED_base_object_free_and_unlink(bmain, scene, base);
497                 }
498         }
499         CTX_DATA_END;
500         
501         /* return to mesh we're merging to */
502         me = ob->data;
503         
504         CustomData_free(&me->vdata, me->totvert);
505         CustomData_free(&me->edata, me->totedge);
506         CustomData_free(&me->ldata, me->totloop);
507         CustomData_free(&me->pdata, me->totpoly);
508
509         me->totvert = totvert;
510         me->totedge = totedge;
511         me->totloop = totloop;
512         me->totpoly = totpoly;
513
514         me->vdata = vdata;
515         me->edata = edata;
516         me->ldata = ldata;
517         me->pdata = pdata;
518
519         /* tessface data removed above, no need to update */
520         mesh_update_customdata_pointers(me, FALSE);
521         
522         /* old material array */
523         for (a = 1; a <= ob->totcol; a++) {
524                 ma = ob->mat[a - 1];
525                 if (ma) ma->id.us--;
526         }
527         for (a = 1; a <= me->totcol; a++) {
528                 ma = me->mat[a - 1];
529                 if (ma) ma->id.us--;
530         }
531         if (ob->mat) MEM_freeN(ob->mat);
532         if (ob->matbits) MEM_freeN(ob->matbits);
533         if (me->mat) MEM_freeN(me->mat);
534         ob->mat = me->mat = NULL;
535         ob->matbits = NULL;
536         
537         if (totcol) {
538                 me->mat = matar;
539                 ob->mat = MEM_callocN(sizeof(void *) * totcol, "join obmatar");
540                 ob->matbits = MEM_callocN(sizeof(char) * totcol, "join obmatbits");
541         }
542         else
543                 MEM_freeN(matar);
544         
545         ob->totcol = me->totcol = totcol;
546
547         if (matmap) MEM_freeN(matmap);
548         
549         /* other mesh users */
550         test_object_materials((ID *)me);
551         
552         /* free temp copy of destination shapekeys (if applicable) */
553         if (nkey) {
554                 /* XXX 2.5 Animato */
555 #if 0
556                 /* free it's ipo too - both are not actually freed from memory yet as ID-blocks */
557                 if (nkey->ipo) {
558                         BKE_ipo_free(nkey->ipo);
559                         BLI_remlink(&bmain->ipo, nkey->ipo);
560                         MEM_freeN(nkey->ipo);
561                 }
562 #endif
563                 
564                 BKE_key_free(nkey);
565                 BLI_remlink(&bmain->key, nkey);
566                 MEM_freeN(nkey);
567         }
568         
569         /* ensure newly inserted keys are time sorted */
570         if (key && (key->type != KEY_RELATIVE)) {
571                 BKE_key_sort(key);
572         }
573
574
575         DAG_scene_sort(bmain, scene);   // removed objects, need to rebuild dag before editmode call
576
577 #if 0
578         ED_object_enter_editmode(C, EM_WAITCURSOR);
579         ED_object_exit_editmode(C, EM_FREEDATA | EM_WAITCURSOR | EM_DO_UNDO);
580 #else
581         /* toggle editmode using lower level functions so this can be called from python */
582         EDBM_mesh_make(scene->toolsettings, scene, ob);
583         EDBM_mesh_load(ob);
584         EDBM_mesh_free(me->edit_btmesh);
585         MEM_freeN(me->edit_btmesh);
586         me->edit_btmesh = NULL;
587         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA);
588 #endif
589         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
590
591         return OPERATOR_FINISHED;
592 }
593
594 /*********************** JOIN AS SHAPES ***************************/
595
596 /* Append selected meshes vertex locations as shapes of the active mesh, 
597  * return 0 if no join is made (error) and 1 of the join is done */
598
599 int join_mesh_shapes_exec(bContext *C, wmOperator *op)
600 {
601         Scene *scene = CTX_data_scene(C);
602         Object *ob = CTX_data_active_object(C);
603         Mesh *me = (Mesh *)ob->data;
604         Mesh *selme = NULL;
605         DerivedMesh *dm = NULL;
606         Key *key = me->key;
607         KeyBlock *kb;
608         int ok = 0, nonequal_verts = 0;
609         
610         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
611         {
612                 if (base->object == ob) continue;
613                 
614                 if (base->object->type == OB_MESH) {
615                         selme = (Mesh *)base->object->data;
616                         
617                         if (selme->totvert == me->totvert)
618                                 ok++;
619                         else
620                                 nonequal_verts = 1;
621                 }
622         }
623         CTX_DATA_END;
624         
625         if (!ok) {
626                 if (nonequal_verts)
627                         BKE_report(op->reports, RPT_WARNING, "Selected meshes must have equal numbers of vertices");
628                 else
629                         BKE_report(op->reports, RPT_WARNING, "No additional selected meshes with equal vertex count to join");
630                 return OPERATOR_CANCELLED;
631         }
632         
633         if (key == NULL) {
634                 key = me->key = BKE_key_add((ID *)me);
635                 key->type = KEY_RELATIVE;
636
637                 /* first key added, so it was the basis. initialize it with the existing mesh */
638                 kb = BKE_keyblock_add(key, NULL);
639                 BKE_key_convert_from_mesh(me, kb);
640         }
641         
642         /* now ready to add new keys from selected meshes */
643         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
644         {
645                 if (base->object == ob) continue;
646                 
647                 if (base->object->type == OB_MESH) {
648                         selme = (Mesh *)base->object->data;
649                         
650                         if (selme->totvert == me->totvert) {
651                                 dm = mesh_get_derived_deform(scene, base->object, CD_MASK_BAREMESH);
652                                 
653                                 if (!dm) continue;
654                                         
655                                 kb = BKE_keyblock_add(key, base->object->id.name + 2);
656                                 
657                                 DM_to_meshkey(dm, me, kb);
658                                 
659                                 dm->release(dm);
660                         }
661                 }
662         }
663         CTX_DATA_END;
664         
665         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
666         
667         return OPERATOR_FINISHED;
668 }
669
670 /* ********************* MESH VERTEX OCTREE LOOKUP ************* */
671
672 /* important note; this is unfinished, needs better API for editmode, and custom threshold */
673
674 #define MOC_RES         8
675 #define MOC_NODE_RES    8
676 #define MOC_THRESH      0.00002f
677
678 typedef struct MocNode {
679         struct MocNode *next;
680         intptr_t index[MOC_NODE_RES];
681 } MocNode;
682
683 static int mesh_octree_get_base_offs(const float co[3], const float offs[3], const float div[3])
684 {
685         int vx, vy, vz;
686         
687         vx = floor((co[0] - offs[0]) / div[0]);
688         vy = floor((co[1] - offs[1]) / div[1]);
689         vz = floor((co[2] - offs[2]) / div[2]);
690
691         CLAMP(vx, 0, MOC_RES - 1);
692         CLAMP(vy, 0, MOC_RES - 1);
693         CLAMP(vz, 0, MOC_RES - 1);
694
695         return (vx * MOC_RES * MOC_RES) + vy * MOC_RES + vz;
696 }
697
698 static void mesh_octree_add_node(MocNode **bt, intptr_t index)
699 {
700         if (*bt == NULL) {
701                 *bt = MEM_callocN(sizeof(MocNode), "MocNode");
702                 (*bt)->index[0] = index;
703         }
704         else {
705                 int a;
706                 for (a = 0; a < MOC_NODE_RES; a++) {
707                         if ((*bt)->index[a] == index)
708                                 return;
709                         else if ((*bt)->index[a] == 0) {
710                                 (*bt)->index[a] = index;
711                                 return;
712                         }
713                 }
714                 mesh_octree_add_node(&(*bt)->next, index);
715         }
716 }
717
718 static void mesh_octree_free_node(MocNode **bt)
719 {
720         if ( (*bt)->next) {
721                 mesh_octree_free_node(&(*bt)->next);
722         }
723         MEM_freeN(*bt);
724 }
725
726
727 /* temporal define, just to make nicer code below */
728 #define MOC_INDEX(vx, vy, vz)  (((vx) * MOC_RES * MOC_RES) + (vy) * MOC_RES + (vz))
729
730 static void mesh_octree_add_nodes(MocNode **basetable, const float co[3], const float offs[3],
731                                   const float div[3], intptr_t index)
732 {
733         float fx, fy, fz;
734         int vx, vy, vz;
735         
736         if ((finite(co[0]) == FALSE) ||
737             (finite(co[1]) == FALSE) ||
738             (finite(co[2]) == FALSE))
739         {
740                 return;
741         }
742         
743         fx = (co[0] - offs[0]) / div[0];
744         fy = (co[1] - offs[1]) / div[1];
745         fz = (co[2] - offs[2]) / div[2];
746         CLAMP(fx, 0.0f, MOC_RES - MOC_THRESH);
747         CLAMP(fy, 0.0f, MOC_RES - MOC_THRESH);
748         CLAMP(fz, 0.0f, MOC_RES - MOC_THRESH);
749
750         vx = (int)floorf(fx);
751         vy = (int)floorf(fy);
752         vz = (int)floorf(fz);
753
754         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz), index);
755
756         if (vx > 0)
757                 if (fx - ((float)vx) - MOC_THRESH < 0.0f)
758                         mesh_octree_add_node(basetable + MOC_INDEX(vx - 1, vy, vz), index);
759         if (vx < MOC_RES - 2)
760                 if (fx - ((float)vx) + MOC_THRESH > 1.0f)
761                         mesh_octree_add_node(basetable + MOC_INDEX(vx + 1, vy, vz), index);
762
763         if (vy > 0)
764                 if (fy - ((float)vy) - MOC_THRESH < 0.0f)
765                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy - 1, vz), index);
766         if (vy < MOC_RES - 2)
767                 if (fy - ((float)vy) + MOC_THRESH > 1.0f)
768                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy + 1, vz), index);
769
770         if (vz > 0)
771                 if (fz - ((float)vz) - MOC_THRESH < 0.0f)
772                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz - 1), index);
773         if (vz < MOC_RES - 2)
774                 if (fz - ((float)vz) + MOC_THRESH > 1.0f)
775                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz + 1), index);
776
777 }
778
779 static intptr_t mesh_octree_find_index(MocNode **bt, MVert *mvert, const float co[3])
780 {
781         float *vec;
782         int a;
783         
784         if (*bt == NULL)
785                 return -1;
786         
787         for (a = 0; a < MOC_NODE_RES; a++) {
788                 if ((*bt)->index[a]) {
789                         /* does mesh verts and editmode, code looks potential dangerous, octree should really be filled OK! */
790                         if (mvert) {
791                                 vec = (mvert + (*bt)->index[a] - 1)->co;
792                                 if (compare_v3v3(vec, co, MOC_THRESH))
793                                         return (*bt)->index[a] - 1;
794                         }
795                         else {
796                                 BMVert *eve = (BMVert *)((*bt)->index[a]);
797                                 if (compare_v3v3(eve->co, co, MOC_THRESH))
798                                         return (*bt)->index[a];
799                         }
800                 }
801                 else return -1;
802         }
803         if ( (*bt)->next)
804                 return mesh_octree_find_index(&(*bt)->next, mvert, co);
805         
806         return -1;
807 }
808
809 static struct {
810         MocNode **table;
811         float offs[3], div[3];
812 } MeshOctree = {NULL, {0, 0, 0}, {0, 0, 0}};
813
814 /* mode is 's' start, or 'e' end, or 'u' use */
815 /* if end, ob can be NULL */
816 intptr_t mesh_octree_table(Object *ob, BMEditMesh *em, const float co[3], char mode)
817 {
818         MocNode **bt;
819         
820         if (mode == 'u') {        /* use table */
821                 if (MeshOctree.table == NULL)
822                         mesh_octree_table(ob, em, NULL, 's');
823
824                 if (MeshOctree.table) {
825                         Mesh *me = ob->data;
826                         bt = MeshOctree.table + mesh_octree_get_base_offs(co, MeshOctree.offs, MeshOctree.div);
827                         if (em)
828                                 return mesh_octree_find_index(bt, NULL, co);
829                         else
830                                 return mesh_octree_find_index(bt, me->mvert, co);
831                 }
832                 return -1;
833         }
834         else if (mode == 's') {   /* start table */
835                 Mesh *me = ob->data;
836                 float min[3], max[3];
837
838                 /* we compute own bounding box and don't reuse ob->bb because
839                  * we are using the undeformed coordinates*/
840                 INIT_MINMAX(min, max);
841
842                 if (em && me->edit_btmesh == em) {
843                         BMIter iter;
844                         BMVert *eve;
845                         
846                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
847                                 minmax_v3v3_v3(min, max, eve->co);
848                         }
849                 }
850                 else {
851                         MVert *mvert;
852                         int a;
853                         
854                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
855                                 minmax_v3v3_v3(min, max, mvert->co);
856                 }
857                 
858                 /* for quick unit coordinate calculus */
859                 copy_v3_v3(MeshOctree.offs, min);
860                 /* we offset it 1 threshold unit extra */
861                 add_v3_fl(MeshOctree.offs, -MOC_THRESH);
862                 
863                 sub_v3_v3v3(MeshOctree.div, max, min);
864                 /* and divide with 2 threshold unit more extra (try 8x8 unit grid on paint) */
865                 add_v3_fl(MeshOctree.div, 2.0f * MOC_THRESH);
866
867                 mul_v3_fl(MeshOctree.div, 1.0f / MOC_RES);
868                 if (MeshOctree.div[0] == 0.0f) MeshOctree.div[0] = 1.0f;
869                 if (MeshOctree.div[1] == 0.0f) MeshOctree.div[1] = 1.0f;
870                 if (MeshOctree.div[2] == 0.0f) MeshOctree.div[2] = 1.0f;
871                         
872                 if (MeshOctree.table) /* happens when entering this call without ending it */
873                         mesh_octree_table(ob, em, co, 'e');
874                 
875                 MeshOctree.table = MEM_callocN(MOC_RES * MOC_RES * MOC_RES * sizeof(void *), "sym table");
876                 
877                 if (em && me->edit_btmesh == em) {
878                         BMVert *eve;
879                         BMIter iter;
880
881                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
882                                 mesh_octree_add_nodes(MeshOctree.table, eve->co, MeshOctree.offs, MeshOctree.div, (intptr_t)(eve));
883                         }
884                 }
885                 else {
886                         MVert *mvert;
887                         int a;
888                         
889                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
890                                 mesh_octree_add_nodes(MeshOctree.table, mvert->co, MeshOctree.offs, MeshOctree.div, a + 1);
891                 }
892         }
893         else if (mode == 'e') { /* end table */
894                 if (MeshOctree.table) {
895                         int a;
896                         
897                         for (a = 0, bt = MeshOctree.table; a < MOC_RES * MOC_RES * MOC_RES; a++, bt++) {
898                                 if (*bt) mesh_octree_free_node(bt);
899                         }
900                         MEM_freeN(MeshOctree.table);
901                         MeshOctree.table = NULL;
902                 }
903         }
904         return 0;
905 }
906
907 static MirrTopoStore_t mesh_topo_store = {NULL, -1. - 1, -1};
908
909 /* mode is 's' start, or 'e' end, or 'u' use */
910 /* if end, ob can be NULL */
911 /* note, is supposed return -1 on error, which callers are currently checking for, but is not used so far */
912 int mesh_mirrtopo_table(Object *ob, char mode)
913 {
914         if (mode == 'u') {        /* use table */
915                 if (ED_mesh_mirrtopo_recalc_check(ob->data, ob->mode, &mesh_topo_store)) {
916                         mesh_mirrtopo_table(ob, 's');
917                 }
918         }
919         else if (mode == 's') { /* start table */
920                 ED_mesh_mirrtopo_init(ob->data, ob->mode, &mesh_topo_store, FALSE);
921         }
922         else if (mode == 'e') { /* end table */
923                 ED_mesh_mirrtopo_free(&mesh_topo_store);
924         }
925         return 0;
926 }
927
928 static int mesh_get_x_mirror_vert_spatial(Object *ob, int index)
929 {
930         Mesh *me = ob->data;
931         MVert *mvert;
932         float vec[3];
933         
934         mvert = me->mvert + index;
935         vec[0] = -mvert->co[0];
936         vec[1] = mvert->co[1];
937         vec[2] = mvert->co[2];
938         
939         return mesh_octree_table(ob, NULL, vec, 'u');
940 }
941
942 static int mesh_get_x_mirror_vert_topo(Object *ob, int index)
943 {
944         if (mesh_mirrtopo_table(ob, 'u') == -1)
945                 return -1;
946
947         return mesh_topo_store.index_lookup[index];
948 }
949
950 int mesh_get_x_mirror_vert(Object *ob, int index)
951 {
952         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
953                 return mesh_get_x_mirror_vert_topo(ob, index);
954         }
955         else {
956                 return mesh_get_x_mirror_vert_spatial(ob, index);
957         }
958         return 0;
959 }
960
961 static BMVert *editbmesh_get_x_mirror_vert_spatial(Object *ob, BMEditMesh *em, const float co[3])
962 {
963         float vec[3];
964         intptr_t poinval;
965         
966         /* ignore nan verts */
967         if ((finite(co[0]) == FALSE) ||
968             (finite(co[1]) == FALSE) ||
969             (finite(co[2]) == FALSE))
970         {
971                 return NULL;
972         }
973         
974         vec[0] = -co[0];
975         vec[1] = co[1];
976         vec[2] = co[2];
977         
978         poinval = mesh_octree_table(ob, em, vec, 'u');
979         if (poinval != -1)
980                 return (BMVert *)(poinval);
981         return NULL;
982 }
983
984 static BMVert *editbmesh_get_x_mirror_vert_topo(Object *ob, struct BMEditMesh *em, BMVert *eve, int index)
985 {
986         intptr_t poinval;
987         if (mesh_mirrtopo_table(ob, 'u') == -1)
988                 return NULL;
989
990         if (index == -1) {
991                 BMIter iter;
992                 BMVert *v;
993                 
994                 index = 0;
995                 BM_ITER_MESH (v, &iter, em->bm, BM_VERTS_OF_MESH) {
996                         if (v == eve)
997                                 break;
998                         index++;
999                 }
1000                 
1001                 if (index == em->bm->totvert) {
1002                         return NULL;
1003                 }
1004         }
1005
1006         poinval = mesh_topo_store.index_lookup[index];
1007
1008         if (poinval != -1)
1009                 return (BMVert *)(poinval);
1010         return NULL;
1011 }       
1012
1013 BMVert *editbmesh_get_x_mirror_vert(Object *ob, struct BMEditMesh *em, BMVert *eve, const float co[3], int index)
1014 {
1015         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
1016                 return editbmesh_get_x_mirror_vert_topo(ob, em, eve, index);
1017         }
1018         else {
1019                 return editbmesh_get_x_mirror_vert_spatial(ob, em, co);
1020         }
1021 }
1022
1023 #if 0
1024
1025 static float *editmesh_get_mirror_uv(BMEditMesh *em, int axis, float *uv, float *mirrCent, float *face_cent)
1026 {
1027         float vec[2];
1028         float cent_vec[2];
1029         float cent[2];
1030
1031         /* ignore nan verts */
1032         if (isnan(uv[0]) || !finite(uv[0]) ||
1033             isnan(uv[1]) || !finite(uv[1])
1034             )
1035                 return NULL;
1036
1037         if (axis) {
1038                 vec[0] = uv[0];
1039                 vec[1] = -((uv[1]) - mirrCent[1]) + mirrCent[1];
1040
1041                 cent_vec[0] = face_cent[0];
1042                 cent_vec[1] = -((face_cent[1]) - mirrCent[1]) + mirrCent[1];
1043         }
1044         else {
1045                 vec[0] = -((uv[0]) - mirrCent[0]) + mirrCent[0];
1046                 vec[1] = uv[1];
1047
1048                 cent_vec[0] = -((face_cent[0]) - mirrCent[0]) + mirrCent[0];
1049                 cent_vec[1] = face_cent[1];
1050         }
1051
1052         /* TODO - Optimize */
1053         {
1054                 BMIter iter;
1055                 BMFace *efa;
1056                 
1057                 BM_ITER_MESH (efa, &iter, em->bm, BM_FACES_OF_MESH) {
1058                         uv_poly_center(em, efa, cent);
1059                         
1060                         if ( (fabsf(cent[0] - cent_vec[0]) < 0.001f) && (fabsf(cent[1] - cent_vec[1]) < 0.001f) ) {
1061                                 BMIter liter;
1062                                 BMLoop *l;
1063                                 
1064                                 BM_ITER_ELEM (l, &liter, efa, BM_LOOPS_OF_FACE) {
1065                                         MLoopUV *luv = CustomData_bmesh_get(&em->bm->ldata, l->head.data, CD_MLOOPUV);
1066                                         if ( (fabsf(luv->uv[0] - vec[0]) < 0.001f) && (fabsf(luv->uv[1] - vec[1]) < 0.001f) ) {
1067                                                 return luv->uv;
1068                                                                 
1069                                         }
1070                                 }
1071                         }
1072                 }
1073         }
1074
1075         return NULL;
1076 }
1077
1078 #endif
1079
1080 static unsigned int mirror_facehash(const void *ptr)
1081 {
1082         const MFace *mf = ptr;
1083         int v0, v1;
1084
1085         if (mf->v4) {
1086                 v0 = MIN4(mf->v1, mf->v2, mf->v3, mf->v4);
1087                 v1 = MAX4(mf->v1, mf->v2, mf->v3, mf->v4);
1088         }
1089         else {
1090                 v0 = MIN3(mf->v1, mf->v2, mf->v3);
1091                 v1 = MAX3(mf->v1, mf->v2, mf->v3);
1092         }
1093
1094         return ((v0 * 39) ^ (v1 * 31));
1095 }
1096
1097 static int mirror_facerotation(MFace *a, MFace *b)
1098 {
1099         if (b->v4) {
1100                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3 && a->v4 == b->v4)
1101                         return 0;
1102                 else if (a->v4 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3 && a->v3 == b->v4)
1103                         return 1;
1104                 else if (a->v3 == b->v1 && a->v4 == b->v2 && a->v1 == b->v3 && a->v2 == b->v4)
1105                         return 2;
1106                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v4 == b->v3 && a->v1 == b->v4)
1107                         return 3;
1108         }
1109         else {
1110                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3)
1111                         return 0;
1112                 else if (a->v3 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3)
1113                         return 1;
1114                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v1 == b->v3)
1115                         return 2;
1116         }
1117         
1118         return -1;
1119 }
1120
1121 static int mirror_facecmp(const void *a, const void *b)
1122 {
1123         return (mirror_facerotation((MFace *)a, (MFace *)b) == -1);
1124 }
1125
1126 /* BMESH_TODO, convert to MPoly (functions above also) */
1127 int *mesh_get_x_mirror_faces(Object *ob, BMEditMesh *em)
1128 {
1129         Mesh *me = ob->data;
1130         MVert *mv, *mvert = me->mvert;
1131         MFace mirrormf, *mf, *hashmf, *mface = me->mface;
1132         GHash *fhash;
1133         int *mirrorverts, *mirrorfaces;
1134         int a;
1135
1136         mirrorverts = MEM_callocN(sizeof(int) * me->totvert, "MirrorVerts");
1137         mirrorfaces = MEM_callocN(sizeof(int) * 2 * me->totface, "MirrorFaces");
1138
1139         mesh_octree_table(ob, em, NULL, 's');
1140
1141         for (a = 0, mv = mvert; a < me->totvert; a++, mv++)
1142                 mirrorverts[a] = mesh_get_x_mirror_vert(ob, a);
1143
1144         mesh_octree_table(ob, em, NULL, 'e');
1145
1146         fhash = BLI_ghash_new(mirror_facehash, mirror_facecmp, "mirror_facehash gh");
1147         for (a = 0, mf = mface; a < me->totface; a++, mf++)
1148                 BLI_ghash_insert(fhash, mf, mf);
1149
1150         for (a = 0, mf = mface; a < me->totface; a++, mf++) {
1151                 mirrormf.v1 = mirrorverts[mf->v3];
1152                 mirrormf.v2 = mirrorverts[mf->v2];
1153                 mirrormf.v3 = mirrorverts[mf->v1];
1154                 mirrormf.v4 = (mf->v4) ? mirrorverts[mf->v4] : 0;
1155
1156                 /* make sure v4 is not 0 if a quad */
1157                 if (mf->v4 && mirrormf.v4 == 0) {
1158                         SWAP(unsigned int, mirrormf.v1, mirrormf.v3);
1159                         SWAP(unsigned int, mirrormf.v2, mirrormf.v4);
1160                 }
1161
1162                 hashmf = BLI_ghash_lookup(fhash, &mirrormf);
1163                 if (hashmf) {
1164                         mirrorfaces[a * 2] = hashmf - mface;
1165                         mirrorfaces[a * 2 + 1] = mirror_facerotation(&mirrormf, hashmf);
1166                 }
1167                 else
1168                         mirrorfaces[a * 2] = -1;
1169         }
1170
1171         BLI_ghash_free(fhash, NULL, NULL);
1172         MEM_freeN(mirrorverts);
1173         
1174         return mirrorfaces;
1175 }
1176
1177 /* selection, vertex and face */
1178 /* returns 0 if not found, otherwise 1 */
1179
1180 /**
1181  * Face selection in object mode,
1182  * currently only weight-paint and vertex-paint use this.
1183  *
1184  * \return boolean TRUE == Found
1185  */
1186 int ED_mesh_pick_face(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1187 {
1188         ViewContext vc;
1189
1190         if (!me || me->totpoly == 0)
1191                 return 0;
1192
1193         view3d_set_viewcontext(C, &vc);
1194
1195         if (size) {
1196                 /* sample rect to increase chances of selecting, so that when clicking
1197                  * on an edge in the backbuf, we can still select a face */
1198
1199                 float dummy_dist;
1200                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totpoly + 1, &dummy_dist, 0, NULL, NULL);
1201         }
1202         else {
1203                 /* sample only on the exact position */
1204                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1205         }
1206
1207         if ((*index) <= 0 || (*index) > (unsigned int)me->totpoly)
1208                 return 0;
1209
1210         (*index)--;
1211
1212         return 1;
1213 }
1214 /**
1215  * Use when the back buffer stores face index values. but we want a vert.
1216  * This gets the face then finds the closest vertex to mval.
1217  */
1218 int ED_mesh_pick_face_vert(bContext *C, Mesh *me, Object *ob, const int mval[2], unsigned int *index, int size)
1219 {
1220         unsigned int poly_index;
1221
1222         if (ED_mesh_pick_face(C, me, mval, &poly_index, size)) {
1223                 Scene *scene = CTX_data_scene(C);
1224                 struct ARegion *ar = CTX_wm_region(C);
1225
1226                 /* derived mesh to find deformed locations */
1227                 DerivedMesh *dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
1228                 int v_idx_best = -1;
1229
1230                 if (dm->getVertCo) {
1231                         /* find the vert closest to 'mval' */
1232                         const float mval_f[2] = {(float)mval[0],
1233                                                  (float)mval[1]};
1234                         MPoly *mp = &me->mpoly[poly_index];
1235                         int fidx;
1236                         float len_best = FLT_MAX;
1237
1238                         fidx = mp->totloop - 1;
1239                         do {
1240                                 float co[3], sco[2], len;
1241                                 const int v_idx = me->mloop[mp->loopstart + fidx].v;
1242                                 dm->getVertCo(dm, v_idx, co);
1243                                 mul_m4_v3(ob->obmat, co);
1244                                 if (ED_view3d_project_float_global(ar, co, sco, V3D_PROJ_TEST_NOP) == V3D_PROJ_RET_OK) {
1245                                         len = len_squared_v2v2(mval_f, sco);
1246                                         if (len < len_best) {
1247                                                 len_best = len;
1248                                                 v_idx_best = v_idx;
1249                                         }
1250                                 }
1251                         } while (fidx--);
1252                 }
1253
1254                 dm->release(dm);
1255
1256                 if (v_idx_best != -1) {
1257                         *index = v_idx_best;
1258                         return 1;
1259                 }
1260         }
1261
1262         return 0;
1263 }
1264
1265 /**
1266  * Vertex selection in object mode,
1267  * currently only weight paint uses this.
1268  *
1269  * \return boolean TRUE == Found
1270  */
1271 int ED_mesh_pick_vert(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1272 {
1273         ViewContext vc;
1274
1275         if (!me || me->totvert == 0)
1276                 return 0;
1277
1278         view3d_set_viewcontext(C, &vc);
1279
1280         if (size > 0) {
1281                 /* sample rect to increase chances of selecting, so that when clicking
1282                  * on an face in the backbuf, we can still select a vert */
1283
1284                 float dummy_dist;
1285                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totvert + 1, &dummy_dist, 0, NULL, NULL);
1286         }
1287         else {
1288                 /* sample only on the exact position */
1289                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1290         }
1291
1292         if ((*index) <= 0 || (*index) > (unsigned int)me->totvert)
1293                 return 0;
1294
1295         (*index)--;
1296
1297         return 1;
1298 }