replace MIN/MAX 3,4 with inline functions
[blender-staging.git] / source / blender / editors / mesh / meshtools.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2004 by Blender Foundation
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/mesh/meshtools.c
29  *  \ingroup edmesh
30  *
31  * meshtools.c: no editmode (violated already :), mirror & join),
32  * tools operating on meshes
33  */
34
35 #include "MEM_guardedalloc.h"
36
37 #include "DNA_mesh_types.h"
38 #include "DNA_key_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_modifier_types.h"
41 #include "DNA_object_types.h"
42 #include "DNA_scene_types.h"
43
44 #include "BLI_math.h"
45 #include "BLI_blenlib.h"
46
47
48 #include "BKE_context.h"
49 #include "BKE_depsgraph.h"
50 #include "BKE_deform.h"
51 #include "BKE_DerivedMesh.h"
52 #include "BKE_key.h"
53 #include "BKE_library.h"
54 #include "BKE_main.h"
55 #include "BKE_mesh.h"
56 #include "BKE_material.h"
57 #include "BKE_report.h"
58 #include "BKE_tessmesh.h"
59 #include "BKE_multires.h"
60
61
62 #include "ED_mesh.h"
63 #include "ED_object.h"
64 #include "ED_view3d.h"
65
66 #include "WM_api.h"
67 #include "WM_types.h"
68
69 /* * ********************** no editmode!!! *********** */
70
71 /*********************** JOIN ***************************/
72
73 /* join selected meshes into the active mesh, context sensitive
74  * return 0 if no join is made (error) and 1 if the join is done */
75
76 int join_mesh_exec(bContext *C, wmOperator *op)
77 {
78         Main *bmain = CTX_data_main(C);
79         Scene *scene = CTX_data_scene(C);
80         Object *ob = CTX_data_active_object(C);
81         Material **matar, *ma;
82         Mesh *me;
83         MVert *mvert, *mv;
84         MEdge *medge = NULL;
85         MPoly *mpoly = NULL;
86         MLoop *mloop = NULL;
87         Key *key, *nkey = NULL;
88         KeyBlock *kb, *okb, *kbn;
89         float imat[4][4], cmat[4][4], *fp1, *fp2;
90         int a, b, totcol, totmat = 0, totedge = 0, totvert = 0, ok = 0;
91         int totloop = 0, totpoly = 0, vertofs, *matmap = NULL;
92         int i, j, index, haskey = 0, edgeofs, loopofs, polyofs;
93         bDeformGroup *dg, *odg;
94         MDeformVert *dvert;
95         CustomData vdata, edata, fdata, ldata, pdata;
96
97         if (scene->obedit) {
98                 BKE_report(op->reports, RPT_WARNING, "Cannot join while in edit mode");
99                 return OPERATOR_CANCELLED;
100         }
101         
102         /* ob is the object we are adding geometry to */
103         if (!ob || ob->type != OB_MESH) {
104                 BKE_report(op->reports, RPT_WARNING, "Active object is not a mesh");
105                 return OPERATOR_CANCELLED;
106         }
107         
108         /* count & check */
109         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
110         {
111                 if (base->object->type == OB_MESH) {
112                         me = base->object->data;
113
114                         totvert += me->totvert;
115                         totedge += me->totedge;
116                         totloop += me->totloop;
117                         totpoly += me->totpoly;
118                         totmat += base->object->totcol;
119                         
120                         if (base->object == ob)
121                                 ok = 1;
122                         
123                         /* check for shapekeys */
124                         if (me->key)
125                                 haskey++;
126                 }
127         }
128         CTX_DATA_END;
129         
130         /* that way the active object is always selected */ 
131         if (ok == 0) {
132                 BKE_report(op->reports, RPT_WARNING, "Active object is not a selected mesh");
133                 return OPERATOR_CANCELLED;
134         }
135         
136         /* only join meshes if there are verts to join, there aren't too many, and we only had one mesh selected */
137         me = (Mesh *)ob->data;
138         key = me->key;
139
140         if (totvert == 0 || totvert == me->totvert) {
141                 BKE_report(op->reports, RPT_WARNING, "No mesh data to join");
142                 return OPERATOR_CANCELLED;
143         }
144         
145         if (totvert > MESH_MAX_VERTS) {
146                 BKE_reportf(op->reports, RPT_WARNING, "Joining results in %d vertices, limit is %ld", totvert, MESH_MAX_VERTS);
147                 return OPERATOR_CANCELLED;
148         }
149
150         /* remove tessface to ensure we don't old references to invalid faces */
151         BKE_mesh_tessface_clear(me);
152
153         /* new material indices and material array */
154         matar = MEM_callocN(sizeof(void *) * totmat, "join_mesh matar");
155         if (totmat) matmap = MEM_callocN(sizeof(int) * totmat, "join_mesh matmap");
156         totcol = ob->totcol;
157         
158         /* obact materials in new main array, is nicer start! */
159         for (a = 0; a < ob->totcol; a++) {
160                 matar[a] = give_current_material(ob, a + 1);
161                 id_us_plus((ID *)matar[a]);
162                 /* increase id->us : will be lowered later */
163         }
164         
165         /* - if destination mesh had shapekeys, move them somewhere safe, and set up placeholders
166          *  with arrays that are large enough to hold shapekey data for all meshes
167          * -    if destination mesh didn't have shapekeys, but we encountered some in the meshes we're 
168          *      joining, set up a new keyblock and assign to the mesh
169          */
170         if (key) {
171                 /* make a duplicate copy that will only be used here... (must remember to free it!) */
172                 nkey = BKE_key_copy(key);
173                 
174                 /* for all keys in old block, clear data-arrays */
175                 for (kb = key->block.first; kb; kb = kb->next) {
176                         if (kb->data) MEM_freeN(kb->data);
177                         kb->data = MEM_callocN(sizeof(float) * 3 * totvert, "join_shapekey");
178                         kb->totelem = totvert;
179                         kb->weights = NULL;
180                 }
181         }
182         else if (haskey) {
183                 /* add a new key-block and add to the mesh */
184                 key = me->key = BKE_key_add((ID *)me);
185                 key->type = KEY_RELATIVE;
186         }
187         
188         /* first pass over objects - copying materials and vertexgroups across */
189         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
190         {
191                 /* only act if a mesh, and not the one we're joining to */
192                 if ((ob != base->object) && (base->object->type == OB_MESH)) {
193                         me = base->object->data;
194                         
195                         /* Join this object's vertex groups to the base one's */
196                         for (dg = base->object->defbase.first; dg; dg = dg->next) {
197                                 /* See if this group exists in the object (if it doesn't, add it to the end) */
198                                 if (!defgroup_find_name(ob, dg->name)) {
199                                         odg = MEM_callocN(sizeof(bDeformGroup), "join deformGroup");
200                                         memcpy(odg, dg, sizeof(bDeformGroup));
201                                         BLI_addtail(&ob->defbase, odg);
202                                 }
203                         }
204                         if (ob->defbase.first && ob->actdef == 0)
205                                 ob->actdef = 1;
206                         
207                         
208                         if (me->totvert) {
209                                 /* Add this object's materials to the base one's if they don't exist already (but only if limits not exceeded yet) */
210                                 if (totcol < MAXMAT) {
211                                         for (a = 1; a <= base->object->totcol; a++) {
212                                                 ma = give_current_material(base->object, a);
213
214                                                 for (b = 0; b < totcol; b++) {
215                                                         if (ma == matar[b]) break;
216                                                 }
217                                                 if (b == totcol) {
218                                                         matar[b] = ma;
219                                                         if (ma) {
220                                                                 id_us_plus(&ma->id);
221                                                         }
222                                                         totcol++;
223                                                 }
224                                                 if (totcol >= MAXMAT)
225                                                         break;
226                                         }
227                                 }
228                                 
229                                 /* if this mesh has shapekeys, check if destination mesh already has matching entries too */
230                                 if (me->key && key) {
231                                         /* for remapping KeyBlock.relative */
232                                         int      *index_map = MEM_mallocN(sizeof(int)        * me->key->totkey, __func__);
233                                         KeyBlock **kb_map   = MEM_mallocN(sizeof(KeyBlock *) * me->key->totkey, __func__);
234
235                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
236                                                 BLI_assert(i < me->key->totkey);
237
238                                                 kbn = BKE_keyblock_find_name(key, kb->name);
239                                                 /* if key doesn't exist in destination mesh, add it */
240                                                 if (kbn) {
241                                                         index_map[i] = BLI_findindex(&key->block, kbn);
242                                                 }
243                                                 else {
244                                                         index_map[i] = key->totkey;
245
246                                                         kbn = BKE_keyblock_add(key, kb->name);
247
248                                                         BKE_keyblock_copy_settings(kbn, kb);
249
250                                                         /* adjust settings to fit (allocate a new data-array) */
251                                                         kbn->data = MEM_callocN(sizeof(float) * 3 * totvert, "joined_shapekey");
252                                                         kbn->totelem = totvert;
253                 
254                                                         /* XXX 2.5 Animato */
255 #if 0
256                                                         /* also, copy corresponding ipo-curve to ipo-block if applicable */
257                                                         if (me->key->ipo && key->ipo) {
258                                                                 /* FIXME... this is a luxury item! */
259                                                                 puts("FIXME: ignoring IPO's when joining shapekeys on Meshes for now...");
260                                                         }
261 #endif
262                                                 }
263
264                                                 kb_map[i] = kbn;
265                                         }
266
267                                         /* remap relative index values */
268                                         for (kb = me->key->block.first, i = 0; kb; kb = kb->next, i++) {
269                                                 if (LIKELY(kb->relative < me->key->totkey)) {  /* sanity check, should always be true */
270                                                         kb_map[i]->relative = index_map[kb->relative];
271                                                 }
272                                         }
273
274                                         MEM_freeN(index_map);
275                                         MEM_freeN(kb_map);
276                                 }
277                         }
278                 }
279         }
280         CTX_DATA_END;
281
282
283         /* setup new data for destination mesh */
284         CustomData_reset(&vdata);
285         CustomData_reset(&edata);
286         CustomData_reset(&fdata);
287         CustomData_reset(&ldata);
288         CustomData_reset(&pdata);
289
290         mvert = CustomData_add_layer(&vdata, CD_MVERT, CD_CALLOC, NULL, totvert);
291         medge = CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
292         mloop = CustomData_add_layer(&ldata, CD_MLOOP, CD_CALLOC, NULL, totloop);
293         mpoly = CustomData_add_layer(&pdata, CD_MPOLY, CD_CALLOC, NULL, totpoly);
294
295         vertofs = 0;
296         edgeofs = 0;
297         loopofs = 0;
298         polyofs = 0;
299         
300         /* inverse transform for all selected meshes in this object */
301         invert_m4_m4(imat, ob->obmat);
302         
303         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
304         {
305                 /* only join if this is a mesh */
306                 if (base->object->type == OB_MESH) {
307                         me = base->object->data;
308                         
309                         if (me->totvert) {
310                                 /* standard data */
311                                 CustomData_merge(&me->vdata, &vdata, CD_MASK_MESH, CD_DEFAULT, totvert);
312                                 CustomData_copy_data(&me->vdata, &vdata, 0, vertofs, me->totvert);
313                                 
314                                 /* vertex groups */
315                                 dvert = CustomData_get(&vdata, vertofs, CD_MDEFORMVERT);
316                                 
317                                 /* NB: vertex groups here are new version */
318                                 if (dvert) {
319                                         for (i = 0; i < me->totvert; i++) {
320                                                 for (j = 0; j < dvert[i].totweight; j++) {
321                                                         /*      Find the old vertex group */
322                                                         odg = BLI_findlink(&base->object->defbase, dvert[i].dw[j].def_nr);
323                                                         if (odg) {
324                                                                 /*      Search for a match in the new object, and set new index */
325                                                                 for (dg = ob->defbase.first, index = 0; dg; dg = dg->next, index++) {
326                                                                         if (!strcmp(dg->name, odg->name)) {
327                                                                                 dvert[i].dw[j].def_nr = index;
328                                                                                 break;
329                                                                         }
330                                                                 }
331                                                         }
332                                                 }
333                                         }
334                                 }
335                                 
336                                 /* if this is the object we're merging into, no need to do anything */
337                                 if (base->object != ob) {
338                                         /* watch this: switch matmul order really goes wrong */
339                                         mult_m4_m4m4(cmat, imat, base->object->obmat);
340                                         
341                                         /* transform vertex coordinates into new space */
342                                         for (a = 0, mv = mvert; a < me->totvert; a++, mv++) {
343                                                 mul_m4_v3(cmat, mv->co);
344                                         }
345                                         
346                                         /* for each shapekey in destination mesh:
347                                          *      - if there's a matching one, copy it across (will need to transform vertices into new space...)
348                                          *      - otherwise, just copy own coordinates of mesh (no need to transform vertex coordinates into new space)
349                                          */
350                                         if (key) {
351                                                 /* if this mesh has any shapekeys, check first, otherwise just copy coordinates */
352                                                 for (kb = key->block.first; kb; kb = kb->next) {
353                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
354                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
355                                                         
356                                                         /* check if this mesh has such a shapekey */
357                                                         okb = me->key ? BKE_keyblock_find_name(me->key, kb->name) : NULL;
358
359                                                         if (okb) {
360                                                                 /* copy this mesh's shapekey to the destination shapekey (need to transform first) */
361                                                                 fp2 = ((float *)(okb->data));
362                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
363                                                                         copy_v3_v3(fp1, fp2);
364                                                                         mul_m4_v3(cmat, fp1);
365                                                                 }
366                                                         }
367                                                         else {
368                                                                 /* copy this mesh's vertex coordinates to the destination shapekey */
369                                                                 mv = mvert;
370                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
371                                                                         copy_v3_v3(fp1, mv->co);
372                                                                 }
373                                                         }
374                                                 }
375                                         }
376                                 }
377                                 else {
378                                         /* for each shapekey in destination mesh:
379                                          *      - if it was an 'original', copy the appropriate data from nkey
380                                          *      - otherwise, copy across plain coordinates (no need to transform coordinates)
381                                          */
382                                         if (key) {
383                                                 for (kb = key->block.first; kb; kb = kb->next) {
384                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
385                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
386                                                         
387                                                         /* check if this was one of the original shapekeys */
388                                                         okb = nkey ? BKE_keyblock_find_name(nkey, kb->name) : NULL;
389                                                         if (okb) {
390                                                                 /* copy this mesh's shapekey to the destination shapekey */
391                                                                 fp2 = ((float *)(okb->data));
392                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
393                                                                         copy_v3_v3(fp1, fp2);
394                                                                 }
395                                                         }
396                                                         else {
397                                                                 /* copy base-coordinates to the destination shapekey */
398                                                                 mv = mvert;
399                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
400                                                                         copy_v3_v3(fp1, mv->co);
401                                                                 }
402                                                         }
403                                                 }
404                                         }
405                                 }
406                                 
407                                 /* advance mvert pointer to end of base mesh's data */
408                                 mvert += me->totvert;
409                         }
410                         
411                         if (me->totedge) {
412                                 CustomData_merge(&me->edata, &edata, CD_MASK_MESH, CD_DEFAULT, totedge);
413                                 CustomData_copy_data(&me->edata, &edata, 0, edgeofs, me->totedge);
414                                 
415                                 for (a = 0; a < me->totedge; a++, medge++) {
416                                         medge->v1 += vertofs;
417                                         medge->v2 += vertofs;
418                                 }
419                         }
420
421                         if (me->totloop) {
422                                 if (base->object != ob) {
423                                         MultiresModifierData *mmd;
424
425                                         multiresModifier_prepare_join(scene, base->object, ob);
426
427                                         if ((mmd = get_multires_modifier(scene, base->object, TRUE))) {
428                                                 ED_object_iter_other(bmain, base->object, TRUE,
429                                                                      ED_object_multires_update_totlevels_cb,
430                                                                      &mmd->totlvl);
431                                         }
432                                 }
433                                 
434                                 CustomData_merge(&me->ldata, &ldata, CD_MASK_MESH, CD_DEFAULT, totloop);
435                                 CustomData_copy_data(&me->ldata, &ldata, 0, loopofs, me->totloop);
436                                 
437                                 for (a = 0; a < me->totloop; a++, mloop++) {
438                                         mloop->v += vertofs;
439                                         mloop->e += edgeofs;
440                                 }
441                         }
442                         
443                         if (me->totpoly) {
444                                 if (totmat) {
445                                         /* make mapping for materials */
446                                         for (a = 1; a <= base->object->totcol; a++) {
447                                                 ma = give_current_material(base->object, a);
448
449                                                 for (b = 0; b < totcol; b++) {
450                                                         if (ma == matar[b]) {
451                                                                 matmap[a - 1] = b;
452                                                                 break;
453                                                         }
454                                                 }
455                                         }
456                                 }
457
458                                 CustomData_merge(&me->pdata, &pdata, CD_MASK_MESH, CD_DEFAULT, totpoly);
459                                 CustomData_copy_data(&me->pdata, &pdata, 0, polyofs, me->totpoly);
460                                 
461                                 for (a = 0; a < me->totpoly; a++, mpoly++) {
462                                         mpoly->loopstart += loopofs;
463                                         mpoly->mat_nr = matmap ? matmap[(int)mpoly->mat_nr] : 0;
464                                 }
465                                 
466                                 polyofs += me->totpoly;
467                         }
468
469                         /* these are used for relinking (cannot be set earlier, 
470                          * or else reattaching goes wrong)
471                          */
472                         vertofs += me->totvert;
473                         edgeofs += me->totedge;
474                         loopofs += me->totloop;
475                         
476                         /* free base, now that data is merged */
477                         if (base->object != ob)
478                                 ED_base_object_free_and_unlink(bmain, scene, base);
479                 }
480         }
481         CTX_DATA_END;
482         
483         /* return to mesh we're merging to */
484         me = ob->data;
485         
486         CustomData_free(&me->vdata, me->totvert);
487         CustomData_free(&me->edata, me->totedge);
488         CustomData_free(&me->ldata, me->totloop);
489         CustomData_free(&me->pdata, me->totpoly);
490
491         me->totvert = totvert;
492         me->totedge = totedge;
493         me->totloop = totloop;
494         me->totpoly = totpoly;
495
496         me->vdata = vdata;
497         me->edata = edata;
498         me->ldata = ldata;
499         me->pdata = pdata;
500
501         /* tessface data removed above, no need to update */
502         mesh_update_customdata_pointers(me, FALSE);
503         
504         /* old material array */
505         for (a = 1; a <= ob->totcol; a++) {
506                 ma = ob->mat[a - 1];
507                 if (ma) ma->id.us--;
508         }
509         for (a = 1; a <= me->totcol; a++) {
510                 ma = me->mat[a - 1];
511                 if (ma) ma->id.us--;
512         }
513         if (ob->mat) MEM_freeN(ob->mat);
514         if (ob->matbits) MEM_freeN(ob->matbits);
515         if (me->mat) MEM_freeN(me->mat);
516         ob->mat = me->mat = NULL;
517         ob->matbits = NULL;
518         
519         if (totcol) {
520                 me->mat = matar;
521                 ob->mat = MEM_callocN(sizeof(void *) * totcol, "join obmatar");
522                 ob->matbits = MEM_callocN(sizeof(char) * totcol, "join obmatbits");
523         }
524         else
525                 MEM_freeN(matar);
526         
527         ob->totcol = me->totcol = totcol;
528
529         if (matmap) MEM_freeN(matmap);
530         
531         /* other mesh users */
532         test_object_materials((ID *)me);
533         
534         /* free temp copy of destination shapekeys (if applicable) */
535         if (nkey) {
536                 /* XXX 2.5 Animato */
537 #if 0
538                 /* free it's ipo too - both are not actually freed from memory yet as ID-blocks */
539                 if (nkey->ipo) {
540                         BKE_ipo_free(nkey->ipo);
541                         BLI_remlink(&bmain->ipo, nkey->ipo);
542                         MEM_freeN(nkey->ipo);
543                 }
544 #endif
545                 
546                 BKE_key_free(nkey);
547                 BLI_remlink(&bmain->key, nkey);
548                 MEM_freeN(nkey);
549         }
550         
551         /* ensure newly inserted keys are time sorted */
552         if (key && (key->type != KEY_RELATIVE)) {
553                 BKE_key_sort(key);
554         }
555
556
557         DAG_scene_sort(bmain, scene);   // removed objects, need to rebuild dag before editmode call
558
559 #if 0
560         ED_object_enter_editmode(C, EM_WAITCURSOR);
561         ED_object_exit_editmode(C, EM_FREEDATA | EM_WAITCURSOR | EM_DO_UNDO);
562 #else
563         /* toggle editmode using lower level functions so this can be called from python */
564         EDBM_mesh_make(scene->toolsettings, scene, ob);
565         EDBM_mesh_load(ob);
566         EDBM_mesh_free(me->edit_btmesh);
567         MEM_freeN(me->edit_btmesh);
568         me->edit_btmesh = NULL;
569         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA);
570 #endif
571         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
572
573         return OPERATOR_FINISHED;
574 }
575
576 /*********************** JOIN AS SHAPES ***************************/
577
578 /* Append selected meshes vertex locations as shapes of the active mesh, 
579  * return 0 if no join is made (error) and 1 of the join is done */
580
581 int join_mesh_shapes_exec(bContext *C, wmOperator *op)
582 {
583         Scene *scene = CTX_data_scene(C);
584         Object *ob = CTX_data_active_object(C);
585         Mesh *me = (Mesh *)ob->data;
586         Mesh *selme = NULL;
587         DerivedMesh *dm = NULL;
588         Key *key = me->key;
589         KeyBlock *kb;
590         int ok = 0, nonequal_verts = 0;
591         
592         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
593         {
594                 if (base->object == ob) continue;
595                 
596                 if (base->object->type == OB_MESH) {
597                         selme = (Mesh *)base->object->data;
598                         
599                         if (selme->totvert == me->totvert)
600                                 ok++;
601                         else
602                                 nonequal_verts = 1;
603                 }
604         }
605         CTX_DATA_END;
606         
607         if (!ok) {
608                 if (nonequal_verts)
609                         BKE_report(op->reports, RPT_WARNING, "Selected meshes must have equal numbers of vertices");
610                 else
611                         BKE_report(op->reports, RPT_WARNING, "No additional selected meshes with equal vertex count to join");
612                 return OPERATOR_CANCELLED;
613         }
614         
615         if (key == NULL) {
616                 key = me->key = BKE_key_add((ID *)me);
617                 key->type = KEY_RELATIVE;
618
619                 /* first key added, so it was the basis. initialize it with the existing mesh */
620                 kb = BKE_keyblock_add(key, NULL);
621                 BKE_key_convert_from_mesh(me, kb);
622         }
623         
624         /* now ready to add new keys from selected meshes */
625         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
626         {
627                 if (base->object == ob) continue;
628                 
629                 if (base->object->type == OB_MESH) {
630                         selme = (Mesh *)base->object->data;
631                         
632                         if (selme->totvert == me->totvert) {
633                                 dm = mesh_get_derived_deform(scene, base->object, CD_MASK_BAREMESH);
634                                 
635                                 if (!dm) continue;
636                                         
637                                 kb = BKE_keyblock_add(key, base->object->id.name + 2);
638                                 
639                                 DM_to_meshkey(dm, me, kb);
640                                 
641                                 dm->release(dm);
642                         }
643                 }
644         }
645         CTX_DATA_END;
646         
647         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
648         
649         return OPERATOR_FINISHED;
650 }
651
652 /* ********************* MESH VERTEX OCTREE LOOKUP ************* */
653
654 /* important note; this is unfinished, needs better API for editmode, and custom threshold */
655
656 #define MOC_RES         8
657 #define MOC_NODE_RES    8
658 #define MOC_THRESH      0.00002f
659
660 typedef struct MocNode {
661         struct MocNode *next;
662         intptr_t index[MOC_NODE_RES];
663 } MocNode;
664
665 static int mesh_octree_get_base_offs(const float co[3], const float offs[3], const float div[3])
666 {
667         int vx, vy, vz;
668         
669         vx = floor((co[0] - offs[0]) / div[0]);
670         vy = floor((co[1] - offs[1]) / div[1]);
671         vz = floor((co[2] - offs[2]) / div[2]);
672
673         CLAMP(vx, 0, MOC_RES - 1);
674         CLAMP(vy, 0, MOC_RES - 1);
675         CLAMP(vz, 0, MOC_RES - 1);
676
677         return (vx * MOC_RES * MOC_RES) + vy * MOC_RES + vz;
678 }
679
680 static void mesh_octree_add_node(MocNode **bt, intptr_t index)
681 {
682         if (*bt == NULL) {
683                 *bt = MEM_callocN(sizeof(MocNode), "MocNode");
684                 (*bt)->index[0] = index;
685         }
686         else {
687                 int a;
688                 for (a = 0; a < MOC_NODE_RES; a++) {
689                         if ((*bt)->index[a] == index)
690                                 return;
691                         else if ((*bt)->index[a] == 0) {
692                                 (*bt)->index[a] = index;
693                                 return;
694                         }
695                 }
696                 mesh_octree_add_node(&(*bt)->next, index);
697         }
698 }
699
700 static void mesh_octree_free_node(MocNode **bt)
701 {
702         if ( (*bt)->next) {
703                 mesh_octree_free_node(&(*bt)->next);
704         }
705         MEM_freeN(*bt);
706 }
707
708
709 /* temporal define, just to make nicer code below */
710 #define MOC_INDEX(vx, vy, vz)  (((vx) * MOC_RES * MOC_RES) + (vy) * MOC_RES + (vz))
711
712 static void mesh_octree_add_nodes(MocNode **basetable, const float co[3], const float offs[3],
713                                   const float div[3], intptr_t index)
714 {
715         float fx, fy, fz;
716         int vx, vy, vz;
717         
718         if ((finite(co[0]) == FALSE) ||
719             (finite(co[1]) == FALSE) ||
720             (finite(co[2]) == FALSE))
721         {
722                 return;
723         }
724         
725         fx = (co[0] - offs[0]) / div[0];
726         fy = (co[1] - offs[1]) / div[1];
727         fz = (co[2] - offs[2]) / div[2];
728         CLAMP(fx, 0.0f, MOC_RES - MOC_THRESH);
729         CLAMP(fy, 0.0f, MOC_RES - MOC_THRESH);
730         CLAMP(fz, 0.0f, MOC_RES - MOC_THRESH);
731
732         vx = (int)floorf(fx);
733         vy = (int)floorf(fy);
734         vz = (int)floorf(fz);
735
736         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz), index);
737
738         if (vx > 0)
739                 if (fx - ((float)vx) - MOC_THRESH < 0.0f)
740                         mesh_octree_add_node(basetable + MOC_INDEX(vx - 1, vy, vz), index);
741         if (vx < MOC_RES - 2)
742                 if (fx - ((float)vx) + MOC_THRESH > 1.0f)
743                         mesh_octree_add_node(basetable + MOC_INDEX(vx + 1, vy, vz), index);
744
745         if (vy > 0)
746                 if (fy - ((float)vy) - MOC_THRESH < 0.0f)
747                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy - 1, vz), index);
748         if (vy < MOC_RES - 2)
749                 if (fy - ((float)vy) + MOC_THRESH > 1.0f)
750                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy + 1, vz), index);
751
752         if (vz > 0)
753                 if (fz - ((float)vz) - MOC_THRESH < 0.0f)
754                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz - 1), index);
755         if (vz < MOC_RES - 2)
756                 if (fz - ((float)vz) + MOC_THRESH > 1.0f)
757                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz + 1), index);
758
759 }
760
761 static intptr_t mesh_octree_find_index(MocNode **bt, MVert *mvert, const float co[3])
762 {
763         float *vec;
764         int a;
765         
766         if (*bt == NULL)
767                 return -1;
768         
769         for (a = 0; a < MOC_NODE_RES; a++) {
770                 if ((*bt)->index[a]) {
771                         /* does mesh verts and editmode, code looks potential dangerous, octree should really be filled OK! */
772                         if (mvert) {
773                                 vec = (mvert + (*bt)->index[a] - 1)->co;
774                                 if (compare_v3v3(vec, co, MOC_THRESH))
775                                         return (*bt)->index[a] - 1;
776                         }
777                         else {
778                                 BMVert *eve = (BMVert *)((*bt)->index[a]);
779                                 if (compare_v3v3(eve->co, co, MOC_THRESH))
780                                         return (*bt)->index[a];
781                         }
782                 }
783                 else return -1;
784         }
785         if ( (*bt)->next)
786                 return mesh_octree_find_index(&(*bt)->next, mvert, co);
787         
788         return -1;
789 }
790
791 static struct {
792         MocNode **table;
793         float offs[3], div[3];
794 } MeshOctree = {NULL, {0, 0, 0}, {0, 0, 0}};
795
796 /* mode is 's' start, or 'e' end, or 'u' use */
797 /* if end, ob can be NULL */
798 intptr_t mesh_octree_table(Object *ob, BMEditMesh *em, const float co[3], char mode)
799 {
800         MocNode **bt;
801         
802         if (mode == 'u') {        /* use table */
803                 if (MeshOctree.table == NULL)
804                         mesh_octree_table(ob, em, NULL, 's');
805
806                 if (MeshOctree.table) {
807                         Mesh *me = ob->data;
808                         bt = MeshOctree.table + mesh_octree_get_base_offs(co, MeshOctree.offs, MeshOctree.div);
809                         if (em)
810                                 return mesh_octree_find_index(bt, NULL, co);
811                         else
812                                 return mesh_octree_find_index(bt, me->mvert, co);
813                 }
814                 return -1;
815         }
816         else if (mode == 's') {   /* start table */
817                 Mesh *me = ob->data;
818                 float min[3], max[3];
819
820                 /* we compute own bounding box and don't reuse ob->bb because
821                  * we are using the undeformed coordinates*/
822                 INIT_MINMAX(min, max);
823
824                 if (em && me->edit_btmesh == em) {
825                         BMIter iter;
826                         BMVert *eve;
827                         
828                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
829                                 minmax_v3v3_v3(min, max, eve->co);
830                         }
831                 }
832                 else {
833                         MVert *mvert;
834                         int a;
835                         
836                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
837                                 minmax_v3v3_v3(min, max, mvert->co);
838                 }
839                 
840                 /* for quick unit coordinate calculus */
841                 copy_v3_v3(MeshOctree.offs, min);
842                 /* we offset it 1 threshold unit extra */
843                 add_v3_fl(MeshOctree.offs, -MOC_THRESH);
844                 
845                 sub_v3_v3v3(MeshOctree.div, max, min);
846                 /* and divide with 2 threshold unit more extra (try 8x8 unit grid on paint) */
847                 add_v3_fl(MeshOctree.div, 2.0f * MOC_THRESH);
848
849                 mul_v3_fl(MeshOctree.div, 1.0f / MOC_RES);
850                 if (MeshOctree.div[0] == 0.0f) MeshOctree.div[0] = 1.0f;
851                 if (MeshOctree.div[1] == 0.0f) MeshOctree.div[1] = 1.0f;
852                 if (MeshOctree.div[2] == 0.0f) MeshOctree.div[2] = 1.0f;
853                         
854                 if (MeshOctree.table) /* happens when entering this call without ending it */
855                         mesh_octree_table(ob, em, co, 'e');
856                 
857                 MeshOctree.table = MEM_callocN(MOC_RES * MOC_RES * MOC_RES * sizeof(void *), "sym table");
858                 
859                 if (em && me->edit_btmesh == em) {
860                         BMVert *eve;
861                         BMIter iter;
862
863                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
864                                 mesh_octree_add_nodes(MeshOctree.table, eve->co, MeshOctree.offs, MeshOctree.div, (intptr_t)(eve));
865                         }
866                 }
867                 else {
868                         MVert *mvert;
869                         int a;
870                         
871                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
872                                 mesh_octree_add_nodes(MeshOctree.table, mvert->co, MeshOctree.offs, MeshOctree.div, a + 1);
873                 }
874         }
875         else if (mode == 'e') { /* end table */
876                 if (MeshOctree.table) {
877                         int a;
878                         
879                         for (a = 0, bt = MeshOctree.table; a < MOC_RES * MOC_RES * MOC_RES; a++, bt++) {
880                                 if (*bt) mesh_octree_free_node(bt);
881                         }
882                         MEM_freeN(MeshOctree.table);
883                         MeshOctree.table = NULL;
884                 }
885         }
886         return 0;
887 }
888
889 static MirrTopoStore_t mesh_topo_store = {NULL, -1. - 1, -1};
890
891 /* mode is 's' start, or 'e' end, or 'u' use */
892 /* if end, ob can be NULL */
893 /* note, is supposed return -1 on error, which callers are currently checking for, but is not used so far */
894 int mesh_mirrtopo_table(Object *ob, char mode)
895 {
896         if (mode == 'u') {        /* use table */
897                 if (ED_mesh_mirrtopo_recalc_check(ob->data, ob->mode, &mesh_topo_store)) {
898                         mesh_mirrtopo_table(ob, 's');
899                 }
900         }
901         else if (mode == 's') { /* start table */
902                 ED_mesh_mirrtopo_init(ob->data, ob->mode, &mesh_topo_store, FALSE);
903         }
904         else if (mode == 'e') { /* end table */
905                 ED_mesh_mirrtopo_free(&mesh_topo_store);
906         }
907         return 0;
908 }
909
910 static int mesh_get_x_mirror_vert_spatial(Object *ob, int index)
911 {
912         Mesh *me = ob->data;
913         MVert *mvert;
914         float vec[3];
915         
916         mvert = me->mvert + index;
917         vec[0] = -mvert->co[0];
918         vec[1] = mvert->co[1];
919         vec[2] = mvert->co[2];
920         
921         return mesh_octree_table(ob, NULL, vec, 'u');
922 }
923
924 static int mesh_get_x_mirror_vert_topo(Object *ob, int index)
925 {
926         if (mesh_mirrtopo_table(ob, 'u') == -1)
927                 return -1;
928
929         return mesh_topo_store.index_lookup[index];
930 }
931
932 int mesh_get_x_mirror_vert(Object *ob, int index)
933 {
934         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
935                 return mesh_get_x_mirror_vert_topo(ob, index);
936         }
937         else {
938                 return mesh_get_x_mirror_vert_spatial(ob, index);
939         }
940         return 0;
941 }
942
943 static BMVert *editbmesh_get_x_mirror_vert_spatial(Object *ob, BMEditMesh *em, const float co[3])
944 {
945         float vec[3];
946         intptr_t poinval;
947         
948         /* ignore nan verts */
949         if ((finite(co[0]) == FALSE) ||
950             (finite(co[1]) == FALSE) ||
951             (finite(co[2]) == FALSE))
952         {
953                 return NULL;
954         }
955         
956         vec[0] = -co[0];
957         vec[1] = co[1];
958         vec[2] = co[2];
959         
960         poinval = mesh_octree_table(ob, em, vec, 'u');
961         if (poinval != -1)
962                 return (BMVert *)(poinval);
963         return NULL;
964 }
965
966 static BMVert *editbmesh_get_x_mirror_vert_topo(Object *ob, struct BMEditMesh *em, BMVert *eve, int index)
967 {
968         intptr_t poinval;
969         if (mesh_mirrtopo_table(ob, 'u') == -1)
970                 return NULL;
971
972         if (index == -1) {
973                 BMIter iter;
974                 BMVert *v;
975                 
976                 index = 0;
977                 BM_ITER_MESH (v, &iter, em->bm, BM_VERTS_OF_MESH) {
978                         if (v == eve)
979                                 break;
980                         index++;
981                 }
982                 
983                 if (index == em->bm->totvert) {
984                         return NULL;
985                 }
986         }
987
988         poinval = mesh_topo_store.index_lookup[index];
989
990         if (poinval != -1)
991                 return (BMVert *)(poinval);
992         return NULL;
993 }       
994
995 BMVert *editbmesh_get_x_mirror_vert(Object *ob, struct BMEditMesh *em, BMVert *eve, const float co[3], int index)
996 {
997         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
998                 return editbmesh_get_x_mirror_vert_topo(ob, em, eve, index);
999         }
1000         else {
1001                 return editbmesh_get_x_mirror_vert_spatial(ob, em, co);
1002         }
1003 }
1004
1005 #if 0
1006
1007 static float *editmesh_get_mirror_uv(BMEditMesh *em, int axis, float *uv, float *mirrCent, float *face_cent)
1008 {
1009         float vec[2];
1010         float cent_vec[2];
1011         float cent[2];
1012
1013         /* ignore nan verts */
1014         if (isnan(uv[0]) || !finite(uv[0]) ||
1015             isnan(uv[1]) || !finite(uv[1])
1016             )
1017                 return NULL;
1018
1019         if (axis) {
1020                 vec[0] = uv[0];
1021                 vec[1] = -((uv[1]) - mirrCent[1]) + mirrCent[1];
1022
1023                 cent_vec[0] = face_cent[0];
1024                 cent_vec[1] = -((face_cent[1]) - mirrCent[1]) + mirrCent[1];
1025         }
1026         else {
1027                 vec[0] = -((uv[0]) - mirrCent[0]) + mirrCent[0];
1028                 vec[1] = uv[1];
1029
1030                 cent_vec[0] = -((face_cent[0]) - mirrCent[0]) + mirrCent[0];
1031                 cent_vec[1] = face_cent[1];
1032         }
1033
1034         /* TODO - Optimize */
1035         {
1036                 BMIter iter;
1037                 BMFace *efa;
1038                 
1039                 BM_ITER_MESH (efa, &iter, em->bm, BM_FACES_OF_MESH) {
1040                         uv_poly_center(em, efa, cent);
1041                         
1042                         if ( (fabsf(cent[0] - cent_vec[0]) < 0.001f) && (fabsf(cent[1] - cent_vec[1]) < 0.001f) ) {
1043                                 BMIter liter;
1044                                 BMLoop *l;
1045                                 
1046                                 BM_ITER_ELEM (l, &liter, efa, BM_LOOPS_OF_FACE) {
1047                                         MLoopUV *luv = CustomData_bmesh_get(&em->bm->ldata, l->head.data, CD_MLOOPUV);
1048                                         if ( (fabsf(luv->uv[0] - vec[0]) < 0.001f) && (fabsf(luv->uv[1] - vec[1]) < 0.001f) ) {
1049                                                 return luv->uv;
1050                                                                 
1051                                         }
1052                                 }
1053                         }
1054                 }
1055         }
1056
1057         return NULL;
1058 }
1059
1060 #endif
1061
1062 static unsigned int mirror_facehash(const void *ptr)
1063 {
1064         const MFace *mf = ptr;
1065         unsigned int v0, v1;
1066
1067         if (mf->v4) {
1068                 v0 = MIN4(mf->v1, mf->v2, mf->v3, mf->v4);
1069                 v1 = MAX4(mf->v1, mf->v2, mf->v3, mf->v4);
1070         }
1071         else {
1072                 v0 = MIN3(mf->v1, mf->v2, mf->v3);
1073                 v1 = MAX3(mf->v1, mf->v2, mf->v3);
1074         }
1075
1076         return ((v0 * 39) ^ (v1 * 31));
1077 }
1078
1079 static int mirror_facerotation(MFace *a, MFace *b)
1080 {
1081         if (b->v4) {
1082                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3 && a->v4 == b->v4)
1083                         return 0;
1084                 else if (a->v4 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3 && a->v3 == b->v4)
1085                         return 1;
1086                 else if (a->v3 == b->v1 && a->v4 == b->v2 && a->v1 == b->v3 && a->v2 == b->v4)
1087                         return 2;
1088                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v4 == b->v3 && a->v1 == b->v4)
1089                         return 3;
1090         }
1091         else {
1092                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3)
1093                         return 0;
1094                 else if (a->v3 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3)
1095                         return 1;
1096                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v1 == b->v3)
1097                         return 2;
1098         }
1099         
1100         return -1;
1101 }
1102
1103 static int mirror_facecmp(const void *a, const void *b)
1104 {
1105         return (mirror_facerotation((MFace *)a, (MFace *)b) == -1);
1106 }
1107
1108 /* BMESH_TODO, convert to MPoly (functions above also) */
1109 int *mesh_get_x_mirror_faces(Object *ob, BMEditMesh *em)
1110 {
1111         Mesh *me = ob->data;
1112         MVert *mv, *mvert = me->mvert;
1113         MFace mirrormf, *mf, *hashmf, *mface = me->mface;
1114         GHash *fhash;
1115         int *mirrorverts, *mirrorfaces;
1116         int a;
1117
1118         mirrorverts = MEM_callocN(sizeof(int) * me->totvert, "MirrorVerts");
1119         mirrorfaces = MEM_callocN(sizeof(int) * 2 * me->totface, "MirrorFaces");
1120
1121         mesh_octree_table(ob, em, NULL, 's');
1122
1123         for (a = 0, mv = mvert; a < me->totvert; a++, mv++)
1124                 mirrorverts[a] = mesh_get_x_mirror_vert(ob, a);
1125
1126         mesh_octree_table(ob, em, NULL, 'e');
1127
1128         fhash = BLI_ghash_new(mirror_facehash, mirror_facecmp, "mirror_facehash gh");
1129         for (a = 0, mf = mface; a < me->totface; a++, mf++)
1130                 BLI_ghash_insert(fhash, mf, mf);
1131
1132         for (a = 0, mf = mface; a < me->totface; a++, mf++) {
1133                 mirrormf.v1 = mirrorverts[mf->v3];
1134                 mirrormf.v2 = mirrorverts[mf->v2];
1135                 mirrormf.v3 = mirrorverts[mf->v1];
1136                 mirrormf.v4 = (mf->v4) ? mirrorverts[mf->v4] : 0;
1137
1138                 /* make sure v4 is not 0 if a quad */
1139                 if (mf->v4 && mirrormf.v4 == 0) {
1140                         SWAP(unsigned int, mirrormf.v1, mirrormf.v3);
1141                         SWAP(unsigned int, mirrormf.v2, mirrormf.v4);
1142                 }
1143
1144                 hashmf = BLI_ghash_lookup(fhash, &mirrormf);
1145                 if (hashmf) {
1146                         mirrorfaces[a * 2] = hashmf - mface;
1147                         mirrorfaces[a * 2 + 1] = mirror_facerotation(&mirrormf, hashmf);
1148                 }
1149                 else
1150                         mirrorfaces[a * 2] = -1;
1151         }
1152
1153         BLI_ghash_free(fhash, NULL, NULL);
1154         MEM_freeN(mirrorverts);
1155         
1156         return mirrorfaces;
1157 }
1158
1159 /* selection, vertex and face */
1160 /* returns 0 if not found, otherwise 1 */
1161
1162 /**
1163  * Face selection in object mode,
1164  * currently only weight-paint and vertex-paint use this.
1165  *
1166  * \return boolean TRUE == Found
1167  */
1168 int ED_mesh_pick_face(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1169 {
1170         ViewContext vc;
1171
1172         if (!me || me->totpoly == 0)
1173                 return 0;
1174
1175         view3d_set_viewcontext(C, &vc);
1176
1177         if (size) {
1178                 /* sample rect to increase chances of selecting, so that when clicking
1179                  * on an edge in the backbuf, we can still select a face */
1180
1181                 float dummy_dist;
1182                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totpoly + 1, &dummy_dist, 0, NULL, NULL);
1183         }
1184         else {
1185                 /* sample only on the exact position */
1186                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1187         }
1188
1189         if ((*index) <= 0 || (*index) > (unsigned int)me->totpoly)
1190                 return 0;
1191
1192         (*index)--;
1193
1194         return 1;
1195 }
1196 /**
1197  * Use when the back buffer stores face index values. but we want a vert.
1198  * This gets the face then finds the closest vertex to mval.
1199  */
1200 int ED_mesh_pick_face_vert(bContext *C, Mesh *me, Object *ob, const int mval[2], unsigned int *index, int size)
1201 {
1202         unsigned int poly_index;
1203
1204         if (ED_mesh_pick_face(C, me, mval, &poly_index, size)) {
1205                 Scene *scene = CTX_data_scene(C);
1206                 struct ARegion *ar = CTX_wm_region(C);
1207
1208                 /* derived mesh to find deformed locations */
1209                 DerivedMesh *dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
1210                 int v_idx_best = -1;
1211
1212                 if (dm->getVertCo) {
1213                         /* find the vert closest to 'mval' */
1214                         const float mval_f[2] = {(float)mval[0],
1215                                                  (float)mval[1]};
1216                         MPoly *mp = &me->mpoly[poly_index];
1217                         int fidx;
1218                         float len_best = FLT_MAX;
1219
1220                         fidx = mp->totloop - 1;
1221                         do {
1222                                 float co[3], sco[2], len;
1223                                 const int v_idx = me->mloop[mp->loopstart + fidx].v;
1224                                 dm->getVertCo(dm, v_idx, co);
1225                                 mul_m4_v3(ob->obmat, co);
1226                                 if (ED_view3d_project_float_global(ar, co, sco, V3D_PROJ_TEST_NOP) == V3D_PROJ_RET_OK) {
1227                                         len = len_squared_v2v2(mval_f, sco);
1228                                         if (len < len_best) {
1229                                                 len_best = len;
1230                                                 v_idx_best = v_idx;
1231                                         }
1232                                 }
1233                         } while (fidx--);
1234                 }
1235
1236                 dm->release(dm);
1237
1238                 if (v_idx_best != -1) {
1239                         *index = v_idx_best;
1240                         return 1;
1241                 }
1242         }
1243
1244         return 0;
1245 }
1246
1247 /**
1248  * Vertex selection in object mode,
1249  * currently only weight paint uses this.
1250  *
1251  * \return boolean TRUE == Found
1252  */
1253 int ED_mesh_pick_vert(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1254 {
1255         ViewContext vc;
1256
1257         if (!me || me->totvert == 0)
1258                 return 0;
1259
1260         view3d_set_viewcontext(C, &vc);
1261
1262         if (size > 0) {
1263                 /* sample rect to increase chances of selecting, so that when clicking
1264                  * on an face in the backbuf, we can still select a vert */
1265
1266                 float dummy_dist;
1267                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totvert + 1, &dummy_dist, 0, NULL, NULL);
1268         }
1269         else {
1270                 /* sample only on the exact position */
1271                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1272         }
1273
1274         if ((*index) <= 0 || (*index) > (unsigned int)me->totvert)
1275                 return 0;
1276
1277         (*index)--;
1278
1279         return 1;
1280 }