code cleanup: warnings
[blender.git] / source / blender / editors / mesh / meshtools.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2004 by Blender Foundation
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/mesh/meshtools.c
29  *  \ingroup edmesh
30  */
31
32
33 /*
34  * meshtools.c: no editmode (violated already :), tools operating on meshes
35  */
36
37 #include <stddef.h>
38 #include <stdlib.h>
39 #include <math.h>
40 #include <float.h>
41
42 #include "MEM_guardedalloc.h"
43
44 #include "DNA_mesh_types.h"
45 #include "DNA_view3d_types.h"
46 #include "DNA_key_types.h"
47 #include "DNA_material_types.h"
48 #include "DNA_meshdata_types.h"
49 #include "DNA_modifier_types.h"
50 #include "DNA_object_types.h"
51 #include "DNA_scene_types.h"
52
53 #include "BLI_math.h"
54 #include "BLI_blenlib.h"
55 #include "BLI_utildefines.h"
56 #include "BLI_ghash.h"
57 #include "BLI_rand.h" /* for randome face sorting */
58 #include "BLI_threads.h"
59
60
61 #include "BKE_context.h"
62 #include "BKE_depsgraph.h"
63 #include "BKE_deform.h"
64 #include "BKE_DerivedMesh.h"
65 #include "BKE_key.h"
66 #include "BKE_library.h"
67 #include "BKE_main.h"
68 #include "BKE_mesh.h"
69 #include "BKE_material.h"
70 #include "BKE_report.h"
71 #include "BKE_tessmesh.h"
72 #include "BKE_multires.h"
73
74 #include "BLO_sys_types.h" // for intptr_t support
75
76 #include "ED_mesh.h"
77 #include "ED_object.h"
78 #include "ED_view3d.h"
79
80 #include "WM_api.h"
81 #include "WM_types.h"
82
83 /* own include */
84 #include "mesh_intern.h"
85 #include "uvedit_intern.h"
86
87 /* * ********************** no editmode!!! *********** */
88
89 /*********************** JOIN ***************************/
90
91 /* join selected meshes into the active mesh, context sensitive
92  * return 0 if no join is made (error) and 1 if the join is done */
93
94 int join_mesh_exec(bContext *C, wmOperator *op)
95 {
96         Main *bmain = CTX_data_main(C);
97         Scene *scene = CTX_data_scene(C);
98         Object *ob = CTX_data_active_object(C);
99         Material **matar, *ma;
100         Mesh *me;
101         MVert *mvert, *mv;
102         MEdge *medge = NULL;
103         MPoly *mpoly = NULL;
104         MLoop *mloop = NULL;
105         Key *key, *nkey = NULL;
106         KeyBlock *kb, *okb, *kbn;
107         float imat[4][4], cmat[4][4], *fp1, *fp2, curpos;
108         int a, b, totcol, totmat = 0, totedge = 0, totvert = 0, ok = 0;
109         int totloop = 0, totpoly = 0, vertofs, *matmap = NULL;
110         int i, j, index, haskey = 0, edgeofs, loopofs, polyofs;
111         bDeformGroup *dg, *odg;
112         MDeformVert *dvert;
113         CustomData vdata, edata, fdata, ldata, pdata;
114
115         if (scene->obedit) {
116                 BKE_report(op->reports, RPT_WARNING, "Cant join while in editmode");
117                 return OPERATOR_CANCELLED;
118         }
119         
120         /* ob is the object we are adding geometry to */
121         if (!ob || ob->type != OB_MESH) {
122                 BKE_report(op->reports, RPT_WARNING, "Active object is not a mesh");
123                 return OPERATOR_CANCELLED;
124         }
125         
126         /* count & check */
127         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
128         {
129                 if (base->object->type == OB_MESH) {
130                         me = base->object->data;
131
132                         totvert += me->totvert;
133                         totedge += me->totedge;
134                         totloop += me->totloop;
135                         totpoly += me->totpoly;
136                         totmat += base->object->totcol;
137                         
138                         if (base->object == ob)
139                                 ok = 1;
140                         
141                         /* check for shapekeys */
142                         if (me->key)
143                                 haskey++;
144                 }
145         }
146         CTX_DATA_END;
147         
148         /* that way the active object is always selected */ 
149         if (ok == 0) {
150                 BKE_report(op->reports, RPT_WARNING, "Active object is not a selected mesh");
151                 return OPERATOR_CANCELLED;
152         }
153         
154         /* only join meshes if there are verts to join, there aren't too many, and we only had one mesh selected */
155         me = (Mesh *)ob->data;
156         key = me->key;
157
158         if (totvert == 0 || totvert == me->totvert) {
159                 BKE_report(op->reports, RPT_WARNING, "No mesh data to join");
160                 return OPERATOR_CANCELLED;
161         }
162         
163         if (totvert > MESH_MAX_VERTS) {
164                 BKE_reportf(op->reports, RPT_WARNING, "Joining results in %d vertices, limit is " STRINGIFY(MESH_MAX_VERTS), totvert);
165                 return OPERATOR_CANCELLED;              
166         }
167
168         /* new material indices and material array */
169         matar = MEM_callocN(sizeof(void *) * totmat, "join_mesh matar");
170         if (totmat) matmap = MEM_callocN(sizeof(int) * totmat, "join_mesh matmap");
171         totcol = ob->totcol;
172         
173         /* obact materials in new main array, is nicer start! */
174         for (a = 0; a < ob->totcol; a++) {
175                 matar[a] = give_current_material(ob, a + 1);
176                 id_us_plus((ID *)matar[a]);
177                 /* increase id->us : will be lowered later */
178         }
179         
180         /* - if destination mesh had shapekeys, move them somewhere safe, and set up placeholders
181          *  with arrays that are large enough to hold shapekey data for all meshes
182          * -    if destination mesh didn't have shapekeys, but we encountered some in the meshes we're 
183          *      joining, set up a new keyblock and assign to the mesh
184          */
185         if (key) {
186                 /* make a duplicate copy that will only be used here... (must remember to free it!) */
187                 nkey = BKE_key_copy(key);
188                 
189                 /* for all keys in old block, clear data-arrays */
190                 for (kb = key->block.first; kb; kb = kb->next) {
191                         if (kb->data) MEM_freeN(kb->data);
192                         kb->data = MEM_callocN(sizeof(float) * 3 * totvert, "join_shapekey");
193                         kb->totelem = totvert;
194                         kb->weights = NULL;
195                 }
196         }
197         else if (haskey) {
198                 /* add a new key-block and add to the mesh */
199                 key = me->key = add_key((ID *)me);
200                 key->type = KEY_RELATIVE;
201         }
202         
203         /* first pass over objects - copying materials and vertexgroups across */
204         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
205         {
206                 /* only act if a mesh, and not the one we're joining to */
207                 if ((ob != base->object) && (base->object->type == OB_MESH)) {
208                         me = base->object->data;
209                         
210                         /* Join this object's vertex groups to the base one's */
211                         for (dg = base->object->defbase.first; dg; dg = dg->next) {
212                                 /* See if this group exists in the object (if it doesn't, add it to the end) */
213                                 if (!defgroup_find_name(ob, dg->name)) {
214                                         odg = MEM_callocN(sizeof(bDeformGroup), "join deformGroup");
215                                         memcpy(odg, dg, sizeof(bDeformGroup));
216                                         BLI_addtail(&ob->defbase, odg);
217                                 }
218                         }
219                         if (ob->defbase.first && ob->actdef == 0)
220                                 ob->actdef = 1;
221                         
222                         
223                         if (me->totvert) {
224                                 /* Add this object's materials to the base one's if they don't exist already (but only if limits not exceeded yet) */
225                                 if (totcol < MAXMAT) {
226                                         for (a = 1; a <= base->object->totcol; a++) {
227                                                 ma = give_current_material(base->object, a);
228
229                                                 for (b = 0; b < totcol; b++) {
230                                                         if (ma == matar[b]) break;
231                                                 }
232                                                 if (b == totcol) {
233                                                         matar[b] = ma;
234                                                         if (ma) {
235                                                                 id_us_plus(&ma->id);
236                                                         }
237                                                         totcol++;
238                                                 }
239                                                 if (totcol >= MAXMAT)
240                                                         break;
241                                         }
242                                 }
243                                 
244                                 /* if this mesh has shapekeys, check if destination mesh already has matching entries too */
245                                 if (me->key && key) {
246                                         for (kb = me->key->block.first; kb; kb = kb->next) {
247                                                 /* if key doesn't exist in destination mesh, add it */
248                                                 if (key_get_named_keyblock(key, kb->name) == NULL) {
249                                                         /* copy this existing one over to the new shapekey block */
250                                                         kbn = MEM_dupallocN(kb);
251                                                         kbn->prev = kbn->next = NULL;
252                                                         
253                                                         /* adjust settings to fit (allocate a new data-array) */
254                                                         kbn->data = MEM_callocN(sizeof(float) * 3 * totvert, "joined_shapekey");
255                                                         kbn->totelem = totvert;
256                                                         kbn->weights = NULL;
257                                                         
258                                                         okb = key->block.last;
259                                                         curpos = (okb) ? okb->pos : -0.1f;
260                                                         if (key->type == KEY_RELATIVE)
261                                                                 kbn->pos = curpos + 0.1f;
262                                                         else
263                                                                 kbn->pos = curpos;
264                                                         
265                                                         BLI_addtail(&key->block, kbn);
266                                                         key->totkey++;
267                                                         if (key->totkey == 1) key->refkey = kbn;
268                                                         
269                                                         /* XXX 2.5 Animato */
270 #if 0
271                                                         /* also, copy corresponding ipo-curve to ipo-block if applicable */
272                                                         if (me->key->ipo && key->ipo) {
273                                                                 /* FIXME... this is a luxury item! */
274                                                                 puts("FIXME: ignoring IPO's when joining shapekeys on Meshes for now...");
275                                                         }
276 #endif
277                                                 }
278                                         }
279                                 }
280                         }
281                 }
282         }
283         CTX_DATA_END;
284         
285         /* setup new data for destination mesh */
286         memset(&vdata, 0, sizeof(vdata));
287         memset(&edata, 0, sizeof(edata));
288         memset(&fdata, 0, sizeof(fdata));
289         memset(&ldata, 0, sizeof(ldata));
290         memset(&pdata, 0, sizeof(pdata));
291         
292         mvert = CustomData_add_layer(&vdata, CD_MVERT, CD_CALLOC, NULL, totvert);
293         medge = CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
294         mloop = CustomData_add_layer(&ldata, CD_MLOOP, CD_CALLOC, NULL, totloop);
295         mpoly = CustomData_add_layer(&pdata, CD_MPOLY, CD_CALLOC, NULL, totpoly);
296
297         vertofs = 0;
298         edgeofs = 0;
299         loopofs = 0;
300         polyofs = 0;
301         
302         /* inverse transform for all selected meshes in this object */
303         invert_m4_m4(imat, ob->obmat);
304         
305         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
306         {
307                 /* only join if this is a mesh */
308                 if (base->object->type == OB_MESH) {
309                         me = base->object->data;
310                         
311                         if (me->totvert) {
312                                 /* standard data */
313                                 CustomData_merge(&me->vdata, &vdata, CD_MASK_MESH, CD_DEFAULT, totvert);
314                                 CustomData_copy_data(&me->vdata, &vdata, 0, vertofs, me->totvert);
315                                 
316                                 /* vertex groups */
317                                 dvert = CustomData_get(&vdata, vertofs, CD_MDEFORMVERT);
318                                 
319                                 /* NB: vertex groups here are new version */
320                                 if (dvert) {
321                                         for (i = 0; i < me->totvert; i++) {
322                                                 for (j = 0; j < dvert[i].totweight; j++) {
323                                                         /*      Find the old vertex group */
324                                                         odg = BLI_findlink(&base->object->defbase, dvert[i].dw[j].def_nr);
325                                                         if (odg) {
326                                                                 /*      Search for a match in the new object, and set new index */
327                                                                 for (dg = ob->defbase.first, index = 0; dg; dg = dg->next, index++) {
328                                                                         if (!strcmp(dg->name, odg->name)) {
329                                                                                 dvert[i].dw[j].def_nr = index;
330                                                                                 break;
331                                                                         }
332                                                                 }
333                                                         }
334                                                 }
335                                         }
336                                 }
337                                 
338                                 /* if this is the object we're merging into, no need to do anything */
339                                 if (base->object != ob) {
340                                         /* watch this: switch matmul order really goes wrong */
341                                         mult_m4_m4m4(cmat, imat, base->object->obmat);
342                                         
343                                         /* transform vertex coordinates into new space */
344                                         for (a = 0, mv = mvert; a < me->totvert; a++, mv++) {
345                                                 mul_m4_v3(cmat, mv->co);
346                                         }
347                                         
348                                         /* for each shapekey in destination mesh:
349                                          *      - if there's a matching one, copy it across (will need to transform vertices into new space...)
350                                          *      - otherwise, just copy own coordinates of mesh (no need to transform vertex coordinates into new space)
351                                          */
352                                         if (key) {
353                                                 /* if this mesh has any shapekeys, check first, otherwise just copy coordinates */
354                                                 for (kb = key->block.first; kb; kb = kb->next) {
355                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
356                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
357                                                         
358                                                         /* check if this mesh has such a shapekey */
359                                                         okb = key_get_named_keyblock(me->key, kb->name);
360                                                         if (okb) {
361                                                                 /* copy this mesh's shapekey to the destination shapekey (need to transform first) */
362                                                                 fp2 = ((float *)(okb->data));
363                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
364                                                                         copy_v3_v3(fp1, fp2);
365                                                                         mul_m4_v3(cmat, fp1);
366                                                                 }
367                                                         }
368                                                         else {
369                                                                 /* copy this mesh's vertex coordinates to the destination shapekey */
370                                                                 mv = mvert;
371                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
372                                                                         copy_v3_v3(fp1, mv->co);
373                                                                 }
374                                                         }
375                                                 }
376                                         }
377                                 }
378                                 else {
379                                         /* for each shapekey in destination mesh:
380                                          *      - if it was an 'original', copy the appropriate data from nkey
381                                          *      - otherwise, copy across plain coordinates (no need to transform coordinates)
382                                          */
383                                         if (key) {
384                                                 for (kb = key->block.first; kb; kb = kb->next) {
385                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
386                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
387                                                         
388                                                         /* check if this was one of the original shapekeys */
389                                                         okb = key_get_named_keyblock(nkey, kb->name);
390                                                         if (okb) {
391                                                                 /* copy this mesh's shapekey to the destination shapekey */
392                                                                 fp2 = ((float *)(okb->data));
393                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
394                                                                         copy_v3_v3(fp1, fp2);
395                                                                 }
396                                                         }
397                                                         else {
398                                                                 /* copy base-coordinates to the destination shapekey */
399                                                                 mv = mvert;
400                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
401                                                                         copy_v3_v3(fp1, mv->co);
402                                                                 }
403                                                         }
404                                                 }
405                                         }
406                                 }
407                                 
408                                 /* advance mvert pointer to end of base mesh's data */
409                                 mvert += me->totvert;
410                         }
411                         
412                         if (me->totedge) {
413                                 CustomData_merge(&me->edata, &edata, CD_MASK_MESH, CD_DEFAULT, totedge);
414                                 CustomData_copy_data(&me->edata, &edata, 0, edgeofs, me->totedge);
415                                 
416                                 for (a = 0; a < me->totedge; a++, medge++) {
417                                         medge->v1 += vertofs;
418                                         medge->v2 += vertofs;
419                                 }
420                         }
421
422                         if (me->totloop) {
423                                 if (base->object != ob) {
424                                         MultiresModifierData *mmd;
425
426                                         multiresModifier_prepare_join(scene, base->object, ob);
427
428                                         if ((mmd = get_multires_modifier(scene, base->object, TRUE))) {
429                                                 ED_object_iter_other(bmain, base->object, TRUE,
430                                                                                          ED_object_multires_update_totlevels_cb,
431                                                                                          &mmd->totlvl);
432                                         }
433                                 }
434                                 
435                                 CustomData_merge(&me->ldata, &ldata, CD_MASK_MESH, CD_DEFAULT, totloop);
436                                 CustomData_copy_data(&me->ldata, &ldata, 0, loopofs, me->totloop);
437                                 
438                                 for (a = 0; a < me->totloop; a++, mloop++) {
439                                         mloop->v += vertofs;
440                                         mloop->e += edgeofs;
441                                 }
442                         }
443                         
444                         if (me->totpoly) {
445                                 if (totmat) {
446                                         /* make mapping for materials */
447                                         for (a = 1; a <= base->object->totcol; a++) {
448                                                 ma = give_current_material(base->object, a);
449
450                                                 for (b = 0; b < totcol; b++) {
451                                                         if (ma == matar[b]) {
452                                                                 matmap[a - 1] = b;
453                                                                 break;
454                                                         }
455                                                 }
456                                         }
457                                 }
458
459                                 CustomData_merge(&me->pdata, &pdata, CD_MASK_MESH, CD_DEFAULT, totpoly);
460                                 CustomData_copy_data(&me->pdata, &pdata, 0, polyofs, me->totpoly);
461                                 
462                                 for (a = 0; a < me->totpoly; a++, mpoly++) {
463                                         mpoly->loopstart += loopofs;
464                                         mpoly->mat_nr = matmap ? matmap[(int)mpoly->mat_nr] : 0;
465                                 }
466                                 
467                                 polyofs += me->totpoly;
468                         }
469
470                         /* these are used for relinking (cannot be set earlier, 
471                          * or else reattaching goes wrong)
472                          */
473                         vertofs += me->totvert;
474                         edgeofs += me->totedge;
475                         loopofs += me->totloop;
476                         
477                         /* free base, now that data is merged */
478                         if (base->object != ob)
479                                 ED_base_object_free_and_unlink(bmain, scene, base);
480                 }
481         }
482         CTX_DATA_END;
483         
484         /* return to mesh we're merging to */
485         me = ob->data;
486         
487         CustomData_free(&me->vdata, me->totvert);
488         CustomData_free(&me->edata, me->totedge);
489         CustomData_free(&me->ldata, me->totloop);
490         CustomData_free(&me->pdata, me->totpoly);
491
492         me->totvert = totvert;
493         me->totedge = totedge;
494         me->totloop = totloop;
495         me->totpoly = totpoly;
496
497         me->vdata = vdata;
498         me->edata = edata;
499         me->ldata = ldata;
500         me->pdata = pdata;
501
502         mesh_update_customdata_pointers(me, TRUE); /* BMESH_TODO, check if this arg can be failse, non urgent - campbell */
503         
504         /* old material array */
505         for (a = 1; a <= ob->totcol; a++) {
506                 ma = ob->mat[a - 1];
507                 if (ma) ma->id.us--;
508         }
509         for (a = 1; a <= me->totcol; a++) {
510                 ma = me->mat[a - 1];
511                 if (ma) ma->id.us--;
512         }
513         if (ob->mat) MEM_freeN(ob->mat);
514         if (ob->matbits) MEM_freeN(ob->matbits);
515         if (me->mat) MEM_freeN(me->mat);
516         ob->mat = me->mat = NULL;
517         ob->matbits = NULL;
518         
519         if (totcol) {
520                 me->mat = matar;
521                 ob->mat = MEM_callocN(sizeof(void *) * totcol, "join obmatar");
522                 ob->matbits = MEM_callocN(sizeof(char) * totcol, "join obmatbits");
523         }
524         else
525                 MEM_freeN(matar);
526         
527         ob->totcol = me->totcol = totcol;
528
529         if (matmap) MEM_freeN(matmap);
530         
531         /* other mesh users */
532         test_object_materials((ID *)me);
533         
534         /* free temp copy of destination shapekeys (if applicable) */
535         if (nkey) {
536                 /* XXX 2.5 Animato */
537 #if 0
538                 /* free it's ipo too - both are not actually freed from memory yet as ID-blocks */
539                 if (nkey->ipo) {
540                         BKE_ipo_free(nkey->ipo);
541                         BLI_remlink(&bmain->ipo, nkey->ipo);
542                         MEM_freeN(nkey->ipo);
543                 }
544 #endif
545                 
546                 BKE_key_free(nkey);
547                 BLI_remlink(&bmain->key, nkey);
548                 MEM_freeN(nkey);
549         }
550         
551         DAG_scene_sort(bmain, scene);   // removed objects, need to rebuild dag before editmode call
552
553 #if 0
554         ED_object_enter_editmode(C, EM_WAITCURSOR);
555         ED_object_exit_editmode(C, EM_FREEDATA | EM_WAITCURSOR | EM_DO_UNDO);
556 #else
557         /* toggle editmode using lower level functions so this can be called from python */
558         EDBM_mesh_make(scene->toolsettings, scene, ob);
559         EDBM_mesh_load(ob);
560         EDBM_mesh_free(me->edit_btmesh);
561         MEM_freeN(me->edit_btmesh);
562         me->edit_btmesh = NULL;
563         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA);
564 #endif
565         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
566
567         return OPERATOR_FINISHED;
568 }
569
570 /*********************** JOIN AS SHAPES ***************************/
571
572 /* Append selected meshes vertex locations as shapes of the active mesh, 
573  * return 0 if no join is made (error) and 1 of the join is done */
574
575 int join_mesh_shapes_exec(bContext *C, wmOperator *op)
576 {
577         Scene *scene = CTX_data_scene(C);
578         Object *ob = CTX_data_active_object(C);
579         Mesh *me = (Mesh *)ob->data;
580         Mesh *selme = NULL;
581         DerivedMesh *dm = NULL;
582         Key *key = me->key;
583         KeyBlock *kb;
584         int ok = 0, nonequal_verts = 0;
585         
586         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
587         {
588                 if (base->object == ob) continue;
589                 
590                 if (base->object->type == OB_MESH) {
591                         selme = (Mesh *)base->object->data;
592                         
593                         if (selme->totvert == me->totvert)
594                                 ok++;
595                         else
596                                 nonequal_verts = 1;
597                 }
598         }
599         CTX_DATA_END;
600         
601         if (!ok) {
602                 if (nonequal_verts)
603                         BKE_report(op->reports, RPT_WARNING, "Selected meshes must have equal numbers of vertices");
604                 else
605                         BKE_report(op->reports, RPT_WARNING, "No additional selected meshes with equal vertex count to join");
606                 return OPERATOR_CANCELLED;
607         }
608         
609         if (key == NULL) {
610                 key = me->key = add_key((ID *)me);
611                 key->type = KEY_RELATIVE;
612
613                 /* first key added, so it was the basis. initialize it with the existing mesh */
614                 kb = add_keyblock(key, NULL);
615                 mesh_to_key(me, kb);
616         }
617         
618         /* now ready to add new keys from selected meshes */
619         CTX_DATA_BEGIN (C, Base *, base, selected_editable_bases)
620         {
621                 if (base->object == ob) continue;
622                 
623                 if (base->object->type == OB_MESH) {
624                         selme = (Mesh *)base->object->data;
625                         
626                         if (selme->totvert == me->totvert) {
627                                 dm = mesh_get_derived_deform(scene, base->object, CD_MASK_BAREMESH);
628                                 
629                                 if (!dm) continue;
630                                         
631                                 kb = add_keyblock(key, base->object->id.name + 2);
632                                 
633                                 DM_to_meshkey(dm, me, kb);
634                                 
635                                 dm->release(dm);
636                         }
637                 }
638         }
639         CTX_DATA_END;
640         
641         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
642         
643         return OPERATOR_FINISHED;
644 }
645
646 /* ********************* MESH VERTEX OCTREE LOOKUP ************* */
647
648 /* important note; this is unfinished, needs better API for editmode, and custom threshold */
649
650 #define MOC_RES         8
651 #define MOC_NODE_RES    8
652 #define MOC_THRESH      0.00002f
653
654 typedef struct MocNode {
655         struct MocNode *next;
656         intptr_t index[MOC_NODE_RES];
657 } MocNode;
658
659 static int mesh_octree_get_base_offs(const float co[3], const float offs[3], const float div[3])
660 {
661         int vx, vy, vz;
662         
663         vx = floor((co[0] - offs[0]) / div[0]);
664         vy = floor((co[1] - offs[1]) / div[1]);
665         vz = floor((co[2] - offs[2]) / div[2]);
666
667         CLAMP(vx, 0, MOC_RES - 1);
668         CLAMP(vy, 0, MOC_RES - 1);
669         CLAMP(vz, 0, MOC_RES - 1);
670
671         return (vx * MOC_RES * MOC_RES) + vy * MOC_RES + vz;
672 }
673
674 static void mesh_octree_add_node(MocNode **bt, intptr_t index)
675 {
676         if (*bt == NULL) {
677                 *bt = MEM_callocN(sizeof(MocNode), "MocNode");
678                 (*bt)->index[0] = index;
679         }
680         else {
681                 int a;
682                 for (a = 0; a < MOC_NODE_RES; a++) {
683                         if ((*bt)->index[a] == index)
684                                 return;
685                         else if ((*bt)->index[a] == 0) {
686                                 (*bt)->index[a] = index;
687                                 return;
688                         }
689                 }
690                 mesh_octree_add_node(&(*bt)->next, index);
691         }
692 }
693
694 static void mesh_octree_free_node(MocNode **bt)
695 {
696         if ( (*bt)->next) {
697                 mesh_octree_free_node(&(*bt)->next);
698         }
699         MEM_freeN(*bt);
700 }
701
702
703 /* temporal define, just to make nicer code below */
704 #define MOC_INDEX(vx, vy, vz)  (((vx) * MOC_RES * MOC_RES) + (vy) * MOC_RES + (vz))
705
706 static void mesh_octree_add_nodes(MocNode **basetable, const float co[3], const float offs[3],
707                                   const float div[3], intptr_t index)
708 {
709         float fx, fy, fz;
710         int vx, vy, vz;
711         
712         if ((finite(co[0]) == FALSE) ||
713             (finite(co[1]) == FALSE) ||
714             (finite(co[2]) == FALSE))
715         {
716                 return;
717         }
718         
719         fx = (co[0] - offs[0]) / div[0];
720         fy = (co[1] - offs[1]) / div[1];
721         fz = (co[2] - offs[2]) / div[2];
722         CLAMP(fx, 0.0f, MOC_RES - MOC_THRESH);
723         CLAMP(fy, 0.0f, MOC_RES - MOC_THRESH);
724         CLAMP(fz, 0.0f, MOC_RES - MOC_THRESH);
725
726         vx = (int)floorf(fx);
727         vy = (int)floorf(fy);
728         vz = (int)floorf(fz);
729
730         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz), index);
731
732         if (vx > 0)
733                 if (fx - ((float)vx) - MOC_THRESH < 0.0f)
734                         mesh_octree_add_node(basetable + MOC_INDEX(vx - 1, vy, vz), index);
735         if (vx < MOC_RES - 2)
736                 if (fx - ((float)vx) + MOC_THRESH > 1.0f)
737                         mesh_octree_add_node(basetable + MOC_INDEX(vx + 1, vy, vz), index);
738
739         if (vy > 0)
740                 if (fy - ((float)vy) - MOC_THRESH < 0.0f)
741                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy - 1, vz), index);
742         if (vy < MOC_RES - 2)
743                 if (fy - ((float)vy) + MOC_THRESH > 1.0f)
744                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy + 1, vz), index);
745
746         if (vz > 0)
747                 if (fz - ((float)vz) - MOC_THRESH < 0.0f)
748                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz - 1), index);
749         if (vz < MOC_RES - 2)
750                 if (fz - ((float)vz) + MOC_THRESH > 1.0f)
751                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz + 1), index);
752
753 }
754
755 static intptr_t mesh_octree_find_index(MocNode **bt, MVert *mvert, const float co[3])
756 {
757         float *vec;
758         int a;
759         
760         if (*bt == NULL)
761                 return -1;
762         
763         for (a = 0; a < MOC_NODE_RES; a++) {
764                 if ((*bt)->index[a]) {
765                         /* does mesh verts and editmode, code looks potential dangerous, octree should really be filled OK! */
766                         if (mvert) {
767                                 vec = (mvert + (*bt)->index[a] - 1)->co;
768                                 if (compare_v3v3(vec, co, MOC_THRESH))
769                                         return (*bt)->index[a] - 1;
770                         }
771                         else {
772                                 BMVert *eve = (BMVert *)((*bt)->index[a]);
773                                 if (compare_v3v3(eve->co, co, MOC_THRESH))
774                                         return (*bt)->index[a];
775                         }
776                 }
777                 else return -1;
778         }
779         if ( (*bt)->next)
780                 return mesh_octree_find_index(&(*bt)->next, mvert, co);
781         
782         return -1;
783 }
784
785 static struct {
786         MocNode **table;
787         float offs[3], div[3];
788 } MeshOctree = {NULL, {0, 0, 0}, {0, 0, 0}};
789
790 /* mode is 's' start, or 'e' end, or 'u' use */
791 /* if end, ob can be NULL */
792 intptr_t mesh_octree_table(Object *ob, BMEditMesh *em, const float co[3], char mode)
793 {
794         MocNode **bt;
795         
796         if (mode == 'u') {        /* use table */
797                 if (MeshOctree.table == NULL)
798                         mesh_octree_table(ob, em, NULL, 's');
799
800                 if (MeshOctree.table) {
801                         Mesh *me = ob->data;
802                         bt = MeshOctree.table + mesh_octree_get_base_offs(co, MeshOctree.offs, MeshOctree.div);
803                         if (em)
804                                 return mesh_octree_find_index(bt, NULL, co);
805                         else
806                                 return mesh_octree_find_index(bt, me->mvert, co);
807                 }
808                 return -1;
809         }
810         else if (mode == 's') {   /* start table */
811                 Mesh *me = ob->data;
812                 float min[3], max[3];
813
814                 /* we compute own bounding box and don't reuse ob->bb because
815                  * we are using the undeformed coordinates*/
816                 INIT_MINMAX(min, max);
817
818                 if (em && me->edit_btmesh == em) {
819                         BMIter iter;
820                         BMVert *eve;
821                         
822                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
823                                 minmax_v3v3_v3(min, max, eve->co);
824                         }
825                 }
826                 else {          
827                         MVert *mvert;
828                         int a;
829                         
830                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
831                                 minmax_v3v3_v3(min, max, mvert->co);
832                 }
833                 
834                 /* for quick unit coordinate calculus */
835                 copy_v3_v3(MeshOctree.offs, min);
836                 /* we offset it 1 threshold unit extra */
837                 add_v3_fl(MeshOctree.offs, -MOC_THRESH);
838                 
839                 sub_v3_v3v3(MeshOctree.div, max, min);
840                 /* and divide with 2 threshold unit more extra (try 8x8 unit grid on paint) */
841                 add_v3_fl(MeshOctree.div, 2.0f * MOC_THRESH);
842
843                 mul_v3_fl(MeshOctree.div, 1.0f / MOC_RES);
844                 if (MeshOctree.div[0] == 0.0f) MeshOctree.div[0] = 1.0f;
845                 if (MeshOctree.div[1] == 0.0f) MeshOctree.div[1] = 1.0f;
846                 if (MeshOctree.div[2] == 0.0f) MeshOctree.div[2] = 1.0f;
847                         
848                 if (MeshOctree.table) /* happens when entering this call without ending it */
849                         mesh_octree_table(ob, em, co, 'e');
850                 
851                 MeshOctree.table = MEM_callocN(MOC_RES * MOC_RES * MOC_RES * sizeof(void *), "sym table");
852                 
853                 if (em && me->edit_btmesh == em) {
854                         BMVert *eve;
855                         BMIter iter;
856
857                         BM_ITER_MESH (eve, &iter, em->bm, BM_VERTS_OF_MESH) {
858                                 mesh_octree_add_nodes(MeshOctree.table, eve->co, MeshOctree.offs, MeshOctree.div, (intptr_t)(eve));
859                         }
860                 }
861                 else {          
862                         MVert *mvert;
863                         int a;
864                         
865                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
866                                 mesh_octree_add_nodes(MeshOctree.table, mvert->co, MeshOctree.offs, MeshOctree.div, a + 1);
867                 }
868         }
869         else if (mode == 'e') { /* end table */
870                 if (MeshOctree.table) {
871                         int a;
872                         
873                         for (a = 0, bt = MeshOctree.table; a < MOC_RES * MOC_RES * MOC_RES; a++, bt++) {
874                                 if (*bt) mesh_octree_free_node(bt);
875                         }
876                         MEM_freeN(MeshOctree.table);
877                         MeshOctree.table = NULL;
878                 }
879         }
880         return 0;
881 }
882
883 static MirrTopoStore_t mesh_topo_store = {NULL, -1. - 1, -1};
884
885 /* mode is 's' start, or 'e' end, or 'u' use */
886 /* if end, ob can be NULL */
887 /* note, is supposed return -1 on error, which callers are currently checking for, but is not used so far */
888 int mesh_mirrtopo_table(Object *ob, char mode)
889 {
890         if (mode == 'u') {        /* use table */
891                 if (ED_mesh_mirrtopo_recalc_check(ob->data, ob->mode, &mesh_topo_store)) {
892                         mesh_mirrtopo_table(ob, 's');
893                 }
894         }
895         else if (mode == 's') { /* start table */
896                 ED_mesh_mirrtopo_init(ob->data, ob->mode, &mesh_topo_store, FALSE);
897         }
898         else if (mode == 'e') { /* end table */
899                 ED_mesh_mirrtopo_free(&mesh_topo_store);
900         }
901         return 0;
902 }
903
904 static int mesh_get_x_mirror_vert_spatial(Object *ob, int index)
905 {
906         Mesh *me = ob->data;
907         MVert *mvert;
908         float vec[3];
909         
910         mvert = me->mvert + index;
911         vec[0] = -mvert->co[0];
912         vec[1] = mvert->co[1];
913         vec[2] = mvert->co[2];
914         
915         return mesh_octree_table(ob, NULL, vec, 'u');
916 }
917
918 static int mesh_get_x_mirror_vert_topo(Object *ob, int index)
919 {
920         if (mesh_mirrtopo_table(ob, 'u') == -1)
921                 return -1;
922
923         return mesh_topo_store.index_lookup[index];
924 }
925
926 int mesh_get_x_mirror_vert(Object *ob, int index)
927 {
928         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
929                 return mesh_get_x_mirror_vert_topo(ob, index);
930         }
931         else {
932                 return mesh_get_x_mirror_vert_spatial(ob, index);
933         }
934         return 0;
935 }
936
937 static BMVert *editbmesh_get_x_mirror_vert_spatial(Object *ob, BMEditMesh *em, const float co[3])
938 {
939         float vec[3];
940         intptr_t poinval;
941         
942         /* ignore nan verts */
943         if ((finite(co[0]) == FALSE) ||
944             (finite(co[1]) == FALSE) ||
945             (finite(co[2]) == FALSE))
946         {
947                 return NULL;
948         }
949         
950         vec[0] = -co[0];
951         vec[1] = co[1];
952         vec[2] = co[2];
953         
954         poinval = mesh_octree_table(ob, em, vec, 'u');
955         if (poinval != -1)
956                 return (BMVert *)(poinval);
957         return NULL;
958 }
959
960 static BMVert *editbmesh_get_x_mirror_vert_topo(Object *ob, struct BMEditMesh *em, BMVert *eve, int index)
961 {
962         intptr_t poinval;
963         if (mesh_mirrtopo_table(ob, 'u') == -1)
964                 return NULL;
965
966         if (index == -1) {
967                 BMIter iter;
968                 BMVert *v;
969                 
970                 index = 0;
971                 BM_ITER_MESH (v, &iter, em->bm, BM_VERTS_OF_MESH) {
972                         if (v == eve)
973                                 break;
974                         index++;
975                 }
976                 
977                 if (index == em->bm->totvert) {
978                         return NULL;
979                 }
980         }
981
982         poinval = mesh_topo_store.index_lookup[index];
983
984         if (poinval != -1)
985                 return (BMVert *)(poinval);
986         return NULL;
987 }       
988
989 BMVert *editbmesh_get_x_mirror_vert(Object *ob, struct BMEditMesh *em, BMVert *eve, const float co[3], int index)
990 {
991         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
992                 return editbmesh_get_x_mirror_vert_topo(ob, em, eve, index);
993         }
994         else {
995                 return editbmesh_get_x_mirror_vert_spatial(ob, em, co);
996         }
997 }
998
999 #if 0
1000
1001 static float *editmesh_get_mirror_uv(BMEditMesh *em, int axis, float *uv, float *mirrCent, float *face_cent)
1002 {
1003         float vec[2];
1004         float cent_vec[2];
1005         float cent[2];
1006
1007         /* ignore nan verts */
1008         if (isnan(uv[0]) || !finite(uv[0]) ||
1009             isnan(uv[1]) || !finite(uv[1])
1010             )
1011                 return NULL;
1012
1013         if (axis) {
1014                 vec[0] = uv[0];
1015                 vec[1] = -((uv[1]) - mirrCent[1]) + mirrCent[1];
1016
1017                 cent_vec[0] = face_cent[0];
1018                 cent_vec[1] = -((face_cent[1]) - mirrCent[1]) + mirrCent[1];
1019         }
1020         else {
1021                 vec[0] = -((uv[0]) - mirrCent[0]) + mirrCent[0];
1022                 vec[1] = uv[1];
1023
1024                 cent_vec[0] = -((face_cent[0]) - mirrCent[0]) + mirrCent[0];
1025                 cent_vec[1] = face_cent[1];
1026         }
1027
1028         /* TODO - Optimize */
1029         {
1030                 BMIter iter;
1031                 BMFace *efa;
1032                 
1033                 BM_ITER_MESH (efa, &iter, em->bm, BM_FACES_OF_MESH) {
1034                         uv_poly_center(em, efa, cent);
1035                         
1036                         if ( (fabsf(cent[0] - cent_vec[0]) < 0.001f) && (fabsf(cent[1] - cent_vec[1]) < 0.001f) ) {
1037                                 BMIter liter;
1038                                 BMLoop *l;
1039                                 
1040                                 BM_ITER_ELEM (l, &liter, efa, BM_LOOPS_OF_FACE) {
1041                                         MLoopUV *luv = CustomData_bmesh_get(&em->bm->ldata, l->head.data, CD_MLOOPUV);
1042                                         if ( (fabsf(luv->uv[0] - vec[0]) < 0.001f) && (fabsf(luv->uv[1] - vec[1]) < 0.001f) ) {
1043                                                 return luv->uv;
1044                                                                 
1045                                         }
1046                                 }
1047                         }
1048                 }
1049         }
1050
1051         return NULL;
1052 }
1053
1054 #endif
1055
1056 static unsigned int mirror_facehash(const void *ptr)
1057 {
1058         const MFace *mf = ptr;
1059         int v0, v1;
1060
1061         if (mf->v4) {
1062                 v0 = MIN4(mf->v1, mf->v2, mf->v3, mf->v4);
1063                 v1 = MAX4(mf->v1, mf->v2, mf->v3, mf->v4);
1064         }
1065         else {
1066                 v0 = MIN3(mf->v1, mf->v2, mf->v3);
1067                 v1 = MAX3(mf->v1, mf->v2, mf->v3);
1068         }
1069
1070         return ((v0 * 39) ^ (v1 * 31));
1071 }
1072
1073 static int mirror_facerotation(MFace *a, MFace *b)
1074 {
1075         if (b->v4) {
1076                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3 && a->v4 == b->v4)
1077                         return 0;
1078                 else if (a->v4 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3 && a->v3 == b->v4)
1079                         return 1;
1080                 else if (a->v3 == b->v1 && a->v4 == b->v2 && a->v1 == b->v3 && a->v2 == b->v4)
1081                         return 2;
1082                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v4 == b->v3 && a->v1 == b->v4)
1083                         return 3;
1084         }
1085         else {
1086                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3)
1087                         return 0;
1088                 else if (a->v3 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3)
1089                         return 1;
1090                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v1 == b->v3)
1091                         return 2;
1092         }
1093         
1094         return -1;
1095 }
1096
1097 static int mirror_facecmp(const void *a, const void *b)
1098 {
1099         return (mirror_facerotation((MFace *)a, (MFace *)b) == -1);
1100 }
1101
1102 /* BMESH_TODO, convert to MPoly (functions above also) */
1103 int *mesh_get_x_mirror_faces(Object *ob, BMEditMesh *em)
1104 {
1105         Mesh *me = ob->data;
1106         MVert *mv, *mvert = me->mvert;
1107         MFace mirrormf, *mf, *hashmf, *mface = me->mface;
1108         GHash *fhash;
1109         int *mirrorverts, *mirrorfaces;
1110         int a;
1111
1112         mirrorverts = MEM_callocN(sizeof(int) * me->totvert, "MirrorVerts");
1113         mirrorfaces = MEM_callocN(sizeof(int) * 2 * me->totface, "MirrorFaces");
1114
1115         mesh_octree_table(ob, em, NULL, 's');
1116
1117         for (a = 0, mv = mvert; a < me->totvert; a++, mv++)
1118                 mirrorverts[a] = mesh_get_x_mirror_vert(ob, a);
1119
1120         mesh_octree_table(ob, em, NULL, 'e');
1121
1122         fhash = BLI_ghash_new(mirror_facehash, mirror_facecmp, "mirror_facehash gh");
1123         for (a = 0, mf = mface; a < me->totface; a++, mf++)
1124                 BLI_ghash_insert(fhash, mf, mf);
1125
1126         for (a = 0, mf = mface; a < me->totface; a++, mf++) {
1127                 mirrormf.v1 = mirrorverts[mf->v3];
1128                 mirrormf.v2 = mirrorverts[mf->v2];
1129                 mirrormf.v3 = mirrorverts[mf->v1];
1130                 mirrormf.v4 = (mf->v4) ? mirrorverts[mf->v4] : 0;
1131
1132                 /* make sure v4 is not 0 if a quad */
1133                 if (mf->v4 && mirrormf.v4 == 0) {
1134                         SWAP(unsigned int, mirrormf.v1, mirrormf.v3);
1135                         SWAP(unsigned int, mirrormf.v2, mirrormf.v4);
1136                 }
1137
1138                 hashmf = BLI_ghash_lookup(fhash, &mirrormf);
1139                 if (hashmf) {
1140                         mirrorfaces[a * 2] = hashmf - mface;
1141                         mirrorfaces[a * 2 + 1] = mirror_facerotation(&mirrormf, hashmf);
1142                 }
1143                 else
1144                         mirrorfaces[a * 2] = -1;
1145         }
1146
1147         BLI_ghash_free(fhash, NULL, NULL);
1148         MEM_freeN(mirrorverts);
1149         
1150         return mirrorfaces;
1151 }
1152
1153 /* selection, vertex and face */
1154 /* returns 0 if not found, otherwise 1 */
1155
1156 /**
1157  * Face selection in object mode,
1158  * currently only weight-paint and vertex-paint use this.
1159  *
1160  * \return boolean TRUE == Found
1161  */
1162 int ED_mesh_pick_face(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1163 {
1164         ViewContext vc;
1165
1166         if (!me || me->totpoly == 0)
1167                 return 0;
1168
1169         view3d_set_viewcontext(C, &vc);
1170
1171         if (size) {
1172                 /* sample rect to increase chances of selecting, so that when clicking
1173                  * on an edge in the backbuf, we can still select a face */
1174
1175                 int dummy_dist;
1176                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totpoly + 1, &dummy_dist, 0, NULL, NULL);
1177         }
1178         else {
1179                 /* sample only on the exact position */
1180                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1181         }
1182
1183         if ((*index) <= 0 || (*index) > (unsigned int)me->totpoly)
1184                 return 0;
1185
1186         (*index)--;
1187
1188         return 1;
1189 }
1190 /**
1191  * Use when the back buffer stores face index values. but we want a vert.
1192  * This gets the face then finds the closest vertex to mval.
1193  */
1194 int ED_mesh_pick_face_vert(bContext *C, Mesh *me, Object *ob, const int mval[2], unsigned int *index, int size)
1195 {
1196         unsigned int poly_index;
1197
1198         if (ED_mesh_pick_face(C, me, mval, &poly_index, size)) {
1199                 Scene *scene = CTX_data_scene(C);
1200                 struct ARegion *ar = CTX_wm_region(C);
1201
1202                 /* derived mesh to find deformed locations */
1203                 DerivedMesh *dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
1204                 int v_idx_best = -1;
1205
1206                 if (dm->getVertCo) {
1207                         /* find the vert closest to 'mval' */
1208                         const float mval_f[2] = {(float)mval[0],
1209                                                  (float)mval[1]};
1210                         MPoly *mp = &me->mpoly[poly_index];
1211                         int fidx;
1212                         float len_best = FLT_MAX;
1213
1214                         fidx = mp->totloop - 1;
1215                         do {
1216                                 float co[3], sco[2], len;
1217                                 const int v_idx = me->mloop[mp->loopstart + fidx].v;
1218                                 dm->getVertCo(dm, v_idx, co);
1219                                 mul_m4_v3(ob->obmat, co);
1220                                 project_float_noclip(ar, co, sco);
1221                                 len = len_squared_v2v2(mval_f, sco);
1222                                 if (len < len_best) {
1223                                         len_best = len;
1224                                         v_idx_best = v_idx;
1225                                 }
1226                         } while (fidx--);
1227                 }
1228
1229                 dm->release(dm);
1230
1231                 if (v_idx_best != -1) {
1232                         *index = v_idx_best;
1233                         return 1;
1234                 }
1235         }
1236
1237         return 0;
1238 }
1239
1240 /**
1241  * Vertex selection in object mode,
1242  * currently only weight paint uses this.
1243  *
1244  * \return boolean TRUE == Found
1245  */
1246 int ED_mesh_pick_vert(bContext *C, Mesh *me, const int mval[2], unsigned int *index, int size)
1247 {
1248         ViewContext vc;
1249
1250         if (!me || me->totvert == 0)
1251                 return 0;
1252
1253         view3d_set_viewcontext(C, &vc);
1254
1255         if (size > 0) {
1256                 /* sample rect to increase chances of selecting, so that when clicking
1257                  * on an face in the backbuf, we can still select a vert */
1258
1259                 int dummy_dist;
1260                 *index = view3d_sample_backbuf_rect(&vc, mval, size, 1, me->totvert + 1, &dummy_dist, 0, NULL, NULL);
1261         }
1262         else {
1263                 /* sample only on the exact position */
1264                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
1265         }
1266
1267         if ((*index) <= 0 || (*index) > (unsigned int)me->totvert)
1268                 return 0;
1269
1270         (*index)--;
1271
1272         return 1;
1273 }