37922b6e6937f6d456a7c7ac2114b1bb8b8635a0
[blender.git] / source / blender / editors / mesh / meshtools.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2004 by Blender Foundation
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/mesh/meshtools.c
29  *  \ingroup edmesh
30  */
31
32
33 /*
34  * meshtools.c: no editmode (violated already :), tools operating on meshes
35  */
36
37 #include <stddef.h>
38 #include <stdlib.h>
39 #include <math.h>
40 #include <float.h>
41
42 #include "MEM_guardedalloc.h"
43
44 #include "DNA_mesh_types.h"
45 #include "DNA_key_types.h"
46 #include "DNA_material_types.h"
47 #include "DNA_meshdata_types.h"
48 #include "DNA_object_types.h"
49 #include "DNA_scene_types.h"
50
51 #include "BLI_math.h"
52 #include "BLI_blenlib.h"
53 #include "BLI_utildefines.h"
54 #include "BLI_ghash.h"
55 #include "BLI_rand.h" /* for randome face sorting */
56 #include "BLI_threads.h"
57
58
59 #include "BKE_context.h"
60 #include "BKE_depsgraph.h"
61 #include "BKE_deform.h"
62 #include "BKE_DerivedMesh.h"
63 #include "BKE_key.h"
64 #include "BKE_library.h"
65 #include "BKE_main.h"
66 #include "BKE_mesh.h"
67 #include "BKE_material.h"
68 #include "BKE_report.h"
69 #include "BKE_tessmesh.h"
70 #include "BKE_multires.h"
71
72 #include "BLO_sys_types.h" // for intptr_t support
73
74 #include "ED_mesh.h"
75 #include "ED_object.h"
76 #include "ED_view3d.h"
77
78 #include "WM_api.h"
79 #include "WM_types.h"
80
81 /* own include */
82 #include "mesh_intern.h"
83 #include "uvedit_intern.h"
84
85 /* * ********************** no editmode!!! *********** */
86
87 /*********************** JOIN ***************************/
88
89 /* join selected meshes into the active mesh, context sensitive
90  * return 0 if no join is made (error) and 1 if the join is done */
91
92 int join_mesh_exec(bContext *C, wmOperator *op)
93 {
94         Main *bmain = CTX_data_main(C);
95         Scene *scene = CTX_data_scene(C);
96         Object *ob = CTX_data_active_object(C);
97         Material **matar, *ma;
98         Mesh *me;
99         MVert *mvert, *mv;
100         MEdge *medge = NULL;
101         MPoly *mpoly = NULL;
102         MLoop *mloop = NULL;
103         Key *key, *nkey = NULL;
104         KeyBlock *kb, *okb, *kbn;
105         float imat[4][4], cmat[4][4], *fp1, *fp2, curpos;
106         int a, b, totcol, totmat = 0, totedge = 0, totvert = 0, ok = 0;
107         int totloop = 0, totpoly = 0, vertofs, *matmap = NULL;
108         int i, j, index, haskey = 0, edgeofs, loopofs, polyofs;
109         bDeformGroup *dg, *odg;
110         MDeformVert *dvert;
111         CustomData vdata, edata, fdata, ldata, pdata;
112
113         if (scene->obedit) {
114                 BKE_report(op->reports, RPT_WARNING, "Cant join while in editmode");
115                 return OPERATOR_CANCELLED;
116         }
117         
118         /* ob is the object we are adding geometry to */
119         if (!ob || ob->type != OB_MESH) {
120                 BKE_report(op->reports, RPT_WARNING, "Active object is not a mesh");
121                 return OPERATOR_CANCELLED;
122         }
123         
124         /* count & check */
125         CTX_DATA_BEGIN(C, Base *, base, selected_editable_bases) {
126                 if (base->object->type == OB_MESH) {
127                         me = base->object->data;
128
129                         totvert += me->totvert;
130                         totedge += me->totedge;
131                         totloop += me->totloop;
132                         totpoly += me->totpoly;
133                         totmat += base->object->totcol;
134                         
135                         if (base->object == ob)
136                                 ok = 1;
137                         
138                         /* check for shapekeys */
139                         if (me->key)
140                                 haskey++;
141                 }
142         }
143         CTX_DATA_END;
144         
145         /* that way the active object is always selected */ 
146         if (ok == 0) {
147                 BKE_report(op->reports, RPT_WARNING, "Active object is not a selected mesh");
148                 return OPERATOR_CANCELLED;
149         }
150         
151         /* only join meshes if there are verts to join, there aren't too many, and we only had one mesh selected */
152         me = (Mesh *)ob->data;
153         key = me->key;
154
155         if (totvert == 0 || totvert == me->totvert) {
156                 BKE_report(op->reports, RPT_WARNING, "No mesh data to join");
157                 return OPERATOR_CANCELLED;
158         }
159         
160         if (totvert > MESH_MAX_VERTS) {
161                 BKE_reportf(op->reports, RPT_WARNING, "Joining results in %d vertices, limit is " STRINGIFY(MESH_MAX_VERTS), totvert);
162                 return OPERATOR_CANCELLED;              
163         }
164
165         /* new material indices and material array */
166         matar = MEM_callocN(sizeof(void *) * totmat, "join_mesh matar");
167         if (totmat) matmap = MEM_callocN(sizeof(int) * totmat, "join_mesh matmap");
168         totcol = ob->totcol;
169         
170         /* obact materials in new main array, is nicer start! */
171         for (a = 0; a < ob->totcol; a++) {
172                 matar[a] = give_current_material(ob, a + 1);
173                 id_us_plus((ID *)matar[a]);
174                 /* increase id->us : will be lowered later */
175         }
176         
177         /* - if destination mesh had shapekeys, move them somewhere safe, and set up placeholders
178          *  with arrays that are large enough to hold shapekey data for all meshes
179          * -    if destination mesh didn't have shapekeys, but we encountered some in the meshes we're 
180          *      joining, set up a new keyblock and assign to the mesh
181          */
182         if (key) {
183                 /* make a duplicate copy that will only be used here... (must remember to free it!) */
184                 nkey = copy_key(key);
185                 
186                 /* for all keys in old block, clear data-arrays */
187                 for (kb = key->block.first; kb; kb = kb->next) {
188                         if (kb->data) MEM_freeN(kb->data);
189                         kb->data = MEM_callocN(sizeof(float) * 3 * totvert, "join_shapekey");
190                         kb->totelem = totvert;
191                         kb->weights = NULL;
192                 }
193         }
194         else if (haskey) {
195                 /* add a new key-block and add to the mesh */
196                 key = me->key = add_key((ID *)me);
197                 key->type = KEY_RELATIVE;
198         }
199         
200         /* first pass over objects - copying materials and vertexgroups across */
201         CTX_DATA_BEGIN(C, Base *, base, selected_editable_bases)
202         {
203                 /* only act if a mesh, and not the one we're joining to */
204                 if ((ob != base->object) && (base->object->type == OB_MESH)) {
205                         me = base->object->data;
206                         
207                         /* Join this object's vertex groups to the base one's */
208                         for (dg = base->object->defbase.first; dg; dg = dg->next) {
209                                 /* See if this group exists in the object (if it doesn't, add it to the end) */
210                                 if (!defgroup_find_name(ob, dg->name)) {
211                                         odg = MEM_callocN(sizeof(bDeformGroup), "join deformGroup");
212                                         memcpy(odg, dg, sizeof(bDeformGroup));
213                                         BLI_addtail(&ob->defbase, odg);
214                                 }
215                         }
216                         if (ob->defbase.first && ob->actdef == 0)
217                                 ob->actdef = 1;
218                         
219                         
220                         if (me->totvert) {
221                                 /* Add this object's materials to the base one's if they don't exist already (but only if limits not exceeded yet) */
222                                 if (totcol < MAXMAT) {
223                                         for (a = 1; a <= base->object->totcol; a++) {
224                                                 ma = give_current_material(base->object, a);
225
226                                                 for (b = 0; b < totcol; b++) {
227                                                         if (ma == matar[b]) break;
228                                                 }
229                                                 if (b == totcol) {
230                                                         matar[b] = ma;
231                                                         if (ma) {
232                                                                 id_us_plus(&ma->id);
233                                                         }
234                                                         totcol++;
235                                                 }
236                                                 if (totcol >= MAXMAT)
237                                                         break;
238                                         }
239                                 }
240                                 
241                                 /* if this mesh has shapekeys, check if destination mesh already has matching entries too */
242                                 if (me->key && key) {
243                                         for (kb = me->key->block.first; kb; kb = kb->next) {
244                                                 /* if key doesn't exist in destination mesh, add it */
245                                                 if (key_get_named_keyblock(key, kb->name) == NULL) {
246                                                         /* copy this existing one over to the new shapekey block */
247                                                         kbn = MEM_dupallocN(kb);
248                                                         kbn->prev = kbn->next = NULL;
249                                                         
250                                                         /* adjust adrcode and other settings to fit (allocate a new data-array) */
251                                                         kbn->data = MEM_callocN(sizeof(float) * 3 * totvert, "joined_shapekey");
252                                                         kbn->totelem = totvert;
253                                                         kbn->weights = NULL;
254                                                         
255                                                         okb = key->block.last;
256                                                         curpos = (okb) ? okb->pos : -0.1f;
257                                                         if (key->type == KEY_RELATIVE)
258                                                                 kbn->pos = curpos + 0.1f;
259                                                         else
260                                                                 kbn->pos = curpos;
261                                                         
262                                                         BLI_addtail(&key->block, kbn);
263                                                         kbn->adrcode = key->totkey;
264                                                         key->totkey++;
265                                                         if (key->totkey == 1) key->refkey = kbn;
266                                                         
267                                                         // XXX 2.5 Animato
268 #if 0
269                                                         /* also, copy corresponding ipo-curve to ipo-block if applicable */
270                                                         if (me->key->ipo && key->ipo) {
271                                                                 // FIXME... this is a luxury item!
272                                                                 puts("FIXME: ignoring IPO's when joining shapekeys on Meshes for now...");
273                                                         }
274 #endif
275                                                 }
276                                         }
277                                 }
278                         }
279                 }
280         }
281         CTX_DATA_END;
282         
283         /* setup new data for destination mesh */
284         memset(&vdata, 0, sizeof(vdata));
285         memset(&edata, 0, sizeof(edata));
286         memset(&fdata, 0, sizeof(fdata));
287         memset(&ldata, 0, sizeof(ldata));
288         memset(&pdata, 0, sizeof(pdata));
289         
290         mvert = CustomData_add_layer(&vdata, CD_MVERT, CD_CALLOC, NULL, totvert);
291         medge = CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
292         mloop = CustomData_add_layer(&ldata, CD_MLOOP, CD_CALLOC, NULL, totloop);
293         mpoly = CustomData_add_layer(&pdata, CD_MPOLY, CD_CALLOC, NULL, totpoly);
294
295         vertofs = 0;
296         edgeofs = 0;
297         loopofs = 0;
298         polyofs = 0;
299         
300         /* inverse transform for all selected meshes in this object */
301         invert_m4_m4(imat, ob->obmat);
302         
303         CTX_DATA_BEGIN(C, Base *, base, selected_editable_bases)
304         {
305                 /* only join if this is a mesh */
306                 if (base->object->type == OB_MESH) {
307                         me = base->object->data;
308                         
309                         if (me->totvert) {
310                                 /* standard data */
311                                 CustomData_merge(&me->vdata, &vdata, CD_MASK_MESH, CD_DEFAULT, totvert);
312                                 CustomData_copy_data(&me->vdata, &vdata, 0, vertofs, me->totvert);
313                                 
314                                 /* vertex groups */
315                                 dvert = CustomData_get(&vdata, vertofs, CD_MDEFORMVERT);
316                                 
317                                 /* NB: vertex groups here are new version */
318                                 if (dvert) {
319                                         for (i = 0; i < me->totvert; i++) {
320                                                 for (j = 0; j < dvert[i].totweight; j++) {
321                                                         /*      Find the old vertex group */
322                                                         odg = BLI_findlink(&base->object->defbase, dvert[i].dw[j].def_nr);
323                                                         if (odg) {
324                                                                 /*      Search for a match in the new object, and set new index */
325                                                                 for (dg = ob->defbase.first, index = 0; dg; dg = dg->next, index++) {
326                                                                         if (!strcmp(dg->name, odg->name)) {
327                                                                                 dvert[i].dw[j].def_nr = index;
328                                                                                 break;
329                                                                         }
330                                                                 }
331                                                         }
332                                                 }
333                                         }
334                                 }
335                                 
336                                 /* if this is the object we're merging into, no need to do anything */
337                                 if (base->object != ob) {
338                                         /* watch this: switch matmul order really goes wrong */
339                                         mult_m4_m4m4(cmat, imat, base->object->obmat);
340                                         
341                                         /* transform vertex coordinates into new space */
342                                         for (a = 0, mv = mvert; a < me->totvert; a++, mv++) {
343                                                 mul_m4_v3(cmat, mv->co);
344                                         }
345                                         
346                                         /* for each shapekey in destination mesh:
347                                          *      - if there's a matching one, copy it across (will need to transform vertices into new space...)
348                                          *      - otherwise, just copy own coordinates of mesh (no need to transform vertex coordinates into new space)
349                                          */
350                                         if (key) {
351                                                 /* if this mesh has any shapekeys, check first, otherwise just copy coordinates */
352                                                 for (kb = key->block.first; kb; kb = kb->next) {
353                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
354                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
355                                                         
356                                                         /* check if this mesh has such a shapekey */
357                                                         okb = key_get_named_keyblock(me->key, kb->name);
358                                                         if (okb) {
359                                                                 /* copy this mesh's shapekey to the destination shapekey (need to transform first) */
360                                                                 fp2 = ((float *)(okb->data));
361                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
362                                                                         copy_v3_v3(fp1, fp2);
363                                                                         mul_m4_v3(cmat, fp1);
364                                                                 }
365                                                         }
366                                                         else {
367                                                                 /* copy this mesh's vertex coordinates to the destination shapekey */
368                                                                 mv = mvert;
369                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
370                                                                         copy_v3_v3(fp1, mv->co);
371                                                                 }
372                                                         }
373                                                 }
374                                         }
375                                 }
376                                 else {
377                                         /* for each shapekey in destination mesh:
378                                          *      - if it was an 'original', copy the appropriate data from nkey
379                                          *      - otherwise, copy across plain coordinates (no need to transform coordinates)
380                                          */
381                                         if (key) {
382                                                 for (kb = key->block.first; kb; kb = kb->next) {
383                                                         /* get pointer to where to write data for this mesh in shapekey's data array */
384                                                         fp1 = ((float *)kb->data) + (vertofs * 3);
385                                                         
386                                                         /* check if this was one of the original shapekeys */
387                                                         okb = key_get_named_keyblock(nkey, kb->name);
388                                                         if (okb) {
389                                                                 /* copy this mesh's shapekey to the destination shapekey */
390                                                                 fp2 = ((float *)(okb->data));
391                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, fp2 += 3) {
392                                                                         copy_v3_v3(fp1, fp2);
393                                                                 }
394                                                         }
395                                                         else {
396                                                                 /* copy base-coordinates to the destination shapekey */
397                                                                 mv = mvert;
398                                                                 for (a = 0; a < me->totvert; a++, fp1 += 3, mv++) {
399                                                                         copy_v3_v3(fp1, mv->co);
400                                                                 }
401                                                         }
402                                                 }
403                                         }
404                                 }
405                                 
406                                 /* advance mvert pointer to end of base mesh's data */
407                                 mvert += me->totvert;
408                         }
409                         
410                         if (me->totedge) {
411                                 CustomData_merge(&me->edata, &edata, CD_MASK_MESH, CD_DEFAULT, totedge);
412                                 CustomData_copy_data(&me->edata, &edata, 0, edgeofs, me->totedge);
413                                 
414                                 for (a = 0; a < me->totedge; a++, medge++) {
415                                         medge->v1 += vertofs;
416                                         medge->v2 += vertofs;
417                                 }
418                         }
419
420                         if (me->totloop) {
421                                 if (base->object != ob)
422                                         multiresModifier_prepare_join(scene, base->object, ob);
423                                 
424                                 CustomData_merge(&me->ldata, &ldata, CD_MASK_MESH, CD_DEFAULT, totloop);
425                                 CustomData_copy_data(&me->ldata, &ldata, 0, loopofs, me->totloop);
426                                 
427                                 for (a = 0; a < me->totloop; a++, mloop++) {
428                                         mloop->v += vertofs;
429                                         mloop->e += edgeofs;
430                                 }
431                         }
432                         
433                         if (me->totpoly) {
434                                 /* make mapping for materials */
435                                 for (a = 1; a <= base->object->totcol; a++) {
436                                         ma = give_current_material(base->object, a);
437
438                                         for (b = 0; b < totcol; b++) {
439                                                 if (ma == matar[b]) {
440                                                         matmap[a - 1] = b;
441                                                         break;
442                                                 }
443                                         }
444                                 }
445                                 
446                                 CustomData_merge(&me->pdata, &pdata, CD_MASK_MESH, CD_DEFAULT, totpoly);
447                                 CustomData_copy_data(&me->pdata, &pdata, 0, polyofs, me->totpoly);
448                                 
449                                 for (a = 0; a < me->totpoly; a++, mpoly++) {
450                                         mpoly->loopstart += loopofs;
451                                         mpoly->mat_nr = matmap ? matmap[(int)mpoly->mat_nr] : 0;
452                                 }
453                                 
454                                 polyofs += me->totpoly;
455                         }
456
457                         /* these are used for relinking (cannot be set earlier, 
458                          * or else reattaching goes wrong)
459                          */
460                         vertofs += me->totvert;
461                         edgeofs += me->totedge;
462                         loopofs += me->totloop;
463                         
464                         /* free base, now that data is merged */
465                         if (base->object != ob)
466                                 ED_base_object_free_and_unlink(bmain, scene, base);
467                 }
468         }
469         CTX_DATA_END;
470         
471         /* return to mesh we're merging to */
472         me = ob->data;
473         
474         CustomData_free(&me->vdata, me->totvert);
475         CustomData_free(&me->edata, me->totedge);
476         CustomData_free(&me->ldata, me->totloop);
477         CustomData_free(&me->pdata, me->totpoly);
478
479         me->totvert = totvert;
480         me->totedge = totedge;
481         me->totloop = totloop;
482         me->totpoly = totpoly;
483
484         me->vdata = vdata;
485         me->edata = edata;
486         me->ldata = ldata;
487         me->pdata = pdata;
488
489         mesh_update_customdata_pointers(me, TRUE); /* BMESH_TODO, check if this arg can be failse, non urgent - campbell */
490         
491         /* old material array */
492         for (a = 1; a <= ob->totcol; a++) {
493                 ma = ob->mat[a - 1];
494                 if (ma) ma->id.us--;
495         }
496         for (a = 1; a <= me->totcol; a++) {
497                 ma = me->mat[a - 1];
498                 if (ma) ma->id.us--;
499         }
500         if (ob->mat) MEM_freeN(ob->mat);
501         if (ob->matbits) MEM_freeN(ob->matbits);
502         if (me->mat) MEM_freeN(me->mat);
503         ob->mat = me->mat = NULL;
504         ob->matbits = NULL;
505         
506         if (totcol) {
507                 me->mat = matar;
508                 ob->mat = MEM_callocN(sizeof(void *) * totcol, "join obmatar");
509                 ob->matbits = MEM_callocN(sizeof(char) * totcol, "join obmatbits");
510         }
511         else
512                 MEM_freeN(matar);
513         
514         ob->totcol = me->totcol = totcol;
515
516         if (matmap) MEM_freeN(matmap);
517         
518         /* other mesh users */
519         test_object_materials((ID *)me);
520         
521         /* free temp copy of destination shapekeys (if applicable) */
522         if (nkey) {
523                 // XXX 2.5 Animato
524 #if 0
525                 /* free it's ipo too - both are not actually freed from memory yet as ID-blocks */
526                 if (nkey->ipo) {
527                         free_ipo(nkey->ipo);
528                         BLI_remlink(&bmain->ipo, nkey->ipo);
529                         MEM_freeN(nkey->ipo);
530                 }
531 #endif
532                 
533                 free_key(nkey);
534                 BLI_remlink(&bmain->key, nkey);
535                 MEM_freeN(nkey);
536         }
537         
538         DAG_scene_sort(bmain, scene);   // removed objects, need to rebuild dag before editmode call
539
540 #if 0
541         ED_object_enter_editmode(C, EM_WAITCURSOR);
542         ED_object_exit_editmode(C, EM_FREEDATA | EM_WAITCURSOR | EM_DO_UNDO);
543 #else
544         /* toggle editmode using lower level functions so this can be called from python */
545         EDBM_mesh_make(scene->toolsettings, scene, ob);
546         EDBM_mesh_load(ob);
547         EDBM_mesh_free(me->edit_btmesh);
548         MEM_freeN(me->edit_btmesh);
549         me->edit_btmesh = NULL;
550         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA);
551 #endif
552         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
553
554         return OPERATOR_FINISHED;
555 }
556
557 /*********************** JOIN AS SHAPES ***************************/
558
559 /* Append selected meshes vertex locations as shapes of the active mesh, 
560  * return 0 if no join is made (error) and 1 of the join is done */
561
562 int join_mesh_shapes_exec(bContext *C, wmOperator *op)
563 {
564         Scene *scene = CTX_data_scene(C);
565         Object *ob = CTX_data_active_object(C);
566         Mesh *me = (Mesh *)ob->data;
567         Mesh *selme = NULL;
568         DerivedMesh *dm = NULL;
569         Key *key = me->key;
570         KeyBlock *kb;
571         int ok = 0, nonequal_verts = 0;
572         
573         CTX_DATA_BEGIN(C, Base *, base, selected_editable_bases) {
574                 if (base->object == ob) continue;
575                 
576                 if (base->object->type == OB_MESH) {
577                         selme = (Mesh *)base->object->data;
578                         
579                         if (selme->totvert == me->totvert)
580                                 ok++;
581                         else
582                                 nonequal_verts = 1;
583                 }
584         }
585         CTX_DATA_END;
586         
587         if (!ok) {
588                 if (nonequal_verts)
589                         BKE_report(op->reports, RPT_WARNING, "Selected meshes must have equal numbers of vertices");
590                 else
591                         BKE_report(op->reports, RPT_WARNING, "No additional selected meshes with equal vertex count to join");
592                 return OPERATOR_CANCELLED;
593         }
594         
595         if (key == NULL) {
596                 key = me->key = add_key((ID *)me);
597                 key->type = KEY_RELATIVE;
598
599                 /* first key added, so it was the basis. initialize it with the existing mesh */
600                 kb = add_keyblock(key, NULL);
601                 mesh_to_key(me, kb);
602         }
603         
604         /* now ready to add new keys from selected meshes */
605         CTX_DATA_BEGIN(C, Base *, base, selected_editable_bases)
606         {
607                 if (base->object == ob) continue;
608                 
609                 if (base->object->type == OB_MESH) {
610                         selme = (Mesh *)base->object->data;
611                         
612                         if (selme->totvert == me->totvert) {
613                                 dm = mesh_get_derived_deform(scene, base->object, CD_MASK_BAREMESH);
614                                 
615                                 if (!dm) continue;
616                                         
617                                 kb = add_keyblock(key, base->object->id.name + 2);
618                                 
619                                 DM_to_meshkey(dm, me, kb);
620                                 
621                                 dm->release(dm);
622                         }
623                 }
624         }
625         CTX_DATA_END;
626         
627         WM_event_add_notifier(C, NC_SCENE | ND_OB_ACTIVE, scene);
628         
629         return OPERATOR_FINISHED;
630 }
631
632 /* ********************* MESH VERTEX OCTREE LOOKUP ************* */
633
634 /* important note; this is unfinished, needs better API for editmode, and custom threshold */
635
636 #define MOC_RES         8
637 #define MOC_NODE_RES    8
638 #define MOC_THRESH      0.00002f
639
640 typedef struct MocNode {
641         struct MocNode *next;
642         intptr_t index[MOC_NODE_RES];
643 } MocNode;
644
645 static int mesh_octree_get_base_offs(float *co, float *offs, float *div)
646 {
647         int vx, vy, vz;
648         
649         vx = floor( (co[0] - offs[0]) / div[0]);
650         vy = floor( (co[1] - offs[1]) / div[1]);
651         vz = floor( (co[2] - offs[2]) / div[2]);
652
653         CLAMP(vx, 0, MOC_RES - 1);
654         CLAMP(vy, 0, MOC_RES - 1);
655         CLAMP(vz, 0, MOC_RES - 1);
656
657         return (vx * MOC_RES * MOC_RES) + vy * MOC_RES + vz;
658 }
659
660 static void mesh_octree_add_node(MocNode **bt, intptr_t index)
661 {
662         if (*bt == NULL) {
663                 *bt = MEM_callocN(sizeof(MocNode), "MocNode");
664                 (*bt)->index[0] = index;
665         }
666         else {
667                 int a;
668                 for (a = 0; a < MOC_NODE_RES; a++) {
669                         if ((*bt)->index[a] == index)
670                                 return;
671                         else if ((*bt)->index[a] == 0) {
672                                 (*bt)->index[a] = index;
673                                 return;
674                         }
675                 }
676                 mesh_octree_add_node(&(*bt)->next, index);
677         }
678 }
679
680 static void mesh_octree_free_node(MocNode **bt)
681 {
682         if ( (*bt)->next) {
683                 mesh_octree_free_node(&(*bt)->next);
684         }
685         MEM_freeN(*bt);
686 }
687
688
689 /* temporal define, just to make nicer code below */
690 #define MOC_INDEX(vx, vy, vz)  (((vx) * MOC_RES * MOC_RES) + (vy) * MOC_RES + (vz))
691
692 static void mesh_octree_add_nodes(MocNode **basetable, float *co, float *offs, float *div, intptr_t index)
693 {
694         float fx, fy, fz;
695         int vx, vy, vz;
696         
697         if (!finite(co[0]) ||
698             !finite(co[1]) ||
699             !finite(co[2]))
700         {
701                 return;
702         }
703         
704         fx = (co[0] - offs[0]) / div[0];
705         fy = (co[1] - offs[1]) / div[1];
706         fz = (co[2] - offs[2]) / div[2];
707         CLAMP(fx, 0.0f, MOC_RES - MOC_THRESH);
708         CLAMP(fy, 0.0f, MOC_RES - MOC_THRESH);
709         CLAMP(fz, 0.0f, MOC_RES - MOC_THRESH);
710
711         vx = (int)floorf(fx);
712         vy = (int)floorf(fy);
713         vz = (int)floorf(fz);
714
715         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz), index);
716
717         if (vx > 0)
718                 if (fx - ((float)vx) - MOC_THRESH < 0.0f)
719                         mesh_octree_add_node(basetable + MOC_INDEX(vx - 1, vy, vz), index);
720         if (vx < MOC_RES - 2)
721                 if (fx - ((float)vx) + MOC_THRESH > 1.0f)
722                         mesh_octree_add_node(basetable + MOC_INDEX(vx + 1, vy, vz), index);
723
724         if (vy > 0)
725                 if (fy - ((float)vy) - MOC_THRESH < 0.0f)
726                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy - 1, vz), index);
727         if (vy < MOC_RES - 2)
728                 if (fy - ((float)vy) + MOC_THRESH > 1.0f)
729                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy + 1, vz), index);
730
731         if (vz > 0)
732                 if (fz - ((float)vz) - MOC_THRESH < 0.0f)
733                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz - 1), index);
734         if (vz < MOC_RES - 2)
735                 if (fz - ((float)vz) + MOC_THRESH > 1.0f)
736                         mesh_octree_add_node(basetable + MOC_INDEX(vx, vy, vz + 1), index);
737
738 }
739
740 static intptr_t mesh_octree_find_index(MocNode **bt, MVert *mvert, float *co)
741 {
742         float *vec;
743         int a;
744         
745         if (*bt == NULL)
746                 return -1;
747         
748         for (a = 0; a < MOC_NODE_RES; a++) {
749                 if ((*bt)->index[a]) {
750                         /* does mesh verts and editmode, code looks potential dangerous, octree should really be filled OK! */
751                         if (mvert) {
752                                 vec = (mvert + (*bt)->index[a] - 1)->co;
753                                 if (compare_v3v3(vec, co, MOC_THRESH))
754                                         return (*bt)->index[a] - 1;
755                         }
756                         else {
757                                 BMVert *eve = (BMVert *)((*bt)->index[a]);
758                                 if (compare_v3v3(eve->co, co, MOC_THRESH))
759                                         return (*bt)->index[a];
760                         }
761                 }
762                 else return -1;
763         }
764         if ( (*bt)->next)
765                 return mesh_octree_find_index(&(*bt)->next, mvert, co);
766         
767         return -1;
768 }
769
770 static struct {
771         MocNode **table;
772         float offs[3], div[3];
773 } MeshOctree = {NULL, {0, 0, 0}, {0, 0, 0}};
774
775 /* mode is 's' start, or 'e' end, or 'u' use */
776 /* if end, ob can be NULL */
777 intptr_t mesh_octree_table(Object *ob, BMEditMesh *em, float *co, char mode)
778 {
779         MocNode **bt;
780         
781         if (mode == 'u') {        /* use table */
782                 if (MeshOctree.table == NULL)
783                         mesh_octree_table(ob, em, NULL, 's');
784
785                 if (MeshOctree.table) {
786                         Mesh *me = ob->data;
787                         bt = MeshOctree.table + mesh_octree_get_base_offs(co, MeshOctree.offs, MeshOctree.div);
788                         if (em)
789                                 return mesh_octree_find_index(bt, NULL, co);
790                         else
791                                 return mesh_octree_find_index(bt, me->mvert, co);
792                 }
793                 return -1;
794         }
795         else if (mode == 's') {   /* start table */
796                 Mesh *me = ob->data;
797                 float min[3], max[3];
798
799                 /* we compute own bounding box and don't reuse ob->bb because
800                  * we are using the undeformed coordinates*/
801                 INIT_MINMAX(min, max);
802
803                 if (em && me->edit_btmesh == em) {
804                         BMIter iter;
805                         BMVert *eve;
806                         
807                         BM_ITER(eve, &iter, em->bm, BM_VERTS_OF_MESH, NULL)
808                         {
809                                 DO_MINMAX(eve->co, min, max);
810                         }
811                 }
812                 else {          
813                         MVert *mvert;
814                         int a;
815                         
816                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
817                                 DO_MINMAX(mvert->co, min, max);
818                 }
819                 
820                 /* for quick unit coordinate calculus */
821                 copy_v3_v3(MeshOctree.offs, min);
822                 MeshOctree.offs[0] -= MOC_THRESH;        /* we offset it 1 threshold unit extra */
823                 MeshOctree.offs[1] -= MOC_THRESH;
824                 MeshOctree.offs[2] -= MOC_THRESH;
825                 
826                 sub_v3_v3v3(MeshOctree.div, max, min);
827                 MeshOctree.div[0] += 2 * MOC_THRESH;   /* and divide with 2 threshold unit more extra (try 8x8 unit grid on paint) */
828                 MeshOctree.div[1] += 2 * MOC_THRESH;
829                 MeshOctree.div[2] += 2 * MOC_THRESH;
830
831                 mul_v3_fl(MeshOctree.div, 1.0f / MOC_RES);
832                 if (MeshOctree.div[0] == 0.0f) MeshOctree.div[0] = 1.0f;
833                 if (MeshOctree.div[1] == 0.0f) MeshOctree.div[1] = 1.0f;
834                 if (MeshOctree.div[2] == 0.0f) MeshOctree.div[2] = 1.0f;
835                         
836                 if (MeshOctree.table) /* happens when entering this call without ending it */
837                         mesh_octree_table(ob, em, co, 'e');
838                 
839                 MeshOctree.table = MEM_callocN(MOC_RES * MOC_RES * MOC_RES * sizeof(void *), "sym table");
840                 
841                 if (em && me->edit_btmesh == em) {
842                         BMVert *eve;
843                         BMIter iter;
844
845                         BM_ITER(eve, &iter, em->bm, BM_VERTS_OF_MESH, NULL)
846                         {
847                                 mesh_octree_add_nodes(MeshOctree.table, eve->co, MeshOctree.offs, MeshOctree.div, (intptr_t)(eve));
848                         }
849                 }
850                 else {          
851                         MVert *mvert;
852                         int a;
853                         
854                         for (a = 0, mvert = me->mvert; a < me->totvert; a++, mvert++)
855                                 mesh_octree_add_nodes(MeshOctree.table, mvert->co, MeshOctree.offs, MeshOctree.div, a + 1);
856                 }
857         }
858         else if (mode == 'e') { /* end table */
859                 if (MeshOctree.table) {
860                         int a;
861                         
862                         for (a = 0, bt = MeshOctree.table; a < MOC_RES * MOC_RES * MOC_RES; a++, bt++) {
863                                 if (*bt) mesh_octree_free_node(bt);
864                         }
865                         MEM_freeN(MeshOctree.table);
866                         MeshOctree.table = NULL;
867                 }
868         }
869         return 0;
870 }
871
872 MirrTopoStore_t mesh_topo_store = {NULL, -1. - 1, -1};
873
874 /* mode is 's' start, or 'e' end, or 'u' use */
875 /* if end, ob can be NULL */
876 /* note, is supposed return -1 on error, which callers are currently checking for, but is not used so far */
877 int mesh_mirrtopo_table(Object *ob, char mode)
878 {
879         if (mode == 'u') {        /* use table */
880                 if (ED_mesh_mirrtopo_recalc_check(ob->data, ob->mode, &mesh_topo_store)) {
881                         mesh_mirrtopo_table(ob, 's');
882                 }
883         }
884         else if (mode == 's') { /* start table */
885                 ED_mesh_mirrtopo_init(ob->data, ob->mode, &mesh_topo_store, FALSE);
886         }
887         else if (mode == 'e') { /* end table */
888                 ED_mesh_mirrtopo_free(&mesh_topo_store);
889         }
890         return 0;
891 }
892
893 static int mesh_get_x_mirror_vert_spacial(Object *ob, int index)
894 {
895         Mesh *me = ob->data;
896         MVert *mvert;
897         float vec[3];
898         
899         mvert = me->mvert + index;
900         vec[0] = -mvert->co[0];
901         vec[1] = mvert->co[1];
902         vec[2] = mvert->co[2];
903         
904         return mesh_octree_table(ob, NULL, vec, 'u');
905 }
906
907 static int mesh_get_x_mirror_vert_topo(Object *ob, int index)
908 {
909         if (mesh_mirrtopo_table(ob, 'u') == -1)
910                 return -1;
911
912         return mesh_topo_store.index_lookup[index];
913 }
914
915 int mesh_get_x_mirror_vert(Object *ob, int index)
916 {
917         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
918                 return mesh_get_x_mirror_vert_topo(ob, index);
919         }
920         else {
921                 return mesh_get_x_mirror_vert_spacial(ob, index);
922         }
923         return 0;
924 }
925
926 static BMVert *editbmesh_get_x_mirror_vert_spacial(Object *ob, BMEditMesh *em, float *co)
927 {
928         float vec[3];
929         intptr_t poinval;
930         
931         /* ignore nan verts */
932         if (!finite(co[0]) ||
933             !finite(co[1]) ||
934             !finite(co[2])
935             )
936                 return NULL;
937         
938         vec[0] = -co[0];
939         vec[1] = co[1];
940         vec[2] = co[2];
941         
942         poinval = mesh_octree_table(ob, em, vec, 'u');
943         if (poinval != -1)
944                 return (BMVert *)(poinval);
945         return NULL;
946 }
947
948 static BMVert *editbmesh_get_x_mirror_vert_topo(Object *ob, struct BMEditMesh *em, BMVert *eve, int index)
949 {
950         intptr_t poinval;
951         if (mesh_mirrtopo_table(ob, 'u') == -1)
952                 return NULL;
953
954         if (index == -1) {
955                 BMIter iter;
956                 BMVert *v;
957                 
958                 index = 0;
959                 BM_ITER(v, &iter, em->bm, BM_VERTS_OF_MESH, NULL)
960                 {
961                         if (v == eve)
962                                 break;
963                         index++;
964                 }
965                 
966                 if (index == em->bm->totvert) {
967                         return NULL;
968                 }
969         }
970
971         poinval = mesh_topo_store.index_lookup[index];
972
973         if (poinval != -1)
974                 return (BMVert *)(poinval);
975         return NULL;
976 }       
977
978 BMVert *editbmesh_get_x_mirror_vert(Object *ob, struct BMEditMesh *em, BMVert *eve, float *co, int index)
979 {
980         if (((Mesh *)ob->data)->editflag & ME_EDIT_MIRROR_TOPO) {
981                 return editbmesh_get_x_mirror_vert_topo(ob, em, eve, index);
982         }
983         else {
984                 return editbmesh_get_x_mirror_vert_spacial(ob, em, co);
985         }
986 }
987
988 #if 0
989
990 static float *editmesh_get_mirror_uv(BMEditMesh *em, int axis, float *uv, float *mirrCent, float *face_cent)
991 {
992         float vec[2];
993         float cent_vec[2];
994         float cent[2];
995
996         /* ignore nan verts */
997         if (isnan(uv[0]) || !finite(uv[0]) ||
998             isnan(uv[1]) || !finite(uv[1])
999             )
1000                 return NULL;
1001
1002         if (axis) {
1003                 vec[0] = uv[0];
1004                 vec[1] = -((uv[1]) - mirrCent[1]) + mirrCent[1];
1005
1006                 cent_vec[0] = face_cent[0];
1007                 cent_vec[1] = -((face_cent[1]) - mirrCent[1]) + mirrCent[1];
1008         }
1009         else {
1010                 vec[0] = -((uv[0]) - mirrCent[0]) + mirrCent[0];
1011                 vec[1] = uv[1];
1012
1013                 cent_vec[0] = -((face_cent[0]) - mirrCent[0]) + mirrCent[0];
1014                 cent_vec[1] = face_cent[1];
1015         }
1016
1017         /* TODO - Optimize */
1018         {
1019                 BMIter iter;
1020                 BMFace *efa;
1021                 
1022                 BM_ITER(efa, &iter, em->bm, BM_FACES_OF_MESH, NULL)
1023                 {
1024                         poly_uv_center(em, efa, cent);
1025                         
1026                         if ( (fabs(cent[0] - cent_vec[0]) < 0.001) && (fabs(cent[1] - cent_vec[1]) < 0.001) ) {
1027                                 BMIter liter;
1028                                 BMLoop *l;
1029                                 
1030                                 BM_ITER(l, &liter, em->bm, BM_LOOPS_OF_FACE, efa)
1031                                 {
1032                                         MLoopUV *luv = CustomData_bmesh_get(&em->bm->ldata, l->head.data, CD_MLOOPUV);
1033                                         if ( (fabs(luv->uv[0] - vec[0]) < 0.001) && (fabs(luv->uv[1] - vec[1]) < 0.001) ) {
1034                                                 return luv->uv;
1035                                                                 
1036                                         }
1037                                 }
1038                         }
1039                 }
1040         }
1041
1042         return NULL;
1043 }
1044
1045 #endif
1046
1047 static unsigned int mirror_facehash(const void *ptr)
1048 {
1049         const MFace *mf = ptr;
1050         int v0, v1;
1051
1052         if (mf->v4) {
1053                 v0 = MIN4(mf->v1, mf->v2, mf->v3, mf->v4);
1054                 v1 = MAX4(mf->v1, mf->v2, mf->v3, mf->v4);
1055         }
1056         else {
1057                 v0 = MIN3(mf->v1, mf->v2, mf->v3);
1058                 v1 = MAX3(mf->v1, mf->v2, mf->v3);
1059         }
1060
1061         return ((v0 * 39) ^ (v1 * 31));
1062 }
1063
1064 static int mirror_facerotation(MFace *a, MFace *b)
1065 {
1066         if (b->v4) {
1067                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3 && a->v4 == b->v4)
1068                         return 0;
1069                 else if (a->v4 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3 && a->v3 == b->v4)
1070                         return 1;
1071                 else if (a->v3 == b->v1 && a->v4 == b->v2 && a->v1 == b->v3 && a->v2 == b->v4)
1072                         return 2;
1073                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v4 == b->v3 && a->v1 == b->v4)
1074                         return 3;
1075         }
1076         else {
1077                 if (a->v1 == b->v1 && a->v2 == b->v2 && a->v3 == b->v3)
1078                         return 0;
1079                 else if (a->v3 == b->v1 && a->v1 == b->v2 && a->v2 == b->v3)
1080                         return 1;
1081                 else if (a->v2 == b->v1 && a->v3 == b->v2 && a->v1 == b->v3)
1082                         return 2;
1083         }
1084         
1085         return -1;
1086 }
1087
1088 static int mirror_facecmp(const void *a, const void *b)
1089 {
1090         return (mirror_facerotation((MFace *)a, (MFace *)b) == -1);
1091 }
1092
1093 /* BMESH_TODO, convert to MPoly (functions above also) */
1094 int *mesh_get_x_mirror_faces(Object *ob, BMEditMesh *em)
1095 {
1096         Mesh *me = ob->data;
1097         MVert *mv, *mvert = me->mvert;
1098         MFace mirrormf, *mf, *hashmf, *mface = me->mface;
1099         GHash *fhash;
1100         int *mirrorverts, *mirrorfaces;
1101         int a;
1102
1103         mirrorverts = MEM_callocN(sizeof(int) * me->totvert, "MirrorVerts");
1104         mirrorfaces = MEM_callocN(sizeof(int) * 2 * me->totface, "MirrorFaces");
1105
1106         mesh_octree_table(ob, em, NULL, 's');
1107
1108         for (a = 0, mv = mvert; a < me->totvert; a++, mv++)
1109                 mirrorverts[a] = mesh_get_x_mirror_vert(ob, a);
1110
1111         mesh_octree_table(ob, em, NULL, 'e');
1112
1113         fhash = BLI_ghash_new(mirror_facehash, mirror_facecmp, "mirror_facehash gh");
1114         for (a = 0, mf = mface; a < me->totface; a++, mf++)
1115                 BLI_ghash_insert(fhash, mf, mf);
1116
1117         for (a = 0, mf = mface; a < me->totface; a++, mf++) {
1118                 mirrormf.v1 = mirrorverts[mf->v3];
1119                 mirrormf.v2 = mirrorverts[mf->v2];
1120                 mirrormf.v3 = mirrorverts[mf->v1];
1121                 mirrormf.v4 = (mf->v4) ? mirrorverts[mf->v4] : 0;
1122
1123                 /* make sure v4 is not 0 if a quad */
1124                 if (mf->v4 && mirrormf.v4 == 0) {
1125                         SWAP(unsigned int, mirrormf.v1, mirrormf.v3);
1126                         SWAP(unsigned int, mirrormf.v2, mirrormf.v4);
1127                 }
1128
1129                 hashmf = BLI_ghash_lookup(fhash, &mirrormf);
1130                 if (hashmf) {
1131                         mirrorfaces[a * 2] = hashmf - mface;
1132                         mirrorfaces[a * 2 + 1] = mirror_facerotation(&mirrormf, hashmf);
1133                 }
1134                 else
1135                         mirrorfaces[a * 2] = -1;
1136         }
1137
1138         BLI_ghash_free(fhash, NULL, NULL);
1139         MEM_freeN(mirrorverts);
1140         
1141         return mirrorfaces;
1142 }