298a6ab0ec4473a902a2c70eb4ab423cc5c5e98f
[blender.git] / source / blender / blenkernel / intern / cdderivedmesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2006 Blender Foundation.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): Ben Batt <benbatt@gmail.com>
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  * Implementation of CDDerivedMesh.
28  *
29  * BKE_cdderivedmesh.h contains the function prototypes for this file.
30  *
31  */
32
33 /** \file blender/blenkernel/intern/cdderivedmesh.c
34  *  \ingroup bke
35  */
36
37 #include "atomic_ops.h"
38
39 #include "BLI_math.h"
40 #include "BLI_edgehash.h"
41 #include "BLI_utildefines.h"
42 #include "BLI_utildefines_stack.h"
43
44 #include "BKE_pbvh.h"
45 #include "BKE_cdderivedmesh.h"
46 #include "BKE_global.h"
47 #include "BKE_mesh.h"
48 #include "BKE_mesh_mapping.h"
49 #include "BKE_object.h"
50 #include "BKE_paint.h"
51 #include "BKE_editmesh.h"
52 #include "BKE_curve.h"
53
54 #include "DNA_mesh_types.h"
55 #include "DNA_meshdata_types.h"
56 #include "DNA_object_types.h"
57 #include "DNA_curve_types.h" /* for Curve */
58
59 #include "MEM_guardedalloc.h"
60
61 #include <string.h>
62 #include <limits.h>
63 #include <math.h>
64
65 typedef struct {
66         DerivedMesh dm;
67
68         /* these point to data in the DerivedMesh custom data layers,
69          * they are only here for efficiency and convenience **/
70         MVert *mvert;
71         MEdge *medge;
72         MFace *mface;
73         MLoop *mloop;
74         MPoly *mpoly;
75
76         /* Cached */
77         struct PBVH *pbvh;
78         bool pbvh_draw;
79
80         /* Mesh connectivity */
81         MeshElemMap *pmap;
82         int *pmap_mem;
83 } CDDerivedMesh;
84
85 /**************** DerivedMesh interface functions ****************/
86 static int cdDM_getNumVerts(DerivedMesh *dm)
87 {
88         return dm->numVertData;
89 }
90
91 static int cdDM_getNumEdges(DerivedMesh *dm)
92 {
93         return dm->numEdgeData;
94 }
95
96 static int cdDM_getNumTessFaces(DerivedMesh *dm)
97 {
98         /* uncomment and add a breakpoint on the printf()
99          * to help debug tessfaces issues since BMESH merge. */
100 #if 0
101         if (dm->numTessFaceData == 0 && dm->numPolyData != 0) {
102                 printf("%s: has no faces!\n");
103         }
104 #endif
105         return dm->numTessFaceData;
106 }
107
108 static int cdDM_getNumLoops(DerivedMesh *dm)
109 {
110         return dm->numLoopData;
111 }
112
113 static int cdDM_getNumPolys(DerivedMesh *dm)
114 {
115         return dm->numPolyData;
116 }
117
118 static void cdDM_getVert(DerivedMesh *dm, int index, MVert *r_vert)
119 {
120         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
121         *r_vert = cddm->mvert[index];
122 }
123
124 static void cdDM_getEdge(DerivedMesh *dm, int index, MEdge *r_edge)
125 {
126         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
127         *r_edge = cddm->medge[index];
128 }
129
130 static void cdDM_getTessFace(DerivedMesh *dm, int index, MFace *r_face)
131 {
132         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
133         *r_face = cddm->mface[index];
134 }
135
136 static void cdDM_copyVertArray(DerivedMesh *dm, MVert *r_vert)
137 {
138         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
139         memcpy(r_vert, cddm->mvert, sizeof(*r_vert) * dm->numVertData);
140 }
141
142 static void cdDM_copyEdgeArray(DerivedMesh *dm, MEdge *r_edge)
143 {
144         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
145         memcpy(r_edge, cddm->medge, sizeof(*r_edge) * dm->numEdgeData);
146 }
147
148 static void cdDM_copyTessFaceArray(DerivedMesh *dm, MFace *r_face)
149 {
150         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
151         memcpy(r_face, cddm->mface, sizeof(*r_face) * dm->numTessFaceData);
152 }
153
154 static void cdDM_copyLoopArray(DerivedMesh *dm, MLoop *r_loop)
155 {
156         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
157         memcpy(r_loop, cddm->mloop, sizeof(*r_loop) * dm->numLoopData);
158 }
159
160 static void cdDM_copyPolyArray(DerivedMesh *dm, MPoly *r_poly)
161 {
162         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
163         memcpy(r_poly, cddm->mpoly, sizeof(*r_poly) * dm->numPolyData);
164 }
165
166 static void cdDM_getMinMax(DerivedMesh *dm, float r_min[3], float r_max[3])
167 {
168         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
169         int i;
170
171         if (dm->numVertData) {
172                 for (i = 0; i < dm->numVertData; i++) {
173                         minmax_v3v3_v3(r_min, r_max, cddm->mvert[i].co);
174                 }
175         }
176         else {
177                 zero_v3(r_min);
178                 zero_v3(r_max);
179         }
180 }
181
182 static void cdDM_getVertCo(DerivedMesh *dm, int index, float r_co[3])
183 {
184         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
185
186         copy_v3_v3(r_co, cddm->mvert[index].co);
187 }
188
189 static void cdDM_getVertCos(DerivedMesh *dm, float (*r_cos)[3])
190 {
191         MVert *mv = CDDM_get_verts(dm);
192         int i;
193
194         for (i = 0; i < dm->numVertData; i++, mv++)
195                 copy_v3_v3(r_cos[i], mv->co);
196 }
197
198 static void cdDM_getVertNo(DerivedMesh *dm, int index, float r_no[3])
199 {
200         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
201         normal_short_to_float_v3(r_no, cddm->mvert[index].no);
202 }
203
204 static const MeshElemMap *cdDM_getPolyMap(Object *ob, DerivedMesh *dm)
205 {
206         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
207
208         if (!cddm->pmap && ob->type == OB_MESH) {
209                 Mesh *me = ob->data;
210
211                 BKE_mesh_vert_poly_map_create(
212                         &cddm->pmap, &cddm->pmap_mem,
213                         me->mpoly, me->mloop,
214                         me->totvert, me->totpoly, me->totloop);
215         }
216
217         return cddm->pmap;
218 }
219
220 static bool check_sculpt_object_deformed(Object *object, bool for_construction)
221 {
222         bool deformed = false;
223
224         /* Active modifiers means extra deformation, which can't be handled correct
225          * on birth of PBVH and sculpt "layer" levels, so use PBVH only for internal brush
226          * stuff and show final DerivedMesh so user would see actual object shape.
227          */
228         deformed |= object->sculpt->modifiers_active;
229
230         if (for_construction) {
231                 deformed |= object->sculpt->kb != NULL;
232         }
233         else {
234                 /* As in case with modifiers, we can't synchronize deformation made against
235                  * PBVH and non-locked keyblock, so also use PBVH only for brushes and
236                  * final DM to give final result to user.
237                  */
238                 deformed |= object->sculpt->kb && (object->shapeflag & OB_SHAPE_LOCK) == 0;
239         }
240
241         return deformed;
242 }
243
244 static bool can_pbvh_draw(Object *ob, DerivedMesh *dm)
245 {
246         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
247         Mesh *me = ob->data;
248         bool deformed = check_sculpt_object_deformed(ob, false);
249
250         if (deformed) {
251                 return false;
252         }
253
254         return cddm->mvert == me->mvert || ob->sculpt->kb;
255 }
256
257 static PBVH *cdDM_getPBVH(Object *ob, DerivedMesh *dm)
258 {
259         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
260
261         if (!ob) {
262                 cddm->pbvh = NULL;
263                 return NULL;
264         }
265
266         if (!ob->sculpt)
267                 return NULL;
268
269         if (ob->sculpt->pbvh) {
270                 cddm->pbvh = ob->sculpt->pbvh;
271                 cddm->pbvh_draw = can_pbvh_draw(ob, dm);
272         }
273
274         /* Sculpting on a BMesh (dynamic-topology) gets a special PBVH */
275         if (!cddm->pbvh && ob->sculpt->bm) {
276                 cddm->pbvh = BKE_pbvh_new();
277                 cddm->pbvh_draw = true;
278
279                 BKE_pbvh_build_bmesh(cddm->pbvh, ob->sculpt->bm,
280                                      ob->sculpt->bm_smooth_shading,
281                                      ob->sculpt->bm_log, ob->sculpt->cd_vert_node_offset,
282                                      ob->sculpt->cd_face_node_offset);
283
284                 pbvh_show_diffuse_color_set(cddm->pbvh, ob->sculpt->show_diffuse_color);
285                 pbvh_show_mask_set(cddm->pbvh, ob->sculpt->show_mask);
286         }
287
288
289         /* always build pbvh from original mesh, and only use it for drawing if
290          * this derivedmesh is just original mesh. it's the multires subsurf dm
291          * that this is actually for, to support a pbvh on a modified mesh */
292         if (!cddm->pbvh && ob->type == OB_MESH) {
293                 Mesh *me = BKE_object_get_original_mesh(ob);
294                 const int looptris_num = poly_to_tri_count(me->totpoly, me->totloop);
295                 MLoopTri *looptri;
296                 bool deformed;
297
298                 cddm->pbvh = BKE_pbvh_new();
299                 cddm->pbvh_draw = can_pbvh_draw(ob, dm);
300
301                 looptri = MEM_malloc_arrayN(looptris_num, sizeof(*looptri), __func__);
302
303                 BKE_mesh_recalc_looptri(
304                         me->mloop, me->mpoly,
305                         me->mvert,
306                         me->totloop, me->totpoly,
307                         looptri);
308
309                 BKE_pbvh_build_mesh(
310                         cddm->pbvh,
311                         me->mpoly, me->mloop,
312                         me->mvert, me->totvert, &me->vdata,
313                         looptri, looptris_num);
314
315                 pbvh_show_diffuse_color_set(cddm->pbvh, ob->sculpt->show_diffuse_color);
316                 pbvh_show_mask_set(cddm->pbvh, ob->sculpt->show_mask);
317
318                 deformed = check_sculpt_object_deformed(ob, true);
319
320                 if (deformed && ob->derivedDeform) {
321                         DerivedMesh *deformdm = ob->derivedDeform;
322                         float (*vertCos)[3];
323                         int totvert;
324
325                         totvert = deformdm->getNumVerts(deformdm);
326                         vertCos = MEM_malloc_arrayN(totvert, sizeof(float[3]), "cdDM_getPBVH vertCos");
327                         deformdm->getVertCos(deformdm, vertCos);
328                         BKE_pbvh_apply_vertCos(cddm->pbvh, vertCos, totvert);
329                         MEM_freeN(vertCos);
330                 }
331         }
332
333         return cddm->pbvh;
334 }
335
336 static void cdDM_foreachMappedVert(
337         DerivedMesh *dm,
338         void (*func)(void *userData, int index, const float co[3], const float no_f[3], const short no_s[3]),
339         void *userData,
340         DMForeachFlag flag)
341 {
342         MVert *mv = CDDM_get_verts(dm);
343         const int *index = DM_get_vert_data_layer(dm, CD_ORIGINDEX);
344         int i;
345
346         if (index) {
347                 for (i = 0; i < dm->numVertData; i++, mv++) {
348                         const short *no = (flag & DM_FOREACH_USE_NORMAL) ? mv->no : NULL;
349                         const int orig = *index++;
350                         if (orig == ORIGINDEX_NONE) continue;
351                         func(userData, orig, mv->co, NULL, no);
352                 }
353         }
354         else {
355                 for (i = 0; i < dm->numVertData; i++, mv++) {
356                         const short *no = (flag & DM_FOREACH_USE_NORMAL) ? mv->no : NULL;
357                         func(userData, i, mv->co, NULL, no);
358                 }
359         }
360 }
361
362 static void cdDM_foreachMappedEdge(
363         DerivedMesh *dm,
364         void (*func)(void *userData, int index, const float v0co[3], const float v1co[3]),
365         void *userData)
366 {
367         CDDerivedMesh *cddm = (CDDerivedMesh *) dm;
368         MVert *mv = cddm->mvert;
369         MEdge *med = cddm->medge;
370         int i, orig, *index = DM_get_edge_data_layer(dm, CD_ORIGINDEX);
371
372         for (i = 0; i < dm->numEdgeData; i++, med++) {
373                 if (index) {
374                         orig = *index++;
375                         if (orig == ORIGINDEX_NONE) continue;
376                         func(userData, orig, mv[med->v1].co, mv[med->v2].co);
377                 }
378                 else
379                         func(userData, i, mv[med->v1].co, mv[med->v2].co);
380         }
381 }
382
383 static void cdDM_foreachMappedLoop(
384         DerivedMesh *dm,
385         void (*func)(void *userData, int vertex_index, int face_index, const float co[3], const float no[3]),
386         void *userData,
387         DMForeachFlag flag)
388 {
389         /* We can't use dm->getLoopDataLayout(dm) here, we want to always access dm->loopData, EditDerivedBMesh would
390          * return loop data from bmesh itself. */
391         const float (*lnors)[3] = (flag & DM_FOREACH_USE_NORMAL) ? DM_get_loop_data_layer(dm, CD_NORMAL) : NULL;
392
393         const MVert *mv = CDDM_get_verts(dm);
394         const MLoop *ml = CDDM_get_loops(dm);
395         const MPoly *mp = CDDM_get_polys(dm);
396         const int *v_index = DM_get_vert_data_layer(dm, CD_ORIGINDEX);
397         const int *f_index = DM_get_poly_data_layer(dm, CD_ORIGINDEX);
398         int p_idx, i;
399
400         for (p_idx = 0; p_idx < dm->numPolyData; ++p_idx, ++mp) {
401                 for (i = 0; i < mp->totloop; ++i, ++ml) {
402                         const int v_idx = v_index ? v_index[ml->v] : ml->v;
403                         const int f_idx = f_index ? f_index[p_idx] : p_idx;
404                         const float *no = lnors ? *lnors++ : NULL;
405                         if (!ELEM(ORIGINDEX_NONE, v_idx, f_idx)) {
406                                 func(userData, v_idx, f_idx, mv[ml->v].co, no);
407                         }
408                 }
409         }
410 }
411
412 static void cdDM_foreachMappedFaceCenter(
413         DerivedMesh *dm,
414         void (*func)(void *userData, int index, const float cent[3], const float no[3]),
415         void *userData,
416         DMForeachFlag flag)
417 {
418         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
419         MVert *mvert = cddm->mvert;
420         MPoly *mp;
421         MLoop *ml;
422         int i, orig, *index;
423
424         index = CustomData_get_layer(&dm->polyData, CD_ORIGINDEX);
425         mp = cddm->mpoly;
426         for (i = 0; i < dm->numPolyData; i++, mp++) {
427                 float cent[3];
428                 float *no, _no[3];
429
430                 if (index) {
431                         orig = *index++;
432                         if (orig == ORIGINDEX_NONE) continue;
433                 }
434                 else {
435                         orig = i;
436                 }
437
438                 ml = &cddm->mloop[mp->loopstart];
439                 BKE_mesh_calc_poly_center(mp, ml, mvert, cent);
440
441                 if (flag & DM_FOREACH_USE_NORMAL) {
442                         BKE_mesh_calc_poly_normal(mp, ml, mvert, (no = _no));
443                 }
444                 else {
445                         no = NULL;
446                 }
447
448                 func(userData, orig, cent, no);
449         }
450
451 }
452
453 void CDDM_recalc_tessellation_ex(DerivedMesh *dm, const bool do_face_nor_cpy)
454 {
455         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
456
457         dm->numTessFaceData = BKE_mesh_recalc_tessellation(
458                 &dm->faceData, &dm->loopData, &dm->polyData,
459                 cddm->mvert,
460                 dm->numTessFaceData, dm->numLoopData, dm->numPolyData,
461                 do_face_nor_cpy);
462
463         cddm->mface = CustomData_get_layer(&dm->faceData, CD_MFACE);
464
465         /* Tessellation recreated faceData, and the active layer indices need to get re-propagated
466          * from loops and polys to faces */
467         CustomData_bmesh_update_active_layers(&dm->faceData, &dm->loopData);
468 }
469
470 void CDDM_recalc_tessellation(DerivedMesh *dm)
471 {
472         CDDM_recalc_tessellation_ex(dm, true);
473 }
474
475 void CDDM_recalc_looptri(DerivedMesh *dm)
476 {
477         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
478         const unsigned int totpoly = dm->numPolyData;
479         const unsigned int totloop = dm->numLoopData;
480
481         DM_ensure_looptri_data(dm);
482         BLI_assert(totpoly == 0 || cddm->dm.looptris.array_wip != NULL);
483
484         BKE_mesh_recalc_looptri(
485                 cddm->mloop, cddm->mpoly,
486                 cddm->mvert,
487                 totloop, totpoly,
488                 cddm->dm.looptris.array_wip);
489
490         BLI_assert(cddm->dm.looptris.array == NULL);
491         atomic_cas_ptr((void **)&cddm->dm.looptris.array, cddm->dm.looptris.array, cddm->dm.looptris.array_wip);
492         cddm->dm.looptris.array_wip = NULL;
493 }
494
495 static void cdDM_free_internal(CDDerivedMesh *cddm)
496 {
497         if (cddm->pmap) MEM_freeN(cddm->pmap);
498         if (cddm->pmap_mem) MEM_freeN(cddm->pmap_mem);
499 }
500
501 static void cdDM_release(DerivedMesh *dm)
502 {
503         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
504
505         if (DM_release(dm)) {
506                 cdDM_free_internal(cddm);
507                 MEM_freeN(cddm);
508         }
509 }
510
511 /**************** CDDM interface functions ****************/
512 static CDDerivedMesh *cdDM_create(const char *desc)
513 {
514         CDDerivedMesh *cddm;
515         DerivedMesh *dm;
516
517         cddm = MEM_callocN(sizeof(*cddm), desc);
518         dm = &cddm->dm;
519
520         dm->getMinMax = cdDM_getMinMax;
521
522         dm->getNumVerts = cdDM_getNumVerts;
523         dm->getNumEdges = cdDM_getNumEdges;
524         dm->getNumTessFaces = cdDM_getNumTessFaces;
525         dm->getNumLoops = cdDM_getNumLoops;
526         dm->getNumPolys = cdDM_getNumPolys;
527
528         dm->getVert = cdDM_getVert;
529         dm->getEdge = cdDM_getEdge;
530         dm->getTessFace = cdDM_getTessFace;
531
532         dm->copyVertArray = cdDM_copyVertArray;
533         dm->copyEdgeArray = cdDM_copyEdgeArray;
534         dm->copyTessFaceArray = cdDM_copyTessFaceArray;
535         dm->copyLoopArray = cdDM_copyLoopArray;
536         dm->copyPolyArray = cdDM_copyPolyArray;
537
538         dm->getVertData = DM_get_vert_data;
539         dm->getEdgeData = DM_get_edge_data;
540         dm->getTessFaceData = DM_get_tessface_data;
541         dm->getVertDataArray = DM_get_vert_data_layer;
542         dm->getEdgeDataArray = DM_get_edge_data_layer;
543         dm->getTessFaceDataArray = DM_get_tessface_data_layer;
544
545         dm->calcNormals = CDDM_calc_normals;
546         dm->calcLoopNormals = CDDM_calc_loop_normals;
547         dm->calcLoopNormalsSpaceArray = CDDM_calc_loop_normals_spacearr;
548         dm->calcLoopTangents = DM_calc_loop_tangents;
549         dm->recalcTessellation = CDDM_recalc_tessellation;
550         dm->recalcLoopTri = CDDM_recalc_looptri;
551
552         dm->getVertCos = cdDM_getVertCos;
553         dm->getVertCo = cdDM_getVertCo;
554         dm->getVertNo = cdDM_getVertNo;
555
556         dm->getPBVH = cdDM_getPBVH;
557         dm->getPolyMap = cdDM_getPolyMap;
558
559         dm->foreachMappedVert = cdDM_foreachMappedVert;
560         dm->foreachMappedEdge = cdDM_foreachMappedEdge;
561         dm->foreachMappedLoop = cdDM_foreachMappedLoop;
562         dm->foreachMappedFaceCenter = cdDM_foreachMappedFaceCenter;
563
564         dm->release = cdDM_release;
565
566         return cddm;
567 }
568
569 DerivedMesh *CDDM_new(int numVerts, int numEdges, int numTessFaces, int numLoops, int numPolys)
570 {
571         CDDerivedMesh *cddm = cdDM_create("CDDM_new dm");
572         DerivedMesh *dm = &cddm->dm;
573
574         DM_init(dm, DM_TYPE_CDDM, numVerts, numEdges, numTessFaces, numLoops, numPolys);
575
576         CustomData_add_layer(&dm->vertData, CD_ORIGINDEX, CD_CALLOC, NULL, numVerts);
577         CustomData_add_layer(&dm->edgeData, CD_ORIGINDEX, CD_CALLOC, NULL, numEdges);
578         CustomData_add_layer(&dm->faceData, CD_ORIGINDEX, CD_CALLOC, NULL, numTessFaces);
579         CustomData_add_layer(&dm->polyData, CD_ORIGINDEX, CD_CALLOC, NULL, numPolys);
580
581         CustomData_add_layer(&dm->vertData, CD_MVERT, CD_CALLOC, NULL, numVerts);
582         CustomData_add_layer(&dm->edgeData, CD_MEDGE, CD_CALLOC, NULL, numEdges);
583         CustomData_add_layer(&dm->faceData, CD_MFACE, CD_CALLOC, NULL, numTessFaces);
584         CustomData_add_layer(&dm->loopData, CD_MLOOP, CD_CALLOC, NULL, numLoops);
585         CustomData_add_layer(&dm->polyData, CD_MPOLY, CD_CALLOC, NULL, numPolys);
586
587         cddm->mvert = CustomData_get_layer(&dm->vertData, CD_MVERT);
588         cddm->medge = CustomData_get_layer(&dm->edgeData, CD_MEDGE);
589         cddm->mface = CustomData_get_layer(&dm->faceData, CD_MFACE);
590         cddm->mloop = CustomData_get_layer(&dm->loopData, CD_MLOOP);
591         cddm->mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
592
593         return dm;
594 }
595
596 DerivedMesh *CDDM_from_mesh(Mesh *mesh)
597 {
598         return CDDM_from_mesh_ex(mesh, CD_REFERENCE, CD_MASK_MESH);
599 }
600
601 DerivedMesh *CDDM_from_mesh_ex(Mesh *mesh, eCDAllocType alloctype, CustomDataMask mask)
602 {
603         CDDerivedMesh *cddm = cdDM_create(__func__);
604         DerivedMesh *dm = &cddm->dm;
605
606         mask &= ~CD_MASK_MDISPS;
607
608         /* this does a referenced copy, with an exception for fluidsim */
609
610         DM_init(dm, DM_TYPE_CDDM, mesh->totvert, mesh->totedge, 0 /* mesh->totface */,
611                 mesh->totloop, mesh->totpoly);
612
613         /* This should actually be dm->deformedOnly = mesh->runtime.deformed_only,
614          * but only if the original mesh had its deformed_only flag correctly set
615          * (which isn't generally the case). */
616         dm->deformedOnly = 1;
617         dm->cd_flag = mesh->cd_flag;
618
619         if (mesh->runtime.cd_dirty_vert & CD_MASK_NORMAL) {
620                 dm->dirty |= DM_DIRTY_NORMALS;
621         }
622         /* TODO DM_DIRTY_TESS_CDLAYERS ? Maybe not though, since we probably want to switch to looptris ? */
623
624         CustomData_merge(&mesh->vdata, &dm->vertData, mask, alloctype,
625                          mesh->totvert);
626         CustomData_merge(&mesh->edata, &dm->edgeData, mask, alloctype,
627                          mesh->totedge);
628         CustomData_merge(&mesh->fdata, &dm->faceData, mask | CD_MASK_ORIGINDEX, alloctype,
629                          0 /* mesh->totface */);
630         CustomData_merge(&mesh->ldata, &dm->loopData, mask, alloctype,
631                          mesh->totloop);
632         CustomData_merge(&mesh->pdata, &dm->polyData, mask, alloctype,
633                          mesh->totpoly);
634
635         cddm->mvert = CustomData_get_layer(&dm->vertData, CD_MVERT);
636         cddm->medge = CustomData_get_layer(&dm->edgeData, CD_MEDGE);
637         cddm->mloop = CustomData_get_layer(&dm->loopData, CD_MLOOP);
638         cddm->mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
639 #if 0
640         cddm->mface = CustomData_get_layer(&dm->faceData, CD_MFACE);
641 #else
642         cddm->mface = NULL;
643 #endif
644
645         /* commented since even when CD_ORIGINDEX was first added this line fails
646          * on the default cube, (after editmode toggle too) - campbell */
647 #if 0
648         BLI_assert(CustomData_has_layer(&cddm->dm.faceData, CD_ORIGINDEX));
649 #endif
650
651         return dm;
652 }
653
654 DerivedMesh *CDDM_from_curve(Object *ob)
655 {
656         ListBase disp = {NULL, NULL};
657
658         if (ob->runtime.curve_cache) {
659                 disp = ob->runtime.curve_cache->disp;
660         }
661
662         return CDDM_from_curve_displist(ob, &disp);
663 }
664
665 DerivedMesh *CDDM_from_curve_displist(Object *ob, ListBase *dispbase)
666 {
667         Curve *cu = (Curve *) ob->data;
668         DerivedMesh *dm;
669         CDDerivedMesh *cddm;
670         MVert *allvert;
671         MEdge *alledge;
672         MLoop *allloop;
673         MPoly *allpoly;
674         MLoopUV *alluv = NULL;
675         int totvert, totedge, totloop, totpoly;
676         bool use_orco_uv = (cu->flag & CU_UV_ORCO) != 0;
677
678         if (BKE_mesh_nurbs_displist_to_mdata(
679                 ob, dispbase, &allvert, &totvert, &alledge,
680                 &totedge, &allloop, &allpoly, (use_orco_uv) ? &alluv : NULL,
681                 &totloop, &totpoly) != 0)
682         {
683                 /* Error initializing mdata. This often happens when curve is empty */
684                 return CDDM_new(0, 0, 0, 0, 0);
685         }
686
687         dm = CDDM_new(totvert, totedge, 0, totloop, totpoly);
688         dm->deformedOnly = 1;
689         dm->dirty |= DM_DIRTY_NORMALS;
690
691         cddm = (CDDerivedMesh *)dm;
692
693         memcpy(cddm->mvert, allvert, totvert * sizeof(MVert));
694         memcpy(cddm->medge, alledge, totedge * sizeof(MEdge));
695         memcpy(cddm->mloop, allloop, totloop * sizeof(MLoop));
696         memcpy(cddm->mpoly, allpoly, totpoly * sizeof(MPoly));
697
698         if (alluv) {
699                 const char *uvname = "Orco";
700                 CustomData_add_layer_named(&cddm->dm.loopData, CD_MLOOPUV, CD_ASSIGN, alluv, totloop, uvname);
701         }
702
703         MEM_freeN(allvert);
704         MEM_freeN(alledge);
705         MEM_freeN(allloop);
706         MEM_freeN(allpoly);
707
708         return dm;
709 }
710
711 static void loops_to_customdata_corners(
712         BMesh *bm, CustomData *facedata,
713         int cdindex, const BMLoop *l3[3],
714         int numCol, int numUV)
715 {
716         const BMLoop *l;
717 //      BMFace *f = l3[0]->f;
718         MTFace *texface;
719         MCol *mcol;
720         MLoopCol *mloopcol;
721         MLoopUV *mloopuv;
722         int i, j, hasPCol = CustomData_has_layer(&bm->ldata, CD_PREVIEW_MLOOPCOL);
723
724         for (i = 0; i < numUV; i++) {
725                 texface = CustomData_get_n(facedata, CD_MTFACE, cdindex, i);
726
727                 for (j = 0; j < 3; j++) {
728                         l = l3[j];
729                         mloopuv = CustomData_bmesh_get_n(&bm->ldata, l->head.data, CD_MLOOPUV, i);
730                         copy_v2_v2(texface->uv[j], mloopuv->uv);
731                 }
732         }
733
734         for (i = 0; i < numCol; i++) {
735                 mcol = CustomData_get_n(facedata, CD_MCOL, cdindex, i);
736
737                 for (j = 0; j < 3; j++) {
738                         l = l3[j];
739                         mloopcol = CustomData_bmesh_get_n(&bm->ldata, l->head.data, CD_MLOOPCOL, i);
740                         MESH_MLOOPCOL_TO_MCOL(mloopcol, &mcol[j]);
741                 }
742         }
743
744         if (hasPCol) {
745                 mcol = CustomData_get(facedata, cdindex, CD_PREVIEW_MCOL);
746
747                 for (j = 0; j < 3; j++) {
748                         l = l3[j];
749                         mloopcol = CustomData_bmesh_get(&bm->ldata, l->head.data, CD_PREVIEW_MLOOPCOL);
750                         MESH_MLOOPCOL_TO_MCOL(mloopcol, &mcol[j]);
751                 }
752         }
753 }
754
755 /* TODO(campbell): remove, use BKE_mesh_from_bmesh_for_eval_nomain instead. */
756
757 /* used for both editbmesh and bmesh */
758 static DerivedMesh *cddm_from_bmesh_ex(
759         struct BMesh *bm, const bool use_mdisps,
760         /* EditBMesh vars for use_tessface */
761         const bool use_tessface,
762         const int em_tottri, const BMLoop *(*em_looptris)[3])
763 {
764         DerivedMesh *dm = CDDM_new(bm->totvert,
765                                    bm->totedge,
766                                    use_tessface ? em_tottri : 0,
767                                    bm->totloop,
768                                    bm->totface);
769
770         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
771         BMIter iter;
772         BMVert *eve;
773         BMEdge *eed;
774         BMFace *efa;
775         MVert *mvert = cddm->mvert;
776         MEdge *medge = cddm->medge;
777         MFace *mface = cddm->mface;
778         MLoop *mloop = cddm->mloop;
779         MPoly *mpoly = cddm->mpoly;
780         int numCol = CustomData_number_of_layers(&bm->ldata, CD_MLOOPCOL);
781         int numUV  = CustomData_number_of_layers(&bm->ldata, CD_MLOOPUV);
782         int *index, add_orig;
783         CustomDataMask mask;
784         unsigned int i, j;
785
786         const int cd_vert_bweight_offset = CustomData_get_offset(&bm->vdata, CD_BWEIGHT);
787         const int cd_edge_bweight_offset = CustomData_get_offset(&bm->edata, CD_BWEIGHT);
788         const int cd_edge_crease_offset  = CustomData_get_offset(&bm->edata, CD_CREASE);
789
790         dm->deformedOnly = 1;
791
792         /* don't add origindex layer if one already exists */
793         add_orig = !CustomData_has_layer(&bm->pdata, CD_ORIGINDEX);
794
795         mask = use_mdisps ? CD_MASK_DERIVEDMESH | CD_MASK_MDISPS : CD_MASK_DERIVEDMESH;
796
797         /* don't process shapekeys, we only feed them through the modifier stack as needed,
798          * e.g. for applying modifiers or the like*/
799         mask &= ~CD_MASK_SHAPEKEY;
800         CustomData_merge(&bm->vdata, &dm->vertData, mask,
801                          CD_CALLOC, dm->numVertData);
802         CustomData_merge(&bm->edata, &dm->edgeData, mask,
803                          CD_CALLOC, dm->numEdgeData);
804         CustomData_merge(&bm->ldata, &dm->loopData, mask,
805                          CD_CALLOC, dm->numLoopData);
806         CustomData_merge(&bm->pdata, &dm->polyData, mask,
807                          CD_CALLOC, dm->numPolyData);
808
809         /* add tessellation mface layers */
810         if (use_tessface) {
811                 CustomData_from_bmeshpoly(&dm->faceData, &dm->loopData, em_tottri);
812         }
813
814         index = dm->getVertDataArray(dm, CD_ORIGINDEX);
815
816         BM_ITER_MESH_INDEX (eve, &iter, bm, BM_VERTS_OF_MESH, i) {
817                 MVert *mv = &mvert[i];
818
819                 copy_v3_v3(mv->co, eve->co);
820
821                 BM_elem_index_set(eve, i); /* set_inline */
822
823                 normal_float_to_short_v3(mv->no, eve->no);
824
825                 mv->flag = BM_vert_flag_to_mflag(eve);
826
827                 if (cd_vert_bweight_offset != -1) mv->bweight = BM_ELEM_CD_GET_FLOAT_AS_UCHAR(eve, cd_vert_bweight_offset);
828
829                 if (add_orig) *index++ = i;
830
831                 CustomData_from_bmesh_block(&bm->vdata, &dm->vertData, eve->head.data, i);
832         }
833         bm->elem_index_dirty &= ~BM_VERT;
834
835         index = dm->getEdgeDataArray(dm, CD_ORIGINDEX);
836         BM_ITER_MESH_INDEX (eed, &iter, bm, BM_EDGES_OF_MESH, i) {
837                 MEdge *med = &medge[i];
838
839                 BM_elem_index_set(eed, i); /* set_inline */
840
841                 med->v1 = BM_elem_index_get(eed->v1);
842                 med->v2 = BM_elem_index_get(eed->v2);
843
844                 med->flag = BM_edge_flag_to_mflag(eed);
845
846                 /* handle this differently to editmode switching,
847                  * only enable draw for single user edges rather then calculating angle */
848                 if ((med->flag & ME_EDGEDRAW) == 0) {
849                         if (eed->l && eed->l == eed->l->radial_next) {
850                                 med->flag |= ME_EDGEDRAW;
851                         }
852                 }
853
854                 if (cd_edge_crease_offset  != -1) med->crease  = BM_ELEM_CD_GET_FLOAT_AS_UCHAR(eed, cd_edge_crease_offset);
855                 if (cd_edge_bweight_offset != -1) med->bweight = BM_ELEM_CD_GET_FLOAT_AS_UCHAR(eed, cd_edge_bweight_offset);
856
857                 CustomData_from_bmesh_block(&bm->edata, &dm->edgeData, eed->head.data, i);
858                 if (add_orig) *index++ = i;
859         }
860         bm->elem_index_dirty &= ~BM_EDGE;
861
862         /* avoid this where possiblem, takes extra memory */
863         if (use_tessface) {
864
865                 BM_mesh_elem_index_ensure(bm, BM_FACE);
866
867                 index = dm->getTessFaceDataArray(dm, CD_ORIGINDEX);
868                 for (i = 0; i < dm->numTessFaceData; i++) {
869                         MFace *mf = &mface[i];
870                         const BMLoop **l = em_looptris[i];
871                         efa = l[0]->f;
872
873                         mf->v1 = BM_elem_index_get(l[0]->v);
874                         mf->v2 = BM_elem_index_get(l[1]->v);
875                         mf->v3 = BM_elem_index_get(l[2]->v);
876                         mf->v4 = 0;
877                         mf->mat_nr = efa->mat_nr;
878                         mf->flag = BM_face_flag_to_mflag(efa);
879
880                         /* map mfaces to polygons in the same cddm intentionally */
881                         *index++ = BM_elem_index_get(efa);
882
883                         loops_to_customdata_corners(bm, &dm->faceData, i, l, numCol, numUV);
884                         test_index_face(mf, &dm->faceData, i, 3);
885                 }
886         }
887
888         index = CustomData_get_layer(&dm->polyData, CD_ORIGINDEX);
889         j = 0;
890         BM_ITER_MESH_INDEX (efa, &iter, bm, BM_FACES_OF_MESH, i) {
891                 BMLoop *l_iter;
892                 BMLoop *l_first;
893                 MPoly *mp = &mpoly[i];
894
895                 BM_elem_index_set(efa, i); /* set_inline */
896
897                 mp->totloop = efa->len;
898                 mp->flag = BM_face_flag_to_mflag(efa);
899                 mp->loopstart = j;
900                 mp->mat_nr = efa->mat_nr;
901
902                 l_iter = l_first = BM_FACE_FIRST_LOOP(efa);
903                 do {
904                         mloop->v = BM_elem_index_get(l_iter->v);
905                         mloop->e = BM_elem_index_get(l_iter->e);
906                         CustomData_from_bmesh_block(&bm->ldata, &dm->loopData, l_iter->head.data, j);
907
908                         BM_elem_index_set(l_iter, j); /* set_inline */
909
910                         j++;
911                         mloop++;
912                 } while ((l_iter = l_iter->next) != l_first);
913
914                 CustomData_from_bmesh_block(&bm->pdata, &dm->polyData, efa->head.data, i);
915
916                 if (add_orig) *index++ = i;
917         }
918         bm->elem_index_dirty &= ~(BM_FACE | BM_LOOP);
919
920         dm->cd_flag = BM_mesh_cd_flag_from_bmesh(bm);
921
922         return dm;
923 }
924
925 struct DerivedMesh *CDDM_from_bmesh(struct BMesh *bm, const bool use_mdisps)
926 {
927         return cddm_from_bmesh_ex(
928                 bm, use_mdisps, false,
929                 /* these vars are for editmesh only */
930                 0, NULL);
931 }
932
933 DerivedMesh *CDDM_from_editbmesh(BMEditMesh *em, const bool use_mdisps, const bool use_tessface)
934 {
935         return cddm_from_bmesh_ex(
936                 em->bm, use_mdisps,
937                 /* editmesh */
938                 use_tessface, em->tottri, (const BMLoop *(*)[3])em->looptris);
939 }
940
941 static DerivedMesh *cddm_copy_ex(DerivedMesh *source,
942                                  const bool need_tessface_data,
943                                  const bool faces_from_tessfaces)
944 {
945         const bool copy_tessface_data = (faces_from_tessfaces || need_tessface_data);
946         CDDerivedMesh *cddm = cdDM_create("CDDM_copy cddm");
947         DerivedMesh *dm = &cddm->dm;
948         int numVerts = source->numVertData;
949         int numEdges = source->numEdgeData;
950         int numTessFaces = copy_tessface_data ? source->numTessFaceData : 0;
951         int numLoops = source->numLoopData;
952         int numPolys = source->numPolyData;
953
954         /* NOTE: Don't copy tessellation faces if not requested explicitly. */
955
956         /* ensure these are created if they are made on demand */
957         source->getVertDataArray(source, CD_ORIGINDEX);
958         source->getEdgeDataArray(source, CD_ORIGINDEX);
959         source->getPolyDataArray(source, CD_ORIGINDEX);
960         if (copy_tessface_data) {
961                 source->getTessFaceDataArray(source, CD_ORIGINDEX);
962         }
963
964         /* this initializes dm, and copies all non mvert/medge/mface layers */
965         DM_from_template(dm, source, DM_TYPE_CDDM, numVerts, numEdges, numTessFaces,
966                          numLoops, numPolys);
967         dm->deformedOnly = source->deformedOnly;
968         dm->cd_flag = source->cd_flag;
969         dm->dirty = source->dirty;
970
971         /* Tessellation data is never copied, so tag it here.
972          * Only tag dirty layers if we really ignored tessellation faces.
973          */
974         if (!copy_tessface_data) {
975                 dm->dirty |= DM_DIRTY_TESS_CDLAYERS;
976         }
977
978         CustomData_copy_data(&source->vertData, &dm->vertData, 0, 0, numVerts);
979         CustomData_copy_data(&source->edgeData, &dm->edgeData, 0, 0, numEdges);
980         if (copy_tessface_data) {
981                 CustomData_copy_data(&source->faceData, &dm->faceData, 0, 0, numTessFaces);
982         }
983
984         /* now add mvert/medge/mface layers */
985         cddm->mvert = source->dupVertArray(source);
986         cddm->medge = source->dupEdgeArray(source);
987
988         CustomData_add_layer(&dm->vertData, CD_MVERT, CD_ASSIGN, cddm->mvert, numVerts);
989         CustomData_add_layer(&dm->edgeData, CD_MEDGE, CD_ASSIGN, cddm->medge, numEdges);
990
991         if (faces_from_tessfaces || copy_tessface_data) {
992                 cddm->mface = source->dupTessFaceArray(source);
993                 CustomData_add_layer(&dm->faceData, CD_MFACE, CD_ASSIGN, cddm->mface, numTessFaces);
994         }
995
996         if (!faces_from_tessfaces) {
997                 DM_DupPolys(source, dm);
998         }
999         else {
1000                 CDDM_tessfaces_to_faces(dm);
1001         }
1002
1003         cddm->mloop = CustomData_get_layer(&dm->loopData, CD_MLOOP);
1004         cddm->mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1005
1006         return dm;
1007 }
1008
1009 DerivedMesh *CDDM_copy(DerivedMesh *source)
1010 {
1011         return cddm_copy_ex(source, false, false);
1012 }
1013
1014 DerivedMesh *CDDM_copy_from_tessface(DerivedMesh *source)
1015 {
1016         return cddm_copy_ex(source, false, true);
1017 }
1018
1019 DerivedMesh *CDDM_copy_with_tessface(DerivedMesh *source)
1020 {
1021         return cddm_copy_ex(source, true, false);
1022 }
1023
1024 /* note, the CD_ORIGINDEX layers are all 0, so if there is a direct
1025  * relationship between mesh data this needs to be set by the caller. */
1026 DerivedMesh *CDDM_from_template_ex(
1027         DerivedMesh *source,
1028         int numVerts, int numEdges, int numTessFaces,
1029         int numLoops, int numPolys,
1030         CustomDataMask mask)
1031 {
1032         CDDerivedMesh *cddm = cdDM_create("CDDM_from_template dest");
1033         DerivedMesh *dm = &cddm->dm;
1034
1035         /* ensure these are created if they are made on demand */
1036         source->getVertDataArray(source, CD_ORIGINDEX);
1037         source->getEdgeDataArray(source, CD_ORIGINDEX);
1038         source->getTessFaceDataArray(source, CD_ORIGINDEX);
1039         source->getPolyDataArray(source, CD_ORIGINDEX);
1040
1041         /* this does a copy of all non mvert/medge/mface layers */
1042         DM_from_template_ex(
1043                 dm, source, DM_TYPE_CDDM,
1044                 numVerts, numEdges, numTessFaces,
1045                 numLoops, numPolys,
1046                 mask);
1047
1048         /* now add mvert/medge/mface layers */
1049         CustomData_add_layer(&dm->vertData, CD_MVERT, CD_CALLOC, NULL, numVerts);
1050         CustomData_add_layer(&dm->edgeData, CD_MEDGE, CD_CALLOC, NULL, numEdges);
1051         CustomData_add_layer(&dm->faceData, CD_MFACE, CD_CALLOC, NULL, numTessFaces);
1052         CustomData_add_layer(&dm->loopData, CD_MLOOP, CD_CALLOC, NULL, numLoops);
1053         CustomData_add_layer(&dm->polyData, CD_MPOLY, CD_CALLOC, NULL, numPolys);
1054
1055         if (!CustomData_get_layer(&dm->vertData, CD_ORIGINDEX))
1056                 CustomData_add_layer(&dm->vertData, CD_ORIGINDEX, CD_CALLOC, NULL, numVerts);
1057         if (!CustomData_get_layer(&dm->edgeData, CD_ORIGINDEX))
1058                 CustomData_add_layer(&dm->edgeData, CD_ORIGINDEX, CD_CALLOC, NULL, numEdges);
1059         if (!CustomData_get_layer(&dm->faceData, CD_ORIGINDEX))
1060                 CustomData_add_layer(&dm->faceData, CD_ORIGINDEX, CD_CALLOC, NULL, numTessFaces);
1061
1062         cddm->mvert = CustomData_get_layer(&dm->vertData, CD_MVERT);
1063         cddm->medge = CustomData_get_layer(&dm->edgeData, CD_MEDGE);
1064         cddm->mface = CustomData_get_layer(&dm->faceData, CD_MFACE);
1065         cddm->mloop = CustomData_get_layer(&dm->loopData, CD_MLOOP);
1066         cddm->mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1067
1068         return dm;
1069 }
1070 DerivedMesh *CDDM_from_template(
1071         DerivedMesh *source,
1072         int numVerts, int numEdges, int numTessFaces,
1073         int numLoops, int numPolys)
1074 {
1075         return CDDM_from_template_ex(
1076                 source, numVerts, numEdges, numTessFaces,
1077                 numLoops, numPolys,
1078                 CD_MASK_DERIVEDMESH);
1079 }
1080
1081 void CDDM_apply_vert_coords(DerivedMesh *dm, float (*vertCoords)[3])
1082 {
1083         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1084         MVert *vert;
1085         int i;
1086
1087         /* this will just return the pointer if it wasn't a referenced layer */
1088         vert = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, dm->numVertData);
1089         cddm->mvert = vert;
1090
1091         for (i = 0; i < dm->numVertData; ++i, ++vert)
1092                 copy_v3_v3(vert->co, vertCoords[i]);
1093
1094         cddm->dm.dirty |= DM_DIRTY_NORMALS;
1095 }
1096
1097 void CDDM_apply_vert_normals(DerivedMesh *dm, short (*vertNormals)[3])
1098 {
1099         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1100         MVert *vert;
1101         int i;
1102
1103         /* this will just return the pointer if it wasn't a referenced layer */
1104         vert = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, dm->numVertData);
1105         cddm->mvert = vert;
1106
1107         for (i = 0; i < dm->numVertData; ++i, ++vert)
1108                 copy_v3_v3_short(vert->no, vertNormals[i]);
1109
1110         cddm->dm.dirty &= ~DM_DIRTY_NORMALS;
1111 }
1112
1113 void CDDM_calc_normals_mapping_ex(DerivedMesh *dm, const bool only_face_normals)
1114 {
1115         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1116         float (*face_nors)[3] = NULL;
1117
1118         if (dm->numVertData == 0) {
1119                 cddm->dm.dirty &= ~DM_DIRTY_NORMALS;
1120                 return;
1121         }
1122
1123         /* now we skip calculating vertex normals for referenced layer,
1124          * no need to duplicate verts.
1125          * WATCH THIS, bmesh only change!,
1126          * need to take care of the side effects here - campbell */
1127 #if 0
1128         /* we don't want to overwrite any referenced layers */
1129         cddm->mvert = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, dm->numVertData);
1130 #endif
1131
1132 #if 0
1133         if (dm->numTessFaceData == 0) {
1134                 /* No tessellation on this mesh yet, need to calculate one.
1135                  *
1136                  * Important not to update face normals from polys since it
1137                  * interferes with assigning the new normal layer in the following code.
1138                  */
1139                 CDDM_recalc_tessellation_ex(dm, false);
1140         }
1141         else {
1142                 /* A tessellation already exists, it should always have a CD_ORIGINDEX */
1143                 BLI_assert(CustomData_has_layer(&dm->faceData, CD_ORIGINDEX));
1144                 CustomData_free_layers(&dm->faceData, CD_NORMAL, dm->numTessFaceData);
1145         }
1146 #endif
1147
1148         face_nors = MEM_malloc_arrayN(dm->numPolyData, sizeof(*face_nors), "face_nors");
1149
1150         /* calculate face normals */
1151         BKE_mesh_calc_normals_poly(
1152                 cddm->mvert, NULL, dm->numVertData, CDDM_get_loops(dm), CDDM_get_polys(dm),
1153                 dm->numLoopData, dm->numPolyData, face_nors,
1154                 only_face_normals);
1155
1156         CustomData_add_layer(&dm->polyData, CD_NORMAL, CD_ASSIGN, face_nors, dm->numPolyData);
1157
1158         cddm->dm.dirty &= ~DM_DIRTY_NORMALS;
1159 }
1160
1161 void CDDM_calc_normals_mapping(DerivedMesh *dm)
1162 {
1163         /* use this to skip calculating normals on original vert's, this may need to be changed */
1164         const bool only_face_normals = CustomData_is_referenced_layer(&dm->vertData, CD_MVERT);
1165
1166         CDDM_calc_normals_mapping_ex(dm, only_face_normals);
1167 }
1168
1169 #if 0
1170 /* bmesh note: this matches what we have in trunk */
1171 void CDDM_calc_normals(DerivedMesh *dm)
1172 {
1173         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1174         float (*poly_nors)[3];
1175
1176         if (dm->numVertData == 0) return;
1177
1178         /* we don't want to overwrite any referenced layers */
1179         cddm->mvert = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, dm->numVertData);
1180
1181         /* fill in if it exists */
1182         poly_nors = CustomData_get_layer(&dm->polyData, CD_NORMAL);
1183         if (!poly_nors) {
1184                 poly_nors = CustomData_add_layer(&dm->polyData, CD_NORMAL, CD_CALLOC, NULL, dm->numPolyData);
1185         }
1186
1187         BKE_mesh_calc_normals_poly(cddm->mvert, dm->numVertData, CDDM_get_loops(dm), CDDM_get_polys(dm),
1188                                        dm->numLoopData, dm->numPolyData, poly_nors, false);
1189
1190         cddm->dm.dirty &= ~DM_DIRTY_NORMALS;
1191 }
1192 #else
1193
1194 /* poly normal layer is now only for final display */
1195 void CDDM_calc_normals(DerivedMesh *dm)
1196 {
1197         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1198
1199         /* we don't want to overwrite any referenced layers */
1200         cddm->mvert = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, dm->numVertData);
1201
1202         BKE_mesh_calc_normals_poly(cddm->mvert, NULL, dm->numVertData, CDDM_get_loops(dm), CDDM_get_polys(dm),
1203                                    dm->numLoopData, dm->numPolyData, NULL, false);
1204
1205         cddm->dm.dirty &= ~DM_DIRTY_NORMALS;
1206 }
1207
1208 #endif
1209
1210 void CDDM_calc_loop_normals(DerivedMesh *dm, const bool use_split_normals, const float split_angle)
1211 {
1212         CDDM_calc_loop_normals_spacearr(dm, use_split_normals, split_angle, NULL);
1213 }
1214
1215 /* #define DEBUG_CLNORS */
1216 #ifdef DEBUG_CLNORS
1217 #  include "BLI_linklist.h"
1218 #endif
1219
1220 void CDDM_calc_loop_normals_spacearr(
1221         DerivedMesh *dm, const bool use_split_normals, const float split_angle, MLoopNorSpaceArray *r_lnors_spacearr)
1222 {
1223         MVert *mverts = dm->getVertArray(dm);
1224         MEdge *medges = dm->getEdgeArray(dm);
1225         MLoop *mloops = dm->getLoopArray(dm);
1226         MPoly *mpolys = dm->getPolyArray(dm);
1227
1228         CustomData *ldata, *pdata;
1229
1230         float (*lnors)[3];
1231         short (*clnor_data)[2];
1232         float (*pnors)[3];
1233
1234         const int numVerts = dm->getNumVerts(dm);
1235         const int numEdges = dm->getNumEdges(dm);
1236         const int numLoops = dm->getNumLoops(dm);
1237         const int numPolys = dm->getNumPolys(dm);
1238
1239         ldata = dm->getLoopDataLayout(dm);
1240         if (CustomData_has_layer(ldata, CD_NORMAL)) {
1241                 lnors = CustomData_get_layer(ldata, CD_NORMAL);
1242         }
1243         else {
1244                 lnors = CustomData_add_layer(ldata, CD_NORMAL, CD_CALLOC, NULL, numLoops);
1245         }
1246
1247         /* Compute poly (always needed) and vert normals. */
1248         /* Note we can't use DM_ensure_normals, since it won't keep computed poly nors... */
1249         pdata = dm->getPolyDataLayout(dm);
1250         pnors = CustomData_get_layer(pdata, CD_NORMAL);
1251         if (!pnors) {
1252                 pnors = CustomData_add_layer(pdata, CD_NORMAL, CD_CALLOC, NULL, numPolys);
1253         }
1254         BKE_mesh_calc_normals_poly(mverts, NULL, numVerts, mloops, mpolys, numLoops, numPolys, pnors,
1255                                    (dm->dirty & DM_DIRTY_NORMALS) ? false : true);
1256
1257         dm->dirty &= ~DM_DIRTY_NORMALS;
1258
1259         clnor_data = CustomData_get_layer(ldata, CD_CUSTOMLOOPNORMAL);
1260
1261         BKE_mesh_normals_loop_split(mverts, numVerts, medges, numEdges, mloops, lnors, numLoops,
1262                                     mpolys, (const float (*)[3])pnors, numPolys,
1263                                     use_split_normals, split_angle,
1264                                     r_lnors_spacearr, clnor_data, NULL);
1265 #ifdef DEBUG_CLNORS
1266         if (r_lnors_spacearr) {
1267                 int i;
1268                 for (i = 0; i < numLoops; i++) {
1269                         if (r_lnors_spacearr->lspacearr[i]->ref_alpha != 0.0f) {
1270                                 LinkNode *loops = r_lnors_spacearr->lspacearr[i]->loops;
1271                                 printf("Loop %d uses lnor space %p:\n", i, r_lnors_spacearr->lspacearr[i]);
1272                                 print_v3("\tfinal lnor", lnors[i]);
1273                                 print_v3("\tauto lnor", r_lnors_spacearr->lspacearr[i]->vec_lnor);
1274                                 print_v3("\tref_vec", r_lnors_spacearr->lspacearr[i]->vec_ref);
1275                                 printf("\talpha: %f\n\tbeta: %f\n\tloops: %p\n", r_lnors_spacearr->lspacearr[i]->ref_alpha,
1276                                        r_lnors_spacearr->lspacearr[i]->ref_beta, r_lnors_spacearr->lspacearr[i]->loops);
1277                                 printf("\t\t(shared with loops");
1278                                 while (loops) {
1279                                         printf(" %d", POINTER_AS_INT(loops->link));
1280                                         loops = loops->next;
1281                                 }
1282                                 printf(")\n");
1283                         }
1284                         else {
1285                                 printf("Loop %d has no lnor space\n", i);
1286                         }
1287                 }
1288         }
1289 #endif
1290 }
1291
1292 #if 1
1293 /* TODO(sybren): Delete everything in this #if block after we have ported the modifiers
1294  * to use Mesh instead of DerivedMesh. The code has been copied to mesh_merge.c and ported. */
1295 /**
1296  * Poly compare with vtargetmap
1297  * Function used by #CDDM_merge_verts.
1298  * The function compares poly_source after applying vtargetmap, with poly_target.
1299  * The two polys are identical if they share the same vertices in the same order, or in reverse order,
1300  * but starting position loopstart may be different.
1301  * The function is called with direct_reverse=1 for same order (i.e. same normal),
1302  * and may be called again with direct_reverse=-1 for reverse order.
1303  * \return 1 if polys are identical,  0 if polys are different.
1304  */
1305 static int cddm_poly_compare(
1306         MLoop *mloop_array,
1307         MPoly *mpoly_source, MPoly *mpoly_target,
1308         const int *vtargetmap, const int direct_reverse)
1309 {
1310         int vert_source, first_vert_source, vert_target;
1311         int i_loop_source;
1312         int i_loop_target, i_loop_target_start, i_loop_target_offset, i_loop_target_adjusted;
1313         bool compare_completed = false;
1314         bool same_loops = false;
1315
1316         MLoop *mloop_source, *mloop_target;
1317
1318         BLI_assert(direct_reverse == 1 || direct_reverse == -1);
1319
1320         i_loop_source = 0;
1321         mloop_source = mloop_array + mpoly_source->loopstart;
1322         vert_source = mloop_source->v;
1323
1324         if (vtargetmap[vert_source] != -1) {
1325                 vert_source = vtargetmap[vert_source];
1326         }
1327         else {
1328                 /* All source loop vertices should be mapped */
1329                 BLI_assert(false);
1330         }
1331
1332         /* Find same vertex within mpoly_target's loops */
1333         mloop_target = mloop_array + mpoly_target->loopstart;
1334         for (i_loop_target = 0; i_loop_target < mpoly_target->totloop; i_loop_target++, mloop_target++) {
1335                 if (mloop_target->v == vert_source) {
1336                         break;
1337                 }
1338         }
1339
1340         /* If same vertex not found, then polys cannot be equal */
1341         if (i_loop_target >= mpoly_target->totloop) {
1342                 return false;
1343         }
1344
1345         /* Now mloop_source and m_loop_target have one identical vertex */
1346         /* mloop_source is at position 0, while m_loop_target has advanced to find identical vertex */
1347         /* Go around the loop and check that all vertices match in same order */
1348         /* Skipping source loops when consecutive source vertices are mapped to same target vertex */
1349
1350         i_loop_target_start = i_loop_target;
1351         i_loop_target_offset = 0;
1352         first_vert_source = vert_source;
1353
1354         compare_completed = false;
1355         same_loops = false;
1356
1357         while (!compare_completed) {
1358
1359                 vert_target = mloop_target->v;
1360
1361                 /* First advance i_loop_source, until it points to different vertex, after mapping applied */
1362                 do {
1363                         i_loop_source++;
1364
1365                         if (i_loop_source == mpoly_source->totloop) {
1366                                 /* End of loops for source, must match end of loop for target.  */
1367                                 if (i_loop_target_offset == mpoly_target->totloop - 1) {
1368                                         compare_completed = true;
1369                                         same_loops = true;
1370                                         break;  /* Polys are identical */
1371                                 }
1372                                 else {
1373                                         compare_completed = true;
1374                                         same_loops = false;
1375                                         break;  /* Polys are different */
1376                                 }
1377                         }
1378
1379                         mloop_source++;
1380                         vert_source = mloop_source->v;
1381
1382                         if (vtargetmap[vert_source] != -1) {
1383                                 vert_source = vtargetmap[vert_source];
1384                         }
1385                         else {
1386                                 /* All source loop vertices should be mapped */
1387                                 BLI_assert(false);
1388                         }
1389
1390                 } while (vert_source == vert_target);
1391
1392                 if (compare_completed) {
1393                         break;
1394                 }
1395
1396                 /* Now advance i_loop_target as well */
1397                 i_loop_target_offset++;
1398
1399                 if (i_loop_target_offset == mpoly_target->totloop) {
1400                         /* End of loops for target only, that means no match */
1401                         /* except if all remaining source vertices are mapped to first target */
1402                         for (; i_loop_source < mpoly_source->totloop; i_loop_source++, mloop_source++) {
1403                                 vert_source = vtargetmap[mloop_source->v];
1404                                 if (vert_source != first_vert_source) {
1405                                         compare_completed = true;
1406                                         same_loops = false;
1407                                         break;
1408                                 }
1409                         }
1410                         if (!compare_completed) {
1411                                 same_loops = true;
1412                         }
1413                         break;
1414                 }
1415
1416                 /* Adjust i_loop_target for cycling around and for direct/reverse order defined by delta = +1 or -1 */
1417                 i_loop_target_adjusted = (i_loop_target_start + direct_reverse * i_loop_target_offset) % mpoly_target->totloop;
1418                 if (i_loop_target_adjusted < 0) {
1419                         i_loop_target_adjusted += mpoly_target->totloop;
1420                 }
1421                 mloop_target = mloop_array + mpoly_target->loopstart + i_loop_target_adjusted;
1422                 vert_target = mloop_target->v;
1423
1424                 if (vert_target != vert_source) {
1425                         same_loops = false;  /* Polys are different */
1426                         break;
1427                 }
1428         }
1429         return same_loops;
1430 }
1431
1432 /* Utility stuff for using GHash with polys */
1433
1434 typedef struct PolyKey {
1435         int poly_index;   /* index of the MPoly within the derived mesh */
1436         int totloops;     /* number of loops in the poly */
1437         unsigned int hash_sum;  /* Sum of all vertices indices */
1438         unsigned int hash_xor;  /* Xor of all vertices indices */
1439 } PolyKey;
1440
1441
1442 static unsigned int poly_gset_hash_fn(const void *key)
1443 {
1444         const PolyKey *pk = key;
1445         return pk->hash_sum;
1446 }
1447
1448 static bool poly_gset_compare_fn(const void *k1, const void *k2)
1449 {
1450         const PolyKey *pk1 = k1;
1451         const PolyKey *pk2 = k2;
1452         if ((pk1->hash_sum == pk2->hash_sum) &&
1453             (pk1->hash_xor == pk2->hash_xor) &&
1454             (pk1->totloops == pk2->totloops))
1455         {
1456                 /* Equality - note that this does not mean equality of polys */
1457                 return false;
1458         }
1459         else {
1460                 return true;
1461         }
1462 }
1463
1464 /**
1465  * Merge Verts
1466  *
1467  * This frees dm, and returns a new one.
1468  *
1469  * \param vtargetmap  The table that maps vertices to target vertices.  a value of -1
1470  * indicates a vertex is a target, and is to be kept.
1471  * This array is aligned with 'dm->numVertData'
1472  * \warning \a vtargetmap must **not** contain any chained mapping (v1 -> v2 -> v3 etc.), this is not supported
1473  * and will likely generate corrupted geometry.
1474  *
1475  * \param tot_vtargetmap  The number of non '-1' values in vtargetmap. (not the size)
1476  *
1477  * \param merge_mode enum with two modes.
1478  * - #CDDM_MERGE_VERTS_DUMP_IF_MAPPED
1479  * When called by the Mirror Modifier,
1480  * In this mode it skips any faces that have all vertices merged (to avoid creating pairs
1481  * of faces sharing the same set of vertices)
1482  * - #CDDM_MERGE_VERTS_DUMP_IF_EQUAL
1483  * When called by the Array Modifier,
1484  * In this mode, faces where all vertices are merged are double-checked,
1485  * to see whether all target vertices actually make up a poly already.
1486  * Indeed it could be that all of a poly's vertices are merged,
1487  * but merged to vertices that do not make up a single poly,
1488  * in which case the original poly should not be dumped.
1489  * Actually this later behavior could apply to the Mirror Modifier as well, but the additional checks are
1490  * costly and not necessary in the case of mirror, because each vertex is only merged to its own mirror.
1491  *
1492  * \note #CDDM_recalc_tessellation has to run on the returned DM if you want to access tessfaces.
1493  */
1494 DerivedMesh *CDDM_merge_verts(DerivedMesh *dm, const int *vtargetmap, const int tot_vtargetmap, const int merge_mode)
1495 {
1496 // This was commented out back in 2013, see commit f45d8827bafe6b9eaf9de42f4054e9d84a21955d.
1497 // #define USE_LOOPS
1498         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
1499         CDDerivedMesh *cddm2 = NULL;
1500
1501         const int totvert = dm->numVertData;
1502         const int totedge = dm->numEdgeData;
1503         const int totloop = dm->numLoopData;
1504         const int totpoly = dm->numPolyData;
1505
1506         const int totvert_final = totvert - tot_vtargetmap;
1507
1508         MVert *mv, *mvert = MEM_malloc_arrayN(totvert_final, sizeof(*mvert), __func__);
1509         int *oldv         = MEM_malloc_arrayN(totvert_final, sizeof(*oldv), __func__);
1510         int *newv         = MEM_malloc_arrayN(totvert, sizeof(*newv), __func__);
1511         STACK_DECLARE(mvert);
1512         STACK_DECLARE(oldv);
1513
1514         /* Note: create (totedge + totloop) elements because partially invalid polys due to merge may require
1515          * generating new edges, and while in 99% cases we'll still end with less final edges than totedge,
1516          * cases can be forged that would end requiring more... */
1517         MEdge *med, *medge = MEM_malloc_arrayN((totedge + totloop), sizeof(*medge), __func__);
1518         int *olde          = MEM_malloc_arrayN((totedge + totloop), sizeof(*olde), __func__);
1519         int *newe          = MEM_malloc_arrayN((totedge + totloop), sizeof(*newe), __func__);
1520         STACK_DECLARE(medge);
1521         STACK_DECLARE(olde);
1522
1523         MLoop *ml, *mloop = MEM_malloc_arrayN(totloop, sizeof(*mloop), __func__);
1524         int *oldl         = MEM_malloc_arrayN(totloop, sizeof(*oldl), __func__);
1525 #ifdef USE_LOOPS
1526         int *newl         = MEM_malloc_arrayN(totloop, sizeof(*newl), __func__);
1527 #endif
1528         STACK_DECLARE(mloop);
1529         STACK_DECLARE(oldl);
1530
1531         MPoly *mp, *mpoly = MEM_malloc_arrayN(totpoly, sizeof(*medge), __func__);
1532         int *oldp         = MEM_malloc_arrayN(totpoly, sizeof(*oldp), __func__);
1533         STACK_DECLARE(mpoly);
1534         STACK_DECLARE(oldp);
1535
1536         EdgeHash *ehash = BLI_edgehash_new_ex(__func__, totedge);
1537
1538         int i, j, c;
1539
1540         PolyKey *poly_keys;
1541         GSet *poly_gset = NULL;
1542
1543         STACK_INIT(oldv, totvert_final);
1544         STACK_INIT(olde, totedge);
1545         STACK_INIT(oldl, totloop);
1546         STACK_INIT(oldp, totpoly);
1547
1548         STACK_INIT(mvert, totvert_final);
1549         STACK_INIT(medge, totedge);
1550         STACK_INIT(mloop, totloop);
1551         STACK_INIT(mpoly, totpoly);
1552
1553         /* fill newv with destination vertex indices */
1554         mv = cddm->mvert;
1555         c = 0;
1556         for (i = 0; i < totvert; i++, mv++) {
1557                 if (vtargetmap[i] == -1) {
1558                         STACK_PUSH(oldv, i);
1559                         STACK_PUSH(mvert, *mv);
1560                         newv[i] = c++;
1561                 }
1562                 else {
1563                         /* dummy value */
1564                         newv[i] = 0;
1565                 }
1566         }
1567
1568         /* now link target vertices to destination indices */
1569         for (i = 0; i < totvert; i++) {
1570                 if (vtargetmap[i] != -1) {
1571                         newv[i] = newv[vtargetmap[i]];
1572                 }
1573         }
1574
1575         /* Don't remap vertices in cddm->mloop, because we need to know the original
1576          * indices in order to skip faces with all vertices merged.
1577          * The "update loop indices..." section further down remaps vertices in mloop.
1578          */
1579
1580         /* now go through and fix edges and faces */
1581         med = cddm->medge;
1582         c = 0;
1583         for (i = 0; i < totedge; i++, med++) {
1584                 const unsigned int v1 = (vtargetmap[med->v1] != -1) ? vtargetmap[med->v1] : med->v1;
1585                 const unsigned int v2 = (vtargetmap[med->v2] != -1) ? vtargetmap[med->v2] : med->v2;
1586                 if (LIKELY(v1 != v2)) {
1587                         void **val_p;
1588
1589                         if (BLI_edgehash_ensure_p(ehash, v1, v2, &val_p)) {
1590                                 newe[i] = POINTER_AS_INT(*val_p);
1591                         }
1592                         else {
1593                                 STACK_PUSH(olde, i);
1594                                 STACK_PUSH(medge, *med);
1595                                 newe[i] = c;
1596                                 *val_p = POINTER_FROM_INT(c);
1597                                 c++;
1598                         }
1599                 }
1600                 else {
1601                         newe[i] = -1;
1602                 }
1603         }
1604
1605         if (merge_mode == CDDM_MERGE_VERTS_DUMP_IF_EQUAL) {
1606                 /* In this mode, we need to determine,  whenever a poly' vertices are all mapped */
1607                 /* if the targets already make up a poly, in which case the new poly is dropped */
1608                 /* This poly equality check is rather complex.   We use a BLI_ghash to speed it up with a first level check */
1609                 PolyKey *mpgh;
1610                 poly_keys = MEM_malloc_arrayN(totpoly, sizeof(PolyKey), __func__);
1611                 poly_gset = BLI_gset_new_ex(poly_gset_hash_fn, poly_gset_compare_fn, __func__, totpoly);
1612                 /* Duplicates allowed because our compare function is not pure equality */
1613                 BLI_gset_flag_set(poly_gset, GHASH_FLAG_ALLOW_DUPES);
1614
1615                 mp = cddm->mpoly;
1616                 mpgh = poly_keys;
1617                 for (i = 0; i < totpoly; i++, mp++, mpgh++) {
1618                         mpgh->poly_index = i;
1619                         mpgh->totloops = mp->totloop;
1620                         ml = cddm->mloop + mp->loopstart;
1621                         mpgh->hash_sum = mpgh->hash_xor = 0;
1622                         for (j = 0; j < mp->totloop; j++, ml++) {
1623                                 mpgh->hash_sum += ml->v;
1624                                 mpgh->hash_xor ^= ml->v;
1625                         }
1626                         BLI_gset_insert(poly_gset, mpgh);
1627                 }
1628
1629                 if (cddm->pmap) {
1630                         MEM_freeN(cddm->pmap);
1631                         MEM_freeN(cddm->pmap_mem);
1632                 }
1633                 /* Can we optimise by reusing an old pmap ?  How do we know an old pmap is stale ?  */
1634                 /* When called by MOD_array.c, the cddm has just been created, so it has no valid pmap.   */
1635                 BKE_mesh_vert_poly_map_create(&cddm->pmap, &cddm->pmap_mem,
1636                                               cddm->mpoly, cddm->mloop,
1637                                               totvert, totpoly, totloop);
1638         }  /* done preparing for fast poly compare */
1639
1640
1641         mp = cddm->mpoly;
1642         mv = cddm->mvert;
1643         for (i = 0; i < totpoly; i++, mp++) {
1644                 MPoly *mp_new;
1645
1646                 ml = cddm->mloop + mp->loopstart;
1647
1648                 /* check faces with all vertices merged */
1649                 bool all_vertices_merged = true;
1650
1651                 for (j = 0; j < mp->totloop; j++, ml++) {
1652                         if (vtargetmap[ml->v] == -1) {
1653                                 all_vertices_merged = false;
1654                                 /* This will be used to check for poly using several time the same vert. */
1655                                 mv[ml->v].flag &= ~ME_VERT_TMP_TAG;
1656                         }
1657                         else {
1658                                 /* This will be used to check for poly using several time the same vert. */
1659                                 mv[vtargetmap[ml->v]].flag &= ~ME_VERT_TMP_TAG;
1660                         }
1661                 }
1662
1663                 if (UNLIKELY(all_vertices_merged)) {
1664                         if (merge_mode == CDDM_MERGE_VERTS_DUMP_IF_MAPPED) {
1665                                 /* In this mode, all vertices merged is enough to dump face */
1666                                 continue;
1667                         }
1668                         else if (merge_mode == CDDM_MERGE_VERTS_DUMP_IF_EQUAL) {
1669                                 /* Additional condition for face dump:  target vertices must make up an identical face */
1670                                 /* The test has 2 steps:  (1) first step is fast ghash lookup, but not failproof       */
1671                                 /*                        (2) second step is thorough but more costly poly compare     */
1672                                 int i_poly, v_target;
1673                                 bool found = false;
1674                                 PolyKey pkey;
1675
1676                                 /* Use poly_gset for fast (although not 100% certain) identification of same poly */
1677                                 /* First, make up a poly_summary structure */
1678                                 ml = cddm->mloop + mp->loopstart;
1679                                 pkey.hash_sum = pkey.hash_xor = 0;
1680                                 pkey.totloops = 0;
1681                                 for (j = 0; j < mp->totloop; j++, ml++) {
1682                                         v_target = vtargetmap[ml->v];   /* Cannot be -1, they are all mapped */
1683                                         pkey.hash_sum += v_target;
1684                                         pkey.hash_xor ^= v_target;
1685                                         pkey.totloops++;
1686                                 }
1687                                 if (BLI_gset_haskey(poly_gset, &pkey)) {
1688
1689                                         /* There might be a poly that matches this one.
1690                                          * We could just leave it there and say there is, and do a "continue".
1691                                          * ... but we are checking whether there is an exact poly match.
1692                                          * It's not so costly in terms of CPU since it's very rare, just a lot of complex code.
1693                                          */
1694
1695                                         /* Consider current loop again */
1696                                         ml = cddm->mloop + mp->loopstart;
1697                                         /* Consider the target of the loop's first vert */
1698                                         v_target = vtargetmap[ml->v];
1699                                         /* Now see if v_target belongs to a poly that shares all vertices with source poly,
1700                                          * in same order, or reverse order */
1701
1702                                         for (i_poly = 0; i_poly < cddm->pmap[v_target].count; i_poly++) {
1703                                                 MPoly *target_poly = cddm->mpoly + *(cddm->pmap[v_target].indices + i_poly);
1704
1705                                                 if (cddm_poly_compare(cddm->mloop, mp, target_poly, vtargetmap, +1) ||
1706                                                     cddm_poly_compare(cddm->mloop, mp, target_poly, vtargetmap, -1))
1707                                                 {
1708                                                         found = true;
1709                                                         break;
1710                                                 }
1711                                         }
1712                                         if (found) {
1713                                                 /* Current poly's vertices are mapped to a poly that is strictly identical */
1714                                                 /* Current poly is dumped */
1715                                                 continue;
1716                                         }
1717                                 }
1718                         }
1719                 }
1720
1721
1722                 /* Here either the poly's vertices were not all merged
1723                  * or they were all merged, but targets do not make up an identical poly,
1724                  * the poly is retained.
1725                  */
1726                 ml = cddm->mloop + mp->loopstart;
1727
1728                 c = 0;
1729                 MLoop *last_valid_ml = NULL;
1730                 MLoop *first_valid_ml = NULL;
1731                 bool need_edge_from_last_valid_ml = false;
1732                 bool need_edge_to_first_valid_ml = false;
1733                 int created_edges = 0;
1734                 for (j = 0; j < mp->totloop; j++, ml++) {
1735                         const uint mlv = (vtargetmap[ml->v] != -1) ? vtargetmap[ml->v] : ml->v;
1736 #ifndef NDEBUG
1737                         {
1738                                 MLoop *next_ml = cddm->mloop + mp->loopstart + ((j + 1) % mp->totloop);
1739                                 uint next_mlv = (vtargetmap[next_ml->v] != -1) ? vtargetmap[next_ml->v] : next_ml->v;
1740                                 med = cddm->medge + ml->e;
1741                                 uint v1 = (vtargetmap[med->v1] != -1) ? vtargetmap[med->v1] : med->v1;
1742                                 uint v2 = (vtargetmap[med->v2] != -1) ? vtargetmap[med->v2] : med->v2;
1743                                 BLI_assert((mlv == v1 && next_mlv == v2) || (mlv == v2 && next_mlv == v1));
1744                         }
1745 #endif
1746                         /* A loop is only valid if its matching edge is, and it's not reusing a vertex already used by this poly. */
1747                         if (LIKELY((newe[ml->e] != -1) && ((mv[mlv].flag & ME_VERT_TMP_TAG) == 0))) {
1748                                 mv[mlv].flag |= ME_VERT_TMP_TAG;
1749
1750                                 if (UNLIKELY(last_valid_ml != NULL && need_edge_from_last_valid_ml)) {
1751                                         /* We need to create a new edge between last valid loop and this one! */
1752                                         void **val_p;
1753
1754                                         uint v1 = (vtargetmap[last_valid_ml->v] != -1) ? vtargetmap[last_valid_ml->v] : last_valid_ml->v;
1755                                         uint v2 = mlv;
1756                                         BLI_assert(v1 != v2);
1757                                         if (BLI_edgehash_ensure_p(ehash, v1, v2, &val_p)) {
1758                                                 last_valid_ml->e = POINTER_AS_INT(*val_p);
1759                                         }
1760                                         else {
1761                                                 const int new_eidx = STACK_SIZE(medge);
1762                                                 STACK_PUSH(olde, olde[last_valid_ml->e]);
1763                                                 STACK_PUSH(medge, cddm->medge[last_valid_ml->e]);
1764                                                 medge[new_eidx].v1 = last_valid_ml->v;
1765                                                 medge[new_eidx].v2 = ml->v;
1766                                                 /* DO NOT change newe mapping, could break actual values due to some deleted original edges. */
1767                                                 *val_p = POINTER_FROM_INT(new_eidx);
1768                                                 created_edges++;
1769
1770                                                 last_valid_ml->e = new_eidx;
1771                                         }
1772                                         need_edge_from_last_valid_ml = false;
1773                                 }
1774
1775 #ifdef USE_LOOPS
1776                                 newl[j + mp->loopstart] = STACK_SIZE(mloop);
1777 #endif
1778                                 STACK_PUSH(oldl, j + mp->loopstart);
1779                                 last_valid_ml = STACK_PUSH_RET_PTR(mloop);
1780                                 *last_valid_ml = *ml;
1781                                 if (first_valid_ml == NULL) {
1782                                         first_valid_ml = last_valid_ml;
1783                                 }
1784                                 c++;
1785
1786                                 /* We absolutely HAVE to handle edge index remapping here, otherwise potential newly created edges
1787                                  * in that part of code make remapping later totally unreliable. */
1788                                 BLI_assert(newe[ml->e] != -1);
1789                                 last_valid_ml->e = newe[ml->e];
1790                         }
1791                         else {
1792                                 if (last_valid_ml != NULL) {
1793                                         need_edge_from_last_valid_ml = true;
1794                                 }
1795                                 else {
1796                                         need_edge_to_first_valid_ml = true;
1797                                 }
1798                         }
1799                 }
1800                 if (UNLIKELY(last_valid_ml != NULL && !ELEM(first_valid_ml, NULL, last_valid_ml) &&
1801                              (need_edge_to_first_valid_ml || need_edge_from_last_valid_ml)))
1802                 {
1803                         /* We need to create a new edge between last valid loop and first valid one! */
1804                         void **val_p;
1805
1806                         uint v1 = (vtargetmap[last_valid_ml->v] != -1) ? vtargetmap[last_valid_ml->v] : last_valid_ml->v;
1807                         uint v2 = (vtargetmap[first_valid_ml->v] != -1) ? vtargetmap[first_valid_ml->v] : first_valid_ml->v;
1808                         BLI_assert(v1 != v2);
1809                         if (BLI_edgehash_ensure_p(ehash, v1, v2, &val_p)) {
1810                                 last_valid_ml->e = POINTER_AS_INT(*val_p);
1811                         }
1812                         else {
1813                                 const int new_eidx = STACK_SIZE(medge);
1814                                 STACK_PUSH(olde, olde[last_valid_ml->e]);
1815                                 STACK_PUSH(medge, cddm->medge[last_valid_ml->e]);
1816                                 medge[new_eidx].v1 = last_valid_ml->v;
1817                                 medge[new_eidx].v2 = first_valid_ml->v;
1818                                 /* DO NOT change newe mapping, could break actual values due to some deleted original edges. */
1819                                 *val_p = POINTER_FROM_INT(new_eidx);
1820                                 created_edges++;
1821
1822                                 last_valid_ml->e = new_eidx;
1823                         }
1824                         need_edge_to_first_valid_ml = need_edge_from_last_valid_ml = false;
1825                 }
1826
1827                 if (UNLIKELY(c == 0)) {
1828                         BLI_assert(created_edges == 0);
1829                         continue;
1830                 }
1831                 else if (UNLIKELY(c < 3)) {
1832                         STACK_DISCARD(oldl, c);
1833                         STACK_DISCARD(mloop, c);
1834                         if (created_edges > 0) {
1835                                 for (j = STACK_SIZE(medge) - created_edges; j < STACK_SIZE(medge); j++) {
1836                                         BLI_edgehash_remove(ehash, medge[j].v1, medge[j].v2, NULL);
1837                                 }
1838                                 STACK_DISCARD(olde, created_edges);
1839                                 STACK_DISCARD(medge, created_edges);
1840                         }
1841                         continue;
1842                 }
1843
1844                 mp_new = STACK_PUSH_RET_PTR(mpoly);
1845                 *mp_new = *mp;
1846                 mp_new->totloop = c;
1847                 BLI_assert(mp_new->totloop >= 3);
1848                 mp_new->loopstart = STACK_SIZE(mloop) - c;
1849
1850                 STACK_PUSH(oldp, i);
1851         }  /* end of the loop that tests polys   */
1852
1853
1854         if (poly_gset) {
1855                 // printf("hash quality %.6f\n", BLI_gset_calc_quality(poly_gset));
1856
1857                 BLI_gset_free(poly_gset, NULL);
1858                 MEM_freeN(poly_keys);
1859         }
1860
1861         /*create new cddm*/
1862         cddm2 = (CDDerivedMesh *)CDDM_from_template(
1863                 (DerivedMesh *)cddm, STACK_SIZE(mvert), STACK_SIZE(medge), 0, STACK_SIZE(mloop), STACK_SIZE(mpoly));
1864
1865         /*update edge indices and copy customdata*/
1866         med = medge;
1867         for (i = 0; i < cddm2->dm.numEdgeData; i++, med++) {
1868                 BLI_assert(newv[med->v1] != -1);
1869                 med->v1 = newv[med->v1];
1870                 BLI_assert(newv[med->v2] != -1);
1871                 med->v2 = newv[med->v2];
1872
1873                 /* Can happen in case vtargetmap contains some double chains, we do not support that. */
1874                 BLI_assert(med->v1 != med->v2);
1875
1876                 CustomData_copy_data(&dm->edgeData, &cddm2->dm.edgeData, olde[i], i, 1);
1877         }
1878
1879         /*update loop indices and copy customdata*/
1880         ml = mloop;
1881         for (i = 0; i < cddm2->dm.numLoopData; i++, ml++) {
1882                 /* Edge remapping has already be done in main loop handling part above. */
1883                 BLI_assert(newv[ml->v] != -1);
1884                 ml->v = newv[ml->v];
1885
1886                 CustomData_copy_data(&dm->loopData, &cddm2->dm.loopData, oldl[i], i, 1);
1887         }
1888
1889         /*copy vertex customdata*/
1890         mv = mvert;
1891         for (i = 0; i < cddm2->dm.numVertData; i++, mv++) {
1892                 CustomData_copy_data(&dm->vertData, &cddm2->dm.vertData, oldv[i], i, 1);
1893         }
1894
1895         /*copy poly customdata*/
1896         mp = mpoly;
1897         for (i = 0; i < cddm2->dm.numPolyData; i++, mp++) {
1898                 CustomData_copy_data(&dm->polyData, &cddm2->dm.polyData, oldp[i], i, 1);
1899         }
1900
1901         /*copy over data.  CustomData_add_layer can do this, need to look it up.*/
1902         memcpy(cddm2->mvert, mvert, sizeof(MVert) * STACK_SIZE(mvert));
1903         memcpy(cddm2->medge, medge, sizeof(MEdge) * STACK_SIZE(medge));
1904         memcpy(cddm2->mloop, mloop, sizeof(MLoop) * STACK_SIZE(mloop));
1905         memcpy(cddm2->mpoly, mpoly, sizeof(MPoly) * STACK_SIZE(mpoly));
1906
1907         MEM_freeN(mvert);
1908         MEM_freeN(medge);
1909         MEM_freeN(mloop);
1910         MEM_freeN(mpoly);
1911
1912         MEM_freeN(newv);
1913         MEM_freeN(newe);
1914 #ifdef USE_LOOPS
1915         MEM_freeN(newl);
1916 #endif
1917
1918         MEM_freeN(oldv);
1919         MEM_freeN(olde);
1920         MEM_freeN(oldl);
1921         MEM_freeN(oldp);
1922
1923         BLI_edgehash_free(ehash, NULL);
1924
1925         /*free old derivedmesh*/
1926         dm->needsFree = 1;
1927         dm->release(dm);
1928
1929         return (DerivedMesh *)cddm2;
1930 }
1931 #endif
1932
1933 void CDDM_lower_num_verts(DerivedMesh *dm, int numVerts)
1934 {
1935         BLI_assert(numVerts >= 0);
1936         if (numVerts < dm->numVertData)
1937                 CustomData_free_elem(&dm->vertData, numVerts, dm->numVertData - numVerts);
1938
1939         dm->numVertData = numVerts;
1940 }
1941
1942 void CDDM_lower_num_edges(DerivedMesh *dm, int numEdges)
1943 {
1944         BLI_assert(numEdges >= 0);
1945         if (numEdges < dm->numEdgeData)
1946                 CustomData_free_elem(&dm->edgeData, numEdges, dm->numEdgeData - numEdges);
1947
1948         dm->numEdgeData = numEdges;
1949 }
1950
1951 void CDDM_lower_num_tessfaces(DerivedMesh *dm, int numTessFaces)
1952 {
1953         BLI_assert(numTessFaces >= 0);
1954         if (numTessFaces < dm->numTessFaceData)
1955                 CustomData_free_elem(&dm->faceData, numTessFaces, dm->numTessFaceData - numTessFaces);
1956
1957         dm->numTessFaceData = numTessFaces;
1958 }
1959
1960 void CDDM_lower_num_loops(DerivedMesh *dm, int numLoops)
1961 {
1962         BLI_assert(numLoops >= 0);
1963         if (numLoops < dm->numLoopData)
1964                 CustomData_free_elem(&dm->loopData, numLoops, dm->numLoopData - numLoops);
1965
1966         dm->numLoopData = numLoops;
1967 }
1968
1969 void CDDM_lower_num_polys(DerivedMesh *dm, int numPolys)
1970 {
1971         BLI_assert(numPolys >= 0);
1972         if (numPolys < dm->numPolyData)
1973                 CustomData_free_elem(&dm->polyData, numPolys, dm->numPolyData - numPolys);
1974
1975         dm->numPolyData = numPolys;
1976 }
1977
1978 /* mesh element access functions */
1979
1980 MVert *CDDM_get_vert(DerivedMesh *dm, int index)
1981 {
1982         return &((CDDerivedMesh *)dm)->mvert[index];
1983 }
1984
1985 MEdge *CDDM_get_edge(DerivedMesh *dm, int index)
1986 {
1987         return &((CDDerivedMesh *)dm)->medge[index];
1988 }
1989
1990 MFace *CDDM_get_tessface(DerivedMesh *dm, int index)
1991 {
1992         return &((CDDerivedMesh *)dm)->mface[index];
1993 }
1994
1995 MLoop *CDDM_get_loop(DerivedMesh *dm, int index)
1996 {
1997         return &((CDDerivedMesh *)dm)->mloop[index];
1998 }
1999
2000 MPoly *CDDM_get_poly(DerivedMesh *dm, int index)
2001 {
2002         return &((CDDerivedMesh *)dm)->mpoly[index];
2003 }
2004
2005 /* array access functions */
2006
2007 MVert *CDDM_get_verts(DerivedMesh *dm)
2008 {
2009         return ((CDDerivedMesh *)dm)->mvert;
2010 }
2011
2012 MEdge *CDDM_get_edges(DerivedMesh *dm)
2013 {
2014         return ((CDDerivedMesh *)dm)->medge;
2015 }
2016
2017 MFace *CDDM_get_tessfaces(DerivedMesh *dm)
2018 {
2019         return ((CDDerivedMesh *)dm)->mface;
2020 }
2021
2022 MLoop *CDDM_get_loops(DerivedMesh *dm)
2023 {
2024         return ((CDDerivedMesh *)dm)->mloop;
2025 }
2026
2027 MPoly *CDDM_get_polys(DerivedMesh *dm)
2028 {
2029         return ((CDDerivedMesh *)dm)->mpoly;
2030 }
2031
2032 void CDDM_tessfaces_to_faces(DerivedMesh *dm)
2033 {
2034         /* converts mfaces to mpolys/mloops */
2035         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2036
2037         BKE_mesh_convert_mfaces_to_mpolys_ex(
2038                 NULL, &cddm->dm.faceData, &cddm->dm.loopData, &cddm->dm.polyData,
2039                 cddm->dm.numEdgeData, cddm->dm.numTessFaceData,
2040                 cddm->dm.numLoopData, cddm->dm.numPolyData,
2041                 cddm->medge, cddm->mface,
2042                 &cddm->dm.numLoopData, &cddm->dm.numPolyData,
2043                 &cddm->mloop, &cddm->mpoly);
2044 }
2045
2046 void CDDM_set_mvert(DerivedMesh *dm, MVert *mvert)
2047 {
2048         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2049
2050         if (!CustomData_has_layer(&dm->vertData, CD_MVERT))
2051                 CustomData_add_layer(&dm->vertData, CD_MVERT, CD_ASSIGN, mvert, dm->numVertData);
2052
2053         cddm->mvert = mvert;
2054 }
2055
2056 void CDDM_set_medge(DerivedMesh *dm, MEdge *medge)
2057 {
2058         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2059
2060         if (!CustomData_has_layer(&dm->edgeData, CD_MEDGE))
2061                 CustomData_add_layer(&dm->edgeData, CD_MEDGE, CD_ASSIGN, medge, dm->numEdgeData);
2062
2063         cddm->medge = medge;
2064 }
2065
2066 void CDDM_set_mface(DerivedMesh *dm, MFace *mface)
2067 {
2068         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2069
2070         if (!CustomData_has_layer(&dm->faceData, CD_MFACE))
2071                 CustomData_add_layer(&dm->faceData, CD_MFACE, CD_ASSIGN, mface, dm->numTessFaceData);
2072
2073         cddm->mface = mface;
2074 }
2075
2076 void CDDM_set_mloop(DerivedMesh *dm, MLoop *mloop)
2077 {
2078         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2079
2080         if (!CustomData_has_layer(&dm->loopData, CD_MLOOP))
2081                 CustomData_add_layer(&dm->loopData, CD_MLOOP, CD_ASSIGN, mloop, dm->numLoopData);
2082
2083         cddm->mloop = mloop;
2084 }
2085
2086 void CDDM_set_mpoly(DerivedMesh *dm, MPoly *mpoly)
2087 {
2088         CDDerivedMesh *cddm = (CDDerivedMesh *)dm;
2089
2090         if (!CustomData_has_layer(&dm->polyData, CD_MPOLY))
2091                 CustomData_add_layer(&dm->polyData, CD_MPOLY, CD_ASSIGN, mpoly, dm->numPolyData);
2092
2093         cddm->mpoly = mpoly;
2094 }