Cleanup: correct solidify logic
[blender.git] / source / blender / modifiers / intern / MOD_solidify.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2005 by the Blender Foundation.
19  * All rights reserved.
20  *
21  * Contributor(s): Campbell Barton
22  *                 Shinsuke Irie
23  *                 Martin Felke
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  */
28
29 /** \file blender/modifiers/intern/MOD_solidify.c
30  *  \ingroup modifiers
31  */
32
33 #include "DNA_mesh_types.h"
34 #include "DNA_meshdata_types.h"
35
36 #include "MEM_guardedalloc.h"
37
38 #include "BLI_utildefines.h"
39 #include "BLI_utildefines_stack.h"
40 #include "BLI_bitmap.h"
41 #include "BLI_math.h"
42
43 #include "BKE_cdderivedmesh.h"
44 #include "BKE_mesh.h"
45 #include "BKE_particle.h"
46 #include "BKE_deform.h"
47
48 #include "MOD_modifiertypes.h"
49 #include "MOD_util.h"
50
51 #ifdef __GNUC__
52 #  pragma GCC diagnostic error "-Wsign-conversion"
53 #endif
54
55 /* skip shell thickness for non-manifold edges, see [#35710] */
56 #define USE_NONMANIFOLD_WORKAROUND
57
58 /* *** derived mesh high quality normal calculation function  *** */
59 /* could be exposed for other functions to use */
60
61 typedef struct EdgeFaceRef {
62         int f1; /* init as -1 */
63         int f2;
64 } EdgeFaceRef;
65
66 BLI_INLINE bool edgeref_is_init(const EdgeFaceRef *edge_ref)
67 {
68         return !((edge_ref->f1 == 0) && (edge_ref->f2 == 0));
69 }
70
71 /**
72  * \param dm  Mesh to calculate normals for.
73  * \param face_nors  Precalculated face normals.
74  * \param r_vert_nors  Return vert normals.
75  */
76 static void dm_calc_normal(DerivedMesh *dm, float (*face_nors)[3], float (*r_vert_nors)[3])
77 {
78         int i, numVerts, numEdges, numFaces;
79         MPoly *mpoly, *mp;
80         MLoop *mloop, *ml;
81         MEdge *medge, *ed;
82         MVert *mvert, *mv;
83
84         numVerts = dm->getNumVerts(dm);
85         numEdges = dm->getNumEdges(dm);
86         numFaces = dm->getNumPolys(dm);
87         mpoly = dm->getPolyArray(dm);
88         medge = dm->getEdgeArray(dm);
89         mvert = dm->getVertArray(dm);
90         mloop = dm->getLoopArray(dm);
91
92         /* we don't want to overwrite any referenced layers */
93
94         /* Doesn't work here! */
95 #if 0
96         mv = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, numVerts);
97         cddm->mvert = mv;
98 #endif
99
100         mv = mvert;
101         mp = mpoly;
102
103         {
104                 EdgeFaceRef *edge_ref_array = MEM_calloc_arrayN((size_t)numEdges, sizeof(EdgeFaceRef), "Edge Connectivity");
105                 EdgeFaceRef *edge_ref;
106                 float edge_normal[3];
107
108                 /* Add an edge reference if it's not there, pointing back to the face index. */
109                 for (i = 0; i < numFaces; i++, mp++) {
110                         int j;
111
112                         ml = mloop + mp->loopstart;
113
114                         for (j = 0; j < mp->totloop; j++, ml++) {
115                                 /* --- add edge ref to face --- */
116                                 edge_ref = &edge_ref_array[ml->e];
117                                 if (!edgeref_is_init(edge_ref)) {
118                                         edge_ref->f1 =  i;
119                                         edge_ref->f2 = -1;
120                                 }
121                                 else if ((edge_ref->f1 != -1) && (edge_ref->f2 == -1)) {
122                                         edge_ref->f2 = i;
123                                 }
124                                 else {
125                                         /* 3+ faces using an edge, we can't handle this usefully */
126                                         edge_ref->f1 = edge_ref->f2 = -1;
127 #ifdef USE_NONMANIFOLD_WORKAROUND
128                                         medge[ml->e].flag |= ME_EDGE_TMP_TAG;
129 #endif
130                                 }
131                                 /* --- done --- */
132                         }
133                 }
134
135                 for (i = 0, ed = medge, edge_ref = edge_ref_array; i < numEdges; i++, ed++, edge_ref++) {
136                         /* Get the edge vert indices, and edge value (the face indices that use it) */
137
138                         if (edgeref_is_init(edge_ref) && (edge_ref->f1 != -1)) {
139                                 if (edge_ref->f2 != -1) {
140                                         /* We have 2 faces using this edge, calculate the edges normal
141                                          * using the angle between the 2 faces as a weighting */
142 #if 0
143                                         add_v3_v3v3(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
144                                         normalize_v3_length(
145                                                 edge_normal,
146                                                 angle_normalized_v3v3(face_nors[edge_ref->f1], face_nors[edge_ref->f2]));
147 #else
148                                         mid_v3_v3v3_angle_weighted(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
149 #endif
150                                 }
151                                 else {
152                                         /* only one face attached to that edge */
153                                         /* an edge without another attached- the weight on this is undefined */
154                                         copy_v3_v3(edge_normal, face_nors[edge_ref->f1]);
155                                 }
156                                 add_v3_v3(r_vert_nors[ed->v1], edge_normal);
157                                 add_v3_v3(r_vert_nors[ed->v2], edge_normal);
158                         }
159                 }
160                 MEM_freeN(edge_ref_array);
161         }
162
163         /* normalize vertex normals and assign */
164         for (i = 0; i < numVerts; i++, mv++) {
165                 if (normalize_v3(r_vert_nors[i]) == 0.0f) {
166                         normal_short_to_float_v3(r_vert_nors[i], mv->no);
167                 }
168         }
169 }
170
171 static void initData(ModifierData *md)
172 {
173         SolidifyModifierData *smd = (SolidifyModifierData *) md;
174         smd->offset = 0.01f;
175         smd->offset_fac = -1.0f;
176         smd->flag = MOD_SOLIDIFY_RIM;
177 }
178
179 static void copyData(ModifierData *md, ModifierData *target)
180 {
181 #if 0
182         SolidifyModifierData *smd = (SolidifyModifierData *) md;
183         SolidifyModifierData *tsmd = (SolidifyModifierData *) target;
184 #endif
185         modifier_copyData_generic(md, target);
186 }
187
188 static CustomDataMask requiredDataMask(Object *UNUSED(ob), ModifierData *md)
189 {
190         SolidifyModifierData *smd = (SolidifyModifierData *) md;
191         CustomDataMask dataMask = 0;
192
193         /* ask for vertexgroups if we need them */
194         if (smd->defgrp_name[0]) dataMask |= CD_MASK_MDEFORMVERT;
195
196         return dataMask;
197 }
198
199 /* specific function for solidify - define locally */
200 BLI_INLINE void madd_v3v3short_fl(float r[3], const short a[3], const float f)
201 {
202         r[0] += (float)a[0] * f;
203         r[1] += (float)a[1] * f;
204         r[2] += (float)a[2] * f;
205 }
206
207 static DerivedMesh *applyModifier(
208         ModifierData *md, Object *ob,
209         DerivedMesh *dm,
210         ModifierApplyFlag UNUSED(flag))
211 {
212         DerivedMesh *result;
213         const SolidifyModifierData *smd = (SolidifyModifierData *) md;
214
215         MVert *mv, *mvert, *orig_mvert;
216         MEdge *ed, *medge, *orig_medge;
217         MLoop *ml, *mloop, *orig_mloop;
218         MPoly *mp, *mpoly, *orig_mpoly;
219         const unsigned int numVerts = (unsigned int)dm->getNumVerts(dm);
220         const unsigned int numEdges = (unsigned int)dm->getNumEdges(dm);
221         const unsigned int numFaces = (unsigned int)dm->getNumPolys(dm);
222         const unsigned int numLoops = (unsigned int)dm->getNumLoops(dm);
223         unsigned int newLoops = 0, newFaces = 0, newEdges = 0, newVerts = 0, rimVerts = 0;
224
225         /* only use material offsets if we have 2 or more materials  */
226         const short mat_nr_max = ob->totcol > 1 ? ob->totcol - 1 : 0;
227         const short mat_ofs = mat_nr_max ? smd->mat_ofs : 0;
228         const short mat_ofs_rim = mat_nr_max ? smd->mat_ofs_rim : 0;
229
230         /* use for edges */
231         /* over-alloc new_vert_arr, old_vert_arr */
232         unsigned int *new_vert_arr = NULL;
233         STACK_DECLARE(new_vert_arr);
234
235         unsigned int *new_edge_arr = NULL;
236         STACK_DECLARE(new_edge_arr);
237
238         unsigned int *old_vert_arr = MEM_calloc_arrayN(numVerts, sizeof(*old_vert_arr), "old_vert_arr in solidify");
239
240         unsigned int *edge_users = NULL;
241         char *edge_order = NULL;
242
243         float (*vert_nors)[3] = NULL;
244         float (*face_nors)[3] = NULL;
245
246         const bool need_face_normals = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) || (smd->flag & MOD_SOLIDIFY_EVEN);
247
248         const float ofs_orig = -(((-smd->offset_fac + 1.0f) * 0.5f) * smd->offset);
249         const float ofs_new  = smd->offset + ofs_orig;
250         const float offset_fac_vg = smd->offset_fac_vg;
251         const float offset_fac_vg_inv = 1.0f - smd->offset_fac_vg;
252         const bool do_flip = (smd->flag & MOD_SOLIDIFY_FLIP) != 0;
253         const bool do_clamp = (smd->offset_clamp != 0.0f);
254         const bool do_shell = ((smd->flag & MOD_SOLIDIFY_RIM) && (smd->flag & MOD_SOLIDIFY_NOSHELL)) == 0;
255
256         /* weights */
257         MDeformVert *dvert;
258         const bool defgrp_invert = (smd->flag & MOD_SOLIDIFY_VGROUP_INV) != 0;
259         int defgrp_index;
260
261         /* array size is doubled in case of using a shell */
262         const unsigned int stride = do_shell ? 2 : 1;
263
264         modifier_get_vgroup(ob, dm, smd->defgrp_name, &dvert, &defgrp_index);
265
266         orig_mvert = dm->getVertArray(dm);
267         orig_medge = dm->getEdgeArray(dm);
268         orig_mloop = dm->getLoopArray(dm);
269         orig_mpoly = dm->getPolyArray(dm);
270
271         if (need_face_normals) {
272                 /* calculate only face normals */
273                 face_nors = MEM_malloc_arrayN(numFaces, sizeof(*face_nors), __func__);
274                 BKE_mesh_calc_normals_poly(
275                             orig_mvert, NULL, (int)numVerts,
276                             orig_mloop, orig_mpoly,
277                             (int)numLoops, (int)numFaces,
278                             face_nors, true);
279         }
280
281         STACK_INIT(new_vert_arr, numVerts * 2);
282         STACK_INIT(new_edge_arr, numEdges * 2);
283
284         if (smd->flag & MOD_SOLIDIFY_RIM) {
285                 BLI_bitmap *orig_mvert_tag = BLI_BITMAP_NEW(numVerts, __func__);
286                 unsigned int eidx;
287                 unsigned int i;
288
289 #define INVALID_UNUSED ((unsigned int)-1)
290 #define INVALID_PAIR ((unsigned int)-2)
291
292                 new_vert_arr = MEM_malloc_arrayN(numVerts, 2 * sizeof(*new_vert_arr), __func__);
293                 new_edge_arr = MEM_malloc_arrayN(((numEdges * 2) + numVerts), sizeof(*new_edge_arr), __func__);
294
295                 edge_users = MEM_malloc_arrayN(numEdges, sizeof(*edge_users), "solid_mod edges");
296                 edge_order = MEM_malloc_arrayN(numEdges, sizeof(*edge_order), "solid_mod eorder");
297
298
299                 /* save doing 2 loops here... */
300 #if 0
301                 copy_vn_i(edge_users, numEdges, INVALID_UNUSED);
302 #endif
303
304                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
305                         edge_users[eidx] = INVALID_UNUSED;
306                 }
307
308                 for (i = 0, mp = orig_mpoly; i < numFaces; i++, mp++) {
309                         MLoop *ml_prev;
310                         int j;
311
312                         ml = orig_mloop + mp->loopstart;
313                         ml_prev = ml + (mp->totloop - 1);
314
315                         for (j = 0; j < mp->totloop; j++, ml++) {
316                                 /* add edge user */
317                                 eidx = ml_prev->e;
318                                 if (edge_users[eidx] == INVALID_UNUSED) {
319                                         ed = orig_medge + eidx;
320                                         BLI_assert(ELEM(ml_prev->v,    ed->v1, ed->v2) &&
321                                                    ELEM(ml->v, ed->v1, ed->v2));
322                                         edge_users[eidx] = (ml_prev->v > ml->v) == (ed->v1 < ed->v2) ? i : (i + numFaces);
323                                         edge_order[eidx] = j;
324                                 }
325                                 else {
326                                         edge_users[eidx] = INVALID_PAIR;
327                                 }
328                                 ml_prev = ml;
329                         }
330                 }
331
332                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
333                         if (!ELEM(edge_users[eidx], INVALID_UNUSED, INVALID_PAIR)) {
334                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v1);
335                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v2);
336                                 STACK_PUSH(new_edge_arr, eidx);
337                                 newFaces++;
338                                 newLoops += 4;
339                         }
340                 }
341
342                 for (i = 0; i < numVerts; i++) {
343                         if (BLI_BITMAP_TEST(orig_mvert_tag, i)) {
344                                 old_vert_arr[i] = STACK_SIZE(new_vert_arr);
345                                 STACK_PUSH(new_vert_arr, i);
346                                 rimVerts++;
347                         }
348                         else {
349                                 old_vert_arr[i] = INVALID_UNUSED;
350                         }
351                 }
352
353                 MEM_freeN(orig_mvert_tag);
354         }
355
356         if (do_shell == false) {
357                 /* only add rim vertices */
358                 newVerts = rimVerts;
359                 /* each extruded face needs an opposite edge */
360                 newEdges = newFaces;
361         }
362         else {
363                 /* (stride == 2) in this case, so no need to add newVerts/newEdges */
364                 BLI_assert(newVerts == 0);
365                 BLI_assert(newEdges == 0);
366         }
367
368         if (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) {
369                 vert_nors = MEM_calloc_arrayN(numVerts, 3 * sizeof(float), "mod_solid_vno_hq");
370                 dm_calc_normal(dm, face_nors, vert_nors);
371         }
372
373         result = CDDM_from_template(dm,
374                                     (int)((numVerts * stride) + newVerts),
375                                     (int)((numEdges * stride) + newEdges + rimVerts), 0,
376                                     (int)((numLoops * stride) + newLoops),
377                                     (int)((numFaces * stride) + newFaces));
378
379         mpoly = CDDM_get_polys(result);
380         mloop = CDDM_get_loops(result);
381         medge = CDDM_get_edges(result);
382         mvert = CDDM_get_verts(result);
383
384         if (do_shell) {
385                 DM_copy_vert_data(dm, result, 0, 0, (int)numVerts);
386                 DM_copy_vert_data(dm, result, 0, (int)numVerts, (int)numVerts);
387
388                 DM_copy_edge_data(dm, result, 0, 0, (int)numEdges);
389                 DM_copy_edge_data(dm, result, 0, (int)numEdges, (int)numEdges);
390
391                 DM_copy_loop_data(dm, result, 0, 0, (int)numLoops);
392                 DM_copy_loop_data(dm, result, 0, (int)numLoops, (int)numLoops);
393
394                 DM_copy_poly_data(dm, result, 0, 0, (int)numFaces);
395                 DM_copy_poly_data(dm, result, 0, (int)numFaces, (int)numFaces);
396         }
397         else {
398                 int i, j;
399                 DM_copy_vert_data(dm, result, 0, 0, (int)numVerts);
400                 for (i = 0, j = (int)numVerts; i < numVerts; i++) {
401                         if (old_vert_arr[i] != INVALID_UNUSED) {
402                                 DM_copy_vert_data(dm, result, i, j, 1);
403                                 j++;
404                         }
405                 }
406
407                 DM_copy_edge_data(dm, result, 0, 0, (int)numEdges);
408
409                 for (i = 0, j = (int)numEdges; i < numEdges; i++) {
410                         if (!ELEM(edge_users[i], INVALID_UNUSED, INVALID_PAIR)) {
411                                 MEdge *ed_src, *ed_dst;
412                                 DM_copy_edge_data(dm, result, i, j, 1);
413
414                                 ed_src = &medge[i];
415                                 ed_dst = &medge[j];
416                                 ed_dst->v1 = old_vert_arr[ed_src->v1] + numVerts;
417                                 ed_dst->v2 = old_vert_arr[ed_src->v2] + numVerts;
418                                 j++;
419                         }
420                 }
421
422                 /* will be created later */
423                 DM_copy_loop_data(dm, result, 0, 0, (int)numLoops);
424                 DM_copy_poly_data(dm, result, 0, 0, (int)numFaces);
425         }
426
427 #undef INVALID_UNUSED
428 #undef INVALID_PAIR
429
430
431         /* initializes: (i_end, do_shell_align, mv)  */
432 #define INIT_VERT_ARRAY_OFFSETS(test) \
433         if (((ofs_new >= ofs_orig) == do_flip) == test) { \
434                 i_end = numVerts; \
435                 do_shell_align = true; \
436                 mv = mvert; \
437         } \
438         else { \
439                 if (do_shell) { \
440                         i_end = numVerts; \
441                         do_shell_align = true; \
442                 } \
443                 else { \
444                         i_end = newVerts ; \
445                         do_shell_align = false; \
446                 } \
447                 mv = &mvert[numVerts]; \
448         } (void)0
449
450
451         /* flip normals */
452
453         if (do_shell) {
454                 unsigned int i;
455
456                 mp = mpoly + numFaces;
457                 for (i = 0; i < dm->numPolyData; i++, mp++) {
458                         const int loop_end = mp->totloop - 1;
459                         MLoop *ml2;
460                         unsigned int e;
461                         int j;
462
463                         /* reverses the loop direction (MLoop.v as well as custom-data)
464                          * MLoop.e also needs to be corrected too, done in a separate loop below. */
465                         ml2 = mloop + mp->loopstart + dm->numLoopData;
466 #if 0
467                         for (j = 0; j < mp->totloop; j++) {
468                                 CustomData_copy_data(&dm->loopData, &result->loopData, mp->loopstart + j,
469                                                      mp->loopstart + (loop_end - j) + dm->numLoopData, 1);
470                         }
471 #else
472                         /* slightly more involved, keep the first vertex the same for the copy,
473                          * ensures the diagonals in the new face match the original. */
474                         j = 0;
475                         for (int j_prev = loop_end; j < mp->totloop; j_prev = j++) {
476                                 CustomData_copy_data(&dm->loopData, &result->loopData, mp->loopstart + j,
477                                                      mp->loopstart + (loop_end - j_prev) + dm->numLoopData, 1);
478                         }
479 #endif
480
481                         if (mat_ofs) {
482                                 mp->mat_nr += mat_ofs;
483                                 CLAMP(mp->mat_nr, 0, mat_nr_max);
484                         }
485
486                         e = ml2[0].e;
487                         for (j = 0; j < loop_end; j++) {
488                                 ml2[j].e = ml2[j + 1].e;
489                         }
490                         ml2[loop_end].e = e;
491
492                         mp->loopstart += dm->numLoopData;
493
494                         for (j = 0; j < mp->totloop; j++) {
495                                 ml2[j].e += numEdges;
496                                 ml2[j].v += numVerts;
497                         }
498                 }
499
500                 for (i = 0, ed = medge + numEdges; i < numEdges; i++, ed++) {
501                         ed->v1 += numVerts;
502                         ed->v2 += numVerts;
503                 }
504         }
505
506         /* note, copied vertex layers don't have flipped normals yet. do this after applying offset */
507         if ((smd->flag & MOD_SOLIDIFY_EVEN) == 0) {
508                 /* no even thickness, very simple */
509                 float scalar_short;
510                 float scalar_short_vgroup;
511
512                 /* for clamping */
513                 float *vert_lens = NULL;
514                 const float offset    = fabsf(smd->offset) * smd->offset_clamp;
515                 const float offset_sq = offset * offset;
516
517                 if (do_clamp) {
518                         unsigned int i;
519
520                         vert_lens = MEM_malloc_arrayN(numVerts, sizeof(float), "vert_lens");
521                         copy_vn_fl(vert_lens, (int)numVerts, FLT_MAX);
522                         for (i = 0; i < numEdges; i++) {
523                                 const float ed_len_sq = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
524                                 vert_lens[medge[i].v1] = min_ff(vert_lens[medge[i].v1], ed_len_sq);
525                                 vert_lens[medge[i].v2] = min_ff(vert_lens[medge[i].v2], ed_len_sq);
526                         }
527                 }
528
529                 if (ofs_new != 0.0f) {
530                         unsigned int i_orig, i_end;
531                         bool do_shell_align;
532
533                         scalar_short = scalar_short_vgroup = ofs_new / 32767.0f;
534
535                         INIT_VERT_ARRAY_OFFSETS(false);
536
537                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
538                                 const unsigned int i = do_shell_align ? i_orig : new_vert_arr[i_orig];
539                                 if (dvert) {
540                                         MDeformVert *dv = &dvert[i];
541                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
542                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
543                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
544                                 }
545                                 if (do_clamp) {
546                                         /* always reset becaise we may have set before */
547                                         if (dvert == NULL) {
548                                                 scalar_short_vgroup = scalar_short;
549                                         }
550                                         if (vert_lens[i] < offset_sq) {
551                                                 float scalar = sqrtf(vert_lens[i]) / offset;
552                                                 scalar_short_vgroup *= scalar;
553                                         }
554                                 }
555                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
556                         }
557                 }
558
559                 if (ofs_orig != 0.0f) {
560                         unsigned int i_orig, i_end;
561                         bool do_shell_align;
562
563                         scalar_short = scalar_short_vgroup = ofs_orig / 32767.0f;
564
565                         /* as above but swapped */
566                         INIT_VERT_ARRAY_OFFSETS(true);
567
568                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
569                                 const unsigned int i = do_shell_align ? i_orig : new_vert_arr[i_orig];
570                                 if (dvert) {
571                                         MDeformVert *dv = &dvert[i];
572                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
573                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
574                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
575                                 }
576                                 if (do_clamp) {
577                                         /* always reset becaise we may have set before */
578                                         if (dvert == NULL) {
579                                                 scalar_short_vgroup = scalar_short;
580                                         }
581                                         if (vert_lens[i] < offset_sq) {
582                                                 float scalar = sqrtf(vert_lens[i]) / offset;
583                                                 scalar_short_vgroup *= scalar;
584                                         }
585                                 }
586                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
587                         }
588                 }
589
590                 if (do_clamp) {
591                         MEM_freeN(vert_lens);
592                 }
593         }
594         else {
595 #ifdef USE_NONMANIFOLD_WORKAROUND
596                 const bool check_non_manifold = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) != 0;
597 #endif
598                 /* same as EM_solidify() in editmesh_lib.c */
599                 float *vert_angles = MEM_calloc_arrayN(numVerts, 2 * sizeof(float), "mod_solid_pair"); /* 2 in 1 */
600                 float *vert_accum = vert_angles + numVerts;
601                 unsigned int vidx;
602                 unsigned int i;
603
604                 if (vert_nors == NULL) {
605                         vert_nors = MEM_malloc_arrayN(numVerts, 3 * sizeof(float), "mod_solid_vno");
606                         for (i = 0, mv = mvert; i < numVerts; i++, mv++) {
607                                 normal_short_to_float_v3(vert_nors[i], mv->no);
608                         }
609                 }
610
611                 for (i = 0, mp = mpoly; i < numFaces; i++, mp++) {
612                         /* #BKE_mesh_calc_poly_angles logic is inlined here */
613                         float nor_prev[3];
614                         float nor_next[3];
615
616                         int i_curr = mp->totloop - 1;
617                         int i_next = 0;
618
619                         ml = &mloop[mp->loopstart];
620
621                         sub_v3_v3v3(nor_prev, mvert[ml[i_curr - 1].v].co, mvert[ml[i_curr].v].co);
622                         normalize_v3(nor_prev);
623
624                         while (i_next < mp->totloop) {
625                                 float angle;
626                                 sub_v3_v3v3(nor_next, mvert[ml[i_curr].v].co, mvert[ml[i_next].v].co);
627                                 normalize_v3(nor_next);
628                                 angle = angle_normalized_v3v3(nor_prev, nor_next);
629
630
631                                 /* --- not related to angle calc --- */
632                                 if (angle < FLT_EPSILON) {
633                                         angle = FLT_EPSILON;
634                                 }
635
636                                 vidx = ml[i_curr].v;
637                                 vert_accum[vidx] += angle;
638
639 #ifdef USE_NONMANIFOLD_WORKAROUND
640                                 /* skip 3+ face user edges */
641                                 if ((check_non_manifold == false) ||
642                                     LIKELY(((orig_medge[ml[i_curr].e].flag & ME_EDGE_TMP_TAG) == 0) &&
643                                            ((orig_medge[ml[i_next].e].flag & ME_EDGE_TMP_TAG) == 0)))
644                                 {
645                                         vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
646                                 }
647                                 else {
648                                         vert_angles[vidx] += angle;
649                                 }
650 #else
651                                 vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
652 #endif
653                                 /* --- end non-angle-calc section --- */
654
655
656                                 /* step */
657                                 copy_v3_v3(nor_prev, nor_next);
658                                 i_curr = i_next;
659                                 i_next++;
660                         }
661                 }
662
663                 /* vertex group support */
664                 if (dvert) {
665                         MDeformVert *dv = dvert;
666                         float scalar;
667
668                         if (defgrp_invert) {
669                                 for (i = 0; i < numVerts; i++, dv++) {
670                                         scalar = 1.0f - defvert_find_weight(dv, defgrp_index);
671                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
672                                         vert_angles[i] *= scalar;
673                                 }
674                         }
675                         else {
676                                 for (i = 0; i < numVerts; i++, dv++) {
677                                         scalar = defvert_find_weight(dv, defgrp_index);
678                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
679                                         vert_angles[i] *= scalar;
680                                 }
681                         }
682                 }
683
684                 if (do_clamp) {
685                         float *vert_lens_sq = MEM_malloc_arrayN(numVerts, sizeof(float), "vert_lens");
686                         const float offset    = fabsf(smd->offset) * smd->offset_clamp;
687                         const float offset_sq = offset * offset;
688                         copy_vn_fl(vert_lens_sq, (int)numVerts, FLT_MAX);
689                         for (i = 0; i < numEdges; i++) {
690                                 const float ed_len = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
691                                 vert_lens_sq[medge[i].v1] = min_ff(vert_lens_sq[medge[i].v1], ed_len);
692                                 vert_lens_sq[medge[i].v2] = min_ff(vert_lens_sq[medge[i].v2], ed_len);
693                         }
694                         for (i = 0; i < numVerts; i++) {
695                                 if (vert_lens_sq[i] < offset_sq) {
696                                         float scalar = sqrtf(vert_lens_sq[i]) / offset;
697                                         vert_angles[i] *= scalar;
698                                 }
699                         }
700                         MEM_freeN(vert_lens_sq);
701                 }
702
703                 if (ofs_new != 0.0f) {
704                         unsigned int i_orig, i_end;
705                         bool do_shell_align;
706
707                         INIT_VERT_ARRAY_OFFSETS(false);
708
709                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
710                                 const unsigned int i_other = do_shell_align ? i_orig : new_vert_arr[i_orig];
711                                 if (vert_accum[i_other]) { /* zero if unselected */
712                                         madd_v3_v3fl(mv->co, vert_nors[i_other], ofs_new * (vert_angles[i_other] / vert_accum[i_other]));
713                                 }
714                         }
715                 }
716
717                 if (ofs_orig != 0.0f) {
718                         unsigned int i_orig, i_end;
719                         bool do_shell_align;
720
721                         /* same as above but swapped, intentional use of 'ofs_new' */
722                         INIT_VERT_ARRAY_OFFSETS(true);
723
724                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
725                                 const unsigned int i_other = do_shell_align ? i_orig : new_vert_arr[i_orig];
726                                 if (vert_accum[i_other]) { /* zero if unselected */
727                                         madd_v3_v3fl(mv->co, vert_nors[i_other], ofs_orig * (vert_angles[i_other] / vert_accum[i_other]));
728                                 }
729                         }
730                 }
731
732                 MEM_freeN(vert_angles);
733         }
734
735         if (vert_nors)
736                 MEM_freeN(vert_nors);
737
738         /* must recalculate normals with vgroups since they can displace unevenly [#26888] */
739         if ((dm->dirty & DM_DIRTY_NORMALS) || (smd->flag & MOD_SOLIDIFY_RIM) || dvert) {
740                 result->dirty |= DM_DIRTY_NORMALS;
741         }
742         else if (do_shell) {
743                 unsigned int i;
744                 /* flip vertex normals for copied verts */
745                 mv = mvert + numVerts;
746                 for (i = 0; i < numVerts; i++, mv++) {
747                         negate_v3_short(mv->no);
748                 }
749         }
750
751         if (smd->flag & MOD_SOLIDIFY_RIM) {
752                 unsigned int i;
753
754                 /* bugger, need to re-calculate the normals for the new edge faces.
755                  * This could be done in many ways, but probably the quickest way
756                  * is to calculate the average normals for side faces only.
757                  * Then blend them with the normals of the edge verts.
758                  *
759                  * at the moment its easiest to allocate an entire array for every vertex,
760                  * even though we only need edge verts - campbell
761                  */
762
763 #define SOLIDIFY_SIDE_NORMALS
764
765 #ifdef SOLIDIFY_SIDE_NORMALS
766                 const bool do_side_normals = !(result->dirty & DM_DIRTY_NORMALS);
767                 /* annoying to allocate these since we only need the edge verts, */
768                 float (*edge_vert_nos)[3] = do_side_normals ? MEM_calloc_arrayN(numVerts, 3 * sizeof(float), __func__) : NULL;
769                 float nor[3];
770 #endif
771                 const unsigned char crease_rim = smd->crease_rim * 255.0f;
772                 const unsigned char crease_outer = smd->crease_outer * 255.0f;
773                 const unsigned char crease_inner = smd->crease_inner * 255.0f;
774
775                 int *origindex_edge;
776                 int *orig_ed;
777                 unsigned int j;
778
779                 if (crease_rim || crease_outer || crease_inner) {
780                         result->cd_flag |= ME_CDFLAG_EDGE_CREASE;
781                 }
782
783                 /* add faces & edges */
784                 origindex_edge = result->getEdgeDataArray(result, CD_ORIGINDEX);
785                 ed = &medge[(numEdges * stride) + newEdges];  /* start after copied edges */
786                 orig_ed = &origindex_edge[(numEdges * stride) + newEdges];
787                 for (i = 0; i < rimVerts; i++, ed++, orig_ed++) {
788                         ed->v1 = new_vert_arr[i];
789                         ed->v2 = (do_shell ? new_vert_arr[i] : i) + numVerts;
790                         ed->flag |= ME_EDGEDRAW;
791
792                         *orig_ed = ORIGINDEX_NONE;
793
794                         if (crease_rim) {
795                                 ed->crease = crease_rim;
796                         }
797                 }
798
799                 /* faces */
800                 mp = mpoly + (numFaces * stride);
801                 ml = mloop + (numLoops * stride);
802                 j = 0;
803                 for (i = 0; i < newFaces; i++, mp++) {
804                         unsigned int eidx = new_edge_arr[i];
805                         unsigned int fidx = edge_users[eidx];
806                         int k1, k2;
807                         bool flip;
808
809                         if (fidx >= numFaces) {
810                                 fidx -= numFaces;
811                                 flip = true;
812                         }
813                         else {
814                                 flip = false;
815                         }
816
817                         ed = medge + eidx;
818
819                         /* copy most of the face settings */
820                         DM_copy_poly_data(dm, result, (int)fidx, (int)((numFaces * stride) + i), 1);
821                         mp->loopstart = (int)(j + (numLoops * stride));
822                         mp->flag = mpoly[fidx].flag;
823
824                         /* notice we use 'mp->totloop' which is later overwritten,
825                          * we could lookup the original face but theres no point since this is a copy
826                          * and will have the same value, just take care when changing order of assignment */
827                         k1 = mpoly[fidx].loopstart + (((edge_order[eidx] - 1) + mp->totloop) % mp->totloop);  /* prev loop */
828                         k2 = mpoly[fidx].loopstart +   (edge_order[eidx]);
829
830                         mp->totloop = 4;
831
832                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)((numLoops * stride) + j + 0), 1);
833                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)((numLoops * stride) + j + 1), 1);
834                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)((numLoops * stride) + j + 2), 1);
835                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)((numLoops * stride) + j + 3), 1);
836
837                         if (flip == false) {
838                                 ml[j].v = ed->v1;
839                                 ml[j++].e = eidx;
840
841                                 ml[j].v = ed->v2;
842                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v2] + newEdges;
843
844                                 ml[j].v = (do_shell ? ed->v2 : old_vert_arr[ed->v2]) + numVerts;
845                                 ml[j++].e = (do_shell ? eidx : i) + numEdges;
846
847                                 ml[j].v = (do_shell ? ed->v1 : old_vert_arr[ed->v1]) + numVerts;
848                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v1] + newEdges;
849                         }
850                         else {
851                                 ml[j].v = ed->v2;
852                                 ml[j++].e = eidx;
853
854                                 ml[j].v = ed->v1;
855                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v1] + newEdges;
856
857                                 ml[j].v = (do_shell ? ed->v1 : old_vert_arr[ed->v1]) + numVerts;
858                                 ml[j++].e = (do_shell ? eidx : i) + numEdges;
859
860                                 ml[j].v = (do_shell ? ed->v2 : old_vert_arr[ed->v2]) + numVerts;
861                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v2] + newEdges;
862                         }
863
864                         origindex_edge[ml[j - 3].e] = ORIGINDEX_NONE;
865                         origindex_edge[ml[j - 1].e] = ORIGINDEX_NONE;
866
867                         /* use the next material index if option enabled */
868                         if (mat_ofs_rim) {
869                                 mp->mat_nr += mat_ofs_rim;
870                                 CLAMP(mp->mat_nr, 0, mat_nr_max);
871                         }
872                         if (crease_outer) {
873                                 /* crease += crease_outer; without wrapping */
874                                 char *cr = &(ed->crease);
875                                 int tcr = *cr + crease_outer;
876                                 *cr = tcr > 255 ? 255 : tcr;
877                         }
878
879                         if (crease_inner) {
880                                 /* crease += crease_inner; without wrapping */
881                                 char *cr = &(medge[numEdges + (do_shell ? eidx : i)].crease);
882                                 int tcr = *cr + crease_inner;
883                                 *cr = tcr > 255 ? 255 : tcr;
884                         }
885
886 #ifdef SOLIDIFY_SIDE_NORMALS
887                         if (do_side_normals) {
888                                 normal_quad_v3(nor,
889                                                mvert[ml[j - 4].v].co,
890                                                mvert[ml[j - 3].v].co,
891                                                mvert[ml[j - 2].v].co,
892                                                mvert[ml[j - 1].v].co);
893
894                                 add_v3_v3(edge_vert_nos[ed->v1], nor);
895                                 add_v3_v3(edge_vert_nos[ed->v2], nor);
896                         }
897 #endif
898                 }
899
900 #ifdef SOLIDIFY_SIDE_NORMALS
901                 if (do_side_normals) {
902                         const MEdge *ed_orig = medge;
903                         ed = medge + (numEdges * stride);
904                         for (i = 0; i < rimVerts; i++, ed++, ed_orig++) {
905                                 float nor_cpy[3];
906                                 short *nor_short;
907                                 int k;
908
909                                 /* note, only the first vertex (lower half of the index) is calculated */
910                                 normalize_v3_v3(nor_cpy, edge_vert_nos[ed_orig->v1]);
911
912                                 for (k = 0; k < 2; k++) { /* loop over both verts of the edge */
913                                         nor_short = mvert[*(&ed->v1 + k)].no;
914                                         normal_short_to_float_v3(nor, nor_short);
915                                         add_v3_v3(nor, nor_cpy);
916                                         normalize_v3(nor);
917                                         normal_float_to_short_v3(nor_short, nor);
918                                 }
919                         }
920
921                         MEM_freeN(edge_vert_nos);
922                 }
923 #endif
924
925                 MEM_freeN(new_vert_arr);
926                 MEM_freeN(new_edge_arr);
927
928                 MEM_freeN(edge_users);
929                 MEM_freeN(edge_order);
930         }
931
932         if (old_vert_arr)
933                 MEM_freeN(old_vert_arr);
934
935         if (face_nors)
936                 MEM_freeN(face_nors);
937
938         if (numFaces == 0 && numEdges != 0) {
939                 modifier_setError(md, "Faces needed for useful output");
940         }
941
942         return result;
943 }
944
945 #undef SOLIDIFY_SIDE_NORMALS
946
947 static bool dependsOnNormals(ModifierData *UNUSED(md))
948 {
949         /* even when we calculate our own normals,
950          * the vertex normals are used as a fallback */
951         return true;
952 }
953
954 ModifierTypeInfo modifierType_Solidify = {
955         /* name */              "Solidify",
956         /* structName */        "SolidifyModifierData",
957         /* structSize */        sizeof(SolidifyModifierData),
958         /* type */              eModifierTypeType_Constructive,
959
960         /* flags */             eModifierTypeFlag_AcceptsMesh |
961                                 eModifierTypeFlag_AcceptsCVs |
962                                 eModifierTypeFlag_SupportsMapping |
963                                 eModifierTypeFlag_SupportsEditmode |
964                                 eModifierTypeFlag_EnableInEditmode,
965
966         /* copyData */          copyData,
967         /* deformVerts */       NULL,
968         /* deformMatrices */    NULL,
969         /* deformVertsEM */     NULL,
970         /* deformMatricesEM */  NULL,
971         /* applyModifier */     applyModifier,
972         /* applyModifierEM */   NULL,
973         /* initData */          initData,
974         /* requiredDataMask */  requiredDataMask,
975         /* freeData */          NULL,
976         /* isDisabled */        NULL,
977         /* updateDepgraph */    NULL,
978         /* updateDepsgraph */   NULL,
979         /* dependsOnTime */     NULL,
980         /* dependsOnNormals */  dependsOnNormals,
981         /* foreachObjectLink */ NULL,
982         /* foreachIDLink */     NULL,
983         /* foreachTexLink */    NULL,
984 };