Extract common modifier parameters into ModifierEvalContext struct
[blender.git] / source / blender / modifiers / intern / MOD_solidify.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2005 by the Blender Foundation.
19  * All rights reserved.
20  *
21  * Contributor(s): Campbell Barton
22  *                 Shinsuke Irie
23  *                 Martin Felke
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  */
28
29 /** \file blender/modifiers/intern/MOD_solidify.c
30  *  \ingroup modifiers
31  */
32
33 #include "DNA_mesh_types.h"
34 #include "DNA_meshdata_types.h"
35
36 #include "MEM_guardedalloc.h"
37
38 #include "BLI_utildefines.h"
39 #include "BLI_utildefines_stack.h"
40 #include "BLI_bitmap.h"
41 #include "BLI_math.h"
42
43 #include "BKE_cdderivedmesh.h"
44 #include "BKE_mesh.h"
45 #include "BKE_particle.h"
46 #include "BKE_deform.h"
47
48 #include "MOD_modifiertypes.h"
49 #include "MOD_util.h"
50
51 #ifdef __GNUC__
52 #  pragma GCC diagnostic error "-Wsign-conversion"
53 #endif
54
55 /* skip shell thickness for non-manifold edges, see [#35710] */
56 #define USE_NONMANIFOLD_WORKAROUND
57
58 /* *** derived mesh high quality normal calculation function  *** */
59 /* could be exposed for other functions to use */
60
61 typedef struct EdgeFaceRef {
62         int f1; /* init as -1 */
63         int f2;
64 } EdgeFaceRef;
65
66 BLI_INLINE bool edgeref_is_init(const EdgeFaceRef *edge_ref)
67 {
68         return !((edge_ref->f1 == 0) && (edge_ref->f2 == 0));
69 }
70
71 /**
72  * \param dm  Mesh to calculate normals for.
73  * \param face_nors  Precalculated face normals.
74  * \param r_vert_nors  Return vert normals.
75  */
76 static void dm_calc_normal(DerivedMesh *dm, float (*face_nors)[3], float (*r_vert_nors)[3])
77 {
78         int i, numVerts, numEdges, numFaces;
79         MPoly *mpoly, *mp;
80         MLoop *mloop, *ml;
81         MEdge *medge, *ed;
82         MVert *mvert, *mv;
83
84         numVerts = dm->getNumVerts(dm);
85         numEdges = dm->getNumEdges(dm);
86         numFaces = dm->getNumPolys(dm);
87         mpoly = dm->getPolyArray(dm);
88         medge = dm->getEdgeArray(dm);
89         mvert = dm->getVertArray(dm);
90         mloop = dm->getLoopArray(dm);
91
92         /* we don't want to overwrite any referenced layers */
93
94         /* Doesn't work here! */
95 #if 0
96         mv = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, numVerts);
97         cddm->mvert = mv;
98 #endif
99
100         mv = mvert;
101         mp = mpoly;
102
103         {
104                 EdgeFaceRef *edge_ref_array = MEM_calloc_arrayN((size_t)numEdges, sizeof(EdgeFaceRef), "Edge Connectivity");
105                 EdgeFaceRef *edge_ref;
106                 float edge_normal[3];
107
108                 /* This loop adds an edge hash if its not there, and adds the face index */
109                 for (i = 0; i < numFaces; i++, mp++) {
110                         int j;
111
112                         ml = mloop + mp->loopstart;
113
114                         for (j = 0; j < mp->totloop; j++, ml++) {
115                                 /* --- add edge ref to face --- */
116                                 edge_ref = &edge_ref_array[ml->e];
117                                 if (!edgeref_is_init(edge_ref)) {
118                                         edge_ref->f1 =  i;
119                                         edge_ref->f2 = -1;
120                                 }
121                                 else if ((edge_ref->f1 != -1) && (edge_ref->f2 == -1)) {
122                                         edge_ref->f2 = i;
123                                 }
124                                 else {
125                                         /* 3+ faces using an edge, we can't handle this usefully */
126                                         edge_ref->f1 = edge_ref->f2 = -1;
127 #ifdef USE_NONMANIFOLD_WORKAROUND
128                                         medge[ml->e].flag |= ME_EDGE_TMP_TAG;
129 #endif
130                                 }
131                                 /* --- done --- */
132                         }
133                 }
134
135                 for (i = 0, ed = medge, edge_ref = edge_ref_array; i < numEdges; i++, ed++, edge_ref++) {
136                         /* Get the edge vert indices, and edge value (the face indices that use it) */
137
138                         if (edgeref_is_init(edge_ref) && (edge_ref->f1 != -1)) {
139                                 if (edge_ref->f2 != -1) {
140                                         /* We have 2 faces using this edge, calculate the edges normal
141                                          * using the angle between the 2 faces as a weighting */
142 #if 0
143                                         add_v3_v3v3(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
144                                         normalize_v3_length(
145                                                 edge_normal,
146                                                 angle_normalized_v3v3(face_nors[edge_ref->f1], face_nors[edge_ref->f2]));
147 #else
148                                         mid_v3_v3v3_angle_weighted(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
149 #endif
150                                 }
151                                 else {
152                                         /* only one face attached to that edge */
153                                         /* an edge without another attached- the weight on this is undefined */
154                                         copy_v3_v3(edge_normal, face_nors[edge_ref->f1]);
155                                 }
156                                 add_v3_v3(r_vert_nors[ed->v1], edge_normal);
157                                 add_v3_v3(r_vert_nors[ed->v2], edge_normal);
158                         }
159                 }
160                 MEM_freeN(edge_ref_array);
161         }
162
163         /* normalize vertex normals and assign */
164         for (i = 0; i < numVerts; i++, mv++) {
165                 if (normalize_v3(r_vert_nors[i]) == 0.0f) {
166                         normal_short_to_float_v3(r_vert_nors[i], mv->no);
167                 }
168         }
169 }
170
171 static void initData(ModifierData *md)
172 {
173         SolidifyModifierData *smd = (SolidifyModifierData *) md;
174         smd->offset = 0.01f;
175         smd->offset_fac = -1.0f;
176         smd->flag = MOD_SOLIDIFY_RIM;
177 }
178
179 static void copyData(ModifierData *md, ModifierData *target)
180 {
181 #if 0
182         SolidifyModifierData *smd = (SolidifyModifierData *) md;
183         SolidifyModifierData *tsmd = (SolidifyModifierData *) target;
184 #endif
185         modifier_copyData_generic(md, target);
186 }
187
188 static CustomDataMask requiredDataMask(Object *UNUSED(ob), ModifierData *md)
189 {
190         SolidifyModifierData *smd = (SolidifyModifierData *) md;
191         CustomDataMask dataMask = 0;
192
193         /* ask for vertexgroups if we need them */
194         if (smd->defgrp_name[0]) dataMask |= CD_MASK_MDEFORMVERT;
195
196         return dataMask;
197 }
198
199 /* specific function for solidify - define locally */
200 BLI_INLINE void madd_v3v3short_fl(float r[3], const short a[3], const float f)
201 {
202         r[0] += (float)a[0] * f;
203         r[1] += (float)a[1] * f;
204         r[2] += (float)a[2] * f;
205 }
206
207 static DerivedMesh *applyModifier(
208         ModifierData *md, const ModifierEvalContext *ctx,
209         DerivedMesh *dm)
210 {
211         DerivedMesh *result;
212         const SolidifyModifierData *smd = (SolidifyModifierData *) md;
213
214         MVert *mv, *mvert, *orig_mvert;
215         MEdge *ed, *medge, *orig_medge;
216         MLoop *ml, *mloop, *orig_mloop;
217         MPoly *mp, *mpoly, *orig_mpoly;
218         const unsigned int numVerts = (unsigned int)dm->getNumVerts(dm);
219         const unsigned int numEdges = (unsigned int)dm->getNumEdges(dm);
220         const unsigned int numFaces = (unsigned int)dm->getNumPolys(dm);
221         const unsigned int numLoops = (unsigned int)dm->getNumLoops(dm);
222         unsigned int newLoops = 0, newFaces = 0, newEdges = 0, newVerts = 0, rimVerts = 0;
223
224         /* only use material offsets if we have 2 or more materials  */
225         const short mat_nr_max = ctx->object->totcol > 1 ? ctx->object->totcol - 1 : 0;
226         const short mat_ofs = mat_nr_max ? smd->mat_ofs : 0;
227         const short mat_ofs_rim = mat_nr_max ? smd->mat_ofs_rim : 0;
228
229         /* use for edges */
230         /* over-alloc new_vert_arr, old_vert_arr */
231         unsigned int *new_vert_arr = NULL;
232         STACK_DECLARE(new_vert_arr);
233
234         unsigned int *new_edge_arr = NULL;
235         STACK_DECLARE(new_edge_arr);
236
237         unsigned int *old_vert_arr = MEM_calloc_arrayN(numVerts, sizeof(*old_vert_arr), "old_vert_arr in solidify");
238
239         unsigned int *edge_users = NULL;
240         char *edge_order = NULL;
241
242         float (*vert_nors)[3] = NULL;
243         float (*face_nors)[3] = NULL;
244
245         const bool need_face_normals = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) || (smd->flag & MOD_SOLIDIFY_EVEN);
246
247         const float ofs_orig = -(((-smd->offset_fac + 1.0f) * 0.5f) * smd->offset);
248         const float ofs_new  = smd->offset + ofs_orig;
249         const float offset_fac_vg = smd->offset_fac_vg;
250         const float offset_fac_vg_inv = 1.0f - smd->offset_fac_vg;
251         const bool do_flip = (smd->flag & MOD_SOLIDIFY_FLIP) != 0;
252         const bool do_clamp = (smd->offset_clamp != 0.0f);
253         const bool do_shell = ((smd->flag & MOD_SOLIDIFY_RIM) && (smd->flag & MOD_SOLIDIFY_NOSHELL)) == 0;
254
255         /* weights */
256         MDeformVert *dvert;
257         const bool defgrp_invert = (smd->flag & MOD_SOLIDIFY_VGROUP_INV) != 0;
258         int defgrp_index;
259
260         /* array size is doubled in case of using a shell */
261         const unsigned int stride = do_shell ? 2 : 1;
262
263         modifier_get_vgroup(ctx->object, dm, smd->defgrp_name, &dvert, &defgrp_index);
264
265         orig_mvert = dm->getVertArray(dm);
266         orig_medge = dm->getEdgeArray(dm);
267         orig_mloop = dm->getLoopArray(dm);
268         orig_mpoly = dm->getPolyArray(dm);
269
270         if (need_face_normals) {
271                 /* calculate only face normals */
272                 face_nors = MEM_malloc_arrayN(numFaces, sizeof(*face_nors), __func__);
273                 BKE_mesh_calc_normals_poly(
274                             orig_mvert, NULL, (int)numVerts,
275                             orig_mloop, orig_mpoly,
276                             (int)numLoops, (int)numFaces,
277                             face_nors, true);
278         }
279
280         STACK_INIT(new_vert_arr, numVerts * 2);
281         STACK_INIT(new_edge_arr, numEdges * 2);
282
283         if (smd->flag & MOD_SOLIDIFY_RIM) {
284                 BLI_bitmap *orig_mvert_tag = BLI_BITMAP_NEW(numVerts, __func__);
285                 unsigned int eidx;
286                 unsigned int i;
287
288 #define INVALID_UNUSED ((unsigned int)-1)
289 #define INVALID_PAIR ((unsigned int)-2)
290
291                 new_vert_arr = MEM_malloc_arrayN(numVerts, 2 * sizeof(*new_vert_arr), __func__);
292                 new_edge_arr = MEM_malloc_arrayN(((numEdges * 2) + numVerts), sizeof(*new_edge_arr), __func__);
293
294                 edge_users = MEM_malloc_arrayN(numEdges, sizeof(*edge_users), "solid_mod edges");
295                 edge_order = MEM_malloc_arrayN(numEdges, sizeof(*edge_order), "solid_mod eorder");
296
297
298                 /* save doing 2 loops here... */
299 #if 0
300                 copy_vn_i(edge_users, numEdges, INVALID_UNUSED);
301 #endif
302
303                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
304                         edge_users[eidx] = INVALID_UNUSED;
305                 }
306
307                 for (i = 0, mp = orig_mpoly; i < numFaces; i++, mp++) {
308                         MLoop *ml_prev;
309                         int j;
310
311                         ml = orig_mloop + mp->loopstart;
312                         ml_prev = ml + (mp->totloop - 1);
313
314                         for (j = 0; j < mp->totloop; j++, ml++) {
315                                 /* add edge user */
316                                 eidx = ml_prev->e;
317                                 if (edge_users[eidx] == INVALID_UNUSED) {
318                                         ed = orig_medge + eidx;
319                                         BLI_assert(ELEM(ml_prev->v,    ed->v1, ed->v2) &&
320                                                    ELEM(ml->v, ed->v1, ed->v2));
321                                         edge_users[eidx] = (ml_prev->v > ml->v) == (ed->v1 < ed->v2) ? i : (i + numFaces);
322                                         edge_order[eidx] = j;
323                                 }
324                                 else {
325                                         edge_users[eidx] = INVALID_PAIR;
326                                 }
327                                 ml_prev = ml;
328                         }
329                 }
330
331                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
332                         if (!ELEM(edge_users[eidx], INVALID_UNUSED, INVALID_PAIR)) {
333                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v1);
334                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v2);
335                                 STACK_PUSH(new_edge_arr, eidx);
336                                 newFaces++;
337                                 newLoops += 4;
338                         }
339                 }
340
341                 for (i = 0; i < numVerts; i++) {
342                         if (BLI_BITMAP_TEST(orig_mvert_tag, i)) {
343                                 old_vert_arr[i] = STACK_SIZE(new_vert_arr);
344                                 STACK_PUSH(new_vert_arr, i);
345                                 rimVerts++;
346                         }
347                         else {
348                                 old_vert_arr[i] = INVALID_UNUSED;
349                         }
350                 }
351
352                 MEM_freeN(orig_mvert_tag);
353         }
354
355         if (do_shell == false) {
356                 /* only add rim vertices */
357                 newVerts = rimVerts;
358                 /* each extruded face needs an opposite edge */
359                 newEdges = newFaces;
360         }
361         else {
362                 /* (stride == 2) in this case, so no need to add newVerts/newEdges */
363                 BLI_assert(newVerts == 0);
364                 BLI_assert(newEdges == 0);
365         }
366
367         if (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) {
368                 vert_nors = MEM_calloc_arrayN(numVerts, 3 * sizeof(float), "mod_solid_vno_hq");
369                 dm_calc_normal(dm, face_nors, vert_nors);
370         }
371
372         result = CDDM_from_template(dm,
373                                     (int)((numVerts * stride) + newVerts),
374                                     (int)((numEdges * stride) + newEdges + rimVerts), 0,
375                                     (int)((numLoops * stride) + newLoops),
376                                     (int)((numFaces * stride) + newFaces));
377
378         mpoly = CDDM_get_polys(result);
379         mloop = CDDM_get_loops(result);
380         medge = CDDM_get_edges(result);
381         mvert = CDDM_get_verts(result);
382
383         if (do_shell) {
384                 DM_copy_vert_data(dm, result, 0, 0, (int)numVerts);
385                 DM_copy_vert_data(dm, result, 0, (int)numVerts, (int)numVerts);
386
387                 DM_copy_edge_data(dm, result, 0, 0, (int)numEdges);
388                 DM_copy_edge_data(dm, result, 0, (int)numEdges, (int)numEdges);
389
390                 DM_copy_loop_data(dm, result, 0, 0, (int)numLoops);
391                 DM_copy_loop_data(dm, result, 0, (int)numLoops, (int)numLoops);
392
393                 DM_copy_poly_data(dm, result, 0, 0, (int)numFaces);
394                 DM_copy_poly_data(dm, result, 0, (int)numFaces, (int)numFaces);
395         }
396         else {
397                 int i, j;
398                 DM_copy_vert_data(dm, result, 0, 0, (int)numVerts);
399                 for (i = 0, j = (int)numVerts; i < numVerts; i++) {
400                         if (old_vert_arr[i] != INVALID_UNUSED) {
401                                 DM_copy_vert_data(dm, result, i, j, 1);
402                                 j++;
403                         }
404                 }
405
406                 DM_copy_edge_data(dm, result, 0, 0, (int)numEdges);
407
408                 for (i = 0, j = (int)numEdges; i < numEdges; i++) {
409                         if (!ELEM(edge_users[i], INVALID_UNUSED, INVALID_PAIR)) {
410                                 MEdge *ed_src, *ed_dst;
411                                 DM_copy_edge_data(dm, result, i, j, 1);
412
413                                 ed_src = &medge[i];
414                                 ed_dst = &medge[j];
415                                 ed_dst->v1 = old_vert_arr[ed_src->v1] + numVerts;
416                                 ed_dst->v2 = old_vert_arr[ed_src->v2] + numVerts;
417                                 j++;
418                         }
419                 }
420
421                 /* will be created later */
422                 DM_copy_loop_data(dm, result, 0, 0, (int)numLoops);
423                 DM_copy_poly_data(dm, result, 0, 0, (int)numFaces);
424         }
425
426 #undef INVALID_UNUSED
427 #undef INVALID_PAIR
428
429
430         /* initializes: (i_end, do_shell_align, mv)  */
431 #define INIT_VERT_ARRAY_OFFSETS(test) \
432         if (((ofs_new >= ofs_orig) == do_flip) == test) { \
433                 i_end = numVerts; \
434                 do_shell_align = true; \
435                 mv = mvert; \
436         } \
437         else { \
438                 if (do_shell) { \
439                         i_end = numVerts; \
440                         do_shell_align = true; \
441                 } \
442                 else { \
443                         i_end = newVerts ; \
444                         do_shell_align = false; \
445                 } \
446                 mv = &mvert[numVerts]; \
447         } (void)0
448
449
450         /* flip normals */
451
452         if (do_shell) {
453                 unsigned int i;
454
455                 mp = mpoly + numFaces;
456                 for (i = 0; i < dm->numPolyData; i++, mp++) {
457                         const int loop_end = mp->totloop - 1;
458                         MLoop *ml2;
459                         unsigned int e;
460                         int j;
461
462                         /* reverses the loop direction (MLoop.v as well as custom-data)
463                          * MLoop.e also needs to be corrected too, done in a separate loop below. */
464                         ml2 = mloop + mp->loopstart + dm->numLoopData;
465 #if 0
466                         for (j = 0; j < mp->totloop; j++) {
467                                 CustomData_copy_data(&dm->loopData, &result->loopData, mp->loopstart + j,
468                                                      mp->loopstart + (loop_end - j) + dm->numLoopData, 1);
469                         }
470 #else
471                         /* slightly more involved, keep the first vertex the same for the copy,
472                          * ensures the diagonals in the new face match the original. */
473                         j = 0;
474                         for (int j_prev = loop_end; j < mp->totloop; j_prev = j++) {
475                                 CustomData_copy_data(&dm->loopData, &result->loopData, mp->loopstart + j,
476                                                      mp->loopstart + (loop_end - j_prev) + dm->numLoopData, 1);
477                         }
478 #endif
479
480                         if (mat_ofs) {
481                                 mp->mat_nr += mat_ofs;
482                                 CLAMP(mp->mat_nr, 0, mat_nr_max);
483                         }
484
485                         e = ml2[0].e;
486                         for (j = 0; j < loop_end; j++) {
487                                 ml2[j].e = ml2[j + 1].e;
488                         }
489                         ml2[loop_end].e = e;
490
491                         mp->loopstart += dm->numLoopData;
492
493                         for (j = 0; j < mp->totloop; j++) {
494                                 ml2[j].e += numEdges;
495                                 ml2[j].v += numVerts;
496                         }
497                 }
498
499                 for (i = 0, ed = medge + numEdges; i < numEdges; i++, ed++) {
500                         ed->v1 += numVerts;
501                         ed->v2 += numVerts;
502                 }
503         }
504
505         /* note, copied vertex layers don't have flipped normals yet. do this after applying offset */
506         if ((smd->flag & MOD_SOLIDIFY_EVEN) == 0) {
507                 /* no even thickness, very simple */
508                 float scalar_short;
509                 float scalar_short_vgroup;
510
511                 /* for clamping */
512                 float *vert_lens = NULL;
513                 const float offset    = fabsf(smd->offset) * smd->offset_clamp;
514                 const float offset_sq = offset * offset;
515
516                 if (do_clamp) {
517                         unsigned int i;
518
519                         vert_lens = MEM_malloc_arrayN(numVerts, sizeof(float), "vert_lens");
520                         copy_vn_fl(vert_lens, (int)numVerts, FLT_MAX);
521                         for (i = 0; i < numEdges; i++) {
522                                 const float ed_len_sq = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
523                                 vert_lens[medge[i].v1] = min_ff(vert_lens[medge[i].v1], ed_len_sq);
524                                 vert_lens[medge[i].v2] = min_ff(vert_lens[medge[i].v2], ed_len_sq);
525                         }
526                 }
527
528                 if (ofs_new != 0.0f) {
529                         unsigned int i_orig, i_end;
530                         bool do_shell_align;
531
532                         scalar_short = scalar_short_vgroup = ofs_new / 32767.0f;
533
534                         INIT_VERT_ARRAY_OFFSETS(false);
535
536                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
537                                 const unsigned int i = do_shell_align ? i_orig : new_vert_arr[i_orig];
538                                 if (dvert) {
539                                         MDeformVert *dv = &dvert[i];
540                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
541                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
542                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
543                                 }
544                                 if (do_clamp) {
545                                         /* always reset becaise we may have set before */
546                                         if (dvert == NULL) {
547                                                 scalar_short_vgroup = scalar_short;
548                                         }
549                                         if (vert_lens[i] < offset_sq) {
550                                                 float scalar = sqrtf(vert_lens[i]) / offset;
551                                                 scalar_short_vgroup *= scalar;
552                                         }
553                                 }
554                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
555                         }
556                 }
557
558                 if (ofs_orig != 0.0f) {
559                         unsigned int i_orig, i_end;
560                         bool do_shell_align;
561
562                         scalar_short = scalar_short_vgroup = ofs_orig / 32767.0f;
563
564                         /* as above but swapped */
565                         INIT_VERT_ARRAY_OFFSETS(true);
566
567                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
568                                 const unsigned int i = do_shell_align ? i_orig : new_vert_arr[i_orig];
569                                 if (dvert) {
570                                         MDeformVert *dv = &dvert[i];
571                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
572                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
573                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
574                                 }
575                                 if (do_clamp) {
576                                         /* always reset becaise we may have set before */
577                                         if (dvert == NULL) {
578                                                 scalar_short_vgroup = scalar_short;
579                                         }
580                                         if (vert_lens[i] < offset_sq) {
581                                                 float scalar = sqrtf(vert_lens[i]) / offset;
582                                                 scalar_short_vgroup *= scalar;
583                                         }
584                                 }
585                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
586                         }
587                 }
588
589                 if (do_clamp) {
590                         MEM_freeN(vert_lens);
591                 }
592         }
593         else {
594 #ifdef USE_NONMANIFOLD_WORKAROUND
595                 const bool check_non_manifold = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) != 0;
596 #endif
597                 /* same as EM_solidify() in editmesh_lib.c */
598                 float *vert_angles = MEM_calloc_arrayN(numVerts, 2 * sizeof(float), "mod_solid_pair"); /* 2 in 1 */
599                 float *vert_accum = vert_angles + numVerts;
600                 unsigned int vidx;
601                 unsigned int i;
602
603                 if (vert_nors == NULL) {
604                         vert_nors = MEM_malloc_arrayN(numVerts, 3 * sizeof(float), "mod_solid_vno");
605                         for (i = 0, mv = mvert; i < numVerts; i++, mv++) {
606                                 normal_short_to_float_v3(vert_nors[i], mv->no);
607                         }
608                 }
609
610                 for (i = 0, mp = mpoly; i < numFaces; i++, mp++) {
611                         /* #BKE_mesh_calc_poly_angles logic is inlined here */
612                         float nor_prev[3];
613                         float nor_next[3];
614
615                         int i_curr = mp->totloop - 1;
616                         int i_next = 0;
617
618                         ml = &mloop[mp->loopstart];
619
620                         sub_v3_v3v3(nor_prev, mvert[ml[i_curr - 1].v].co, mvert[ml[i_curr].v].co);
621                         normalize_v3(nor_prev);
622
623                         while (i_next < mp->totloop) {
624                                 float angle;
625                                 sub_v3_v3v3(nor_next, mvert[ml[i_curr].v].co, mvert[ml[i_next].v].co);
626                                 normalize_v3(nor_next);
627                                 angle = angle_normalized_v3v3(nor_prev, nor_next);
628
629
630                                 /* --- not related to angle calc --- */
631                                 if (angle < FLT_EPSILON) {
632                                         angle = FLT_EPSILON;
633                                 }
634
635                                 vidx = ml[i_curr].v;
636                                 vert_accum[vidx] += angle;
637
638 #ifdef USE_NONMANIFOLD_WORKAROUND
639                                 /* skip 3+ face user edges */
640                                 if ((check_non_manifold == false) ||
641                                     LIKELY(((orig_medge[ml[i_curr].e].flag & ME_EDGE_TMP_TAG) == 0) &&
642                                            ((orig_medge[ml[i_next].e].flag & ME_EDGE_TMP_TAG) == 0)))
643                                 {
644                                         vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
645                                 }
646                                 else {
647                                         vert_angles[vidx] += angle;
648                                 }
649 #else
650                                 vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
651 #endif
652                                 /* --- end non-angle-calc section --- */
653
654
655                                 /* step */
656                                 copy_v3_v3(nor_prev, nor_next);
657                                 i_curr = i_next;
658                                 i_next++;
659                         }
660                 }
661
662                 /* vertex group support */
663                 if (dvert) {
664                         MDeformVert *dv = dvert;
665                         float scalar;
666
667                         if (defgrp_invert) {
668                                 for (i = 0; i < numVerts; i++, dv++) {
669                                         scalar = 1.0f - defvert_find_weight(dv, defgrp_index);
670                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
671                                         vert_angles[i] *= scalar;
672                                 }
673                         }
674                         else {
675                                 for (i = 0; i < numVerts; i++, dv++) {
676                                         scalar = defvert_find_weight(dv, defgrp_index);
677                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
678                                         vert_angles[i] *= scalar;
679                                 }
680                         }
681                 }
682
683                 if (do_clamp) {
684                         float *vert_lens_sq = MEM_malloc_arrayN(numVerts, sizeof(float), "vert_lens");
685                         const float offset    = fabsf(smd->offset) * smd->offset_clamp;
686                         const float offset_sq = offset * offset;
687                         copy_vn_fl(vert_lens_sq, (int)numVerts, FLT_MAX);
688                         for (i = 0; i < numEdges; i++) {
689                                 const float ed_len = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
690                                 vert_lens_sq[medge[i].v1] = min_ff(vert_lens_sq[medge[i].v1], ed_len);
691                                 vert_lens_sq[medge[i].v2] = min_ff(vert_lens_sq[medge[i].v2], ed_len);
692                         }
693                         for (i = 0; i < numVerts; i++) {
694                                 if (vert_lens_sq[i] < offset_sq) {
695                                         float scalar = sqrtf(vert_lens_sq[i]) / offset;
696                                         vert_angles[i] *= scalar;
697                                 }
698                         }
699                         MEM_freeN(vert_lens_sq);
700                 }
701
702                 if (ofs_new != 0.0f) {
703                         unsigned int i_orig, i_end;
704                         bool do_shell_align;
705
706                         INIT_VERT_ARRAY_OFFSETS(false);
707
708                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
709                                 const unsigned int i_other = do_shell_align ? i_orig : new_vert_arr[i_orig];
710                                 if (vert_accum[i_other]) { /* zero if unselected */
711                                         madd_v3_v3fl(mv->co, vert_nors[i_other], ofs_new * (vert_angles[i_other] / vert_accum[i_other]));
712                                 }
713                         }
714                 }
715
716                 if (ofs_orig != 0.0f) {
717                         unsigned int i_orig, i_end;
718                         bool do_shell_align;
719
720                         /* same as above but swapped, intentional use of 'ofs_new' */
721                         INIT_VERT_ARRAY_OFFSETS(true);
722
723                         for (i_orig = 0; i_orig < i_end; i_orig++, mv++) {
724                                 const unsigned int i_other = do_shell_align ? i_orig : new_vert_arr[i_orig];
725                                 if (vert_accum[i_other]) { /* zero if unselected */
726                                         madd_v3_v3fl(mv->co, vert_nors[i_other], ofs_orig * (vert_angles[i_other] / vert_accum[i_other]));
727                                 }
728                         }
729                 }
730
731                 MEM_freeN(vert_angles);
732         }
733
734         if (vert_nors)
735                 MEM_freeN(vert_nors);
736
737         /* must recalculate normals with vgroups since they can displace unevenly [#26888] */
738         if ((dm->dirty & DM_DIRTY_NORMALS) || (smd->flag & MOD_SOLIDIFY_RIM) || dvert) {
739                 result->dirty |= DM_DIRTY_NORMALS;
740         }
741         else if (do_shell) {
742                 unsigned int i;
743                 /* flip vertex normals for copied verts */
744                 mv = mvert + numVerts;
745                 for (i = 0; i < numVerts; i++, mv++) {
746                         negate_v3_short(mv->no);
747                 }
748         }
749
750         if (smd->flag & MOD_SOLIDIFY_RIM) {
751                 unsigned int i;
752
753                 /* bugger, need to re-calculate the normals for the new edge faces.
754                  * This could be done in many ways, but probably the quickest way
755                  * is to calculate the average normals for side faces only.
756                  * Then blend them with the normals of the edge verts.
757                  *
758                  * at the moment its easiest to allocate an entire array for every vertex,
759                  * even though we only need edge verts - campbell
760                  */
761
762 #define SOLIDIFY_SIDE_NORMALS
763
764 #ifdef SOLIDIFY_SIDE_NORMALS
765                 const bool do_side_normals = !(result->dirty & DM_DIRTY_NORMALS);
766                 /* annoying to allocate these since we only need the edge verts, */
767                 float (*edge_vert_nos)[3] = do_side_normals ? MEM_calloc_arrayN(numVerts, 3 * sizeof(float), __func__) : NULL;
768                 float nor[3];
769 #endif
770                 const unsigned char crease_rim = smd->crease_rim * 255.0f;
771                 const unsigned char crease_outer = smd->crease_outer * 255.0f;
772                 const unsigned char crease_inner = smd->crease_inner * 255.0f;
773
774                 int *origindex_edge;
775                 int *orig_ed;
776                 unsigned int j;
777
778                 if (crease_rim || crease_outer || crease_inner) {
779                         result->cd_flag |= ME_CDFLAG_EDGE_CREASE;
780                 }
781
782                 /* add faces & edges */
783                 origindex_edge = result->getEdgeDataArray(result, CD_ORIGINDEX);
784                 ed = &medge[(numEdges * stride) + newEdges];  /* start after copied edges */
785                 orig_ed = &origindex_edge[(numEdges * stride) + newEdges];
786                 for (i = 0; i < rimVerts; i++, ed++, orig_ed++) {
787                         ed->v1 = new_vert_arr[i];
788                         ed->v2 = (do_shell ? new_vert_arr[i] : i) + numVerts;
789                         ed->flag |= ME_EDGEDRAW;
790
791                         *orig_ed = ORIGINDEX_NONE;
792
793                         if (crease_rim) {
794                                 ed->crease = crease_rim;
795                         }
796                 }
797
798                 /* faces */
799                 mp = mpoly + (numFaces * stride);
800                 ml = mloop + (numLoops * stride);
801                 j = 0;
802                 for (i = 0; i < newFaces; i++, mp++) {
803                         unsigned int eidx = new_edge_arr[i];
804                         unsigned int fidx = edge_users[eidx];
805                         int k1, k2;
806                         bool flip;
807
808                         if (fidx >= numFaces) {
809                                 fidx -= numFaces;
810                                 flip = true;
811                         }
812                         else {
813                                 flip = false;
814                         }
815
816                         ed = medge + eidx;
817
818                         /* copy most of the face settings */
819                         DM_copy_poly_data(dm, result, (int)fidx, (int)((numFaces * stride) + i), 1);
820                         mp->loopstart = (int)(j + (numLoops * stride));
821                         mp->flag = mpoly[fidx].flag;
822
823                         /* notice we use 'mp->totloop' which is later overwritten,
824                          * we could lookup the original face but theres no point since this is a copy
825                          * and will have the same value, just take care when changing order of assignment */
826                         k1 = mpoly[fidx].loopstart + (((edge_order[eidx] - 1) + mp->totloop) % mp->totloop);  /* prev loop */
827                         k2 = mpoly[fidx].loopstart +   (edge_order[eidx]);
828
829                         mp->totloop = 4;
830
831                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)((numLoops * stride) + j + 0), 1);
832                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)((numLoops * stride) + j + 1), 1);
833                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)((numLoops * stride) + j + 2), 1);
834                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)((numLoops * stride) + j + 3), 1);
835
836                         if (flip == false) {
837                                 ml[j].v = ed->v1;
838                                 ml[j++].e = eidx;
839
840                                 ml[j].v = ed->v2;
841                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v2] + newEdges;
842
843                                 ml[j].v = (do_shell ? ed->v2 : old_vert_arr[ed->v2]) + numVerts;
844                                 ml[j++].e = (do_shell ? eidx : i) + numEdges;
845
846                                 ml[j].v = (do_shell ? ed->v1 : old_vert_arr[ed->v1]) + numVerts;
847                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v1] + newEdges;
848                         }
849                         else {
850                                 ml[j].v = ed->v2;
851                                 ml[j++].e = eidx;
852
853                                 ml[j].v = ed->v1;
854                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v1] + newEdges;
855
856                                 ml[j].v = (do_shell ? ed->v1 : old_vert_arr[ed->v1]) + numVerts;
857                                 ml[j++].e = (do_shell ? eidx : i) + numEdges;
858
859                                 ml[j].v = (do_shell ? ed->v2 : old_vert_arr[ed->v2]) + numVerts;
860                                 ml[j++].e = (numEdges * stride) + old_vert_arr[ed->v2] + newEdges;
861                         }
862
863                         origindex_edge[ml[j - 3].e] = ORIGINDEX_NONE;
864                         origindex_edge[ml[j - 1].e] = ORIGINDEX_NONE;
865
866                         /* use the next material index if option enabled */
867                         if (mat_ofs_rim) {
868                                 mp->mat_nr += mat_ofs_rim;
869                                 CLAMP(mp->mat_nr, 0, mat_nr_max);
870                         }
871                         if (crease_outer) {
872                                 /* crease += crease_outer; without wrapping */
873                                 char *cr = &(ed->crease);
874                                 int tcr = *cr + crease_outer;
875                                 *cr = tcr > 255 ? 255 : tcr;
876                         }
877
878                         if (crease_inner) {
879                                 /* crease += crease_inner; without wrapping */
880                                 char *cr = &(medge[numEdges + (do_shell ? eidx : i)].crease);
881                                 int tcr = *cr + crease_inner;
882                                 *cr = tcr > 255 ? 255 : tcr;
883                         }
884
885 #ifdef SOLIDIFY_SIDE_NORMALS
886                         if (do_side_normals) {
887                                 normal_quad_v3(nor,
888                                                mvert[ml[j - 4].v].co,
889                                                mvert[ml[j - 3].v].co,
890                                                mvert[ml[j - 2].v].co,
891                                                mvert[ml[j - 1].v].co);
892
893                                 add_v3_v3(edge_vert_nos[ed->v1], nor);
894                                 add_v3_v3(edge_vert_nos[ed->v2], nor);
895                         }
896 #endif
897                 }
898
899 #ifdef SOLIDIFY_SIDE_NORMALS
900                 if (do_side_normals) {
901                         ed = medge + (numEdges * stride);
902                         for (i = 0; i < rimVerts; i++, ed++) {
903                                 float nor_cpy[3];
904                                 short *nor_short;
905                                 int k;
906
907                                 /* note, only the first vertex (lower half of the index) is calculated */
908                                 normalize_v3_v3(nor_cpy, edge_vert_nos[ed->v1]);
909
910                                 for (k = 0; k < 2; k++) { /* loop over both verts of the edge */
911                                         nor_short = mvert[*(&ed->v1 + k)].no;
912                                         normal_short_to_float_v3(nor, nor_short);
913                                         add_v3_v3(nor, nor_cpy);
914                                         normalize_v3(nor);
915                                         normal_float_to_short_v3(nor_short, nor);
916                                 }
917                         }
918
919                         MEM_freeN(edge_vert_nos);
920                 }
921 #endif
922
923                 MEM_freeN(new_vert_arr);
924                 MEM_freeN(new_edge_arr);
925
926                 MEM_freeN(edge_users);
927                 MEM_freeN(edge_order);
928         }
929
930         if (old_vert_arr)
931                 MEM_freeN(old_vert_arr);
932
933         if (face_nors)
934                 MEM_freeN(face_nors);
935
936         if (numFaces == 0 && numEdges != 0) {
937                 modifier_setError(md, "Faces needed for useful output");
938         }
939
940         return result;
941 }
942
943 #undef SOLIDIFY_SIDE_NORMALS
944
945 static bool dependsOnNormals(ModifierData *UNUSED(md))
946 {
947         /* even when we calculate our own normals,
948          * the vertex normals are used as a fallback */
949         return true;
950 }
951
952 ModifierTypeInfo modifierType_Solidify = {
953         /* name */              "Solidify",
954         /* structName */        "SolidifyModifierData",
955         /* structSize */        sizeof(SolidifyModifierData),
956         /* type */              eModifierTypeType_Constructive,
957
958         /* flags */             eModifierTypeFlag_AcceptsMesh |
959                                 eModifierTypeFlag_AcceptsCVs |
960                                 eModifierTypeFlag_SupportsMapping |
961                                 eModifierTypeFlag_SupportsEditmode |
962                                 eModifierTypeFlag_EnableInEditmode,
963
964         /* copyData */          copyData,
965
966         /* deformVerts_DM */    NULL,
967         /* deformMatrices_DM */ NULL,
968         /* deformVertsEM_DM */  NULL,
969         /* deformMatricesEM_DM*/NULL,
970         /* applyModifier_DM */  applyModifier,
971         /* applyModifierEM_DM */NULL,
972
973         /* deformVerts */       NULL,
974         /* deformMatrices */    NULL,
975         /* deformVertsEM */     NULL,
976         /* deformMatricesEM */  NULL,
977         /* applyModifier */     NULL,
978         /* applyModifierEM */   NULL,
979
980         /* initData */          initData,
981         /* requiredDataMask */  requiredDataMask,
982         /* freeData */          NULL,
983         /* isDisabled */        NULL,
984         /* updateDepsgraph */   NULL,
985         /* dependsOnTime */     NULL,
986         /* dependsOnNormals */  dependsOnNormals,
987         /* foreachObjectLink */ NULL,
988         /* foreachIDLink */     NULL,
989         /* foreachTexLink */    NULL,
990 };