BLI_bitmap: rename macros
[blender.git] / source / blender / modifiers / intern / MOD_solidify.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2005 by the Blender Foundation.
19  * All rights reserved.
20  *
21  * Contributor(s): Campbell Barton
22  *                 Shinsuke Irie
23  *
24  * ***** END GPL LICENSE BLOCK *****
25  *
26  */
27
28 /** \file blender/modifiers/intern/MOD_solidify.c
29  *  \ingroup modifiers
30  */
31
32 #include "DNA_mesh_types.h"
33 #include "DNA_meshdata_types.h"
34
35 #include "MEM_guardedalloc.h"
36
37 #include "BLI_utildefines.h"
38 #include "BLI_bitmap.h"
39 #include "BLI_math.h"
40
41 #include "BKE_cdderivedmesh.h"
42 #include "BKE_mesh.h"
43 #include "BKE_particle.h"
44 #include "BKE_deform.h"
45
46 #include "MOD_modifiertypes.h"
47 #include "MOD_util.h"
48
49 #ifdef __GNUC__
50 #  pragma GCC diagnostic error "-Wsign-conversion"
51 #endif
52
53 /* skip shell thickness for non-manifold edges, see [#35710] */
54 #define USE_NONMANIFOLD_WORKAROUND
55
56 /* *** derived mesh high quality normal calculation function  *** */
57 /* could be exposed for other functions to use */
58
59 typedef struct EdgeFaceRef {
60         int f1; /* init as -1 */
61         int f2;
62 } EdgeFaceRef;
63
64 BLI_INLINE bool edgeref_is_init(const EdgeFaceRef *edge_ref)
65 {
66         return !((edge_ref->f1 == 0) && (edge_ref->f2 == 0));
67 }
68
69 /**
70  * \param dm  Mesh to calculate normals for.
71  * \param face_nors  Precalculated face normals.
72  * \param r_vert_nors  Return vert normals.
73  */
74 static void dm_calc_normal(DerivedMesh *dm, float (*face_nors)[3], float (*r_vert_nors)[3])
75 {
76         int i, numVerts, numEdges, numFaces;
77         MPoly *mpoly, *mp;
78         MLoop *mloop, *ml;
79         MEdge *medge, *ed;
80         MVert *mvert, *mv;
81
82         numVerts = dm->getNumVerts(dm);
83         numEdges = dm->getNumEdges(dm);
84         numFaces = dm->getNumPolys(dm);
85         mpoly = dm->getPolyArray(dm);
86         medge = dm->getEdgeArray(dm);
87         mvert = dm->getVertArray(dm);
88         mloop = dm->getLoopArray(dm);
89
90         /* we don't want to overwrite any referenced layers */
91
92         /* Doesn't work here! */
93 #if 0
94         mv = CustomData_duplicate_referenced_layer(&dm->vertData, CD_MVERT, numVerts);
95         cddm->mvert = mv;
96 #endif
97
98         mv = mvert;
99         mp = mpoly;
100
101         {
102                 EdgeFaceRef *edge_ref_array = MEM_callocN(sizeof(EdgeFaceRef) * (size_t)numEdges, "Edge Connectivity");
103                 EdgeFaceRef *edge_ref;
104                 float edge_normal[3];
105
106                 /* This loop adds an edge hash if its not there, and adds the face index */
107                 for (i = 0; i < numFaces; i++, mp++) {
108                         int j;
109
110                         ml = mloop + mp->loopstart;
111
112                         for (j = 0; j < mp->totloop; j++, ml++) {
113                                 /* --- add edge ref to face --- */
114                                 edge_ref = &edge_ref_array[ml->e];
115                                 if (!edgeref_is_init(edge_ref)) {
116                                         edge_ref->f1 =  i;
117                                         edge_ref->f2 = -1;
118                                 }
119                                 else if ((edge_ref->f1 != -1) && (edge_ref->f2 == -1)) {
120                                         edge_ref->f2 = i;
121                                 }
122                                 else {
123                                         /* 3+ faces using an edge, we can't handle this usefully */
124                                         edge_ref->f1 = edge_ref->f2 = -1;
125 #ifdef USE_NONMANIFOLD_WORKAROUND
126                                         medge[ml->e].flag |= ME_EDGE_TMP_TAG;
127 #endif
128                                 }
129                                 /* --- done --- */
130                         }
131                 }
132
133                 for (i = 0, ed = medge, edge_ref = edge_ref_array; i < numEdges; i++, ed++, edge_ref++) {
134                         /* Get the edge vert indices, and edge value (the face indices that use it) */
135
136                         if (edgeref_is_init(edge_ref) && (edge_ref->f1 != -1)) {
137                                 if (edge_ref->f2 != -1) {
138                                         /* We have 2 faces using this edge, calculate the edges normal
139                                          * using the angle between the 2 faces as a weighting */
140 #if 0
141                                         add_v3_v3v3(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
142                                         normalize_v3(edge_normal);
143
144                                         mul_v3_fl(edge_normal, angle_normalized_v3v3(face_nors[edge_ref->f1], face_nors[edge_ref->f2]));
145 #else
146                                         mid_v3_v3v3_angle_weighted(edge_normal, face_nors[edge_ref->f1], face_nors[edge_ref->f2]);
147 #endif
148                                 }
149                                 else {
150                                         /* only one face attached to that edge */
151                                         /* an edge without another attached- the weight on this is undefined */
152                                         copy_v3_v3(edge_normal, face_nors[edge_ref->f1]);
153                                 }
154                                 add_v3_v3(r_vert_nors[ed->v1], edge_normal);
155                                 add_v3_v3(r_vert_nors[ed->v2], edge_normal);
156                         }
157                 }
158                 MEM_freeN(edge_ref_array);
159         }
160
161         /* normalize vertex normals and assign */
162         for (i = 0; i < numVerts; i++, mv++) {
163                 if (normalize_v3(r_vert_nors[i]) == 0.0f) {
164                         normal_short_to_float_v3(r_vert_nors[i], mv->no);
165                 }
166         }
167 }
168
169 static void initData(ModifierData *md)
170 {
171         SolidifyModifierData *smd = (SolidifyModifierData *) md;
172         smd->offset = 0.01f;
173         smd->offset_fac = -1.0f;
174         smd->flag = MOD_SOLIDIFY_RIM;
175 }
176
177 static void copyData(ModifierData *md, ModifierData *target)
178 {
179 #if 0
180         SolidifyModifierData *smd = (SolidifyModifierData *) md;
181         SolidifyModifierData *tsmd = (SolidifyModifierData *) target;
182 #endif
183         modifier_copyData_generic(md, target);
184 }
185
186 static CustomDataMask requiredDataMask(Object *UNUSED(ob), ModifierData *md)
187 {
188         SolidifyModifierData *smd = (SolidifyModifierData *) md;
189         CustomDataMask dataMask = 0;
190
191         /* ask for vertexgroups if we need them */
192         if (smd->defgrp_name[0]) dataMask |= CD_MASK_MDEFORMVERT;
193
194         return dataMask;
195 }
196
197 /* specific function for solidify - define locally */
198 BLI_INLINE void madd_v3v3short_fl(float r[3], const short a[3], const float f)
199 {
200         r[0] += (float)a[0] * f;
201         r[1] += (float)a[1] * f;
202         r[2] += (float)a[2] * f;
203 }
204
205 static DerivedMesh *applyModifier(
206         ModifierData *md, Object *ob,
207         DerivedMesh *dm,
208         ModifierApplyFlag UNUSED(flag))
209 {
210         unsigned int i;
211         DerivedMesh *result;
212         const SolidifyModifierData *smd = (SolidifyModifierData *) md;
213
214         MVert *mv, *mvert, *orig_mvert;
215         MEdge *ed, *medge, *orig_medge;
216         MLoop *ml, *mloop, *orig_mloop;
217         MPoly *mp, *mpoly, *orig_mpoly;
218         const unsigned int numVerts = (unsigned int)dm->getNumVerts(dm);
219         const unsigned int numEdges = (unsigned int)dm->getNumEdges(dm);
220         const unsigned int numFaces = (unsigned int)dm->getNumPolys(dm);
221         const unsigned int numLoops = (unsigned int)dm->getNumLoops(dm);
222         unsigned int newLoops = 0, newFaces = 0, newEdges = 0;
223
224         /* only use material offsets if we have 2 or more materials  */
225         const short mat_nr_max = ob->totcol > 1 ? ob->totcol - 1 : 0;
226         const short mat_ofs = mat_nr_max ? smd->mat_ofs : 0;
227         const short mat_ofs_rim = mat_nr_max ? smd->mat_ofs_rim : 0;
228
229         /* use for edges */
230         /* over-alloc new_vert_arr, old_vert_arr */
231         unsigned int *new_vert_arr = NULL;
232         STACK_DECLARE(new_vert_arr);
233
234         unsigned int *new_edge_arr = NULL;
235         STACK_DECLARE(new_edge_arr);
236
237         unsigned int *old_vert_arr = MEM_callocN(sizeof(*old_vert_arr) * (size_t)numVerts, "old_vert_arr in solidify");
238
239         unsigned int *edge_users = NULL;
240         char *edge_order = NULL;
241
242         float (*vert_nors)[3] = NULL;
243         float (*face_nors)[3] = NULL;
244
245         const bool need_face_normals = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) || (smd->flag & MOD_SOLIDIFY_EVEN);
246
247         const float ofs_orig = -(((-smd->offset_fac + 1.0f) * 0.5f) * smd->offset);
248         const float ofs_new  = smd->offset + ofs_orig;
249         const float offset_fac_vg = smd->offset_fac_vg;
250         const float offset_fac_vg_inv = 1.0f - smd->offset_fac_vg;
251         const bool do_flip = (smd->flag & MOD_SOLIDIFY_FLIP) != 0;
252         const bool do_clamp = (smd->offset_clamp != 0.0f);
253
254         /* weights */
255         MDeformVert *dvert, *dv = NULL;
256         const int defgrp_invert = ((smd->flag & MOD_SOLIDIFY_VGROUP_INV) != 0);
257         int defgrp_index;
258
259         modifier_get_vgroup(ob, dm, smd->defgrp_name, &dvert, &defgrp_index);
260
261         orig_mvert = dm->getVertArray(dm);
262         orig_medge = dm->getEdgeArray(dm);
263         orig_mloop = dm->getLoopArray(dm);
264         orig_mpoly = dm->getPolyArray(dm);
265
266         if (need_face_normals) {
267                 /* calculate only face normals */
268                 face_nors = MEM_mallocN(sizeof(*face_nors) * (size_t)numFaces, __func__);
269                 BKE_mesh_calc_normals_poly(
270                             orig_mvert, (int)numVerts,
271                             orig_mloop, orig_mpoly,
272                             (int)numLoops, (int)numFaces,
273                             face_nors, true);
274         }
275
276         STACK_INIT(new_vert_arr);
277         STACK_INIT(new_edge_arr);
278
279         if (smd->flag & MOD_SOLIDIFY_RIM) {
280                 BLI_bitmap *orig_mvert_tag = BLI_BITMAP_NEW(numVerts, __func__);
281                 unsigned int eidx;
282
283 #define INVALID_UNUSED ((unsigned int)-1)
284 #define INVALID_PAIR ((unsigned int)-2)
285
286                 new_vert_arr = MEM_mallocN(sizeof(*new_vert_arr) * (size_t)(numVerts * 2), __func__);
287                 new_edge_arr = MEM_mallocN(sizeof(*new_edge_arr) * (size_t)((numEdges * 2) + numVerts), __func__);
288
289                 edge_users = MEM_mallocN(sizeof(*edge_users) * (size_t)numEdges, "solid_mod edges");
290                 edge_order = MEM_mallocN(sizeof(*edge_order) * (size_t)numEdges, "solid_mod eorder");
291
292
293                 /* save doing 2 loops here... */
294 #if 0
295                 fill_vn_i(edge_users, numEdges, INVALID_UNUSED);
296 #endif
297
298                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
299                         edge_users[eidx] = INVALID_UNUSED;
300                 }
301
302                 for (i = 0, mp = orig_mpoly; i < numFaces; i++, mp++) {
303                         MLoop *ml_prev;
304                         int j;
305
306                         ml = orig_mloop + mp->loopstart;
307                         ml_prev = ml + (mp->totloop - 1);
308
309                         for (j = 0; j < mp->totloop; j++, ml++) {
310                                 /* add edge user */
311                                 eidx = ml_prev->e;
312                                 if (edge_users[eidx] == INVALID_UNUSED) {
313                                         ed = orig_medge + eidx;
314                                         BLI_assert(ELEM(ml_prev->v,    ed->v1, ed->v2) &&
315                                                    ELEM(ml->v, ed->v1, ed->v2));
316                                         edge_users[eidx] = (ml_prev->v > ml->v) == (ed->v1 < ed->v2) ? i : (i + numFaces);
317                                         edge_order[eidx] = j;
318                                 }
319                                 else {
320                                         edge_users[eidx] = INVALID_PAIR;
321                                 }
322                                 ml_prev = ml;
323                         }
324                 }
325
326                 for (eidx = 0, ed = orig_medge; eidx < numEdges; eidx++, ed++) {
327                         if (!ELEM(edge_users[eidx], INVALID_UNUSED, INVALID_PAIR)) {
328                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v1);
329                                 BLI_BITMAP_ENABLE(orig_mvert_tag, ed->v2);
330                                 STACK_PUSH(new_edge_arr, eidx);
331                                 newFaces++;
332                                 newLoops += 4;
333                         }
334                 }
335
336 #undef INVALID_UNUSED
337 #undef INVALID_PAIR
338
339                 for (i = 0; i < numVerts; i++) {
340                         if (BLI_BITMAP_TEST(orig_mvert_tag, i)) {
341                                 old_vert_arr[i] = STACK_SIZE(new_vert_arr);
342                                 STACK_PUSH(new_vert_arr, i);
343                                 newEdges++;
344                         }
345                 }
346
347                 MEM_freeN(orig_mvert_tag);
348         }
349
350         if (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) {
351                 vert_nors = MEM_callocN(sizeof(float) * (size_t)numVerts * 3, "mod_solid_vno_hq");
352                 dm_calc_normal(dm, face_nors, vert_nors);
353         }
354
355         result = CDDM_from_template(dm,
356                                     (int)(numVerts * 2),
357                                     (int)((numEdges * 2) + newEdges), 0,
358                                     (int)((numLoops * 2) + newLoops),
359                                     (int)((numFaces * 2) + newFaces));
360
361         mpoly = CDDM_get_polys(result);
362         mloop = CDDM_get_loops(result);
363         medge = CDDM_get_edges(result);
364         mvert = CDDM_get_verts(result);
365
366         DM_copy_edge_data(dm, result, 0, 0, (int)numEdges);
367         DM_copy_edge_data(dm, result, 0, (int)numEdges, (int)numEdges);
368
369         DM_copy_vert_data(dm, result, 0, 0, (int)numVerts);
370         DM_copy_vert_data(dm, result, 0, (int)numVerts, (int)numVerts);
371
372         DM_copy_loop_data(dm, result, 0, 0, (int)numLoops);
373         DM_copy_loop_data(dm, result, 0, (int)numLoops, (int)numLoops);
374
375         DM_copy_poly_data(dm, result, 0, 0, (int)numFaces);
376         DM_copy_poly_data(dm, result, 0, (int)numFaces, (int)numFaces);
377
378         /* flip normals */
379         mp = mpoly + numFaces;
380         for (i = 0; i < dm->numPolyData; i++, mp++) {
381                 MLoop *ml2;
382                 unsigned int e;
383                 int j;
384
385                 ml2 = mloop + mp->loopstart + dm->numLoopData;
386                 for (j = 0; j < mp->totloop; j++) {
387                         CustomData_copy_data(&dm->loopData, &result->loopData, mp->loopstart + j,
388                                              mp->loopstart + (mp->totloop - j - 1) + dm->numLoopData, 1);
389                 }
390
391                 if (mat_ofs) {
392                         mp->mat_nr += mat_ofs;
393                         CLAMP(mp->mat_nr, 0, mat_nr_max);
394                 }
395
396                 e = ml2[0].e;
397                 for (j = 0; j < mp->totloop - 1; j++) {
398                         ml2[j].e = ml2[j + 1].e;
399                 }
400                 ml2[mp->totloop - 1].e = e;
401
402                 mp->loopstart += dm->numLoopData;
403
404                 for (j = 0; j < mp->totloop; j++) {
405                         ml2[j].e += numEdges;
406                         ml2[j].v += numVerts;
407                 }
408         }
409
410         for (i = 0, ed = medge + numEdges; i < numEdges; i++, ed++) {
411                 ed->v1 += numVerts;
412                 ed->v2 += numVerts;
413         }
414
415         /* note, copied vertex layers don't have flipped normals yet. do this after applying offset */
416         if ((smd->flag & MOD_SOLIDIFY_EVEN) == 0) {
417                 /* no even thickness, very simple */
418                 float scalar_short;
419                 float scalar_short_vgroup;
420
421                 /* for clamping */
422                 float *vert_lens = NULL;
423                 const float offset    = fabsf(smd->offset) * smd->offset_clamp;
424                 const float offset_sq = offset * offset;
425
426                 if (do_clamp) {
427                         vert_lens = MEM_mallocN(sizeof(float) * numVerts, "vert_lens");
428                         fill_vn_fl(vert_lens, (int)numVerts, FLT_MAX);
429                         for (i = 0; i < numEdges; i++) {
430                                 const float ed_len_sq = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
431                                 vert_lens[medge[i].v1] = min_ff(vert_lens[medge[i].v1], ed_len_sq);
432                                 vert_lens[medge[i].v2] = min_ff(vert_lens[medge[i].v2], ed_len_sq);
433                         }
434                 }
435
436                 if (ofs_new != 0.0f) {
437                         scalar_short = scalar_short_vgroup = ofs_new / 32767.0f;
438                         mv = mvert + (((ofs_new >= ofs_orig) == do_flip) ? numVerts : 0);
439                         dv = dvert;
440                         for (i = 0; i < numVerts; i++, mv++) {
441                                 if (dv) {
442                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
443                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
444                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
445                                         dv++;
446                                 }
447                                 if (do_clamp) {
448                                         /* always reset becaise we may have set before */
449                                         if (dv == NULL) {
450                                                 scalar_short_vgroup = scalar_short;
451                                         }
452                                         if (vert_lens[i] < offset_sq) {
453                                                 float scalar = sqrtf(vert_lens[i]) / offset;
454                                                 scalar_short_vgroup *= scalar;
455                                         }
456                                 }
457                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
458                         }
459                 }
460
461                 if (ofs_orig != 0.0f) {
462                         scalar_short = scalar_short_vgroup = ofs_orig / 32767.0f;
463                         mv = mvert + (((ofs_new >= ofs_orig) == do_flip) ? 0 : numVerts); /* as above but swapped */
464                         dv = dvert;
465                         for (i = 0; i < numVerts; i++, mv++) {
466                                 if (dv) {
467                                         if (defgrp_invert) scalar_short_vgroup = 1.0f - defvert_find_weight(dv, defgrp_index);
468                                         else scalar_short_vgroup = defvert_find_weight(dv, defgrp_index);
469                                         scalar_short_vgroup = (offset_fac_vg + (scalar_short_vgroup * offset_fac_vg_inv)) * scalar_short;
470                                         dv++;
471                                 }
472                                 if (do_clamp) {
473                                         /* always reset becaise we may have set before */
474                                         if (dv == NULL) {
475                                                 scalar_short_vgroup = scalar_short;
476                                         }
477                                         if (vert_lens[i] < offset_sq) {
478                                                 float scalar = sqrtf(vert_lens[i]) / offset;
479                                                 scalar_short_vgroup *= scalar;
480                                         }
481                                 }
482                                 madd_v3v3short_fl(mv->co, mv->no, scalar_short_vgroup);
483                         }
484                 }
485
486                 if (do_clamp) {
487                         MEM_freeN(vert_lens);
488                 }
489         }
490         else {
491 #ifdef USE_NONMANIFOLD_WORKAROUND
492                 const bool check_non_manifold = (smd->flag & MOD_SOLIDIFY_NORMAL_CALC) != 0;
493 #endif
494                 /* same as EM_solidify() in editmesh_lib.c */
495                 float *vert_angles = MEM_callocN(sizeof(float) * numVerts * 2, "mod_solid_pair"); /* 2 in 1 */
496                 float *vert_accum = vert_angles + numVerts;
497                 unsigned int vidx;
498
499                 if (vert_nors == NULL) {
500                         vert_nors = MEM_mallocN(sizeof(float) * numVerts * 3, "mod_solid_vno");
501                         for (i = 0, mv = mvert; i < numVerts; i++, mv++) {
502                                 normal_short_to_float_v3(vert_nors[i], mv->no);
503                         }
504                 }
505
506                 for (i = 0, mp = mpoly; i < numFaces; i++, mp++) {
507                         /* #BKE_mesh_calc_poly_angles logic is inlined here */
508                         float nor_prev[3];
509                         float nor_next[3];
510
511                         int i_curr = mp->totloop - 1;
512                         int i_next = 0;
513
514                         ml = &mloop[mp->loopstart];
515
516                         sub_v3_v3v3(nor_prev, mvert[ml[i_curr - 1].v].co, mvert[ml[i_curr].v].co);
517                         normalize_v3(nor_prev);
518
519                         while (i_next < mp->totloop) {
520                                 float angle;
521                                 sub_v3_v3v3(nor_next, mvert[ml[i_curr].v].co, mvert[ml[i_next].v].co);
522                                 normalize_v3(nor_next);
523                                 angle = angle_normalized_v3v3(nor_prev, nor_next);
524
525
526                                 /* --- not related to angle calc --- */
527                                 if (angle < FLT_EPSILON) {
528                                         angle = FLT_EPSILON;
529                                 }
530
531                                 vidx = ml[i_curr].v;
532                                 vert_accum[vidx] += angle;
533
534 #ifdef USE_NONMANIFOLD_WORKAROUND
535                                 /* skip 3+ face user edges */
536                                 if ((check_non_manifold == false) ||
537                                     LIKELY(((orig_medge[ml[i_curr].e].flag & ME_EDGE_TMP_TAG) == 0) &&
538                                            ((orig_medge[ml[i_next].e].flag & ME_EDGE_TMP_TAG) == 0)))
539                                 {
540                                         vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
541                                 }
542                                 else {
543                                         vert_angles[vidx] += angle;
544                                 }
545 #else
546                                 vert_angles[vidx] += shell_v3v3_normalized_to_dist(vert_nors[vidx], face_nors[i]) * angle;
547 #endif
548                                 /* --- end non-angle-calc section --- */
549
550
551                                 /* step */
552                                 copy_v3_v3(nor_prev, nor_next);
553                                 i_curr = i_next;
554                                 i_next++;
555                         }
556                 }
557
558                 /* vertex group support */
559                 if (dvert) {
560                         float scalar;
561
562                         dv = dvert;
563                         if (defgrp_invert) {
564                                 for (i = 0; i < numVerts; i++, dv++) {
565                                         scalar = 1.0f - defvert_find_weight(dv, defgrp_index);
566                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
567                                         vert_angles[i] *= scalar;
568                                 }
569                         }
570                         else {
571                                 for (i = 0; i < numVerts; i++, dv++) {
572                                         scalar = defvert_find_weight(dv, defgrp_index);
573                                         scalar = offset_fac_vg + (scalar * offset_fac_vg_inv);
574                                         vert_angles[i] *= scalar;
575                                 }
576                         }
577                 }
578
579                 if (do_clamp) {
580                         float *vert_lens_sq = MEM_callocN(sizeof(float) * numVerts, "vert_lens");
581                         const float offset    = fabsf(smd->offset) * smd->offset_clamp;
582                         const float offset_sq = offset * offset;
583                         fill_vn_fl(vert_lens_sq, (int)numVerts, FLT_MAX);
584                         for (i = 0; i < numEdges; i++) {
585                                 const float ed_len = len_squared_v3v3(mvert[medge[i].v1].co, mvert[medge[i].v2].co);
586                                 vert_lens_sq[medge[i].v1] = min_ff(vert_lens_sq[medge[i].v1], ed_len);
587                                 vert_lens_sq[medge[i].v2] = min_ff(vert_lens_sq[medge[i].v2], ed_len);
588                         }
589                         for (i = 0; i < numVerts; i++) {
590                                 if (vert_lens_sq[i] < offset_sq) {
591                                         float scalar = sqrtf(vert_lens_sq[i]) / offset;
592                                         vert_angles[i] *= scalar;
593                                 }
594                         }
595                         MEM_freeN(vert_lens_sq);
596                 }
597
598                 if (ofs_new) {
599                         mv = mvert + (((ofs_new >= ofs_orig) == do_flip) ? numVerts : 0);
600
601                         for (i = 0; i < numVerts; i++, mv++) {
602                                 if (vert_accum[i]) { /* zero if unselected */
603                                         madd_v3_v3fl(mv->co, vert_nors[i], ofs_new * (vert_angles[i] / vert_accum[i]));
604                                 }
605                         }
606                 }
607
608                 if (ofs_orig) {
609                         /* same as above but swapped, intentional use of 'ofs_new' */
610                         mv = mvert + (((ofs_new >= ofs_orig) == do_flip) ? 0 : numVerts);
611
612                         for (i = 0; i < numVerts; i++, mv++) {
613                                 if (vert_accum[i]) { /* zero if unselected */
614                                         madd_v3_v3fl(mv->co, vert_nors[i], ofs_orig * (vert_angles[i] / vert_accum[i]));
615                                 }
616                         }
617                 }
618
619                 MEM_freeN(vert_angles);
620         }
621
622         if (vert_nors)
623                 MEM_freeN(vert_nors);
624
625         /* must recalculate normals with vgroups since they can displace unevenly [#26888] */
626         if ((dm->dirty & DM_DIRTY_NORMALS) || (smd->flag & MOD_SOLIDIFY_RIM) || dvert) {
627                 result->dirty |= DM_DIRTY_NORMALS;
628         }
629         else {
630                 /* flip vertex normals for copied verts */
631                 mv = mvert + numVerts;
632                 for (i = 0; i < numVerts; i++, mv++) {
633                         negate_v3_short(mv->no);
634                 }
635         }
636
637         if (smd->flag & MOD_SOLIDIFY_RIM) {
638
639                 /* bugger, need to re-calculate the normals for the new edge faces.
640                  * This could be done in many ways, but probably the quickest way
641                  * is to calculate the average normals for side faces only.
642                  * Then blend them with the normals of the edge verts.
643                  *
644                  * at the moment its easiest to allocate an entire array for every vertex,
645                  * even though we only need edge verts - campbell
646                  */
647
648 #define SOLIDIFY_SIDE_NORMALS
649
650 #ifdef SOLIDIFY_SIDE_NORMALS
651                 const bool do_side_normals = !(result->dirty & DM_DIRTY_NORMALS);
652                 /* annoying to allocate these since we only need the edge verts, */
653                 float (*edge_vert_nos)[3] = do_side_normals ? MEM_callocN(sizeof(float) * numVerts * 3, __func__) : NULL;
654                 float nor[3];
655 #endif
656                 const unsigned char crease_rim = smd->crease_rim * 255.0f;
657                 const unsigned char crease_outer = smd->crease_outer * 255.0f;
658                 const unsigned char crease_inner = smd->crease_inner * 255.0f;
659
660                 int *origindex_edge;
661                 int *orig_ed;
662                 unsigned int j;
663
664                 if (crease_rim || crease_outer || crease_inner) {
665                         result->cd_flag |= ME_CDFLAG_EDGE_CREASE;
666                 }
667
668                 /* add faces & edges */
669                 origindex_edge = result->getEdgeDataArray(result, CD_ORIGINDEX);
670                 ed = &medge[numEdges * 2];
671                 orig_ed = &origindex_edge[numEdges * 2];
672                 for (i = 0; i < newEdges; i++, ed++, orig_ed++) {
673                         ed->v1 = new_vert_arr[i];
674                         ed->v2 = new_vert_arr[i] + numVerts;
675                         ed->flag |= ME_EDGEDRAW;
676
677                         *orig_ed = ORIGINDEX_NONE;
678
679                         if (crease_rim) {
680                                 ed->crease = crease_rim;
681                         }
682                 }
683
684                 /* faces */
685                 mp = mpoly + (numFaces * 2);
686                 ml = mloop + (numLoops * 2);
687                 j = 0;
688                 for (i = 0; i < newFaces; i++, mp++) {
689                         unsigned int eidx = new_edge_arr[i];
690                         unsigned int fidx = edge_users[eidx];
691                         int k1, k2;
692                         bool flip;
693
694                         if (fidx >= numFaces) {
695                                 fidx -= numFaces;
696                                 flip = true;
697                         }
698                         else {
699                                 flip = false;
700                         }
701
702                         ed = medge + eidx;
703
704                         /* copy most of the face settings */
705                         DM_copy_poly_data(dm, result, (int)fidx, (int)((numFaces * 2) + i), 1);
706                         mp->loopstart = (int)(j + numLoops * 2);
707                         mp->flag = mpoly[fidx].flag;
708
709                         /* notice we use 'mp->totloop' which is later overwritten,
710                          * we could lookup the original face but theres no point since this is a copy
711                          * and will have the same value, just take care when changing order of assignment */
712                         k1 = mpoly[fidx].loopstart + (((edge_order[eidx] - 1) + mp->totloop) % mp->totloop);  /* prev loop */
713                         k2 = mpoly[fidx].loopstart +   (edge_order[eidx]);
714
715                         mp->totloop = 4;
716
717                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)(numLoops * 2 + j + 0), 1);
718                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)(numLoops * 2 + j + 1), 1);
719                         CustomData_copy_data(&dm->loopData, &result->loopData, k1, (int)(numLoops * 2 + j + 2), 1);
720                         CustomData_copy_data(&dm->loopData, &result->loopData, k2, (int)(numLoops * 2 + j + 3), 1);
721
722                         if (flip == false) {
723                                 ml[j].v = ed->v1;
724                                 ml[j++].e = eidx;
725
726                                 ml[j].v = ed->v2;
727                                 ml[j++].e = numEdges * 2 + old_vert_arr[ed->v2];
728
729                                 ml[j].v = ed->v2 + numVerts;
730                                 ml[j++].e = eidx + numEdges;
731
732                                 ml[j].v = ed->v1 + numVerts;
733                                 ml[j++].e = numEdges * 2 + old_vert_arr[ed->v1];
734                         }
735                         else {
736                                 ml[j].v = ed->v2;
737                                 ml[j++].e = eidx;
738
739                                 ml[j].v = ed->v1;
740                                 ml[j++].e = numEdges * 2 + old_vert_arr[ed->v1];
741
742                                 ml[j].v = ed->v1 + numVerts;
743                                 ml[j++].e = eidx + numEdges;
744
745                                 ml[j].v = ed->v2 + numVerts;
746                                 ml[j++].e = numEdges * 2 + old_vert_arr[ed->v2];
747                         }
748
749                         origindex_edge[ml[j - 3].e] = ORIGINDEX_NONE;
750                         origindex_edge[ml[j - 1].e] = ORIGINDEX_NONE;
751
752                         /* use the next material index if option enabled */
753                         if (mat_ofs_rim) {
754                                 mp->mat_nr += mat_ofs_rim;
755                                 CLAMP(mp->mat_nr, 0, mat_nr_max);
756                         }
757                         if (crease_outer) {
758                                 /* crease += crease_outer; without wrapping */
759                                 unsigned char *cr = (unsigned char *)&(ed->crease);
760                                 int tcr = *cr + crease_outer;
761                                 *cr = tcr > 255 ? 255 : tcr;
762                         }
763
764                         if (crease_inner) {
765                                 /* crease += crease_inner; without wrapping */
766                                 unsigned char *cr = (unsigned char *)&(medge[numEdges + eidx].crease);
767                                 int tcr = *cr + crease_inner;
768                                 *cr = tcr > 255 ? 255 : tcr;
769                         }
770
771 #ifdef SOLIDIFY_SIDE_NORMALS
772                         if (do_side_normals) {
773                                 normal_quad_v3(nor,
774                                                mvert[ml[j - 4].v].co,
775                                                mvert[ml[j - 3].v].co,
776                                                mvert[ml[j - 2].v].co,
777                                                mvert[ml[j - 1].v].co);
778
779                                 add_v3_v3(edge_vert_nos[ed->v1], nor);
780                                 add_v3_v3(edge_vert_nos[ed->v2], nor);
781                         }
782 #endif
783                 }
784
785 #ifdef SOLIDIFY_SIDE_NORMALS
786                 if (do_side_normals) {
787                         ed = medge + (numEdges * 2);
788                         for (i = 0; i < newEdges; i++, ed++) {
789                                 float nor_cpy[3];
790                                 short *nor_short;
791                                 int k;
792
793                                 /* note, only the first vertex (lower half of the index) is calculated */
794                                 normalize_v3_v3(nor_cpy, edge_vert_nos[ed->v1]);
795
796                                 for (k = 0; k < 2; k++) { /* loop over both verts of the edge */
797                                         nor_short = mvert[*(&ed->v1 + k)].no;
798                                         normal_short_to_float_v3(nor, nor_short);
799                                         add_v3_v3(nor, nor_cpy);
800                                         normalize_v3(nor);
801                                         normal_float_to_short_v3(nor_short, nor);
802                                 }
803                         }
804
805                         MEM_freeN(edge_vert_nos);
806                 }
807 #endif
808
809                 MEM_freeN(new_vert_arr);
810                 MEM_freeN(new_edge_arr);
811
812                 MEM_freeN(edge_users);
813                 MEM_freeN(edge_order);
814         }
815
816         STACK_FREE(new_vert_arr);
817         STACK_FREE(new_edge_arr);
818
819         if (old_vert_arr)
820                 MEM_freeN(old_vert_arr);
821
822         if (face_nors)
823                 MEM_freeN(face_nors);
824
825         if (numFaces == 0 && numEdges != 0) {
826                 modifier_setError(md, "Faces needed for useful output");
827         }
828
829         return result;
830 }
831
832 #undef SOLIDIFY_SIDE_NORMALS
833
834 static bool dependsOnNormals(ModifierData *UNUSED(md))
835 {
836         /* even when we calculate our own normals,
837          * the vertex normals are used as a fallback */
838         return true;
839 }
840
841 ModifierTypeInfo modifierType_Solidify = {
842         /* name */              "Solidify",
843         /* structName */        "SolidifyModifierData",
844         /* structSize */        sizeof(SolidifyModifierData),
845         /* type */              eModifierTypeType_Constructive,
846
847         /* flags */             eModifierTypeFlag_AcceptsMesh |
848                                 eModifierTypeFlag_AcceptsCVs |
849                                 eModifierTypeFlag_SupportsMapping |
850                                 eModifierTypeFlag_SupportsEditmode |
851                                 eModifierTypeFlag_EnableInEditmode,
852
853         /* copyData */          copyData,
854         /* deformVerts */       NULL,
855         /* deformMatrices */    NULL,
856         /* deformVertsEM */     NULL,
857         /* deformMatricesEM */  NULL,
858         /* applyModifier */     applyModifier,
859         /* applyModifierEM */   NULL,
860         /* initData */          initData,
861         /* requiredDataMask */  requiredDataMask,
862         /* freeData */          NULL,
863         /* isDisabled */        NULL,
864         /* updateDepgraph */    NULL,
865         /* dependsOnTime */     NULL,
866         /* dependsOnNormals */  dependsOnNormals,
867         /* foreachObjectLink */ NULL,
868         /* foreachIDLink */     NULL,
869         /* foreachTexLink */    NULL,
870 };