Cleanup: Remove last G.main's from WM code.
[blender.git] / source / blender / modifiers / intern / MOD_normal_edit.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s): Bastien Montagne
19  *
20  * ***** END GPL LICENSE BLOCK *****
21  *
22  */
23
24 /** \file blender/modifiers/intern/MOD_normal_edit.c
25  *  \ingroup modifiers
26  */
27
28 #include <string.h>
29
30 #include "MEM_guardedalloc.h"
31
32 #include "DNA_object_types.h"
33 #include "DNA_meshdata_types.h"
34 #include "DNA_mesh_types.h"
35
36 #include "BLI_math.h"
37 #include "BLI_utildefines.h"
38 #include "BLI_bitmap.h"
39
40 #include "BKE_cdderivedmesh.h"
41 #include "BKE_library_query.h"
42 #include "BKE_mesh.h"
43 #include "BKE_deform.h"
44
45 #include "depsgraph_private.h"
46
47 #include "MOD_util.h"
48
49
50 static void generate_vert_coordinates(
51         DerivedMesh *dm, Object *ob, Object *ob_center, const float offset[3],
52         const int num_verts, float (*r_cos)[3], float r_size[3])
53 {
54         float min_co[3], max_co[3];
55         float diff[3];
56         bool do_diff = false;
57
58         INIT_MINMAX(min_co, max_co);
59
60         dm->getVertCos(dm, r_cos);
61
62         /* Get size (i.e. deformation of the spheroid generating normals), either from target object, or own geometry. */
63         if (ob_center) {
64                 /* Not we are not interested in signs here - they are even troublesome actually, due to security clamping! */
65                 abs_v3_v3(r_size, ob_center->size);
66         }
67         else {
68                 minmax_v3v3_v3_array(min_co, max_co, r_cos, num_verts);
69                 /* Set size. */
70                 sub_v3_v3v3(r_size, max_co, min_co);
71         }
72
73         /* Error checks - we do not want one or more of our sizes to be null! */
74         if (is_zero_v3(r_size)) {
75                 r_size[0] = r_size[1] = r_size[2] = 1.0f;
76         }
77         else {
78                 CLAMP_MIN(r_size[0], FLT_EPSILON);
79                 CLAMP_MIN(r_size[1], FLT_EPSILON);
80                 CLAMP_MIN(r_size[2], FLT_EPSILON);
81         }
82
83         if (ob_center) {
84                 float inv_obmat[4][4];
85
86                 /* Translate our coordinates so that center of ob_center is at (0, 0, 0). */
87                 /* Get ob_center (world) coordinates in ob local coordinates.
88                  * No need to take into account ob_center's space here, see T44027. */
89                 invert_m4_m4(inv_obmat, ob->obmat);
90                 mul_v3_m4v3(diff, inv_obmat, ob_center->obmat[3]);
91                 negate_v3(diff);
92
93                 do_diff = true;
94         }
95         else if (!is_zero_v3(offset)) {
96                 negate_v3_v3(diff, offset);
97
98                 do_diff = true;
99         }
100         /* Else, no need to change coordinates! */
101
102         if (do_diff) {
103                 int i = num_verts;
104                 while (i--) {
105                         add_v3_v3(r_cos[i], diff);
106                 }
107         }
108 }
109
110 /* Note this modifies nos_new in-place. */
111 static void mix_normals(
112         const float mix_factor, MDeformVert *dvert, const int defgrp_index, const bool use_invert_vgroup,
113         const float mix_limit, const short mix_mode,
114         const int num_verts, MLoop *mloop, float (*nos_old)[3], float (*nos_new)[3], const int num_loops)
115 {
116         /* Mix with org normals... */
117         float *facs = NULL, *wfac;
118         float (*no_new)[3], (*no_old)[3];
119         int i;
120
121         if (dvert) {
122                 facs = MEM_malloc_arrayN((size_t)num_loops, sizeof(*facs), __func__);
123                 BKE_defvert_extract_vgroup_to_loopweights(
124                             dvert, defgrp_index, num_verts, mloop, num_loops, facs, use_invert_vgroup);
125         }
126
127         for (i = num_loops, no_new = nos_new, no_old = nos_old, wfac = facs; i--; no_new++, no_old++, wfac++) {
128                 const float fac = facs ? *wfac * mix_factor : mix_factor;
129
130                 switch (mix_mode) {
131                         case MOD_NORMALEDIT_MIX_ADD:
132                                 add_v3_v3(*no_new, *no_old);
133                                 normalize_v3(*no_new);
134                                 break;
135                         case MOD_NORMALEDIT_MIX_SUB:
136                                 sub_v3_v3(*no_new, *no_old);
137                                 normalize_v3(*no_new);
138                                 break;
139                         case MOD_NORMALEDIT_MIX_MUL:
140                                 mul_v3_v3(*no_new, *no_old);
141                                 normalize_v3(*no_new);
142                                 break;
143                         case MOD_NORMALEDIT_MIX_COPY:
144                                 break;
145                 }
146
147                 interp_v3_v3v3_slerp_safe(
148                         *no_new, *no_old, *no_new,
149                         (mix_limit < (float)M_PI) ? min_ff(fac, mix_limit / angle_v3v3(*no_new, *no_old)) : fac);
150         }
151
152         MEM_SAFE_FREE(facs);
153 }
154
155 /* Check poly normals and new loop normals are compatible, otherwise flip polygons
156  * (and invert matching poly normals). */
157 static bool polygons_check_flip(
158         MLoop *mloop, float (*nos)[3], CustomData *ldata,
159         MPoly *mpoly, float (*polynors)[3], const int num_polys)
160 {
161         MPoly *mp;
162         MDisps *mdisp = CustomData_get_layer(ldata, CD_MDISPS);
163         int i;
164         bool flipped = false;
165
166         for (i = 0, mp = mpoly; i < num_polys; i++, mp++) {
167                 float norsum[3] = {0.0f};
168                 float (*no)[3];
169                 int j;
170
171                 for (j = 0, no = &nos[mp->loopstart]; j < mp->totloop; j++, no++) {
172                         add_v3_v3(norsum, *no);
173                 }
174
175                 if (!normalize_v3(norsum)) {
176                         continue;
177                 }
178
179                 /* If average of new loop normals is opposed to polygon normal, flip polygon. */
180                 if (dot_v3v3(polynors[i], norsum) < 0.0f) {
181                         BKE_mesh_polygon_flip_ex(mp, mloop, ldata, nos, mdisp, true);
182                         negate_v3(polynors[i]);
183                         flipped = true;
184                 }
185         }
186
187         return flipped;
188 }
189
190 static void normalEditModifier_do_radial(
191         NormalEditModifierData *enmd, Object *ob, DerivedMesh *dm,
192         short (*clnors)[2], float (*loopnors)[3], float (*polynors)[3],
193         const short mix_mode, const float mix_factor, const float mix_limit,
194         MDeformVert *dvert, const int defgrp_index, const bool use_invert_vgroup,
195         MVert *mvert, const int num_verts, MEdge *medge, const int num_edges,
196         MLoop *mloop, const int num_loops, MPoly *mpoly, const int num_polys)
197 {
198         const bool do_polynors_fix = (enmd->flag & MOD_NORMALEDIT_NO_POLYNORS_FIX) == 0;
199         int i;
200
201         float (*cos)[3] = MEM_malloc_arrayN((size_t)num_verts, sizeof(*cos), __func__);
202         float (*nos)[3] = MEM_malloc_arrayN((size_t)num_loops, sizeof(*nos), __func__);
203         float size[3];
204
205         BLI_bitmap *done_verts = BLI_BITMAP_NEW((size_t)num_verts, __func__);
206
207         generate_vert_coordinates(dm, ob, enmd->target, enmd->offset, num_verts, cos, size);
208
209         /**
210          * size gives us our spheroid coefficients ``(A, B, C)``.
211          * Then, we want to find out for each vert its (a, b, c) triple (proportional to (A, B, C) one).
212          *
213          * Ellipsoid basic equation: ``(x^2/a^2) + (y^2/b^2) + (z^2/c^2) = 1.``
214          * Since we want to find (a, b, c) matching this equation and proportional to (A, B, C), we can do:
215          * <pre>
216          *     m = B / A
217          *     n = C / A
218          * </pre>
219          *
220          * hence:
221          * <pre>
222          *     (x^2/a^2) + (y^2/b^2) + (z^2/c^2) = 1
223          *  -> b^2*c^2*x^2 + a^2*c^2*y^2 + a^2*b^2*z^2 = a^2*b^2*c^2
224          *     b = ma
225          *     c = na
226          *  -> m^2*a^2*n^2*a^2*x^2 + a^2*n^2*a^2*y^2 + a^2*m^2*a^2*z^2 = a^2*m^2*a^2*n^2*a^2
227          *  -> m^2*n^2*a^4*x^2 + n^2*a^4*y^2 + m^2*a^4*z^2 = m^2*n^2*a^6
228          *  -> a^2 = (m^2*n^2*x^2 + n^2y^2 + m^2z^2) / (m^2*n^2) = x^2 + (y^2 / m^2) + (z^2 / n^2)
229          *  -> b^2 = (m^2*n^2*x^2 + n^2y^2 + m^2z^2) / (n^2)     = (m^2 * x^2) + y^2 + (m^2 * z^2 / n^2)
230          *  -> c^2 = (m^2*n^2*x^2 + n^2y^2 + m^2z^2) / (m^2)     = (n^2 * x^2) + (n^2 * y^2 / m^2) + z^2
231          * </pre>
232          *
233          * All we have to do now is compute normal of the spheroid at that point:
234          * <pre>
235          *     n = (x / a^2, y / b^2, z / c^2)
236          * </pre>
237          * And we are done!
238          */
239         {
240                 const float a = size[0], b = size[1], c = size[2];
241                 const float m2 = (b * b) / (a * a);
242                 const float n2 = (c * c) / (a * a);
243
244                 MLoop *ml;
245                 float (*no)[3];
246
247                 /* We reuse cos to now store the ellipsoid-normal of the verts! */
248                 for (i = num_loops, ml = mloop, no = nos; i-- ; ml++, no++) {
249                         const int vidx = ml->v;
250                         float *co = cos[vidx];
251
252                         if (!BLI_BITMAP_TEST(done_verts, vidx)) {
253                                 const float x2 = co[0] * co[0];
254                                 const float y2 = co[1] * co[1];
255                                 const float z2 = co[2] * co[2];
256                                 const float a2 = x2 + (y2 / m2) + (z2 / n2);
257                                 const float b2 = (m2 * x2) + y2 + (m2 * z2 / n2);
258                                 const float c2 = (n2 * x2) + (n2 * y2 / m2) + z2;
259
260                                 co[0] /= a2;
261                                 co[1] /= b2;
262                                 co[2] /= c2;
263                                 normalize_v3(co);
264
265                                 BLI_BITMAP_ENABLE(done_verts, vidx);
266                         }
267                         copy_v3_v3(*no, co);
268                 }
269         }
270
271         if (loopnors) {
272                 mix_normals(mix_factor, dvert, defgrp_index, use_invert_vgroup,
273                             mix_limit, mix_mode, num_verts, mloop, loopnors, nos, num_loops);
274         }
275
276         if (do_polynors_fix && polygons_check_flip(mloop, nos, dm->getLoopDataLayout(dm), mpoly, polynors, num_polys)) {
277                 dm->dirty |= DM_DIRTY_TESS_CDLAYERS;
278                 /* We need to recompute vertex normals! */
279                 dm->calcNormals(dm);
280         }
281
282         BKE_mesh_normals_loop_custom_set(mvert, num_verts, medge, num_edges, mloop, nos, num_loops,
283                                          mpoly, (const float(*)[3])polynors, num_polys, clnors);
284
285         MEM_freeN(cos);
286         MEM_freeN(nos);
287         MEM_freeN(done_verts);
288 }
289
290 static void normalEditModifier_do_directional(
291         NormalEditModifierData *enmd, Object *ob, DerivedMesh *dm,
292         short (*clnors)[2], float (*loopnors)[3], float (*polynors)[3],
293         const short mix_mode, const float mix_factor, const float mix_limit,
294         MDeformVert *dvert, const int defgrp_index, const bool use_invert_vgroup,
295         MVert *mvert, const int num_verts, MEdge *medge, const int num_edges,
296         MLoop *mloop, const int num_loops, MPoly *mpoly, const int num_polys)
297 {
298         const bool do_polynors_fix = (enmd->flag & MOD_NORMALEDIT_NO_POLYNORS_FIX) == 0;
299         const bool use_parallel_normals = (enmd->flag & MOD_NORMALEDIT_USE_DIRECTION_PARALLEL) != 0;
300
301         float (*cos)[3] = MEM_malloc_arrayN((size_t)num_verts, sizeof(*cos), __func__);
302         float (*nos)[3] = MEM_malloc_arrayN((size_t)num_loops, sizeof(*nos), __func__);
303
304         float target_co[3];
305         int i;
306
307         dm->getVertCos(dm, cos);
308
309         /* Get target's center coordinates in ob local coordinates. */
310         {
311                 float mat[4][4];
312
313                 invert_m4_m4(mat, ob->obmat);
314                 mul_m4_m4m4(mat, mat, enmd->target->obmat);
315                 copy_v3_v3(target_co, mat[3]);
316         }
317
318         if (use_parallel_normals) {
319                 float no[3];
320
321                 sub_v3_v3v3(no, target_co, enmd->offset);
322                 normalize_v3(no);
323
324                 for (i = num_loops; i--; ) {
325                         copy_v3_v3(nos[i], no);
326                 }
327         }
328         else {
329                 BLI_bitmap *done_verts = BLI_BITMAP_NEW((size_t)num_verts, __func__);
330                 MLoop *ml;
331                 float (*no)[3];
332
333                 /* We reuse cos to now store the 'to target' normal of the verts! */
334                 for (i = num_loops, no = nos, ml = mloop; i--; no++, ml++) {
335                         const int vidx = ml->v;
336                         float *co = cos[vidx];
337
338                         if (!BLI_BITMAP_TEST(done_verts, vidx)) {
339                                 sub_v3_v3v3(co, target_co, co);
340                                 normalize_v3(co);
341
342                                 BLI_BITMAP_ENABLE(done_verts, vidx);
343                         }
344
345                         copy_v3_v3(*no, co);
346                 }
347
348                 MEM_freeN(done_verts);
349         }
350
351         if (loopnors) {
352                 mix_normals(mix_factor, dvert, defgrp_index, use_invert_vgroup,
353                             mix_limit, mix_mode, num_verts, mloop, loopnors, nos, num_loops);
354         }
355
356         if (do_polynors_fix && polygons_check_flip(mloop, nos, dm->getLoopDataLayout(dm), mpoly, polynors, num_polys)) {
357                 dm->dirty |= DM_DIRTY_TESS_CDLAYERS;
358         }
359
360         BKE_mesh_normals_loop_custom_set(mvert, num_verts, medge, num_edges, mloop, nos, num_loops,
361                                          mpoly, (const float(*)[3])polynors, num_polys, clnors);
362
363         MEM_freeN(cos);
364         MEM_freeN(nos);
365 }
366
367 static bool is_valid_target(NormalEditModifierData *enmd)
368 {
369         if (enmd->mode == MOD_NORMALEDIT_MODE_RADIAL) {
370                 return true;
371         }
372         else if ((enmd->mode == MOD_NORMALEDIT_MODE_DIRECTIONAL) && enmd->target) {
373                 return true;
374         }
375         modifier_setError((ModifierData *)enmd, "Invalid target settings");
376         return false;
377 }
378
379 static DerivedMesh *normalEditModifier_do(NormalEditModifierData *enmd, Object *ob, DerivedMesh *dm)
380 {
381         Mesh *me = ob->data;
382
383         const int num_verts = dm->getNumVerts(dm);
384         const int num_edges = dm->getNumEdges(dm);
385         const int num_loops = dm->getNumLoops(dm);
386         const int num_polys = dm->getNumPolys(dm);
387         MVert *mvert;
388         MEdge *medge;
389         MLoop *mloop;
390         MPoly *mpoly;
391
392         const bool use_invert_vgroup = ((enmd->flag & MOD_NORMALEDIT_INVERT_VGROUP) != 0);
393         const bool use_current_clnors = !((enmd->mix_mode == MOD_NORMALEDIT_MIX_COPY) &&
394                                           (enmd->mix_factor == 1.0f) &&
395                                           (enmd->defgrp_name[0] == '\0') &&
396                                           (enmd->mix_limit == (float)M_PI));
397
398         int defgrp_index;
399         MDeformVert *dvert;
400
401         float (*loopnors)[3] = NULL;
402         short (*clnors)[2];
403
404         float (*polynors)[3];
405         bool free_polynors = false;
406
407         /* Do not run that modifier at all if autosmooth is disabled! */
408         if (!is_valid_target(enmd) || !num_loops) {
409                 return dm;
410         }
411
412         if (!(me->flag & ME_AUTOSMOOTH)) {
413                 modifier_setError((ModifierData *)enmd, "Enable 'Auto Smooth' option in mesh settings");
414                 return dm;
415         }
416
417         medge = dm->getEdgeArray(dm);
418         if (me->medge == medge) {
419                 /* We need to duplicate data here, otherwise setting custom normals (which may also affect sharp edges) could
420                  * modify org mesh, see T43671. */
421                 dm = CDDM_copy(dm);
422                 medge = dm->getEdgeArray(dm);
423         }
424         mvert = dm->getVertArray(dm);
425         mloop = dm->getLoopArray(dm);
426         mpoly = dm->getPolyArray(dm);
427
428         if (use_current_clnors) {
429                 dm->calcLoopNormals(dm, true, me->smoothresh);
430                 loopnors = dm->getLoopDataArray(dm, CD_NORMAL);
431         }
432
433         clnors = CustomData_duplicate_referenced_layer(&dm->loopData, CD_CUSTOMLOOPNORMAL, num_loops);
434         if (!clnors) {
435                 DM_add_loop_layer(dm, CD_CUSTOMLOOPNORMAL, CD_CALLOC, NULL);
436                 clnors = dm->getLoopDataArray(dm, CD_CUSTOMLOOPNORMAL);
437         }
438
439         polynors = dm->getPolyDataArray(dm, CD_NORMAL);
440         if (!polynors) {
441                 polynors = MEM_malloc_arrayN((size_t)num_polys, sizeof(*polynors), __func__);
442                 BKE_mesh_calc_normals_poly(mvert, NULL, num_verts, mloop, mpoly, num_loops, num_polys, polynors, false);
443                 free_polynors = true;
444         }
445
446         modifier_get_vgroup(ob, dm, enmd->defgrp_name, &dvert, &defgrp_index);
447
448         if (enmd->mode == MOD_NORMALEDIT_MODE_RADIAL) {
449                 normalEditModifier_do_radial(
450                             enmd, ob, dm, clnors, loopnors, polynors,
451                             enmd->mix_mode, enmd->mix_factor, enmd->mix_limit, dvert, defgrp_index, use_invert_vgroup,
452                             mvert, num_verts, medge, num_edges, mloop, num_loops, mpoly, num_polys);
453         }
454         else if (enmd->mode == MOD_NORMALEDIT_MODE_DIRECTIONAL) {
455                 normalEditModifier_do_directional(
456                             enmd, ob, dm, clnors, loopnors, polynors,
457                             enmd->mix_mode, enmd->mix_factor, enmd->mix_limit, dvert, defgrp_index, use_invert_vgroup,
458                             mvert, num_verts, medge, num_edges, mloop, num_loops, mpoly, num_polys);
459         }
460
461         if (free_polynors) {
462                 MEM_freeN(polynors);
463         }
464
465         return dm;
466 }
467
468 static void initData(ModifierData *md)
469 {
470         NormalEditModifierData *enmd = (NormalEditModifierData *)md;
471
472         enmd->mode = MOD_NORMALEDIT_MODE_RADIAL;
473
474         enmd->mix_mode = MOD_NORMALEDIT_MIX_COPY;
475         enmd->mix_factor = 1.0f;
476         enmd->mix_limit = M_PI;
477 }
478
479 static CustomDataMask requiredDataMask(Object *UNUSED(ob), ModifierData *md)
480 {
481         NormalEditModifierData *enmd = (NormalEditModifierData *)md;
482         CustomDataMask dataMask = CD_CUSTOMLOOPNORMAL;
483
484         /* Ask for vertexgroups if we need them. */
485         if (enmd->defgrp_name[0]) {
486                 dataMask |= (CD_MASK_MDEFORMVERT);
487         }
488
489         return dataMask;
490 }
491
492 static bool dependsOnNormals(ModifierData *UNUSED(md))
493 {
494         return true;
495 }
496
497 static void foreachObjectLink(ModifierData *md, Object *ob, ObjectWalkFunc walk, void *userData)
498 {
499         NormalEditModifierData *enmd = (NormalEditModifierData *) md;
500
501         walk(userData, ob, &enmd->target, IDWALK_CB_NOP);
502 }
503
504 static bool isDisabled(ModifierData *md, int UNUSED(useRenderParams))
505 {
506         NormalEditModifierData *enmd = (NormalEditModifierData *)md;
507
508         return !is_valid_target(enmd);
509 }
510
511 static void updateDepgraph(ModifierData *md, const ModifierUpdateDepsgraphContext *ctx)
512 {
513         NormalEditModifierData *enmd = (NormalEditModifierData *) md;
514
515         if (enmd->target) {
516                 DagNode *Node = dag_get_node(ctx->forest, enmd->target);
517
518                 dag_add_relation(ctx->forest, Node, ctx->obNode, DAG_RL_OB_DATA, "NormalEdit Modifier");
519         }
520 }
521
522 static void updateDepsgraph(ModifierData *md, const ModifierUpdateDepsgraphContext *ctx)
523 {
524         NormalEditModifierData *enmd = (NormalEditModifierData *) md;
525         if (enmd->target) {
526                 DEG_add_object_relation(ctx->node, enmd->target, DEG_OB_COMP_TRANSFORM, "NormalEdit Modifier");
527         }
528 }
529
530 static DerivedMesh *applyModifier(ModifierData *md, Object *ob, DerivedMesh *dm, ModifierApplyFlag UNUSED(flag))
531 {
532         return normalEditModifier_do((NormalEditModifierData *)md, ob, dm);
533 }
534
535 ModifierTypeInfo modifierType_NormalEdit = {
536         /* name */              "Set Split Normals",
537         /* structName */        "NormalEditModifierData",
538         /* structSize */        sizeof(NormalEditModifierData),
539         /* type */              eModifierTypeType_Constructive,
540         /* flags */             eModifierTypeFlag_AcceptsMesh |
541                                 eModifierTypeFlag_SupportsMapping |
542                                 eModifierTypeFlag_SupportsEditmode |
543                                 eModifierTypeFlag_EnableInEditmode,
544         /* copyData */          modifier_copyData_generic,
545         /* deformVerts */       NULL,
546         /* deformMatrices */    NULL,
547         /* deformVertsEM */     NULL,
548         /* deformMatricesEM */  NULL,
549         /* applyModifier */     applyModifier,
550         /* applyModifierEM */   NULL,
551         /* initData */          initData,
552         /* requiredDataMask */  requiredDataMask,
553         /* freeData */          NULL,
554         /* isDisabled */        isDisabled,
555         /* updateDepgraph */    updateDepgraph,
556         /* updateDepsgraph */   updateDepsgraph,
557         /* dependsOnTime */     NULL,
558         /* dependsOnNormals */  dependsOnNormals,
559         /* foreachObjectLink */ foreachObjectLink,
560         /* foreachIDLink */     NULL,
561         /* foreachTexLink */    NULL,
562 };