54025690df5974a1c6f855d411b11186c09d0bc3
[blender.git] / source / blender / blenkernel / intern / mesh_evaluate.c
1 /*
2  * This program is free software; you can redistribute it and/or
3  * modify it under the terms of the GNU General Public License
4  * as published by the Free Software Foundation; either version 2
5  * of the License, or (at your option) any later version.
6  *
7  * This program is distributed in the hope that it will be useful,
8  * but WITHOUT ANY WARRANTY; without even the implied warranty of
9  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
10  * GNU General Public License for more details.
11  *
12  * You should have received a copy of the GNU General Public License
13  * along with this program; if not, write to the Free Software Foundation,
14  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
15  *
16  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
17  * All rights reserved.
18  */
19
20 /** \file blender/blenkernel/intern/mesh_evaluate.c
21  *  \ingroup bke
22  *
23  * Functions to evaluate mesh data.
24  */
25
26 #include <limits.h>
27
28 #include "MEM_guardedalloc.h"
29
30 #include "DNA_object_types.h"
31 #include "DNA_mesh_types.h"
32 #include "DNA_meshdata_types.h"
33
34 #include "BLI_utildefines.h"
35 #include "BLI_memarena.h"
36 #include "BLI_mempool.h"
37 #include "BLI_math.h"
38 #include "BLI_edgehash.h"
39 #include "BLI_bitmap.h"
40 #include "BLI_polyfill_2d.h"
41 #include "BLI_linklist.h"
42 #include "BLI_linklist_stack.h"
43 #include "BLI_alloca.h"
44 #include "BLI_stack.h"
45 #include "BLI_task.h"
46
47 #include "BKE_customdata.h"
48 #include "BKE_global.h"
49 #include "BKE_mesh.h"
50 #include "BKE_multires.h"
51 #include "BKE_report.h"
52
53 #include "BLI_strict_flags.h"
54
55 #include "atomic_ops.h"
56 #include "mikktspace.h"
57
58 // #define DEBUG_TIME
59
60 #include "PIL_time.h"
61 #ifdef DEBUG_TIME
62 #  include "PIL_time_utildefines.h"
63 #endif
64
65 /* -------------------------------------------------------------------- */
66
67 /** \name Mesh Normal Calculation
68  * \{ */
69
70 /**
71  * Call when there are no polygons.
72  */
73 static void mesh_calc_normals_vert_fallback(MVert *mverts, int numVerts)
74 {
75         int i;
76         for (i = 0; i < numVerts; i++) {
77                 MVert *mv = &mverts[i];
78                 float no[3];
79
80                 normalize_v3_v3(no, mv->co);
81                 normal_float_to_short_v3(mv->no, no);
82         }
83 }
84
85 /* Calculate vertex and face normals, face normals are returned in *r_faceNors if non-NULL
86  * and vertex normals are stored in actual mverts.
87  */
88 void BKE_mesh_calc_normals_mapping(
89         MVert *mverts, int numVerts,
90         const MLoop *mloop, const MPoly *mpolys, int numLoops, int numPolys, float (*r_polyNors)[3],
91         const MFace *mfaces, int numFaces, const int *origIndexFace, float (*r_faceNors)[3])
92 {
93         BKE_mesh_calc_normals_mapping_ex(
94                 mverts, numVerts, mloop, mpolys,
95                 numLoops, numPolys, r_polyNors, mfaces, numFaces,
96                 origIndexFace, r_faceNors, false);
97 }
98 /* extended version of 'BKE_mesh_calc_normals_poly' with option not to calc vertex normals */
99 void BKE_mesh_calc_normals_mapping_ex(
100         MVert *mverts, int numVerts,
101         const MLoop *mloop, const MPoly *mpolys,
102         int numLoops, int numPolys, float (*r_polyNors)[3],
103         const MFace *mfaces, int numFaces, const int *origIndexFace, float (*r_faceNors)[3],
104         const bool only_face_normals)
105 {
106         float (*pnors)[3] = r_polyNors, (*fnors)[3] = r_faceNors;
107         int i;
108         const MFace *mf;
109         const MPoly *mp;
110
111         if (numPolys == 0) {
112                 if (only_face_normals == false) {
113                         mesh_calc_normals_vert_fallback(mverts, numVerts);
114                 }
115                 return;
116         }
117
118         /* if we are not calculating verts and no verts were passes then we have nothing to do */
119         if ((only_face_normals == true) && (r_polyNors == NULL) && (r_faceNors == NULL)) {
120                 printf("%s: called with nothing to do\n", __func__);
121                 return;
122         }
123
124         if (!pnors) pnors = MEM_calloc_arrayN((size_t)numPolys, sizeof(float[3]), __func__);
125         /* if (!fnors) fnors = MEM_calloc_arrayN(numFaces, sizeof(float[3]), "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
126
127
128         if (only_face_normals == false) {
129                 /* vertex normals are optional, they require some extra calculations,
130                  * so make them optional */
131                 BKE_mesh_calc_normals_poly(mverts, NULL, numVerts, mloop, mpolys, numLoops, numPolys, pnors, false);
132         }
133         else {
134                 /* only calc poly normals */
135                 mp = mpolys;
136                 for (i = 0; i < numPolys; i++, mp++) {
137                         BKE_mesh_calc_poly_normal(mp, mloop + mp->loopstart, mverts, pnors[i]);
138                 }
139         }
140
141         if (origIndexFace &&
142             /* fnors == r_faceNors */ /* NO NEED TO ALLOC YET */
143             fnors != NULL &&
144             numFaces)
145         {
146                 mf = mfaces;
147                 for (i = 0; i < numFaces; i++, mf++, origIndexFace++) {
148                         if (*origIndexFace < numPolys) {
149                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
150                         }
151                         else {
152                                 /* eek, we're not corresponding to polys */
153                                 printf("error in %s: tessellation face indices are incorrect.  normals may look bad.\n", __func__);
154                         }
155                 }
156         }
157
158         if (pnors != r_polyNors) MEM_freeN(pnors);
159         /* if (fnors != r_faceNors) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
160
161         fnors = pnors = NULL;
162
163 }
164
165 typedef struct MeshCalcNormalsData {
166         const MPoly *mpolys;
167         const MLoop *mloop;
168         MVert *mverts;
169         float (*pnors)[3];
170         float (*lnors_weighted)[3];
171         float (*vnors)[3];
172 } MeshCalcNormalsData;
173
174 static void mesh_calc_normals_poly_cb(
175         void *__restrict userdata,
176         const int pidx,
177         const ParallelRangeTLS *__restrict UNUSED(tls))
178 {
179         MeshCalcNormalsData *data = userdata;
180         const MPoly *mp = &data->mpolys[pidx];
181
182         BKE_mesh_calc_poly_normal(mp, data->mloop + mp->loopstart, data->mverts, data->pnors[pidx]);
183 }
184
185 static void mesh_calc_normals_poly_prepare_cb(
186         void *__restrict userdata,
187         const int pidx,
188         const ParallelRangeTLS *__restrict UNUSED(tls))
189 {
190         MeshCalcNormalsData *data = userdata;
191         const MPoly *mp = &data->mpolys[pidx];
192         const MLoop *ml = &data->mloop[mp->loopstart];
193         const MVert *mverts = data->mverts;
194
195         float pnor_temp[3];
196         float *pnor = data->pnors ? data->pnors[pidx] : pnor_temp;
197         float (*lnors_weighted)[3] = data->lnors_weighted;
198
199         const int nverts = mp->totloop;
200         float (*edgevecbuf)[3] = BLI_array_alloca(edgevecbuf, (size_t)nverts);
201         int i;
202
203         /* Polygon Normal and edge-vector */
204         /* inline version of #BKE_mesh_calc_poly_normal, also does edge-vectors */
205         {
206                 int i_prev = nverts - 1;
207                 const float *v_prev = mverts[ml[i_prev].v].co;
208                 const float *v_curr;
209
210                 zero_v3(pnor);
211                 /* Newell's Method */
212                 for (i = 0; i < nverts; i++) {
213                         v_curr = mverts[ml[i].v].co;
214                         add_newell_cross_v3_v3v3(pnor, v_prev, v_curr);
215
216                         /* Unrelated to normalize, calculate edge-vector */
217                         sub_v3_v3v3(edgevecbuf[i_prev], v_prev, v_curr);
218                         normalize_v3(edgevecbuf[i_prev]);
219                         i_prev = i;
220
221                         v_prev = v_curr;
222                 }
223                 if (UNLIKELY(normalize_v3(pnor) == 0.0f)) {
224                         pnor[2] = 1.0f; /* other axes set to 0.0 */
225                 }
226         }
227
228         /* accumulate angle weighted face normal */
229         /* inline version of #accumulate_vertex_normals_poly_v3,
230          * split between this threaded callback and #mesh_calc_normals_poly_accum_cb. */
231         {
232                 const float *prev_edge = edgevecbuf[nverts - 1];
233
234                 for (i = 0; i < nverts; i++) {
235                         const int lidx = mp->loopstart + i;
236                         const float *cur_edge = edgevecbuf[i];
237
238                         /* calculate angle between the two poly edges incident on
239                          * this vertex */
240                         const float fac = saacos(-dot_v3v3(cur_edge, prev_edge));
241
242                         /* Store for later accumulation */
243                         mul_v3_v3fl(lnors_weighted[lidx], pnor, fac);
244
245                         prev_edge = cur_edge;
246                 }
247         }
248 }
249
250 static void mesh_calc_normals_poly_finalize_cb(
251         void *__restrict userdata,
252         const int vidx,
253         const ParallelRangeTLS *__restrict UNUSED(tls))
254 {
255         MeshCalcNormalsData *data = userdata;
256
257         MVert *mv = &data->mverts[vidx];
258         float *no = data->vnors[vidx];
259
260         if (UNLIKELY(normalize_v3(no) == 0.0f)) {
261                 /* following Mesh convention; we use vertex coordinate itself for normal in this case */
262                 normalize_v3_v3(no, mv->co);
263         }
264
265         normal_float_to_short_v3(mv->no, no);
266 }
267
268 void BKE_mesh_calc_normals_poly(
269         MVert *mverts, float (*r_vertnors)[3], int numVerts,
270         const MLoop *mloop, const MPoly *mpolys,
271         int numLoops, int numPolys, float (*r_polynors)[3],
272         const bool only_face_normals)
273 {
274         float (*pnors)[3] = r_polynors;
275
276         ParallelRangeSettings settings;
277         BLI_parallel_range_settings_defaults(&settings);
278         settings.min_iter_per_thread = 1024;
279
280         if (only_face_normals) {
281                 BLI_assert((pnors != NULL) || (numPolys == 0));
282                 BLI_assert(r_vertnors == NULL);
283
284                 MeshCalcNormalsData data = {
285                     .mpolys = mpolys, .mloop = mloop, .mverts = mverts, .pnors = pnors,
286                 };
287
288                 BLI_task_parallel_range(0, numPolys, &data, mesh_calc_normals_poly_cb, &settings);
289                 return;
290         }
291
292         float (*vnors)[3] = r_vertnors;
293         float (*lnors_weighted)[3] = MEM_malloc_arrayN((size_t)numLoops, sizeof(*lnors_weighted), __func__);
294         bool free_vnors = false;
295
296         /* first go through and calculate normals for all the polys */
297         if (vnors == NULL) {
298                 vnors = MEM_calloc_arrayN((size_t)numVerts, sizeof(*vnors), __func__);
299                 free_vnors = true;
300         }
301         else {
302                 memset(vnors, 0, sizeof(*vnors) * (size_t)numVerts);
303         }
304
305         MeshCalcNormalsData data = {
306             .mpolys = mpolys, .mloop = mloop, .mverts = mverts,
307             .pnors = pnors, .lnors_weighted = lnors_weighted, .vnors = vnors
308         };
309
310         /* Compute poly normals, and prepare weighted loop normals. */
311         BLI_task_parallel_range(0, numPolys, &data, mesh_calc_normals_poly_prepare_cb, &settings);
312
313         /* Actually accumulate weighted loop normals into vertex ones. */
314         /* Unfortunately, not possible to thread that (not in a reasonable, totally lock- and barrier-free fashion),
315          * since several loops will point to the same vertex... */
316         for (int lidx = 0; lidx < numLoops; lidx++) {
317                 add_v3_v3(vnors[mloop[lidx].v], data.lnors_weighted[lidx]);
318         }
319
320         /* Normalize and validate computed vertex normals. */
321         BLI_task_parallel_range(0, numVerts, &data, mesh_calc_normals_poly_finalize_cb, &settings);
322
323         if (free_vnors) {
324                 MEM_freeN(vnors);
325         }
326         MEM_freeN(lnors_weighted);
327 }
328
329 void BKE_mesh_calc_normals(Mesh *mesh)
330 {
331 #ifdef DEBUG_TIME
332         TIMEIT_START_AVERAGED(BKE_mesh_calc_normals);
333 #endif
334         BKE_mesh_calc_normals_poly(
335                 mesh->mvert, NULL, mesh->totvert,
336                 mesh->mloop, mesh->mpoly, mesh->totloop, mesh->totpoly,
337                 NULL, false);
338 #ifdef DEBUG_TIME
339         TIMEIT_END_AVERAGED(BKE_mesh_calc_normals);
340 #endif
341 }
342
343 void BKE_mesh_calc_normals_tessface(
344         MVert *mverts, int numVerts,
345         const MFace *mfaces, int numFaces,
346         float (*r_faceNors)[3])
347 {
348         float (*tnorms)[3] = MEM_calloc_arrayN((size_t)numVerts, sizeof(*tnorms), "tnorms");
349         float (*fnors)[3] = (r_faceNors) ? r_faceNors : MEM_calloc_arrayN((size_t)numFaces, sizeof(*fnors), "meshnormals");
350         int i;
351
352         if (!tnorms || !fnors) {
353                 goto cleanup;
354         }
355
356         for (i = 0; i < numFaces; i++) {
357                 const MFace *mf = &mfaces[i];
358                 float *f_no = fnors[i];
359                 float *n4 = (mf->v4) ? tnorms[mf->v4] : NULL;
360                 const float *c4 = (mf->v4) ? mverts[mf->v4].co : NULL;
361
362                 if (mf->v4)
363                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
364                 else
365                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
366
367                 accumulate_vertex_normals_v3(
368                         tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
369                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
370         }
371
372         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
373         for (i = 0; i < numVerts; i++) {
374                 MVert *mv = &mverts[i];
375                 float *no = tnorms[i];
376
377                 if (UNLIKELY(normalize_v3(no) == 0.0f)) {
378                         normalize_v3_v3(no, mv->co);
379                 }
380
381                 normal_float_to_short_v3(mv->no, no);
382         }
383
384 cleanup:
385         MEM_freeN(tnorms);
386
387         if (fnors != r_faceNors)
388                 MEM_freeN(fnors);
389 }
390
391 void BKE_mesh_calc_normals_looptri(
392         MVert *mverts, int numVerts,
393         const MLoop *mloop,
394         const MLoopTri *looptri, int looptri_num,
395         float (*r_tri_nors)[3])
396 {
397         float (*tnorms)[3] = MEM_calloc_arrayN((size_t)numVerts, sizeof(*tnorms), "tnorms");
398         float (*fnors)[3] = (r_tri_nors) ? r_tri_nors : MEM_calloc_arrayN((size_t)looptri_num, sizeof(*fnors), "meshnormals");
399         int i;
400
401         if (!tnorms || !fnors) {
402                 goto cleanup;
403         }
404
405         for (i = 0; i < looptri_num; i++) {
406                 const MLoopTri *lt = &looptri[i];
407                 float *f_no = fnors[i];
408                 const unsigned int vtri[3] = {
409                     mloop[lt->tri[0]].v,
410                     mloop[lt->tri[1]].v,
411                     mloop[lt->tri[2]].v,
412                 };
413
414                 normal_tri_v3(
415                         f_no,
416                         mverts[vtri[0]].co, mverts[vtri[1]].co, mverts[vtri[2]].co);
417
418                 accumulate_vertex_normals_tri_v3(
419                         tnorms[vtri[0]], tnorms[vtri[1]], tnorms[vtri[2]],
420                         f_no, mverts[vtri[0]].co, mverts[vtri[1]].co, mverts[vtri[2]].co);
421         }
422
423         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
424         for (i = 0; i < numVerts; i++) {
425                 MVert *mv = &mverts[i];
426                 float *no = tnorms[i];
427
428                 if (UNLIKELY(normalize_v3(no) == 0.0f)) {
429                         normalize_v3_v3(no, mv->co);
430                 }
431
432                 normal_float_to_short_v3(mv->no, no);
433         }
434
435 cleanup:
436         MEM_freeN(tnorms);
437
438         if (fnors != r_tri_nors)
439                 MEM_freeN(fnors);
440 }
441
442 void BKE_lnor_spacearr_init(MLoopNorSpaceArray *lnors_spacearr, const int numLoops, const char data_type)
443 {
444         if (!(lnors_spacearr->lspacearr && lnors_spacearr->loops_pool)) {
445                 MemArena *mem;
446
447                 if (!lnors_spacearr->mem) {
448                         lnors_spacearr->mem = BLI_memarena_new(BLI_MEMARENA_STD_BUFSIZE, __func__);
449                 }
450                 mem = lnors_spacearr->mem;
451                 lnors_spacearr->lspacearr = BLI_memarena_calloc(mem, sizeof(MLoopNorSpace *) * (size_t)numLoops);
452                 lnors_spacearr->loops_pool = BLI_memarena_alloc(mem, sizeof(LinkNode) * (size_t)numLoops);
453         }
454         BLI_assert(ELEM(data_type, MLNOR_SPACEARR_BMLOOP_PTR, MLNOR_SPACEARR_LOOP_INDEX));
455         lnors_spacearr->data_type = data_type;
456 }
457
458 void BKE_lnor_spacearr_clear(MLoopNorSpaceArray *lnors_spacearr)
459 {
460         BLI_memarena_clear(lnors_spacearr->mem);
461         lnors_spacearr->lspacearr = NULL;
462         lnors_spacearr->loops_pool = NULL;
463 }
464
465 void BKE_lnor_spacearr_free(MLoopNorSpaceArray *lnors_spacearr)
466 {
467         BLI_memarena_free(lnors_spacearr->mem);
468         lnors_spacearr->lspacearr = NULL;
469         lnors_spacearr->loops_pool = NULL;
470         lnors_spacearr->mem = NULL;
471 }
472
473 MLoopNorSpace *BKE_lnor_space_create(MLoopNorSpaceArray *lnors_spacearr)
474 {
475         return BLI_memarena_calloc(lnors_spacearr->mem, sizeof(MLoopNorSpace));
476 }
477
478 /* This threshold is a bit touchy (usual float precision issue), this value seems OK. */
479 #define LNOR_SPACE_TRIGO_THRESHOLD (1.0f - 1e-4f)
480
481 /* Should only be called once.
482  * Beware, this modifies ref_vec and other_vec in place!
483  * In case no valid space can be generated, ref_alpha and ref_beta are set to zero (which means 'use auto lnors').
484  */
485 void BKE_lnor_space_define(
486         MLoopNorSpace *lnor_space, const float lnor[3],
487         float vec_ref[3], float vec_other[3], BLI_Stack *edge_vectors)
488 {
489         const float pi2 = (float)M_PI * 2.0f;
490         float tvec[3], dtp;
491         const float dtp_ref = dot_v3v3(vec_ref, lnor);
492         const float dtp_other = dot_v3v3(vec_other, lnor);
493
494         if (UNLIKELY(fabsf(dtp_ref) >= LNOR_SPACE_TRIGO_THRESHOLD || fabsf(dtp_other) >= LNOR_SPACE_TRIGO_THRESHOLD)) {
495                 /* If vec_ref or vec_other are too much aligned with lnor, we can't build lnor space,
496                  * tag it as invalid and abort. */
497                 lnor_space->ref_alpha = lnor_space->ref_beta = 0.0f;
498
499                 if (edge_vectors) {
500                         BLI_stack_clear(edge_vectors);
501                 }
502                 return;
503         }
504
505         copy_v3_v3(lnor_space->vec_lnor, lnor);
506
507         /* Compute ref alpha, average angle of all available edge vectors to lnor. */
508         if (edge_vectors) {
509                 float alpha = 0.0f;
510                 int nbr = 0;
511                 while (!BLI_stack_is_empty(edge_vectors)) {
512                         const float *vec = BLI_stack_peek(edge_vectors);
513                         alpha += saacosf(dot_v3v3(vec, lnor));
514                         BLI_stack_discard(edge_vectors);
515                         nbr++;
516                 }
517                 /* Note: In theory, this could be 'nbr > 2', but there is one case where we only have two edges for
518                  *       two loops: a smooth vertex with only two edges and two faces (our Monkey's nose has that, e.g.). */
519                 BLI_assert(nbr >= 2);  /* This piece of code shall only be called for more than one loop... */
520                 lnor_space->ref_alpha = alpha / (float)nbr;
521         }
522         else {
523                 lnor_space->ref_alpha = (saacosf(dot_v3v3(vec_ref, lnor)) + saacosf(dot_v3v3(vec_other, lnor))) / 2.0f;
524         }
525
526         /* Project vec_ref on lnor's ortho plane. */
527         mul_v3_v3fl(tvec, lnor, dtp_ref);
528         sub_v3_v3(vec_ref, tvec);
529         normalize_v3_v3(lnor_space->vec_ref, vec_ref);
530
531         cross_v3_v3v3(tvec, lnor, lnor_space->vec_ref);
532         normalize_v3_v3(lnor_space->vec_ortho, tvec);
533
534         /* Project vec_other on lnor's ortho plane. */
535         mul_v3_v3fl(tvec, lnor, dtp_other);
536         sub_v3_v3(vec_other, tvec);
537         normalize_v3(vec_other);
538
539         /* Beta is angle between ref_vec and other_vec, around lnor. */
540         dtp = dot_v3v3(lnor_space->vec_ref, vec_other);
541         if (LIKELY(dtp < LNOR_SPACE_TRIGO_THRESHOLD)) {
542                 const float beta = saacos(dtp);
543                 lnor_space->ref_beta = (dot_v3v3(lnor_space->vec_ortho, vec_other) < 0.0f) ? pi2 - beta : beta;
544         }
545         else {
546                 lnor_space->ref_beta = pi2;
547         }
548 }
549
550 /**
551  * Add a new given loop to given lnor_space.
552  * Depending on \a lnor_space->data_type, we expect \a bm_loop to be a pointer to BMLoop struct (in case of BMLOOP_PTR),
553  * or NULL (in case of LOOP_INDEX), loop index is then stored in pointer.
554  * If \a is_single is set, the BMLoop or loop index is directly stored in \a lnor_space->loops pointer (since there
555  * is only one loop in this fan), else it is added to the linked list of loops in the fan.
556  */
557 void BKE_lnor_space_add_loop(
558         MLoopNorSpaceArray *lnors_spacearr, MLoopNorSpace *lnor_space,
559         const int ml_index, void *bm_loop, const bool is_single)
560 {
561         BLI_assert((lnors_spacearr->data_type == MLNOR_SPACEARR_LOOP_INDEX && bm_loop == NULL) ||
562                    (lnors_spacearr->data_type == MLNOR_SPACEARR_BMLOOP_PTR && bm_loop != NULL));
563
564         lnors_spacearr->lspacearr[ml_index] = lnor_space;
565         if (bm_loop == NULL) {
566                 bm_loop = POINTER_FROM_INT(ml_index);
567         }
568         if (is_single) {
569                 BLI_assert(lnor_space->loops == NULL);
570                 lnor_space->flags |= MLNOR_SPACE_IS_SINGLE;
571                 lnor_space->loops = bm_loop;
572         }
573         else {
574                 BLI_assert((lnor_space->flags & MLNOR_SPACE_IS_SINGLE) == 0);
575                 BLI_linklist_prepend_nlink(&lnor_space->loops, bm_loop, &lnors_spacearr->loops_pool[ml_index]);
576         }
577 }
578
579 MINLINE float unit_short_to_float(const short val)
580 {
581         return (float)val / (float)SHRT_MAX;
582 }
583
584 MINLINE short unit_float_to_short(const float val)
585 {
586         /* Rounding... */
587         return (short)floorf(val * (float)SHRT_MAX + 0.5f);
588 }
589
590 void BKE_lnor_space_custom_data_to_normal(MLoopNorSpace *lnor_space, const short clnor_data[2], float r_custom_lnor[3])
591 {
592         /* NOP custom normal data or invalid lnor space, return. */
593         if (clnor_data[0] == 0 || lnor_space->ref_alpha == 0.0f || lnor_space->ref_beta == 0.0f) {
594                 copy_v3_v3(r_custom_lnor, lnor_space->vec_lnor);
595                 return;
596         }
597
598         {
599                 /* TODO Check whether using sincosf() gives any noticeable benefit
600                  *      (could not even get it working under linux though)! */
601                 const float pi2 = (float)(M_PI * 2.0);
602                 const float alphafac = unit_short_to_float(clnor_data[0]);
603                 const float alpha = (alphafac > 0.0f ? lnor_space->ref_alpha : pi2 - lnor_space->ref_alpha) * alphafac;
604                 const float betafac = unit_short_to_float(clnor_data[1]);
605
606                 mul_v3_v3fl(r_custom_lnor, lnor_space->vec_lnor, cosf(alpha));
607
608                 if (betafac == 0.0f) {
609                         madd_v3_v3fl(r_custom_lnor, lnor_space->vec_ref, sinf(alpha));
610                 }
611                 else {
612                         const float sinalpha = sinf(alpha);
613                         const float beta = (betafac > 0.0f ? lnor_space->ref_beta : pi2 - lnor_space->ref_beta) * betafac;
614                         madd_v3_v3fl(r_custom_lnor, lnor_space->vec_ref, sinalpha * cosf(beta));
615                         madd_v3_v3fl(r_custom_lnor, lnor_space->vec_ortho, sinalpha * sinf(beta));
616                 }
617         }
618 }
619
620 void BKE_lnor_space_custom_normal_to_data(MLoopNorSpace *lnor_space, const float custom_lnor[3], short r_clnor_data[2])
621 {
622         /* We use null vector as NOP custom normal (can be simpler than giving autocomputed lnor...). */
623         if (is_zero_v3(custom_lnor) || compare_v3v3(lnor_space->vec_lnor, custom_lnor, 1e-4f)) {
624                 r_clnor_data[0] = r_clnor_data[1] = 0;
625                 return;
626         }
627
628         {
629                 const float pi2 = (float)(M_PI * 2.0);
630                 const float cos_alpha = dot_v3v3(lnor_space->vec_lnor, custom_lnor);
631                 float vec[3], cos_beta;
632                 float alpha;
633
634                 alpha = saacosf(cos_alpha);
635                 if (alpha > lnor_space->ref_alpha) {
636                         /* Note we could stick to [0, pi] range here, but makes decoding more complex, not worth it. */
637                         r_clnor_data[0] = unit_float_to_short(-(pi2 - alpha) / (pi2 - lnor_space->ref_alpha));
638                 }
639                 else {
640                         r_clnor_data[0] = unit_float_to_short(alpha / lnor_space->ref_alpha);
641                 }
642
643                 /* Project custom lnor on (vec_ref, vec_ortho) plane. */
644                 mul_v3_v3fl(vec, lnor_space->vec_lnor, -cos_alpha);
645                 add_v3_v3(vec, custom_lnor);
646                 normalize_v3(vec);
647
648                 cos_beta = dot_v3v3(lnor_space->vec_ref, vec);
649
650                 if (cos_beta < LNOR_SPACE_TRIGO_THRESHOLD) {
651                         float beta = saacosf(cos_beta);
652                         if (dot_v3v3(lnor_space->vec_ortho, vec) < 0.0f) {
653                                 beta = pi2 - beta;
654                         }
655
656                         if (beta > lnor_space->ref_beta) {
657                                 r_clnor_data[1] = unit_float_to_short(-(pi2 - beta) / (pi2 - lnor_space->ref_beta));
658                         }
659                         else {
660                                 r_clnor_data[1] = unit_float_to_short(beta / lnor_space->ref_beta);
661                         }
662                 }
663                 else {
664                         r_clnor_data[1] = 0;
665                 }
666         }
667 }
668
669 #define LOOP_SPLIT_TASK_BLOCK_SIZE 1024
670
671 typedef struct LoopSplitTaskData {
672         /* Specific to each instance (each task). */
673         MLoopNorSpace *lnor_space;  /* We have to create those outside of tasks, since afaik memarena is not threadsafe. */
674         float (*lnor)[3];
675         const MLoop *ml_curr;
676         const MLoop *ml_prev;
677         int ml_curr_index;
678         int ml_prev_index;
679         const int *e2l_prev;  /* Also used a flag to switch between single or fan process! */
680         int mp_index;
681
682         /* This one is special, it's owned and managed by worker tasks, avoid to have to create it for each fan! */
683         BLI_Stack *edge_vectors;
684
685         char pad_c;
686 } LoopSplitTaskData;
687
688 typedef struct LoopSplitTaskDataCommon {
689         /* Read/write.
690          * Note we do not need to protect it, though, since two different tasks will *always* affect different
691          * elements in the arrays. */
692         MLoopNorSpaceArray *lnors_spacearr;
693         float (*loopnors)[3];
694         short (*clnors_data)[2];
695
696         /* Read-only. */
697         const MVert *mverts;
698         const MEdge *medges;
699         const MLoop *mloops;
700         const MPoly *mpolys;
701         int (*edge_to_loops)[2];
702         int *loop_to_poly;
703         const float (*polynors)[3];
704
705         int numEdges;
706         int numLoops;
707         int numPolys;
708 } LoopSplitTaskDataCommon;
709
710 #define INDEX_UNSET INT_MIN
711 #define INDEX_INVALID -1
712 /* See comment about edge_to_loops below. */
713 #define IS_EDGE_SHARP(_e2l) (ELEM((_e2l)[1], INDEX_UNSET, INDEX_INVALID))
714
715 static void mesh_edges_sharp_tag(
716         LoopSplitTaskDataCommon *data,
717         const bool check_angle, const float split_angle, const bool do_sharp_edges_tag)
718 {
719         const MVert *mverts = data->mverts;
720         const MEdge *medges = data->medges;
721         const MLoop *mloops = data->mloops;
722
723         const MPoly *mpolys = data->mpolys;
724
725         const int numEdges = data->numEdges;
726         const int numPolys = data->numPolys;
727
728         float (*loopnors)[3] = data->loopnors;  /* Note: loopnors may be NULL here. */
729         const float (*polynors)[3] = data->polynors;
730
731         int (*edge_to_loops)[2] = data->edge_to_loops;
732         int *loop_to_poly = data->loop_to_poly;
733
734         BLI_bitmap *sharp_edges = do_sharp_edges_tag ? BLI_BITMAP_NEW(numEdges, __func__) : NULL;
735
736         const MPoly *mp;
737         int mp_index;
738
739         const float split_angle_cos = check_angle ? cosf(split_angle) : -1.0f;
740
741         for (mp = mpolys, mp_index = 0; mp_index < numPolys; mp++, mp_index++) {
742                 const MLoop *ml_curr;
743                 int *e2l;
744                 int ml_curr_index = mp->loopstart;
745                 const int ml_last_index = (ml_curr_index + mp->totloop) - 1;
746
747                 ml_curr = &mloops[ml_curr_index];
748
749                 for (; ml_curr_index <= ml_last_index; ml_curr++, ml_curr_index++) {
750                         e2l = edge_to_loops[ml_curr->e];
751
752                         loop_to_poly[ml_curr_index] = mp_index;
753
754                         /* Pre-populate all loop normals as if their verts were all-smooth, this way we don't have to compute
755                          * those later!
756                          */
757                         if (loopnors) {
758                                 normal_short_to_float_v3(loopnors[ml_curr_index], mverts[ml_curr->v].no);
759                         }
760
761                         /* Check whether current edge might be smooth or sharp */
762                         if ((e2l[0] | e2l[1]) == 0) {
763                                 /* 'Empty' edge until now, set e2l[0] (and e2l[1] to INDEX_UNSET to tag it as unset). */
764                                 e2l[0] = ml_curr_index;
765                                 /* We have to check this here too, else we might miss some flat faces!!! */
766                                 e2l[1] = (mp->flag & ME_SMOOTH) ? INDEX_UNSET : INDEX_INVALID;
767                         }
768                         else if (e2l[1] == INDEX_UNSET) {
769                                 const bool is_angle_sharp = (
770                                         check_angle &&
771                                         dot_v3v3(polynors[loop_to_poly[e2l[0]]], polynors[mp_index]) < split_angle_cos);
772
773                                 /* Second loop using this edge, time to test its sharpness.
774                                  * An edge is sharp if it is tagged as such, or its face is not smooth,
775                                  * or both poly have opposed (flipped) normals, i.e. both loops on the same edge share the same vertex,
776                                  * or angle between both its polys' normals is above split_angle value.
777                                  */
778                                 if (!(mp->flag & ME_SMOOTH) || (medges[ml_curr->e].flag & ME_SHARP) ||
779                                     ml_curr->v == mloops[e2l[0]].v ||
780                                     is_angle_sharp)
781                                 {
782                                         /* Note: we are sure that loop != 0 here ;) */
783                                         e2l[1] = INDEX_INVALID;
784
785                                         /* We want to avoid tagging edges as sharp when it is already defined as such by
786                                          * other causes than angle threshold... */
787                                         if (do_sharp_edges_tag && is_angle_sharp) {
788                                                 BLI_BITMAP_SET(sharp_edges, ml_curr->e, true);
789                                         }
790                                 }
791                                 else {
792                                         e2l[1] = ml_curr_index;
793                                 }
794                         }
795                         else if (!IS_EDGE_SHARP(e2l)) {
796                                 /* More than two loops using this edge, tag as sharp if not yet done. */
797                                 e2l[1] = INDEX_INVALID;
798
799                                 /* We want to avoid tagging edges as sharp when it is already defined as such by
800                                  * other causes than angle threshold... */
801                                 if (do_sharp_edges_tag) {
802                                         BLI_BITMAP_SET(sharp_edges, ml_curr->e, false);
803                                 }
804                         }
805                         /* Else, edge is already 'disqualified' (i.e. sharp)! */
806                 }
807         }
808
809         /* If requested, do actual tagging of edges as sharp in another loop. */
810         if (do_sharp_edges_tag) {
811                 MEdge *me;
812                 int me_index;
813                 for (me = (MEdge *)medges, me_index = 0; me_index < numEdges; me++, me_index++) {
814                         if (BLI_BITMAP_TEST(sharp_edges, me_index)) {
815                                 me->flag |= ME_SHARP;
816                         }
817                 }
818
819                 MEM_freeN(sharp_edges);
820         }
821 }
822
823 /** Define sharp edges as needed to mimic 'autosmooth' from angle threshold.
824  *
825  * Used when defining an empty custom loop normals data layer, to keep same shading as with autosmooth!
826  */
827 void BKE_edges_sharp_from_angle_set(
828         const struct MVert *mverts, const int UNUSED(numVerts),
829         struct MEdge *medges, const int numEdges,
830         struct MLoop *mloops, const int numLoops,
831         struct MPoly *mpolys, const float (*polynors)[3], const int numPolys,
832         const float split_angle)
833 {
834         if (split_angle >= (float)M_PI) {
835                 /* Nothing to do! */
836                 return;
837         }
838
839         /* Mapping edge -> loops. See BKE_mesh_normals_loop_split() for details. */
840         int (*edge_to_loops)[2] = MEM_calloc_arrayN((size_t)numEdges, sizeof(*edge_to_loops), __func__);
841
842         /* Simple mapping from a loop to its polygon index. */
843         int *loop_to_poly = MEM_malloc_arrayN((size_t)numLoops, sizeof(*loop_to_poly), __func__);
844
845         LoopSplitTaskDataCommon common_data = {
846             .mverts = mverts,
847             .medges = medges,
848             .mloops = mloops,
849             .mpolys = mpolys,
850             .edge_to_loops = edge_to_loops,
851             .loop_to_poly = loop_to_poly,
852             .polynors = polynors,
853             .numEdges = numEdges,
854             .numPolys = numPolys,
855         };
856
857         mesh_edges_sharp_tag(&common_data, true, split_angle, true);
858
859         MEM_freeN(edge_to_loops);
860         MEM_freeN(loop_to_poly);
861 }
862
863 void BKE_mesh_loop_manifold_fan_around_vert_next(
864         const MLoop *mloops, const MPoly *mpolys,
865         const int *loop_to_poly, const int *e2lfan_curr, const uint mv_pivot_index,
866         const MLoop **r_mlfan_curr, int *r_mlfan_curr_index, int *r_mlfan_vert_index, int *r_mpfan_curr_index)
867 {
868         const MLoop *mlfan_next;
869         const MPoly *mpfan_next;
870
871         /* Warning! This is rather complex!
872          * We have to find our next edge around the vertex (fan mode).
873          * First we find the next loop, which is either previous or next to mlfan_curr_index, depending
874          * whether both loops using current edge are in the same direction or not, and whether
875          * mlfan_curr_index actually uses the vertex we are fanning around!
876          * mlfan_curr_index is the index of mlfan_next here, and mlfan_next is not the real next one
877          * (i.e. not the future mlfan_curr)...
878          */
879         *r_mlfan_curr_index = (e2lfan_curr[0] == *r_mlfan_curr_index) ? e2lfan_curr[1] : e2lfan_curr[0];
880         *r_mpfan_curr_index = loop_to_poly[*r_mlfan_curr_index];
881
882         BLI_assert(*r_mlfan_curr_index >= 0);
883         BLI_assert(*r_mpfan_curr_index >= 0);
884
885         mlfan_next = &mloops[*r_mlfan_curr_index];
886         mpfan_next = &mpolys[*r_mpfan_curr_index];
887         if (((*r_mlfan_curr)->v == mlfan_next->v && (*r_mlfan_curr)->v == mv_pivot_index) ||
888             ((*r_mlfan_curr)->v != mlfan_next->v && (*r_mlfan_curr)->v != mv_pivot_index))
889         {
890                 /* We need the previous loop, but current one is our vertex's loop. */
891                 *r_mlfan_vert_index = *r_mlfan_curr_index;
892                 if (--(*r_mlfan_curr_index) < mpfan_next->loopstart) {
893                         *r_mlfan_curr_index = mpfan_next->loopstart + mpfan_next->totloop - 1;
894                 }
895         }
896         else {
897                 /* We need the next loop, which is also our vertex's loop. */
898                 if (++(*r_mlfan_curr_index) >= mpfan_next->loopstart + mpfan_next->totloop) {
899                         *r_mlfan_curr_index = mpfan_next->loopstart;
900                 }
901                 *r_mlfan_vert_index = *r_mlfan_curr_index;
902         }
903         *r_mlfan_curr = &mloops[*r_mlfan_curr_index];
904         /* And now we are back in sync, mlfan_curr_index is the index of mlfan_curr! Pff! */
905 }
906
907 static void split_loop_nor_single_do(LoopSplitTaskDataCommon *common_data, LoopSplitTaskData *data)
908 {
909         MLoopNorSpaceArray *lnors_spacearr = common_data->lnors_spacearr;
910         short (*clnors_data)[2] = common_data->clnors_data;
911
912         const MVert *mverts = common_data->mverts;
913         const MEdge *medges = common_data->medges;
914         const float (*polynors)[3] = common_data->polynors;
915
916         MLoopNorSpace *lnor_space = data->lnor_space;
917         float (*lnor)[3] = data->lnor;
918         const MLoop *ml_curr = data->ml_curr;
919         const MLoop *ml_prev = data->ml_prev;
920         const int ml_curr_index = data->ml_curr_index;
921 #if 0  /* Not needed for 'single' loop. */
922         const int ml_prev_index = data->ml_prev_index;
923         const int *e2l_prev = data->e2l_prev;
924 #endif
925         const int mp_index = data->mp_index;
926
927         /* Simple case (both edges around that vertex are sharp in current polygon),
928          * this loop just takes its poly normal.
929          */
930         copy_v3_v3(*lnor, polynors[mp_index]);
931
932 //      printf("BASIC: handling loop %d / edge %d / vert %d / poly %d\n", ml_curr_index, ml_curr->e, ml_curr->v, mp_index);
933
934         /* If needed, generate this (simple!) lnor space. */
935         if (lnors_spacearr) {
936                 float vec_curr[3], vec_prev[3];
937
938                 const unsigned int mv_pivot_index = ml_curr->v;  /* The vertex we are "fanning" around! */
939                 const MVert *mv_pivot = &mverts[mv_pivot_index];
940                 const MEdge *me_curr = &medges[ml_curr->e];
941                 const MVert *mv_2 = (me_curr->v1 == mv_pivot_index) ? &mverts[me_curr->v2] : &mverts[me_curr->v1];
942                 const MEdge *me_prev = &medges[ml_prev->e];
943                 const MVert *mv_3 = (me_prev->v1 == mv_pivot_index) ? &mverts[me_prev->v2] : &mverts[me_prev->v1];
944
945                 sub_v3_v3v3(vec_curr, mv_2->co, mv_pivot->co);
946                 normalize_v3(vec_curr);
947                 sub_v3_v3v3(vec_prev, mv_3->co, mv_pivot->co);
948                 normalize_v3(vec_prev);
949
950                 BKE_lnor_space_define(lnor_space, *lnor, vec_curr, vec_prev, NULL);
951                 /* We know there is only one loop in this space, no need to create a linklist in this case... */
952                 BKE_lnor_space_add_loop(lnors_spacearr, lnor_space, ml_curr_index, NULL, true);
953
954                 if (clnors_data) {
955                         BKE_lnor_space_custom_data_to_normal(lnor_space, clnors_data[ml_curr_index], *lnor);
956                 }
957         }
958 }
959
960 static void split_loop_nor_fan_do(LoopSplitTaskDataCommon *common_data, LoopSplitTaskData *data)
961 {
962         MLoopNorSpaceArray *lnors_spacearr = common_data->lnors_spacearr;
963         float (*loopnors)[3] = common_data->loopnors;
964         short (*clnors_data)[2] = common_data->clnors_data;
965
966         const MVert *mverts = common_data->mverts;
967         const MEdge *medges = common_data->medges;
968         const MLoop *mloops = common_data->mloops;
969         const MPoly *mpolys = common_data->mpolys;
970         const int (*edge_to_loops)[2] = common_data->edge_to_loops;
971         const int *loop_to_poly = common_data->loop_to_poly;
972         const float (*polynors)[3] = common_data->polynors;
973
974         MLoopNorSpace *lnor_space = data->lnor_space;
975 #if 0  /* Not needed for 'fan' loops. */
976         float (*lnor)[3] = data->lnor;
977 #endif
978         const MLoop *ml_curr = data->ml_curr;
979         const MLoop *ml_prev = data->ml_prev;
980         const int ml_curr_index = data->ml_curr_index;
981         const int ml_prev_index = data->ml_prev_index;
982         const int mp_index = data->mp_index;
983         const int *e2l_prev = data->e2l_prev;
984
985         BLI_Stack *edge_vectors = data->edge_vectors;
986
987         /* Gah... We have to fan around current vertex, until we find the other non-smooth edge,
988          * and accumulate face normals into the vertex!
989          * Note in case this vertex has only one sharp edges, this is a waste because the normal is the same as
990          * the vertex normal, but I do not see any easy way to detect that (would need to count number
991          * of sharp edges per vertex, I doubt the additional memory usage would be worth it, especially as
992          * it should not be a common case in real-life meshes anyway).
993          */
994         const unsigned int mv_pivot_index = ml_curr->v;  /* The vertex we are "fanning" around! */
995         const MVert *mv_pivot = &mverts[mv_pivot_index];
996         const MEdge *me_org = &medges[ml_curr->e];  /* ml_curr would be mlfan_prev if we needed that one */
997         const int *e2lfan_curr;
998         float vec_curr[3], vec_prev[3], vec_org[3];
999         const MLoop *mlfan_curr;
1000         float lnor[3] = {0.0f, 0.0f, 0.0f};
1001         /* mlfan_vert_index: the loop of our current edge might not be the loop of our current vertex! */
1002         int mlfan_curr_index, mlfan_vert_index, mpfan_curr_index;
1003
1004         /* We validate clnors data on the fly - cheapest way to do! */
1005         int clnors_avg[2] = {0, 0};
1006         short (*clnor_ref)[2] = NULL;
1007         int clnors_nbr = 0;
1008         bool clnors_invalid = false;
1009
1010         /* Temp loop normal stack. */
1011         BLI_SMALLSTACK_DECLARE(normal, float *);
1012         /* Temp clnors stack. */
1013         BLI_SMALLSTACK_DECLARE(clnors, short *);
1014
1015         e2lfan_curr = e2l_prev;
1016         mlfan_curr = ml_prev;
1017         mlfan_curr_index = ml_prev_index;
1018         mlfan_vert_index = ml_curr_index;
1019         mpfan_curr_index = mp_index;
1020
1021         BLI_assert(mlfan_curr_index >= 0);
1022         BLI_assert(mlfan_vert_index >= 0);
1023         BLI_assert(mpfan_curr_index >= 0);
1024
1025         /* Only need to compute previous edge's vector once, then we can just reuse old current one! */
1026         {
1027                 const MVert *mv_2 = (me_org->v1 == mv_pivot_index) ? &mverts[me_org->v2] : &mverts[me_org->v1];
1028
1029                 sub_v3_v3v3(vec_org, mv_2->co, mv_pivot->co);
1030                 normalize_v3(vec_org);
1031                 copy_v3_v3(vec_prev, vec_org);
1032
1033                 if (lnors_spacearr) {
1034                         BLI_stack_push(edge_vectors, vec_org);
1035                 }
1036         }
1037
1038 //      printf("FAN: vert %d, start edge %d\n", mv_pivot_index, ml_curr->e);
1039
1040         while (true) {
1041                 const MEdge *me_curr = &medges[mlfan_curr->e];
1042                 /* Compute edge vectors.
1043                  * NOTE: We could pre-compute those into an array, in the first iteration, instead of computing them
1044                  *       twice (or more) here. However, time gained is not worth memory and time lost,
1045                  *       given the fact that this code should not be called that much in real-life meshes...
1046                  */
1047                 {
1048                         const MVert *mv_2 = (me_curr->v1 == mv_pivot_index) ? &mverts[me_curr->v2] : &mverts[me_curr->v1];
1049
1050                         sub_v3_v3v3(vec_curr, mv_2->co, mv_pivot->co);
1051                         normalize_v3(vec_curr);
1052                 }
1053
1054 //              printf("\thandling edge %d / loop %d\n", mlfan_curr->e, mlfan_curr_index);
1055
1056                 {
1057                         /* Code similar to accumulate_vertex_normals_poly_v3. */
1058                         /* Calculate angle between the two poly edges incident on this vertex. */
1059                         const float fac = saacos(dot_v3v3(vec_curr, vec_prev));
1060                         /* Accumulate */
1061                         madd_v3_v3fl(lnor, polynors[mpfan_curr_index], fac);
1062
1063                         if (clnors_data) {
1064                                 /* Accumulate all clnors, if they are not all equal we have to fix that! */
1065                                 short (*clnor)[2] = &clnors_data[mlfan_vert_index];
1066                                 if (clnors_nbr) {
1067                                         clnors_invalid |= ((*clnor_ref)[0] != (*clnor)[0] || (*clnor_ref)[1] != (*clnor)[1]);
1068                                 }
1069                                 else {
1070                                         clnor_ref = clnor;
1071                                 }
1072                                 clnors_avg[0] += (*clnor)[0];
1073                                 clnors_avg[1] += (*clnor)[1];
1074                                 clnors_nbr++;
1075                                 /* We store here a pointer to all custom lnors processed. */
1076                                 BLI_SMALLSTACK_PUSH(clnors, (short *)*clnor);
1077                         }
1078                 }
1079
1080                 /* We store here a pointer to all loop-normals processed. */
1081                 BLI_SMALLSTACK_PUSH(normal, (float *)(loopnors[mlfan_vert_index]));
1082
1083                 if (lnors_spacearr) {
1084                         /* Assign current lnor space to current 'vertex' loop. */
1085                         BKE_lnor_space_add_loop(lnors_spacearr, lnor_space, mlfan_vert_index, NULL, false);
1086                         if (me_curr != me_org) {
1087                                 /* We store here all edges-normalized vectors processed. */
1088                                 BLI_stack_push(edge_vectors, vec_curr);
1089                         }
1090                 }
1091
1092                 if (IS_EDGE_SHARP(e2lfan_curr) || (me_curr == me_org)) {
1093                         /* Current edge is sharp and we have finished with this fan of faces around this vert,
1094                          * or this vert is smooth, and we have completed a full turn around it.
1095                          */
1096 //                      printf("FAN: Finished!\n");
1097                         break;
1098                 }
1099
1100                 copy_v3_v3(vec_prev, vec_curr);
1101
1102                 /* Find next loop of the smooth fan. */
1103                 BKE_mesh_loop_manifold_fan_around_vert_next(
1104                         mloops, mpolys, loop_to_poly, e2lfan_curr, mv_pivot_index,
1105                         &mlfan_curr, &mlfan_curr_index, &mlfan_vert_index, &mpfan_curr_index);
1106
1107                 e2lfan_curr = edge_to_loops[mlfan_curr->e];
1108         }
1109
1110         {
1111                 float lnor_len = normalize_v3(lnor);
1112
1113                 /* If we are generating lnor spacearr, we can now define the one for this fan,
1114                  * and optionally compute final lnor from custom data too!
1115                  */
1116                 if (lnors_spacearr) {
1117                         if (UNLIKELY(lnor_len == 0.0f)) {
1118                                 /* Use vertex normal as fallback! */
1119                                 copy_v3_v3(lnor, loopnors[mlfan_vert_index]);
1120                                 lnor_len = 1.0f;
1121                         }
1122
1123                         BKE_lnor_space_define(lnor_space, lnor, vec_org, vec_curr, edge_vectors);
1124
1125                         if (clnors_data) {
1126                                 if (clnors_invalid) {
1127                                         short *clnor;
1128
1129                                         clnors_avg[0] /= clnors_nbr;
1130                                         clnors_avg[1] /= clnors_nbr;
1131                                         /* Fix/update all clnors of this fan with computed average value. */
1132                                         if (G.debug & G_DEBUG) {
1133                                                 printf("Invalid clnors in this fan!\n");
1134                                         }
1135                                         while ((clnor = BLI_SMALLSTACK_POP(clnors))) {
1136                                                 //print_v2("org clnor", clnor);
1137                                                 clnor[0] = (short)clnors_avg[0];
1138                                                 clnor[1] = (short)clnors_avg[1];
1139                                         }
1140                                         //print_v2("new clnors", clnors_avg);
1141                                 }
1142                                 /* Extra bonus: since smallstack is local to this func, no more need to empty it at all cost! */
1143
1144                                 BKE_lnor_space_custom_data_to_normal(lnor_space, *clnor_ref, lnor);
1145                         }
1146                 }
1147
1148                 /* In case we get a zero normal here, just use vertex normal already set! */
1149                 if (LIKELY(lnor_len != 0.0f)) {
1150                         /* Copy back the final computed normal into all related loop-normals. */
1151                         float *nor;
1152
1153                         while ((nor = BLI_SMALLSTACK_POP(normal))) {
1154                                 copy_v3_v3(nor, lnor);
1155                         }
1156                 }
1157                 /* Extra bonus: since smallstack is local to this func, no more need to empty it at all cost! */
1158         }
1159 }
1160
1161 static void loop_split_worker_do(
1162         LoopSplitTaskDataCommon *common_data, LoopSplitTaskData *data, BLI_Stack *edge_vectors)
1163 {
1164         BLI_assert(data->ml_curr);
1165         if (data->e2l_prev) {
1166                 BLI_assert((edge_vectors == NULL) || BLI_stack_is_empty(edge_vectors));
1167                 data->edge_vectors = edge_vectors;
1168                 split_loop_nor_fan_do(common_data, data);
1169         }
1170         else {
1171                 /* No need for edge_vectors for 'single' case! */
1172                 split_loop_nor_single_do(common_data, data);
1173         }
1174 }
1175
1176 static void loop_split_worker(TaskPool * __restrict pool, void *taskdata, int UNUSED(threadid))
1177 {
1178         LoopSplitTaskDataCommon *common_data = BLI_task_pool_userdata(pool);
1179         LoopSplitTaskData *data = taskdata;
1180
1181         /* Temp edge vectors stack, only used when computing lnor spacearr. */
1182         BLI_Stack *edge_vectors = common_data->lnors_spacearr ? BLI_stack_new(sizeof(float[3]), __func__) : NULL;
1183
1184 #ifdef DEBUG_TIME
1185         TIMEIT_START_AVERAGED(loop_split_worker);
1186 #endif
1187
1188         for (int i = 0; i < LOOP_SPLIT_TASK_BLOCK_SIZE; i++, data++) {
1189                 /* A NULL ml_curr is used to tag ended data! */
1190                 if (data->ml_curr == NULL) {
1191                         break;
1192                 }
1193
1194                 loop_split_worker_do(common_data, data, edge_vectors);
1195         }
1196
1197         if (edge_vectors) {
1198                 BLI_stack_free(edge_vectors);
1199         }
1200
1201 #ifdef DEBUG_TIME
1202         TIMEIT_END_AVERAGED(loop_split_worker);
1203 #endif
1204 }
1205
1206 /* Check whether gievn loop is part of an unknown-so-far cyclic smooth fan, or not.
1207  * Needed because cyclic smooth fans have no obvious 'entry point', and yet we need to walk them once, and only once. */
1208 static bool loop_split_generator_check_cyclic_smooth_fan(
1209         const MLoop *mloops, const MPoly *mpolys,
1210         const int (*edge_to_loops)[2], const int *loop_to_poly, const int *e2l_prev, BLI_bitmap *skip_loops,
1211         const MLoop *ml_curr, const MLoop *ml_prev, const int ml_curr_index, const int ml_prev_index,
1212         const int mp_curr_index)
1213 {
1214         const unsigned int mv_pivot_index = ml_curr->v;  /* The vertex we are "fanning" around! */
1215         const int *e2lfan_curr;
1216         const MLoop *mlfan_curr;
1217         /* mlfan_vert_index: the loop of our current edge might not be the loop of our current vertex! */
1218         int mlfan_curr_index, mlfan_vert_index, mpfan_curr_index;
1219
1220         e2lfan_curr = e2l_prev;
1221         if (IS_EDGE_SHARP(e2lfan_curr)) {
1222                 /* Sharp loop, so not a cyclic smooth fan... */
1223                 return false;
1224         }
1225
1226         mlfan_curr = ml_prev;
1227         mlfan_curr_index = ml_prev_index;
1228         mlfan_vert_index = ml_curr_index;
1229         mpfan_curr_index = mp_curr_index;
1230
1231         BLI_assert(mlfan_curr_index >= 0);
1232         BLI_assert(mlfan_vert_index >= 0);
1233         BLI_assert(mpfan_curr_index >= 0);
1234
1235         BLI_assert(!BLI_BITMAP_TEST(skip_loops, mlfan_vert_index));
1236         BLI_BITMAP_ENABLE(skip_loops, mlfan_vert_index);
1237
1238         while (true) {
1239                 /* Find next loop of the smooth fan. */
1240                 BKE_mesh_loop_manifold_fan_around_vert_next(
1241                         mloops, mpolys, loop_to_poly, e2lfan_curr, mv_pivot_index,
1242                         &mlfan_curr, &mlfan_curr_index, &mlfan_vert_index, &mpfan_curr_index);
1243
1244                 e2lfan_curr = edge_to_loops[mlfan_curr->e];
1245
1246                 if (IS_EDGE_SHARP(e2lfan_curr)) {
1247                         /* Sharp loop/edge, so not a cyclic smooth fan... */
1248                         return false;
1249                 }
1250                 /* Smooth loop/edge... */
1251                 else if (BLI_BITMAP_TEST(skip_loops, mlfan_vert_index)) {
1252                         if (mlfan_vert_index == ml_curr_index) {
1253                                 /* We walked around a whole cyclic smooth fan without finding any already-processed loop, means we can
1254                                  * use initial ml_curr/ml_prev edge as start for this smooth fan. */
1255                                 return true;
1256                         }
1257                         /* ... already checked in some previous looping, we can abort. */
1258                         return false;
1259                 }
1260                 else {
1261                         /* ... we can skip it in future, and keep checking the smooth fan. */
1262                         BLI_BITMAP_ENABLE(skip_loops, mlfan_vert_index);
1263                 }
1264         }
1265 }
1266
1267 static void loop_split_generator(TaskPool *pool, LoopSplitTaskDataCommon *common_data)
1268 {
1269         MLoopNorSpaceArray *lnors_spacearr = common_data->lnors_spacearr;
1270         float (*loopnors)[3] = common_data->loopnors;
1271
1272         const MLoop *mloops = common_data->mloops;
1273         const MPoly *mpolys = common_data->mpolys;
1274         const int *loop_to_poly = common_data->loop_to_poly;
1275         const int (*edge_to_loops)[2] = common_data->edge_to_loops;
1276         const int numLoops = common_data->numLoops;
1277         const int numPolys = common_data->numPolys;
1278
1279         const MPoly *mp;
1280         int mp_index;
1281
1282         const MLoop *ml_curr;
1283         const MLoop *ml_prev;
1284         int ml_curr_index;
1285         int ml_prev_index;
1286
1287         BLI_bitmap *skip_loops = BLI_BITMAP_NEW(numLoops, __func__);
1288
1289         LoopSplitTaskData *data_buff = NULL;
1290         int data_idx = 0;
1291
1292         /* Temp edge vectors stack, only used when computing lnor spacearr (and we are not multi-threading). */
1293         BLI_Stack *edge_vectors = NULL;
1294
1295 #ifdef DEBUG_TIME
1296         TIMEIT_START_AVERAGED(loop_split_generator);
1297 #endif
1298
1299         if (!pool) {
1300                 if (lnors_spacearr) {
1301                         edge_vectors = BLI_stack_new(sizeof(float[3]), __func__);
1302                 }
1303         }
1304
1305         /* We now know edges that can be smoothed (with their vector, and their two loops), and edges that will be hard!
1306          * Now, time to generate the normals.
1307          */
1308         for (mp = mpolys, mp_index = 0; mp_index < numPolys; mp++, mp_index++) {
1309                 float (*lnors)[3];
1310                 const int ml_last_index = (mp->loopstart + mp->totloop) - 1;
1311                 ml_curr_index = mp->loopstart;
1312                 ml_prev_index = ml_last_index;
1313
1314                 ml_curr = &mloops[ml_curr_index];
1315                 ml_prev = &mloops[ml_prev_index];
1316                 lnors = &loopnors[ml_curr_index];
1317
1318                 for (; ml_curr_index <= ml_last_index; ml_curr++, ml_curr_index++, lnors++) {
1319                         const int *e2l_curr = edge_to_loops[ml_curr->e];
1320                         const int *e2l_prev = edge_to_loops[ml_prev->e];
1321
1322 //                      printf("Checking loop %d / edge %u / vert %u (sharp edge: %d, skiploop: %d)...",
1323 //                             ml_curr_index, ml_curr->e, ml_curr->v, IS_EDGE_SHARP(e2l_curr), BLI_BITMAP_TEST_BOOL(skip_loops, ml_curr_index));
1324
1325                         /* A smooth edge, we have to check for cyclic smooth fan case.
1326                          * If we find a new, never-processed cyclic smooth fan, we can do it now using that loop/edge as
1327                          * 'entry point', otherwise we can skip it. */
1328                         /* Note: In theory, we could make loop_split_generator_check_cyclic_smooth_fan() store
1329                          * mlfan_vert_index'es and edge indexes in two stacks, to avoid having to fan again around the vert during
1330                          * actual computation of clnor & clnorspace. However, this would complicate the code, add more memory usage,
1331                          * and despite its logical complexity, loop_manifold_fan_around_vert_next() is quite cheap in term of
1332                          * CPU cycles, so really think it's not worth it. */
1333                         if (!IS_EDGE_SHARP(e2l_curr) &&
1334                             (BLI_BITMAP_TEST(skip_loops, ml_curr_index) ||
1335                              !loop_split_generator_check_cyclic_smooth_fan(
1336                                       mloops, mpolys, edge_to_loops, loop_to_poly, e2l_prev, skip_loops,
1337                                       ml_curr, ml_prev, ml_curr_index, ml_prev_index, mp_index)))
1338                         {
1339 //                              printf("SKIPPING!\n");
1340                         }
1341                         else {
1342                                 LoopSplitTaskData *data, data_local;
1343
1344 //                              printf("PROCESSING!\n");
1345
1346                                 if (pool) {
1347                                         if (data_idx == 0) {
1348                                                 data_buff = MEM_calloc_arrayN(LOOP_SPLIT_TASK_BLOCK_SIZE, sizeof(*data_buff), __func__);
1349                                         }
1350                                         data = &data_buff[data_idx];
1351                                 }
1352                                 else {
1353                                         data = &data_local;
1354                                         memset(data, 0, sizeof(*data));
1355                                 }
1356
1357                                 if (IS_EDGE_SHARP(e2l_curr) && IS_EDGE_SHARP(e2l_prev)) {
1358                                         data->lnor = lnors;
1359                                         data->ml_curr = ml_curr;
1360                                         data->ml_prev = ml_prev;
1361                                         data->ml_curr_index = ml_curr_index;
1362 #if 0  /* Not needed for 'single' loop. */
1363                                         data->ml_prev_index = ml_prev_index;
1364                                         data->e2l_prev = NULL;  /* Tag as 'single' task. */
1365 #endif
1366                                         data->mp_index = mp_index;
1367                                         if (lnors_spacearr) {
1368                                                 data->lnor_space = BKE_lnor_space_create(lnors_spacearr);
1369                                         }
1370                                 }
1371                                 /* We *do not need* to check/tag loops as already computed!
1372                                  * Due to the fact a loop only links to one of its two edges, a same fan *will never be walked
1373                                  * more than once!*
1374                                  * Since we consider edges having neighbor polys with inverted (flipped) normals as sharp, we are sure
1375                                  * that no fan will be skipped, even only considering the case (sharp curr_edge, smooth prev_edge),
1376                                  * and not the alternative (smooth curr_edge, sharp prev_edge).
1377                                  * All this due/thanks to link between normals and loop ordering (i.e. winding).
1378                                  */
1379                                 else {
1380 #if 0  /* Not needed for 'fan' loops. */
1381                                         data->lnor = lnors;
1382 #endif
1383                                         data->ml_curr = ml_curr;
1384                                         data->ml_prev = ml_prev;
1385                                         data->ml_curr_index = ml_curr_index;
1386                                         data->ml_prev_index = ml_prev_index;
1387                                         data->e2l_prev = e2l_prev;  /* Also tag as 'fan' task. */
1388                                         data->mp_index = mp_index;
1389                                         if (lnors_spacearr) {
1390                                                 data->lnor_space = BKE_lnor_space_create(lnors_spacearr);
1391                                         }
1392                                 }
1393
1394                                 if (pool) {
1395                                         data_idx++;
1396                                         if (data_idx == LOOP_SPLIT_TASK_BLOCK_SIZE) {
1397                                                 BLI_task_pool_push(pool, loop_split_worker, data_buff, true, TASK_PRIORITY_LOW);
1398                                                 data_idx = 0;
1399                                         }
1400                                 }
1401                                 else {
1402                                         loop_split_worker_do(common_data, data, edge_vectors);
1403                                 }
1404                         }
1405
1406                         ml_prev = ml_curr;
1407                         ml_prev_index = ml_curr_index;
1408                 }
1409         }
1410
1411         /* Last block of data... Since it is calloc'ed and we use first NULL item as stopper, everything is fine. */
1412         if (pool && data_idx) {
1413                 BLI_task_pool_push(pool, loop_split_worker, data_buff, true, TASK_PRIORITY_LOW);
1414         }
1415
1416         if (edge_vectors) {
1417                 BLI_stack_free(edge_vectors);
1418         }
1419         MEM_freeN(skip_loops);
1420
1421 #ifdef DEBUG_TIME
1422         TIMEIT_END_AVERAGED(loop_split_generator);
1423 #endif
1424 }
1425
1426 /**
1427  * Compute split normals, i.e. vertex normals associated with each poly (hence 'loop normals').
1428  * Useful to materialize sharp edges (or non-smooth faces) without actually modifying the geometry (splitting edges).
1429  */
1430 void BKE_mesh_normals_loop_split(
1431         const MVert *mverts, const int UNUSED(numVerts), MEdge *medges, const int numEdges,
1432         MLoop *mloops, float (*r_loopnors)[3], const int numLoops,
1433         MPoly *mpolys, const float (*polynors)[3], const int numPolys,
1434         const bool use_split_normals, const float split_angle,
1435         MLoopNorSpaceArray *r_lnors_spacearr, short (*clnors_data)[2], int *r_loop_to_poly)
1436 {
1437         /* For now this is not supported. If we do not use split normals, we do not generate anything fancy! */
1438         BLI_assert(use_split_normals || !(r_lnors_spacearr));
1439
1440         if (!use_split_normals) {
1441                 /* In this case, we simply fill lnors with vnors (or fnors for flat faces), quite simple!
1442                  * Note this is done here to keep some logic and consistency in this quite complex code,
1443                  * since we may want to use lnors even when mesh's 'autosmooth' is disabled (see e.g. mesh mapping code).
1444                  * As usual, we could handle that on case-by-case basis, but simpler to keep it well confined here.
1445                  */
1446                 int mp_index;
1447
1448                 for (mp_index = 0; mp_index < numPolys; mp_index++) {
1449                         MPoly *mp = &mpolys[mp_index];
1450                         int ml_index = mp->loopstart;
1451                         const int ml_index_end = ml_index + mp->totloop;
1452                         const bool is_poly_flat = ((mp->flag & ME_SMOOTH) == 0);
1453
1454                         for (; ml_index < ml_index_end; ml_index++) {
1455                                 if (r_loop_to_poly) {
1456                                         r_loop_to_poly[ml_index] = mp_index;
1457                                 }
1458                                 if (is_poly_flat) {
1459                                         copy_v3_v3(r_loopnors[ml_index], polynors[mp_index]);
1460                                 }
1461                                 else {
1462                                         normal_short_to_float_v3(r_loopnors[ml_index], mverts[mloops[ml_index].v].no);
1463                                 }
1464                         }
1465                 }
1466                 return;
1467         }
1468
1469         /* Mapping edge -> loops.
1470          * If that edge is used by more than two loops (polys), it is always sharp (and tagged as such, see below).
1471          * We also use the second loop index as a kind of flag: smooth edge: > 0,
1472          *                                                      sharp edge: < 0 (INDEX_INVALID || INDEX_UNSET),
1473          *                                                      unset: INDEX_UNSET
1474          * Note that currently we only have two values for second loop of sharp edges. However, if needed, we can
1475          * store the negated value of loop index instead of INDEX_INVALID to retrieve the real value later in code).
1476          * Note also that lose edges always have both values set to 0!
1477          */
1478         int (*edge_to_loops)[2] = MEM_calloc_arrayN((size_t)numEdges, sizeof(*edge_to_loops), __func__);
1479
1480         /* Simple mapping from a loop to its polygon index. */
1481         int *loop_to_poly = r_loop_to_poly ? r_loop_to_poly : MEM_malloc_arrayN((size_t)numLoops, sizeof(*loop_to_poly), __func__);
1482
1483         /* When using custom loop normals, disable the angle feature! */
1484         const bool check_angle = (split_angle < (float)M_PI) && (clnors_data == NULL);
1485
1486         MLoopNorSpaceArray _lnors_spacearr = {NULL};
1487
1488 #ifdef DEBUG_TIME
1489         TIMEIT_START_AVERAGED(BKE_mesh_normals_loop_split);
1490 #endif
1491
1492         if (!r_lnors_spacearr && clnors_data) {
1493                 /* We need to compute lnor spacearr if some custom lnor data are given to us! */
1494                 r_lnors_spacearr = &_lnors_spacearr;
1495         }
1496         if (r_lnors_spacearr) {
1497                 BKE_lnor_spacearr_init(r_lnors_spacearr, numLoops, MLNOR_SPACEARR_LOOP_INDEX);
1498         }
1499
1500         /* Init data common to all tasks. */
1501         LoopSplitTaskDataCommon common_data = {
1502             .lnors_spacearr = r_lnors_spacearr,
1503             .loopnors = r_loopnors,
1504             .clnors_data = clnors_data,
1505             .mverts = mverts,
1506             .medges = medges,
1507             .mloops = mloops,
1508             .mpolys = mpolys,
1509             .edge_to_loops = edge_to_loops,
1510             .loop_to_poly = loop_to_poly,
1511             .polynors = polynors,
1512             .numEdges = numEdges,
1513             .numLoops = numLoops,
1514             .numPolys = numPolys,
1515         };
1516
1517         /* This first loop check which edges are actually smooth, and compute edge vectors. */
1518         mesh_edges_sharp_tag(&common_data, check_angle, split_angle, false);
1519
1520         if (numLoops < LOOP_SPLIT_TASK_BLOCK_SIZE * 8) {
1521                 /* Not enough loops to be worth the whole threading overhead... */
1522                 loop_split_generator(NULL, &common_data);
1523         }
1524         else {
1525                 TaskScheduler *task_scheduler;
1526                 TaskPool *task_pool;
1527
1528                 task_scheduler = BLI_task_scheduler_get();
1529                 task_pool = BLI_task_pool_create(task_scheduler, &common_data);
1530
1531                 loop_split_generator(task_pool, &common_data);
1532
1533                 BLI_task_pool_work_and_wait(task_pool);
1534
1535                 BLI_task_pool_free(task_pool);
1536         }
1537
1538         MEM_freeN(edge_to_loops);
1539         if (!r_loop_to_poly) {
1540                 MEM_freeN(loop_to_poly);
1541         }
1542
1543         if (r_lnors_spacearr) {
1544                 if (r_lnors_spacearr == &_lnors_spacearr) {
1545                         BKE_lnor_spacearr_free(r_lnors_spacearr);
1546                 }
1547         }
1548
1549 #ifdef DEBUG_TIME
1550         TIMEIT_END_AVERAGED(BKE_mesh_normals_loop_split);
1551 #endif
1552 }
1553
1554 #undef INDEX_UNSET
1555 #undef INDEX_INVALID
1556 #undef IS_EDGE_SHARP
1557
1558 /**
1559  * Compute internal representation of given custom normals (as an array of float[2]).
1560  * It also makes sure the mesh matches those custom normals, by setting sharp edges flag as needed to get a
1561  * same custom lnor for all loops sharing a same smooth fan.
1562  * If use_vertices if true, r_custom_loopnors is assumed to be per-vertex, not per-loop
1563  * (this allows to set whole vert's normals at once, useful in some cases).
1564  * r_custom_loopnors is expected to have normalized normals, or zero ones, in which case they will be replaced
1565  * by default loop/vertex normal.
1566  */
1567 static void mesh_normals_loop_custom_set(
1568         const MVert *mverts, const int numVerts, MEdge *medges, const int numEdges,
1569         MLoop *mloops, float (*r_custom_loopnors)[3], const int numLoops,
1570         MPoly *mpolys, const float (*polynors)[3], const int numPolys,
1571         short (*r_clnors_data)[2], const bool use_vertices)
1572 {
1573         /* We *may* make that poor BKE_mesh_normals_loop_split() even more complex by making it handling that
1574          * feature too, would probably be more efficient in absolute.
1575          * However, this function *is not* performance-critical, since it is mostly expected to be called
1576          * by io addons when importing custom normals, and modifier (and perhaps from some editing tools later?).
1577          * So better to keep some simplicity here, and just call BKE_mesh_normals_loop_split() twice!
1578          */
1579         MLoopNorSpaceArray lnors_spacearr = {NULL};
1580         BLI_bitmap *done_loops = BLI_BITMAP_NEW((size_t)numLoops, __func__);
1581         float (*lnors)[3] = MEM_calloc_arrayN((size_t)numLoops, sizeof(*lnors), __func__);
1582         int *loop_to_poly = MEM_malloc_arrayN((size_t)numLoops, sizeof(int), __func__);
1583         /* In this case we always consider split nors as ON, and do not want to use angle to define smooth fans! */
1584         const bool use_split_normals = true;
1585         const float split_angle = (float)M_PI;
1586         int i;
1587
1588         BLI_SMALLSTACK_DECLARE(clnors_data, short *);
1589
1590         /* Compute current lnor spacearr. */
1591         BKE_mesh_normals_loop_split(
1592                 mverts, numVerts, medges, numEdges, mloops, lnors, numLoops,
1593                 mpolys, polynors, numPolys, use_split_normals, split_angle,
1594                 &lnors_spacearr, NULL, loop_to_poly);
1595
1596         /* Set all given zero vectors to their default value. */
1597         if (use_vertices) {
1598                 for (i = 0; i < numVerts; i++) {
1599                         if (is_zero_v3(r_custom_loopnors[i])) {
1600                                 normal_short_to_float_v3(r_custom_loopnors[i], mverts[i].no);
1601                         }
1602                 }
1603         }
1604         else {
1605                 for (i = 0; i < numLoops; i++) {
1606                         if (is_zero_v3(r_custom_loopnors[i])) {
1607                                 copy_v3_v3(r_custom_loopnors[i], lnors[i]);
1608                         }
1609                 }
1610         }
1611
1612         BLI_assert(lnors_spacearr.data_type == MLNOR_SPACEARR_LOOP_INDEX);
1613
1614         /* Now, check each current smooth fan (one lnor space per smooth fan!), and if all its matching custom lnors
1615          * are not (enough) equal, add sharp edges as needed.
1616          * This way, next time we run BKE_mesh_normals_loop_split(), we'll get lnor spacearr/smooth fans matching
1617          * given custom lnors.
1618          * Note this code *will never* unsharp edges!
1619          * And quite obviously, when we set custom normals per vertices, running this is absolutely useless.
1620          */
1621         if (!use_vertices) {
1622                 for (i = 0; i < numLoops; i++) {
1623                         if (!lnors_spacearr.lspacearr[i]) {
1624                                 /* This should not happen in theory, but in some rare case (probably ugly geometry)
1625                                  * we can get some NULL loopspacearr at this point. :/
1626                                  * Maybe we should set those loops' edges as sharp?
1627                                  */
1628                                 BLI_BITMAP_ENABLE(done_loops, i);
1629                                 if (G.debug & G_DEBUG) {
1630                                         printf("WARNING! Getting invalid NULL loop space for loop %d!\n", i);
1631                                 }
1632                                 continue;
1633                         }
1634
1635                         if (!BLI_BITMAP_TEST(done_loops, i)) {
1636                                 /* Notes:
1637                                  *     * In case of mono-loop smooth fan, we have nothing to do.
1638                                  *     * Loops in this linklist are ordered (in reversed order compared to how they were discovered by
1639                                  *       BKE_mesh_normals_loop_split(), but this is not a problem). Which means if we find a
1640                                  *       mismatching clnor, we know all remaining loops will have to be in a new, different smooth fan/
1641                                  *       lnor space.
1642                                  *     * In smooth fan case, we compare each clnor against a ref one, to avoid small differences adding
1643                                  *       up into a real big one in the end!
1644                                  */
1645                                 if (lnors_spacearr.lspacearr[i]->flags & MLNOR_SPACE_IS_SINGLE) {
1646                                         BLI_BITMAP_ENABLE(done_loops, i);
1647                                         continue;
1648                                 }
1649
1650                                 LinkNode *loops = lnors_spacearr.lspacearr[i]->loops;
1651                                 MLoop *prev_ml = NULL;
1652                                 const float *org_nor = NULL;
1653
1654                                 while (loops) {
1655                                         const int lidx = POINTER_AS_INT(loops->link);
1656                                         MLoop *ml = &mloops[lidx];
1657                                         const int nidx = lidx;
1658                                         float *nor = r_custom_loopnors[nidx];
1659
1660                                         if (!org_nor) {
1661                                                 org_nor = nor;
1662                                         }
1663                                         else if (dot_v3v3(org_nor, nor) < LNOR_SPACE_TRIGO_THRESHOLD) {
1664                                                 /* Current normal differs too much from org one, we have to tag the edge between
1665                                                  * previous loop's face and current's one as sharp.
1666                                                  * We know those two loops do not point to the same edge, since we do not allow reversed winding
1667                                                  * in a same smooth fan.
1668                                                  */
1669                                                 const MPoly *mp = &mpolys[loop_to_poly[lidx]];
1670                                                 const MLoop *mlp = &mloops[(lidx == mp->loopstart) ? mp->loopstart + mp->totloop - 1 : lidx - 1];
1671                                                 medges[(prev_ml->e == mlp->e) ? prev_ml->e : ml->e].flag |= ME_SHARP;
1672
1673                                                 org_nor = nor;
1674                                         }
1675
1676                                         prev_ml = ml;
1677                                         loops = loops->next;
1678                                         BLI_BITMAP_ENABLE(done_loops, lidx);
1679                                 }
1680
1681                                 /* We also have to check between last and first loops, otherwise we may miss some sharp edges here!
1682                                  * This is just a simplified version of above while loop.
1683                                  * See T45984. */
1684                                 loops = lnors_spacearr.lspacearr[i]->loops;
1685                                 if (loops && org_nor) {
1686                                         const int lidx = POINTER_AS_INT(loops->link);
1687                                         MLoop *ml = &mloops[lidx];
1688                                         const int nidx = lidx;
1689                                         float *nor = r_custom_loopnors[nidx];
1690
1691                                         if (dot_v3v3(org_nor, nor) < LNOR_SPACE_TRIGO_THRESHOLD) {
1692                                                 const MPoly *mp = &mpolys[loop_to_poly[lidx]];
1693                                                 const MLoop *mlp = &mloops[(lidx == mp->loopstart) ? mp->loopstart + mp->totloop - 1 : lidx - 1];
1694                                                 medges[(prev_ml->e == mlp->e) ? prev_ml->e : ml->e].flag |= ME_SHARP;
1695                                         }
1696                                 }
1697                         }
1698                 }
1699
1700                 /* And now, recompute our new auto lnors and lnor spacearr! */
1701                 BKE_lnor_spacearr_clear(&lnors_spacearr);
1702                 BKE_mesh_normals_loop_split(
1703                         mverts, numVerts, medges, numEdges, mloops, lnors, numLoops,
1704                         mpolys, polynors, numPolys, use_split_normals, split_angle,
1705                         &lnors_spacearr, NULL, loop_to_poly);
1706         }
1707         else {
1708                 BLI_BITMAP_SET_ALL(done_loops, true, (size_t)numLoops);
1709         }
1710
1711         /* And we just have to convert plain object-space custom normals to our lnor space-encoded ones. */
1712         for (i = 0; i < numLoops; i++) {
1713                 if (!lnors_spacearr.lspacearr[i]) {
1714                         BLI_BITMAP_DISABLE(done_loops, i);
1715                         if (G.debug & G_DEBUG) {
1716                                 printf("WARNING! Still getting invalid NULL loop space in second loop for loop %d!\n", i);
1717                         }
1718                         continue;
1719                 }
1720
1721                 if (BLI_BITMAP_TEST_BOOL(done_loops, i)) {
1722                         /* Note we accumulate and average all custom normals in current smooth fan, to avoid getting different
1723                          * clnors data (tiny differences in plain custom normals can give rather huge differences in
1724                          * computed 2D factors).
1725                          */
1726                         LinkNode *loops = lnors_spacearr.lspacearr[i]->loops;
1727                         if (lnors_spacearr.lspacearr[i]->flags & MLNOR_SPACE_IS_SINGLE) {
1728                                 BLI_assert(POINTER_AS_INT(loops) == i);
1729                                 const int nidx = use_vertices ? (int)mloops[i].v : i;
1730                                 float *nor = r_custom_loopnors[nidx];
1731
1732                                 BKE_lnor_space_custom_normal_to_data(lnors_spacearr.lspacearr[i], nor, r_clnors_data[i]);
1733                                 BLI_BITMAP_DISABLE(done_loops, i);
1734                         }
1735                         else {
1736                                 int nbr_nors = 0;
1737                                 float avg_nor[3];
1738                                 short clnor_data_tmp[2], *clnor_data;
1739
1740                                 zero_v3(avg_nor);
1741                                 while (loops) {
1742                                         const int lidx = POINTER_AS_INT(loops->link);
1743                                         const int nidx = use_vertices ? (int)mloops[lidx].v : lidx;
1744                                         float *nor = r_custom_loopnors[nidx];
1745
1746                                         nbr_nors++;
1747                                         add_v3_v3(avg_nor, nor);
1748                                         BLI_SMALLSTACK_PUSH(clnors_data, (short *)r_clnors_data[lidx]);
1749
1750                                         loops = loops->next;
1751                                         BLI_BITMAP_DISABLE(done_loops, lidx);
1752                                 }
1753
1754                                 mul_v3_fl(avg_nor, 1.0f / (float)nbr_nors);
1755                                 BKE_lnor_space_custom_normal_to_data(lnors_spacearr.lspacearr[i], avg_nor, clnor_data_tmp);
1756
1757                                 while ((clnor_data = BLI_SMALLSTACK_POP(clnors_data))) {
1758                                         clnor_data[0] = clnor_data_tmp[0];
1759                                         clnor_data[1] = clnor_data_tmp[1];
1760                                 }
1761                         }
1762                 }
1763         }
1764
1765         MEM_freeN(lnors);
1766         MEM_freeN(loop_to_poly);
1767         MEM_freeN(done_loops);
1768         BKE_lnor_spacearr_free(&lnors_spacearr);
1769 }
1770
1771 void BKE_mesh_normals_loop_custom_set(
1772         const MVert *mverts, const int numVerts, MEdge *medges, const int numEdges,
1773         MLoop *mloops, float (*r_custom_loopnors)[3], const int numLoops,
1774         MPoly *mpolys, const float (*polynors)[3], const int numPolys,
1775         short (*r_clnors_data)[2])
1776 {
1777         mesh_normals_loop_custom_set(
1778                 mverts, numVerts, medges, numEdges, mloops, r_custom_loopnors, numLoops,
1779                 mpolys, polynors, numPolys, r_clnors_data, false);
1780 }
1781
1782 void BKE_mesh_normals_loop_custom_from_vertices_set(
1783         const MVert *mverts, float (*r_custom_vertnors)[3], const int numVerts,
1784         MEdge *medges, const int numEdges, MLoop *mloops, const int numLoops,
1785         MPoly *mpolys, const float (*polynors)[3], const int numPolys,
1786         short (*r_clnors_data)[2])
1787 {
1788         mesh_normals_loop_custom_set(
1789                 mverts, numVerts, medges, numEdges, mloops, r_custom_vertnors, numLoops,
1790                 mpolys, polynors, numPolys, r_clnors_data, true);
1791 }
1792
1793 /**
1794  * Computes average per-vertex normals from given custom loop normals.
1795  *
1796  * \param clnors: The computed custom loop normals.
1797  * \param r_vert_clnors: The (already allocated) array where to store averaged per-vertex normals.
1798  */
1799 void BKE_mesh_normals_loop_to_vertex(
1800         const int numVerts, const MLoop *mloops, const int numLoops,
1801         const float (*clnors)[3], float (*r_vert_clnors)[3])
1802 {
1803         const MLoop *ml;
1804         int i;
1805
1806         int *vert_loops_nbr = MEM_calloc_arrayN((size_t)numVerts, sizeof(*vert_loops_nbr), __func__);
1807
1808         copy_vn_fl((float *)r_vert_clnors, 3 * numVerts, 0.0f);
1809
1810         for (i = 0, ml = mloops; i < numLoops; i++, ml++) {
1811                 const unsigned int v = ml->v;
1812
1813                 add_v3_v3(r_vert_clnors[v], clnors[i]);
1814                 vert_loops_nbr[v]++;
1815         }
1816
1817         for (i = 0; i < numVerts; i++) {
1818                 mul_v3_fl(r_vert_clnors[i], 1.0f / (float)vert_loops_nbr[i]);
1819         }
1820
1821         MEM_freeN(vert_loops_nbr);
1822 }
1823
1824
1825 #undef LNOR_SPACE_TRIGO_THRESHOLD
1826
1827 /** \} */
1828
1829
1830 /* -------------------------------------------------------------------- */
1831
1832 /** \name Mesh Tangent Calculations
1833  * \{ */
1834
1835 /* Tangent space utils. */
1836
1837 /* User data. */
1838 typedef struct {
1839         const MPoly *mpolys;   /* faces */
1840         const MLoop *mloops;   /* faces's vertices */
1841         const MVert *mverts;   /* vertices */
1842         const MLoopUV *luvs;   /* texture coordinates */
1843         float (*lnors)[3];     /* loops' normals */
1844         float (*tangents)[4];  /* output tangents */
1845         int num_polys;         /* number of polygons */
1846 } BKEMeshToTangent;
1847
1848 /* Mikktspace's API */
1849 static int get_num_faces(const SMikkTSpaceContext *pContext)
1850 {
1851         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1852         return p_mesh->num_polys;
1853 }
1854
1855 static int get_num_verts_of_face(const SMikkTSpaceContext *pContext, const int face_idx)
1856 {
1857         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1858         return p_mesh->mpolys[face_idx].totloop;
1859 }
1860
1861 static void get_position(const SMikkTSpaceContext *pContext, float r_co[3], const int face_idx, const int vert_idx)
1862 {
1863         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1864         const int loop_idx = p_mesh->mpolys[face_idx].loopstart + vert_idx;
1865         copy_v3_v3(r_co, p_mesh->mverts[p_mesh->mloops[loop_idx].v].co);
1866 }
1867
1868 static void get_texture_coordinate(
1869         const SMikkTSpaceContext *pContext, float r_uv[2], const int face_idx,
1870         const int vert_idx)
1871 {
1872         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1873         copy_v2_v2(r_uv, p_mesh->luvs[p_mesh->mpolys[face_idx].loopstart + vert_idx].uv);
1874 }
1875
1876 static void get_normal(const SMikkTSpaceContext *pContext, float r_no[3], const int face_idx, const int vert_idx)
1877 {
1878         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1879         copy_v3_v3(r_no, p_mesh->lnors[p_mesh->mpolys[face_idx].loopstart + vert_idx]);
1880 }
1881
1882 static void set_tspace(
1883         const SMikkTSpaceContext *pContext, const float fv_tangent[3], const float face_sign,
1884         const int face_idx, const int vert_idx)
1885 {
1886         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
1887         float *p_res = p_mesh->tangents[p_mesh->mpolys[face_idx].loopstart + vert_idx];
1888         copy_v3_v3(p_res, fv_tangent);
1889         p_res[3] = face_sign;
1890 }
1891
1892 /**
1893  * Compute simplified tangent space normals, i.e. tangent vector + sign of bi-tangent one, which combined with
1894  * split normals can be used to recreate the full tangent space.
1895  * Note: * The mesh should be made of only tris and quads!
1896  */
1897 void BKE_mesh_loop_tangents_ex(
1898         const MVert *mverts, const int UNUSED(numVerts), const MLoop *mloops,
1899         float (*r_looptangent)[4], float (*loopnors)[3], const MLoopUV *loopuvs,
1900         const int UNUSED(numLoops), const MPoly *mpolys, const int numPolys,
1901         ReportList *reports)
1902 {
1903         BKEMeshToTangent mesh_to_tangent = {NULL};
1904         SMikkTSpaceContext s_context = {NULL};
1905         SMikkTSpaceInterface s_interface = {NULL};
1906
1907         const MPoly *mp;
1908         int mp_index;
1909
1910         /* First check we do have a tris/quads only mesh. */
1911         for (mp = mpolys, mp_index = 0; mp_index < numPolys; mp++, mp_index++) {
1912                 if (mp->totloop > 4) {
1913                         BKE_report(reports, RPT_ERROR, "Tangent space can only be computed for tris/quads, aborting");
1914                         return;
1915                 }
1916         }
1917
1918         /* Compute Mikktspace's tangent normals. */
1919         mesh_to_tangent.mpolys = mpolys;
1920         mesh_to_tangent.mloops = mloops;
1921         mesh_to_tangent.mverts = mverts;
1922         mesh_to_tangent.luvs = loopuvs;
1923         mesh_to_tangent.lnors = loopnors;
1924         mesh_to_tangent.tangents = r_looptangent;
1925         mesh_to_tangent.num_polys = numPolys;
1926
1927         s_context.m_pUserData = &mesh_to_tangent;
1928         s_context.m_pInterface = &s_interface;
1929         s_interface.m_getNumFaces = get_num_faces;
1930         s_interface.m_getNumVerticesOfFace = get_num_verts_of_face;
1931         s_interface.m_getPosition = get_position;
1932         s_interface.m_getTexCoord = get_texture_coordinate;
1933         s_interface.m_getNormal = get_normal;
1934         s_interface.m_setTSpaceBasic = set_tspace;
1935
1936         /* 0 if failed */
1937         if (genTangSpaceDefault(&s_context) == false) {
1938                 BKE_report(reports, RPT_ERROR, "Mikktspace failed to generate tangents for this mesh!");
1939         }
1940 }
1941
1942 /**
1943  * Wrapper around BKE_mesh_loop_tangents_ex, which takes care of most boiling code.
1944  * \note
1945  * - There must be a valid loop's CD_NORMALS available.
1946  * - The mesh should be made of only tris and quads!
1947  */
1948 void BKE_mesh_loop_tangents(Mesh *mesh, const char *uvmap, float (*r_looptangents)[4], ReportList *reports)
1949 {
1950         MLoopUV *loopuvs;
1951         float (*loopnors)[3];
1952
1953         /* Check we have valid texture coordinates first! */
1954         if (uvmap) {
1955                 loopuvs = CustomData_get_layer_named(&mesh->ldata, CD_MLOOPUV, uvmap);
1956         }
1957         else {
1958                 loopuvs = CustomData_get_layer(&mesh->ldata, CD_MLOOPUV);
1959         }
1960         if (!loopuvs) {
1961                 BKE_reportf(reports, RPT_ERROR, "Tangent space computation needs an UVMap, \"%s\" not found, aborting", uvmap);
1962                 return;
1963         }
1964
1965         loopnors = CustomData_get_layer(&mesh->ldata, CD_NORMAL);
1966         if (!loopnors) {
1967                 BKE_report(reports, RPT_ERROR, "Tangent space computation needs loop normals, none found, aborting");
1968                 return;
1969         }
1970
1971         BKE_mesh_loop_tangents_ex(
1972                 mesh->mvert, mesh->totvert, mesh->mloop, r_looptangents,
1973                 loopnors, loopuvs, mesh->totloop, mesh->mpoly, mesh->totpoly, reports);
1974 }
1975
1976 /** \} */
1977
1978
1979 /* -------------------------------------------------------------------- */
1980
1981 /** \name Polygon Calculations
1982  * \{ */
1983
1984 /*
1985  * COMPUTE POLY NORMAL
1986  *
1987  * Computes the normal of a planar
1988  * polygon See Graphics Gems for
1989  * computing newell normal.
1990  */
1991 static void mesh_calc_ngon_normal(
1992         const MPoly *mpoly, const MLoop *loopstart,
1993         const MVert *mvert, float normal[3])
1994 {
1995         const int nverts = mpoly->totloop;
1996         const float *v_prev = mvert[loopstart[nverts - 1].v].co;
1997         const float *v_curr;
1998         int i;
1999
2000         zero_v3(normal);
2001
2002         /* Newell's Method */
2003         for (i = 0; i < nverts; i++) {
2004                 v_curr = mvert[loopstart[i].v].co;
2005                 add_newell_cross_v3_v3v3(normal, v_prev, v_curr);
2006                 v_prev = v_curr;
2007         }
2008
2009         if (UNLIKELY(normalize_v3(normal) == 0.0f)) {
2010                 normal[2] = 1.0f; /* other axis set to 0.0 */
2011         }
2012 }
2013
2014 void BKE_mesh_calc_poly_normal(
2015         const MPoly *mpoly, const MLoop *loopstart,
2016         const MVert *mvarray, float r_no[3])
2017 {
2018         if (mpoly->totloop > 4) {
2019                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, r_no);
2020         }
2021         else if (mpoly->totloop == 3) {
2022                 normal_tri_v3(
2023                         r_no,
2024                         mvarray[loopstart[0].v].co,
2025                         mvarray[loopstart[1].v].co,
2026                         mvarray[loopstart[2].v].co);
2027         }
2028         else if (mpoly->totloop == 4) {
2029                 normal_quad_v3(
2030                         r_no,
2031                         mvarray[loopstart[0].v].co,
2032                         mvarray[loopstart[1].v].co,
2033                         mvarray[loopstart[2].v].co,
2034                         mvarray[loopstart[3].v].co);
2035         }
2036         else { /* horrible, two sided face! */
2037                 r_no[0] = 0.0;
2038                 r_no[1] = 0.0;
2039                 r_no[2] = 1.0;
2040         }
2041 }
2042 /* duplicate of function above _but_ takes coords rather then mverts */
2043 static void mesh_calc_ngon_normal_coords(
2044         const MPoly *mpoly, const MLoop *loopstart,
2045         const float (*vertex_coords)[3], float r_normal[3])
2046 {
2047         const int nverts = mpoly->totloop;
2048         const float *v_prev = vertex_coords[loopstart[nverts - 1].v];
2049         const float *v_curr;
2050         int i;
2051
2052         zero_v3(r_normal);
2053
2054         /* Newell's Method */
2055         for (i = 0; i < nverts; i++) {
2056                 v_curr = vertex_coords[loopstart[i].v];
2057                 add_newell_cross_v3_v3v3(r_normal, v_prev, v_curr);
2058                 v_prev = v_curr;
2059         }
2060
2061         if (UNLIKELY(normalize_v3(r_normal) == 0.0f)) {
2062                 r_normal[2] = 1.0f; /* other axis set to 0.0 */
2063         }
2064 }
2065
2066 void BKE_mesh_calc_poly_normal_coords(
2067         const MPoly *mpoly, const MLoop *loopstart,
2068         const float (*vertex_coords)[3], float r_no[3])
2069 {
2070         if (mpoly->totloop > 4) {
2071                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, r_no);
2072         }
2073         else if (mpoly->totloop == 3) {
2074                 normal_tri_v3(
2075                         r_no,
2076                         vertex_coords[loopstart[0].v],
2077                         vertex_coords[loopstart[1].v],
2078                         vertex_coords[loopstart[2].v]);
2079         }
2080         else if (mpoly->totloop == 4) {
2081                 normal_quad_v3(
2082                         r_no,
2083                         vertex_coords[loopstart[0].v],
2084                         vertex_coords[loopstart[1].v],
2085                         vertex_coords[loopstart[2].v],
2086                         vertex_coords[loopstart[3].v]);
2087         }
2088         else { /* horrible, two sided face! */
2089                 r_no[0] = 0.0;
2090                 r_no[1] = 0.0;
2091                 r_no[2] = 1.0;
2092         }
2093 }
2094
2095 static void mesh_calc_ngon_center(
2096         const MPoly *mpoly, const MLoop *loopstart,
2097         const MVert *mvert, float cent[3])
2098 {
2099         const float w = 1.0f / (float)mpoly->totloop;
2100         int i;
2101
2102         zero_v3(cent);
2103
2104         for (i = 0; i < mpoly->totloop; i++) {
2105                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2106         }
2107 }
2108
2109 void BKE_mesh_calc_poly_center(
2110         const MPoly *mpoly, const MLoop *loopstart,
2111         const MVert *mvarray, float r_cent[3])
2112 {
2113         if (mpoly->totloop == 3) {
2114                 mid_v3_v3v3v3(
2115                         r_cent,
2116                         mvarray[loopstart[0].v].co,
2117                         mvarray[loopstart[1].v].co,
2118                         mvarray[loopstart[2].v].co);
2119         }
2120         else if (mpoly->totloop == 4) {
2121                 mid_v3_v3v3v3v3(
2122                         r_cent,
2123                         mvarray[loopstart[0].v].co,
2124                         mvarray[loopstart[1].v].co,
2125                         mvarray[loopstart[2].v].co,
2126                         mvarray[loopstart[3].v].co);
2127         }
2128         else {
2129                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, r_cent);
2130         }
2131 }
2132
2133 /* note, passing polynormal is only a speedup so we can skip calculating it */
2134 float BKE_mesh_calc_poly_area(
2135         const MPoly *mpoly, const MLoop *loopstart,
2136         const MVert *mvarray)
2137 {
2138         if (mpoly->totloop == 3) {
2139                 return area_tri_v3(
2140                         mvarray[loopstart[0].v].co,
2141                         mvarray[loopstart[1].v].co,
2142                         mvarray[loopstart[2].v].co);
2143         }
2144         else {
2145                 int i;
2146                 const MLoop *l_iter = loopstart;
2147                 float area;
2148                 float (*vertexcos)[3] = BLI_array_alloca(vertexcos, (size_t)mpoly->totloop);
2149
2150                 /* pack vertex cos into an array for area_poly_v3 */
2151                 for (i = 0; i < mpoly->totloop; i++, l_iter++) {
2152                         copy_v3_v3(vertexcos[i], mvarray[l_iter->v].co);
2153                 }
2154
2155                 /* finally calculate the area */
2156                 area = area_poly_v3((const float (*)[3])vertexcos, (unsigned int)mpoly->totloop);
2157
2158                 return area;
2159         }
2160 }
2161
2162 /**
2163  * Calculate the volume and volume-weighted centroid of the volume formed by the polygon and the origin.
2164  * Results will be negative if the origin is "outside" the polygon
2165  * (+ve normal side), but the polygon may be non-planar with no effect.
2166  *
2167  * Method from:
2168  * - http://forums.cgsociety.org/archive/index.php?t-756235.html
2169  * - http://www.globalspec.com/reference/52702/203279/4-8-the-centroid-of-a-tetrahedron
2170  *
2171  * \note
2172  * - Volume is 6x actual volume, and centroid is 4x actual volume-weighted centroid
2173  *   (so division can be done once at the end).
2174  * - Results will have bias if polygon is non-planar.
2175  * - The resulting volume will only be correct if the mesh is manifold and has consistent face winding
2176  *   (non-contiguous face normals or holes in the mesh surface).
2177  */
2178 static float mesh_calc_poly_volume_centroid(
2179         const MPoly *mpoly, const MLoop *loopstart, const MVert *mvarray,
2180         float r_cent[3])
2181 {
2182         const float *v_pivot, *v_step1;
2183         float total_volume = 0.0f;
2184
2185         zero_v3(r_cent);
2186
2187         v_pivot = mvarray[loopstart[0].v].co;
2188         v_step1 = mvarray[loopstart[1].v].co;
2189
2190         for (int i = 2; i < mpoly->totloop; i++) {
2191                 const float *v_step2 = mvarray[loopstart[i].v].co;
2192
2193                 /* Calculate the 6x volume of the tetrahedron formed by the 3 vertices
2194                  * of the triangle and the origin as the fourth vertex */
2195                 float v_cross[3];
2196                 cross_v3_v3v3(v_cross, v_pivot, v_step1);
2197                 const float tetra_volume = dot_v3v3 (v_cross, v_step2);
2198                 total_volume += tetra_volume;
2199
2200                 /* Calculate the centroid of the tetrahedron formed by the 3 vertices
2201                  * of the triangle and the origin as the fourth vertex.
2202                  * The centroid is simply the average of the 4 vertices.
2203                  *
2204                  * Note that the vector is 4x the actual centroid so the division can be done once at the end. */
2205                 for (uint j = 0; j < 3; j++) {
2206                         r_cent[j] += tetra_volume * (v_pivot[j] + v_step1[j] + v_step2[j]);
2207                 }
2208
2209                 v_step1 = v_step2;
2210         }
2211
2212         return total_volume;
2213 }
2214
2215 /**
2216  * \note
2217  * - Results won't be correct if polygon is non-planar.
2218  * - This has the advantage over #mesh_calc_poly_volume_centroid
2219  *   that it doesn't depend on solid geometry, instead it weights the surface by volume.
2220  */
2221 static float mesh_calc_poly_area_centroid(
2222         const MPoly *mpoly, const MLoop *loopstart, const MVert *mvarray,
2223         float r_cent[3])
2224 {
2225         int i;
2226         float tri_area;
2227         float total_area = 0.0f;
2228         float v1[3], v2[3], v3[3], normal[3], tri_cent[3];
2229
2230         BKE_mesh_calc_poly_normal(mpoly, loopstart, mvarray, normal);
2231         copy_v3_v3(v1, mvarray[loopstart[0].v].co);
2232         copy_v3_v3(v2, mvarray[loopstart[1].v].co);
2233         zero_v3(r_cent);
2234
2235         for (i = 2; i < mpoly->totloop; i++) {
2236                 copy_v3_v3(v3, mvarray[loopstart[i].v].co);
2237
2238                 tri_area = area_tri_signed_v3(v1, v2, v3, normal);
2239                 total_area += tri_area;
2240
2241                 mid_v3_v3v3v3(tri_cent, v1, v2, v3);
2242                 madd_v3_v3fl(r_cent, tri_cent, tri_area);
2243
2244                 copy_v3_v3(v2, v3);
2245         }
2246
2247         mul_v3_fl(r_cent, 1.0f / total_area);
2248
2249         return total_area;
2250 }
2251
2252 #if 0 /* slow version of the function below */
2253 void BKE_mesh_calc_poly_angles(
2254         MPoly *mpoly, MLoop *loopstart,
2255         MVert *mvarray, float angles[])
2256 {
2257         MLoop *ml;
2258         MLoop *mloop = &loopstart[-mpoly->loopstart];
2259
2260         int j;
2261         for (j = 0, ml = loopstart; j < mpoly->totloop; j++, ml++) {
2262                 MLoop *ml_prev = ME_POLY_LOOP_PREV(mloop, mpoly, j);
2263                 MLoop *ml_next = ME_POLY_LOOP_NEXT(mloop, mpoly, j);
2264
2265                 float e1[3], e2[3];
2266
2267                 sub_v3_v3v3(e1, mvarray[ml_next->v].co, mvarray[ml->v].co);
2268                 sub_v3_v3v3(e2, mvarray[ml_prev->v].co, mvarray[ml->v].co);
2269
2270                 angles[j] = (float)M_PI - angle_v3v3(e1, e2);
2271         }
2272 }
2273
2274 #else /* equivalent the function above but avoid multiple subtractions + normalize */
2275
2276 void BKE_mesh_calc_poly_angles(
2277         const MPoly *mpoly, const MLoop *loopstart,
2278         const MVert *mvarray, float angles[])
2279 {
2280         float nor_prev[3];
2281         float nor_next[3];
2282
2283         int i_this = mpoly->totloop - 1;
2284         int i_next = 0;
2285
2286         sub_v3_v3v3(nor_prev, mvarray[loopstart[i_this - 1].v].co, mvarray[loopstart[i_this].v].co);
2287         normalize_v3(nor_prev);
2288
2289         while (i_next < mpoly->totloop) {
2290                 sub_v3_v3v3(nor_next, mvarray[loopstart[i_this].v].co, mvarray[loopstart[i_next].v].co);
2291                 normalize_v3(nor_next);
2292                 angles[i_this] = angle_normalized_v3v3(nor_prev, nor_next);
2293
2294                 /* step */
2295                 copy_v3_v3(nor_prev, nor_next);
2296                 i_this = i_next;
2297                 i_next++;
2298         }
2299 }
2300 #endif
2301
2302 void BKE_mesh_poly_edgehash_insert(EdgeHash *ehash, const MPoly *mp, const MLoop *mloop)
2303 {
2304         const MLoop *ml, *ml_next;
2305         int i = mp->totloop;
2306
2307         ml_next = mloop;       /* first loop */
2308         ml = &ml_next[i - 1];  /* last loop */
2309
2310         while (i-- != 0) {
2311                 BLI_edgehash_reinsert(ehash, ml->v, ml_next->v, NULL);
2312
2313                 ml = ml_next;
2314                 ml_next++;
2315         }
2316 }
2317
2318 void BKE_mesh_poly_edgebitmap_insert(unsigned int *edge_bitmap, const MPoly *mp, const MLoop *mloop)
2319 {
2320         const MLoop *ml;
2321         int i = mp->totloop;
2322
2323         ml = mloop;
2324
2325         while (i-- != 0) {
2326                 BLI_BITMAP_ENABLE(edge_bitmap, ml->e);
2327                 ml++;
2328         }
2329 }
2330
2331 /** \} */
2332
2333
2334 /* -------------------------------------------------------------------- */
2335
2336 /** \name Mesh Center Calculation
2337  * \{ */
2338
2339 bool BKE_mesh_center_median(const Mesh *me, float r_cent[3])
2340 {
2341         int i = me->totvert;
2342         const MVert *mvert;
2343         zero_v3(r_cent);
2344         for (mvert = me->mvert; i--; mvert++) {
2345                 add_v3_v3(r_cent, mvert->co);
2346         }
2347         /* otherwise we get NAN for 0 verts */
2348         if (me->totvert) {
2349                 mul_v3_fl(r_cent, 1.0f / (float)me->totvert);
2350         }
2351
2352         return (me->totvert != 0);
2353 }
2354
2355 bool BKE_mesh_center_bounds(const Mesh *me, float r_cent[3])
2356 {
2357         float min[3], max[3];
2358         INIT_MINMAX(min, max);
2359         if (BKE_mesh_minmax(me, min, max)) {
2360                 mid_v3_v3v3(r_cent, min, max);
2361                 return true;
2362         }
2363
2364         return false;
2365 }
2366
2367 bool BKE_mesh_center_of_surface(const Mesh *me, float r_cent[3])
2368 {
2369         int i = me->totpoly;
2370         MPoly *mpoly;
2371         float poly_area;
2372         float total_area = 0.0f;
2373         float poly_cent[3];
2374
2375         zero_v3(r_cent);
2376
2377         /* calculate a weighted average of polygon centroids */
2378         for (mpoly = me->mpoly; i--; mpoly++) {
2379                 poly_area = mesh_calc_poly_area_centroid(mpoly, me->mloop + mpoly->loopstart, me->mvert, poly_cent);
2380
2381                 madd_v3_v3fl(r_cent, poly_cent, poly_area);
2382                 total_area += poly_area;
2383         }
2384         /* otherwise we get NAN for 0 polys */
2385         if (me->totpoly) {
2386                 mul_v3_fl(r_cent, 1.0f / total_area);
2387         }
2388
2389         /* zero area faces cause this, fallback to median */
2390         if (UNLIKELY(!is_finite_v3(r_cent))) {
2391                 return BKE_mesh_center_median(me, r_cent);
2392         }
2393
2394         return (me->totpoly != 0);
2395 }
2396
2397 /**
2398  * \note Mesh must be manifold with consistent face-winding, see #mesh_calc_poly_volume_centroid for details.
2399  */
2400 bool BKE_mesh_center_of_volume(const Mesh *me, float r_cent[3])
2401 {
2402         int i = me->totpoly;
2403         MPoly *mpoly;
2404         float poly_volume;
2405         float total_volume = 0.0f;
2406         float poly_cent[3];
2407
2408         zero_v3(r_cent);
2409
2410         /* calculate a weighted average of polyhedron centroids */
2411         for (mpoly = me->mpoly; i--; mpoly++) {
2412                 poly_volume = mesh_calc_poly_volume_centroid(mpoly, me->mloop + mpoly->loopstart, me->mvert, poly_cent);
2413
2414                 /* poly_cent is already volume-weighted, so no need to multiply by the volume */
2415                 add_v3_v3(r_cent, poly_cent);
2416                 total_volume += poly_volume;
2417         }
2418         /* otherwise we get NAN for 0 polys */
2419         if (total_volume != 0.0f) {
2420                 /* multiply by 0.25 to get the correct centroid */
2421                 /* no need to divide volume by 6 as the centroid is weighted by 6x the volume, so it all cancels out */
2422                 mul_v3_fl(r_cent, 0.25f / total_volume);
2423         }
2424
2425         /* this can happen for non-manifold objects, fallback to median */
2426         if (UNLIKELY(!is_finite_v3(r_cent))) {
2427                 return BKE_mesh_center_median(me, r_cent);
2428         }
2429
2430         return (me->totpoly != 0);
2431 }
2432
2433 /** \} */
2434
2435
2436 /* -------------------------------------------------------------------- */
2437
2438 /** \name Mesh Volume Calculation
2439  * \{ */
2440
2441 static bool mesh_calc_center_centroid_ex(
2442         const MVert *mverts, int UNUSED(mverts_num),
2443         const MLoopTri *looptri, int looptri_num,
2444         const MLoop *mloop, float r_center[3])
2445 {
2446         const MLoopTri *lt;
2447         float totweight;
2448         int i;
2449
2450         zero_v3(r_center);
2451
2452         if (looptri_num == 0)
2453                 return false;
2454
2455         totweight = 0.0f;
2456         for (i = 0, lt = looptri; i < looptri_num; i++, lt++) {
2457                 const MVert *v1 = &mverts[mloop[lt->tri[0]].v];
2458                 const MVert *v2 = &mverts[mloop[lt->tri[1]].v];
2459                 const MVert *v3 = &mverts[mloop[lt->tri[2]].v];
2460                 float area;
2461
2462                 area = area_tri_v3(v1->co, v2->co, v3->co);
2463                 madd_v3_v3fl(r_center, v1->co, area);
2464                 madd_v3_v3fl(r_center, v2->co, area);
2465                 madd_v3_v3fl(r_center, v3->co, area);
2466                 totweight += area;
2467         }
2468         if (totweight == 0.0f)
2469                 return false;
2470
2471         mul_v3_fl(r_center, 1.0f / (3.0f * totweight));
2472
2473         return true;
2474 }
2475
2476 /**
2477  * Calculate the volume and center.
2478  *
2479  * \param r_volume: Volume (unsigned).
2480  * \param r_center: Center of mass.
2481  */
2482 void BKE_mesh_calc_volume(
2483         const MVert *mverts, const int mverts_num,
2484         const MLoopTri *looptri, const int looptri_num,
2485         const MLoop *mloop,
2486         float *r_volume, float r_center[3])
2487 {
2488         const MLoopTri *lt;
2489         float center[3];
2490         float totvol;
2491         int i;
2492
2493         if (r_volume)
2494                 *r_volume = 0.0f;
2495         if (r_center)
2496                 zero_v3(r_center);
2497
2498         if (looptri_num == 0)
2499                 return;
2500
2501         if (!mesh_calc_center_centroid_ex(mverts, mverts_num, looptri, looptri_num, mloop, center))
2502                 return;
2503
2504         totvol = 0.0f;
2505
2506         for (i = 0, lt = looptri; i < looptri_num; i++, lt++) {
2507                 const MVert *v1 = &mverts[mloop[lt->tri[0]].v];
2508                 const MVert *v2 = &mverts[mloop[lt->tri[1]].v];
2509                 const MVert *v3 = &mverts[mloop[lt->tri[2]].v];
2510                 float vol;
2511
2512                 vol = volume_tetrahedron_signed_v3(center, v1->co, v2->co, v3->co);
2513                 if (r_volume) {
2514                         totvol += vol;
2515                 }
2516                 if (r_center) {
2517                         /* averaging factor 1/3 is applied in the end */
2518                         madd_v3_v3fl(r_center, v1->co, vol);
2519                         madd_v3_v3fl(r_center, v2->co, vol);
2520                         madd_v3_v3fl(r_center, v3->co, vol);
2521                 }
2522         }
2523
2524         /* Note: Depending on arbitrary centroid position,
2525          * totvol can become negative even for a valid mesh.
2526          * The true value is always the positive value.
2527          */
2528         if (r_volume) {
2529                 *r_volume = fabsf(totvol);
2530         }
2531         if (r_center) {
2532                 /* Note: Factor 1/3 is applied once for all vertices here.
2533                  * This also automatically negates the vector if totvol is negative.
2534                  */
2535                 if (totvol != 0.0f)
2536                         mul_v3_fl(r_center, (1.0f / 3.0f) / totvol);
2537         }
2538 }
2539
2540 /** \} */
2541
2542 /* -------------------------------------------------------------------- */
2543
2544 /** \name NGon Tessellation (NGon/Tessface Conversion)
2545  * \{ */
2546
2547 /**
2548  * Convert a triangle or quadrangle of loop/poly data to tessface data
2549  */
2550 void BKE_mesh_loops_to_mface_corners(
2551         CustomData *fdata, CustomData *ldata,
2552         CustomData *pdata, unsigned int lindex[4], int findex,
2553         const int polyindex,
2554         const int mf_len, /* 3 or 4 */
2555
2556         /* cache values to avoid lookups every time */
2557         const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2558         const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2559         const bool hasPCol, /* CustomData_has_layer(ldata, CD_PREVIEW_MLOOPCOL) */
2560         const bool hasOrigSpace, /* CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP) */
2561         const bool hasLNor /* CustomData_has_layer(ldata, CD_NORMAL) */
2562 )
2563 {
2564         MTFace *texface;
2565         MTexPoly *texpoly;
2566         MCol *mcol;
2567         MLoopCol *mloopcol;
2568         MLoopUV *mloopuv;
2569         int i, j;
2570
2571         for (i = 0; i < numTex; i++) {
2572                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2573                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2574
2575                 ME_MTEXFACE_CPY(texface, texpoly);
2576
2577                 for (j = 0; j < mf_len; j++) {
2578                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, (int)lindex[j], i);
2579                         copy_v2_v2(texface->uv[j], mloopuv->uv);
2580                 }
2581         }
2582
2583         for (i = 0; i < numCol; i++) {
2584                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2585
2586                 for (j = 0; j < mf_len; j++) {
2587                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, (int)lindex[j], i);
2588                         MESH_MLOOPCOL_TO_MCOL(mloopcol, &mcol[j]);
2589                 }
2590         }
2591
2592         if (hasPCol) {
2593                 mcol = CustomData_get(fdata,  findex, CD_PREVIEW_MCOL);
2594
2595                 for (j = 0; j < mf_len; j++) {
2596                         mloopcol = CustomData_get(ldata, (int)lindex[j], CD_PREVIEW_MLOOPCOL);
2597                         MESH_MLOOPCOL_TO_MCOL(mloopcol, &mcol[j]);
2598                 }
2599         }
2600
2601         if (hasOrigSpace) {
2602                 OrigSpaceFace *of = CustomData_get(fdata, findex, CD_ORIGSPACE);
2603                 OrigSpaceLoop *lof;
2604
2605                 for (j = 0; j < mf_len; j++) {
2606                         lof = CustomData_get(ldata, (int)lindex[j], CD_ORIGSPACE_MLOOP);
2607                         copy_v2_v2(of->uv[j], lof->uv);
2608                 }
2609         }
2610
2611         if (hasLNor) {
2612                 short (*tlnors)[3] = CustomData_get(fdata, findex, CD_TESSLOOPNORMAL);
2613
2614                 for (j = 0; j < mf_len; j++) {
2615                         normal_float_to_short_v3(tlnors[j], CustomData_get(ldata, (int)lindex[j], CD_NORMAL));
2616                 }
2617         }
2618 }
2619
2620 /**
2621  * Convert all CD layers from loop/poly to tessface data.
2622  *
2623  * \param loopindices: is an array of an int[4] per tessface, mapping tessface's verts to loops indices.
2624  *
2625  * \note when mface is not NULL, mface[face_index].v4 is used to test quads, else, loopindices[face_index][3] is used.
2626  */
2627 void BKE_mesh_loops_to_tessdata(
2628         CustomData *fdata, CustomData *ldata, CustomData *pdata, MFace *mface,
2629         int *polyindices, unsigned int (*loopindices)[4], const int num_faces)
2630 {
2631         /* Note: performances are sub-optimal when we get a NULL mface, we could be ~25% quicker with dedicated code...
2632          *       Issue is, unless having two different functions with nearly the same code, there's not much ways to solve
2633          *       this. Better imho to live with it for now. :/ --mont29
2634          */
2635         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2636         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2637         const bool hasPCol = CustomData_has_layer(ldata, CD_PREVIEW_MLOOPCOL);
2638         const bool hasOrigSpace = CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP);
2639         const bool hasLoopNormal = CustomData_has_layer(ldata, CD_NORMAL);
2640         const bool hasLoopTangent = CustomData_has_layer(ldata, CD_TANGENT);
2641         int findex, i, j;
2642         const int *pidx;
2643         unsigned int (*lidx)[4];
2644
2645         for (i = 0; i < numTex; i++) {
2646                 MTFace *texface = CustomData_get_layer_n(fdata, CD_MTFACE, i);
2647                 MTexPoly *texpoly = CustomData_get_layer_n(pdata, CD_MTEXPOLY, i);
2648                 MLoopUV *mloopuv = CustomData_get_layer_n(ldata, CD_MLOOPUV, i);
2649
2650                 for (findex = 0, pidx = polyindices, lidx = loopindices;
2651                      findex < num_faces;
2652                      pidx++, lidx++, findex++, texface++)
2653                 {
2654                         ME_MTEXFACE_CPY(texface, &texpoly[*pidx]);
2655
2656                         for (j = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3; j--;) {
2657                                 copy_v2_v2(texface->uv[j], mloopuv[(*lidx)[j]].uv);
2658                         }
2659                 }
2660         }
2661
2662         for (i = 0; i < numCol; i++) {
2663                 MCol (*mcol)[4] = CustomData_get_layer_n(fdata, CD_MCOL, i);
2664                 MLoopCol *mloopcol = CustomData_get_layer_n(ldata, CD_MLOOPCOL, i);
2665
2666                 for (findex = 0, lidx = loopindices; findex < num_faces; lidx++, findex++, mcol++) {
2667                         for (j = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3; j--;) {
2668                                 MESH_MLOOPCOL_TO_MCOL(&mloopcol[(*lidx)[j]], &(*mcol)[j]);
2669                         }
2670                 }
2671         }
2672
2673         if (hasPCol) {
2674                 MCol (*mcol)[4] = CustomData_get_layer(fdata, CD_PREVIEW_MCOL);
2675                 MLoopCol *mloopcol = CustomData_get_layer(ldata, CD_PREVIEW_MLOOPCOL);
2676
2677                 for (findex = 0, lidx = loopindices; findex < num_faces; lidx++, findex++, mcol++) {
2678                         for (j = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3; j--;) {
2679                                 MESH_MLOOPCOL_TO_MCOL(&mloopcol[(*lidx)[j]], &(*mcol)[j]);
2680                         }
2681                 }
2682         }
2683
2684         if (hasOrigSpace) {
2685                 OrigSpaceFace *of = CustomData_get_layer(fdata, CD_ORIGSPACE);
2686                 OrigSpaceLoop *lof = CustomData_get_layer(ldata, CD_ORIGSPACE_MLOOP);
2687
2688                 for (findex = 0, lidx = loopindices; findex < num_faces; lidx++, findex++, of++) {
2689                         for (j = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3; j--;) {
2690                                 copy_v2_v2(of->uv[j], lof[(*lidx)[j]].uv);
2691                         }
2692                 }
2693         }
2694
2695         if (hasLoopNormal) {
2696                 short (*fnors)[4][3] = CustomData_get_layer(fdata, CD_TESSLOOPNORMAL);
2697                 float (*lnors)[3] = CustomData_get_layer(ldata, CD_NORMAL);
2698
2699                 for (findex = 0, lidx = loopindices; findex < num_faces; lidx++, findex++, fnors++) {
2700                         for (j = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3; j--;) {
2701                                 normal_float_to_short_v3((*fnors)[j], lnors[(*lidx)[j]]);
2702                         }
2703                 }
2704         }
2705
2706         if (hasLoopTangent) {
2707                 /* need to do for all uv maps at some point */
2708                 float (*ftangents)[4] = CustomData_get_layer(fdata, CD_TANGENT);
2709                 float (*ltangents)[4] = CustomData_get_layer(ldata, CD_TANGENT);
2710
2711                 for (findex = 0, pidx = polyindices, lidx = loopindices;
2712                      findex < num_faces;
2713                      pidx++, lidx++, findex++)
2714                 {
2715                         int nverts = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3;
2716                         for (j = nverts; j--;) {
2717                                 copy_v4_v4(ftangents[findex * 4 + j], ltangents[(*lidx)[j]]);
2718                         }
2719                 }
2720         }
2721 }
2722
2723 void BKE_mesh_tangent_loops_to_tessdata(
2724         CustomData *fdata, CustomData *ldata, MFace *mface,
2725         int *polyindices, unsigned int (*loopindices)[4], const int num_faces, const char *layer_name)
2726 {
2727         /* Note: performances are sub-optimal when we get a NULL mface, we could be ~25% quicker with dedicated code...
2728          *       Issue is, unless having two different functions with nearly the same code, there's not much ways to solve
2729          *       this. Better imho to live with it for now. :/ --mont29
2730          */
2731
2732         float (*ftangents)[4] = NULL;
2733         float (*ltangents)[4] = NULL;
2734
2735         int findex, j;
2736         const int *pidx;
2737         unsigned int (*lidx)[4];
2738
2739         if (layer_name)
2740                 ltangents = CustomData_get_layer_named(ldata, CD_TANGENT, layer_name);
2741         else
2742                 ltangents = CustomData_get_layer(ldata, CD_TANGENT);
2743
2744         if (ltangents) {
2745                 /* need to do for all uv maps at some point */
2746                 if (layer_name)
2747                         ftangents = CustomData_get_layer_named(fdata, CD_TANGENT, layer_name);
2748                 else
2749                         ftangents = CustomData_get_layer(fdata, CD_TANGENT);
2750                 if (ftangents) {
2751                         for (findex = 0, pidx = polyindices, lidx = loopindices;
2752                              findex < num_faces;
2753                              pidx++, lidx++, findex++)
2754                         {
2755                                 int nverts = (mface ? mface[findex].v4 : (*lidx)[3]) ? 4 : 3;
2756                                 for (j = nverts; j--;) {
2757                                         copy_v4_v4(ftangents[findex * 4 + j], ltangents[(*lidx)[j]]);
2758                                 }
2759                         }
2760                 }
2761         }
2762 }
2763
2764 /**
2765  * Recreate tessellation.
2766  *
2767  * \param do_face_nor_copy: Controls whether the normals from the poly are copied to the tessellated faces.
2768  *
2769  * \return number of tessellation faces.
2770  */
2771 int BKE_mesh_recalc_tessellation(
2772         CustomData *fdata, CustomData *ldata, CustomData *pdata,
2773         MVert *mvert,
2774         int totface, int totloop, int totpoly,
2775         const bool do_face_nor_copy)
2776 {
2777         /* use this to avoid locking pthread for _every_ polygon
2778          * and calling the fill function */
2779
2780 #define USE_TESSFACE_SPEEDUP
2781 #define USE_TESSFACE_QUADS  /* NEEDS FURTHER TESTING */
2782
2783 /* We abuse MFace->edcode to tag quad faces. See below for details. */
2784 #define TESSFACE_IS_QUAD 1
2785
2786         const int looptri_num = poly_to_tri_count(totpoly, totloop);
2787
2788         MPoly *mp, *mpoly;
2789         MLoop *ml, *mloop;
2790         MFace *mface, *mf;
2791         MemArena *arena = NULL;
2792         int *mface_to_poly_map;
2793         unsigned int (*lindices)[4];
2794         int poly_index, mface_index;
2795         unsigned int j;
2796
2797         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2798         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2799
2800         /* allocate the length of totfaces, avoid many small reallocs,
2801          * if all faces are tri's it will be correct, quads == 2x allocs */
2802         /* take care. we are _not_ calloc'ing so be sure to initialize each field */
2803         mface_to_poly_map = MEM_malloc_arrayN((size_t)looptri_num, sizeof(*mface_to_poly_map), __func__);
2804         mface             = MEM_malloc_arrayN((size_t)looptri_num, sizeof(*mface), __func__);
2805         lindices          = MEM_malloc_arrayN((size_t)looptri_num, sizeof(*lindices), __func__);
2806
2807         mface_index = 0;
2808         mp = mpoly;
2809         for (poly_index = 0; poly_index < totpoly; poly_index++, mp++) {
2810                 const unsigned int mp_loopstart = (unsigned int)mp->loopstart;
2811                 const unsigned int mp_totloop = (unsigned int)mp->totloop;
2812                 unsigned int l1, l2, l3, l4;
2813                 unsigned int *lidx;
2814                 if (mp_totloop < 3) {
2815                         /* do nothing */
2816                 }
2817
2818 #ifdef USE_TESSFACE_SPEEDUP
2819
2820 #define ML_TO_MF(i1, i2, i3)                                                  \
2821                 mface_to_poly_map[mface_index] = poly_index;                          \
2822                 mf = &mface[mface_index];                                             \
2823                 lidx = lindices[mface_index];                                         \
2824                 /* set loop indices, transformed to vert indices later */             \
2825                 l1 = mp_loopstart + i1;                                               \
2826                 l2 = mp_loopstart + i2;                                               \
2827                 l3 = mp_loopstart + i3;                                               \
2828                 mf->v1 = mloop[l1].v;                                                 \
2829                 mf->v2 = mloop[l2].v;                                                 \
2830                 mf->v3 = mloop[l3].v;                                                 \
2831                 mf->v4 = 0;                                                           \
2832                 lidx[0] = l1;                                                         \
2833                 lidx[1] = l2;                                                         \
2834                 lidx[2] = l3;                                                         \
2835                 lidx[3] = 0;                                                          \
2836                 mf->mat_nr = mp->mat_nr;                                              \
2837                 mf->flag = mp->flag;                                                  \
2838                 mf->edcode = 0;                                                       \
2839                 (void)0
2840
2841 /* ALMOST IDENTICAL TO DEFINE ABOVE (see EXCEPTION) */
2842 #define ML_TO_MF_QUAD()                                                       \
2843                 mface_to_poly_map[mface_index] = poly_index;                          \
2844                 mf = &mface[mface_index];                                             \
2845                 lidx = lindices[mface_index];                                         \
2846                 /* set loop indices, transformed to vert indices later */             \
2847                 l1 = mp_loopstart + 0; /* EXCEPTION */                                \
2848                 l2 = mp_loopstart + 1; /* EXCEPTION */                                \
2849                 l3 = mp_loopstart + 2; /* EXCEPTION */                                \
2850                 l4 = mp_loopstart + 3; /* EXCEPTION */                                \
2851                 mf->v1 = mloop[l1].v;                                                 \
2852                 mf->v2 = mloop[l2].v;                                                 \
2853                 mf->v3 = mloop[l3].v;                                                 \
2854                 mf->v4 = mloop[l4].v;                                                 \
2855                 lidx[0] = l1;                                                         \
2856                 lidx[1] = l2;                                                         \
2857                 lidx[2] = l3;                                                         \
2858                 lidx[3] = l4;                                                         \
2859                 mf->mat_nr = mp->mat_nr;                                              \
2860                 mf->flag = mp->flag;                                                  \
2861                 mf->edcode = TESSFACE_IS_QUAD;                                        \
2862                 (void)0
2863
2864
2865                 else if (mp_totloop == 3) {
2866                         ML_TO_MF(0, 1, 2);
2867                         mface_index++;
2868                 }
2869                 else if (mp_totloop == 4) {
2870 #ifdef USE_TESSFACE_QUADS
2871                         ML_TO_MF_QUAD();
2872                         mface_index++;
2873 #else
2874                         ML_TO_MF(0, 1, 2);
2875                         mface_index++;
2876                         ML_TO_MF(0, 2, 3);
2877                         mface_index++;
2878 #endif
2879                 }
2880 #endif /* USE_TESSFACE_SPEEDUP */
2881                 else {
2882                         const float *co_curr, *co_prev;
2883
2884                         float normal[3];
2885
2886                         float axis_mat[3][3];
2887                         float (*projverts)[2];
2888                         unsigned int (*tris)[3];
2889
2890                         const unsigned int totfilltri = mp_totloop - 2;
2891
2892                         if (UNLIKELY(arena == NULL)) {
2893                                 arena = BLI_memarena_new(BLI_MEMARENA_STD_BUFSIZE, __func__);
2894                         }
2895
2896                         tris = BLI_memarena_alloc(arena, sizeof(*tris) * (size_t)totfilltri);
2897                         projverts = BLI_memarena_alloc(arena, sizeof(*projverts) * (size_t)mp_totloop);
2898
2899                         zero_v3(normal);
2900
2901                         /* calc normal, flipped: to get a positive 2d cross product */
2902                         ml = mloop + mp_loopstart;
2903                         co_prev = mvert[ml[mp_totloop - 1].v].co;
2904                         for (j = 0; j < mp_totloop; j++, ml++) {
2905                                 co_curr = mvert[ml->v].co;
2906                                 add_newell_cross_v3_v3v3(normal, co_prev, co_curr);
2907                                 co_prev = co_curr;
2908                         }
2909                         if (UNLIKELY(normalize_v3(normal) == 0.0f)) {
2910                                 normal[2] = 1.0f;
2911                         }
2912
2913                         /* project verts to 2d */
2914                         axis_dominant_v3_to_m3_negate(axis_mat, normal);
2915
2916                         ml = mloop + mp_loopstart;
2917                         for (j = 0; j < mp_totloop; j++, ml++) {
2918                                 mul_v2_m3v3(projverts[j], axis_mat, mvert[ml->v].co);
2919                         }
2920
2921                         BLI_polyfill_calc_arena(projverts, mp_totloop, 1, tris, arena);
2922
2923                         /* apply fill */
2924                         for (j = 0; j < totfilltri; j++) {
2925                                 unsigned int *tri = tris[j];
2926                                 lidx = lindices[mface_index];
2927
2928                                 mface_to_poly_map[mface_index] = poly_index;
2929                                 mf = &mface[mface_index];
2930
2931                                 /* set loop indices, transformed to vert indices later */
2932                                 l1 = mp_loopstart + tri[0];
2933                                 l2 = mp_loopstart + tri[1];
2934                                 l3 = mp_loopstart + tri[2];
2935
2936                                 mf->v1 = mloop[l1].v;
2937                                 mf->v2 = mloop[l2].v;
2938                                 mf->v3 = mloop[l3].v;
2939                                 mf->v4 = 0;
2940
2941                                 lidx[0] = l1;
2942                                 lidx[1] = l2;
2943                                 lidx[2] = l3;
2944                                 lidx[3] = 0;
2945
2946                                 mf->mat_nr = mp->mat_nr;
2947                                 mf->flag = mp->flag;
2948                                 mf->edcode = 0;
2949
2950                                 mface_index++;
2951                         }
2952
2953                         BLI_memarena_clear(arena);
2954                 }
2955         }
2956
2957         if (arena) {
2958                 BLI_memarena_free(arena);
2959                 arena = NULL;
2960         }
2961
2962         CustomData_free(fdata, totface);
2963         totface = mface_index;
2964
2965         BLI_assert(totface <= looptri_num);
2966
2967         /* not essential but without this we store over-alloc'd memory in the CustomData layers */
2968         if (LIKELY(looptri_num != totface)) {
2969                 mface = MEM_reallocN(mface, sizeof(*mface) * (size_t)totface);
2970                 mface_to_poly_map = MEM_reallocN(mface_to_poly_map, sizeof(*mface_to_poly_map) * (size_t)totface);
2971         }
2972
2973         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2974
2975         /* CD_ORIGINDEX will contain an array of indices from tessfaces to the polygons
2976          * they are directly tessellated from */
2977         CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, mface_to_poly_map, totface);
2978         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2979
2980         if (do_face_nor_copy) {
2981                 /* If polys have a normals layer, copying that to faces can help
2982                  * avoid the need to recalculate normals later */
2983                 if (CustomData_has_layer(pdata, CD_NORMAL)) {
2984                         float (*pnors)[3] = CustomData_get_layer(pdata, CD_NORMAL);
2985                         float (*fnors)[3] = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2986                         for (mface_index = 0; mface_index < totface; mface_index++) {
2987                                 copy_v3_v3(fnors[mface_index], pnors[mface_to_poly_map[mface_index]]);
2988                         }
2989                 }
2990         }
2991
2992         /* NOTE: quad detection issue - fourth vertidx vs fourth loopidx:
2993          * Polygons take care of their loops ordering, hence not of their vertices ordering.
2994          * Currently, our tfaces' fourth vertex index might be 0 even for a quad. However, we know our fourth loop index is
2995          * never 0 for quads (because they are sorted for polygons, and our quads are still mere copies of their polygons).
2996          * So we pass NULL as MFace pointer, and BKE_mesh_loops_to_tessdata will use the fourth loop index as quad test.
2997          * ...
2998          */
2999         BKE_mesh_loops_to_tessdata(fdata, ldata, pdata, NULL, mface_to_poly_map, lindices, totface);
3000
3001         /* NOTE: quad detection issue - fourth vertidx vs fourth loopidx:
3002          * ...However, most TFace code uses 'MFace->v4 == 0' test to check whether it is a tri or quad.
3003          * test_index_face() will check this and rotate the tessellated face if needed.
3004          */
3005 #ifdef USE_TESSFACE_QUADS
3006         mf = mface;
3007         for (mface_index = 0; mface_index < totface; mface_index++, mf++) {
3008                 if (mf->edcode == TESSFACE_IS_QUAD) {
3009                         test_index_face(mf, fdata, mface_index, 4);
3010                         mf->edcode = 0;
3011                 }
3012         }
3013 #endif
3014
3015         MEM_freeN(lindices);
3016
3017         return totface;
3018
3019 #undef USE_TESSFACE_SPEEDUP
3020 #undef USE_TESSFACE_QUADS
3021
3022 #undef ML_TO_MF
3023 #undef ML_TO_MF_QUAD
3024
3025 }
3026
3027 /**
3028  * Calculate tessellation into #MLoopTri which exist only for this purpose.
3029  */
3030 void BKE_mesh_recalc_looptri(
3031         const MLoop *mloop, const MPoly *mpoly,
3032         const MVert *mvert,
3033         int totloop, int totpoly,
3034         MLoopTri *mlooptri)
3035 {
3036         /* use this to avoid locking pthread for _every_ polygon
3037          * and calling the fill function */
3038
3039 #define USE_TESSFACE_SPEEDUP
3040
3041         const MPoly *mp;
3042         const MLoop *ml;
3043         MLoopTri *mlt;
3044         MemArena *arena = NULL;
3045         int poly_index, mlooptri_index;
3046         unsigned int j;
3047
3048         mlooptri_index = 0;
3049         mp = mpoly;
3050         for (poly_index = 0; poly_index < totpoly; poly_index++, mp++) {
3051                 const unsigned int mp_loopstart = (unsigned int)mp->loopstart;
3052                 const unsigned int mp_totloop = (unsigned int)mp->totloop;
3053                 unsigned int l1, l2, l3;
3054                 if (mp_totloop < 3) {
3055                         /* do nothing */
3056                 }
3057
3058 #ifdef USE_TESSFACE_SPEEDUP
3059
3060 #define ML_TO_MLT(i1, i2, i3)  { \
3061                         mlt = &mlooptri[mlooptri_index]; \
3062                         l1 = mp_loopstart + i1; \
3063