Fix T52291: Boolean fails w/ co-linear edged ngons
[blender-staging.git] / source / blender / bmesh / intern / bmesh_polygon.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s): Joseph Eagar, Geoffrey Bantle, Campbell Barton
19  *
20  * ***** END GPL LICENSE BLOCK *****
21  */
22
23 /** \file blender/bmesh/intern/bmesh_polygon.c
24  *  \ingroup bmesh
25  *
26  * This file contains code for dealing
27  * with polygons (normal/area calculation,
28  * tessellation, etc)
29  */
30
31 #include "DNA_listBase.h"
32 #include "DNA_modifier_types.h"
33
34 #include "MEM_guardedalloc.h"
35
36 #include "BLI_alloca.h"
37 #include "BLI_math.h"
38 #include "BLI_memarena.h"
39 #include "BLI_polyfill2d.h"
40 #include "BLI_polyfill2d_beautify.h"
41 #include "BLI_linklist.h"
42 #include "BLI_edgehash.h"
43 #include "BLI_heap.h"
44
45 #include "bmesh.h"
46 #include "bmesh_tools.h"
47
48 #include "BKE_customdata.h"
49
50 #include "intern/bmesh_private.h"
51
52 /**
53  * \brief COMPUTE POLY NORMAL (BMFace)
54  *
55  * Same as #normal_poly_v3 but operates directly on a bmesh face.
56  */
57 static float bm_face_calc_poly_normal(const BMFace *f, float n[3])
58 {
59         BMLoop *l_first = BM_FACE_FIRST_LOOP(f);
60         BMLoop *l_iter  = l_first;
61         const float *v_prev = l_first->prev->v->co;
62         const float *v_curr = l_first->v->co;
63
64         zero_v3(n);
65
66         /* Newell's Method */
67         do {
68                 add_newell_cross_v3_v3v3(n, v_prev, v_curr);
69
70                 l_iter = l_iter->next;
71                 v_prev = v_curr;
72                 v_curr = l_iter->v->co;
73
74         } while (l_iter != l_first);
75
76         return normalize_v3(n);
77 }
78
79 /**
80  * \brief COMPUTE POLY NORMAL (BMFace)
81  *
82  * Same as #bm_face_calc_poly_normal
83  * but takes an array of vertex locations.
84  */
85 static float bm_face_calc_poly_normal_vertex_cos(
86         const BMFace *f, float r_no[3],
87         float const (*vertexCos)[3])
88 {
89         BMLoop *l_first = BM_FACE_FIRST_LOOP(f);
90         BMLoop *l_iter  = l_first;
91         const float *v_prev = vertexCos[BM_elem_index_get(l_first->prev->v)];
92         const float *v_curr = vertexCos[BM_elem_index_get(l_first->v)];
93
94         zero_v3(r_no);
95
96         /* Newell's Method */
97         do {
98                 add_newell_cross_v3_v3v3(r_no, v_prev, v_curr);
99
100                 l_iter = l_iter->next;
101                 v_prev = v_curr;
102                 v_curr = vertexCos[BM_elem_index_get(l_iter->v)];
103         } while (l_iter != l_first);
104
105         return normalize_v3(r_no);
106 }
107
108 /**
109  * \brief COMPUTE POLY CENTER (BMFace)
110  */
111 static void bm_face_calc_poly_center_mean_vertex_cos(
112         const BMFace *f, float r_cent[3],
113         float const (*vertexCos)[3])
114 {
115         const BMLoop *l_first, *l_iter;
116
117         zero_v3(r_cent);
118
119         /* Newell's Method */
120         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
121         do {
122                 add_v3_v3(r_cent, vertexCos[BM_elem_index_get(l_iter->v)]);
123         } while ((l_iter = l_iter->next) != l_first);
124         mul_v3_fl(r_cent, 1.0f / f->len);
125 }
126
127 /**
128  * For tools that insist on using triangles, ideally we would cache this data.
129  *
130  * \param use_fixed_quad: When true, always split quad along (0 -> 2) regardless of concave corners,
131  * (as done in #BM_mesh_calc_tessellation).
132  * \param r_loops: Store face loop pointers, (f->len)
133  * \param r_index: Store triangle triples, indices into \a r_loops,  `((f->len - 2) * 3)`
134  */
135 void BM_face_calc_tessellation(
136         const BMFace *f, const bool use_fixed_quad,
137         BMLoop **r_loops, uint (*r_index)[3])
138 {
139         BMLoop *l_first = BM_FACE_FIRST_LOOP(f);
140         BMLoop *l_iter;
141
142         if (f->len == 3) {
143                 *r_loops++ = (l_iter = l_first);
144                 *r_loops++ = (l_iter = l_iter->next);
145                 *r_loops++ = (         l_iter->next);
146
147                 r_index[0][0] = 0;
148                 r_index[0][1] = 1;
149                 r_index[0][2] = 2;
150         }
151         else if (f->len == 4 && use_fixed_quad) {
152                 *r_loops++ = (l_iter = l_first);
153                 *r_loops++ = (l_iter = l_iter->next);
154                 *r_loops++ = (l_iter = l_iter->next);
155                 *r_loops++ = (         l_iter->next);
156
157                 r_index[0][0] = 0;
158                 r_index[0][1] = 1;
159                 r_index[0][2] = 2;
160
161                 r_index[1][0] = 0;
162                 r_index[1][1] = 2;
163                 r_index[1][2] = 3;
164         }
165         else {
166                 float axis_mat[3][3];
167                 float (*projverts)[2] = BLI_array_alloca(projverts, f->len);
168                 int j;
169
170                 axis_dominant_v3_to_m3(axis_mat, f->no);
171
172                 j = 0;
173                 l_iter = l_first;
174                 do {
175                         mul_v2_m3v3(projverts[j], axis_mat, l_iter->v->co);
176                         r_loops[j] = l_iter;
177                         j++;
178                 } while ((l_iter = l_iter->next) != l_first);
179
180                 /* complete the loop */
181                 BLI_polyfill_calc((const float (*)[2])projverts, f->len, -1, r_index);
182         }
183 }
184
185 /**
186  * Return a point inside the face.
187  */
188 void BM_face_calc_point_in_face(const BMFace *f, float r_co[3])
189 {
190         const BMLoop *l_tri[3];
191
192         if (f->len == 3) {
193                 const BMLoop *l = BM_FACE_FIRST_LOOP(f);
194                 ARRAY_SET_ITEMS(l_tri, l, l->next, l->prev);
195         }
196         else {
197                 /* tessellation here seems overkill when in many cases this will be the center,
198                  * but without this we can't be sure the point is inside a concave face. */
199                 const int tottri = f->len - 2;
200                 BMLoop **loops = BLI_array_alloca(loops, f->len);
201                 uint (*index)[3] = BLI_array_alloca(index, tottri);
202                 int j;
203                 int j_best = 0;  /* use as fallback when unset */
204                 float area_best  = -1.0f;
205
206                 BM_face_calc_tessellation(f, false, loops, index);
207
208                 for (j = 0; j < tottri; j++) {
209                         const float *p1 = loops[index[j][0]]->v->co;
210                         const float *p2 = loops[index[j][1]]->v->co;
211                         const float *p3 = loops[index[j][2]]->v->co;
212                         const float area = area_squared_tri_v3(p1, p2, p3);
213                         if (area > area_best) {
214                                 j_best = j;
215                                 area_best = area;
216                         }
217                 }
218
219                 ARRAY_SET_ITEMS(l_tri, loops[index[j_best][0]], loops[index[j_best][1]], loops[index[j_best][2]]);
220         }
221
222         mid_v3_v3v3v3(r_co, l_tri[0]->v->co, l_tri[1]->v->co, l_tri[2]->v->co);
223 }
224
225 /**
226  * get the area of the face
227  */
228 float BM_face_calc_area(const BMFace *f)
229 {
230         /* inline 'area_poly_v3' logic, avoid creating a temp array */
231         const BMLoop *l_iter, *l_first;
232         float n[3];
233
234         zero_v3(n);
235         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
236         do {
237                 add_newell_cross_v3_v3v3(n, l_iter->v->co, l_iter->next->v->co);
238         } while ((l_iter = l_iter->next) != l_first);
239         return len_v3(n) * 0.5f;
240 }
241
242 /**
243  * compute the perimeter of an ngon
244  */
245 float BM_face_calc_perimeter(const BMFace *f)
246 {
247         const BMLoop *l_iter, *l_first;
248         float perimeter = 0.0f;
249
250         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
251         do {
252                 perimeter += len_v3v3(l_iter->v->co, l_iter->next->v->co);
253         } while ((l_iter = l_iter->next) != l_first);
254
255         return perimeter;
256 }
257
258 /**
259  * Utility function to calculate the edge which is most different from the other two.
260  *
261  * \return The first edge index, where the second vertex is ``(index + 1) % 3``.
262  */
263 static int bm_vert_tri_find_unique_edge(BMVert *verts[3])
264 {
265         /* find the most 'unique' loop, (greatest difference to others) */
266 #if 1
267         /* optimized version that avoids sqrt */
268         float difs[3];
269         for (int i_prev = 1, i_curr = 2, i_next = 0;
270              i_next < 3;
271              i_prev = i_curr, i_curr = i_next++)
272         {
273                 const float *co = verts[i_curr]->co;
274                 const float *co_other[2] = {verts[i_prev]->co, verts[i_next]->co};
275                 float proj_dir[3];
276                 mid_v3_v3v3(proj_dir, co_other[0], co_other[1]);
277                 sub_v3_v3(proj_dir, co);
278
279                 float proj_pair[2][3];
280                 project_v3_v3v3(proj_pair[0], co_other[0], proj_dir);
281                 project_v3_v3v3(proj_pair[1], co_other[1], proj_dir);
282                 difs[i_next] = len_squared_v3v3(proj_pair[0], proj_pair[1]);
283         }
284 #else
285         const float lens[3] = {
286                 len_v3v3(verts[0]->co, verts[1]->co),
287                 len_v3v3(verts[1]->co, verts[2]->co),
288                 len_v3v3(verts[2]->co, verts[0]->co),
289         };
290         const float difs[3] = {
291                 fabsf(lens[1] - lens[2]),
292                 fabsf(lens[2] - lens[0]),
293                 fabsf(lens[0] - lens[1]),
294         };
295 #endif
296
297         int order[3] = {0, 1, 2};
298         axis_sort_v3(difs, order);
299
300         return order[0];
301 }
302
303 /**
304  * Calculate a tangent from any 3 vertices.
305  *
306  * The tangent aligns to the most *unique* edge
307  * (the edge most unlike the other two).
308  *
309  * \param r_tangent: Calculated unit length tangent (return value).
310  */
311 void BM_vert_tri_calc_tangent_edge(BMVert *verts[3], float r_tangent[3])
312 {
313         const int index = bm_vert_tri_find_unique_edge(verts);
314
315         sub_v3_v3v3(r_tangent, verts[index]->co, verts[(index + 1) % 3]->co);
316
317         normalize_v3(r_tangent);
318 }
319
320 /**
321  * Calculate a tangent from any 3 vertices,
322  *
323  * The tangent follows the center-line formed by the most unique edges center
324  * and the opposite vertex.
325  *
326  * \param r_tangent: Calculated unit length tangent (return value).
327  */
328 void BM_vert_tri_calc_tangent_edge_pair(BMVert *verts[3], float r_tangent[3])
329 {
330         const int index = bm_vert_tri_find_unique_edge(verts);
331
332         const float *v_a     = verts[index]->co;
333         const float *v_b     = verts[(index + 1) % 3]->co;
334         const float *v_other = verts[(index + 2) % 3]->co;
335
336         mid_v3_v3v3(r_tangent, v_a, v_b);
337         sub_v3_v3v3(r_tangent, v_other, r_tangent);
338
339         normalize_v3(r_tangent);
340 }
341
342 /**
343  * Compute the tangent of the face, using the longest edge.
344  */
345 void  BM_face_calc_tangent_edge(const BMFace *f, float r_tangent[3])
346 {
347         const BMLoop *l_long  = BM_face_find_longest_loop((BMFace *)f);
348
349         sub_v3_v3v3(r_tangent, l_long->v->co, l_long->next->v->co);
350
351         normalize_v3(r_tangent);
352
353 }
354
355 /**
356  * Compute the tangent of the face, using the two longest disconnected edges.
357  *
358  * \param r_tangent: Calculated unit length tangent (return value).
359  */
360 void  BM_face_calc_tangent_edge_pair(const BMFace *f, float r_tangent[3])
361 {
362         if (f->len == 3) {
363                 BMVert *verts[3];
364
365                 BM_face_as_array_vert_tri((BMFace *)f, verts);
366
367                 BM_vert_tri_calc_tangent_edge_pair(verts, r_tangent);
368         }
369         else if (f->len == 4) {
370                 /* Use longest edge pair */
371                 BMVert *verts[4];
372                 float vec[3], vec_a[3], vec_b[3];
373
374                 BM_face_as_array_vert_quad((BMFace *)f, verts);
375
376                 sub_v3_v3v3(vec_a, verts[3]->co, verts[2]->co);
377                 sub_v3_v3v3(vec_b, verts[0]->co, verts[1]->co);
378                 add_v3_v3v3(r_tangent, vec_a, vec_b);
379
380                 sub_v3_v3v3(vec_a, verts[0]->co, verts[3]->co);
381                 sub_v3_v3v3(vec_b, verts[1]->co, verts[2]->co);
382                 add_v3_v3v3(vec, vec_a, vec_b);
383                 /* use the longest edge length */
384                 if (len_squared_v3(r_tangent) < len_squared_v3(vec)) {
385                         copy_v3_v3(r_tangent, vec);
386                 }
387         }
388         else {
389                 /* For ngons use two longest disconnected edges */
390                 BMLoop *l_long = BM_face_find_longest_loop((BMFace *)f);
391                 BMLoop *l_long_other = NULL;
392
393                 float len_max_sq = 0.0f;
394                 float vec_a[3], vec_b[3];
395
396                 BMLoop *l_iter = l_long->prev->prev;
397                 BMLoop *l_last = l_long->next;
398
399                 do {
400                         const float len_sq = len_squared_v3v3(l_iter->v->co, l_iter->next->v->co);
401                         if (len_sq >= len_max_sq) {
402                                 l_long_other = l_iter;
403                                 len_max_sq = len_sq;
404                         }
405                 } while ((l_iter = l_iter->prev) != l_last);
406
407                 sub_v3_v3v3(vec_a, l_long->next->v->co, l_long->v->co);
408                 sub_v3_v3v3(vec_b, l_long_other->v->co, l_long_other->next->v->co);
409                 add_v3_v3v3(r_tangent, vec_a, vec_b);
410
411                 /* Edges may not be opposite side of the ngon,
412                  * this could cause problems for ngons with multiple-aligned edges of the same length.
413                  * Fallback to longest edge. */
414                 if (UNLIKELY(normalize_v3(r_tangent) == 0.0f)) {
415                         normalize_v3_v3(r_tangent, vec_a);
416                 }
417         }
418 }
419
420 /**
421  * Compute the tangent of the face, using the edge farthest away from any vertex in the face.
422  *
423  * \param r_tangent: Calculated unit length tangent (return value).
424  */
425 void  BM_face_calc_tangent_edge_diagonal(const BMFace *f, float r_tangent[3])
426 {
427         BMLoop *l_iter, *l_first;
428
429         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
430
431         /* incase of degenerate faces */
432         zero_v3(r_tangent);
433
434         /* warning: O(n^2) loop here, take care! */
435         float dist_max_sq = 0.0f;
436         do {
437                 BMLoop *l_iter_other = l_iter->next;
438                 BMLoop *l_iter_last = l_iter->prev;
439                 do {
440                         BLI_assert(!ELEM(l_iter->v->co, l_iter_other->v->co, l_iter_other->next->v->co));
441                         float co_other[3], vec[3];
442                         closest_to_line_segment_v3(co_other, l_iter->v->co, l_iter_other->v->co, l_iter_other->next->v->co);
443                         sub_v3_v3v3(vec, l_iter->v->co, co_other);
444
445                         const float dist_sq = len_squared_v3(vec);
446                         if (dist_sq > dist_max_sq) {
447                                 dist_max_sq = dist_sq;
448                                 copy_v3_v3(r_tangent, vec);
449                         }
450                 } while ((l_iter_other = l_iter_other->next) != l_iter_last);
451         } while ((l_iter = l_iter->next) != l_first);
452
453         normalize_v3(r_tangent);
454 }
455
456 /**
457  * Compute the tangent of the face, using longest distance between vertices on the face.
458  *
459  * \note The logic is almost identical to #BM_face_calc_tangent_edge_diagonal
460  */
461 void  BM_face_calc_tangent_vert_diagonal(const BMFace *f, float r_tangent[3])
462 {
463         BMLoop *l_iter, *l_first;
464
465         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
466
467         /* incase of degenerate faces */
468         zero_v3(r_tangent);
469
470         /* warning: O(n^2) loop here, take care! */
471         float dist_max_sq = 0.0f;
472         do {
473                 BMLoop *l_iter_other = l_iter->next;
474                 do {
475                         float vec[3];
476                         sub_v3_v3v3(vec, l_iter->v->co, l_iter_other->v->co);
477
478                         const float dist_sq = len_squared_v3(vec);
479                         if (dist_sq > dist_max_sq) {
480                                 dist_max_sq = dist_sq;
481                                 copy_v3_v3(r_tangent, vec);
482                         }
483                 } while ((l_iter_other = l_iter_other->next) != l_iter);
484         } while ((l_iter = l_iter->next) != l_first);
485
486         normalize_v3(r_tangent);
487 }
488
489 /**
490  * Compute a meaningful direction along the face (use for manipulator axis).
491  *
492  * \note Callers shouldn't depend on the *exact* method used here.
493  */
494 void BM_face_calc_tangent_auto(const BMFace *f, float r_tangent[3])
495 {
496         if (f->len == 3) {
497                 /* most 'unique' edge of a triangle */
498                 BMVert *verts[3];
499                 BM_face_as_array_vert_tri((BMFace *)f, verts);
500                 BM_vert_tri_calc_tangent_edge(verts, r_tangent);
501         }
502         else if (f->len == 4) {
503                 /* longest edge pair of a quad */
504                 BM_face_calc_tangent_edge_pair((BMFace *)f, r_tangent);
505         }
506         else {
507                 /* longest edge of an ngon */
508                 BM_face_calc_tangent_edge((BMFace *)f, r_tangent);
509         }
510 }
511
512 /**
513  * computes center of face in 3d.  uses center of bounding box.
514  */
515 void BM_face_calc_center_bounds(const BMFace *f, float r_cent[3])
516 {
517         const BMLoop *l_iter, *l_first;
518         float min[3], max[3];
519
520         INIT_MINMAX(min, max);
521
522         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
523         do {
524                 minmax_v3v3_v3(min, max, l_iter->v->co);
525         } while ((l_iter = l_iter->next) != l_first);
526
527         mid_v3_v3v3(r_cent, min, max);
528 }
529
530 /**
531  * computes the center of a face, using the mean average
532  */
533 void BM_face_calc_center_mean(const BMFace *f, float r_cent[3])
534 {
535         const BMLoop *l_iter, *l_first;
536
537         zero_v3(r_cent);
538
539         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
540         do {
541                 add_v3_v3(r_cent, l_iter->v->co);
542         } while ((l_iter = l_iter->next) != l_first);
543         mul_v3_fl(r_cent, 1.0f / (float) f->len);
544 }
545
546 /**
547  * computes the center of a face, using the mean average
548  * weighted by edge length
549  */
550 void BM_face_calc_center_mean_weighted(const BMFace *f, float r_cent[3])
551 {
552         const BMLoop *l_iter;
553         const BMLoop *l_first;
554         float totw = 0.0f;
555         float w_prev;
556
557         zero_v3(r_cent);
558
559
560         l_iter = l_first = BM_FACE_FIRST_LOOP(f);
561         w_prev = BM_edge_calc_length(l_iter->prev->e);
562         do {
563                 const float w_curr = BM_edge_calc_length(l_iter->e);
564                 const float w = (w_curr + w_prev);
565                 madd_v3_v3fl(r_cent, l_iter->v->co, w);
566                 totw += w;
567                 w_prev = w_curr;
568         } while ((l_iter = l_iter->next) != l_first);
569
570         if (totw != 0.0f)
571                 mul_v3_fl(r_cent, 1.0f / (float) totw);
572 }
573
574 /**
575  * \brief POLY ROTATE PLANE
576  *
577  * Rotates a polygon so that it's
578  * normal is pointing towards the mesh Z axis
579  */
580 void poly_rotate_plane(const float normal[3], float (*verts)[3], const uint nverts)
581 {
582         float mat[3][3];
583         float co[3];
584         uint i;
585
586         co[2] = 0.0f;
587
588         axis_dominant_v3_to_m3(mat, normal);
589         for (i = 0; i < nverts; i++) {
590                 mul_v2_m3v3(co, mat, verts[i]);
591                 copy_v3_v3(verts[i], co);
592         }
593 }
594
595 /**
596  * updates face and vertex normals incident on an edge
597  */
598 void BM_edge_normals_update(BMEdge *e)
599 {
600         BMIter iter;
601         BMFace *f;
602         
603         BM_ITER_ELEM (f, &iter, e, BM_FACES_OF_EDGE) {
604                 BM_face_normal_update(f);
605         }
606
607         BM_vert_normal_update(e->v1);
608         BM_vert_normal_update(e->v2);
609 }
610
611 static void bm_loop_normal_accum(const BMLoop *l, float no[3])
612 {
613         float vec1[3], vec2[3], fac;
614
615         /* Same calculation used in BM_mesh_normals_update */
616         sub_v3_v3v3(vec1, l->v->co, l->prev->v->co);
617         sub_v3_v3v3(vec2, l->next->v->co, l->v->co);
618         normalize_v3(vec1);
619         normalize_v3(vec2);
620
621         fac = saacos(-dot_v3v3(vec1, vec2));
622
623         madd_v3_v3fl(no, l->f->no, fac);
624 }
625
626 bool BM_vert_calc_normal_ex(const BMVert *v, const char hflag, float r_no[3])
627 {
628         int len = 0;
629
630         zero_v3(r_no);
631
632         if (v->e) {
633                 const BMEdge *e = v->e;
634                 do {
635                         if (e->l) {
636                                 const BMLoop *l = e->l;
637                                 do {
638                                         if (l->v == v) {
639                                                 if (BM_elem_flag_test(l->f, hflag)) {
640                                                         bm_loop_normal_accum(l, r_no);
641                                                         len++;
642                                                 }
643                                         }
644                                 } while ((l = l->radial_next) != e->l);
645                         }
646                 } while ((e = bmesh_disk_edge_next(e, v)) != v->e);
647         }
648
649         if (len) {
650                 normalize_v3(r_no);
651                 return true;
652         }
653         else {
654                 return false;
655         }
656 }
657
658 bool BM_vert_calc_normal(const BMVert *v, float r_no[3])
659 {
660         int len = 0;
661
662         zero_v3(r_no);
663
664         if (v->e) {
665                 const BMEdge *e = v->e;
666                 do {
667                         if (e->l) {
668                                 const BMLoop *l = e->l;
669                                 do {
670                                         if (l->v == v) {
671                                                 bm_loop_normal_accum(l, r_no);
672                                                 len++;
673                                         }
674                                 } while ((l = l->radial_next) != e->l);
675                         }
676                 } while ((e = bmesh_disk_edge_next(e, v)) != v->e);
677         }
678
679         if (len) {
680                 normalize_v3(r_no);
681                 return true;
682         }
683         else {
684                 return false;
685         }
686 }
687
688 void BM_vert_normal_update_all(BMVert *v)
689 {
690         int len = 0;
691
692         zero_v3(v->no);
693
694         if (v->e) {
695                 const BMEdge *e = v->e;
696                 do {
697                         if (e->l) {
698                                 const BMLoop *l = e->l;
699                                 do {
700                                         if (l->v == v) {
701                                                 BM_face_normal_update(l->f);
702                                                 bm_loop_normal_accum(l, v->no);
703                                                 len++;
704                                         }
705                                 } while ((l = l->radial_next) != e->l);
706                         }
707                 } while ((e = bmesh_disk_edge_next(e, v)) != v->e);
708         }
709
710         if (len) {
711                 normalize_v3(v->no);
712         }
713 }
714
715 /**
716  * update a vert normal (but not the faces incident on it)
717  */
718 void BM_vert_normal_update(BMVert *v)
719 {
720         BM_vert_calc_normal(v, v->no);
721 }
722
723 /**
724  * \brief BMESH UPDATE FACE NORMAL
725  *
726  * Updates the stored normal for the
727  * given face. Requires that a buffer
728  * of sufficient length to store projected
729  * coordinates for all of the face's vertices
730  * is passed in as well.
731  */
732
733 float BM_face_calc_normal(const BMFace *f, float r_no[3])
734 {
735         BMLoop *l;
736
737         /* common cases first */
738         switch (f->len) {
739                 case 4:
740                 {
741                         const float *co1 = (l = BM_FACE_FIRST_LOOP(f))->v->co;
742                         const float *co2 = (l = l->next)->v->co;
743                         const float *co3 = (l = l->next)->v->co;
744                         const float *co4 = (l->next)->v->co;
745
746                         return normal_quad_v3(r_no, co1, co2, co3, co4);
747                 }
748                 case 3:
749                 {
750                         const float *co1 = (l = BM_FACE_FIRST_LOOP(f))->v->co;
751                         const float *co2 = (l = l->next)->v->co;
752                         const float *co3 = (l->next)->v->co;
753
754                         return normal_tri_v3(r_no, co1, co2, co3);
755                 }
756                 default:
757                 {
758                         return bm_face_calc_poly_normal(f, r_no);
759                 }
760         }
761 }
762 void BM_face_normal_update(BMFace *f)
763 {
764         BM_face_calc_normal(f, f->no);
765 }
766
767 /* exact same as 'BM_face_calc_normal' but accepts vertex coords */
768 float BM_face_calc_normal_vcos(
769         const BMesh *bm, const BMFace *f, float r_no[3],
770         float const (*vertexCos)[3])
771 {
772         BMLoop *l;
773
774         /* must have valid index data */
775         BLI_assert((bm->elem_index_dirty & BM_VERT) == 0);
776         (void)bm;
777
778         /* common cases first */
779         switch (f->len) {
780                 case 4:
781                 {
782                         const float *co1 = vertexCos[BM_elem_index_get((l = BM_FACE_FIRST_LOOP(f))->v)];
783                         const float *co2 = vertexCos[BM_elem_index_get((l = l->next)->v)];
784                         const float *co3 = vertexCos[BM_elem_index_get((l = l->next)->v)];
785                         const float *co4 = vertexCos[BM_elem_index_get((l->next)->v)];
786
787                         return normal_quad_v3(r_no, co1, co2, co3, co4);
788                 }
789                 case 3:
790                 {
791                         const float *co1 = vertexCos[BM_elem_index_get((l = BM_FACE_FIRST_LOOP(f))->v)];
792                         const float *co2 = vertexCos[BM_elem_index_get((l = l->next)->v)];
793                         const float *co3 = vertexCos[BM_elem_index_get((l->next)->v)];
794
795                         return normal_tri_v3(r_no, co1, co2, co3);
796                 }
797                 default:
798                 {
799                         return bm_face_calc_poly_normal_vertex_cos(f, r_no, vertexCos);
800                 }
801         }
802 }
803
804 /**
805  * Calculates the face subset normal.
806  */
807 float BM_face_calc_normal_subset(const BMLoop *l_first, const BMLoop *l_last, float r_no[3])
808 {
809         const float *v_prev, *v_curr;
810
811         /* Newell's Method */
812         const BMLoop *l_iter = l_first;
813         const BMLoop *l_term = l_last->next;
814
815         zero_v3(r_no);
816
817         v_prev = l_last->v->co;
818         do {
819                 v_curr = l_iter->v->co;
820                 add_newell_cross_v3_v3v3(r_no, v_prev, v_curr);
821                 v_prev = v_curr;
822         } while ((l_iter = l_iter->next) != l_term);
823
824         return normalize_v3(r_no);
825 }
826
827 /* exact same as 'BM_face_calc_normal' but accepts vertex coords */
828 void BM_face_calc_center_mean_vcos(
829         const BMesh *bm, const BMFace *f, float r_cent[3],
830         float const (*vertexCos)[3])
831 {
832         /* must have valid index data */
833         BLI_assert((bm->elem_index_dirty & BM_VERT) == 0);
834         (void)bm;
835
836         bm_face_calc_poly_center_mean_vertex_cos(f, r_cent, vertexCos);
837 }
838
839 /**
840  * \brief Face Flip Normal
841  *
842  * Reverses the winding of a face.
843  * \note This updates the calculated normal.
844  */
845 void BM_face_normal_flip_ex(
846         BMesh *bm, BMFace *f,
847         const int cd_loop_mdisp_offset, const bool use_loop_mdisp_flip)
848 {
849         bmesh_kernel_loop_reverse(bm, f, cd_loop_mdisp_offset, use_loop_mdisp_flip);
850         negate_v3(f->no);
851 }
852
853 void BM_face_normal_flip(BMesh *bm, BMFace *f)
854 {
855         const int cd_loop_mdisp_offset = CustomData_get_offset(&bm->ldata, CD_MDISPS);
856         BM_face_normal_flip_ex(bm, f, cd_loop_mdisp_offset, true);
857 }
858
859 /**
860  *  BM POINT IN FACE
861  *
862  * Projects co onto face f, and returns true if it is inside
863  * the face bounds.
864  *
865  * \note this uses a best-axis projection test,
866  * instead of projecting co directly into f's orientation space,
867  * so there might be accuracy issues.
868  */
869 bool BM_face_point_inside_test(const BMFace *f, const float co[3])
870 {
871         float axis_mat[3][3];
872         float (*projverts)[2] = BLI_array_alloca(projverts, f->len);
873
874         float co_2d[2];
875         BMLoop *l_iter;
876         int i;
877         
878         BLI_assert(BM_face_is_normal_valid(f));
879
880         axis_dominant_v3_to_m3(axis_mat, f->no);
881
882         mul_v2_m3v3(co_2d, axis_mat, co);
883
884         for (i = 0, l_iter = BM_FACE_FIRST_LOOP(f); i < f->len; i++, l_iter = l_iter->next) {
885                 mul_v2_m3v3(projverts[i], axis_mat, l_iter->v->co);
886         }
887
888         return isect_point_poly_v2(co_2d, (const float (*)[2])projverts, f->len, false);
889 }
890
891 /**
892  * \brief BMESH TRIANGULATE FACE
893  *
894  * Breaks all quads and ngons down to triangles.
895  * It uses polyfill for the ngons splitting, and
896  * the beautify operator when use_beauty is true.
897  *
898  * \param r_faces_new if non-null, must be an array of BMFace pointers,
899  * with a length equal to (f->len - 3). It will be filled with the new
900  * triangles (not including the original triangle).
901  *
902  * \param r_faces_double: When newly created faces are duplicates of existing faces, they're added to this list.
903  * Caller must handle de-duplication.
904  * This is done because its possible _all_ faces exist already,
905  * and in that case we would have to remove all faces including the one passed,
906  * which causes complications adding/removing faces while looking over them.
907  *
908  * \note The number of faces is _almost_ always (f->len - 3),
909  *       However there may be faces that already occupying the
910  *       triangles we would make, so the caller must check \a r_faces_new_tot.
911  *
912  * \note use_tag tags new flags and edges.
913  */
914 void BM_face_triangulate(
915         BMesh *bm, BMFace *f,
916         BMFace **r_faces_new,
917         int     *r_faces_new_tot,
918         BMEdge **r_edges_new,
919         int     *r_edges_new_tot,
920         LinkNode **r_faces_double,
921         const int quad_method,
922         const int ngon_method,
923         const bool use_tag,
924         /* use for ngons only! */
925         MemArena *pf_arena,
926
927         /* use for MOD_TRIANGULATE_NGON_BEAUTY only! */
928         struct Heap *pf_heap, struct EdgeHash *pf_ehash)
929 {
930         const int cd_loop_mdisp_offset = CustomData_get_offset(&bm->ldata, CD_MDISPS);
931         const bool use_beauty = (ngon_method == MOD_TRIANGULATE_NGON_BEAUTY);
932         BMLoop *l_first, *l_new;
933         BMFace *f_new;
934         int nf_i = 0;
935         int ne_i = 0;
936
937         BLI_assert(BM_face_is_normal_valid(f));
938
939         /* ensure both are valid or NULL */
940         BLI_assert((r_faces_new == NULL) == (r_faces_new_tot == NULL));
941
942         BLI_assert(f->len > 3);
943
944         {
945                 BMLoop **loops = BLI_array_alloca(loops, f->len);
946                 uint (*tris)[3] = BLI_array_alloca(tris, f->len);
947                 const int totfilltri = f->len - 2;
948                 const int last_tri = f->len - 3;
949                 int i;
950                 /* for mdisps */
951                 float f_center[3];
952
953                 if (f->len == 4) {
954                         /* even though we're not using BLI_polyfill, fill in 'tris' and 'loops'
955                          * so we can share code to handle face creation afterwards. */
956                         BMLoop *l_v1, *l_v2;
957
958                         l_first = BM_FACE_FIRST_LOOP(f);
959
960                         switch (quad_method) {
961                                 case MOD_TRIANGULATE_QUAD_FIXED:
962                                 {
963                                         l_v1 = l_first;
964                                         l_v2 = l_first->next->next;
965                                         break;
966                                 }
967                                 case MOD_TRIANGULATE_QUAD_ALTERNATE:
968                                 {
969                                         l_v1 = l_first->next;
970                                         l_v2 = l_first->prev;
971                                         break;
972                                 }
973                                 case MOD_TRIANGULATE_QUAD_SHORTEDGE:
974                                 case MOD_TRIANGULATE_QUAD_BEAUTY:
975                                 default:
976                                 {
977                                         BMLoop *l_v3, *l_v4;
978                                         bool split_24;
979
980                                         l_v1 = l_first->next;
981                                         l_v2 = l_first->next->next;
982                                         l_v3 = l_first->prev;
983                                         l_v4 = l_first;
984
985                                         if (quad_method == MOD_TRIANGULATE_QUAD_SHORTEDGE) {
986                                                 float d1, d2;
987                                                 d1 = len_squared_v3v3(l_v4->v->co, l_v2->v->co);
988                                                 d2 = len_squared_v3v3(l_v1->v->co, l_v3->v->co);
989                                                 split_24 = ((d2 - d1) > 0.0f);
990                                         }
991                                         else {
992                                                 /* first check if the quad is concave on either diagonal */
993                                                 const int flip_flag = is_quad_flip_v3(l_v1->v->co, l_v2->v->co, l_v3->v->co, l_v4->v->co);
994                                                 if (UNLIKELY(flip_flag & (1 << 0))) {
995                                                         split_24 = true;
996                                                 }
997                                                 else if (UNLIKELY(flip_flag & (1 << 1))) {
998                                                         split_24 = false;
999                                                 }
1000                                                 else {
1001                                                         split_24 = (BM_verts_calc_rotate_beauty(l_v1->v, l_v2->v, l_v3->v, l_v4->v, 0, 0) > 0.0f);
1002                                                 }
1003                                         }
1004
1005                                         /* named confusingly, l_v1 is in fact the second vertex */
1006                                         if (split_24) {
1007                                                 l_v1 = l_v4;
1008                                                 //l_v2 = l_v2;
1009                                         }
1010                                         else {
1011                                                 //l_v1 = l_v1;
1012                                                 l_v2 = l_v3;
1013                                         }
1014                                         break;
1015                                 }
1016                         }
1017
1018                         loops[0] = l_v1;
1019                         loops[1] = l_v1->next;
1020                         loops[2] = l_v2;
1021                         loops[3] = l_v2->next;
1022
1023                         ARRAY_SET_ITEMS(tris[0], 0, 1, 2);
1024                         ARRAY_SET_ITEMS(tris[1], 0, 2, 3);
1025                 }
1026                 else {
1027                         BMLoop *l_iter;
1028                         float axis_mat[3][3];
1029                         float (*projverts)[2] = BLI_array_alloca(projverts, f->len);
1030
1031                         axis_dominant_v3_to_m3_negate(axis_mat, f->no);
1032
1033                         for (i = 0, l_iter = BM_FACE_FIRST_LOOP(f); i < f->len; i++, l_iter = l_iter->next) {
1034                                 loops[i] = l_iter;
1035                                 mul_v2_m3v3(projverts[i], axis_mat, l_iter->v->co);
1036                         }
1037
1038                         BLI_polyfill_calc_arena((const float (*)[2])projverts, f->len, 1, tris,
1039                                                 pf_arena);
1040
1041                         if (use_beauty) {
1042                                 BLI_polyfill_beautify(
1043                                         (const float (*)[2])projverts, f->len, tris,
1044                                         pf_arena, pf_heap, pf_ehash);
1045                         }
1046
1047                         BLI_memarena_clear(pf_arena);
1048                 }
1049
1050                 if (cd_loop_mdisp_offset != -1) {
1051                         BM_face_calc_center_mean(f, f_center);
1052                 }
1053
1054                 /* loop over calculated triangles and create new geometry */
1055                 for (i = 0; i < totfilltri; i++) {
1056                         BMLoop *l_tri[3] = {
1057                             loops[tris[i][0]],
1058                             loops[tris[i][1]],
1059                             loops[tris[i][2]]};
1060
1061                         BMVert *v_tri[3] = {
1062                             l_tri[0]->v,
1063                             l_tri[1]->v,
1064                             l_tri[2]->v};
1065
1066                         f_new = BM_face_create_verts(bm, v_tri, 3, f, BM_CREATE_NOP, true);
1067                         l_new = BM_FACE_FIRST_LOOP(f_new);
1068
1069                         BLI_assert(v_tri[0] == l_new->v);
1070
1071                         /* check for duplicate */
1072                         if (l_new->radial_next != l_new) {
1073                                 BMLoop *l_iter = l_new->radial_next;
1074                                 do {
1075                                         if (UNLIKELY((l_iter->f->len == 3) && (l_new->prev->v == l_iter->prev->v))) {
1076                                                 /* Check the last tri because we swap last f_new with f at the end... */
1077                                                 BLI_linklist_prepend(r_faces_double, (i != last_tri) ? f_new : f);
1078                                                 break;
1079                                         }
1080                                 } while ((l_iter = l_iter->radial_next) != l_new);
1081                         }
1082
1083                         /* copy CD data */
1084                         BM_elem_attrs_copy(bm, bm, l_tri[0], l_new);
1085                         BM_elem_attrs_copy(bm, bm, l_tri[1], l_new->next);
1086                         BM_elem_attrs_copy(bm, bm, l_tri[2], l_new->prev);
1087
1088                         /* add all but the last face which is swapped and removed (below) */
1089                         if (i != last_tri) {
1090                                 if (use_tag) {
1091                                         BM_elem_flag_enable(f_new, BM_ELEM_TAG);
1092                                 }
1093                                 if (r_faces_new) {
1094                                         r_faces_new[nf_i++] = f_new;
1095                                 }
1096                         }
1097
1098                         if (use_tag || r_edges_new) {
1099                                 /* new faces loops */
1100                                 BMLoop *l_iter;
1101
1102                                 l_iter = l_first = l_new;
1103                                 do {
1104                                         BMEdge *e = l_iter->e;
1105                                         /* confusing! if its not a boundary now, we know it will be later
1106                                          * since this will be an edge of one of the new faces which we're in the middle of creating */
1107                                         bool is_new_edge = (l_iter == l_iter->radial_next);
1108
1109                                         if (is_new_edge) {
1110                                                 if (use_tag) {
1111                                                         BM_elem_flag_enable(e, BM_ELEM_TAG);
1112                                                 }
1113                                                 if (r_edges_new) {
1114                                                         r_edges_new[ne_i++] = e;
1115                                                 }
1116                                         }
1117                                         /* note, never disable tag's */
1118                                 } while ((l_iter = l_iter->next) != l_first);
1119                         }
1120
1121                         if (cd_loop_mdisp_offset != -1) {
1122                                 float f_new_center[3];
1123                                 BM_face_calc_center_mean(f_new, f_new_center);
1124                                 BM_face_interp_multires_ex(bm, f_new, f, f_new_center, f_center, cd_loop_mdisp_offset);
1125                         }
1126                 }
1127
1128                 {
1129                         /* we can't delete the real face, because some of the callers expect it to remain valid.
1130                          * so swap data and delete the last created tri */
1131                         bmesh_face_swap_data(f, f_new);
1132                         BM_face_kill(bm, f_new);
1133                 }
1134         }
1135         bm->elem_index_dirty |= BM_FACE;
1136
1137         if (r_faces_new_tot) {
1138                 *r_faces_new_tot = nf_i;
1139         }
1140
1141         if (r_edges_new_tot) {
1142                 *r_edges_new_tot = ne_i;
1143         }
1144 }
1145
1146 /**
1147  * each pair of loops defines a new edge, a split.  this function goes
1148  * through and sets pairs that are geometrically invalid to null.  a
1149  * split is invalid, if it forms a concave angle or it intersects other
1150  * edges in the face, or it intersects another split.  in the case of
1151  * intersecting splits, only the first of the set of intersecting
1152  * splits survives
1153  */
1154 void BM_face_splits_check_legal(BMesh *bm, BMFace *f, BMLoop *(*loops)[2], int len)
1155 {
1156         float out[2] = {-FLT_MAX, -FLT_MAX};
1157         float center[2] = {0.0f, 0.0f};
1158         float axis_mat[3][3];
1159         float (*projverts)[2] = BLI_array_alloca(projverts, f->len);
1160         const float *(*edgeverts)[2] = BLI_array_alloca(edgeverts, len);
1161         BMLoop *l;
1162         int i, i_prev, j;
1163
1164         BLI_assert(BM_face_is_normal_valid(f));
1165
1166         axis_dominant_v3_to_m3(axis_mat, f->no);
1167
1168         for (i = 0, l = BM_FACE_FIRST_LOOP(f); i < f->len; i++, l = l->next) {
1169                 mul_v2_m3v3(projverts[i], axis_mat, l->v->co);
1170                 add_v2_v2(center, projverts[i]);
1171         }
1172
1173         /* first test for completely convex face */
1174         if (is_poly_convex_v2((const float (*)[2])projverts, f->len)) {
1175                 return;
1176         }
1177
1178         mul_v2_fl(center, 1.0f / f->len);
1179
1180         for (i = 0, l = BM_FACE_FIRST_LOOP(f); i < f->len; i++, l = l->next) {
1181                 BM_elem_index_set(l, i);  /* set_dirty */
1182
1183                 /* center the projection for maximum accuracy */
1184                 sub_v2_v2(projverts[i], center);
1185
1186                 out[0] = max_ff(out[0], projverts[i][0]);
1187                 out[1] = max_ff(out[1], projverts[i][1]);
1188         }
1189         bm->elem_index_dirty |= BM_LOOP;
1190         
1191         /* ensure we are well outside the face bounds (value is arbitrary) */
1192         add_v2_fl(out, 1.0f);
1193
1194         for (i = 0; i < len; i++) {
1195                 edgeverts[i][0] = projverts[BM_elem_index_get(loops[i][0])];
1196                 edgeverts[i][1] = projverts[BM_elem_index_get(loops[i][1])];
1197         }
1198
1199         /* do convexity test */
1200         for (i = 0; i < len; i++) {
1201                 float mid[2];
1202                 mid_v2_v2v2(mid, edgeverts[i][0], edgeverts[i][1]);
1203                 
1204                 int isect = 0;
1205                 int j_prev;
1206                 for (j = 0, j_prev = f->len - 1; j < f->len; j_prev = j++) {
1207                         const float *f_edge[2] = {projverts[j_prev], projverts[j]};
1208                         if (isect_seg_seg_v2(UNPACK2(f_edge), mid, out) == ISECT_LINE_LINE_CROSS) {
1209                                 isect++;
1210                         }
1211                 }
1212
1213                 if (isect % 2 == 0) {
1214                         loops[i][0] = NULL;
1215                 }
1216         }
1217
1218 #define EDGE_SHARE_VERT(e1, e2) \
1219         ((ELEM((e1)[0], (e2)[0], (e2)[1])) || \
1220          (ELEM((e1)[1], (e2)[0], (e2)[1])))
1221
1222         /* do line crossing tests */
1223         for (i = 0, i_prev = f->len - 1; i < f->len; i_prev = i++) {
1224                 const float *f_edge[2] = {projverts[i_prev], projverts[i]};
1225                 for (j = 0; j < len; j++) {
1226                         if ((loops[j][0] != NULL) &&
1227                             !EDGE_SHARE_VERT(f_edge, edgeverts[j]))
1228                         {
1229                                 if (isect_seg_seg_v2(UNPACK2(f_edge), UNPACK2(edgeverts[j])) == ISECT_LINE_LINE_CROSS) {
1230                                         loops[j][0] = NULL;
1231                                 }
1232                         }
1233                 }
1234         }
1235
1236         /* self intersect tests */
1237         for (i = 0; i < len; i++) {
1238                 if (loops[i][0]) {
1239                         for (j = i + 1; j < len; j++) {
1240                                 if ((loops[j][0] != NULL) &&
1241                                     !EDGE_SHARE_VERT(edgeverts[i], edgeverts[j]))
1242                                 {
1243                                         if (isect_seg_seg_v2(UNPACK2(edgeverts[i]), UNPACK2(edgeverts[j])) == ISECT_LINE_LINE_CROSS) {
1244                                                 loops[i][0] = NULL;
1245                                                 break;
1246                                         }
1247                                 }
1248                         }
1249                 }
1250         }
1251
1252 #undef EDGE_SHARE_VERT
1253 }
1254
1255 /**
1256  * This simply checks that the verts don't connect faces which would have more optimal splits.
1257  * but _not_ check for correctness.
1258  */
1259 void BM_face_splits_check_optimal(BMFace *f, BMLoop *(*loops)[2], int len)
1260 {
1261         int i;
1262
1263         for (i = 0; i < len; i++) {
1264                 BMLoop *l_a_dummy, *l_b_dummy;
1265                 if (f != BM_vert_pair_share_face_by_angle(loops[i][0]->v, loops[i][1]->v, &l_a_dummy, &l_b_dummy, false)) {
1266                         loops[i][0] = NULL;
1267                 }
1268         }
1269 }
1270
1271 /**
1272  * Small utility functions for fast access
1273  *
1274  * faster alternative to:
1275  *  BM_iter_as_array(bm, BM_VERTS_OF_FACE, f, (void **)v, 3);
1276  */
1277 void BM_face_as_array_vert_tri(BMFace *f, BMVert *r_verts[3])
1278 {
1279         BMLoop *l = BM_FACE_FIRST_LOOP(f);
1280
1281         BLI_assert(f->len == 3);
1282
1283         r_verts[0] = l->v; l = l->next;
1284         r_verts[1] = l->v; l = l->next;
1285         r_verts[2] = l->v;
1286 }
1287
1288 /**
1289  * faster alternative to:
1290  *  BM_iter_as_array(bm, BM_VERTS_OF_FACE, f, (void **)v, 4);
1291  */
1292 void BM_face_as_array_vert_quad(BMFace *f, BMVert *r_verts[4])
1293 {
1294         BMLoop *l = BM_FACE_FIRST_LOOP(f);
1295
1296         BLI_assert(f->len == 4);
1297
1298         r_verts[0] = l->v; l = l->next;
1299         r_verts[1] = l->v; l = l->next;
1300         r_verts[2] = l->v; l = l->next;
1301         r_verts[3] = l->v;
1302 }
1303
1304
1305 /**
1306  * Small utility functions for fast access
1307  *
1308  * faster alternative to:
1309  *  BM_iter_as_array(bm, BM_LOOPS_OF_FACE, f, (void **)l, 3);
1310  */
1311 void BM_face_as_array_loop_tri(BMFace *f, BMLoop *r_loops[3])
1312 {
1313         BMLoop *l = BM_FACE_FIRST_LOOP(f);
1314
1315         BLI_assert(f->len == 3);
1316
1317         r_loops[0] = l; l = l->next;
1318         r_loops[1] = l; l = l->next;
1319         r_loops[2] = l;
1320 }
1321
1322 /**
1323  * faster alternative to:
1324  *  BM_iter_as_array(bm, BM_LOOPS_OF_FACE, f, (void **)l, 4);
1325  */
1326 void BM_face_as_array_loop_quad(BMFace *f, BMLoop *r_loops[4])
1327 {
1328         BMLoop *l = BM_FACE_FIRST_LOOP(f);
1329
1330         BLI_assert(f->len == 4);
1331
1332         r_loops[0] = l; l = l->next;
1333         r_loops[1] = l; l = l->next;
1334         r_loops[2] = l; l = l->next;
1335         r_loops[3] = l;
1336 }
1337
1338
1339 /**
1340  * \brief BM_mesh_calc_tessellation get the looptris and its number from a certain bmesh
1341  * \param looptris
1342  *
1343  * \note \a looptris  Must be pre-allocated to at least the size of given by: poly_to_tri_count
1344  */
1345 void BM_mesh_calc_tessellation(BMesh *bm, BMLoop *(*looptris)[3], int *r_looptris_tot)
1346 {
1347         /* use this to avoid locking pthread for _every_ polygon
1348          * and calling the fill function */
1349 #define USE_TESSFACE_SPEEDUP
1350
1351         /* this assumes all faces can be scan-filled, which isn't always true,
1352          * worst case we over alloc a little which is acceptable */
1353 #ifndef NDEBUG
1354         const int looptris_tot = poly_to_tri_count(bm->totface, bm->totloop);
1355 #endif
1356
1357         BMIter iter;
1358         BMFace *efa;
1359         int i = 0;
1360
1361         MemArena *arena = NULL;
1362
1363         BM_ITER_MESH (efa, &iter, bm, BM_FACES_OF_MESH) {
1364                 /* don't consider two-edged faces */
1365                 if (UNLIKELY(efa->len < 3)) {
1366                         /* do nothing */
1367                 }
1368
1369 #ifdef USE_TESSFACE_SPEEDUP
1370
1371                 /* no need to ensure the loop order, we know its ok */
1372
1373                 else if (efa->len == 3) {
1374 #if 0
1375                         int j;
1376                         BM_ITER_ELEM_INDEX (l, &liter, efa, BM_LOOPS_OF_FACE, j) {
1377                                 looptris[i][j] = l;
1378                         }
1379                         i += 1;
1380 #else
1381                         /* more cryptic but faster */
1382                         BMLoop *l;
1383                         BMLoop **l_ptr = looptris[i++];
1384                         l_ptr[0] = l = BM_FACE_FIRST_LOOP(efa);
1385                         l_ptr[1] = l = l->next;
1386                         l_ptr[2] = l->next;
1387 #endif
1388                 }
1389                 else if (efa->len == 4) {
1390 #if 0
1391                         BMLoop *ltmp[4];
1392                         int j;
1393                         BLI_array_grow_items(looptris, 2);
1394                         BM_ITER_ELEM_INDEX (l, &liter, efa, BM_LOOPS_OF_FACE, j) {
1395                                 ltmp[j] = l;
1396                         }
1397
1398                         looptris[i][0] = ltmp[0];
1399                         looptris[i][1] = ltmp[1];
1400                         looptris[i][2] = ltmp[2];
1401                         i += 1;
1402
1403                         looptris[i][0] = ltmp[0];
1404                         looptris[i][1] = ltmp[2];
1405                         looptris[i][2] = ltmp[3];
1406                         i += 1;
1407 #else
1408                         /* more cryptic but faster */
1409                         BMLoop *l;
1410                         BMLoop **l_ptr_a = looptris[i++];
1411                         BMLoop **l_ptr_b = looptris[i++];
1412                         (l_ptr_a[0] = l_ptr_b[0] = l = BM_FACE_FIRST_LOOP(efa));
1413                         (l_ptr_a[1]              = l = l->next);
1414                         (l_ptr_a[2] = l_ptr_b[1] = l = l->next);
1415                         (             l_ptr_b[2] = l->next);
1416 #endif
1417                 }
1418
1419 #endif /* USE_TESSFACE_SPEEDUP */
1420
1421                 else {
1422                         int j;
1423
1424                         BMLoop *l_iter;
1425                         BMLoop *l_first;
1426                         BMLoop **l_arr;
1427
1428                         float axis_mat[3][3];
1429                         float (*projverts)[2];
1430                         uint (*tris)[3];
1431
1432                         const int totfilltri = efa->len - 2;
1433
1434                         if (UNLIKELY(arena == NULL)) {
1435                                 arena = BLI_memarena_new(BLI_MEMARENA_STD_BUFSIZE, __func__);
1436                         }
1437
1438                         tris = BLI_memarena_alloc(arena, sizeof(*tris) * totfilltri);
1439                         l_arr = BLI_memarena_alloc(arena, sizeof(*l_arr) * efa->len);
1440                         projverts = BLI_memarena_alloc(arena, sizeof(*projverts) * efa->len);
1441
1442                         axis_dominant_v3_to_m3_negate(axis_mat, efa->no);
1443
1444                         j = 0;
1445                         l_iter = l_first = BM_FACE_FIRST_LOOP(efa);
1446                         do {
1447                                 l_arr[j] = l_iter;
1448                                 mul_v2_m3v3(projverts[j], axis_mat, l_iter->v->co);
1449                                 j++;
1450                         } while ((l_iter = l_iter->next) != l_first);
1451
1452                         BLI_polyfill_calc_arena((const float (*)[2])projverts, efa->len, 1, tris, arena);
1453
1454                         for (j = 0; j < totfilltri; j++) {
1455                                 BMLoop **l_ptr = looptris[i++];
1456                                 uint *tri = tris[j];
1457
1458                                 l_ptr[0] = l_arr[tri[0]];
1459                                 l_ptr[1] = l_arr[tri[1]];
1460                                 l_ptr[2] = l_arr[tri[2]];
1461                         }
1462
1463                         BLI_memarena_clear(arena);
1464                 }
1465         }
1466
1467         if (arena) {
1468                 BLI_memarena_free(arena);
1469                 arena = NULL;
1470         }
1471
1472         *r_looptris_tot = i;
1473
1474         BLI_assert(i <= looptris_tot);
1475
1476 #undef USE_TESSFACE_SPEEDUP
1477
1478 }
1479
1480
1481 /**
1482  * A version of #BM_mesh_calc_tessellation that avoids degenerate triangles.
1483  */
1484 void BM_mesh_calc_tessellation_beauty(BMesh *bm, BMLoop *(*looptris)[3], int *r_looptris_tot)
1485 {
1486         /* this assumes all faces can be scan-filled, which isn't always true,
1487          * worst case we over alloc a little which is acceptable */
1488 #ifndef NDEBUG
1489         const int looptris_tot = poly_to_tri_count(bm->totface, bm->totloop);
1490 #endif
1491
1492         BMIter iter;
1493         BMFace *efa;
1494         int i = 0;
1495
1496         MemArena *pf_arena = NULL;
1497
1498         /* use_beauty */
1499         Heap *pf_heap = NULL;
1500         EdgeHash *pf_ehash = NULL;
1501
1502         BM_ITER_MESH (efa, &iter, bm, BM_FACES_OF_MESH) {
1503                 /* don't consider two-edged faces */
1504                 if (UNLIKELY(efa->len < 3)) {
1505                         /* do nothing */
1506                 }
1507                 else if (efa->len == 3) {
1508                         BMLoop *l;
1509                         BMLoop **l_ptr = looptris[i++];
1510                         l_ptr[0] = l = BM_FACE_FIRST_LOOP(efa);
1511                         l_ptr[1] = l = l->next;
1512                         l_ptr[2] = l->next;
1513                 }
1514                 else if (efa->len == 4) {
1515                         BMLoop *l_v1 = BM_FACE_FIRST_LOOP(efa);
1516                         BMLoop *l_v2 = l_v1->next;
1517                         BMLoop *l_v3 = l_v2->next;
1518                         BMLoop *l_v4 = l_v1->prev;
1519
1520                         const bool split_24 = (BM_verts_calc_rotate_beauty(l_v1->v, l_v2->v, l_v3->v, l_v4->v, 0, 0) > 0.0f);
1521
1522                         BMLoop **l_ptr_a = looptris[i++];
1523                         BMLoop **l_ptr_b = looptris[i++];
1524                         if (split_24 == 0) {
1525                                 l_ptr_a[0] = l_v1;
1526                                 l_ptr_a[1] = l_v2;
1527                                 l_ptr_a[2] = l_v3;
1528
1529                                 l_ptr_b[0] = l_v1;
1530                                 l_ptr_b[1] = l_v3;
1531                                 l_ptr_b[2] = l_v4;
1532                         }
1533                         else {
1534                                 l_ptr_a[0] = l_v1;
1535                                 l_ptr_a[1] = l_v2;
1536                                 l_ptr_a[2] = l_v4;
1537
1538                                 l_ptr_b[0] = l_v2;
1539                                 l_ptr_b[1] = l_v3;
1540                                 l_ptr_b[2] = l_v4;
1541                         }
1542                 }
1543                 else {
1544                         int j;
1545
1546                         BMLoop *l_iter;
1547                         BMLoop *l_first;
1548                         BMLoop **l_arr;
1549
1550                         float axis_mat[3][3];
1551                         float (*projverts)[2];
1552                         unsigned int (*tris)[3];
1553
1554                         const int totfilltri = efa->len - 2;
1555
1556                         if (UNLIKELY(pf_arena == NULL)) {
1557                                 pf_arena = BLI_memarena_new(BLI_MEMARENA_STD_BUFSIZE, __func__);
1558                                 pf_heap = BLI_heap_new_ex(BLI_POLYFILL_ALLOC_NGON_RESERVE);
1559                                 pf_ehash = BLI_edgehash_new_ex(__func__, BLI_POLYFILL_ALLOC_NGON_RESERVE);
1560                         }
1561
1562                         tris = BLI_memarena_alloc(pf_arena, sizeof(*tris) * totfilltri);
1563                         l_arr = BLI_memarena_alloc(pf_arena, sizeof(*l_arr) * efa->len);
1564                         projverts = BLI_memarena_alloc(pf_arena, sizeof(*projverts) * efa->len);
1565
1566                         axis_dominant_v3_to_m3_negate(axis_mat, efa->no);
1567
1568                         j = 0;
1569                         l_iter = l_first = BM_FACE_FIRST_LOOP(efa);
1570                         do {
1571                                 l_arr[j] = l_iter;
1572                                 mul_v2_m3v3(projverts[j], axis_mat, l_iter->v->co);
1573                                 j++;
1574                         } while ((l_iter = l_iter->next) != l_first);
1575
1576                         BLI_polyfill_calc_arena((const float (*)[2])projverts, efa->len, 1, tris, pf_arena);
1577
1578                         BLI_polyfill_beautify((const float (*)[2])projverts, efa->len, tris, pf_arena, pf_heap, pf_ehash);
1579
1580                         for (j = 0; j < totfilltri; j++) {
1581                                 BMLoop **l_ptr = looptris[i++];
1582                                 unsigned int *tri = tris[j];
1583
1584                                 l_ptr[0] = l_arr[tri[0]];
1585                                 l_ptr[1] = l_arr[tri[1]];
1586                                 l_ptr[2] = l_arr[tri[2]];
1587                         }
1588
1589                         BLI_memarena_clear(pf_arena);
1590                 }
1591         }
1592
1593         if (pf_arena) {
1594                 BLI_memarena_free(pf_arena);
1595
1596                 BLI_heap_free(pf_heap, NULL);
1597                 BLI_edgehash_free(pf_ehash, NULL);
1598         }
1599
1600         *r_looptris_tot = i;
1601
1602         BLI_assert(i <= looptris_tot);
1603
1604 }