Cleanup: debug-only variable.
[blender.git] / source / blender / blenkernel / intern / mesh_mapping.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s): Blender Foundation
19  *
20  * ***** END GPL LICENSE BLOCK *****
21  */
22
23 /** \file blender/blenkernel/intern/mesh_mapping.c
24  *  \ingroup bke
25  *
26  * Functions for accessing mesh connectivity data.
27  * eg: polys connected to verts, UV's connected to verts.
28  */
29
30 #include "MEM_guardedalloc.h"
31
32 #include "DNA_meshdata_types.h"
33 #include "DNA_vec_types.h"
34
35 #include "BLI_buffer.h"
36 #include "BLI_utildefines.h"
37 #include "BLI_bitmap.h"
38 #include "BLI_math.h"
39
40 #include "BKE_mesh_mapping.h"
41 #include "BKE_customdata.h"
42 #include "BLI_memarena.h"
43
44 #include "BLI_strict_flags.h"
45
46
47 /* -------------------------------------------------------------------- */
48
49 /** \name Mesh Connectivity Mapping
50  * \{ */
51
52
53 /* ngon version wip, based on BM_uv_vert_map_create */
54 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
55  * but for now this replaces it because its unused. */
56
57 UvVertMap *BKE_mesh_uv_vert_map_create(
58         struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv,
59         unsigned int totpoly, unsigned int totvert,
60         const float limit[2], const bool selected, const bool use_winding)
61 {
62         UvVertMap *vmap;
63         UvMapVert *buf;
64         MPoly *mp;
65         unsigned int a;
66         int i, totuv, nverts;
67
68         bool *winding = NULL;
69         BLI_buffer_declare_static(vec2f, tf_uv_buf, BLI_BUFFER_NOP, 32);
70
71         totuv = 0;
72
73         /* generate UvMapVert array */
74         mp = mpoly;
75         for (a = 0; a < totpoly; a++, mp++)
76                 if (!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
77                         totuv += mp->totloop;
78
79         if (totuv == 0)
80                 return NULL;
81
82         vmap = (UvVertMap *)MEM_callocN(sizeof(*vmap), "UvVertMap");
83         buf = vmap->buf = (UvMapVert *)MEM_callocN(sizeof(*vmap->buf) * (size_t)totuv, "UvMapVert");
84         vmap->vert = (UvMapVert **)MEM_callocN(sizeof(*vmap->vert) * totvert, "UvMapVert*");
85         if (use_winding) {
86                 winding = MEM_callocN(sizeof(*winding) * totpoly, "winding");
87         }
88
89         if (!vmap->vert || !vmap->buf) {
90                 BKE_mesh_uv_vert_map_free(vmap);
91                 return NULL;
92         }
93
94         mp = mpoly;
95         for (a = 0; a < totpoly; a++, mp++) {
96                 if (!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
97                         float (*tf_uv)[2] = NULL;
98
99                         if (use_winding) {
100                                 tf_uv = (float (*)[2])BLI_buffer_reinit_data(&tf_uv_buf, vec2f, (size_t)mp->totloop);
101                         }
102
103                         nverts = mp->totloop;
104
105                         for (i = 0; i < nverts; i++) {
106                                 buf->tfindex = (unsigned char)i;
107                                 buf->f = a;
108                                 buf->separate = 0;
109                                 buf->next = vmap->vert[mloop[mp->loopstart + i].v];
110                                 vmap->vert[mloop[mp->loopstart + i].v] = buf;
111
112                                 if (use_winding) {
113                                         copy_v2_v2(tf_uv[i], mloopuv[mpoly[a].loopstart + i].uv);
114                                 }
115
116                                 buf++;
117                         }
118
119                         if (use_winding) {
120                                 winding[a] = cross_poly_v2((const float (*)[2])tf_uv, (unsigned int)nverts) > 0;
121                         }
122                 }
123         }
124
125         /* sort individual uvs for each vert */
126         for (a = 0; a < totvert; a++) {
127                 UvMapVert *newvlist = NULL, *vlist = vmap->vert[a];
128                 UvMapVert *iterv, *v, *lastv, *next;
129                 float *uv, *uv2, uvdiff[2];
130
131                 while (vlist) {
132                         v = vlist;
133                         vlist = vlist->next;
134                         v->next = newvlist;
135                         newvlist = v;
136
137                         uv = mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
138                         lastv = NULL;
139                         iterv = vlist;
140
141                         while (iterv) {
142                                 next = iterv->next;
143
144                                 uv2 = mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
145                                 sub_v2_v2v2(uvdiff, uv2, uv);
146
147
148                                 if (fabsf(uv[0] - uv2[0]) < limit[0] && fabsf(uv[1] - uv2[1]) < limit[1] &&
149                                     (!use_winding || winding[iterv->f] == winding[v->f]))
150                                 {
151                                         if (lastv) lastv->next = next;
152                                         else vlist = next;
153                                         iterv->next = newvlist;
154                                         newvlist = iterv;
155                                 }
156                                 else
157                                         lastv = iterv;
158
159                                 iterv = next;
160                         }
161
162                         newvlist->separate = 1;
163                 }
164
165                 vmap->vert[a] = newvlist;
166         }
167
168         if (use_winding)  {
169                 MEM_freeN(winding);
170         }
171
172         BLI_buffer_free(&tf_uv_buf);
173
174         return vmap;
175 }
176
177 UvMapVert *BKE_mesh_uv_vert_map_get_vert(UvVertMap *vmap, unsigned int v)
178 {
179         return vmap->vert[v];
180 }
181
182 void BKE_mesh_uv_vert_map_free(UvVertMap *vmap)
183 {
184         if (vmap) {
185                 if (vmap->vert) MEM_freeN(vmap->vert);
186                 if (vmap->buf) MEM_freeN(vmap->buf);
187                 MEM_freeN(vmap);
188         }
189 }
190
191 /**
192  * Generates a map where the key is the vertex and the value is a list
193  * of polys or loops that use that vertex as a corner. The lists are allocated
194  * from one memory pool.
195  *
196  * Wrapped by #BKE_mesh_vert_poly_map_create & BKE_mesh_vert_loop_map_create
197  */
198 static void mesh_vert_poly_or_loop_map_create(
199         MeshElemMap **r_map, int **r_mem,
200         const MPoly *mpoly, const MLoop *mloop,
201         int totvert, int totpoly, int totloop, const bool do_loops)
202 {
203         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totvert, __func__);
204         int *indices, *index_iter;
205         int i, j;
206
207         indices = index_iter = MEM_mallocN(sizeof(int) * (size_t)totloop, __func__);
208
209         /* Count number of polys for each vertex */
210         for (i = 0; i < totpoly; i++) {
211                 const MPoly *p = &mpoly[i];
212
213                 for (j = 0; j < p->totloop; j++)
214                         map[mloop[p->loopstart + j].v].count++;
215         }
216
217         /* Assign indices mem */
218         for (i = 0; i < totvert; i++) {
219                 map[i].indices = index_iter;
220                 index_iter += map[i].count;
221
222                 /* Reset 'count' for use as index in last loop */
223                 map[i].count = 0;
224         }
225
226         /* Find the users */
227         for (i = 0; i < totpoly; i++) {
228                 const MPoly *p = &mpoly[i];
229
230                 for (j = 0; j < p->totloop; j++) {
231                         unsigned int v = mloop[p->loopstart + j].v;
232
233                         map[v].indices[map[v].count] = do_loops ? p->loopstart + j : i;
234                         map[v].count++;
235                 }
236         }
237
238         *r_map = map;
239         *r_mem = indices;
240 }
241
242 /**
243  * Generates a map where the key is the vertex and the value is a list of polys that use that vertex as a corner.
244  * The lists are allocated from one memory pool.
245  */
246 void BKE_mesh_vert_poly_map_create(MeshElemMap **r_map, int **r_mem,
247                                    const MPoly *mpoly, const MLoop *mloop,
248                                    int totvert, int totpoly, int totloop)
249 {
250         mesh_vert_poly_or_loop_map_create(r_map, r_mem, mpoly, mloop, totvert, totpoly, totloop, false);
251 }
252
253 /**
254  * Generates a map where the key is the vertex and the value is a list of loops that use that vertex as a corner.
255  * The lists are allocated from one memory pool.
256  */
257 void BKE_mesh_vert_loop_map_create(MeshElemMap **r_map, int **r_mem,
258                                    const MPoly *mpoly, const MLoop *mloop,
259                                    int totvert, int totpoly, int totloop)
260 {
261         mesh_vert_poly_or_loop_map_create(r_map, r_mem, mpoly, mloop, totvert, totpoly, totloop, true);
262 }
263
264 /**
265  * Generates a map where the key is the edge and the value is a list of looptris that use that edge.
266  * The lists are allocated from one memory pool.
267  */
268 void BKE_mesh_vert_looptri_map_create(
269         MeshElemMap **r_map, int **r_mem,
270         const MVert *UNUSED(mvert), const int totvert,
271         const MLoopTri *mlooptri, const int totlooptri,
272         const MLoop *mloop, const int UNUSED(totloop))
273 {
274         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totvert, __func__);
275         int *indices = MEM_mallocN(sizeof(int) * (size_t)totlooptri * 3, __func__);
276         int *index_step;
277         const MLoopTri *mlt;
278         int i;
279
280         /* count face users */
281         for (i = 0, mlt = mlooptri; i < totlooptri; mlt++, i++) {
282                 for (int j = 3; j--;) {
283                         map[mloop[mlt->tri[j]].v].count++;
284                 }
285         }
286
287         /* create offsets */
288         index_step = indices;
289         for (i = 0; i < totvert; i++) {
290                 map[i].indices = index_step;
291                 index_step += map[i].count;
292
293                 /* re-count, using this as an index below */
294                 map[i].count = 0;
295         }
296
297         /* assign looptri-edge users */
298         for (i = 0, mlt = mlooptri; i < totlooptri; mlt++, i++) {
299                 for (int j = 3; j--;) {
300                         MeshElemMap *map_ele = &map[mloop[mlt->tri[j]].v];
301                         map_ele->indices[map_ele->count++] = i;
302                 }
303         }
304
305         *r_map = map;
306         *r_mem = indices;
307 }
308
309 /**
310  * Generates a map where the key is the vertex and the value is a list of edges that use that vertex as an endpoint.
311  * The lists are allocated from one memory pool.
312  */
313 void BKE_mesh_vert_edge_map_create(MeshElemMap **r_map, int **r_mem,
314                                    const MEdge *medge, int totvert, int totedge)
315 {
316         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totvert, "vert-edge map");
317         int *indices = MEM_mallocN(sizeof(int[2]) * (size_t)totedge, "vert-edge map mem");
318         int *i_pt = indices;
319
320         int i;
321
322         /* Count number of edges for each vertex */
323         for (i = 0; i < totedge; i++) {
324                 map[medge[i].v1].count++;
325                 map[medge[i].v2].count++;
326         }
327
328         /* Assign indices mem */
329         for (i = 0; i < totvert; i++) {
330                 map[i].indices = i_pt;
331                 i_pt += map[i].count;
332
333                 /* Reset 'count' for use as index in last loop */
334                 map[i].count = 0;
335         }
336
337         /* Find the users */
338         for (i = 0; i < totedge; i++) {
339                 const unsigned int v[2] = {medge[i].v1, medge[i].v2};
340
341                 map[v[0]].indices[map[v[0]].count] = i;
342                 map[v[1]].indices[map[v[1]].count] = i;
343
344                 map[v[0]].count++;
345                 map[v[1]].count++;
346         }
347
348         *r_map = map;
349         *r_mem = indices;
350 }
351
352 /**
353  * A version of #BKE_mesh_vert_edge_map_create that references connected vertices directly (not their edges).
354  */
355 void BKE_mesh_vert_edge_vert_map_create(
356         MeshElemMap **r_map, int **r_mem,
357         const MEdge *medge, int totvert, int totedge)
358 {
359         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totvert, "vert-edge map");
360         int *indices = MEM_mallocN(sizeof(int[2]) * (size_t)totedge, "vert-edge map mem");
361         int *i_pt = indices;
362
363         int i;
364
365         /* Count number of edges for each vertex */
366         for (i = 0; i < totedge; i++) {
367                 map[medge[i].v1].count++;
368                 map[medge[i].v2].count++;
369         }
370
371         /* Assign indices mem */
372         for (i = 0; i < totvert; i++) {
373                 map[i].indices = i_pt;
374                 i_pt += map[i].count;
375
376                 /* Reset 'count' for use as index in last loop */
377                 map[i].count = 0;
378         }
379
380         /* Find the users */
381         for (i = 0; i < totedge; i++) {
382                 const unsigned int v[2] = {medge[i].v1, medge[i].v2};
383
384                 map[v[0]].indices[map[v[0]].count] = (int)v[1];
385                 map[v[1]].indices[map[v[1]].count] = (int)v[0];
386
387                 map[v[0]].count++;
388                 map[v[1]].count++;
389         }
390
391         *r_map = map;
392         *r_mem = indices;
393 }
394
395 /**
396  * Generates a map where the key is the edge and the value is a list of loops that use that edge.
397  * Loops indices of a same poly are contiguous and in winding order.
398  * The lists are allocated from one memory pool.
399  */
400 void BKE_mesh_edge_loop_map_create(MeshElemMap **r_map, int **r_mem,
401                                    const MEdge *UNUSED(medge), const int totedge,
402                                    const MPoly *mpoly, const int totpoly,
403                                    const MLoop *mloop, const int totloop)
404 {
405         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totedge, "edge-poly map");
406         int *indices = MEM_mallocN(sizeof(int) * (size_t)totloop * 2, "edge-poly map mem");
407         int *index_step;
408         const MPoly *mp;
409         int i;
410
411         /* count face users */
412         for (i = 0, mp = mpoly; i < totpoly; mp++, i++) {
413                 const MLoop *ml;
414                 int j = mp->totloop;
415                 for (ml = &mloop[mp->loopstart]; j--; ml++) {
416                         map[ml->e].count += 2;
417                 }
418         }
419
420         /* create offsets */
421         index_step = indices;
422         for (i = 0; i < totedge; i++) {
423                 map[i].indices = index_step;
424                 index_step += map[i].count;
425
426                 /* re-count, using this as an index below */
427                 map[i].count = 0;
428         }
429
430         /* assign loop-edge users */
431         for (i = 0, mp = mpoly; i < totpoly; mp++, i++) {
432                 const MLoop *ml;
433                 MeshElemMap *map_ele;
434                 const int max_loop = mp->loopstart + mp->totloop;
435                 int j = mp->loopstart;
436                 for (ml = &mloop[j]; j < max_loop; j++, ml++) {
437                         map_ele = &map[ml->e];
438                         map_ele->indices[map_ele->count++] = j;
439                         map_ele->indices[map_ele->count++] = j + 1;
440                 }
441                 /* last edge/loop of poly, must point back to first loop! */
442                 map_ele->indices[map_ele->count - 1] = mp->loopstart;
443         }
444
445         *r_map = map;
446         *r_mem = indices;
447 }
448
449 /**
450  * Generates a map where the key is the edge and the value is a list of polygons that use that edge.
451  * The lists are allocated from one memory pool.
452  */
453 void BKE_mesh_edge_poly_map_create(MeshElemMap **r_map, int **r_mem,
454                                    const MEdge *UNUSED(medge), const int totedge,
455                                    const MPoly *mpoly, const int totpoly,
456                                    const MLoop *mloop, const int totloop)
457 {
458         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totedge, "edge-poly map");
459         int *indices = MEM_mallocN(sizeof(int) * (size_t)totloop, "edge-poly map mem");
460         int *index_step;
461         const MPoly *mp;
462         int i;
463
464         /* count face users */
465         for (i = 0, mp = mpoly; i < totpoly; mp++, i++) {
466                 const MLoop *ml;
467                 int j = mp->totloop;
468                 for (ml = &mloop[mp->loopstart]; j--; ml++) {
469                         map[ml->e].count++;
470                 }
471         }
472
473         /* create offsets */
474         index_step = indices;
475         for (i = 0; i < totedge; i++) {
476                 map[i].indices = index_step;
477                 index_step += map[i].count;
478
479                 /* re-count, using this as an index below */
480                 map[i].count = 0;
481
482         }
483
484         /* assign poly-edge users */
485         for (i = 0, mp = mpoly; i < totpoly; mp++, i++) {
486                 const MLoop *ml;
487                 int j = mp->totloop;
488                 for (ml = &mloop[mp->loopstart]; j--; ml++) {
489                         MeshElemMap *map_ele = &map[ml->e];
490                         map_ele->indices[map_ele->count++] = i;
491                 }
492         }
493
494         *r_map = map;
495         *r_mem = indices;
496 }
497
498 /**
499  * This function creates a map so the source-data (vert/edge/loop/poly)
500  * can loop over the destination data (using the destination arrays origindex).
501  *
502  * This has the advantage that it can operate on any data-types.
503  *
504  * \param totsource  The total number of elements the that \a final_origindex points to.
505  * \param totfinal  The size of \a final_origindex
506  * \param final_origindex  The size of the final array.
507  *
508  * \note ``totsource`` could be ``totpoly``,
509  *       ``totfinal`` could be ``tottessface`` and ``final_origindex`` its ORIGINDEX customdata.
510  *       This would allow an MPoly to loop over its tessfaces.
511  */
512 void BKE_mesh_origindex_map_create(MeshElemMap **r_map, int **r_mem,
513                                    const int totsource,
514                                    const int *final_origindex, const int totfinal)
515 {
516         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)totsource, "poly-tessface map");
517         int *indices = MEM_mallocN(sizeof(int) * (size_t)totfinal, "poly-tessface map mem");
518         int *index_step;
519         int i;
520
521         /* count face users */
522         for (i = 0; i < totfinal; i++) {
523                 if (final_origindex[i] != ORIGINDEX_NONE) {
524                         BLI_assert(final_origindex[i] < totsource);
525                         map[final_origindex[i]].count++;
526                 }
527         }
528
529         /* create offsets */
530         index_step = indices;
531         for (i = 0; i < totsource; i++) {
532                 map[i].indices = index_step;
533                 index_step += map[i].count;
534
535                 /* re-count, using this as an index below */
536                 map[i].count = 0;
537         }
538
539         /* assign poly-tessface users */
540         for (i = 0; i < totfinal; i++) {
541                 if (final_origindex[i] != ORIGINDEX_NONE) {
542                         MeshElemMap *map_ele = &map[final_origindex[i]];
543                         map_ele->indices[map_ele->count++] = i;
544                 }
545         }
546
547         *r_map = map;
548         *r_mem = indices;
549 }
550
551 /**
552  * A version of #BKE_mesh_origindex_map_create that takes a looptri array.
553  * Making a poly -> looptri map.
554  */
555 void BKE_mesh_origindex_map_create_looptri(
556         MeshElemMap **r_map, int **r_mem,
557         const MPoly *mpoly, const int mpoly_num,
558         const MLoopTri *looptri, const int looptri_num)
559 {
560         MeshElemMap *map = MEM_callocN(sizeof(MeshElemMap) * (size_t)mpoly_num, "poly-tessface map");
561         int *indices = MEM_mallocN(sizeof(int) * (size_t)looptri_num, "poly-tessface map mem");
562         int *index_step;
563         int i;
564
565         /* create offsets */
566         index_step = indices;
567         for (i = 0; i < mpoly_num; i++) {
568                 map[i].indices = index_step;
569                 index_step += ME_POLY_TRI_TOT(&mpoly[i]);
570         }
571
572         /* assign poly-tessface users */
573         for (i = 0; i < looptri_num; i++) {
574                 MeshElemMap *map_ele = &map[looptri[i].poly];
575                 map_ele->indices[map_ele->count++] = i;
576         }
577
578         *r_map = map;
579         *r_mem = indices;
580 }
581
582 /** \} */
583
584
585 /* -------------------------------------------------------------------- */
586
587 /** \name Mesh loops/poly islands.
588  * Used currently for UVs and 'smooth groups'.
589  * \{ */
590
591 /**
592  * Callback deciding whether the given poly/loop/edge define an island boundary or not.
593  */
594 typedef bool (*MeshRemap_CheckIslandBoundary)(
595         const struct MPoly *mpoly, const struct MLoop *mloop, const struct MEdge *medge,
596         const int nbr_egde_users, void *user_data);
597
598 static void poly_edge_loop_islands_calc(
599         const MEdge *medge, const int totedge, const MPoly *mpoly, const int totpoly,
600         const MLoop *mloop, const int totloop, MeshElemMap *edge_poly_map,
601         const bool use_bitflags, MeshRemap_CheckIslandBoundary edge_boundary_check, void *edge_boundary_check_data,
602         int **r_poly_groups, int *r_totgroup, BLI_bitmap **r_edge_borders, int *r_totedgeborder)
603 {
604         int *poly_groups;
605         int *poly_stack;
606
607         BLI_bitmap *edge_borders = NULL;
608         int num_edgeborders = 0;
609
610         int poly_prev = 0;
611         const int temp_poly_group_id = 3;  /* Placeholder value. */
612         const int poly_group_id_overflowed = 5;  /* Group we could not find any available bit, will be reset to 0 at end */
613         int tot_group = 0;
614         bool group_id_overflow = false;
615
616         /* map vars */
617         int *edge_poly_mem = NULL;
618
619         if (totpoly == 0) {
620                 *r_totgroup = 0;
621                 *r_poly_groups = NULL;
622                 if (r_edge_borders) {
623                         *r_edge_borders = NULL;
624                         *r_totedgeborder = 0;
625                 }
626                 return;
627         }
628
629         if (r_edge_borders) {
630                 edge_borders = BLI_BITMAP_NEW(totedge, __func__);
631                 *r_totedgeborder = 0;
632         }
633
634         if (!edge_poly_map) {
635                 BKE_mesh_edge_poly_map_create(&edge_poly_map, &edge_poly_mem,
636                                               medge, totedge, mpoly, totpoly, mloop, totloop);
637         }
638
639         poly_groups = MEM_callocN(sizeof(int) * (size_t)totpoly, __func__);
640         poly_stack  = MEM_mallocN(sizeof(int) * (size_t)totpoly, __func__);
641
642         while (true) {
643                 int poly;
644                 int bit_poly_group_mask = 0;
645                 int poly_group_id;
646                 int ps_curr_idx = 0, ps_end_idx = 0;  /* stack indices */
647
648                 for (poly = poly_prev; poly < totpoly; poly++) {
649                         if (poly_groups[poly] == 0) {
650                                 break;
651                         }
652                 }
653
654                 if (poly == totpoly) {
655                         /* all done */
656                         break;
657                 }
658
659                 poly_group_id = use_bitflags ? temp_poly_group_id : ++tot_group;
660
661                 /* start searching from here next time */
662                 poly_prev = poly + 1;
663
664                 poly_groups[poly] = poly_group_id;
665                 poly_stack[ps_end_idx++] = poly;
666
667                 while (ps_curr_idx != ps_end_idx) {
668                         const MPoly *mp;
669                         const MLoop *ml;
670                         int j;
671
672                         poly = poly_stack[ps_curr_idx++];
673                         BLI_assert(poly_groups[poly] == poly_group_id);
674
675                         mp = &mpoly[poly];
676                         for (ml = &mloop[mp->loopstart], j = mp->totloop; j--; ml++) {
677                                 /* loop over poly users */
678                                 const int me_idx = (int)ml->e;
679                                 const MEdge *me = &medge[me_idx];
680                                 const MeshElemMap *map_ele = &edge_poly_map[me_idx];
681                                 const int *p = map_ele->indices;
682                                 int i = map_ele->count;
683                                 if (!edge_boundary_check(mp, ml, me, i, edge_boundary_check_data)) {
684                                         for (; i--; p++) {
685                                                 /* if we meet other non initialized its a bug */
686                                                 BLI_assert(ELEM(poly_groups[*p], 0, poly_group_id));
687
688                                                 if (poly_groups[*p] == 0) {
689                                                         poly_groups[*p] = poly_group_id;
690                                                         poly_stack[ps_end_idx++] = *p;
691                                                 }
692                                         }
693                                 }
694                                 else {
695                                         if (edge_borders && !BLI_BITMAP_TEST(edge_borders, me_idx)) {
696                                                 BLI_BITMAP_ENABLE(edge_borders, me_idx);
697                                                 num_edgeborders++;
698                                         }
699                                         if (use_bitflags) {
700                                                 /* Find contiguous smooth groups already assigned, these are the values we can't reuse! */
701                                                 for (; i--; p++) {
702                                                         int bit = poly_groups[*p];
703                                                         if (!ELEM(bit, 0, poly_group_id, poly_group_id_overflowed) &&
704                                                             !(bit_poly_group_mask & bit))
705                                                         {
706                                                                 bit_poly_group_mask |= bit;
707                                                         }
708                                                 }
709                                         }
710                                 }
711                         }
712                 }
713                 /* And now, we have all our poly from current group in poly_stack (from 0 to (ps_end_idx - 1)), as well as
714                  * all smoothgroups bits we can't use in bit_poly_group_mask.
715                  */
716                 if (use_bitflags) {
717                         int i, *p, gid_bit = 0;
718                         poly_group_id = 1;
719
720                         /* Find first bit available! */
721                         for (; (poly_group_id & bit_poly_group_mask) && (gid_bit < 32); gid_bit++) {
722                                 poly_group_id <<= 1;  /* will 'overflow' on last possible iteration. */
723                         }
724                         if (UNLIKELY(gid_bit > 31)) {
725                                 /* All bits used in contiguous smooth groups, we can't do much!
726                                  * Note: this is *very* unlikely - theoretically, four groups are enough, I don't think we can reach
727                                  *       this goal with such a simple algo, but I don't think either we'll never need all 32 groups!
728                                  */
729                                 printf("Warning, could not find an available id for current smooth group, faces will me marked "
730                                        "as out of any smooth group...\n");
731                                 poly_group_id = poly_group_id_overflowed; /* Can't use 0, will have to set them to this value later. */
732                                 group_id_overflow = true;
733                         }
734                         if (gid_bit > tot_group) {
735                                 tot_group = gid_bit;
736                         }
737                         /* And assign the final smooth group id to that poly group! */
738                         for (i = ps_end_idx, p = poly_stack; i--; p++) {
739                                 poly_groups[*p] = poly_group_id;
740                         }
741                 }
742         }
743
744         if (use_bitflags) {
745                 /* used bits are zero-based. */
746                 tot_group++;
747         }
748
749         if (UNLIKELY(group_id_overflow)) {
750                 int i = totpoly, *gid = poly_groups;
751                 for (; i--; gid++) {
752                         if (*gid == poly_group_id_overflowed) {
753                                 *gid = 0;
754                         }
755                 }
756                 /* Using 0 as group id adds one more group! */
757                 tot_group++;
758         }
759
760         if (edge_poly_mem) {
761                 MEM_freeN(edge_poly_map);
762                 MEM_freeN(edge_poly_mem);
763         }
764         MEM_freeN(poly_stack);
765
766         *r_totgroup = tot_group;
767         *r_poly_groups = poly_groups;
768         if (r_edge_borders) {
769                 *r_edge_borders = edge_borders;
770                 *r_totedgeborder = num_edgeborders;
771         }
772 }
773
774 static bool poly_is_island_boundary_smooth_cb(
775         const MPoly *mp, const MLoop *UNUSED(ml), const MEdge *me, const int nbr_egde_users, void *UNUSED(user_data))
776 {
777         /* Edge is sharp if its poly is sharp, or edge itself is sharp, or edge is not used by exactly two polygons. */
778         return (!(mp->flag & ME_SMOOTH) || (me->flag & ME_SHARP) || (nbr_egde_users != 2));
779 }
780
781 /**
782  * Calculate smooth groups from sharp edges.
783  *
784  * \param r_totgroup The total number of groups, 1 or more.
785  * \return Polygon aligned array of group index values (bitflags if use_bitflags is true), starting at 1
786  *         (0 being used as 'invalid' flag).
787  *         Note it's callers's responsibility to MEM_freeN returned array.
788  */
789 int *BKE_mesh_calc_smoothgroups(const MEdge *medge, const int totedge,
790                                 const MPoly *mpoly, const int totpoly,
791                                 const MLoop *mloop, const int totloop,
792                                 int *r_totgroup, const bool use_bitflags)
793 {
794         int *poly_groups = NULL;
795
796         poly_edge_loop_islands_calc(
797                 medge, totedge, mpoly, totpoly, mloop, totloop, NULL, use_bitflags,
798                 poly_is_island_boundary_smooth_cb, NULL, &poly_groups, r_totgroup, NULL, NULL);
799
800         return poly_groups;
801 }
802
803 #define MISLAND_DEFAULT_BUFSIZE 64
804
805 void BKE_mesh_loop_islands_init(
806         MeshIslandStore *island_store,
807         const short item_type, const int items_num, const short island_type, const short innercut_type)
808 {
809         MemArena *mem = island_store->mem;
810
811         if (mem == NULL) {
812                 mem = BLI_memarena_new(BLI_MEMARENA_STD_BUFSIZE, __func__);
813                 island_store->mem = mem;
814         }
815         /* else memarena should be cleared */
816
817         BLI_assert(ELEM(item_type, MISLAND_TYPE_VERT, MISLAND_TYPE_EDGE, MISLAND_TYPE_POLY, MISLAND_TYPE_LOOP));
818         BLI_assert(ELEM(island_type, MISLAND_TYPE_VERT, MISLAND_TYPE_EDGE, MISLAND_TYPE_POLY, MISLAND_TYPE_LOOP));
819
820         island_store->item_type = item_type;
821         island_store->items_to_islands_num = items_num;
822         island_store->items_to_islands = BLI_memarena_alloc(mem, sizeof(*island_store->items_to_islands) * (size_t)items_num);
823
824         island_store->island_type = island_type;
825         island_store->islands_num_alloc = MISLAND_DEFAULT_BUFSIZE;
826         island_store->islands = BLI_memarena_alloc(mem, sizeof(*island_store->islands) * island_store->islands_num_alloc);
827
828         island_store->innercut_type = innercut_type;
829         island_store->innercuts = BLI_memarena_alloc(mem, sizeof(*island_store->innercuts) * island_store->islands_num_alloc);
830 }
831
832 void BKE_mesh_loop_islands_clear(MeshIslandStore *island_store)
833 {
834         island_store->item_type = MISLAND_TYPE_NONE;
835         island_store->items_to_islands_num = 0;
836         island_store->items_to_islands = NULL;
837
838         island_store->island_type = MISLAND_TYPE_NONE;
839         island_store->islands_num = 0;
840         island_store->islands = NULL;
841
842         island_store->innercut_type = MISLAND_TYPE_NONE;
843         island_store->innercuts = NULL;
844
845         if (island_store->mem) {
846                 BLI_memarena_clear(island_store->mem);
847         }
848
849         island_store->islands_num_alloc = 0;
850 }
851
852 void BKE_mesh_loop_islands_free(MeshIslandStore *island_store)
853 {
854         if (island_store->mem) {
855                 BLI_memarena_free(island_store->mem);
856                 island_store->mem = NULL;
857         }
858 }
859
860 void BKE_mesh_loop_islands_add(
861         MeshIslandStore *island_store, const int item_num, int *items_indices,
862         const int num_island_items, int *island_item_indices,
863         const int num_innercut_items, int *innercut_item_indices)
864 {
865         MemArena *mem = island_store->mem;
866
867         MeshElemMap *isld, *innrcut;
868         const int curr_island_idx = island_store->islands_num++;
869         const size_t curr_num_islands = (size_t)island_store->islands_num;
870         int i = item_num;
871
872         while (i--) {
873                 island_store->items_to_islands[items_indices[i]] = curr_island_idx;
874         }
875
876         if (UNLIKELY(curr_num_islands > island_store->islands_num_alloc)) {
877                 MeshElemMap **islds, **innrcuts;
878
879                 island_store->islands_num_alloc *= 2;
880                 islds = BLI_memarena_alloc(mem, sizeof(*islds) * island_store->islands_num_alloc);
881                 memcpy(islds, island_store->islands, sizeof(*islds) * (curr_num_islands - 1));
882                 island_store->islands = islds;
883
884                 innrcuts = BLI_memarena_alloc(mem, sizeof(*innrcuts) * island_store->islands_num_alloc);
885                 memcpy(innrcuts, island_store->innercuts, sizeof(*innrcuts) * (curr_num_islands - 1));
886                 island_store->innercuts = innrcuts;
887         }
888
889         island_store->islands[curr_island_idx] = isld = BLI_memarena_alloc(mem, sizeof(*isld));
890         isld->count = num_island_items;
891         isld->indices = BLI_memarena_alloc(mem, sizeof(*isld->indices) * (size_t)num_island_items);
892         memcpy(isld->indices, island_item_indices, sizeof(*isld->indices) * (size_t)num_island_items);
893
894         island_store->innercuts[curr_island_idx] = innrcut = BLI_memarena_alloc(mem, sizeof(*innrcut));
895         innrcut->count = num_innercut_items;
896         innrcut->indices = BLI_memarena_alloc(mem, sizeof(*innrcut->indices) * (size_t)num_innercut_items);
897         memcpy(innrcut->indices, innercut_item_indices, sizeof(*innrcut->indices) * (size_t)num_innercut_items);
898 }
899
900 /* TODO: I'm not sure edge seam flag is enough to define UV islands? Maybe we should also consider UVmaps values
901  *       themselves (i.e. different UV-edges for a same mesh-edge => boundary edge too?).
902  *       Would make things much more complex though, and each UVMap would then need its own mesh mapping,
903  *       not sure we want that at all!
904  */
905 typedef struct MeshCheckIslandBoundaryUv {
906         const MLoop *loops;
907         const MLoopUV *luvs;
908         const MeshElemMap *edge_loop_map;
909 } MeshCheckIslandBoundaryUv;
910
911 static bool mesh_check_island_boundary_uv(
912         const MPoly *UNUSED(mp), const MLoop *ml, const MEdge *me,
913         const int UNUSED(nbr_egde_users), void *user_data)
914 {
915         if (user_data) {
916                 const MeshCheckIslandBoundaryUv *data = user_data;
917                 const MLoop *loops = data->loops;
918                 const MLoopUV *luvs = data->luvs;
919                 const MeshElemMap *edge_to_loops = &data->edge_loop_map[ml->e];
920
921                 BLI_assert(edge_to_loops->count >= 2 && (edge_to_loops->count % 2) == 0);
922
923                 const unsigned int v1 = loops[edge_to_loops->indices[0]].v;
924                 const unsigned int v2 = loops[edge_to_loops->indices[1]].v;
925                 const float *uvco_v1 = luvs[edge_to_loops->indices[0]].uv;
926                 const float *uvco_v2 = luvs[edge_to_loops->indices[1]].uv;
927                 for (int i = 2; i < edge_to_loops->count; i += 2) {
928                         if (loops[edge_to_loops->indices[i]].v == v1) {
929                                 if (!equals_v2v2(uvco_v1, luvs[edge_to_loops->indices[i]].uv) ||
930                                     !equals_v2v2(uvco_v2, luvs[edge_to_loops->indices[i + 1]].uv))
931                                 {
932                                         return true;
933                                 }
934                         }
935                         else {
936                                 BLI_assert(loops[edge_to_loops->indices[i]].v == v2);
937                                 UNUSED_VARS_NDEBUG(v2);
938                                 if (!equals_v2v2(uvco_v2, luvs[edge_to_loops->indices[i]].uv) ||
939                                     !equals_v2v2(uvco_v1, luvs[edge_to_loops->indices[i + 1]].uv))
940                                 {
941                                         return true;
942                                 }
943                         }
944                 }
945                 return false;
946         }
947         else {
948                 /* Edge is UV boundary if tagged as seam. */
949                 return (me->flag & ME_SEAM) != 0;
950         }
951 }
952
953 static bool mesh_calc_islands_loop_poly_uv(
954         MVert *UNUSED(verts), const int UNUSED(totvert),
955         MEdge *edges, const int totedge,
956         MPoly *polys, const int totpoly,
957         MLoop *loops, const int totloop,
958         const MLoopUV *luvs,
959         MeshIslandStore *r_island_store)
960 {
961         int *poly_groups = NULL;
962         int num_poly_groups;
963
964         /* map vars */
965         MeshElemMap *edge_poly_map;
966         int *edge_poly_mem;
967
968         MeshElemMap *edge_loop_map;
969         int *edge_loop_mem;
970
971         MeshCheckIslandBoundaryUv edge_boundary_check_data;
972
973         int *poly_indices;
974         int *loop_indices;
975         int num_pidx, num_lidx;
976
977         /* Those are used to detect 'inner cuts', i.e. edges that are borders, and yet have two or more polys of
978          * a same group using them (typical case: seam used to unwrap properly a cylinder). */
979         BLI_bitmap *edge_borders = NULL;
980         int num_edge_borders = 0;
981         char *edge_border_count = NULL;
982         int *edge_innercut_indices = NULL;
983         int num_einnercuts = 0;
984
985         int grp_idx, p_idx, pl_idx, l_idx;
986
987         BKE_mesh_loop_islands_clear(r_island_store);
988         BKE_mesh_loop_islands_init(r_island_store, MISLAND_TYPE_LOOP, totloop, MISLAND_TYPE_POLY, MISLAND_TYPE_EDGE);
989
990         BKE_mesh_edge_poly_map_create(&edge_poly_map, &edge_poly_mem,
991                                       edges, totedge, polys, totpoly, loops, totloop);
992
993         if (luvs) {
994                 BKE_mesh_edge_loop_map_create(&edge_loop_map, &edge_loop_mem,
995                                               edges, totedge, polys, totpoly, loops, totloop);
996                 edge_boundary_check_data.loops = loops;
997                 edge_boundary_check_data.luvs = luvs;
998                 edge_boundary_check_data.edge_loop_map = edge_loop_map;
999         }
1000
1001         poly_edge_loop_islands_calc(
1002                     edges, totedge, polys, totpoly, loops, totloop, edge_poly_map, false,
1003                     mesh_check_island_boundary_uv, luvs ? &edge_boundary_check_data : NULL,
1004                     &poly_groups, &num_poly_groups, &edge_borders, &num_edge_borders);
1005
1006         if (!num_poly_groups) {
1007                 /* Should never happen... */
1008                 MEM_freeN(edge_poly_map);
1009                 MEM_freeN(edge_poly_mem);
1010
1011                 if (edge_borders) {
1012                         MEM_freeN(edge_borders);
1013                 }
1014                 return false;
1015         }
1016
1017         if (num_edge_borders) {
1018                 edge_border_count = MEM_mallocN(sizeof(*edge_border_count) * (size_t)totedge, __func__);
1019                 edge_innercut_indices = MEM_mallocN(sizeof(*edge_innercut_indices) * (size_t)num_edge_borders, __func__);
1020         }
1021
1022         poly_indices = MEM_mallocN(sizeof(*poly_indices) * (size_t)totpoly, __func__);
1023         loop_indices = MEM_mallocN(sizeof(*loop_indices) * (size_t)totloop, __func__);
1024
1025         /* Note: here we ignore '0' invalid group - this should *never* happen in this case anyway? */
1026         for (grp_idx = 1; grp_idx <= num_poly_groups; grp_idx++) {
1027                 num_pidx = num_lidx = 0;
1028                 if (num_edge_borders) {
1029                         num_einnercuts = 0;
1030                         memset(edge_border_count, 0, sizeof(*edge_border_count) * (size_t)totedge);
1031                 }
1032
1033                 for (p_idx = 0; p_idx < totpoly; p_idx++) {
1034                         MPoly *mp;
1035
1036                         if (poly_groups[p_idx] != grp_idx) {
1037                                 continue;
1038                         }
1039
1040                         mp = &polys[p_idx];
1041                         poly_indices[num_pidx++] = p_idx;
1042                         for (l_idx = mp->loopstart, pl_idx = 0; pl_idx < mp->totloop; l_idx++, pl_idx++) {
1043                                 MLoop *ml = &loops[l_idx];
1044                                 loop_indices[num_lidx++] = l_idx;
1045                                 if (num_edge_borders && BLI_BITMAP_TEST(edge_borders, ml->e) && (edge_border_count[ml->e] < 2)) {
1046                                         edge_border_count[ml->e]++;
1047                                         if (edge_border_count[ml->e] == 2) {
1048                                                 edge_innercut_indices[num_einnercuts++] = (int)ml->e;
1049                                         }
1050                                 }
1051                         }
1052                 }
1053
1054                 BKE_mesh_loop_islands_add(r_island_store, num_lidx, loop_indices, num_pidx, poly_indices,
1055                                           num_einnercuts, edge_innercut_indices);
1056         }
1057
1058         MEM_freeN(edge_poly_map);
1059         MEM_freeN(edge_poly_mem);
1060
1061         if (luvs) {
1062                 MEM_freeN(edge_loop_map);
1063                 MEM_freeN(edge_loop_mem);
1064         }
1065
1066         MEM_freeN(poly_indices);
1067         MEM_freeN(loop_indices);
1068         MEM_freeN(poly_groups);
1069
1070         if (edge_borders) {
1071                 MEM_freeN(edge_borders);
1072         }
1073
1074         if (num_edge_borders) {
1075                 MEM_freeN(edge_border_count);
1076                 MEM_freeN(edge_innercut_indices);
1077         }
1078         return true;
1079 }
1080
1081 /**
1082  * Calculate 'generic' UV islands, i.e. based only on actual geometry data (edge seams), not some UV layers coordinates.
1083  */
1084 bool BKE_mesh_calc_islands_loop_poly_edgeseam(
1085         MVert *verts, const int totvert,
1086         MEdge *edges, const int totedge,
1087         MPoly *polys, const int totpoly,
1088         MLoop *loops, const int totloop,
1089         MeshIslandStore *r_island_store)
1090 {
1091         return mesh_calc_islands_loop_poly_uv(
1092                     verts, totvert, edges, totedge, polys, totpoly, loops, totloop, NULL, r_island_store);
1093 }
1094
1095 /**
1096  * Calculate UV islands.
1097  *
1098  * \note If no MLoopUV layer is passed, we only consider edges tagged as seams as UV boundaries.
1099  *     This has the advantages of simplicity, and being valid/common to all UV maps.
1100  *     However, it means actual UV islands whithout matching UV seams will not be handled correctly...
1101  *     If a valid UV layer is passed as \a luvs parameter, UV coordinates are also used to detect islands boundaries.
1102  *
1103  * \note All this could be optimized...
1104  *     Not sure it would be worth the more complex code, though, those loops are supposed to be really quick to do...
1105  */
1106 bool BKE_mesh_calc_islands_loop_poly_uvmap(
1107         MVert *verts, const int totvert,
1108         MEdge *edges, const int totedge,
1109         MPoly *polys, const int totpoly,
1110         MLoop *loops, const int totloop,
1111         const MLoopUV *luvs,
1112         MeshIslandStore *r_island_store)
1113 {
1114         BLI_assert(luvs != NULL);
1115         return mesh_calc_islands_loop_poly_uv(
1116                     verts, totvert, edges, totedge, polys, totpoly, loops, totloop, luvs, r_island_store);
1117 }
1118
1119 /** \} */