move alloca define into its own header since its not related to BLI_array
[blender.git] / source / blender / bmesh / tools / bmesh_bevel.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s):
19  *         Joseph Eagar,
20  *         Aleksandr Mokhov,
21  *         Howard Trickey,
22  *         Campbell Barton
23  *
24  * ***** END GPL LICENSE BLOCK *****
25  */
26
27 /** \file blender/bmesh/tools/bmesh_bevel.c
28  *  \ingroup bmesh
29  */
30
31 #include "MEM_guardedalloc.h"
32
33 #include "DNA_object_types.h"
34 #include "DNA_meshdata_types.h"
35
36 #include "BLI_array.h"
37 #include "BLI_alloca.h"
38 #include "BLI_math.h"
39 #include "BLI_memarena.h"
40
41 #include "BKE_customdata.h"
42 #include "BKE_deform.h"
43
44 #include "bmesh.h"
45 #include "./intern/bmesh_private.h"
46
47 #define BEVEL_EPSILON_D  1e-6
48 #define BEVEL_EPSILON    1e-6f
49
50 /* happens far too often, uncomment for development */
51 // #define BEVEL_ASSERT_PROJECT
52
53 /* for testing */
54 // #pragma GCC diagnostic error "-Wpadded"
55
56 /* Constructed vertex, sometimes later instantiated as BMVert */
57 typedef struct NewVert {
58         BMVert *v;
59         float co[3];
60 //      int _pad;
61 } NewVert;
62
63 struct BoundVert;
64
65 /* Data for one end of an edge involved in a bevel */
66 typedef struct EdgeHalf {
67         struct EdgeHalf *next, *prev;   /* in CCW order */
68         BMEdge *e;                  /* original mesh edge */
69         BMFace *fprev;              /* face between this edge and previous, if any */
70         BMFace *fnext;              /* face between this edge and next, if any */
71         struct BoundVert *leftv;    /* left boundary vert (looking along edge to end) */
72         struct BoundVert *rightv;   /* right boundary vert, if beveled */
73         int   seg;                  /* how many segments for the bevel */
74         float offset;               /* offset for this edge */
75         bool is_bev;                /* is this edge beveled? */
76         bool is_rev;                /* is e->v2 the vertex at this end? */
77         bool is_seam;               /* is e a seam for custom loopdata (e.g., UVs)? */
78 //      int _pad;
79 } EdgeHalf;
80
81 /* An element in a cyclic boundary of a Vertex Mesh (VMesh) */
82 typedef struct BoundVert {
83         struct BoundVert *next, *prev;  /* in CCW order */
84         NewVert nv;
85         EdgeHalf *efirst;   /* first of edges attached here: in CCW order */
86         EdgeHalf *elast;
87         EdgeHalf *ebev;     /* beveled edge whose left side is attached here, if any */
88         int index;          /* used for vmesh indexing */
89         bool any_seam;      /* are any of the edges attached here seams? */
90 //      int _pad;
91 } BoundVert;
92
93 /* Mesh structure replacing a vertex */
94 typedef struct VMesh {
95         NewVert *mesh;           /* allocated array - size and structure depends on kind */
96         BoundVert *boundstart;   /* start of boundary double-linked list */
97         int count;               /* number of vertices in the boundary */
98         int seg;                 /* common # of segments for segmented edges */
99         enum {
100                 M_NONE,         /* no polygon mesh needed */
101                 M_POLY,         /* a simple polygon */
102                 M_ADJ,          /* "adjacent edges" mesh pattern */
103                 M_ADJ_SUBDIV,   /* like M_ADJ, but using subdivision */
104                 M_TRI_FAN,      /* a simple polygon - fan filled */
105                 M_QUAD_STRIP,   /* a simple polygon - cut into parallel strips */
106         } mesh_kind;
107 //      int _pad;
108 } VMesh;
109
110 /* Data for a vertex involved in a bevel */
111 typedef struct BevVert {
112         BMVert *v;          /* original mesh vertex */
113         int edgecount;          /* total number of edges around the vertex */
114         int selcount;           /* number of selected edges around the vertex */
115         float offset;           /* offset for this vertex, if vertex_only bevel */
116         bool any_seam;                  /* any seams on attached edges? */
117         EdgeHalf *edges;        /* array of size edgecount; CCW order from vertex normal side */
118         VMesh *vmesh;           /* mesh structure for replacing vertex */
119 } BevVert;
120
121 /* Bevel parameters and state */
122 typedef struct BevelParams {
123         /* hash of BevVert for each vertex involved in bevel
124          * GHash: (key=(BMVert *), value=(BevVert *)) */
125         GHash    *vert_hash;
126         MemArena *mem_arena;    /* use for all allocs while bevel runs, if we need to free we can switch to mempool */
127
128         float offset;           /* blender units to offset each side of a beveled edge */
129         int seg;                /* number of segments in beveled edge profile */
130         bool vertex_only;       /* bevel vertices only */
131         bool use_weights;       /* bevel amount affected by weights on edges or verts */
132         const struct MDeformVert *dvert; /* vertex group array, maybe set if vertex_only */
133         int vertex_group;       /* vertex group index, maybe set if vertex_only */
134 } BevelParams;
135
136 // #pragma GCC diagnostic ignored "-Wpadded"
137
138 // #include "bevdebug.c"
139
140 /* Make a new BoundVert of the given kind, insert it at the end of the circular linked
141  * list with entry point bv->boundstart, and return it. */
142 static BoundVert *add_new_bound_vert(MemArena *mem_arena, VMesh *vm, const float co[3])
143 {
144         BoundVert *ans = (BoundVert *)BLI_memarena_alloc(mem_arena, sizeof(BoundVert));
145
146         copy_v3_v3(ans->nv.co, co);
147         if (!vm->boundstart) {
148                 ans->index = 0;
149                 vm->boundstart = ans;
150                 ans->next = ans->prev = ans;
151         }
152         else {
153                 BoundVert *tail = vm->boundstart->prev;
154                 ans->index = tail->index + 1;
155                 ans->prev = tail;
156                 ans->next = vm->boundstart;
157                 tail->next = ans;
158                 vm->boundstart->prev = ans;
159         }
160         vm->count++;
161         return ans;
162 }
163
164 /* Mesh verts are indexed (i, j, k) where
165  * i = boundvert index (0 <= i < nv)
166  * j = ring index (0 <= j <= ns2)
167  * k = segment index (0 <= k <= ns)
168  * Not all of these are used, and some will share BMVerts */
169 static NewVert *mesh_vert(VMesh *vm, int i, int j, int k)
170 {
171         int nj = (vm->seg / 2) + 1;
172         int nk = vm->seg + 1;
173
174         return &vm->mesh[i * nk * nj  + j * nk + k];
175 }
176
177 static void create_mesh_bmvert(BMesh *bm, VMesh *vm, int i, int j, int k, BMVert *eg)
178 {
179         NewVert *nv = mesh_vert(vm, i, j, k);
180         nv->v = BM_vert_create(bm, nv->co, eg, 0);
181         BM_elem_flag_disable(nv->v, BM_ELEM_TAG);
182 }
183
184 static void copy_mesh_vert(VMesh *vm, int ito, int jto, int kto,
185                            int ifrom, int jfrom, int kfrom)
186 {
187         NewVert *nvto, *nvfrom;
188
189         nvto = mesh_vert(vm, ito, jto, kto);
190         nvfrom = mesh_vert(vm, ifrom, jfrom, kfrom);
191         nvto->v = nvfrom->v;
192         copy_v3_v3(nvto->co, nvfrom->co);
193 }
194
195 /* find the EdgeHalf in bv's array that has edge bme */
196 static EdgeHalf *find_edge_half(BevVert *bv, BMEdge *bme)
197 {
198         int i;
199
200         for (i = 0; i < bv->edgecount; i++) {
201                 if (bv->edges[i].e == bme)
202                         return &bv->edges[i];
203         }
204         return NULL;
205 }
206
207 /* Return the next EdgeHalf after from_e that is beveled.
208  * If from_e is NULL, find the first beveled edge. */
209 static EdgeHalf *next_bev(BevVert *bv, EdgeHalf *from_e)
210 {
211         EdgeHalf *e;
212
213         if (from_e == NULL)
214                 from_e = &bv->edges[bv->edgecount - 1];
215         e = from_e;
216         do {
217                 if (e->is_bev) {
218                         return e;
219                 }
220         } while ((e = e->next) != from_e);
221         return NULL;
222 }
223
224 /* find the BevVert corresponding to BMVert bmv */
225 static BevVert *find_bevvert(BevelParams *bp, BMVert *bmv)
226 {
227         return BLI_ghash_lookup(bp->vert_hash, bmv);
228 }
229
230 /* Return a good representative face (for materials, etc.) for faces
231  * created around/near BoundVert v */
232 static BMFace *boundvert_rep_face(BoundVert *v)
233 {
234         BLI_assert(v->efirst != NULL && v->elast != NULL);
235         if (v->efirst->fnext == v->elast->fprev)
236                 return v->efirst->fnext;
237         else if (v->efirst->fnext)
238                 return v->efirst->fnext;
239         else
240                 return v->elast->fprev;
241 }
242
243 /**
244  * Make ngon from verts alone.
245  * Make sure to properly copy face attributes and do custom data interpolation from
246  * corresponding elements of face_arr, if that is non-NULL, else from facerep.
247  *
248  * \note ALL face creation goes through this function, this is important to keep!
249  */
250 static BMFace *bev_create_ngon(BMesh *bm, BMVert **vert_arr, const int totv,
251                                BMFace **face_arr, BMFace *facerep, bool do_interp)
252 {
253         BMIter iter;
254         BMLoop *l;
255         BMFace *f, *interp_f;
256         int i;
257
258         if (totv == 3) {
259                 f = BM_face_create_quad_tri_v(bm, vert_arr, 3, facerep, FALSE);
260         }
261         else if (totv == 4) {
262                 f = BM_face_create_quad_tri_v(bm, vert_arr, 4, facerep, FALSE);
263         }
264         else {
265                 BMEdge **ee = BLI_array_alloca(ee, totv);
266
267                 for (i = 0; i < totv; i++) {
268                         ee[i] = BM_edge_create(bm, vert_arr[i], vert_arr[(i + 1) % totv], NULL, BM_CREATE_NO_DOUBLE);
269                 }
270                 f = BM_face_create(bm, vert_arr, ee, totv, 0);
271         }
272         if ((facerep || (face_arr && face_arr[0])) && f) {
273                 BM_elem_attrs_copy(bm, bm, facerep ? facerep : face_arr[0], f);
274                 if (do_interp) {
275                         i = 0;
276                         BM_ITER_ELEM (l, &iter, f, BM_LOOPS_OF_FACE) {
277                                 if (face_arr) {
278                                         /* assume loops of created face are in same order as verts */
279                                         BLI_assert(l->v == vert_arr[i]);
280                                         interp_f = face_arr[i];
281                                 }
282                                 else {
283                                         interp_f = facerep;
284                                 }
285                                 if (interp_f)
286                                         BM_loop_interp_from_face(bm, l, interp_f, TRUE, TRUE);
287                                 i++;
288                         }
289                 }
290         }
291
292         /* not essential for bevels own internal logic,
293          * this is done so the operator can select newly created faces */
294         if (f) {
295                 BM_elem_flag_enable(f, BM_ELEM_TAG);
296         }
297
298         return f;
299 }
300
301 static BMFace *bev_create_quad_tri(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
302                                    BMFace *facerep, bool do_interp)
303 {
304         BMVert *varr[4] = {v1, v2, v3, v4};
305         return bev_create_ngon(bm, varr, v4 ? 4 : 3, NULL, facerep, do_interp);
306 }
307
308 static BMFace *bev_create_quad_tri_ex(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
309                                       BMFace *f1, BMFace *f2, BMFace *f3, BMFace *f4)
310 {
311         BMVert *varr[4] = {v1, v2, v3, v4};
312         BMFace *farr[4] = {f1, f2, f3, f4};
313         return bev_create_ngon(bm, varr, v4 ? 4 : 3, farr, f1, true);
314 }
315
316
317 /* Is Loop layer layer_index contiguous across shared vertex of l1 and l2? */
318 static bool contig_ldata_across_loops(BMesh *bm, BMLoop *l1, BMLoop *l2,
319                                       int layer_index)
320 {
321         const int offset = bm->ldata.layers[layer_index].offset;
322         const int type = bm->ldata.layers[layer_index].type;
323
324         return CustomData_data_equals(type,
325                                       (char *)l1->head.data + offset,
326                                       (char *)l2->head.data + offset);
327 }
328
329 /* Are all loop layers with have math (e.g., UVs) contiguous from face f1 to face f2 across edge e? */
330 static bool contig_ldata_across_edge(BMesh *bm, BMEdge *e, BMFace *f1, BMFace *f2)
331 {
332         BMLoop *lef1, *lef2;
333         BMLoop *lv1f1, *lv1f2, *lv2f1, *lv2f2;
334         BMVert *v1, *v2;
335         int i;
336
337         if (bm->ldata.totlayer == 0)
338                 return true;
339
340         v1 = e->v1;
341         v2 = e->v2;
342         if (!BM_edge_loop_pair(e, &lef1, &lef2))
343                 return false;
344         if (lef1->f == f2) {
345                 SWAP(BMLoop *, lef1, lef2);
346         }
347
348         if (lef1->v == v1) {
349                 lv1f1 = lef1;
350                 lv2f1 = BM_face_other_edge_loop(f1, e, v2);
351         }
352         else {
353                 lv2f1 = lef1;
354                 lv1f1 = BM_face_other_edge_loop(f1, e, v1);
355         }
356
357         if (lef2->v == v1) {
358                 lv1f2 = lef2;
359                 lv2f2 = BM_face_other_edge_loop(f2, e, v2);
360         }
361         else {
362                 lv2f2 = lef2;
363                 lv1f2 = BM_face_other_edge_loop(f2, e, v1);
364         }
365
366         for (i = 0; i < bm->ldata.totlayer; i++) {
367                 if (CustomData_layer_has_math(&bm->ldata, i) &&
368                     (!contig_ldata_across_loops(bm, lv1f1, lv1f2, i) ||
369                      !contig_ldata_across_loops(bm, lv2f1, lv2f2, i)))
370                 {
371                         return false;
372                 }
373         }
374         return true;
375 }
376
377 /* Like bev_create_quad_tri, but when verts straddle an old edge.
378  *        e
379  *        |
380  *  v1+---|---+v4
381  *    |   |   |
382  *    |   |   |
383  *  v2+---|---+v3
384  *        |
385  *    f1  |  f2
386  *
387  * Most CustomData for loops can be interpolated in their respective
388  * faces' loops, but for UVs and other 'has_math_cd' layers, only
389  * do this if the UVs are continuous across the edge e, otherwise pick
390  * one side (f1, arbitrarily), and interpolate them all on that side.
391  * For face data, use f1 (arbitrarily) as face representative. */
392 static BMFace *bev_create_quad_straddle(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
393         BMFace *f1, BMFace *f2, bool is_seam)
394 {
395         BMFace *f, *facerep;
396         BMLoop *l;
397         BMIter iter;
398
399         f = bev_create_quad_tri(bm, v1, v2, v3, v4, f1, false);
400
401         if (!f)
402                 return NULL;
403
404         BM_ITER_ELEM (l, &iter, f, BM_LOOPS_OF_FACE) {
405                 if (is_seam || l->v == v1 || l->v == v2)
406                         facerep = f1;
407                 else
408                         facerep = f2;
409                 if (facerep)
410                         BM_loop_interp_from_face(bm, l, facerep, TRUE, TRUE);
411         }
412         return f;
413 }
414
415 /* Merge (using average) all the UV values for loops of v's faces.
416  * Caller should ensure that no seams are violated by doing this. */
417 static void bev_merge_uvs(BMesh *bm, BMVert *v)
418 {
419         BMIter iter;
420         MLoopUV *luv;
421         BMLoop *l;
422         float uv[2];
423         int n;
424         int cd_loop_uv_offset = CustomData_get_offset(&bm->ldata, CD_MLOOPUV);
425
426         if (cd_loop_uv_offset == -1)
427                 return;
428
429         n = 0;
430         zero_v2(uv);
431         BM_ITER_ELEM(l, &iter, v, BM_LOOPS_OF_VERT) {
432                 luv = BM_ELEM_CD_GET_VOID_P(l, cd_loop_uv_offset);
433                 add_v2_v2(uv, luv->uv);
434                 n++;
435         }
436         if (n > 1) {
437                 mul_v2_fl(uv, 1.0f / (float)n);
438                 BM_ITER_ELEM(l, &iter, v, BM_LOOPS_OF_VERT) {
439                         luv = BM_ELEM_CD_GET_VOID_P(l, cd_loop_uv_offset);
440                         copy_v2_v2(luv->uv, uv);
441                 }
442         }
443 }
444
445 /* Calculate coordinates of a point a distance d from v on e->e and return it in slideco */
446 static void slide_dist(EdgeHalf *e, BMVert *v, float d, float slideco[3])
447 {
448         float dir[3], len;
449
450         sub_v3_v3v3(dir, v->co, BM_edge_other_vert(e->e, v)->co);
451         len = normalize_v3(dir);
452         if (d > len)
453                 d = len - (float)(50.0 * BEVEL_EPSILON_D);
454         copy_v3_v3(slideco, v->co);
455         madd_v3_v3fl(slideco, dir, -d);
456 }
457
458 /*
459  * Calculate the meeting point between the offset edges for e1 and e2, putting answer in meetco.
460  * e1 and e2 share vertex v and face f (may be NULL) and viewed from the normal side of
461  * the bevel vertex,  e1 precedes e2 in CCW order.
462  * If on_right is true, offset edge is on right of both edges, where e1 enters v and
463  * e2 leave it. If on_right is false, then the offset edge is on the left.
464  * When offsets are equal, the new point is on the edge bisector, with length offset/sin(angle/2),
465  * but if the offsets are not equal (allowing for this, as bevel modifier has edge weights that may
466  * lead to different offsets) then meeting point can be found be intersecting offset lines.
467  */
468 static void offset_meet(EdgeHalf *e1, EdgeHalf *e2, BMVert *v, BMFace *f,
469                         int on_right, float meetco[3])
470 {
471         float dir1[3], dir2[3], norm_v[3], norm_perp1[3], norm_perp2[3],
472               off1a[3], off1b[3], off2a[3], off2b[3], isect2[3], ang;
473
474         /* get direction vectors for two offset lines */
475         sub_v3_v3v3(dir1, v->co, BM_edge_other_vert(e1->e, v)->co);
476         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, v)->co, v->co);
477
478         ang = angle_v3v3(dir1, dir2);
479         if (ang < 100.0f * BEVEL_EPSILON) {
480                 /* special case: e1 and e2 are parallel; put offset point perp to both, from v.
481                  * need to find a suitable plane.
482                  * if offsets are different, we're out of luck: just use e1->offset */
483                 if (f)
484                         copy_v3_v3(norm_v, f->no);
485                 else
486                         copy_v3_v3(norm_v, v->no);
487                 cross_v3_v3v3(norm_perp1, dir1, norm_v);
488                 normalize_v3(norm_perp1);
489                 copy_v3_v3(off1a, v->co);
490                 madd_v3_v3fl(off1a, norm_perp1, e1->offset);
491                 copy_v3_v3(meetco, off1a);
492         }
493         else if (fabsf(ang - (float)M_PI) < 100.0f * BEVEL_EPSILON) {
494                 /* special case e1 and e2 are antiparallel, so bevel is into
495                  * a zero-area face.  Just make the offset point on the
496                  * common line, at offset distance from v. */
497                 slide_dist(e2, v, e2->offset, meetco);
498         }
499         else {
500                 /* get normal to plane where meet point should be */
501                 cross_v3_v3v3(norm_v, dir2, dir1);
502                 normalize_v3(norm_v);
503                 if (!on_right)
504                         negate_v3(norm_v);
505
506                 /* get vectors perp to each edge, perp to norm_v, and pointing into face */
507                 if (f) {
508                         copy_v3_v3(norm_v, f->no);
509                 }
510                 cross_v3_v3v3(norm_perp1, dir1, norm_v);
511                 cross_v3_v3v3(norm_perp2, dir2, norm_v);
512                 normalize_v3(norm_perp1);
513                 normalize_v3(norm_perp2);
514
515                 /* get points that are offset distances from each line, then another point on each line */
516                 copy_v3_v3(off1a, v->co);
517                 madd_v3_v3fl(off1a, norm_perp1, e1->offset);
518                 add_v3_v3v3(off1b, off1a, dir1);
519                 copy_v3_v3(off2a, v->co);
520                 madd_v3_v3fl(off2a, norm_perp2, e2->offset);
521                 add_v3_v3v3(off2b, off2a, dir2);
522
523                 /* intersect the lines; by construction they should be on the same plane and not parallel */
524                 if (!isect_line_line_v3(off1a, off1b, off2a, off2b, meetco, isect2)) {
525 #ifdef BEVEL_ASSERT_PROJECT
526                         BLI_assert(!"offset_meet failure");
527 #endif
528                         copy_v3_v3(meetco, off1a);  /* just to do something */
529                 }
530         }
531 }
532
533 /* Like offset_meet, but with a mid edge between them that is used
534  * to calculate the planes in which to run the offset lines.
535  * They may not meet exactly: the offsets for the edges may be different
536  * or both the planes and the lines may be angled so that they can't meet.
537  * In that case, pick a close point on emid, which should be the dividing
538  * edge between the two planes.
539  * TODO: should have a global 'offset consistency' prepass to adjust offset
540  * widths so that all edges have the same offset at both ends. */
541 static void offset_in_two_planes(EdgeHalf *e1, EdgeHalf *e2, EdgeHalf *emid,
542                                  BMVert *v, float meetco[3])
543 {
544         float dir1[3], dir2[3], dirmid[3], norm_perp1[3], norm_perp2[3],
545               off1a[3], off1b[3], off2a[3], off2b[3], isect2[3], co[3],
546               f1no[3], f2no[3], ang;
547         int iret;
548
549         /* get direction vectors for two offset lines */
550         sub_v3_v3v3(dir1, v->co, BM_edge_other_vert(e1->e, v)->co);
551         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, v)->co, v->co);
552         sub_v3_v3v3(dirmid, BM_edge_other_vert(emid->e, v)->co, v->co);
553
554         /* get directions into offset planes */
555         /* calculate face normals at corner in case faces are nonplanar */
556         cross_v3_v3v3(f1no, dirmid, dir1);
557         cross_v3_v3v3(f2no, dirmid, dir2);
558         cross_v3_v3v3(norm_perp1, dir1, f1no);
559         normalize_v3(norm_perp1);
560         cross_v3_v3v3(norm_perp2, dir2, f2no);
561         normalize_v3(norm_perp2);
562
563         /* get points that are offset distances from each line, then another point on each line */
564         copy_v3_v3(off1a, v->co);
565         madd_v3_v3fl(off1a, norm_perp1, e1->offset);
566         sub_v3_v3v3(off1b, off1a, dir1);
567         copy_v3_v3(off2a, v->co);
568         madd_v3_v3fl(off2a, norm_perp2, e2->offset);
569         add_v3_v3v3(off2b, off2a, dir2);
570
571         ang = angle_v3v3(dir1, dir2);
572         if (ang < 100.0f * BEVEL_EPSILON) {
573                 /* lines are parallel; off1a is a good meet point */
574                 copy_v3_v3(meetco, off1a);
575         }
576         else if (fabsf(ang - (float)M_PI) < 100.0f * BEVEL_EPSILON) {
577                 slide_dist(e2, v, e2->offset, meetco);
578         }
579         else {
580                 iret = isect_line_line_v3(off1a, off1b, off2a, off2b, meetco, isect2);
581                 if (iret == 0) {
582                         /* lines colinear: another test says they are parallel. so shouldn't happen */
583                         copy_v3_v3(meetco, off1a);
584                 }
585                 else if (iret == 2) {
586                         /* lines are not coplanar; meetco and isect2 are nearest to first and second lines */
587                         if (len_v3v3(meetco, isect2) > 100.0f * BEVEL_EPSILON) {
588                                 /* offset lines don't meet: project average onto emid; this is not ideal (see TODO above) */
589                                 mid_v3_v3v3(co, meetco, isect2);
590                                 closest_to_line_v3(meetco, co, v->co, BM_edge_other_vert(emid->e, v)->co);
591                         }
592                 }
593                 /* else iret == 1 and the lines are coplanar so meetco has the intersection */
594         }
595 }
596
597 /* Offset by e->offset in plane with normal plane_no, on left if left==TRUE,
598  * else on right.  If no is NULL, choose an arbitrary plane different
599  * from eh's direction. */
600 static void offset_in_plane(EdgeHalf *e, const float plane_no[3], int left, float r[3])
601 {
602         float dir[3], no[3], fdir[3];
603         BMVert *v;
604
605         v = e->is_rev ? e->e->v2 : e->e->v1;
606
607         sub_v3_v3v3(dir, BM_edge_other_vert(e->e, v)->co, v->co);
608         normalize_v3(dir);
609         if (plane_no) {
610                 copy_v3_v3(no, plane_no);
611         }
612         else {
613                 zero_v3(no);
614                 if (fabs(dir[0]) < fabs(dir[1]))
615                         no[0] = 1.0f;
616                 else
617                         no[1] = 1.0f;
618         }
619         if (left)
620                 cross_v3_v3v3(fdir, dir, no);
621         else
622                 cross_v3_v3v3(fdir, no, dir);
623         normalize_v3(fdir);
624         copy_v3_v3(r, v->co);
625         madd_v3_v3fl(r, fdir, e->offset);
626 }
627
628 /* Calculate the point on e where line (co_a, co_b) comes closest to and return it in projco */
629 static void project_to_edge(BMEdge *e, const float co_a[3], const float co_b[3], float projco[3])
630 {
631         float otherco[3];
632
633         if (!isect_line_line_v3(e->v1->co, e->v2->co, co_a, co_b, projco, otherco)) {
634 #ifdef BEVEL_ASSERT_PROJECT
635                 BLI_assert(!"project meet failure");
636 #endif
637                 copy_v3_v3(projco, e->v1->co);
638         }
639 }
640
641 /* return 1 if a and b are in CCW order on the normal side of f,
642  * and -1 if they are reversed, and 0 if there is no shared face f */
643 static int bev_ccw_test(BMEdge *a, BMEdge *b, BMFace *f)
644 {
645         BMLoop *la, *lb;
646
647         if (!f)
648                 return 0;
649         la = BM_face_edge_share_loop(f, a);
650         lb = BM_face_edge_share_loop(f, b);
651         if (!la || !lb)
652                 return 0;
653         return lb->next == la ? 1 : -1;
654 }
655
656 /* Fill matrix r_mat so that a point in the sheared parallelogram with corners
657  * va, vmid, vb (and the 4th that is implied by it being a parallelogram)
658  * is transformed to the unit square by multiplication with r_mat.
659  * If it can't be done because the parallelogram is degenerate, return FALSE
660  * else return TRUE.
661  * Method:
662  * Find vo, the origin of the parallelogram with other three points va, vmid, vb.
663  * Also find vd, which is in direction normal to parallelogram and 1 unit away
664  * from the origin.
665  * The quarter circle in first quadrant of unit square will be mapped to the
666  * quadrant of a sheared ellipse in the parallelogram, using a matrix.
667  * The matrix mat is calculated to map:
668  *    (0,1,0) -> va
669  *    (1,1,0) -> vmid
670  *    (1,0,0) -> vb
671  *    (0,1,1) -> vd
672  * We want M to make M*A=B where A has the left side above, as columns
673  * and B has the right side as columns - both extended into homogeneous coords.
674  * So M = B*(Ainverse).  Doing Ainverse by hand gives the code below.
675  */
676 static int make_unit_square_map(const float va[3], const float vmid[3], const float vb[3],
677                                 float r_mat[4][4])
678 {
679         float vo[3], vd[3], vb_vmid[3], va_vmid[3], vddir[3];
680
681         sub_v3_v3v3(va_vmid, vmid, va);
682         sub_v3_v3v3(vb_vmid, vmid, vb);
683         if (fabsf(angle_v3v3(va_vmid, vb_vmid) - (float)M_PI) > 100.0f * BEVEL_EPSILON) {
684                 sub_v3_v3v3(vo, va, vb_vmid);
685                 cross_v3_v3v3(vddir, vb_vmid, va_vmid);
686                 normalize_v3(vddir);
687                 add_v3_v3v3(vd, vo, vddir);
688
689                 /* The cols of m are: {vmid - va, vmid - vb, vmid + vd - va -vb, va + vb - vmid;
690                  * blender transform matrices are stored such that m[i][*] is ith column;
691                  * the last elements of each col remain as they are in unity matrix */
692                 sub_v3_v3v3(&r_mat[0][0], vmid, va);
693                 r_mat[0][3] = 0.0f;
694                 sub_v3_v3v3(&r_mat[1][0], vmid, vb);
695                 r_mat[1][3] = 0.0f;
696                 add_v3_v3v3(&r_mat[2][0], vmid, vd);
697                 sub_v3_v3(&r_mat[2][0], va);
698                 sub_v3_v3(&r_mat[2][0], vb);
699                 r_mat[2][3] = 0.0f;
700                 add_v3_v3v3(&r_mat[3][0], va, vb);
701                 sub_v3_v3(&r_mat[3][0], vmid);
702                 r_mat[3][3] = 1.0f;
703
704                 return TRUE;
705         }
706         else
707                 return FALSE;
708 }
709
710 /*
711  * Find the point (/n) of the way around the round profile for e,
712  * where start point is va, midarc point is vmid, and end point is vb.
713  * Return the answer in profileco.
714  * If va -- vmid -- vb is approximately a straight line, just
715  * interpolate along the line.
716  */
717 static void get_point_on_round_edge(EdgeHalf *e, int k,
718                                     const float va[3], const float vmid[3], const float vb[3],
719                                     float r_co[3])
720 {
721         float p[3], angle;
722         float m[4][4];
723         int n = e->seg;
724
725         if (make_unit_square_map(va, vmid, vb, m)) {
726                 /* Find point k/(e->seg) along quarter circle from (0,1,0) to (1,0,0) */
727                 angle = (float)M_PI * (float)k / (2.0f * (float)n);  /* angle from y axis */
728                 p[0] = sinf(angle);
729                 p[1] = cosf(angle);
730                 p[2] = 0.0f;
731                 mul_v3_m4v3(r_co, m, p);
732         }
733         else {
734                 /* degenerate case: profile is a line */
735                 interp_v3_v3v3(r_co, va, vb, (float)k / (float)n);
736         }
737 }
738
739 /* Calculate a snapped point to the transformed profile of edge e, extended as
740  * in a cylinder-like surface in the direction of e.
741  * co is the point to snap and is modified in place.
742  * va and vb are the limits of the profile (with peak on e). */
743 static void snap_to_edge_profile(EdgeHalf *e, const float va[3], const float vb[3],
744                                  float co[3])
745 {
746         float m[4][4], minv[4][4];
747         float edir[3], va0[3], vb0[3], vmid0[3], p[3], snap[3];
748
749         sub_v3_v3v3(edir, e->e->v1->co, e->e->v2->co);
750         normalize_v3(edir);
751
752         /* project va and vb onto plane P, with normal edir and containing co */
753         closest_to_plane_v3(va0, co, edir, va);
754         closest_to_plane_v3(vb0, co, edir, vb);
755         project_to_edge(e->e, va0, vb0, vmid0);
756         if (make_unit_square_map(va0, vmid0, vb0, m)) {
757                 /* Transform co and project it onto the unit circle.
758                  * Projecting is in fact just normalizing the transformed co */
759                 if (!invert_m4_m4(minv, m)) {
760                         /* shouldn't happen, by angle test and construction of vd */
761                         BLI_assert(!"failed inverse during profile snap");
762                         return;
763                 }
764                 mul_v3_m4v3(p, minv, co);
765                 normalize_v3(p);
766                 mul_v3_m4v3(snap, m, p);
767                 copy_v3_v3(co, snap);
768         }
769         else {
770                 /* planar case: just snap to line va--vb */
771                 closest_to_line_segment_v3(p, co, va, vb);
772                 copy_v3_v3(co, p);
773         }
774 }
775
776 /* Set the any_seam property for a BevVert and all its BoundVerts */
777 static void set_bound_vert_seams(BevVert *bv)
778 {
779         BoundVert *v;
780         EdgeHalf *e;
781
782         bv->any_seam = false;
783         v = bv->vmesh->boundstart;
784         do {
785                 v->any_seam = false;
786                 for (e = v->efirst; e; e = e->next) {
787                         v->any_seam |= e->is_seam;
788                         if (e == v->elast)
789                                 break;
790                 }
791                 bv->any_seam |= v->any_seam;
792         } while ((v = v->next) != bv->vmesh->boundstart);
793 }
794
795 /* Make a circular list of BoundVerts for bv, each of which has the coordinates
796  * of a vertex on the the boundary of the beveled vertex bv->v.
797  * Also decide on the mesh pattern that will be used inside the boundary.
798  * Doesn't make the actual BMVerts */
799 static void build_boundary(BevelParams *bp, BevVert *bv)
800 {
801         MemArena *mem_arena = bp->mem_arena;
802         EdgeHalf *efirst, *e;
803         BoundVert *v;
804         VMesh *vm;
805         float co[3];
806         const float  *no;
807         float lastd;
808
809         vm = bv->vmesh;
810
811         if (bp->vertex_only)
812                 e = efirst = &bv->edges[0];
813         else
814                 e = efirst = next_bev(bv, NULL);
815
816         BLI_assert(bv->edgecount >= 2);  /* since bevel edges incident to 2 faces */
817
818         if (bv->edgecount == 2 && bv->selcount == 1) {
819                 /* special case: beveled edge meets non-beveled one at valence 2 vert */
820                 no = e->fprev ? e->fprev->no : (e->fnext ? e->fnext->no : NULL);
821                 offset_in_plane(e, no, TRUE, co);
822                 v = add_new_bound_vert(mem_arena, vm, co);
823                 v->efirst = v->elast = v->ebev = e;
824                 e->leftv = v;
825                 no = e->fnext ? e->fnext->no : (e->fprev ? e->fprev->no : NULL);
826                 offset_in_plane(e, no, FALSE, co);
827                 v = add_new_bound_vert(mem_arena, vm, co);
828                 v->efirst = v->elast = e;
829                 e->rightv = v;
830                 /* make artifical extra point along unbeveled edge, and form triangle */
831                 slide_dist(e->next, bv->v, e->offset, co);
832                 v = add_new_bound_vert(mem_arena, vm, co);
833                 v->efirst = v->elast = e->next;
834                 e->next->leftv = e->next->rightv = v;
835                 /* could use M_POLY too, but tri-fan looks nicer)*/
836                 vm->mesh_kind = M_TRI_FAN;
837                 set_bound_vert_seams(bv);
838                 return;
839         }
840
841         lastd = bp->vertex_only ? bv->offset : e->offset;
842         vm->boundstart = NULL;
843         do {
844                 if (e->is_bev) {
845                         /* handle only left side of beveled edge e here: next iteration should do right side */
846                         if (e->prev->is_bev) {
847                                 BLI_assert(e->prev != e);  /* see: wire edge special case */
848                                 offset_meet(e->prev, e, bv->v, e->fprev, TRUE, co);
849                                 v = add_new_bound_vert(mem_arena, vm, co);
850                                 v->efirst = e->prev;
851                                 v->elast = v->ebev = e;
852                                 e->leftv = v;
853                                 e->prev->rightv = v;
854                         }
855                         else {
856                                 /* e->prev is not beveled */
857                                 if (e->prev->prev->is_bev) {
858                                         BLI_assert(e->prev->prev != e); /* see: edgecount 2, selcount 1 case */
859                                         /* find meet point between e->prev->prev and e and attach e->prev there */
860                                         offset_in_two_planes(e->prev->prev, e, e->prev, bv->v, co);
861                                         v = add_new_bound_vert(mem_arena, vm, co);
862                                         v->efirst = e->prev->prev;
863                                         v->elast = v->ebev = e;
864                                         e->leftv = v;
865                                         e->prev->leftv = v;
866                                         e->prev->prev->rightv = v;
867                                 }
868                                 else {
869                                         /* neither e->prev nor e->prev->prev are beveled: make on-edge on e->prev */
870                                         offset_meet(e->prev, e, bv->v, e->fprev, TRUE, co);
871                                         v = add_new_bound_vert(mem_arena, vm, co);
872                                         v->efirst = e->prev;
873                                         v->elast = v->ebev = e;
874                                         e->leftv = v;
875                                         e->prev->leftv = v;
876                                 }
877                         }
878                         lastd = len_v3v3(bv->v->co, v->nv.co);
879                 }
880                 else {
881                         /* e is not beveled */
882                         if (e->next->is_bev) {
883                                 /* next iteration will place e between beveled previous and next edges */
884                                 /* do nothing... */
885                         }
886                         else if (e->prev->is_bev) {
887                                 /* on-edge meet between e->prev and e */
888                                 offset_meet(e->prev, e, bv->v, e->fprev, TRUE, co);
889                                 v = add_new_bound_vert(mem_arena, vm, co);
890                                 v->efirst = e->prev;
891                                 v->elast = e;
892                                 e->leftv = v;
893                                 e->prev->rightv = v;
894                         }
895                         else {
896                                 /* None of e->prev, e, e->next are beveled.
897                                  * could either leave alone or add slide points to make
898                                  * one polygon around bv->v.  For now, we choose latter.
899                                  * Could slide to make an even bevel plane but for now will
900                                  * just use last distance a meet point moved from bv->v. */
901                                 slide_dist(e, bv->v, lastd, co);
902                                 v = add_new_bound_vert(mem_arena, vm, co);
903                                 v->efirst = v->elast = e;
904                                 e->leftv = v;
905                         }
906                 }
907         } while ((e = e->next) != efirst);
908
909         set_bound_vert_seams(bv);
910
911         BLI_assert(vm->count >= 2);
912         if (bp->vertex_only) {
913                 vm->mesh_kind = bp->seg > 1 ? M_ADJ_SUBDIV : M_POLY;
914         }
915         else if (vm->count == 2 && bv->edgecount == 3) {
916                 vm->mesh_kind = M_NONE;
917         }
918         else if (bv->selcount == 2) {
919                 vm->mesh_kind = M_QUAD_STRIP;
920         }
921         else if (efirst->seg == 1 || bv->selcount == 1) {
922                 if (vm->count == 3 && bv->selcount == 1) {
923                         vm->mesh_kind = M_TRI_FAN;
924                 }
925                 else {
926                         vm->mesh_kind = M_POLY;
927                 }
928         }
929         else {
930                 vm->mesh_kind = M_ADJ;
931         }
932 }
933
934 /*
935  * Given that the boundary is built and the boundary BMVerts have been made,
936  * calculate the positions of the interior mesh points for the M_ADJ pattern,
937  * then make the BMVerts and the new faces. */
938 static void bevel_build_rings(BMesh *bm, BevVert *bv)
939 {
940         int k, ring, i, n, ns, ns2, nn, odd;
941         VMesh *vm = bv->vmesh;
942         BoundVert *v, *vprev, *vnext;
943         NewVert *nv, *nvprev, *nvnext;
944         EdgeHalf *e1, *e2, *epipe;
945         BMVert *bmv, *bmv1, *bmv2, *bmv3, *bmv4;
946         BMFace *f, *f2, *f23;
947         float co[3], coa[3], cob[3], midco[3];
948         float va_pipe[3], vb_pipe[3];
949
950         n = vm->count;
951         ns = vm->seg;
952         ns2 = ns / 2;
953         odd = (ns % 2) != 0;
954         BLI_assert(n > 2 && ns > 1);
955
956         /* special case: two beveled edges are in line and share a face, making a "pipe" */
957         epipe = NULL;
958         if (bv->selcount > 2) {
959                 for (e1 = &bv->edges[0]; epipe == NULL && e1 != &bv->edges[bv->edgecount]; e1++) {
960                         if (e1->is_bev) {
961                                 for (e2 = &bv->edges[0]; e2 != &bv->edges[bv->edgecount]; e2++) {
962                                         if (e1 != e2 && e2->is_bev) {
963                                                 if ((e1->fnext == e2->fprev) || (e1->fprev == e2->fnext)) {
964                                                         float dir1[3], dir2[3];
965                                                         sub_v3_v3v3(dir1, bv->v->co, BM_edge_other_vert(e1->e, bv->v)->co);
966                                                         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, bv->v)->co, bv->v->co);
967                                                         if (angle_v3v3(dir1, dir2) < 100.0f * BEVEL_EPSILON) {
968                                                                 epipe = e1;
969                                                                 break;
970                                                         }
971                                                 }
972                                         }
973                                 }
974                         }
975                 }
976         }
977
978         /* Make initial rings, going between points on neighbors.
979          * After this loop, will have coords for all (i, r, k) where
980          * BoundVert for i has a bevel, 0 <= r <= ns2, 0 <= k <= ns */
981         for (ring = 1; ring <= ns2; ring++) {
982                 v = vm->boundstart;
983
984                 do {
985                         i = v->index;
986                         if (v->ebev) {
987                                 /* get points coords of points a and b, on outer rings
988                                  * of prev and next edges, k away from this edge */
989                                 vprev = v->prev;
990                                 vnext = v->next;
991
992                                 if (vprev->ebev)
993                                         nvprev = mesh_vert(vm, vprev->index, 0, ns - ring);
994                                 else
995                                         nvprev = mesh_vert(vm, vprev->index, 0, ns);
996                                 copy_v3_v3(coa, nvprev->co);
997                                 nv = mesh_vert(vm, i, ring, 0);
998                                 copy_v3_v3(nv->co, coa);
999                                 nv->v = nvprev->v;
1000
1001                                 if (vnext->ebev)
1002                                         nvnext = mesh_vert(vm, vnext->index, 0, ring);
1003                                 else
1004                                         nvnext = mesh_vert(vm, vnext->index, 0, 0);
1005                                 copy_v3_v3(cob, nvnext->co);
1006                                 nv = mesh_vert(vm, i, ring, ns);
1007                                 copy_v3_v3(nv->co, cob);
1008                                 nv->v = nvnext->v;
1009
1010                                 /* TODO: better calculation of new midarc point? */
1011                                 project_to_edge(v->ebev->e, coa, cob, midco);
1012
1013                                 for (k = 1; k < ns; k++) {
1014                                         get_point_on_round_edge(v->ebev, k, coa, midco, cob, co);
1015                                         copy_v3_v3(mesh_vert(vm, i, ring, k)->co, co);
1016                                 }
1017
1018                                 if (v->ebev == epipe) {
1019                                         /* save profile extremes for later snapping */
1020                                         copy_v3_v3(va_pipe, mesh_vert(vm, i, 0, 0)->co);
1021                                         copy_v3_v3(vb_pipe, mesh_vert(vm, i, 0, ns)->co);
1022                                 }
1023                         }
1024                 } while ((v = v->next) != vm->boundstart);
1025         }
1026
1027         /* Now make sure cross points of rings share coordinates and vertices.
1028          * After this loop, will have BMVerts for all (i, r, k) where
1029          * i is for a BoundVert that is beveled and has either a predecessor or
1030          * successor BoundVert beveled too, and
1031          * for odd ns: 0 <= r <= ns2, 0 <= k <= ns
1032          * for even ns: 0 <= r < ns2, 0 <= k <= ns except k=ns2 */
1033         v = vm->boundstart;
1034         do {
1035                 i = v->index;
1036                 if (v->ebev) {
1037                         vprev = v->prev;
1038                         vnext = v->next;
1039                         if (vprev->ebev) {
1040                                 for (ring = 1; ring <= ns2; ring++) {
1041                                         for (k = 1; k <= ns2; k++) {
1042                                                 if (!odd && (k == ns2 || ring == ns2))
1043                                                         continue;  /* center line is special case: do after the rest are done */
1044                                                 nv = mesh_vert(vm, i, ring, k);
1045                                                 nvprev = mesh_vert(vm, vprev->index, k, ns - ring);
1046                                                 mid_v3_v3v3(co, nv->co, nvprev->co);
1047                                                 if (epipe)
1048                                                         snap_to_edge_profile(epipe, va_pipe, vb_pipe, co);
1049
1050                                                 copy_v3_v3(nv->co, co);
1051                                                 BLI_assert(nv->v == NULL && nvprev->v == NULL);
1052                                                 create_mesh_bmvert(bm, vm, i, ring, k, bv->v);
1053                                                 copy_mesh_vert(vm, vprev->index, k, ns - ring, i, ring, k);
1054                                         }
1055                                 }
1056                                 if (!vprev->prev->ebev) {
1057                                         for (ring = 1; ring <= ns2; ring++) {
1058                                                 for (k = 1; k <= ns2; k++) {
1059                                                         if (!odd && (k == ns2 || ring == ns2))
1060                                                                 continue;
1061                                                         create_mesh_bmvert(bm, vm, vprev->index, ring, k, bv->v);
1062                                                 }
1063                                         }
1064                                 }
1065                                 if (!vnext->ebev) {
1066                                         for (ring = 1; ring <= ns2; ring++) {
1067                                                 for (k = ns - ns2; k < ns; k++) {
1068                                                         if (!odd && (k == ns2 || ring == ns2))
1069                                                                 continue;
1070                                                         create_mesh_bmvert(bm, vm, i, ring, k, bv->v);
1071                                                 }
1072                                         }
1073                                 }
1074                         }
1075                 }
1076         } while ((v = v->next) != vm->boundstart);
1077
1078         if (!odd) {
1079                 /* Do special case center lines.
1080                  * This loop makes verts for (i, ns2, k) for 1 <= k <= ns-1, k!=ns2
1081                  * and for (i, r, ns2) for 1 <= r <= ns2-1,
1082                  * whenever i is in a sequence of at least two beveled verts */
1083                 v = vm->boundstart;
1084                 do {
1085                         i = v->index;
1086                         if (v->ebev) {
1087                                 vprev = v->prev;
1088                                 vnext = v->next;
1089                                 for (k = 1; k < ns2; k++) {
1090                                         nv = mesh_vert(vm, i, k, ns2);
1091                                         if (vprev->ebev)
1092                                                 nvprev = mesh_vert(vm, vprev->index, ns2, ns - k);
1093                                         if (vnext->ebev)
1094                                                 nvnext = mesh_vert(vm, vnext->index, ns2, k);
1095                                         if (vprev->ebev && vnext->ebev) {
1096                                                 mid_v3_v3v3v3(co, nvprev->co, nv->co, nvnext->co);
1097                                                 if (epipe)
1098                                                         snap_to_edge_profile(epipe, va_pipe, vb_pipe, co);
1099                                                 copy_v3_v3(nv->co, co);
1100                                                 create_mesh_bmvert(bm, vm, i, k, ns2, bv->v);
1101                                                 copy_mesh_vert(vm, vprev->index, ns2, ns - k, i, k, ns2);
1102                                                 copy_mesh_vert(vm, vnext->index, ns2, k, i, k, ns2);
1103
1104                                         }
1105                                         else if (vprev->ebev) {
1106                                                 mid_v3_v3v3(co, nvprev->co, nv->co);
1107                                                 if (epipe)
1108                                                         snap_to_edge_profile(epipe, va_pipe, vb_pipe, co);
1109                                                 copy_v3_v3(nv->co, co);
1110                                                 create_mesh_bmvert(bm, vm, i, k, ns2, bv->v);
1111                                                 copy_mesh_vert(vm, vprev->index, ns2, ns - k, i, k, ns2);
1112
1113                                                 create_mesh_bmvert(bm, vm, i, ns2, ns - k, bv->v);
1114                                         }
1115                                         else if (vnext->ebev) {
1116                                                 mid_v3_v3v3(co, nv->co, nvnext->co);
1117                                                 if (epipe)
1118                                                         snap_to_edge_profile(epipe, va_pipe, vb_pipe, co);
1119                                                 copy_v3_v3(nv->co, co);
1120                                                 create_mesh_bmvert(bm, vm, i, k, ns2, bv->v);
1121                                                 copy_mesh_vert(vm, vnext->index, ns2, k, i, k, ns2);
1122
1123                                                 create_mesh_bmvert(bm, vm, i, ns2, k, bv->v);
1124                                         }
1125                                 }
1126                         }
1127                 } while ((v = v->next) != vm->boundstart);
1128
1129                 /* center point need to be average of all centers of rings */
1130                 /* TODO: this is wrong if not all verts have ebev: could have
1131                  * several disconnected sections of mesh. */
1132                 zero_v3(midco);
1133                 nn = 0;
1134                 v = vm->boundstart;
1135                 do {
1136                         i = v->index;
1137                         if (v->ebev) {
1138                                 nv = mesh_vert(vm, i, ns2, ns2);
1139                                 add_v3_v3(midco, nv->co);
1140                                 nn++;
1141                         }
1142                 } while ((v = v->next) != vm->boundstart);
1143                 mul_v3_fl(midco, 1.0f / nn);
1144                 if (epipe)
1145                         snap_to_edge_profile(epipe, va_pipe, vb_pipe, midco);
1146                 bmv = BM_vert_create(bm, midco, NULL, 0);
1147                 v = vm->boundstart;
1148                 do {
1149                         i = v->index;
1150                         if (v->ebev) {
1151                                 nv = mesh_vert(vm, i, ns2, ns2);
1152                                 copy_v3_v3(nv->co, midco);
1153                                 nv->v = bmv;
1154                         }
1155                 } while ((v = v->next) != vm->boundstart);
1156         }
1157
1158         /* Make the ring quads */
1159         for (ring = 0; ring < ns2; ring++) {
1160                 v = vm->boundstart;
1161                 do {
1162                         i = v->index;
1163                         f = boundvert_rep_face(v);
1164                         f2 = boundvert_rep_face(v->next);
1165                         if (v->ebev && (v->prev->ebev || v->next->ebev)) {
1166                                 for (k = 0; k < ns2 + odd; k++) {
1167                                         bmv1 = mesh_vert(vm, i, ring, k)->v;
1168                                         bmv2 = mesh_vert(vm, i, ring, k + 1)->v;
1169                                         bmv3 = mesh_vert(vm, i, ring + 1, k + 1)->v;
1170                                         bmv4 = mesh_vert(vm, i, ring + 1, k)->v;
1171                                         BLI_assert(bmv1 && bmv2 && bmv3 && bmv4);
1172                                         if (bmv3 == bmv4 || bmv1 == bmv4)
1173                                                 bmv4 = NULL;
1174                                         /* f23 is interp face for bmv2 and bmv3 */
1175                                         f23 = f;
1176                                         if (odd && k == ns2 && f2 && !v->any_seam)
1177                                                 f23 = f2;
1178                                         bev_create_quad_tri_ex(bm, bmv1, bmv2, bmv3, bmv4,
1179                                                                f, f23, f23, f);
1180                                 }
1181                         }
1182                         else if (v->prev->ebev && v->prev->prev->ebev) {
1183                                 /* finish off a sequence of beveled edges */
1184                                 i = v->prev->index;
1185                                 f = boundvert_rep_face(v->prev);
1186                                 f2 = boundvert_rep_face(v);
1187                                 for (k = ns2 + (ns % 2); k < ns; k++) {
1188                                         bmv1 = mesh_vert(vm, i, ring, k)->v;
1189                                         bmv2 = mesh_vert(vm, i, ring, k + 1)->v;
1190                                         bmv3 = mesh_vert(vm, i, ring + 1, k + 1)->v;
1191                                         bmv4 = mesh_vert(vm, i, ring + 1, k)->v;
1192                                         BLI_assert(bmv1 && bmv2 && bmv3 && bmv4);
1193                                         if (bmv2 == bmv3) {
1194                                                 bmv3 = bmv4;
1195                                                 bmv4 = NULL;
1196                                         }
1197                                         f23 = f;
1198                                         if (odd && k == ns2 && f2 && !v->any_seam)
1199                                                 f23 = f2;
1200                                         bev_create_quad_tri_ex(bm, bmv1, bmv2, bmv3, bmv4,
1201                                                                f, f23, f23, f);
1202                                 }
1203                         }
1204                 } while ((v = v->next) != vm->boundstart);
1205         }
1206
1207         /* Fix UVs along center lines if even number of segments */
1208         if (!odd) {
1209                 v = vm->boundstart;
1210                 do {
1211                         i = v->index;
1212                         f = boundvert_rep_face(v);
1213                         f2 = boundvert_rep_face(v->next);
1214                         if (!v->any_seam) {
1215                                 for (ring = 1; ring < ns2; ring++)
1216                                         bev_merge_uvs(bm, mesh_vert(vm, i, ring, ns2)->v);
1217                         }
1218                 } while ((v = v->next) != vm->boundstart);
1219                 if (!bv->any_seam)
1220                         bev_merge_uvs(bm, mesh_vert(vm, 0, ns2, ns2)->v);
1221         }
1222
1223         /* Make center ngon if odd number of segments and fully beveled */
1224         if (odd && vm->count == bv->selcount) {
1225                 BMVert **vv = NULL;
1226                 BMFace **vf = NULL;
1227                 BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
1228                 BLI_array_staticdeclare(vf, BM_DEFAULT_NGON_STACK_SIZE);
1229
1230                 v = vm->boundstart;
1231                 do {
1232                         i = v->index;
1233                         BLI_assert(v->ebev);
1234                         BLI_array_append(vv, mesh_vert(vm, i, ns2, ns2)->v);
1235                         BLI_array_append(vf, bv->any_seam ? f: boundvert_rep_face(v));
1236                 } while ((v = v->next) != vm->boundstart);
1237                 f = boundvert_rep_face(vm->boundstart);
1238                 bev_create_ngon(bm, vv, BLI_array_count(vv), vf, f, true);
1239
1240                 BLI_array_free(vv);
1241         }
1242
1243         /* Make 'rest-of-vmesh' polygon if not fully beveled */
1244         /* TODO: use interpolation face array here too */
1245         if (vm->count > bv->selcount) {
1246                 int j;
1247                 BMVert **vv = NULL;
1248                 BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
1249
1250                 v = vm->boundstart;
1251                 f = boundvert_rep_face(v);
1252                 j = 0;
1253                 do {
1254                         i = v->index;
1255                         if (v->ebev) {
1256                                 if (!v->prev->ebev) {
1257                                         for (k = 0; k < ns2; k++) {
1258                                                 bmv1 = mesh_vert(vm, i, ns2, k)->v;
1259                                                 if (!bmv1)
1260                                                         bmv1 = mesh_vert(vm, i, 0, k)->v;
1261                                                 if (!(j > 0 && bmv1 == vv[j - 1])) {
1262                                                         BLI_assert(bmv1 != NULL);
1263                                                         BLI_array_append(vv, bmv1);
1264                                                         j++;
1265                                                 }
1266                                         }
1267                                 }
1268                                 bmv1 = mesh_vert(vm, i, ns2, ns2)->v;
1269                                 if (!bmv1)
1270                                         bmv1 = mesh_vert(vm, i, 0, ns2)->v;
1271                                 if (!(j > 0 && bmv1 == vv[j - 1])) {
1272                                         BLI_assert(bmv1 != NULL);
1273                                         BLI_array_append(vv, bmv1);
1274                                         j++;
1275                                 }
1276                                 if (!v->next->ebev) {
1277                                         for (k = ns - ns2; k < ns; k++) {
1278                                                 bmv1 = mesh_vert(vm, i, ns2, k)->v;
1279                                                 if (!bmv1)
1280                                                         bmv1 = mesh_vert(vm, i, 0, k)->v;
1281                                                 if (!(j > 0 && bmv1 == vv[j - 1])) {
1282                                                         BLI_assert(bmv1 != NULL);
1283                                                         BLI_array_append(vv, bmv1);
1284                                                         j++;
1285                                                 }
1286                                         }
1287                                 }
1288                         }
1289                         else {
1290                                 BLI_assert(mesh_vert(vm, i, 0, 0)->v != NULL);
1291                                 BLI_array_append(vv, mesh_vert(vm, i, 0, 0)->v);
1292                                 j++;
1293                         }
1294                 } while ((v = v->next) != vm->boundstart);
1295                 if (vv[0] == vv[j - 1])
1296                         j--;
1297                 bev_create_ngon(bm, vv, j, NULL, f, true);
1298
1299                 BLI_array_free(vv);
1300         }
1301 }
1302
1303 static VMesh *new_adj_subdiv_vmesh(MemArena *mem_arena, int count, int seg, BoundVert *bounds)
1304 {
1305         VMesh *vm;
1306
1307         vm = (VMesh *)BLI_memarena_alloc(mem_arena, sizeof(VMesh));
1308         vm->count = count;
1309         vm->seg = seg;
1310         vm->boundstart = bounds;
1311         vm->mesh = (NewVert *)BLI_memarena_alloc(mem_arena, count * (1 + seg / 2) * (1 + seg) * sizeof(NewVert));
1312         vm->mesh_kind = M_ADJ_SUBDIV;
1313         return vm;
1314 }
1315
1316 /* VMesh verts for vertex i have data for (i, 0 <= j <= ns2, 0 <= k <= ns), where ns2 = floor(nseg / 2).
1317  * But these overlap data from previous and next i: there are some forced equivalences.
1318  * Let's call these indices the canonical ones: we will just calculate data for these
1319  *    0 <= j <= ns2, 0 <= k < ns2  (for odd ns2)
1320  *    0 <= j < ns2, 0 <= k <= ns2  (for even ns2)
1321  *        also (j=ns2, k=ns2) at i=0 (for even ns2)
1322  * This function returns the canonical one for any i, j, k in [0,n],[0,ns],[0,ns] */
1323 static NewVert *mesh_vert_canon(VMesh *vm, int i, int j, int k)
1324 {
1325         int n, ns, ns2, odd;
1326         NewVert *ans;
1327
1328         n = vm->count;
1329         ns = vm->seg;
1330         ns2 = ns / 2;
1331         odd = ns % 2;
1332         BLI_assert(0 <= i && i <= n && 0 <= j && j <= ns && 0 <= k && k <= ns);
1333
1334         if (!odd && j == ns2 && k == ns2)
1335                 ans = mesh_vert(vm, 0, j, k);
1336         else if (j <= ns2 - 1 + odd && k <= ns2)
1337                 ans = mesh_vert(vm, i, j, k);
1338         else if (k <= ns2)
1339                 ans = mesh_vert(vm, (i + n - 1) % n, k, ns - j);
1340         else
1341                 ans = mesh_vert(vm, (i + 1) % n, ns - k, j);
1342         return ans;
1343 }
1344
1345 static int is_canon(VMesh *vm, int i, int j, int k)
1346 {
1347         int ns2 = vm->seg / 2;
1348         if (vm->seg % 2 == 1)
1349                 return (j <= ns2 && k <= ns2);
1350         else
1351                 return ((j < ns2 && k <= ns2) || (j == ns2 && k == ns2 && i == 0));
1352 }
1353
1354 /* Copy the vertex data to all of vm verts from canonical ones */
1355 static void vmesh_copy_equiv_verts(VMesh *vm)
1356 {
1357         int n, ns, ns2, i, j, k;
1358         NewVert *v0, *v1;
1359
1360         n = vm->count;
1361         ns = vm->seg;
1362         ns2 = ns / 2;
1363         for (i = 0; i < n; i++) {
1364                 for (j = 0; j <= ns2; j++) {
1365                         for (k = 0; k <= ns; k++) {
1366                                 if (is_canon(vm, i, j, k))
1367                                         continue;
1368                                 v1 = mesh_vert(vm, i, j, k);
1369                                 v0 = mesh_vert_canon(vm, i, j, k);
1370                                 copy_v3_v3(v1->co, v0->co);
1371                                 v1->v = v0->v;
1372                         }
1373                 }
1374         }
1375 }
1376
1377 /* Calculate and return in r_cent the centroid of the center poly */
1378 static void vmesh_center(VMesh *vm, float r_cent[3])
1379 {
1380         int n, ns2, i;
1381
1382         n = vm->count;
1383         ns2 = vm->seg / 2;
1384         if (vm->seg % 2) {
1385                 zero_v3(r_cent);
1386                 for (i = 0; i < n; i++) {
1387                         add_v3_v3(r_cent, mesh_vert(vm, i, ns2, ns2)->co);
1388                 }
1389                 mul_v3_fl(r_cent, 1.0f / (float) n);
1390         }
1391         else {
1392                 copy_v3_v3(r_cent, mesh_vert(vm, 0, ns2, ns2)->co);
1393         }
1394 }
1395
1396 /* Do one step of quadratic subdivision (Doo-Sabin), with special rules at boundaries.
1397  * For now, this is written assuming vm0->nseg is odd.
1398  * See Hwang-Chuang 2003 paper: "N-sided hole filling and vertex blending using subdivision surfaces"  */
1399 static VMesh *quadratic_subdiv(MemArena *mem_arena, VMesh *vm0)
1400 {
1401         int n, ns0, ns20, ns1 /*, ns21 */;
1402         int i, j, k, j1, k1;
1403         VMesh *vm1;
1404         float co[3], co1[3], co2[3], co3[3], co4[3];
1405         float co11[3], co21[3], co31[3], co41[3];
1406         float denom;
1407         const float wcorner[4] = {0.25f, 0.25f, 0.25f, 0.25f};
1408         const float wboundary[4] = {0.375f, 0.375f, 0.125f, 0.125f};  /* {3, 3, 1, 1}/8 */
1409         const float winterior[4] = {0.5625f, 0.1875f, 0.1875f, 0.0625f}; /* {9, 3, 3, 1}/16 */
1410
1411         n = vm0->count;
1412         ns0 = vm0->seg;
1413         ns20 = ns0 / 2;
1414         BLI_assert(ns0 % 2 == 1);
1415
1416         ns1 = 2 * ns0 - 1;
1417         // ns21 = ns1 / 2;  /* UNUSED */
1418         vm1 = new_adj_subdiv_vmesh(mem_arena, n, ns1, vm0->boundstart);
1419
1420         for (i = 0; i < n; i ++) {
1421                 /* For handle vm0 polys with lower left corner at (i,j,k) for
1422                  * j in [0, ns20], k in [0, ns20]; then the center ngon.
1423                  * but only fill in data for canonical verts of v1. */
1424                 for (j = 0; j <= ns20; j++) {
1425                         for (k = 0; k <= ns20; k++) {
1426                                 if (j == ns20 && k == ns20)
1427                                         continue;  /* center ngon is special */
1428                                 copy_v3_v3(co1, mesh_vert_canon(vm0, i, j, k)->co);
1429                                 copy_v3_v3(co2, mesh_vert_canon(vm0, i, j, k + 1)->co);
1430                                 copy_v3_v3(co3, mesh_vert_canon(vm0, i, j + 1, k + 1)->co);
1431                                 copy_v3_v3(co4, mesh_vert_canon(vm0, i, j + 1, k)->co);
1432                                 if (j == 0 && k == 0) {
1433                                         /* corner */
1434                                         copy_v3_v3(co11, co1);
1435                                         interp_v3_v3v3(co21, co1, co2, 0.5f);
1436                                         interp_v3_v3v3v3v3(co31, co1, co2, co3, co4, wcorner);
1437                                         interp_v3_v3v3(co41, co1, co4, 0.5f);
1438                                 }
1439                                 else if (j == 0) {
1440                                         /* ring 0 boundary */
1441                                         interp_v3_v3v3(co11, co1, co2, 0.25f);
1442                                         interp_v3_v3v3(co21, co1, co2, 0.75f);
1443                                         interp_v3_v3v3v3v3(co31, co2, co3, co1, co4, wboundary);
1444                                         interp_v3_v3v3v3v3(co41, co1, co4, co2, co3, wboundary);
1445                                 }
1446                                 else if (k == 0) {
1447                                         /* ring-starts boundary */
1448                                         interp_v3_v3v3(co11, co1, co4, 0.25f);
1449                                         interp_v3_v3v3v3v3(co21, co1, co2, co3, co4, wboundary);
1450                                         interp_v3_v3v3v3v3(co31, co3, co4, co1, co2, wboundary);
1451                                         interp_v3_v3v3(co41, co1, co4, 0.75f);
1452                                 }
1453                                 else {
1454                                         /* interior */
1455                                         interp_v3_v3v3v3v3(co11, co1, co2, co4, co3, winterior);
1456                                         interp_v3_v3v3v3v3(co21, co2, co1, co3, co4, winterior);
1457                                         interp_v3_v3v3v3v3(co31, co3, co2, co4, co1, winterior);
1458                                         interp_v3_v3v3v3v3(co41, co4, co1, co3, co2, winterior);
1459                                 }
1460                                 j1 = 2 * j;
1461                                 k1 = 2 * k;
1462                                 if (is_canon(vm1, i, j1, k1))
1463                                         copy_v3_v3(mesh_vert(vm1, i, j1, k1)->co, co11);
1464                                 if (is_canon(vm1, i, j1, k1 + 1))
1465                                         copy_v3_v3(mesh_vert(vm1, i, j1, k1 + 1)->co, co21);
1466                                 if (is_canon(vm1, i, j1 + 1, k1 + 1))
1467                                         copy_v3_v3(mesh_vert(vm1, i, j1 + 1, k1 + 1)->co, co31);
1468                                 if (is_canon(vm1, i, j1 + 1, k1))
1469                                         copy_v3_v3(mesh_vert(vm1, i, j1 + 1, k1)->co, co41);
1470                         }
1471                 }
1472
1473                 /* center ngon */
1474                 denom = 8.0f * (float) n;
1475                 zero_v3(co);
1476                 for (j = 0; j < n; j++) {
1477                         copy_v3_v3(co1, mesh_vert(vm0, j, ns20, ns20)->co);
1478                         if (i == j)
1479                                 madd_v3_v3fl(co, co1, (4.0f * (float) n + 2.0f) / denom);
1480                         else if ((i + 1) % n == j || (i + n - 1) % n == j)
1481                                 madd_v3_v3fl(co, co1, ((float) n + 2.0f) / denom);
1482                         else
1483                                 madd_v3_v3fl(co, co1, 2.0f / denom);
1484                 }
1485                 copy_v3_v3(mesh_vert(vm1, i, 2 * ns20, 2 * ns20)->co, co);
1486         }
1487
1488         vmesh_copy_equiv_verts(vm1);
1489         return vm1;
1490 }
1491
1492 /* After a step of quadratic_subdiv, adjust the ring 1 verts to be on the planes of their respective faces,
1493  * so that the cross-tangents will match on further subdivision. */
1494 static void fix_vmesh_tangents(VMesh *vm, BevVert *bv)
1495 {
1496         int i, n;
1497         NewVert *v;
1498         BoundVert *bndv;
1499         float co[3];
1500
1501         n = vm->count;
1502         bndv = vm->boundstart;
1503         do {
1504                 i = bndv->index;
1505
1506                 /* (i, 1, 1) snap to edge line */
1507                 v = mesh_vert(vm, i, 1, 1);
1508                 closest_to_line_v3(co, v->co, bndv->nv.co, bv->v->co);
1509                 copy_v3_v3(v->co, co);
1510                 copy_v3_v3(mesh_vert(vm, (i + n -1) % n, 1, vm->seg - 1)->co, co);
1511
1512                 /* Also want (i, 1, k) snapped to plane of adjacent face for
1513                  * 1 < k < ns - 1, but current initial cage and subdiv rules
1514                  * ensure this, so nothing to do */
1515         } while ((bndv = bndv->next) != vm->boundstart);
1516 }
1517
1518 /* Fill frac with fractions of way along ring 0 for vertex i, for use with interp_range function */
1519 static void fill_vmesh_fracs(VMesh *vm, float *frac, int i)
1520 {
1521         int k, ns;
1522         float total = 0.0f;
1523
1524         ns = vm->seg;
1525         frac[0] = 0.0f;
1526         for (k = 0; k < ns; k++) {
1527                 total += len_v3v3(mesh_vert(vm, i, 0, k)->co, mesh_vert(vm, i, 0, k + 1)->co);
1528                 frac[k + 1] = total;
1529         }
1530         if (total > BEVEL_EPSILON) {
1531                 for (k = 1; k <= ns; k++)
1532                         frac[k] /= total;
1533         }
1534 }
1535
1536 /* Return i such that frac[i] <= f <= frac[i + 1], where frac[n] == 1.0
1537  * and put fraction of rest of way between frac[i] and frac[i + 1] into r_rest */
1538 static int interp_range(const float *frac, int n, const float f, float *r_rest)
1539 {
1540         int i;
1541         float rest;
1542
1543         /* could binary search in frac, but expect n to be reasonably small */
1544         for (i = 0; i < n; i++) {
1545                 if (f <= frac[i + 1]) {
1546                         rest = f - frac[i];
1547                         if (rest == 0)
1548                                 *r_rest = 0.0f;
1549                         else
1550                                 *r_rest = rest / (frac[i + 1] - frac[i]);
1551                         return i;
1552                 }
1553         }
1554         *r_rest = 0.0f;
1555         return n;
1556 }
1557
1558 /* Interpolate given vmesh to make one with target nseg and evenly spaced border vertices */
1559 static VMesh *interp_vmesh(MemArena *mem_arena, VMesh *vm0, int nseg)
1560 {
1561         int n, ns0, nseg2, odd, i, j, k, j0, k0;
1562         float *prev_frac, *frac, f, restj, restk;
1563         float quad[4][3], co[3], center[3];
1564         VMesh *vm1;
1565
1566         n = vm0->count;
1567         ns0 = vm0->seg;
1568         nseg2 = nseg / 2;
1569         odd = nseg % 2;
1570         vm1 = new_adj_subdiv_vmesh(mem_arena, n, nseg, vm0->boundstart);
1571         prev_frac = (float *)BLI_memarena_alloc(mem_arena, (ns0 + 1 ) *sizeof(float));
1572         frac = (float *)BLI_memarena_alloc(mem_arena, (ns0 + 1 ) *sizeof(float));
1573
1574         fill_vmesh_fracs(vm0, prev_frac, n - 1);
1575         fill_vmesh_fracs(vm0, frac, 0);
1576         for (i = 0; i < n; i++) {
1577                 for (j = 0; j <= nseg2 -1 + odd; j++) {
1578                         for (k = 0; k <= nseg2; k++) {
1579                                 f = (float) k / (float) nseg;
1580                                 k0 = interp_range(frac, ns0, f, &restk);
1581                                 f = 1.0f - (float) j / (float) nseg;
1582                                 j0 = interp_range(prev_frac, ns0, f, &restj);
1583                                 if (restj < BEVEL_EPSILON) {
1584                                         j0 = ns0 - j0;
1585                                         restj = 0.0f;
1586                                 }
1587                                 else {
1588                                         j0 = ns0 - j0 - 1;
1589                                         restj = 1.0f - restj;
1590                                 }
1591                                 /* Use bilinear interpolation within the source quad; could be smarter here */
1592                                 if (restj < BEVEL_EPSILON && restk < BEVEL_EPSILON) {
1593                                         copy_v3_v3(co, mesh_vert_canon(vm0, i, j0, k0)->co);
1594                                 }
1595                                 else {
1596                                         copy_v3_v3(quad[0], mesh_vert_canon(vm0, i, j0, k0)->co);
1597                                         copy_v3_v3(quad[1], mesh_vert_canon(vm0, i, j0, k0 + 1)->co);
1598                                         copy_v3_v3(quad[2], mesh_vert_canon(vm0, i, j0 + 1, k0 + 1)->co);
1599                                         copy_v3_v3(quad[3], mesh_vert_canon(vm0, i, j0 + 1, k0)->co);
1600                                         interp_bilinear_quad_v3(quad, restk, restj, co);
1601                                 }
1602                                 copy_v3_v3(mesh_vert(vm1, i, j, k)->co, co);
1603                         }
1604                 }
1605         }
1606         if (!odd) {
1607                 vmesh_center(vm0, center);
1608                 copy_v3_v3(mesh_vert(vm1, 0, nseg2, nseg2)->co, center);
1609         }
1610         vmesh_copy_equiv_verts(vm1);
1611         return vm1;
1612 }
1613
1614 /*
1615  * Given that the boundary is built and the boundary BMVerts have been made,
1616  * calculate the positions of the interior mesh points for the M_ADJ_SUBDIV pattern,
1617  * then make the BMVerts and the new faces. */
1618 static void bevel_build_rings_subdiv(BevelParams *bp, BMesh *bm, BevVert *bv)
1619 {
1620         int n, ns, ns2, odd, i, j, k;
1621         VMesh *vm0, *vm1, *vm;
1622         float coa[3], cob[3], coc[3];
1623         BoundVert *v;
1624         BMVert *bmv1, *bmv2, *bmv3, *bmv4;
1625         BMFace *f, *f2, *f23;
1626         MemArena *mem_arena = bp->mem_arena;
1627         const float fullness = 0.5f;
1628
1629         n = bv->edgecount;
1630         ns = bv->vmesh->seg;
1631         ns2 = ns / 2;
1632         odd = ns % 2;
1633         BLI_assert(n >= 3 && ns > 1);
1634
1635         /* First construct an initial control mesh, with nseg==3 */
1636         vm0 = new_adj_subdiv_vmesh(mem_arena, n, 3, bv->vmesh->boundstart);
1637
1638         for (i = 0; i < n; i++) {
1639                 /* Boundaries just divide input polygon edges into 3 even segments */
1640                 copy_v3_v3(coa, mesh_vert(bv->vmesh, i, 0, 0)->co);
1641                 copy_v3_v3(cob, mesh_vert(bv->vmesh, (i + 1) % n, 0, 0)->co);
1642                 copy_v3_v3(coc, mesh_vert(bv->vmesh, (i + n -1) % n, 0, 0)->co);
1643                 copy_v3_v3(mesh_vert(vm0, i, 0, 0)->co, coa);
1644                 interp_v3_v3v3(mesh_vert(vm0, i, 0, 1)->co, coa, cob, 1.0f / 3.0f);
1645                 interp_v3_v3v3(mesh_vert(vm0, i, 1, 0)->co, coa, coc, 1.0f / 3.0f);
1646                 interp_v3_v3v3(mesh_vert(vm0, i, 1, 1)->co, coa, bv->v->co, fullness);
1647         }
1648         vmesh_copy_equiv_verts(vm0);
1649
1650         vm1 = vm0;
1651         do {
1652                 vm1 = quadratic_subdiv(mem_arena, vm1);
1653                 fix_vmesh_tangents(vm1, bv);
1654         } while (vm1->seg <= ns);
1655         vm1 = interp_vmesh(mem_arena, vm1, ns);
1656
1657         /* copy final vmesh into bv->vmesh, make BMVerts and BMFaces */
1658         vm = bv->vmesh;
1659         for (i = 0; i < n; i ++) {
1660                 for (j = 0; j <= ns2; j++) {
1661                         for (k = 0; k <= ns; k++) {
1662                                 if (j == 0 && (k == 0 || k == ns))
1663                                         continue;  /* boundary corners already made */
1664                                 if (!is_canon(vm, i, j, k))
1665                                         continue;
1666                                 copy_v3_v3(mesh_vert(vm, i, j, k)->co, mesh_vert(vm1, i, j, k)->co);
1667                                 create_mesh_bmvert(bm, vm, i, j, k, bv->v);
1668                         }
1669                 }
1670         }
1671         vmesh_copy_equiv_verts(vm);
1672         /* make the polygons */
1673         v = vm->boundstart;
1674         do {
1675                 i = v->index;
1676                 f = boundvert_rep_face(v);
1677                 f2 = boundvert_rep_face(v->next);
1678                 /* For odd ns, make polys with lower left corner at (i,j,k) for
1679                  *    j in [0, ns2-1], k in [0, ns2].  And then the center ngon.
1680                  * For even ns,
1681                  *    j in [0, ns2-1], k in [0, ns2-1] */
1682                 for (j = 0; j < ns2; j++) {
1683                         for (k = 0; k < ns2 + odd; k++) {
1684                                 bmv1 = mesh_vert(vm, i, j, k)->v;
1685                                 bmv2 = mesh_vert(vm, i, j, k + 1)->v;
1686                                 bmv3 = mesh_vert(vm, i, j + 1, k + 1)->v;
1687                                 bmv4 = mesh_vert(vm, i, j + 1, k)->v;
1688                                 BLI_assert(bmv1 && bmv2 && bmv3 && bmv4);
1689                                 f23 = f;
1690                                 if (odd && k == ns2 && f2 && !v->any_seam)
1691                                         f23 = f2;
1692                                 bev_create_quad_tri_ex(bm, bmv1, bmv2, bmv3, bmv4,
1693                                                        f, f23, f23, f);
1694                         }
1695                 }
1696         } while ((v = v->next) != vm->boundstart);
1697
1698         /* center ngon */
1699         if (odd) {
1700                 BMVert **vv = NULL;
1701                 BMFace **vf = NULL;
1702                 BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
1703                 BLI_array_staticdeclare(vf, BM_DEFAULT_NGON_STACK_SIZE);
1704
1705                 v = vm->boundstart;
1706                 do {
1707                         i = v->index;
1708                         BLI_array_append(vv, mesh_vert(vm, i, ns2, ns2)->v);
1709                         BLI_array_append(vf, v->any_seam ? f : boundvert_rep_face(v));
1710                 } while ((v = v->next) != vm->boundstart);
1711                 f = boundvert_rep_face(vm->boundstart);
1712                 bev_create_ngon(bm, vv, BLI_array_count(vv), vf, f, true);
1713
1714                 BLI_array_free(vv);
1715         }
1716 }
1717
1718 static BMFace *bevel_build_poly(BMesh *bm, BevVert *bv)
1719 {
1720         BMFace *f;
1721         int n, k;
1722         VMesh *vm = bv->vmesh;
1723         BoundVert *v;
1724         BMFace *frep;
1725         BMVert **vv = NULL;
1726         BMFace **vf = NULL;
1727         BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
1728         BLI_array_staticdeclare(vf, BM_DEFAULT_NGON_STACK_SIZE);
1729
1730         frep = boundvert_rep_face(vm->boundstart);
1731         v = vm->boundstart;
1732         n = 0;
1733         do {
1734                 /* accumulate vertices for vertex ngon */
1735                 /* also accumulate faces in which uv interpolation is to happen for each */
1736                 BLI_array_append(vv, v->nv.v);
1737                 BLI_array_append(vf, bv->any_seam ? frep : boundvert_rep_face(v));
1738                 n++;
1739                 if (v->ebev && v->ebev->seg > 1) {
1740                         for (k = 1; k < v->ebev->seg; k++) {
1741                                 BLI_array_append(vv, mesh_vert(vm, v->index, 0, k)->v);
1742                                 BLI_array_append(vf, bv->any_seam ? frep : boundvert_rep_face(v));
1743                                 n++;
1744                         }
1745                 }
1746         } while ((v = v->next) != vm->boundstart);
1747         if (n > 2) {
1748                 f = bev_create_ngon(bm, vv, n, vf, boundvert_rep_face(v), true);
1749         }
1750         else {
1751                 f = NULL;
1752         }
1753         BLI_array_free(vv);
1754         return f;
1755 }
1756
1757 static void bevel_build_trifan(BMesh *bm, BevVert *bv)
1758 {
1759         BMFace *f;
1760         BLI_assert(next_bev(bv, NULL)->seg == 1 || bv->selcount == 1);
1761
1762         f = bevel_build_poly(bm, bv);
1763
1764         if (f) {
1765                 /* we have a polygon which we know starts at the previous vertex, make it into a fan */
1766                 BMLoop *l_fan = BM_FACE_FIRST_LOOP(f)->prev;
1767                 BMVert *v_fan = l_fan->v;
1768
1769                 while (f->len > 3) {
1770                         BMLoop *l_new;
1771                         BMFace *f_new;
1772                         BLI_assert(v_fan == l_fan->v);
1773                         f_new = BM_face_split(bm, f, l_fan->v, l_fan->next->next->v, &l_new, NULL, FALSE);
1774
1775                         if (f_new->len > f->len) {
1776                                 f = f_new;
1777                                 if      (l_new->v       == v_fan) { l_fan = l_new; }
1778                                 else if (l_new->next->v == v_fan) { l_fan = l_new->next; }
1779                                 else if (l_new->prev->v == v_fan) { l_fan = l_new->prev; }
1780                                 else { BLI_assert(0); }
1781                         }
1782                         else {
1783                                 if      (l_fan->v       == v_fan) { /* l_fan = l_fan; */ }
1784                                 else if (l_fan->next->v == v_fan) { l_fan = l_fan->next; }
1785                                 else if (l_fan->prev->v == v_fan) { l_fan = l_fan->prev; }
1786                                 else { BLI_assert(0); }
1787                         }
1788                 }
1789         }
1790 }
1791
1792 static void bevel_build_quadstrip(BMesh *bm, BevVert *bv)
1793 {
1794         BMFace *f;
1795         BLI_assert(bv->selcount == 2);
1796
1797         f = bevel_build_poly(bm, bv);
1798
1799         if (f) {
1800                 /* we have a polygon which we know starts at this vertex, make it into strips */
1801                 EdgeHalf *eh_a = bv->vmesh->boundstart->elast;
1802                 EdgeHalf *eh_b = next_bev(bv, eh_a->next);  /* since (selcount == 2) we know this is valid */
1803                 BMLoop *l_a = BM_face_vert_share_loop(f, eh_a->rightv->nv.v);
1804                 BMLoop *l_b = BM_face_vert_share_loop(f, eh_b->leftv->nv.v);
1805                 int split_count = bv->vmesh->seg + 1;  /* ensure we don't walk past the segments */
1806
1807                 while (f->len > 4 && split_count > 0) {
1808                         BMLoop *l_new;
1809                         BLI_assert(l_a->f == f);
1810                         BLI_assert(l_b->f == f);
1811
1812                         if (l_a-> v == l_b->v || l_a->next == l_b) {
1813                                 /* l_a->v and l_b->v can be the same or such that we'd make a 2-vertex poly */
1814                                 l_a = l_a->prev;
1815                                 l_b = l_b->next;
1816                         }
1817                         else {
1818                                 BM_face_split(bm, f, l_a->v, l_b->v, &l_new, NULL, FALSE);
1819                                 f = l_new->f;
1820
1821                                 /* walk around the new face to get the next verts to split */
1822                                 l_a = l_new->prev;
1823                                 l_b = l_new->next->next;
1824                         }
1825                         split_count--;
1826                 }
1827         }
1828 }
1829
1830 /* Given that the boundary is built, now make the actual BMVerts
1831  * for the boundary and the interior of the vertex mesh. */
1832 static void build_vmesh(BevelParams *bp, BMesh *bm, BevVert *bv)
1833 {
1834         MemArena *mem_arena = bp->mem_arena;
1835         VMesh *vm = bv->vmesh;
1836         BoundVert *v, *weld1, *weld2;
1837         int n, ns, ns2, i, k, weld;
1838         float *va, *vb, co[3];
1839         float midco[3];
1840
1841         n = vm->count;
1842         ns = vm->seg;
1843         ns2 = ns / 2;
1844
1845         vm->mesh = (NewVert *)BLI_memarena_alloc(mem_arena, n * (ns2 + 1) * (ns + 1) * sizeof(NewVert));
1846
1847         /* special case: two beveled ends welded together */
1848         weld = (bv->selcount == 2) && (vm->count == 2);
1849         weld1 = weld2 = NULL;   /* will hold two BoundVerts involved in weld */
1850
1851         /* make (i, 0, 0) mesh verts for all i */
1852         v = vm->boundstart;
1853         do {
1854                 i = v->index;
1855                 copy_v3_v3(mesh_vert(vm, i, 0, 0)->co, v->nv.co);
1856                 create_mesh_bmvert(bm, vm, i, 0, 0, bv->v);
1857                 v->nv.v = mesh_vert(vm, i, 0, 0)->v;
1858                 if (weld && v->ebev) {
1859                         if (!weld1)
1860                                 weld1 = v;
1861                         else
1862                                 weld2 = v;
1863                 }
1864         } while ((v = v->next) != vm->boundstart);
1865
1866         /* copy other ends to (i, 0, ns) for all i, and fill in profiles for beveled edges */
1867         v = vm->boundstart;
1868         do {
1869                 i = v->index;
1870                 copy_mesh_vert(vm, i, 0, ns, v->next->index, 0, 0);
1871                 if (v->ebev) {
1872                         va = mesh_vert(vm, i, 0, 0)->co;
1873                         vb = mesh_vert(vm, i, 0, ns)->co;
1874                         if (bv->edgecount == 3 && bv->selcount == 1) {
1875                                 /* special case: profile cuts the third face, so line it up with that */
1876                                 copy_v3_v3(midco, bv->v->co);
1877                         }
1878                         else {
1879                                 project_to_edge(v->ebev->e, va, vb, midco);
1880                         }
1881                         for (k = 1; k < ns; k++) {
1882                                 get_point_on_round_edge(v->ebev, k, va, midco, vb, co);
1883                                 copy_v3_v3(mesh_vert(vm, i, 0, k)->co, co);
1884                                 if (!weld)
1885                                         create_mesh_bmvert(bm, vm, i, 0, k, bv->v);
1886                         }
1887                 }
1888         } while ((v = v->next) != vm->boundstart);
1889
1890         if (weld) {
1891                 vm->mesh_kind = M_NONE;
1892                 for (k = 1; k < ns; k++) {
1893                         va = mesh_vert(vm, weld1->index, 0, k)->co;
1894                         vb = mesh_vert(vm, weld2->index, 0, ns - k)->co;
1895                         mid_v3_v3v3(co, va, vb);
1896                         copy_v3_v3(mesh_vert(vm, weld1->index, 0, k)->co, co);
1897                         create_mesh_bmvert(bm, vm, weld1->index, 0, k, bv->v);
1898                 }
1899                 for (k = 1; k < ns; k++)
1900                         copy_mesh_vert(vm, weld2->index, 0, ns - k, weld1->index, 0, k);
1901         }
1902
1903         switch (vm->mesh_kind) {
1904                 case M_NONE:
1905                         /* do nothing */
1906                         break;
1907                 case M_POLY:
1908                         bevel_build_poly(bm, bv);
1909                         break;
1910                 case M_ADJ:
1911                         bevel_build_rings(bm, bv);
1912                         break;
1913                 case M_ADJ_SUBDIV:
1914                         bevel_build_rings_subdiv(bp, bm, bv);
1915                         break;
1916                 case M_TRI_FAN:
1917                         bevel_build_trifan(bm, bv);
1918                         break;
1919                 case M_QUAD_STRIP:
1920                         bevel_build_quadstrip(bm, bv);
1921                         break;
1922         }
1923 }
1924
1925 /* take care, this flag isn't cleared before use, it just so happens that its not set */
1926 #define BM_BEVEL_EDGE_TAG_ENABLE(bme)  BM_ELEM_API_FLAG_ENABLE(  (bme), _FLAG_OVERLAP)
1927 #define BM_BEVEL_EDGE_TAG_DISABLE(bme) BM_ELEM_API_FLAG_DISABLE( (bme), _FLAG_OVERLAP)
1928 #define BM_BEVEL_EDGE_TAG_TEST(bme)    BM_ELEM_API_FLAG_TEST(    (bme), _FLAG_OVERLAP)
1929
1930 /*
1931  * Construction around the vertex
1932  */
1933 static void bevel_vert_construct(BMesh *bm, BevelParams *bp, BMVert *v)
1934 {
1935         BMEdge *bme;
1936         BevVert *bv;
1937         BMEdge *bme2, *unflagged_bme, *first_bme;
1938         BMFace *f;
1939         BMIter iter, iter2;
1940         EdgeHalf *e;
1941         float weight;
1942         int i, found_shared_face, ccw_test_sum;
1943         int nsel = 0;
1944         int ntot = 0;
1945         int fcnt;
1946
1947         /* Gather input selected edges.
1948          * Only bevel selected edges that have exactly two incident faces.
1949          * Want edges to be ordered so that they share faces.
1950          * There may be one or more chains of shared faces broken by
1951          * gaps where there are no faces.
1952          * TODO: make following work when more than one gap.
1953          */
1954
1955         first_bme = NULL;
1956         BM_ITER_ELEM (bme, &iter, v, BM_EDGES_OF_VERT) {
1957                 fcnt = BM_edge_face_count(bme);
1958                 if (BM_elem_flag_test(bme, BM_ELEM_TAG) && !bp->vertex_only) {
1959                         BLI_assert(fcnt == 2);
1960                         nsel++;
1961                         if (!first_bme)
1962                                 first_bme = bme;
1963                 }
1964                 if (fcnt == 1) {
1965                         /* good to start face chain from this edge */
1966                         first_bme = bme;
1967                 }
1968                 ntot++;
1969
1970                 BM_BEVEL_EDGE_TAG_DISABLE(bme);
1971         }
1972         if (!first_bme)
1973                 first_bme = v->e;
1974
1975         if ((nsel == 0 && !bp->vertex_only) || (ntot < 3 && bp->vertex_only)) {
1976                 /* signal this vert isn't being beveled */
1977                 BM_elem_flag_disable(v, BM_ELEM_TAG);
1978                 return;
1979         }
1980
1981         /* avoid calling BM_vert_edge_count since we loop over edges already */
1982         // ntot = BM_vert_edge_count(v);
1983         // BLI_assert(ntot == BM_vert_edge_count(v));
1984
1985         bv = (BevVert *)BLI_memarena_alloc(bp->mem_arena, (sizeof(BevVert)));
1986         bv->v = v;
1987         bv->edgecount = ntot;
1988         bv->selcount = nsel;
1989         bv->offset = bp->offset;
1990         bv->edges = (EdgeHalf *)BLI_memarena_alloc(bp->mem_arena, ntot * sizeof(EdgeHalf));
1991         bv->vmesh = (VMesh *)BLI_memarena_alloc(bp->mem_arena, sizeof(VMesh));
1992         bv->vmesh->seg = bp->seg;
1993         BLI_ghash_insert(bp->vert_hash, v, bv);
1994
1995         if (bp->vertex_only) {
1996                 /* if weighted, modify offset by weight */
1997                 if (bp->dvert != NULL && bp->vertex_group != -1) {
1998                         weight = defvert_find_weight(bp->dvert + BM_elem_index_get(v), bp->vertex_group);
1999                         if (weight <= 0.0f) {
2000                                 BM_elem_flag_disable(v, BM_ELEM_TAG);
2001                                 return;
2002                         }
2003                         bv->offset *= weight;
2004                 }
2005         }
2006
2007         /* add edges to bv->edges in order that keeps adjacent edges sharing
2008          * a face, if possible */
2009         i = 0;
2010
2011         bme = first_bme;
2012         BM_BEVEL_EDGE_TAG_ENABLE(bme);
2013         e = &bv->edges[0];
2014         e->e = bme;
2015         for (i = 0; i < ntot; i++) {
2016                 if (i > 0) {
2017                         /* find an unflagged edge bme2 that shares a face f with previous bme */
2018                         found_shared_face = 0;
2019                         unflagged_bme = NULL;
2020                         BM_ITER_ELEM (bme2, &iter, v, BM_EDGES_OF_VERT) {
2021                                 if (BM_BEVEL_EDGE_TAG_TEST(bme2))
2022                                         continue;
2023                                 if (!unflagged_bme)
2024                                         unflagged_bme = bme2;
2025                                 if (!bme->l)
2026                                         continue;
2027                                 BM_ITER_ELEM (f, &iter2, bme2, BM_FACES_OF_EDGE) {
2028                                         if (BM_face_edge_share_loop(f, bme)) {
2029                                                 found_shared_face = 1;
2030                                                 break;
2031                                         }
2032                                 }
2033                                 if (found_shared_face)
2034                                         break;
2035                         }
2036                         e = &bv->edges[i];
2037                         if (found_shared_face) {
2038                                 e->e = bme2;
2039                                 e->fprev = f;
2040                                 bv->edges[i - 1].fnext = f;
2041                         }
2042                         else {
2043                                 e->e = unflagged_bme;
2044                         }
2045                 }
2046                 bme = e->e;
2047                 BM_BEVEL_EDGE_TAG_ENABLE(bme);
2048                 if (BM_elem_flag_test(bme, BM_ELEM_TAG) && !bp->vertex_only) {
2049                         e->is_bev = TRUE;
2050                         e->seg = bp->seg;
2051                 }
2052                 else {
2053                         e->is_bev = FALSE;
2054                         e->seg = 0;
2055                 }
2056                 e->is_rev = (bme->v2 == v);
2057                 if (e->is_bev) {
2058                         e->offset = bp->offset;
2059                         if (bp->use_weights) {
2060                                 weight = BM_elem_float_data_get(&bm->edata, bme, CD_BWEIGHT);
2061                                 e->offset *= weight;
2062                         }
2063                 }
2064                 else {
2065                         e->offset = 0.0f;
2066                 }
2067         }
2068         /* find wrap-around shared face */
2069         BM_ITER_ELEM (f, &iter2, bme, BM_FACES_OF_EDGE) {
2070                 if (bv->edges[0].e->l && BM_face_edge_share_loop(f, bv->edges[0].e)) {
2071                         if (bv->edges[0].fnext == f)
2072                                 continue;   /* if two shared faces, want the other one now */
2073                         bv->edges[ntot - 1].fnext = f;
2074                         bv->edges[0].fprev = f;
2075                         break;
2076                 }
2077         }
2078
2079         /* if edge array doesn't go CCW around vertex from average normal side,
2080          * reverse the array, being careful to reverse face pointers too */
2081         if (ntot > 1) {
2082                 ccw_test_sum = 0;
2083                 for (i = 0; i < ntot; i++)
2084                         ccw_test_sum += bev_ccw_test(bv->edges[i].e, bv->edges[(i + 1) % ntot].e,
2085                                                      bv->edges[i].fnext);
2086                 if (ccw_test_sum < 0) {
2087                         for (i = 0; i <= (ntot / 2) - 1; i++) {
2088                                 SWAP(EdgeHalf, bv->edges[i], bv->edges[ntot - i - 1]);
2089                                 SWAP(BMFace *, bv->edges[i].fprev, bv->edges[i].fnext);
2090                                 SWAP(BMFace *, bv->edges[ntot - i - 1].fprev, bv->edges[ntot - i - 1].fnext);
2091                         }
2092                         if (ntot % 2 == 1) {
2093                                 i = ntot / 2;
2094                                 SWAP(BMFace *, bv->edges[i].fprev,  bv->edges[i].fnext);
2095                         }
2096                 }
2097         }
2098
2099         for (i = 0, e = bv->edges; i < ntot; i++, e++) {
2100                 e->next = &bv->edges[(i + 1) % ntot];
2101                 e->prev = &bv->edges[(i + ntot - 1) % ntot];
2102                 BM_BEVEL_EDGE_TAG_DISABLE(e->e);
2103                 if (e->fprev && e->fnext)
2104                         e->is_seam = !contig_ldata_across_edge(bm, e->e, e->fprev, e->fnext);
2105                 else
2106                         e->is_seam = true;
2107         }
2108
2109         build_boundary(bp, bv);
2110         build_vmesh(bp, bm, bv);
2111 }
2112
2113 /* Face f has at least one beveled vertex.  Rebuild f */
2114 static int bev_rebuild_polygon(BMesh *bm, BevelParams *bp, BMFace *f)
2115 {
2116         BMIter liter;
2117         BMLoop *l, *lprev;
2118         BevVert *bv;
2119         BoundVert *v, *vstart, *vend;
2120         EdgeHalf *e, *eprev;
2121         VMesh *vm;
2122         int i, k;
2123         int do_rebuild = FALSE;
2124         BMVert *bmv;
2125         BMVert **vv = NULL;
2126         BMVert **vv_fix = NULL;
2127         BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
2128         BLI_array_staticdeclare(vv_fix, BM_DEFAULT_NGON_STACK_SIZE);
2129
2130         BM_ITER_ELEM (l, &liter, f, BM_LOOPS_OF_FACE) {
2131                 if (BM_elem_flag_test(l->v, BM_ELEM_TAG)) {
2132                         lprev = l->prev;
2133                         bv = find_bevvert(bp, l->v);
2134                         e = find_edge_half(bv, l->e);
2135                         eprev = find_edge_half(bv, lprev->e);
2136                         BLI_assert(e != NULL && eprev != NULL);
2137                         vstart = eprev->leftv;
2138                         if (e->is_bev)
2139                                 vend = e->rightv;
2140                         else
2141                                 vend = e->leftv;
2142                         v = vstart;
2143                         vm = bv->vmesh;
2144                         BLI_array_append(vv, v->nv.v);
2145                         while (v != vend) {
2146                                 if (vm->mesh_kind == M_NONE && v->ebev && v->ebev->seg > 1 && v->ebev != e && v->ebev != eprev) {
2147                                         /* case of 3rd face opposite a beveled edge, with no vmesh */
2148                                         i = v->index;
2149                                         e = v->ebev;
2150                                         for (k = 1; k < e->seg; k++) {
2151                                                 bmv = mesh_vert(vm, i, 0, k)->v;
2152                                                 BLI_array_append(vv, bmv);
2153                                                 /* may want to merge UVs of these later */
2154                                                 if (!e->is_seam)
2155                                                         BLI_array_append(vv_fix, bmv);
2156                                         }
2157                                 }
2158                                 else if (bp->vertex_only && vm->mesh_kind == M_ADJ_SUBDIV && vm->seg > 1) {
2159                                         BLI_assert(v->prev == vend);
2160                                         i = vend->index;
2161                                         for (k = vm->seg - 1; k > 0; k--) {
2162                                                 bmv = mesh_vert(vm, i, 0, k)->v;
2163                                                 BLI_array_append(vv, bmv);
2164                                         }
2165                                 }
2166                                 v = v->prev;
2167                                 BLI_array_append(vv, v->nv.v);
2168                         }
2169
2170                         do_rebuild = TRUE;
2171                 }
2172                 else {
2173                         BLI_array_append(vv, l->v);
2174                 }
2175         }
2176         if (do_rebuild) {
2177                 BMFace *f_new = bev_create_ngon(bm, vv, BLI_array_count(vv), NULL, f, true);
2178
2179                 for (k = 0; k < BLI_array_count(vv_fix); k++) {
2180                         bev_merge_uvs(bm, vv_fix[k]);
2181                 }
2182
2183                 /* don't select newly created boundary faces... */
2184                 if (f_new) {
2185                         BM_elem_flag_disable(f_new, BM_ELEM_TAG);
2186                 }
2187         }
2188
2189         BLI_array_free(vv);
2190         return do_rebuild;
2191 }
2192
2193 /* All polygons touching v need rebuilding because beveling v has made new vertices */
2194 static void bevel_rebuild_existing_polygons(BMesh *bm, BevelParams *bp, BMVert *v)
2195 {
2196         void    *faces_stack[BM_DEFAULT_ITER_STACK_SIZE];
2197         int      faces_len, f_index;
2198         BMFace **faces = BM_iter_as_arrayN(bm, BM_FACES_OF_VERT, v, &faces_len,
2199                                            faces_stack, BM_DEFAULT_ITER_STACK_SIZE);
2200
2201         if (LIKELY(faces != NULL)) {
2202                 for (f_index = 0; f_index < faces_len; f_index++) {
2203                         BMFace *f = faces[f_index];
2204                         if (bev_rebuild_polygon(bm, bp, f)) {
2205                                 BM_face_kill(bm, f);
2206                         }
2207                 }
2208
2209                 if (faces != (BMFace **)faces_stack) {
2210                         MEM_freeN(faces);
2211                 }
2212         }
2213 }
2214
2215 static void bev_merge_end_uvs(BMesh *bm, BevVert *bv, EdgeHalf *e)
2216 {
2217         VMesh *vm = bv->vmesh;
2218         int i, k, nseg;
2219
2220         nseg = e->seg;
2221         i = e->leftv->index;
2222         for (k = 1; k < nseg; k++) {
2223                 bev_merge_uvs(bm, mesh_vert(vm, i, 0, k)->v);
2224         }
2225 }
2226
2227 /*
2228  * Build the polygons along the selected Edge
2229  */
2230 static void bevel_build_edge_polygons(BMesh *bm, BevelParams *bp, BMEdge *bme)
2231 {
2232         BevVert *bv1, *bv2;
2233         BMVert *bmv1, *bmv2, *bmv3, *bmv4, *bmv1i, *bmv2i, *bmv3i, *bmv4i;
2234         VMesh *vm1, *vm2;
2235         EdgeHalf *e1, *e2;
2236         BMEdge *bme1, *bme2;
2237         BMFace *f1, *f2, *f;
2238         int k, nseg, i1, i2, odd, mid;
2239
2240         if (!BM_edge_is_manifold(bme))
2241                 return;
2242
2243         bv1 = find_bevvert(bp, bme->v1);
2244         bv2 = find_bevvert(bp, bme->v2);
2245
2246         BLI_assert(bv1 && bv2);
2247
2248         e1 = find_edge_half(bv1, bme);
2249         e2 = find_edge_half(bv2, bme);
2250
2251         BLI_assert(e1 && e2);
2252
2253         /*   v4             v3
2254          *    \            /
2255          *     e->v1 - e->v2
2256          *    /            \
2257          *   v1             v2
2258          */
2259         nseg = e1->seg;
2260         BLI_assert(nseg > 0 && nseg == e2->seg);
2261
2262         bmv1 = e1->leftv->nv.v;
2263         bmv4 = e1->rightv->nv.v;
2264         bmv2 = e2->rightv->nv.v;
2265         bmv3 = e2->leftv->nv.v;
2266
2267         BLI_assert(bmv1 && bmv2 && bmv3 && bmv4);
2268
2269         f1 = e1->fprev;
2270         f2 = e1->fnext;
2271
2272         if (nseg == 1) {
2273                 bev_create_quad_straddle(bm, bmv1, bmv2, bmv3, bmv4, f1, f2, e1->is_seam);
2274         }
2275         else {
2276                 i1 = e1->leftv->index;
2277                 i2 = e2->leftv->index;
2278                 vm1 = bv1->vmesh;
2279                 vm2 = bv2->vmesh;
2280                 bmv1i = bmv1;
2281                 bmv2i = bmv2;
2282                 odd = nseg % 2;
2283                 mid = nseg / 2;
2284                 for (k = 1; k <= nseg; k++) {
2285                         bmv4i = mesh_vert(vm1, i1, 0, k)->v;
2286                         bmv3i = mesh_vert(vm2, i2, 0, nseg - k)->v;
2287                         if (odd && k == mid + 1) {
2288                                 bev_create_quad_straddle(bm, bmv1i, bmv2i, bmv3i, bmv4i, f1, f2, e1->is_seam);
2289                         }
2290                         else {
2291                                 f = (k <= mid) ? f1 : f2;
2292                                 bev_create_quad_tri(bm, bmv1i, bmv2i, bmv3i, bmv4i, f, true);
2293                         }
2294                         bmv1i = bmv4i;
2295                         bmv2i = bmv3i;
2296                 }
2297                 if (!odd && !e1->is_seam) {
2298                         bev_merge_uvs(bm, mesh_vert(vm1, i1, 0, mid)->v);
2299                         bev_merge_uvs(bm, mesh_vert(vm2, i2, 0, mid)->v);
2300                 }
2301         }
2302
2303         /* Fix UVs along end edge joints.  A nop unless other side built already. */
2304         if (!e1->is_seam && bv1->vmesh->mesh_kind == M_NONE)
2305                 bev_merge_end_uvs(bm, bv1, e1);
2306         if (!e2->is_seam && bv2->vmesh->mesh_kind == M_NONE)
2307                 bev_merge_end_uvs(bm, bv2, e2);
2308
2309         /* Copy edge data to first and last edge */
2310         bme1 = BM_edge_exists(bmv1, bmv2);
2311         bme2 = BM_edge_exists(bmv3, bmv4);
2312         BLI_assert(bme1 && bme2);
2313         BM_elem_attrs_copy(bm, bm, bme, bme1);
2314         BM_elem_attrs_copy(bm, bm, bme, bme2);
2315 }
2316
2317 /*
2318  * Calculate and return an offset that is the lesser of the current
2319  * bp.offset and the maximum possible offset before geometry
2320  * collisions happen.
2321  * Currently this is a quick and dirty estimate of the max
2322  * possible: half the minimum edge length of any vertex involved
2323  * in a bevel. This is usually conservative.
2324  * The correct calculation is quite complicated.
2325  * TODO: implement this correctly.
2326  */
2327 static float bevel_limit_offset(BMesh *bm, BevelParams *bp)
2328 {
2329         BMVert *v;
2330         BMEdge *e;
2331         BMIter v_iter, e_iter;
2332         float limited_offset, half_elen;
2333         bool vbeveled;
2334
2335         limited_offset = bp->offset;
2336         BM_ITER_MESH(v, &v_iter, bm, BM_VERTS_OF_MESH) {
2337                 if (BM_elem_flag_test(v, BM_ELEM_TAG)) {
2338                         if (bp->vertex_only) {
2339                                 vbeveled = true;
2340                         }
2341                         else {
2342                                 vbeveled = false;
2343                                 BM_ITER_ELEM(e, &e_iter, v, BM_EDGES_OF_VERT) {
2344                                         if (BM_elem_flag_test(BM_edge_other_vert(e, v), BM_ELEM_TAG)) {
2345                                                 vbeveled = true;
2346                                                 break;
2347                                         }
2348                                 }
2349                         }
2350                         if (vbeveled) {
2351                                 BM_ITER_ELEM(e, &e_iter, v, BM_EDGES_OF_VERT) {
2352                                         half_elen = 0.5f * BM_edge_calc_length(e);
2353                                         if (half_elen < limited_offset)
2354                                                 limited_offset = half_elen;
2355                                 }
2356                         }
2357                 }
2358         }
2359         return limited_offset;
2360 }
2361
2362 /**
2363  * - Currently only bevels BM_ELEM_TAG'd verts and edges.
2364  *
2365  * - Newly created faces are BM_ELEM_TAG'd too,
2366  *   the caller needs to ensure this is cleared before calling
2367  *   if its going to use this face tag.
2368  *
2369  * - If limit_offset is set, adjusts offset down if necessary
2370  *   to avoid geometry collisions.
2371  *
2372  * \warning all tagged edges _must_ be manifold.
2373  */
2374 void BM_mesh_bevel(BMesh *bm, const float offset, const float segments,
2375                    const bool vertex_only, const bool use_weights, const bool limit_offset,
2376                    const struct MDeformVert *dvert, const int vertex_group)
2377 {
2378         BMIter iter;
2379         BMVert *v;
2380         BMEdge *e;
2381         BevelParams bp = {NULL};
2382
2383         bp.offset = offset;
2384         bp.seg    = segments;
2385         bp.vertex_only = vertex_only;
2386         bp.use_weights = use_weights;
2387         bp.dvert = dvert;
2388         bp.vertex_group = vertex_group;
2389
2390         if (bp.offset > 0) {
2391                 /* primary alloc */
2392                 bp.vert_hash = BLI_ghash_ptr_new(__func__);
2393                 bp.mem_arena = BLI_memarena_new((1 << 16), __func__);
2394                 BLI_memarena_use_calloc(bp.mem_arena);
2395
2396                 if (limit_offset)
2397                         bp.offset = bevel_limit_offset(bm, &bp);
2398
2399                 /* Analyze input vertices and build vertex meshes */
2400                 BM_ITER_MESH (v, &iter, bm, BM_VERTS_OF_MESH) {
2401                         if (BM_elem_flag_test(v, BM_ELEM_TAG)) {
2402                                 bevel_vert_construct(bm, &bp, v);
2403                         }
2404                 }
2405
2406                 /* Build polygons for edges */
2407                 if (!bp.vertex_only) {
2408                         BM_ITER_MESH (e, &iter, bm, BM_EDGES_OF_MESH) {
2409                                 if (BM_elem_flag_test(e, BM_ELEM_TAG)) {
2410                                         bevel_build_edge_polygons(bm, &bp, e);
2411                                 }
2412                         }
2413                 }
2414
2415                 /* Rebuild face polygons around affected vertices */
2416                 BM_ITER_MESH (v, &iter, bm, BM_VERTS_OF_MESH) {
2417                         if (BM_elem_flag_test(v, BM_ELEM_TAG)) {
2418                                 bevel_rebuild_existing_polygons(bm, &bp, v);
2419                         }
2420                 }
2421
2422                 BM_ITER_MESH (v, &iter, bm, BM_VERTS_OF_MESH) {
2423                         if (BM_elem_flag_test(v, BM_ELEM_TAG)) {
2424                                 BLI_assert(find_bevvert(&bp, v) != NULL);
2425                                 BM_vert_kill(bm, v);
2426                         }
2427                 }
2428
2429                 /* primary free */
2430                 BLI_ghash_free(bp.vert_hash, NULL, NULL);
2431                 BLI_memarena_free(bp.mem_arena);
2432         }
2433 }