Correct some errors in auto-cleanup
[blender-staging.git] / source / blender / bmesh / tools / bmesh_bevel.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s):
19  *         Joseph Eagar,
20  *         Aleksandr Mokhov,
21  *         Howard Trickey,
22  *         Campbell Barton
23  *
24  * ***** END GPL LICENSE BLOCK *****
25  */
26
27 /** \file blender/bmesh/tools/bmesh_bevel.c
28  *  \ingroup bmesh
29  *
30  * Main functions for beveling a BMesh (used by the tool and modifier)
31  */
32
33 #include "MEM_guardedalloc.h"
34
35 #include "DNA_object_types.h"
36 #include "DNA_meshdata_types.h"
37
38 #include "BLI_array.h"
39 #include "BLI_alloca.h"
40 #include "BLI_gsqueue.h"
41 #include "BLI_math.h"
42 #include "BLI_memarena.h"
43
44 #include "BKE_customdata.h"
45 #include "BKE_deform.h"
46
47 #include "bmesh.h"
48 #include "bmesh_bevel.h"  /* own include */
49
50 #include "./intern/bmesh_private.h"
51
52 #define BEVEL_EPSILON_D  1e-6
53 #define BEVEL_EPSILON    1e-6f
54 #define BEVEL_EPSILON_SQ 1e-12f
55
56 /* happens far too often, uncomment for development */
57 // #define BEVEL_ASSERT_PROJECT
58
59 /* for testing */
60 // #pragma GCC diagnostic error "-Wpadded"
61
62 /* Constructed vertex, sometimes later instantiated as BMVert */
63 typedef struct NewVert {
64         BMVert *v;
65         float co[3];
66 //      int _pad;
67 } NewVert;
68
69 struct BoundVert;
70
71 /* Data for one end of an edge involved in a bevel */
72 typedef struct EdgeHalf {
73         struct EdgeHalf *next, *prev;   /* in CCW order */
74         BMEdge *e;                  /* original mesh edge */
75         BMFace *fprev;              /* face between this edge and previous, if any */
76         BMFace *fnext;              /* face between this edge and next, if any */
77         struct BoundVert *leftv;    /* left boundary vert (looking along edge to end) */
78         struct BoundVert *rightv;   /* right boundary vert, if beveled */
79         int   seg;                  /* how many segments for the bevel */
80         float offset_l;             /* offset for this edge, on left side */
81         float offset_r;             /* offset for this edge, on right side */
82         float offset_l_spec;        /* user specification for offset_l */
83         float offset_r_spec;        /* user specification for offset_r */
84         bool is_bev;                /* is this edge beveled? */
85         bool is_rev;                /* is e->v2 the vertex at this end? */
86         bool is_seam;               /* is e a seam for custom loopdata (e.g., UVs)? */
87 //      int _pad;
88 } EdgeHalf;
89
90 /* Profile specification.
91  * Many interesting profiles are in family of superellipses:
92  *     (abs(x/a))^r + abs(y/b))^r = 1
93  * r==2 => ellipse; r==1 => line; r < 1 => concave; r > 1 => bulging out.
94  * Special cases: let r==0 mean straight-inward, and r==4 mean straight outward.
95  * The profile is an arc with control points coa, midco,
96  * projected onto a plane (plane_no is normal, plane_co is a point on it)
97  * via lines in a given direction (proj_dir).
98  * After the parameters are all set, the actual profile points are calculated
99  * and point in prof_co. We also may need profile points for a higher resolution
100  * number of segments, in order to make the vertex mesh pattern, and that goes
101  * in prof_co_2.
102  */
103 typedef struct Profile {
104         float super_r;       /* superellipse r parameter */
105         float coa[3];        /* start control point for profile */
106         float midco[3];      /* mid control point for profile */
107         float cob[3];        /* end control point for profile */
108         float plane_no[3];   /* normal of plane to project to */
109         float plane_co[3];   /* coordinate on plane to project to */
110         float proj_dir[3];   /* direction of projection line */
111         float *prof_co;      /* seg+1 profile coordinates (triples of floats) */
112         float *prof_co_2;    /* like prof_co, but for seg power of 2 >= seg */
113 } Profile;
114 #define PRO_SQUARE_R 4.0f
115 #define PRO_CIRCLE_R 2.0f
116 #define PRO_LINE_R 1.0f
117 #define PRO_SQUARE_IN_R 0.0f
118
119 /* Cache result of expensive calculation of u parameter values to
120  * get even spacing on superellipse for current BevelParams seg
121  * and pro_super_r. */
122 typedef struct ProfileSpacing {
123         float *uvals;       /* seg+1 u values */
124         float *uvals_2;     /* seg_2+1 u values, seg_2 = power of 2 >= seg */
125         int seg_2;          /* the seg_2 value */
126 } ProfileSpacing;
127
128 /* An element in a cyclic boundary of a Vertex Mesh (VMesh) */
129 typedef struct BoundVert {
130         struct BoundVert *next, *prev;  /* in CCW order */
131         NewVert nv;
132         EdgeHalf *efirst;   /* first of edges attached here: in CCW order */
133         EdgeHalf *elast;
134         EdgeHalf *ebev;     /* beveled edge whose left side is attached here, if any */
135         int index;          /* used for vmesh indexing */
136         Profile profile;    /* edge profile between this and next BoundVert */
137         bool any_seam;      /* are any of the edges attached here seams? */
138 //      int _pad;
139 } BoundVert;
140
141 /* Mesh structure replacing a vertex */
142 typedef struct VMesh {
143         NewVert *mesh;           /* allocated array - size and structure depends on kind */
144         BoundVert *boundstart;   /* start of boundary double-linked list */
145         int count;               /* number of vertices in the boundary */
146         int seg;                 /* common # of segments for segmented edges */
147         enum {
148                 M_NONE,         /* no polygon mesh needed */
149                 M_POLY,         /* a simple polygon */
150                 M_ADJ,          /* "adjacent edges" mesh pattern */
151                 M_TRI_FAN,      /* a simple polygon - fan filled */
152                 M_QUAD_STRIP,   /* a simple polygon - cut into parallel strips */
153         } mesh_kind;
154 //      int _pad;
155 } VMesh;
156
157 /* Data for a vertex involved in a bevel */
158 typedef struct BevVert {
159         BMVert *v;          /* original mesh vertex */
160         int edgecount;          /* total number of edges around the vertex */
161         int selcount;           /* number of selected edges around the vertex */
162         float offset;           /* offset for this vertex, if vertex_only bevel */
163         bool any_seam;                  /* any seams on attached edges? */
164         bool visited;           /* used in graph traversal */
165         EdgeHalf *edges;        /* array of size edgecount; CCW order from vertex normal side */
166         VMesh *vmesh;           /* mesh structure for replacing vertex */
167 } BevVert;
168
169 /* Bevel parameters and state */
170 typedef struct BevelParams {
171         /* hash of BevVert for each vertex involved in bevel
172          * GHash: (key=(BMVert *), value=(BevVert *)) */
173         GHash    *vert_hash;
174         MemArena *mem_arena;    /* use for all allocs while bevel runs, if we need to free we can switch to mempool */
175         ProfileSpacing pro_spacing; /* parameter values for evenly spaced profiles */
176
177         float offset;           /* blender units to offset each side of a beveled edge */
178         int offset_type;        /* how offset is measured; enum defined in bmesh_operators.h */
179         int seg;                /* number of segments in beveled edge profile */
180         float pro_super_r;      /* superellipse parameter for edge profile */
181         bool vertex_only;       /* bevel vertices only */
182         bool use_weights;       /* bevel amount affected by weights on edges or verts */
183         bool preserve_widths;   /* should bevel prefer widths over angles, if forced to choose? */
184         bool limit_offset;      /* should offsets be limited by collisions? */
185         const struct MDeformVert *dvert; /* vertex group array, maybe set if vertex_only */
186         int vertex_group;       /* vertex group index, maybe set if vertex_only */
187 } BevelParams;
188
189 // #pragma GCC diagnostic ignored "-Wpadded"
190
191 // #include "bevdebug.c"
192
193 /* Make a new BoundVert of the given kind, insert it at the end of the circular linked
194  * list with entry point bv->boundstart, and return it. */
195 static BoundVert *add_new_bound_vert(MemArena *mem_arena, VMesh *vm, const float co[3])
196 {
197         BoundVert *ans = (BoundVert *)BLI_memarena_alloc(mem_arena, sizeof(BoundVert));
198
199         copy_v3_v3(ans->nv.co, co);
200         if (!vm->boundstart) {
201                 ans->index = 0;
202                 vm->boundstart = ans;
203                 ans->next = ans->prev = ans;
204         }
205         else {
206                 BoundVert *tail = vm->boundstart->prev;
207                 ans->index = tail->index + 1;
208                 ans->prev = tail;
209                 ans->next = vm->boundstart;
210                 tail->next = ans;
211                 vm->boundstart->prev = ans;
212         }
213         ans->profile.super_r = PRO_LINE_R;
214         vm->count++;
215         return ans;
216 }
217
218 BLI_INLINE void adjust_bound_vert(BoundVert *bv, const float co[3])
219 {
220         copy_v3_v3(bv->nv.co, co);
221 }
222
223 /* Mesh verts are indexed (i, j, k) where
224  * i = boundvert index (0 <= i < nv)
225  * j = ring index (0 <= j <= ns2)
226  * k = segment index (0 <= k <= ns)
227  * Not all of these are used, and some will share BMVerts */
228 static NewVert *mesh_vert(VMesh *vm, int i, int j, int k)
229 {
230         int nj = (vm->seg / 2) + 1;
231         int nk = vm->seg + 1;
232
233         return &vm->mesh[i * nk * nj  + j * nk + k];
234 }
235
236 static void create_mesh_bmvert(BMesh *bm, VMesh *vm, int i, int j, int k, BMVert *eg)
237 {
238         NewVert *nv = mesh_vert(vm, i, j, k);
239         nv->v = BM_vert_create(bm, nv->co, eg, BM_CREATE_NOP);
240         BM_elem_flag_disable(nv->v, BM_ELEM_TAG);
241 }
242
243 static void copy_mesh_vert(VMesh *vm, int ito, int jto, int kto,
244                            int ifrom, int jfrom, int kfrom)
245 {
246         NewVert *nvto, *nvfrom;
247
248         nvto = mesh_vert(vm, ito, jto, kto);
249         nvfrom = mesh_vert(vm, ifrom, jfrom, kfrom);
250         nvto->v = nvfrom->v;
251         copy_v3_v3(nvto->co, nvfrom->co);
252 }
253
254 /* find the EdgeHalf in bv's array that has edge bme */
255 static EdgeHalf *find_edge_half(BevVert *bv, BMEdge *bme)
256 {
257         int i;
258
259         for (i = 0; i < bv->edgecount; i++) {
260                 if (bv->edges[i].e == bme)
261                         return &bv->edges[i];
262         }
263         return NULL;
264 }
265
266 /* find the BevVert corresponding to BMVert bmv */
267 static BevVert *find_bevvert(BevelParams *bp, BMVert *bmv)
268 {
269         return BLI_ghash_lookup(bp->vert_hash, bmv);
270 }
271
272 /* Find the EdgeHalf representing the other end of e->e.
273  * Return other end's BevVert in *bvother, if r_bvother is provided.
274  * That may not have been constructed yet, in which case return NULL. */
275 static EdgeHalf *find_other_end_edge_half(BevelParams *bp, EdgeHalf *e, BevVert **r_bvother)
276 {
277         BevVert *bvo;
278         EdgeHalf *eother;
279
280         bvo = find_bevvert(bp, e->is_rev ? e->e->v1 : e->e->v2);
281         if (bvo) {
282                 if (r_bvother)
283                         *r_bvother = bvo;
284                 eother = find_edge_half(bvo, e->e);
285                 BLI_assert(eother != NULL);
286                 return eother;
287         }
288         else if (r_bvother) {
289                 *r_bvother = NULL;
290         }
291         return NULL;
292 }
293
294 static bool other_edge_half_visited(BevelParams *bp, EdgeHalf *e)
295 {
296         BevVert *bvo;
297
298         bvo = find_bevvert(bp, e->is_rev ? e->e->v1 : e->e->v2);
299         if (bvo)
300                 return bvo->visited;
301         else
302                 return false;
303 }
304
305 static bool edge_half_offset_changed(EdgeHalf *e)
306 {
307         return e->offset_l != e->offset_l_spec ||
308                e->offset_r != e->offset_r_spec;
309 }
310
311 static bool any_edge_half_offset_changed(BevVert *bv)
312 {
313         int i;
314
315         for (i = 0; i < bv->edgecount; i++) {
316                 if (edge_half_offset_changed(&bv->edges[i]))
317                         return true;
318         }
319         return false;
320 }
321
322 /* Return the next EdgeHalf after from_e that is beveled.
323  * If from_e is NULL, find the first beveled edge. */
324 static EdgeHalf *next_bev(BevVert *bv, EdgeHalf *from_e)
325 {
326         EdgeHalf *e;
327
328         if (from_e == NULL)
329                 from_e = &bv->edges[bv->edgecount - 1];
330         e = from_e;
331         do {
332                 if (e->is_bev) {
333                         return e;
334                 }
335         } while ((e = e->next) != from_e);
336         return NULL;
337 }
338
339 /* Return a good representative face (for materials, etc.) for faces
340  * created around/near BoundVert v */
341 static BMFace *boundvert_rep_face(BoundVert *v)
342 {
343         BLI_assert(v->efirst != NULL && v->elast != NULL);
344         if (v->efirst->fnext == v->elast->fprev)
345                 return v->efirst->fnext;
346         else if (v->efirst->fnext)
347                 return v->efirst->fnext;
348         else
349                 return v->elast->fprev;
350 }
351
352 /**
353  * Make ngon from verts alone.
354  * Make sure to properly copy face attributes and do custom data interpolation from
355  * corresponding elements of face_arr, if that is non-NULL, else from facerep.
356  *
357  * \note ALL face creation goes through this function, this is important to keep!
358  */
359 static BMFace *bev_create_ngon(BMesh *bm, BMVert **vert_arr, const int totv,
360                                BMFace **face_arr, BMFace *facerep, bool do_interp)
361 {
362         BMIter iter;
363         BMLoop *l;
364         BMFace *f, *interp_f;
365         int i;
366
367         f = BM_face_create_verts(bm, vert_arr, totv, facerep, BM_CREATE_NOP, true);
368
369         if ((facerep || (face_arr && face_arr[0])) && f) {
370                 BM_elem_attrs_copy(bm, bm, facerep ? facerep : face_arr[0], f);
371                 if (do_interp) {
372                         i = 0;
373                         BM_ITER_ELEM (l, &iter, f, BM_LOOPS_OF_FACE) {
374                                 if (face_arr) {
375                                         /* assume loops of created face are in same order as verts */
376                                         BLI_assert(l->v == vert_arr[i]);
377                                         interp_f = face_arr[i];
378                                 }
379                                 else {
380                                         interp_f = facerep;
381                                 }
382                                 if (interp_f)
383                                         BM_loop_interp_from_face(bm, l, interp_f, true, true);
384                                 i++;
385                         }
386                 }
387         }
388
389         /* not essential for bevels own internal logic,
390          * this is done so the operator can select newly created faces */
391         if (f) {
392                 BM_elem_flag_enable(f, BM_ELEM_TAG);
393         }
394
395         return f;
396 }
397
398 static BMFace *bev_create_quad_tri(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
399                                    BMFace *facerep, bool do_interp)
400 {
401         BMVert *varr[4] = {v1, v2, v3, v4};
402         return bev_create_ngon(bm, varr, v4 ? 4 : 3, NULL, facerep, do_interp);
403 }
404
405 static BMFace *bev_create_quad_tri_ex(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
406                                       BMFace *f1, BMFace *f2, BMFace *f3, BMFace *f4)
407 {
408         BMVert *varr[4] = {v1, v2, v3, v4};
409         BMFace *farr[4] = {f1, f2, f3, f4};
410         return bev_create_ngon(bm, varr, v4 ? 4 : 3, farr, f1, true);
411 }
412
413
414 /* Is Loop layer layer_index contiguous across shared vertex of l1 and l2? */
415 static bool contig_ldata_across_loops(BMesh *bm, BMLoop *l1, BMLoop *l2,
416                                       int layer_index)
417 {
418         const int offset = bm->ldata.layers[layer_index].offset;
419         const int type = bm->ldata.layers[layer_index].type;
420
421         return CustomData_data_equals(type,
422                                       (char *)l1->head.data + offset,
423                                       (char *)l2->head.data + offset);
424 }
425
426 /* Are all loop layers with have math (e.g., UVs) contiguous from face f1 to face f2 across edge e? */
427 static bool contig_ldata_across_edge(BMesh *bm, BMEdge *e, BMFace *f1, BMFace *f2)
428 {
429         BMLoop *lef1, *lef2;
430         BMLoop *lv1f1, *lv1f2, *lv2f1, *lv2f2;
431         BMVert *v1, *v2;
432         int i;
433
434         if (bm->ldata.totlayer == 0)
435                 return true;
436
437         v1 = e->v1;
438         v2 = e->v2;
439         if (!BM_edge_loop_pair(e, &lef1, &lef2))
440                 return false;
441         if (lef1->f == f2) {
442                 SWAP(BMLoop *, lef1, lef2);
443         }
444
445         if (lef1->v == v1) {
446                 lv1f1 = lef1;
447                 lv2f1 = BM_face_other_edge_loop(f1, e, v2);
448         }
449         else {
450                 lv2f1 = lef1;
451                 lv1f1 = BM_face_other_edge_loop(f1, e, v1);
452         }
453
454         if (lef2->v == v1) {
455                 lv1f2 = lef2;
456                 lv2f2 = BM_face_other_edge_loop(f2, e, v2);
457         }
458         else {
459                 lv2f2 = lef2;
460                 lv1f2 = BM_face_other_edge_loop(f2, e, v1);
461         }
462
463         for (i = 0; i < bm->ldata.totlayer; i++) {
464                 if (CustomData_layer_has_math(&bm->ldata, i) &&
465                     (!contig_ldata_across_loops(bm, lv1f1, lv1f2, i) ||
466                      !contig_ldata_across_loops(bm, lv2f1, lv2f2, i)))
467                 {
468                         return false;
469                 }
470         }
471         return true;
472 }
473
474 /* Like bev_create_quad_tri, but when verts straddle an old edge.
475  *        e
476  *        |
477  *  v1+---|---+v4
478  *    |   |   |
479  *    |   |   |
480  *  v2+---|---+v3
481  *        |
482  *    f1  |  f2
483  *
484  * Most CustomData for loops can be interpolated in their respective
485  * faces' loops, but for UVs and other 'has_math_cd' layers, only
486  * do this if the UVs are continuous across the edge e, otherwise pick
487  * one side (f1, arbitrarily), and interpolate them all on that side.
488  * For face data, use f1 (arbitrarily) as face representative. */
489 static BMFace *bev_create_quad_straddle(BMesh *bm, BMVert *v1, BMVert *v2, BMVert *v3, BMVert *v4,
490         BMFace *f1, BMFace *f2, bool is_seam)
491 {
492         BMFace *f, *facerep;
493         BMLoop *l;
494         BMIter iter;
495
496         f = bev_create_quad_tri(bm, v1, v2, v3, v4, f1, false);
497
498         if (!f)
499                 return NULL;
500
501         BM_ITER_ELEM (l, &iter, f, BM_LOOPS_OF_FACE) {
502                 if (is_seam || l->v == v1 || l->v == v2)
503                         facerep = f1;
504                 else
505                         facerep = f2;
506                 if (facerep)
507                         BM_loop_interp_from_face(bm, l, facerep, true, true);
508         }
509         return f;
510 }
511
512 /* Merge (using average) all the UV values for loops of v's faces.
513  * Caller should ensure that no seams are violated by doing this. */
514 static void bev_merge_uvs(BMesh *bm, BMVert *v)
515 {
516         BMIter iter;
517         MLoopUV *luv;
518         BMLoop *l;
519         float uv[2];
520         int n;
521         int cd_loop_uv_offset = CustomData_get_offset(&bm->ldata, CD_MLOOPUV);
522
523         if (cd_loop_uv_offset == -1)
524                 return;
525
526         n = 0;
527         zero_v2(uv);
528         BM_ITER_ELEM (l, &iter, v, BM_LOOPS_OF_VERT) {
529                 luv = BM_ELEM_CD_GET_VOID_P(l, cd_loop_uv_offset);
530                 add_v2_v2(uv, luv->uv);
531                 n++;
532         }
533         if (n > 1) {
534                 mul_v2_fl(uv, 1.0f / (float)n);
535                 BM_ITER_ELEM (l, &iter, v, BM_LOOPS_OF_VERT) {
536                         luv = BM_ELEM_CD_GET_VOID_P(l, cd_loop_uv_offset);
537                         copy_v2_v2(luv->uv, uv);
538                 }
539         }
540 }
541
542 /* Calculate coordinates of a point a distance d from v on e->e and return it in slideco */
543 static void slide_dist(EdgeHalf *e, BMVert *v, float d, float slideco[3])
544 {
545         float dir[3], len;
546
547         sub_v3_v3v3(dir, v->co, BM_edge_other_vert(e->e, v)->co);
548         len = normalize_v3(dir);
549         if (d > len)
550                 d = len - (float)(50.0 * BEVEL_EPSILON_D);
551         copy_v3_v3(slideco, v->co);
552         madd_v3_v3fl(slideco, dir, -d);
553 }
554
555 /* Is co not on the edge e? */
556 static bool is_outside_edge(EdgeHalf *e, const float co[3])
557 {
558         float d_squared;
559
560         d_squared = dist_squared_to_line_segment_v3(co, e->e->v1->co, e->e->v2->co);
561         return d_squared > 10000.0f * BEVEL_EPSILON_SQ;
562 }
563
564 /*
565  * Calculate the meeting point between the offset edges for e1 and e2, putting answer in meetco.
566  * e1 and e2 share vertex v and face f (may be NULL) and viewed from the normal side of
567  * the bevel vertex,  e1 precedes e2 in CCW order.
568  * Offset edge is on right of both edges, where e1 enters v and e2 leave it.
569  * When offsets are equal, the new point is on the edge bisector, with length offset/sin(angle/2),
570  * but if the offsets are not equal (allowing for this, as bevel modifier has edge weights that may
571  * lead to different offsets) then meeting point can be found be intersecting offset lines.
572  * If making the meeting point significantly changes the left or right offset from the user spec,
573  * record the change in offset_l (or offset_r); later we can tell that a change has happened because
574  * the offset will differ from its original value in offset_l_spec (or offset_r_spec).
575  */
576 static void offset_meet(EdgeHalf *e1, EdgeHalf *e2, BMVert *v, BMFace *f, float meetco[3])
577 {
578         float dir1[3], dir2[3], norm_v[3], norm_perp1[3], norm_perp2[3],
579               off1a[3], off1b[3], off2a[3], off2b[3], isect2[3], ang, d;
580
581         /* get direction vectors for two offset lines */
582         sub_v3_v3v3(dir1, v->co, BM_edge_other_vert(e1->e, v)->co);
583         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, v)->co, v->co);
584
585         ang = angle_v3v3(dir1, dir2);
586         if (ang < 100.0f * BEVEL_EPSILON) {
587                 /* special case: e1 and e2 are parallel; put offset point perp to both, from v.
588                  * need to find a suitable plane.
589                  * if offsets are different, we're out of luck: just use e1->offset_r */
590                 if (f)
591                         copy_v3_v3(norm_v, f->no);
592                 else
593                         copy_v3_v3(norm_v, v->no);
594                 cross_v3_v3v3(norm_perp1, dir1, norm_v);
595                 normalize_v3(norm_perp1);
596                 copy_v3_v3(off1a, v->co);
597                 madd_v3_v3fl(off1a, norm_perp1, e1->offset_r);
598                 if (e2->offset_l != e1->offset_r)
599                         e2->offset_l = e1->offset_r;
600                 copy_v3_v3(meetco, off1a);
601         }
602         else if (fabsf(ang - (float)M_PI) < 100.0f * BEVEL_EPSILON) {
603                 /* special case e1 and e2 are antiparallel, so bevel is into
604                  * a zero-area face.  Just make the offset point on the
605                  * common line, at offset distance from v. */
606                 slide_dist(e2, v, e1->offset_r, meetco);
607                 if (e2->offset_l != e1->offset_r)
608                         e2->offset_l = e1->offset_r;
609         }
610         else {
611                 /* Get normal to plane where meet point should be,
612                  * using cross product instead of f->no in case f is non-planar.
613                  * If e1-v-e2 is a reflex angle (viewed from vertex normal side), need to flip.
614                  * Use f->no to figure out which side to look at angle from, as even if
615                  * f is non-planar, will be more accurate than vertex normal */
616                 cross_v3_v3v3(norm_v, dir2, dir1);
617                 normalize_v3(norm_v);
618                 if (dot_v3v3(norm_v, f ? f->no : v->no) < 0.0f)
619                         negate_v3(norm_v);
620
621                 /* get vectors perp to each edge, perp to norm_v, and pointing into face */
622                 cross_v3_v3v3(norm_perp1, dir1, norm_v);
623                 cross_v3_v3v3(norm_perp2, dir2, norm_v);
624                 normalize_v3(norm_perp1);
625                 normalize_v3(norm_perp2);
626
627                 /* get points that are offset distances from each line, then another point on each line */
628                 copy_v3_v3(off1a, v->co);
629                 madd_v3_v3fl(off1a, norm_perp1, e1->offset_r);
630                 add_v3_v3v3(off1b, off1a, dir1);
631                 copy_v3_v3(off2a, v->co);
632                 madd_v3_v3fl(off2a, norm_perp2, e2->offset_l);
633                 add_v3_v3v3(off2b, off2a, dir2);
634
635                 /* intersect the lines; by construction they should be on the same plane and not parallel */
636                 if (!isect_line_line_v3(off1a, off1b, off2a, off2b, meetco, isect2)) {
637 #ifdef BEVEL_ASSERT_PROJECT
638                         BLI_assert(!"offset_meet failure");
639 #endif
640                         copy_v3_v3(meetco, off1a);  /* just to do something */
641                         d = dist_to_line_v3(meetco, v->co, BM_edge_other_vert(e2->e, v)->co);
642                         if (fabsf(d - e2->offset_l) > BEVEL_EPSILON)
643                                 e2->offset_l = d;
644                 }
645                 else {
646                         /* The lines intersect, but is it at a reasonable place?
647                          * One problem to check: if one of the offsets is 0, then don't
648                          * want an intersection that is outside that edge itself.
649                          * This can happen if angle between them is > 180 degrees. */
650                         if (e1->offset_r == 0.0f && is_outside_edge(e1, meetco)) {
651                                 copy_v3_v3(meetco, v->co);
652                                 e2->offset_l = 0.0f;
653                         }
654                         if (e2->offset_l == 0.0f && is_outside_edge(e2, meetco)) {
655                                 copy_v3_v3(meetco, v->co);
656                                 e1->offset_r = 0.0f;
657                         }
658                 }
659         }
660 }
661
662 /* Calculate the meeting point between e1 and e2 (one of which should have zero offsets),
663  * where e1 precedes e2 in CCW order around their common vertex v (viewed from normal side).
664  * If r_angle is provided, return the angle between e and emeet in *r_angle.
665  * If the angle is 0, or it is 180 degrees or larger, there will be no meeting point;
666  * return false in that case, else true */
667 static bool offset_meet_edge(EdgeHalf *e1, EdgeHalf *e2, BMVert *v,  float meetco[3], float *r_angle)
668 {
669         float dir1[3], dir2[3], fno[3], ang, sinang;
670
671         sub_v3_v3v3(dir1, BM_edge_other_vert(e1->e, v)->co, v->co);
672         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, v)->co, v->co);
673         normalize_v3(dir1);
674         normalize_v3(dir2);
675
676         /* find angle from dir1 to dir2 as viewed from vertex normal side */
677         ang = angle_normalized_v3v3(dir1, dir2);
678         if (ang < BEVEL_EPSILON) {
679                 if (r_angle)
680                         *r_angle = 0.0f;
681                 return false;
682         }
683         cross_v3_v3v3(fno, dir1, dir2);
684         if (dot_v3v3(fno, v->no) < 0.0f)
685                 ang = 2.0f * (float)M_PI - ang;  /* angle is reflex */
686         if (r_angle)
687                 *r_angle = ang;
688
689         if (ang - (float)M_PI > BEVEL_EPSILON)
690                 return false;
691
692         sinang = sinf(ang);
693         copy_v3_v3(meetco, v->co);
694         if (e1->offset_r == 0.0f)
695                 madd_v3_v3fl(meetco, dir1, e2->offset_l / sinang);
696         else
697                 madd_v3_v3fl(meetco, dir2, e1->offset_r / sinang);
698         return true;
699 }
700
701 /* Calculate the best place for a meeting point for the offsets from edges e1 and e2
702  * on the in-between edge emid.  Viewed from the vertex normal side, the CCW
703  * order of these edges is e1, emid, e2.
704  * The offsets probably do not meet at a common point on emid, so need to pick
705  * one that causes the least problems. If the other end of one of e1 or e2 has been visited
706  * already, prefer to keep the offset the same on this end.
707  * Otherwise, pick a point between the two intersection points on emid that minimizes
708  * the sum of squares of errors from desired offset. */
709 static void offset_on_edge_between(BevelParams *bp, EdgeHalf *e1, EdgeHalf *e2, EdgeHalf *emid,
710                                    BMVert *v, float meetco[3])
711 {
712         float d, ang1, ang2, sina1, sina2, lambda;
713         float meet1[3], meet2[3];
714         bool visited1, visited2, ok1, ok2;
715
716         BLI_assert(e1->is_bev && e2->is_bev && !emid->is_bev);
717
718         visited1 = other_edge_half_visited(bp, e1);
719         visited2 = other_edge_half_visited(bp, e2);
720
721         ok1 = offset_meet_edge(e1, emid, v, meet1, &ang1);
722         ok2 = offset_meet_edge(emid, e2, v, meet2, &ang2);
723         if (ok1 && ok2) {
724                 if (visited1 && !visited2) {
725                         copy_v3_v3(meetco, meet1);
726                 }
727                 else if (!visited1 && visited2) {
728                         copy_v3_v3(meetco, meet2);
729                 }
730                 else {
731                         /* find best compromise meet point */
732                         sina1 = sinf(ang1);
733                         sina2 = sinf(ang2);
734                         lambda = sina2 * sina2 / (sina1 * sina1 + sina2 * sina2);
735                         interp_v3_v3v3(meetco, meet1, meet2, lambda);
736                 }
737         }
738         else if (ok1 && !ok2) {
739                 copy_v3_v3(meetco, meet1);
740         }
741         else if (!ok1 && ok2) {
742                 copy_v3_v3(meetco, meet2);
743         }
744         else {
745                 /* Neither offset line met emid.
746                  * This should only happen if all three lines are on top of each other */
747                 slide_dist(emid, v, e1->offset_r, meetco);
748         }
749
750         /* offsets may have changed now */
751         d = dist_to_line_v3(meetco, v->co, BM_edge_other_vert(e1->e, v)->co);
752         if (fabsf(d - e1->offset_r) > BEVEL_EPSILON)
753                 e1->offset_r = d;
754         d = dist_to_line_v3(meetco, v->co, BM_edge_other_vert(e2->e, v)->co);
755         if (fabsf(d - e2->offset_l) > BEVEL_EPSILON)
756                 e2->offset_l = d;
757 }
758
759 /* Calculate the best place for a meeting point for the offsets from edges e1 and e2
760  * when there is an in-between edge emid, and we prefer to have a point that may not
761  * be on emid if that does a better job of keeping offsets at the user spec.
762  * Viewed from the vertex normal side, the CCW order of the edges is e1, emid, e2.
763  * The offset lines may not meet exactly: the lines may be angled so that they can't meet.
764  * In that case, pick  the the offset_on_edge_between. */
765 static void offset_in_two_planes(BevelParams *bp, EdgeHalf *e1, EdgeHalf *e2, EdgeHalf *emid,
766                                  BMVert *v,  float meetco[3])
767 {
768         float dir1[3], dir2[3], dirmid[3], norm_perp1[3], norm_perp2[3],
769               off1a[3], off1b[3], off2a[3], off2b[3], isect2[3],
770               f1no[3], f2no[3], ang, d;
771         int iret;
772
773         /* get direction vectors for two offset lines */
774         sub_v3_v3v3(dir1, v->co, BM_edge_other_vert(e1->e, v)->co);
775         sub_v3_v3v3(dir2, BM_edge_other_vert(e2->e, v)->co, v->co);
776         sub_v3_v3v3(dirmid, BM_edge_other_vert(emid->e, v)->co, v->co);
777
778         /* get directions into offset planes */
779         /* calculate face normals at corner in case faces are nonplanar */
780         cross_v3_v3v3(f1no, dirmid, dir1);
781         cross_v3_v3v3(f2no, dirmid, dir2);
782
783         /* if e1-v-emid or emid-v-e2 are reflex angles, need to flip corner normals */
784         if (dot_v3v3(f1no, v->no) < 0.0f)
785                 negate_v3(f1no);
786         if (dot_v3v3(f2no, v->no) < 0.0f)
787                 negate_v3(f2no);
788
789         /* get vectors perpendicular to e1 and e2, pointing into the proper faces */
790         cross_v3_v3v3(norm_perp1, dir1, f1no);
791         normalize_v3(norm_perp1);
792         cross_v3_v3v3(norm_perp2, dir2, f2no);
793         normalize_v3(norm_perp2);
794
795         /* get points that are offset distances from each line, then another point on each line */
796         copy_v3_v3(off1a, v->co);
797         madd_v3_v3fl(off1a, norm_perp1, e1->offset_r);
798         sub_v3_v3v3(off1b, off1a, dir1);
799         copy_v3_v3(off2a, v->co);
800         madd_v3_v3fl(off2a, norm_perp2, e2->offset_l);
801         add_v3_v3v3(off2b, off2a, dir2);
802
803         ang = angle_v3v3(dir1, dir2);
804         if (ang < 100.0f * BEVEL_EPSILON) {
805                 /* lines are parallel; put intersection on emid */
806                 offset_on_edge_between(bp, e1, e2, emid, v, meetco);
807         }
808         else if (fabsf(ang - (float)M_PI) < 100.0f * BEVEL_EPSILON) {
809                 slide_dist(e2, v, e2->offset_l, meetco);
810                 d = dist_to_line_v3(meetco, v->co, BM_edge_other_vert(e1->e, v)->co);
811                 if (fabsf(d - e1->offset_r) > BEVEL_EPSILON)
812                         e1->offset_r = d;
813         }
814         else {
815                 iret = isect_line_line_v3(off1a, off1b, off2a, off2b, meetco, isect2);
816                 if (iret == 0) {
817                         /* lines colinear: another test says they are parallel. so shouldn't happen */
818                         copy_v3_v3(meetco, off1a);
819                         d = dist_to_line_v3(meetco, v->co, BM_edge_other_vert(e2->e, v)->co);
820                         if (fabsf(d - e2->offset_l) > BEVEL_EPSILON)
821                                 e2->offset_l = d;
822                 }
823                 else if (iret == 2) {
824                         /* lines are not coplanar and don't meet; meetco and isect2 are nearest to first and second lines */
825                         if (len_squared_v3v3(meetco, isect2) > 100.0f * BEVEL_EPSILON_SQ) {
826                                 /* offset lines don't meet so can't preserve widths */
827                                 offset_on_edge_between(bp, e1, e2, emid, v, meetco);
828                         }
829                 }
830                 /* else iret == 1 and the lines are coplanar so meetco has the intersection */
831         }
832 }
833
834 /* Offset by e->offset in plane with normal plane_no, on left if left==true,
835  * else on right.  If no is NULL, choose an arbitrary plane different
836  * from eh's direction. */
837 static void offset_in_plane(EdgeHalf *e, const float plane_no[3], bool left, float r[3])
838 {
839         float dir[3], no[3], fdir[3];
840         BMVert *v;
841
842         v = e->is_rev ? e->e->v2 : e->e->v1;
843
844         sub_v3_v3v3(dir, BM_edge_other_vert(e->e, v)->co, v->co);
845         normalize_v3(dir);
846         if (plane_no) {
847                 copy_v3_v3(no, plane_no);
848         }
849         else {
850                 zero_v3(no);
851                 if (fabsf(dir[0]) < fabsf(dir[1]))
852                         no[0] = 1.0f;
853                 else
854                         no[1] = 1.0f;
855         }
856         if (left)
857                 cross_v3_v3v3(fdir, dir, no);
858         else
859                 cross_v3_v3v3(fdir, no, dir);
860         normalize_v3(fdir);
861         copy_v3_v3(r, v->co);
862         madd_v3_v3fl(r, fdir, left ? e->offset_l : e->offset_r);
863 }
864
865 /* Calculate the point on e where line (co_a, co_b) comes closest to and return it in projco */
866 static void project_to_edge(BMEdge *e, const float co_a[3], const float co_b[3], float projco[3])
867 {
868         float otherco[3];
869
870         if (!isect_line_line_v3(e->v1->co, e->v2->co, co_a, co_b, projco, otherco)) {
871 #ifdef BEVEL_ASSERT_PROJECT
872                 BLI_assert(!"project meet failure");
873 #endif
874                 copy_v3_v3(projco, e->v1->co);
875         }
876 }
877
878 /* If there is a bndv->ebev edge, find the mid control point if necessary.
879  * It is the closest point on the beveled edge to the line segment between
880  * bndv and bndv->next.  */
881 static void set_profile_params(BevelParams *bp, BoundVert *bndv)
882 {
883         EdgeHalf *e;
884         Profile *pro;
885         float co1[3], co2[3], co3[3], d1[3], d2[3];
886         bool do_linear_interp;
887
888         copy_v3_v3(co1, bndv->nv.co);
889         copy_v3_v3(co2, bndv->next->nv.co);
890         pro = &bndv->profile;
891         e = bndv->ebev;
892         do_linear_interp = true;
893         if (e) {
894                 do_linear_interp = false;
895                 pro->super_r = bp->pro_super_r;
896                 /* projection direction is direction of the edge */
897                 sub_v3_v3v3(pro->proj_dir, e->e->v1->co, e->e->v2->co);
898                 project_to_edge(e->e, co1, co2, pro->midco);
899                 /* put arc endpoints on plane with normal proj_dir, containing midco */
900                 add_v3_v3v3(co3, co1, pro->proj_dir);
901                 if (!isect_line_plane_v3(pro->coa, co1, co3, pro->midco, pro->proj_dir)) {
902                         /* shouldn't happen */
903                         copy_v3_v3(pro->coa, co1);
904                 }
905                 add_v3_v3v3(co3, co2, pro->proj_dir);
906                 if (!isect_line_plane_v3(pro->cob, co2, co3, pro->midco, pro->proj_dir)) {
907                         /* shouldn't happen */
908                         copy_v3_v3(pro->cob, co2);
909                 }
910                 /* default plane to project onto is the one with triangle co1 - midco - co2 in it */
911                 sub_v3_v3v3(d1, pro->midco, co1);
912                 sub_v3_v3v3(d2, pro->midco, co2);
913                 cross_v3_v3v3(pro->plane_no, d1, d2);
914                 if (normalize_v3(pro->plane_no) < BEVEL_EPSILON) {
915                         /* co1 - midco -co2 are collinear - project onto that plane */
916                         cross_v3_v3v3(co3, d1, pro->proj_dir);
917                         cross_v3_v3v3(pro->plane_no, d1, co3);
918                         if (normalize_v3(pro->plane_no) < BEVEL_EPSILON) {
919                                 /* whole profile is collinear with edge: just interpolate */
920                                 do_linear_interp = true;
921                         }
922                         /* signal to weld that this is linear */
923                         pro->super_r = PRO_LINE_R;
924                 }
925                 copy_v3_v3(pro->plane_co, co1);
926         }
927         if (do_linear_interp) {
928                 pro->super_r = PRO_LINE_R;
929                 copy_v3_v3(pro->coa, co1);
930                 copy_v3_v3(pro->cob, co2);
931                 mid_v3_v3v3(pro->midco, co1, co2);
932                 /* won't use projection for this line profile */
933                 zero_v3(pro->plane_co);
934                 zero_v3(pro->plane_no);
935                 zero_v3(pro->proj_dir);
936         }
937 }
938
939 /* Move the profile plane for bndv to the plane containing e1 and e2, which share a vert */
940 static void move_profile_plane(BoundVert *bndv, EdgeHalf *e1, EdgeHalf *e2)
941 {
942         float d1[3], d2[3], no[3], no2[3], dot;
943
944         /* only do this if projecting, and e1, e2, and proj_dir are not coplanar */
945         if (is_zero_v3(bndv->profile.proj_dir))
946                 return;
947         sub_v3_v3v3(d1, e1->e->v1->co, e1->e->v2->co);
948         sub_v3_v3v3(d2, e2->e->v1->co, e2->e->v2->co);
949         cross_v3_v3v3(no, d1, d2);
950         cross_v3_v3v3(no2, d1, bndv->profile.proj_dir);
951         if (normalize_v3(no) > BEVEL_EPSILON && normalize_v3(no2) > BEVEL_EPSILON) {
952                 dot = fabsf(dot_v3v3(no, no2));
953                 if (fabsf(dot - 1.0f) > BEVEL_EPSILON)
954                         copy_v3_v3(bndv->profile.plane_no, no);
955         }
956 }
957
958 /* Move the profile plane for the two BoundVerts involved in a weld.
959  * We want the plane that is most likely to have the intersections of the
960  * two edges' profile projections on it. bndv1 and bndv2 are by
961  * construction the intersection points of the outside parts of the profiles.
962  * The original vertex should form a third point of the desired plane. */
963 static void move_weld_profile_planes(BevVert *bv, BoundVert *bndv1, BoundVert *bndv2)
964 {
965         float d1[3], d2[3], no[3], no2[3], no3[3], dot1, dot2;
966
967         /* only do this if projecting, and d1, d2, and proj_dir are not coplanar */
968         if (is_zero_v3(bndv1->profile.proj_dir) || is_zero_v3(bndv2->profile.proj_dir))
969                 return;
970         sub_v3_v3v3(d1, bv->v->co, bndv1->nv.co);
971         sub_v3_v3v3(d2, bv->v->co, bndv2->nv.co);
972         cross_v3_v3v3(no, d1, d2);
973         /* "no" is new normal projection plane, but don't move if
974          * it is coplanar with one or the other of the projection dirs */
975         cross_v3_v3v3(no2, d1, bndv1->profile.proj_dir);
976         cross_v3_v3v3(no3, d2, bndv2->profile.proj_dir);
977         if (normalize_v3(no) > BEVEL_EPSILON &&
978             normalize_v3(no2) > BEVEL_EPSILON &&
979             normalize_v3(no3) > BEVEL_EPSILON)
980         {
981                 dot1 = fabsf(dot_v3v3(no, no2));
982                 dot2 = fabsf(dot_v3v3(no, no3));
983                 if (fabsf(dot1 - 1.0f) > BEVEL_EPSILON &&
984                     fabsf(dot2 - 1.0f) > BEVEL_EPSILON)
985                 {
986                         copy_v3_v3(bndv1->profile.plane_no, no);
987                         copy_v3_v3(bndv2->profile.plane_no, no);
988                 }
989         }
990 }
991
992 /* return 1 if a and b are in CCW order on the normal side of f,
993  * and -1 if they are reversed, and 0 if there is no shared face f */
994 static int bev_ccw_test(BMEdge *a, BMEdge *b, BMFace *f)
995 {
996         BMLoop *la, *lb;
997
998         if (!f)
999                 return 0;
1000         la = BM_face_edge_share_loop(f, a);
1001         lb = BM_face_edge_share_loop(f, b);
1002         if (!la || !lb)
1003                 return 0;
1004         return lb->next == la ? 1 : -1;
1005 }
1006
1007 /* Fill matrix r_mat so that a point in the sheared parallelogram with corners
1008  * va, vmid, vb (and the 4th that is implied by it being a parallelogram)
1009  * is the result of transforming the unit square by multiplication with r_mat.
1010  * If it can't be done because the parallelogram is degenerate, return false
1011  * else return true.
1012  * Method:
1013  * Find vo, the origin of the parallelogram with other three points va, vmid, vb.
1014  * Also find vd, which is in direction normal to parallelogram and 1 unit away
1015  * from the origin.
1016  * The quarter circle in first quadrant of unit square will be mapped to the
1017  * quadrant of a sheared ellipse in the parallelogram, using a matrix.
1018  * The matrix mat is calculated to map:
1019  *    (0,1,0) -> va
1020  *    (1,1,0) -> vmid
1021  *    (1,0,0) -> vb
1022  *    (0,1,1) -> vd
1023  * We want M to make M*A=B where A has the left side above, as columns
1024  * and B has the right side as columns - both extended into homogeneous coords.
1025  * So M = B*(Ainverse).  Doing Ainverse by hand gives the code below.
1026  */
1027 static bool make_unit_square_map(const float va[3], const float vmid[3], const float vb[3],
1028                                  float r_mat[4][4])
1029 {
1030         float vo[3], vd[3], vb_vmid[3], va_vmid[3], vddir[3];
1031
1032         sub_v3_v3v3(va_vmid, vmid, va);
1033         sub_v3_v3v3(vb_vmid, vmid, vb);
1034         if (fabsf(angle_v3v3(va_vmid, vb_vmid) - (float)M_PI) > 100.0f * BEVEL_EPSILON) {
1035                 sub_v3_v3v3(vo, va, vb_vmid);
1036                 cross_v3_v3v3(vddir, vb_vmid, va_vmid);
1037                 normalize_v3(vddir);
1038                 add_v3_v3v3(vd, vo, vddir);
1039
1040                 /* The cols of m are: {vmid - va, vmid - vb, vmid + vd - va -vb, va + vb - vmid;
1041                  * blender transform matrices are stored such that m[i][*] is ith column;
1042                  * the last elements of each col remain as they are in unity matrix */
1043                 sub_v3_v3v3(&r_mat[0][0], vmid, va);
1044                 r_mat[0][3] = 0.0f;
1045                 sub_v3_v3v3(&r_mat[1][0], vmid, vb);
1046                 r_mat[1][3] = 0.0f;
1047                 add_v3_v3v3(&r_mat[2][0], vmid, vd);
1048                 sub_v3_v3(&r_mat[2][0], va);
1049                 sub_v3_v3(&r_mat[2][0], vb);
1050                 r_mat[2][3] = 0.0f;
1051                 add_v3_v3v3(&r_mat[3][0], va, vb);
1052                 sub_v3_v3(&r_mat[3][0], vmid);
1053                 r_mat[3][3] = 1.0f;
1054
1055                 return true;
1056         }
1057         else
1058                 return false;
1059 }
1060
1061 /* Like make_unit_square_map, but this one makes a matrix that transforms the
1062  * (1,1,1) corner of a unit cube into an arbitrary corner with corner vert d
1063  * and verts around it a, b, c (in ccw order, viewed from d normal dir).
1064  * The matrix mat is calculated to map:
1065  *    (1,0,0) -> va
1066  *    (0,1,0) -> vb
1067  *    (0,0,1) -> vc
1068  *    (1,1,1) -> vd
1069  * We want M to make M*A=B where A has the left side above, as columns
1070  * and B has the right side as columns - both extended into homogeneous coords.
1071  * So M = B*(Ainverse).  Doing Ainverse by hand gives the code below.
1072  * The cols of M are 1/2{va-vb+vc-vd}, 1/2{-va+vb-vc+vd}, 1/2{-va-vb+vc+vd},
1073  * and 1/2{va+vb+vc-vd}
1074  * and Blender matrices have cols at m[i][*].
1075  */
1076 static void make_unit_cube_map(const float va[3], const float vb[3], const float vc[3],
1077                                const float vd[3], float r_mat[4][4])
1078 {
1079         copy_v3_v3(r_mat[0], va);
1080         sub_v3_v3(r_mat[0], vb);
1081         sub_v3_v3(r_mat[0], vc);
1082         add_v3_v3(r_mat[0], vd);
1083         mul_v3_fl(r_mat[0], 0.5f);
1084         r_mat[0][3] = 0.0f;
1085         copy_v3_v3(r_mat[1], vb);
1086         sub_v3_v3(r_mat[1], va);
1087         sub_v3_v3(r_mat[1], vc);
1088         add_v3_v3(r_mat[1], vd);
1089         mul_v3_fl(r_mat[1], 0.5f);
1090         r_mat[1][3] = 0.0f;
1091         copy_v3_v3(r_mat[2], vc);
1092         sub_v3_v3(r_mat[2], va);
1093         sub_v3_v3(r_mat[2], vb);
1094         add_v3_v3(r_mat[2], vd);
1095         mul_v3_fl(r_mat[2], 0.5f);
1096         r_mat[2][3] = 0.0f;
1097         copy_v3_v3(r_mat[3], va);
1098         add_v3_v3(r_mat[3], vb);
1099         add_v3_v3(r_mat[3], vc);
1100         sub_v3_v3(r_mat[3], vd);
1101         mul_v3_fl(r_mat[3], 0.5f);
1102         r_mat[3][3] = 1.0f;
1103 }
1104
1105 /* Get the coordinate on the superellipse (exponent r),
1106  * at parameter value u.  u goes from u to 2 as the
1107  * superellipse moves on the quadrant (0,1) to (1,0). */
1108 static void superellipse_co(float u, float r, float r_co[2])
1109 {
1110         float t;
1111         
1112         if (u <= 0.0f) {
1113                 r_co[0] = 0.0f;
1114                 r_co[1] = 1.0f;
1115         }
1116         else if (u >= 2.0f) {
1117                 r_co[0] = 1.0f;
1118                 r_co[1] = 0.0f;
1119         }
1120         else if (r == PRO_LINE_R) {
1121                 t = u / 2.0f;
1122                 r_co[0] = t;
1123                 r_co[1] = 1.0f - t;
1124                 
1125         }
1126         else if (r == PRO_SQUARE_IN_R) {
1127                 if (u < 1.0f) {
1128                         r_co[0] = 0.0f;
1129                         r_co[1] = 1.0f - u;
1130                 }
1131                 else {
1132                         r_co[0] = u - 1.0f;
1133                         r_co[1] = 0.0f;
1134                 }
1135         }
1136         else if (r == PRO_SQUARE_R) {
1137                 if (u < 1.0f) {
1138                         r_co[0] = u;
1139                         r_co[1] = 1.0f;
1140                 }
1141                 else {
1142                         r_co[0] = 1.0f;
1143                         r_co[1] = 2.0f - u;
1144                 }
1145                 
1146         }
1147         else {
1148                 t = u * (float)M_PI / 4.0f;  /* angle from y axis */
1149                 r_co[0] = sinf(t);
1150                 r_co[1] = cosf(t);
1151                 if (r != PRO_SQUARE_R) {
1152                         r_co[0] = pow(r_co[0], 2.0f / r);
1153                         r_co[1] = pow(r_co[1], 2.0f / r);
1154                 }
1155         }
1156 }
1157
1158 /* Find the point on given profile at parameter i which goes from 0 to n as
1159  * the profile is moved from pro->coa to pro->cob.
1160  * We assume that n is either the global seg number or a power of 2 less than
1161  * or equal to the power of 2 >= seg.
1162  * In the latter case, we subsample the profile for seg_2, which will not necessarily
1163  * give equal spaced chords, but is in fact more what is desired by the cubic subdivision
1164  * method used to make the vmesh pattern. */
1165 static void get_profile_point(BevelParams *bp, const Profile *pro, int i, int n, float r_co[3])
1166 {
1167         int d;
1168
1169         if (bp->seg == 1) {
1170                 if (i == 0)
1171                         copy_v3_v3(r_co, pro->coa);
1172                 else
1173                         copy_v3_v3(r_co, pro->cob);
1174         }
1175         
1176         else {
1177                 if (n == bp->seg) {
1178                         BLI_assert(pro->prof_co != NULL);
1179                         copy_v3_v3(r_co, pro->prof_co + 3 * i);
1180                 }
1181                 else {
1182                         BLI_assert(is_power_of_2_i(n) && n <= bp->pro_spacing.seg_2);
1183                         /* set d to spacing in prof_co_2 between subsamples */
1184                         d = bp->pro_spacing.seg_2 / n;
1185                         copy_v3_v3(r_co, pro->prof_co_2 + 3 * i * d);
1186                 }
1187         }
1188 }
1189
1190 /* Calculate the actual coordinate values for bndv's profile.
1191  * This is only needed if bp->seg > 1.
1192  * Allocate the space for them if that hasn't been done already.
1193  * If bp->seg is not a power of 2, also need to calculate
1194  * the coordinate values for the power of 2 >= bp->seg,
1195  * because the ADJ pattern needs power-of-2 boundaries
1196  * during construction. */
1197 static void calculate_profile(BevelParams *bp, BoundVert *bndv)
1198 {
1199         int i, k, ns;
1200         const float *uvals;
1201         float co[3], co2[3], p[3], m[4][4];
1202         float *prof_co, *prof_co_k;
1203         float r;
1204         bool need_2, map_ok;
1205         Profile *pro = &bndv->profile;
1206
1207         if (bp->seg == 1)
1208                 return;
1209
1210         need_2 = bp->seg != bp->pro_spacing.seg_2;
1211         if (!pro->prof_co) {
1212                 pro->prof_co = (float *)BLI_memarena_alloc(bp->mem_arena, (bp->seg + 1) * 3 * sizeof(float));
1213                 if (need_2)
1214                         pro->prof_co_2 = (float *)BLI_memarena_alloc(bp->mem_arena, (bp->pro_spacing.seg_2 + 1) * 3 *sizeof(float));
1215                 else
1216                         pro->prof_co_2 = pro->prof_co;
1217         }
1218         r = pro->super_r;
1219         if (r == PRO_LINE_R)
1220                 map_ok = false;
1221         else
1222                 map_ok = make_unit_square_map(pro->coa, pro->midco, pro->cob, m);
1223         for (i = 0; i < 2; i++) {
1224                 if (i == 0) {
1225                         ns = bp->seg;
1226                         uvals = bp->pro_spacing.uvals;
1227                         prof_co = pro->prof_co;
1228                 }
1229                 else {
1230                         if (!need_2)
1231                                 break;  /* shares coords with pro->prof_co */
1232                         ns = bp->pro_spacing.seg_2;
1233                         uvals = bp->pro_spacing.uvals_2;
1234                         prof_co = pro->prof_co_2;
1235                 }
1236                 BLI_assert((r == PRO_LINE_R || uvals != NULL) && prof_co != NULL);
1237                 for (k = 0; k <= ns; k++) {
1238                         if (k == 0)
1239                                 copy_v3_v3(co, pro->coa);
1240                         else if (k == ns)
1241                                 copy_v3_v3(co, pro->cob);
1242                         else {
1243                                 if (map_ok) {
1244                                         superellipse_co(uvals[k], r, p);
1245                                         p[2] = 0.0f;
1246                                         mul_v3_m4v3(co, m, p);
1247                                 }
1248                                 else {
1249                                         interp_v3_v3v3(co, pro->coa, pro->cob, (float)k / (float)ns);
1250                                 }
1251                         }
1252                         /* project co onto final profile plane */
1253                         prof_co_k = prof_co + 3 * k;
1254                         if (!is_zero_v3(pro->proj_dir)) {
1255                                 add_v3_v3v3(co2, co, pro->proj_dir);
1256                                 if (!isect_line_plane_v3(prof_co_k, co, co2, pro->plane_co, pro->plane_no)) {
1257                                         /* shouldn't happen */
1258                                         copy_v3_v3(prof_co_k, co);
1259                                 }
1260                         }
1261                         else {
1262                                 copy_v3_v3(prof_co_k, co);
1263                         }
1264                 }
1265         }
1266 }
1267
1268 /* Snap a direction co to a superellipsoid with parameter super_r.
1269  * For square profiles, midline says whether or not to snap to both planes. */
1270 static void snap_to_superellipsoid(float co[3], const float super_r, bool midline)
1271 {
1272         float a, b, c, x, y, z, r, rinv, dx, dy;
1273
1274         r = super_r;
1275         if (r == PRO_CIRCLE_R) {
1276                 normalize_v3(co);
1277                 return;
1278         }
1279
1280         x = a = max_ff(0.0f, co[0]);
1281         y = b = max_ff(0.0f, co[1]);
1282         z = c = max_ff(0.0f, co[2]);
1283         if (r == PRO_SQUARE_R || r == PRO_SQUARE_IN_R) {
1284                 /* will only be called for 2d profile */
1285                 BLI_assert(fabsf(z) < BEVEL_EPSILON);
1286                 z = 0.0f;
1287                 x = min_ff(1.0f, x);
1288                 y = min_ff(1.0f, y);
1289                 if (r == PRO_SQUARE_R) {
1290                         /* snap to closer of x==1 and y==1 lines, or maybe both */
1291                         dx = 1.0f - x;
1292                         dy = 1.0f - y;
1293                         if (dx < dy) {
1294                                 x = 1.0f;
1295                                 y = midline ? 1.0f : y;
1296                         }
1297                         else {
1298                                 y = 1.0f;
1299                                 x = midline ? 1.0f : x;
1300                         }
1301                 }
1302                 else {
1303                         /* snap to closer of x==0 and y==0 lines, or maybe both */
1304                         if (x < y) {
1305                                 x = 0.0f;
1306                                 y = midline ? 0.0f : y;
1307                         }
1308                         else {
1309                                 y = 0.0f;
1310                                 x = midline ? 0.0f : x;
1311                         }
1312                 }
1313         }
1314         else {
1315                 rinv = 1.0f / r;
1316                 if (a == 0.0f) {
1317                         if (b == 0.0f) {
1318                                 x = 0.0f;
1319                                 y = 0.0f;
1320                                 z = powf(c, rinv);
1321                         }
1322                         else {
1323                                 x = 0.0f;
1324                                 y = powf(1.0f / (1.0f + powf(c / b, r)), rinv);
1325                                 z = c * y / b;
1326                         }
1327                 }
1328                 else {
1329                         x = powf(1.0f / (1.0f + powf(b / a, r) + powf(c / a, r)), rinv);
1330                         y = b * x / a;
1331                         z = c * x / a;
1332                 }
1333         }
1334         co[0] = x;
1335         co[1] = y;
1336         co[2] = z;
1337 }
1338
1339 /* Set the any_seam property for a BevVert and all its BoundVerts */
1340 static void set_bound_vert_seams(BevVert *bv)
1341 {
1342         BoundVert *v;
1343         EdgeHalf *e;
1344
1345         bv->any_seam = false;
1346         v = bv->vmesh->boundstart;
1347         do {
1348                 v->any_seam = false;
1349                 for (e = v->efirst; e; e = e->next) {
1350                         v->any_seam |= e->is_seam;
1351                         if (e == v->elast)
1352                                 break;
1353                 }
1354                 bv->any_seam |= v->any_seam;
1355         } while ((v = v->next) != bv->vmesh->boundstart);
1356 }
1357
1358 /* Make a circular list of BoundVerts for bv, each of which has the coordinates
1359  * of a vertex on the the boundary of the beveled vertex bv->v.
1360  * This may adjust some EdgeHalf widths, and there might have to be
1361  * a subsequent pass to make the widths as consistent as possible.
1362  * The first time through, construct will be true and we are making the BoundVerts
1363  * and setting up the BoundVert and EdgeHalf pointers appropriately.
1364  * For a width consistency path, we just recalculate the coordinates of the
1365  * BoundVerts. If the other ends have been (re)built already, then we
1366  * copy the offsets from there to match, else we use the ideal (user-specified)
1367  * widths.
1368  * Also, if construct, decide on the mesh pattern that will be used inside the boundary.
1369  * Doesn't make the actual BMVerts */
1370 static void build_boundary(BevelParams *bp, BevVert *bv, bool construct)
1371 {
1372         MemArena *mem_arena = bp->mem_arena;
1373         EdgeHalf *efirst, *e, *eother;
1374         BoundVert *v;
1375         BevVert *bvother;
1376         VMesh *vm;
1377         float co[3];
1378         const float *no;
1379         float lastd;
1380
1381         vm = bv->vmesh;
1382
1383         if (bp->vertex_only) {
1384                 e = efirst = &bv->edges[0];
1385         }
1386         else {
1387                 e = efirst = next_bev(bv, NULL);
1388                 do {
1389                         eother = find_other_end_edge_half(bp, e, &bvother);
1390                         if (eother && bvother->visited && bp->offset_type != BEVEL_AMT_PERCENT) {
1391                                 /* try to keep bevel even by matching other end offsets */
1392                                 e->offset_l = eother->offset_r;
1393                                 e->offset_r = eother->offset_l;
1394                         }
1395                         else {
1396                                 /* reset to user spec */
1397                                 e->offset_l = e->offset_l_spec;
1398                                 e->offset_r = e->offset_r_spec;
1399                         }
1400                 } while ((e = e->next) != efirst);
1401                 e = efirst;
1402         }
1403
1404         BLI_assert(bv->edgecount >= 2);  /* since bevel edges incident to 2 faces */
1405
1406         if (bv->edgecount == 2 && bv->selcount == 1) {
1407                 /* special case: beveled edge meets non-beveled one at valence 2 vert */
1408                 no = e->fprev ? e->fprev->no : (e->fnext ? e->fnext->no : NULL);
1409                 offset_in_plane(e, no, true, co);
1410                 if (construct) {
1411                         v = add_new_bound_vert(mem_arena, vm, co);
1412                         v->efirst = v->elast = v->ebev = e;
1413                         e->leftv = v;
1414                 }
1415                 else {
1416                         adjust_bound_vert(e->leftv, co);
1417                 }
1418                 no = e->fnext ? e->fnext->no : (e->fprev ? e->fprev->no : NULL);
1419                 offset_in_plane(e, no, false, co);
1420                 if (construct) {
1421                         v = add_new_bound_vert(mem_arena, vm, co);
1422                         v->efirst = v->elast = e;
1423                         e->rightv = v;
1424                 }
1425                 else {
1426                         adjust_bound_vert(e->rightv, co);
1427                 }
1428                 /* make artifical extra point along unbeveled edge, and form triangle */
1429                 slide_dist(e->next, bv->v, e->offset_l, co);
1430                 if (construct) {
1431                         v = add_new_bound_vert(mem_arena, vm, co);
1432                         v->efirst = v->elast = e->next;
1433                         e->next->leftv = e->next->rightv = v;
1434                         /* could use M_POLY too, but tri-fan looks nicer)*/
1435                         vm->mesh_kind = M_TRI_FAN;
1436                         set_bound_vert_seams(bv);
1437                 }
1438                 else {
1439                         adjust_bound_vert(e->next->leftv, co);
1440                 }
1441                 set_profile_params(bp, vm->boundstart);
1442                 calculate_profile(bp, vm->boundstart);
1443                 return;
1444         }
1445
1446         lastd = bp->vertex_only ? bv->offset : e->offset_l;
1447         do {
1448                 if (e->is_bev) {
1449                         /* handle only left side of beveled edge e here: next iteration should do right side */
1450                         if (e->prev->is_bev) {
1451                                 BLI_assert(e->prev != e);  /* see: wire edge special case */
1452                                 offset_meet(e->prev, e, bv->v, e->fprev, co);
1453                                 if (construct) {
1454                                         v = add_new_bound_vert(mem_arena, vm, co);
1455                                         v->efirst = e->prev;
1456                                         v->elast = v->ebev = e;
1457                                         e->leftv = v;
1458                                         e->prev->rightv = v;
1459                                 }
1460                                 else {
1461                                         v = e->leftv;
1462                                         adjust_bound_vert(v, co);
1463                                 }
1464                         }
1465                         else {
1466                                 /* e->prev is not beveled */
1467                                 if (e->prev->prev->is_bev) {
1468                                         BLI_assert(e->prev->prev != e); /* see: edgecount 2, selcount 1 case */
1469                                         /* find meet point between e->prev->prev and e and attach e->prev there */
1470                                         if (bp->preserve_widths)
1471                                                 offset_in_two_planes(bp, e->prev->prev, e, e->prev, bv->v, co);
1472                                         else
1473                                                 offset_on_edge_between(bp, e->prev->prev, e, e->prev, bv->v, co);
1474                                         if (construct) {
1475                                                 v = add_new_bound_vert(mem_arena, vm, co);
1476                                                 v->efirst = e->prev->prev;
1477                                                 v->elast = v->ebev = e;
1478                                                 e->leftv = v;
1479                                                 e->prev->leftv = v;
1480                                                 e->prev->prev->rightv = v;
1481                                         }
1482                                         else {
1483                                                 v = e->leftv;
1484                                                 adjust_bound_vert(v, co);
1485                                         }
1486                                 }
1487                                 else {
1488                                         /* neither e->prev nor e->prev->prev are beveled: make on-edge on e->prev */
1489                                         offset_meet(e->prev, e, bv->v, e->fprev, co);
1490                                         if (construct) {
1491                                                 v = add_new_bound_vert(mem_arena, vm, co);
1492                                                 v->efirst = e->prev;
1493                                                 v->elast = v->ebev = e;
1494                                                 e->leftv = v;
1495                                                 e->prev->leftv = v;
1496                                         }
1497                                         else {
1498                                                 v = e->leftv;
1499                                                 adjust_bound_vert(v, co);
1500                                         }
1501                                 }
1502                         }
1503                         lastd = len_v3v3(bv->v->co, v->nv.co);
1504                 }
1505                 else {
1506                         /* e is not beveled */
1507                         if (e->next->is_bev) {
1508                                 /* next iteration will place e between beveled previous and next edges */
1509                                 /* do nothing... */
1510                         }
1511                         else if (e->prev->is_bev) {
1512                                 /* on-edge meet between e->prev and e */
1513                                 offset_meet(e->prev, e, bv->v, e->fprev, co);
1514                                 if (construct) {
1515                                         v = add_new_bound_vert(mem_arena, vm, co);
1516                                         v->efirst = e->prev;
1517                                         v->elast = e;
1518                                         e->leftv = v;
1519                                         e->prev->rightv = v;
1520                                 }
1521                                 else {
1522                                         adjust_bound_vert(e->leftv, co);
1523                                 }
1524                         }
1525                         else {
1526                                 /* None of e->prev, e, e->next are beveled.
1527                                  * could either leave alone or add slide points to make
1528                                  * one polygon around bv->v.  For now, we choose latter.
1529                                  * Could slide to make an even bevel plane but for now will
1530                                  * just use last distance a meet point moved from bv->v. */
1531                                 slide_dist(e, bv->v, lastd, co);
1532                                 if (construct) {
1533                                         v = add_new_bound_vert(mem_arena, vm, co);
1534                                         v->efirst = v->elast = e;
1535                                         e->leftv = v;
1536                                 }
1537                                 else {
1538                                         adjust_bound_vert(e->leftv, co);
1539                                 }
1540                         }
1541                 }
1542         } while ((e = e->next) != efirst);
1543
1544         v = vm->boundstart;
1545         do {
1546                 set_profile_params(bp, v);
1547                 calculate_profile(bp, v);
1548         } while ((v = v->next) != vm->boundstart);
1549
1550         if (bv->selcount == 1 && bv->edgecount == 3) {
1551                 /* special case: snap profile to third face */
1552                 v = vm->boundstart;
1553                 BLI_assert(v->ebev != NULL);
1554                 move_profile_plane(v, v->efirst, v->next->elast);
1555                 calculate_profile(bp, v);
1556         }
1557
1558         if (construct) {
1559                 set_bound_vert_seams(bv);
1560
1561                 BLI_assert(vm->count >= 2);
1562                 if (bp->vertex_only) {
1563                         if (vm->count == 2)
1564                                 vm->mesh_kind = M_NONE;
1565                         else if (bp->seg > 1)
1566                                 vm->mesh_kind = M_ADJ;
1567                         else
1568                                 vm->mesh_kind = M_POLY;
1569                 }
1570                 else if (vm->count == 2 && bv->edgecount == 3) {
1571                         vm->mesh_kind = M_NONE;
1572                 }
1573                 else if (bv->selcount == 2) {
1574                         vm->mesh_kind = M_QUAD_STRIP;
1575                 }
1576                 else if (efirst->seg == 1 || bv->selcount == 1) {
1577                         if (vm->count == 3 && bv->selcount == 1) {
1578                                 vm->mesh_kind = M_TRI_FAN;
1579                         }
1580                         else {
1581                                 vm->mesh_kind = M_POLY;
1582                         }
1583                 }
1584                 else {
1585                         vm->mesh_kind = M_ADJ;
1586                 }
1587         }
1588 }
1589
1590 /* Do a global pass to try to make offsets as even as possible.
1591  * Consider this graph:
1592  *   nodes = BevVerts
1593  *   edges = { (u,v) } where u and v are nodes such that u and v
1594  *        are connected by a mesh edge that has at least one end
1595  *        whose offset does not match the user spec.
1596  *
1597  * Do a breadth-first search on this graph, starting from nodes
1598  * that have any_adjust=true, and changing all
1599  * not-already-changed offsets on EdgeHalfs to match the
1600  * corresponding ones that changed on the other end.
1601  * The graph is dynamic in the sense that having an offset that
1602  * doesn't meet the user spec can be added as the search proceeds.
1603  * We want this search to be deterministic (not dependendent
1604  * on order of processing through hash table), so as to avoid
1605  * flicker to to different decisions made if search is different
1606  * while dragging the offset number in the UI.  So look for the
1607  * lower vertex number when there is a choice of where to start.
1608  *
1609  * Note that this might not process all BevVerts, only the ones
1610  * that need adjustment.
1611  */
1612 static void adjust_offsets(BevelParams *bp)
1613 {
1614         BevVert *bv, *searchbv, *bvother;
1615         int i, searchi;
1616         GHashIterator giter;
1617         EdgeHalf *e, *efirst, *eother;
1618         GSQueue *q;
1619
1620         BLI_assert(!bp->vertex_only);
1621         GHASH_ITER(giter, bp->vert_hash) {
1622                 bv = BLI_ghashIterator_getValue(&giter);
1623                 bv->visited = false;
1624         }
1625
1626         q = BLI_gsqueue_new((int)sizeof(BevVert *));
1627         /* the following loop terminates because at least one node is visited each time */
1628         for (;;) {
1629                 /* look for root of a connected component in search graph */
1630                 searchbv = NULL;
1631                 searchi = -1;
1632                 GHASH_ITER(giter, bp->vert_hash) {
1633                         bv = BLI_ghashIterator_getValue(&giter);
1634                         if (!bv->visited && any_edge_half_offset_changed(bv)) {
1635                                 i = BM_elem_index_get(bv->v);
1636                                 if (!searchbv || i < searchi) {
1637                                         searchbv = bv;
1638                                         searchi = i;
1639                                 }
1640                         }
1641                 }
1642                 if (searchbv == NULL)
1643                         break;
1644
1645                 BLI_gsqueue_push(q, &searchbv);
1646                 while (!BLI_gsqueue_is_empty(q)) {
1647                         BLI_gsqueue_pop(q, &bv);
1648                         /* If do this check, don't have to check for already-on-queue before push, below */
1649                         if (bv->visited)
1650                                 continue;
1651                         bv->visited = true;
1652                         build_boundary(bp, bv, false);
1653
1654                         e = efirst = &bv->edges[0];
1655                         do {
1656                                 eother = find_other_end_edge_half(bp, e, &bvother);
1657                                 if (eother && !bvother->visited && edge_half_offset_changed(e)) {
1658                                         BLI_gsqueue_push(q, &bvother);
1659                                 }
1660                         } while ((e = e->next) != efirst);
1661                 }
1662         }
1663         BLI_gsqueue_free(q);
1664 }
1665
1666 /* Do the edges at bv form a "pipe"?
1667  * Current definition: 3 or 4 beveled edges, 2 in line with each other,
1668  * with other edges on opposite sides of the pipe if there are 4.
1669  * Also, the vertex boundary should have 3 or 4 vertices in it,
1670  * and all of the faces involved should be parallel to the pipe edges.
1671  * Return the boundary vert whose ebev is one of the pipe edges, and
1672  * whose next boundary vert has a beveled, non-pipe edge. */
1673 static BoundVert *pipe_test(BevVert *bv)
1674 {
1675         EdgeHalf *e, *epipe;
1676         VMesh *vm;
1677         BoundVert *v1, *v2, *v3;
1678         float dir1[3], dir3[3];
1679
1680         vm = bv->vmesh;
1681         if (vm->count < 3 || vm->count > 4 || bv->selcount < 3 || bv->selcount > 4)
1682                 return NULL;
1683
1684         /* find v1, v2, v3 all with beveled edges, where v1 and v3 have collinear edges */
1685         epipe = NULL;
1686         v1 = vm->boundstart;
1687         do {
1688                 v2 = v1->next;
1689                 v3 = v2->next;
1690                 if (v1->ebev && v2->ebev && v3->ebev) {
1691                         sub_v3_v3v3(dir1, bv->v->co, BM_edge_other_vert(v1->ebev->e, bv->v)->co);
1692                         sub_v3_v3v3(dir3, BM_edge_other_vert(v3->ebev->e, bv->v)->co, bv->v->co);
1693                         normalize_v3(dir1);
1694                         normalize_v3(dir3);
1695                         if (angle_v3v3(dir1, dir3) < 100.0f * BEVEL_EPSILON) {
1696                                 epipe =  v1->ebev;
1697                                 break;
1698                         }
1699                 }
1700         } while ((v1 = v1->next) != vm->boundstart);
1701
1702         if (!epipe)
1703                 return NULL;
1704
1705         /* check face planes: all should have normals perpendicular to epipe */
1706         for (e = &bv->edges[0]; e != &bv->edges[bv->edgecount]; e++) {
1707                 if (e->fnext) {
1708                         if (dot_v3v3(dir1, e->fnext->no) > BEVEL_EPSILON)
1709                                 return NULL;
1710                 }
1711         }
1712         return v1;
1713 }
1714
1715 static VMesh *new_adj_vmesh(MemArena *mem_arena, int count, int seg, BoundVert *bounds)
1716 {
1717         VMesh *vm;
1718
1719         vm = (VMesh *)BLI_memarena_alloc(mem_arena, sizeof(VMesh));
1720         vm->count = count;
1721         vm->seg = seg;
1722         vm->boundstart = bounds;
1723         vm->mesh = (NewVert *)BLI_memarena_alloc(mem_arena, count * (1 + seg / 2) * (1 + seg) * sizeof(NewVert));
1724         vm->mesh_kind = M_ADJ;
1725         return vm;
1726 }
1727
1728 /* VMesh verts for vertex i have data for (i, 0 <= j <= ns2, 0 <= k <= ns), where ns2 = floor(nseg / 2).
1729  * But these overlap data from previous and next i: there are some forced equivalences.
1730  * Let's call these indices the canonical ones: we will just calculate data for these
1731  *    0 <= j <= ns2, 0 <= k < ns2  (for odd ns2)
1732  *    0 <= j < ns2, 0 <= k <= ns2  (for even ns2)
1733  *        also (j=ns2, k=ns2) at i=0 (for even ns2)
1734  * This function returns the canonical one for any i, j, k in [0,n],[0,ns],[0,ns] */
1735 static NewVert *mesh_vert_canon(VMesh *vm, int i, int j, int k)
1736 {
1737         int n, ns, ns2, odd;
1738         NewVert *ans;
1739
1740         n = vm->count;
1741         ns = vm->seg;
1742         ns2 = ns / 2;
1743         odd = ns % 2;
1744         BLI_assert(0 <= i && i <= n && 0 <= j && j <= ns && 0 <= k && k <= ns);
1745
1746         if (!odd && j == ns2 && k == ns2)
1747                 ans = mesh_vert(vm, 0, j, k);
1748         else if (j <= ns2 - 1 + odd && k <= ns2)
1749                 ans = mesh_vert(vm, i, j, k);
1750         else if (k <= ns2)
1751                 ans = mesh_vert(vm, (i + n - 1) % n, k, ns - j);
1752         else
1753                 ans = mesh_vert(vm, (i + 1) % n, ns - k, j);
1754         return ans;
1755 }
1756
1757 static bool is_canon(VMesh *vm, int i, int j, int k)
1758 {
1759         int ns2 = vm->seg / 2;
1760         if (vm->seg % 2 == 1)
1761                 return (j <= ns2 && k <= ns2);
1762         else
1763                 return ((j < ns2 && k <= ns2) || (j == ns2 && k == ns2 && i == 0));
1764 }
1765
1766 /* Copy the vertex data to all of vm verts from canonical ones */
1767 static void vmesh_copy_equiv_verts(VMesh *vm)
1768 {
1769         int n, ns, ns2, i, j, k;
1770         NewVert *v0, *v1;
1771
1772         n = vm->count;
1773         ns = vm->seg;
1774         ns2 = ns / 2;
1775         for (i = 0; i < n; i++) {
1776                 for (j = 0; j <= ns2; j++) {
1777                         for (k = 0; k <= ns; k++) {
1778                                 if (is_canon(vm, i, j, k))
1779                                         continue;
1780                                 v1 = mesh_vert(vm, i, j, k);
1781                                 v0 = mesh_vert_canon(vm, i, j, k);
1782                                 copy_v3_v3(v1->co, v0->co);
1783                                 v1->v = v0->v;
1784                         }
1785                 }
1786         }
1787 }
1788
1789 /* Calculate and return in r_cent the centroid of the center poly */
1790 static void vmesh_center(VMesh *vm, float r_cent[3])
1791 {
1792         int n, ns2, i;
1793
1794         n = vm->count;
1795         ns2 = vm->seg / 2;
1796         if (vm->seg % 2) {
1797                 zero_v3(r_cent);
1798                 for (i = 0; i < n; i++) {
1799                         add_v3_v3(r_cent, mesh_vert(vm, i, ns2, ns2)->co);
1800                 }
1801                 mul_v3_fl(r_cent, 1.0f / (float) n);
1802         }
1803         else {
1804                 copy_v3_v3(r_cent, mesh_vert(vm, 0, ns2, ns2)->co);
1805         }
1806 }
1807
1808 static void avg4(float co[3],
1809                  const NewVert *v0, const NewVert *v1,
1810                  const NewVert *v2, const NewVert *v3)
1811 {
1812         add_v3_v3v3(co, v0->co, v1->co);
1813         add_v3_v3(co, v2->co);
1814         add_v3_v3(co, v3->co);
1815         mul_v3_fl(co, 0.25f);
1816 }
1817
1818 /* gamma needed for smooth Catmull-Clark, Sabin modification */
1819 static float sabin_gamma(int n)
1820 {
1821         double ans, k, k2, k4, k6, x, y;
1822
1823         /* precalculated for common cases of n */
1824         if (n < 3)
1825                 return 0.0f;
1826         else if (n == 3)
1827                 ans = 0.065247584f;
1828         else if (n == 4)
1829                 ans = 0.25f;
1830         else if (n == 5)
1831                 ans = 0.401983447f;
1832         else if (n == 6)
1833                 ans = 0.523423277f;
1834         else {
1835                 k = cos(M_PI / (double)n);
1836                 /* need x, real root of x^3 + (4k^2 - 3)x - 2k = 0.
1837                  * answer calculated via Wolfram Alpha */
1838                 k2 = k * k;
1839                 k4 = k2 * k2;
1840                 k6 = k4 * k2;
1841                 y = pow(1.73205080756888 * sqrt(64.0 * k6 - 144.0 * k4 + 135.0 * k2 - 27.0) + 9.0 * k,
1842                         1.0 / 3.0);
1843                 x = 0.480749856769136 * y - (0.231120424783545 * (12.0 * k2 - 9.0)) / y;
1844                 ans = (k * x + 2.0 * k2 - 1.0) / (x * x * (k * x + 1.0));
1845         }
1846         return (float)ans;
1847 }
1848
1849 /* Fill frac with fractions of way along ring 0 for vertex i, for use with interp_range function */
1850 static void fill_vmesh_fracs(VMesh *vm, float *frac, int i)
1851 {
1852         int k, ns;
1853         float total = 0.0f;
1854
1855         ns = vm->seg;
1856         frac[0] = 0.0f;
1857         for (k = 0; k < ns; k++) {
1858                 total += len_v3v3(mesh_vert(vm, i, 0, k)->co, mesh_vert(vm, i, 0, k + 1)->co);
1859                 frac[k + 1] = total;
1860         }
1861         if (total > BEVEL_EPSILON) {
1862                 for (k = 1; k <= ns; k++)
1863                         frac[k] /= total;
1864         }
1865 }
1866
1867 /* Like fill_vmesh_fracs but want fractions for profile points of bndv, with ns segments */
1868 static void fill_profile_fracs(BevelParams *bp, BoundVert *bndv, float *frac, int ns)
1869 {
1870         int k;
1871         float co[3], nextco[3];
1872         float total = 0.0f;
1873
1874         frac[0] = 0.0f;
1875         copy_v3_v3(co, bndv->nv.co);
1876         for (k = 0; k < ns; k++) {
1877                 get_profile_point(bp, &bndv->profile, k + 1, ns, nextco);
1878                 total += len_v3v3(co, nextco);
1879                 frac[k + 1] = total;
1880                 copy_v3_v3(co, nextco);
1881         }
1882         if (total > BEVEL_EPSILON) {
1883                 for (k = 1; k <= ns; k++) {
1884                         frac[k] /= total;
1885                 }
1886         }
1887 }
1888
1889 /* Return i such that frac[i] <= f <= frac[i + 1], where frac[n] == 1.0
1890  * and put fraction of rest of way between frac[i] and frac[i + 1] into r_rest */
1891 static int interp_range(const float *frac, int n, const float f, float *r_rest)
1892 {
1893         int i;
1894         float rest;
1895
1896         /* could binary search in frac, but expect n to be reasonably small */
1897         for (i = 0; i < n; i++) {
1898                 if (f <= frac[i + 1]) {
1899                         rest = f - frac[i];
1900                         if (rest == 0)
1901                                 *r_rest = 0.0f;
1902                         else
1903                                 *r_rest = rest / (frac[i + 1] - frac[i]);
1904                         if (i == n - 1 && *r_rest == 1.0f) {
1905                                 i = n;
1906                                 *r_rest = 0.0f;
1907                         }
1908                         return i;
1909                 }
1910         }
1911         *r_rest = 0.0f;
1912         return n;
1913 }
1914
1915 /* Interpolate given vmesh to make one with target nseg border vertices on the profiles */
1916 static VMesh *interp_vmesh(BevelParams *bp, VMesh *vm0, int nseg)
1917 {
1918         int n, ns0, nseg2, odd, i, j, k, j0, k0, k0prev;
1919         float *prev_frac, *frac, *new_frac, *prev_new_frac;
1920         float f, restj, restk, restkprev;
1921         float quad[4][3], co[3], center[3];
1922         VMesh *vm1;
1923         BoundVert *bndv;
1924
1925         n = vm0->count;
1926         ns0 = vm0->seg;
1927         nseg2 = nseg / 2;
1928         odd = nseg % 2;
1929         vm1 = new_adj_vmesh(bp->mem_arena, n, nseg, vm0->boundstart);
1930
1931         prev_frac = BLI_array_alloca(prev_frac, (ns0 + 1));
1932         frac = BLI_array_alloca(frac, (ns0 + 1));
1933         new_frac = BLI_array_alloca(new_frac, (nseg + 1));
1934         prev_new_frac = BLI_array_alloca(prev_new_frac, (nseg + 1));
1935
1936         fill_vmesh_fracs(vm0, prev_frac, n - 1);
1937         bndv = vm0->boundstart;
1938         fill_profile_fracs(bp, bndv->prev, prev_new_frac, nseg);
1939         for (i = 0; i < n; i++) {
1940                 fill_vmesh_fracs(vm0, frac, i);
1941                 fill_profile_fracs(bp, bndv, new_frac, nseg);
1942                 for (j = 0; j <= nseg2 - 1 + odd; j++) {
1943                         for (k = 0; k <= nseg2; k++) {
1944                                 f = new_frac[k];
1945                                 k0 = interp_range(frac, ns0, f, &restk);
1946                                 f = prev_new_frac[nseg - j];
1947                                 k0prev = interp_range(prev_frac, ns0, f, &restkprev);
1948                                 j0 = ns0 - k0prev;
1949                                 restj = -restkprev;
1950                                 if (restj > -BEVEL_EPSILON) {
1951                                         restj = 0.0f;
1952                                 }
1953                                 else {
1954                                         j0 = j0 - 1;
1955                                         restj = 1.0f + restj;
1956                                 }
1957                                 /* Use bilinear interpolation within the source quad; could be smarter here */
1958                                 if (restj < BEVEL_EPSILON && restk < BEVEL_EPSILON) {
1959                                         copy_v3_v3(co, mesh_vert_canon(vm0, i, j0, k0)->co);
1960                                 }
1961                                 else {
1962                                         copy_v3_v3(quad[0], mesh_vert_canon(vm0, i, j0, k0)->co);
1963                                         copy_v3_v3(quad[1], mesh_vert_canon(vm0, i, j0, k0 + 1)->co);
1964                                         copy_v3_v3(quad[2], mesh_vert_canon(vm0, i, j0 + 1, k0 + 1)->co);
1965                                         copy_v3_v3(quad[3], mesh_vert_canon(vm0, i, j0 + 1, k0)->co);
1966                                         interp_bilinear_quad_v3(quad, restk, restj, co);
1967                                 }
1968                                 copy_v3_v3(mesh_vert(vm1, i, j, k)->co, co);
1969                         }
1970                 }
1971                 bndv = bndv->next;
1972                 memcpy(prev_frac, frac, (ns0 + 1) * sizeof(float));
1973                 memcpy(prev_new_frac, new_frac, (nseg + 1) * sizeof(float));
1974         }
1975         if (!odd) {
1976                 vmesh_center(vm0, center);
1977                 copy_v3_v3(mesh_vert(vm1, 0, nseg2, nseg2)->co, center);
1978         }
1979         vmesh_copy_equiv_verts(vm1);
1980         return vm1;
1981 }
1982
1983 /* Do one step of cubic subdivision (Catmull-Clark), with special rules at boundaries.
1984  * For now, this is written assuming vm0->nseg is even and > 0.
1985  * We are allowed to modify vm0, as it will not be used after this call.
1986  * See Levin 1999 paper: "Filling an N-sided hole using combined subdivision schemes". */
1987 static VMesh *cubic_subdiv(BevelParams *bp, VMesh *vm0)
1988 {
1989         int n, ns0, ns20, ns1;
1990         int i, j, k, inext;
1991         float co[3], co1[3], co2[3], acc[3];
1992         float beta, gamma;
1993         VMesh *vm1;
1994         BoundVert *bndv;
1995         
1996         n = vm0->count;
1997         ns0 = vm0->seg;
1998         ns20 = ns0 / 2;
1999         BLI_assert(ns0 % 2 == 0);
2000         ns1 = 2 * ns0;
2001         vm1 = new_adj_vmesh(bp->mem_arena, n, ns1, vm0->boundstart);
2002
2003         /* First we adjust the boundary vertices of the input mesh, storing in output mesh */
2004         for (i = 0; i < n; i++) {
2005                 copy_v3_v3(mesh_vert(vm1, i, 0, 0)->co, mesh_vert(vm0, i, 0, 0)->co);
2006                 for (k = 1; k < ns0; k++) {
2007                         /* smooth boundary rule */
2008                         copy_v3_v3(co, mesh_vert(vm0, i, 0, k)->co);
2009                         copy_v3_v3(co1, mesh_vert(vm0, i, 0, k - 1)->co);
2010                         copy_v3_v3(co2, mesh_vert(vm0, i, 0, k + 1)->co);
2011
2012                         add_v3_v3v3(acc, co1, co2);
2013                         madd_v3_v3fl(acc, co, -2.0f);
2014                         madd_v3_v3fl(co, acc, -1.0f / 6.0f);
2015                         
2016                         copy_v3_v3(mesh_vert_canon(vm1, i, 0, 2 * k)->co, co);
2017                 }
2018         }
2019         /* now do odd ones in output mesh, based on even ones */
2020         bndv = vm1->boundstart;
2021         for (i = 0; i < n; i++) {
2022                 for (k = 1; k < ns1; k += 2) {
2023                         get_profile_point(bp, &bndv->profile, k, ns1, co);
2024                         copy_v3_v3(co1, mesh_vert_canon(vm1, i, 0, k - 1)->co);
2025                         copy_v3_v3(co2, mesh_vert_canon(vm1, i, 0, k + 1)->co);
2026
2027                         add_v3_v3v3(acc, co1, co2);
2028                         madd_v3_v3fl(acc, co, -2.0f);
2029                         madd_v3_v3fl(co, acc, -1.0f / 6.0f);
2030                         
2031                         copy_v3_v3(mesh_vert_canon(vm1, i, 0, k)->co, co);
2032                 }
2033                 bndv = bndv->next;
2034         }
2035         vmesh_copy_equiv_verts(vm1);
2036
2037         /* Copy adjusted verts back into vm0 */
2038         for (i = 0; i < n; i++) {
2039                 for (k = 0; k < ns0; k++) {
2040                         copy_v3_v3(mesh_vert(vm0, i, 0, k)->co,
2041                                    mesh_vert(vm1, i, 0, 2 * k)->co);
2042                 }
2043         }
2044
2045         vmesh_copy_equiv_verts(vm0);
2046
2047         /* Now we do the internal vertices, using standard Catmull-Clark
2048          * and assuming all boundary vertices have valence 4 */
2049         
2050         /* The new face vertices */
2051         for (i = 0; i < n; i++) {
2052                 for (j = 0; j < ns20; j++) {
2053                         for (k = 0; k < ns20; k++) {
2054                                 /* face up and right from (j, k) */
2055                                 avg4(co,
2056                                      mesh_vert(vm0, i, j, k),
2057                                      mesh_vert(vm0, i, j, k + 1),
2058                                      mesh_vert(vm0, i, j + 1, k),
2059                                      mesh_vert(vm0, i, j + 1, k + 1));
2060                                 copy_v3_v3(mesh_vert(vm1, i, 2 * j + 1, 2 * k + 1)->co, co);
2061                         }
2062                 }
2063         }
2064
2065         /* The new vertical edge vertices  */
2066         for (i = 0; i < n; i++) {
2067                 for (j = 0; j < ns20; j++) {
2068                         for (k = 1; k <= ns20; k++) {
2069                                 /* vertical edge between (j, k) and (j+1, k) */
2070                                 avg4(co, mesh_vert(vm0, i, j, k),
2071                                          mesh_vert(vm0, i, j + 1, k),
2072                                          mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k - 1),
2073                                          mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k + 1));
2074                                 copy_v3_v3(mesh_vert(vm1, i, 2 * j + 1, 2 * k)->co, co);
2075                         }
2076                 }
2077         }
2078
2079         /* The new horizontal edge vertices  */
2080         for (i = 0; i < n; i++) {
2081                 for (j = 1; j < ns20; j++) {
2082                         for (k = 0; k < ns20; k++) {
2083                                 /* horizontal edge between (j, k) and (j, k+1) */
2084                                 avg4(co, mesh_vert(vm0, i, j, k),
2085                                          mesh_vert(vm0, i, j, k + 1),
2086                                          mesh_vert_canon(vm1, i, 2 * j - 1, 2 * k + 1),
2087                                          mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k + 1));
2088                                 copy_v3_v3(mesh_vert(vm1, i, 2 * j, 2 * k + 1)->co, co);
2089                         }
2090                 }
2091         }
2092
2093         /* The new vertices, not on border */
2094         gamma = 0.25f;
2095         beta = -gamma;
2096         for (i = 0; i < n; i++) {
2097                 for (j = 1; j < ns20; j++) {
2098                         for (k = 1; k <= ns20; k++) {
2099                                 /* co1 = centroid of adjacent new edge verts */
2100                                 avg4(co1, mesh_vert_canon(vm1, i, 2 * j, 2 * k - 1),
2101                                           mesh_vert_canon(vm1, i, 2 * j, 2 * k + 1),
2102                                           mesh_vert_canon(vm1, i, 2 * j - 1, 2 * k),
2103                                           mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k));
2104                                 /* co2 = centroid of adjacent new face verts */
2105                                 avg4(co2, mesh_vert_canon(vm1, i, 2 * j - 1, 2 * k - 1),
2106                                           mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k - 1),
2107                                           mesh_vert_canon(vm1, i, 2 * j - 1, 2 * k + 1),
2108                                           mesh_vert_canon(vm1, i, 2 * j + 1, 2 * k + 1));
2109                                 /* combine with original vert with alpha, beta, gamma factors */
2110                                 copy_v3_v3(co, co1);  /* alpha = 1.0 */
2111                                 madd_v3_v3fl(co, co2, beta);
2112                                 madd_v3_v3fl(co, mesh_vert(vm0, i, j, k)->co, gamma);
2113                                 copy_v3_v3(mesh_vert(vm1, i, 2 * j, 2 * k)->co, co);
2114                         }
2115                 }
2116         }
2117
2118         vmesh_copy_equiv_verts(vm1);
2119
2120         /* The center vertex is special */
2121         gamma = sabin_gamma(n);
2122         beta = -gamma;
2123         /* accumulate edge verts in co1, face verts in co2 */
2124         zero_v3(co1);
2125         zero_v3(co2);
2126         for (i = 0; i < n; i++) {
2127                 add_v3_v3(co1, mesh_vert(vm1, i, ns0, ns0 - 1)->co);
2128                 add_v3_v3(co2, mesh_vert(vm1, i, ns0 - 1, ns0 - 1)->co);
2129                 add_v3_v3(co2, mesh_vert(vm1, i, ns0 - 1, ns0 + 1)->co);
2130         }
2131         copy_v3_v3(co, co1);
2132         mul_v3_fl(co, 1.0f / (float)n);
2133         madd_v3_v3fl(co, co2, beta / (2.0f * (float)n));
2134         madd_v3_v3fl(co, mesh_vert(vm0, 0, ns20, ns20)->co, gamma);
2135         for (i = 0; i < n; i++)
2136                 copy_v3_v3(mesh_vert(vm1, i, ns0, ns0)->co, co);
2137
2138         /* Final step: sample the boundary vertices at even parameter spacing */
2139         bndv = vm1->boundstart;
2140         for (i = 0; i < n; i++) {
2141                 inext = (i + 1) % n;
2142                 for (k = 0; k <= ns1; k++) {
2143                         get_profile_point(bp, &bndv->profile, k, ns1, co);
2144                         copy_v3_v3(mesh_vert(vm1, i, 0, k)->co, co);
2145                         if (k >= ns0 && k < ns1) {
2146                                 copy_v3_v3(mesh_vert(vm1, inext, ns1 - k, 0)->co, co);
2147                         }
2148                 }
2149                 bndv = bndv->next;
2150         }
2151
2152         return vm1;
2153 }
2154
2155 /* Special case for cube corner, when r is PRO_SQUARE_R,
2156  * meaning straight sides */
2157 static VMesh *make_cube_corner_straight(MemArena *mem_arena, int nseg)
2158 {
2159         VMesh *vm;
2160         float co[3];
2161         int i, j, k, ns2;
2162
2163         ns2 = nseg / 2;
2164         vm = new_adj_vmesh(mem_arena, 3, nseg, NULL);
2165         vm->count = 0;  // reset, so following loop will end up with correct count
2166         for (i = 0; i < 3; i++) {
2167                 zero_v3(co);
2168                 co[i] = 1.0f;
2169                 add_new_bound_vert(mem_arena, vm, co);
2170         }
2171         for (i = 0; i < 3; i++) {
2172                 for (j = 0; j <= ns2; j++) {
2173                         for (k = 0; k <= ns2; k++) {
2174                                 if (!is_canon(vm, i, j, k))
2175                                         continue;
2176                                 co[i] = 1.0f;
2177                                 co[(i + 1) % 3] = (float)k * 2.0f / (float)nseg;
2178                                 co[(i + 2) % 3] = (float)j * 2.0f / (float)nseg;
2179                                 copy_v3_v3(mesh_vert(vm, i, j, k)->co, co);
2180                         }
2181                 }
2182         }
2183         vmesh_copy_equiv_verts(vm);
2184         return vm;
2185 }
2186
2187 /* Make a VMesh with nseg segments that covers the unit radius sphere octant
2188  * with center at (0,0,0).
2189  * This has BoundVerts at (1,0,0), (0,1,0) and (0,0,1), with quarter circle arcs
2190  * on the faces for the orthogonal planes through the origin.
2191  */
2192 static VMesh *make_cube_corner_adj_vmesh(BevelParams *bp)
2193 {
2194         MemArena *mem_arena = bp->mem_arena;
2195         int nseg = bp->seg;
2196         float r = bp->pro_super_r;
2197         VMesh *vm0, *vm1;
2198         BoundVert *bndv;
2199         int i, j, k, ns2;
2200         float co[3], coc[3];
2201         float w;
2202
2203         if (r == PRO_SQUARE_R)
2204                 return make_cube_corner_straight(mem_arena, nseg);
2205
2206         /* initial mesh has 3 sides, 2 segments */
2207         vm0 = new_adj_vmesh(mem_arena, 3, 2, NULL);
2208         vm0->count = 0;  // reset, so following loop will end up with correct count
2209         for (i = 0; i < 3; i++) {
2210                 zero_v3(co);
2211                 co[i] = 1.0f;
2212                 add_new_bound_vert(mem_arena, vm0, co);
2213         }
2214         bndv = vm0->boundstart;
2215         for (i = 0; i < 3; i++) {
2216                 /* Get point, 1/2 of the way around profile, on arc between this and next */
2217                 coc[i] = 1.0f;
2218                 coc[(i + 1) % 3] = 1.0f;
2219                 coc[(i + 2) % 3] = 0.0f;
2220                 bndv->profile.super_r = r;
2221                 copy_v3_v3(bndv->profile.coa, bndv->nv.co);
2222                 copy_v3_v3(bndv->profile.cob, bndv->next->nv.co);
2223                 copy_v3_v3(bndv->profile.midco, coc);
2224                 copy_v3_v3(mesh_vert(vm0, i, 0, 0)->co, bndv->profile.coa);
2225                 copy_v3_v3(bndv->profile.plane_co, bndv->profile.coa);
2226                 cross_v3_v3v3(bndv->profile.plane_no, bndv->profile.coa, bndv->profile.cob);
2227                 copy_v3_v3(bndv->profile.proj_dir, bndv->profile.plane_no);
2228                 calculate_profile(bp, bndv);
2229                 get_profile_point(bp, &bndv->profile, 1, 2, mesh_vert(vm0, i, 0, 1)->co);
2230                 
2231                 bndv = bndv->next;
2232         }
2233         /* center vertex */
2234         w = 0.57735027f;  /* 1/sqrt(3) */
2235         co[0] = w;
2236         co[1] = w;
2237         co[2] = w;
2238         if (nseg > 2) {
2239                 if (r > 1.5f)
2240                         mul_v3_fl(co, 1.4f);
2241                 else if (r < 0.75f)
2242                         mul_v3_fl(co, 0.6f);
2243         }
2244         copy_v3_v3(mesh_vert(vm0, 0, 1, 1)->co, co);
2245
2246         vmesh_copy_equiv_verts(vm0);
2247
2248         vm1 = vm0;
2249         while (vm1->seg < nseg) {
2250                 vm1 = cubic_subdiv(bp, vm1);
2251         }
2252         if (vm1->seg != nseg)
2253                 vm1 = interp_vmesh(bp, vm1, nseg);
2254
2255         /* Now snap each vertex to the superellipsoid */
2256         ns2 = nseg / 2;
2257         for (i = 0; i < 3; i++) {
2258                 for (j = 0; j <= ns2; j++) {
2259                         for (k = 0; k <= nseg; k++) {
2260                                 snap_to_superellipsoid(mesh_vert(vm1, i, j, k)->co, r, false);
2261                         }
2262                 }
2263         }
2264         return vm1;
2265 }
2266
2267 /* Is this a good candidate for using tri_corner_adj_vmesh? */
2268 static bool tri_corner_test(BevelParams *bp, BevVert *bv)
2269 {
2270         float ang, totang, angdiff;
2271         EdgeHalf *e;
2272         int i;
2273
2274         if (bv->edgecount != 3 || bv->selcount != 3)
2275                 return false;
2276         totang = 0.0f;
2277         for (i = 0; i < 3; i++) {
2278                 e = &bv->edges[i];
2279                 ang = BM_edge_calc_face_angle_signed_ex(e->e, 0.0f);
2280                 if (ang <= (float) M_PI_4 || ang >= 3.0f * (float) M_PI_4)
2281                         return false;
2282                 totang += ang;
2283         }
2284         angdiff = fabsf(totang - 3.0f * (float)M_PI_2);
2285         if ((bp->pro_super_r == PRO_SQUARE_R && angdiff > (float)M_PI / 16.0f) ||
2286             (angdiff > (float)M_PI_4))
2287         {
2288                 return false;
2289         }
2290         return true;
2291 }
2292
2293 static VMesh *tri_corner_adj_vmesh(BevelParams *bp, BevVert *bv)
2294 {
2295         int i, j, k, ns, ns2;
2296         float co0[3], co1[3], co2[3];
2297         float mat[4][4], v[4];
2298         VMesh *vm;
2299         BoundVert *bndv;
2300
2301         BLI_assert(bv->edgecount == 3 && bv->selcount == 3);
2302         bndv = bv->vmesh->boundstart;
2303         copy_v3_v3(co0, bndv->nv.co);
2304         bndv = bndv->next;
2305         copy_v3_v3(co1, bndv->nv.co);
2306         bndv = bndv->next;
2307         copy_v3_v3(co2, bndv->nv.co);
2308         make_unit_cube_map(co0, co1, co2, bv->v->co, mat);
2309         ns = bp->seg;
2310         ns2 = ns / 2;
2311         vm = make_cube_corner_adj_vmesh(bp);
2312         for (i = 0; i < 3; i++) {
2313                 for (j = 0; j <= ns2; j++) {
2314                         for (k = 0; k <= ns; k++) {
2315                                 copy_v3_v3(v, mesh_vert(vm, i, j, k)->co);
2316                                 v[3] = 1.0f;
2317                                 mul_m4_v4(mat, v);
2318                                 copy_v3_v3(mesh_vert(vm, i, j, k)->co, v);
2319                         }
2320                 }
2321         }
2322
2323         return vm;
2324 }
2325
2326 static VMesh *adj_vmesh(BevelParams *bp, BevVert *bv)
2327 {
2328         int n, ns, i;
2329         VMesh *vm0, *vm1;
2330         float co[3], coa[3], cob[3], dir[3];
2331         BoundVert *bndv;
2332         MemArena *mem_arena = bp->mem_arena;
2333         float r, fac, fullness;
2334
2335         /* First construct an initial control mesh, with nseg==2 */
2336         n = bv->vmesh->count;
2337         ns = bv->vmesh->seg;
2338         vm0 = new_adj_vmesh(mem_arena, n, 2, bv->vmesh->boundstart);
2339
2340         bndv = vm0->boundstart;
2341         zero_v3(co);
2342         for (i = 0; i < n; i++) {
2343                 /* Boundaries just divide input polygon edges into 2 even segments */
2344                 copy_v3_v3(mesh_vert(vm0, i, 0, 0)->co, bndv->nv.co);
2345                 get_profile_point(bp, &bndv->profile, 1, 2, mesh_vert(vm0, i, 0, 1)->co);
2346                 add_v3_v3(co, bndv->nv.co);
2347                 bndv = bndv->next;
2348         }
2349         /* To place center vertex:
2350          * coa is original vertex
2351          * co is centroid of boundary corners
2352          * cob is reflection of coa in across co.
2353          * Calculate 'fullness' = fraction of way
2354          * from co to coa (if positive) or to cob (if negative).
2355          */
2356         copy_v3_v3(coa, bv->v->co);
2357         mul_v3_fl(co, 1.0f / (float)n);
2358         sub_v3_v3v3(cob, co, coa);
2359         add_v3_v3(cob, co);
2360         r = bp->pro_super_r;
2361         if (r == 1.0f)
2362                 fullness = 0.0f;
2363         else if (r > 1.0f) {
2364                 if (bp->vertex_only)
2365                         fac = 0.25f;
2366                 else if (r == PRO_SQUARE_R)
2367                         fac = -2.0;
2368                 else
2369                         fac = 0.5f;
2370                 fullness = 1.0f - fac / r;
2371         }
2372         else {
2373                 fullness = r - 1.0f;
2374         }
2375         sub_v3_v3v3(dir, coa, co);
2376         if (len_squared_v3(dir) > BEVEL_EPSILON_SQ)
2377                 madd_v3_v3fl(co, dir, fullness);
2378         copy_v3_v3(mesh_vert(vm0, 0, 1, 1)->co, co);
2379         vmesh_copy_equiv_verts(vm0);
2380
2381         vm1 = vm0;
2382         do {
2383                 vm1 = cubic_subdiv(bp, vm1);
2384         } while (vm1->seg < ns);
2385         if (vm1->seg != ns)
2386                 vm1 = interp_vmesh(bp, vm1, ns);
2387         return vm1;
2388 }
2389
2390 /* Snap co to the closest point on the profile for vpipe projected onto the plane
2391  * containing co with normal in the direction of edge vpipe->ebev.
2392  * For the square profiles, need to decide whether to snap to just one plane
2393  * or to the midpoint of the profile; do so if midline is true. */
2394 static void snap_to_pipe_profile(BoundVert *vpipe, bool midline, float co[3])
2395 {
2396         float va[3], vb[3], edir[3], va0[3], vb0[3], vmid0[3];
2397         float plane[4], m[4][4], minv[4][4], p[3], snap[3];
2398         Profile *pro = &vpipe->profile;
2399         EdgeHalf *e = vpipe->ebev;
2400
2401         copy_v3_v3(va, pro->coa);
2402         copy_v3_v3(vb, pro->cob);
2403
2404         sub_v3_v3v3(edir, e->e->v1->co, e->e->v2->co);
2405
2406         plane_from_point_normal_v3(plane, co, edir);
2407         closest_to_plane_v3(va0, plane, va);
2408         closest_to_plane_v3(vb0, plane, vb);
2409         closest_to_plane_v3(vmid0, plane, pro->midco);
2410         if (make_unit_square_map(va0, vmid0, vb0, m)) {
2411                 /* Transform co and project it onto superellipse */
2412                 if (!invert_m4_m4(minv, m)) {
2413                         /* shouldn't happen */
2414                         BLI_assert(!"failed inverse during pipe profile snap");
2415                         return;
2416                 }
2417                 mul_v3_m4v3(p, minv, co);
2418                 snap_to_superellipsoid(p, pro->super_r, midline);
2419                 mul_v3_m4v3(snap, m, p);
2420                 copy_v3_v3(co, snap);
2421         }
2422         else {
2423                 /* planar case: just snap to line va0--vb0 */
2424                 closest_to_line_segment_v3(p, co, va0, vb0);
2425                 copy_v3_v3(co, p);
2426         }
2427 }
2428
2429 /* See pipe_test for conditions that make 'pipe'; vpipe is the return value from that.
2430  * We want to make an ADJ mesh but then snap the vertices to the profile in a plane
2431  * perpendicular to the pipes.
2432  * A tricky case is for the 'square' profiles and an even nseg: we want certain vertices
2433  * to snap to the midline on the pipe, not just to one plane or the other. */
2434 static VMesh *pipe_adj_vmesh(BevelParams *bp, BevVert *bv, BoundVert *vpipe)
2435 {
2436         int i, j, k, n, ns, ns2, ipipe1, ipipe2;
2437         VMesh *vm;
2438         bool even, midline;
2439
2440         vm = adj_vmesh(bp, bv);
2441
2442         /* Now snap all interior coordinates to be on the epipe profile */
2443         n = bv->vmesh->count;
2444         ns = bv->vmesh->seg;
2445         ns2 = ns / 2;
2446         even = (ns % 2) == 0;
2447         ipipe1 = vpipe->index;
2448         ipipe2 = vpipe->next->next->index;
2449         for (i = 0; i < n; i++) {
2450                 for (j = 1; j <= ns2; j++) {
2451                         for (k = 0; k <= ns2; k++) {
2452                                 if (!is_canon(vm, i, j, k))
2453                                         continue;
2454                                 midline = even && k == ns2 &&
2455                                           ((i == 0 && j == ns2) || (i == ipipe1 || i == ipipe2));
2456                                 snap_to_pipe_profile(vpipe, midline, mesh_vert(vm, i, j, k)->co);
2457                         }
2458                 }
2459         }
2460
2461         return vm;
2462 }
2463
2464 /*
2465  * Given that the boundary is built and the boundary BMVerts have been made,
2466  * calculate the positions of the interior mesh points for the M_ADJ pattern,
2467  * using cubic subdivision, then make the BMVerts and the new faces. */
2468 static void bevel_build_rings(BevelParams *bp, BMesh *bm, BevVert *bv)
2469 {
2470         int n, ns, ns2, odd, i, j, k, ring;
2471         VMesh *vm1, *vm;
2472         BoundVert *v;
2473         BMVert *bmv1, *bmv2, *bmv3, *bmv4;
2474         BMFace *f, *f2, *f23;
2475         BoundVert *vpipe;
2476
2477         n = bv->vmesh->count;
2478         ns = bv->vmesh->seg;
2479         ns2 = ns / 2;
2480         odd = ns % 2;
2481         BLI_assert(n >= 3 && ns > 1);
2482
2483         vpipe = pipe_test(bv);
2484
2485         if (vpipe)
2486                 vm1 = pipe_adj_vmesh(bp, bv, vpipe);
2487         else if (tri_corner_test(bp, bv))
2488                 vm1 = tri_corner_adj_vmesh(bp, bv);
2489         else
2490                 vm1 = adj_vmesh(bp, bv);
2491
2492         /* copy final vmesh into bv->vmesh, make BMVerts and BMFaces */
2493         vm = bv->vmesh;
2494         for (i = 0; i < n; i++) {
2495                 for (j = 0; j <= ns2; j++) {
2496                         for (k = 0; k <= ns; k++) {
2497                                 if (j == 0 && (k == 0 || k == ns))
2498                                         continue;  /* boundary corners already made */
2499                                 if (!is_canon(vm, i, j, k))
2500                                         continue;
2501                                 copy_v3_v3(mesh_vert(vm, i, j, k)->co, mesh_vert(vm1, i, j, k)->co);
2502                                 create_mesh_bmvert(bm, vm, i, j, k, bv->v);
2503                         }
2504                 }
2505         }
2506         vmesh_copy_equiv_verts(vm);
2507         /* make the polygons */
2508         v = vm->boundstart;
2509         do {
2510                 i = v->index;
2511                 f = boundvert_rep_face(v);
2512                 f2 = boundvert_rep_face(v->next);
2513                 /* For odd ns, make polys with lower left corner at (i,j,k) for
2514                  *    j in [0, ns2-1], k in [0, ns2].  And then the center ngon.
2515                  * For even ns,
2516                  *    j in [0, ns2-1], k in [0, ns2-1] */
2517                 for (j = 0; j < ns2; j++) {
2518                         for (k = 0; k < ns2 + odd; k++) {
2519                                 bmv1 = mesh_vert(vm, i, j, k)->v;
2520                                 bmv2 = mesh_vert(vm, i, j, k + 1)->v;
2521                                 bmv3 = mesh_vert(vm, i, j + 1, k + 1)->v;
2522                                 bmv4 = mesh_vert(vm, i, j + 1, k)->v;
2523                                 BLI_assert(bmv1 && bmv2 && bmv3 && bmv4);
2524                                 f23 = f;
2525                                 if (odd && k == ns2 && f2 && !v->any_seam)
2526                                         f23 = f2;
2527                                 bev_create_quad_tri_ex(bm, bmv1, bmv2, bmv3, bmv4,
2528                                                        f, f23, f23, f);
2529                         }
2530                 }
2531         } while ((v = v->next) != vm->boundstart);
2532
2533         /* Fix UVs along center lines if even number of segments */
2534         if (!odd) {
2535                 v = vm->boundstart;
2536                 do {
2537                         i = v->index;
2538                         if (!v->any_seam) {
2539                                 for (ring = 1; ring < ns2; ring++) {
2540                                         BMVert *v_uv = mesh_vert(vm, i, ring, ns2)->v;
2541                                         if (v_uv) {
2542                                                 bev_merge_uvs(bm, v_uv);
2543                                         }
2544                                 }
2545                         }
2546                 } while ((v = v->next) != vm->boundstart);
2547                 if (!bv->any_seam)
2548                         bev_merge_uvs(bm, mesh_vert(vm, 0, ns2, ns2)->v);
2549         }
2550
2551         /* center ngon */
2552         if (odd) {
2553                 BMVert **vv = NULL;
2554                 BMFace **vf = NULL;
2555                 BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
2556                 BLI_array_staticdeclare(vf, BM_DEFAULT_NGON_STACK_SIZE);
2557
2558                 v = vm->boundstart;
2559                 do {
2560                         i = v->index;
2561                         BLI_array_append(vv, mesh_vert(vm, i, ns2, ns2)->v);
2562                         BLI_array_append(vf, v->any_seam ? f : boundvert_rep_face(v));
2563                 } while ((v = v->next) != vm->boundstart);
2564                 f = boundvert_rep_face(vm->boundstart);
2565                 bev_create_ngon(bm, vv, BLI_array_count(vv), vf, f, true);
2566
2567                 BLI_array_free(vv);
2568         }
2569 }
2570
2571 static BMFace *bevel_build_poly(BMesh *bm, BevVert *bv)
2572 {
2573         BMFace *f;
2574         int n, k;
2575         VMesh *vm = bv->vmesh;
2576         BoundVert *v;
2577         BMFace *frep;
2578         BMVert **vv = NULL;
2579         BMFace **vf = NULL;
2580         BLI_array_staticdeclare(vv, BM_DEFAULT_NGON_STACK_SIZE);
2581         BLI_array_staticdeclare(vf, BM_DEFAULT_NGON_STACK_SIZE);
2582
2583         frep = boundvert_rep_face(vm->boundstart);
2584         v = vm->boundstart;
2585         n = 0;
2586         do {
2587                 /* accumulate vertices for vertex ngon */
2588                 /* also accumulate faces in which uv interpolation is to happen for each */
2589                 BLI_array_append(vv, v->nv.v);
2590                 BLI_array_append(vf, bv->any_seam ? frep : boundvert_rep_face(v));
2591                 n++;
2592                 if (v->ebev && v->ebev->seg > 1) {
2593                         for (k = 1; k < v->ebev->seg; k++) {
2594                                 BLI_array_append(vv, mesh_vert(vm, v->index, 0, k)->v);
2595                                 BLI_array_append(vf, bv->any_seam ? frep : boundvert_rep_face(v));
2596                                 n++;
2597                         }
2598                 }
2599         } while ((v = v->next) != vm->boundstart);
2600         if (n > 2) {
2601                 f = bev_create_ngon(bm, vv, n, vf, boundvert_rep_face(v), true);
2602         }
2603         else {
2604                 f = NULL;
2605         }
2606         BLI_array_free(vv);
2607         return f;
2608 }
2609
2610 static void bevel_build_trifan(BMesh *bm, BevVert *bv)
2611 {
2612         BMFace *f;
2613         BLI_assert(next_bev(bv, NULL)->seg == 1 || bv->selcount == 1);
2614
2615         f = bevel_build_poly(bm, bv);
2616
2617         if (f) {
2618                 /* we have a polygon which we know starts at the previous vertex, make it into a fan */
2619                 BMLoop *l_fan = BM_FACE_FIRST_LOOP(f)->prev;
2620                 BMVert *v_fan = l_fan->v;
2621
2622                 while (f->len > 3) {
2623                         BMLoop *l_new;
2624                         BMFace *f_new;
2625                         BLI_assert(v_fan == l_fan->v);
2626                         f_new = BM_face_split(bm, f, l_fan, l_fan->next->next, &l_new, NULL, false);
2627
2628                         if (f_new->len > f->len) {
2629                                 f = f_new;
2630                                 if      (l_new->v       == v_fan) { l_fan = l_new; }
2631                                 else if (l_new->next->v == v_fan) { l_fan = l_new->next; }
2632                                 else if (l_new->prev->v == v_fan) { l_fan = l_new->prev; }
2633                                 else { BLI_assert(0); }
2634                         }
2635                         else {
2636                                 if      (l_fan->v       == v_fan) { /* l_fan = l_fan; */ }
2637                                 else if (l_fan->next->v == v_fan) { l_fan = l_fan->next; }
2638                                 else if (l_fan->prev->v == v_fan) { l_fan = l_fan->prev; }
2639                                 else { BLI_assert(0); }
2640                         }
2641                 }
2642         }
2643 }
2644
2645 static void bevel_build_quadstrip(BMesh *bm, BevVert *bv)
2646 {
2647         BMFace *f;
2648         BLI_assert(bv->selcount == 2);
2649
2650         f = bevel_build_poly(bm, bv);
2651
2652         if (f) {
2653                 /* we have a polygon which we know starts at this vertex, make it into strips */
2654                 EdgeHalf *eh_a = bv->vmesh->boundstart->elast;
2655                 EdgeHalf *eh_b = next_bev(bv, eh_a->next);  /* since (selcount == 2) we know this is valid */
2656                 BMLoop *l_a = BM_face_vert_share_loop(f, eh_a->rightv->nv.v);
2657                 BMLoop *l_b = BM_face_vert_share_loop(f, eh_b->leftv->nv.v);
2658                 int split_count = bv->vmesh->seg + 1;  /* ensure we don't walk past the segments */
2659
2660                 while (f->len > 4 && split_count > 0) {
2661                         BMLoop *l_new;
2662                         BLI_assert(l_a->f == f);
2663                         BLI_assert(l_b->f == f);
2664
2665                         if (l_a-> v == l_b->v || l_a->next == l_b) {
2666                                 /* l_a->v and l_b->v can be the same or such that we'd make a 2-vertex poly */
2667                                 l_a = l_a->prev;
2668                                 l_b = l_b->next;
2669                         }
2670                         else {
2671                                 BM_face_split(bm, f, l_a, l_b, &l_new, NULL, false);
2672                                 f = l_new->f;
2673
2674                                 /* walk around the new face to get the next verts to split */
2675                                 l_a = l_new->prev;
2676                                 l_b = l_new->next->next;
2677                         }
2678                         split_count--;
2679                 }
2680         }
2681 }
2682
2683 /* Given that the boundary is built, now make the actual BMVerts
2684  * for the boundary and the interior of the vertex mesh. */
2685 static void build_vmesh(BevelParams *bp, BMesh *bm, BevVert *bv)
2686 {
2687         MemArena *mem_arena = bp->mem_arena;
2688         VMesh *vm = bv->vmesh;
2689         BoundVert *v, *weld1, *weld2;
2690         int n, ns, ns2, i, k, weld;
2691         float *va, *vb, co[3];
2692
2693         n = vm->count;
2694         ns = vm->seg;
2695         ns2 = ns / 2;
2696
2697         vm->mesh = (NewVert *)BLI_memarena_alloc(mem_arena, n * (ns2 + 1) * (ns + 1) * sizeof(NewVert));
2698
2699         /* special case: two beveled ends welded together */
2700         weld = (bv->selcount == 2) && (vm->count == 2);
2701         weld1 = weld2 = NULL;   /* will hold two BoundVerts involved in weld */
2702
2703         /* make (i, 0, 0) mesh verts for all i */
2704         v = vm->boundstart;
2705         do {
2706                 i = v->index;
2707                 copy_v3_v3(mesh_vert(vm, i, 0, 0)->co, v->nv.co);
2708                 create_mesh_bmvert(bm, vm, i, 0, 0, bv->v);
2709                 v->nv.v = mesh_vert(vm, i, 0, 0)->v;
2710                 if (weld && v->ebev) {
2711                         if (!weld1)
2712                                 weld1 = v;
2713                         else {
2714                                 weld2 = v;
2715                                 move_weld_profile_planes(bv, weld1, weld2);
2716                                 calculate_profile(bp, weld1);
2717                                 calculate_profile(bp, weld2);
2718                         }
2719                 }
2720         } while ((v = v->next) != vm->boundstart);
2721
2722         /* copy other ends to (i, 0, ns) for all i, and fill in profiles for edges */
2723         v = vm->boundstart;
2724         do {
2725                 i = v->index;
2726                 copy_mesh_vert(vm, i, 0, ns, v->next->index, 0, 0);
2727                 for (k = 1; k < ns; k++) {
2728                         if (v->ebev && vm->mesh_kind != M_ADJ) {
2729                                 get_profile_point(bp, &v->profile, k, ns, co);
2730                                 copy_v3_v3(mesh_vert(vm, i, 0, k)->co, co);
2731                                 if (!weld)
2732                                         create_mesh_bmvert(bm, vm, i, 0, k, bv->v);
2733                         }
2734                 }
2735         } while ((v = v->next) != vm->boundstart);
2736
2737         if (weld) {
2738                 vm->mesh_kind = M_NONE;
2739                 for (k = 1; k < ns; k++) {
2740                         va = mesh_vert(vm, weld1->index, 0, k)->co;
2741                         vb = mesh_vert(vm, weld2->index, 0, ns - k)->co;
2742                         /* if one of the profiles is on a flat plane,
2743                          * just use the boundary point of the other */
2744                         if (weld1->profile.super_r == PRO_LINE_R &&
2745                             weld2->profile.super_r != PRO_LINE_R)
2746                         {
2747                                 copy_v3_v3(co, vb);
2748                         }
2749                         else if (weld2->profile.super_r == PRO_LINE_R &&
2750                                  weld1->profile.super_r != PRO_LINE_R)
2751                         {
2752                                 copy_v3_v3(co, va);
2753                         }
2754                         else {
2755                                 mid_v3_v3v3(co, va, vb);
2756                         }
2757                         copy_v3_v3(mesh_vert(vm, weld1->index, 0, k)->co, co);
2758                         create_mesh_bmvert(bm, vm, weld1->index, 0, k, bv->v);
2759                 }
2760                 for (k = 1; k < ns; k++)
2761                         copy_mesh_vert(vm, weld2->index, 0, ns - k, weld1->index, 0, k);
2762         }
2763
2764         switch (vm->mesh_kind) {
2765                 case M_NONE:
2766                         /* do nothing */
2767                         break;
2768                 case M_POLY:
2769                         bevel_build_poly(bm, bv);
2770                         break;
2771                 case M_ADJ:
2772                         bevel_build_rings(bp, bm, bv);
2773                         break;
2774                 case M_TRI_FAN:
2775                         bevel_build_trifan(bm, bv);
2776                         break;
2777                 case M_QUAD_STRIP:
2778                         bevel_build_quadstrip(bm, bv);
2779                         break;
2780         }
2781 }
2782
2783 /* Return the angle between the two faces adjacent to e.
2784  * If there are not two, return 0. */
2785 static float edge_face_angle(EdgeHalf *e)
2786 {
2787         if (e->fprev && e->fnext) {
2788                 /* angle between faces is supplement of angle between face normals */
2789                 return (float)M_PI - angle_normalized_v3v3(e->fprev->no, e->fnext->no);
2790         }
2791         else {
2792                 return 0.0f;
2793         }
2794 }
2795
2796 /* take care, this flag isn't cleared before use, it just so happens that its not set */
2797 #define BM_BEVEL_EDGE_TAG_ENABLE(bme)  BM_ELEM_API_FLAG_ENABLE(  (bme), _FLAG_OVERLAP)
2798 #define BM_BEVEL_EDGE_TAG_DISABLE(bme) BM_ELEM_API_FLAG_DISABLE( (bme), _FLAG_OVERLAP)
2799 #define BM_BEVEL_EDGE_TAG_TEST(bme)    BM_ELEM_API_FLAG_TEST(    (bme), _FLAG_OVERLAP)
2800
2801 /*
2802  * Construction around the vertex
2803  */
2804 static BevVert *bevel_vert_construct(BMesh *bm, BevelParams *bp, BMVert *v)
2805 {
2806         BMEdge *bme;
2807         BevVert *bv;
2808         BMEdge *bme2, *unflagged_bme, *first_bme;
2809         BMFace *f;
2810         BMVert *v1, *v2;
2811         BMIter iter, iter2;
2812         EdgeHalf *e;
2813         float weight, z;
2814         int i, found_shared_face, ccw_test_sum;
2815         int nsel = 0;
2816         int ntot = 0;
2817         int fcnt;
2818
2819         /* Gather input selected edges.
2820          * Only bevel selected edges that have exactly two incident faces.
2821          * Want edges to be ordered so that they share faces.
2822          * There may be one or more chains of shared faces broken by
2823          * gaps where there are no faces.
2824          * TODO: make following work when more than one gap.
2825          */
2826
2827         first_bme = NULL;
2828         BM_ITER_ELEM (bme, &iter, v, BM_EDGES_OF_VERT) {
2829                 fcnt = BM_edge_face_count(bme);
2830                 if (BM_elem_flag_test(bme, BM_ELEM_TAG) && !bp->vertex_only) {
2831                         BLI_assert(fcnt == 2);
2832                         nsel++;
2833                         if (!first_bme)
2834                                 first_bme = bme;
2835                 }
2836                 if (fcnt == 1) {
2837                         /* good to start face chain from this edge */
2838                         first_bme = bme;
2839                 }
2840                 ntot++;
2841
2842                 BM_BEVEL_EDGE_TAG_DISABLE(bme);
2843         }
2844         if (!first_bme)
2845                 first_bme = v->e;
2846
2847         if ((nsel == 0 && !bp->vertex_only) || (ntot < 2 && bp->vertex_only)) {
2848                 /* signal this vert isn't being beveled */
2849                 BM_elem_flag_disable(v, BM_ELEM_TAG);
2850                 return NULL;
2851         }
2852
2853         /* avoid calling BM_vert_edge_count since we loop over edges already */
2854         // ntot = BM_vert_edge_count(v);
2855         // BLI_assert(ntot == BM_vert_edge_count(v));
2856
2857         bv = (BevVert *)BLI_memarena_alloc(bp->mem_arena, (sizeof(BevVert)));
2858         bv->v = v;
2859         bv->edgecount = ntot;
2860         bv->selcount = nsel;
2861         bv->offset = bp->offset;
2862         bv->edges = (EdgeHalf *)BLI_memarena_alloc(bp->mem_arena, ntot * sizeof(EdgeHalf));
2863         bv->vmesh = (VMesh *)BLI_memarena_alloc(bp->mem_arena, sizeof(VMesh));
2864         bv->vmesh->seg = bp->seg;
2865
2866         if (bp->vertex_only) {
2867                 /* if weighted, modify offset by weight */
2868                 if (bp->dvert != NULL && bp->vertex_group != -1) {
2869                         weight = defvert_find_weight(bp->dvert + BM_elem_index_get(v), bp->vertex_group);
2870                         if (weight <= 0.0f) {
2871                                 BM_elem_flag_disable(v, BM_ELEM_TAG);
2872                                 return NULL;
2873                         }
2874                         bv->offset *= weight;
2875                 }
2876         }
2877         BLI_ghash_insert(bp->vert_hash, v, bv);
2878
2879         /* add edges to bv->edges in order that keeps adjacent edges sharing
2880          * a face, if possible */
2881         i = 0;
2882
2883         bme = first_bme;
2884         BM_BEVEL_EDGE_TAG_ENABLE(bme);
2885         e = &bv->edges[0];
2886         e->e = bme;
2887         for (i = 0; i < ntot; i++) {
2888                 if (i > 0) {
2889                         /* find an unflagged edge bme2 that shares a face f with previous bme */
2890                         found_shared_face = 0;
2891                         unflagged_bme = NULL;
2892                         BM_ITER_ELEM (bme2, &iter, v, BM_EDGES_OF_VERT) {
2893                                 if (BM_BEVEL_EDGE_TAG_TEST(bme2))
2894                                         continue;
2895                                 if (!unflagged_bme)
2896                                         unflagged_bme = bme2;
2897                                 if (!bme->l)
2898                                         continue;
2899                                 BM_ITER_ELEM (f, &iter2, bme2, BM_FACES_OF_EDGE) {
2900                                         if (BM_face_edge_share_loop(f, bme)) {
2901                                                 found_shared_face = 1;
2902                                                 break;
2903                                         }
2904                                 }
2905                                 if (found_shared_face)
2906                                         break;
2907                         }
2908                         e = &bv->edges[i];
2909                         if (found_shared_face) {
2910                                 e->e = bme2;
2911                                 e->fprev = f;
2912                                 bv->edges[i - 1].fnext = f;
2913                         }
2914                         else {
2915                                 e->e = unflagged_bme;
2916                         }
2917                 }
2918                 bme = e->e;
2919                 BM_BEVEL_EDGE_TAG_ENABLE(bme);
2920                 if (BM_elem_flag_test(bme, BM_ELEM_TAG) && !bp->vertex_only) {
2921                         e->is_bev = true;
2922                         e->seg = bp->seg;
2923                 }
2924                 else {
2925                         e->is_bev = false;
2926                         e->seg = 0;
2927                 }
2928                 e->is_rev = (bme->v2 == v);
2929         }
2930         /* find wrap-around shared face */
2931         BM_ITER_ELEM (f, &iter2, bme, BM_FACES_OF_EDGE) {
2932                 if (bv->edges[0].e->l && BM_face_edge_share_loop(f, bv->edges[0].e)) {
2933                         if (bv->edges[0].fnext == f)
2934                                 continue;   /* if two shared faces, want the other one now */
2935                         bv->edges[ntot - 1].fnext = f;
2936                         bv->edges[0].fprev = f;
2937                         break;
2938                 }
2939         }
2940
2941         /* if edge array doesn't go CCW around vertex from average normal side,
2942          * reverse the array, being careful to reverse face pointers too */
2943         if (ntot > 1) {
2944                 ccw_test_sum = 0;
2945                 for (i = 0; i < ntot; i++)
2946                         ccw_test_sum += bev_ccw_test(bv->edges[i].e, bv->edges[(i + 1) % ntot].e,
2947                                                      bv->edges[i].fnext);
2948                 if (ccw_test_sum < 0) {
2949                         for (i = 0; i <= (ntot / 2) - 1; i++) {
2950                                 SWAP(EdgeHalf, bv->edges[i], bv->edges[ntot - i - 1]);
2951                                 SWAP(BMFace *, bv->edges[i].fprev, bv->edges[i].fnext);
2952                                 SWAP(BMFace *, bv->edges[ntot - i - 1].fprev, bv->edges[ntot - i - 1].fnext);
2953                         }
2954                         if (ntot % 2 == 1) {
2955                                 i = ntot / 2;
2956                                 SWAP(BMFace *, bv->edges[i].fprev,  bv->edges[i].fnext);
2957                         }
2958                 }
2959         }
2960
2961         for (i = 0, e = bv->edges; i < ntot; i++, e++) {
2962                 e->next = &bv->edges[(i + 1) % ntot];
2963                 e->prev = &bv->edges[(i + ntot - 1) % ntot];
2964
2965                 /* set offsets  */
2966                 if (e->is_bev) {
2967                         /* Convert distance as specified by user into offsets along
2968                          * faces on left side and right side of this edgehalf.
2969                          * Except for percent method, offset will be same on each side. */
2970
2971                         switch (bp->offset_type) {
2972                                 case BEVEL_AMT_OFFSET:
2973                                         e->offset_l_spec = bp->offset;
2974                                         break;
2975                                 case BEVEL_AMT_WIDTH:
2976                                         z = fabsf(2.0f * sinf(edge_face_angle(e) / 2.0f));
2977                                         if (z < BEVEL_EPSILON)
2978                                                 e->offset_l_spec = 0.01f * bp->offset; /* undefined behavior, so tiny bevel */
2979                                         else
2980                                                 e->offset_l_spec = bp->offset / z;
2981                                         break;
2982                                 case BEVEL_AMT_DEPTH:
2983                                         z = fabsf(cosf(edge_face_angle(e) / 2.0f));
2984                                         if (z < BEVEL_EPSILON)
2985                                                 e->offset_l_spec = 0.01f * bp->offset; /* undefined behavior, so tiny bevel */
2986                                         else
2987                                                 e->offset_l_spec = bp->offset / z;
2988                                         break;
2989                                 case BEVEL_AMT_PERCENT:
2990                                         /* offset needs to be such that it meets adjacent edges at percentage of their lengths */
2991                                         v1 = BM_edge_other_vert(e->prev->e, v);
2992                                         v2 = BM_edge_other_vert(e->e, v);
2993                                         z = sinf(angle_v3v3v3(v1->co, v->co, v2->co));