Cleanup: style, use braces for editors
[blender.git] / source / blender / editors / mesh / editmesh_knife.c
1 /*
2  * This program is free software; you can redistribute it and/or
3  * modify it under the terms of the GNU General Public License
4  * as published by the Free Software Foundation; either version 2
5  * of the License, or (at your option) any later version.
6  *
7  * This program is distributed in the hope that it will be useful,
8  * but WITHOUT ANY WARRANTY; without even the implied warranty of
9  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
10  * GNU General Public License for more details.
11  *
12  * You should have received a copy of the GNU General Public License
13  * along with this program; if not, write to the Free Software Foundation,
14  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
15  *
16  * The Original Code is Copyright (C) 2007 Blender Foundation.
17  * All rights reserved.
18  */
19
20 /** \file
21  * \ingroup edmesh
22  *
23  * Interactive editmesh knife tool.
24  */
25
26 #ifdef _MSC_VER
27 #  define _USE_MATH_DEFINES
28 #endif
29
30 #include "MEM_guardedalloc.h"
31
32 #include "BLI_listbase.h"
33 #include "BLI_string.h"
34 #include "BLI_array.h"
35 #include "BLI_alloca.h"
36 #include "BLI_linklist.h"
37 #include "BLI_math.h"
38 #include "BLI_smallhash.h"
39 #include "BLI_memarena.h"
40
41 #include "BLT_translation.h"
42
43 #include "BKE_bvhutils.h"
44 #include "BKE_context.h"
45 #include "BKE_editmesh.h"
46 #include "BKE_editmesh_bvh.h"
47 #include "BKE_report.h"
48
49 #include "GPU_immediate.h"
50 #include "GPU_matrix.h"
51 #include "GPU_state.h"
52
53 #include "ED_screen.h"
54 #include "ED_space_api.h"
55 #include "ED_view3d.h"
56 #include "ED_mesh.h"
57
58 #include "WM_api.h"
59 #include "WM_types.h"
60
61 #include "DNA_object_types.h"
62
63 #include "UI_interface.h"
64 #include "UI_resources.h"
65
66 #include "RNA_access.h"
67 #include "RNA_define.h"
68
69 #include "DEG_depsgraph.h"
70 #include "DEG_depsgraph_query.h"
71
72 #include "mesh_intern.h" /* own include */
73
74 /* detect isolated holes and fill them */
75 #define USE_NET_ISLAND_CONNECT
76
77 #define KMAXDIST 10 /* max mouse distance from edge before not detecting it */
78
79 /* WARNING: knife float precision is fragile:
80  * be careful before making changes here see: (T43229, T42864, T42459, T41164).
81  */
82 #define KNIFE_FLT_EPS 0.00001f
83 #define KNIFE_FLT_EPS_SQUARED (KNIFE_FLT_EPS * KNIFE_FLT_EPS)
84 #define KNIFE_FLT_EPSBIG 0.0005f
85
86 #define KNIFE_FLT_EPS_PX_VERT 0.5f
87 #define KNIFE_FLT_EPS_PX_EDGE 0.05f
88 #define KNIFE_FLT_EPS_PX_FACE 0.05f
89
90 typedef struct KnifeColors {
91   uchar line[3];
92   uchar edge[3];
93   uchar curpoint[3];
94   uchar curpoint_a[4];
95   uchar point[3];
96   uchar point_a[4];
97 } KnifeColors;
98
99 /* knifetool operator */
100 typedef struct KnifeVert {
101   BMVert *v; /* non-NULL if this is an original vert */
102   ListBase edges;
103   ListBase faces;
104
105   float co[3], cageco[3], sco[2]; /* sco is screen coordinates for cageco */
106   bool is_face, in_space;
107   bool is_cut; /* along a cut created by user input (will draw too) */
108 } KnifeVert;
109
110 typedef struct Ref {
111   struct Ref *next, *prev;
112   void *ref;
113 } Ref;
114
115 typedef struct KnifeEdge {
116   KnifeVert *v1, *v2;
117   BMFace *basef; /* face to restrict face fill to */
118   ListBase faces;
119
120   BMEdge *e /* , *e_old */; /* non-NULL if this is an original edge */
121   bool is_cut;              /* along a cut created by user input (will draw too) */
122 } KnifeEdge;
123
124 typedef struct KnifeLineHit {
125   float hit[3], cagehit[3];
126   float schit[2]; /* screen coordinates for cagehit */
127   float l;        /* lambda along cut line */
128   float perc;     /* lambda along hit line */
129   float m;        /* depth front-to-back */
130
131   /* Exactly one of kfe, v, or f should be non-NULL,
132    * saying whether cut line crosses and edge,
133    * is snapped to a vert, or is in the middle of some face. */
134   KnifeEdge *kfe;
135   KnifeVert *v;
136   BMFace *f;
137 } KnifeLineHit;
138
139 typedef struct KnifePosData {
140   float co[3];
141   float cage[3];
142
143   /* At most one of vert, edge, or bmface should be non-NULL,
144    * saying whether the point is snapped to a vertex, edge, or in a face.
145    * If none are set, this point is in space and is_space should be true. */
146   KnifeVert *vert;
147   KnifeEdge *edge;
148   BMFace *bmface;
149   bool is_space;
150
151   float mval[2]; /* mouse screen position (may be non-integral if snapped to something) */
152 } KnifePosData;
153
154 /* struct for properties used while drawing */
155 typedef struct KnifeTool_OpData {
156   ARegion *ar;       /* region that knifetool was activated in */
157   void *draw_handle; /* for drawing preview loop */
158   ViewContext vc;    /* note: _don't_ use 'mval', instead use the one we define below */
159   float mval[2];     /* mouse value with snapping applied */
160   //bContext *C;
161
162   Scene *scene;
163   Object *ob;
164   BMEditMesh *em;
165
166   MemArena *arena;
167
168   /* reused for edge-net filling */
169   struct {
170     /* cleared each use */
171     GSet *edge_visit;
172 #ifdef USE_NET_ISLAND_CONNECT
173     MemArena *arena;
174 #endif
175   } edgenet;
176
177   GHash *origvertmap;
178   GHash *origedgemap;
179   GHash *kedgefacemap;
180   GHash *facetrimap;
181
182   BMBVHTree *bmbvh;
183
184   BLI_mempool *kverts;
185   BLI_mempool *kedges;
186
187   float vthresh;
188   float ethresh;
189
190   /* used for drag-cutting */
191   KnifeLineHit *linehits;
192   int totlinehit;
193
194   /* Data for mouse-position-derived data */
195   KnifePosData curr; /* current point under the cursor */
196   KnifePosData prev; /* last added cut (a line draws from the cursor to this) */
197   KnifePosData init; /* the first point in the cut-list, used for closing the loop */
198
199   int totkedge, totkvert;
200
201   BLI_mempool *refs;
202
203   float projmat[4][4];
204   float projmat_inv[4][4];
205   /* vector along view z axis (object space, normalized) */
206   float proj_zaxis[3];
207
208   KnifeColors colors;
209
210   /* run by the UI or not */
211   bool is_interactive;
212
213   /* operatpr options */
214   bool cut_through;   /* preference, can be modified at runtime (that feature may go) */
215   bool only_select;   /* set on initialization */
216   bool select_result; /* set on initialization */
217
218   bool is_ortho;
219   float ortho_extent;
220   float ortho_extent_center[3];
221
222   float clipsta, clipend;
223
224   enum { MODE_IDLE, MODE_DRAGGING, MODE_CONNECT, MODE_PANNING } mode;
225   bool is_drag_hold;
226
227   int prevmode;
228   bool snap_midpoints;
229   bool ignore_edge_snapping;
230   bool ignore_vert_snapping;
231
232   /* use to check if we're currently dragging an angle snapped line */
233   bool is_angle_snapping;
234   bool angle_snapping;
235   float angle;
236
237   const float (*cagecos)[3];
238 } KnifeTool_OpData;
239
240 enum {
241   KNF_MODAL_CANCEL = 1,
242   KNF_MODAL_CONFIRM,
243   KNF_MODAL_MIDPOINT_ON,
244   KNF_MODAL_MIDPOINT_OFF,
245   KNF_MODAL_NEW_CUT,
246   KNF_MODEL_IGNORE_SNAP_ON,
247   KNF_MODEL_IGNORE_SNAP_OFF,
248   KNF_MODAL_ADD_CUT,
249   KNF_MODAL_ANGLE_SNAP_TOGGLE,
250   KNF_MODAL_CUT_THROUGH_TOGGLE,
251   KNF_MODAL_PANNING,
252   KNF_MODAL_ADD_CUT_CLOSED,
253 };
254
255 static ListBase *knife_get_face_kedges(KnifeTool_OpData *kcd, BMFace *f);
256
257 static void knife_input_ray_segment(KnifeTool_OpData *kcd,
258                                     const float mval[2],
259                                     const float ofs,
260                                     float r_origin[3],
261                                     float r_dest[3]);
262
263 static bool knife_verts_edge_in_face(KnifeVert *v1, KnifeVert *v2, BMFace *f);
264
265 static void knifetool_free_bmbvh(KnifeTool_OpData *kcd);
266
267 static int knifetool_modal(bContext *C, wmOperator *op, const wmEvent *event);
268
269 static void knife_update_header(bContext *C, wmOperator *op, KnifeTool_OpData *kcd)
270 {
271   char header[UI_MAX_DRAW_STR];
272   char buf[UI_MAX_DRAW_STR];
273
274   char *p = buf;
275   int available_len = sizeof(buf);
276
277 #define WM_MODALKEY(_id) \
278   WM_modalkeymap_operator_items_to_string_buf( \
279       op->type, (_id), true, UI_MAX_SHORTCUT_STR, &available_len, &p)
280
281   BLI_snprintf(header,
282                sizeof(header),
283                IFACE_("%s: confirm, %s: cancel, "
284                       "%s: start/define cut, %s: close cut, %s: new cut, "
285                       "%s: midpoint snap (%s), %s: ignore snap (%s), "
286                       "%s: angle constraint (%s), %s: cut through (%s), "
287                       "%s: panning"),
288                WM_MODALKEY(KNF_MODAL_CONFIRM),
289                WM_MODALKEY(KNF_MODAL_CANCEL),
290                WM_MODALKEY(KNF_MODAL_ADD_CUT),
291                WM_MODALKEY(KNF_MODAL_ADD_CUT_CLOSED),
292                WM_MODALKEY(KNF_MODAL_NEW_CUT),
293                WM_MODALKEY(KNF_MODAL_MIDPOINT_ON),
294                WM_bool_as_string(kcd->snap_midpoints),
295                WM_MODALKEY(KNF_MODEL_IGNORE_SNAP_ON),
296                WM_bool_as_string(kcd->ignore_edge_snapping),
297                WM_MODALKEY(KNF_MODAL_ANGLE_SNAP_TOGGLE),
298                WM_bool_as_string(kcd->angle_snapping),
299                WM_MODALKEY(KNF_MODAL_CUT_THROUGH_TOGGLE),
300                WM_bool_as_string(kcd->cut_through),
301                WM_MODALKEY(KNF_MODAL_PANNING));
302
303 #undef WM_MODALKEY
304
305   ED_workspace_status_text(C, header);
306 }
307
308 static void knife_project_v2(const KnifeTool_OpData *kcd, const float co[3], float sco[2])
309 {
310   ED_view3d_project_float_v2_m4(kcd->ar, co, sco, (float(*)[4])kcd->projmat);
311 }
312
313 /* use when lambda is in screen-space */
314 static void knife_interp_v3_v3v3(const KnifeTool_OpData *kcd,
315                                  float r_co[3],
316                                  const float v1[3],
317                                  const float v2[3],
318                                  float lambda_ss)
319 {
320   if (kcd->is_ortho) {
321     interp_v3_v3v3(r_co, v1, v2, lambda_ss);
322   }
323   else {
324     /* transform into screen-space, interp, then transform back */
325     float v1_ss[3], v2_ss[3];
326
327     mul_v3_project_m4_v3(v1_ss, (float(*)[4])kcd->projmat, v1);
328     mul_v3_project_m4_v3(v2_ss, (float(*)[4])kcd->projmat, v2);
329
330     interp_v3_v3v3(r_co, v1_ss, v2_ss, lambda_ss);
331
332     mul_project_m4_v3((float(*)[4])kcd->projmat_inv, r_co);
333   }
334 }
335
336 static void knife_pos_data_clear(KnifePosData *kpd)
337 {
338   zero_v3(kpd->co);
339   zero_v3(kpd->cage);
340   kpd->vert = NULL;
341   kpd->edge = NULL;
342   kpd->bmface = NULL;
343   zero_v2(kpd->mval);
344 }
345
346 static ListBase *knife_empty_list(KnifeTool_OpData *kcd)
347 {
348   ListBase *lst;
349
350   lst = BLI_memarena_alloc(kcd->arena, sizeof(ListBase));
351   BLI_listbase_clear(lst);
352   return lst;
353 }
354
355 static void knife_append_list(KnifeTool_OpData *kcd, ListBase *lst, void *elem)
356 {
357   Ref *ref;
358
359   ref = BLI_mempool_calloc(kcd->refs);
360   ref->ref = elem;
361   BLI_addtail(lst, ref);
362 }
363
364 static Ref *find_ref(ListBase *lb, void *ref)
365 {
366   Ref *ref1;
367
368   for (ref1 = lb->first; ref1; ref1 = ref1->next) {
369     if (ref1->ref == ref) {
370       return ref1;
371     }
372   }
373
374   return NULL;
375 }
376
377 static void knife_append_list_no_dup(KnifeTool_OpData *kcd, ListBase *lst, void *elem)
378 {
379   if (!find_ref(lst, elem)) {
380     knife_append_list(kcd, lst, elem);
381   }
382 }
383
384 static KnifeEdge *new_knife_edge(KnifeTool_OpData *kcd)
385 {
386   kcd->totkedge++;
387   return BLI_mempool_calloc(kcd->kedges);
388 }
389
390 static void knife_add_to_vert_edges(KnifeTool_OpData *kcd, KnifeEdge *kfe)
391 {
392   knife_append_list(kcd, &kfe->v1->edges, kfe);
393   knife_append_list(kcd, &kfe->v2->edges, kfe);
394 }
395
396 /* Add faces of an edge to a KnifeVert's faces list.  No checks for dups. */
397 static void knife_add_edge_faces_to_vert(KnifeTool_OpData *kcd, KnifeVert *kfv, BMEdge *e)
398 {
399   BMIter bmiter;
400   BMFace *f;
401
402   BM_ITER_ELEM (f, &bmiter, e, BM_FACES_OF_EDGE) {
403     knife_append_list(kcd, &kfv->faces, f);
404   }
405 }
406
407 /* Find a face in common in the two faces lists.
408  * If more than one, return the first; if none, return NULL */
409 static BMFace *knife_find_common_face(ListBase *faces1, ListBase *faces2)
410 {
411   Ref *ref1, *ref2;
412
413   for (ref1 = faces1->first; ref1; ref1 = ref1->next) {
414     for (ref2 = faces2->first; ref2; ref2 = ref2->next) {
415       if (ref1->ref == ref2->ref) {
416         return (BMFace *)(ref1->ref);
417       }
418     }
419   }
420   return NULL;
421 }
422
423 static KnifeVert *new_knife_vert(KnifeTool_OpData *kcd, const float co[3], const float cageco[3])
424 {
425   KnifeVert *kfv = BLI_mempool_calloc(kcd->kverts);
426
427   kcd->totkvert++;
428
429   copy_v3_v3(kfv->co, co);
430   copy_v3_v3(kfv->cageco, cageco);
431
432   knife_project_v2(kcd, kfv->cageco, kfv->sco);
433
434   return kfv;
435 }
436
437 /* get a KnifeVert wrapper for an existing BMVert */
438 static KnifeVert *get_bm_knife_vert(KnifeTool_OpData *kcd, BMVert *v)
439 {
440   KnifeVert *kfv = BLI_ghash_lookup(kcd->origvertmap, v);
441   const float *cageco;
442
443   if (!kfv) {
444     BMIter bmiter;
445     BMFace *f;
446
447     if (BM_elem_index_get(v) >= 0) {
448       cageco = kcd->cagecos[BM_elem_index_get(v)];
449     }
450     else {
451       cageco = v->co;
452     }
453     kfv = new_knife_vert(kcd, v->co, cageco);
454     kfv->v = v;
455     BLI_ghash_insert(kcd->origvertmap, v, kfv);
456     BM_ITER_ELEM (f, &bmiter, v, BM_FACES_OF_VERT) {
457       knife_append_list(kcd, &kfv->faces, f);
458     }
459   }
460
461   return kfv;
462 }
463
464 /* get a KnifeEdge wrapper for an existing BMEdge */
465 static KnifeEdge *get_bm_knife_edge(KnifeTool_OpData *kcd, BMEdge *e)
466 {
467   KnifeEdge *kfe = BLI_ghash_lookup(kcd->origedgemap, e);
468   if (!kfe) {
469     BMIter bmiter;
470     BMFace *f;
471
472     kfe = new_knife_edge(kcd);
473     kfe->e = e;
474     kfe->v1 = get_bm_knife_vert(kcd, e->v1);
475     kfe->v2 = get_bm_knife_vert(kcd, e->v2);
476
477     knife_add_to_vert_edges(kcd, kfe);
478
479     BLI_ghash_insert(kcd->origedgemap, e, kfe);
480
481     BM_ITER_ELEM (f, &bmiter, e, BM_FACES_OF_EDGE) {
482       knife_append_list(kcd, &kfe->faces, f);
483     }
484   }
485
486   return kfe;
487 }
488
489 /* Record the index in kcd->em->looptris of first looptri triple for a given face,
490  * given an index for some triple in that array.
491  * This assumes that all of the triangles for a given face are contiguous
492  * in that array (as they are by the current tessellation routines).
493  * Actually store index + 1 in the hash, because 0 looks like "no entry"
494  * to hash lookup routine; will reverse this in the get routine.
495  * Doing this lazily rather than all at once for all faces.
496  */
497 static void set_lowest_face_tri(KnifeTool_OpData *kcd, BMFace *f, int index)
498 {
499   int i;
500
501   if (BLI_ghash_lookup(kcd->facetrimap, f)) {
502     return;
503   }
504
505   BLI_assert(index >= 0 && index < kcd->em->tottri);
506   BLI_assert(kcd->em->looptris[index][0]->f == f);
507   for (i = index - 1; i >= 0; i--) {
508     if (kcd->em->looptris[i][0]->f != f) {
509       i++;
510       break;
511     }
512   }
513   if (i == -1) {
514     i++;
515   }
516
517   BLI_ghash_insert(kcd->facetrimap, f, POINTER_FROM_INT(i + 1));
518 }
519
520 /* This should only be called for faces that have had a lowest face tri set by previous function */
521 static int get_lowest_face_tri(KnifeTool_OpData *kcd, BMFace *f)
522 {
523   int ans;
524
525   ans = POINTER_AS_INT(BLI_ghash_lookup(kcd->facetrimap, f));
526   BLI_assert(ans != 0);
527   return ans - 1;
528 }
529
530 /* User has just clicked for first time or first time after a restart (E key).
531  * Copy the current position data into prev. */
532 static void knife_start_cut(KnifeTool_OpData *kcd)
533 {
534   kcd->prev = kcd->curr;
535   kcd->curr.is_space = 0; /*TODO: why do we do this? */
536
537   if (kcd->prev.vert == NULL && kcd->prev.edge == NULL) {
538     float origin[3], origin_ofs[3];
539     float ofs_local[3];
540
541     negate_v3_v3(ofs_local, kcd->vc.rv3d->ofs);
542     invert_m4_m4(kcd->ob->imat, kcd->ob->obmat);
543     mul_m4_v3(kcd->ob->imat, ofs_local);
544
545     knife_input_ray_segment(kcd, kcd->curr.mval, 1.0f, origin, origin_ofs);
546
547     if (!isect_line_plane_v3(kcd->prev.cage, origin, origin_ofs, ofs_local, kcd->proj_zaxis)) {
548       zero_v3(kcd->prev.cage);
549     }
550
551     copy_v3_v3(kcd->prev.co, kcd->prev.cage); /*TODO: do we need this? */
552     copy_v3_v3(kcd->curr.cage, kcd->prev.cage);
553     copy_v3_v3(kcd->curr.co, kcd->prev.co);
554   }
555 }
556
557 static ListBase *knife_get_face_kedges(KnifeTool_OpData *kcd, BMFace *f)
558 {
559   ListBase *lst = BLI_ghash_lookup(kcd->kedgefacemap, f);
560
561   if (!lst) {
562     BMIter bmiter;
563     BMEdge *e;
564
565     lst = knife_empty_list(kcd);
566
567     BM_ITER_ELEM (e, &bmiter, f, BM_EDGES_OF_FACE) {
568       knife_append_list(kcd, lst, get_bm_knife_edge(kcd, e));
569     }
570
571     BLI_ghash_insert(kcd->kedgefacemap, f, lst);
572   }
573
574   return lst;
575 }
576
577 static void knife_edge_append_face(KnifeTool_OpData *kcd, KnifeEdge *kfe, BMFace *f)
578 {
579   knife_append_list(kcd, knife_get_face_kedges(kcd, f), kfe);
580   knife_append_list(kcd, &kfe->faces, f);
581 }
582
583 static KnifeVert *knife_split_edge(KnifeTool_OpData *kcd,
584                                    KnifeEdge *kfe,
585                                    const float co[3],
586                                    const float cageco[3],
587                                    KnifeEdge **r_kfe)
588 {
589   KnifeEdge *newkfe = new_knife_edge(kcd);
590   Ref *ref;
591   BMFace *f;
592
593   newkfe->v1 = kfe->v1;
594   newkfe->v2 = new_knife_vert(kcd, co, cageco);
595   newkfe->v2->is_cut = true;
596   if (kfe->e) {
597     knife_add_edge_faces_to_vert(kcd, newkfe->v2, kfe->e);
598   }
599   else {
600     /* kfe cuts across an existing face.
601      * If v1 and v2 are in multiple faces together (e.g., if they
602      * are in doubled polys) then this arbitrarily chooses one of them */
603     f = knife_find_common_face(&kfe->v1->faces, &kfe->v2->faces);
604     if (f) {
605       knife_append_list(kcd, &newkfe->v2->faces, f);
606     }
607   }
608   newkfe->basef = kfe->basef;
609
610   ref = find_ref(&kfe->v1->edges, kfe);
611   BLI_remlink(&kfe->v1->edges, ref);
612
613   kfe->v1 = newkfe->v2;
614   BLI_addtail(&kfe->v1->edges, ref);
615
616   for (ref = kfe->faces.first; ref; ref = ref->next) {
617     knife_edge_append_face(kcd, newkfe, ref->ref);
618   }
619
620   knife_add_to_vert_edges(kcd, newkfe);
621
622   newkfe->is_cut = kfe->is_cut;
623   newkfe->e = kfe->e;
624
625   *r_kfe = newkfe;
626
627   return newkfe->v2;
628 }
629
630 static void linehit_to_knifepos(KnifePosData *kpos, KnifeLineHit *lh)
631 {
632   kpos->bmface = lh->f;
633   kpos->vert = lh->v;
634   kpos->edge = lh->kfe;
635   copy_v3_v3(kpos->cage, lh->cagehit);
636   copy_v3_v3(kpos->co, lh->hit);
637   copy_v2_v2(kpos->mval, lh->schit);
638 }
639
640 /* primary key: lambda along cut
641  * secondary key: lambda along depth
642  * tertiary key: pointer comparisons of verts if both snapped to verts
643  */
644 static int linehit_compare(const void *vlh1, const void *vlh2)
645 {
646   const KnifeLineHit *lh1 = vlh1;
647   const KnifeLineHit *lh2 = vlh2;
648
649   if (lh1->l < lh2->l) {
650     return -1;
651   }
652   else if (lh1->l > lh2->l) {
653     return 1;
654   }
655   else {
656     if (lh1->m < lh2->m) {
657       return -1;
658     }
659     else if (lh1->m > lh2->m) {
660       return 1;
661     }
662     else {
663       if (lh1->v < lh2->v) {
664         return -1;
665       }
666       else if (lh1->v > lh2->v) {
667         return 1;
668       }
669       else {
670         return 0;
671       }
672     }
673   }
674 }
675
676 /*
677  * Sort linehits by distance along cut line, and secondarily from
678  * front to back (from eye), and tertiarily by snap vertex,
679  * and remove any duplicates.
680  */
681 static void prepare_linehits_for_cut(KnifeTool_OpData *kcd)
682 {
683   KnifeLineHit *linehits, *lhi, *lhj;
684   int i, j, n;
685   bool is_double = false;
686
687   n = kcd->totlinehit;
688   linehits = kcd->linehits;
689   if (n == 0) {
690     return;
691   }
692
693   qsort(linehits, n, sizeof(KnifeLineHit), linehit_compare);
694
695   /* Remove any edge hits that are preceded or followed
696    * by a vertex hit that is very near. Mark such edge hits using
697    * l == -1 and then do another pass to actually remove.
698    * Also remove all but one of a series of vertex hits for the same vertex. */
699   for (i = 0; i < n; i++) {
700     lhi = &linehits[i];
701     if (lhi->v) {
702       for (j = i - 1; j >= 0; j--) {
703         lhj = &linehits[j];
704         if (!lhj->kfe || fabsf(lhi->l - lhj->l) > KNIFE_FLT_EPSBIG ||
705             fabsf(lhi->m - lhj->m) > KNIFE_FLT_EPSBIG) {
706           break;
707         }
708
709         if (lhi->kfe == lhj->kfe) {
710           lhj->l = -1.0f;
711           is_double = true;
712         }
713       }
714       for (j = i + 1; j < n; j++) {
715         lhj = &linehits[j];
716         if (fabsf(lhi->l - lhj->l) > KNIFE_FLT_EPSBIG ||
717             fabsf(lhi->m - lhj->m) > KNIFE_FLT_EPSBIG) {
718           break;
719         }
720         if ((lhj->kfe && (lhi->kfe == lhj->kfe)) || (lhi->v == lhj->v)) {
721           lhj->l = -1.0f;
722           is_double = true;
723         }
724       }
725     }
726   }
727
728   if (is_double) {
729     /* delete-in-place loop: copying from pos j to pos i+1 */
730     i = 0;
731     j = 1;
732     while (j < n) {
733       lhi = &linehits[i];
734       lhj = &linehits[j];
735       if (lhj->l == -1.0f) {
736         j++; /* skip copying this one */
737       }
738       else {
739         /* copy unless a no-op */
740         if (lhi->l == -1.0f) {
741           /* could happen if linehits[0] is being deleted */
742           memcpy(&linehits[i], &linehits[j], sizeof(KnifeLineHit));
743         }
744         else {
745           if (i + 1 != j) {
746             memcpy(&linehits[i + 1], &linehits[j], sizeof(KnifeLineHit));
747           }
748           i++;
749         }
750         j++;
751       }
752     }
753     kcd->totlinehit = i + 1;
754   }
755 }
756
757 /* Add hit to list of hits in facehits[f], where facehits is a map, if not already there */
758 static void add_hit_to_facehits(KnifeTool_OpData *kcd,
759                                 GHash *facehits,
760                                 BMFace *f,
761                                 KnifeLineHit *hit)
762 {
763   ListBase *lst = BLI_ghash_lookup(facehits, f);
764
765   if (!lst) {
766     lst = knife_empty_list(kcd);
767     BLI_ghash_insert(facehits, f, lst);
768   }
769   knife_append_list_no_dup(kcd, lst, hit);
770 }
771
772 /**
773  * special purpose function, if the linehit is connected to a real edge/vert
774  * return true if \a co is outside the face.
775  */
776 static bool knife_add_single_cut__is_linehit_outside_face(BMFace *f,
777                                                           const KnifeLineHit *lh,
778                                                           const float co[3])
779 {
780
781   if (lh->v && lh->v->v) {
782     BMLoop *l; /* side-of-loop */
783     if ((l = BM_face_vert_share_loop(f, lh->v->v)) &&
784         (BM_loop_point_side_of_loop_test(l, co) < 0.0f)) {
785       return true;
786     }
787   }
788   else if ((lh->kfe && lh->kfe->e)) {
789     BMLoop *l; /* side-of-edge */
790     if ((l = BM_face_edge_share_loop(f, lh->kfe->e)) &&
791         (BM_loop_point_side_of_edge_test(l, co) < 0.0f)) {
792       return true;
793     }
794   }
795
796   return false;
797 }
798
799 static void knife_add_single_cut(KnifeTool_OpData *kcd,
800                                  KnifeLineHit *lh1,
801                                  KnifeLineHit *lh2,
802                                  BMFace *f)
803 {
804   KnifeEdge *kfe, *kfe2;
805   BMEdge *e_base;
806
807   if ((lh1->v && lh1->v == lh2->v) || (lh1->kfe && lh1->kfe == lh2->kfe)) {
808     return;
809   }
810
811   /* if the cut is on an edge, just tag that its a cut and return */
812   if ((lh1->v && lh2->v) && (lh1->v->v && lh2->v && lh2->v->v) &&
813       (e_base = BM_edge_exists(lh1->v->v, lh2->v->v))) {
814     kfe = get_bm_knife_edge(kcd, e_base);
815     kfe->is_cut = true;
816     kfe->e = e_base;
817     return;
818   }
819   else {
820     if (knife_add_single_cut__is_linehit_outside_face(f, lh1, lh2->hit) ||
821         knife_add_single_cut__is_linehit_outside_face(f, lh2, lh1->hit)) {
822       return;
823     }
824   }
825
826   /* Check if edge actually lies within face (might not, if this face is concave) */
827   if ((lh1->v && !lh1->kfe) && (lh2->v && !lh2->kfe)) {
828     if (!knife_verts_edge_in_face(lh1->v, lh2->v, f)) {
829       return;
830     }
831   }
832
833   kfe = new_knife_edge(kcd);
834   kfe->is_cut = true;
835   kfe->basef = f;
836
837   if (lh1->v) {
838     kfe->v1 = lh1->v;
839   }
840   else if (lh1->kfe) {
841     kfe->v1 = knife_split_edge(kcd, lh1->kfe, lh1->hit, lh1->cagehit, &kfe2);
842     lh1->v = kfe->v1; /* record the KnifeVert for this hit  */
843   }
844   else {
845     BLI_assert(lh1->f);
846     kfe->v1 = new_knife_vert(kcd, lh1->hit, lh1->cagehit);
847     kfe->v1->is_cut = true;
848     kfe->v1->is_face = true;
849     knife_append_list(kcd, &kfe->v1->faces, lh1->f);
850     lh1->v = kfe->v1; /* record the KnifeVert for this hit */
851   }
852
853   if (lh2->v) {
854     kfe->v2 = lh2->v;
855   }
856   else if (lh2->kfe) {
857     kfe->v2 = knife_split_edge(kcd, lh2->kfe, lh2->hit, lh2->cagehit, &kfe2);
858     lh2->v = kfe->v2; /* future uses of lh2 won't split again */
859   }
860   else {
861     BLI_assert(lh2->f);
862     kfe->v2 = new_knife_vert(kcd, lh2->hit, lh2->cagehit);
863     kfe->v2->is_cut = true;
864     kfe->v2->is_face = true;
865     knife_append_list(kcd, &kfe->v2->faces, lh2->f);
866     lh2->v = kfe->v2; /* record the KnifeVert for this hit */
867   }
868
869   knife_add_to_vert_edges(kcd, kfe);
870
871   /* TODO: check if this is ever needed */
872   if (kfe->basef && !find_ref(&kfe->faces, kfe->basef)) {
873     knife_edge_append_face(kcd, kfe, kfe->basef);
874   }
875 }
876
877 /* Given a list of KnifeLineHits for one face, sorted by l
878  * and then by m, make the required KnifeVerts and
879  * KnifeEdges.
880  */
881 static void knife_cut_face(KnifeTool_OpData *kcd, BMFace *f, ListBase *hits)
882 {
883   Ref *r;
884
885   if (BLI_listbase_count_at_most(hits, 2) != 2) {
886     return;
887   }
888
889   for (r = hits->first; r->next; r = r->next) {
890     knife_add_single_cut(kcd, r->ref, r->next->ref, f);
891   }
892 }
893
894 /* User has just left-clicked after the first time.
895  * Add all knife cuts implied by line from prev to curr.
896  * If that line crossed edges then kcd->linehits will be non-NULL.
897  * Make all of the KnifeVerts and KnifeEdges implied by this cut.
898  */
899 static void knife_add_cut(KnifeTool_OpData *kcd)
900 {
901   int i;
902   GHash *facehits;
903   BMFace *f;
904   Ref *r;
905   GHashIterator giter;
906   ListBase *lst;
907
908   prepare_linehits_for_cut(kcd);
909   if (kcd->totlinehit == 0) {
910     if (kcd->is_drag_hold == false) {
911       kcd->prev = kcd->curr;
912     }
913     return;
914   }
915
916   /* make facehits: map face -> list of linehits touching it */
917   facehits = BLI_ghash_ptr_new("knife facehits");
918   for (i = 0; i < kcd->totlinehit; i++) {
919     KnifeLineHit *lh = &kcd->linehits[i];
920     if (lh->f) {
921       add_hit_to_facehits(kcd, facehits, lh->f, lh);
922     }
923     if (lh->v) {
924       for (r = lh->v->faces.first; r; r = r->next) {
925         add_hit_to_facehits(kcd, facehits, r->ref, lh);
926       }
927     }
928     if (lh->kfe) {
929       for (r = lh->kfe->faces.first; r; r = r->next) {
930         add_hit_to_facehits(kcd, facehits, r->ref, lh);
931       }
932     }
933   }
934
935   /* Note: as following loop progresses, the 'v' fields of
936    * the linehits will be filled in (as edges are split or
937    * in-face verts are made), so it may be true that both
938    * the v and the kfe or f fields will be non-NULL. */
939   GHASH_ITER (giter, facehits) {
940     f = (BMFace *)BLI_ghashIterator_getKey(&giter);
941     lst = (ListBase *)BLI_ghashIterator_getValue(&giter);
942     knife_cut_face(kcd, f, lst);
943   }
944
945   /* set up for next cut */
946   kcd->prev = kcd->curr;
947
948   if (kcd->prev.bmface) {
949     /* was "in face" but now we have a KnifeVert it is snapped to */
950     KnifeLineHit *lh = &kcd->linehits[kcd->totlinehit - 1];
951     kcd->prev.vert = lh->v;
952     kcd->prev.bmface = NULL;
953   }
954
955   if (kcd->is_drag_hold) {
956     KnifeLineHit *lh = &kcd->linehits[kcd->totlinehit - 1];
957     linehit_to_knifepos(&kcd->prev, lh);
958   }
959
960   BLI_ghash_free(facehits, NULL, NULL);
961   MEM_freeN(kcd->linehits);
962   kcd->linehits = NULL;
963   kcd->totlinehit = 0;
964 }
965
966 static void knife_finish_cut(KnifeTool_OpData *kcd)
967 {
968   if (kcd->linehits) {
969     MEM_freeN(kcd->linehits);
970     kcd->linehits = NULL;
971     kcd->totlinehit = 0;
972   }
973 }
974
975 static void knifetool_draw_angle_snapping(const KnifeTool_OpData *kcd)
976 {
977   float v1[3], v2[3];
978   float planes[4][4];
979
980   planes_from_projmat(
981       (float(*)[4])kcd->projmat, planes[2], planes[0], planes[3], planes[1], NULL, NULL);
982
983   /* ray-cast all planes */
984   {
985     float ray_dir[3];
986     float ray_hit_best[2][3] = {{UNPACK3(kcd->prev.cage)}, {UNPACK3(kcd->curr.cage)}};
987     float lambda_best[2] = {-FLT_MAX, FLT_MAX};
988     int i;
989
990     /* we (sometimes) need the lines to be at the same depth before projecting */
991 #if 0
992     sub_v3_v3v3(ray_dir, kcd->curr.cage, kcd->prev.cage);
993 #else
994     {
995       float curr_cage_adjust[3];
996       float co_depth[3];
997
998       copy_v3_v3(co_depth, kcd->prev.cage);
999       mul_m4_v3(kcd->ob->obmat, co_depth);
1000       ED_view3d_win_to_3d(kcd->vc.v3d, kcd->ar, co_depth, kcd->curr.mval, curr_cage_adjust);
1001       mul_m4_v3(kcd->ob->imat, curr_cage_adjust);
1002
1003       sub_v3_v3v3(ray_dir, curr_cage_adjust, kcd->prev.cage);
1004     }
1005 #endif
1006
1007     for (i = 0; i < 4; i++) {
1008       float ray_hit[3];
1009       float lambda_test;
1010       if (isect_ray_plane_v3(kcd->prev.cage, ray_dir, planes[i], &lambda_test, false)) {
1011         madd_v3_v3v3fl(ray_hit, kcd->prev.cage, ray_dir, lambda_test);
1012         if (lambda_test < 0.0f) {
1013           if (lambda_test > lambda_best[0]) {
1014             copy_v3_v3(ray_hit_best[0], ray_hit);
1015             lambda_best[0] = lambda_test;
1016           }
1017         }
1018         else {
1019           if (lambda_test < lambda_best[1]) {
1020             copy_v3_v3(ray_hit_best[1], ray_hit);
1021             lambda_best[1] = lambda_test;
1022           }
1023         }
1024       }
1025     }
1026
1027     copy_v3_v3(v1, ray_hit_best[0]);
1028     copy_v3_v3(v2, ray_hit_best[1]);
1029   }
1030
1031   uint pos = GPU_vertformat_attr_add(immVertexFormat(), "pos", GPU_COMP_F32, 3, GPU_FETCH_FLOAT);
1032
1033   immBindBuiltinProgram(GPU_SHADER_3D_UNIFORM_COLOR);
1034   immUniformThemeColor(TH_TRANSFORM);
1035   GPU_line_width(2.0);
1036
1037   immBegin(GPU_PRIM_LINES, 2);
1038   immVertex3fv(pos, v1);
1039   immVertex3fv(pos, v2);
1040   immEnd();
1041
1042   immUnbindProgram();
1043 }
1044
1045 static void knife_init_colors(KnifeColors *colors)
1046 {
1047   /* possible BMESH_TODO: add explicit themes or calculate these by
1048    * figuring out contrasting colors with grid / edges / verts
1049    * a la UI_make_axis_color */
1050   UI_GetThemeColorType3ubv(TH_NURB_VLINE, SPACE_VIEW3D, colors->line);
1051   UI_GetThemeColorType3ubv(TH_NURB_ULINE, SPACE_VIEW3D, colors->edge);
1052   UI_GetThemeColorType3ubv(TH_HANDLE_SEL_VECT, SPACE_VIEW3D, colors->curpoint);
1053   UI_GetThemeColorType3ubv(TH_HANDLE_SEL_VECT, SPACE_VIEW3D, colors->curpoint_a);
1054   colors->curpoint_a[3] = 102;
1055   UI_GetThemeColorType3ubv(TH_ACTIVE_SPLINE, SPACE_VIEW3D, colors->point);
1056   UI_GetThemeColorType3ubv(TH_ACTIVE_SPLINE, SPACE_VIEW3D, colors->point_a);
1057   colors->point_a[3] = 102;
1058 }
1059
1060 /* modal loop selection drawing callback */
1061 static void knifetool_draw(const bContext *UNUSED(C), ARegion *UNUSED(ar), void *arg)
1062 {
1063   const KnifeTool_OpData *kcd = arg;
1064   GPU_depth_test(false);
1065
1066   glPolygonOffset(1.0f, 1.0f);
1067
1068   GPU_matrix_push();
1069   GPU_matrix_mul(kcd->ob->obmat);
1070
1071   if (kcd->mode == MODE_DRAGGING && kcd->is_angle_snapping) {
1072     knifetool_draw_angle_snapping(kcd);
1073   }
1074
1075   GPUVertFormat *format = immVertexFormat();
1076   uint pos = GPU_vertformat_attr_add(format, "pos", GPU_COMP_F32, 3, GPU_FETCH_FLOAT);
1077
1078   immBindBuiltinProgram(GPU_SHADER_3D_UNIFORM_COLOR);
1079
1080   if (kcd->mode == MODE_DRAGGING) {
1081     immUniformColor3ubv(kcd->colors.line);
1082     GPU_line_width(2.0);
1083
1084     immBegin(GPU_PRIM_LINES, 2);
1085     immVertex3fv(pos, kcd->prev.cage);
1086     immVertex3fv(pos, kcd->curr.cage);
1087     immEnd();
1088   }
1089
1090   if (kcd->prev.vert) {
1091     immUniformColor3ubv(kcd->colors.point);
1092     GPU_point_size(11);
1093
1094     immBegin(GPU_PRIM_POINTS, 1);
1095     immVertex3fv(pos, kcd->prev.cage);
1096     immEnd();
1097   }
1098
1099   if (kcd->prev.bmface) {
1100     immUniformColor3ubv(kcd->colors.curpoint);
1101     GPU_point_size(9);
1102
1103     immBegin(GPU_PRIM_POINTS, 1);
1104     immVertex3fv(pos, kcd->prev.cage);
1105     immEnd();
1106   }
1107
1108   if (kcd->curr.edge) {
1109     immUniformColor3ubv(kcd->colors.edge);
1110     GPU_line_width(2.0);
1111
1112     immBegin(GPU_PRIM_LINES, 2);
1113     immVertex3fv(pos, kcd->curr.edge->v1->cageco);
1114     immVertex3fv(pos, kcd->curr.edge->v2->cageco);
1115     immEnd();
1116   }
1117   else if (kcd->curr.vert) {
1118     immUniformColor3ubv(kcd->colors.point);
1119     GPU_point_size(11);
1120
1121     immBegin(GPU_PRIM_POINTS, 1);
1122     immVertex3fv(pos, kcd->curr.cage);
1123     immEnd();
1124   }
1125
1126   if (kcd->curr.bmface) {
1127     immUniformColor3ubv(kcd->colors.curpoint);
1128     GPU_point_size(9);
1129
1130     immBegin(GPU_PRIM_POINTS, 1);
1131     immVertex3fv(pos, kcd->curr.cage);
1132     immEnd();
1133   }
1134
1135   if (kcd->totlinehit > 0) {
1136     KnifeLineHit *lh;
1137     int i, v, vs;
1138     float fcol[4];
1139
1140     GPU_blend(true);
1141     GPU_blend_set_func_separate(
1142         GPU_SRC_ALPHA, GPU_ONE_MINUS_SRC_ALPHA, GPU_ONE, GPU_ONE_MINUS_SRC_ALPHA);
1143
1144     GPUVertBuf *vert = GPU_vertbuf_create_with_format(format);
1145     GPU_vertbuf_data_alloc(vert, kcd->totlinehit);
1146
1147     lh = kcd->linehits;
1148     for (i = 0, v = 0, vs = kcd->totlinehit - 1; i < kcd->totlinehit; i++, lh++) {
1149       if (lh->v) {
1150         GPU_vertbuf_attr_set(vert, pos, v++, lh->cagehit);
1151       }
1152       else {
1153         GPU_vertbuf_attr_set(vert, pos, vs--, lh->cagehit);
1154       }
1155     }
1156
1157     GPUBatch *batch = GPU_batch_create_ex(GPU_PRIM_POINTS, vert, NULL, GPU_BATCH_OWNS_VBO);
1158     GPU_batch_program_set_builtin(batch, GPU_SHADER_3D_UNIFORM_COLOR);
1159
1160     /* draw any snapped verts first */
1161     rgba_uchar_to_float(fcol, kcd->colors.point_a);
1162     GPU_batch_uniform_4fv(batch, "color", fcol);
1163     GPU_matrix_bind(batch->interface);
1164     GPU_point_size(11);
1165     GPU_batch_draw_range_ex(batch, 0, v - 1, false);
1166
1167     /* now draw the rest */
1168     rgba_uchar_to_float(fcol, kcd->colors.curpoint_a);
1169     GPU_batch_uniform_4fv(batch, "color", fcol);
1170     GPU_point_size(7);
1171     GPU_batch_draw_range_ex(batch, vs + 1, kcd->totlinehit - (vs + 1), false);
1172
1173     GPU_batch_program_use_end(batch);
1174     GPU_batch_discard(batch);
1175
1176     GPU_blend(false);
1177   }
1178
1179   if (kcd->totkedge > 0) {
1180     BLI_mempool_iter iter;
1181     KnifeEdge *kfe;
1182
1183     immUniformColor3ubv(kcd->colors.line);
1184     GPU_line_width(1.0);
1185
1186     GPUBatch *batch = immBeginBatchAtMost(GPU_PRIM_LINES, BLI_mempool_len(kcd->kedges) * 2);
1187
1188     BLI_mempool_iternew(kcd->kedges, &iter);
1189     for (kfe = BLI_mempool_iterstep(&iter); kfe; kfe = BLI_mempool_iterstep(&iter)) {
1190       if (!kfe->is_cut) {
1191         continue;
1192       }
1193
1194       immVertex3fv(pos, kfe->v1->cageco);
1195       immVertex3fv(pos, kfe->v2->cageco);
1196     }
1197
1198     immEnd();
1199
1200     GPU_batch_draw(batch);
1201     GPU_batch_discard(batch);
1202   }
1203
1204   if (kcd->totkvert > 0) {
1205     BLI_mempool_iter iter;
1206     KnifeVert *kfv;
1207
1208     immUniformColor3ubv(kcd->colors.point);
1209     GPU_point_size(5.0);
1210
1211     GPUBatch *batch = immBeginBatchAtMost(GPU_PRIM_POINTS, BLI_mempool_len(kcd->kverts));
1212
1213     BLI_mempool_iternew(kcd->kverts, &iter);
1214     for (kfv = BLI_mempool_iterstep(&iter); kfv; kfv = BLI_mempool_iterstep(&iter)) {
1215       if (!kfv->is_cut) {
1216         continue;
1217       }
1218
1219       immVertex3fv(pos, kfv->cageco);
1220     }
1221
1222     immEnd();
1223
1224     GPU_batch_draw(batch);
1225     GPU_batch_discard(batch);
1226   }
1227
1228   immUnbindProgram();
1229
1230   GPU_matrix_pop();
1231
1232   /* Reset default */
1233   GPU_depth_test(true);
1234 }
1235
1236 /**
1237  * Find intersection of v1-v2 with face f.
1238  * Only take intersections that are at least \a face_tol_sq (in screen space) away
1239  * from other intersection elements.
1240  * If v1-v2 is coplanar with f, call that "no intersection though
1241  * it really means "infinite number of intersections".
1242  * In such a case we should have gotten hits on edges or verts of the face.
1243  */
1244 static bool knife_ray_intersect_face(KnifeTool_OpData *kcd,
1245                                      const float s[2],
1246                                      const float v1[3],
1247                                      const float v2[3],
1248                                      BMFace *f,
1249                                      const float face_tol_sq,
1250                                      float hit_co[3],
1251                                      float hit_cageco[3])
1252 {
1253   int tottri, tri_i;
1254   float raydir[3];
1255   float tri_norm[3], tri_plane[4];
1256   float se1[2], se2[2];
1257   float d, lambda;
1258   BMLoop **tri;
1259   ListBase *lst;
1260   Ref *ref;
1261   KnifeEdge *kfe;
1262
1263   sub_v3_v3v3(raydir, v2, v1);
1264   normalize_v3(raydir);
1265   tri_i = get_lowest_face_tri(kcd, f);
1266   tottri = kcd->em->tottri;
1267   BLI_assert(tri_i >= 0 && tri_i < tottri);
1268
1269   for (; tri_i < tottri; tri_i++) {
1270     const float *lv1, *lv2, *lv3;
1271     float ray_tri_uv[2];
1272
1273     tri = kcd->em->looptris[tri_i];
1274     if (tri[0]->f != f) {
1275       break;
1276     }
1277     lv1 = kcd->cagecos[BM_elem_index_get(tri[0]->v)];
1278     lv2 = kcd->cagecos[BM_elem_index_get(tri[1]->v)];
1279     lv3 = kcd->cagecos[BM_elem_index_get(tri[2]->v)];
1280     /* using epsilon test in case ray is directly through an internal
1281      * tessellation edge and might not hit either tessellation tri with
1282      * an exact test;
1283      * we will exclude hits near real edges by a later test */
1284     if (isect_ray_tri_epsilon_v3(v1, raydir, lv1, lv2, lv3, &lambda, ray_tri_uv, KNIFE_FLT_EPS)) {
1285       /* check if line coplanar with tri */
1286       normal_tri_v3(tri_norm, lv1, lv2, lv3);
1287       plane_from_point_normal_v3(tri_plane, lv1, tri_norm);
1288       if ((dist_squared_to_plane_v3(v1, tri_plane) < KNIFE_FLT_EPS) &&
1289           (dist_squared_to_plane_v3(v2, tri_plane) < KNIFE_FLT_EPS)) {
1290         return false;
1291       }
1292       interp_v3_v3v3v3_uv(hit_cageco, lv1, lv2, lv3, ray_tri_uv);
1293       /* Now check that far enough away from verts and edges */
1294       lst = knife_get_face_kedges(kcd, f);
1295       for (ref = lst->first; ref; ref = ref->next) {
1296         kfe = ref->ref;
1297         knife_project_v2(kcd, kfe->v1->cageco, se1);
1298         knife_project_v2(kcd, kfe->v2->cageco, se2);
1299         d = dist_squared_to_line_segment_v2(s, se1, se2);
1300         if (d < face_tol_sq) {
1301           return false;
1302         }
1303       }
1304       interp_v3_v3v3v3_uv(hit_co, tri[0]->v->co, tri[1]->v->co, tri[2]->v->co, ray_tri_uv);
1305       return true;
1306     }
1307   }
1308   return false;
1309 }
1310
1311 /**
1312  * Calculate the center and maximum excursion of mesh.
1313  */
1314 static void calc_ortho_extent(KnifeTool_OpData *kcd)
1315 {
1316   BMIter iter;
1317   BMVert *v;
1318   BMesh *bm = kcd->em->bm;
1319   float min[3], max[3];
1320
1321   INIT_MINMAX(min, max);
1322
1323   if (kcd->cagecos) {
1324     minmax_v3v3_v3_array(min, max, kcd->cagecos, bm->totvert);
1325   }
1326   else {
1327     BM_ITER_MESH (v, &iter, bm, BM_VERTS_OF_MESH) {
1328       minmax_v3v3_v3(min, max, v->co);
1329     }
1330   }
1331
1332   kcd->ortho_extent = len_v3v3(min, max) / 2;
1333   mid_v3_v3v3(kcd->ortho_extent_center, min, max);
1334 }
1335
1336 static BMElem *bm_elem_from_knife_vert(KnifeVert *kfv, KnifeEdge **r_kfe)
1337 {
1338   BMElem *ele_test;
1339   KnifeEdge *kfe = NULL;
1340
1341   /* vert? */
1342   ele_test = (BMElem *)kfv->v;
1343
1344   if (r_kfe || ele_test == NULL) {
1345     if (kfv->v == NULL) {
1346       Ref *ref;
1347       for (ref = kfv->edges.first; ref; ref = ref->next) {
1348         kfe = ref->ref;
1349         if (kfe->e) {
1350           if (r_kfe) {
1351             *r_kfe = kfe;
1352           }
1353           break;
1354         }
1355       }
1356     }
1357   }
1358
1359   /* edge? */
1360   if (ele_test == NULL) {
1361     if (kfe) {
1362       ele_test = (BMElem *)kfe->e;
1363     }
1364   }
1365
1366   /* face? */
1367   if (ele_test == NULL) {
1368     if (BLI_listbase_is_single(&kfe->faces)) {
1369       ele_test = ((Ref *)kfe->faces.first)->ref;
1370     }
1371   }
1372
1373   return ele_test;
1374 }
1375
1376 static BMElem *bm_elem_from_knife_edge(KnifeEdge *kfe)
1377 {
1378   BMElem *ele_test;
1379
1380   ele_test = (BMElem *)kfe->e;
1381
1382   if (ele_test == NULL) {
1383     ele_test = (BMElem *)kfe->basef;
1384   }
1385
1386   return ele_test;
1387 }
1388
1389 /* Do edges e1 and e2 go between exactly the same coordinates? */
1390 static bool coinciding_edges(BMEdge *e1, BMEdge *e2)
1391 {
1392   const float *co11, *co12, *co21, *co22;
1393
1394   co11 = e1->v1->co;
1395   co12 = e1->v2->co;
1396   co21 = e2->v1->co;
1397   co22 = e2->v2->co;
1398   if ((equals_v3v3(co11, co21) && equals_v3v3(co12, co22)) ||
1399       (equals_v3v3(co11, co22) && equals_v3v3(co12, co21))) {
1400     return true;
1401   }
1402   else {
1403     return false;
1404   }
1405 }
1406
1407 /* Callback used in point_is_visible to exclude hits on the faces that are the same
1408  * as or contain the hitting element (which is in user_data).
1409  * Also (see T44492) want to exclude hits on faces that butt up to the hitting element
1410  * (e.g., when you double an edge by an edge split).
1411  */
1412 static bool bm_ray_cast_cb_elem_not_in_face_check(BMFace *f, void *user_data)
1413 {
1414   bool ans;
1415   BMEdge *e, *e2;
1416   BMIter iter;
1417
1418   switch (((BMElem *)user_data)->head.htype) {
1419     case BM_FACE:
1420       ans = (BMFace *)user_data != f;
1421       break;
1422     case BM_EDGE:
1423       e = (BMEdge *)user_data;
1424       ans = !BM_edge_in_face(e, f);
1425       if (ans) {
1426         /* Is it a boundary edge, coincident with a split edge? */
1427         if (BM_edge_is_boundary(e)) {
1428           BM_ITER_ELEM (e2, &iter, f, BM_EDGES_OF_FACE) {
1429             if (coinciding_edges(e, e2)) {
1430               ans = false;
1431               break;
1432             }
1433           }
1434         }
1435       }
1436       break;
1437     case BM_VERT:
1438       ans = !BM_vert_in_face((BMVert *)user_data, f);
1439       break;
1440     default:
1441       ans = true;
1442       break;
1443   }
1444   return ans;
1445 }
1446
1447 /**
1448  * Check if \a p is visible (not clipped, not occluded by another face).
1449  * s in screen projection of p.
1450  *
1451  * \param ele_test: Optional vert/edge/face to use when \a p is on the surface of the geometry,
1452  * intersecting faces matching this face (or connected when an vert/edge) will be ignored.
1453  */
1454 static bool point_is_visible(KnifeTool_OpData *kcd,
1455                              const float p[3],
1456                              const float s[2],
1457                              BMElem *ele_test)
1458 {
1459   BMFace *f_hit;
1460
1461   /* If box clipping on, make sure p is not clipped */
1462   if (kcd->vc.rv3d->rflag & RV3D_CLIPPING && ED_view3d_clipping_test(kcd->vc.rv3d, p, true)) {
1463     return false;
1464   }
1465
1466   /* If not cutting through, make sure no face is in front of p */
1467   if (!kcd->cut_through) {
1468     float dist;
1469     float view[3], p_ofs[3];
1470
1471     /* TODO: I think there's a simpler way to get the required raycast ray */
1472     ED_view3d_unproject(kcd->vc.ar, s[0], s[1], 0.0f, view);
1473
1474     mul_m4_v3(kcd->ob->imat, view);
1475
1476     /* make p_ofs a little towards view, so ray doesn't hit p's face. */
1477     sub_v3_v3(view, p);
1478     dist = normalize_v3(view);
1479     copy_v3_v3(p_ofs, p);
1480
1481     /* avoid projecting behind the viewpoint */
1482     if (kcd->is_ortho && (kcd->vc.rv3d->persp != RV3D_CAMOB)) {
1483       dist = kcd->vc.v3d->clip_end * 2.0f;
1484     }
1485
1486     if (kcd->vc.rv3d->rflag & RV3D_CLIPPING) {
1487       float view_clip[2][3];
1488       /* note: view_clip[0] should never get clipped */
1489       copy_v3_v3(view_clip[0], p_ofs);
1490       madd_v3_v3v3fl(view_clip[1], p_ofs, view, dist);
1491
1492       if (clip_segment_v3_plane_n(view_clip[0],
1493                                   view_clip[1],
1494                                   kcd->vc.rv3d->clip_local,
1495                                   6,
1496                                   view_clip[0],
1497                                   view_clip[1])) {
1498         dist = len_v3v3(p_ofs, view_clip[1]);
1499       }
1500     }
1501
1502     /* see if there's a face hit between p1 and the view */
1503     if (ele_test) {
1504       f_hit = BKE_bmbvh_ray_cast_filter(kcd->bmbvh,
1505                                         p_ofs,
1506                                         view,
1507                                         KNIFE_FLT_EPS,
1508                                         &dist,
1509                                         NULL,
1510                                         NULL,
1511                                         bm_ray_cast_cb_elem_not_in_face_check,
1512                                         ele_test);
1513     }
1514     else {
1515       f_hit = BKE_bmbvh_ray_cast(kcd->bmbvh, p_ofs, view, KNIFE_FLT_EPS, &dist, NULL, NULL);
1516     }
1517
1518     if (f_hit) {
1519       return false;
1520     }
1521   }
1522
1523   return true;
1524 }
1525
1526 /* Clip the line (v1, v2) to planes perpendicular to it and distances d from
1527  * the closest point on the line to the origin */
1528 static void clip_to_ortho_planes(float v1[3], float v2[3], const float center[3], const float d)
1529 {
1530   float closest[3], dir[3];
1531
1532   sub_v3_v3v3(dir, v1, v2);
1533   normalize_v3(dir);
1534
1535   /* could be v1 or v2 */
1536   sub_v3_v3(v1, center);
1537   project_plane_normalized_v3_v3v3(closest, v1, dir);
1538   add_v3_v3(closest, center);
1539
1540   madd_v3_v3v3fl(v1, closest, dir, d);
1541   madd_v3_v3v3fl(v2, closest, dir, -d);
1542 }
1543
1544 static void set_linehit_depth(KnifeTool_OpData *kcd, KnifeLineHit *lh)
1545 {
1546   lh->m = dot_m4_v3_row_z(kcd->vc.rv3d->persmatob, lh->cagehit);
1547 }
1548
1549 /* Finds visible (or all, if cutting through) edges that intersects the current screen drag line */
1550 static void knife_find_line_hits(KnifeTool_OpData *kcd)
1551 {
1552   SmallHash faces, kfes, kfvs;
1553   float v1[3], v2[3], v3[3], v4[3], s1[2], s2[2];
1554   BVHTree *planetree, *tree;
1555   BVHTreeOverlap *results, *result;
1556   BMLoop **ls;
1557   BMFace *f;
1558   KnifeEdge *kfe;
1559   KnifeVert *v;
1560   ListBase *lst;
1561   Ref *ref;
1562   KnifeLineHit *linehits = NULL;
1563   BLI_array_declare(linehits);
1564   SmallHashIter hiter;
1565   KnifeLineHit hit;
1566   void *val;
1567   void **val_p;
1568   float plane_cos[12];
1569   float s[2], se1[2], se2[2], sint[2];
1570   float r1[3], r2[3];
1571   float d, d1, d2, lambda;
1572   float vert_tol, vert_tol_sq;
1573   float line_tol, line_tol_sq;
1574   float face_tol, face_tol_sq;
1575   int isect_kind;
1576   unsigned int tot;
1577   int i;
1578   const bool use_hit_prev = true;
1579   const bool use_hit_curr = (kcd->is_drag_hold == false);
1580
1581   if (kcd->linehits) {
1582     MEM_freeN(kcd->linehits);
1583     kcd->linehits = NULL;
1584     kcd->totlinehit = 0;
1585   }
1586
1587   copy_v3_v3(v1, kcd->prev.cage);
1588   copy_v3_v3(v2, kcd->curr.cage);
1589
1590   /* project screen line's 3d coordinates back into 2d */
1591   knife_project_v2(kcd, v1, s1);
1592   knife_project_v2(kcd, v2, s2);
1593
1594   if (kcd->is_interactive) {
1595     if (len_squared_v2v2(s1, s2) < 1.0f) {
1596       return;
1597     }
1598   }
1599   else {
1600     if (len_squared_v2v2(s1, s2) < KNIFE_FLT_EPS_SQUARED) {
1601       return;
1602     }
1603   }
1604
1605   /* unproject screen line */
1606   ED_view3d_win_to_segment_clipped(kcd->vc.depsgraph, kcd->ar, kcd->vc.v3d, s1, v1, v3, true);
1607   ED_view3d_win_to_segment_clipped(kcd->vc.depsgraph, kcd->ar, kcd->vc.v3d, s2, v2, v4, true);
1608
1609   mul_m4_v3(kcd->ob->imat, v1);
1610   mul_m4_v3(kcd->ob->imat, v2);
1611   mul_m4_v3(kcd->ob->imat, v3);
1612   mul_m4_v3(kcd->ob->imat, v4);
1613
1614   /* numeric error, 'v1' -> 'v2', 'v2' -> 'v4' can end up being ~2000 units apart in otho mode
1615    * (from ED_view3d_win_to_segment_clipped() above)
1616    * this gives precision error; rather then solving properly
1617    * (which may involve using doubles everywhere!),
1618    * limit the distance between these points */
1619   if (kcd->is_ortho && (kcd->vc.rv3d->persp != RV3D_CAMOB)) {
1620     if (kcd->ortho_extent == 0.0f) {
1621       calc_ortho_extent(kcd);
1622     }
1623     clip_to_ortho_planes(v1, v3, kcd->ortho_extent_center, kcd->ortho_extent + 10.0f);
1624     clip_to_ortho_planes(v2, v4, kcd->ortho_extent_center, kcd->ortho_extent + 10.0f);
1625   }
1626
1627   /* First use bvh tree to find faces, knife edges, and knife verts that might
1628    * intersect the cut plane with rays v1-v3 and v2-v4.
1629    * This deduplicates the candidates before doing more expensive intersection tests. */
1630
1631   tree = BKE_bmbvh_tree_get(kcd->bmbvh);
1632   planetree = BLI_bvhtree_new(4, FLT_EPSILON * 4, 8, 8);
1633   copy_v3_v3(plane_cos + 0, v1);
1634   copy_v3_v3(plane_cos + 3, v2);
1635   copy_v3_v3(plane_cos + 6, v3);
1636   copy_v3_v3(plane_cos + 9, v4);
1637   BLI_bvhtree_insert(planetree, 0, plane_cos, 4);
1638   BLI_bvhtree_balance(planetree);
1639
1640   results = BLI_bvhtree_overlap(tree, planetree, &tot, NULL, NULL);
1641   if (!results) {
1642     BLI_bvhtree_free(planetree);
1643     return;
1644   }
1645
1646   BLI_smallhash_init(&faces);
1647   BLI_smallhash_init(&kfes);
1648   BLI_smallhash_init(&kfvs);
1649
1650   for (i = 0, result = results; i < tot; i++, result++) {
1651     ls = (BMLoop **)kcd->em->looptris[result->indexA];
1652     f = ls[0]->f;
1653     set_lowest_face_tri(kcd, f, result->indexA);
1654
1655     /* occlude but never cut unselected faces (when only_select is used) */
1656     if (kcd->only_select && !BM_elem_flag_test(f, BM_ELEM_SELECT)) {
1657       continue;
1658     }
1659     /* for faces, store index of lowest hit looptri in hash */
1660     if (BLI_smallhash_haskey(&faces, (uintptr_t)f)) {
1661       continue;
1662     }
1663     /* don't care what the value is except that it is non-NULL, for iterator */
1664     BLI_smallhash_insert(&faces, (uintptr_t)f, f);
1665
1666     lst = knife_get_face_kedges(kcd, f);
1667     for (ref = lst->first; ref; ref = ref->next) {
1668       kfe = ref->ref;
1669       if (BLI_smallhash_haskey(&kfes, (uintptr_t)kfe)) {
1670         continue;
1671       }
1672       BLI_smallhash_insert(&kfes, (uintptr_t)kfe, kfe);
1673       v = kfe->v1;
1674       BLI_smallhash_reinsert(&kfvs, (uintptr_t)v, v);
1675       v = kfe->v2;
1676       BLI_smallhash_reinsert(&kfvs, (uintptr_t)v, v);
1677     }
1678   }
1679
1680   /* Now go through the candidates and find intersections */
1681   /* These tolerances, in screen space, are for intermediate hits,
1682    * as ends are already snapped to screen. */
1683
1684   if (kcd->is_interactive) {
1685     vert_tol = KNIFE_FLT_EPS_PX_VERT;
1686     line_tol = KNIFE_FLT_EPS_PX_EDGE;
1687     face_tol = KNIFE_FLT_EPS_PX_FACE;
1688   }
1689   else {
1690     /* Use 1/100th of a pixel, see T43896 (too big), T47910 (too small).
1691      *
1692      * Update, leave this as is until we investigate not using pixel coords
1693      * for geometry calculations: T48023. */
1694     vert_tol = line_tol = face_tol = 0.5f;
1695   }
1696
1697   vert_tol_sq = vert_tol * vert_tol;
1698   line_tol_sq = line_tol * line_tol;
1699   face_tol_sq = face_tol * face_tol;
1700
1701   /* Assume these tolerances swamp floating point rounding errors in calculations below */
1702
1703   /* first look for vertex hits */
1704   for (val_p = BLI_smallhash_iternew_p(&kfvs, &hiter, (uintptr_t *)&v); val_p;
1705        val_p = BLI_smallhash_iternext_p(&hiter, (uintptr_t *)&v)) {
1706     KnifeEdge *kfe_hit = NULL;
1707
1708     knife_project_v2(kcd, v->cageco, s);
1709     d = dist_squared_to_line_segment_v2(s, s1, s2);
1710     if ((d <= vert_tol_sq) &&
1711         (point_is_visible(kcd, v->cageco, s, bm_elem_from_knife_vert(v, &kfe_hit)))) {
1712       memset(&hit, 0, sizeof(hit));
1713       hit.v = v;
1714
1715       /* If this isn't from an existing BMVert, it may have been added to a BMEdge originally.
1716        * knowing if the hit comes from an edge is important for edge-in-face checks later on
1717        * see: #knife_add_single_cut -> #knife_verts_edge_in_face, T42611 */
1718       if (kfe_hit) {
1719         hit.kfe = kfe_hit;
1720       }
1721
1722       copy_v3_v3(hit.hit, v->co);
1723       copy_v3_v3(hit.cagehit, v->cageco);
1724       copy_v2_v2(hit.schit, s);
1725       set_linehit_depth(kcd, &hit);
1726       BLI_array_append(linehits, hit);
1727     }
1728     else {
1729       /* note that these vertes aren't used */
1730       *val_p = NULL;
1731     }
1732   }
1733
1734   /* now edge hits; don't add if a vertex at end of edge should have hit */
1735   for (val = BLI_smallhash_iternew(&kfes, &hiter, (uintptr_t *)&kfe); val;
1736        val = BLI_smallhash_iternext(&hiter, (uintptr_t *)&kfe)) {
1737     int kfe_verts_in_cut;
1738     /* if we intersect both verts, don't attempt to intersect the edge */
1739
1740     kfe_verts_in_cut = (BLI_smallhash_lookup(&kfvs, (intptr_t)kfe->v1) != NULL) +
1741                        (BLI_smallhash_lookup(&kfvs, (intptr_t)kfe->v2) != NULL);
1742
1743     if (kfe_verts_in_cut == 2) {
1744       continue;
1745     }
1746
1747     knife_project_v2(kcd, kfe->v1->cageco, se1);
1748     knife_project_v2(kcd, kfe->v2->cageco, se2);
1749     isect_kind = (kfe_verts_in_cut) ? -1 : isect_seg_seg_v2_point(s1, s2, se1, se2, sint);
1750     if (isect_kind == -1) {
1751       /* isect_seg_seg_v2_simple doesn't do tolerance test around ends of s1-s2 */
1752       closest_to_line_segment_v2(sint, s1, se1, se2);
1753       if (len_squared_v2v2(sint, s1) <= line_tol_sq) {
1754         isect_kind = 1;
1755       }
1756       else {
1757         closest_to_line_segment_v2(sint, s2, se1, se2);
1758         if (len_squared_v2v2(sint, s2) <= line_tol_sq) {
1759           isect_kind = 1;
1760         }
1761       }
1762     }
1763     if (isect_kind == 1) {
1764       d1 = len_v2v2(sint, se1);
1765       d2 = len_v2v2(se2, se1);
1766       if (!(d1 <= line_tol || d2 <= line_tol || fabsf(d1 - d2) <= line_tol)) {
1767         float p_cage[3], p_cage_tmp[3];
1768         lambda = d1 / d2;
1769         /* Can't just interpolate between ends of kfe because
1770          * that doesn't work with perspective transformation.
1771          * Need to find 3d intersection of ray through sint */
1772         knife_input_ray_segment(kcd, sint, 1.0f, r1, r2);
1773         isect_kind = isect_line_line_v3(
1774             kfe->v1->cageco, kfe->v2->cageco, r1, r2, p_cage, p_cage_tmp);
1775         if (isect_kind >= 1 && point_is_visible(kcd, p_cage, sint, bm_elem_from_knife_edge(kfe))) {
1776           memset(&hit, 0, sizeof(hit));
1777           if (kcd->snap_midpoints) {
1778             /* choose intermediate point snap too */
1779             mid_v3_v3v3(p_cage, kfe->v1->cageco, kfe->v2->cageco);
1780             mid_v2_v2v2(sint, se1, se2);
1781             lambda = 0.5f;
1782           }
1783           hit.kfe = kfe;
1784           transform_point_by_seg_v3(
1785               hit.hit, p_cage, kfe->v1->co, kfe->v2->co, kfe->v1->cageco, kfe->v2->cageco);
1786           copy_v3_v3(hit.cagehit, p_cage);
1787           copy_v2_v2(hit.schit, sint);
1788           hit.perc = lambda;
1789           set_linehit_depth(kcd, &hit);
1790           BLI_array_append(linehits, hit);
1791         }
1792       }
1793     }
1794   }
1795   /* now face hits; don't add if a vertex or edge in face should have hit */
1796   for (val = BLI_smallhash_iternew(&faces, &hiter, (uintptr_t *)&f); val;
1797        val = BLI_smallhash_iternext(&hiter, (uintptr_t *)&f)) {
1798     float p[3], p_cage[3];
1799
1800     if (use_hit_prev && knife_ray_intersect_face(kcd, s1, v1, v3, f, face_tol_sq, p, p_cage)) {
1801       if (point_is_visible(kcd, p_cage, s1, (BMElem *)f)) {
1802         memset(&hit, 0, sizeof(hit));
1803         hit.f = f;
1804         copy_v3_v3(hit.hit, p);
1805         copy_v3_v3(hit.cagehit, p_cage);
1806         copy_v2_v2(hit.schit, s1);
1807         set_linehit_depth(kcd, &hit);
1808         BLI_array_append(linehits, hit);
1809       }
1810     }
1811
1812     if (use_hit_curr && knife_ray_intersect_face(kcd, s2, v2, v4, f, face_tol_sq, p, p_cage)) {
1813       if (point_is_visible(kcd, p_cage, s2, (BMElem *)f)) {
1814         memset(&hit, 0, sizeof(hit));
1815         hit.f = f;
1816         copy_v3_v3(hit.hit, p);
1817         copy_v3_v3(hit.cagehit, p_cage);
1818         copy_v2_v2(hit.schit, s2);
1819         set_linehit_depth(kcd, &hit);
1820         BLI_array_append(linehits, hit);
1821       }
1822     }
1823   }
1824
1825   kcd->linehits = linehits;
1826   kcd->totlinehit = BLI_array_len(linehits);
1827
1828   /* find position along screen line, used for sorting */
1829   for (i = 0; i < kcd->totlinehit; i++) {
1830     KnifeLineHit *lh = kcd->linehits + i;
1831
1832     lh->l = len_v2v2(lh->schit, s1) / len_v2v2(s2, s1);
1833   }
1834
1835   BLI_smallhash_release(&faces);
1836   BLI_smallhash_release(&kfes);
1837   BLI_smallhash_release(&kfvs);
1838   BLI_bvhtree_free(planetree);
1839   if (results) {
1840     MEM_freeN(results);
1841   }
1842 }
1843
1844 static void knife_input_ray_segment(KnifeTool_OpData *kcd,
1845                                     const float mval[2],
1846                                     const float ofs,
1847                                     float r_origin[3],
1848                                     float r_origin_ofs[3])
1849 {
1850   /* unproject to find view ray */
1851   ED_view3d_unproject(kcd->vc.ar, mval[0], mval[1], 0.0f, r_origin);
1852   ED_view3d_unproject(kcd->vc.ar, mval[0], mval[1], ofs, r_origin_ofs);
1853
1854   /* transform into object space */
1855   invert_m4_m4(kcd->ob->imat, kcd->ob->obmat);
1856
1857   mul_m4_v3(kcd->ob->imat, r_origin);
1858   mul_m4_v3(kcd->ob->imat, r_origin_ofs);
1859 }
1860
1861 static BMFace *knife_find_closest_face(KnifeTool_OpData *kcd,
1862                                        float co[3],
1863                                        float cageco[3],
1864                                        bool *is_space)
1865 {
1866   BMFace *f;
1867   float dist = KMAXDIST;
1868   float origin[3];
1869   float origin_ofs[3];
1870   float ray[3], ray_normal[3];
1871
1872   /* unproject to find view ray */
1873   knife_input_ray_segment(kcd, kcd->curr.mval, 1.0f, origin, origin_ofs);
1874   sub_v3_v3v3(ray, origin_ofs, origin);
1875   normalize_v3_v3(ray_normal, ray);
1876
1877   f = BKE_bmbvh_ray_cast(kcd->bmbvh, origin, ray_normal, 0.0f, NULL, co, cageco);
1878
1879   if (f && kcd->only_select && BM_elem_flag_test(f, BM_ELEM_SELECT) == 0) {
1880     f = NULL;
1881   }
1882
1883   if (is_space) {
1884     *is_space = !f;
1885   }
1886
1887   if (!f) {
1888     if (kcd->is_interactive) {
1889       /* try to use backbuffer selection method if ray casting failed */
1890       f = EDBM_face_find_nearest(&kcd->vc, &dist);
1891
1892       /* cheat for now; just put in the origin instead
1893        * of a true coordinate on the face.
1894        * This just puts a point 1.0f infront of the view. */
1895       add_v3_v3v3(co, origin, ray);
1896     }
1897   }
1898
1899   return f;
1900 }
1901
1902 /* find the 2d screen space density of vertices within a radius.  used to scale snapping
1903  * distance for picking edges/verts.*/
1904 static int knife_sample_screen_density(KnifeTool_OpData *kcd, const float radius)
1905 {
1906   BMFace *f;
1907   bool is_space;
1908   float co[3], cageco[3], sco[2];
1909
1910   BLI_assert(kcd->is_interactive == true);
1911
1912   f = knife_find_closest_face(kcd, co, cageco, &is_space);
1913
1914   if (f && !is_space) {
1915     const float radius_sq = radius * radius;
1916     ListBase *lst;
1917     Ref *ref;
1918     float dis_sq;
1919     int c = 0;
1920
1921     knife_project_v2(kcd, cageco, sco);
1922
1923     lst = knife_get_face_kedges(kcd, f);
1924     for (ref = lst->first; ref; ref = ref->next) {
1925       KnifeEdge *kfe = ref->ref;
1926       int i;
1927
1928       for (i = 0; i < 2; i++) {
1929         KnifeVert *kfv = i ? kfe->v2 : kfe->v1;
1930
1931         knife_project_v2(kcd, kfv->cageco, kfv->sco);
1932
1933         dis_sq = len_squared_v2v2(kfv->sco, sco);
1934         if (dis_sq < radius_sq) {
1935           if (kcd->vc.rv3d->rflag & RV3D_CLIPPING) {
1936             if (ED_view3d_clipping_test(kcd->vc.rv3d, kfv->cageco, true) == 0) {
1937               c++;
1938             }
1939           }
1940           else {
1941             c++;
1942           }
1943         }
1944       }
1945     }
1946
1947     return c;
1948   }
1949
1950   return 0;
1951 }
1952
1953 /* returns snapping distance for edges/verts, scaled by the density of the
1954  * surrounding mesh (in screen space)*/
1955 static float knife_snap_size(KnifeTool_OpData *kcd, float maxsize)
1956 {
1957   float density = (float)knife_sample_screen_density(kcd, maxsize * 2.0f);
1958
1959   return min_ff(maxsize / (density * 0.5f), maxsize);
1960 }
1961
1962 /* p is closest point on edge to the mouse cursor */
1963 static KnifeEdge *knife_find_closest_edge(
1964     KnifeTool_OpData *kcd, float p[3], float cagep[3], BMFace **fptr, bool *is_space)
1965 {
1966   BMFace *f;
1967   float co[3], cageco[3], sco[2];
1968   float maxdist;
1969
1970   if (kcd->is_interactive) {
1971     maxdist = knife_snap_size(kcd, kcd->ethresh);
1972
1973     if (kcd->ignore_vert_snapping) {
1974       maxdist *= 0.5f;
1975     }
1976   }
1977   else {
1978     maxdist = KNIFE_FLT_EPS;
1979   }
1980
1981   f = knife_find_closest_face(kcd, co, cageco, NULL);
1982   *is_space = !f;
1983
1984   kcd->curr.bmface = f;
1985
1986   if (f) {
1987     const float maxdist_sq = maxdist * maxdist;
1988     KnifeEdge *cure = NULL;
1989     float cur_cagep[3];
1990     ListBase *lst;
1991     Ref *ref;
1992     float dis_sq, curdis_sq = FLT_MAX;
1993
1994     /* set p to co, in case we don't find anything, means a face cut */
1995     copy_v3_v3(p, co);
1996     copy_v3_v3(cagep, cageco);
1997
1998     knife_project_v2(kcd, cageco, sco);
1999
2000     /* look through all edges associated with this face */
2001     lst = knife_get_face_kedges(kcd, f);
2002     for (ref = lst->first; ref; ref = ref->next) {
2003       KnifeEdge *kfe = ref->ref;
2004       float test_cagep[3];
2005       float lambda;
2006
2007       /* project edge vertices into screen space */
2008       knife_project_v2(kcd, kfe->v1->cageco, kfe->v1->sco);
2009       knife_project_v2(kcd, kfe->v2->cageco, kfe->v2->sco);
2010
2011       /* check if we're close enough and calculate 'lambda' */
2012       if (kcd->is_angle_snapping) {
2013         /* if snapping, check we're in bounds */
2014         float sco_snap[2];
2015         isect_line_line_v2_point(
2016             kfe->v1->sco, kfe->v2->sco, kcd->prev.mval, kcd->curr.mval, sco_snap);
2017         lambda = line_point_factor_v2(sco_snap, kfe->v1->sco, kfe->v2->sco);
2018
2019         /* be strict about angle-snapping within edge */
2020         if ((lambda < 0.0f - KNIFE_FLT_EPSBIG) || (lambda > 1.0f + KNIFE_FLT_EPSBIG)) {
2021           continue;
2022         }
2023
2024         dis_sq = len_squared_v2v2(sco, sco_snap);
2025         if (dis_sq < curdis_sq && dis_sq < maxdist_sq) {
2026           /* we already have 'lambda' */
2027         }
2028         else {
2029           continue;
2030         }
2031       }
2032       else {
2033         dis_sq = dist_squared_to_line_segment_v2(sco, kfe->v1->sco, kfe->v2->sco);
2034         if (dis_sq < curdis_sq && dis_sq < maxdist_sq) {
2035           lambda = line_point_factor_v2(sco, kfe->v1->sco, kfe->v2->sco);
2036         }
2037         else {
2038           continue;
2039         }
2040       }
2041
2042       /* now we have 'lambda' calculated (in screen-space) */
2043       knife_interp_v3_v3v3(kcd, test_cagep, kfe->v1->cageco, kfe->v2->cageco, lambda);
2044
2045       if (kcd->vc.rv3d->rflag & RV3D_CLIPPING) {
2046         /* check we're in the view */
2047         if (ED_view3d_clipping_test(kcd->vc.rv3d, test_cagep, true)) {
2048           continue;
2049         }
2050       }
2051
2052       cure = kfe;
2053       curdis_sq = dis_sq;
2054       copy_v3_v3(cur_cagep, test_cagep);
2055     }
2056
2057     if (fptr) {
2058       *fptr = f;
2059     }
2060
2061     if (cure) {
2062       if (!kcd->ignore_edge_snapping || !(cure->e)) {
2063         KnifeVert *edgesnap = NULL;
2064
2065         if (kcd->snap_midpoints) {
2066           mid_v3_v3v3(p, cure->v1->co, cure->v2->co);
2067           mid_v3_v3v3(cagep, cure->v1->cageco, cure->v2->cageco);
2068         }
2069         else {
2070           float lambda = line_point_factor_v3(cur_cagep, cure->v1->cageco, cure->v2->cageco);
2071           copy_v3_v3(cagep, cur_cagep);
2072           interp_v3_v3v3(p, cure->v1->co, cure->v2->co, lambda);
2073         }
2074
2075         /* update mouse coordinates to the snapped-to edge's screen coordinates
2076          * this is important for angle snap, which uses the previous mouse position */
2077         edgesnap = new_knife_vert(kcd, p, cagep);
2078         kcd->curr.mval[0] = edgesnap->sco[0];
2079         kcd->curr.mval[1] = edgesnap->sco[1];
2080       }
2081       else {
2082         return NULL;
2083       }
2084     }
2085
2086     return cure;
2087   }
2088
2089   if (fptr) {
2090     *fptr = NULL;
2091   }
2092
2093   return NULL;
2094 }
2095
2096 /* find a vertex near the mouse cursor, if it exists */
2097 static KnifeVert *knife_find_closest_vert(
2098     KnifeTool_OpData *kcd, float p[3], float cagep[3], BMFace **fptr, bool *is_space)
2099 {
2100   BMFace *f;
2101   float co[3], cageco[3], sco[2];
2102   float maxdist;
2103
2104   if (kcd->is_interactive) {
2105     maxdist = knife_snap_size(kcd, kcd->vthresh);
2106     if (kcd->ignore_vert_snapping) {
2107       maxdist *= 0.5f;
2108     }
2109   }
2110   else {
2111     maxdist = KNIFE_FLT_EPS;
2112   }
2113
2114   f = knife_find_closest_face(kcd, co, cageco, is_space);
2115
2116   kcd->curr.bmface = f;
2117
2118   if (f) {
2119     const float maxdist_sq = maxdist * maxdist;
2120     ListBase *lst;
2121     Ref *ref;
2122     KnifeVert *curv = NULL;
2123     float dis_sq, curdis_sq = FLT_MAX;
2124
2125     /* set p to co, in case we don't find anything, means a face cut */
2126     copy_v3_v3(p, co);
2127     copy_v3_v3(cagep, cageco);
2128
2129     knife_project_v2(kcd, cageco, sco);
2130
2131     lst = knife_get_face_kedges(kcd, f);
2132     for (ref = lst->first; ref; ref = ref->next) {
2133       KnifeEdge *kfe = ref->ref;
2134       int i;
2135
2136       for (i = 0; i < 2; i++) {
2137         KnifeVert *kfv = i ? kfe->v2 : kfe->v1;
2138
2139         knife_project_v2(kcd, kfv->cageco, kfv->sco);
2140
2141         /* be strict about angle snapping, the vertex needs to be very close to the angle,
2142          * or we ignore */
2143         if (kcd->is_angle_snapping) {
2144           if (dist_squared_to_line_segment_v2(kfv->sco, kcd->prev.mval, kcd->curr.mval) >
2145               KNIFE_FLT_EPSBIG) {
2146             continue;
2147           }
2148         }
2149
2150         dis_sq = len_squared_v2v2(kfv->sco, sco);
2151         if (dis_sq < curdis_sq && dis_sq < maxdist_sq) {
2152           if (kcd->vc.rv3d->rflag & RV3D_CLIPPING) {
2153             if (ED_view3d_clipping_test(kcd->vc.rv3d, kfv->cageco, true) == 0) {
2154               curv = kfv;
2155               curdis_sq = dis_sq;
2156             }
2157           }
2158           else {
2159             curv = kfv;
2160             curdis_sq = dis_sq;
2161           }
2162         }
2163       }
2164     }
2165
2166     if (!kcd->ignore_vert_snapping || !(curv && curv->v)) {
2167       if (fptr) {
2168         *fptr = f;
2169       }
2170
2171       if (curv) {
2172         copy_v3_v3(p, curv->co);
2173         copy_v3_v3(cagep, curv->cageco);
2174
2175         /* update mouse coordinates to the snapped-to vertex's screen coordinates
2176          * this is important for angle snap, which uses the previous mouse position */
2177         kcd->curr.mval[0] = curv->sco[0];
2178         kcd->curr.mval[1] = curv->sco[1];
2179       }
2180
2181       return curv;
2182     }
2183     else {
2184       if (fptr) {
2185         *fptr = f;
2186       }
2187
2188       return NULL;
2189     }
2190   }
2191
2192   if (fptr) {
2193     *fptr = NULL;
2194   }
2195
2196   return NULL;
2197 }
2198
2199 /**
2200  * Snaps a 2d vector to an angle, relative to \a v_ref.
2201  */
2202 static float snap_v2_angle(float r[2], const float v[2], const float v_ref[2], float angle_snap)
2203 {
2204   float m2[2][2];
2205   float v_unit[2];
2206   float angle, angle_delta;
2207
2208   BLI_ASSERT_UNIT_V2(v_ref);
2209
2210   normalize_v2_v2(v_unit, v);
2211   angle = angle_signed_v2v2(v_unit, v_ref);
2212   angle_delta = (roundf(angle / angle_snap) * angle_snap) - angle;
2213   angle_to_mat2(m2, angle_delta);
2214
2215   mul_v2_m2v2(r, m2, v);
2216   return angle + angle_delta;
2217 }
2218
2219 /* update both kcd->curr.mval and kcd->mval to snap to required angle */
2220 static bool knife_snap_angle(KnifeTool_OpData *kcd)
2221 {
2222   const float dvec_ref[2] = {0.0f, 1.0f};
2223   float dvec[2], dvec_snap[2];
2224   float snap_step = DEG2RADF(45);
2225
2226   sub_v2_v2v2(dvec, kcd->curr.mval, kcd->prev.mval);
2227   if (is_zero_v2(dvec)) {
2228     return false;
2229   }
2230
2231   kcd->angle = snap_v2_angle(dvec_snap, dvec, dvec_ref, snap_step);
2232
2233   add_v2_v2v2(kcd->curr.mval, kcd->prev.mval, dvec_snap);
2234
2235   copy_v2_v2(kcd->mval, kcd->curr.mval);
2236
2237   return true;
2238 }
2239
2240 /* update active knife edge/vert pointers */
2241 static int knife_update_active(KnifeTool_OpData *kcd)
2242 {
2243   knife_pos_data_clear(&kcd->curr);
2244   copy_v2_v2(kcd->curr.mval, kcd->mval);
2245
2246   /* view matrix may have changed, reproject */
2247   knife_project_v2(kcd, kcd->prev.cage, kcd->prev.mval);
2248
2249   if (kcd->angle_snapping && (kcd->mode == MODE_DRAGGING)) {
2250     kcd->is_angle_snapping = knife_snap_angle(kcd);
2251   }
2252   else {
2253     kcd->is_angle_snapping = false;
2254   }
2255
2256   kcd->curr.vert = knife_find_closest_vert(
2257       kcd, kcd->curr.co, kcd->curr.cage, &kcd->curr.bmface, &kcd->curr.is_space);
2258
2259   if (!kcd->curr.vert &&
2260       /* no edge snapping while dragging (edges are too sticky when cuts are immediate) */
2261       !kcd->is_drag_hold) {
2262     kcd->curr.edge = knife_find_closest_edge(
2263         kcd, kcd->curr.co, kcd->curr.cage, &kcd->curr.bmface, &kcd->curr.is_space);
2264   }
2265
2266   /* if no hits are found this would normally default to (0, 0, 0) so instead
2267    * get a point at the mouse ray closest to the previous point.
2268    * Note that drawing lines in `free-space` isn't properly supported
2269    * but there's no guarantee (0, 0, 0) has any geometry either - campbell */
2270   if (kcd->curr.vert == NULL && kcd->curr.edge == NULL && kcd->curr.bmface == NULL) {
2271     float origin[3];
2272     float origin_ofs[3];
2273
2274     knife_input_ray_segment(kcd, kcd->curr.mval, 1.0f, origin, origin_ofs);
2275
2276     if (!isect_line_plane_v3(
2277             kcd->curr.cage, origin, origin_ofs, kcd->prev.cage, kcd->proj_zaxis)) {
2278       copy_v3_v3(kcd->curr.cage, kcd->prev.cage);
2279
2280       /* should never fail! */
2281       BLI_assert(0);
2282     }
2283   }
2284
2285   if (kcd->mode == MODE_DRAGGING) {
2286     knife_find_line_hits(kcd);
2287   }
2288   return 1;
2289 }
2290
2291 static int sort_verts_by_dist_cb(void *co_p, const void *cur_a_p, const void *cur_b_p)
2292 {
2293   const KnifeVert *cur_a = ((const Ref *)cur_a_p)->ref;
2294   const KnifeVert *cur_b = ((const Ref *)cur_b_p)->ref;
2295   const float *co = co_p;
2296   const float a_sq = len_squared_v3v3(co, cur_a->co);
2297   const float b_sq = len_squared_v3v3(co, cur_b->co);
2298
2299   if (a_sq < b_sq) {
2300     return -1;
2301   }
2302   else if (a_sq > b_sq) {
2303     return 1;
2304   }
2305   else {
2306     return 0;
2307   }
2308 }
2309
2310 static bool knife_verts_edge_in_face(KnifeVert *v1, KnifeVert *v2, BMFace *f)
2311 {
2312   bool v1_inside, v2_inside;
2313   bool v1_inface, v2_inface;
2314   BMLoop *l1, *l2;
2315
2316   if (!f || !v1 || !v2) {
2317     return false;
2318   }
2319
2320   l1 = v1->v ? BM_face_vert_share_loop(f, v1->v) : NULL;
2321   l2 = v2->v ? BM_face_vert_share_loop(f, v2->v) : NULL;
2322
2323   if ((l1 && l2) && BM_loop_is_adjacent(l1, l2)) {
2324     /* boundary-case, always false to avoid edge-in-face checks below */
2325     return false;
2326   }
2327
2328   /* find out if v1 and v2, if set, are part of the face */
2329   v1_inface = (l1 != NULL);
2330   v2_inface = (l2 != NULL);
2331
2332   /* BM_face_point_inside_test uses best-axis projection so this isn't most accurate test... */
2333   v1_inside = v1_inface ? false : BM_face_point_inside_test(f, v1->co);
2334   v2_inside = v2_inface ? false : BM_face_point_inside_test(f, v2->co);
2335   if ((v1_inface && v2_inside) || (v2_inface && v1_inside) || (v1_inside && v2_inside)) {
2336     return true;
2337   }
2338
2339   if (v1_inface && v2_inface) {
2340     float mid[3];
2341     /* Can have case where v1 and v2 are on shared chain between two faces.
2342      * BM_face_splits_check_legal does visibility and self-intersection tests,
2343      * but it is expensive and maybe a bit buggy, so use a simple
2344      * "is the midpoint in the face" test */
2345     mid_v3_v3v3(mid, v1->co, v2->co);
2346     return BM_face_point_inside_test(f, mid);
2347   }
2348   return false;
2349 }
2350
2351 static void knife_make_face_cuts(KnifeTool_OpData *kcd, BMFace *f, ListBase *kfedges)
2352 {
2353   BMesh *bm = kcd->em->bm;
2354   KnifeEdge *kfe;
2355   Ref *ref;
2356   int edge_array_len = BLI_listbase_count(kfedges);
2357   int i;
2358
2359   BMEdge **edge_array = BLI_array_alloca(edge_array, edge_array_len);
2360
2361   /* point to knife edges we've created edges in, edge_array aligned */
2362   KnifeEdge **kfe_array = BLI_array_alloca(kfe_array, edge_array_len);
2363
2364   BLI_assert(BLI_gset_len(kcd->edgenet.edge_visit) == 0);
2365
2366   i = 0;
2367   for (ref = kfedges->first; ref; ref = ref->next) {
2368     bool is_new_edge = false;
2369     kfe = ref->ref;
2370
2371     if (kfe->e == NULL) {
2372       if (kfe->v1->v && kfe->v2->v) {
2373         kfe->e = BM_edge_exists(kfe->v1->v, kfe->v2->v);
2374       }
2375     }
2376
2377     if (kfe->e) {
2378       if (BM_edge_in_face(kfe->e, f)) {
2379         /* shouldn't happen, but in this case - just ignore */
2380         continue;
2381       }
2382     }
2383     else {
2384       if (kfe->v1->v == NULL) {
2385         kfe->v1->v = BM_vert_create(bm, kfe->v1->co, NULL, 0);
2386       }
2387       if (kfe->v2->v == NULL) {
2388         kfe->v2->v = BM_vert_create(bm, kfe->v2->co, NULL, 0);
2389       }
2390       BLI_assert(kfe->e == NULL);
2391       kfe->e = BM_edge_create(bm, kfe->v1->v, kfe->v2->v, NULL, 0);
2392       if (kfe->e) {
2393         if (kcd->select_result || BM_elem_flag_test(f, BM_ELEM_SELECT)) {
2394           BM_edge_select_set(bm, kfe->e, true);
2395         }
2396         is_new_edge = true;
2397       }
2398     }
2399
2400     BLI_assert(kfe->e);
2401
2402     if (BLI_gset_add(kcd->edgenet.edge_visit, kfe->e)) {
2403       kfe_array[i] = is_new_edge ? kfe : 0;
2404       edge_array[i] = kfe->e;
2405       i += 1;
2406     }
2407   }
2408
2409   if (i) {
2410     const int edge_array_len_orig = i;
2411     edge_array_len = i;
2412
2413 #ifdef USE_NET_ISLAND_CONNECT
2414     unsigned int edge_array_holes_len;
2415     BMEdge **edge_array_holes;
2416     if (BM_face_split_edgenet_connect_islands(bm,
2417                                               f,
2418                                               edge_array,
2419                                               edge_array_len,
2420                                               true,
2421                                               kcd->edgenet.arena,
2422                                               &edge_array_holes,
2423                                               &edge_array_holes_len)) {
2424       if (BM_elem_flag_test(f, BM_ELEM_SELECT)) {
2425         for (i = edge_array_len; i < edge_array_holes_len; i++) {
2426           BM_edge_select_set(bm, edge_array_holes[i], true);
2427         }
2428       }
2429
2430       edge_array_len = edge_array_holes_len;
2431       edge_array = edge_array_holes; /* owned by the arena */
2432     }
2433 #endif
2434
2435     {
2436       BMFace **face_arr = NULL;
2437       int face_arr_len;
2438
2439       BM_face_split_edgenet(bm, f, edge_array, edge_array_len, &face_arr, &face_arr_len);
2440
2441       if (face_arr) {
2442         MEM_freeN(face_arr);
2443       }
2444     }
2445
2446     /* remove dangling edges, not essential - but nice for users */
2447     for (i = 0; i < edge_array_len_orig; i++) {
2448       if (kfe_array[i]) {
2449         if (BM_edge_is_wire(kfe_array[i]->e)) {
2450           BM_edge_kill(bm, kfe_array[i]->e);
2451           kfe_array[i]->e = NULL;
2452         }
2453       }
2454     }
2455
2456 #ifdef USE_NET_ISLAND_CONNECT
2457     BLI_memarena_clear(kcd->edgenet.arena);
2458 #endif
2459   }
2460
2461   BLI_gset_clear(kcd->edgenet.edge_visit, NULL);
2462 }
2463
2464 /* Use the network of KnifeEdges and KnifeVerts accumulated to make real BMVerts and BMEdedges */
2465 static void knife_make_cuts(KnifeTool_OpData *kcd)
2466 {
2467   BMesh *bm = kcd->em->bm;
2468   KnifeEdge *kfe;
2469   KnifeVert *kfv;
2470   BMFace *f;
2471   BMEdge *e, *enew;
2472   ListBase *lst;
2473   Ref *ref;
2474   float pct;
2475   SmallHashIter hiter;
2476   BLI_mempool_iter iter;
2477   SmallHash fhash_, *fhash = &fhash_;
2478   SmallHash ehash_, *ehash = &ehash_;
2479
2480   BLI_smallhash_init(fhash);
2481   BLI_smallhash_init(ehash);
2482
2483   /* put list of cutting edges for a face into fhash, keyed by face */
2484   BLI_mempool_iternew(kcd->kedges, &iter);
2485   for (kfe = BLI_mempool_iterstep(&iter); kfe; kfe = BLI_mempool_iterstep(&iter)) {
2486
2487     /* select edges that lie directly on the cut */
2488     if (kcd->select_result) {
2489       if (kfe->e && kfe->is_cut) {
2490         BM_edge_select_set(bm, kfe->e, true);
2491       }
2492     }
2493
2494     f = kfe->basef;
2495     if (!f || kfe->e) {
2496       continue;
2497     }
2498     lst = BLI_smallhash_lookup(fhash, (uintptr_t)f);
2499     if (!lst) {
2500       lst = knife_empty_list(kcd);
2501       BLI_smallhash_insert(fhash, (uintptr_t)f, lst);
2502     }
2503     knife_append_list(kcd, lst, kfe);
2504   }
2505
2506   /* put list of splitting vertices for an edge into ehash, keyed by edge */
2507   BLI_mempool_iternew(kcd->kverts, &iter);
2508   for (kfv = BLI_mempool_iterstep(&iter); kfv; kfv = BLI_mempool_iterstep(&iter)) {
2509     if (kfv->v) {
2510       continue; /* already have a BMVert */
2511     }
2512     for (ref = kfv->edges.first; ref; ref = ref->next) {
2513       kfe = ref->ref;
2514       e = kfe->e;
2515       if (!e) {
2516         continue;
2517       }
2518       lst = BLI_smallhash_lookup(ehash, (uintptr_t)e);
2519       if (!lst) {
2520         lst = knife_empty_list(kcd);
2521         BLI_smallhash_insert(ehash, (uintptr_t)e, lst);
2522       }
2523       /* there can be more than one kfe in kfv's list with same e */
2524       if (!find_ref(lst, kfv)) {
2525         knife_append_list(kcd, lst, kfv);
2526       }
2527     }
2528   }
2529
2530   /* split bmesh edges where needed */
2531   for (lst = BLI_smallhash_iternew(ehash, &hiter, (uintptr_t *)&e); lst;
2532        lst = BLI_smallhash_iternext(&hiter, (uintptr_t *)&e)) {
2533     BLI_listbase_sort_r(lst, sort_verts_by_dist_cb, e->v1->co);
2534
2535     for (ref = lst->first; ref; ref = ref->next) {
2536       kfv = ref->ref;
2537       pct = line_point_factor_v3(kfv->co, e->v1->co, e->v2->co);
2538       kfv->v = BM_edge_split(bm, e, e->v1, &enew, pct);
2539     }
2540   }
2541
2542   if (kcd->only_select) {
2543     EDBM_flag_disable_all(kcd->em, BM_ELEM_SELECT);
2544   }
2545
2546   /* do cuts for each face */
2547   for (lst = BLI_smallhash_iternew(fhash, &hiter, (uintptr_t *)&f); lst;
2548        lst = BLI_smallhash_iternext(&hiter, (uintptr_t *)&f)) {
2549     knife_make_face_cuts(kcd, f, lst);
2550   }
2551
2552   BLI_smallhash_release(fhash);
2553   BLI_smallhash_release(ehash);
2554 }
2555
2556 /* called on tool confirmation */
2557 static void knifetool_finish_ex(KnifeTool_OpData *kcd)
2558 {
2559   knife_make_cuts(kcd);
2560
2561   EDBM_selectmode_flush(kcd->em);
2562   EDBM_mesh_normals_update(kcd->em);
2563   EDBM_update_generic(kcd->em, true, true);
2564
2565   /* re-tessellating makes this invalid, dont use again by accident */
2566   knifetool_free_bmbvh(kcd);
2567 }
2568 static void knifetool_finish(wmOperator *op)
2569 {
2570   KnifeTool_OpData *kcd = op->customdata;
2571   knifetool_finish_ex(kcd);
2572 }
2573
2574 static void knife_recalc_projmat(KnifeTool_OpData *kcd)
2575 {
2576   invert_m4_m4(kcd->ob->imat, kcd->ob->obmat);
2577   ED_view3d_ob_project_mat_get(kcd->ar->regiondata, kcd->ob, kcd->projmat);
2578   invert_m4_m4(kcd->projmat_inv, kcd->projmat);
2579
2580   mul_v3_mat3_m4v3(kcd->proj_zaxis, kcd->ob->imat, kcd->vc.rv3d->viewinv[2]);
2581   normalize_v3(kcd->proj_zaxis);
2582
2583   kcd->is_ortho = ED_view3d_clip_range_get(
2584       kcd->vc.depsgraph, kcd->vc.v3d, kcd->vc.rv3d, &kcd->clipsta, &kcd->clipend, true);
2585 }
2586
2587 /* called when modal loop selection is done... */
2588 static void knifetool_exit_ex(bContext *C, KnifeTool_OpData *kcd)
2589 {
2590   if (!kcd) {
2591     return;
2592   }
2593
2594   if (kcd->is_interactive) {
2595     WM_cursor_modal_restore(CTX_wm_window(C));
2596
2597     /* deactivate the extra drawing stuff in 3D-View */
2598     ED_region_draw_cb_exit(kcd->ar->type, kcd->draw_handle);
2599   }
2600
2601   /* free the custom data */
2602   BLI_mempool_destroy(kcd->refs);
2603   BLI_mempool_destroy(kcd->kverts);
2604   BLI_mempool_destroy(kcd->kedges);
2605
2606   BLI_ghash_free(kcd->origedgemap, NULL, NULL);
2607   BLI_ghash_free(kcd->origvertmap, NULL, NULL);
2608   BLI_ghash_free(kcd->kedgefacemap, NULL, NULL);
2609   BLI_ghash_free(kcd->facetrimap, NULL, NULL);
2610
2611   BLI_memarena_free(kcd->arena);
2612 #ifdef USE_NET_ISLAND_CONNECT
2613   BLI_memarena_free(kcd->edgenet.arena);
2614 #endif
2615   BLI_gset_free(kcd->edgenet.edge_visit, NULL);
2616
2617   /* tag for redraw */
2618   ED_region_tag_redraw(kcd->ar);
2619
2620   knifetool_free_bmbvh(kcd);
2621
2622   if (kcd->linehits) {
2623     MEM_freeN(kcd->linehits);
2624   }
2625
2626   /* destroy kcd itself */
2627   MEM_freeN(kcd);
2628 }
2629 static void knifetool_exit(bContext *C, wmOperator *op)
2630 {
2631   KnifeTool_OpData *kcd = op->customdata;
2632   knifetool_exit_ex(C, kcd);
2633   op->customdata = NULL;
2634 }
2635
2636 static void knifetool_update_mval(KnifeTool_OpData *kcd, const float mval[2])
2637 {
2638   knife_recalc_projmat(kcd);
2639   copy_v2_v2(kcd->mval, mval);
2640
2641   if (knife_update_active(kcd)) {
2642     ED_region_tag_redraw(kcd->ar);
2643   }
2644 }
2645
2646 static void knifetool_update_mval_i(KnifeTool_OpData *kcd, const int mval_i[2])
2647 {
2648   float mval[2] = {UNPACK2(mval_i)};
2649   knifetool_update_mval(kcd, mval);
2650 }
2651
2652 static void knifetool_init_bmbvh(KnifeTool_OpData *kcd)
2653 {
2654   BM_mesh_elem_index_ensure(kcd->em->bm, BM_VERT);
2655
2656   Scene *scene_eval = (Scene *)DEG_get_evaluated_id(kcd->vc.depsgraph, &kcd->scene->id);
2657   Object *obedit_eval = (Object *)DEG_get_evaluated_id(kcd->vc.depsgraph, &kcd->em->ob->id);
2658   BMEditMesh *em_eval = BKE_editmesh_from_object(obedit_eval);
2659
2660   kcd->cagecos = (const float(*)[3])BKE_editmesh_vertexCos_get(
2661       kcd->vc.depsgraph, em_eval, scene_eval, NULL);
2662
2663   kcd->bmbvh = BKE_bmbvh_new_from_editmesh(
2664       kcd->em,
2665       BMBVH_RETURN_ORIG |
2666           ((kcd->only_select && kcd->cut_through) ? BMBVH_RESPECT_SELECT : BMBVH_RESPECT_HIDDEN),
2667       kcd->cagecos,
2668       false);
2669 }
2670
2671 static void knifetool_free_bmbvh(KnifeTool_OpData *kcd)
2672 {
2673   if (kcd->bmbvh) {
2674     BKE_bmbvh_free(kcd->bmbvh);
2675     kcd->bmbvh = NULL;
2676   }
2677
2678   if (kcd->cagecos) {
2679     MEM_freeN((void *)kcd->cagecos);
2680     kcd->cagecos = NULL;
2681   }
2682 }
2683
2684 /* called when modal loop selection gets set up... */
2685 static void knifetool_init(bContext *C,
2686                            KnifeTool_OpData *kcd,
2687                            const bool only_select,
2688                            const bool cut_through,
2689                            const bool is_interactive)
2690 {
2691   Scene *scene = CTX_data_scene(C);
2692   Object *obedit = CTX_data_edit_object(C);
2693
2694   /* assign the drawing handle for drawing preview line... */
2695   kcd->scene = scene;
2696   kcd->ob = obedit;
2697   kcd->ar = CTX_wm_region(C);
2698
2699   em_setup_viewcontext(C, &kcd->vc);
2700
2701   kcd->em = BKE_editmesh_from_object(kcd->ob);
2702
2703   /* cut all the way through the mesh if use_occlude_geometry button not pushed */
2704   kcd->is_interactive = is_interactive;
2705   kcd->cut_through = cut_through;
2706   kcd->only_select = only_select;
2707
2708   knifetool_init_bmbvh(kcd);
2709
2710   kcd->arena = BLI_memarena_new(MEM_SIZE_OPTIMAL(1 << 15), "knife");
2711 #ifdef USE_NET_ISLAND_CONNECT
2712   kcd->edgenet.arena = BLI_memarena_new(MEM_SIZE_OPTIMAL(1 << 15), __func__);
2713 #endif
2714   kcd->edgenet.edge_visit = BLI_gset_ptr_new(__func__);
2715
2716   kcd->vthresh = KMAXDIST - 1;
2717   kcd->ethresh = KMAXDIST;
2718
2719   knife_recalc_projmat(kcd);
2720
2721   ED_region_tag_redraw(kcd->ar);
2722
2723   kcd->refs = BLI_mempool_create(sizeof(Ref), 0, 2048, 0);
2724   kcd->kverts = BLI_mempool_create(sizeof(KnifeVert), 0, 512, BLI_MEMPOOL_ALLOW_ITER);
2725   kcd->kedges = BLI_mempool_create(sizeof(KnifeEdge), 0, 512, BLI_MEMPOOL_ALLOW_ITER);
2726
2727   kcd->origedgemap = BLI_ghash_ptr_new("knife origedgemap");
2728   kcd->origvertmap = BLI_ghash_ptr_new("knife origvertmap");
2729   kcd->kedgefacemap = BLI_ghash_ptr_new("knife kedgefacemap");
2730   kcd->facetrimap = BLI_ghash_ptr_new("knife facetrimap");
2731
2732   /* can't usefully select resulting edges in face mode */
2733   kcd->select_result = (kcd->em->selectmode != SCE_SELECT_FACE);
2734
2735   knife_pos_data_clear(&kcd->curr);
2736   knife_pos_data_clear(&kcd->prev);
2737
2738   if (is_interactive) {
2739     kcd->draw_handle = ED_region_draw_cb_activate(
2740         kcd->ar->type, knifetool_draw, kcd, REGION_DRAW_POST_VIEW);
2741
2742     knife_init_colors(&kcd->colors);
2743   }
2744 }
2745
2746 static void knifetool_cancel(bContext *C, wmOperator *op)
2747 {
2748   /* this is just a wrapper around exit() */
2749   knifetool_exit(C, op);
2750 }
2751
2752 static int knifetool_invoke(bContext *C, wmOperator *op, const wmEvent *event)
2753 {
2754   const bool only_select = RNA_boolean_get(op->ptr, "only_selected");
2755   const bool cut_through = !RNA_boolean_get(op->ptr, "use_occlude_geometry");
2756   const bool wait_for_input = RNA_boolean_get(op->ptr, "wait_for_input");
2757
2758   KnifeTool_OpData *kcd;
2759
2760   if (only_select) {
2761     Object *obedit = CTX_data_edit_object(C);
2762     BMEditMesh *em = BKE_editmesh_from_object(obedit);
2763     if (em->bm->totfacesel == 0) {
2764       BKE_report(op->reports, RPT_ERROR, "Selected faces required");
2765       return OPERATOR_CANCELLED;
2766     }
2767   }
2768
2769   view3d_operator_needs_opengl(C);
2770
2771   /* alloc new customdata */
2772   kcd = op->customdata = MEM_callocN(sizeof(KnifeTool_OpData), __func__);
2773
2774   knifetool_init(C, kcd, only_select, cut_through, true);
2775
2776   op->flag |= OP_IS_MODAL_CURSOR_REGION;
2777
2778   /* add a modal handler for this operator - handles loop selection */
2779   WM_cursor_modal_set(CTX_wm_window(C), BC_KNIFECURSOR);
2780   WM_event_add_modal_handler(C, op);
2781
2782   knifetool_update_mval_i(kcd, event->mval);
2783
2784   if (wait_for_input == false) {
2785     /* Avoid copy-paste logic. */
2786     wmEvent event_modal = {
2787         .prevval = KM_NOTHING,
2788         .type = EVT_MODAL_MAP,
2789         .val = KNF_MODAL_ADD_CUT,
2790     };
2791     int ret = knifetool_modal(C, op, &event_modal);
2792     BLI_assert(ret == OPERATOR_RUNNING_MODAL);
2793     UNUSED_VARS_NDEBUG(ret);
2794   }
2795
2796   knife_update_header(C, op, kcd);
2797
2798   return OPERATOR_RUNNING_MODAL;
2799 }
2800
2801 wmKeyMap *knifetool_modal_keymap(wmKeyConfig *keyconf)
2802 {
2803   static const EnumPropertyItem modal_items[] = {
2804       {KNF_MODAL_CANCEL, "CANCEL", 0, "Cancel", ""},
2805       {KNF_MODAL_CONFIRM, "CONFIRM", 0, "Confirm", ""},
2806       {KNF_MODAL_MIDPOINT_ON, "SNAP_MIDPOINTS_ON", 0, "Snap To Midpoints On", ""},
2807       {KNF_MODAL_MIDPOINT_OFF, "SNAP_MIDPOINTS_OFF", 0, "Snap To Midpoints Off", ""},
2808       {KNF_MODEL_IGNORE_SNAP_ON, "IGNORE_SNAP_ON", 0, "Ignore Snapping On", ""},
2809       {KNF_MODEL_IGNORE_SNAP_OFF, "IGNORE_SNAP_OFF", 0, "Ignore Snapping Off", ""},
2810       {KNF_MODAL_ANGLE_SNAP_TOGGLE, "ANGLE_SNAP_TOGGLE", 0, "Toggle Angle Snapping", ""},
2811       {KNF_MODAL_CUT_THROUGH_TOGGLE, "CUT_THROUGH_TOGGLE", 0, "Toggle Cut Through", ""},
2812       {KNF_MODAL_NEW_CUT, "NEW_CUT", 0, "End Current Cut", ""},
2813       {KNF_MODAL_ADD_CUT, "ADD_CUT", 0, "Add Cut", ""},
2814       {KNF_MODAL_PANNING, "PANNING", 0, "Panning", ""},
2815       {0, NULL, 0, NULL, NULL},
2816   };
2817
2818   wmKeyMap *keymap = WM_modalkeymap_get(keyconf, "Knife Tool Modal Map");
2819
2820   /* this function is called for each spacetype, only needs to add map once */
2821   if (keymap && keymap->modal_items) {
2822     return NULL;
2823   }
2824
2825   keymap = WM_modalkeymap_add(keyconf, "Knife Tool Modal Map", modal_items);
2826
2827   WM_modalkeymap_assign(keymap, "MESH_OT_knife_tool");
2828
2829   return keymap;
2830 }
2831
2832 static int knifetool_modal(bContext *C, wmOperator *op, const wmEvent *event)
2833 {
2834   Object *obedit = CTX_data_edit_object(C);
2835   KnifeTool_OpData *kcd = op->customdata;
2836   bool do_refresh = false;
2837
2838   if (!obedit || obedit->type != OB_MESH || BKE_editmesh_from_object(obedit) != kcd->em) {
2839     knifetool_exit(C, op);
2840     ED_workspace_status_text(C, NULL);
2841     return OPERATOR_FINISHED;
2842   }
2843
2844   em_setup_viewcontext(C, &kcd->vc);
2845   kcd->ar = kcd->vc.ar;
2846
2847   view3d_operator_needs_opengl(C);
2848   ED_view3d_init_mats_rv3d(obedit, kcd->vc.rv3d); /* needed to initialize clipping */
2849
2850   if (kcd->mode == MODE_PANNING) {
2851     kcd->mode = kcd->prevmode;
2852   }
2853
2854   /* handle modal keymap */
2855   if (event->type == EVT_MODAL_MAP) {
2856     switch (event->val) {
2857       case KNF_MODAL_CANCEL:
2858         /* finish */
2859         ED_region_tag_redraw(kcd->ar);
2860
2861         knifetool_exit(C, op);
2862         ED_workspace_status_text(C, NULL);
2863
2864         return OPERATOR_CANCELLED;
2865       case KNF_MODAL_CONFIRM:
2866         /* finish */
2867         ED_region_tag_redraw(kcd->ar);
2868
2869         knifetool_finish(op);
2870         knifetool_exit(C, op);
2871         ED_workspace_status_text(C, NULL);
2872
2873         return OPERATOR_FINISHED;
2874       case KNF_MODAL_MIDPOINT_ON:
2875         kcd->snap_midpoints = true;
2876
2877         knife_recalc_projmat(kcd);
2878         knife_update_active(kcd);
2879         knife_update_header(C, op, kcd);
2880         ED_region_tag_redraw(kcd->ar);
2881         do_refresh = true;
2882         break;
2883       case KNF_MODAL_MIDPOINT_OFF:
2884         kcd->snap_midpoints = false;
2885
2886         knife_recalc_projmat(kcd);
2887         knife_update_active(kcd);
2888         knife_update_header(C, op, kcd);
2889         ED_region_tag_redraw(kcd->ar);
2890         do_refresh = true;
2891         break;
2892       case KNF_MODEL_IGNORE_SNAP_ON:
2893         ED_region_tag_redraw(kcd->ar);
2894         kcd->ignore_vert_snapping = kcd->ignore_edge_snapping = true;
2895         knife_update_header(C, op, kcd);
2896         do_refresh = true;
2897         break;
2898       case KNF_MODEL_IGNORE_SNAP_OFF:
2899         ED_region_tag_redraw(kcd->ar);
2900         kcd->ignore_vert_snapping = kcd->ignore_edge_snapping = false;
2901         knife_update_header(C, op, kcd);
2902         do_refresh = true;
2903         break;
2904       case KNF_MODAL_ANGLE_SNAP_TOGGLE:
2905         kcd->angle_snapping = !kcd->angle_snapping;
2906         knife_update_header(C, op, kcd);
2907         do_refresh = true;
2908         break;
2909       case KNF_MODAL_CUT_THROUGH_TOGGLE:
2910         kcd->cut_through = !kcd->cut_through;
2911         knife_update_header(C, op, kcd);
2912         do_refresh = true;
2913         break;
2914       case KNF_MODAL_NEW_CUT:
2915         ED_region_tag_redraw(kcd->ar);
2916         knife_finish_cut(kcd);
2917         kcd->mode = MODE_IDLE;
2918         break;
2919       case KNF_MODAL_ADD_CUT:
2920         knife_recalc_projmat(kcd);
2921
2922         /* get the value of the event which triggered this one */
2923         if (event->prevval != KM_RELEASE) {
2924           if (kcd->mode == MODE_DRAGGING) {
2925             knife_add_cut(kcd);
2926           }
2927           else if (kcd->mode != MODE_PANNING) {
2928             knife_start_cut(kcd);
2929             kcd->mode = MODE_DRAGGING;
2930             kcd->init = kcd->curr;
2931           }
2932
2933           /* freehand drawing is incompatible with cut-through */
2934           if (kcd->cut_through == false) {
2935             kcd->is_drag_hold = true;
2936           }
2937         }
2938         else {
2939           kcd->is_drag_hold = false;
2940
2941           /* needed because the last face 'hit' is ignored when dragging */
2942           knifetool_update_mval(kcd, kcd->curr.mval);
2943         }
2944
2945         ED_region_tag_redraw(kcd->ar);
2946         break;
2947       case KNF_MODAL_ADD_CUT_CLOSED:
2948         if (kcd->mode == MODE_DRAGGING) {
2949
2950           /* shouldn't be possible with default key-layout, just incase... */
2951           if (kcd->is_drag_hold) {
2952             kcd->is_drag_hold = false;
2953             knifetool_update_mval(kcd, kcd->curr.mval);
2954           }
2955
2956           kcd->prev = kcd->curr;
2957           kcd->curr = kcd->init;
2958
2959           knife_project_v2(kcd, kcd->curr.cage, kcd->curr.mval);
2960           knifetool_update_mval(kcd, kcd->curr.mval);
2961
2962           knife_add_cut(kcd);
2963
2964           /* KNF_MODAL_NEW_CUT */
2965           knife_finish_cut(kcd);
2966           kcd->mode = MODE_IDLE;
2967         }
2968         break;
2969       case KNF_MODAL_PANNING:
2970         if (event->val != KM_RELEASE) {
2971           if (kcd->mode != MODE_PANNING) {
2972             kcd->prevmode = kcd->mode;
2973             kcd->mode = MODE_PANNING;
2974           }
2975         }
2976         else {
2977           kcd->mode = kcd->prevmode;
2978         }
2979
2980         ED_region_tag_redraw(kcd->ar);
2981         return OPERATOR_PASS_THROUGH;
2982     }
2983   }
2984   else { /* non-modal-mapped events */
2985     switch (event->type) {
2986       case MOUSEPAN:
2987       case MOUSEZOOM:
2988       case MOUSEROTATE:
2989       case WHEELUPMOUSE:
2990       case WHEELDOWNMOUSE:
2991         return OPERATOR_PASS_THROUGH;
2992       case MOUSEMOVE: /* mouse moved somewhere to select another loop */
2993         if (kcd->mode != MODE_PANNING) {
2994           knifetool_update_mval_i(kcd, event->mval);
2995
2996           if (kcd->is_drag_hold) {
2997             if (kcd->totlinehit >= 2) {
2998               knife_add_cut(kcd);
2999             }
3000           }
3001         }
3002
3003         break;
3004     }
3005   }
3006
3007   if (kcd->mode == MODE_DRAGGING) {
3008     op->flag &= ~OP_IS_MODAL_CURSOR_REGION;
3009   }
3010   else {
3011     op->flag |= OP_IS_MODAL_CURSOR_REGION;
3012   }
3013
3014   if (do_refresh) {
3015     /* we don't really need to update mval,
3016      * but this happens to be the best way to refresh at the moment */
3017     knifetool_update_mval_i(kcd, event->mval);
3018   }
3019
3020   /* keep going until the user confirms */
3021   return OPERATOR_RUNNING_MODAL;
3022 }
3023
3024 void MESH_OT_knife_tool(wmOperatorType *ot)
3025 {
3026   /* description */
3027   ot->name = "Knife Topology Tool";
3028   ot->idname = "MESH_OT_knife_tool";
3029   ot->description = "Cut new topology";
3030
3031   /* callbacks */
3032   ot->invoke = knifetool_invoke;
3033   ot->modal = knifetool_modal;
3034   ot->cancel = knifetool_cancel;
3035   ot->poll = ED_operator_editmesh_view3d;
3036
3037   /* flags */
3038   ot->flag = OPTYPE_REGISTER | OPTYPE_UNDO | OPTYPE_BLOCKING;
3039
3040   /* properties */
3041   PropertyRNA *prop;
3042   RNA_def_boolean(ot->srna,
3043                   "use_occlude_geometry",
3044                   true,
3045                   "Occlude Geometry",
3046                   "Only cut the front most geometry");
3047   RNA_def_boolean(ot->srna, "only_selected", false, "Only Selected", "Only cut selected geometry");
3048
3049   prop = RNA_def_boolean(ot->srna, "wait_for_input", true, "Wait for Input", "");
3050   RNA_def_property_flag(prop, PROP_HIDDEN | PROP_SKIP_SAVE);
3051 }
3052
3053 /* -------------------------------------------------------------------- */
3054 /* Knife tool as a utility function
3055  * that can be used for internal slicing operations */
3056
3057 static bool edbm_mesh_knife_point_isect(LinkNode *polys, const float cent_ss[2])
3058 {
3059   LinkNode *p = polys;
3060   int isect = 0;
3061
3062   while (p) {
3063     const float(*mval_fl)[2] = p->link;
3064     const int mval_tot = MEM_allocN_len(mval_fl) / sizeof(*mval_fl);
3065     isect += (int)isect_point_poly_v2(cent_ss, mval_fl, mval_tot - 1, false);
3066     p = p->next;
3067   }
3068
3069   if (isect % 2) {
3070     return true;
3071   }
3072   return false;
3073 }
3074
3075 /**
3076  * \param use_tag: When set, tag all faces inside the polylines.
3077  */
3078 void EDBM_mesh_knife(bContext *C, LinkNode *polys, bool use_tag, bool cut_through)
3079 {
3080   KnifeTool_OpData *kcd;
3081
3082   view3d_operator_needs_opengl(C);
3083
3084   /* init */
3085   {
3086     const bool only_select = false;
3087     const bool is_interactive = false; /* can enable for testing */
3088
3089     kcd = MEM_callocN(sizeof(KnifeTool_OpData), __func__);
3090
3091     knifetool_init(C, kcd, only_select, cut_through, is_interactive);
3092
3093     kcd->ignore_edge_snapping = true;
3094     kcd->ignore_vert_snapping = true;
3095
3096     if (use_tag) {
3097       BM_mesh_elem_hflag_enable_all(kcd->em->bm, BM_EDGE, BM_ELEM_TAG, false);
3098     }
3099   }
3100
3101   /* execute */
3102   {
3103     LinkNode *p = polys;
3104
3105     knife_recalc_projmat(kcd);
3106
3107     while (p) {
3108       const float(*mval_fl)[2] = p->link;
3109       const int mval_tot = MEM_allocN_len(mval_fl) / sizeof(*mval_fl);
3110       int i;
3111
3112       for (i = 0; i < mval_tot; i++) {
3113         knifetool_update_mval(kcd, mval_fl[i]);
3114         if (i == 0) {
3115           knife_start_cut(kcd);
3116           kcd->mode = MODE_DRAGGING;
3117         }
3118         else {
3119           knife_add_cut(kcd);
3120         }
3121       }
3122       knife_finish_cut(kcd);
3123       kcd->mode = MODE_IDLE;
3124       p = p->next;
3125     }
3126   }
3127
3128   /* finish */
3129   {
3130     knifetool_finish_ex(kcd);
3131
3132     /* tag faces inside! */
3133     if (use_tag) {
3134       BMesh *bm = kcd->em->bm;
3135       float projmat[4][4];
3136
3137       BMEdge *e;
3138       BMIter iter;
3139
3140       bool keep_search;
3141
3142       /* freed on knifetool_finish_ex, but we need again to check if points are visible */
3143       if (kcd->cut_through == false) {
3144         knifetool_init_bmbvh(kcd);
3145       }
3146
3147       ED_view3d_ob_project_mat_get(kcd->ar->regiondata, kcd->ob, projmat);
3148
3149       /* use face-loop tag to store if we have intersected */
3150 #define F_ISECT_IS_UNKNOWN(f) BM_elem_flag_test(BM_FACE_FIRST_LOOP(f), BM_ELEM_TAG)
3151 #define F_ISECT_SET_UNKNOWN(f) BM_elem_flag_enable(BM_FACE_FIRST_LOOP(f), BM_ELEM_TAG)
3152 #define F_ISECT_SET_OUTSIDE(f) BM_elem_flag_disable(BM_FACE_FIRST_LOOP(f), BM_ELEM_TAG)
3153       {
3154         BMFace *f;
3155         BM_ITER_MESH (f, &iter, bm, BM_FACES_OF_MESH) {
3156           F_ISECT_SET_UNKNOWN(f);
3157           BM_elem_flag_disable(f, BM_ELEM_TAG);
3158         }
3159       }
3160
3161       /* tag all faces linked to cut edges */
3162       BM_ITER_MESH (e, &iter, bm, BM_EDGES_OF_MESH) {
3163         /* check are we tagged?, then we are an original face */
3164         if (BM_elem_flag_test(e, BM_ELEM_TAG) == false) {
3165           BMFace *f;
3166           BMIter fiter;
3167           BM_ITER_ELEM (f, &fiter, e, BM_FACES_OF_EDGE) {
3168             float cent[3], cent_ss[2];
3169             BM_face_calc_point_in_face(f, cent);
3170             knife_project_v2(kcd, cent, cent_ss);
3171             if (edbm_mesh_knife_point_isect(polys, cent_ss)) {
3172               BM_elem_flag_enable(f, BM_ELEM_TAG);
3173             }
3174           }
3175         }
3176       }
3177
3178       /* expand tags for faces which are not cut, but are inside the polys */
3179       do {
3180         BMFace *f;
3181         keep_search = false;
3182         BM_ITER_MESH (f, &iter, bm, BM_FACES_OF_MESH) {
3183           if (BM_elem_flag_test(f, BM_ELEM_TAG) == false && (F_ISECT_IS_UNKNOWN(f))) {
3184             /* am I connected to a tagged face via an un-tagged edge
3185              * (ie, not across a cut) */
3186             BMLoop *l_first = BM_FACE_FIRST_LOOP(f);
3187             BMLoop *l_iter = l_first;
3188             bool found = false;
3189
3190             do {
3191               if (BM_elem_flag_test(l_iter->e, BM_ELEM_TAG) != false) {
3192                 /* now check if the adjacent faces is tagged */
3193                 BMLoop *l_radial_iter = l_iter->radial_next;
3194                 if (l_radial_iter != l_iter) {
3195                   do {
3196                     if (BM_elem_flag_test(l_radial_iter->f, BM_ELEM_TAG)) {
3197                       found = true;
3198                     }
3199                   } while ((l_radial_iter = l_radial_iter->radial_next) != l_iter &&
3200                            (found == false));
3201                 }
3202               }
3203             } while ((l_iter = l_iter->next) != l_first && (found == false));
3204
3205             if (found) {
3206               float cent[3], cent_ss[2];
3207               BM_face_calc_point_in_face(f, cent);
3208               knife_project_v2(kcd, cent, cent_ss);
3209               if ((kcd->cut_through || point_is_visible(kcd, cent, cent_ss, (BMElem *)f)) &&
3210                   edbm_mesh_knife_point_isect(polys, cent_ss)) {
3211                 BM_elem_flag_enable(f, BM_ELEM_TAG);
3212                 keep_search = true;
3213               }
3214               else {
3215                 /* don't loose time on this face again, set it as outside */
3216                 F_ISECT_SET_OUTSIDE(f);
3217               }
3218             }
3219           }
3220         }
3221       } while (keep_search);
3222
3223 #undef F_ISECT_IS_UNKNOWN
3224 #undef F_ISECT_SET_UNKNOWN
3225 #undef F_ISECT_SET_OUTSIDE
3226     }
3227
3228     knifetool_exit_ex(C, kcd);
3229     kcd = NULL;
3230   }
3231 }