ClangFormat: format '#if 0' code in source/
[blender.git] / source / blender / editors / gpencil / gpencil_paint.c
1 /*
2  * This program is free software; you can redistribute it and/or
3  * modify it under the terms of the GNU General Public License
4  * as published by the Free Software Foundation; either version 2
5  * of the License, or (at your option) any later version.
6  *
7  * This program is distributed in the hope that it will be useful,
8  * but WITHOUT ANY WARRANTY; without even the implied warranty of
9  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
10  * GNU General Public License for more details.
11  *
12  * You should have received a copy of the GNU General Public License
13  * along with this program; if not, write to the Free Software Foundation,
14  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
15  *
16  * The Original Code is Copyright (C) 2008, Blender Foundation
17  * This is a new part of Blender
18  */
19
20 /** \file
21  * \ingroup edgpencil
22  */
23
24 #include <stdio.h>
25 #include <stddef.h>
26 #include <stdlib.h>
27 #include <string.h>
28 #include <math.h>
29
30 #include "MEM_guardedalloc.h"
31
32 #include "BLI_blenlib.h"
33 #include "BLI_math.h"
34 #include "BLI_utildefines.h"
35 #include "BLI_rand.h"
36 #include "BLI_math_geom.h"
37
38 #include "BLT_translation.h"
39
40 #include "PIL_time.h"
41
42 #include "DNA_meshdata_types.h"
43 #include "DNA_object_types.h"
44 #include "DNA_scene_types.h"
45 #include "DNA_gpencil_types.h"
46 #include "DNA_material_types.h"
47 #include "DNA_brush_types.h"
48 #include "DNA_windowmanager_types.h"
49
50 #include "BKE_colortools.h"
51 #include "BKE_main.h"
52 #include "BKE_brush.h"
53 #include "BKE_paint.h"
54 #include "BKE_context.h"
55 #include "BKE_deform.h"
56 #include "BKE_global.h"
57 #include "BKE_gpencil.h"
58 #include "BKE_report.h"
59 #include "BKE_layer.h"
60 #include "BKE_material.h"
61 #include "BKE_screen.h"
62 #include "BKE_tracking.h"
63
64 #include "UI_view2d.h"
65
66 #include "ED_gpencil.h"
67 #include "ED_screen.h"
68 #include "ED_object.h"
69 #include "ED_view3d.h"
70 #include "ED_clip.h"
71
72 #include "GPU_immediate.h"
73 #include "GPU_immediate_util.h"
74 #include "GPU_state.h"
75
76 #include "RNA_access.h"
77 #include "RNA_define.h"
78
79 #include "WM_api.h"
80 #include "WM_types.h"
81
82 #include "DEG_depsgraph.h"
83 #include "DEG_depsgraph_query.h"
84
85 #include "gpencil_intern.h"
86
87 /* ******************************************* */
88 /* 'Globals' and Defines */
89
90 /* values for tGPsdata->status */
91 typedef enum eGPencil_PaintStatus {
92   GP_STATUS_IDLING = 0, /* stroke isn't in progress yet */
93   GP_STATUS_PAINTING,   /* a stroke is in progress */
94   GP_STATUS_ERROR,      /* something wasn't correctly set up */
95   GP_STATUS_DONE,       /* painting done */
96 } eGPencil_PaintStatus;
97
98 /* Return flags for adding points to stroke buffer */
99 typedef enum eGP_StrokeAdd_Result {
100   GP_STROKEADD_INVALID = -2,  /* error occurred - insufficient info to do so */
101   GP_STROKEADD_OVERFLOW = -1, /* error occurred - cannot fit any more points */
102   GP_STROKEADD_NORMAL,        /* point was successfully added */
103   GP_STROKEADD_FULL,          /* cannot add any more points to buffer */
104 } eGP_StrokeAdd_Result;
105
106 /* Runtime flags */
107 typedef enum eGPencil_PaintFlags {
108   GP_PAINTFLAG_FIRSTRUN = (1 << 0), /* operator just started */
109   GP_PAINTFLAG_STROKEADDED = (1 << 1),
110   GP_PAINTFLAG_SELECTMASK = (1 << 3),
111   GP_PAINTFLAG_HARD_ERASER = (1 << 4),
112   GP_PAINTFLAG_STROKE_ERASER = (1 << 5),
113   GP_PAINTFLAG_REQ_VECTOR = (1 << 6),
114 } eGPencil_PaintFlags;
115
116 /* Temporary 'Stroke' Operation data
117  *   "p" = op->customdata
118  */
119 typedef struct tGPsdata {
120   bContext *C;
121
122   /** main database pointer. */
123   Main *bmain;
124   /** current scene from context. */
125   Scene *scene;
126   struct Depsgraph *depsgraph;
127
128   /** current object. */
129   Object *ob;
130   /** window where painting originated. */
131   wmWindow *win;
132   /** area where painting originated. */
133   ScrArea *sa;
134   /** region where painting originated. */
135   ARegion *ar;
136   /** needed for GP_STROKE_2DSPACE. */
137   View2D *v2d;
138   /** for using the camera rect within the 3d view. */
139   rctf *subrect;
140   rctf subrect_data;
141
142   /** settings to pass to gp_points_to_xy(). */
143   GP_SpaceConversion gsc;
144
145   /** pointer to owner of gp-datablock. */
146   PointerRNA ownerPtr;
147   /** gp-datablock layer comes from. */
148   bGPdata *gpd;
149   /** layer we're working on. */
150   bGPDlayer *gpl;
151   /** frame we're working on. */
152   bGPDframe *gpf;
153
154   /** projection-mode flags (toolsettings - eGPencil_Placement_Flags) */
155   char *align_flag;
156
157   /** current status of painting. */
158   eGPencil_PaintStatus status;
159   /** mode for painting. */
160   eGPencil_PaintModes paintmode;
161   /** flags that can get set during runtime (eGPencil_PaintFlags) */
162   eGPencil_PaintFlags flags;
163
164   /** radius of influence for eraser. */
165   short radius;
166
167   /** current mouse-position. */
168   float mval[2];
169   /** previous recorded mouse-position. */
170   float mvalo[2];
171   /** initial recorded mouse-position */
172   float mvali[2];
173
174   /** current stylus pressure. */
175   float pressure;
176   /** previous stylus pressure. */
177   float opressure;
178
179   /* These need to be doubles, as (at least under unix) they are in seconds since epoch,
180    * float (and its 7 digits precision) is definitively not enough here!
181    * double, with its 15 digits precision, ensures us millisecond precision for a few centuries at least.
182    */
183   /** Used when converting to path. */
184   double inittime;
185   /** Used when converting to path. */
186   double curtime;
187   /** Used when converting to path. */
188   double ocurtime;
189
190   /** Inverted transformation matrix applying when converting coords from screen-space
191    * to region space. */
192   float imat[4][4];
193   float mat[4][4];
194
195   /** custom color - hack for enforcing a particular color for track/mask editing. */
196   float custom_color[4];
197
198   /** radial cursor data for drawing eraser. */
199   void *erasercursor;
200
201   /* mat settings are only used for 3D view */
202   /** current material */
203   Material *material;
204   /** current drawing brush */
205   Brush *brush;
206   /** default eraser brush */
207   Brush *eraser;
208
209   /** 1: line horizontal, 2: line vertical, other: not defined */
210   short straight;
211   /** lock drawing to one axis */
212   int lock_axis;
213   /** the stroke is no fill mode */
214   bool disable_fill;
215
216   RNG *rng;
217
218   /** key used for invoking the operator */
219   short keymodifier;
220   /** shift modifier flag */
221   short shift;
222   /** size in pixels for uv calculation */
223   float totpixlen;
224
225   /* guide */
226   /** guide spacing */
227   float guide_spacing;
228   /** half guide spacing */
229   float half_spacing;
230   /** origin */
231   float origin[2];
232
233   ReportList *reports;
234 } tGPsdata;
235
236 /* ------ */
237
238 #define STROKE_HORIZONTAL 1
239 #define STROKE_VERTICAL 2
240
241 /* Macros for accessing sensitivity thresholds... */
242 /* minimum number of pixels mouse should move before new point created */
243 #define MIN_MANHATTEN_PX (U.gp_manhattendist)
244 /* minimum length of new segment before new point can be added */
245 #define MIN_EUCLIDEAN_PX (U.gp_euclideandist)
246
247 static void gp_update_cache(bGPdata *gpd)
248 {
249   if (gpd) {
250     DEG_id_tag_update(&gpd->id, ID_RECALC_TRANSFORM | ID_RECALC_GEOMETRY);
251     gpd->flag |= GP_DATA_CACHE_IS_DIRTY;
252   }
253 }
254
255 static bool gp_stroke_added_check(tGPsdata *p)
256 {
257   return (p->gpf && p->gpf->strokes.last && p->flags & GP_PAINTFLAG_STROKEADDED);
258 }
259
260 static void gp_stroke_added_enable(tGPsdata *p)
261 {
262   BLI_assert(p->gpf->strokes.last != NULL);
263   p->flags |= GP_PAINTFLAG_STROKEADDED;
264
265   /* drawing batch cache is dirty now */
266   gp_update_cache(p->gpd);
267 }
268
269 /* ------ */
270 /* Forward defines for some functions... */
271
272 static void gp_session_validatebuffer(tGPsdata *p);
273
274 /* ******************************************* */
275 /* Context Wrangling... */
276
277 /* check if context is suitable for drawing */
278 static bool gpencil_draw_poll(bContext *C)
279 {
280   if (ED_operator_regionactive(C)) {
281     ScrArea *sa = CTX_wm_area(C);
282     /* 3D Viewport */
283     if (sa->spacetype != SPACE_VIEW3D) {
284       return false;
285     }
286
287     /* check if Grease Pencil isn't already running */
288     if (ED_gpencil_session_active() != 0) {
289       CTX_wm_operator_poll_msg_set(C, "Grease Pencil operator is already active");
290       return false;
291     }
292
293     /* only grease pencil object type */
294     Object *ob = CTX_data_active_object(C);
295     if ((ob == NULL) || (ob->type != OB_GPENCIL)) {
296       return false;
297     }
298
299     bGPdata *gpd = (bGPdata *)ob->data;
300     if (!GPENCIL_PAINT_MODE(gpd)) {
301       return false;
302     }
303
304     ToolSettings *ts = CTX_data_scene(C)->toolsettings;
305     if (!ts->gp_paint->paint.brush) {
306       CTX_wm_operator_poll_msg_set(C, "Grease Pencil has no active paint tool");
307       return false;
308     }
309
310     return true;
311   }
312   else {
313     CTX_wm_operator_poll_msg_set(C, "Active region not set");
314     return false;
315   }
316 }
317
318 /* check if projecting strokes into 3d-geometry in the 3D-View */
319 static bool gpencil_project_check(tGPsdata *p)
320 {
321   bGPdata *gpd = p->gpd;
322   return ((gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) &&
323           (*p->align_flag & (GP_PROJECT_DEPTH_VIEW | GP_PROJECT_DEPTH_STROKE)));
324 }
325
326 /* ******************************************* */
327 /* Calculations/Conversions */
328
329 /* Utilities --------------------------------- */
330
331 /* get the reference point for stroke-point conversions */
332 static void gp_get_3d_reference(tGPsdata *p, float vec[3])
333 {
334   Object *ob = NULL;
335   if (p->ownerPtr.type == &RNA_Object) {
336     ob = (Object *)p->ownerPtr.data;
337   }
338   ED_gp_get_drawing_reference(p->scene, ob, p->gpl, *p->align_flag, vec);
339 }
340
341 /* Stroke Editing ---------------------------- */
342 /* check if the current mouse position is suitable for adding a new point */
343 static bool gp_stroke_filtermval(tGPsdata *p, const float mval[2], float mvalo[2])
344 {
345   Brush *brush = p->brush;
346   int dx = (int)fabsf(mval[0] - mvalo[0]);
347   int dy = (int)fabsf(mval[1] - mvalo[1]);
348   brush->gpencil_settings->flag &= ~GP_BRUSH_STABILIZE_MOUSE_TEMP;
349
350   /* if buffer is empty, just let this go through (i.e. so that dots will work) */
351   if (p->gpd->runtime.sbuffer_size == 0) {
352     return true;
353   }
354   /* if lazy mouse, check minimum distance */
355   else if (GPENCIL_LAZY_MODE(brush, p->shift)) {
356     brush->gpencil_settings->flag |= GP_BRUSH_STABILIZE_MOUSE_TEMP;
357     if ((dx * dx + dy * dy) > (brush->smooth_stroke_radius * brush->smooth_stroke_radius)) {
358       return true;
359     }
360     else {
361       /* If the mouse is moving within the radius of the last move,
362        * don't update the mouse position. This allows sharp turns. */
363       copy_v2_v2(p->mval, p->mvalo);
364       return false;
365     }
366   }
367   /* check if mouse moved at least certain distance on both axes (best case)
368    * - aims to eliminate some jitter-noise from input when trying to draw straight lines freehand
369    */
370   else if ((dx > MIN_MANHATTEN_PX) && (dy > MIN_MANHATTEN_PX))
371     return true;
372
373   /* check if the distance since the last point is significant enough
374    * - prevents points being added too densely
375    * - distance here doesn't use sqrt to prevent slowness... we should still be safe from overflows though
376    */
377   else if ((dx * dx + dy * dy) > MIN_EUCLIDEAN_PX * MIN_EUCLIDEAN_PX)
378     return true;
379
380   /* mouse 'didn't move' */
381   else
382     return false;
383 }
384
385 /* reproject stroke to plane locked to axis in 3d cursor location */
386 static void gp_reproject_toplane(tGPsdata *p, bGPDstroke *gps)
387 {
388   bGPdata *gpd = p->gpd;
389   Object *obact = (Object *)p->ownerPtr.data;
390
391   float origin[3];
392   RegionView3D *rv3d = p->ar->regiondata;
393
394   /* verify the stroke mode is CURSOR 3d space mode */
395   if ((gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) == 0) {
396     return;
397   }
398   if ((*p->align_flag & GP_PROJECT_VIEWSPACE) == 0) {
399     return;
400   }
401   if ((*p->align_flag & GP_PROJECT_DEPTH_VIEW) || (*p->align_flag & GP_PROJECT_DEPTH_STROKE)) {
402     return;
403   }
404
405   /* get drawing origin */
406   gp_get_3d_reference(p, origin);
407   ED_gp_project_stroke_to_plane(p->scene, obact, rv3d, gps, origin, p->lock_axis - 1);
408 }
409
410 /* convert screen-coordinates to buffer-coordinates */
411 /* XXX this method needs a total overhaul! */
412 static void gp_stroke_convertcoords(tGPsdata *p, const float mval[2], float out[3], float *depth)
413 {
414   bGPdata *gpd = p->gpd;
415
416   /* in 3d-space - pt->x/y/z are 3 side-by-side floats */
417   if (gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) {
418
419     /* add small offset to keep stroke over the surface */
420     if ((depth) && (gpd->zdepth_offset > 0.0f) && (*p->align_flag & GP_PROJECT_DEPTH_VIEW)) {
421       *depth *= (1.0f - gpd->zdepth_offset);
422     }
423
424     int mval_i[2];
425     round_v2i_v2fl(mval_i, mval);
426
427     if (gpencil_project_check(p) && (ED_view3d_autodist_simple(p->ar, mval_i, out, 0, depth))) {
428       /* projecting onto 3D-Geometry
429        * - nothing more needs to be done here, since view_autodist_simple() has already done it
430        */
431
432       /* verify valid zdepth, if it's wrong, the default drawing mode is used
433        * and the function doesn't return now */
434       if ((depth == NULL) || (*depth <= 1.0f)) {
435         return;
436       }
437     }
438
439     float mval_prj[2];
440     float rvec[3], dvec[3];
441     float mval_f[2];
442     float zfac;
443
444     /* Current method just converts each point in screen-coordinates to
445      * 3D-coordinates using the 3D-cursor as reference. In general, this
446      * works OK, but it could of course be improved. */
447
448     gp_get_3d_reference(p, rvec);
449     zfac = ED_view3d_calc_zfac(p->ar->regiondata, rvec, NULL);
450
451     if (ED_view3d_project_float_global(p->ar, rvec, mval_prj, V3D_PROJ_TEST_NOP) ==
452         V3D_PROJ_RET_OK) {
453       sub_v2_v2v2(mval_f, mval_prj, mval);
454       ED_view3d_win_to_delta(p->ar, mval_f, dvec, zfac);
455       sub_v3_v3v3(out, rvec, dvec);
456     }
457     else {
458       zero_v3(out);
459     }
460   }
461 }
462
463 /* apply jitter to stroke */
464 static void gp_brush_jitter(bGPdata *gpd,
465                             Brush *brush,
466                             tGPspoint *pt,
467                             const float mval[2],
468                             const float pressure,
469                             float r_mval[2],
470                             RNG *rng)
471 {
472   float tmp_pressure = pressure;
473   if (brush->gpencil_settings->draw_jitter > 0.0f) {
474     float curvef = curvemapping_evaluateF(brush->gpencil_settings->curve_jitter, 0, pressure);
475     tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
476   }
477   /* exponential value */
478   const float exfactor = (brush->gpencil_settings->draw_jitter + 2.0f) *
479                          (brush->gpencil_settings->draw_jitter + 2.0f);
480   const float fac = BLI_rng_get_float(rng) * exfactor * tmp_pressure;
481   /* Jitter is applied perpendicular to the mouse movement vector (2D space) */
482   float mvec[2], svec[2];
483   /* mouse movement in ints -> floats */
484   if (gpd->runtime.sbuffer_size > 1) {
485     mvec[0] = (mval[0] - (pt - 1)->x);
486     mvec[1] = (mval[1] - (pt - 1)->y);
487     normalize_v2(mvec);
488   }
489   else {
490     mvec[0] = 0.0f;
491     mvec[1] = 0.0f;
492   }
493   /* rotate mvec by 90 degrees... */
494   svec[0] = -mvec[1];
495   svec[1] = mvec[0];
496   /* scale the displacement by the random, and apply */
497   if (BLI_rng_get_float(rng) > 0.5f) {
498     mul_v2_fl(svec, -fac);
499   }
500   else {
501     mul_v2_fl(svec, fac);
502   }
503
504   r_mval[0] = mval[0] + svec[0];
505   r_mval[1] = mval[1] + svec[1];
506 }
507
508 /* apply pressure change depending of the angle of the stroke to simulate a pen with shape */
509 static void gp_brush_angle(bGPdata *gpd, Brush *brush, tGPspoint *pt, const float mval[2])
510 {
511   float mvec[2];
512   float sen = brush->gpencil_settings->draw_angle_factor; /* sensitivity */
513   float fac;
514   float mpressure;
515
516   /* default angle of brush in radians */
517   float angle = brush->gpencil_settings->draw_angle;
518   /* angle vector of the brush with full thickness */
519   float v0[2] = {cos(angle), sin(angle)};
520
521   /* Apply to first point (only if there are 2 points because before no data to do it ) */
522   if (gpd->runtime.sbuffer_size == 1) {
523     mvec[0] = (mval[0] - (pt - 1)->x);
524     mvec[1] = (mval[1] - (pt - 1)->y);
525     normalize_v2(mvec);
526
527     /* uses > 1.0f to get a smooth transition in first point */
528     fac = 1.4f - fabs(dot_v2v2(v0, mvec)); /* 0.0 to 1.0 */
529     (pt - 1)->pressure = (pt - 1)->pressure - (sen * fac);
530
531     CLAMP((pt - 1)->pressure, GPENCIL_ALPHA_OPACITY_THRESH, 1.0f);
532   }
533
534   /* apply from second point */
535   if (gpd->runtime.sbuffer_size >= 1) {
536     mvec[0] = (mval[0] - (pt - 1)->x);
537     mvec[1] = (mval[1] - (pt - 1)->y);
538     normalize_v2(mvec);
539
540     fac = 1.0f - fabs(dot_v2v2(v0, mvec)); /* 0.0 to 1.0 */
541     /* interpolate with previous point for smoother transitions */
542     mpressure = interpf(pt->pressure - (sen * fac), (pt - 1)->pressure, 0.3f);
543     pt->pressure = mpressure;
544
545     CLAMP(pt->pressure, GPENCIL_ALPHA_OPACITY_THRESH, 1.0f);
546   }
547 }
548
549 /* Apply smooth to buffer while drawing
550  * to smooth point C, use 2 before (A, B) and current point (D):
551  *
552  *   A----B-----C------D
553  *
554  * \param p: Temp data
555  * \param inf: Influence factor
556  * \param idx: Index of the last point (need minimum 3 points in the array)
557  */
558 static void gp_smooth_buffer(tGPsdata *p, float inf, int idx)
559 {
560   bGPdata *gpd = p->gpd;
561   short num_points = gpd->runtime.sbuffer_size;
562
563   /* Do nothing if not enough points to smooth out */
564   if ((num_points < 3) || (idx < 3) || (inf == 0.0f)) {
565     return;
566   }
567
568   tGPspoint *points = (tGPspoint *)gpd->runtime.sbuffer;
569   float steps = 4.0f;
570   if (idx < 4) {
571     steps--;
572   }
573
574   tGPspoint *pta = idx >= 4 ? &points[idx - 4] : NULL;
575   tGPspoint *ptb = idx >= 3 ? &points[idx - 3] : NULL;
576   tGPspoint *ptc = idx >= 2 ? &points[idx - 2] : NULL;
577   tGPspoint *ptd = &points[idx - 1];
578
579   float sco[2] = {0.0f};
580   float a[2], b[2], c[2], d[2];
581   const float average_fac = 1.0f / steps;
582
583   /* Compute smoothed coordinate by taking the ones nearby */
584   if (pta) {
585     copy_v2_v2(a, &pta->x);
586     madd_v2_v2fl(sco, a, average_fac);
587   }
588   if (ptb) {
589     copy_v2_v2(b, &ptb->x);
590     madd_v2_v2fl(sco, b, average_fac);
591   }
592   if (ptc) {
593     copy_v2_v2(c, &ptc->x);
594     madd_v2_v2fl(sco, c, average_fac);
595   }
596   if (ptd) {
597     copy_v2_v2(d, &ptd->x);
598     madd_v2_v2fl(sco, d, average_fac);
599   }
600
601   /* Based on influence factor, blend between original and optimal smoothed coordinate */
602   interp_v2_v2v2(c, c, sco, inf);
603   copy_v2_v2(&ptc->x, c);
604 }
605
606 /* add current stroke-point to buffer (returns whether point was successfully added) */
607 static short gp_stroke_addpoint(tGPsdata *p, const float mval[2], float pressure, double curtime)
608 {
609   bGPdata *gpd = p->gpd;
610   Brush *brush = p->brush;
611   tGPspoint *pt;
612   ToolSettings *ts = p->scene->toolsettings;
613   Object *obact = (Object *)p->ownerPtr.data;
614   Depsgraph *depsgraph = p->depsgraph;
615   RegionView3D *rv3d = p->ar->regiondata;
616   View3D *v3d = p->sa->spacedata.first;
617   MaterialGPencilStyle *gp_style = p->material->gp_style;
618   const int def_nr = obact->actdef - 1;
619   const bool have_weight = (bool)BLI_findlink(&obact->defbase, def_nr);
620
621   /* check painting mode */
622   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT) {
623     /* straight lines only - i.e. only store start and end point in buffer */
624     if (gpd->runtime.sbuffer_size == 0) {
625       /* first point in buffer (start point) */
626       pt = (tGPspoint *)(gpd->runtime.sbuffer);
627
628       /* store settings */
629       copy_v2_v2(&pt->x, mval);
630       /* T44932 - Pressure vals are unreliable, so ignore for now */
631       pt->pressure = 1.0f;
632       pt->strength = 1.0f;
633       pt->time = (float)(curtime - p->inittime);
634
635       /* increment buffer size */
636       gpd->runtime.sbuffer_size++;
637     }
638     else {
639       /* just reset the endpoint to the latest value
640        * - assume that pointers for this are always valid...
641        */
642       pt = ((tGPspoint *)(gpd->runtime.sbuffer) + 1);
643
644       /* store settings */
645       copy_v2_v2(&pt->x, mval);
646       /* T44932 - Pressure vals are unreliable, so ignore for now */
647       pt->pressure = 1.0f;
648       pt->strength = 1.0f;
649       pt->time = (float)(curtime - p->inittime);
650
651       /* now the buffer has 2 points (and shouldn't be allowed to get any larger) */
652       gpd->runtime.sbuffer_size = 2;
653     }
654
655     /* can keep carrying on this way :) */
656     return GP_STROKEADD_NORMAL;
657   }
658   else if (p->paintmode == GP_PAINTMODE_DRAW) { /* normal drawing */
659     /* check if still room in buffer */
660     if (gpd->runtime.sbuffer_size >= GP_STROKE_BUFFER_MAX)
661       return GP_STROKEADD_OVERFLOW;
662
663     /* get pointer to destination point */
664     pt = ((tGPspoint *)(gpd->runtime.sbuffer) + gpd->runtime.sbuffer_size);
665
666     /* store settings */
667     /* pressure */
668     if (brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE) {
669       float curvef = curvemapping_evaluateF(
670           brush->gpencil_settings->curve_sensitivity, 0, pressure);
671       pt->pressure = curvef * brush->gpencil_settings->draw_sensitivity;
672     }
673     else {
674       pt->pressure = 1.0f;
675     }
676
677     /* Apply jitter to position */
678     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
679         (brush->gpencil_settings->draw_jitter > 0.0f)) {
680       float r_mval[2];
681       const float jitpress = (brush->gpencil_settings->flag & GP_BRUSH_USE_JITTER_PRESSURE) ?
682                                  pressure :
683                                  1.0f;
684       gp_brush_jitter(gpd, brush, pt, mval, jitpress, r_mval, p->rng);
685       copy_v2_v2(&pt->x, r_mval);
686     }
687     else {
688       copy_v2_v2(&pt->x, mval);
689     }
690     /* apply randomness to pressure */
691     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
692         (brush->gpencil_settings->draw_random_press > 0.0f)) {
693       float curvef = curvemapping_evaluateF(
694           brush->gpencil_settings->curve_sensitivity, 0, pressure);
695       float tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
696       if (BLI_rng_get_float(p->rng) > 0.5f) {
697         pt->pressure -= tmp_pressure * brush->gpencil_settings->draw_random_press *
698                         BLI_rng_get_float(p->rng);
699       }
700       else {
701         pt->pressure += tmp_pressure * brush->gpencil_settings->draw_random_press *
702                         BLI_rng_get_float(p->rng);
703       }
704       CLAMP(pt->pressure, GPENCIL_STRENGTH_MIN, 1.0f);
705     }
706
707     /* apply randomness to uv texture rotation */
708     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
709         (brush->gpencil_settings->uv_random > 0.0f)) {
710       if (BLI_rng_get_float(p->rng) > 0.5f) {
711         pt->uv_rot = (BLI_rng_get_float(p->rng) * M_PI * -1) * brush->gpencil_settings->uv_random;
712       }
713       else {
714         pt->uv_rot = (BLI_rng_get_float(p->rng) * M_PI) * brush->gpencil_settings->uv_random;
715       }
716       CLAMP(pt->uv_rot, -M_PI_2, M_PI_2);
717     }
718     else {
719       pt->uv_rot = 0.0f;
720     }
721
722     /* apply angle of stroke to brush size */
723     if (brush->gpencil_settings->draw_angle_factor != 0.0f) {
724       gp_brush_angle(gpd, brush, pt, mval);
725     }
726
727     /* color strength */
728     if (brush->gpencil_settings->flag & GP_BRUSH_USE_STENGTH_PRESSURE) {
729       float curvef = curvemapping_evaluateF(brush->gpencil_settings->curve_strength, 0, pressure);
730       float tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
731
732       pt->strength = tmp_pressure * brush->gpencil_settings->draw_strength;
733     }
734     else {
735       pt->strength = brush->gpencil_settings->draw_strength;
736     }
737     CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
738
739     /* apply randomness to color strength */
740     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
741         (brush->gpencil_settings->draw_random_strength > 0.0f)) {
742       if (BLI_rng_get_float(p->rng) > 0.5f) {
743         pt->strength -= pt->strength * brush->gpencil_settings->draw_random_strength *
744                         BLI_rng_get_float(p->rng);
745       }
746       else {
747         pt->strength += pt->strength * brush->gpencil_settings->draw_random_strength *
748                         BLI_rng_get_float(p->rng);
749       }
750       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
751     }
752
753     /* point time */
754     pt->time = (float)(curtime - p->inittime);
755
756     /* point uv (only 3d view) */
757     if ((p->sa->spacetype == SPACE_VIEW3D) && (gpd->runtime.sbuffer_size > 0)) {
758       float pixsize = gp_style->texture_pixsize / 1000000.0f;
759       tGPspoint *ptb = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
760       bGPDspoint spt, spt2;
761
762       /* get origin to reproject point */
763       float origin[3];
764       gp_get_3d_reference(p, origin);
765       /* reproject current */
766       ED_gpencil_tpoint_to_point(p->ar, origin, pt, &spt);
767       ED_gp_project_point_to_plane(p->scene, obact, rv3d, origin, p->lock_axis - 1, &spt);
768
769       /* reproject previous */
770       ED_gpencil_tpoint_to_point(p->ar, origin, ptb, &spt2);
771       ED_gp_project_point_to_plane(p->scene, obact, rv3d, origin, p->lock_axis - 1, &spt2);
772       p->totpixlen += len_v3v3(&spt.x, &spt2.x) / pixsize;
773       pt->uv_fac = p->totpixlen;
774       if ((gp_style) && (gp_style->sima)) {
775         pt->uv_fac /= gp_style->sima->gen_x;
776       }
777     }
778     else {
779       p->totpixlen = 0.0f;
780       pt->uv_fac = 0.0f;
781     }
782
783     /* increment counters */
784     gpd->runtime.sbuffer_size++;
785
786     /* smooth while drawing previous points with a reduction factor for previous */
787     if (brush->gpencil_settings->active_smooth > 0.0f) {
788       for (int s = 0; s < 3; s++) {
789         gp_smooth_buffer(p,
790                          brush->gpencil_settings->active_smooth * ((3.0f - s) / 3.0f),
791                          gpd->runtime.sbuffer_size - s);
792       }
793     }
794
795     /* check if another operation can still occur */
796     if (gpd->runtime.sbuffer_size == GP_STROKE_BUFFER_MAX)
797       return GP_STROKEADD_FULL;
798     else
799       return GP_STROKEADD_NORMAL;
800   }
801   else if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
802
803     /* enable special flag for drawing engine */
804     gpd->flag |= GP_DATA_STROKE_POLYGON;
805
806     bGPDlayer *gpl = BKE_gpencil_layer_getactive(gpd);
807     /* get pointer to destination point */
808     pt = (tGPspoint *)(gpd->runtime.sbuffer);
809
810     /* store settings */
811     copy_v2_v2(&pt->x, mval);
812     /* T44932 - Pressure vals are unreliable, so ignore for now */
813     pt->pressure = 1.0f;
814     pt->strength = 1.0f;
815     pt->time = (float)(curtime - p->inittime);
816
817     /* if there's stroke for this poly line session add (or replace last) point
818      * to stroke. This allows to draw lines more interactively (see new segment
819      * during mouse slide, e.g.)
820      */
821     if (gp_stroke_added_check(p)) {
822       bGPDstroke *gps = p->gpf->strokes.last;
823       bGPDspoint *pts;
824       MDeformVert *dvert = NULL;
825
826       /* first time point is adding to temporary buffer -- need to allocate new point in stroke */
827       if (gpd->runtime.sbuffer_size == 0) {
828         gps->points = MEM_reallocN(gps->points, sizeof(bGPDspoint) * (gps->totpoints + 1));
829         if (gps->dvert != NULL) {
830           gps->dvert = MEM_reallocN(gps->dvert, sizeof(MDeformVert) * (gps->totpoints + 1));
831         }
832         gps->totpoints++;
833       }
834
835       pts = &gps->points[gps->totpoints - 1];
836       if (gps->dvert != NULL) {
837         dvert = &gps->dvert[gps->totpoints - 1];
838       }
839       /* special case for poly lines: normally,
840        * depth is needed only when creating new stroke from buffer,
841        * but poly lines are converting to stroke instantly,
842        * so initialize depth buffer before converting coordinates
843        */
844       if (gpencil_project_check(p)) {
845         view3d_region_operator_needs_opengl(p->win, p->ar);
846         ED_view3d_autodist_init(
847             p->depsgraph, p->ar, v3d, (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 1 : 0);
848       }
849
850       /* convert screen-coordinates to appropriate coordinates (and store them) */
851       gp_stroke_convertcoords(p, &pt->x, &pts->x, NULL);
852       /* reproject to plane (only in 3d space) */
853       gp_reproject_toplane(p, gps);
854       /* if parented change position relative to parent object */
855       gp_apply_parent_point(depsgraph, obact, gpd, gpl, pts);
856       /* copy pressure and time */
857       pts->pressure = pt->pressure;
858       pts->strength = pt->strength;
859       pts->time = pt->time;
860       pts->uv_fac = pt->uv_fac;
861       pts->uv_rot = pt->uv_rot;
862
863       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
864         BKE_gpencil_dvert_ensure(gps);
865         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
866         if (dw) {
867           dw->weight = ts->vgroup_weight;
868         }
869       }
870       else {
871         if (dvert != NULL) {
872           dvert->totweight = 0;
873           dvert->dw = NULL;
874         }
875       }
876
877       /* force fill recalc */
878       gps->flag |= GP_STROKE_RECALC_GEOMETRY;
879       /* drawing batch cache is dirty now */
880       gp_update_cache(p->gpd);
881     }
882
883     /* increment counters */
884     if (gpd->runtime.sbuffer_size == 0)
885       gpd->runtime.sbuffer_size++;
886
887     return GP_STROKEADD_NORMAL;
888   }
889
890   /* return invalid state for now... */
891   return GP_STROKEADD_INVALID;
892 }
893
894 /* make a new stroke from the buffer data */
895 static void gp_stroke_newfrombuffer(tGPsdata *p)
896 {
897   bGPdata *gpd = p->gpd;
898   bGPDlayer *gpl = p->gpl;
899   bGPDstroke *gps;
900   bGPDspoint *pt;
901   tGPspoint *ptc;
902   MDeformVert *dvert = NULL;
903   Brush *brush = p->brush;
904   ToolSettings *ts = p->scene->toolsettings;
905   Depsgraph *depsgraph = p->depsgraph;
906   Object *obact = (Object *)p->ownerPtr.data;
907   RegionView3D *rv3d = p->ar->regiondata;
908   const int def_nr = obact->actdef - 1;
909   const bool have_weight = (bool)BLI_findlink(&obact->defbase, def_nr);
910   const char *align_flag = &ts->gpencil_v3d_align;
911   const bool is_depth = (bool)(*align_flag & (GP_PROJECT_DEPTH_VIEW | GP_PROJECT_DEPTH_STROKE));
912   const bool is_camera = (bool)(ts->gp_sculpt.lock_axis == 0) && (rv3d->persp == RV3D_CAMOB) &&
913                          (!is_depth);
914   int i, totelem;
915
916   /* since strokes are so fine, when using their depth we need a margin otherwise they might get missed */
917   int depth_margin = (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 4 : 0;
918
919   /* get total number of points to allocate space for
920    * - drawing straight-lines only requires the endpoints
921    */
922   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT)
923     totelem = (gpd->runtime.sbuffer_size >= 2) ? 2 : gpd->runtime.sbuffer_size;
924   else
925     totelem = gpd->runtime.sbuffer_size;
926
927   /* exit with error if no valid points from this stroke */
928   if (totelem == 0) {
929     if (G.debug & G_DEBUG)
930       printf("Error: No valid points in stroke buffer to convert (tot=%d)\n",
931              gpd->runtime.sbuffer_size);
932     return;
933   }
934
935   /* special case for poly line -- for already added stroke during session
936    * coordinates are getting added to stroke immediately to allow more
937    * interactive behavior
938    */
939   if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
940     /* be sure to hide any lazy cursor */
941     ED_gpencil_toggle_brush_cursor(p->C, true, NULL);
942
943     if (gp_stroke_added_check(p)) {
944       return;
945     }
946   }
947
948   /* allocate memory for a new stroke */
949   gps = MEM_callocN(sizeof(bGPDstroke), "gp_stroke");
950
951   /* copy appropriate settings for stroke */
952   gps->totpoints = totelem;
953   gps->thickness = brush->size;
954   gps->gradient_f = brush->gpencil_settings->gradient_f;
955   copy_v2_v2(gps->gradient_s, brush->gpencil_settings->gradient_s);
956   gps->flag = gpd->runtime.sbuffer_sflag;
957   gps->inittime = p->inittime;
958
959   /* enable recalculation flag by default (only used if hq fill) */
960   gps->flag |= GP_STROKE_RECALC_GEOMETRY;
961
962   /* allocate enough memory for a continuous array for storage points */
963   const int subdivide = brush->gpencil_settings->draw_subdivide;
964
965   gps->points = MEM_callocN(sizeof(bGPDspoint) * gps->totpoints, "gp_stroke_points");
966
967   /* initialize triangle memory to dummy data */
968   gps->triangles = MEM_callocN(sizeof(bGPDtriangle), "GP Stroke triangulation");
969   gps->flag |= GP_STROKE_RECALC_GEOMETRY;
970   gps->tot_triangles = 0;
971   /* drawing batch cache is dirty now */
972   gp_update_cache(p->gpd);
973   /* set pointer to first non-initialized point */
974   pt = gps->points + (gps->totpoints - totelem);
975   if (gps->dvert != NULL) {
976     dvert = gps->dvert + (gps->totpoints - totelem);
977   }
978
979   /* copy points from the buffer to the stroke */
980   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT) {
981     /* straight lines only -> only endpoints */
982     {
983       /* first point */
984       ptc = gpd->runtime.sbuffer;
985
986       /* convert screen-coordinates to appropriate coordinates (and store them) */
987       gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
988       /* copy pressure and time */
989       pt->pressure = ptc->pressure;
990       pt->strength = ptc->strength;
991       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
992       pt->time = ptc->time;
993       pt++;
994
995       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
996         BKE_gpencil_dvert_ensure(gps);
997         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
998         if (dw) {
999           dw->weight = ts->vgroup_weight;
1000         }
1001         dvert++;
1002       }
1003       else {
1004         if (dvert != NULL) {
1005           dvert->totweight = 0;
1006           dvert->dw = NULL;
1007           dvert++;
1008         }
1009       }
1010     }
1011
1012     if (totelem == 2) {
1013       /* last point if applicable */
1014       ptc = ((tGPspoint *)gpd->runtime.sbuffer) + (gpd->runtime.sbuffer_size - 1);
1015
1016       /* convert screen-coordinates to appropriate coordinates (and store them) */
1017       gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
1018       /* copy pressure and time */
1019       pt->pressure = ptc->pressure;
1020       pt->strength = ptc->strength;
1021       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1022       pt->time = ptc->time;
1023
1024       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1025         BKE_gpencil_dvert_ensure(gps);
1026         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
1027         if (dw) {
1028           dw->weight = ts->vgroup_weight;
1029         }
1030       }
1031       else {
1032         if (dvert != NULL) {
1033           dvert->totweight = 0;
1034           dvert->dw = NULL;
1035         }
1036       }
1037     }
1038
1039     /* reproject to plane (only in 3d space) */
1040     gp_reproject_toplane(p, gps);
1041     pt = gps->points;
1042     for (i = 0; i < gps->totpoints; i++, pt++) {
1043       /* if parented change position relative to parent object */
1044       gp_apply_parent_point(depsgraph, obact, gpd, gpl, pt);
1045     }
1046
1047     /* if camera view, reproject flat to view to avoid perspective effect */
1048     if (is_camera) {
1049       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1050     }
1051   }
1052   else if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
1053     /* first point */
1054     ptc = gpd->runtime.sbuffer;
1055
1056     /* convert screen-coordinates to appropriate coordinates (and store them) */
1057     gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
1058     /* reproject to plane (only in 3d space) */
1059     gp_reproject_toplane(p, gps);
1060     /* if parented change position relative to parent object */
1061     gp_apply_parent_point(depsgraph, obact, gpd, gpl, pt);
1062     /* if camera view, reproject flat to view to avoid perspective effect */
1063     if (is_camera) {
1064       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1065     }
1066     /* copy pressure and time */
1067     pt->pressure = ptc->pressure;
1068     pt->strength = ptc->strength;
1069     CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1070     pt->time = ptc->time;
1071
1072     if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1073       BKE_gpencil_dvert_ensure(gps);
1074       MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
1075       if (dw) {
1076         dw->weight = ts->vgroup_weight;
1077       }
1078     }
1079     else {
1080       if (dvert != NULL) {
1081         dvert->totweight = 0;
1082         dvert->dw = NULL;
1083       }
1084     }
1085   }
1086   else {
1087     float *depth_arr = NULL;
1088
1089     /* get an array of depths, far depths are blended */
1090     if (gpencil_project_check(p)) {
1091       int mval_i[2], mval_prev[2] = {0};
1092       int interp_depth = 0;
1093       int found_depth = 0;
1094
1095       depth_arr = MEM_mallocN(sizeof(float) * gpd->runtime.sbuffer_size, "depth_points");
1096
1097       for (i = 0, ptc = gpd->runtime.sbuffer; i < gpd->runtime.sbuffer_size; i++, ptc++, pt++) {
1098
1099         round_v2i_v2fl(mval_i, &ptc->x);
1100
1101         if ((ED_view3d_autodist_depth(p->ar, mval_i, depth_margin, depth_arr + i) == 0) &&
1102             (i && (ED_view3d_autodist_depth_seg(
1103                        p->ar, mval_i, mval_prev, depth_margin + 1, depth_arr + i) == 0))) {
1104           interp_depth = true;
1105         }
1106         else {
1107           found_depth = true;
1108         }
1109
1110         copy_v2_v2_int(mval_prev, mval_i);
1111       }
1112
1113       if (found_depth == false) {
1114         /* eeh... not much we can do.. :/, ignore depth in this case, use the 3D cursor */
1115         for (i = gpd->runtime.sbuffer_size - 1; i >= 0; i--)
1116           depth_arr[i] = 0.9999f;
1117       }
1118       else {
1119         if ((ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_ENDPOINTS) ||
1120             (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_FIRST)) {
1121           int first_valid = 0;
1122           int last_valid = 0;
1123
1124           /* find first valid contact point */
1125           for (i = 0; i < gpd->runtime.sbuffer_size; i++) {
1126             if (depth_arr[i] != FLT_MAX)
1127               break;
1128           }
1129           first_valid = i;
1130
1131           /* find last valid contact point */
1132           if (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_FIRST) {
1133             last_valid = first_valid;
1134           }
1135           else {
1136             for (i = gpd->runtime.sbuffer_size - 1; i >= 0; i--) {
1137               if (depth_arr[i] != FLT_MAX)
1138                 break;
1139             }
1140             last_valid = i;
1141           }
1142           /* invalidate any other point, to interpolate between
1143            * first and last contact in an imaginary line between them */
1144           for (i = 0; i < gpd->runtime.sbuffer_size; i++) {
1145             if ((i != first_valid) && (i != last_valid)) {
1146               depth_arr[i] = FLT_MAX;
1147             }
1148           }
1149           interp_depth = true;
1150         }
1151
1152         if (interp_depth) {
1153           interp_sparse_array(depth_arr, gpd->runtime.sbuffer_size, FLT_MAX);
1154         }
1155       }
1156     }
1157
1158     pt = gps->points;
1159     dvert = gps->dvert;
1160
1161     /* convert all points (normal behavior) */
1162     for (i = 0, ptc = gpd->runtime.sbuffer; i < gpd->runtime.sbuffer_size && ptc;
1163          i++, ptc++, pt++) {
1164       /* convert screen-coordinates to appropriate coordinates (and store them) */
1165       gp_stroke_convertcoords(p, &ptc->x, &pt->x, depth_arr ? depth_arr + i : NULL);
1166
1167       /* copy pressure and time */
1168       pt->pressure = ptc->pressure;
1169       pt->strength = ptc->strength;
1170       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1171       pt->time = ptc->time;
1172       pt->uv_fac = ptc->uv_fac;
1173       pt->uv_rot = ptc->uv_rot;
1174
1175       if (dvert != NULL) {
1176         dvert->totweight = 0;
1177         dvert->dw = NULL;
1178         dvert++;
1179       }
1180     }
1181
1182     /* subdivide and smooth the stroke */
1183     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) && (subdivide > 0)) {
1184       gp_subdivide_stroke(gps, subdivide);
1185     }
1186     /* apply randomness to stroke */
1187     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
1188         (brush->gpencil_settings->draw_random_sub > 0.0f)) {
1189       gp_randomize_stroke(gps, brush, p->rng);
1190     }
1191
1192     /* smooth stroke after subdiv - only if there's something to do
1193      * for each iteration, the factor is reduced to get a better smoothing without changing too much
1194      * the original stroke
1195      */
1196     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1197         (brush->gpencil_settings->draw_smoothfac > 0.0f)) {
1198       float reduce = 0.0f;
1199       for (int r = 0; r < brush->gpencil_settings->draw_smoothlvl; r++) {
1200         for (i = 0; i < gps->totpoints - 1; i++) {
1201           BKE_gpencil_smooth_stroke(gps, i, brush->gpencil_settings->draw_smoothfac - reduce);
1202           BKE_gpencil_smooth_stroke_strength(gps, i, brush->gpencil_settings->draw_smoothfac);
1203         }
1204         reduce += 0.25f;  // reduce the factor
1205       }
1206     }
1207     /* smooth thickness */
1208     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1209         (brush->gpencil_settings->thick_smoothfac > 0.0f)) {
1210       for (int r = 0; r < brush->gpencil_settings->thick_smoothlvl * 2; r++) {
1211         for (i = 0; i < gps->totpoints - 1; i++) {
1212           BKE_gpencil_smooth_stroke_thickness(gps, i, brush->gpencil_settings->thick_smoothfac);
1213         }
1214       }
1215     }
1216
1217     /* reproject to plane (only in 3d space) */
1218     gp_reproject_toplane(p, gps);
1219     /* change position relative to parent object */
1220     gp_apply_parent(depsgraph, obact, gpd, gpl, gps);
1221     /* if camera view, reproject flat to view to avoid perspective effect */
1222     if (is_camera) {
1223       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1224     }
1225
1226     if (depth_arr)
1227       MEM_freeN(depth_arr);
1228   }
1229
1230   /* Save material index */
1231   gps->mat_nr = BKE_gpencil_object_material_get_index_from_brush(p->ob, p->brush);
1232
1233   /* calculate UVs along the stroke */
1234   ED_gpencil_calc_stroke_uv(obact, gps);
1235
1236   /* add stroke to frame, usually on tail of the listbase, but if on back is enabled the stroke is added on listbase head
1237    * because the drawing order is inverse and the head stroke is the first to draw. This is very useful for artist
1238    * when drawing the background
1239    */
1240   if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
1241       (p->paintmode != GP_PAINTMODE_DRAW_POLY)) {
1242     BLI_addhead(&p->gpf->strokes, gps);
1243   }
1244   else {
1245     BLI_addtail(&p->gpf->strokes, gps);
1246   }
1247   /* add weights */
1248   if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1249     BKE_gpencil_dvert_ensure(gps);
1250     for (i = 0; i < gps->totpoints; i++) {
1251       MDeformVert *ve = &gps->dvert[i];
1252       MDeformWeight *dw = defvert_verify_index(ve, def_nr);
1253       if (dw) {
1254         dw->weight = ts->vgroup_weight;
1255       }
1256     }
1257   }
1258
1259   /* post process stroke */
1260   if ((p->brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1261       p->brush->gpencil_settings->flag & GP_BRUSH_TRIM_STROKE) {
1262     BKE_gpencil_trim_stroke(gps);
1263   }
1264
1265   gp_stroke_added_enable(p);
1266 }
1267
1268 /* --- 'Eraser' for 'Paint' Tool ------ */
1269
1270 /* which which point is infront (result should only be used for comparison) */
1271 static float view3d_point_depth(const RegionView3D *rv3d, const float co[3])
1272 {
1273   if (rv3d->is_persp) {
1274     return ED_view3d_calc_zfac(rv3d, co, NULL);
1275   }
1276   else {
1277     return -dot_v3v3(rv3d->viewinv[2], co);
1278   }
1279 }
1280
1281 /* only erase stroke points that are visible */
1282 static bool gp_stroke_eraser_is_occluded(tGPsdata *p,
1283                                          const bGPDspoint *pt,
1284                                          const int x,
1285                                          const int y)
1286 {
1287   Object *obact = (Object *)p->ownerPtr.data;
1288   Brush *brush = p->brush;
1289   Brush *eraser = p->eraser;
1290   BrushGpencilSettings *gp_settings = NULL;
1291
1292   if (brush->gpencil_tool == GPAINT_TOOL_ERASE) {
1293     gp_settings = brush->gpencil_settings;
1294   }
1295   else if ((eraser != NULL) & (eraser->gpencil_tool == GPAINT_TOOL_ERASE)) {
1296     gp_settings = eraser->gpencil_settings;
1297   }
1298
1299   if ((gp_settings != NULL) && (p->sa->spacetype == SPACE_VIEW3D) &&
1300       (gp_settings->flag & GP_BRUSH_OCCLUDE_ERASER)) {
1301     RegionView3D *rv3d = p->ar->regiondata;
1302     bGPDlayer *gpl = p->gpl;
1303
1304     const int mval_i[2] = {x, y};
1305     float mval_3d[3];
1306     float fpt[3];
1307
1308     float diff_mat[4][4];
1309     /* calculate difference matrix if parent object */
1310     ED_gpencil_parent_location(p->depsgraph, obact, p->gpd, gpl, diff_mat);
1311
1312     if (ED_view3d_autodist_simple(p->ar, mval_i, mval_3d, 0, NULL)) {
1313       const float depth_mval = view3d_point_depth(rv3d, mval_3d);
1314
1315       mul_v3_m4v3(fpt, diff_mat, &pt->x);
1316       const float depth_pt = view3d_point_depth(rv3d, fpt);
1317
1318       if (depth_pt > depth_mval) {
1319         return true;
1320       }
1321     }
1322   }
1323   return false;
1324 }
1325
1326 /* apply a falloff effect to brush strength, based on distance */
1327 static float gp_stroke_eraser_calc_influence(tGPsdata *p,
1328                                              const float mval[2],
1329                                              const int radius,
1330                                              const int co[2])
1331 {
1332   Brush *brush = p->brush;
1333   /* Linear Falloff... */
1334   int mval_i[2];
1335   round_v2i_v2fl(mval_i, mval);
1336   float distance = (float)len_v2v2_int(mval_i, co);
1337   float fac;
1338
1339   CLAMP(distance, 0.0f, (float)radius);
1340   fac = 1.0f - (distance / (float)radius);
1341
1342   /* apply strength factor */
1343   fac *= brush->gpencil_settings->draw_strength;
1344
1345   /* Control this further using pen pressure */
1346   if (brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE) {
1347     fac *= p->pressure;
1348   }
1349   /* Return influence factor computed here */
1350   return fac;
1351 }
1352
1353 /* helper to free a stroke */
1354 static void gp_free_stroke(bGPdata *gpd, bGPDframe *gpf, bGPDstroke *gps)
1355 {
1356   if (gps->points) {
1357     MEM_freeN(gps->points);
1358   }
1359
1360   if (gps->dvert) {
1361     BKE_gpencil_free_stroke_weights(gps);
1362     MEM_freeN(gps->dvert);
1363   }
1364
1365   if (gps->triangles)
1366     MEM_freeN(gps->triangles);
1367   BLI_freelinkN(&gpf->strokes, gps);
1368   gp_update_cache(gpd);
1369 }
1370
1371 /**
1372  * Analyze points to be removed when soft eraser is used
1373  * to avoid that segments gets the end points rounded.
1374  * The round caps breaks the artistic effect.
1375  */
1376 static void gp_stroke_soft_refine(bGPDstroke *gps)
1377 {
1378   bGPDspoint *pt = NULL;
1379   bGPDspoint *pt2 = NULL;
1380   int i;
1381
1382   /* check if enough points*/
1383   if (gps->totpoints < 3) {
1384     return;
1385   }
1386
1387   /* loop all points to untag any point that next is not tagged */
1388   pt = gps->points;
1389   for (i = 1; i < gps->totpoints - 1; i++, pt++) {
1390     if (pt->flag & GP_SPOINT_TAG) {
1391       pt2 = &gps->points[i + 1];
1392       if ((pt2->flag & GP_SPOINT_TAG) == 0) {
1393         pt->flag &= ~GP_SPOINT_TAG;
1394       }
1395     }
1396   }
1397
1398   /* loop reverse all points to untag any point that previous is not tagged */
1399   pt = &gps->points[gps->totpoints - 1];
1400   for (i = gps->totpoints - 1; i > 0; i--, pt--) {
1401     if (pt->flag & GP_SPOINT_TAG) {
1402       pt2 = &gps->points[i - 1];
1403       if ((pt2->flag & GP_SPOINT_TAG) == 0) {
1404         pt->flag &= ~GP_SPOINT_TAG;
1405       }
1406     }
1407   }
1408 }
1409
1410 /* eraser tool - evaluation per stroke */
1411 /* TODO: this could really do with some optimization (KD-Tree/BVH?) */
1412 static void gp_stroke_eraser_dostroke(tGPsdata *p,
1413                                       bGPDlayer *gpl,
1414                                       bGPDframe *gpf,
1415                                       bGPDstroke *gps,
1416                                       const float mval[2],
1417                                       const float mvalo[2],
1418                                       const int radius,
1419                                       const rcti *rect)
1420 {
1421   Depsgraph *depsgraph = p->depsgraph;
1422   Object *obact = (Object *)p->ownerPtr.data;
1423   Brush *eraser = p->eraser;
1424   bGPDspoint *pt0, *pt1, *pt2;
1425   int pc0[2] = {0};
1426   int pc1[2] = {0};
1427   int pc2[2] = {0};
1428   int i;
1429   float diff_mat[4][4];
1430   int mval_i[2];
1431   round_v2i_v2fl(mval_i, mval);
1432
1433   /* calculate difference matrix */
1434   ED_gpencil_parent_location(depsgraph, obact, p->gpd, gpl, diff_mat);
1435
1436   if (gps->totpoints == 0) {
1437     /* just free stroke */
1438     gp_free_stroke(p->gpd, gpf, gps);
1439   }
1440   else if (gps->totpoints == 1) {
1441     /* only process if it hasn't been masked out... */
1442     if (!(p->flags & GP_PAINTFLAG_SELECTMASK) || (gps->points->flag & GP_SPOINT_SELECT)) {
1443       bGPDspoint pt_temp;
1444       gp_point_to_parent_space(gps->points, diff_mat, &pt_temp);
1445       gp_point_to_xy(&p->gsc, gps, &pt_temp, &pc1[0], &pc1[1]);
1446       /* do boundbox check first */
1447       if ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) {
1448         /* only check if point is inside */
1449         if (len_v2v2_int(mval_i, pc1) <= radius) {
1450           /* free stroke */
1451           gp_free_stroke(p->gpd, gpf, gps);
1452         }
1453       }
1454     }
1455   }
1456   else if ((p->flags & GP_PAINTFLAG_STROKE_ERASER) ||
1457            (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_STROKE)) {
1458     for (i = 0; (i + 1) < gps->totpoints; i++) {
1459
1460       /* only process if it hasn't been masked out... */
1461       if ((p->flags & GP_PAINTFLAG_SELECTMASK) && !(gps->points->flag & GP_SPOINT_SELECT))
1462         continue;
1463
1464       /* get points to work with */
1465       pt1 = gps->points + i;
1466       bGPDspoint npt;
1467       gp_point_to_parent_space(pt1, diff_mat, &npt);
1468       gp_point_to_xy(&p->gsc, gps, &npt, &pc1[0], &pc1[1]);
1469
1470       /* do boundbox check first */
1471       if ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) {
1472         /* only check if point is inside */
1473         if (len_v2v2_int(mval_i, pc1) <= radius) {
1474           /* free stroke */
1475           gp_free_stroke(p->gpd, gpf, gps);
1476           return;
1477         }
1478       }
1479     }
1480   }
1481   else {
1482     /* Pressure threshold at which stroke should be culled */
1483     const float cull_thresh = 0.005f;
1484
1485     /* Amount to decrease the pressure of each point with each stroke */
1486     const float strength = 0.1f;
1487
1488     /* Perform culling? */
1489     bool do_cull = false;
1490
1491     /* Clear Tags
1492      *
1493      * Note: It's better this way, as we are sure that
1494      * we don't miss anything, though things will be
1495      * slightly slower as a result
1496      */
1497     for (i = 0; i < gps->totpoints; i++) {
1498       bGPDspoint *pt = &gps->points[i];
1499       pt->flag &= ~GP_SPOINT_TAG;
1500     }
1501
1502     /* First Pass: Loop over the points in the stroke
1503      *   1) Thin out parts of the stroke under the brush
1504      *   2) Tag "too thin" parts for removal (in second pass)
1505      */
1506     for (i = 0; (i + 1) < gps->totpoints; i++) {
1507       /* get points to work with */
1508       pt0 = i > 0 ? gps->points + i - 1 : NULL;
1509       pt1 = gps->points + i;
1510       pt2 = gps->points + i + 1;
1511
1512       /* only process if it hasn't been masked out... */
1513       if ((p->flags & GP_PAINTFLAG_SELECTMASK) && !(gps->points->flag & GP_SPOINT_SELECT))
1514         continue;
1515
1516       bGPDspoint npt;
1517       if (pt0) {
1518         gp_point_to_parent_space(pt0, diff_mat, &npt);
1519         gp_point_to_xy(&p->gsc, gps, &npt, &pc0[0], &pc0[1]);
1520       }
1521       else {
1522         /* avoid null values */
1523         copy_v2_v2_int(pc0, pc1);
1524       }
1525
1526       gp_point_to_parent_space(pt1, diff_mat, &npt);
1527       gp_point_to_xy(&p->gsc, gps, &npt, &pc1[0], &pc1[1]);
1528
1529       gp_point_to_parent_space(pt2, diff_mat, &npt);
1530       gp_point_to_xy(&p->gsc, gps, &npt, &pc2[0], &pc2[1]);
1531
1532       /* Check that point segment of the boundbox of the eraser stroke */
1533       if (((!ELEM(V2D_IS_CLIPPED, pc0[0], pc0[1])) && BLI_rcti_isect_pt(rect, pc0[0], pc0[1])) ||
1534           ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) ||
1535           ((!ELEM(V2D_IS_CLIPPED, pc2[0], pc2[1])) && BLI_rcti_isect_pt(rect, pc2[0], pc2[1]))) {
1536         /* Check if point segment of stroke had anything to do with
1537          * eraser region  (either within stroke painted, or on its lines)
1538          * - this assumes that linewidth is irrelevant
1539          */
1540         if (gp_stroke_inside_circle(mval, mvalo, radius, pc0[0], pc0[1], pc2[0], pc2[1])) {
1541           if ((gp_stroke_eraser_is_occluded(p, pt0, pc0[0], pc0[1]) == false) ||
1542               (gp_stroke_eraser_is_occluded(p, pt1, pc1[0], pc1[1]) == false) ||
1543               (gp_stroke_eraser_is_occluded(p, pt2, pc2[0], pc2[1]) == false)) {
1544             /* Point is affected: */
1545             /* Adjust thickness
1546              *  - Influence of eraser falls off with distance from the middle of the eraser
1547              *  - Second point gets less influence, as it might get hit again in the next segment
1548              */
1549
1550             /* Adjust strength if the eraser is soft */
1551             if (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_SOFT) {
1552               float f_strength = eraser->gpencil_settings->era_strength_f / 100.0f;
1553               float f_thickness = eraser->gpencil_settings->era_thickness_f / 100.0f;
1554               float influence = 0.0f;
1555
1556               if (pt0) {
1557                 influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc0);
1558                 pt0->strength -= influence * strength * f_strength * 0.5f;
1559                 CLAMP_MIN(pt0->strength, 0.0f);
1560                 pt0->pressure -= influence * strength * f_thickness * 0.5f;
1561               }
1562
1563               influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc1);
1564               pt1->strength -= influence * strength * f_strength;
1565               CLAMP_MIN(pt1->strength, 0.0f);
1566               pt1->pressure -= influence * strength * f_thickness;
1567
1568               influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc2);
1569               pt2->strength -= influence * strength * f_strength * 0.5f;
1570               CLAMP_MIN(pt2->strength, 0.0f);
1571               pt2->pressure -= influence * strength * f_thickness * 0.5f;
1572
1573               /* if invisible, delete point */
1574               if ((pt0) && ((pt0->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1575                             (pt0->pressure < cull_thresh))) {
1576                 pt0->flag |= GP_SPOINT_TAG;
1577                 do_cull = true;
1578               }
1579               if ((pt1->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1580                   (pt1->pressure < cull_thresh)) {
1581                 pt1->flag |= GP_SPOINT_TAG;
1582                 do_cull = true;
1583               }
1584               if ((pt2->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1585                   (pt2->pressure < cull_thresh)) {
1586                 pt2->flag |= GP_SPOINT_TAG;
1587                 do_cull = true;
1588               }
1589             }
1590             else {
1591               pt1->pressure -= gp_stroke_eraser_calc_influence(p, mval, radius, pc1) * strength;
1592               pt2->pressure -= gp_stroke_eraser_calc_influence(p, mval, radius, pc2) * strength *
1593                                0.5f;
1594             }
1595
1596             /* 2) Tag any point with overly low influence for removal in the next pass */
1597             if ((pt1->pressure < cull_thresh) || (p->flags & GP_PAINTFLAG_HARD_ERASER) ||
1598                 (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_HARD)) {
1599               pt1->flag |= GP_SPOINT_TAG;
1600               do_cull = true;
1601             }
1602             if ((pt2->pressure < cull_thresh) || (p->flags & GP_PAINTFLAG_HARD_ERASER) ||
1603                 (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_HARD)) {
1604               pt2->flag |= GP_SPOINT_TAG;
1605               do_cull = true;
1606             }
1607           }
1608         }
1609       }
1610     }
1611
1612     /* Second Pass: Remove any points that are tagged */
1613     if (do_cull) {
1614       /* if soft eraser, must analyze points to be sure the stroke ends
1615        * don't get rounded */
1616       if (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_SOFT) {
1617         gp_stroke_soft_refine(gps);
1618       }
1619
1620       gp_stroke_delete_tagged_points(gpf, gps, gps->next, GP_SPOINT_TAG, false, 0);
1621     }
1622     gp_update_cache(p->gpd);
1623   }
1624 }
1625
1626 /* erase strokes which fall under the eraser strokes */
1627 static void gp_stroke_doeraser(tGPsdata *p)
1628 {
1629   bGPDlayer *gpl;
1630   bGPDstroke *gps, *gpn;
1631   rcti rect;
1632   Brush *brush = p->brush;
1633   Brush *eraser = p->eraser;
1634   bool use_pressure = false;
1635   float press = 1.0f;
1636   BrushGpencilSettings *gp_settings = NULL;
1637
1638   /* detect if use pressure in eraser */
1639   if (brush->gpencil_tool == GPAINT_TOOL_ERASE) {
1640     use_pressure = (bool)(brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE);
1641     gp_settings = brush->gpencil_settings;
1642   }
1643   else if ((eraser != NULL) & (eraser->gpencil_tool == GPAINT_TOOL_ERASE)) {
1644     use_pressure = (bool)(eraser->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE);
1645     gp_settings = eraser->gpencil_settings;
1646   }
1647   if (use_pressure) {
1648     press = p->pressure;
1649     CLAMP(press, 0.01f, 1.0f);
1650   }
1651   /* rect is rectangle of eraser */
1652   const int calc_radius = (int)p->radius * press;
1653   rect.xmin = p->mval[0] - calc_radius;
1654   rect.ymin = p->mval[1] - calc_radius;
1655   rect.xmax = p->mval[0] + calc_radius;
1656   rect.ymax = p->mval[1] + calc_radius;
1657
1658   if (p->sa->spacetype == SPACE_VIEW3D) {
1659     if ((gp_settings != NULL) && (gp_settings->flag & GP_BRUSH_OCCLUDE_ERASER)) {
1660       View3D *v3d = p->sa->spacedata.first;
1661       view3d_region_operator_needs_opengl(p->win, p->ar);
1662       ED_view3d_autodist_init(p->depsgraph, p->ar, v3d, 0);
1663     }
1664   }
1665
1666   /* loop over all layers too, since while it's easy to restrict editing to
1667    * only a subset of layers, it is harder to perform the same erase operation
1668    * on multiple layers...
1669    */
1670   for (gpl = p->gpd->layers.first; gpl; gpl = gpl->next) {
1671     bGPDframe *gpf = gpl->actframe;
1672
1673     /* only affect layer if it's editable (and visible) */
1674     if (gpencil_layer_is_editable(gpl) == false) {
1675       continue;
1676     }
1677     else if (gpf == NULL) {
1678       continue;
1679     }
1680
1681     /* loop over strokes, checking segments for intersections */
1682     for (gps = gpf->strokes.first; gps; gps = gpn) {
1683       gpn = gps->next;
1684       /* check if the color is editable */
1685       if (ED_gpencil_stroke_color_use(p->ob, gpl, gps) == false) {
1686         continue;
1687       }
1688       /* Not all strokes in the datablock may be valid in the current editor/context
1689        * (e.g. 2D space strokes in the 3D view, if the same datablock is shared)
1690        */
1691       if (ED_gpencil_stroke_can_use_direct(p->sa, gps)) {
1692         gp_stroke_eraser_dostroke(p, gpl, gpf, gps, p->mval, p->mvalo, calc_radius, &rect);
1693       }
1694     }
1695   }
1696 }
1697
1698 /* ******************************************* */
1699 /* Sketching Operator */
1700
1701 /* clear the session buffers (call this before AND after a paint operation) */
1702 static void gp_session_validatebuffer(tGPsdata *p)
1703 {
1704   bGPdata *gpd = p->gpd;
1705   Brush *brush = p->brush;
1706
1707   /* clear memory of buffer (or allocate it if starting a new session) */
1708   if (gpd->runtime.sbuffer) {
1709     /* printf("\t\tGP - reset sbuffer\n"); */
1710     memset(gpd->runtime.sbuffer, 0, sizeof(tGPspoint) * GP_STROKE_BUFFER_MAX);
1711   }
1712   else {
1713     /* printf("\t\tGP - allocate sbuffer\n"); */
1714     gpd->runtime.sbuffer = MEM_callocN(sizeof(tGPspoint) * GP_STROKE_BUFFER_MAX,
1715                                        "gp_session_strokebuffer");
1716   }
1717
1718   /* reset indices */
1719   gpd->runtime.sbuffer_size = 0;
1720
1721   /* reset flags */
1722   gpd->runtime.sbuffer_sflag = 0;
1723
1724   /* reset region */
1725   gpd->runtime.ar = NULL;
1726
1727   /* reset inittime */
1728   p->inittime = 0.0;
1729
1730   /* reset lazy */
1731   if (brush) {
1732     brush->gpencil_settings->flag &= ~GP_BRUSH_STABILIZE_MOUSE_TEMP;
1733   }
1734 }
1735
1736 /* helper to get default eraser and create one if no eraser brush */
1737 static Brush *gp_get_default_eraser(Main *bmain, ToolSettings *ts)
1738 {
1739   Brush *brush_dft = NULL;
1740   Paint *paint = &ts->gp_paint->paint;
1741   Brush *brush_old = paint->brush;
1742   for (Brush *brush = bmain->brushes.first; brush; brush = brush->id.next) {
1743     if ((brush->ob_mode == OB_MODE_PAINT_GPENCIL) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
1744       /* save first eraser to use later if no default */
1745       if (brush_dft == NULL) {
1746         brush_dft = brush;
1747       }
1748       /* found default */
1749       if (brush->gpencil_settings->flag & GP_BRUSH_DEFAULT_ERASER) {
1750         return brush;
1751       }
1752     }
1753   }
1754   /* if no default, but exist eraser brush, return this and set as default */
1755   if (brush_dft) {
1756     brush_dft->gpencil_settings->flag |= GP_BRUSH_DEFAULT_ERASER;
1757     return brush_dft;
1758   }
1759   /* create a new soft eraser brush */
1760   else {
1761     brush_dft = BKE_brush_add_gpencil(bmain, ts, "Soft Eraser");
1762     brush_dft->size = 30.0f;
1763     brush_dft->gpencil_settings->flag |= (GP_BRUSH_ENABLE_CURSOR | GP_BRUSH_DEFAULT_ERASER);
1764     brush_dft->gpencil_settings->icon_id = GP_BRUSH_ICON_ERASE_SOFT;
1765     brush_dft->gpencil_tool = GPAINT_TOOL_ERASE;
1766     brush_dft->gpencil_settings->eraser_mode = GP_BRUSH_ERASER_SOFT;
1767
1768     /* reset current brush */
1769     BKE_paint_brush_set(paint, brush_old);
1770
1771     return brush_dft;
1772   }
1773 }
1774
1775 /* helper to set default eraser and disable others */
1776 static void gp_set_default_eraser(Main *bmain, Brush *brush_dft)
1777 {
1778   if (brush_dft == NULL) {
1779     return;
1780   }
1781
1782   for (Brush *brush = bmain->brushes.first; brush; brush = brush->id.next) {
1783     if ((brush->gpencil_settings) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
1784       if (brush == brush_dft) {
1785         brush->gpencil_settings->flag |= GP_BRUSH_DEFAULT_ERASER;
1786       }
1787       else if (brush->gpencil_settings->flag & GP_BRUSH_DEFAULT_ERASER) {
1788         brush->gpencil_settings->flag &= ~GP_BRUSH_DEFAULT_ERASER;
1789       }
1790     }
1791   }
1792 }
1793
1794 /* initialize a drawing brush */
1795 static void gp_init_drawing_brush(bContext *C, tGPsdata *p)
1796 {
1797   Scene *scene = CTX_data_scene(C);
1798   ToolSettings *ts = CTX_data_tool_settings(C);
1799
1800   Paint *paint = &ts->gp_paint->paint;
1801   bool changed = false;
1802   /* if not exist, create a new one */
1803   if (paint->brush == NULL) {
1804     /* create new brushes */
1805     BKE_brush_gpencil_presets(C);
1806     changed = true;
1807   }
1808   /* be sure curves are initializated */
1809   curvemapping_initialize(paint->brush->gpencil_settings->curve_sensitivity);
1810   curvemapping_initialize(paint->brush->gpencil_settings->curve_strength);
1811   curvemapping_initialize(paint->brush->gpencil_settings->curve_jitter);
1812
1813   /* assign to temp tGPsdata */
1814   p->brush = paint->brush;
1815   if (paint->brush->gpencil_tool != GPAINT_TOOL_ERASE) {
1816     p->eraser = gp_get_default_eraser(p->bmain, ts);
1817   }
1818   else {
1819     p->eraser = paint->brush;
1820   }
1821   /* set new eraser as default */
1822   gp_set_default_eraser(p->bmain, p->eraser);
1823
1824   /* use radius of eraser */
1825   p->radius = (short)p->eraser->size;
1826
1827   /* GPXX: Need this update to synchronize brush with draw manager.
1828    * Maybe this update can be removed when the new tool system
1829    * will be in place, but while, we need this to keep drawing working.
1830    */
1831   if (changed) {
1832     DEG_id_tag_update(&scene->id, ID_RECALC_COPY_ON_WRITE);
1833   }
1834 }
1835
1836 /* initialize a paint brush and a default color if not exist */
1837 static void gp_init_colors(tGPsdata *p)
1838 {
1839   bGPdata *gpd = p->gpd;
1840   Brush *brush = p->brush;
1841
1842   MaterialGPencilStyle *gp_style = NULL;
1843
1844   /* use brush material */
1845   p->material = BKE_gpencil_object_material_ensure_from_active_input_brush(p->bmain, p->ob, brush);
1846
1847   /* assign color information to temp tGPsdata */
1848   gp_style = p->material->gp_style;
1849   if (gp_style) {
1850
1851     /* set colors */
1852     if (gp_style->flag & GP_STYLE_STROKE_SHOW) {
1853       copy_v4_v4(gpd->runtime.scolor, gp_style->stroke_rgba);
1854     }
1855     else {
1856       /* if no stroke, use fill */
1857       copy_v4_v4(gpd->runtime.scolor, gp_style->fill_rgba);
1858     }
1859     copy_v4_v4(gpd->runtime.sfill, gp_style->fill_rgba);
1860     /* add some alpha to make easy the filling without hide strokes */
1861     if (gpd->runtime.sfill[3] > 0.8f) {
1862       gpd->runtime.sfill[3] = 0.8f;
1863     }
1864
1865     gpd->runtime.mode = (short)gp_style->mode;
1866     gpd->runtime.bstroke_style = gp_style->stroke_style;
1867     gpd->runtime.bfill_style = gp_style->fill_style;
1868   }
1869 }
1870
1871 /* (re)init new painting data */
1872 static bool gp_session_initdata(bContext *C, wmOperator *op, tGPsdata *p)
1873 {
1874   Main *bmain = CTX_data_main(C);
1875   bGPdata **gpd_ptr = NULL;
1876   ScrArea *curarea = CTX_wm_area(C);
1877   ARegion *ar = CTX_wm_region(C);
1878   ToolSettings *ts = CTX_data_tool_settings(C);
1879   Object *obact = CTX_data_active_object(C);
1880
1881   /* make sure the active view (at the starting time) is a 3d-view */
1882   if (curarea == NULL) {
1883     p->status = GP_STATUS_ERROR;
1884     if (G.debug & G_DEBUG)
1885       printf("Error: No active view for painting\n");
1886     return 0;
1887   }
1888
1889   /* pass on current scene and window */
1890   p->C = C;
1891   p->bmain = CTX_data_main(C);
1892   p->scene = CTX_data_scene(C);
1893   p->depsgraph = CTX_data_depsgraph(C);
1894   p->win = CTX_wm_window(C);
1895   p->disable_fill = RNA_boolean_get(op->ptr, "disable_fill");
1896
1897   unit_m4(p->imat);
1898   unit_m4(p->mat);
1899
1900   switch (curarea->spacetype) {
1901     /* supported views first */
1902     case SPACE_VIEW3D: {
1903       /* View3D *v3d = curarea->spacedata.first; */
1904       /* RegionView3D *rv3d = ar->regiondata; */
1905
1906       /* set current area
1907        * - must verify that region data is 3D-view (and not something else)
1908        */
1909       /* CAUTION: If this is the "toolbar", then this will change on the first stroke */
1910       p->sa = curarea;
1911       p->ar = ar;
1912       p->align_flag = &ts->gpencil_v3d_align;
1913
1914       if (ar->regiondata == NULL) {
1915         p->status = GP_STATUS_ERROR;
1916         if (G.debug & G_DEBUG)
1917           printf(
1918               "Error: 3D-View active region doesn't have any region data, so cannot be "
1919               "drawable\n");
1920         return 0;
1921       }
1922
1923       if ((!obact) || (obact->type != OB_GPENCIL)) {
1924         View3D *v3d = p->sa->spacedata.first;
1925         /* if active object doesn't exist or isn't a GP Object, create one */
1926         const float *cur = p->scene->cursor.location;
1927
1928         ushort local_view_bits = 0;
1929         if (v3d->localvd) {
1930           local_view_bits = v3d->local_view_uuid;
1931         }
1932         /* create new default object */
1933         obact = ED_gpencil_add_object(C, p->scene, cur, local_view_bits);
1934       }
1935       /* assign object after all checks to be sure we have one active */
1936       p->ob = obact;
1937
1938       break;
1939     }
1940
1941     /* unsupported views */
1942     default: {
1943       p->status = GP_STATUS_ERROR;
1944       if (G.debug & G_DEBUG)
1945         printf("Error: Active view not appropriate for Grease Pencil drawing\n");
1946       return 0;
1947     }
1948   }
1949
1950   /* get gp-data */
1951   gpd_ptr = ED_gpencil_data_get_pointers(C, &p->ownerPtr);
1952   if ((gpd_ptr == NULL) || ED_gpencil_data_owner_is_annotation(&p->ownerPtr)) {
1953     p->status = GP_STATUS_ERROR;
1954     if (G.debug & G_DEBUG)
1955       printf("Error: Current context doesn't allow for any Grease Pencil data\n");
1956     return 0;
1957   }
1958   else {
1959     /* if no existing GPencil block exists, add one */
1960     if (*gpd_ptr == NULL)
1961       *gpd_ptr = BKE_gpencil_data_addnew(bmain, "GPencil");
1962     p->gpd = *gpd_ptr;
1963   }
1964
1965   /* clear out buffer (stored in gp-data), in case something contaminated it */
1966   gp_session_validatebuffer(p);
1967
1968   /* set brush and create a new one if null */
1969   gp_init_drawing_brush(C, p);
1970
1971   /* setup active color */
1972   if (curarea->spacetype == SPACE_VIEW3D) {
1973     /* region where paint was originated */
1974     p->gpd->runtime.ar = CTX_wm_region(C);
1975
1976     /* NOTE: This is only done for 3D view, as Materials aren't used for
1977      *       annotations in 2D editors
1978      */
1979     int totcol = p->ob->totcol;
1980
1981     gp_init_colors(p);
1982
1983     /* check whether the material was newly added */
1984     if (totcol != p->ob->totcol) {
1985       WM_event_add_notifier(C, NC_SPACE | ND_SPACE_PROPERTIES, NULL);
1986     }
1987   }
1988
1989   /* lock axis (in some modes, disable) */
1990   if (((*p->align_flag & GP_PROJECT_DEPTH_VIEW) == 0) &&
1991       ((*p->align_flag & GP_PROJECT_DEPTH_STROKE) == 0)) {
1992     p->lock_axis = ts->gp_sculpt.lock_axis;
1993   }
1994   else {
1995     p->lock_axis = 0;
1996   }
1997
1998   return 1;
1999 }
2000
2001 /* init new painting session */
2002 static tGPsdata *gp_session_initpaint(bContext *C, wmOperator *op)
2003 {
2004   tGPsdata *p = NULL;
2005
2006   /* Create new context data */
2007   p = MEM_callocN(sizeof(tGPsdata), "GPencil Drawing Data");
2008
2009   /* Try to initialize context data
2010    * WARNING: This may not always succeed (e.g. using GP in an annotation-only context)
2011    */
2012   if (gp_session_initdata(C, op, p) == 0) {
2013     /* Invalid state - Exit
2014      * NOTE: It should be safe to just free the data, since failing context checks should
2015      * only happen when no data has been allocated.
2016      */
2017     MEM_freeN(p);
2018     return NULL;
2019   }
2020
2021   /* Random generator, only init once. */
2022   uint rng_seed = (uint)(PIL_check_seconds_timer_i() & UINT_MAX);
2023   rng_seed ^= POINTER_AS_UINT(p);
2024   p->rng = BLI_rng_new(rng_seed);
2025
2026   /* return context data for running paint operator */
2027   return p;
2028 }
2029
2030 /* cleanup after a painting session */
2031 static void gp_session_cleanup(tGPsdata *p)
2032 {
2033   bGPdata *gpd = (p) ? p->gpd : NULL;
2034
2035   /* error checking */
2036   if (gpd == NULL)
2037     return;
2038
2039   /* free stroke buffer */
2040   if (gpd->runtime.sbuffer) {
2041     /* printf("\t\tGP - free sbuffer\n"); */
2042     MEM_SAFE_FREE(gpd->runtime.sbuffer);
2043     gpd->runtime.sbuffer = NULL;
2044   }
2045
2046   /* clear flags */
2047   gpd->runtime.sbuffer_size = 0;
2048   gpd->runtime.sbuffer_sflag = 0;
2049   p->inittime = 0.0;
2050 }
2051
2052 static void gp_session_free(tGPsdata *p)
2053 {
2054   if (p->rng != NULL) {
2055     BLI_rng_free(p->rng);
2056   }
2057
2058   MEM_freeN(p);
2059 }
2060
2061 /* init new stroke */
2062 static void gp_paint_initstroke(tGPsdata *p, eGPencil_PaintModes paintmode, Depsgraph *depsgraph)
2063 {
2064   Scene *scene = p->scene;
2065   ToolSettings *ts = scene->toolsettings;
2066   int cfra_eval = (int)DEG_get_ctime(p->depsgraph);
2067
2068   /* get active layer (or add a new one if non-existent) */
2069   p->gpl = BKE_gpencil_layer_getactive(p->gpd);
2070   if (p->gpl == NULL) {
2071     p->gpl = BKE_gpencil_layer_addnew(p->gpd, DATA_("GP_Layer"), true);
2072
2073     if (p->custom_color[3]) {
2074       copy_v3_v3(p->gpl->color, p->custom_color);
2075     }
2076   }
2077   if ((paintmode != GP_PAINTMODE_ERASER) && (p->gpl->flag & GP_LAYER_LOCKED)) {
2078     p->status = GP_STATUS_ERROR;
2079     if (G.debug & G_DEBUG)
2080       printf("Error: Cannot paint on locked layer\n");
2081     return;
2082   }
2083
2084   /* get active frame (add a new one if not matching frame) */
2085   if (paintmode == GP_PAINTMODE_ERASER) {
2086     /* Eraser mode:
2087      * 1) Add new frames to all frames that we might touch,
2088      * 2) Ensure that p->gpf refers to the frame used for the active layer
2089      *    (to avoid problems with other tools which expect it to exist)
2090      */
2091     bool has_layer_to_erase = false;
2092
2093     for (bGPDlayer *gpl = p->gpd->layers.first; gpl; gpl = gpl->next) {
2094       /* Skip if layer not editable */
2095       if (gpencil_layer_is_editable(gpl) == false)
2096         continue;
2097
2098       /* Add a new frame if needed (and based off the active frame,
2099        * as we need some existing strokes to erase)
2100        *
2101        * Note: We don't add a new frame if there's nothing there now, so
2102        *       -> If there are no frames at all, don't add one
2103        *       -> If there are no strokes in that frame, don't add a new empty frame
2104        */
2105       if (gpl->actframe && gpl->actframe->strokes.first) {
2106         gpl->actframe = BKE_gpencil_layer_getframe(gpl, cfra_eval, GP_GETFRAME_ADD_COPY);
2107         has_layer_to_erase = true;
2108       }
2109
2110       /* XXX: we omit GP_FRAME_PAINT here for now,
2111        * as it is only really useful for doing
2112        * paintbuffer drawing
2113        */
2114     }
2115
2116     /* Ensure this gets set... */
2117     p->gpf = p->gpl->actframe;
2118
2119     /* Restrict eraser to only affecting selected strokes, if the "selection mask" is on
2120      * (though this is only available in editmode)
2121      */
2122     if (p->gpd->flag & GP_DATA_STROKE_EDITMODE) {
2123       if (ts->gp_sculpt.flag & GP_SCULPT_SETT_FLAG_SELECT_MASK) {
2124         p->flags |= GP_PAINTFLAG_SELECTMASK;
2125       }
2126     }
2127
2128     if (has_layer_to_erase == false) {
2129       p->status = GP_STATUS_ERROR;
2130       return;
2131     }
2132   }
2133   else {
2134     /* Drawing Modes - Add a new frame if needed on the active layer */
2135     short add_frame_mode;
2136
2137     if (ts->gpencil_flags & GP_TOOL_FLAG_RETAIN_LAST)
2138       add_frame_mode = GP_GETFRAME_ADD_COPY;
2139     else
2140       add_frame_mode = GP_GETFRAME_ADD_NEW;
2141
2142     p->gpf = BKE_gpencil_layer_getframe(p->gpl, cfra_eval, add_frame_mode);
2143
2144     if (p->gpf == NULL) {
2145       p->status = GP_STATUS_ERROR;
2146       if (G.debug & G_DEBUG)
2147         printf("Error: No frame created (gpencil_paint_init)\n");
2148       return;
2149     }
2150     else {
2151       p->gpf->flag |= GP_FRAME_PAINT;
2152     }
2153   }
2154
2155   /* set 'eraser' for this stroke if using eraser */
2156   p->paintmode = paintmode;
2157   if (p->paintmode == GP_PAINTMODE_ERASER) {
2158     p->gpd->runtime.sbuffer_sflag |= GP_STROKE_ERASER;
2159   }
2160   else {
2161     /* disable eraser flags - so that we can switch modes during a session */
2162     p->gpd->runtime.sbuffer_sflag &= ~GP_STROKE_ERASER;
2163   }
2164
2165   /* set special fill stroke mode */
2166   if (p->disable_fill == true) {
2167     p->gpd->runtime.sbuffer_sflag |= GP_STROKE_NOFILL;
2168     /* replace stroke color with fill color */
2169     copy_v4_v4(p->gpd->runtime.scolor, p->gpd->runtime.sfill);
2170   }
2171
2172   /* set 'initial run' flag, which is only used to denote when a new stroke is starting */
2173   p->flags |= GP_PAINTFLAG_FIRSTRUN;
2174
2175   /* when drawing in the camera view, in 2D space, set the subrect */
2176   p->subrect = NULL;
2177   if ((*p->align_flag & GP_PROJECT_VIEWSPACE) == 0) {
2178     if (p->sa->spacetype == SPACE_VIEW3D) {
2179       View3D *v3d = p->sa->spacedata.first;
2180       RegionView3D *rv3d = p->ar->regiondata;
2181
2182       /* for camera view set the subrect */
2183       if (rv3d->persp == RV3D_CAMOB) {
2184         /* no shift */
2185         ED_view3d_calc_camera_border(
2186             p->scene, depsgraph, p->ar, v3d, rv3d, &p->subrect_data, true);
2187         p->subrect = &p->subrect_data;
2188       }
2189     }
2190   }
2191
2192   /* init stroke point space-conversion settings... */
2193   p->gsc.gpd = p->gpd;
2194   p->gsc.gpl = p->gpl;
2195
2196   p->gsc.sa = p->sa;
2197   p->gsc.ar = p->ar;
2198   p->gsc.v2d = p->v2d;
2199
2200   p->gsc.subrect_data = p->subrect_data;
2201   p->gsc.subrect = p->subrect;
2202
2203   copy_m4_m4(p->gsc.mat, p->mat);
2204
2205   /* check if points will need to be made in view-aligned space */
2206   if (*p->align_flag & GP_PROJECT_VIEWSPACE) {
2207     switch (p->sa->spacetype) {
2208       case SPACE_VIEW3D: {
2209         p->gpd->runtime.sbuffer_sflag |= GP_STROKE_3DSPACE;
2210         break;
2211       }
2212     }
2213   }
2214 }
2215
2216 /* finish off a stroke (clears buffer, but doesn't finish the paint operation) */
2217 static void gp_paint_strokeend(tGPsdata *p)
2218 {
2219   ToolSettings *ts = p->scene->toolsettings;
2220   /* for surface sketching, need to set the right OpenGL context stuff so that
2221    * the conversions will project the values correctly...
2222    */
2223   if (gpencil_project_check(p)) {
2224     View3D *v3d = p->sa->spacedata.first;
2225
2226     /* need to restore the original projection settings before packing up */
2227     view3d_region_operator_needs_opengl(p->win, p->ar);
2228     ED_view3d_autodist_init(
2229         p->depsgraph, p->ar, v3d, (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 1 : 0);
2230   }
2231
2232   /* check if doing eraser or not */
2233   if ((p->gpd->runtime.sbuffer_sflag & GP_STROKE_ERASER) == 0) {
2234     /* transfer stroke to frame */
2235     gp_stroke_newfrombuffer(p);
2236   }
2237
2238   /* clean up buffer now */
2239   gp_session_validatebuffer(p);
2240 }
2241
2242 /* finish off stroke painting operation */
2243 static void gp_paint_cleanup(tGPsdata *p)
2244 {
2245   /* p->gpd==NULL happens when stroke failed to initialize,
2246    * for example when GP is hidden in current space (sergey)
2247    */
2248   if (p->gpd) {
2249     /* finish off a stroke */
2250     gp_paint_strokeend(p);
2251   }
2252
2253   /* "unlock" frame */
2254   if (p->gpf)
2255     p->gpf->flag &= ~GP_FRAME_PAINT;
2256 }
2257
2258 /* ------------------------------- */
2259
2260 /* Helper callback for drawing the cursor itself */
2261 static void gpencil_draw_eraser(bContext *UNUSED(C), int x, int y, void *p_ptr)
2262 {
2263   tGPsdata *p = (tGPsdata *)p_ptr;
2264
2265   if (p->paintmode == GP_PAINTMODE_ERASER) {
2266     GPUVertFormat *format = immVertexFormat();
2267     const uint shdr_pos = GPU_vertformat_attr_add(format, "pos", GPU_COMP_F32, 2, GPU_FETCH_FLOAT);
2268     immBindBuiltinProgram(GPU_SHADER_2D_UNIFORM_COLOR);
2269
2270     GPU_line_smooth(true);
2271     GPU_blend(true);
2272     GPU_blend_set_func_separate(
2273         GPU_SRC_ALPHA, GPU_ONE_MINUS_SRC_ALPHA, GPU_ONE, GPU_ONE_MINUS_SRC_ALPHA);
2274
2275     immUniformColor4ub(255, 100, 100, 20);
2276     imm_draw_circle_fill_2d(shdr_pos, x, y, p->radius, 40);
2277
2278     immUnbindProgram();
2279
2280     immBindBuiltinProgram(GPU_SHADER_2D_LINE_DASHED_UNIFORM_COLOR);
2281
2282     float viewport_size[4];
2283     GPU_viewport_size_get_f(viewport_size);
2284     immUniform2f("viewport_size", viewport_size[2], viewport_size[3]);
2285
2286     immUniformColor4f(1.0f, 0.39f, 0.39f, 0.78f);
2287     immUniform1i("colors_len", 0); /* "simple" mode */
2288     immUniform1f("dash_width", 12.0f);
2289     immUniform1f("dash_factor", 0.5f);
2290
2291     imm_draw_circle_wire_2d(
2292         shdr_pos,
2293         x,
2294         y,
2295         p->radius,
2296         /* XXX Dashed shader gives bad results with sets of small segments currently,
2297              *     temp hack around the issue. :( */
2298         max_ii(8, p->radius / 2)); /* was fixed 40 */
2299
2300     immUnbindProgram();
2301
2302     GPU_blend(false);
2303     GPU_line_smooth(false);
2304   }
2305 }
2306
2307 /* Turn brush cursor in 3D view on/off */
2308 static void gpencil_draw_toggle_eraser_cursor(bContext *C, tGPsdata *p, short enable)
2309 {
2310   if (p->erasercursor && !enable) {
2311     /* clear cursor */
2312     WM_paint_cursor_end(CTX_wm_manager(C), p->erasercursor);
2313     p->erasercursor = NULL;
2314   }
2315   else if (enable && !p->erasercursor) {
2316     ED_gpencil_toggle_brush_cursor(p->C, false, NULL);
2317     /* enable cursor */
2318     p->erasercursor = WM_paint_cursor_activate(CTX_wm_manager(C),
2319                                                SPACE_TYPE_ANY,
2320                                                RGN_TYPE_ANY,
2321                                                NULL, /* XXX */
2322                                                gpencil_draw_eraser,
2323                                                p);
2324   }
2325 }
2326
2327 /* Check if tablet eraser is being used (when processing events) */
2328 static bool gpencil_is_tablet_eraser_active(const wmEvent *event)
2329 {
2330   if (event->tablet_data) {
2331     const wmTabletData *wmtab = event->tablet_data;
2332     return (wmtab->Active == EVT_TABLET_ERASER);
2333   }
2334
2335   return false;
2336 }
2337
2338 /* ------------------------------- */
2339
2340 static void gpencil_draw_exit(bContext *C, wmOperator *op)
2341 {
2342   tGPsdata *p = op->customdata;
2343
2344   /* don't assume that operator data exists at all */
2345   if (p) {
2346     /* check size of buffer before cleanup, to determine if anything happened here */
2347     if (p->paintmode == GP_PAINTMODE_ERASER) {
2348       /* turn off radial brush cursor */
2349       gpencil_draw_toggle_eraser_cursor(C, p, false);
2350     }
2351
2352     /* always store the new eraser size to be used again next time
2353      * NOTE: Do this even when not in eraser mode, as eraser may
2354      *       have been toggled at some point.
2355      */
2356     if (p->eraser) {
2357       p->eraser->size = p->radius;
2358     }
2359
2360     /* restore cursor to indicate end of drawing */
2361     if (p->sa->spacetype != SPACE_VIEW3D) {
2362       WM_cursor_modal_restore(CTX_wm_window(C));
2363     }
2364     else {
2365       /* or restore paint if 3D view */
2366       if ((p) && (p->paintmode == GP_PAINTMODE_ERASER)) {
2367         WM_cursor_modal_set(p->win, CURSOR_STD);
2368       }
2369
2370       /* drawing batch cache is dirty now */
2371       bGPdata *gpd = CTX_data_gpencil_data(C);
2372       if (gpd) {
2373         gpd->flag &= ~GP_DATA_STROKE_POLYGON;
2374         gp_update_cache(gpd);
2375       }
2376     }
2377
2378     /* clear undo stack */
2379     gpencil_undo_finish();
2380
2381     /* cleanup */
2382     WM_cursor_modal_set(p->win, CURSOR_STD);
2383
2384     gp_paint_cleanup(p);
2385     gp_session_cleanup(p);
2386     ED_gpencil_toggle_brush_cursor(C, true, NULL);
2387
2388     /* finally, free the temp data */
2389     gp_session_free(p);
2390     p = NULL;
2391   }
2392
2393   op->customdata = NULL;
2394 }
2395
2396 static void gpencil_draw_cancel(bContext *C, wmOperator *op)
2397 {
2398   /* this is just a wrapper around exit() */
2399   gpencil_draw_exit(C, op);
2400 }
2401
2402 /* ------------------------------- */
2403
2404 static int gpencil_draw_init(bContext *C, wmOperator *op, const wmEvent *event)
2405 {
2406   tGPsdata *p;
2407   eGPencil_PaintModes paintmode = RNA_enum_get(op->ptr, "mode");
2408   ToolSettings *ts = CTX_data_tool_settings(C);
2409   Brush *brush = BKE_paint_brush(&ts->gp_paint->paint);
2410
2411   /* if mode is draw and the brush is eraser, cancel */
2412   if (paintmode != GP_PAINTMODE_ERASER) {
2413     if ((brush) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
2414       return 0;
2415     }
2416   }
2417
2418   /* check context */
2419   p = op->customdata = gp_session_initpaint(C, op);
2420   if ((p == NULL) || (p->status == GP_STATUS_ERROR)) {
2421     /* something wasn't set correctly in context */
2422     gpencil_draw_exit(C, op);
2423     return 0;
2424   }
2425
2426   /* init painting data */
2427   gp_paint_initstroke(p, paintmode, CTX_data_depsgraph(C));
2428   if (p->status == GP_STATUS_ERROR) {
2429     gpencil_draw_exit(C, op);
2430     return 0;
2431   }
2432
2433   if (event != NULL) {
2434     p->keymodifier = event->keymodifier;
2435   }
2436   else {
2437     p->keymodifier = -1;
2438   }
2439
2440   p->reports = op->reports;
2441
2442   /* everything is now setup ok */
2443   return 1;
2444 }
2445
2446 /* ------------------------------- */
2447
2448 /* ensure that the correct cursor icon is set */
2449 static void gpencil_draw_cursor_set(tGPsdata *p)
2450 {
2451   Brush *brush = p->brush;
2452   if ((p->paintmode == GP_PAINTMODE_ERASER) || (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
2453     WM_cursor_modal_set(p->win, BC_CROSSCURSOR); /* XXX need a better cursor */
2454   }
2455   else {
2456     WM_cursor_modal_set(p->win, CURSOR_NONE);
2457   }
2458 }
2459
2460 /* update UI indicators of status, including cursor and header prints */
2461 static void gpencil_draw_status_indicators(bContext *C, tGPsdata *p)
2462 {
2463   /* header prints */
2464   switch (p->status) {
2465     case GP_STATUS_IDLING: {
2466       /* print status info */
2467       switch (p->paintmode) {
2468         case GP_PAINTMODE_ERASER: {
2469           ED_workspace_status_text(
2470               C,
2471               IFACE_("Grease Pencil Erase Session: Hold and drag LMB or RMB to erase | "
2472                      "ESC/Enter to end  (or click outside this area)"));
2473           break;
2474         }
2475         case GP_PAINTMODE_DRAW_STRAIGHT: {
2476           ED_workspace_status_text(
2477               C,
2478               IFACE_("Grease Pencil Line Session: Hold and drag LMB to draw | "
2479                      "ESC/Enter to end  (or click outside this area)"));
2480           break;
2481         }
2482         case GP_PAINTMODE_SET_CP: {
2483           ED_workspace_status_text(
2484               C,
2485               IFACE_("Grease Pencil Guides: LMB click and release to place reference point | "
2486                      "Esc/RMB to cancel"));
2487           break;
2488         }
2489         case GP_PAINTMODE_DRAW: {
2490           GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2491           if (guide->use_guide) {
2492             ED_workspace_status_text(
2493                 C,
2494                 IFACE_("Grease Pencil Freehand Session: Hold and drag LMB to draw | "
2495                        "M key to flip guide | O key to move reference point"));
2496           }
2497           else {
2498             ED_workspace_status_text(
2499                 C, IFACE_("Grease Pencil Freehand Session: Hold and drag LMB to draw"));
2500           }
2501           break;
2502         }
2503         case GP_PAINTMODE_DRAW_POLY: {
2504           ED_workspace_status_text(
2505               C,
2506               IFACE_("Grease Pencil Poly Session: LMB click to place next stroke vertex | "
2507                      "Release Shift/ESC/Enter to end  (or click outside this area)"));
2508           break;
2509         }
2510         default: /* unhandled future cases */
2511         {
2512           ED_workspace_status_text(
2513               C, IFACE_("Grease Pencil Session: ESC/Enter to end   (or click outside this area)"));
2514           break;
2515         }
2516       }
2517       break;
2518     }
2519     case GP_STATUS_ERROR:
2520     case GP_STATUS_DONE: {
2521       /* clear status string */
2522       ED_workspace_status_text(C, NULL);
2523       break;
2524     }
2525     case GP_STATUS_PAINTING:
2526       break;
2527   }
2528 }
2529
2530 /* ------------------------------- */
2531
2532 /* create a new stroke point at the point indicated by the painting context */
2533 static void gpencil_draw_apply(bContext *C, wmOperator *op, tGPsdata *p, Depsgraph *depsgraph)
2534 {
2535   bGPdata *gpd = p->gpd;
2536   tGPspoint *pt = NULL;
2537
2538   /* handle drawing/erasing -> test for erasing first */
2539   if (p->paintmode == GP_PAINTMODE_ERASER) {
2540     /* do 'live' erasing now */
2541     gp_stroke_doeraser(p);
2542
2543     /* store used values */
2544     copy_v2_v2(p->mvalo, p->mval);
2545     p->opressure = p->pressure;
2546   }
2547   /* only add current point to buffer if mouse moved (even though we got an event, it might be just noise) */
2548   else if (gp_stroke_filtermval(p, p->mval, p->mvalo)) {
2549
2550     /* if lazy mouse, interpolate the last and current mouse positions */
2551     if (GPENCIL_LAZY_MODE(p->brush, p->shift)) {
2552       float now_mouse[2];
2553       float last_mouse[2];
2554       copy_v2_v2(now_mouse, p->mval);
2555       copy_v2_v2(last_mouse, p->mvalo);
2556       interp_v2_v2v2(now_mouse, now_mouse, last_mouse, p->brush->smooth_stroke_factor);
2557       copy_v2_v2(p->mval, now_mouse);
2558     }
2559
2560     /* try to add point */
2561     short ok = gp_stroke_addpoint(p, p->mval, p->pressure, p->curtime);
2562
2563     /* handle errors while adding point */
2564     if ((ok == GP_STROKEADD_FULL) || (ok == GP_STROKEADD_OVERFLOW)) {
2565       /* finish off old stroke */
2566       gp_paint_strokeend(p);
2567       /* And start a new one!!! Else, projection errors! */
2568       gp_paint_initstroke(p, p->paintmode, depsgraph);
2569
2570       /* start a new stroke, starting from previous point */
2571       /* XXX Must manually reset inittime... */
2572       /* XXX We only need to reuse previous point if overflow! */
2573       if (ok == GP_STROKEADD_OVERFLOW) {
2574         p->inittime = p->ocurtime;
2575         gp_stroke_addpoint(p, p->mvalo, p->opressure, p->ocurtime);
2576       }
2577       else {
2578         p->inittime = p->curtime;
2579       }
2580       gp_stroke_addpoint(p, p->mval, p->pressure, p->curtime);
2581     }
2582     else if (ok == GP_STROKEADD_INVALID) {
2583       /* the painting operation cannot continue... */
2584       BKE_report(op->reports, RPT_ERROR, "Cannot paint stroke");
2585       p->status = GP_STATUS_ERROR;
2586
2587       if (G.debug & G_DEBUG)
2588         printf("Error: Grease-Pencil Paint - Add Point Invalid\n");
2589       return;
2590     }
2591
2592     /* store used values */
2593     copy_v2_v2(p->mvalo, p->mval);
2594     p->opressure = p->pressure;
2595     p->ocurtime = p->curtime;
2596
2597     pt = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
2598     if (p->paintmode != GP_PAINTMODE_ERASER) {
2599       ED_gpencil_toggle_brush_cursor(C, true, &pt->x);
2600     }
2601   }
2602   else if ((p->brush->gpencil_settings->flag & GP_BRUSH_STABILIZE_MOUSE_TEMP) &&
2603            (gpd->runtime.sbuffer_size > 0)) {
2604     pt = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
2605     if (p->paintmode != GP_PAINTMODE_ERASER) {
2606       ED_gpencil_toggle_brush_cursor(C, true, &pt->x);
2607     }
2608   }
2609 }
2610
2611 /* Helper to rotate point around origin */
2612 static void gp_rotate_v2_v2v2fl(float v[2],
2613                                 const float p[2],
2614                                 const float origin[2],
2615                                 const float angle)
2616 {
2617   float pt[2];
2618   float r[2];
2619   sub_v2_v2v2(pt, p, origin);
2620   rotate_v2_v2fl(r, pt, angle);
2621   add_v2_v2v2(v, r, origin);
2622 }
2623
2624 /* Helper to snap value to grid */
2625 static float gp_snap_to_grid_fl(float v, const float offset, const float spacing)
2626 {
2627   if (spacing > 0.0f) {
2628     return roundf(v / spacing) * spacing + fmodf(offset, spacing);
2629   }
2630   else {
2631     return v;
2632   }
2633 }
2634
2635 static void UNUSED_FUNCTION(gp_snap_to_grid_v2)(float v[2],
2636                                                 const float offset[2],
2637                                                 const float spacing)
2638 {
2639   v[0] = gp_snap_to_grid_fl(v[0], offset[0], spacing);
2640   v[1] = gp_snap_to_grid_fl(v[1], offset[1], spacing);
2641 }
2642
2643 /* get reference point - screen coords to buffer coords */
2644 static void gp_origin_set(wmOperator *op, const int mval[2])
2645 {
2646   tGPsdata *p = op->customdata;
2647   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2648   float origin[2];
2649   float point[3];
2650   copy_v2fl_v2i(origin, mval);
2651   gp_stroke_convertcoords(p, origin, point, NULL);
2652   if (guide->reference_point == GP_GUIDE_REF_CUSTOM) {
2653     copy_v3_v3(guide->location, point);
2654   }
2655   else if (guide->reference_point == GP_GUIDE_REF_CURSOR) {
2656     copy_v3_v3(p->scene->cursor.location, point);
2657   }
2658 }
2659
2660 /* get reference point - buffer coords to screen coords */
2661 static void gp_origin_get(tGPsdata *p, float origin[2])
2662 {
2663   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2664   float location[3];
2665   if (guide->reference_point == GP_GUIDE_REF_CUSTOM) {
2666     copy_v3_v3(location, guide->location);
2667   }
2668   else if (guide->reference_point == GP_GUIDE_REF_OBJECT && guide->reference_object != NULL) {
2669     copy_v3_v3(location, guide->reference_object->loc);
2670   }
2671   else {
2672     copy_v3_v3(location, p->scene->cursor.location);
2673   }
2674   GP_SpaceConversion *gsc = &p->gsc;
2675   gp_point_3d_to_xy(gsc, p->gpd->runtime.sbuffer_sflag, location, origin);
2676 }
2677
2678 /* handle draw event */
2679 static void gpencil_draw_apply_event(
2680     bContext *C, wmOperator *op, const wmEvent *event, Depsgraph *depsgraph, float x, float y)
2681 {
2682   tGPsdata *p = op->customdata;
2683   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2684   PointerRNA itemptr;
2685   float mousef[2];
2686   int tablet = 0;
2687
2688   /* convert from window-space to area-space mouse coordinates
2689    * add any x,y override position for fake events
2690    */
2691   p->mval[0] = (float)event->mval[0] - x;
2692   p->mval[1] = (float)event->mval[1] - y;
2693   p->shift = event->shift;
2694
2695   /* verify direction for straight lines */
2696   if ((guide->use_guide) ||
2697       ((event->alt > 0) && (RNA_boolean_get(op->ptr, "disable_straight") == false))) {
2698     if (p->straight == 0) {
2699       int dx = (int)fabsf(p->mval[0] - p->mvali[0]);
2700       int dy = (int)fabsf(p->mval[1] - p->mvali[1]);
2701       if ((dx > 0) || (dy > 0)) {
2702         /* store mouse direction */
2703         if (dx > dy) {
2704           p->straight = STROKE_HORIZONTAL;
2705         }
2706         else if (dx < dy) {
2707           p->straight = STROKE_VERTICAL;
2708         }
2709       }
2710     }
2711   }
2712
2713   p->curtime = PIL_check_seconds_timer();
2714
2715   /* handle pressure sensitivity (which is supplied by tablets) */
2716   if (event->tablet_data) {
2717     const wmTabletData *wmtab = event->tablet_data;
2718
2719     tablet = (wmtab->Active != EVT_TABLET_NONE);
2720     p->pressure = wmtab->Pressure;
2721
2722     /* Hack for pressure sensitive eraser on D+RMB when using a tablet:
2723      * The pen has to float over the tablet surface, resulting in
2724      * zero pressure (T47101). Ignore pressure values if floating
2725      * (i.e. "effectively zero" pressure), and only when the "active"
2726      * end is the stylus (i.e. the default when not eraser)
2727      */
2728     if (p->paintmode == GP_PAINTMODE_ERASER) {
2729       if ((wmtab->Active != EVT_TABLET_ERASER) && (p->pressure < 0.001f)) {
2730         p->pressure = 1.0f;
2731       }
2732     }
2733   }
2734   else {
2735     /* No tablet data -> No pressure info is available */
2736     p->pressure = 1.0f;
2737   }
2738
2739   /* special eraser modes */
2740   if (p->paintmode == GP_PAINTMODE_ERASER) {
2741     if (event->shift > 0) {
2742       p->flags |= GP_PAINTFLAG_HARD_ERASER;
2743     }
2744     else {
2745       p->flags &= ~GP_PAINTFLAG_HARD_ERASER;
2746     }
2747     if (event->alt > 0) {
2748       p->flags |= GP_PAINTFLAG_STROKE_ERASER;
2749     }
2750     else {
2751       p->flags &= ~GP_PAINTFLAG_STROKE_ERASER;
2752     }
2753   }
2754
2755   /* special exception for start of strokes (i.e. maybe for just a dot) */
2756   if (p->flags & GP_PAINTFLAG_FIRSTRUN) {
2757     p->flags &= ~GP_PAINTFLAG_FIRSTRUN;
2758
2759     /* set values */
2760     copy_v2_v2(p->mvalo, p->mval);
2761     p->opressure = p->pressure;
2762     p->inittime = p->ocurtime = p->curtime;
2763     p->straight = 0;
2764
2765     /* save initial mouse */
2766     copy_v2_v2(p->mvali, p->mval);
2767
2768     /* calculate once and store snapping distance and origin */
2769     RegionView3D *rv3d = p->ar->regiondata;
2770     float scale = 1.0f;
2771     if (rv3d->is_persp) {
2772       float vec[3];
2773       gp_get_3d_reference(p, vec);
2774       mul_m4_v3(rv3d->persmat, vec);
2775       scale = vec[2] * rv3d->pixsize;
2776     }
2777     else {
2778       scale = rv3d->pixsize;
2779     }
2780     p->guide_spacing = guide->spacing / scale;
2781     p->half_spacing = p->guide_spacing * 0.5f;
2782     gp_origin_get(p, p->origin);
2783
2784     /* special exception here for too high pressure values on first touch in
2785      * windows for some tablets, then we just skip first touch...
2786      */
2787     if (tablet && (p->pressure >= 0.99f)) {
2788       return;
2789     }
2790
2791     /* special exception for grid snapping
2792      * it requires direction which needs at least two points
2793      */
2794     if (!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP) && guide->use_guide &&
2795         guide->use_snapping && (guide->type == GP_GUIDE_GRID)) {
2796       p->flags |= GP_PAINTFLAG_REQ_VECTOR;
2797     }
2798   }
2799
2800   /* wait for vector then add initial point */
2801   if (p->flags & GP_PAINTFLAG_REQ_VECTOR) {
2802     if (p->straight == 0) {
2803       return;
2804     }
2805
2806     p->flags &= ~GP_PAINTFLAG_REQ_VECTOR;
2807
2808     /* create fake events */
2809     float tmp[2];
2810     float pt[2];
2811     copy_v2_v2(tmp, p->mval);
2812     sub_v2_v2v2(pt, p->mval, p->mvali);
2813     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
2814     if (len_v2v2(p->mval, p->mvalo)) {
2815       sub_v2_v2v2(pt, p->mval, p->mvalo);
2816       gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
2817     }
2818     copy_v2_v2(p->mval, tmp);
2819   }
2820
2821   /* check if stroke is straight or guided */
2822   if ((p->paintmode != GP_PAINTMODE_ERASER) && ((p->straight) || (guide->use_guide))) {
2823     /* guided stroke */
2824     if (guide->use_guide) {
2825       switch (guide->type) {
2826         default:
2827         case GP_GUIDE_CIRCULAR: {
2828           float distance;
2829           distance = len_v2v2(p->mvali, p->origin);
2830
2831           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2832             distance = gp_snap_to_grid_fl(distance, 0.0f, p->guide_spacing);
2833           }
2834
2835           dist_ensure_v2_v2fl(p->mval, p->origin, distance);
2836           break;
2837         }
2838         case GP_GUIDE_RADIAL: {
2839           if (guide->use_snapping && (guide->angle_snap > 0.0f)) {
2840             float point[2];
2841             float xy[2];
2842             float angle;
2843             float half_angle = guide->angle_snap * 0.5f;
2844             sub_v2_v2v2(xy, p->mvali, p->origin);
2845             angle = atan2f(xy[1], xy[0]);
2846             angle += (M_PI * 2.0f);
2847             angle = fmodf(angle + half_angle, guide->angle_snap);
2848             angle -= half_angle;
2849             gp_rotate_v2_v2v2fl(point, p->mvali, p->origin, -angle);
2850             closest_to_line_v2(p->mval, p->mval, point, p->origin);
2851           }
2852           else {
2853             closest_to_line_v2(p->mval, p->mval, p->mvali, p->origin);
2854           }
2855           break;
2856         }
2857         case GP_GUIDE_PARALLEL: {
2858           float point[2];
2859           float unit[2];
2860           copy_v2_v2(unit, p->mvali);
2861           unit[0] += 1.0f; /* start from horizontal */
2862           gp_rotate_v2_v2v2fl(point, unit, p->mvali, guide->angle);
2863           closest_to_line_v2(p->mval, p->mval, p->mvali, point);
2864
2865           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2866             gp_rotate_v2_v2v2fl(p->mval, p->mval, p->origin, -guide->angle);
2867             p->mval[1] = gp_snap_to_grid_fl(
2868                 p->mval[1] - p->half_spacing, p->origin[1], p->guide_spacing);
2869             gp_rotate_v2_v2v2fl(p->mval, p->mval, p->origin, guide->angle);
2870           }
2871           break;
2872         }
2873         case GP_GUIDE_GRID: {
2874           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2875             float point[2];
2876             float unit[2];
2877             float angle;
2878             copy_v2_v2(unit, p->mvali);
2879             unit[0] += 1.0f; /* start from horizontal */
2880             angle = (p->straight == STROKE_VERTICAL) ? M_PI_2 : 0.0f;
2881             gp_rotate_v2_v2v2fl(point, unit, p->mvali, angle);
2882             closest_to_line_v2(p->mval, p->mval, p->mvali, point);
2883
2884             if (p->straight == STROKE_HORIZONTAL) {
2885               p->mval[1] = gp_snap_to_grid_fl(
2886                   p->mval[1] - p->half_spacing, p->origin[1], p->guide_spacing);
2887             }
2888             else {
2889               p->mval[0] = gp_snap_to_grid_fl(
2890                   p->mval[0] - p->half_spacing, p->origin[0], p->guide_spacing);
2891             }
2892           }
2893           else if (p->straight == STROKE_HORIZONTAL) {
2894             p->mval[1] = p->mvali[1]; /* replace y */
2895           }
2896           else {
2897             p->mval[0] = p->mvali[0]; /* replace x */
2898           }
2899           break;
2900         }
2901       }
2902     }
2903     else if (p->straight == STROKE_HORIZONTAL) {
2904       p->mval[1] = p->mvali[1]; /* replace y */
2905     }
2906     else {
2907       p->mval[0] = p->mvali[0]; /* replace x */
2908     }
2909   }
2910
2911   /* fill in stroke data (not actually used directly by gpencil_draw_apply) */
2912   RNA_collection_add(op->ptr, "stroke", &itemptr);
2913
2914   mousef[0] = p->mval[0];
2915   mousef[1] = p->mval[1];
2916   RNA_float_set_array(&itemptr, "mouse", mousef);
2917   RNA_float_set(&itemptr, "pressure", p->pressure);
2918   RNA_boolean_set(&itemptr, "is_start", (p->flags & GP_PAINTFLAG_FIRSTRUN) != 0);
2919
2920   RNA_float_set(&itemptr, "time", p->curtime - p->inittime);
2921
2922   /* apply the current latest drawing point */
2923   gpencil_draw_apply(C, op, p, depsgraph);
2924
2925   /* force refresh */
2926   /* just active area for now, since doing whole screen is too slow */
2927   ED_region_tag_redraw(p->ar);
2928 }
2929
2930 /* ------------------------------- */
2931
2932 /* operator 'redo' (i.e. after changing some properties, but also for repeat last) */
2933 static int gpencil_draw_exec(bContext *C, wmOperator *op)
2934 {
2935   tGPsdata *p = NULL;
2936   Depsgraph *depsgraph = CTX_data_depsgraph(C);
2937
2938   /* printf("GPencil - Starting Re-Drawing\n"); */
2939
2940   /* try to initialize context data needed while drawing */
2941   if (!gpencil_draw_init(C, op, NULL)) {
2942     MEM_SAFE_FREE(op->customdata);
2943     /* printf("\tGP - no valid data\n"); */
2944     return OPERATOR_CANCELLED;
2945   }
2946   else
2947     p = op->customdata;
2948
2949   /* printf("\tGP - Start redrawing stroke\n"); */
2950
2951   /* loop over the stroke RNA elements recorded (i.e. progress of mouse movement),
2952    * setting the relevant values in context at each step, then applying
2953    */
2954   RNA_BEGIN (op->ptr, itemptr, "stroke") {
2955     float mousef[2];
2956
2957     /* printf("\t\tGP - stroke elem\n"); */
2958
2959     /* get relevant data for this point from stroke */
2960     RNA_float_get_array(&itemptr, "mouse", mousef);
2961     p->mval[0] = mousef[0];
2962     p->mval[1] = mousef[1];
2963     p->pressure = RNA_float_get(&itemptr, "pressure");
2964     p->curtime = (double)RNA_float_get(&itemptr, "time") + p->inittime;
2965
2966     if (RNA_boolean_get(&itemptr, "is_start")) {
2967       /* if first-run flag isn't set already (i.e. not true first stroke),
2968        * then we must terminate the previous one first before continuing
2969        */
2970       if ((p->flags & GP_PAINTFLAG_FIRSTRUN) == 0) {
2971         /* TODO: both of these ops can set error-status, but we probably don't need to worry */
2972         gp_paint_strokeend(p);
2973         gp_paint_initstroke(p, p->paintmode, depsgraph);
2974       }
2975     }
2976
2977     /* if first run, set previous data too */
2978     if (p->flags & GP_PAINTFLAG_FIRSTRUN) {
2979       p->flags &= ~GP_PAINTFLAG_FIRSTRUN;
2980
2981       p->mvalo[0] = p->mval[0];
2982       p->mvalo[1] = p->mval[1];
2983       p->opressure = p->pressure;
2984       p->ocurtime = p->curtime;
2985     }
2986
2987     /* apply this data as necessary now (as per usual) */
2988     gpencil_draw_apply(C, op, p, depsgraph);
2989   }
2990   RNA_END;
2991
2992   /* printf("\tGP - done\n"); */
2993
2994   /* cleanup */
2995   gpencil_draw_exit(C, op);
2996
2997   /* refreshes */
2998   WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
2999
3000   /* done */
3001   return OPERATOR_FINISHED;
3002 }
3003
3004 /* ------------------------------- */
3005
3006 /* handle events for guides */
3007 static void gpencil_guide_event_handling(bContext *C,
3008                                          wmOperator *op,
3009                                          const wmEvent *event,
3010                                          tGPsdata *p)
3011 {
3012   bool add_notifier = false;
3013   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3014
3015   /* Enter or exit set center point mode */
3016   if ((event->type == OKEY) && (event->val == KM_RELEASE)) {
3017     if (p->paintmode == GP_PAINTMODE_DRAW && guide->reference_point != GP_GUIDE_REF_OBJECT) {
3018       add_notifier = true;
3019       p->paintmode = GP_PAINTMODE_SET_CP;
3020       ED_gpencil_toggle_brush_cursor(C, false, NULL);
3021     }
3022   }
3023   /* Freehand mode, turn off speed guide */
3024   else if ((event->type == VKEY) && (event->val == KM_RELEASE)) {
3025     guide->use_guide = false;
3026     add_notifier = true;
3027   }
3028   /* Alternate or flip direction */
3029   else if ((event->type == MKEY) && (event->val == KM_RELEASE)) {
3030     if (guide->type == GP_GUIDE_CIRCULAR) {
3031       add_notifier = true;
3032       guide->type = GP_GUIDE_RADIAL;
3033     }
3034     else if (guide->type == GP_GUIDE_RADIAL) {
3035       add_notifier = true;
3036       guide->type = GP_GUIDE_CIRCULAR;
3037     }
3038     else if (guide->type == GP_GUIDE_PARALLEL) {
3039       add_notifier = true;
3040       guide->angle += M_PI_2;
3041       guide->angle = angle_compat_rad(guide->angle, M_PI);
3042     }
3043     else {
3044       add_notifier = false;
3045     }
3046   }
3047   /* Line guides */
3048   else if ((event->type == LKEY) && (event->val == KM_RELEASE)) {
3049     add_notifier = true;
3050     guide->use_guide = true;
3051     if (event->ctrl) {
3052       guide->angle = 0.0f;
3053       guide->type = GP_GUIDE_PARALLEL;
3054     }
3055     else if (event->alt) {
3056       guide->type = GP_GUIDE_PARALLEL;
3057       guide->angle = RNA_float_get(op->ptr, "guide_last_angle");
3058     }
3059     else {
3060       guide->type = GP_GUIDE_PARALLEL;
3061     }
3062   }
3063   /* Point guide */
3064   else if ((event->type == CKEY) && (event->val == KM_RELEASE)) {
3065     add_notifier = true;
3066     if (!guide->use_guide) {
3067       guide->use_guide = true;
3068       guide->type = GP_GUIDE_CIRCULAR;
3069     }
3070     else if (guide->type == GP_GUIDE_CIRCULAR) {
3071       guide->type = GP_GUIDE_RADIAL;
3072     }
3073     else if (guide->type == GP_GUIDE_RADIAL) {
3074       guide->type = GP_GUIDE_CIRCULAR;
3075     }
3076     else {
3077       guide->type = GP_GUIDE_CIRCULAR;
3078     }
3079   }
3080   /* Change line angle  */
3081   else if (ELEM(event->type, JKEY, KKEY) && (event->val == KM_RELEASE)) {
3082     add_notifier = true;
3083     float angle = guide->angle;
3084     float adjust = (float)M_PI / 180.0f;
3085     if (event->alt)
3086       adjust *= 45.0f;
3087     else if (!event->shift)
3088       adjust *= 15.0f;
3089     angle += (event->type == JKEY) ? adjust : -adjust;
3090     angle = angle_compat_rad(angle, M_PI);
3091     guide->angle = angle;
3092   }
3093
3094   if (add_notifier) {
3095     WM_event_add_notifier(C, NC_SCENE | ND_TOOLSETTINGS | NC_GPENCIL | NA_EDITED, NULL);
3096   }
3097 }
3098
3099 /* start of interactive drawing part of operator */
3100 static int gpencil_draw_invoke(bContext *C, wmOperator *op, const wmEvent *event)
3101 {
3102   tGPsdata *p = NULL;
3103   Object *ob = CTX_data_active_object(C);
3104   bGPdata *gpd = (bGPdata *)ob->data;
3105
3106   if (G.debug & G_DEBUG)
3107     printf("GPencil - Starting Drawing\n");
3108
3109   /* support for tablets eraser pen */
3110   if (gpencil_is_tablet_eraser_active(event)) {
3111     RNA_enum_set(op->ptr, "mode", GP_PAINTMODE_ERASER);
3112   }
3113
3114   /* do not draw in locked or invisible layers */
3115   eGPencil_PaintModes paintmode = RNA_enum_get(op->ptr, "mode");
3116   if (paintmode != GP_PAINTMODE_ERASER) {
3117     bGPDlayer *gpl = CTX_data_active_gpencil_layer(C);
3118     if ((gpl) && ((gpl->flag & GP_LAYER_LOCKED) || (gpl->flag & GP_LAYER_HIDE))) {
3119       BKE_report(op->reports, RPT_ERROR, "Active layer is locked or hide");
3120       return OPERATOR_CANCELLED;
3121     }
3122   }
3123   else {
3124     /* don't erase empty frames */
3125     bool has_layer_to_erase = false;
3126     for (bGPDlayer *gpl = gpd->layers.first; gpl; gpl = gpl->next) {
3127       /* Skip if layer not editable */
3128       if (gpencil_layer_is_editable(gpl)) {
3129         if (gpl->actframe && gpl->actframe->strokes.first) {
3130           has_layer_to_erase = true;
3131           break;
3132         }
3133       }
3134     }
3135     if (!has_layer_to_erase) {
3136       BKE_report(op->reports, RPT_ERROR, "Nothing to erase or all layers locked");
3137       return OPERATOR_FINISHED;
3138     }
3139   }
3140
3141   /* try to initialize context data needed while drawing */
3142   if (!gpencil_draw_init(C, op, event)) {
3143     if (op->customdata)
3144       MEM_freeN(op->customdata);
3145     if (G.debug & G_DEBUG)
3146       printf("\tGP - no valid data\n");
3147     return OPERATOR_CANCELLED;
3148   }
3149   else
3150     p = op->customdata;
3151
3152   /* TODO: set any additional settings that we can take from the events?
3153    * TODO? if tablet is erasing, force eraser to be on? */
3154
3155   /* TODO: move cursor setting stuff to stroke-start so that paintmode can be changed midway... */
3156
3157   /* if eraser is on, draw radial aid */
3158   if (p->paintmode == GP_PAINTMODE_ERASER) {
3159     gpencil_draw_toggle_eraser_cursor(C, p, true);
3160   }
3161   else {
3162     ED_gpencil_toggle_brush_cursor(C, true, NULL);
3163   }
3164   /* set cursor
3165    * NOTE: This may change later (i.e. intentionally via brush toggle,
3166    *       or unintentionally if the user scrolls outside the area)...
3167    */
3168   gpencil_draw_cursor_set(p);
3169
3170   /* only start drawing immediately if we're allowed to do so... */
3171   if (RNA_boolean_get(op->ptr, "wait_for_input") == false) {
3172     /* hotkey invoked - start drawing */
3173     /* printf("\tGP - set first spot\n"); */
3174     p->status = GP_STATUS_PAINTING;
3175
3176     /* handle the initial drawing - i.e. for just doing a simple dot */
3177     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), 0.0f, 0.0f);
3178     op->flag |= OP_IS_MODAL_CURSOR_REGION;
3179   }
3180   else {
3181     /* toolbar invoked - don't start drawing yet... */
3182     /* printf("\tGP - hotkey invoked... waiting for click-drag\n"); */
3183     op->flag |= OP_IS_MODAL_CURSOR_REGION;
3184   }
3185
3186   /* enable paint mode */
3187   /* handle speed guide events before drawing inside view3d */
3188   if (!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP)) {
3189     gpencil_guide_event_handling(C, op, event, p);
3190   }
3191
3192   if (ob && (ob->type == OB_GPENCIL) && ((p->gpd->flag & GP_DATA_STROKE_PAINTMODE) == 0)) {
3193     /* FIXME: use the mode switching operator, this misses notifiers, messages. */
3194     /* Just set paintmode flag... */
3195     p->gpd->flag |= GP_DATA_STROKE_PAINTMODE;
3196     /* disable other GP modes */
3197     p->gpd->flag &= ~GP_DATA_STROKE_EDITMODE;
3198     p->gpd->flag &= ~GP_DATA_STROKE_SCULPTMODE;
3199     p->gpd->flag &= ~GP_DATA_STROKE_WEIGHTMODE;
3200     /* set workspace mode */
3201     ob->restore_mode = ob->mode;
3202     ob->mode = OB_MODE_PAINT_GPENCIL;
3203     /* redraw mode on screen */
3204     WM_event_add_notifier(C, NC_SCENE | ND_MODE, NULL);
3205   }
3206
3207   WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
3208
3209   /* add a modal handler for this operator, so that we can then draw continuous strokes */
3210   WM_event_add_modal_handler(C, op);
3211
3212   return OPERATOR_RUNNING_MODAL;
3213 }
3214
3215 /* gpencil modal operator stores area, which can be removed while using it (like fullscreen) */
3216 static bool gpencil_area_exists(bContext *C, ScrArea *sa_test)
3217 {
3218   bScreen *sc = CTX_wm_screen(C);
3219   return (BLI_findindex(&sc->areabase, sa_test) != -1);
3220 }
3221
3222 static tGPsdata *gpencil_stroke_begin(bContext *C, wmOperator *op)
3223 {
3224   tGPsdata *p = op->customdata;
3225
3226   /* we must check that we're still within the area that we're set up to work from
3227    * otherwise we could crash (see bug #20586)
3228    */
3229   if (CTX_wm_area(C) != p->sa) {
3230     printf("\t\t\tGP - wrong area execution abort!\n");
3231     p->status = GP_STATUS_ERROR;
3232   }
3233
3234   /* printf("\t\tGP - start stroke\n"); */
3235
3236   /* we may need to set up paint env again if we're resuming */
3237   /* XXX: watch it with the paintmode! in future,
3238    *      it'd be nice to allow changing paint-mode when in sketching-sessions */
3239
3240   if (gp_session_initdata(C, op, p))
3241     gp_paint_initstroke(p, p->paintmode, CTX_data_depsgraph(C));
3242
3243   if (p->status != GP_STATUS_ERROR) {
3244     p->status = GP_STATUS_PAINTING;
3245     op->flag &= ~OP_IS_MODAL_CURSOR_REGION;
3246   }
3247
3248   return op->customdata;
3249 }
3250
3251 static void gpencil_stroke_end(wmOperator *op)
3252 {
3253   tGPsdata *p = op->customdata;
3254
3255   gp_paint_cleanup(p);
3256
3257   gpencil_undo_push(p->gpd);
3258
3259   gp_session_cleanup(p);
3260
3261   p->status = GP_STATUS_IDLING;
3262   op->flag |= OP_IS_MODAL_CURSOR_REGION;
3263
3264   p->gpd = NULL;
3265   p->gpl = NULL;
3266   p->gpf = NULL;
3267 }
3268
3269 /* Move last stroke in the listbase to the head to be drawn below all previous strokes in the layer */
3270 static void gpencil_move_last_stroke_to_back(bContext *C)
3271 {
3272   /* move last stroke (the polygon) to head of the listbase stroke to draw on back of all previous strokes */
3273   bGPdata *gpd = ED_gpencil_data_get_active(C);
3274   bGPDlayer *gpl = BKE_gpencil_layer_getactive(gpd);
3275
3276   /* sanity checks */
3277   if (ELEM(NULL, gpd, gpl, gpl->actframe)) {
3278     return;
3279   }
3280
3281   bGPDframe *gpf = gpl->actframe;
3282   bGPDstroke *gps = gpf->strokes.last;
3283   if (ELEM(NULL, gps)) {
3284     return;
3285   }
3286
3287   BLI_remlink(&gpf->strokes, gps);
3288   BLI_insertlinkbefore(&gpf->strokes, gpf->strokes.first, gps);
3289 }
3290
3291 /* add events for missing mouse movements when the artist draw very fast */
3292 static void gpencil_add_missing_events(bContext *C,
3293                                        wmOperator *op,
3294                                        const wmEvent *event,
3295                                        tGPsdata *p)
3296 {
3297   Brush *brush = p->brush;
3298   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3299   int input_samples = brush->gpencil_settings->input_samples;
3300
3301   /* ensure sampling when using circular guide */
3302   if (guide->use_guide && (guide->type == GP_GUIDE_CIRCULAR)) {
3303     input_samples = GP_MAX_INPUT_SAMPLES;
3304   }
3305
3306   if (input_samples == 0) {
3307     return;
3308   }
3309
3310   RegionView3D *rv3d = p->ar->regiondata;
3311   float defaultpixsize = rv3d->pixsize * 1000.0f;
3312   int samples = (GP_MAX_INPUT_SAMPLES - input_samples + 1);
3313   float thickness = (float)brush->size;
3314
3315   float pt[2], a[2], b[2];
3316   float vec[3];
3317   float scale = 1.0f;
3318
3319   /* get pixel scale */
3320   gp_get_3d_reference(p, vec);
3321   mul_m4_v3(rv3d->persmat, vec);
3322   if (rv3d->is_persp) {
3323     scale = vec[2] * defaultpixsize;
3324   }
3325   else {
3326     scale = defaultpixsize;
3327   }
3328
3329   /* The thickness of the brush is reduced of thickness to get overlap dots */
3330   float dot_factor = 0.50f;
3331   if (samples < 2) {
3332     dot_factor = 0.05f;
3333   }
3334   else if (samples < 4) {
3335     dot_factor = 0.10f;
3336   }
3337   else if (samples < 7) {
3338     dot_factor = 0.3f;
3339   }
3340   else if (samples < 10) {
3341     dot_factor = 0.4f;
3342   }
3343   float factor = ((thickness * dot_factor) / scale) * samples;
3344
3345   copy_v2_v2(a, p->mvalo);
3346   b[0] = (float)event->mval[0] + 1.0f;
3347   b[1] = (float)event->mval[1] + 1.0f;
3348
3349   /* get distance in pixels */
3350   float dist = len_v2v2(a, b);
3351
3352   /* for very small distances, add a half way point */
3353   if (dist <= 2.0f) {
3354     interp_v2_v2v2(pt, a, b, 0.5f);
3355     sub_v2_v2v2(pt, b, pt);
3356     /* create fake event */
3357     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
3358   }
3359   else if (dist >= factor) {
3360     int slices = 2 + (int)((dist - 1.0) / factor);
3361     float n = 1.0f / slices;
3362     for (int i = 1; i < slices; i++) {
3363       interp_v2_v2v2(pt, a, b, n * i);
3364       sub_v2_v2v2(pt, b, pt);
3365       /* create fake event */
3366       gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
3367     }
3368   }
3369 }
3370
3371 /* events handling during interactive drawing part of operator */
3372 static int gpencil_draw_modal(bContext *C, wmOperator *op, const wmEvent *event)
3373 {
3374   tGPsdata *p = op->customdata;
3375   ToolSettings *ts = CTX_data_tool_settings(C);
3376   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3377   /* default exit state - pass through to support MMB view nav, etc. */
3378   int estate = OPERATOR_PASS_THROUGH;
3379
3380   /* if (event->type == NDOF_MOTION)
3381    *    return OPERATOR_PASS_THROUGH;
3382    * -------------------------------
3383    * [mce] Not quite what I was looking
3384    * for, but a good start! GP continues to
3385    * draw on the screen while the 3D mouse
3386    * moves the viewpoint. Problem is that
3387    * the stroke is converted to 3D only after
3388    * it is finished. This approach should work
3389    * better in tools that immediately apply
3390    * in 3D space.
3391    */
3392
3393   if (p->status == GP_STATUS_IDLING) {
3394     ARegion *ar = CTX_wm_region(C);
3395     p->ar = ar;
3396   }
3397
3398   /* special mode for editing control points */
3399   if (p->paintmode == GP_PAINTMODE_SET_CP) {
3400     wmWindow *win = p->win;
3401     WM_cursor_modal_set(win, BC_NSEW_SCROLLCURSOR);
3402     bool drawmode = false;
3403
3404     switch (event->type) {
3405       /* cancel */
3406       case ESCKEY:
3407       case RIGHTMOUSE: {
3408         if (ELEM(event->val, KM_RELEASE)) {
3409           drawmode = true;
3410         }
3411         break;
3412       }
3413       /* set */
3414       case LEFTMOUSE: {
3415         if (ELEM(event->val, KM_RELEASE)) {
3416           gp_origin_set(op, event->mval);
3417           drawmode = true;
3418         }
3419         break;
3420       }
3421     }
3422     if (drawmode) {
3423       p->status = GP_STATUS_IDLING;
3424       p->paintmode = GP_PAINTMODE_DRAW;
3425       ED_gpencil_toggle_brush_cursor(C, true, NULL);
3426       DEG_id_tag_update(&p->scene->id, ID_RECALC_COPY_ON_WRITE);
3427     }
3428     else {
3429       return OPERATOR_RUNNING_MODAL;
3430     }
3431   }
3432
3433   /* we don't pass on key events, GP is used with key-modifiers - prevents Dkey to insert drivers */
3434   if (ISKEYBOARD(event->type)) {
3435     if (ELEM(event->type, LEFTARROWKEY, DOWNARROWKEY, RIGHTARROWKEY, UPARROWKEY, ZKEY)) {
3436       /* allow some keys:
3437        *   - for frame changing [#33412]
3438        *   - for undo (during sketching sessions)
3439        */
3440     }
3441     else if (ELEM(event->type, PAD0, PAD1, PAD2, PAD3, PAD4, PAD5, PAD6, PAD7, PAD8, PAD9)) {
3442       /* allow numpad keys so that camera/view manipulations can still take place
3443        * - PAD0 in particular is really important for Grease Pencil drawing,
3444        *   as animators may be working "to camera", so having this working
3445        *   is essential for ensuring that they can quickly return to that view
3446        */
3447     }
3448     else if ((event->type == BKEY) && (event->val == KM_RELEASE)) {
3449       /* Add Blank Frame
3450        * - Since this operator is non-modal, we can just call it here, and keep going...
3451        * - This operator is especially useful when animating
3452        */
3453       WM_operator_name_call(C, "GPENCIL_OT_blank_frame_add", WM_OP_EXEC_DEFAULT, NULL);
3454       estate = OPERATOR_RUNNING_MODAL;
3455     }
3456     else if ((!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP))) {
3457       gpencil_guide_event_handling(C, op, event, p);
3458       estate = OPERATOR_RUNNING_MODAL;
3459     }
3460     else {
3461       estate = OPERATOR_RUNNING_MODAL;
3462     }
3463   }
3464
3465   //printf("\tGP - handle modal event...\n");
3466
3467   /* exit painting mode (and/or end current stroke)
3468    * NOTE: cannot do RIGHTMOUSE (as is standard for canceling) as that would break polyline [#32647]
3469    */
3470   /* if polyline and release shift must cancel */
3471   if ((ELEM(event->type, RETKEY, PADENTER, ESCKEY, SPACEKEY, EKEY)) ||
3472       ((p->paintmode == GP_PAINTMODE_DRAW_POLY) && (event->shift == 0))) {
3473     /* exit() ends the current stroke before cleaning up */
3474     /* printf("\t\tGP - end of paint op + end of stroke\n"); */
3475     /* if drawing polygon and enable on back, must move stroke */
3476     if (ts) {
3477       if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
3478           (p->paintmode == GP_PAINTMODE_DRAW_POLY)) {
3479         if (p->flags & GP_PAINTFLAG_STROKEADDED) {
3480           gpencil_move_last_stroke_to_back(C);
3481         }
3482       }
3483     }
3484
3485     p->status = GP_STATUS_DONE;
3486     estate = OPERATOR_FINISHED;
3487   }
3488
3489   /* toggle painting mode upon mouse-button movement
3490    * - LEFTMOUSE  = standard drawing (all) / straight line drawing (all) / polyline (toolbox only)
3491    * - RIGHTMOUSE = polyline (hotkey) / eraser (all)
3492    *   (Disabling RIGHTMOUSE case here results in bugs like [#32647])
3493    * also making sure we have a valid event value, to not exit too early
3494    */
3495   if (ELEM(event->type, LEFTMOUSE, RIGHTMOUSE) && (ELEM(event->val, KM_PRESS, KM_RELEASE))) {
3496     /* if painting, end stroke */
3497     if (p->status == GP_STATUS_PAINTING) {
3498       int sketch = 0;
3499
3500       /* basically, this should be mouse-button up = end stroke
3501        * BUT, polyline drawing is an exception -- all knots should be added during one session
3502        */
3503       sketch |= (p->paintmode == GP_PAINTMODE_DRAW_POLY);
3504
3505       if (sketch) {
3506         /* end stroke only, and then wait to resume painting soon */
3507         /* printf("\t\tGP - end stroke only\n"); */
3508         gpencil_stroke_end(op);
3509
3510         /* If eraser mode is on, turn it off after the stroke finishes
3511          * NOTE: This just makes it nicer to work with drawing sessions
3512          */
3513         if (p->paintmode == GP_PAINTMODE_ERASER) {
3514           p->paintmode = RNA_enum_get(op->ptr, "mode");
3515
3516           /* if the original mode was *still* eraser,
3517            * we'll let it say for now, since this gives
3518            * users an opportunity to have visual feedback
3519            * when adjusting eraser size
3520            */
3521           if (p->paintmode != GP_PAINTMODE_ERASER) {
3522             /* turn off cursor...
3523              * NOTE: this should be enough for now
3524              *       Just hiding this makes it seem like
3525              *       you can paint again...
3526              */
3527             gpencil_draw_toggle_eraser_cursor(C, p, false);
3528           }
3529         }
3530
3531         /* we've just entered idling state, so this event was processed (but no others yet) */
3532         estate = OPERATOR_RUNNING_MODAL;
3533
3534         /* stroke could be smoothed, send notifier to refresh screen */
3535         WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
3536       }
3537       else {
3538         /* printf("\t\tGP - end of stroke + op\n"); */
3539         /* if drawing polygon and enable on back, must move stroke */
3540         if (ts) {
3541           if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
3542               (p->paintmode == GP_PAINTMODE_DRAW_POLY)) {
3543             if (p->flags & GP_PAINTFLAG_STROKEADDED) {
3544               gpencil_move_last_stroke_to_back(C);
3545             }
3546           }
3547         }
3548         /* drawing batch cache is dirty now */
3549         gp_update_cache(p->gpd);
3550
3551         p->status = GP_STATUS_DONE;
3552         estate = OPERATOR_FINISHED;
3553       }
3554     }
3555     else if (event->val == KM_PRESS) {
3556       bool in_bounds = false;
3557
3558       /* Check if we're outside the bounds of the active region
3559        * NOTE: An exception here is that if launched from the toolbar,
3560        *       whatever region we're now in should become the new region
3561        */
3562       if ((p->ar) && (p->ar->regiontype == RGN_TYPE_TOOLS)) {
3563         /* Change to whatever region is now under the mouse */
3564         ARegion *current_region = BKE_area_find_region_xy(p->sa, RGN_TYPE_ANY, event->x, event->y);
3565
3566         if (G.debug & G_DEBUG) {
3567           printf("found alternative region %p (old was %p) - at %d %d (sa: %d %d -> %d %d)\n",
3568                  current_region,
3569                  p->ar,
3570                  event->x,
3571                  event->y,
3572                  p->sa->totrct.xmin,
3573                  p->sa->totrct.ymin,
3574                  p->sa->totrct.xmax,
3575                  p->sa->totrct.ymax);
3576         }
3577
3578         if (current_region) {
3579           /* Assume that since we found the cursor in here, it is in bounds
3580            * and that this should be the region that we begin drawing in
3581            */
3582       &n