Cleanup: style, use braces for editors
[blender.git] / source / blender / editors / gpencil / gpencil_paint.c
1 /*
2  * This program is free software; you can redistribute it and/or
3  * modify it under the terms of the GNU General Public License
4  * as published by the Free Software Foundation; either version 2
5  * of the License, or (at your option) any later version.
6  *
7  * This program is distributed in the hope that it will be useful,
8  * but WITHOUT ANY WARRANTY; without even the implied warranty of
9  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
10  * GNU General Public License for more details.
11  *
12  * You should have received a copy of the GNU General Public License
13  * along with this program; if not, write to the Free Software Foundation,
14  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
15  *
16  * The Original Code is Copyright (C) 2008, Blender Foundation
17  * This is a new part of Blender
18  */
19
20 /** \file
21  * \ingroup edgpencil
22  */
23
24 #include <stdio.h>
25 #include <stddef.h>
26 #include <stdlib.h>
27 #include <string.h>
28 #include <math.h>
29
30 #include "MEM_guardedalloc.h"
31
32 #include "BLI_blenlib.h"
33 #include "BLI_math.h"
34 #include "BLI_utildefines.h"
35 #include "BLI_rand.h"
36 #include "BLI_math_geom.h"
37
38 #include "BLT_translation.h"
39
40 #include "PIL_time.h"
41
42 #include "DNA_meshdata_types.h"
43 #include "DNA_object_types.h"
44 #include "DNA_scene_types.h"
45 #include "DNA_gpencil_types.h"
46 #include "DNA_material_types.h"
47 #include "DNA_brush_types.h"
48 #include "DNA_windowmanager_types.h"
49
50 #include "BKE_colortools.h"
51 #include "BKE_main.h"
52 #include "BKE_brush.h"
53 #include "BKE_paint.h"
54 #include "BKE_context.h"
55 #include "BKE_deform.h"
56 #include "BKE_global.h"
57 #include "BKE_gpencil.h"
58 #include "BKE_report.h"
59 #include "BKE_layer.h"
60 #include "BKE_material.h"
61 #include "BKE_screen.h"
62 #include "BKE_tracking.h"
63
64 #include "UI_view2d.h"
65
66 #include "ED_gpencil.h"
67 #include "ED_screen.h"
68 #include "ED_object.h"
69 #include "ED_view3d.h"
70 #include "ED_clip.h"
71
72 #include "GPU_immediate.h"
73 #include "GPU_immediate_util.h"
74 #include "GPU_state.h"
75
76 #include "RNA_access.h"
77 #include "RNA_define.h"
78
79 #include "WM_api.h"
80 #include "WM_types.h"
81
82 #include "DEG_depsgraph.h"
83 #include "DEG_depsgraph_query.h"
84
85 #include "gpencil_intern.h"
86
87 /* ******************************************* */
88 /* 'Globals' and Defines */
89
90 /* values for tGPsdata->status */
91 typedef enum eGPencil_PaintStatus {
92   GP_STATUS_IDLING = 0, /* stroke isn't in progress yet */
93   GP_STATUS_PAINTING,   /* a stroke is in progress */
94   GP_STATUS_ERROR,      /* something wasn't correctly set up */
95   GP_STATUS_DONE,       /* painting done */
96 } eGPencil_PaintStatus;
97
98 /* Return flags for adding points to stroke buffer */
99 typedef enum eGP_StrokeAdd_Result {
100   GP_STROKEADD_INVALID = -2,  /* error occurred - insufficient info to do so */
101   GP_STROKEADD_OVERFLOW = -1, /* error occurred - cannot fit any more points */
102   GP_STROKEADD_NORMAL,        /* point was successfully added */
103   GP_STROKEADD_FULL,          /* cannot add any more points to buffer */
104 } eGP_StrokeAdd_Result;
105
106 /* Runtime flags */
107 typedef enum eGPencil_PaintFlags {
108   GP_PAINTFLAG_FIRSTRUN = (1 << 0), /* operator just started */
109   GP_PAINTFLAG_STROKEADDED = (1 << 1),
110   GP_PAINTFLAG_SELECTMASK = (1 << 3),
111   GP_PAINTFLAG_HARD_ERASER = (1 << 4),
112   GP_PAINTFLAG_STROKE_ERASER = (1 << 5),
113   GP_PAINTFLAG_REQ_VECTOR = (1 << 6),
114 } eGPencil_PaintFlags;
115
116 /* Temporary 'Stroke' Operation data
117  *   "p" = op->customdata
118  */
119 typedef struct tGPsdata {
120   bContext *C;
121
122   /** main database pointer. */
123   Main *bmain;
124   /** current scene from context. */
125   Scene *scene;
126   struct Depsgraph *depsgraph;
127
128   /** current object. */
129   Object *ob;
130   /** window where painting originated. */
131   wmWindow *win;
132   /** area where painting originated. */
133   ScrArea *sa;
134   /** region where painting originated. */
135   ARegion *ar;
136   /** needed for GP_STROKE_2DSPACE. */
137   View2D *v2d;
138   /** for using the camera rect within the 3d view. */
139   rctf *subrect;
140   rctf subrect_data;
141
142   /** settings to pass to gp_points_to_xy(). */
143   GP_SpaceConversion gsc;
144
145   /** pointer to owner of gp-datablock. */
146   PointerRNA ownerPtr;
147   /** gp-datablock layer comes from. */
148   bGPdata *gpd;
149   /** layer we're working on. */
150   bGPDlayer *gpl;
151   /** frame we're working on. */
152   bGPDframe *gpf;
153
154   /** projection-mode flags (toolsettings - eGPencil_Placement_Flags) */
155   char *align_flag;
156
157   /** current status of painting. */
158   eGPencil_PaintStatus status;
159   /** mode for painting. */
160   eGPencil_PaintModes paintmode;
161   /** flags that can get set during runtime (eGPencil_PaintFlags) */
162   eGPencil_PaintFlags flags;
163
164   /** radius of influence for eraser. */
165   short radius;
166
167   /** current mouse-position. */
168   float mval[2];
169   /** previous recorded mouse-position. */
170   float mvalo[2];
171   /** initial recorded mouse-position */
172   float mvali[2];
173
174   /** current stylus pressure. */
175   float pressure;
176   /** previous stylus pressure. */
177   float opressure;
178
179   /* These need to be doubles, as (at least under unix) they are in seconds since epoch,
180    * float (and its 7 digits precision) is definitively not enough here!
181    * double, with its 15 digits precision,
182    * ensures us millisecond precision for a few centuries at least.
183    */
184   /** Used when converting to path. */
185   double inittime;
186   /** Used when converting to path. */
187   double curtime;
188   /** Used when converting to path. */
189   double ocurtime;
190
191   /** Inverted transformation matrix applying when converting coords from screen-space
192    * to region space. */
193   float imat[4][4];
194   float mat[4][4];
195
196   /** custom color - hack for enforcing a particular color for track/mask editing. */
197   float custom_color[4];
198
199   /** radial cursor data for drawing eraser. */
200   void *erasercursor;
201
202   /* mat settings are only used for 3D view */
203   /** current material */
204   Material *material;
205   /** current drawing brush */
206   Brush *brush;
207   /** default eraser brush */
208   Brush *eraser;
209
210   /** 1: line horizontal, 2: line vertical, other: not defined */
211   short straight;
212   /** lock drawing to one axis */
213   int lock_axis;
214   /** the stroke is no fill mode */
215   bool disable_fill;
216
217   RNG *rng;
218
219   /** key used for invoking the operator */
220   short keymodifier;
221   /** shift modifier flag */
222   short shift;
223   /** size in pixels for uv calculation */
224   float totpixlen;
225
226   /* guide */
227   /** guide spacing */
228   float guide_spacing;
229   /** half guide spacing */
230   float half_spacing;
231   /** origin */
232   float origin[2];
233
234   ReportList *reports;
235 } tGPsdata;
236
237 /* ------ */
238
239 #define STROKE_HORIZONTAL 1
240 #define STROKE_VERTICAL 2
241
242 /* Macros for accessing sensitivity thresholds... */
243 /* minimum number of pixels mouse should move before new point created */
244 #define MIN_MANHATTEN_PX (U.gp_manhattendist)
245 /* minimum length of new segment before new point can be added */
246 #define MIN_EUCLIDEAN_PX (U.gp_euclideandist)
247
248 static void gp_update_cache(bGPdata *gpd)
249 {
250   if (gpd) {
251     DEG_id_tag_update(&gpd->id, ID_RECALC_TRANSFORM | ID_RECALC_GEOMETRY);
252     gpd->flag |= GP_DATA_CACHE_IS_DIRTY;
253   }
254 }
255
256 static bool gp_stroke_added_check(tGPsdata *p)
257 {
258   return (p->gpf && p->gpf->strokes.last && p->flags & GP_PAINTFLAG_STROKEADDED);
259 }
260
261 static void gp_stroke_added_enable(tGPsdata *p)
262 {
263   BLI_assert(p->gpf->strokes.last != NULL);
264   p->flags |= GP_PAINTFLAG_STROKEADDED;
265
266   /* drawing batch cache is dirty now */
267   gp_update_cache(p->gpd);
268 }
269
270 /* ------ */
271 /* Forward defines for some functions... */
272
273 static void gp_session_validatebuffer(tGPsdata *p);
274
275 /* ******************************************* */
276 /* Context Wrangling... */
277
278 /* check if context is suitable for drawing */
279 static bool gpencil_draw_poll(bContext *C)
280 {
281   if (ED_operator_regionactive(C)) {
282     ScrArea *sa = CTX_wm_area(C);
283     /* 3D Viewport */
284     if (sa->spacetype != SPACE_VIEW3D) {
285       return false;
286     }
287
288     /* check if Grease Pencil isn't already running */
289     if (ED_gpencil_session_active() != 0) {
290       CTX_wm_operator_poll_msg_set(C, "Grease Pencil operator is already active");
291       return false;
292     }
293
294     /* only grease pencil object type */
295     Object *ob = CTX_data_active_object(C);
296     if ((ob == NULL) || (ob->type != OB_GPENCIL)) {
297       return false;
298     }
299
300     bGPdata *gpd = (bGPdata *)ob->data;
301     if (!GPENCIL_PAINT_MODE(gpd)) {
302       return false;
303     }
304
305     ToolSettings *ts = CTX_data_scene(C)->toolsettings;
306     if (!ts->gp_paint->paint.brush) {
307       CTX_wm_operator_poll_msg_set(C, "Grease Pencil has no active paint tool");
308       return false;
309     }
310
311     return true;
312   }
313   else {
314     CTX_wm_operator_poll_msg_set(C, "Active region not set");
315     return false;
316   }
317 }
318
319 /* check if projecting strokes into 3d-geometry in the 3D-View */
320 static bool gpencil_project_check(tGPsdata *p)
321 {
322   bGPdata *gpd = p->gpd;
323   return ((gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) &&
324           (*p->align_flag & (GP_PROJECT_DEPTH_VIEW | GP_PROJECT_DEPTH_STROKE)));
325 }
326
327 /* ******************************************* */
328 /* Calculations/Conversions */
329
330 /* Utilities --------------------------------- */
331
332 /* get the reference point for stroke-point conversions */
333 static void gp_get_3d_reference(tGPsdata *p, float vec[3])
334 {
335   Object *ob = NULL;
336   if (p->ownerPtr.type == &RNA_Object) {
337     ob = (Object *)p->ownerPtr.data;
338   }
339   ED_gp_get_drawing_reference(p->scene, ob, p->gpl, *p->align_flag, vec);
340 }
341
342 /* Stroke Editing ---------------------------- */
343 /* check if the current mouse position is suitable for adding a new point */
344 static bool gp_stroke_filtermval(tGPsdata *p, const float mval[2], float mvalo[2])
345 {
346   Brush *brush = p->brush;
347   int dx = (int)fabsf(mval[0] - mvalo[0]);
348   int dy = (int)fabsf(mval[1] - mvalo[1]);
349   brush->gpencil_settings->flag &= ~GP_BRUSH_STABILIZE_MOUSE_TEMP;
350
351   /* if buffer is empty, just let this go through (i.e. so that dots will work) */
352   if (p->gpd->runtime.sbuffer_size == 0) {
353     return true;
354   }
355   /* if lazy mouse, check minimum distance */
356   else if (GPENCIL_LAZY_MODE(brush, p->shift)) {
357     brush->gpencil_settings->flag |= GP_BRUSH_STABILIZE_MOUSE_TEMP;
358     if ((dx * dx + dy * dy) > (brush->smooth_stroke_radius * brush->smooth_stroke_radius)) {
359       return true;
360     }
361     else {
362       /* If the mouse is moving within the radius of the last move,
363        * don't update the mouse position. This allows sharp turns. */
364       copy_v2_v2(p->mval, p->mvalo);
365       return false;
366     }
367   }
368   /* check if mouse moved at least certain distance on both axes (best case)
369    * - aims to eliminate some jitter-noise from input when trying to draw straight lines freehand
370    */
371   else if ((dx > MIN_MANHATTEN_PX) && (dy > MIN_MANHATTEN_PX)) {
372     return true;
373
374     /* Check if the distance since the last point is significant enough:
375    * - Prevents points being added too densely
376    * - Distance here doesn't use sqrt to prevent slowness.
377    *   We should still be safe from overflows though.
378    */
379   }
380   else if ((dx * dx + dy * dy) > MIN_EUCLIDEAN_PX * MIN_EUCLIDEAN_PX) {
381     return true;
382
383     /* mouse 'didn't move' */
384   }
385   else {
386     return false;
387   }
388 }
389
390 /* reproject stroke to plane locked to axis in 3d cursor location */
391 static void gp_reproject_toplane(tGPsdata *p, bGPDstroke *gps)
392 {
393   bGPdata *gpd = p->gpd;
394   Object *obact = (Object *)p->ownerPtr.data;
395
396   float origin[3];
397   RegionView3D *rv3d = p->ar->regiondata;
398
399   /* verify the stroke mode is CURSOR 3d space mode */
400   if ((gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) == 0) {
401     return;
402   }
403   if ((*p->align_flag & GP_PROJECT_VIEWSPACE) == 0) {
404     return;
405   }
406   if ((*p->align_flag & GP_PROJECT_DEPTH_VIEW) || (*p->align_flag & GP_PROJECT_DEPTH_STROKE)) {
407     return;
408   }
409
410   /* get drawing origin */
411   gp_get_3d_reference(p, origin);
412   ED_gp_project_stroke_to_plane(p->scene, obact, rv3d, gps, origin, p->lock_axis - 1);
413 }
414
415 /* convert screen-coordinates to buffer-coordinates */
416 /* XXX this method needs a total overhaul! */
417 static void gp_stroke_convertcoords(tGPsdata *p, const float mval[2], float out[3], float *depth)
418 {
419   bGPdata *gpd = p->gpd;
420
421   /* in 3d-space - pt->x/y/z are 3 side-by-side floats */
422   if (gpd->runtime.sbuffer_sflag & GP_STROKE_3DSPACE) {
423
424     /* add small offset to keep stroke over the surface */
425     if ((depth) && (gpd->zdepth_offset > 0.0f) && (*p->align_flag & GP_PROJECT_DEPTH_VIEW)) {
426       *depth *= (1.0f - gpd->zdepth_offset);
427     }
428
429     int mval_i[2];
430     round_v2i_v2fl(mval_i, mval);
431
432     if (gpencil_project_check(p) && (ED_view3d_autodist_simple(p->ar, mval_i, out, 0, depth))) {
433       /* projecting onto 3D-Geometry
434        * - nothing more needs to be done here, since view_autodist_simple() has already done it
435        */
436
437       /* verify valid zdepth, if it's wrong, the default drawing mode is used
438        * and the function doesn't return now */
439       if ((depth == NULL) || (*depth <= 1.0f)) {
440         return;
441       }
442     }
443
444     float mval_prj[2];
445     float rvec[3], dvec[3];
446     float mval_f[2];
447     float zfac;
448
449     /* Current method just converts each point in screen-coordinates to
450      * 3D-coordinates using the 3D-cursor as reference. In general, this
451      * works OK, but it could of course be improved. */
452
453     gp_get_3d_reference(p, rvec);
454     zfac = ED_view3d_calc_zfac(p->ar->regiondata, rvec, NULL);
455
456     if (ED_view3d_project_float_global(p->ar, rvec, mval_prj, V3D_PROJ_TEST_NOP) ==
457         V3D_PROJ_RET_OK) {
458       sub_v2_v2v2(mval_f, mval_prj, mval);
459       ED_view3d_win_to_delta(p->ar, mval_f, dvec, zfac);
460       sub_v3_v3v3(out, rvec, dvec);
461     }
462     else {
463       zero_v3(out);
464     }
465   }
466 }
467
468 /* apply jitter to stroke */
469 static void gp_brush_jitter(bGPdata *gpd,
470                             Brush *brush,
471                             tGPspoint *pt,
472                             const float mval[2],
473                             const float pressure,
474                             float r_mval[2],
475                             RNG *rng)
476 {
477   float tmp_pressure = pressure;
478   if (brush->gpencil_settings->draw_jitter > 0.0f) {
479     float curvef = curvemapping_evaluateF(brush->gpencil_settings->curve_jitter, 0, pressure);
480     tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
481   }
482   /* exponential value */
483   const float exfactor = (brush->gpencil_settings->draw_jitter + 2.0f) *
484                          (brush->gpencil_settings->draw_jitter + 2.0f);
485   const float fac = BLI_rng_get_float(rng) * exfactor * tmp_pressure;
486   /* Jitter is applied perpendicular to the mouse movement vector (2D space) */
487   float mvec[2], svec[2];
488   /* mouse movement in ints -> floats */
489   if (gpd->runtime.sbuffer_size > 1) {
490     mvec[0] = (mval[0] - (pt - 1)->x);
491     mvec[1] = (mval[1] - (pt - 1)->y);
492     normalize_v2(mvec);
493   }
494   else {
495     mvec[0] = 0.0f;
496     mvec[1] = 0.0f;
497   }
498   /* rotate mvec by 90 degrees... */
499   svec[0] = -mvec[1];
500   svec[1] = mvec[0];
501   /* scale the displacement by the random, and apply */
502   if (BLI_rng_get_float(rng) > 0.5f) {
503     mul_v2_fl(svec, -fac);
504   }
505   else {
506     mul_v2_fl(svec, fac);
507   }
508
509   r_mval[0] = mval[0] + svec[0];
510   r_mval[1] = mval[1] + svec[1];
511 }
512
513 /* apply pressure change depending of the angle of the stroke to simulate a pen with shape */
514 static void gp_brush_angle(bGPdata *gpd, Brush *brush, tGPspoint *pt, const float mval[2])
515 {
516   float mvec[2];
517   float sen = brush->gpencil_settings->draw_angle_factor; /* sensitivity */
518   float fac;
519   float mpressure;
520
521   /* default angle of brush in radians */
522   float angle = brush->gpencil_settings->draw_angle;
523   /* angle vector of the brush with full thickness */
524   float v0[2] = {cos(angle), sin(angle)};
525
526   /* Apply to first point (only if there are 2 points because before no data to do it ) */
527   if (gpd->runtime.sbuffer_size == 1) {
528     mvec[0] = (mval[0] - (pt - 1)->x);
529     mvec[1] = (mval[1] - (pt - 1)->y);
530     normalize_v2(mvec);
531
532     /* uses > 1.0f to get a smooth transition in first point */
533     fac = 1.4f - fabs(dot_v2v2(v0, mvec)); /* 0.0 to 1.0 */
534     (pt - 1)->pressure = (pt - 1)->pressure - (sen * fac);
535
536     CLAMP((pt - 1)->pressure, GPENCIL_ALPHA_OPACITY_THRESH, 1.0f);
537   }
538
539   /* apply from second point */
540   if (gpd->runtime.sbuffer_size >= 1) {
541     mvec[0] = (mval[0] - (pt - 1)->x);
542     mvec[1] = (mval[1] - (pt - 1)->y);
543     normalize_v2(mvec);
544
545     fac = 1.0f - fabs(dot_v2v2(v0, mvec)); /* 0.0 to 1.0 */
546     /* interpolate with previous point for smoother transitions */
547     mpressure = interpf(pt->pressure - (sen * fac), (pt - 1)->pressure, 0.3f);
548     pt->pressure = mpressure;
549
550     CLAMP(pt->pressure, GPENCIL_ALPHA_OPACITY_THRESH, 1.0f);
551   }
552 }
553
554 /* Apply smooth to buffer while drawing
555  * to smooth point C, use 2 before (A, B) and current point (D):
556  *
557  *   A----B-----C------D
558  *
559  * \param p: Temp data
560  * \param inf: Influence factor
561  * \param idx: Index of the last point (need minimum 3 points in the array)
562  */
563 static void gp_smooth_buffer(tGPsdata *p, float inf, int idx)
564 {
565   bGPdata *gpd = p->gpd;
566   short num_points = gpd->runtime.sbuffer_size;
567
568   /* Do nothing if not enough points to smooth out */
569   if ((num_points < 3) || (idx < 3) || (inf == 0.0f)) {
570     return;
571   }
572
573   tGPspoint *points = (tGPspoint *)gpd->runtime.sbuffer;
574   float steps = 4.0f;
575   if (idx < 4) {
576     steps--;
577   }
578
579   tGPspoint *pta = idx >= 4 ? &points[idx - 4] : NULL;
580   tGPspoint *ptb = idx >= 3 ? &points[idx - 3] : NULL;
581   tGPspoint *ptc = idx >= 2 ? &points[idx - 2] : NULL;
582   tGPspoint *ptd = &points[idx - 1];
583
584   float sco[2] = {0.0f};
585   float a[2], b[2], c[2], d[2];
586   const float average_fac = 1.0f / steps;
587
588   /* Compute smoothed coordinate by taking the ones nearby */
589   if (pta) {
590     copy_v2_v2(a, &pta->x);
591     madd_v2_v2fl(sco, a, average_fac);
592   }
593   if (ptb) {
594     copy_v2_v2(b, &ptb->x);
595     madd_v2_v2fl(sco, b, average_fac);
596   }
597   if (ptc) {
598     copy_v2_v2(c, &ptc->x);
599     madd_v2_v2fl(sco, c, average_fac);
600   }
601   if (ptd) {
602     copy_v2_v2(d, &ptd->x);
603     madd_v2_v2fl(sco, d, average_fac);
604   }
605
606   /* Based on influence factor, blend between original and optimal smoothed coordinate */
607   interp_v2_v2v2(c, c, sco, inf);
608   copy_v2_v2(&ptc->x, c);
609 }
610
611 /* add current stroke-point to buffer (returns whether point was successfully added) */
612 static short gp_stroke_addpoint(tGPsdata *p, const float mval[2], float pressure, double curtime)
613 {
614   bGPdata *gpd = p->gpd;
615   Brush *brush = p->brush;
616   tGPspoint *pt;
617   ToolSettings *ts = p->scene->toolsettings;
618   Object *obact = (Object *)p->ownerPtr.data;
619   Depsgraph *depsgraph = p->depsgraph;
620   RegionView3D *rv3d = p->ar->regiondata;
621   View3D *v3d = p->sa->spacedata.first;
622   MaterialGPencilStyle *gp_style = p->material->gp_style;
623   const int def_nr = obact->actdef - 1;
624   const bool have_weight = (bool)BLI_findlink(&obact->defbase, def_nr);
625
626   /* check painting mode */
627   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT) {
628     /* straight lines only - i.e. only store start and end point in buffer */
629     if (gpd->runtime.sbuffer_size == 0) {
630       /* first point in buffer (start point) */
631       pt = (tGPspoint *)(gpd->runtime.sbuffer);
632
633       /* store settings */
634       copy_v2_v2(&pt->x, mval);
635       /* T44932 - Pressure vals are unreliable, so ignore for now */
636       pt->pressure = 1.0f;
637       pt->strength = 1.0f;
638       pt->time = (float)(curtime - p->inittime);
639
640       /* increment buffer size */
641       gpd->runtime.sbuffer_size++;
642     }
643     else {
644       /* just reset the endpoint to the latest value
645        * - assume that pointers for this are always valid...
646        */
647       pt = ((tGPspoint *)(gpd->runtime.sbuffer) + 1);
648
649       /* store settings */
650       copy_v2_v2(&pt->x, mval);
651       /* T44932 - Pressure vals are unreliable, so ignore for now */
652       pt->pressure = 1.0f;
653       pt->strength = 1.0f;
654       pt->time = (float)(curtime - p->inittime);
655
656       /* now the buffer has 2 points (and shouldn't be allowed to get any larger) */
657       gpd->runtime.sbuffer_size = 2;
658     }
659
660     /* can keep carrying on this way :) */
661     return GP_STROKEADD_NORMAL;
662   }
663   else if (p->paintmode == GP_PAINTMODE_DRAW) { /* normal drawing */
664     /* check if still room in buffer */
665     if (gpd->runtime.sbuffer_size >= GP_STROKE_BUFFER_MAX) {
666       return GP_STROKEADD_OVERFLOW;
667     }
668
669     /* get pointer to destination point */
670     pt = ((tGPspoint *)(gpd->runtime.sbuffer) + gpd->runtime.sbuffer_size);
671
672     /* store settings */
673     /* pressure */
674     if (brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE) {
675       float curvef = curvemapping_evaluateF(
676           brush->gpencil_settings->curve_sensitivity, 0, pressure);
677       pt->pressure = curvef * brush->gpencil_settings->draw_sensitivity;
678     }
679     else {
680       pt->pressure = 1.0f;
681     }
682
683     /* Apply jitter to position */
684     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
685         (brush->gpencil_settings->draw_jitter > 0.0f)) {
686       float r_mval[2];
687       const float jitpress = (brush->gpencil_settings->flag & GP_BRUSH_USE_JITTER_PRESSURE) ?
688                                  pressure :
689                                  1.0f;
690       gp_brush_jitter(gpd, brush, pt, mval, jitpress, r_mval, p->rng);
691       copy_v2_v2(&pt->x, r_mval);
692     }
693     else {
694       copy_v2_v2(&pt->x, mval);
695     }
696     /* apply randomness to pressure */
697     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
698         (brush->gpencil_settings->draw_random_press > 0.0f)) {
699       float curvef = curvemapping_evaluateF(
700           brush->gpencil_settings->curve_sensitivity, 0, pressure);
701       float tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
702       if (BLI_rng_get_float(p->rng) > 0.5f) {
703         pt->pressure -= tmp_pressure * brush->gpencil_settings->draw_random_press *
704                         BLI_rng_get_float(p->rng);
705       }
706       else {
707         pt->pressure += tmp_pressure * brush->gpencil_settings->draw_random_press *
708                         BLI_rng_get_float(p->rng);
709       }
710       CLAMP(pt->pressure, GPENCIL_STRENGTH_MIN, 1.0f);
711     }
712
713     /* apply randomness to uv texture rotation */
714     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
715         (brush->gpencil_settings->uv_random > 0.0f)) {
716       if (BLI_rng_get_float(p->rng) > 0.5f) {
717         pt->uv_rot = (BLI_rng_get_float(p->rng) * M_PI * -1) * brush->gpencil_settings->uv_random;
718       }
719       else {
720         pt->uv_rot = (BLI_rng_get_float(p->rng) * M_PI) * brush->gpencil_settings->uv_random;
721       }
722       CLAMP(pt->uv_rot, -M_PI_2, M_PI_2);
723     }
724     else {
725       pt->uv_rot = 0.0f;
726     }
727
728     /* apply angle of stroke to brush size */
729     if (brush->gpencil_settings->draw_angle_factor != 0.0f) {
730       gp_brush_angle(gpd, brush, pt, mval);
731     }
732
733     /* color strength */
734     if (brush->gpencil_settings->flag & GP_BRUSH_USE_STENGTH_PRESSURE) {
735       float curvef = curvemapping_evaluateF(brush->gpencil_settings->curve_strength, 0, pressure);
736       float tmp_pressure = curvef * brush->gpencil_settings->draw_sensitivity;
737
738       pt->strength = tmp_pressure * brush->gpencil_settings->draw_strength;
739     }
740     else {
741       pt->strength = brush->gpencil_settings->draw_strength;
742     }
743     CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
744
745     /* apply randomness to color strength */
746     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
747         (brush->gpencil_settings->draw_random_strength > 0.0f)) {
748       if (BLI_rng_get_float(p->rng) > 0.5f) {
749         pt->strength -= pt->strength * brush->gpencil_settings->draw_random_strength *
750                         BLI_rng_get_float(p->rng);
751       }
752       else {
753         pt->strength += pt->strength * brush->gpencil_settings->draw_random_strength *
754                         BLI_rng_get_float(p->rng);
755       }
756       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
757     }
758
759     /* point time */
760     pt->time = (float)(curtime - p->inittime);
761
762     /* point uv (only 3d view) */
763     if ((p->sa->spacetype == SPACE_VIEW3D) && (gpd->runtime.sbuffer_size > 0)) {
764       float pixsize = gp_style->texture_pixsize / 1000000.0f;
765       tGPspoint *ptb = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
766       bGPDspoint spt, spt2;
767
768       /* get origin to reproject point */
769       float origin[3];
770       gp_get_3d_reference(p, origin);
771       /* reproject current */
772       ED_gpencil_tpoint_to_point(p->ar, origin, pt, &spt);
773       ED_gp_project_point_to_plane(p->scene, obact, rv3d, origin, p->lock_axis - 1, &spt);
774
775       /* reproject previous */
776       ED_gpencil_tpoint_to_point(p->ar, origin, ptb, &spt2);
777       ED_gp_project_point_to_plane(p->scene, obact, rv3d, origin, p->lock_axis - 1, &spt2);
778       p->totpixlen += len_v3v3(&spt.x, &spt2.x) / pixsize;
779       pt->uv_fac = p->totpixlen;
780       if ((gp_style) && (gp_style->sima)) {
781         pt->uv_fac /= gp_style->sima->gen_x;
782       }
783     }
784     else {
785       p->totpixlen = 0.0f;
786       pt->uv_fac = 0.0f;
787     }
788
789     /* increment counters */
790     gpd->runtime.sbuffer_size++;
791
792     /* smooth while drawing previous points with a reduction factor for previous */
793     if (brush->gpencil_settings->active_smooth > 0.0f) {
794       for (int s = 0; s < 3; s++) {
795         gp_smooth_buffer(p,
796                          brush->gpencil_settings->active_smooth * ((3.0f - s) / 3.0f),
797                          gpd->runtime.sbuffer_size - s);
798       }
799     }
800
801     /* check if another operation can still occur */
802     if (gpd->runtime.sbuffer_size == GP_STROKE_BUFFER_MAX) {
803       return GP_STROKEADD_FULL;
804     }
805     else {
806       return GP_STROKEADD_NORMAL;
807     }
808   }
809   else if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
810
811     /* enable special flag for drawing engine */
812     gpd->flag |= GP_DATA_STROKE_POLYGON;
813
814     bGPDlayer *gpl = BKE_gpencil_layer_getactive(gpd);
815     /* get pointer to destination point */
816     pt = (tGPspoint *)(gpd->runtime.sbuffer);
817
818     /* store settings */
819     copy_v2_v2(&pt->x, mval);
820     /* T44932 - Pressure vals are unreliable, so ignore for now */
821     pt->pressure = 1.0f;
822     pt->strength = 1.0f;
823     pt->time = (float)(curtime - p->inittime);
824
825     /* if there's stroke for this poly line session add (or replace last) point
826      * to stroke. This allows to draw lines more interactively (see new segment
827      * during mouse slide, e.g.)
828      */
829     if (gp_stroke_added_check(p)) {
830       bGPDstroke *gps = p->gpf->strokes.last;
831       bGPDspoint *pts;
832       MDeformVert *dvert = NULL;
833
834       /* first time point is adding to temporary buffer -- need to allocate new point in stroke */
835       if (gpd->runtime.sbuffer_size == 0) {
836         gps->points = MEM_reallocN(gps->points, sizeof(bGPDspoint) * (gps->totpoints + 1));
837         if (gps->dvert != NULL) {
838           gps->dvert = MEM_reallocN(gps->dvert, sizeof(MDeformVert) * (gps->totpoints + 1));
839         }
840         gps->totpoints++;
841       }
842
843       pts = &gps->points[gps->totpoints - 1];
844       if (gps->dvert != NULL) {
845         dvert = &gps->dvert[gps->totpoints - 1];
846       }
847       /* special case for poly lines: normally,
848        * depth is needed only when creating new stroke from buffer,
849        * but poly lines are converting to stroke instantly,
850        * so initialize depth buffer before converting coordinates
851        */
852       if (gpencil_project_check(p)) {
853         view3d_region_operator_needs_opengl(p->win, p->ar);
854         ED_view3d_autodist_init(
855             p->depsgraph, p->ar, v3d, (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 1 : 0);
856       }
857
858       /* convert screen-coordinates to appropriate coordinates (and store them) */
859       gp_stroke_convertcoords(p, &pt->x, &pts->x, NULL);
860       /* reproject to plane (only in 3d space) */
861       gp_reproject_toplane(p, gps);
862       /* if parented change position relative to parent object */
863       gp_apply_parent_point(depsgraph, obact, gpd, gpl, pts);
864       /* copy pressure and time */
865       pts->pressure = pt->pressure;
866       pts->strength = pt->strength;
867       pts->time = pt->time;
868       pts->uv_fac = pt->uv_fac;
869       pts->uv_rot = pt->uv_rot;
870
871       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
872         BKE_gpencil_dvert_ensure(gps);
873         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
874         if (dw) {
875           dw->weight = ts->vgroup_weight;
876         }
877       }
878       else {
879         if (dvert != NULL) {
880           dvert->totweight = 0;
881           dvert->dw = NULL;
882         }
883       }
884
885       /* force fill recalc */
886       gps->flag |= GP_STROKE_RECALC_GEOMETRY;
887       /* drawing batch cache is dirty now */
888       gp_update_cache(p->gpd);
889     }
890
891     /* increment counters */
892     if (gpd->runtime.sbuffer_size == 0) {
893       gpd->runtime.sbuffer_size++;
894     }
895
896     return GP_STROKEADD_NORMAL;
897   }
898
899   /* return invalid state for now... */
900   return GP_STROKEADD_INVALID;
901 }
902
903 /* make a new stroke from the buffer data */
904 static void gp_stroke_newfrombuffer(tGPsdata *p)
905 {
906   bGPdata *gpd = p->gpd;
907   bGPDlayer *gpl = p->gpl;
908   bGPDstroke *gps;
909   bGPDspoint *pt;
910   tGPspoint *ptc;
911   MDeformVert *dvert = NULL;
912   Brush *brush = p->brush;
913   ToolSettings *ts = p->scene->toolsettings;
914   Depsgraph *depsgraph = p->depsgraph;
915   Object *obact = (Object *)p->ownerPtr.data;
916   RegionView3D *rv3d = p->ar->regiondata;
917   const int def_nr = obact->actdef - 1;
918   const bool have_weight = (bool)BLI_findlink(&obact->defbase, def_nr);
919   const char *align_flag = &ts->gpencil_v3d_align;
920   const bool is_depth = (bool)(*align_flag & (GP_PROJECT_DEPTH_VIEW | GP_PROJECT_DEPTH_STROKE));
921   const bool is_camera = (bool)(ts->gp_sculpt.lock_axis == 0) && (rv3d->persp == RV3D_CAMOB) &&
922                          (!is_depth);
923   int i, totelem;
924
925   /* Since strokes are so fine,
926    * when using their depth we need a margin otherwise they might get missed. */
927   int depth_margin = (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 4 : 0;
928
929   /* get total number of points to allocate space for
930    * - drawing straight-lines only requires the endpoints
931    */
932   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT) {
933     totelem = (gpd->runtime.sbuffer_size >= 2) ? 2 : gpd->runtime.sbuffer_size;
934   }
935   else {
936     totelem = gpd->runtime.sbuffer_size;
937   }
938
939   /* exit with error if no valid points from this stroke */
940   if (totelem == 0) {
941     if (G.debug & G_DEBUG) {
942       printf("Error: No valid points in stroke buffer to convert (tot=%d)\n",
943              gpd->runtime.sbuffer_size);
944     }
945     return;
946   }
947
948   /* special case for poly line -- for already added stroke during session
949    * coordinates are getting added to stroke immediately to allow more
950    * interactive behavior
951    */
952   if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
953     /* be sure to hide any lazy cursor */
954     ED_gpencil_toggle_brush_cursor(p->C, true, NULL);
955
956     if (gp_stroke_added_check(p)) {
957       return;
958     }
959   }
960
961   /* allocate memory for a new stroke */
962   gps = MEM_callocN(sizeof(bGPDstroke), "gp_stroke");
963
964   /* copy appropriate settings for stroke */
965   gps->totpoints = totelem;
966   gps->thickness = brush->size;
967   gps->gradient_f = brush->gpencil_settings->gradient_f;
968   copy_v2_v2(gps->gradient_s, brush->gpencil_settings->gradient_s);
969   gps->flag = gpd->runtime.sbuffer_sflag;
970   gps->inittime = p->inittime;
971
972   /* enable recalculation flag by default (only used if hq fill) */
973   gps->flag |= GP_STROKE_RECALC_GEOMETRY;
974
975   /* allocate enough memory for a continuous array for storage points */
976   const int subdivide = brush->gpencil_settings->draw_subdivide;
977
978   gps->points = MEM_callocN(sizeof(bGPDspoint) * gps->totpoints, "gp_stroke_points");
979
980   /* initialize triangle memory to dummy data */
981   gps->triangles = MEM_callocN(sizeof(bGPDtriangle), "GP Stroke triangulation");
982   gps->flag |= GP_STROKE_RECALC_GEOMETRY;
983   gps->tot_triangles = 0;
984   /* drawing batch cache is dirty now */
985   gp_update_cache(p->gpd);
986   /* set pointer to first non-initialized point */
987   pt = gps->points + (gps->totpoints - totelem);
988   if (gps->dvert != NULL) {
989     dvert = gps->dvert + (gps->totpoints - totelem);
990   }
991
992   /* copy points from the buffer to the stroke */
993   if (p->paintmode == GP_PAINTMODE_DRAW_STRAIGHT) {
994     /* straight lines only -> only endpoints */
995     {
996       /* first point */
997       ptc = gpd->runtime.sbuffer;
998
999       /* convert screen-coordinates to appropriate coordinates (and store them) */
1000       gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
1001       /* copy pressure and time */
1002       pt->pressure = ptc->pressure;
1003       pt->strength = ptc->strength;
1004       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1005       pt->time = ptc->time;
1006       pt++;
1007
1008       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1009         BKE_gpencil_dvert_ensure(gps);
1010         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
1011         if (dw) {
1012           dw->weight = ts->vgroup_weight;
1013         }
1014         dvert++;
1015       }
1016       else {
1017         if (dvert != NULL) {
1018           dvert->totweight = 0;
1019           dvert->dw = NULL;
1020           dvert++;
1021         }
1022       }
1023     }
1024
1025     if (totelem == 2) {
1026       /* last point if applicable */
1027       ptc = ((tGPspoint *)gpd->runtime.sbuffer) + (gpd->runtime.sbuffer_size - 1);
1028
1029       /* convert screen-coordinates to appropriate coordinates (and store them) */
1030       gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
1031       /* copy pressure and time */
1032       pt->pressure = ptc->pressure;
1033       pt->strength = ptc->strength;
1034       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1035       pt->time = ptc->time;
1036
1037       if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1038         BKE_gpencil_dvert_ensure(gps);
1039         MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
1040         if (dw) {
1041           dw->weight = ts->vgroup_weight;
1042         }
1043       }
1044       else {
1045         if (dvert != NULL) {
1046           dvert->totweight = 0;
1047           dvert->dw = NULL;
1048         }
1049       }
1050     }
1051
1052     /* reproject to plane (only in 3d space) */
1053     gp_reproject_toplane(p, gps);
1054     pt = gps->points;
1055     for (i = 0; i < gps->totpoints; i++, pt++) {
1056       /* if parented change position relative to parent object */
1057       gp_apply_parent_point(depsgraph, obact, gpd, gpl, pt);
1058     }
1059
1060     /* if camera view, reproject flat to view to avoid perspective effect */
1061     if (is_camera) {
1062       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1063     }
1064   }
1065   else if (p->paintmode == GP_PAINTMODE_DRAW_POLY) {
1066     /* first point */
1067     ptc = gpd->runtime.sbuffer;
1068
1069     /* convert screen-coordinates to appropriate coordinates (and store them) */
1070     gp_stroke_convertcoords(p, &ptc->x, &pt->x, NULL);
1071     /* reproject to plane (only in 3d space) */
1072     gp_reproject_toplane(p, gps);
1073     /* if parented change position relative to parent object */
1074     gp_apply_parent_point(depsgraph, obact, gpd, gpl, pt);
1075     /* if camera view, reproject flat to view to avoid perspective effect */
1076     if (is_camera) {
1077       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1078     }
1079     /* copy pressure and time */
1080     pt->pressure = ptc->pressure;
1081     pt->strength = ptc->strength;
1082     CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1083     pt->time = ptc->time;
1084
1085     if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1086       BKE_gpencil_dvert_ensure(gps);
1087       MDeformWeight *dw = defvert_verify_index(dvert, def_nr);
1088       if (dw) {
1089         dw->weight = ts->vgroup_weight;
1090       }
1091     }
1092     else {
1093       if (dvert != NULL) {
1094         dvert->totweight = 0;
1095         dvert->dw = NULL;
1096       }
1097     }
1098   }
1099   else {
1100     float *depth_arr = NULL;
1101
1102     /* get an array of depths, far depths are blended */
1103     if (gpencil_project_check(p)) {
1104       int mval_i[2], mval_prev[2] = {0};
1105       int interp_depth = 0;
1106       int found_depth = 0;
1107
1108       depth_arr = MEM_mallocN(sizeof(float) * gpd->runtime.sbuffer_size, "depth_points");
1109
1110       for (i = 0, ptc = gpd->runtime.sbuffer; i < gpd->runtime.sbuffer_size; i++, ptc++, pt++) {
1111
1112         round_v2i_v2fl(mval_i, &ptc->x);
1113
1114         if ((ED_view3d_autodist_depth(p->ar, mval_i, depth_margin, depth_arr + i) == 0) &&
1115             (i && (ED_view3d_autodist_depth_seg(
1116                        p->ar, mval_i, mval_prev, depth_margin + 1, depth_arr + i) == 0))) {
1117           interp_depth = true;
1118         }
1119         else {
1120           found_depth = true;
1121         }
1122
1123         copy_v2_v2_int(mval_prev, mval_i);
1124       }
1125
1126       if (found_depth == false) {
1127         /* eeh... not much we can do.. :/, ignore depth in this case, use the 3D cursor */
1128         for (i = gpd->runtime.sbuffer_size - 1; i >= 0; i--) {
1129           depth_arr[i] = 0.9999f;
1130         }
1131       }
1132       else {
1133         if ((ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_ENDPOINTS) ||
1134             (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_FIRST)) {
1135           int first_valid = 0;
1136           int last_valid = 0;
1137
1138           /* find first valid contact point */
1139           for (i = 0; i < gpd->runtime.sbuffer_size; i++) {
1140             if (depth_arr[i] != FLT_MAX) {
1141               break;
1142             }
1143           }
1144           first_valid = i;
1145
1146           /* find last valid contact point */
1147           if (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE_FIRST) {
1148             last_valid = first_valid;
1149           }
1150           else {
1151             for (i = gpd->runtime.sbuffer_size - 1; i >= 0; i--) {
1152               if (depth_arr[i] != FLT_MAX) {
1153                 break;
1154               }
1155             }
1156             last_valid = i;
1157           }
1158           /* invalidate any other point, to interpolate between
1159            * first and last contact in an imaginary line between them */
1160           for (i = 0; i < gpd->runtime.sbuffer_size; i++) {
1161             if ((i != first_valid) && (i != last_valid)) {
1162               depth_arr[i] = FLT_MAX;
1163             }
1164           }
1165           interp_depth = true;
1166         }
1167
1168         if (interp_depth) {
1169           interp_sparse_array(depth_arr, gpd->runtime.sbuffer_size, FLT_MAX);
1170         }
1171       }
1172     }
1173
1174     pt = gps->points;
1175     dvert = gps->dvert;
1176
1177     /* convert all points (normal behavior) */
1178     for (i = 0, ptc = gpd->runtime.sbuffer; i < gpd->runtime.sbuffer_size && ptc;
1179          i++, ptc++, pt++) {
1180       /* convert screen-coordinates to appropriate coordinates (and store them) */
1181       gp_stroke_convertcoords(p, &ptc->x, &pt->x, depth_arr ? depth_arr + i : NULL);
1182
1183       /* copy pressure and time */
1184       pt->pressure = ptc->pressure;
1185       pt->strength = ptc->strength;
1186       CLAMP(pt->strength, GPENCIL_STRENGTH_MIN, 1.0f);
1187       pt->time = ptc->time;
1188       pt->uv_fac = ptc->uv_fac;
1189       pt->uv_rot = ptc->uv_rot;
1190
1191       if (dvert != NULL) {
1192         dvert->totweight = 0;
1193         dvert->dw = NULL;
1194         dvert++;
1195       }
1196     }
1197
1198     /* subdivide and smooth the stroke */
1199     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) && (subdivide > 0)) {
1200       gp_subdivide_stroke(gps, subdivide);
1201     }
1202     /* apply randomness to stroke */
1203     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_RANDOM) &&
1204         (brush->gpencil_settings->draw_random_sub > 0.0f)) {
1205       gp_randomize_stroke(gps, brush, p->rng);
1206     }
1207
1208     /* smooth stroke after subdiv - only if there's something to do
1209      * for each iteration, the factor is reduced to get a better smoothing without changing too much
1210      * the original stroke
1211      */
1212     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1213         (brush->gpencil_settings->draw_smoothfac > 0.0f)) {
1214       float reduce = 0.0f;
1215       for (int r = 0; r < brush->gpencil_settings->draw_smoothlvl; r++) {
1216         for (i = 0; i < gps->totpoints - 1; i++) {
1217           BKE_gpencil_smooth_stroke(gps, i, brush->gpencil_settings->draw_smoothfac - reduce);
1218           BKE_gpencil_smooth_stroke_strength(gps, i, brush->gpencil_settings->draw_smoothfac);
1219         }
1220         reduce += 0.25f;  // reduce the factor
1221       }
1222     }
1223     /* smooth thickness */
1224     if ((brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1225         (brush->gpencil_settings->thick_smoothfac > 0.0f)) {
1226       for (int r = 0; r < brush->gpencil_settings->thick_smoothlvl * 2; r++) {
1227         for (i = 0; i < gps->totpoints - 1; i++) {
1228           BKE_gpencil_smooth_stroke_thickness(gps, i, brush->gpencil_settings->thick_smoothfac);
1229         }
1230       }
1231     }
1232
1233     /* reproject to plane (only in 3d space) */
1234     gp_reproject_toplane(p, gps);
1235     /* change position relative to parent object */
1236     gp_apply_parent(depsgraph, obact, gpd, gpl, gps);
1237     /* if camera view, reproject flat to view to avoid perspective effect */
1238     if (is_camera) {
1239       ED_gpencil_project_stroke_to_view(p->C, p->gpl, gps);
1240     }
1241
1242     if (depth_arr) {
1243       MEM_freeN(depth_arr);
1244     }
1245   }
1246
1247   /* Save material index */
1248   gps->mat_nr = BKE_gpencil_object_material_get_index_from_brush(p->ob, p->brush);
1249
1250   /* calculate UVs along the stroke */
1251   ED_gpencil_calc_stroke_uv(obact, gps);
1252
1253   /* add stroke to frame, usually on tail of the listbase, but if on back is enabled the stroke
1254    * is added on listbase head because the drawing order is inverse and the head stroke is the
1255    * first to draw. This is very useful for artist when drawing the background.
1256    */
1257   if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
1258       (p->paintmode != GP_PAINTMODE_DRAW_POLY)) {
1259     BLI_addhead(&p->gpf->strokes, gps);
1260   }
1261   else {
1262     BLI_addtail(&p->gpf->strokes, gps);
1263   }
1264   /* add weights */
1265   if ((ts->gpencil_flags & GP_TOOL_FLAG_CREATE_WEIGHTS) && (have_weight)) {
1266     BKE_gpencil_dvert_ensure(gps);
1267     for (i = 0; i < gps->totpoints; i++) {
1268       MDeformVert *ve = &gps->dvert[i];
1269       MDeformWeight *dw = defvert_verify_index(ve, def_nr);
1270       if (dw) {
1271         dw->weight = ts->vgroup_weight;
1272       }
1273     }
1274   }
1275
1276   /* post process stroke */
1277   if ((p->brush->gpencil_settings->flag & GP_BRUSH_GROUP_SETTINGS) &&
1278       p->brush->gpencil_settings->flag & GP_BRUSH_TRIM_STROKE) {
1279     BKE_gpencil_trim_stroke(gps);
1280   }
1281
1282   gp_stroke_added_enable(p);
1283 }
1284
1285 /* --- 'Eraser' for 'Paint' Tool ------ */
1286
1287 /* which which point is infront (result should only be used for comparison) */
1288 static float view3d_point_depth(const RegionView3D *rv3d, const float co[3])
1289 {
1290   if (rv3d->is_persp) {
1291     return ED_view3d_calc_zfac(rv3d, co, NULL);
1292   }
1293   else {
1294     return -dot_v3v3(rv3d->viewinv[2], co);
1295   }
1296 }
1297
1298 /* only erase stroke points that are visible */
1299 static bool gp_stroke_eraser_is_occluded(tGPsdata *p,
1300                                          const bGPDspoint *pt,
1301                                          const int x,
1302                                          const int y)
1303 {
1304   Object *obact = (Object *)p->ownerPtr.data;
1305   Brush *brush = p->brush;
1306   Brush *eraser = p->eraser;
1307   BrushGpencilSettings *gp_settings = NULL;
1308
1309   if (brush->gpencil_tool == GPAINT_TOOL_ERASE) {
1310     gp_settings = brush->gpencil_settings;
1311   }
1312   else if ((eraser != NULL) & (eraser->gpencil_tool == GPAINT_TOOL_ERASE)) {
1313     gp_settings = eraser->gpencil_settings;
1314   }
1315
1316   if ((gp_settings != NULL) && (p->sa->spacetype == SPACE_VIEW3D) &&
1317       (gp_settings->flag & GP_BRUSH_OCCLUDE_ERASER)) {
1318     RegionView3D *rv3d = p->ar->regiondata;
1319     bGPDlayer *gpl = p->gpl;
1320
1321     const int mval_i[2] = {x, y};
1322     float mval_3d[3];
1323     float fpt[3];
1324
1325     float diff_mat[4][4];
1326     /* calculate difference matrix if parent object */
1327     ED_gpencil_parent_location(p->depsgraph, obact, p->gpd, gpl, diff_mat);
1328
1329     if (ED_view3d_autodist_simple(p->ar, mval_i, mval_3d, 0, NULL)) {
1330       const float depth_mval = view3d_point_depth(rv3d, mval_3d);
1331
1332       mul_v3_m4v3(fpt, diff_mat, &pt->x);
1333       const float depth_pt = view3d_point_depth(rv3d, fpt);
1334
1335       if (depth_pt > depth_mval) {
1336         return true;
1337       }
1338     }
1339   }
1340   return false;
1341 }
1342
1343 /* apply a falloff effect to brush strength, based on distance */
1344 static float gp_stroke_eraser_calc_influence(tGPsdata *p,
1345                                              const float mval[2],
1346                                              const int radius,
1347                                              const int co[2])
1348 {
1349   Brush *brush = p->brush;
1350   /* Linear Falloff... */
1351   int mval_i[2];
1352   round_v2i_v2fl(mval_i, mval);
1353   float distance = (float)len_v2v2_int(mval_i, co);
1354   float fac;
1355
1356   CLAMP(distance, 0.0f, (float)radius);
1357   fac = 1.0f - (distance / (float)radius);
1358
1359   /* apply strength factor */
1360   fac *= brush->gpencil_settings->draw_strength;
1361
1362   /* Control this further using pen pressure */
1363   if (brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE) {
1364     fac *= p->pressure;
1365   }
1366   /* Return influence factor computed here */
1367   return fac;
1368 }
1369
1370 /* helper to free a stroke */
1371 static void gp_free_stroke(bGPdata *gpd, bGPDframe *gpf, bGPDstroke *gps)
1372 {
1373   if (gps->points) {
1374     MEM_freeN(gps->points);
1375   }
1376
1377   if (gps->dvert) {
1378     BKE_gpencil_free_stroke_weights(gps);
1379     MEM_freeN(gps->dvert);
1380   }
1381
1382   if (gps->triangles) {
1383     MEM_freeN(gps->triangles);
1384   }
1385   BLI_freelinkN(&gpf->strokes, gps);
1386   gp_update_cache(gpd);
1387 }
1388
1389 /**
1390  * Analyze points to be removed when soft eraser is used
1391  * to avoid that segments gets the end points rounded.
1392  * The round caps breaks the artistic effect.
1393  */
1394 static void gp_stroke_soft_refine(bGPDstroke *gps)
1395 {
1396   bGPDspoint *pt = NULL;
1397   bGPDspoint *pt2 = NULL;
1398   int i;
1399
1400   /* check if enough points*/
1401   if (gps->totpoints < 3) {
1402     return;
1403   }
1404
1405   /* loop all points to untag any point that next is not tagged */
1406   pt = gps->points;
1407   for (i = 1; i < gps->totpoints - 1; i++, pt++) {
1408     if (pt->flag & GP_SPOINT_TAG) {
1409       pt2 = &gps->points[i + 1];
1410       if ((pt2->flag & GP_SPOINT_TAG) == 0) {
1411         pt->flag &= ~GP_SPOINT_TAG;
1412       }
1413     }
1414   }
1415
1416   /* loop reverse all points to untag any point that previous is not tagged */
1417   pt = &gps->points[gps->totpoints - 1];
1418   for (i = gps->totpoints - 1; i > 0; i--, pt--) {
1419     if (pt->flag & GP_SPOINT_TAG) {
1420       pt2 = &gps->points[i - 1];
1421       if ((pt2->flag & GP_SPOINT_TAG) == 0) {
1422         pt->flag &= ~GP_SPOINT_TAG;
1423       }
1424     }
1425   }
1426 }
1427
1428 /* eraser tool - evaluation per stroke */
1429 /* TODO: this could really do with some optimization (KD-Tree/BVH?) */
1430 static void gp_stroke_eraser_dostroke(tGPsdata *p,
1431                                       bGPDlayer *gpl,
1432                                       bGPDframe *gpf,
1433                                       bGPDstroke *gps,
1434                                       const float mval[2],
1435                                       const float mvalo[2],
1436                                       const int radius,
1437                                       const rcti *rect)
1438 {
1439   Depsgraph *depsgraph = p->depsgraph;
1440   Object *obact = (Object *)p->ownerPtr.data;
1441   Brush *eraser = p->eraser;
1442   bGPDspoint *pt0, *pt1, *pt2;
1443   int pc0[2] = {0};
1444   int pc1[2] = {0};
1445   int pc2[2] = {0};
1446   int i;
1447   float diff_mat[4][4];
1448   int mval_i[2];
1449   round_v2i_v2fl(mval_i, mval);
1450
1451   /* calculate difference matrix */
1452   ED_gpencil_parent_location(depsgraph, obact, p->gpd, gpl, diff_mat);
1453
1454   if (gps->totpoints == 0) {
1455     /* just free stroke */
1456     gp_free_stroke(p->gpd, gpf, gps);
1457   }
1458   else if (gps->totpoints == 1) {
1459     /* only process if it hasn't been masked out... */
1460     if (!(p->flags & GP_PAINTFLAG_SELECTMASK) || (gps->points->flag & GP_SPOINT_SELECT)) {
1461       bGPDspoint pt_temp;
1462       gp_point_to_parent_space(gps->points, diff_mat, &pt_temp);
1463       gp_point_to_xy(&p->gsc, gps, &pt_temp, &pc1[0], &pc1[1]);
1464       /* do boundbox check first */
1465       if ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) {
1466         /* only check if point is inside */
1467         if (len_v2v2_int(mval_i, pc1) <= radius) {
1468           /* free stroke */
1469           gp_free_stroke(p->gpd, gpf, gps);
1470         }
1471       }
1472     }
1473   }
1474   else if ((p->flags & GP_PAINTFLAG_STROKE_ERASER) ||
1475            (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_STROKE)) {
1476     for (i = 0; (i + 1) < gps->totpoints; i++) {
1477
1478       /* only process if it hasn't been masked out... */
1479       if ((p->flags & GP_PAINTFLAG_SELECTMASK) && !(gps->points->flag & GP_SPOINT_SELECT)) {
1480         continue;
1481       }
1482
1483       /* get points to work with */
1484       pt1 = gps->points + i;
1485       bGPDspoint npt;
1486       gp_point_to_parent_space(pt1, diff_mat, &npt);
1487       gp_point_to_xy(&p->gsc, gps, &npt, &pc1[0], &pc1[1]);
1488
1489       /* do boundbox check first */
1490       if ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) {
1491         /* only check if point is inside */
1492         if (len_v2v2_int(mval_i, pc1) <= radius) {
1493           /* free stroke */
1494           gp_free_stroke(p->gpd, gpf, gps);
1495           return;
1496         }
1497       }
1498     }
1499   }
1500   else {
1501     /* Pressure threshold at which stroke should be culled */
1502     const float cull_thresh = 0.005f;
1503
1504     /* Amount to decrease the pressure of each point with each stroke */
1505     const float strength = 0.1f;
1506
1507     /* Perform culling? */
1508     bool do_cull = false;
1509
1510     /* Clear Tags
1511      *
1512      * Note: It's better this way, as we are sure that
1513      * we don't miss anything, though things will be
1514      * slightly slower as a result
1515      */
1516     for (i = 0; i < gps->totpoints; i++) {
1517       bGPDspoint *pt = &gps->points[i];
1518       pt->flag &= ~GP_SPOINT_TAG;
1519     }
1520
1521     /* First Pass: Loop over the points in the stroke
1522      *   1) Thin out parts of the stroke under the brush
1523      *   2) Tag "too thin" parts for removal (in second pass)
1524      */
1525     for (i = 0; (i + 1) < gps->totpoints; i++) {
1526       /* get points to work with */
1527       pt0 = i > 0 ? gps->points + i - 1 : NULL;
1528       pt1 = gps->points + i;
1529       pt2 = gps->points + i + 1;
1530
1531       /* only process if it hasn't been masked out... */
1532       if ((p->flags & GP_PAINTFLAG_SELECTMASK) && !(gps->points->flag & GP_SPOINT_SELECT)) {
1533         continue;
1534       }
1535
1536       bGPDspoint npt;
1537       if (pt0) {
1538         gp_point_to_parent_space(pt0, diff_mat, &npt);
1539         gp_point_to_xy(&p->gsc, gps, &npt, &pc0[0], &pc0[1]);
1540       }
1541       else {
1542         /* avoid null values */
1543         copy_v2_v2_int(pc0, pc1);
1544       }
1545
1546       gp_point_to_parent_space(pt1, diff_mat, &npt);
1547       gp_point_to_xy(&p->gsc, gps, &npt, &pc1[0], &pc1[1]);
1548
1549       gp_point_to_parent_space(pt2, diff_mat, &npt);
1550       gp_point_to_xy(&p->gsc, gps, &npt, &pc2[0], &pc2[1]);
1551
1552       /* Check that point segment of the boundbox of the eraser stroke */
1553       if (((!ELEM(V2D_IS_CLIPPED, pc0[0], pc0[1])) && BLI_rcti_isect_pt(rect, pc0[0], pc0[1])) ||
1554           ((!ELEM(V2D_IS_CLIPPED, pc1[0], pc1[1])) && BLI_rcti_isect_pt(rect, pc1[0], pc1[1])) ||
1555           ((!ELEM(V2D_IS_CLIPPED, pc2[0], pc2[1])) && BLI_rcti_isect_pt(rect, pc2[0], pc2[1]))) {
1556         /* Check if point segment of stroke had anything to do with
1557          * eraser region  (either within stroke painted, or on its lines)
1558          * - this assumes that linewidth is irrelevant
1559          */
1560         if (gp_stroke_inside_circle(mval, mvalo, radius, pc0[0], pc0[1], pc2[0], pc2[1])) {
1561           if ((gp_stroke_eraser_is_occluded(p, pt0, pc0[0], pc0[1]) == false) ||
1562               (gp_stroke_eraser_is_occluded(p, pt1, pc1[0], pc1[1]) == false) ||
1563               (gp_stroke_eraser_is_occluded(p, pt2, pc2[0], pc2[1]) == false)) {
1564             /* Point is affected: */
1565             /* Adjust thickness
1566              *  - Influence of eraser falls off with distance from the middle of the eraser
1567              *  - Second point gets less influence, as it might get hit again in the next segment
1568              */
1569
1570             /* Adjust strength if the eraser is soft */
1571             if (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_SOFT) {
1572               float f_strength = eraser->gpencil_settings->era_strength_f / 100.0f;
1573               float f_thickness = eraser->gpencil_settings->era_thickness_f / 100.0f;
1574               float influence = 0.0f;
1575
1576               if (pt0) {
1577                 influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc0);
1578                 pt0->strength -= influence * strength * f_strength * 0.5f;
1579                 CLAMP_MIN(pt0->strength, 0.0f);
1580                 pt0->pressure -= influence * strength * f_thickness * 0.5f;
1581               }
1582
1583               influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc1);
1584               pt1->strength -= influence * strength * f_strength;
1585               CLAMP_MIN(pt1->strength, 0.0f);
1586               pt1->pressure -= influence * strength * f_thickness;
1587
1588               influence = gp_stroke_eraser_calc_influence(p, mval, radius, pc2);
1589               pt2->strength -= influence * strength * f_strength * 0.5f;
1590               CLAMP_MIN(pt2->strength, 0.0f);
1591               pt2->pressure -= influence * strength * f_thickness * 0.5f;
1592
1593               /* if invisible, delete point */
1594               if ((pt0) && ((pt0->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1595                             (pt0->pressure < cull_thresh))) {
1596                 pt0->flag |= GP_SPOINT_TAG;
1597                 do_cull = true;
1598               }
1599               if ((pt1->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1600                   (pt1->pressure < cull_thresh)) {
1601                 pt1->flag |= GP_SPOINT_TAG;
1602                 do_cull = true;
1603               }
1604               if ((pt2->strength <= GPENCIL_ALPHA_OPACITY_THRESH) ||
1605                   (pt2->pressure < cull_thresh)) {
1606                 pt2->flag |= GP_SPOINT_TAG;
1607                 do_cull = true;
1608               }
1609             }
1610             else {
1611               pt1->pressure -= gp_stroke_eraser_calc_influence(p, mval, radius, pc1) * strength;
1612               pt2->pressure -= gp_stroke_eraser_calc_influence(p, mval, radius, pc2) * strength *
1613                                0.5f;
1614             }
1615
1616             /* 2) Tag any point with overly low influence for removal in the next pass */
1617             if ((pt1->pressure < cull_thresh) || (p->flags & GP_PAINTFLAG_HARD_ERASER) ||
1618                 (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_HARD)) {
1619               pt1->flag |= GP_SPOINT_TAG;
1620               do_cull = true;
1621             }
1622             if ((pt2->pressure < cull_thresh) || (p->flags & GP_PAINTFLAG_HARD_ERASER) ||
1623                 (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_HARD)) {
1624               pt2->flag |= GP_SPOINT_TAG;
1625               do_cull = true;
1626             }
1627           }
1628         }
1629       }
1630     }
1631
1632     /* Second Pass: Remove any points that are tagged */
1633     if (do_cull) {
1634       /* if soft eraser, must analyze points to be sure the stroke ends
1635        * don't get rounded */
1636       if (eraser->gpencil_settings->eraser_mode == GP_BRUSH_ERASER_SOFT) {
1637         gp_stroke_soft_refine(gps);
1638       }
1639
1640       gp_stroke_delete_tagged_points(gpf, gps, gps->next, GP_SPOINT_TAG, false, 0);
1641     }
1642     gp_update_cache(p->gpd);
1643   }
1644 }
1645
1646 /* erase strokes which fall under the eraser strokes */
1647 static void gp_stroke_doeraser(tGPsdata *p)
1648 {
1649   bGPDlayer *gpl;
1650   bGPDstroke *gps, *gpn;
1651   rcti rect;
1652   Brush *brush = p->brush;
1653   Brush *eraser = p->eraser;
1654   bool use_pressure = false;
1655   float press = 1.0f;
1656   BrushGpencilSettings *gp_settings = NULL;
1657
1658   /* detect if use pressure in eraser */
1659   if (brush->gpencil_tool == GPAINT_TOOL_ERASE) {
1660     use_pressure = (bool)(brush->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE);
1661     gp_settings = brush->gpencil_settings;
1662   }
1663   else if ((eraser != NULL) & (eraser->gpencil_tool == GPAINT_TOOL_ERASE)) {
1664     use_pressure = (bool)(eraser->gpencil_settings->flag & GP_BRUSH_USE_PRESSURE);
1665     gp_settings = eraser->gpencil_settings;
1666   }
1667   if (use_pressure) {
1668     press = p->pressure;
1669     CLAMP(press, 0.01f, 1.0f);
1670   }
1671   /* rect is rectangle of eraser */
1672   const int calc_radius = (int)p->radius * press;
1673   rect.xmin = p->mval[0] - calc_radius;
1674   rect.ymin = p->mval[1] - calc_radius;
1675   rect.xmax = p->mval[0] + calc_radius;
1676   rect.ymax = p->mval[1] + calc_radius;
1677
1678   if (p->sa->spacetype == SPACE_VIEW3D) {
1679     if ((gp_settings != NULL) && (gp_settings->flag & GP_BRUSH_OCCLUDE_ERASER)) {
1680       View3D *v3d = p->sa->spacedata.first;
1681       view3d_region_operator_needs_opengl(p->win, p->ar);
1682       ED_view3d_autodist_init(p->depsgraph, p->ar, v3d, 0);
1683     }
1684   }
1685
1686   /* loop over all layers too, since while it's easy to restrict editing to
1687    * only a subset of layers, it is harder to perform the same erase operation
1688    * on multiple layers...
1689    */
1690   for (gpl = p->gpd->layers.first; gpl; gpl = gpl->next) {
1691     bGPDframe *gpf = gpl->actframe;
1692
1693     /* only affect layer if it's editable (and visible) */
1694     if (gpencil_layer_is_editable(gpl) == false) {
1695       continue;
1696     }
1697     else if (gpf == NULL) {
1698       continue;
1699     }
1700
1701     /* loop over strokes, checking segments for intersections */
1702     for (gps = gpf->strokes.first; gps; gps = gpn) {
1703       gpn = gps->next;
1704       /* check if the color is editable */
1705       if (ED_gpencil_stroke_color_use(p->ob, gpl, gps) == false) {
1706         continue;
1707       }
1708       /* Not all strokes in the datablock may be valid in the current editor/context
1709        * (e.g. 2D space strokes in the 3D view, if the same datablock is shared)
1710        */
1711       if (ED_gpencil_stroke_can_use_direct(p->sa, gps)) {
1712         gp_stroke_eraser_dostroke(p, gpl, gpf, gps, p->mval, p->mvalo, calc_radius, &rect);
1713       }
1714     }
1715   }
1716 }
1717
1718 /* ******************************************* */
1719 /* Sketching Operator */
1720
1721 /* clear the session buffers (call this before AND after a paint operation) */
1722 static void gp_session_validatebuffer(tGPsdata *p)
1723 {
1724   bGPdata *gpd = p->gpd;
1725   Brush *brush = p->brush;
1726
1727   /* clear memory of buffer (or allocate it if starting a new session) */
1728   if (gpd->runtime.sbuffer) {
1729     /* printf("\t\tGP - reset sbuffer\n"); */
1730     memset(gpd->runtime.sbuffer, 0, sizeof(tGPspoint) * GP_STROKE_BUFFER_MAX);
1731   }
1732   else {
1733     /* printf("\t\tGP - allocate sbuffer\n"); */
1734     gpd->runtime.sbuffer = MEM_callocN(sizeof(tGPspoint) * GP_STROKE_BUFFER_MAX,
1735                                        "gp_session_strokebuffer");
1736   }
1737
1738   /* reset indices */
1739   gpd->runtime.sbuffer_size = 0;
1740
1741   /* reset flags */
1742   gpd->runtime.sbuffer_sflag = 0;
1743
1744   /* reset region */
1745   gpd->runtime.ar = NULL;
1746
1747   /* reset inittime */
1748   p->inittime = 0.0;
1749
1750   /* reset lazy */
1751   if (brush) {
1752     brush->gpencil_settings->flag &= ~GP_BRUSH_STABILIZE_MOUSE_TEMP;
1753   }
1754 }
1755
1756 /* helper to get default eraser and create one if no eraser brush */
1757 static Brush *gp_get_default_eraser(Main *bmain, ToolSettings *ts)
1758 {
1759   Brush *brush_dft = NULL;
1760   Paint *paint = &ts->gp_paint->paint;
1761   Brush *brush_old = paint->brush;
1762   for (Brush *brush = bmain->brushes.first; brush; brush = brush->id.next) {
1763     if ((brush->ob_mode == OB_MODE_PAINT_GPENCIL) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
1764       /* save first eraser to use later if no default */
1765       if (brush_dft == NULL) {
1766         brush_dft = brush;
1767       }
1768       /* found default */
1769       if (brush->gpencil_settings->flag & GP_BRUSH_DEFAULT_ERASER) {
1770         return brush;
1771       }
1772     }
1773   }
1774   /* if no default, but exist eraser brush, return this and set as default */
1775   if (brush_dft) {
1776     brush_dft->gpencil_settings->flag |= GP_BRUSH_DEFAULT_ERASER;
1777     return brush_dft;
1778   }
1779   /* create a new soft eraser brush */
1780   else {
1781     brush_dft = BKE_brush_add_gpencil(bmain, ts, "Soft Eraser");
1782     brush_dft->size = 30.0f;
1783     brush_dft->gpencil_settings->flag |= (GP_BRUSH_ENABLE_CURSOR | GP_BRUSH_DEFAULT_ERASER);
1784     brush_dft->gpencil_settings->icon_id = GP_BRUSH_ICON_ERASE_SOFT;
1785     brush_dft->gpencil_tool = GPAINT_TOOL_ERASE;
1786     brush_dft->gpencil_settings->eraser_mode = GP_BRUSH_ERASER_SOFT;
1787
1788     /* reset current brush */
1789     BKE_paint_brush_set(paint, brush_old);
1790
1791     return brush_dft;
1792   }
1793 }
1794
1795 /* helper to set default eraser and disable others */
1796 static void gp_set_default_eraser(Main *bmain, Brush *brush_dft)
1797 {
1798   if (brush_dft == NULL) {
1799     return;
1800   }
1801
1802   for (Brush *brush = bmain->brushes.first; brush; brush = brush->id.next) {
1803     if ((brush->gpencil_settings) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
1804       if (brush == brush_dft) {
1805         brush->gpencil_settings->flag |= GP_BRUSH_DEFAULT_ERASER;
1806       }
1807       else if (brush->gpencil_settings->flag & GP_BRUSH_DEFAULT_ERASER) {
1808         brush->gpencil_settings->flag &= ~GP_BRUSH_DEFAULT_ERASER;
1809       }
1810     }
1811   }
1812 }
1813
1814 /* initialize a drawing brush */
1815 static void gp_init_drawing_brush(bContext *C, tGPsdata *p)
1816 {
1817   Scene *scene = CTX_data_scene(C);
1818   ToolSettings *ts = CTX_data_tool_settings(C);
1819
1820   Paint *paint = &ts->gp_paint->paint;
1821   bool changed = false;
1822   /* if not exist, create a new one */
1823   if (paint->brush == NULL) {
1824     /* create new brushes */
1825     BKE_brush_gpencil_presets(C);
1826     changed = true;
1827   }
1828   /* be sure curves are initializated */
1829   curvemapping_initialize(paint->brush->gpencil_settings->curve_sensitivity);
1830   curvemapping_initialize(paint->brush->gpencil_settings->curve_strength);
1831   curvemapping_initialize(paint->brush->gpencil_settings->curve_jitter);
1832
1833   /* assign to temp tGPsdata */
1834   p->brush = paint->brush;
1835   if (paint->brush->gpencil_tool != GPAINT_TOOL_ERASE) {
1836     p->eraser = gp_get_default_eraser(p->bmain, ts);
1837   }
1838   else {
1839     p->eraser = paint->brush;
1840   }
1841   /* set new eraser as default */
1842   gp_set_default_eraser(p->bmain, p->eraser);
1843
1844   /* use radius of eraser */
1845   p->radius = (short)p->eraser->size;
1846
1847   /* GPXX: Need this update to synchronize brush with draw manager.
1848    * Maybe this update can be removed when the new tool system
1849    * will be in place, but while, we need this to keep drawing working.
1850    */
1851   if (changed) {
1852     DEG_id_tag_update(&scene->id, ID_RECALC_COPY_ON_WRITE);
1853   }
1854 }
1855
1856 /* initialize a paint brush and a default color if not exist */
1857 static void gp_init_colors(tGPsdata *p)
1858 {
1859   bGPdata *gpd = p->gpd;
1860   Brush *brush = p->brush;
1861
1862   MaterialGPencilStyle *gp_style = NULL;
1863
1864   /* use brush material */
1865   p->material = BKE_gpencil_object_material_ensure_from_active_input_brush(p->bmain, p->ob, brush);
1866
1867   /* assign color information to temp tGPsdata */
1868   gp_style = p->material->gp_style;
1869   if (gp_style) {
1870
1871     /* set colors */
1872     if (gp_style->flag & GP_STYLE_STROKE_SHOW) {
1873       copy_v4_v4(gpd->runtime.scolor, gp_style->stroke_rgba);
1874     }
1875     else {
1876       /* if no stroke, use fill */
1877       copy_v4_v4(gpd->runtime.scolor, gp_style->fill_rgba);
1878     }
1879     copy_v4_v4(gpd->runtime.sfill, gp_style->fill_rgba);
1880     /* add some alpha to make easy the filling without hide strokes */
1881     if (gpd->runtime.sfill[3] > 0.8f) {
1882       gpd->runtime.sfill[3] = 0.8f;
1883     }
1884
1885     gpd->runtime.mode = (short)gp_style->mode;
1886     gpd->runtime.bstroke_style = gp_style->stroke_style;
1887     gpd->runtime.bfill_style = gp_style->fill_style;
1888   }
1889 }
1890
1891 /* (re)init new painting data */
1892 static bool gp_session_initdata(bContext *C, wmOperator *op, tGPsdata *p)
1893 {
1894   Main *bmain = CTX_data_main(C);
1895   bGPdata **gpd_ptr = NULL;
1896   ScrArea *curarea = CTX_wm_area(C);
1897   ARegion *ar = CTX_wm_region(C);
1898   ToolSettings *ts = CTX_data_tool_settings(C);
1899   Object *obact = CTX_data_active_object(C);
1900
1901   /* make sure the active view (at the starting time) is a 3d-view */
1902   if (curarea == NULL) {
1903     p->status = GP_STATUS_ERROR;
1904     if (G.debug & G_DEBUG) {
1905       printf("Error: No active view for painting\n");
1906     }
1907     return 0;
1908   }
1909
1910   /* pass on current scene and window */
1911   p->C = C;
1912   p->bmain = CTX_data_main(C);
1913   p->scene = CTX_data_scene(C);
1914   p->depsgraph = CTX_data_depsgraph(C);
1915   p->win = CTX_wm_window(C);
1916   p->disable_fill = RNA_boolean_get(op->ptr, "disable_fill");
1917
1918   unit_m4(p->imat);
1919   unit_m4(p->mat);
1920
1921   switch (curarea->spacetype) {
1922     /* supported views first */
1923     case SPACE_VIEW3D: {
1924       /* View3D *v3d = curarea->spacedata.first; */
1925       /* RegionView3D *rv3d = ar->regiondata; */
1926
1927       /* set current area
1928        * - must verify that region data is 3D-view (and not something else)
1929        */
1930       /* CAUTION: If this is the "toolbar", then this will change on the first stroke */
1931       p->sa = curarea;
1932       p->ar = ar;
1933       p->align_flag = &ts->gpencil_v3d_align;
1934
1935       if (ar->regiondata == NULL) {
1936         p->status = GP_STATUS_ERROR;
1937         if (G.debug & G_DEBUG) {
1938           printf(
1939               "Error: 3D-View active region doesn't have any region data, so cannot be "
1940               "drawable\n");
1941         }
1942         return 0;
1943       }
1944
1945       if ((!obact) || (obact->type != OB_GPENCIL)) {
1946         View3D *v3d = p->sa->spacedata.first;
1947         /* if active object doesn't exist or isn't a GP Object, create one */
1948         const float *cur = p->scene->cursor.location;
1949
1950         ushort local_view_bits = 0;
1951         if (v3d->localvd) {
1952           local_view_bits = v3d->local_view_uuid;
1953         }
1954         /* create new default object */
1955         obact = ED_gpencil_add_object(C, p->scene, cur, local_view_bits);
1956       }
1957       /* assign object after all checks to be sure we have one active */
1958       p->ob = obact;
1959
1960       break;
1961     }
1962
1963     /* unsupported views */
1964     default: {
1965       p->status = GP_STATUS_ERROR;
1966       if (G.debug & G_DEBUG) {
1967         printf("Error: Active view not appropriate for Grease Pencil drawing\n");
1968       }
1969       return 0;
1970     }
1971   }
1972
1973   /* get gp-data */
1974   gpd_ptr = ED_gpencil_data_get_pointers(C, &p->ownerPtr);
1975   if ((gpd_ptr == NULL) || ED_gpencil_data_owner_is_annotation(&p->ownerPtr)) {
1976     p->status = GP_STATUS_ERROR;
1977     if (G.debug & G_DEBUG) {
1978       printf("Error: Current context doesn't allow for any Grease Pencil data\n");
1979     }
1980     return 0;
1981   }
1982   else {
1983     /* if no existing GPencil block exists, add one */
1984     if (*gpd_ptr == NULL) {
1985       *gpd_ptr = BKE_gpencil_data_addnew(bmain, "GPencil");
1986     }
1987     p->gpd = *gpd_ptr;
1988   }
1989
1990   /* clear out buffer (stored in gp-data), in case something contaminated it */
1991   gp_session_validatebuffer(p);
1992
1993   /* set brush and create a new one if null */
1994   gp_init_drawing_brush(C, p);
1995
1996   /* setup active color */
1997   if (curarea->spacetype == SPACE_VIEW3D) {
1998     /* region where paint was originated */
1999     p->gpd->runtime.ar = CTX_wm_region(C);
2000
2001     /* NOTE: This is only done for 3D view, as Materials aren't used for
2002      *       annotations in 2D editors
2003      */
2004     int totcol = p->ob->totcol;
2005
2006     gp_init_colors(p);
2007
2008     /* check whether the material was newly added */
2009     if (totcol != p->ob->totcol) {
2010       WM_event_add_notifier(C, NC_SPACE | ND_SPACE_PROPERTIES, NULL);
2011     }
2012   }
2013
2014   /* lock axis (in some modes, disable) */
2015   if (((*p->align_flag & GP_PROJECT_DEPTH_VIEW) == 0) &&
2016       ((*p->align_flag & GP_PROJECT_DEPTH_STROKE) == 0)) {
2017     p->lock_axis = ts->gp_sculpt.lock_axis;
2018   }
2019   else {
2020     p->lock_axis = 0;
2021   }
2022
2023   return 1;
2024 }
2025
2026 /* init new painting session */
2027 static tGPsdata *gp_session_initpaint(bContext *C, wmOperator *op)
2028 {
2029   tGPsdata *p = NULL;
2030
2031   /* Create new context data */
2032   p = MEM_callocN(sizeof(tGPsdata), "GPencil Drawing Data");
2033
2034   /* Try to initialize context data
2035    * WARNING: This may not always succeed (e.g. using GP in an annotation-only context)
2036    */
2037   if (gp_session_initdata(C, op, p) == 0) {
2038     /* Invalid state - Exit
2039      * NOTE: It should be safe to just free the data, since failing context checks should
2040      * only happen when no data has been allocated.
2041      */
2042     MEM_freeN(p);
2043     return NULL;
2044   }
2045
2046   /* Random generator, only init once. */
2047   uint rng_seed = (uint)(PIL_check_seconds_timer_i() & UINT_MAX);
2048   rng_seed ^= POINTER_AS_UINT(p);
2049   p->rng = BLI_rng_new(rng_seed);
2050
2051   /* return context data for running paint operator */
2052   return p;
2053 }
2054
2055 /* cleanup after a painting session */
2056 static void gp_session_cleanup(tGPsdata *p)
2057 {
2058   bGPdata *gpd = (p) ? p->gpd : NULL;
2059
2060   /* error checking */
2061   if (gpd == NULL) {
2062     return;
2063   }
2064
2065   /* free stroke buffer */
2066   if (gpd->runtime.sbuffer) {
2067     /* printf("\t\tGP - free sbuffer\n"); */
2068     MEM_SAFE_FREE(gpd->runtime.sbuffer);
2069     gpd->runtime.sbuffer = NULL;
2070   }
2071
2072   /* clear flags */
2073   gpd->runtime.sbuffer_size = 0;
2074   gpd->runtime.sbuffer_sflag = 0;
2075   p->inittime = 0.0;
2076 }
2077
2078 static void gp_session_free(tGPsdata *p)
2079 {
2080   if (p->rng != NULL) {
2081     BLI_rng_free(p->rng);
2082   }
2083
2084   MEM_freeN(p);
2085 }
2086
2087 /* init new stroke */
2088 static void gp_paint_initstroke(tGPsdata *p, eGPencil_PaintModes paintmode, Depsgraph *depsgraph)
2089 {
2090   Scene *scene = p->scene;
2091   ToolSettings *ts = scene->toolsettings;
2092   int cfra_eval = (int)DEG_get_ctime(p->depsgraph);
2093
2094   /* get active layer (or add a new one if non-existent) */
2095   p->gpl = BKE_gpencil_layer_getactive(p->gpd);
2096   if (p->gpl == NULL) {
2097     p->gpl = BKE_gpencil_layer_addnew(p->gpd, DATA_("GP_Layer"), true);
2098
2099     if (p->custom_color[3]) {
2100       copy_v3_v3(p->gpl->color, p->custom_color);
2101     }
2102   }
2103   if ((paintmode != GP_PAINTMODE_ERASER) && (p->gpl->flag & GP_LAYER_LOCKED)) {
2104     p->status = GP_STATUS_ERROR;
2105     if (G.debug & G_DEBUG) {
2106       printf("Error: Cannot paint on locked layer\n");
2107     }
2108     return;
2109   }
2110
2111   /* get active frame (add a new one if not matching frame) */
2112   if (paintmode == GP_PAINTMODE_ERASER) {
2113     /* Eraser mode:
2114      * 1) Add new frames to all frames that we might touch,
2115      * 2) Ensure that p->gpf refers to the frame used for the active layer
2116      *    (to avoid problems with other tools which expect it to exist)
2117      */
2118     bool has_layer_to_erase = false;
2119
2120     for (bGPDlayer *gpl = p->gpd->layers.first; gpl; gpl = gpl->next) {
2121       /* Skip if layer not editable */
2122       if (gpencil_layer_is_editable(gpl) == false) {
2123         continue;
2124       }
2125
2126       /* Add a new frame if needed (and based off the active frame,
2127        * as we need some existing strokes to erase)
2128        *
2129        * Note: We don't add a new frame if there's nothing there now, so
2130        *       -> If there are no frames at all, don't add one
2131        *       -> If there are no strokes in that frame, don't add a new empty frame
2132        */
2133       if (gpl->actframe && gpl->actframe->strokes.first) {
2134         gpl->actframe = BKE_gpencil_layer_getframe(gpl, cfra_eval, GP_GETFRAME_ADD_COPY);
2135         has_layer_to_erase = true;
2136       }
2137
2138       /* XXX: we omit GP_FRAME_PAINT here for now,
2139        * as it is only really useful for doing
2140        * paintbuffer drawing
2141        */
2142     }
2143
2144     /* Ensure this gets set... */
2145     p->gpf = p->gpl->actframe;
2146
2147     /* Restrict eraser to only affecting selected strokes, if the "selection mask" is on
2148      * (though this is only available in editmode)
2149      */
2150     if (p->gpd->flag & GP_DATA_STROKE_EDITMODE) {
2151       if (ts->gp_sculpt.flag & GP_SCULPT_SETT_FLAG_SELECT_MASK) {
2152         p->flags |= GP_PAINTFLAG_SELECTMASK;
2153       }
2154     }
2155
2156     if (has_layer_to_erase == false) {
2157       p->status = GP_STATUS_ERROR;
2158       return;
2159     }
2160   }
2161   else {
2162     /* Drawing Modes - Add a new frame if needed on the active layer */
2163     short add_frame_mode;
2164
2165     if (ts->gpencil_flags & GP_TOOL_FLAG_RETAIN_LAST) {
2166       add_frame_mode = GP_GETFRAME_ADD_COPY;
2167     }
2168     else {
2169       add_frame_mode = GP_GETFRAME_ADD_NEW;
2170     }
2171
2172     p->gpf = BKE_gpencil_layer_getframe(p->gpl, cfra_eval, add_frame_mode);
2173
2174     if (p->gpf == NULL) {
2175       p->status = GP_STATUS_ERROR;
2176       if (G.debug & G_DEBUG) {
2177         printf("Error: No frame created (gpencil_paint_init)\n");
2178       }
2179       return;
2180     }
2181     else {
2182       p->gpf->flag |= GP_FRAME_PAINT;
2183     }
2184   }
2185
2186   /* set 'eraser' for this stroke if using eraser */
2187   p->paintmode = paintmode;
2188   if (p->paintmode == GP_PAINTMODE_ERASER) {
2189     p->gpd->runtime.sbuffer_sflag |= GP_STROKE_ERASER;
2190   }
2191   else {
2192     /* disable eraser flags - so that we can switch modes during a session */
2193     p->gpd->runtime.sbuffer_sflag &= ~GP_STROKE_ERASER;
2194   }
2195
2196   /* set special fill stroke mode */
2197   if (p->disable_fill == true) {
2198     p->gpd->runtime.sbuffer_sflag |= GP_STROKE_NOFILL;
2199     /* replace stroke color with fill color */
2200     copy_v4_v4(p->gpd->runtime.scolor, p->gpd->runtime.sfill);
2201   }
2202
2203   /* set 'initial run' flag, which is only used to denote when a new stroke is starting */
2204   p->flags |= GP_PAINTFLAG_FIRSTRUN;
2205
2206   /* when drawing in the camera view, in 2D space, set the subrect */
2207   p->subrect = NULL;
2208   if ((*p->align_flag & GP_PROJECT_VIEWSPACE) == 0) {
2209     if (p->sa->spacetype == SPACE_VIEW3D) {
2210       View3D *v3d = p->sa->spacedata.first;
2211       RegionView3D *rv3d = p->ar->regiondata;
2212
2213       /* for camera view set the subrect */
2214       if (rv3d->persp == RV3D_CAMOB) {
2215         /* no shift */
2216         ED_view3d_calc_camera_border(
2217             p->scene, depsgraph, p->ar, v3d, rv3d, &p->subrect_data, true);
2218         p->subrect = &p->subrect_data;
2219       }
2220     }
2221   }
2222
2223   /* init stroke point space-conversion settings... */
2224   p->gsc.gpd = p->gpd;
2225   p->gsc.gpl = p->gpl;
2226
2227   p->gsc.sa = p->sa;
2228   p->gsc.ar = p->ar;
2229   p->gsc.v2d = p->v2d;
2230
2231   p->gsc.subrect_data = p->subrect_data;
2232   p->gsc.subrect = p->subrect;
2233
2234   copy_m4_m4(p->gsc.mat, p->mat);
2235
2236   /* check if points will need to be made in view-aligned space */
2237   if (*p->align_flag & GP_PROJECT_VIEWSPACE) {
2238     switch (p->sa->spacetype) {
2239       case SPACE_VIEW3D: {
2240         p->gpd->runtime.sbuffer_sflag |= GP_STROKE_3DSPACE;
2241         break;
2242       }
2243     }
2244   }
2245 }
2246
2247 /* finish off a stroke (clears buffer, but doesn't finish the paint operation) */
2248 static void gp_paint_strokeend(tGPsdata *p)
2249 {
2250   ToolSettings *ts = p->scene->toolsettings;
2251   /* for surface sketching, need to set the right OpenGL context stuff so that
2252    * the conversions will project the values correctly...
2253    */
2254   if (gpencil_project_check(p)) {
2255     View3D *v3d = p->sa->spacedata.first;
2256
2257     /* need to restore the original projection settings before packing up */
2258     view3d_region_operator_needs_opengl(p->win, p->ar);
2259     ED_view3d_autodist_init(
2260         p->depsgraph, p->ar, v3d, (ts->gpencil_v3d_align & GP_PROJECT_DEPTH_STROKE) ? 1 : 0);
2261   }
2262
2263   /* check if doing eraser or not */
2264   if ((p->gpd->runtime.sbuffer_sflag & GP_STROKE_ERASER) == 0) {
2265     /* transfer stroke to frame */
2266     gp_stroke_newfrombuffer(p);
2267   }
2268
2269   /* clean up buffer now */
2270   gp_session_validatebuffer(p);
2271 }
2272
2273 /* finish off stroke painting operation */
2274 static void gp_paint_cleanup(tGPsdata *p)
2275 {
2276   /* p->gpd==NULL happens when stroke failed to initialize,
2277    * for example when GP is hidden in current space (sergey)
2278    */
2279   if (p->gpd) {
2280     /* finish off a stroke */
2281     gp_paint_strokeend(p);
2282   }
2283
2284   /* "unlock" frame */
2285   if (p->gpf) {
2286     p->gpf->flag &= ~GP_FRAME_PAINT;
2287   }
2288 }
2289
2290 /* ------------------------------- */
2291
2292 /* Helper callback for drawing the cursor itself */
2293 static void gpencil_draw_eraser(bContext *UNUSED(C), int x, int y, void *p_ptr)
2294 {
2295   tGPsdata *p = (tGPsdata *)p_ptr;
2296
2297   if (p->paintmode == GP_PAINTMODE_ERASER) {
2298     GPUVertFormat *format = immVertexFormat();
2299     const uint shdr_pos = GPU_vertformat_attr_add(format, "pos", GPU_COMP_F32, 2, GPU_FETCH_FLOAT);
2300     immBindBuiltinProgram(GPU_SHADER_2D_UNIFORM_COLOR);
2301
2302     GPU_line_smooth(true);
2303     GPU_blend(true);
2304     GPU_blend_set_func_separate(
2305         GPU_SRC_ALPHA, GPU_ONE_MINUS_SRC_ALPHA, GPU_ONE, GPU_ONE_MINUS_SRC_ALPHA);
2306
2307     immUniformColor4ub(255, 100, 100, 20);
2308     imm_draw_circle_fill_2d(shdr_pos, x, y, p->radius, 40);
2309
2310     immUnbindProgram();
2311
2312     immBindBuiltinProgram(GPU_SHADER_2D_LINE_DASHED_UNIFORM_COLOR);
2313
2314     float viewport_size[4];
2315     GPU_viewport_size_get_f(viewport_size);
2316     immUniform2f("viewport_size", viewport_size[2], viewport_size[3]);
2317
2318     immUniformColor4f(1.0f, 0.39f, 0.39f, 0.78f);
2319     immUniform1i("colors_len", 0); /* "simple" mode */
2320     immUniform1f("dash_width", 12.0f);
2321     immUniform1f("dash_factor", 0.5f);
2322
2323     imm_draw_circle_wire_2d(
2324         shdr_pos,
2325         x,
2326         y,
2327         p->radius,
2328         /* XXX Dashed shader gives bad results with sets of small segments currently,
2329          *     temp hack around the issue. :( */
2330         max_ii(8, p->radius / 2)); /* was fixed 40 */
2331
2332     immUnbindProgram();
2333
2334     GPU_blend(false);
2335     GPU_line_smooth(false);
2336   }
2337 }
2338
2339 /* Turn brush cursor in 3D view on/off */
2340 static void gpencil_draw_toggle_eraser_cursor(bContext *C, tGPsdata *p, short enable)
2341 {
2342   if (p->erasercursor && !enable) {
2343     /* clear cursor */
2344     WM_paint_cursor_end(CTX_wm_manager(C), p->erasercursor);
2345     p->erasercursor = NULL;
2346   }
2347   else if (enable && !p->erasercursor) {
2348     ED_gpencil_toggle_brush_cursor(p->C, false, NULL);
2349     /* enable cursor */
2350     p->erasercursor = WM_paint_cursor_activate(CTX_wm_manager(C),
2351                                                SPACE_TYPE_ANY,
2352                                                RGN_TYPE_ANY,
2353                                                NULL, /* XXX */
2354                                                gpencil_draw_eraser,
2355                                                p);
2356   }
2357 }
2358
2359 /* Check if tablet eraser is being used (when processing events) */
2360 static bool gpencil_is_tablet_eraser_active(const wmEvent *event)
2361 {
2362   if (event->tablet_data) {
2363     const wmTabletData *wmtab = event->tablet_data;
2364     return (wmtab->Active == EVT_TABLET_ERASER);
2365   }
2366
2367   return false;
2368 }
2369
2370 /* ------------------------------- */
2371
2372 static void gpencil_draw_exit(bContext *C, wmOperator *op)
2373 {
2374   tGPsdata *p = op->customdata;
2375
2376   /* don't assume that operator data exists at all */
2377   if (p) {
2378     /* check size of buffer before cleanup, to determine if anything happened here */
2379     if (p->paintmode == GP_PAINTMODE_ERASER) {
2380       /* turn off radial brush cursor */
2381       gpencil_draw_toggle_eraser_cursor(C, p, false);
2382     }
2383
2384     /* always store the new eraser size to be used again next time
2385      * NOTE: Do this even when not in eraser mode, as eraser may
2386      *       have been toggled at some point.
2387      */
2388     if (p->eraser) {
2389       p->eraser->size = p->radius;
2390     }
2391
2392     /* restore cursor to indicate end of drawing */
2393     if (p->sa->spacetype != SPACE_VIEW3D) {
2394       WM_cursor_modal_restore(CTX_wm_window(C));
2395     }
2396     else {
2397       /* or restore paint if 3D view */
2398       if ((p) && (p->paintmode == GP_PAINTMODE_ERASER)) {
2399         WM_cursor_modal_set(p->win, CURSOR_STD);
2400       }
2401
2402       /* drawing batch cache is dirty now */
2403       bGPdata *gpd = CTX_data_gpencil_data(C);
2404       if (gpd) {
2405         gpd->flag &= ~GP_DATA_STROKE_POLYGON;
2406         gp_update_cache(gpd);
2407       }
2408     }
2409
2410     /* clear undo stack */
2411     gpencil_undo_finish();
2412
2413     /* cleanup */
2414     WM_cursor_modal_set(p->win, CURSOR_STD);
2415
2416     gp_paint_cleanup(p);
2417     gp_session_cleanup(p);
2418     ED_gpencil_toggle_brush_cursor(C, true, NULL);
2419
2420     /* finally, free the temp data */
2421     gp_session_free(p);
2422     p = NULL;
2423   }
2424
2425   op->customdata = NULL;
2426 }
2427
2428 static void gpencil_draw_cancel(bContext *C, wmOperator *op)
2429 {
2430   /* this is just a wrapper around exit() */
2431   gpencil_draw_exit(C, op);
2432 }
2433
2434 /* ------------------------------- */
2435
2436 static int gpencil_draw_init(bContext *C, wmOperator *op, const wmEvent *event)
2437 {
2438   tGPsdata *p;
2439   eGPencil_PaintModes paintmode = RNA_enum_get(op->ptr, "mode");
2440   ToolSettings *ts = CTX_data_tool_settings(C);
2441   Brush *brush = BKE_paint_brush(&ts->gp_paint->paint);
2442
2443   /* if mode is draw and the brush is eraser, cancel */
2444   if (paintmode != GP_PAINTMODE_ERASER) {
2445     if ((brush) && (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
2446       return 0;
2447     }
2448   }
2449
2450   /* check context */
2451   p = op->customdata = gp_session_initpaint(C, op);
2452   if ((p == NULL) || (p->status == GP_STATUS_ERROR)) {
2453     /* something wasn't set correctly in context */
2454     gpencil_draw_exit(C, op);
2455     return 0;
2456   }
2457
2458   /* init painting data */
2459   gp_paint_initstroke(p, paintmode, CTX_data_depsgraph(C));
2460   if (p->status == GP_STATUS_ERROR) {
2461     gpencil_draw_exit(C, op);
2462     return 0;
2463   }
2464
2465   if (event != NULL) {
2466     p->keymodifier = event->keymodifier;
2467   }
2468   else {
2469     p->keymodifier = -1;
2470   }
2471
2472   p->reports = op->reports;
2473
2474   /* everything is now setup ok */
2475   return 1;
2476 }
2477
2478 /* ------------------------------- */
2479
2480 /* ensure that the correct cursor icon is set */
2481 static void gpencil_draw_cursor_set(tGPsdata *p)
2482 {
2483   Brush *brush = p->brush;
2484   if ((p->paintmode == GP_PAINTMODE_ERASER) || (brush->gpencil_tool == GPAINT_TOOL_ERASE)) {
2485     WM_cursor_modal_set(p->win, BC_CROSSCURSOR); /* XXX need a better cursor */
2486   }
2487   else {
2488     WM_cursor_modal_set(p->win, CURSOR_NONE);
2489   }
2490 }
2491
2492 /* update UI indicators of status, including cursor and header prints */
2493 static void gpencil_draw_status_indicators(bContext *C, tGPsdata *p)
2494 {
2495   /* header prints */
2496   switch (p->status) {
2497     case GP_STATUS_IDLING: {
2498       /* print status info */
2499       switch (p->paintmode) {
2500         case GP_PAINTMODE_ERASER: {
2501           ED_workspace_status_text(
2502               C,
2503               IFACE_("Grease Pencil Erase Session: Hold and drag LMB or RMB to erase | "
2504                      "ESC/Enter to end  (or click outside this area)"));
2505           break;
2506         }
2507         case GP_PAINTMODE_DRAW_STRAIGHT: {
2508           ED_workspace_status_text(
2509               C,
2510               IFACE_("Grease Pencil Line Session: Hold and drag LMB to draw | "
2511                      "ESC/Enter to end  (or click outside this area)"));
2512           break;
2513         }
2514         case GP_PAINTMODE_SET_CP: {
2515           ED_workspace_status_text(
2516               C,
2517               IFACE_("Grease Pencil Guides: LMB click and release to place reference point | "
2518                      "Esc/RMB to cancel"));
2519           break;
2520         }
2521         case GP_PAINTMODE_DRAW: {
2522           GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2523           if (guide->use_guide) {
2524             ED_workspace_status_text(
2525                 C,
2526                 IFACE_("Grease Pencil Freehand Session: Hold and drag LMB to draw | "
2527                        "M key to flip guide | O key to move reference point"));
2528           }
2529           else {
2530             ED_workspace_status_text(
2531                 C, IFACE_("Grease Pencil Freehand Session: Hold and drag LMB to draw"));
2532           }
2533           break;
2534         }
2535         case GP_PAINTMODE_DRAW_POLY: {
2536           ED_workspace_status_text(
2537               C,
2538               IFACE_("Grease Pencil Poly Session: LMB click to place next stroke vertex | "
2539                      "Release Shift/ESC/Enter to end  (or click outside this area)"));
2540           break;
2541         }
2542         default: /* unhandled future cases */
2543         {
2544           ED_workspace_status_text(
2545               C, IFACE_("Grease Pencil Session: ESC/Enter to end   (or click outside this area)"));
2546           break;
2547         }
2548       }
2549       break;
2550     }
2551     case GP_STATUS_ERROR:
2552     case GP_STATUS_DONE: {
2553       /* clear status string */
2554       ED_workspace_status_text(C, NULL);
2555       break;
2556     }
2557     case GP_STATUS_PAINTING:
2558       break;
2559   }
2560 }
2561
2562 /* ------------------------------- */
2563
2564 /* create a new stroke point at the point indicated by the painting context */
2565 static void gpencil_draw_apply(bContext *C, wmOperator *op, tGPsdata *p, Depsgraph *depsgraph)
2566 {
2567   bGPdata *gpd = p->gpd;
2568   tGPspoint *pt = NULL;
2569
2570   /* handle drawing/erasing -> test for erasing first */
2571   if (p->paintmode == GP_PAINTMODE_ERASER) {
2572     /* do 'live' erasing now */
2573     gp_stroke_doeraser(p);
2574
2575     /* store used values */
2576     copy_v2_v2(p->mvalo, p->mval);
2577     p->opressure = p->pressure;
2578   }
2579   /* Only add current point to buffer if mouse moved
2580    * (even though we got an event, it might be just noise). */
2581   else if (gp_stroke_filtermval(p, p->mval, p->mvalo)) {
2582
2583     /* if lazy mouse, interpolate the last and current mouse positions */
2584     if (GPENCIL_LAZY_MODE(p->brush, p->shift)) {
2585       float now_mouse[2];
2586       float last_mouse[2];
2587       copy_v2_v2(now_mouse, p->mval);
2588       copy_v2_v2(last_mouse, p->mvalo);
2589       interp_v2_v2v2(now_mouse, now_mouse, last_mouse, p->brush->smooth_stroke_factor);
2590       copy_v2_v2(p->mval, now_mouse);
2591     }
2592
2593     /* try to add point */
2594     short ok = gp_stroke_addpoint(p, p->mval, p->pressure, p->curtime);
2595
2596     /* handle errors while adding point */
2597     if ((ok == GP_STROKEADD_FULL) || (ok == GP_STROKEADD_OVERFLOW)) {
2598       /* finish off old stroke */
2599       gp_paint_strokeend(p);
2600       /* And start a new one!!! Else, projection errors! */
2601       gp_paint_initstroke(p, p->paintmode, depsgraph);
2602
2603       /* start a new stroke, starting from previous point */
2604       /* XXX Must manually reset inittime... */
2605       /* XXX We only need to reuse previous point if overflow! */
2606       if (ok == GP_STROKEADD_OVERFLOW) {
2607         p->inittime = p->ocurtime;
2608         gp_stroke_addpoint(p, p->mvalo, p->opressure, p->ocurtime);
2609       }
2610       else {
2611         p->inittime = p->curtime;
2612       }
2613       gp_stroke_addpoint(p, p->mval, p->pressure, p->curtime);
2614     }
2615     else if (ok == GP_STROKEADD_INVALID) {
2616       /* the painting operation cannot continue... */
2617       BKE_report(op->reports, RPT_ERROR, "Cannot paint stroke");
2618       p->status = GP_STATUS_ERROR;
2619
2620       if (G.debug & G_DEBUG) {
2621         printf("Error: Grease-Pencil Paint - Add Point Invalid\n");
2622       }
2623       return;
2624     }
2625
2626     /* store used values */
2627     copy_v2_v2(p->mvalo, p->mval);
2628     p->opressure = p->pressure;
2629     p->ocurtime = p->curtime;
2630
2631     pt = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
2632     if (p->paintmode != GP_PAINTMODE_ERASER) {
2633       ED_gpencil_toggle_brush_cursor(C, true, &pt->x);
2634     }
2635   }
2636   else if ((p->brush->gpencil_settings->flag & GP_BRUSH_STABILIZE_MOUSE_TEMP) &&
2637            (gpd->runtime.sbuffer_size > 0)) {
2638     pt = (tGPspoint *)gpd->runtime.sbuffer + gpd->runtime.sbuffer_size - 1;
2639     if (p->paintmode != GP_PAINTMODE_ERASER) {
2640       ED_gpencil_toggle_brush_cursor(C, true, &pt->x);
2641     }
2642   }
2643 }
2644
2645 /* Helper to rotate point around origin */
2646 static void gp_rotate_v2_v2v2fl(float v[2],
2647                                 const float p[2],
2648                                 const float origin[2],
2649                                 const float angle)
2650 {
2651   float pt[2];
2652   float r[2];
2653   sub_v2_v2v2(pt, p, origin);
2654   rotate_v2_v2fl(r, pt, angle);
2655   add_v2_v2v2(v, r, origin);
2656 }
2657
2658 /* Helper to snap value to grid */
2659 static float gp_snap_to_grid_fl(float v, const float offset, const float spacing)
2660 {
2661   if (spacing > 0.0f) {
2662     return roundf(v / spacing) * spacing + fmodf(offset, spacing);
2663   }
2664   else {
2665     return v;
2666   }
2667 }
2668
2669 static void UNUSED_FUNCTION(gp_snap_to_grid_v2)(float v[2],
2670                                                 const float offset[2],
2671                                                 const float spacing)
2672 {
2673   v[0] = gp_snap_to_grid_fl(v[0], offset[0], spacing);
2674   v[1] = gp_snap_to_grid_fl(v[1], offset[1], spacing);
2675 }
2676
2677 /* get reference point - screen coords to buffer coords */
2678 static void gp_origin_set(wmOperator *op, const int mval[2])
2679 {
2680   tGPsdata *p = op->customdata;
2681   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2682   float origin[2];
2683   float point[3];
2684   copy_v2fl_v2i(origin, mval);
2685   gp_stroke_convertcoords(p, origin, point, NULL);
2686   if (guide->reference_point == GP_GUIDE_REF_CUSTOM) {
2687     copy_v3_v3(guide->location, point);
2688   }
2689   else if (guide->reference_point == GP_GUIDE_REF_CURSOR) {
2690     copy_v3_v3(p->scene->cursor.location, point);
2691   }
2692 }
2693
2694 /* get reference point - buffer coords to screen coords */
2695 static void gp_origin_get(tGPsdata *p, float origin[2])
2696 {
2697   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2698   float location[3];
2699   if (guide->reference_point == GP_GUIDE_REF_CUSTOM) {
2700     copy_v3_v3(location, guide->location);
2701   }
2702   else if (guide->reference_point == GP_GUIDE_REF_OBJECT && guide->reference_object != NULL) {
2703     copy_v3_v3(location, guide->reference_object->loc);
2704   }
2705   else {
2706     copy_v3_v3(location, p->scene->cursor.location);
2707   }
2708   GP_SpaceConversion *gsc = &p->gsc;
2709   gp_point_3d_to_xy(gsc, p->gpd->runtime.sbuffer_sflag, location, origin);
2710 }
2711
2712 /* handle draw event */
2713 static void gpencil_draw_apply_event(
2714     bContext *C, wmOperator *op, const wmEvent *event, Depsgraph *depsgraph, float x, float y)
2715 {
2716   tGPsdata *p = op->customdata;
2717   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
2718   PointerRNA itemptr;
2719   float mousef[2];
2720   int tablet = 0;
2721
2722   /* convert from window-space to area-space mouse coordinates
2723    * add any x,y override position for fake events
2724    */
2725   p->mval[0] = (float)event->mval[0] - x;
2726   p->mval[1] = (float)event->mval[1] - y;
2727   p->shift = event->shift;
2728
2729   /* verify direction for straight lines */
2730   if ((guide->use_guide) ||
2731       ((event->alt > 0) && (RNA_boolean_get(op->ptr, "disable_straight") == false))) {
2732     if (p->straight == 0) {
2733       int dx = (int)fabsf(p->mval[0] - p->mvali[0]);
2734       int dy = (int)fabsf(p->mval[1] - p->mvali[1]);
2735       if ((dx > 0) || (dy > 0)) {
2736         /* store mouse direction */
2737         if (dx > dy) {
2738           p->straight = STROKE_HORIZONTAL;
2739         }
2740         else if (dx < dy) {
2741           p->straight = STROKE_VERTICAL;
2742         }
2743       }
2744     }
2745   }
2746
2747   p->curtime = PIL_check_seconds_timer();
2748
2749   /* handle pressure sensitivity (which is supplied by tablets) */
2750   if (event->tablet_data) {
2751     const wmTabletData *wmtab = event->tablet_data;
2752
2753     tablet = (wmtab->Active != EVT_TABLET_NONE);
2754     p->pressure = wmtab->Pressure;
2755
2756     /* Hack for pressure sensitive eraser on D+RMB when using a tablet:
2757      * The pen has to float over the tablet surface, resulting in
2758      * zero pressure (T47101). Ignore pressure values if floating
2759      * (i.e. "effectively zero" pressure), and only when the "active"
2760      * end is the stylus (i.e. the default when not eraser)
2761      */
2762     if (p->paintmode == GP_PAINTMODE_ERASER) {
2763       if ((wmtab->Active != EVT_TABLET_ERASER) && (p->pressure < 0.001f)) {
2764         p->pressure = 1.0f;
2765       }
2766     }
2767   }
2768   else {
2769     /* No tablet data -> No pressure info is available */
2770     p->pressure = 1.0f;
2771   }
2772
2773   /* special eraser modes */
2774   if (p->paintmode == GP_PAINTMODE_ERASER) {
2775     if (event->shift > 0) {
2776       p->flags |= GP_PAINTFLAG_HARD_ERASER;
2777     }
2778     else {
2779       p->flags &= ~GP_PAINTFLAG_HARD_ERASER;
2780     }
2781     if (event->alt > 0) {
2782       p->flags |= GP_PAINTFLAG_STROKE_ERASER;
2783     }
2784     else {
2785       p->flags &= ~GP_PAINTFLAG_STROKE_ERASER;
2786     }
2787   }
2788
2789   /* special exception for start of strokes (i.e. maybe for just a dot) */
2790   if (p->flags & GP_PAINTFLAG_FIRSTRUN) {
2791     p->flags &= ~GP_PAINTFLAG_FIRSTRUN;
2792
2793     /* set values */
2794     copy_v2_v2(p->mvalo, p->mval);
2795     p->opressure = p->pressure;
2796     p->inittime = p->ocurtime = p->curtime;
2797     p->straight = 0;
2798
2799     /* save initial mouse */
2800     copy_v2_v2(p->mvali, p->mval);
2801
2802     /* calculate once and store snapping distance and origin */
2803     RegionView3D *rv3d = p->ar->regiondata;
2804     float scale = 1.0f;
2805     if (rv3d->is_persp) {
2806       float vec[3];
2807       gp_get_3d_reference(p, vec);
2808       mul_m4_v3(rv3d->persmat, vec);
2809       scale = vec[2] * rv3d->pixsize;
2810     }
2811     else {
2812       scale = rv3d->pixsize;
2813     }
2814     p->guide_spacing = guide->spacing / scale;
2815     p->half_spacing = p->guide_spacing * 0.5f;
2816     gp_origin_get(p, p->origin);
2817
2818     /* special exception here for too high pressure values on first touch in
2819      * windows for some tablets, then we just skip first touch...
2820      */
2821     if (tablet && (p->pressure >= 0.99f)) {
2822       return;
2823     }
2824
2825     /* special exception for grid snapping
2826      * it requires direction which needs at least two points
2827      */
2828     if (!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP) && guide->use_guide &&
2829         guide->use_snapping && (guide->type == GP_GUIDE_GRID)) {
2830       p->flags |= GP_PAINTFLAG_REQ_VECTOR;
2831     }
2832   }
2833
2834   /* wait for vector then add initial point */
2835   if (p->flags & GP_PAINTFLAG_REQ_VECTOR) {
2836     if (p->straight == 0) {
2837       return;
2838     }
2839
2840     p->flags &= ~GP_PAINTFLAG_REQ_VECTOR;
2841
2842     /* create fake events */
2843     float tmp[2];
2844     float pt[2];
2845     copy_v2_v2(tmp, p->mval);
2846     sub_v2_v2v2(pt, p->mval, p->mvali);
2847     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
2848     if (len_v2v2(p->mval, p->mvalo)) {
2849       sub_v2_v2v2(pt, p->mval, p->mvalo);
2850       gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
2851     }
2852     copy_v2_v2(p->mval, tmp);
2853   }
2854
2855   /* check if stroke is straight or guided */
2856   if ((p->paintmode != GP_PAINTMODE_ERASER) && ((p->straight) || (guide->use_guide))) {
2857     /* guided stroke */
2858     if (guide->use_guide) {
2859       switch (guide->type) {
2860         default:
2861         case GP_GUIDE_CIRCULAR: {
2862           float distance;
2863           distance = len_v2v2(p->mvali, p->origin);
2864
2865           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2866             distance = gp_snap_to_grid_fl(distance, 0.0f, p->guide_spacing);
2867           }
2868
2869           dist_ensure_v2_v2fl(p->mval, p->origin, distance);
2870           break;
2871         }
2872         case GP_GUIDE_RADIAL: {
2873           if (guide->use_snapping && (guide->angle_snap > 0.0f)) {
2874             float point[2];
2875             float xy[2];
2876             float angle;
2877             float half_angle = guide->angle_snap * 0.5f;
2878             sub_v2_v2v2(xy, p->mvali, p->origin);
2879             angle = atan2f(xy[1], xy[0]);
2880             angle += (M_PI * 2.0f);
2881             angle = fmodf(angle + half_angle, guide->angle_snap);
2882             angle -= half_angle;
2883             gp_rotate_v2_v2v2fl(point, p->mvali, p->origin, -angle);
2884             closest_to_line_v2(p->mval, p->mval, point, p->origin);
2885           }
2886           else {
2887             closest_to_line_v2(p->mval, p->mval, p->mvali, p->origin);
2888           }
2889           break;
2890         }
2891         case GP_GUIDE_PARALLEL: {
2892           float point[2];
2893           float unit[2];
2894           copy_v2_v2(unit, p->mvali);
2895           unit[0] += 1.0f; /* start from horizontal */
2896           gp_rotate_v2_v2v2fl(point, unit, p->mvali, guide->angle);
2897           closest_to_line_v2(p->mval, p->mval, p->mvali, point);
2898
2899           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2900             gp_rotate_v2_v2v2fl(p->mval, p->mval, p->origin, -guide->angle);
2901             p->mval[1] = gp_snap_to_grid_fl(
2902                 p->mval[1] - p->half_spacing, p->origin[1], p->guide_spacing);
2903             gp_rotate_v2_v2v2fl(p->mval, p->mval, p->origin, guide->angle);
2904           }
2905           break;
2906         }
2907         case GP_GUIDE_GRID: {
2908           if (guide->use_snapping && (guide->spacing > 0.0f)) {
2909             float point[2];
2910             float unit[2];
2911             float angle;
2912             copy_v2_v2(unit, p->mvali);
2913             unit[0] += 1.0f; /* start from horizontal */
2914             angle = (p->straight == STROKE_VERTICAL) ? M_PI_2 : 0.0f;
2915             gp_rotate_v2_v2v2fl(point, unit, p->mvali, angle);
2916             closest_to_line_v2(p->mval, p->mval, p->mvali, point);
2917
2918             if (p->straight == STROKE_HORIZONTAL) {
2919               p->mval[1] = gp_snap_to_grid_fl(
2920                   p->mval[1] - p->half_spacing, p->origin[1], p->guide_spacing);
2921             }
2922             else {
2923               p->mval[0] = gp_snap_to_grid_fl(
2924                   p->mval[0] - p->half_spacing, p->origin[0], p->guide_spacing);
2925             }
2926           }
2927           else if (p->straight == STROKE_HORIZONTAL) {
2928             p->mval[1] = p->mvali[1]; /* replace y */
2929           }
2930           else {
2931             p->mval[0] = p->mvali[0]; /* replace x */
2932           }
2933           break;
2934         }
2935       }
2936     }
2937     else if (p->straight == STROKE_HORIZONTAL) {
2938       p->mval[1] = p->mvali[1]; /* replace y */
2939     }
2940     else {
2941       p->mval[0] = p->mvali[0]; /* replace x */
2942     }
2943   }
2944
2945   /* fill in stroke data (not actually used directly by gpencil_draw_apply) */
2946   RNA_collection_add(op->ptr, "stroke", &itemptr);
2947
2948   mousef[0] = p->mval[0];
2949   mousef[1] = p->mval[1];
2950   RNA_float_set_array(&itemptr, "mouse", mousef);
2951   RNA_float_set(&itemptr, "pressure", p->pressure);
2952   RNA_boolean_set(&itemptr, "is_start", (p->flags & GP_PAINTFLAG_FIRSTRUN) != 0);
2953
2954   RNA_float_set(&itemptr, "time", p->curtime - p->inittime);
2955
2956   /* apply the current latest drawing point */
2957   gpencil_draw_apply(C, op, p, depsgraph);
2958
2959   /* force refresh */
2960   /* just active area for now, since doing whole screen is too slow */
2961   ED_region_tag_redraw(p->ar);
2962 }
2963
2964 /* ------------------------------- */
2965
2966 /* operator 'redo' (i.e. after changing some properties, but also for repeat last) */
2967 static int gpencil_draw_exec(bContext *C, wmOperator *op)
2968 {
2969   tGPsdata *p = NULL;
2970   Depsgraph *depsgraph = CTX_data_depsgraph(C);
2971
2972   /* printf("GPencil - Starting Re-Drawing\n"); */
2973
2974   /* try to initialize context data needed while drawing */
2975   if (!gpencil_draw_init(C, op, NULL)) {
2976     MEM_SAFE_FREE(op->customdata);
2977     /* printf("\tGP - no valid data\n"); */
2978     return OPERATOR_CANCELLED;
2979   }
2980   else {
2981     p = op->customdata;
2982   }
2983
2984   /* printf("\tGP - Start redrawing stroke\n"); */
2985
2986   /* loop over the stroke RNA elements recorded (i.e. progress of mouse movement),
2987    * setting the relevant values in context at each step, then applying
2988    */
2989   RNA_BEGIN (op->ptr, itemptr, "stroke") {
2990     float mousef[2];
2991
2992     /* printf("\t\tGP - stroke elem\n"); */
2993
2994     /* get relevant data for this point from stroke */
2995     RNA_float_get_array(&itemptr, "mouse", mousef);
2996     p->mval[0] = mousef[0];
2997     p->mval[1] = mousef[1];
2998     p->pressure = RNA_float_get(&itemptr, "pressure");
2999     p->curtime = (double)RNA_float_get(&itemptr, "time") + p->inittime;
3000
3001     if (RNA_boolean_get(&itemptr, "is_start")) {
3002       /* if first-run flag isn't set already (i.e. not true first stroke),
3003        * then we must terminate the previous one first before continuing
3004        */
3005       if ((p->flags & GP_PAINTFLAG_FIRSTRUN) == 0) {
3006         /* TODO: both of these ops can set error-status, but we probably don't need to worry */
3007         gp_paint_strokeend(p);
3008         gp_paint_initstroke(p, p->paintmode, depsgraph);
3009       }
3010     }
3011
3012     /* if first run, set previous data too */
3013     if (p->flags & GP_PAINTFLAG_FIRSTRUN) {
3014       p->flags &= ~GP_PAINTFLAG_FIRSTRUN;
3015
3016       p->mvalo[0] = p->mval[0];
3017       p->mvalo[1] = p->mval[1];
3018       p->opressure = p->pressure;
3019       p->ocurtime = p->curtime;
3020     }
3021
3022     /* apply this data as necessary now (as per usual) */
3023     gpencil_draw_apply(C, op, p, depsgraph);
3024   }
3025   RNA_END;
3026
3027   /* printf("\tGP - done\n"); */
3028
3029   /* cleanup */
3030   gpencil_draw_exit(C, op);
3031
3032   /* refreshes */
3033   WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
3034
3035   /* done */
3036   return OPERATOR_FINISHED;
3037 }
3038
3039 /* ------------------------------- */
3040
3041 /* handle events for guides */
3042 static void gpencil_guide_event_handling(bContext *C,
3043                                          wmOperator *op,
3044                                          const wmEvent *event,
3045                                          tGPsdata *p)
3046 {
3047   bool add_notifier = false;
3048   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3049
3050   /* Enter or exit set center point mode */
3051   if ((event->type == OKEY) && (event->val == KM_RELEASE)) {
3052     if (p->paintmode == GP_PAINTMODE_DRAW && guide->reference_point != GP_GUIDE_REF_OBJECT) {
3053       add_notifier = true;
3054       p->paintmode = GP_PAINTMODE_SET_CP;
3055       ED_gpencil_toggle_brush_cursor(C, false, NULL);
3056     }
3057   }
3058   /* Freehand mode, turn off speed guide */
3059   else if ((event->type == VKEY) && (event->val == KM_RELEASE)) {
3060     guide->use_guide = false;
3061     add_notifier = true;
3062   }
3063   /* Alternate or flip direction */
3064   else if ((event->type == MKEY) && (event->val == KM_RELEASE)) {
3065     if (guide->type == GP_GUIDE_CIRCULAR) {
3066       add_notifier = true;
3067       guide->type = GP_GUIDE_RADIAL;
3068     }
3069     else if (guide->type == GP_GUIDE_RADIAL) {
3070       add_notifier = true;
3071       guide->type = GP_GUIDE_CIRCULAR;
3072     }
3073     else if (guide->type == GP_GUIDE_PARALLEL) {
3074       add_notifier = true;
3075       guide->angle += M_PI_2;
3076       guide->angle = angle_compat_rad(guide->angle, M_PI);
3077     }
3078     else {
3079       add_notifier = false;
3080     }
3081   }
3082   /* Line guides */
3083   else if ((event->type == LKEY) && (event->val == KM_RELEASE)) {
3084     add_notifier = true;
3085     guide->use_guide = true;
3086     if (event->ctrl) {
3087       guide->angle = 0.0f;
3088       guide->type = GP_GUIDE_PARALLEL;
3089     }
3090     else if (event->alt) {
3091       guide->type = GP_GUIDE_PARALLEL;
3092       guide->angle = RNA_float_get(op->ptr, "guide_last_angle");
3093     }
3094     else {
3095       guide->type = GP_GUIDE_PARALLEL;
3096     }
3097   }
3098   /* Point guide */
3099   else if ((event->type == CKEY) && (event->val == KM_RELEASE)) {
3100     add_notifier = true;
3101     if (!guide->use_guide) {
3102       guide->use_guide = true;
3103       guide->type = GP_GUIDE_CIRCULAR;
3104     }
3105     else if (guide->type == GP_GUIDE_CIRCULAR) {
3106       guide->type = GP_GUIDE_RADIAL;
3107     }
3108     else if (guide->type == GP_GUIDE_RADIAL) {
3109       guide->type = GP_GUIDE_CIRCULAR;
3110     }
3111     else {
3112       guide->type = GP_GUIDE_CIRCULAR;
3113     }
3114   }
3115   /* Change line angle  */
3116   else if (ELEM(event->type, JKEY, KKEY) && (event->val == KM_RELEASE)) {
3117     add_notifier = true;
3118     float angle = guide->angle;
3119     float adjust = (float)M_PI / 180.0f;
3120     if (event->alt) {
3121       adjust *= 45.0f;
3122     }
3123     else if (!event->shift) {
3124       adjust *= 15.0f;
3125     }
3126     angle += (event->type == JKEY) ? adjust : -adjust;
3127     angle = angle_compat_rad(angle, M_PI);
3128     guide->angle = angle;
3129   }
3130
3131   if (add_notifier) {
3132     WM_event_add_notifier(C, NC_SCENE | ND_TOOLSETTINGS | NC_GPENCIL | NA_EDITED, NULL);
3133   }
3134 }
3135
3136 /* start of interactive drawing part of operator */
3137 static int gpencil_draw_invoke(bContext *C, wmOperator *op, const wmEvent *event)
3138 {
3139   tGPsdata *p = NULL;
3140   Object *ob = CTX_data_active_object(C);
3141   bGPdata *gpd = (bGPdata *)ob->data;
3142
3143   if (G.debug & G_DEBUG) {
3144     printf("GPencil - Starting Drawing\n");
3145   }
3146
3147   /* support for tablets eraser pen */
3148   if (gpencil_is_tablet_eraser_active(event)) {
3149     RNA_enum_set(op->ptr, "mode", GP_PAINTMODE_ERASER);
3150   }
3151
3152   /* do not draw in locked or invisible layers */
3153   eGPencil_PaintModes paintmode = RNA_enum_get(op->ptr, "mode");
3154   if (paintmode != GP_PAINTMODE_ERASER) {
3155     bGPDlayer *gpl = CTX_data_active_gpencil_layer(C);
3156     if ((gpl) && ((gpl->flag & GP_LAYER_LOCKED) || (gpl->flag & GP_LAYER_HIDE))) {
3157       BKE_report(op->reports, RPT_ERROR, "Active layer is locked or hide");
3158       return OPERATOR_CANCELLED;
3159     }
3160   }
3161   else {
3162     /* don't erase empty frames */
3163     bool has_layer_to_erase = false;
3164     for (bGPDlayer *gpl = gpd->layers.first; gpl; gpl = gpl->next) {
3165       /* Skip if layer not editable */
3166       if (gpencil_layer_is_editable(gpl)) {
3167         if (gpl->actframe && gpl->actframe->strokes.first) {
3168           has_layer_to_erase = true;
3169           break;
3170         }
3171       }
3172     }
3173     if (!has_layer_to_erase) {
3174       BKE_report(op->reports, RPT_ERROR, "Nothing to erase or all layers locked");
3175       return OPERATOR_FINISHED;
3176     }
3177   }
3178
3179   /* try to initialize context data needed while drawing */
3180   if (!gpencil_draw_init(C, op, event)) {
3181     if (op->customdata) {
3182       MEM_freeN(op->customdata);
3183     }
3184     if (G.debug & G_DEBUG) {
3185       printf("\tGP - no valid data\n");
3186     }
3187     return OPERATOR_CANCELLED;
3188   }
3189   else {
3190     p = op->customdata;
3191   }
3192
3193   /* TODO: set any additional settings that we can take from the events?
3194    * TODO? if tablet is erasing, force eraser to be on? */
3195
3196   /* TODO: move cursor setting stuff to stroke-start so that paintmode can be changed midway... */
3197
3198   /* if eraser is on, draw radial aid */
3199   if (p->paintmode == GP_PAINTMODE_ERASER) {
3200     gpencil_draw_toggle_eraser_cursor(C, p, true);
3201   }
3202   else {
3203     ED_gpencil_toggle_brush_cursor(C, true, NULL);
3204   }
3205   /* set cursor
3206    * NOTE: This may change later (i.e. intentionally via brush toggle,
3207    *       or unintentionally if the user scrolls outside the area)...
3208    */
3209   gpencil_draw_cursor_set(p);
3210
3211   /* only start drawing immediately if we're allowed to do so... */
3212   if (RNA_boolean_get(op->ptr, "wait_for_input") == false) {
3213     /* hotkey invoked - start drawing */
3214     /* printf("\tGP - set first spot\n"); */
3215     p->status = GP_STATUS_PAINTING;
3216
3217     /* handle the initial drawing - i.e. for just doing a simple dot */
3218     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), 0.0f, 0.0f);
3219     op->flag |= OP_IS_MODAL_CURSOR_REGION;
3220   }
3221   else {
3222     /* toolbar invoked - don't start drawing yet... */
3223     /* printf("\tGP - hotkey invoked... waiting for click-drag\n"); */
3224     op->flag |= OP_IS_MODAL_CURSOR_REGION;
3225   }
3226
3227   /* enable paint mode */
3228   /* handle speed guide events before drawing inside view3d */
3229   if (!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP)) {
3230     gpencil_guide_event_handling(C, op, event, p);
3231   }
3232
3233   if (ob && (ob->type == OB_GPENCIL) && ((p->gpd->flag & GP_DATA_STROKE_PAINTMODE) == 0)) {
3234     /* FIXME: use the mode switching operator, this misses notifiers, messages. */
3235     /* Just set paintmode flag... */
3236     p->gpd->flag |= GP_DATA_STROKE_PAINTMODE;
3237     /* disable other GP modes */
3238     p->gpd->flag &= ~GP_DATA_STROKE_EDITMODE;
3239     p->gpd->flag &= ~GP_DATA_STROKE_SCULPTMODE;
3240     p->gpd->flag &= ~GP_DATA_STROKE_WEIGHTMODE;
3241     /* set workspace mode */
3242     ob->restore_mode = ob->mode;
3243     ob->mode = OB_MODE_PAINT_GPENCIL;
3244     /* redraw mode on screen */
3245     WM_event_add_notifier(C, NC_SCENE | ND_MODE, NULL);
3246   }
3247
3248   WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
3249
3250   /* add a modal handler for this operator, so that we can then draw continuous strokes */
3251   WM_event_add_modal_handler(C, op);
3252
3253   return OPERATOR_RUNNING_MODAL;
3254 }
3255
3256 /* gpencil modal operator stores area, which can be removed while using it (like fullscreen) */
3257 static bool gpencil_area_exists(bContext *C, ScrArea *sa_test)
3258 {
3259   bScreen *sc = CTX_wm_screen(C);
3260   return (BLI_findindex(&sc->areabase, sa_test) != -1);
3261 }
3262
3263 static tGPsdata *gpencil_stroke_begin(bContext *C, wmOperator *op)
3264 {
3265   tGPsdata *p = op->customdata;
3266
3267   /* we must check that we're still within the area that we're set up to work from
3268    * otherwise we could crash (see bug #20586)
3269    */
3270   if (CTX_wm_area(C) != p->sa) {
3271     printf("\t\t\tGP - wrong area execution abort!\n");
3272     p->status = GP_STATUS_ERROR;
3273   }
3274
3275   /* printf("\t\tGP - start stroke\n"); */
3276
3277   /* we may need to set up paint env again if we're resuming */
3278   /* XXX: watch it with the paintmode! in future,
3279    *      it'd be nice to allow changing paint-mode when in sketching-sessions */
3280
3281   if (gp_session_initdata(C, op, p)) {
3282     gp_paint_initstroke(p, p->paintmode, CTX_data_depsgraph(C));
3283   }
3284
3285   if (p->status != GP_STATUS_ERROR) {
3286     p->status = GP_STATUS_PAINTING;
3287     op->flag &= ~OP_IS_MODAL_CURSOR_REGION;
3288   }
3289
3290   return op->customdata;
3291 }
3292
3293 static void gpencil_stroke_end(wmOperator *op)
3294 {
3295   tGPsdata *p = op->customdata;
3296
3297   gp_paint_cleanup(p);
3298
3299   gpencil_undo_push(p->gpd);
3300
3301   gp_session_cleanup(p);
3302
3303   p->status = GP_STATUS_IDLING;
3304   op->flag |= OP_IS_MODAL_CURSOR_REGION;
3305
3306   p->gpd = NULL;
3307   p->gpl = NULL;
3308   p->gpf = NULL;
3309 }
3310
3311 /* Move last stroke in the listbase to the head
3312  * to be drawn below all previous strokes in the layer. */
3313 static void gpencil_move_last_stroke_to_back(bContext *C)
3314 {
3315   /* Move last stroke (the polygon) to head of the listbase stroke
3316    * to draw on back of all previous strokes. */
3317   bGPdata *gpd = ED_gpencil_data_get_active(C);
3318   bGPDlayer *gpl = BKE_gpencil_layer_getactive(gpd);
3319
3320   /* sanity checks */
3321   if (ELEM(NULL, gpd, gpl, gpl->actframe)) {
3322     return;
3323   }
3324
3325   bGPDframe *gpf = gpl->actframe;
3326   bGPDstroke *gps = gpf->strokes.last;
3327   if (ELEM(NULL, gps)) {
3328     return;
3329   }
3330
3331   BLI_remlink(&gpf->strokes, gps);
3332   BLI_insertlinkbefore(&gpf->strokes, gpf->strokes.first, gps);
3333 }
3334
3335 /* add events for missing mouse movements when the artist draw very fast */
3336 static void gpencil_add_missing_events(bContext *C,
3337                                        wmOperator *op,
3338                                        const wmEvent *event,
3339                                        tGPsdata *p)
3340 {
3341   Brush *brush = p->brush;
3342   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3343   int input_samples = brush->gpencil_settings->input_samples;
3344
3345   /* ensure sampling when using circular guide */
3346   if (guide->use_guide && (guide->type == GP_GUIDE_CIRCULAR)) {
3347     input_samples = GP_MAX_INPUT_SAMPLES;
3348   }
3349
3350   if (input_samples == 0) {
3351     return;
3352   }
3353
3354   RegionView3D *rv3d = p->ar->regiondata;
3355   float defaultpixsize = rv3d->pixsize * 1000.0f;
3356   int samples = (GP_MAX_INPUT_SAMPLES - input_samples + 1);
3357   float thickness = (float)brush->size;
3358
3359   float pt[2], a[2], b[2];
3360   float vec[3];
3361   float scale = 1.0f;
3362
3363   /* get pixel scale */
3364   gp_get_3d_reference(p, vec);
3365   mul_m4_v3(rv3d->persmat, vec);
3366   if (rv3d->is_persp) {
3367     scale = vec[2] * defaultpixsize;
3368   }
3369   else {
3370     scale = defaultpixsize;
3371   }
3372
3373   /* The thickness of the brush is reduced of thickness to get overlap dots */
3374   float dot_factor = 0.50f;
3375   if (samples < 2) {
3376     dot_factor = 0.05f;
3377   }
3378   else if (samples < 4) {
3379     dot_factor = 0.10f;
3380   }
3381   else if (samples < 7) {
3382     dot_factor = 0.3f;
3383   }
3384   else if (samples < 10) {
3385     dot_factor = 0.4f;
3386   }
3387   float factor = ((thickness * dot_factor) / scale) * samples;
3388
3389   copy_v2_v2(a, p->mvalo);
3390   b[0] = (float)event->mval[0] + 1.0f;
3391   b[1] = (float)event->mval[1] + 1.0f;
3392
3393   /* get distance in pixels */
3394   float dist = len_v2v2(a, b);
3395
3396   /* for very small distances, add a half way point */
3397   if (dist <= 2.0f) {
3398     interp_v2_v2v2(pt, a, b, 0.5f);
3399     sub_v2_v2v2(pt, b, pt);
3400     /* create fake event */
3401     gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
3402   }
3403   else if (dist >= factor) {
3404     int slices = 2 + (int)((dist - 1.0) / factor);
3405     float n = 1.0f / slices;
3406     for (int i = 1; i < slices; i++) {
3407       interp_v2_v2v2(pt, a, b, n * i);
3408       sub_v2_v2v2(pt, b, pt);
3409       /* create fake event */
3410       gpencil_draw_apply_event(C, op, event, CTX_data_depsgraph(C), pt[0], pt[1]);
3411     }
3412   }
3413 }
3414
3415 /* events handling during interactive drawing part of operator */
3416 static int gpencil_draw_modal(bContext *C, wmOperator *op, const wmEvent *event)
3417 {
3418   tGPsdata *p = op->customdata;
3419   ToolSettings *ts = CTX_data_tool_settings(C);
3420   GP_Sculpt_Guide *guide = &p->scene->toolsettings->gp_sculpt.guide;
3421   /* default exit state - pass through to support MMB view nav, etc. */
3422   int estate = OPERATOR_PASS_THROUGH;
3423
3424   /* if (event->type == NDOF_MOTION)
3425    *    return OPERATOR_PASS_THROUGH;
3426    * -------------------------------
3427    * [mce] Not quite what I was looking
3428    * for, but a good start! GP continues to
3429    * draw on the screen while the 3D mouse
3430    * moves the viewpoint. Problem is that
3431    * the stroke is converted to 3D only after
3432    * it is finished. This approach should work
3433    * better in tools that immediately apply
3434    * in 3D space.
3435    */
3436
3437   if (p->status == GP_STATUS_IDLING) {
3438     ARegion *ar = CTX_wm_region(C);
3439     p->ar = ar;
3440   }
3441
3442   /* special mode for editing control points */
3443   if (p->paintmode == GP_PAINTMODE_SET_CP) {
3444     wmWindow *win = p->win;
3445     WM_cursor_modal_set(win, BC_NSEW_SCROLLCURSOR);
3446     bool drawmode = false;
3447
3448     switch (event->type) {
3449       /* cancel */
3450       case ESCKEY:
3451       case RIGHTMOUSE: {
3452         if (ELEM(event->val, KM_RELEASE)) {
3453           drawmode = true;
3454         }
3455         break;
3456       }
3457       /* set */
3458       case LEFTMOUSE: {
3459         if (ELEM(event->val, KM_RELEASE)) {
3460           gp_origin_set(op, event->mval);
3461           drawmode = true;
3462         }
3463         break;
3464       }
3465     }
3466     if (drawmode) {
3467       p->status = GP_STATUS_IDLING;
3468       p->paintmode = GP_PAINTMODE_DRAW;
3469       ED_gpencil_toggle_brush_cursor(C, true, NULL);
3470       DEG_id_tag_update(&p->scene->id, ID_RECALC_COPY_ON_WRITE);
3471     }
3472     else {
3473       return OPERATOR_RUNNING_MODAL;
3474     }
3475   }
3476
3477   /* we don't pass on key events, GP is used with key-modifiers - prevents Dkey to insert drivers */
3478   if (ISKEYBOARD(event->type)) {
3479     if (ELEM(event->type, LEFTARROWKEY, DOWNARROWKEY, RIGHTARROWKEY, UPARROWKEY, ZKEY)) {
3480       /* allow some keys:
3481        *   - for frame changing [#33412]
3482        *   - for undo (during sketching sessions)
3483        */
3484     }
3485     else if (ELEM(event->type, PAD0, PAD1, PAD2, PAD3, PAD4, PAD5, PAD6, PAD7, PAD8, PAD9)) {
3486       /* allow numpad keys so that camera/view manipulations can still take place
3487        * - PAD0 in particular is really important for Grease Pencil drawing,
3488        *   as animators may be working "to camera", so having this working
3489        *   is essential for ensuring that they can quickly return to that view
3490        */
3491     }
3492     else if ((event->type == BKEY) && (event->val == KM_RELEASE)) {
3493       /* Add Blank Frame
3494        * - Since this operator is non-modal, we can just call it here, and keep going...
3495        * - This operator is especially useful when animating
3496        */
3497       WM_operator_name_call(C, "GPENCIL_OT_blank_frame_add", WM_OP_EXEC_DEFAULT, NULL);
3498       estate = OPERATOR_RUNNING_MODAL;
3499     }
3500     else if ((!ELEM(p->paintmode, GP_PAINTMODE_ERASER, GP_PAINTMODE_SET_CP))) {
3501       gpencil_guide_event_handling(C, op, event, p);
3502       estate = OPERATOR_RUNNING_MODAL;
3503     }
3504     else {
3505       estate = OPERATOR_RUNNING_MODAL;
3506     }
3507   }
3508
3509   //printf("\tGP - handle modal event...\n");
3510
3511   /* exit painting mode (and/or end current stroke)
3512    * NOTE: cannot do RIGHTMOUSE (as is standard for canceling) as that would break polyline [#32647]
3513    */
3514   /* if polyline and release shift must cancel */
3515   if ((ELEM(event->type, RETKEY, PADENTER, ESCKEY, SPACEKEY, EKEY)) ||
3516       ((p->paintmode == GP_PAINTMODE_DRAW_POLY) && (event->shift == 0))) {
3517     /* exit() ends the current stroke before cleaning up */
3518     /* printf("\t\tGP - end of paint op + end of stroke\n"); */
3519     /* if drawing polygon and enable on back, must move stroke */
3520     if (ts) {
3521       if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
3522           (p->paintmode == GP_PAINTMODE_DRAW_POLY)) {
3523         if (p->flags & GP_PAINTFLAG_STROKEADDED) {
3524           gpencil_move_last_stroke_to_back(C);
3525         }
3526       }
3527     }
3528
3529     p->status = GP_STATUS_DONE;
3530     estate = OPERATOR_FINISHED;
3531   }
3532
3533   /* toggle painting mode upon mouse-button movement
3534    * - LEFTMOUSE  = standard drawing (all) / straight line drawing (all) / polyline (toolbox only)
3535    * - RIGHTMOUSE = polyline (hotkey) / eraser (all)
3536    *   (Disabling RIGHTMOUSE case here results in bugs like [#32647])
3537    * also making sure we have a valid event value, to not exit too early
3538    */
3539   if (ELEM(event->type, LEFTMOUSE, RIGHTMOUSE) && (ELEM(event->val, KM_PRESS, KM_RELEASE))) {
3540     /* if painting, end stroke */
3541     if (p->status == GP_STATUS_PAINTING) {
3542       int sketch = 0;
3543
3544       /* basically, this should be mouse-button up = end stroke
3545        * BUT, polyline drawing is an exception -- all knots should be added during one session
3546        */
3547       sketch |= (p->paintmode == GP_PAINTMODE_DRAW_POLY);
3548
3549       if (sketch) {
3550         /* end stroke only, and then wait to resume painting soon */
3551         /* printf("\t\tGP - end stroke only\n"); */
3552         gpencil_stroke_end(op);
3553
3554         /* If eraser mode is on, turn it off after the stroke finishes
3555          * NOTE: This just makes it nicer to work with drawing sessions
3556          */
3557         if (p->paintmode == GP_PAINTMODE_ERASER) {
3558           p->paintmode = RNA_enum_get(op->ptr, "mode");
3559
3560           /* if the original mode was *still* eraser,
3561            * we'll let it say for now, since this gives
3562            * users an opportunity to have visual feedback
3563            * when adjusting eraser size
3564            */
3565           if (p->paintmode != GP_PAINTMODE_ERASER) {
3566             /* turn off cursor...
3567              * NOTE: this should be enough for now
3568              *       Just hiding this makes it seem like
3569              *       you can paint again...
3570              */
3571             gpencil_draw_toggle_eraser_cursor(C, p, false);
3572           }
3573         }
3574
3575         /* we've just entered idling state, so this event was processed (but no others yet) */
3576         estate = OPERATOR_RUNNING_MODAL;
3577
3578         /* stroke could be smoothed, send notifier to refresh screen */
3579         WM_event_add_notifier(C, NC_GPENCIL | NA_EDITED, NULL);
3580       }
3581       else {
3582         /* printf("\t\tGP - end of stroke + op\n"); */
3583         /* if drawing polygon and enable on back, must move stroke */
3584         if (ts) {
3585           if ((ts->gpencil_flags & GP_TOOL_FLAG_PAINT_ONBACK) &&
3586               (p->paintmode == GP_PAINTMODE_DRAW_POLY)) {
3587             if (p->flags & GP_PAINTFLAG_STROKEADDED) {
3588               gpencil_move_last_stroke_to_back(C);
3589             }
3590           }
3591         }