ef4e09274f2f12b1d9d62b027226b6868c82b229
[blender-staging.git] / source / blender / editors / gpencil / gpencil_edit.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
19  *
20  * The Original Code is Copyright (C) 2008, Blender Foundation
21  * This is a new part of Blender
22  *
23  * Contributor(s): Joshua Leung
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27  
28 #include <stdio.h>
29 #include <string.h>
30 #include <stdlib.h>
31 #include <stddef.h>
32 #include <math.h>
33
34 #include "MEM_guardedalloc.h"
35
36 #include "IMB_imbuf.h"
37 #include "IMB_imbuf_types.h"
38
39 #include "BLI_arithb.h"
40 #include "BLI_blenlib.h"
41
42 #include "DNA_listBase.h"
43 #include "DNA_armature_types.h"
44 #include "DNA_curve_types.h"
45 #include "DNA_gpencil_types.h"
46 #include "DNA_object_types.h"
47 #include "DNA_scene_types.h"
48 #include "DNA_screen_types.h"
49 #include "DNA_space_types.h"
50 #include "DNA_userdef_types.h"
51 #include "DNA_vec_types.h"
52 #include "DNA_view3d_types.h"
53
54 #include "BKE_armature.h"
55 #include "BKE_blender.h"
56 #include "BKE_context.h"
57 #include "BKE_curve.h"
58 #include "BKE_global.h"
59 #include "BKE_gpencil.h"
60 #include "BKE_image.h"
61 #include "BKE_library.h"
62 #include "BKE_utildefines.h"
63
64 #include "BIF_gl.h"
65 #include "BIF_glutil.h"
66
67 #include "WM_api.h"
68 #include "WM_types.h"
69
70 #include "UI_view2d.h"
71
72 #include "ED_armature.h"
73 #include "ED_gpencil.h"
74 #include "ED_sequencer.h"
75 #include "ED_view3d.h"
76
77 #include "PIL_time.h"                   /* sleep                                */
78
79 #include "gpencil_intern.h"
80
81 /* XXX */
82 static void BIF_undo_push() {}
83 static void error() {}
84 static int pupmenu() {return 0;}
85 static void add_object_draw() {}
86 static int get_activedevice() {return 0;}
87 #define L_MOUSE 0
88 #define R_MOUSE 0
89
90 /* ************************************************** */
91 /* XXX - OLD DEPRECEATED CODE... */
92
93 /* ----------- GP-Datablock API ------------- */
94
95 /* get the appropriate bGPdata from the active/given context */
96 // XXX region or region data?
97 bGPdata *gpencil_data_getactive (ScrArea *sa)
98 {
99         ScrArea *curarea= NULL; // XXX
100         
101         /* error checking */
102         if ((sa == NULL) && (curarea == NULL))
103                 return NULL;
104         if (sa == NULL)
105                 sa= curarea;
106                 
107         /* handle depending on spacetype */
108         switch (sa->spacetype) {
109                 case SPACE_VIEW3D:
110                 {
111                         View3D *v3d= sa->spacedata.first;
112                         return v3d->gpd;
113                 }
114                         break;
115                 case SPACE_NODE:
116                 {
117                         SpaceNode *snode= sa->spacedata.first;
118                         return snode->gpd;
119                 }
120                         break;
121                 case SPACE_SEQ:
122                 {
123                         SpaceSeq *sseq= sa->spacedata.first;
124                         
125                         /* only applicable for image modes */
126                         if (sseq->mainb != SEQ_DRAW_SEQUENCE)
127                                 return sseq->gpd;
128                 }
129                         break;
130                 case SPACE_IMAGE:
131                 {
132                         SpaceImage *sima= sa->spacedata.first;
133                         return sima->gpd;
134                 }
135                         break;
136         }
137         
138         /* nothing found */
139         return NULL;
140 }
141
142 /* set bGPdata for the active/given context, and return success/fail */
143 short gpencil_data_setactive (ScrArea *sa, bGPdata *gpd)
144 {
145         ScrArea *curarea= NULL; // XXX
146         
147         /* error checking */
148         if ((sa == NULL) && (curarea == NULL))
149                 return 0;
150         if (gpd == NULL)
151                 return 0;
152         if (sa == NULL)
153                 sa= curarea;
154         
155         /* handle depending on spacetype */
156         // TODO: someday we should have multi-user data, so no need to loose old data
157         switch (sa->spacetype) {
158                 case SPACE_VIEW3D:
159                 {
160                         View3D *v3d= sa->spacedata.first;
161                         
162                         /* free the existing block */
163                         if (v3d->gpd)
164                                 free_gpencil_data(v3d->gpd);
165                         v3d->gpd= gpd;
166                         
167                         return 1;
168                 }
169                         break;
170                 case SPACE_NODE:
171                 {
172                         SpaceNode *snode= sa->spacedata.first;
173                         
174                         /* free the existing block */
175                         if (snode->gpd)
176                                 free_gpencil_data(snode->gpd);
177                         snode->gpd= gpd;
178                         
179                         /* set special settings */
180                         gpd->flag |= GP_DATA_VIEWALIGN;
181                         
182                         return 1;
183                 }
184                         break;
185                 case SPACE_SEQ:
186                 {
187                         SpaceSeq *sseq= sa->spacedata.first;
188                         
189                         /* only applicable if right mode */
190                         if (sseq->mainb != SEQ_DRAW_SEQUENCE) {
191                                 /* free the existing block */
192                                 if (sseq->gpd)
193                                         free_gpencil_data(sseq->gpd);
194                                 sseq->gpd= gpd;
195                                 
196                                 return 1;
197                         }
198                 }
199                         break;
200                 case SPACE_IMAGE:
201                 {
202                         SpaceImage *sima= sa->spacedata.first;
203                         
204                         if (sima->gpd)
205                                 free_gpencil_data(sima->gpd);
206                         sima->gpd= gpd;
207                         
208                         return 1;
209                 }
210                         break;
211         }
212         
213         /* failed to add */
214         return 0;
215 }
216
217 /* return the ScrArea that has the given GP-datablock
218  *      - assumes that only searching in current screen
219  *      - is based on GP-datablocks only being able to 
220  *        exist for one area at a time (i.e. not multiuser)
221  */
222 ScrArea *gpencil_data_findowner (bGPdata *gpd)
223 {
224         bScreen *curscreen= NULL; // XXX
225         ScrArea *sa;
226         
227         /* error checking */
228         if (gpd == NULL)
229                 return NULL;
230                 
231         /* loop over all scrareas for current screen, and check if that area has this gpd */
232         for (sa= curscreen->areabase.first; sa; sa= sa->next) {
233                 /* use get-active func to see if match */
234                 if (gpencil_data_getactive(sa) == gpd)
235                         return sa;
236         }
237         
238         /* not found */
239         return NULL;
240 }
241
242 /* ************************************************** */
243 /* GREASE-PENCIL EDITING - Tools */
244
245 /* --------- Data Deletion ---------- */
246
247 /* delete the last stroke on the active layer */
248 void gpencil_delete_laststroke (bGPdata *gpd, int cfra)
249 {
250         bGPDlayer *gpl= gpencil_layer_getactive(gpd);
251         bGPDframe *gpf= gpencil_layer_getframe(gpl, cfra, 0);
252         
253         gpencil_frame_delete_laststroke(gpl, gpf);
254 }
255
256 /* delete the active frame */
257 void gpencil_delete_actframe (bGPdata *gpd, int cfra)
258 {
259         bGPDlayer *gpl= gpencil_layer_getactive(gpd);
260         bGPDframe *gpf= gpencil_layer_getframe(gpl, cfra, 0);
261         
262         gpencil_layer_delframe(gpl, gpf);
263 }
264
265
266
267 /* delete various grase-pencil elements 
268  *      mode:   1 - last stroke
269  *                      2 - active frame
270  *                      3 - active layer
271  */
272 void gpencil_delete_operation (int cfra, short mode)
273 {
274         bGPdata *gpd;
275         
276         /* get datablock to work on */
277         gpd= gpencil_data_getactive(NULL);
278         if (gpd == NULL) return;
279         
280         switch (mode) {
281                 case 1: /* last stroke */
282                         gpencil_delete_laststroke(gpd, cfra);
283                         break;
284                 case 2: /* active frame */
285                         gpencil_delete_actframe(gpd, cfra);
286                         break;
287                 case 3: /* active layer */
288                         gpencil_layer_delactive(gpd);
289                         break;
290         }
291         
292         /* redraw and undo-push */
293         BIF_undo_push("GPencil Delete");
294 }
295
296 /* display a menu for deleting different grease-pencil elements */
297 void gpencil_delete_menu (void)
298 {
299         bGPdata *gpd= gpencil_data_getactive(NULL);
300         int cfra= 0; // XXX
301         short mode;
302         
303         /* only show menu if it will be relevant */
304         if (gpd == NULL) return;
305         
306         mode= pupmenu("Grease Pencil Erase...%t|Last Stroke%x1|Active Frame%x2|Active Layer%x3");
307         if (mode <= 0) return;
308         
309         gpencil_delete_operation(cfra, mode);
310 }
311
312 /* --------- Data Conversion ---------- */
313
314 /* convert the coordinates from the given stroke point into 3d-coordinates */
315 static void gp_strokepoint_convertcoords (bGPDstroke *gps, bGPDspoint *pt, float p3d[3])
316 {
317         ARegion *ar= NULL; // XXX
318         
319         if (gps->flag & GP_STROKE_3DSPACE) {
320                 /* directly use 3d-coordinates */
321                 VecCopyf(p3d, &pt->x);
322         }
323         else {
324                 short mval[2];
325                 int mx=0, my=0;
326                 float *fp= give_cursor(NULL, NULL); // XXX should be scene, v3d
327                 float dvec[3];
328                 
329                 /* get screen coordinate */
330                 if (gps->flag & GP_STROKE_2DSPACE) {
331                         // XXX
332                         // View2D *v2d= spacelink_get_view2d(curarea->spacedata.first);
333                         // UI_view2d_view_to_region(v2d, pt->x, pt->y, &mx, &my);
334                 }
335                 else {
336                         // XXX
337                         // mx= (short)(pt->x / 1000 * curarea->winx);
338                         // my= (short)(pt->y / 1000 * curarea->winy);
339                 }
340                 
341                 /* convert screen coordinate to 3d coordinates 
342                  *      - method taken from editview.c - mouse_cursor() 
343                  */
344                 project_short_noclip(ar, fp, mval);
345                 window_to_3d_delta(ar, dvec, mval[0]-mx, mval[1]-my);
346                 VecSubf(p3d, fp, dvec);
347         }
348 }
349
350 /* --- */
351
352 /* convert stroke to 3d path */
353 static void gp_stroke_to_path (bGPDlayer *gpl, bGPDstroke *gps, Curve *cu)
354 {
355         bGPDspoint *pt;
356         Nurb *nu;
357         BPoint *bp;
358         int i;
359         
360         /* create new 'nurb' within the curve */
361         nu = (Nurb *)MEM_callocN(sizeof(Nurb), "gpstroke_to_path(nurb)");
362         
363         nu->pntsu= gps->totpoints;
364         nu->pntsv= 1;
365         nu->orderu= gps->totpoints;
366         nu->flagu= 2;   /* endpoint */
367         nu->resolu= 32;
368         
369         nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*gps->totpoints, "bpoints");
370         
371         /* add points */
372         for (i=0, pt=gps->points, bp=nu->bp; i < gps->totpoints; i++, pt++, bp++) {
373                 float p3d[3];
374                 
375                 /* get coordinates to add at */
376                 gp_strokepoint_convertcoords(gps, pt, p3d);
377                 VecCopyf(bp->vec, p3d);
378                 
379                 /* set settings */
380                 bp->f1= SELECT;
381                 bp->radius = bp->weight = pt->pressure * gpl->thickness;
382         }
383         
384         /* add nurb to curve */
385         BLI_addtail(&cu->nurb, nu);
386 }
387
388 /* convert stroke to 3d bezier */
389 static void gp_stroke_to_bezier (bGPDlayer *gpl, bGPDstroke *gps, Curve *cu)
390 {
391         bGPDspoint *pt;
392         Nurb *nu;
393         BezTriple *bezt;
394         int i;
395         
396         /* create new 'nurb' within the curve */
397         nu = (Nurb *)MEM_callocN(sizeof(Nurb), "gpstroke_to_bezier(nurb)");
398         
399         nu->pntsu= gps->totpoints;
400         nu->resolu= 12;
401         nu->resolv= 12;
402         nu->type= CU_BEZIER;
403         nu->bezt = (BezTriple *)MEM_callocN(gps->totpoints*sizeof(BezTriple), "bezts");
404         
405         /* add points */
406         for (i=0, pt=gps->points, bezt=nu->bezt; i < gps->totpoints; i++, pt++, bezt++) {
407                 float p3d[3];
408                 
409                 /* get coordinates to add at */
410                 gp_strokepoint_convertcoords(gps, pt, p3d);
411                 
412                 /* TODO: maybe in future the handles shouldn't be in same place */
413                 VecCopyf(bezt->vec[0], p3d);
414                 VecCopyf(bezt->vec[1], p3d);
415                 VecCopyf(bezt->vec[2], p3d);
416                 
417                 /* set settings */
418                 bezt->h1= bezt->h2= HD_FREE;
419                 bezt->f1= bezt->f2= bezt->f3= SELECT;
420                 bezt->radius = bezt->weight = pt->pressure * gpl->thickness * 0.1f;
421         }
422         
423         /* must calculate handles or else we crash */
424         calchandlesNurb(nu);
425         
426         /* add nurb to curve */
427         BLI_addtail(&cu->nurb, nu);
428 }
429
430 /* convert a given grease-pencil layer to a 3d-curve representation (using current view if appropriate) */
431 static void gp_layer_to_curve (bGPdata *gpd, bGPDlayer *gpl, Scene *scene, short mode)
432 {
433         bGPDframe *gpf= gpencil_layer_getframe(gpl, scene->r.cfra, 0);
434         bGPDstroke *gps;
435         Object *ob;
436         Curve *cu;
437         
438         /* error checking */
439         if (ELEM3(NULL, gpd, gpl, gpf))
440                 return;
441                 
442         /* only convert if there are any strokes on this layer's frame to convert */
443         if (gpf->strokes.first == NULL)
444                 return;
445         
446         /* init the curve object (remove rotation and get curve data from it)
447          *      - must clear transforms set on object, as those skew our results
448          */
449         add_object_draw(OB_CURVE);
450         ob= OBACT;
451         ob->loc[0]= ob->loc[1]= ob->loc[2]= 0;
452         ob->rot[0]= ob->rot[1]= ob->rot[2]= 0;
453         cu= ob->data;
454         cu->flag |= CU_3D;
455         
456         /* rename object and curve to layer name */
457         rename_id((ID *)ob, gpl->info);
458         rename_id((ID *)cu, gpl->info);
459         
460         /* add points to curve */
461         for (gps= gpf->strokes.first; gps; gps= gps->next) {
462                 switch (mode) {
463                         case 1: 
464                                 gp_stroke_to_path(gpl, gps, cu);
465                                 break;
466                         case 2:
467                                 gp_stroke_to_bezier(gpl, gps, cu);
468                                 break;
469                 }
470         }
471 }
472
473 /* --- */
474
475 /* convert a stroke to a bone chain */
476 static void gp_stroke_to_bonechain (bGPDlayer *gpl, bGPDstroke *gps, bArmature *arm, ListBase *bones)
477 {
478         EditBone *ebo, *prev=NULL;
479         bGPDspoint *pt, *ptn;
480         int i;
481         
482         /* add each segment separately */
483         for (i=0, pt=gps->points, ptn=gps->points+1; i < (gps->totpoints-1); prev=ebo, i++, pt++, ptn++) {
484                 float p3da[3], p3db[3];
485                 
486                 /* get coordinates to add at */
487                 gp_strokepoint_convertcoords(gps, pt, p3da);
488                 gp_strokepoint_convertcoords(gps, ptn, p3db);
489                 
490                 /* allocate new bone */
491                 ebo= MEM_callocN(sizeof(EditBone), "eBone");
492                 
493                 VecCopyf(ebo->head, p3da);
494                 VecCopyf(ebo->tail, p3db);
495                 
496                 /* add new bone - note: sync with editarmature.c::add_editbone() */
497                 {
498                         BLI_strncpy(ebo->name, "Stroke", 32);
499                         unique_editbone_name(bones, ebo->name, NULL);
500                         
501                         BLI_addtail(bones, ebo);
502                         
503                         if (i > 0)
504                         {
505                                 ebo->flag |= BONE_CONNECTED;
506                         }
507                         ebo->weight= 1.0f;
508                         ebo->dist= 0.25f;
509                         ebo->xwidth= 0.1f;
510                         ebo->zwidth= 0.1f;
511                         ebo->ease1= 1.0f;
512                         ebo->ease2= 1.0f;
513                         ebo->rad_head= pt->pressure * gpl->thickness * 0.1f;
514                         ebo->rad_tail= ptn->pressure * gpl->thickness * 0.1f;
515                         ebo->segments= 1;
516                         ebo->layer= arm->layer;
517                 }
518                 
519                 /* set parenting */
520                 ebo->parent= prev;
521         }
522 }
523
524 /* convert a given grease-pencil layer to a 3d-curve representation (using current view if appropriate) */
525 // XXX depreceated... we now have etch-a-ton for this...
526 static void gp_layer_to_armature (bGPdata *gpd, bGPDlayer *gpl, Scene *scene, View3D *v3d, short mode)
527 {
528         bGPDframe *gpf= gpencil_layer_getframe(gpl, scene->r.cfra, 0);
529         bGPDstroke *gps;
530         Object *ob;
531         bArmature *arm;
532         
533         /* error checking */
534         if (ELEM3(NULL, gpd, gpl, gpf))
535                 return;
536                 
537         /* only convert if there are any strokes on this layer's frame to convert */
538         if (gpf->strokes.first == NULL)
539                 return;
540         
541         /* init the armature object (remove rotation and assign armature data to it) 
542          *      - must clear transforms set on object, as those skew our results
543          */
544         add_object_draw(OB_ARMATURE);
545         ob= OBACT;
546         ob->loc[0]= ob->loc[1]= ob->loc[2]= 0;
547         ob->rot[0]= ob->rot[1]= ob->rot[2]= 0;
548         arm= ob->data;
549         
550         /* rename object and armature to layer name */
551         rename_id((ID *)ob, gpl->info);
552         rename_id((ID *)arm, gpl->info);
553         
554         /* this is editmode armature */
555         arm->edbo= MEM_callocN(sizeof(ListBase), "arm edbo");
556         
557         /* convert segments to bones, strokes to bone chains */
558         for (gps= gpf->strokes.first; gps; gps= gps->next) {
559                 gp_stroke_to_bonechain(gpl, gps, arm, arm->edbo);
560         }
561         
562         /* adjust roll of bones
563          *      - set object as EditMode object, but need to clear afterwards!
564          *      - use 'align to world z-up' option
565          */
566         {
567                 /* set our data as if we're in editmode to fool auto_align_armature() */
568                 scene->obedit= ob;
569                 
570                 /* WARNING: need to make sure this magic number doesn't change */
571                 auto_align_armature(scene, v3d, 2);     
572                 
573                 scene->obedit= NULL;
574         }
575         
576         /* flush editbones to armature */
577         ED_armature_from_edit(scene, ob);
578         ED_armature_edit_free(ob);
579 }
580
581 /* --- */
582
583 /* convert grease-pencil strokes to another representation 
584  *      mode:   1 - Active layer to path
585  *                      2 - Active layer to bezier
586  *                      3 - Active layer to armature
587  */
588 void gpencil_convert_operation (short mode)
589 {
590         Scene *scene= NULL; // XXX
591         View3D *v3d= NULL; // XXX
592         RegionView3D *rv3d= NULL; // XXX
593         bGPdata *gpd;   
594         float *fp= give_cursor(scene, v3d);
595         
596         /* get datablock to work on */
597         gpd= gpencil_data_getactive(NULL);
598         if (gpd == NULL) return;
599         
600         /* initialise 3d-cursor correction globals */
601         initgrabz(rv3d, fp[0], fp[1], fp[2]);
602         
603         /* handle selection modes */
604         switch (mode) {
605                 case 1: /* active layer only (to path) */
606                 case 2: /* active layer only (to bezier) */
607                 {
608                         bGPDlayer *gpl= gpencil_layer_getactive(gpd);
609                         gp_layer_to_curve(gpd, gpl, scene, mode);
610                 }
611                         break;
612                 case 3: /* active layer only (to armature) */
613                 {
614                         bGPDlayer *gpl= gpencil_layer_getactive(gpd);
615                         gp_layer_to_armature(gpd, gpl, scene, v3d, mode);
616                 }
617                         break;
618         }
619         
620         /* redraw and undo-push */
621         BIF_undo_push("GPencil Convert");
622 }
623
624 /* ************************************************** */
625 /* GREASE-PENCIL EDITING MODE - Painting */
626
627 /* ---------- 'Globals' and Defines ----------------- */
628
629 /* maximum sizes of gp-session buffer */
630 #define GP_STROKE_BUFFER_MAX    5000
631
632 /* Macros for accessing sensitivity thresholds... */
633         /* minimum number of pixels mouse should move before new point created */
634 #define MIN_MANHATTEN_PX        (U.gp_manhattendist)
635         /* minimum length of new segment before new point can be added */
636 #define MIN_EUCLIDEAN_PX        (U.gp_euclideandist)
637
638 /* macro to test if only converting endpoints - only for use when converting!  */       
639 #define GP_BUFFER2STROKE_ENDPOINTS ((gpd->flag & GP_DATA_EDITPAINT) && (ctrl))
640         
641 /* ------ */
642
643 /* Temporary 'Stroke' Operation data */
644 typedef struct tGPsdata {
645         Scene *scene;       /* current scene from context */
646         ScrArea *sa;            /* area where painting originated */
647         ARegion *ar;        /* region where painting originated */
648         View2D *v2d;            /* needed for GP_STROKE_2DSPACE */
649         
650         ImBuf *ibuf;            /* needed for GP_STROKE_2DIMAGE */
651         struct IBufViewSettings {
652                 int offsx, offsy;                       /* offsets */
653                 int sizex, sizey;                       /* dimensions to use as scale-factor */
654         } im2d_settings;        /* needed for GP_STROKE_2DIMAGE */
655         
656         bGPdata *gpd;           /* gp-datablock layer comes from */
657         bGPDlayer *gpl;         /* layer we're working on */
658         bGPDframe *gpf;         /* frame we're working on */
659         
660         short status;           /* current status of painting */
661         short paintmode;        /* mode for painting */
662         
663         short mval[2];          /* current mouse-position */
664         short mvalo[2];         /* previous recorded mouse-position */
665         
666         float pressure;         /* current stylus pressure */
667         float opressure;        /* previous stylus pressure */
668         
669         short radius;           /* radius of influence for eraser */
670 } tGPsdata;
671
672 /* values for tGPsdata->status */
673 enum {
674         GP_STATUS_NORMAL = 0,   /* running normally */
675         GP_STATUS_ERROR,                /* something wasn't correctly set up */
676         GP_STATUS_DONE                  /* painting done */
677 };
678
679 /* values for tGPsdata->paintmode */
680 enum {
681         GP_PAINTMODE_DRAW = 0,
682         GP_PAINTMODE_ERASER
683 };
684
685 /* Return flags for adding points to stroke buffer */
686 enum {
687         GP_STROKEADD_INVALID    = -2,           /* error occurred - insufficient info to do so */
688         GP_STROKEADD_OVERFLOW   = -1,           /* error occurred - cannot fit any more points */
689         GP_STROKEADD_NORMAL,                            /* point was successfully added */
690         GP_STROKEADD_FULL                                       /* cannot add any more points to buffer */
691 };
692
693 /* ---------- Stroke Editing ------------ */
694
695 /* clear the session buffers (call this before AND after a paint operation) */
696 static void gp_session_validatebuffer (tGPsdata *p)
697 {
698         bGPdata *gpd= p->gpd;
699         
700         /* clear memory of buffer (or allocate it if starting a new session) */
701         if (gpd->sbuffer)
702                 memset(gpd->sbuffer, 0, sizeof(tGPspoint)*GP_STROKE_BUFFER_MAX);
703         else
704                 gpd->sbuffer= MEM_callocN(sizeof(tGPspoint)*GP_STROKE_BUFFER_MAX, "gp_session_strokebuffer");
705         
706         /* reset indices */
707         gpd->sbuffer_size = 0;
708         
709         /* reset flags */
710         gpd->sbuffer_sflag= 0;
711 }
712
713 /* check if the current mouse position is suitable for adding a new point */
714 static short gp_stroke_filtermval (tGPsdata *p, short mval[2], short pmval[2])
715 {
716         short dx= abs(mval[0] - pmval[0]);
717         short dy= abs(mval[1] - pmval[1]);
718         
719         /* check if mouse moved at least certain distance on both axes (best case) */
720         if ((dx > MIN_MANHATTEN_PX) && (dy > MIN_MANHATTEN_PX))
721                 return 1;
722         
723         /* check if the distance since the last point is significant enough */
724         // future optimisation: sqrt here may be too slow?
725         else if (sqrt(dx*dx + dy*dy) > MIN_EUCLIDEAN_PX)
726                 return 1;
727         
728         /* mouse 'didn't move' */
729         else
730                 return 0;
731 }
732
733 /* convert screen-coordinates to buffer-coordinates */
734 static void gp_stroke_convertcoords (tGPsdata *p, short mval[], float out[])
735 {
736         bGPdata *gpd= p->gpd;
737         
738         /* in 3d-space - pt->x/y/z are 3 side-by-side floats */
739         if (gpd->sbuffer_sflag & GP_STROKE_3DSPACE) {
740                 const short mx=mval[0], my=mval[1];
741                 float *fp= give_cursor(p->scene, NULL); // XXX NULL could be v3d
742                 float dvec[3];
743                 
744                 /* Current method just converts each point in screen-coordinates to 
745                  * 3D-coordinates using the 3D-cursor as reference. In general, this 
746                  * works OK, but it could of course be improved.
747                  *
748                  * TODO:
749                  *      - investigate using nearest point(s) on a previous stroke as
750                  *        reference point instead or as offset, for easier stroke matching
751                  *      - investigate projection onto geometry (ala retopo)
752                  */
753                 
754                 /* method taken from editview.c - mouse_cursor() */
755                 project_short_noclip(p->ar, fp, mval);
756                 window_to_3d_delta(p->ar, dvec, mval[0]-mx, mval[1]-my);
757                 VecSubf(out, fp, dvec);
758         }
759         
760         /* 2d - on 'canvas' (assume that p->v2d is set) */
761         else if ((gpd->sbuffer_sflag & GP_STROKE_2DSPACE) && (p->v2d)) {
762                 float x, y;
763                 
764                 UI_view2d_region_to_view(p->v2d, mval[0], mval[1], &x, &y);
765                 
766                 out[0]= x;
767                 out[1]= y;
768         }
769         
770         /* 2d - on image 'canvas' (assume that p->v2d is set) */
771         else if (gpd->sbuffer_sflag & GP_STROKE_2DIMAGE) {
772                 int sizex, sizey, offsx, offsy;
773                 
774                 /* get stored settings 
775                  *      - assume that these have been set already (there are checks that set sane 'defaults' just in case)
776                  */
777                 sizex= p->im2d_settings.sizex;
778                 sizey= p->im2d_settings.sizey;
779                 offsx= p->im2d_settings.offsx;
780                 offsy= p->im2d_settings.offsy;
781                 
782                 /* calculate new points */
783                 out[0]= (float)(mval[0] - offsx) / (float)sizex;
784                 out[1]= (float)(mval[1] - offsy) / (float)sizey;
785         }
786         
787         /* 2d - relative to screen (viewport area) */
788         else {
789                 out[0] = (float)(mval[0]) / (float)(p->sa->winx) * 1000;
790                 out[1] = (float)(mval[1]) / (float)(p->sa->winy) * 1000;
791         }
792 }
793
794 /* add current stroke-point to buffer (returns whether point was successfully added) */
795 static short gp_stroke_addpoint (tGPsdata *p, short mval[2], float pressure)
796 {
797         bGPdata *gpd= p->gpd;
798         tGPspoint *pt;
799         
800         /* check if still room in buffer */
801         if (gpd->sbuffer_size >= GP_STROKE_BUFFER_MAX)
802                 return GP_STROKEADD_OVERFLOW;
803         
804         /* get pointer to destination point */
805         pt= ((tGPspoint *)(gpd->sbuffer) + gpd->sbuffer_size);
806         
807         /* store settings */
808         pt->x= mval[0];
809         pt->y= mval[1];
810         pt->pressure= pressure;
811         
812         /* increment counters */
813         gpd->sbuffer_size++;
814         
815         /* check if another operation can still occur */
816         if (gpd->sbuffer_size == GP_STROKE_BUFFER_MAX)
817                 return GP_STROKEADD_FULL;
818         else
819                 return GP_STROKEADD_NORMAL;
820 }
821
822 /* smooth a stroke (in buffer) before storing it */
823 static void gp_stroke_smooth (tGPsdata *p)
824 {
825         bGPdata *gpd= p->gpd;
826         int i=0, cmx=gpd->sbuffer_size;
827         int ctrl= 0; // XXX
828         
829         /* only smooth if smoothing is enabled, and we're not doing a straight line */
830         if (!(U.gp_settings & GP_PAINT_DOSMOOTH) || GP_BUFFER2STROKE_ENDPOINTS)
831                 return;
832         
833         /* don't try if less than 2 points in buffer */
834         if ((cmx <= 2) || (gpd->sbuffer == NULL))
835                 return;
836         
837         /* apply weighting-average (note doing this along path sequentially does introduce slight error) */
838         for (i=0; i < gpd->sbuffer_size; i++) {
839                 tGPspoint *pc= (((tGPspoint *)gpd->sbuffer) + i);
840                 tGPspoint *pb= (i-1 > 0)?(pc-1):(pc);
841                 tGPspoint *pa= (i-2 > 0)?(pc-2):(pb);
842                 tGPspoint *pd= (i+1 < cmx)?(pc+1):(pc);
843                 tGPspoint *pe= (i+2 < cmx)?(pc+2):(pd);
844                 
845                 pc->x= (short)(0.1*pa->x + 0.2*pb->x + 0.4*pc->x + 0.2*pd->x + 0.1*pe->x);
846                 pc->y= (short)(0.1*pa->y + 0.2*pb->y + 0.4*pc->y + 0.2*pd->y + 0.1*pe->y);
847         }
848 }
849
850 /* simplify a stroke (in buffer) before storing it 
851  *      - applies a reverse Chaikin filter
852  *      - code adapted from etch-a-ton branch (editarmature_sketch.c)
853  */
854 static void gp_stroke_simplify (tGPsdata *p)
855 {
856         bGPdata *gpd= p->gpd;
857         tGPspoint *old_points= (tGPspoint *)gpd->sbuffer;
858         short num_points= gpd->sbuffer_size;
859         short flag= gpd->sbuffer_sflag;
860         short i, j;
861         int ctrl= 0; // XXX
862         
863         /* only simplify if simlification is enabled, and we're not doing a straight line */
864         if (!(U.gp_settings & GP_PAINT_DOSIMPLIFY) || GP_BUFFER2STROKE_ENDPOINTS)
865                 return;
866         
867         /* don't simplify if less than 4 points in buffer */
868         if ((num_points <= 2) || (old_points == NULL))
869                 return;
870                 
871         /* clear buffer (but don't free mem yet) so that we can write to it 
872          *      - firstly set sbuffer to NULL, so a new one is allocated
873          *      - secondly, reset flag after, as it gets cleared auto
874          */
875         gpd->sbuffer= NULL;
876         gp_session_validatebuffer(p);
877         gpd->sbuffer_sflag = flag;
878         
879 /* macro used in loop to get position of new point
880  *      - used due to the mixture of datatypes in use here
881  */
882 #define GP_SIMPLIFY_AVPOINT(offs, sfac) \
883         { \
884                 co[0] += (float)(old_points[offs].x * sfac); \
885                 co[1] += (float)(old_points[offs].y * sfac); \
886                 pressure += old_points[offs].pressure * sfac; \
887         }
888         
889         for (i = 0, j = 0; i < num_points; i++)
890         {
891                 if (i - j == 3)
892                 {
893                         float co[2], pressure;
894                         short mco[2];
895                         
896                         /* initialise values */
897                         co[0]= 0;
898                         co[1]= 0;
899                         pressure = 0;
900                         
901                         /* using macro, calculate new point */
902                         GP_SIMPLIFY_AVPOINT(j, -0.25f);
903                         GP_SIMPLIFY_AVPOINT(j+1, 0.75f);
904                         GP_SIMPLIFY_AVPOINT(j+2, 0.75f);
905                         GP_SIMPLIFY_AVPOINT(j+3, -0.25f);
906                         
907                         /* set values for adding */
908                         mco[0]= (short)co[0];
909                         mco[1]= (short)co[1];
910                         
911                         /* ignore return values on this... assume to be ok for now */
912                         gp_stroke_addpoint(p, mco, pressure);
913                         
914                         j += 2;
915                 }
916         } 
917         
918         /* free old buffer */
919         MEM_freeN(old_points);
920 }
921
922
923 /* make a new stroke from the buffer data */
924 static void gp_stroke_newfrombuffer (tGPsdata *p)
925 {
926         bGPdata *gpd= p->gpd;
927         bGPDstroke *gps;
928         bGPDspoint *pt;
929         tGPspoint *ptc;
930         int i, totelem;
931         int ctrl= 0; // XXX
932         
933         /* get total number of points to allocate space for:
934          *      - in 'Draw Mode', holding the Ctrl-Modifier will only take endpoints
935          *      - otherwise, do whole stroke
936          */
937         if (GP_BUFFER2STROKE_ENDPOINTS)
938                 totelem = (gpd->sbuffer_size >= 2) ? 2: gpd->sbuffer_size;
939         else
940                 totelem = gpd->sbuffer_size;
941         
942         /* exit with error if no valid points from this stroke */
943         if (totelem == 0) {
944                 if (G.f & G_DEBUG) 
945                         printf("Error: No valid points in stroke buffer to convert (tot=%d) \n", gpd->sbuffer_size);
946                 return;
947         }
948         
949         /* allocate memory for a new stroke */
950         gps= MEM_callocN(sizeof(bGPDstroke), "gp_stroke");
951         
952         /* allocate enough memory for a continuous array for storage points */
953         pt= gps->points= MEM_callocN(sizeof(bGPDspoint)*totelem, "gp_stroke_points");
954         
955         /* copy appropriate settings for stroke */
956         gps->totpoints= totelem;
957         gps->thickness= p->gpl->thickness;
958         gps->flag= gpd->sbuffer_sflag;
959         
960         /* copy points from the buffer to the stroke */
961         if (GP_BUFFER2STROKE_ENDPOINTS) {
962                 /* 'Draw Mode' + Ctrl-Modifier - only endpoints */
963                 {
964                         /* first point */
965                         ptc= gpd->sbuffer;
966                         
967                         /* convert screen-coordinates to appropriate coordinates (and store them) */
968                         gp_stroke_convertcoords(p, &ptc->x, &pt->x);
969                         
970                         /* copy pressure */
971                         pt->pressure= ptc->pressure;
972                         
973                         pt++;
974                 }
975                         
976                 if (totelem == 2) {
977                         /* last point if applicable */
978                         ptc= ((tGPspoint *)gpd->sbuffer) + (gpd->sbuffer_size - 1);
979                         
980                         /* convert screen-coordinates to appropriate coordinates (and store them) */
981                         gp_stroke_convertcoords(p, &ptc->x, &pt->x);
982                         
983                         /* copy pressure */
984                         pt->pressure= ptc->pressure;
985                 }
986         }
987         else {
988                 /* convert all points (normal behaviour) */
989                 for (i=0, ptc=gpd->sbuffer; i < gpd->sbuffer_size && ptc; i++, ptc++) {
990                         /* convert screen-coordinates to appropriate coordinates (and store them) */
991                         gp_stroke_convertcoords(p, &ptc->x, &pt->x);
992                         
993                         /* copy pressure */
994                         pt->pressure= ptc->pressure;
995                         
996                         pt++;
997                 }
998         }
999         
1000         /* add stroke to frame */
1001         BLI_addtail(&p->gpf->strokes, gps);
1002 }
1003
1004 /* --- 'Eraser' for 'Paint' Tool ------ */
1005
1006 /* eraser tool - remove segment from stroke/split stroke (after lasso inside) */
1007 static short gp_stroke_eraser_splitdel (bGPDframe *gpf, bGPDstroke *gps, int i)
1008 {
1009         bGPDspoint *pt_tmp= gps->points;
1010         bGPDstroke *gsn = NULL;
1011
1012         /* if stroke only had two points, get rid of stroke */
1013         if (gps->totpoints == 2) {
1014                 /* free stroke points, then stroke */
1015                 MEM_freeN(pt_tmp);
1016                 BLI_freelinkN(&gpf->strokes, gps);
1017                 
1018                 /* nothing left in stroke, so stop */
1019                 return 1;
1020         }
1021
1022         /* if last segment, just remove segment from the stroke */
1023         else if (i == gps->totpoints - 2) {
1024                 /* allocate new points array, and assign most of the old stroke there */
1025                 gps->totpoints--;
1026                 gps->points= MEM_callocN(sizeof(bGPDspoint)*gps->totpoints, "gp_stroke_points");
1027                 memcpy(gps->points, pt_tmp, sizeof(bGPDspoint)*gps->totpoints);
1028                 
1029                 /* free temp buffer */
1030                 MEM_freeN(pt_tmp);
1031                 
1032                 /* nothing left in stroke, so stop */
1033                 return 1;
1034         }
1035
1036         /* if first segment, just remove segment from the stroke */
1037         else if (i == 0) {
1038                 /* allocate new points array, and assign most of the old stroke there */
1039                 gps->totpoints--;
1040                 gps->points= MEM_callocN(sizeof(bGPDspoint)*gps->totpoints, "gp_stroke_points");
1041                 memcpy(gps->points, pt_tmp + 1, sizeof(bGPDspoint)*gps->totpoints);
1042                 
1043                 /* free temp buffer */
1044                 MEM_freeN(pt_tmp);
1045                 
1046                 /* no break here, as there might still be stuff to remove in this stroke */
1047                 return 0;
1048         }
1049
1050         /* segment occurs in 'middle' of stroke, so split */
1051         else {
1052                 /* duplicate stroke, and assign 'later' data to that stroke */
1053                 gsn= MEM_dupallocN(gps);
1054                 gsn->prev= gsn->next= NULL;
1055                 BLI_insertlinkafter(&gpf->strokes, gps, gsn);
1056                 
1057                 gsn->totpoints= gps->totpoints - i;
1058                 gsn->points= MEM_callocN(sizeof(bGPDspoint)*gsn->totpoints, "gp_stroke_points");
1059                 memcpy(gsn->points, pt_tmp + i, sizeof(bGPDspoint)*gsn->totpoints);
1060                 
1061                 /* adjust existing stroke  */
1062                 gps->totpoints= i;
1063                 gps->points= MEM_callocN(sizeof(bGPDspoint)*gps->totpoints, "gp_stroke_points");
1064                 memcpy(gps->points, pt_tmp, sizeof(bGPDspoint)*i);
1065                 
1066                 /* free temp buffer */
1067                 MEM_freeN(pt_tmp);
1068                 
1069                 /* nothing left in stroke, so stop */
1070                 return 1;
1071         }
1072 }
1073
1074 /* eraser tool - check if part of stroke occurs within last segment drawn by eraser */
1075 static short gp_stroke_eraser_strokeinside (short mval[], short mvalo[], short rad, short x0, short y0, short x1, short y1)
1076 {
1077         /* simple within-radius check for now */
1078         if (edge_inside_circle(mval[0], mval[1], rad, x0, y0, x1, y1))
1079                 return 1;
1080         
1081         /* not inside */
1082         return 0;
1083
1084
1085 /* eraser tool - evaluation per stroke */
1086 static void gp_stroke_eraser_dostroke (tGPsdata *p, short mval[], short mvalo[], short rad, rcti *rect, bGPDframe *gpf, bGPDstroke *gps)
1087 {
1088         bGPDspoint *pt1, *pt2;
1089         int x0=0, y0=0, x1=0, y1=0;
1090         short xyval[2];
1091         int i;
1092         
1093         if (gps->totpoints == 0) {
1094                 /* just free stroke */
1095                 if (gps->points) 
1096                         MEM_freeN(gps->points);
1097                 BLI_freelinkN(&gpf->strokes, gps);
1098         }
1099         else if (gps->totpoints == 1) {
1100                 /* get coordinates */
1101                 if (gps->flag & GP_STROKE_3DSPACE) {
1102                         project_short(p->ar, &gps->points->x, xyval);
1103                         x0= xyval[0];
1104                         y0= xyval[1];
1105                 }
1106                 else if (gps->flag & GP_STROKE_2DSPACE) {                       
1107                         UI_view2d_view_to_region(p->v2d, gps->points->x, gps->points->y, &x0, &y0);
1108                 }
1109                 else if (gps->flag & GP_STROKE_2DIMAGE) {                       
1110                         int offsx, offsy, sizex, sizey;
1111                         
1112                         /* get stored settings */
1113                         sizex= p->im2d_settings.sizex;
1114                         sizey= p->im2d_settings.sizey;
1115                         offsx= p->im2d_settings.offsx;
1116                         offsy= p->im2d_settings.offsy;
1117                         
1118                         /* calculate new points */
1119                         x0= (short)((gps->points->x * sizex) + offsx);
1120                         y0= (short)((gps->points->y * sizey) + offsy);
1121                 }
1122                 else {
1123                         x0= (short)(gps->points->x / 1000 * p->sa->winx);
1124                         y0= (short)(gps->points->y / 1000 * p->sa->winy);
1125                 }
1126                 
1127                 /* do boundbox check first */
1128                 if (BLI_in_rcti(rect, x0, y0)) {
1129                         /* only check if point is inside */
1130                         if ( ((x0-mval[0])*(x0-mval[0]) + (y0-mval[1])*(y0-mval[1])) <= rad*rad ) {
1131                                 /* free stroke */
1132                                 MEM_freeN(gps->points);
1133                                 BLI_freelinkN(&gpf->strokes, gps);
1134                         }
1135                 }
1136         }
1137         else {  
1138                 /* loop over the points in the stroke, checking for intersections 
1139                  *      - an intersection will require the stroke to be split
1140                  */
1141                 for (i=0; (i+1) < gps->totpoints; i++) {
1142                         /* get points to work with */
1143                         pt1= gps->points + i;
1144                         pt2= gps->points + i + 1;
1145                         
1146                         /* get coordinates */
1147                         if (gps->flag & GP_STROKE_3DSPACE) {
1148                                 project_short(p->ar, &pt1->x, xyval);
1149                                 x0= xyval[0];
1150                                 y0= xyval[1];
1151                                 
1152                                 project_short(p->ar, &pt2->x, xyval);
1153                                 x1= xyval[0];
1154                                 y1= xyval[1];
1155                         }
1156                         else if (gps->flag & GP_STROKE_2DSPACE) {
1157                                 UI_view2d_view_to_region(p->v2d, pt1->x, pt1->y, &x0, &y0);
1158                                 
1159                                 UI_view2d_view_to_region(p->v2d, pt2->x, pt2->y, &x1, &y1);
1160                         }
1161                         else if (gps->flag & GP_STROKE_2DIMAGE) {
1162                                 int offsx, offsy, sizex, sizey;
1163                                 
1164                                 /* get stored settings */
1165                                 sizex= p->im2d_settings.sizex;
1166                                 sizey= p->im2d_settings.sizey;
1167                                 offsx= p->im2d_settings.offsx;
1168                                 offsy= p->im2d_settings.offsy;
1169                                 
1170                                 /* calculate new points */
1171                                 x0= (short)((pt1->x * sizex) + offsx);
1172                                 y0= (short)((pt1->y * sizey) + offsy);
1173                                 
1174                                 x1= (short)((pt2->x * sizex) + offsx);
1175                                 y1= (short)((pt2->y * sizey) + offsy);
1176                         }
1177                         else {
1178                                 x0= (short)(pt1->x / 1000 * p->sa->winx);
1179                                 y0= (short)(pt1->y / 1000 * p->sa->winy);
1180                                 x1= (short)(pt2->x / 1000 * p->sa->winx);
1181                                 y1= (short)(pt2->y / 1000 * p->sa->winy);
1182                         }
1183                         
1184                         /* check that point segment of the boundbox of the eraser stroke */
1185                         if (BLI_in_rcti(rect, x0, y0) || BLI_in_rcti(rect, x1, y1)) {
1186                                 /* check if point segment of stroke had anything to do with
1187                                  * eraser region  (either within stroke painted, or on its lines)
1188                                  *      - this assumes that linewidth is irrelevant
1189                                  */
1190                                 if (gp_stroke_eraser_strokeinside(mval, mvalo, rad, x0, y0, x1, y1)) {
1191                                         /* if function returns true, break this loop (as no more point to check) */
1192                                         if (gp_stroke_eraser_splitdel(gpf, gps, i))
1193                                                 break;
1194                                 }
1195                         }
1196                 }
1197         }
1198 }
1199
1200 /* erase strokes which fall under the eraser strokes */
1201 static void gp_stroke_doeraser (tGPsdata *p)
1202 {
1203         bGPDframe *gpf= p->gpf;
1204         bGPDstroke *gps, *gpn;
1205         rcti rect;
1206         
1207         /* rect is rectangle of eraser */
1208         rect.xmin= p->mval[0] - p->radius;
1209         rect.ymin= p->mval[1] - p->radius;
1210         rect.xmax= p->mval[0] + p->radius;
1211         rect.ymax= p->mval[1] + p->radius;
1212         
1213         /* loop over strokes, checking segments for intersections */
1214         for (gps= gpf->strokes.first; gps; gps= gpn) {
1215                 gpn= gps->next;
1216                 gp_stroke_eraser_dostroke(p, p->mval, p->mvalo, p->radius, &rect, gpf, gps);
1217         }
1218 }
1219
1220 /* ---------- 'Paint' Tool ------------ */
1221
1222 /* init new painting session */
1223 static void gp_session_initpaint (bContext *C, tGPsdata *p)
1224 {
1225         ScrArea *curarea= CTX_wm_area(C);
1226         ARegion *ar= CTX_wm_region(C);
1227         
1228         /* clear previous data (note: is on stack) */
1229         memset(p, 0, sizeof(tGPsdata));
1230         
1231         /* make sure the active view (at the starting time) is a 3d-view */
1232         if (curarea == NULL) {
1233                 p->status= GP_STATUS_ERROR;
1234                 if (G.f & G_DEBUG) 
1235                         printf("Error: No active view for painting \n");
1236                 return;
1237         }
1238         
1239         /* pass on current scene */
1240         p->scene= CTX_data_scene(C);
1241         
1242         switch (curarea->spacetype) {
1243                 /* supported views first */
1244                 case SPACE_VIEW3D:
1245                 {
1246                         View3D *v3d= curarea->spacedata.first;
1247                         
1248                         /* set current area */
1249                         p->sa= curarea;
1250                         p->ar= ar;
1251                         
1252                         /* check that gpencil data is allowed to be drawn */
1253                         if ((v3d->flag2 & V3D_DISPGP)==0) {
1254                                 p->status= GP_STATUS_ERROR;
1255                                 if (G.f & G_DEBUG) 
1256                                         printf("Error: In active view, Grease Pencil not shown \n");
1257                                 return;
1258                         }
1259                 }
1260                         break;
1261                 case SPACE_NODE:
1262                 {
1263                         SpaceNode *snode= curarea->spacedata.first;
1264                         
1265                         /* set current area */
1266                         p->sa= curarea;
1267                         p->ar= ar;
1268                         p->v2d= &ar->v2d;
1269                         
1270                         /* check that gpencil data is allowed to be drawn */
1271                         if ((snode->flag & SNODE_DISPGP)==0) {
1272                                 p->status= GP_STATUS_ERROR;
1273                                 if (G.f & G_DEBUG) 
1274                                         printf("Error: In active view, Grease Pencil not shown \n");
1275                                 return;
1276                         }
1277                 }
1278                         break;
1279                 case SPACE_SEQ:
1280                 {
1281                         SpaceSeq *sseq= curarea->spacedata.first;
1282                         
1283                         /* set current area */
1284                         p->sa= curarea;
1285                         p->ar= ar;
1286                         p->v2d= &ar->v2d;
1287                         
1288                         /* check that gpencil data is allowed to be drawn */
1289                         if (sseq->mainb == SEQ_DRAW_SEQUENCE) {
1290                                 p->status= GP_STATUS_ERROR;
1291                                 if (G.f & G_DEBUG) 
1292                                         printf("Error: In active view (sequencer), active mode doesn't support Grease Pencil \n");
1293                                 return;
1294                         }
1295                         if ((sseq->flag & SEQ_DRAW_GPENCIL)==0) {
1296                                 p->status= GP_STATUS_ERROR;
1297                                 if (G.f & G_DEBUG) 
1298                                         printf("Error: In active view, Grease Pencil not shown \n");
1299                                 return;
1300                         }
1301                 }
1302                         break;  
1303                 case SPACE_IMAGE:
1304                 {
1305                         SpaceImage *sima= curarea->spacedata.first;
1306                         
1307                         /* set the current area */
1308                         p->sa= curarea;
1309                         p->ar= ar;
1310                         p->v2d= &ar->v2d;
1311                         p->ibuf= BKE_image_get_ibuf(sima->image, &sima->iuser);
1312                         
1313                         /* check that gpencil data is allowed to be drawn */
1314                         if ((sima->flag & SI_DISPGP)==0) {
1315                                 p->status= GP_STATUS_ERROR;
1316                                 if (G.f & G_DEBUG)
1317                                         printf("Error: In active view, Grease Pencil not shown \n");
1318                                 return;
1319                         }
1320                 }
1321                         break;
1322                 /* unsupported views */
1323                 default:
1324                 {
1325                         p->status= GP_STATUS_ERROR;
1326                         if (G.f & G_DEBUG) 
1327                                 printf("Error: Active view not appropriate for Grease Pencil drawing \n");
1328                         return;
1329                 }
1330                         break;
1331         }
1332         
1333         /* get gp-data */
1334         p->gpd= gpencil_data_getactive(p->sa);
1335         if (p->gpd == NULL) {
1336                 short ok;
1337                 
1338                 p->gpd= gpencil_data_addnew("GPencil");
1339                 ok= gpencil_data_setactive(p->sa, p->gpd);
1340                 
1341                 /* most of the time, the following check isn't needed */
1342                 if (ok == 0) {
1343                         /* free gpencil data as it can't be used */
1344                         free_gpencil_data(p->gpd);
1345                         p->gpd= NULL;
1346                         p->status= GP_STATUS_ERROR;
1347                         if (G.f & G_DEBUG) 
1348                                 printf("Error: Could not assign newly created Grease Pencil data to active area \n");
1349                         return;
1350                 }
1351         }
1352         
1353         /* set edit flags */
1354         G.f |= G_GREASEPENCIL;
1355         
1356         /* clear out buffer (stored in gp-data) in case something contaminated it */
1357         gp_session_validatebuffer(p);
1358         
1359         /* set 'default' im2d_settings just in case something that uses this doesn't set it */
1360         p->im2d_settings.sizex= 1;
1361         p->im2d_settings.sizey= 1;
1362 }
1363
1364 /* cleanup after a painting session */
1365 static void gp_session_cleanup (tGPsdata *p)
1366 {
1367         bGPdata *gpd= p->gpd;
1368         
1369         /* error checking */
1370         if (gpd == NULL)
1371                 return;
1372         
1373         /* free stroke buffer */
1374         if (gpd->sbuffer) {
1375                 MEM_freeN(gpd->sbuffer);
1376                 gpd->sbuffer= NULL;
1377         }
1378         
1379         /* clear flags */
1380         gpd->sbuffer_size= 0;
1381         gpd->sbuffer_sflag= 0;
1382 }
1383
1384 /* init new stroke */
1385 static void gp_paint_initstroke (tGPsdata *p, short paintmode)
1386 {       
1387         /* get active layer (or add a new one if non-existent) */
1388         p->gpl= gpencil_layer_getactive(p->gpd);
1389         if (p->gpl == NULL)
1390                 p->gpl= gpencil_layer_addnew(p->gpd);
1391         if (p->gpl->flag & GP_LAYER_LOCKED) {
1392                 p->status= GP_STATUS_ERROR;
1393                 if (G.f & G_DEBUG)
1394                         printf("Error: Cannot paint on locked layer \n");
1395                 return;
1396         }
1397                 
1398         /* get active frame (add a new one if not matching frame) */
1399         p->gpf= gpencil_layer_getframe(p->gpl, p->scene->r.cfra, 1);
1400         if (p->gpf == NULL) {
1401                 p->status= GP_STATUS_ERROR;
1402                 if (G.f & G_DEBUG) 
1403                         printf("Error: No frame created (gpencil_paint_init) \n");
1404                 return;
1405         }
1406         else
1407                 p->gpf->flag |= GP_FRAME_PAINT;
1408         
1409         /* set 'eraser' for this stroke if using eraser */
1410         p->paintmode= paintmode;
1411         if (p->paintmode == GP_PAINTMODE_ERASER)
1412                 p->gpd->sbuffer_sflag |= GP_STROKE_ERASER;
1413         
1414         /* check if points will need to be made in view-aligned space */
1415         if (p->gpd->flag & GP_DATA_VIEWALIGN) {
1416                 switch (p->sa->spacetype) {
1417                         case SPACE_VIEW3D:
1418                         {
1419                                 View3D *v3d= (View3D *)p->sa->spacedata.first;
1420                                 RegionView3D *rv3d= NULL; // XXX
1421                                 float *fp= give_cursor(p->scene, v3d);
1422                                 
1423                                 initgrabz(rv3d, fp[0], fp[1], fp[2]);
1424                                 
1425                                 p->gpd->sbuffer_sflag |= GP_STROKE_3DSPACE;
1426                         }
1427                                 break;
1428                         case SPACE_NODE:
1429                         {
1430                                 p->gpd->sbuffer_sflag |= GP_STROKE_2DSPACE;
1431                         }
1432                                 break;
1433                         case SPACE_SEQ:
1434                         {
1435                                 SpaceSeq *sseq= (SpaceSeq *)p->sa->spacedata.first;
1436                                 int rectx, recty;
1437                                 float zoom, zoomx, zoomy;
1438                                 
1439                                 /* set draw 2d-stroke flag */
1440                                 p->gpd->sbuffer_sflag |= GP_STROKE_2DIMAGE;
1441                                 
1442                                 /* calculate zoom factor */
1443                                 zoom= (float)(SEQ_ZOOM_FAC(sseq->zoom));
1444                                 if (sseq->mainb == SEQ_DRAW_IMG_IMBUF) {
1445                                         zoomx = zoom * ((float)p->scene->r.xasp / (float)p->scene->r.yasp);
1446                                         zoomy = zoom;
1447                                 } 
1448                                 else
1449                                         zoomx = zoomy = zoom;
1450                                 
1451                                 /* calculate rect size to use to calculate the size of the drawing area
1452                                  *      - We use the size of the output image not the size of the ibuf being shown
1453                                  *        as it is too messy getting the ibuf (and could be too slow). This should be
1454                                  *        a reasonable for most cases anyway.
1455                                  */
1456                                 rectx= (p->scene->r.size * p->scene->r.xsch) / 100;
1457                                 recty= (p->scene->r.size * p->scene->r.ysch) / 100; 
1458                                 
1459                                 /* set offset and scale values for opertations to use */
1460                                 p->im2d_settings.sizex= (int)(zoomx * rectx);
1461                                 p->im2d_settings.sizey= (int)(zoomy * recty);
1462                                 p->im2d_settings.offsx= (int)((p->sa->winx-p->im2d_settings.sizex)/2 + sseq->xof);
1463                                 p->im2d_settings.offsy= (int)((p->sa->winy-p->im2d_settings.sizey)/2 + sseq->yof);
1464                         }
1465                                 break;
1466                         case SPACE_IMAGE:
1467                         {
1468                                 /* check if any ibuf available */
1469                                 if (p->ibuf)
1470                                         p->gpd->sbuffer_sflag |= GP_STROKE_2DSPACE;
1471                         }
1472                                 break;
1473                 }
1474         }
1475 }
1476
1477 /* finish off a stroke (clears buffer, but doesn't finish the paint operation) */
1478 static void gp_paint_strokeend (tGPsdata *p)
1479 {
1480         /* check if doing eraser or not */
1481         if ((p->gpd->sbuffer_sflag & GP_STROKE_ERASER) == 0) {
1482                 /* smooth stroke before transferring? */
1483                 gp_stroke_smooth(p);
1484                 
1485                 /* simplify stroke before transferring? */
1486                 gp_stroke_simplify(p);
1487                 
1488                 /* transfer stroke to frame */
1489                 gp_stroke_newfrombuffer(p);
1490         }
1491         
1492         /* clean up buffer now */
1493         gp_session_validatebuffer(p);
1494 }
1495
1496 /* finish off stroke painting operation */
1497 static void gp_paint_cleanup (tGPsdata *p)
1498 {
1499         /* finish off a stroke */
1500         gp_paint_strokeend(p);
1501         
1502         /* "unlock" frame */
1503         p->gpf->flag &= ~GP_FRAME_PAINT;
1504         
1505         /* add undo-push so stroke can be undone */
1506         /* FIXME: currently disabled, as it's impossible to get this working nice
1507          * as gpenci data is on currently screen-level (which isn't saved to undo files)
1508          */
1509         //BIF_undo_push("GPencil Stroke");
1510         
1511         /* force redraw after drawing action */
1512         // XXX force_draw_plus(SPACE_ACTION, 0);
1513 }
1514
1515 /* -------- */
1516
1517 /* main call to paint a new stroke */
1518 // XXX will become modal(), gets event, includes all info!
1519 short gpencil_paint (bContext *C, short paintmode)
1520 {
1521         tGPsdata p;
1522         short ok = GP_STROKEADD_NORMAL;
1523         
1524         /* init paint-data */
1525         gp_session_initpaint(C, &p);
1526         if (p.status == GP_STATUS_ERROR) {
1527                 gp_session_cleanup(&p);
1528                 return 0;
1529         }
1530         gp_paint_initstroke(&p, paintmode);
1531         if (p.status == GP_STATUS_ERROR) {
1532                 gp_session_cleanup(&p);
1533                 return 0;
1534         }
1535         
1536         /* set cursor to indicate drawing */
1537         // XXX (cursor callbacks in regiontype) setcursor_space(p.sa->spacetype, CURSOR_VPAINT);
1538         
1539         /* init drawing-device settings */
1540         // XXX getmouseco_areawin(p.mval);
1541         // XXX p.pressure = get_pressure();
1542         
1543         p.mvalo[0]= p.mval[0];
1544         p.mvalo[1]= p.mval[1];
1545         p.opressure= p.pressure;
1546         
1547         /* radius for eraser circle is defined in userprefs now */
1548         // TODO: make this more easily tweaked... 
1549         p.radius= U.gp_eraser;
1550         
1551         /* start drawing eraser-circle (if applicable) */
1552         //if (paintmode == GP_PAINTMODE_ERASER)
1553         // XXX  draw_sel_circle(p.mval, NULL, p.radius, p.radius, 0); // draws frontbuffer, but sets backbuf again
1554         
1555         /* only allow painting of single 'dots' if: 
1556          *      - pressure is not excessive (as it can be on some windows tablets)
1557          *      - draw-mode for active datablock is turned on
1558          *      - not erasing
1559          */
1560         if (paintmode != GP_PAINTMODE_ERASER) {
1561                 if (!(p.pressure >= 0.99f) || (p.gpd->flag & GP_DATA_EDITPAINT)) { 
1562                         gp_stroke_addpoint(&p, p.mval, p.pressure);
1563                 }
1564         }
1565         
1566         /* XXX paint loop */
1567         if(0) {
1568                 /* get current user input */
1569                 // XXX getmouseco_areawin(p.mval);
1570                 // XXX p.pressure = get_pressure();
1571                 
1572                 /* only add current point to buffer if mouse moved (otherwise wait until it does) */
1573                 if (paintmode == GP_PAINTMODE_ERASER) {
1574                         /* do 'live' erasing now */
1575                         gp_stroke_doeraser(&p);
1576                         
1577                         // XXX draw_sel_circle(p.mval, p.mvalo, p.radius, p.radius, 0);
1578                         // XXX force_draw(0);
1579                         
1580                         p.mvalo[0]= p.mval[0];
1581                         p.mvalo[1]= p.mval[1];
1582                         p.opressure= p.pressure;
1583                 }
1584                 else if (gp_stroke_filtermval(&p, p.mval, p.mvalo)) {
1585                         /* try to add point */
1586                         ok= gp_stroke_addpoint(&p, p.mval, p.pressure);
1587                         
1588                         /* handle errors while adding point */
1589                         if ((ok == GP_STROKEADD_FULL) || (ok == GP_STROKEADD_OVERFLOW)) {
1590                                 /* finish off old stroke */
1591                                 gp_paint_strokeend(&p);
1592                                 
1593                                 /* start a new stroke, starting from previous point */
1594                                 gp_stroke_addpoint(&p, p.mvalo, p.opressure);
1595                                 ok= gp_stroke_addpoint(&p, p.mval, p.pressure);
1596                         }
1597                         else if (ok == GP_STROKEADD_INVALID) {
1598                                 /* the painting operation cannot continue... */
1599                                 error("Cannot paint stroke");
1600                                 p.status = GP_STATUS_ERROR;
1601                                 
1602                                 if (G.f & G_DEBUG) 
1603                                         printf("Error: Grease-Pencil Paint - Add Point Invalid \n");
1604                                 // XXX break;
1605                         }
1606                         // XXX force_draw(0);
1607                         
1608                         p.mvalo[0]= p.mval[0];
1609                         p.mvalo[1]= p.mval[1];
1610                         p.opressure= p.pressure;
1611                 }
1612                 
1613                 /* do mouse checking at the end, so don't check twice, and potentially
1614                  * miss a short tap 
1615                  */
1616         }
1617         
1618         /* clear edit flags */
1619         G.f &= ~G_GREASEPENCIL;
1620         
1621         /* restore cursor to indicate end of drawing */
1622         // XXX  (cursor callbacks in regiontype) setcursor_space(p.sa->spacetype, CURSOR_STD);
1623         
1624         /* check size of buffer before cleanup, to determine if anything happened here */
1625         if (paintmode == GP_PAINTMODE_ERASER) {
1626                 ok= 1; /* assume that we did something... */
1627                 // XXX draw_sel_circle(NULL, p.mvalo, 0, p.radius, 0);
1628         }
1629         else
1630                 ok= p.gpd->sbuffer_size;
1631         
1632         /* cleanup */
1633         gp_paint_cleanup(&p);
1634         gp_session_cleanup(&p);
1635         
1636         /* done! return if a stroke was successfully added */
1637         return ok;
1638 }
1639
1640
1641 /* All event (loops) handling checking if stroke drawing should be initiated
1642  * should call this function.
1643  */
1644 short gpencil_do_paint (bContext *C)
1645 {
1646         ScrArea *sa= CTX_wm_area(C);
1647         bGPdata *gpd = gpencil_data_getactive(sa);
1648         short retval= 0;
1649         int alt= 0, shift= 0, mbut= 0; // XXX
1650         
1651         /* check if possible to do painting */
1652         if (gpd == NULL) 
1653                 return 0;
1654         
1655         /* currently, we will only 'paint' if:
1656          *      1. draw-mode on gpd is set (for accessibility reasons)
1657          *              a) single dots are only available by this method if a single click is made
1658          *              b) a straight line is drawn if ctrl-modifier is held (check is done when stroke is converted!)
1659          *      2. if shift-modifier is held + lmb -> 'quick paint'
1660          *
1661          *      OR
1662          * 
1663          * draw eraser stroke if:
1664          *      1. using the eraser on a tablet
1665          *      2. draw-mode on gpd is set (for accessiblity reasons)
1666          *              (eraser is mapped to right-mouse)
1667          *      3. Alt + 'select' mouse-button
1668          *              i.e.  if LMB = select: Alt-LMB
1669          *                        if RMB = select: Alt-RMB
1670          */
1671         if (get_activedevice() == 2) {
1672                 /* eraser on a tablet - always try to erase strokes */
1673                 retval = gpencil_paint(C, GP_PAINTMODE_ERASER);
1674         }
1675         else if (gpd->flag & GP_DATA_EDITPAINT) {
1676                 /* try to paint/erase */
1677                 if (mbut == L_MOUSE)
1678                         retval = gpencil_paint(C, GP_PAINTMODE_DRAW);
1679                 else if (mbut == R_MOUSE)
1680                         retval = gpencil_paint(C, GP_PAINTMODE_ERASER);
1681         }
1682         else if (!(gpd->flag & GP_DATA_LMBPLOCK)) {
1683                 /* try to paint/erase as not locked */
1684                 if (shift && (mbut == L_MOUSE)) {
1685                         retval = gpencil_paint(C, GP_PAINTMODE_DRAW);
1686                 }
1687                 else if (alt) {
1688                         if ((U.flag & USER_LMOUSESELECT) && (mbut == L_MOUSE))
1689                                 retval = gpencil_paint(C, GP_PAINTMODE_ERASER);
1690                         else if (!(U.flag & USER_LMOUSESELECT) && (mbut == R_MOUSE))
1691                                 retval = gpencil_paint(C, GP_PAINTMODE_ERASER);
1692                 }
1693         }
1694         
1695         /* return result of trying to paint */
1696         return retval;
1697 }
1698
1699 /* ************************************************** */