53c2a82fb8e1a35d576b9aa64284cfe689bf73a1
[blender-staging.git] / source / blender / blenkernel / BKE_paint.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2009 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */ 
27
28 #ifndef __BKE_PAINT_H__
29 #define __BKE_PAINT_H__
30
31 /** \file BKE_paint.h
32  *  \ingroup bke
33  */
34
35 struct bContext;
36 struct BMesh;
37 struct BMFace;
38 struct Brush;
39 struct CurveMapping;
40 struct MeshElemMap;
41 struct GridPaintMask;
42 struct Main;
43 struct MFace;
44 struct MVert;
45 struct Object;
46 struct Paint;
47 struct PaintCurve;
48 struct Palette;
49 struct PaletteColor;
50 struct PBVH;
51 struct ReportList;
52 struct Scene;
53 struct Sculpt;
54 struct StrokeCache;
55 struct Tex;
56 struct ImagePool;
57 struct UnifiedPaintSettings;
58
59 enum OverlayFlags;
60
61 extern const char PAINT_CURSOR_SCULPT[3];
62 extern const char PAINT_CURSOR_VERTEX_PAINT[3];
63 extern const char PAINT_CURSOR_WEIGHT_PAINT[3];
64 extern const char PAINT_CURSOR_TEXTURE_PAINT[3];
65
66 typedef enum PaintMode {
67         PAINT_SCULPT = 0,
68         PAINT_VERTEX = 1,
69         PAINT_WEIGHT = 2,
70         PAINT_TEXTURE_PROJECTIVE = 3,
71         PAINT_TEXTURE_2D = 4,
72         PAINT_SCULPT_UV = 5,
73         PAINT_INVALID = 6
74 } PaintMode;
75
76 /* overlay invalidation */
77 typedef enum OverlayControlFlags {
78         PAINT_INVALID_OVERLAY_TEXTURE_PRIMARY = 1,
79         PAINT_INVALID_OVERLAY_TEXTURE_SECONDARY = (1 << 2),
80         PAINT_INVALID_OVERLAY_CURVE = (1 << 3),
81         PAINT_OVERLAY_OVERRIDE_CURSOR = (1 << 4),
82         PAINT_OVERLAY_OVERRIDE_PRIMARY = (1 << 5),
83         PAINT_OVERLAY_OVERRIDE_SECONDARY = (1 << 6)
84 } OverlayControlFlags;
85
86 #define PAINT_OVERRIDE_MASK (PAINT_OVERLAY_OVERRIDE_SECONDARY | \
87                                                      PAINT_OVERLAY_OVERRIDE_PRIMARY | \
88                                                      PAINT_OVERLAY_OVERRIDE_CURSOR)
89
90 void BKE_paint_invalidate_overlay_tex(struct Scene *scene, const struct Tex *tex);
91 void BKE_paint_invalidate_cursor_overlay(struct Scene *scene, struct CurveMapping *curve);
92 void BKE_paint_invalidate_overlay_all(void);
93 OverlayControlFlags BKE_paint_get_overlay_flags(void);
94 void BKE_paint_reset_overlay_invalid(OverlayControlFlags flag);
95 void BKE_paint_set_overlay_override(enum OverlayFlags flag);
96
97 /* palettes */
98 void                 BKE_palette_free(struct Palette *palette);
99 struct Palette      *BKE_palette_add(struct Main *bmain, const char *name);
100 struct PaletteColor *BKE_palette_color_add(struct Palette *palette);
101 bool                 BKE_palette_is_empty(const struct Palette *palette);
102 void                 BKE_palette_color_remove(struct Palette *palette, struct PaletteColor *color);
103 void                 BKE_palette_clear(struct Palette *palette);
104
105 /* paint curves */
106 struct PaintCurve *BKE_paint_curve_add(struct Main *bmain, const char *name);
107 void BKE_paint_curve_free(struct PaintCurve *pc);
108
109 void BKE_paint_init(struct UnifiedPaintSettings *ups, struct Paint *p, const char col[3]);
110 void BKE_paint_free(struct Paint *p);
111 void BKE_paint_copy(struct Paint *src, struct Paint *tar);
112
113 void BKE_paint_cavity_curve_preset(struct Paint *p, int preset);
114
115 struct Paint *BKE_paint_get_active(struct Scene *sce);
116 struct Paint *BKE_paint_get_active_from_context(const struct bContext *C);
117 PaintMode BKE_paintmode_get_active_from_context(const struct bContext *C);
118 struct Brush *BKE_paint_brush(struct Paint *paint);
119 void BKE_paint_brush_set(struct Paint *paint, struct Brush *br);
120 struct Palette *BKE_paint_palette(struct Paint *paint);
121 void BKE_paint_palette_set(struct Paint *p, struct Palette *palette);
122 void BKE_paint_curve_set(struct Brush *br, struct PaintCurve *pc);
123 void BKE_paint_curve_clamp_endpoint_add_index(struct PaintCurve *pc, const int add_index);
124
125 void BKE_paint_data_warning(struct ReportList *reports, bool uvs, bool mat, bool tex, bool stencil);
126 bool BKE_paint_proj_mesh_data_check(struct Scene *scene, struct Object *ob, bool *uvs, bool *mat, bool *tex, bool *stencil);
127
128 /* testing face select mode
129  * Texture paint could be removed since selected faces are not used
130  * however hiding faces is useful */
131 bool BKE_paint_select_face_test(struct Object *ob);
132 bool BKE_paint_select_vert_test(struct Object *ob);
133 bool BKE_paint_select_elem_test(struct Object *ob);
134
135 /* partial visibility */
136 bool paint_is_face_hidden(const struct MFace *f, const struct MVert *mvert);
137 bool paint_is_grid_face_hidden(const unsigned int *grid_hidden,
138                                int gridsize, int x, int y);
139 bool paint_is_bmesh_face_hidden(struct BMFace *f);
140
141 /* paint masks */
142 float paint_grid_paint_mask(const struct GridPaintMask *gpm, unsigned level,
143                             unsigned x, unsigned y);
144
145 /* stroke related */
146 void paint_calculate_rake_rotation(struct UnifiedPaintSettings *ups, struct Brush *brush, const float mouse_pos[2]);
147
148 void BKE_paint_stroke_get_average(struct Scene *scene, struct Object *ob, float stroke[3]);
149
150 /* Session data (mode-specific) */
151
152 typedef struct SculptSession {
153         /* Mesh data (not copied) can come either directly from a Mesh, or from a MultiresDM */
154         struct MultiresModifierData *multires; /* Special handling for multires meshes */
155         struct MVert *mvert;
156         struct MPoly *mpoly;
157         struct MLoop *mloop;
158         int totvert, totpoly;
159         float (*face_normals)[3];
160         struct KeyBlock *kb;
161         float *vmask;
162         
163         /* Mesh connectivity */
164         const struct MeshElemMap *pmap;
165
166         /* BMesh for dynamic topology sculpting */
167         struct BMesh *bm;
168         int cd_vert_node_offset;
169         int cd_face_node_offset;
170         bool bm_smooth_shading;
171         /* Undo/redo log for dynamic topology sculpting */
172         struct BMLog *bm_log;
173
174         /* PBVH acceleration structure */
175         struct PBVH *pbvh;
176         bool show_diffuse_color;
177
178         /* Painting on deformed mesh */
179         bool modifiers_active; /* object is deformed with some modifiers */
180         float (*orig_cos)[3]; /* coords of undeformed mesh */
181         float (*deform_cos)[3]; /* coords of deformed mesh but without stroke displacement */
182         float (*deform_imats)[3][3]; /* crazyspace deformation matrices */
183
184         /* Partial redraw */
185         bool partial_redraw;
186         
187         /* Used to cache the render of the active texture */
188         unsigned int texcache_side, *texcache, texcache_actual;
189         struct ImagePool *tex_pool;
190
191         /* Layer brush persistence between strokes */
192         float (*layer_co)[3]; /* Copy of the mesh vertices' locations */
193
194         struct SculptStroke *stroke;
195         struct StrokeCache *cache;
196 } SculptSession;
197
198 void BKE_sculptsession_free(struct Object *ob);
199 void BKE_sculptsession_free_deformMats(struct SculptSession *ss);
200 void BKE_sculptsession_bm_to_me(struct Object *ob, bool reorder);
201 void BKE_sculptsession_bm_to_me_for_render(struct Object *object);
202 void BKE_sculpt_update_mesh_elements(struct Scene *scene, struct Sculpt *sd, struct Object *ob,
203                                      bool need_pmap, bool need_mask);
204 struct MultiresModifierData *BKE_sculpt_multires_active(struct Scene *scene, struct Object *ob);
205 int BKE_sculpt_mask_layers_ensure(struct Object *ob,
206                                   struct MultiresModifierData *mmd);
207
208 enum {
209         SCULPT_MASK_LAYER_CALC_VERT = (1 << 0),
210         SCULPT_MASK_LAYER_CALC_LOOP = (1 << 1)
211 };
212 #endif