Mesh Remap: Face Corner Data: Do not use large epsilon values to create bvhtrees.
[blender.git] / source / blender / blenkernel / BKE_paint.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2009 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */ 
27
28 #ifndef __BKE_PAINT_H__
29 #define __BKE_PAINT_H__
30
31 /** \file BKE_paint.h
32  *  \ingroup bke
33  */
34
35 struct bContext;
36 struct BMesh;
37 struct BMFace;
38 struct Brush;
39 struct CurveMapping;
40 struct MeshElemMap;
41 struct GridPaintMask;
42 struct Main;
43 struct MLoop;
44 struct MLoopTri;
45 struct MFace;
46 struct MVert;
47 struct Object;
48 struct Paint;
49 struct PaintCurve;
50 struct Palette;
51 struct PaletteColor;
52 struct PBVH;
53 struct ReportList;
54 struct Scene;
55 struct Sculpt;
56 struct StrokeCache;
57 struct Tex;
58 struct ImagePool;
59 struct UnifiedPaintSettings;
60
61 enum eOverlayFlags;
62
63 #include "DNA_object_enums.h"
64
65 extern const char PAINT_CURSOR_SCULPT[3];
66 extern const char PAINT_CURSOR_VERTEX_PAINT[3];
67 extern const char PAINT_CURSOR_WEIGHT_PAINT[3];
68 extern const char PAINT_CURSOR_TEXTURE_PAINT[3];
69
70 typedef enum ePaintMode {
71         ePaintSculpt = 0,
72         ePaintVertex = 1,
73         ePaintWeight = 2,
74         ePaintTextureProjective = 3,
75         ePaintTexture2D = 4,
76         ePaintSculptUV = 5,
77         ePaintInvalid = 6
78 } ePaintMode;
79
80 /* overlay invalidation */
81 typedef enum eOverlayControlFlags {
82         PAINT_INVALID_OVERLAY_TEXTURE_PRIMARY = 1,
83         PAINT_INVALID_OVERLAY_TEXTURE_SECONDARY = (1 << 2),
84         PAINT_INVALID_OVERLAY_CURVE = (1 << 3),
85         PAINT_OVERLAY_OVERRIDE_CURSOR = (1 << 4),
86         PAINT_OVERLAY_OVERRIDE_PRIMARY = (1 << 5),
87         PAINT_OVERLAY_OVERRIDE_SECONDARY = (1 << 6)
88 } eOverlayControlFlags;
89
90 #define PAINT_OVERRIDE_MASK (PAINT_OVERLAY_OVERRIDE_SECONDARY | \
91                                                      PAINT_OVERLAY_OVERRIDE_PRIMARY | \
92                                                      PAINT_OVERLAY_OVERRIDE_CURSOR)
93
94 void BKE_paint_invalidate_overlay_tex(struct Scene *scene, const struct Tex *tex);
95 void BKE_paint_invalidate_cursor_overlay(struct Scene *scene, struct CurveMapping *curve);
96 void BKE_paint_invalidate_overlay_all(void);
97 eOverlayControlFlags BKE_paint_get_overlay_flags(void);
98 void BKE_paint_reset_overlay_invalid(eOverlayControlFlags flag);
99 void BKE_paint_set_overlay_override(enum eOverlayFlags flag);
100
101 /* palettes */
102 void                 BKE_palette_free(struct Palette *palette);
103 struct Palette      *BKE_palette_add(struct Main *bmain, const char *name);
104 void BKE_palette_copy_data(
105         struct Main *bmain, struct Palette *palette_dst, const struct Palette *palette_src, const int flag);
106 struct Palette      *BKE_palette_copy(struct Main *bmain, const struct Palette *palette);
107 void                 BKE_palette_make_local(struct Main *bmain, struct Palette *palette, const bool lib_local);
108 struct PaletteColor *BKE_palette_color_add(struct Palette *palette);
109 bool                 BKE_palette_is_empty(const struct Palette *palette);
110 void                 BKE_palette_color_remove(struct Palette *palette, struct PaletteColor *color);
111 void                 BKE_palette_clear(struct Palette *palette);
112
113 /* paint curves */
114 struct PaintCurve *BKE_paint_curve_add(struct Main *bmain, const char *name);
115 void BKE_paint_curve_free(struct PaintCurve *pc);
116 void BKE_paint_curve_copy_data(
117         struct Main *bmain, struct PaintCurve *pc_dst, const struct PaintCurve *pc_src, const int flag);
118 struct PaintCurve *BKE_paint_curve_copy(struct Main *bmain, const struct PaintCurve *pc);
119 void               BKE_paint_curve_make_local(struct Main *bmain, struct PaintCurve *pc, const bool lib_local);
120
121 void BKE_paint_init(struct Scene *sce, ePaintMode mode, const char col[3]);
122 void BKE_paint_free(struct Paint *p);
123 void BKE_paint_copy(struct Paint *src, struct Paint *tar, const int flag);
124
125 void BKE_paint_cavity_curve_preset(struct Paint *p, int preset);
126
127 eObjectMode BKE_paint_object_mode_from_paint_mode(ePaintMode mode);
128 struct Paint *BKE_paint_get_active_from_paintmode(struct Scene *sce, ePaintMode mode);
129 struct Paint *BKE_paint_get_active(struct Scene *sce);
130 struct Paint *BKE_paint_get_active_from_context(const struct bContext *C);
131 ePaintMode BKE_paintmode_get_active_from_context(const struct bContext *C);
132 struct Brush *BKE_paint_brush(struct Paint *paint);
133 void BKE_paint_brush_set(struct Paint *paint, struct Brush *br);
134 struct Palette *BKE_paint_palette(struct Paint *paint);
135 void BKE_paint_palette_set(struct Paint *p, struct Palette *palette);
136 void BKE_paint_curve_set(struct Brush *br, struct PaintCurve *pc);
137 void BKE_paint_curve_clamp_endpoint_add_index(struct PaintCurve *pc, const int add_index);
138
139 void BKE_paint_data_warning(struct ReportList *reports, bool uvs, bool mat, bool tex, bool stencil);
140 bool BKE_paint_proj_mesh_data_check(struct Scene *scene, struct Object *ob, bool *uvs, bool *mat, bool *tex, bool *stencil);
141
142 /* testing face select mode
143  * Texture paint could be removed since selected faces are not used
144  * however hiding faces is useful */
145 bool BKE_paint_select_face_test(struct Object *ob);
146 bool BKE_paint_select_vert_test(struct Object *ob);
147 bool BKE_paint_select_elem_test(struct Object *ob);
148
149 /* partial visibility */
150 bool paint_is_face_hidden(const struct MLoopTri *lt, const struct MVert *mvert, const struct MLoop *mloop);
151 bool paint_is_grid_face_hidden(const unsigned int *grid_hidden,
152                                int gridsize, int x, int y);
153 bool paint_is_bmesh_face_hidden(struct BMFace *f);
154
155 /* paint masks */
156 float paint_grid_paint_mask(const struct GridPaintMask *gpm, unsigned level,
157                             unsigned x, unsigned y);
158
159 /* stroke related */
160 bool paint_calculate_rake_rotation(struct UnifiedPaintSettings *ups, struct Brush *brush, const float mouse_pos[2]);
161 void paint_update_brush_rake_rotation(struct UnifiedPaintSettings *ups, struct Brush *brush, float rotation);
162
163 void BKE_paint_stroke_get_average(struct Scene *scene, struct Object *ob, float stroke[3]);
164
165 /* Used for both vertex color and weight paint */
166 struct SculptVertexPaintGeomMap {
167         int *vert_map_mem;
168         struct MeshElemMap *vert_to_loop;
169         int *poly_map_mem;
170         struct MeshElemMap *vert_to_poly;
171 };
172
173 /* Session data (mode-specific) */
174
175 typedef struct SculptSession {
176         /* Mesh data (not copied) can come either directly from a Mesh, or from a MultiresDM */
177         struct MultiresModifierData *multires; /* Special handling for multires meshes */
178         struct MVert *mvert;
179         struct MPoly *mpoly;
180         struct MLoop *mloop;
181         int totvert, totpoly;
182         struct KeyBlock *kb;
183         float *vmask;
184         
185         /* Mesh connectivity */
186         const struct MeshElemMap *pmap;
187
188         /* BMesh for dynamic topology sculpting */
189         struct BMesh *bm;
190         int cd_vert_node_offset;
191         int cd_face_node_offset;
192         bool bm_smooth_shading;
193         /* Undo/redo log for dynamic topology sculpting */
194         struct BMLog *bm_log;
195
196         /* PBVH acceleration structure */
197         struct PBVH *pbvh;
198         bool show_diffuse_color;
199         bool show_mask;
200
201         /* Painting on deformed mesh */
202         bool modifiers_active; /* object is deformed with some modifiers */
203         float (*orig_cos)[3]; /* coords of undeformed mesh */
204         float (*deform_cos)[3]; /* coords of deformed mesh but without stroke displacement */
205         float (*deform_imats)[3][3]; /* crazyspace deformation matrices */
206
207         /* Partial redraw */
208         bool partial_redraw;
209         
210         /* Used to cache the render of the active texture */
211         unsigned int texcache_side, *texcache, texcache_actual;
212         struct ImagePool *tex_pool;
213
214         /* Layer brush persistence between strokes */
215         float (*layer_co)[3]; /* Copy of the mesh vertices' locations */
216
217         struct StrokeCache *cache;
218
219         union {
220                 struct {
221                         struct SculptVertexPaintGeomMap gmap;
222
223                         /* For non-airbrush painting to re-apply from the original (MLoop aligned). */
224                         unsigned int *previous_color;
225                 } vpaint;
226
227                 struct {
228                         struct SculptVertexPaintGeomMap gmap;
229                         /* Keep track of how much each vertex has been painted (non-airbrush only). */
230                         float *alpha_weight;
231
232                         /* Needed to continuously re-apply over the same weights (BRUSH_ACCUMULATE disabled).
233                          * Lazy initialize as needed (flag is set to 1 to tag it as uninitialized). */
234                         struct MDeformVert *dvert_prev;
235                 } wpaint;
236
237                 /* TODO: identify sculpt-only fields */
238                 // struct { ... } sculpt;
239         } mode;
240         int mode_type;
241
242         /* This flag prevents PBVH from being freed when creating the vp_handle for texture paint. */
243         bool building_vp_handle;
244 } SculptSession;
245
246 void BKE_sculptsession_free(struct Object *ob);
247 void BKE_sculptsession_free_deformMats(struct SculptSession *ss);
248 void BKE_sculptsession_free_vwpaint_data(struct SculptSession *ss);
249 void BKE_sculptsession_bm_to_me(struct Object *ob, bool reorder);
250 void BKE_sculptsession_bm_to_me_for_render(struct Object *object);
251 void BKE_sculpt_update_mesh_elements(struct Scene *scene, struct Sculpt *sd, struct Object *ob,
252                                      bool need_pmap, bool need_mask);
253 struct MultiresModifierData *BKE_sculpt_multires_active(struct Scene *scene, struct Object *ob);
254 int BKE_sculpt_mask_layers_ensure(struct Object *ob,
255                                   struct MultiresModifierData *mmd);
256 void BKE_sculpt_toolsettings_data_ensure(struct Scene *scene);
257
258 enum {
259         SCULPT_MASK_LAYER_CALC_VERT = (1 << 0),
260         SCULPT_MASK_LAYER_CALC_LOOP = (1 << 1)
261 };
262 #endif