Vertex/Weight Paint: Use PBVH for painting
[blender.git] / source / blender / editors / sculpt_paint / sculpt_intern.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2006 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/sculpt_paint/sculpt_intern.h
29  *  \ingroup edsculpt
30  */
31  
32
33 #ifndef __SCULPT_INTERN_H__
34 #define __SCULPT_INTERN_H__
35
36 #include "DNA_listBase.h"
37 #include "DNA_vec_types.h"
38 #include "DNA_key_types.h"
39
40 #include "BLI_bitmap.h"
41 #include "BLI_threads.h"
42
43 #include "BKE_pbvh.h"
44
45 struct bContext;
46 struct KeyBlock;
47 struct Object;
48 struct SculptUndoNode;
49 struct SculptOrigVertData;
50
51 int sculpt_mode_poll(struct bContext *C);
52 int sculpt_mode_poll_view3d(struct bContext *C);
53 /* checks for a brush, not just sculpt mode */
54 int sculpt_poll(struct bContext *C);
55 int sculpt_poll_view3d(struct bContext *C);
56
57 /* Stroke */
58 bool sculpt_stroke_get_location(bContext *C, float out[3], const float mouse[2]);
59
60 /* Dynamic topology */
61 void sculpt_pbvh_clear(Object *ob);
62 void sculpt_dyntopo_node_layers_add(struct SculptSession *ss);
63 void sculpt_update_after_dynamic_topology_toggle(bContext *C);
64 void sculpt_dynamic_topology_enable(struct bContext *C);
65 void sculpt_dynamic_topology_disable(struct bContext *C,
66                                      struct SculptUndoNode *unode);
67
68 /* Undo */
69
70 typedef enum {
71         SCULPT_UNDO_COORDS,
72         SCULPT_UNDO_HIDDEN,
73         SCULPT_UNDO_MASK,
74         SCULPT_UNDO_DYNTOPO_BEGIN,
75         SCULPT_UNDO_DYNTOPO_END,
76         SCULPT_UNDO_DYNTOPO_SYMMETRIZE,
77 } SculptUndoType;
78
79 typedef struct SculptUndoNode {
80         struct SculptUndoNode *next, *prev;
81
82         SculptUndoType type;
83
84         char idname[MAX_ID_NAME];   /* name instead of pointer*/
85         void *node;                 /* only during push, not valid afterwards! */
86
87         float (*co)[3];
88         float (*orig_co)[3];
89         short (*no)[3];
90         float *mask;
91         int totvert;
92
93         /* non-multires */
94         int maxvert;                /* to verify if totvert it still the same */
95         int *index;                 /* to restore into right location */
96         BLI_bitmap *vert_hidden;
97
98         /* multires */
99         int maxgrid;                /* same for grid */
100         int gridsize;               /* same for grid */
101         int totgrid;                /* to restore into right location */
102         int *grids;                 /* to restore into right location */
103         BLI_bitmap **grid_hidden;
104
105         /* bmesh */
106         struct BMLogEntry *bm_entry;
107         bool applied;
108         CustomData bm_enter_vdata;
109         CustomData bm_enter_edata;
110         CustomData bm_enter_ldata;
111         CustomData bm_enter_pdata;
112         int bm_enter_totvert;
113         int bm_enter_totedge;
114         int bm_enter_totloop;
115         int bm_enter_totpoly;
116
117         /* shape keys */
118         char shapeName[sizeof(((KeyBlock *)0))->name];
119 } SculptUndoNode;
120
121 /* Factor of brush to have rake point following behind
122 * (could be configurable but this is reasonable default). */
123 #define SCULPT_RAKE_BRUSH_FACTOR 0.25f
124
125 struct SculptRakeData {
126         float follow_dist;
127         float follow_co[3];
128 };
129
130 /* Single struct used by all BLI_task threaded callbacks, let's avoid adding 10's of those... */
131 typedef struct SculptThreadedTaskData {
132         bContext *C;
133         struct Sculpt *sd;
134         struct Object *ob;
135         struct Brush *brush;
136         struct PBVHNode **nodes;
137         int totnode;
138
139         struct VPaint *vp;
140         struct VPaintData *vpd;
141         struct WPaintData *wpd;
142         struct WeightPaintInfo *wpi;
143         unsigned int *lcol;
144         struct Mesh *me;
145         /* For passing generic params. */
146         void *custom_data;
147
148
149         /* Data specific to some callbacks. */
150         /* Note: even if only one or two of those are used at a time, keeping them separated, names help figuring out
151         *       what it is, and memory overhead is ridiculous anyway... */
152         float flippedbstrength;
153         float angle;
154         float strength;
155         bool smooth_mask;
156         bool has_bm_orco;
157
158         struct SculptProjectVector *spvc;
159         float *offset;
160         float *grab_delta;
161         float *cono;
162         float *area_no;
163         float *area_no_sp;
164         float *area_co;
165         float(*mat)[4];
166         float(*vertCos)[3];
167
168         /* 0=towards view, 1=flipped */
169         float(*area_cos)[3];
170         float(*area_nos)[3];
171         int *count;
172
173         ThreadMutex mutex;
174
175 } SculptThreadedTaskData;
176
177 /*************** Brush testing declarations ****************/
178 typedef struct SculptBrushTest {
179         float radius_squared;
180         float location[3];
181         float dist;
182         int mirror_symmetry_pass;
183
184         /* View3d clipping - only set rv3d for clipping */
185         struct RegionView3D *clip_rv3d;
186 } SculptBrushTest;
187
188 typedef struct {
189         struct Sculpt *sd;
190         struct SculptSession *ss;
191         float radius_squared;
192         bool original;
193 } SculptSearchSphereData;
194
195 void sculpt_brush_test_init(SculptSession *ss, SculptBrushTest *test);
196 bool sculpt_brush_test(SculptBrushTest *test, const float co[3]);
197 bool sculpt_brush_test_sq(SculptBrushTest *test, const float co[3]);
198 bool sculpt_brush_test_fast(const SculptBrushTest *test, const float co[3]);
199 bool sculpt_brush_test_cube(SculptBrushTest *test, const float co[3], float local[4][4]);
200 bool sculpt_search_sphere_cb(PBVHNode *node, void *data_v);
201 float tex_strength(
202         SculptSession *ss, struct Brush *br,
203         const float point[3],
204         const float len,
205         const short vno[3],
206         const float fno[3],
207         const float mask,
208         const int thread_id);
209
210
211 /* Cache stroke properties. Used because
212 * RNA property lookup isn't particularly fast.
213 *
214 * For descriptions of these settings, check the operator properties.
215 */
216
217 typedef struct StrokeCache {
218         /* Invariants */
219         float initial_radius;
220         float scale[3];
221         int flag;
222         float clip_tolerance[3];
223         float initial_mouse[2];
224
225         /* Variants */
226         float radius;
227         float radius_squared;
228         float true_location[3];
229         float true_last_location[3];
230         float location[3];
231         float last_location[3];
232         bool is_last_valid;
233
234         bool pen_flip;
235         bool invert;
236         float pressure;
237         float mouse[2];
238         float bstrength;
239         float normal_weight;  /* from brush (with optional override) */
240
241         /* The rest is temporary storage that isn't saved as a property */
242
243         bool first_time; /* Beginning of stroke may do some things special */
244
245         /* from ED_view3d_ob_project_mat_get() */
246         float projection_mat[4][4];
247
248         /* Clean this up! */
249         struct ViewContext *vc;
250         struct Brush *brush;
251
252         float special_rotation;
253         float grab_delta[3], grab_delta_symmetry[3];
254         float old_grab_location[3], orig_grab_location[3];
255
256         /* screen-space rotation defined by mouse motion */
257         float   rake_rotation[4], rake_rotation_symmetry[4];
258         bool is_rake_rotation_valid;
259         struct SculptRakeData rake_data;
260
261         /* Symmetry index between 0 and 7 bit combo 0 is Brush only;
262          * 1 is X mirror; 2 is Y mirror; 3 is XY; 4 is Z; 5 is XZ; 6 is YZ; 7 is XYZ */
263         int symmetry;
264         int mirror_symmetry_pass; /* the symmetry pass we are currently on between 0 and 7*/
265         float true_view_normal[3];
266         float view_normal[3];
267
268         /* sculpt_normal gets calculated by calc_sculpt_normal(), then the
269         * sculpt_normal_symm gets updated quickly with the usual symmetry
270         * transforms */
271         float sculpt_normal[3];
272         float sculpt_normal_symm[3];
273
274         /* Used for area texture mode, local_mat gets calculated by
275         * calc_brush_local_mat() and used in tex_strength(). */
276         float brush_local_mat[4][4];
277
278         float plane_offset[3]; /* used to shift the plane around when doing tiled strokes */
279         int tile_pass;
280
281         float last_center[3];
282         int radial_symmetry_pass;
283         float symm_rot_mat[4][4];
284         float symm_rot_mat_inv[4][4];
285         bool original;
286         float anchored_location[3];
287
288         float vertex_rotation; /* amount to rotate the vertices when using rotate brush */
289         struct Dial *dial;
290
291         char saved_active_brush_name[MAX_ID_NAME];
292         char saved_mask_brush_tool;
293         int saved_smooth_size; /* smooth tool copies the size of the current tool */
294         bool alt_smooth;
295
296         float plane_trim_squared;
297
298         bool supports_gravity;
299         float true_gravity_direction[3];
300         float gravity_direction[3];
301
302         rcti previous_r; /* previous redraw rectangle */
303         rcti current_r; /* current redraw rectangle */
304
305 } StrokeCache;
306
307 void sculpt_cache_free(StrokeCache *cache);
308
309 SculptUndoNode *sculpt_undo_push_node(Object *ob, PBVHNode *node, SculptUndoType type);
310 SculptUndoNode *sculpt_undo_get_node(PBVHNode *node);
311 void sculpt_undo_push_begin(const char *name);
312 void sculpt_undo_push_end(const struct bContext *C);
313
314 void sculpt_vertcos_to_key(Object *ob, KeyBlock *kb, float (*vertCos)[3]);
315
316 void sculpt_update_object_bounding_box(struct Object *ob);
317
318 bool sculpt_get_redraw_rect(struct ARegion *ar, struct RegionView3D *rv3d, Object *ob, rcti *rect);
319
320 #define SCULPT_THREADED_LIMIT 4
321
322 #endif