59ecdb359c9e19976317ec52c6b2b40286b10b7f
[blender.git] / source / blender / blenkernel / BKE_pbvh.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * ***** END GPL LICENSE BLOCK *****
19  */
20
21 #ifndef __BLI_PBVH_H__
22 #define __BLI_PBVH_H__
23
24 /** \file BLI_pbvh.h
25  *  \ingroup bli
26  *  \brief A BVH for high poly meshes.
27  */
28
29 #include "BLI_bitmap.h"
30
31 struct CCGElem;
32 struct CCGKey;
33 struct CustomData;
34 struct DMFlagMat;
35 struct DMGridAdjacency;
36 struct ListBase;
37 struct MFace;
38 struct MVert;
39 struct PBVH;
40 struct PBVHNode;
41
42 typedef struct PBVH PBVH;
43 typedef struct PBVHNode PBVHNode;
44
45 typedef struct {
46         float (*co)[3];
47 } PBVHProxyNode;
48
49 /* Callbacks */
50
51 /* returns 1 if the search should continue from this node, 0 otherwise */
52 typedef int (*BLI_pbvh_SearchCallback)(PBVHNode *node, void *data);
53
54 typedef void (*BLI_pbvh_HitCallback)(PBVHNode *node, void *data);
55 typedef void (*BLI_pbvh_HitOccludedCallback)(PBVHNode *node, void *data, float *tmin);
56
57 /* Building */
58
59 PBVH *BLI_pbvh_new(void);
60 void BLI_pbvh_build_mesh(PBVH *bvh, struct MFace *faces, struct MVert *verts,
61                          int totface, int totvert, struct CustomData *vdata);
62 void BLI_pbvh_build_grids(PBVH *bvh, struct CCGElem **grid_elems,
63                           struct DMGridAdjacency *gridadj, int totgrid,
64                           struct CCGKey *key, void **gridfaces, struct DMFlagMat *flagmats,
65                           unsigned int **grid_hidden);
66 void BLI_pbvh_free(PBVH *bvh);
67
68 /* Hierarchical Search in the BVH, two methods:
69  * - for each hit calling a callback
70  * - gather nodes in an array (easy to multithread) */
71
72 void BLI_pbvh_search_callback(PBVH *bvh,
73                               BLI_pbvh_SearchCallback scb, void *search_data,
74                               BLI_pbvh_HitCallback hcb, void *hit_data);
75
76 void BLI_pbvh_search_gather(PBVH *bvh,
77                             BLI_pbvh_SearchCallback scb, void *search_data,
78                             PBVHNode ***array, int *tot);
79
80 /* Raycast
81  * the hit callback is called for all leaf nodes intersecting the ray;
82  * it's up to the callback to find the primitive within the leaves that is
83  * hit first */
84
85 void BLI_pbvh_raycast(PBVH *bvh, BLI_pbvh_HitOccludedCallback cb, void *data,
86                       const float ray_start[3], const float ray_normal[3],
87                       int original);
88
89 int BLI_pbvh_node_raycast(PBVH *bvh, PBVHNode *node, float (*origco)[3],
90                           const float ray_start[3], const float ray_normal[3],
91                           float *dist);
92
93 /* Drawing */
94
95 void BLI_pbvh_node_draw(PBVHNode *node, void *data);
96 void BLI_pbvh_draw(PBVH *bvh, float (*planes)[4], float (*face_nors)[3],
97                    int (*setMaterial)(int, void *attribs));
98
99 /* PBVH Access */
100 typedef enum {
101         PBVH_FACES,
102         PBVH_GRIDS,
103 } PBVHType;
104
105 PBVHType BLI_pbvh_type(const PBVH *bvh);
106
107 /* multires hidden data, only valid for type == PBVH_GRIDS */
108 unsigned int **BLI_pbvh_grid_hidden(const PBVH *bvh);
109
110 /* multires level, only valid for type == PBVH_GRIDS */
111 void BLI_pbvh_get_grid_key(const PBVH *pbvh, struct CCGKey *key);
112
113 /* Node Access */
114
115 typedef enum {
116         PBVH_Leaf = 1,
117
118         PBVH_UpdateNormals = 2,
119         PBVH_UpdateBB = 4,
120         PBVH_UpdateOriginalBB = 8,
121         PBVH_UpdateDrawBuffers = 16,
122         PBVH_UpdateRedraw = 32,
123
124         PBVH_RebuildDrawBuffers = 64,
125         PBVH_FullyHidden = 128
126 } PBVHNodeFlags;
127
128 void BLI_pbvh_node_mark_update(PBVHNode *node);
129 void BLI_pbvh_node_mark_rebuild_draw(PBVHNode *node);
130 void BLI_pbvh_node_fully_hidden_set(PBVHNode *node, int fully_hidden);
131
132 void BLI_pbvh_node_get_grids(PBVH *bvh, PBVHNode *node,
133                              int **grid_indices, int *totgrid, int *maxgrid, int *gridsize,
134                              struct CCGElem ***grid_elems, struct DMGridAdjacency **gridadj);
135 void BLI_pbvh_node_num_verts(PBVH *bvh, PBVHNode *node,
136                              int *uniquevert, int *totvert);
137 void BLI_pbvh_node_get_verts(PBVH *bvh, PBVHNode *node,
138                              int **vert_indices, struct MVert **verts);
139
140 void BLI_pbvh_node_get_BB(PBVHNode * node, float bb_min[3], float bb_max[3]);
141 void BLI_pbvh_node_get_original_BB(PBVHNode * node, float bb_min[3], float bb_max[3]);
142
143 float BLI_pbvh_node_get_tmin(PBVHNode *node);
144
145 /* test if AABB is at least partially inside the planes' volume */
146 int BLI_pbvh_node_planes_contain_AABB(PBVHNode *node, void *data);
147 /* test if AABB is at least partially outside the planes' volume */
148 int BLI_pbvh_node_planes_exclude_AABB(PBVHNode *node, void *data);
149
150 /* Update Normals/Bounding Box/Draw Buffers/Redraw and clear flags */
151
152 void BLI_pbvh_update(PBVH *bvh, int flags, float (*face_nors)[3]);
153 void BLI_pbvh_redraw_BB(PBVH * bvh, float bb_min[3], float bb_max[3]);
154 void BLI_pbvh_get_grid_updates(PBVH *bvh, int clear, void ***gridfaces, int *totface);
155 void BLI_pbvh_grids_update(PBVH *bvh, struct CCGElem **grid_elems,
156                            struct DMGridAdjacency *gridadj, void **gridfaces,
157                            struct DMFlagMat *flagmats, unsigned int **grid_hidden);
158
159 /* vertex deformer */
160 float (*BLI_pbvh_get_vertCos(struct PBVH *pbvh))[3];
161 void BLI_pbvh_apply_vertCos(struct PBVH *pbvh, float (*vertCos)[3]);
162 int BLI_pbvh_isDeformed(struct PBVH *pbvh);
163
164
165 /* Vertex Iterator */
166
167 /* this iterator has quite a lot of code, but it's designed to:
168  * - allow the compiler to eliminate dead code and variables
169  * - spend most of the time in the relatively simple inner loop */
170
171 /* note: PBVH_ITER_ALL does not skip hidden vertices,
172  * PBVH_ITER_UNIQUE does */
173 #define PBVH_ITER_ALL       0
174 #define PBVH_ITER_UNIQUE    1
175
176 typedef struct PBVHVertexIter {
177         /* iteration */
178         int g;
179         int width;
180         int height;
181         int gx;
182         int gy;
183         int i;
184
185         /* grid */
186         struct CCGElem **grids;
187         struct CCGElem *grid;
188         struct CCGKey *key;
189         BLI_bitmap *grid_hidden, gh;
190         int *grid_indices;
191         int totgrid;
192         int gridsize;
193
194         /* mesh */
195         struct MVert *mverts;
196         int totvert;
197         int *vert_indices;
198         float *vmask;
199
200         /* result: these are all computed in the macro, but we assume
201          * that compiler optimization's will skip the ones we don't use */
202         struct MVert *mvert;
203         float *co;
204         short *no;
205         float *fno;
206         float *mask;
207 } PBVHVertexIter;
208
209 #ifdef _MSC_VER
210 #pragma warning (disable:4127) // conditional expression is constant
211 #endif
212
213 void pbvh_vertex_iter_init(PBVH *bvh, PBVHNode *node,
214                            PBVHVertexIter *vi, int mode);
215
216 #define BLI_pbvh_vertex_iter_begin(bvh, node, vi, mode) \
217         pbvh_vertex_iter_init(bvh, node, &vi, mode); \
218          \
219         for (vi.i = 0, vi.g = 0; vi.g < vi.totgrid; vi.g++) { \
220                 if (vi.grids) { \
221                         vi.width = vi.gridsize; \
222                         vi.height = vi.gridsize; \
223                         vi.grid = vi.grids[vi.grid_indices[vi.g]]; \
224                         if (mode == PBVH_ITER_UNIQUE) \
225                                 vi.gh = vi.grid_hidden[vi.grid_indices[vi.g]];   \
226                 } \
227                 else { \
228                         vi.width = vi.totvert; \
229                         vi.height = 1; \
230                 } \
231                  \
232                 for (vi.gy = 0; vi.gy < vi.height; vi.gy++) { \
233                         for (vi.gx = 0; vi.gx < vi.width; vi.gx++, vi.i++) { \
234                                 if (vi.grid) { \
235                                         vi.co = CCG_elem_co(vi.key, vi.grid); \
236                                         vi.fno = CCG_elem_no(vi.key, vi.grid); \
237                                         vi.mask = vi.key->has_mask ? CCG_elem_mask(vi.key, vi.grid) : NULL; \
238                                         vi.grid = CCG_elem_next(vi.key, vi.grid); \
239                                         if (vi.gh) { \
240                                                 if (BLI_BITMAP_GET(vi.gh, vi.gy * vi.gridsize + vi.gx)) \
241                                                         continue; \
242                                         } \
243                                 } \
244                                 else { \
245                                         vi.mvert = &vi.mverts[vi.vert_indices[vi.gx]]; \
246                                         if (mode == PBVH_ITER_UNIQUE && vi.mvert->flag & ME_HIDE) \
247                                                 continue; \
248                                         vi.co = vi.mvert->co; \
249                                         vi.no = vi.mvert->no; \
250                                         if (vi.vmask) \
251                                                 vi.mask = &vi.vmask[vi.vert_indices[vi.gx]]; \
252                                 } \
253
254 #define BLI_pbvh_vertex_iter_end \
255                         } \
256                 } \
257         }
258
259 void BLI_pbvh_node_get_proxies(PBVHNode *node, PBVHProxyNode **proxies, int *proxy_count);
260 void BLI_pbvh_node_free_proxies(PBVHNode *node);
261 PBVHProxyNode *BLI_pbvh_node_add_proxy(PBVH *bvh, PBVHNode *node);
262 void BLI_pbvh_gather_proxies(PBVH *pbvh, PBVHNode ***nodes,  int *totnode);
263
264 //void BLI_pbvh_node_BB_reset(PBVHNode *node);
265 //void BLI_pbvh_node_BB_expand(PBVHNode *node, float co[3]);
266
267 void pbvh_show_diffuse_color_set(PBVH *bvh, int show_diffuse_color);
268
269 #endif /* __BLI_PBVH_H__ */
270