utility function for calculating smooth groups from sharp edges: BKE_mesh_calc_smooth...
[blender-staging.git] / source / blender / blenkernel / BKE_mesh.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): (mar-2001 nzc)
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27 #ifndef __BKE_MESH_H__
28 #define __BKE_MESH_H__
29
30 /** \file BKE_mesh.h
31  *  \ingroup bke
32  */
33
34 /***/
35
36 struct ID;
37 struct BoundBox;
38 struct DispList;
39 struct EdgeHash;
40 struct ListBase;
41 struct BMEditMesh;
42 struct BMesh;
43 struct Main;
44 struct Mesh;
45 struct MPoly;
46 struct MLoop;
47 struct MFace;
48 struct MEdge;
49 struct MVert;
50 struct MDeformVert;
51 struct MCol;
52 struct Object;
53 struct MTFace;
54 struct VecNor;
55 struct CustomData;
56 struct DerivedMesh;
57 struct Scene;
58 struct MLoopUV;
59 struct UvVertMap;
60 struct UvMapVert;
61 struct UvElementMap;
62 struct UvElement;
63 #ifdef __cplusplus
64 extern "C" {
65 #endif
66
67 struct BMesh *BKE_mesh_to_bmesh(struct Mesh *me, struct Object *ob);
68
69 /*
70  * this function recreates a tessellation.
71  * returns number of tessellation faces.
72  *
73  * use_poly_origindex sets whether or not the tessellation faces' origindex
74  * layer should point to original poly indices or real poly indices.
75  *
76  * use_face_origindex sets the tessellation faces' origindex layer
77  * to point to the tessellation faces themselves, not the polys.
78  *
79  * if both of the above are 0, it'll use the indices of the mpolys of the MPoly
80  * data in pdata, and ignore the origindex layer altogether.
81  */
82 int BKE_mesh_recalc_tessellation(struct CustomData *fdata, struct CustomData *ldata, struct CustomData *pdata,
83                                  struct MVert *mvert,
84                                  int totface, int totloop, int totpoly,
85                                  const bool do_face_normals);
86
87 /* for forwards compat only quad->tri polys to mface, skip ngons.
88  */
89 int BKE_mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
90                             struct CustomData *pdata, int totface, int totloop, int totpoly);
91
92 /*calculates a face normal.*/
93 void BKE_mesh_calc_poly_normal(struct MPoly *mpoly, struct MLoop *loopstart,
94                                struct MVert *mvarray, float no[3]);
95
96 void BKE_mesh_calc_poly_normal_coords(struct MPoly *mpoly, struct MLoop *loopstart,
97                                       const float (*vertex_coords)[3], float no[3]);
98
99 void BKE_mesh_calc_poly_center(struct MPoly *mpoly, struct MLoop *loopstart,
100                                struct MVert *mvarray, float cent[3]);
101
102 float BKE_mesh_calc_poly_area(struct MPoly *mpoly, struct MLoop *loopstart,
103                               struct MVert *mvarray, const float polynormal[3]);
104
105 void BKE_mesh_calc_poly_angles(struct MPoly *mpoly, struct MLoop *loopstart,
106                                struct MVert *mvarray, float angles[]);
107
108 int *BKE_mesh_calc_smoothgroups(const struct MEdge *medge, const int totedge,
109                                 const struct MPoly *mpoly, const int totpoly,
110                                 const struct MLoop *mloop, const int totloop);
111
112 void BKE_mesh_calc_relative_deform(
113         const struct MPoly *mpoly, const int totpoly,
114         const struct MLoop *mloop, const int totvert,
115
116         const float (*vert_cos_src)[3],
117         const float (*vert_cos_dst)[3],
118
119         const float (*vert_cos_org)[3],
120               float (*vert_cos_new)[3]);
121
122 /* Find the index of the loop in 'poly' which references vertex,
123  * returns -1 if not found */
124 int poly_find_loop_from_vert(const struct MPoly *poly,
125                              const struct MLoop *loopstart,
126                              unsigned vert);
127
128 /* Fill 'adj_r' with the loop indices in 'poly' adjacent to the
129  * vertex. Returns the index of the loop matching vertex, or -1 if the
130  * vertex is not in 'poly' */
131 int poly_get_adj_loops_from_vert(unsigned adj_r[3], const struct MPoly *poly,
132                                  const struct MLoop *mloop, unsigned vert);
133
134 /* Return the index of the edge vert that is not equal to 'v'. If
135  * neither edge vertex is equal to 'v', returns -1. */
136 int BKE_mesh_edge_other_vert(const struct MEdge *e, int v);
137
138 /* update the hide flag for edges and polys from the corresponding
139  * flag in verts */
140 void BKE_mesh_flush_hidden_from_verts(const struct MVert *mvert,
141                                       const struct MLoop *mloop,
142                                       struct MEdge *medge, int totedge,
143                                       struct MPoly *mpoly, int totpoly);
144
145 void BKE_mesh_flush_select_from_polys_ex(struct MVert *mvert,       const int totvert,
146                                          struct MLoop *mloop,
147                                          struct MEdge *medge,       const int totedge,
148                                          const struct MPoly *mpoly, const int totpoly);
149 void BKE_mesh_flush_select_from_polys(struct Mesh *me);
150 void BKE_mesh_flush_select_from_verts_ex(const struct MVert *mvert, const int totvert,
151                                          struct MLoop *mloop,
152                                          struct MEdge *medge,       const int totedge,
153                                          struct MPoly *mpoly,       const int totpoly);
154 void BKE_mesh_flush_select_from_verts(struct Mesh *me);
155
156 void BKE_mesh_unlink(struct Mesh *me);
157 void BKE_mesh_free(struct Mesh *me, int unlink);
158 struct Mesh *BKE_mesh_add(struct Main *bmain, const char *name);
159 struct Mesh *BKE_mesh_copy_ex(struct Main *bmain, struct Mesh *me);
160 struct Mesh *BKE_mesh_copy(struct Mesh *me);
161 void BKE_mesh_update_customdata_pointers(struct Mesh *me, const bool do_ensure_tess_cd);
162
163 void BKE_mesh_make_local(struct Mesh *me);
164 void BKE_mesh_boundbox_calc(struct Mesh *me, float r_loc[3], float r_size[3]);
165 void BKE_mesh_texspace_calc(struct Mesh *me);
166 float (*BKE_mesh_orco_verts_get(struct Object *ob))[3];
167 void   BKE_mesh_orco_verts_transform(struct Mesh *me, float (*orco)[3], int totvert, int invert);
168 int test_index_face(struct MFace *mface, struct CustomData *mfdata, int mfindex, int nr);
169 struct Mesh *BKE_mesh_from_object(struct Object *ob);
170 void BKE_mesh_assign_object(struct Object *ob, struct Mesh *me);
171 void BKE_mesh_from_metaball(struct ListBase *lb, struct Mesh *me);
172 int  BKE_mesh_nurbs_to_mdata(struct Object *ob, struct MVert **allvert, int *totvert,
173                              struct MEdge **alledge, int *totedge, struct MLoop **allloop, struct MPoly **allpoly,
174                              int *totloop, int *totpoly);
175 int BKE_mesh_nurbs_displist_to_mdata(struct Object *ob, struct ListBase *dispbase, struct MVert **allvert, int *_totvert,
176                                      struct MEdge **alledge, int *_totedge, struct MLoop **allloop, struct MPoly **allpoly,
177                                      struct MLoopUV **alluv, int *_totloop, int *_totpoly);
178 void BKE_mesh_from_nurbs_displist(struct Object *ob, struct ListBase *dispbase, const bool use_orco_uv);
179 void BKE_mesh_from_nurbs(struct Object *ob);
180 void BKE_mesh_to_curve_nurblist(struct DerivedMesh *dm, struct ListBase *nurblist, const int edge_users_test);
181 void BKE_mesh_to_curve(struct Scene *scene, struct Object *ob);
182 void BKE_mesh_delete_material_index(struct Mesh *me, short index);
183 void BKE_mesh_smooth_flag_set(struct Object *meshOb, int enableSmooth);
184 void BKE_mesh_convert_mfaces_to_mpolys(struct Mesh *mesh);
185 void BKE_mesh_do_versions_convert_mfaces_to_mpolys(struct Mesh *mesh);
186 void BKE_mesh_convert_mfaces_to_mpolys_ex(struct ID *id,
187                                           struct CustomData *fdata, struct CustomData *ldata, struct CustomData *pdata,
188                                           int totedge_i, int totface_i, int totloop_i, int totpoly_i,
189                                           struct MEdge *medge, struct MFace *mface,
190                                           int *totloop_r, int *totpoly_r,
191                                           struct MLoop **mloop_r, struct MPoly **mpoly_r);
192
193 void BKE_mesh_calc_normals_tessface(struct MVert *mverts, int numVerts, struct MFace *mfaces, int numFaces, float (*faceNors_r)[3]);
194
195 /* used for unit testing; compares two meshes, checking only
196  * differences we care about.  should be usable with leaf's
197  * testing framework I get RNA work done, will use hackish
198  * testing code for now.*/
199 const char *BKE_mesh_cmp(struct Mesh *me1, struct Mesh *me2, float thresh);
200
201 struct BoundBox *BKE_mesh_boundbox_get(struct Object *ob);
202 void BKE_mesh_texspace_get(struct Mesh *me, float r_loc[3], float r_rot[3], float r_size[3]);
203
204 /* if old, it converts mface->edcode to edge drawflags */
205 void BKE_mesh_make_edges(struct Mesh *me, const bool use_old);
206
207 void BKE_mesh_strip_loose_faces(struct Mesh *me); /* Needed for compatibility (some old read code). */
208 void BKE_mesh_strip_loose_polysloops(struct Mesh *me);
209 void BKE_mesh_strip_loose_edges(struct Mesh *me);
210
211 /* Calculate vertex and face normals, face normals are returned in *faceNors_r if non-NULL
212  * and vertex normals are stored in actual mverts.
213  */
214 void BKE_mesh_calc_normals_mapping(
215         struct MVert *mverts, int numVerts,
216         struct MLoop *mloop, struct MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
217         struct MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3]);
218 /* extended version of 'BKE_mesh_calc_normals_poly' with option not to calc vertex normals */
219 void BKE_mesh_calc_normals_mapping_ex(
220         struct MVert *mverts, int numVerts,
221         struct MLoop *mloop, struct MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
222         struct MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3],
223         const bool only_face_normals);
224
225 void BKE_mesh_calc_normals_poly(
226         struct MVert *mverts, int numVerts,
227         struct MLoop *mloop, struct MPoly *mpolys,
228         int numLoops, int numPolys, float (*polyNors_r)[3],
229         const bool only_face_normals);
230
231 void BKE_mesh_calc_normals(struct Mesh *me);
232
233 /* Return a newly MEM_malloc'd array of all the mesh vertex locations
234  * (_numVerts_r_ may be NULL) */
235 float (*BKE_mesh_vertexCos_get(struct Mesh *me, int *r_numVerts))[3];
236
237 /* map from uv vertex to face (for select linked, stitch, uv suburf) */
238
239 /* UvVertMap */
240
241 #define STD_UV_CONNECT_LIMIT  0.0001f
242
243 typedef struct UvVertMap {
244         struct UvMapVert **vert;
245         struct UvMapVert *buf;
246 } UvVertMap;
247
248 typedef struct UvMapVert {
249         struct UvMapVert *next;
250         unsigned int f;
251         unsigned char tfindex, separate, flag;
252 } UvMapVert;
253
254 /* UvElement stores per uv information so that we can quickly access information for a uv.
255  * it is actually an improved UvMapVert, including an island and a direct pointer to the face
256  * to avoid initializing face arrays */
257 typedef struct UvElement {
258         /* Next UvElement corresponding to same vertex */
259         struct UvElement *next;
260         /* Face the element belongs to */
261         struct BMLoop *l;
262         /* index in loop. */
263         unsigned short tfindex;
264         /* Whether this element is the first of coincident elements */
265         unsigned char separate;
266         /* general use flag */
267         unsigned char flag;
268         /* If generating element map with island sorting, this stores the island index */
269         unsigned short island;
270 } UvElement;
271
272
273 /* UvElementMap is a container for UvElements of a mesh. It stores some UvElements belonging to the
274  * same uv island in sequence and the number of uvs per island so it is possible to access all uvs
275  * belonging to an island directly by iterating through the buffer.
276  */
277 typedef struct UvElementMap {
278         /* address UvElements by their vertex */
279         struct UvElement **vert;
280         /* UvElement Store */
281         struct UvElement *buf;
282         /* Total number of UVs in the layer. Useful to know */
283         int totalUVs;
284         /* Number of Islands in the mesh */
285         int totalIslands;
286         /* Stores the starting index in buf where each island begins */
287         int *islandIndices;
288 } UvElementMap;
289
290 /* invalid island index is max short. If any one has the patience
291  * to make that many islands, he can bite me :p */
292 #define INVALID_ISLAND 0xFFFF
293
294 UvVertMap *BKE_mesh_uv_vert_map_create(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv,
295                                      unsigned int totpoly, unsigned int totvert, int selected, float *limit);
296 UvMapVert *BKE_mesh_uv_vert_map_get_vert(UvVertMap *vmap, unsigned int v);
297 void       BKE_mesh_uv_vert_map_free(UvVertMap *vmap);
298
299 /* Connectivity data */
300 typedef struct MeshElemMap {
301         int *indices;
302         int count;
303 } MeshElemMap;
304         
305 typedef struct IndexNode {
306         struct IndexNode *next, *prev;
307         int index;
308 } IndexNode;
309
310 void BKE_mesh_vert_poly_map_create(MeshElemMap **r_map, int **r_mem,
311                                    const struct MPoly *mface, const struct MLoop *mloop,
312                                    int totvert, int totface, int totloop);
313
314 void BKE_mesh_vert_edge_map_create(MeshElemMap **r_map, int **r_mem,
315                                    const struct MEdge *medge, int totvert, int totedge);
316
317 void BKE_mesh_edge_poly_map_create(MeshElemMap **r_map, int **r_mem,
318                                    const struct MEdge *medge, const int totedge,
319                                    const struct MPoly *mpoly, const int totpoly,
320                                    const struct MLoop *mloop, const int totloop);
321
322 /* vertex level transformations & checks (no derived mesh) */
323
324 int BKE_mesh_minmax(struct Mesh *me, float r_min[3], float r_max[3]);
325 int BKE_mesh_center_median(struct Mesh *me, float cent[3]);
326 int BKE_mesh_center_bounds(struct Mesh *me, float cent[3]);
327 int BKE_mesh_center_centroid(struct Mesh *me, float cent[3]);
328 void BKE_mesh_translate(struct Mesh *me, const float offset[3], const bool do_keys);
329
330 /* mesh_validate.c */
331 /* XXX Loop v/e are unsigned, so using max uint_32 value as invalid marker... */
332 #define INVALID_LOOP_EDGE_MARKER 4294967295u
333 int BKE_mesh_validate_arrays(
334         struct Mesh *me,
335         struct MVert *mverts, unsigned int totvert,
336         struct MEdge *medges, unsigned int totedge,
337         struct MFace *mfaces, unsigned int totface,
338         struct MLoop *mloops, unsigned int totloop,
339         struct MPoly *mpolys, unsigned int totpoly,
340         struct MDeformVert *dverts, /* assume totvert length */
341         const bool do_verbose, const bool do_fixes);
342 int BKE_mesh_validate(struct Mesh *me, const int do_verbose);
343 int BKE_mesh_validate_dm(struct DerivedMesh *dm);
344
345 void BKE_mesh_calc_edges(struct Mesh *mesh, bool update, const bool select);
346
347 void BKE_mesh_ensure_navmesh(struct Mesh *me);
348
349 void BKE_mesh_tessface_calc(struct Mesh *mesh);
350 void BKE_mesh_tessface_ensure(struct Mesh *mesh);
351 void BKE_mesh_tessface_clear(struct Mesh *mesh);
352
353 /* Convert a triangle or quadrangle of loop/poly data to tessface data */
354 void BKE_mesh_loops_to_mface_corners(struct CustomData *fdata, struct CustomData *ldata,
355                                      struct CustomData *pdata, int lindex[4], int findex,
356                                      const int polyindex, const int mf_len,
357                                      const int numTex, const int numCol, const int hasPCol, const int hasOrigSpace);
358
359 void BKE_mesh_poly_edgehash_insert(struct EdgeHash *ehash, const struct MPoly *mp, const struct MLoop *mloop);
360
361 void BKE_mesh_do_versions_cd_flag_init(struct Mesh *mesh);
362
363 #ifdef __cplusplus
364 }
365 #endif
366
367 #endif /* __BKE_MESH_H__ */