[#34013] [video sequence editor] Offset and crop of strips are wrong
[blender.git] / source / blender / blenkernel / BKE_DerivedMesh.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 #ifndef __BKE_DERIVEDMESH_H__
29 #define __BKE_DERIVEDMESH_H__
30
31 /**
32  * Basic design of the DerivedMesh system:
33  *
34  * DerivedMesh is a common set of interfaces for mesh systems.
35  *
36  * There are three main mesh data structures in Blender:
37  * #Mesh, #CDDerivedMesh and #BMesh.
38  *
39  * These, and a few others, all implement DerivedMesh interfaces, 
40  * which contains unified drawing interfaces, a few utility interfaces, 
41  * and a bunch of read-only interfaces intended mostly for conversion from 
42  * one format to another.
43  *
44  * All Mesh structures in blender make use of CustomData, which is used to store
45  * per-element attributes and interpolate them (e.g. uvs, vcols, vgroups, etc).
46  * 
47  * Mesh is the "serialized" structure, used for storing object-mode mesh data
48  * and also for saving stuff to disk.  It's interfaces are also what DerivedMesh
49  * uses to communicate with.
50  * 
51  * CDDM is a little mesh library, that uses Mesh data structures in the backend.
52  * It's mostly used for modifiers, and has the advantages of not taking much
53  * resources.
54  *
55  * BMesh is a full-on brep, used for editmode, some modifiers, etc.  It's much
56  * more capable (if memory-intensive) then CDDM.
57  *
58  * DerivedMesh is somewhat hackish.  Many places assumes that a DerivedMesh is
59  * a CDDM (most of the time by simply copying it and converting it to one).
60  * CDDM is the original structure for modifiers, but has since been superseded
61  * by BMesh, at least for the foreseeable future.
62  */
63
64 /*
65  * Note: This structure is read-only, for all practical purposes.
66  *       At some point in the future, we may want to consider
67  *       creating a replacement structure that implements a proper
68  *       abstract mesh kernel interface.  Or, we can leave this
69  *       as it is and stick with using BMesh and CDDM.
70  */
71
72 #include "DNA_customdata_types.h"
73 #include "DNA_meshdata_types.h"
74
75 #include "BKE_customdata.h"
76 #include "BKE_bvhutils.h"
77
78 struct CCGElem;
79 struct CCGKey;
80 struct MVert;
81 struct MEdge;
82 struct MFace;
83 struct MTFace;
84 struct Object;
85 struct Scene;
86 struct Mesh;
87 struct BMEditMesh;
88 struct KeyBlock;
89 struct ModifierData;
90 struct MCol;
91 struct ColorBand;
92 struct GPUVertexAttribs;
93 struct GPUDrawObject;
94 struct BMEditMesh;
95 struct ListBase;
96 struct PBVH;
97
98 #define DM_OMP_LIMIT 0  /* setting zero so we can catch bugs in OpenMP/BMesh */
99
100 /* number of sub-elements each mesh element has (for interpolation) */
101 #define SUB_ELEMS_VERT 0
102 #define SUB_ELEMS_EDGE 2
103 #define SUB_ELEMS_FACE 50
104
105 /*
106  * Note: all mface interfaces now officially operate on tessellated data.
107  *       Also, the mface origindex layer indexes mpolys, not mfaces.
108  */
109
110 typedef struct DMCoNo {
111         float co[3];
112         float no[3];
113 } DMCoNo;
114
115 typedef struct DMGridAdjacency {
116         int index[4];
117         int rotation[4];
118 } DMGridAdjacency;
119
120 /* keep in sync with MFace/MPoly types */
121 typedef struct DMFlagMat {
122         short mat_nr;
123         char flag;
124 } DMFlagMat;
125
126 typedef enum DerivedMeshType {
127         DM_TYPE_CDDM,
128         DM_TYPE_EDITBMESH,
129         DM_TYPE_CCGDM
130 } DerivedMeshType;
131
132 typedef enum DMDrawOption {
133         /* the element is hidden or otherwise non-drawable */
134         DM_DRAW_OPTION_SKIP = 0,
135         /* normal drawing */
136         DM_DRAW_OPTION_NORMAL = 1,
137         /* draw, but don't set the color from mcol */
138         DM_DRAW_OPTION_NO_MCOL = 2,
139         /* used in drawMappedFaces, use GL stipple for the face */
140         DM_DRAW_OPTION_STIPPLE = 3,
141 } DMDrawOption;
142
143 /* Drawing callback types */
144 typedef int (*DMSetMaterial)(int mat_nr, void *attribs);
145 typedef int (*DMCompareDrawOptions)(void *userData, int cur_index, int next_index);
146 typedef void (*DMSetDrawInterpOptions)(void *userData, int index, float t);
147 typedef DMDrawOption (*DMSetDrawOptions)(void *userData, int index);
148 typedef DMDrawOption (*DMSetDrawOptionsTex)(struct MTFace *tface, int has_vcol, int matnr);
149
150 typedef enum DMDrawFlag {
151         DM_DRAW_USE_COLORS = 1,
152         DM_DRAW_ALWAYS_SMOOTH = 2
153 } DMDrawFlag;
154
155 typedef enum DMDirtyFlag {
156         /* dm has valid tessellated faces, but tessellated CDDATA need to be updated. */
157         DM_DIRTY_TESS_CDLAYERS = 1 << 0,
158         /* One of the MCOL layers have been updated, force updating of GPUDrawObject's colors buffer.
159          * This is necessary with modern, VBO draw code, as e.g. in vpaint mode me->mcol may be updated
160          * without actually rebuilding dm (hence by defautl keeping same GPUDrawObject, and same colors
161          * buffer, which prevents update during a stroke!). */
162         DM_DIRTY_MCOL_UPDATE_DRAW = 1 << 1,
163 } DMDirtyFlag;
164
165 typedef struct DerivedMesh DerivedMesh;
166 struct DerivedMesh {
167         /** Private DerivedMesh data, only for internal DerivedMesh use */
168         CustomData vertData, edgeData, faceData, loopData, polyData;
169         int numVertData, numEdgeData, numTessFaceData, numLoopData, numPolyData;
170         int needsFree; /* checked on ->release, is set to 0 for cached results */
171         int deformedOnly; /* set by modifier stack if only deformed from original */
172         BVHCache bvhCache;
173         struct GPUDrawObject *drawObject;
174         DerivedMeshType type;
175         float auto_bump_scale;
176         DMDirtyFlag dirty;
177
178         /* use for converting to BMesh which doesn't store bevel weight and edge crease by default */
179         char cd_flag;
180
181         /** Calculate vert and face normals */
182         void (*calcNormals)(DerivedMesh *dm);
183
184         /** Recalculates mesh tessellation */
185         void (*recalcTessellation)(DerivedMesh *dm);
186
187         /* Misc. Queries */
188
189         /* Also called in Editmode */
190         int (*getNumVerts)(DerivedMesh *dm);
191         int (*getNumEdges)(DerivedMesh *dm);
192         int (*getNumTessFaces)(DerivedMesh *dm);
193         int (*getNumLoops)(DerivedMesh *dm);
194         int (*getNumPolys)(DerivedMesh *dm);
195
196         /** Copy a single vert/edge/tessellated face from the derived mesh into
197          * *{vert/edge/face}_r. note that the current implementation
198          * of this function can be quite slow, iterating over all
199          * elements (editmesh)
200          */
201         void (*getVert)(DerivedMesh *dm, int index, struct MVert *vert_r);
202         void (*getEdge)(DerivedMesh *dm, int index, struct MEdge *edge_r);
203         void (*getTessFace)(DerivedMesh *dm, int index, struct MFace *face_r);
204
205         /** Return a pointer to the entire array of verts/edges/face from the
206          * derived mesh. if such an array does not exist yet, it will be created,
207          * and freed on the next ->release(). consider using getVert/Edge/Face if
208          * you are only interested in a few verts/edges/faces.
209          */
210         struct MVert *(*getVertArray)(DerivedMesh * dm);
211         struct MEdge *(*getEdgeArray)(DerivedMesh * dm);
212         struct MFace *(*getTessFaceArray)(DerivedMesh * dm);
213         struct MLoop *(*getLoopArray)(DerivedMesh * dm);
214         struct MPoly *(*getPolyArray)(DerivedMesh * dm);
215
216         /** Copy all verts/edges/faces from the derived mesh into
217          * *{vert/edge/face}_r (must point to a buffer large enough)
218          */
219         void (*copyVertArray)(DerivedMesh *dm, struct MVert *vert_r);
220         void (*copyEdgeArray)(DerivedMesh *dm, struct MEdge *edge_r);
221         void (*copyTessFaceArray)(DerivedMesh *dm, struct MFace *face_r);
222         void (*copyLoopArray)(DerivedMesh *dm, struct MLoop *loop_r);
223         void (*copyPolyArray)(DerivedMesh *dm, struct MPoly *poly_r);
224
225         /** Return a copy of all verts/edges/faces from the derived mesh
226          * it is the caller's responsibility to free the returned pointer
227          */
228         struct MVert *(*dupVertArray)(DerivedMesh * dm);
229         struct MEdge *(*dupEdgeArray)(DerivedMesh * dm);
230         struct MFace *(*dupTessFaceArray)(DerivedMesh * dm);
231         struct MLoop *(*dupLoopArray)(DerivedMesh * dm);
232         struct MPoly *(*dupPolyArray)(DerivedMesh * dm);
233
234         /** Return a pointer to a single element of vert/edge/face custom data
235          * from the derived mesh (this gives a pointer to the actual data, not
236          * a copy)
237          */
238         void *(*getVertData)(DerivedMesh * dm, int index, int type);
239         void *(*getEdgeData)(DerivedMesh * dm, int index, int type);
240         void *(*getTessFaceData)(DerivedMesh * dm, int index, int type);
241         void *(*getPolyData)(DerivedMesh * dm, int index, int type);
242
243         /** Return a pointer to the entire array of vert/edge/face custom data
244          * from the derived mesh (this gives a pointer to the actual data, not
245          * a copy)
246          */
247         void *(*getVertDataArray)(DerivedMesh * dm, int type);
248         void *(*getEdgeDataArray)(DerivedMesh * dm, int type);
249         void *(*getTessFaceDataArray)(DerivedMesh * dm, int type);
250         void *(*getPolyDataArray)(DerivedMesh * dm, int type);
251
252         /** Retrieves the base CustomData structures for
253          * verts/edges/tessfaces/loops/facdes*/
254         CustomData *(*getVertDataLayout)(DerivedMesh * dm);
255         CustomData *(*getEdgeDataLayout)(DerivedMesh * dm);
256         CustomData *(*getTessFaceDataLayout)(DerivedMesh * dm);
257         CustomData *(*getLoopDataLayout)(DerivedMesh * dm);
258         CustomData *(*getPolyDataLayout)(DerivedMesh * dm);
259         
260         /** Copies all customdata for an element source into dst at index dest */
261         void (*copyFromVertCData)(DerivedMesh *dm, int source, CustomData *dst, int dest);
262         void (*copyFromEdgeCData)(DerivedMesh *dm, int source, CustomData *dst, int dest);
263         void (*copyFromFaceCData)(DerivedMesh *dm, int source, CustomData *dst, int dest);
264         
265         /** Optional grid access for subsurf */
266         int (*getNumGrids)(DerivedMesh *dm);
267         int (*getGridSize)(DerivedMesh *dm);
268         struct CCGElem **(*getGridData)(DerivedMesh * dm);
269         DMGridAdjacency *(*getGridAdjacency)(DerivedMesh * dm);
270         int *(*getGridOffset)(DerivedMesh * dm);
271         void (*getGridKey)(DerivedMesh *dm, struct CCGKey *key);
272         DMFlagMat *(*getGridFlagMats)(DerivedMesh * dm);
273         unsigned int **(*getGridHidden)(DerivedMesh * dm);
274         
275
276         /** Iterate over each mapped vertex in the derived mesh, calling the
277          * given function with the original vert and the mapped vert's new
278          * coordinate and normal. For historical reasons the normal can be
279          * passed as a float or short array, only one should be non-NULL.
280          */
281         void (*foreachMappedVert)(DerivedMesh *dm,
282                                   void (*func)(void *userData, int index, const float co[3],
283                                                const float no_f[3], const short no_s[3]),
284                                   void *userData);
285
286         /** Iterate over each mapped edge in the derived mesh, calling the
287          * given function with the original edge and the mapped edge's new
288          * coordinates.
289          */
290         void (*foreachMappedEdge)(DerivedMesh *dm,
291                                   void (*func)(void *userData, int index,
292                                                const float v0co[3], const float v1co[3]),
293                                   void *userData);
294
295         /** Iterate over each mapped face in the derived mesh, calling the
296          * given function with the original face and the mapped face's (or
297          * faces') center and normal.
298          */
299         void (*foreachMappedFaceCenter)(DerivedMesh *dm,
300                                         void (*func)(void *userData, int index,
301                                                      const float cent[3], const float no[3]),
302                                         void *userData);
303
304         /** Iterate over all vertex points, calling DO_MINMAX with given args.
305          *
306          * Also called in Editmode
307          */
308         void (*getMinMax)(DerivedMesh *dm, float min_r[3], float max_r[3]);
309
310         /** Direct Access Operations
311          * - Can be undefined
312          * - Must be defined for modifiers that only deform however */
313
314         /** Get vertex location, undefined if index is not valid */
315         void (*getVertCo)(DerivedMesh *dm, int index, float co_r[3]);
316
317         /** Fill the array (of length .getNumVerts()) with all vertex locations */
318         void (*getVertCos)(DerivedMesh *dm, float (*cos_r)[3]);
319
320         /** Get smooth vertex normal, undefined if index is not valid */
321         void (*getVertNo)(DerivedMesh *dm, int index, float no_r[3]);
322
323         /** Get a map of vertices to faces
324          */
325         const struct MeshElemMap *(*getPolyMap)(struct Object *ob, DerivedMesh *dm);
326
327         /** Get the BVH used for paint modes
328          */
329         struct PBVH *(*getPBVH)(struct Object *ob, DerivedMesh *dm);
330
331         /* Drawing Operations */
332
333         /** Draw all vertices as bgl points (no options) */
334         void (*drawVerts)(DerivedMesh *dm);
335
336         /** Draw edges in the UV mesh (if exists) */
337         void (*drawUVEdges)(DerivedMesh *dm);
338
339         /** Draw all edges as lines (no options)
340          *
341          * Also called for *final* editmode DerivedMeshes
342          */
343         void (*drawEdges)(DerivedMesh *dm, int drawLooseEdges, int drawAllEdges);
344         
345         /** Draw all loose edges (edges w/ no adjoining faces) */
346         void (*drawLooseEdges)(DerivedMesh *dm);
347
348         /** Draw all faces
349          *  o Set face normal or vertex normal based on inherited face flag
350          *  o Use inherited face material index to call setMaterial
351          *  o Only if setMaterial returns true
352          *
353          * Also called for *final* editmode DerivedMeshes
354          */
355         void (*drawFacesSolid)(DerivedMesh *dm, float (*partial_redraw_planes)[4],
356                                int fast, DMSetMaterial setMaterial);
357
358         /** Draw all faces using MTFace
359          * - Drawing options too complicated to enumerate, look at code.
360          */
361         void (*drawFacesTex)(DerivedMesh *dm,
362                              DMSetDrawOptionsTex setDrawOptions,
363                              DMCompareDrawOptions compareDrawOptions,
364                              void *userData);
365
366         /** Draw all faces with GLSL materials
367          *  o setMaterial is called for every different material nr
368          *  o Only if setMaterial returns true
369          */
370         void (*drawFacesGLSL)(DerivedMesh *dm, DMSetMaterial setMaterial);
371
372         /** Draw mapped faces (no color, or texture)
373          * - Only if !setDrawOptions or
374          *   setDrawOptions(userData, mapped-face-index, drawSmooth_r)
375          *   returns true
376          *
377          * If drawSmooth is set to true then vertex normals should be set and
378          * glShadeModel called with GL_SMOOTH. Otherwise the face normal should
379          * be set and glShadeModel called with GL_FLAT.
380          *
381          * The setDrawOptions is allowed to not set drawSmooth (for example, when
382          * lighting is disabled), in which case the implementation should draw as
383          * smooth shaded.
384          */
385         void (*drawMappedFaces)(DerivedMesh *dm,
386                                 DMSetDrawOptions setDrawOptions,
387                                 DMSetMaterial setMaterial,
388                                 DMCompareDrawOptions compareDrawOptions,
389                                 void *userData,
390                                 DMDrawFlag flag);
391
392         /** Draw mapped faces using MTFace
393          * - Drawing options too complicated to enumerate, look at code.
394          */
395         void (*drawMappedFacesTex)(DerivedMesh *dm,
396                                    DMSetDrawOptions setDrawOptions,
397                                    DMCompareDrawOptions compareDrawOptions,
398                                    void *userData);
399
400         /** Draw mapped faces with GLSL materials
401          * - setMaterial is called for every different material nr
402          * - setDrawOptions is called for every face
403          * - Only if setMaterial and setDrawOptions return true
404          */
405         void (*drawMappedFacesGLSL)(DerivedMesh *dm,
406                                     DMSetMaterial setMaterial,
407                                     DMSetDrawOptions setDrawOptions,
408                                     void *userData);
409
410         /** Draw mapped edges as lines
411          * - Only if !setDrawOptions or setDrawOptions(userData, mapped-edge)
412          *   returns true
413          */
414         void (*drawMappedEdges)(DerivedMesh *dm,
415                                 DMSetDrawOptions setDrawOptions,
416                                 void *userData);
417
418         /** Draw mapped edges as lines with interpolation values
419          * - Only if !setDrawOptions or
420          *   setDrawOptions(userData, mapped-edge, mapped-v0, mapped-v1, t)
421          *   returns true
422          *
423          * NOTE: This routine is optional!
424          */
425         void (*drawMappedEdgesInterp)(DerivedMesh *dm, 
426                                       DMSetDrawOptions setDrawOptions,
427                                       DMSetDrawInterpOptions setDrawInterpOptions,
428                                       void *userData);
429
430         /** Draw all faces with materials
431          * - setMaterial is called for every different material nr
432          * - setFace is called to verify if a face must be hidden
433          */
434         void (*drawMappedFacesMat)(DerivedMesh *dm,
435                                    void (*setMaterial)(void *userData, int, void *attribs),
436                                    int (*setFace)(void *userData, int index), void *userData);
437
438         /** Release reference to the DerivedMesh. This function decides internally
439          * if the DerivedMesh will be freed, or cached for later use. */
440         void (*release)(DerivedMesh *dm);
441 };
442
443 /** utility function to initialize a DerivedMesh's function pointers to
444  * the default implementation (for those functions which have a default)
445  */
446 void DM_init_funcs(DerivedMesh *dm);
447
448 /** utility function to initialize a DerivedMesh for the desired number
449  * of vertices, edges and faces (doesn't allocate memory for them, just
450  * sets up the custom data layers)
451  */
452 void DM_init(DerivedMesh *dm, DerivedMeshType type, int numVerts, int numEdges, 
453              int numFaces, int numLoops, int numPolys);
454
455 /** utility function to initialize a DerivedMesh for the desired number
456  * of vertices, edges and faces, with a layer setup copied from source
457  */
458 void DM_from_template(DerivedMesh *dm, DerivedMesh *source,
459                       DerivedMeshType type,
460                       int numVerts, int numEdges, int numFaces,
461                       int numLoops, int numPolys);
462
463 /** utility function to release a DerivedMesh's layers
464  * returns 1 if DerivedMesh has to be released by the backend, 0 otherwise
465  */
466 int DM_release(DerivedMesh *dm);
467
468 /** utility function to convert a DerivedMesh to a Mesh
469  */
470 void DM_to_mesh(DerivedMesh *dm, struct Mesh *me, struct Object *ob);
471
472 struct BMEditMesh *DM_to_editbmesh(struct DerivedMesh *dm,
473                                    struct BMEditMesh *existing, int do_tessellate);
474
475 /* conversion to bmesh only */
476 void          DM_to_bmesh_ex(struct DerivedMesh *dm, struct BMesh *bm);
477 struct BMesh *DM_to_bmesh(struct DerivedMesh *dm);
478
479
480 /** Utility function to convert a DerivedMesh to a shape key block */
481 void DM_to_meshkey(DerivedMesh *dm, struct Mesh *me, struct KeyBlock *kb);
482
483 /** set the CD_FLAG_NOCOPY flag in custom data layers where the mask is
484  * zero for the layer type, so only layer types specified by the mask
485  * will be copied
486  */
487 void DM_set_only_copy(DerivedMesh *dm, CustomDataMask mask);
488
489 /* adds a vertex/edge/face custom data layer to a DerivedMesh, optionally
490  * backed by an external data array
491  * alloctype defines how the layer is allocated or copied, and how it is
492  * freed, see BKE_customdata.h for the different options
493  */
494 void DM_add_vert_layer(struct DerivedMesh *dm, int type, int alloctype,
495                        void *layer);
496 void DM_add_edge_layer(struct DerivedMesh *dm, int type, int alloctype,
497                        void *layer);
498 void DM_add_tessface_layer(struct DerivedMesh *dm, int type, int alloctype,
499                            void *layer);
500 void DM_add_loop_layer(DerivedMesh *dm, int type, int alloctype,
501                        void *layer);
502 void DM_add_poly_layer(struct DerivedMesh *dm, int type, int alloctype,
503                        void *layer);
504
505 /* custom data access functions
506  * return pointer to data from first layer which matches type
507  * if they return NULL for valid indices, data doesn't exist
508  * note these return pointers - any change modifies the internals of the mesh
509  */
510 void *DM_get_vert_data(struct DerivedMesh *dm, int index, int type);
511 void *DM_get_edge_data(struct DerivedMesh *dm, int index, int type);
512 void *DM_get_tessface_data(struct DerivedMesh *dm, int index, int type);
513 void *DM_get_poly_data(struct DerivedMesh *dm, int index, int type);
514
515 /* custom data layer access functions
516  * return pointer to first data layer which matches type (a flat array)
517  * if they return NULL, data doesn't exist
518  * note these return pointers - any change modifies the internals of the mesh
519  */
520 void *DM_get_vert_data_layer(struct DerivedMesh *dm, int type);
521 void *DM_get_edge_data_layer(struct DerivedMesh *dm, int type);
522 void *DM_get_tessface_data_layer(struct DerivedMesh *dm, int type);
523 void *DM_get_poly_data_layer(struct DerivedMesh *dm, int type);
524 void *DM_get_loop_data_layer(struct DerivedMesh *dm, int type);
525
526 /* custom data setting functions
527  * copy supplied data into first layer of type using layer's copy function
528  * (deep copy if appropriate)
529  */
530 void DM_set_vert_data(struct DerivedMesh *dm, int index, int type, void *data);
531 void DM_set_edge_data(struct DerivedMesh *dm, int index, int type, void *data);
532 void DM_set_tessface_data(struct DerivedMesh *dm, int index, int type, void *data);
533
534 /* custom data copy functions
535  * copy count elements from source_index in source to dest_index in dest
536  * these copy all layers for which the CD_FLAG_NOCOPY flag is not set
537  */
538 void DM_copy_vert_data(struct DerivedMesh *source, struct DerivedMesh *dest,
539                        int source_index, int dest_index, int count);
540 void DM_copy_edge_data(struct DerivedMesh *source, struct DerivedMesh *dest,
541                        int source_index, int dest_index, int count);
542 void DM_copy_tessface_data(struct DerivedMesh *source, struct DerivedMesh *dest,
543                            int source_index, int dest_index, int count);
544 void DM_copy_loop_data(struct DerivedMesh *source, struct DerivedMesh *dest,
545                        int source_index, int dest_index, int count);
546 void DM_copy_poly_data(struct DerivedMesh *source, struct DerivedMesh *dest,
547                        int source_index, int dest_index, int count);
548
549 /* custom data free functions
550  * free count elements, starting at index
551  * they free all layers for which the CD_FLAG_NOCOPY flag is not set
552  */
553 void DM_free_vert_data(struct DerivedMesh *dm, int index, int count);
554 void DM_free_edge_data(struct DerivedMesh *dm, int index, int count);
555 void DM_free_tessface_data(struct DerivedMesh *dm, int index, int count);
556 void DM_free_loop_data(struct DerivedMesh *dm, int index, int count);
557 void DM_free_poly_data(struct DerivedMesh *dm, int index, int count);
558
559 /*sets up mpolys for a DM based on face iterators in source*/
560 void DM_DupPolys(DerivedMesh *source, DerivedMesh *target);
561
562 void DM_ensure_tessface(DerivedMesh *dm);
563
564 void DM_update_tessface_data(DerivedMesh *dm);
565
566 /** interpolates vertex data from the vertices indexed by src_indices in the
567  * source mesh using the given weights and stores the result in the vertex
568  * indexed by dest_index in the dest mesh
569  */
570 void DM_interp_vert_data(struct DerivedMesh *source, struct DerivedMesh *dest,
571                          int *src_indices, float *weights,
572                          int count, int dest_index);
573
574 /** interpolates edge data from the edges indexed by src_indices in the
575  * source mesh using the given weights and stores the result in the edge indexed
576  * by dest_index in the dest mesh.
577  * if weights is NULL, all weights default to 1.
578  * if vert_weights is non-NULL, any per-vertex edge data is interpolated using
579  * vert_weights[i] multiplied by weights[i].
580  */
581 typedef float EdgeVertWeight[SUB_ELEMS_EDGE][SUB_ELEMS_EDGE];
582 void DM_interp_edge_data(struct DerivedMesh *source, struct DerivedMesh *dest,
583                          int *src_indices,
584                          float *weights, EdgeVertWeight *vert_weights,
585                          int count, int dest_index);
586
587 /** interpolates face data from the faces indexed by src_indices in the
588  * source mesh using the given weights and stores the result in the face indexed
589  * by dest_index in the dest mesh.
590  * if weights is NULL, all weights default to 1.
591  * if vert_weights is non-NULL, any per-vertex face data is interpolated using
592  * vert_weights[i] multiplied by weights[i].
593  */
594 typedef float FaceVertWeight[SUB_ELEMS_FACE][SUB_ELEMS_FACE];
595 void DM_interp_tessface_data(struct DerivedMesh *source, struct DerivedMesh *dest,
596                              int *src_indices,
597                              float *weights, FaceVertWeight *vert_weights,
598                              int count, int dest_index);
599
600 void DM_swap_tessface_data(struct DerivedMesh *dm, int index, const int *corner_indices);
601
602 void DM_interp_loop_data(struct DerivedMesh *source, struct DerivedMesh *dest,
603                          int *src_indices,
604                          float *weights, int count, int dest_index);
605
606 void DM_interp_poly_data(struct DerivedMesh *source, struct DerivedMesh *dest,
607                          int *src_indices,
608                          float *weights, int count, int dest_index);
609
610 /* Temporary? A function to give a colorband to derivedmesh for vertexcolor ranges */
611 void vDM_ColorBand_store(struct ColorBand *coba);
612
613 /** Simple function to get me->totvert amount of vertices/normals,
614  * correctly deformed and subsurfered. Needed especially when vertexgroups are involved.
615  * In use now by vertex/weight paint and particles */
616 DMCoNo *mesh_get_mapped_verts_nors(struct Scene *scene, struct Object *ob);
617
618 /* */
619 DerivedMesh *mesh_get_derived_final(struct Scene *scene, struct Object *ob,
620                                     CustomDataMask dataMask);
621 DerivedMesh *mesh_get_derived_deform(struct Scene *scene, struct Object *ob,
622                                      CustomDataMask dataMask);
623
624 DerivedMesh *mesh_create_derived_for_modifier(struct Scene *scene, struct Object *ob,
625                                               struct ModifierData *md, int build_shapekey_layers);
626
627 DerivedMesh *mesh_create_derived_render(struct Scene *scene, struct Object *ob,
628                                         CustomDataMask dataMask);
629
630 DerivedMesh *getEditDerivedBMesh(struct BMEditMesh *em, struct Object *ob,
631                                  float (*vertexCos)[3]);
632
633 DerivedMesh *mesh_create_derived_index_render(struct Scene *scene, struct Object *ob, CustomDataMask dataMask, int index);
634
635 /* same as above but wont use render settings */
636 DerivedMesh *mesh_create_derived(struct Mesh *me, struct Object *ob, float (*vertCos)[3]);
637 DerivedMesh *mesh_create_derived_view(struct Scene *scene, struct Object *ob,
638                                       CustomDataMask dataMask);
639 DerivedMesh *mesh_create_derived_no_deform(struct Scene *scene, struct Object *ob,
640                                            float (*vertCos)[3],
641                                            CustomDataMask dataMask);
642 DerivedMesh *mesh_create_derived_no_deform_render(struct Scene *scene, struct Object *ob,
643                                                   float (*vertCos)[3],
644                                                   CustomDataMask dataMask);
645 /* for gameengine */
646 DerivedMesh *mesh_create_derived_no_virtual(struct Scene *scene, struct Object *ob, float (*vertCos)[3],
647                                             CustomDataMask dataMask);
648 DerivedMesh *mesh_create_derived_physics(struct Scene *scene, struct Object *ob, float (*vertCos)[3],
649                                          CustomDataMask dataMask);
650
651 DerivedMesh *editbmesh_get_derived_base(struct Object *, struct BMEditMesh *em);
652 DerivedMesh *editbmesh_get_derived_cage(struct Scene *scene, struct Object *, 
653                                         struct BMEditMesh *em, CustomDataMask dataMask);
654 DerivedMesh *editbmesh_get_derived_cage_and_final(struct Scene *scene, struct Object *, 
655                                                   struct BMEditMesh *em, DerivedMesh **final_r,
656                                                   CustomDataMask dataMask);
657 float (*editbmesh_get_vertex_cos(struct BMEditMesh *em, int *numVerts_r))[3];
658 int editbmesh_modifier_is_enabled(struct Scene *scene, struct ModifierData *md, DerivedMesh *dm);
659 void makeDerivedMesh(struct Scene *scene, struct Object *ob, struct BMEditMesh *em, 
660                      CustomDataMask dataMask, int build_shapekey_layers);
661
662 /** returns an array of deform matrices for crazyspace correction, and the
663  * number of modifiers left */
664 int editbmesh_get_first_deform_matrices(struct Scene *, struct Object *, struct BMEditMesh *em,
665                                         float (**deformmats)[3][3], float (**deformcos)[3]);
666
667 void weight_to_rgb(float r_rgb[3], const float weight);
668 /** Update the weight MCOL preview layer.
669  * If weights are NULL, use object's active vgroup(s).
670  * Else, weights must be an array of weight float values.
671  *     If indices is NULL, it must be of numVerts length.
672  *     Else, it must be of num length, as indices, which contains vertices' idx to apply weights to.
673  *         (other vertices are assumed zero weight).
674  */
675 void DM_update_weight_mcol(struct Object *ob, struct DerivedMesh *dm, int const draw_flag,
676                            float *weights, int num, const int *indices);
677
678 /** convert layers requested by a GLSL material to actually available layers in
679  * the DerivedMesh, with both a pointer for arrays and an offset for editmesh */
680 typedef struct DMVertexAttribs {
681         struct {
682                 struct MTFace *array;
683                 int em_offset, gl_index, gl_texco;
684         } tface[MAX_MTFACE];
685
686         struct {
687                 struct MCol *array;
688                 int em_offset, gl_index;
689         } mcol[MAX_MCOL];
690
691         struct {
692                 float (*array)[4];
693                 int em_offset, gl_index;
694         } tang;
695
696         struct {
697                 float (*array)[3];
698                 int em_offset, gl_index, gl_texco;
699         } orco;
700
701         int tottface, totmcol, tottang, totorco;
702 } DMVertexAttribs;
703
704 void DM_vertex_attributes_from_gpu(DerivedMesh *dm,
705                                    struct GPUVertexAttribs *gattribs, DMVertexAttribs *attribs);
706
707 void DM_add_tangent_layer(DerivedMesh *dm);
708 void DM_calc_auto_bump_scale(DerivedMesh *dm);
709
710 /** Set object's bounding box based on DerivedMesh min/max data */
711 void DM_set_object_boundbox(struct Object *ob, DerivedMesh *dm);
712
713 void DM_init_origspace(DerivedMesh *dm);
714
715 /* debug only */
716 #ifndef NDEBUG
717 char *DM_debug_info(DerivedMesh *dm);
718 void DM_debug_print(DerivedMesh *dm);
719 void DM_debug_print_cdlayers(CustomData *cdata);
720 #endif
721
722 #ifdef __GNUC__
723 BLI_INLINE int DM_origindex_mface_mpoly(const int *index_mf_to_mpoly, const int *index_mp_to_orig, const int i)
724         __attribute__((nonnull(1)))
725 ;
726 #endif
727
728 BLI_INLINE int DM_origindex_mface_mpoly(const int *index_mf_to_mpoly, const int *index_mp_to_orig, const int i)
729 {
730         const int j = index_mf_to_mpoly[i];
731         return (j != ORIGINDEX_NONE) ? (index_mp_to_orig ? index_mp_to_orig[j] : j) : ORIGINDEX_NONE;
732 }
733
734 #endif  /* __BKE_DERIVEDMESH_H__ */