Fix #27120: Bake to image used for rendering glitch (bake feedback loop)
[blender-staging.git] / source / blender / editors / include / ED_mesh.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version. 
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2008 Blender Foundation.
19  * All rights reserved.
20  *
21  * 
22  * Contributor(s): Blender Foundation
23  *
24  * ***** END GPL LICENSE BLOCK *****
25  */
26
27 /** \file ED_mesh.h
28  *  \ingroup editors
29  */
30
31 #ifndef ED_MESH_H
32 #define ED_MESH_H
33
34 #ifdef __cplusplus
35 extern "C" {
36 #endif
37
38 struct ID;
39 struct View3D;
40 struct ARegion;
41 struct EditMesh;
42 struct EditVert;
43 struct EditEdge;
44 struct EditFace;
45 struct bContext;
46 struct wmOperator;
47 struct wmWindowManager;
48 struct wmKeyConfig;
49 struct ReportList;
50 struct EditSelection;
51 struct ViewContext;
52 struct bDeformGroup;
53 struct MDeformWeight;
54 struct MDeformVert;
55 struct Scene;
56 struct Mesh;
57 struct MFace;
58 struct MEdge;
59 struct MVert;
60 struct MCol;
61 struct UvVertMap;
62 struct UvMapVert;
63 struct CustomData;
64 struct Material;
65 struct Object;
66 struct rcti;
67
68 #define EM_FGON_DRAW    1 // face flag
69 #define EM_FGON                 2 // edge and face flag both
70
71 /* editbutflag */
72 #define B_CLOCKWISE                     1
73 #define B_KEEPORIG                      2
74 #define B_BEAUTY                        4
75 #define B_SMOOTH                        8
76 #define B_BEAUTY_SHORT          0x10
77 #define B_AUTOFGON                      0x20
78 #define B_KNIFE                         0x80
79 #define B_PERCENTSUBD           0x40
80 //#define B_MESH_X_MIRROR               0x100 // deprecated, use mesh
81 #define B_JOINTRIA_UV           0x200
82 #define B_JOINTRIA_VCOL         0X400
83 #define B_JOINTRIA_SHARP        0X800
84 #define B_JOINTRIA_MAT          0X1000
85 #define B_FRACTAL                       0x2000
86 #define B_SPHERE                        0x4000
87
88 /* meshtools.c */
89
90 intptr_t   mesh_octree_table(struct Object *ob, struct EditMesh *em, float *co, char mode);
91 int        mesh_mirrtopo_table(struct Object *ob, char mode);
92
93 struct EditVert   *editmesh_get_x_mirror_vert(struct Object *ob, struct EditMesh *em, struct EditVert *eve, float *co, int index);
94 int                     mesh_get_x_mirror_vert(struct Object *ob, int index);
95 int                     *mesh_get_x_mirror_faces(struct Object *ob, struct EditMesh *em);
96
97 int                     join_mesh_exec(struct bContext *C, struct wmOperator *op);
98 int                     join_mesh_shapes_exec(struct bContext *C, struct wmOperator *op);
99
100 /* mesh_ops.c */
101 void            ED_operatortypes_mesh(void);
102 void            ED_operatormacros_mesh(void);
103 void            ED_keymap_mesh(struct wmKeyConfig *keyconf);
104
105
106 /* editmesh.c */
107 void            make_editMesh(struct Scene *scene, struct Object *ob);
108 void            load_editMesh(struct Scene *scene, struct Object *ob);
109 void            remake_editMesh(struct Scene *scene, struct Object *ob);
110 void            free_editMesh(struct EditMesh *em);
111
112 void            recalc_editnormals(struct EditMesh *em);
113
114 void            EM_init_index_arrays(struct EditMesh *em, int forVert, int forEdge, int forFace);
115 void            EM_free_index_arrays(void);
116 struct EditVert *EM_get_vert_for_index(int index);
117 struct EditEdge *EM_get_edge_for_index(int index);
118 struct EditFace *EM_get_face_for_index(int index);
119 int                     EM_texFaceCheck(struct EditMesh *em);
120 int                     EM_vertColorCheck(struct EditMesh *em);
121
122 void            undo_push_mesh(struct bContext *C, const char *name);
123
124 void            paintvert_flush_flags(struct Object *ob);
125 void            paintvert_deselect_all_visible(struct Object *ob, int action, short flush_flags);
126
127 /* editmesh_lib.c */
128
129 struct EditFace *EM_get_actFace(struct EditMesh *em, int sloppy);
130 void             EM_set_actFace(struct EditMesh *em, struct EditFace *efa);
131 float            EM_face_area(struct EditFace *efa);
132
133 void            EM_select_edge(struct EditEdge *eed, int sel);
134 void            EM_select_face(struct EditFace *efa, int sel);
135 void            EM_select_face_fgon(struct EditMesh *em, struct EditFace *efa, int val);
136 void            EM_select_swap(struct EditMesh *em);
137 void            EM_toggle_select_all(struct EditMesh *em);
138 void            EM_select_all(struct EditMesh *em);
139 void            EM_deselect_all(struct EditMesh *em);
140 void            EM_selectmode_flush(struct EditMesh *em);
141 void            EM_deselect_flush(struct EditMesh *em);
142 void            EM_selectmode_set(struct EditMesh *em);
143 void            EM_select_flush(struct EditMesh *em);
144 void            EM_convertsel(struct EditMesh *em, short oldmode, short selectmode);
145 void            EM_validate_selections(struct EditMesh *em);
146 void            EM_selectmode_to_scene(struct Scene *scene, struct Object *obedit);
147
148                         /* exported to transform */
149 int                     EM_get_actSelection(struct EditMesh *em, struct EditSelection *ese);
150 void            EM_editselection_normal(float *normal, struct EditSelection *ese);
151 void            EM_editselection_plane(float *plane, struct EditSelection *ese);
152 void            EM_editselection_center(float *center, struct EditSelection *ese);                      
153
154 struct UvVertMap *EM_make_uv_vert_map(struct EditMesh *em, int selected, int do_face_idx_array, float *limit);
155 struct UvMapVert *EM_get_uv_map_vert(struct UvVertMap *vmap, unsigned int v);
156 void              EM_free_uv_vert_map(struct UvVertMap *vmap);
157
158 struct UvElementMap *EM_make_uv_element_map(struct EditMesh *em, int selected, int doIslands);
159 void            EM_free_uv_element_map(struct UvElementMap *vmap);
160
161 void            EM_add_data_layer(struct EditMesh *em, struct CustomData *data, int type, const char *name);
162 void            EM_free_data_layer(struct EditMesh *em, struct CustomData *data, int type);
163
164 void            EM_make_hq_normals(struct EditMesh *em);
165 void            EM_solidify(struct EditMesh *em, float dist);
166
167 int                     EM_deselect_nth(struct EditMesh *em, int nth);
168
169 void EM_project_snap_verts(struct bContext *C, struct ARegion *ar, struct Object *obedit, struct EditMesh *em);
170
171 /* editmesh_mods.c */
172 extern unsigned int em_vertoffs, em_solidoffs, em_wireoffs;
173
174 void            EM_cache_x_mirror_vert(struct Object *ob, struct EditMesh *em);
175 int                     mouse_mesh(struct bContext *C, const int mval[2], short extend);
176 int                     EM_check_backbuf(unsigned int index);
177 int                     EM_mask_init_backbuf_border(struct ViewContext *vc, int mcords[][2], short tot, short xmin, short ymin, short xmax, short ymax);
178 void            EM_free_backbuf(void);
179 int                     EM_init_backbuf_border(struct ViewContext *vc, short xmin, short ymin, short xmax, short ymax);
180 int                     EM_init_backbuf_circle(struct ViewContext *vc, short xs, short ys, short rads);
181
182 void            EM_hide_mesh(struct EditMesh *em, int swap);
183 void            EM_reveal_mesh(struct EditMesh *em);
184
185 void            EM_select_by_material(struct EditMesh *em, int index);
186 void            EM_deselect_by_material(struct EditMesh *em, int index); 
187
188 void            EM_automerge(struct Scene *scene, struct Object *obedit, int update);
189
190 /* editface.c */
191 void paintface_flush_flags(struct Object *ob);
192 struct MTFace   *EM_get_active_mtface(struct EditMesh *em, struct EditFace **act_efa, struct MCol **mcol, int sloppy);
193 int paintface_mouse_select(struct bContext *C, struct Object *ob, const int mval[2], int extend);
194 int do_paintface_box_select(struct ViewContext *vc, struct rcti *rect, int select, int extend);
195 void paintface_deselect_all_visible(struct Object *ob, int action, short flush_flags);
196 void paintface_select_linked(struct bContext *C, struct Object *ob, int mval[2], int mode);
197 int paintface_minmax(struct Object *ob, float *min, float *max);
198
199 void paintface_hide(struct Object *ob, const int unselected);
200 void paintface_reveal(struct Object *ob);
201
202 /* object_vgroup.c */
203
204 #define WEIGHT_REPLACE 1
205 #define WEIGHT_ADD 2
206 #define WEIGHT_SUBTRACT 3
207
208 struct bDeformGroup             *ED_vgroup_add(struct Object *ob);
209 struct bDeformGroup             *ED_vgroup_add_name(struct Object *ob, const char *name);
210 void                                    ED_vgroup_delete(struct Object *ob, struct bDeformGroup *defgroup);
211 void                                    ED_vgroup_clear(struct Object *ob);
212 void                                    ED_vgroup_select_by_name(struct Object *ob, const char *name);
213 int                                             ED_vgroup_data_create(struct ID *id);
214 int                                             ED_vgroup_give_array(struct ID *id, struct MDeformVert **dvert_arr, int *dvert_tot);
215 int                                             ED_vgroup_copy_array(struct Object *ob, struct Object *ob_from);
216 void                                    ED_vgroup_mirror(struct Object *ob, const short mirror_weights, const short flip_vgroups, const short all_vgroups);
217
218 int                                             ED_vgroup_object_is_edit_mode(struct Object *ob);
219
220 void            ED_vgroup_vert_add(struct Object *ob, struct bDeformGroup *dg, int vertnum,  float weight, int assignmode);
221 void            ED_vgroup_vert_remove(struct Object *ob, struct bDeformGroup *dg, int vertnum);
222 float           ED_vgroup_vert_weight(struct Object *ob, struct bDeformGroup *dg, int vertnum);
223
224 /*needed by edge slide*/
225 struct EditVert *editedge_getOtherVert(struct EditEdge *eed, struct EditVert *eve);
226 struct EditVert *editedge_getSharedVert(struct EditEdge *eed, struct EditEdge *eed2);
227 int editedge_containsVert(struct EditEdge *eed, struct EditVert *eve);
228 int editface_containsVert(struct EditFace *efa, struct EditVert *eve);
229 int editface_containsEdge(struct EditFace *efa, struct EditEdge *eed);
230 short sharesFace(struct EditMesh *em, struct EditEdge *e1, struct EditEdge *e2);
231
232 /* mesh_data.c */
233 // void ED_mesh_geometry_add(struct Mesh *mesh, struct ReportList *reports, int verts, int edges, int faces);
234 void ED_mesh_faces_add(struct Mesh *mesh, struct ReportList *reports, int count);
235 void ED_mesh_edges_add(struct Mesh *mesh, struct ReportList *reports, int count);
236 void ED_mesh_vertices_add(struct Mesh *mesh, struct ReportList *reports, int count);
237
238 void ED_mesh_faces_remove(struct Mesh *mesh, struct ReportList *reports, int count);
239 void ED_mesh_edges_remove(struct Mesh *mesh, struct ReportList *reports, int count);
240 void ED_mesh_vertices_remove(struct Mesh *mesh, struct ReportList *reports, int count);
241
242 void ED_mesh_transform(struct Mesh *me, float *mat);
243 void ED_mesh_calc_normals(struct Mesh *me);
244 void ED_mesh_material_link(struct Mesh *me, struct Material *ma);
245 void ED_mesh_update(struct Mesh *mesh, struct bContext *C, int calc_edges);
246
247 int ED_mesh_uv_texture_add(struct bContext *C, struct Mesh *me, const char *name, int active_set);
248 int ED_mesh_uv_texture_remove(struct bContext *C, struct Object *ob, struct Mesh *me);
249 int ED_mesh_color_add(struct bContext *C, struct Scene *scene, struct Object *ob, struct Mesh *me, const char *name, int active_set);
250 int ED_mesh_color_remove(struct bContext *C, struct Object *ob, struct Mesh *me);
251 int ED_mesh_color_remove_named(struct bContext *C, struct Object *ob, struct Mesh *me, const char *name);
252
253
254 /* mirrtopo */
255 typedef struct MirrTopoStore_t {
256         intptr_t *index_lookup;
257         int       prev_vert_tot;
258         int       prev_edge_tot;
259         int       prev_ob_mode;
260 } MirrTopoStore_t;
261
262 int  ED_mesh_mirrtopo_recalc_check(struct Mesh *me, const int ob_mode, MirrTopoStore_t *mesh_topo_store);
263 void ED_mesh_mirrtopo_init(struct Mesh *me, const int ob_mode, MirrTopoStore_t *mesh_topo_store,
264                            const short skip_em_vert_array_init);
265 void ED_mesh_mirrtopo_free(MirrTopoStore_t *mesh_topo_store);
266
267 #ifdef __cplusplus
268 }
269 #endif
270
271 #endif /* ED_MESH_H */
272