Merging r41246 through r41535 from trunk into soc-2011-tomato
[blender.git] / source / blender / blenkernel / intern / mesh_validate.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2011 Blender Foundation.
19  * All rights reserved.
20  *
21  * ***** END GPL LICENSE BLOCK *****
22  */
23
24 /** \file blender/blenkernel/intern/mesh_validate.c
25  *  \ingroup bke
26  */
27
28
29 #include <stdio.h>
30 #include <stdlib.h>
31 #include <string.h>
32 #include <limits.h>
33
34 #include "DNA_mesh_types.h"
35 #include "DNA_meshdata_types.h"
36
37 #include "BLO_sys_types.h"
38
39 #include "BLI_utildefines.h"
40 #include "BLI_edgehash.h"
41
42 #include "BKE_DerivedMesh.h"
43
44 #include "MEM_guardedalloc.h"
45
46 #include "BKE_mesh.h"
47
48 #define SELECT 1
49
50 typedef union {
51         uint32_t verts[2];
52         int64_t edval;
53 } EdgeUUID;
54
55 typedef struct SortFace {
56 //      unsigned int    v[4];
57         EdgeUUID                es[4];
58         unsigned int    index;
59 } SortFace;
60
61 static void edge_store_assign(uint32_t verts[2],  const uint32_t v1, const uint32_t v2)
62 {
63         if(v1 < v2) {
64                 verts[0]= v1;
65                 verts[1]= v2;
66         }
67         else {
68                 verts[0]= v2;
69                 verts[1]= v1;
70         }
71 }
72
73 static void edge_store_from_mface_quad(EdgeUUID es[4], MFace *mf)
74 {
75         edge_store_assign(es[0].verts, mf->v1, mf->v2);
76         edge_store_assign(es[1].verts, mf->v2, mf->v3);
77         edge_store_assign(es[2].verts, mf->v3, mf->v4);
78         edge_store_assign(es[3].verts, mf->v4, mf->v1);
79 }
80
81 static void edge_store_from_mface_tri(EdgeUUID es[4], MFace *mf)
82 {
83         edge_store_assign(es[0].verts, mf->v1, mf->v2);
84         edge_store_assign(es[1].verts, mf->v2, mf->v3);
85         edge_store_assign(es[2].verts, mf->v3, mf->v1);
86         es[3].verts[0] = es[3].verts[1] = UINT_MAX;
87 }
88
89 static int int64_cmp(const void *v1, const void *v2)
90 {
91         const int64_t x1= *(const int64_t *)v1;
92         const int64_t x2= *(const int64_t *)v2;
93
94         if( x1 > x2 ) return 1;
95         else if( x1 < x2 ) return -1;
96         return 0;
97 }
98
99 static int search_face_cmp(const void *v1, const void *v2)
100 {
101         const SortFace *sfa= v1, *sfb= v2;
102
103         if      (sfa->es[0].edval > sfb->es[0].edval) return 1;
104         else if (sfa->es[0].edval < sfb->es[0].edval) return -1;
105
106         else if (sfa->es[1].edval > sfb->es[1].edval) return 1;
107         else if (sfa->es[1].edval < sfb->es[1].edval) return -1;
108
109         else if (sfa->es[2].edval > sfb->es[2].edval) return 1;
110         else if (sfa->es[2].edval < sfb->es[2].edval) return -1;
111
112         else if (sfa->es[3].edval > sfb->es[3].edval) return 1;
113         else if (sfa->es[3].edval < sfb->es[3].edval) return -1;
114         else                                                                              return 0;
115
116 }
117
118 #define PRINT if(do_verbose) printf
119
120 int BKE_mesh_validate_arrays(Mesh *me, MVert *UNUSED(mverts), unsigned int totvert, MEdge *medges, unsigned int totedge, MFace *mfaces, unsigned int totface, const short do_verbose, const short do_fixes)
121 {
122 #       define REMOVE_EDGE_TAG(_med) { _med->v2= _med->v1; do_edge_free= 1; }
123 #       define REMOVE_FACE_TAG(_mf) { _mf->v3=0; do_face_free= 1; }
124
125 //      MVert *mv;
126         MEdge *med;
127         MFace *mf;
128         MFace *mf_prev;
129         unsigned int i;
130
131         int do_face_free= FALSE;
132         int do_edge_free= FALSE;
133
134         int do_edge_recalc= FALSE;
135
136         EdgeHash *edge_hash = BLI_edgehash_new();
137
138         SortFace *sort_faces= MEM_callocN(sizeof(SortFace) * totface, "search faces");
139         SortFace *sf;
140         SortFace *sf_prev;
141         unsigned int totsortface= 0;
142
143         BLI_assert(!(do_fixes && me == NULL));
144
145         PRINT("%s: verts(%u), edges(%u), faces(%u)\n", __func__, totvert, totedge, totface);
146
147         if(totedge == 0 && totface != 0) {
148                 PRINT("    locical error, %u faces and 0 edges\n", totface);
149                 do_edge_recalc= TRUE;
150         }
151
152         for(i=0, med= medges; i<totedge; i++, med++) {
153                 int remove= FALSE;
154                 if(med->v1 == med->v2) {
155                         PRINT("    edge %u: has matching verts, both %u\n", i, med->v1);
156                         remove= do_fixes;
157                 }
158                 if(med->v1 >= totvert) {
159                         PRINT("    edge %u: v1 index out of range, %u\n", i, med->v1);
160                         remove= do_fixes;
161                 }
162                 if(med->v2 >= totvert) {
163                         PRINT("    edge %u: v2 index out of range, %u\n", i, med->v2);
164                         remove= do_fixes;
165                 }
166
167                 if(BLI_edgehash_haskey(edge_hash, med->v1, med->v2)) {
168                         PRINT("    edge %u: is a duplicate of, %d\n", i, GET_INT_FROM_POINTER(BLI_edgehash_lookup(edge_hash, med->v1, med->v2)));
169                         remove= do_fixes;
170                 }
171
172                 if(remove == FALSE){
173                         BLI_edgehash_insert(edge_hash, med->v1, med->v2, SET_INT_IN_POINTER(i));
174                 }
175                 else {
176                         REMOVE_EDGE_TAG(med);
177                 }
178         }
179
180         for(i=0, mf=mfaces, sf=sort_faces; i<totface; i++, mf++) {
181                 int remove= FALSE;
182                 int fidx;
183                 unsigned int fv[4];
184
185                 fidx = mf->v4 ? 3:2;
186                 do {
187                         fv[fidx]= *(&(mf->v1) + fidx);
188                         if(fv[fidx] >= totvert) {
189                                 PRINT("    face %u: 'v%d' index out of range, %u\n", i, fidx + 1, fv[fidx]);
190                                 remove= do_fixes;
191                         }
192                 } while (fidx--);
193
194                 if(remove == FALSE) {
195                         if(mf->v4) {
196                                 if(mf->v1 == mf->v2) { PRINT("    face %u: verts invalid, v1/v2 both %u\n", i, mf->v1); remove= do_fixes; }
197                                 if(mf->v1 == mf->v3) { PRINT("    face %u: verts invalid, v1/v3 both %u\n", i, mf->v1); remove= do_fixes;  }
198                                 if(mf->v1 == mf->v4) { PRINT("    face %u: verts invalid, v1/v4 both %u\n", i, mf->v1); remove= do_fixes;  }
199
200                                 if(mf->v2 == mf->v3) { PRINT("    face %u: verts invalid, v2/v3 both %u\n", i, mf->v2); remove= do_fixes;  }
201                                 if(mf->v2 == mf->v4) { PRINT("    face %u: verts invalid, v2/v4 both %u\n", i, mf->v2); remove= do_fixes;  }
202
203                                 if(mf->v3 == mf->v4) { PRINT("    face %u: verts invalid, v3/v4 both %u\n", i, mf->v3); remove= do_fixes;  }
204                         }
205                         else {
206                                 if(mf->v1 == mf->v2) { PRINT("    faceT %u: verts invalid, v1/v2 both %u\n", i, mf->v1); remove= do_fixes; }
207                                 if(mf->v1 == mf->v3) { PRINT("    faceT %u: verts invalid, v1/v3 both %u\n", i, mf->v1); remove= do_fixes; }
208
209                                 if(mf->v2 == mf->v3) { PRINT("    faceT %u: verts invalid, v2/v3 both %u\n", i, mf->v2); remove= do_fixes; }
210                         }
211
212                         if(remove == FALSE) {
213                                 if(totedge) {
214                                         if(mf->v4) {
215                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v1, mf->v2)) { PRINT("    face %u: edge v1/v2 (%u,%u) is missing egde data\n", i, mf->v1, mf->v2); do_edge_recalc= TRUE; }
216                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v2, mf->v3)) { PRINT("    face %u: edge v2/v3 (%u,%u) is missing egde data\n", i, mf->v2, mf->v3); do_edge_recalc= TRUE; }
217                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v3, mf->v4)) { PRINT("    face %u: edge v3/v4 (%u,%u) is missing egde data\n", i, mf->v3, mf->v4); do_edge_recalc= TRUE; }
218                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v4, mf->v1)) { PRINT("    face %u: edge v4/v1 (%u,%u) is missing egde data\n", i, mf->v4, mf->v1); do_edge_recalc= TRUE; }
219                                         }
220                                         else {
221                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v1, mf->v2)) { PRINT("    face %u: edge v1/v2 (%u,%u) is missing egde data\n", i, mf->v1, mf->v2); do_edge_recalc= TRUE; }
222                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v2, mf->v3)) { PRINT("    face %u: edge v2/v3 (%u,%u) is missing egde data\n", i, mf->v2, mf->v3); do_edge_recalc= TRUE; }
223                                                 if(!BLI_edgehash_haskey(edge_hash, mf->v3, mf->v1)) { PRINT("    face %u: edge v3/v1 (%u,%u) is missing egde data\n", i, mf->v3, mf->v1); do_edge_recalc= TRUE; }
224                                         }
225                                 }
226
227                                 sf->index = i;
228
229                                 if(mf->v4) {
230                                         edge_store_from_mface_quad(sf->es, mf);
231
232                                         qsort(sf->es, 4, sizeof(int64_t), int64_cmp);
233                                 }
234                                 else {
235                                         edge_store_from_mface_tri(sf->es, mf);
236                                         qsort(sf->es, 3, sizeof(int64_t), int64_cmp);
237                                 }
238
239                                 totsortface++;
240                                 sf++;
241                         }
242                 }
243                 if(remove) {
244                         REMOVE_FACE_TAG(mf);
245                 }
246         }
247
248         qsort(sort_faces, totsortface, sizeof(SortFace), search_face_cmp);
249
250         sf= sort_faces;
251         sf_prev= sf;
252         sf++;
253
254         for(i=1; i<totsortface; i++, sf++) {
255                 int remove= FALSE;
256                 /* on a valid mesh, code below will never run */
257                 if(memcmp(sf->es, sf_prev->es, sizeof(sf_prev->es)) == 0) {
258                         mf= mfaces + sf->index;
259
260                         if(do_verbose) {
261                                 mf_prev= mfaces + sf_prev->index;
262                                 if(mf->v4) {
263                                         PRINT("    face %u & %u: are duplicates (%u,%u,%u,%u) (%u,%u,%u,%u)\n", sf->index, sf_prev->index, mf->v1, mf->v2, mf->v3, mf->v4, mf_prev->v1, mf_prev->v2, mf_prev->v3, mf_prev->v4);
264                                 }
265                                 else {
266                                         PRINT("    face %u & %u: are duplicates (%u,%u,%u) (%u,%u,%u)\n", sf->index, sf_prev->index, mf->v1, mf->v2, mf->v3, mf_prev->v1, mf_prev->v2, mf_prev->v3);
267                                 }
268                         }
269
270                         remove= do_fixes;
271                 }
272                 else {
273                         sf_prev= sf;
274                 }
275
276                 if(remove) {
277                         REMOVE_FACE_TAG(mf);
278                 }
279         }
280
281         BLI_edgehash_free(edge_hash, NULL);
282         MEM_freeN(sort_faces);
283
284         PRINT("BKE_mesh_validate: finished\n\n");
285
286 #        undef REMOVE_EDGE_TAG
287 #        undef REMOVE_FACE_TAG
288
289         if(me) {
290                 if(do_face_free) {
291                         mesh_strip_loose_faces(me);
292                 }
293
294                 if (do_edge_free) {
295                         mesh_strip_loose_edges(me);
296                 }
297
298                 if(do_fixes && do_edge_recalc) {
299                         BKE_mesh_calc_edges(me, TRUE);
300                 }
301         }
302
303         return (do_face_free || do_edge_free || do_edge_recalc);
304 }
305
306 static int mesh_validate_customdata(CustomData *data, short do_verbose, const short do_fixes)
307 {
308         int i= 0, has_fixes= 0;
309
310         while(i<data->totlayer) {
311                 CustomDataLayer *layer= &data->layers[i];
312                 int mask= 1 << layer->type;
313                 int ok= 1;
314
315                 if((mask&CD_MASK_MESH)==0) {
316                         PRINT("CustomDataLayer type %d which isn't in CD_MASK_MESH is stored in Mehs structure\n", layer->type);
317
318                         if(do_fixes) {
319                                 CustomData_free_layer(data, layer->type, 0, i);
320                                 ok= 0;
321                                 has_fixes= 1;
322                         }
323                 }
324
325                 if(ok)
326                         i++;
327         }
328
329         return has_fixes;
330 }
331
332 #undef PRINT
333
334 int BKE_mesh_validate_all_customdata(CustomData *vdata, CustomData *edata, CustomData *fdata, short do_verbose, const short do_fixes)
335 {
336         int vfixed= 0, efixed= 0, ffixed= 0;
337
338         vfixed= mesh_validate_customdata(vdata, do_verbose, do_fixes);
339         efixed= mesh_validate_customdata(edata, do_verbose, do_fixes);
340         ffixed= mesh_validate_customdata(fdata, do_verbose, do_fixes);
341
342         return vfixed || efixed || ffixed;
343 }
344
345 int BKE_mesh_validate(Mesh *me, int do_verbose)
346 {
347         int layers_fixed= 0, arrays_fixed= 0;
348
349         if(do_verbose) {
350                 printf("MESH: %s\n", me->id.name+2);
351         }
352
353         layers_fixed= BKE_mesh_validate_all_customdata(&me->vdata, &me->edata, &me->fdata, do_verbose, TRUE);
354         arrays_fixed= BKE_mesh_validate_arrays(me, me->mvert, me->totvert, me->medge, me->totedge, me->mface, me->totface, do_verbose, TRUE);
355
356         return layers_fixed || arrays_fixed;
357 }
358
359 int BKE_mesh_validate_dm(DerivedMesh *dm)
360 {
361         return BKE_mesh_validate_arrays(NULL, dm->getVertArray(dm), dm->getNumVerts(dm), dm->getEdgeArray(dm), dm->getNumEdges(dm), dm->getFaceArray(dm), dm->getNumFaces(dm), TRUE, FALSE);
362 }
363
364 void BKE_mesh_calc_edges(Mesh *mesh, int update)
365 {
366         CustomData edata;
367         EdgeHashIterator *ehi;
368         MFace *mf = mesh->mface;
369         MEdge *med, *med_orig;
370         EdgeHash *eh = BLI_edgehash_new();
371         int i, totedge, totface = mesh->totface;
372
373         if(mesh->totedge==0)
374                 update= 0;
375
376         if(update) {
377                 /* assume existing edges are valid
378                  * useful when adding more faces and generating edges from them */
379                 med= mesh->medge;
380                 for(i= 0; i<mesh->totedge; i++, med++)
381                         BLI_edgehash_insert(eh, med->v1, med->v2, med);
382         }
383
384         for (i = 0; i < totface; i++, mf++) {
385                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
386                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
387                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
388                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
389
390                 if (mf->v4) {
391                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
392                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
393                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
394                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
395                 } else {
396                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
397                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
398                 }
399         }
400
401         totedge = BLI_edgehash_size(eh);
402
403         /* write new edges into a temporary CustomData */
404         memset(&edata, 0, sizeof(edata));
405         CustomData_add_layer(&edata, CD_MEDGE, CD_CALLOC, NULL, totedge);
406
407         ehi = BLI_edgehashIterator_new(eh);
408         med = CustomData_get_layer(&edata, CD_MEDGE);
409         for(i = 0; !BLI_edgehashIterator_isDone(ehi);
410                 BLI_edgehashIterator_step(ehi), ++i, ++med) {
411
412                 if(update && (med_orig=BLI_edgehashIterator_getValue(ehi))) {
413                         *med= *med_orig; /* copy from the original */
414                 } else {
415                         BLI_edgehashIterator_getKey(ehi, (int*)&med->v1, (int*)&med->v2);
416                         med->flag = ME_EDGEDRAW|ME_EDGERENDER|SELECT; /* select for newly created meshes which are selected [#25595] */
417                 }
418         }
419         BLI_edgehashIterator_free(ehi);
420
421         /* free old CustomData and assign new one */
422         CustomData_free(&mesh->edata, mesh->totedge);
423         mesh->edata = edata;
424         mesh->totedge = totedge;
425
426         mesh->medge = CustomData_get_layer(&mesh->edata, CD_MEDGE);
427
428         BLI_edgehash_free(eh, NULL);
429 }