svn merge ^/trunk/blender -r43819:43830
[blender.git] / source / blender / blenkernel / intern / mesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh.c
27  *  \ingroup bke
28  */
29
30
31 #include <stdlib.h>
32 #include <string.h>
33 #include <stdio.h>
34 #include <math.h>
35
36 #include "MEM_guardedalloc.h"
37
38 #include "DNA_scene_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_key_types.h"
42 #include "DNA_meshdata_types.h"
43 #include "DNA_ipo_types.h"
44 #include "DNA_customdata_types.h"
45
46 #include "BLI_utildefines.h"
47 #include "BLI_blenlib.h"
48 #include "BLI_bpath.h"
49 #include "BLI_editVert.h"
50 #include "BLI_math.h"
51 #include "BLI_edgehash.h"
52 #include "BLI_scanfill.h"
53
54 #include "BKE_animsys.h"
55 #include "BKE_main.h"
56 #include "BKE_customdata.h"
57 #include "BKE_DerivedMesh.h"
58 #include "BKE_global.h"
59 #include "BKE_mesh.h"
60 #include "BKE_displist.h"
61 #include "BKE_library.h"
62 #include "BKE_material.h"
63 #include "BKE_modifier.h"
64 #include "BKE_multires.h"
65 #include "BKE_key.h"
66 /* these 2 are only used by conversion functions */
67 #include "BKE_curve.h"
68 /* -- */
69 #include "BKE_object.h"
70 #include "BKE_tessmesh.h"
71 #include "BLI_edgehash.h"
72
73 #include "BLI_blenlib.h"
74 #include "BLI_editVert.h"
75 #include "BLI_math.h"
76 #include "BLI_array.h"
77 #include "BLI_edgehash.h"
78
79 #include "bmesh.h"
80
81 enum {
82         MESHCMP_DVERT_WEIGHTMISMATCH = 1,
83         MESHCMP_DVERT_GROUPMISMATCH,
84         MESHCMP_DVERT_TOTGROUPMISMATCH,
85         MESHCMP_LOOPCOLMISMATCH,
86         MESHCMP_LOOPUVMISMATCH,
87         MESHCMP_LOOPMISMATCH,
88         MESHCMP_POLYVERTMISMATCH,
89         MESHCMP_POLYMISMATCH,
90         MESHCMP_EDGEUNKNOWN,
91         MESHCMP_VERTCOMISMATCH,
92         MESHCMP_CDLAYERS_MISMATCH,
93 };
94
95 static const char *cmpcode_to_str(int code)
96 {
97         switch (code) {
98                 case MESHCMP_DVERT_WEIGHTMISMATCH:
99                         return "Vertex Weight Mismatch";
100                 case MESHCMP_DVERT_GROUPMISMATCH:
101                                         return "Vertex Group Mismatch";
102                 case MESHCMP_DVERT_TOTGROUPMISMATCH:
103                                         return "Vertex Doesn't Belong To Same Number Of Groups";
104                 case MESHCMP_LOOPCOLMISMATCH:
105                                         return "Vertex Color Mismatch";
106                 case MESHCMP_LOOPUVMISMATCH:
107                                         return "UV Mismatch";
108                 case MESHCMP_LOOPMISMATCH:
109                                         return "Loop Mismatch";
110                 case MESHCMP_POLYVERTMISMATCH:
111                                         return "Loop Vert Mismatch In Poly Test";
112                 case MESHCMP_POLYMISMATCH:
113                                         return "Loop Vert Mismatch";
114                 case MESHCMP_EDGEUNKNOWN:
115                                         return "Edge Mismatch";
116                 case MESHCMP_VERTCOMISMATCH:
117                                         return "Vertex Coordinate Mismatch";
118                 case MESHCMP_CDLAYERS_MISMATCH:
119                                         return "CustomData Layer Count Mismatch";
120                 default:
121                                 return "Mesh Comparison Code Unknown";
122                 }
123 }
124
125 /*thresh is threshold for comparing vertices, uvs, vertex colors,
126   weights, etc.*/
127 static int customdata_compare(CustomData *c1, CustomData *c2, Mesh *m1, Mesh *m2, float thresh)
128 {
129         CustomDataLayer *l1, *l2;
130         int i, i1=0, i2=0, tot, j;
131         
132         for (i=0; i<c1->totlayer; i++) {
133                 if (ELEM7(c1->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
134                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
135                         i1++;
136         }
137         
138         for (i=0; i<c2->totlayer; i++) {
139                 if (ELEM7(c2->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
140                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
141                         i2++;
142         }
143         
144         if (i1 != i2)
145                 return MESHCMP_CDLAYERS_MISMATCH;
146         
147         l1 = c1->layers; l2 = c2->layers;
148         tot = i1;
149         i1 = 0; i2 = 0; 
150         for (i=0; i < tot; i++) {
151                 while (i1 < c1->totlayer && !ELEM7(l1->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
152                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
153                         i1++, l1++;
154
155                 while (i2 < c2->totlayer && !ELEM7(l2->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
156                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
157                         i2++, l2++;
158                 
159                 if (l1->type == CD_MVERT) {
160                         MVert *v1 = l1->data;
161                         MVert *v2 = l2->data;
162                         int vtot = m1->totvert;
163                         
164                         for (j=0; j<vtot; j++, v1++, v2++) {
165                                 if (len_v3v3(v1->co, v2->co) > thresh)
166                                         return MESHCMP_VERTCOMISMATCH;
167                                 /*I don't care about normals, let's just do coodinates*/
168                         }
169                 }
170                 
171                 /*we're order-agnostic for edges here*/
172                 if (l1->type == CD_MEDGE) {
173                         MEdge *e1 = l1->data;
174                         MEdge *e2 = l2->data;
175                         EdgeHash *eh = BLI_edgehash_new();
176                         int etot = m1->totedge;
177                 
178                         for (j=0; j<etot; j++, e1++) {
179                                 BLI_edgehash_insert(eh, e1->v1, e1->v2, e1);
180                         }
181                         
182                         for (j=0; j<etot; j++, e2++) {
183                                 if (!BLI_edgehash_lookup(eh, e2->v1, e2->v2))
184                                         return MESHCMP_EDGEUNKNOWN;
185                         }
186                         BLI_edgehash_free(eh, NULL);
187                 }
188                 
189                 if (l1->type == CD_MPOLY) {
190                         MPoly *p1 = l1->data;
191                         MPoly *p2 = l2->data;
192                         int ptot = m1->totpoly;
193                 
194                         for (j=0; j<ptot; j++, p1++, p2++) {
195                                 MLoop *lp1, *lp2;
196                                 int k;
197                                 
198                                 if (p1->totloop != p2->totloop)
199                                         return MESHCMP_POLYMISMATCH;
200                                 
201                                 lp1 = m1->mloop + p1->loopstart;
202                                 lp2 = m2->mloop + p2->loopstart;
203                                 
204                                 for (k=0; k<p1->totloop; k++, lp1++, lp2++) {
205                                         if (lp1->v != lp2->v)
206                                                 return MESHCMP_POLYVERTMISMATCH;
207                                 }
208                         }
209                 }
210                 if (l1->type == CD_MLOOP) {
211                         MLoop *lp1 = l1->data;
212                         MLoop *lp2 = l2->data;
213                         int ltot = m1->totloop;
214                 
215                         for (j=0; j<ltot; j++, lp1++, lp2++) {
216                                 if (lp1->v != lp2->v)
217                                         return MESHCMP_LOOPMISMATCH;
218                         }
219                 }
220                 if (l1->type == CD_MLOOPUV) {
221                         MLoopUV *lp1 = l1->data;
222                         MLoopUV *lp2 = l2->data;
223                         int ltot = m1->totloop;
224                 
225                         for (j=0; j<ltot; j++, lp1++, lp2++) {
226                                 if (len_v2v2(lp1->uv, lp2->uv) > thresh)
227                                         return MESHCMP_LOOPUVMISMATCH;
228                         }
229                 }
230                 
231                 if (l1->type == CD_MLOOPCOL) {
232                         MLoopCol *lp1 = l1->data;
233                         MLoopCol *lp2 = l2->data;
234                         int ltot = m1->totloop;
235                 
236                         for (j=0; j<ltot; j++, lp1++, lp2++) {
237                                 if (ABS(lp1->r - lp2->r) > thresh || 
238                                     ABS(lp1->g - lp2->g) > thresh || 
239                                     ABS(lp1->b - lp2->b) > thresh || 
240                                     ABS(lp1->a - lp2->a) > thresh)
241                                 {
242                                         return MESHCMP_LOOPCOLMISMATCH;
243                                 }
244                         }
245                 }
246
247                 if (l1->type == CD_MDEFORMVERT) {
248                         MDeformVert *dv1 = l1->data;
249                         MDeformVert *dv2 = l2->data;
250                         int dvtot = m1->totvert;
251                 
252                         for (j=0; j<dvtot; j++, dv1++, dv2++) {
253                                 int k;
254                                 MDeformWeight *dw1 = dv1->dw, *dw2=dv2->dw;
255                                 
256                                 if (dv1->totweight != dv2->totweight)
257                                         return MESHCMP_DVERT_TOTGROUPMISMATCH;
258                                 
259                                 for (k=0; k<dv1->totweight; k++, dw1++, dw2++) {
260                                         if (dw1->def_nr != dw2->def_nr)
261                                                 return MESHCMP_DVERT_GROUPMISMATCH;
262                                         if (ABS(dw1->weight - dw2->weight) > thresh)
263                                                 return MESHCMP_DVERT_WEIGHTMISMATCH;
264                                 }
265                         }
266                 }
267         }
268         
269         return 0;
270 }
271
272 /*used for testing.  returns an error string the two meshes don't match*/
273 const char *mesh_cmp(Mesh *me1, Mesh *me2, float thresh)
274 {
275         int c;
276         
277         if (!me1 || !me2)
278                 return "Requires two input meshes";
279         
280         if (me1->totvert != me2->totvert) 
281                 return "Number of verts don't match";
282         
283         if (me1->totedge != me2->totedge)
284                 return "Number of edges don't match";
285         
286         if (me1->totpoly != me2->totpoly)
287                 return "Number of faces don't match";
288                                 
289         if (me1->totloop !=me2->totloop)
290                 return "Number of loops don't match";
291         
292         if ((c = customdata_compare(&me1->vdata, &me2->vdata, me1, me2, thresh)))
293                 return cmpcode_to_str(c);
294
295         if ((c = customdata_compare(&me1->edata, &me2->edata, me1, me2, thresh)))
296                 return cmpcode_to_str(c);
297
298         if ((c = customdata_compare(&me1->ldata, &me2->ldata, me1, me2, thresh)))
299                 return cmpcode_to_str(c);
300
301         if ((c = customdata_compare(&me1->pdata, &me2->pdata, me1, me2, thresh)))
302                 return cmpcode_to_str(c);
303         
304         return NULL;
305 }
306
307 static void mesh_ensure_tesselation_customdata(Mesh *me)
308 {
309         const int tottex_original = CustomData_number_of_layers(&me->pdata, CD_MTEXPOLY);
310         const int totcol_original = CustomData_number_of_layers(&me->ldata, CD_MLOOPCOL);
311
312         const int tottex_tessface = CustomData_number_of_layers(&me->fdata, CD_MTFACE);
313         const int totcol_tessface = CustomData_number_of_layers(&me->fdata, CD_MCOL);
314
315         if (tottex_tessface != tottex_original ||
316             totcol_tessface != totcol_original )
317         {
318                 CustomData_free(&me->fdata, me->totface);
319                 
320                 me->mface = NULL;
321                 me->mtface = NULL;
322                 me->mcol = NULL;
323                 me->totface = 0;
324
325                 memset(&me->fdata, 0, sizeof(&me->fdata));
326
327                 CustomData_from_bmeshpoly(&me->fdata, &me->pdata, &me->ldata, me->totface);
328
329                 /* note: this warning may be un-called for if we are inirializing the mesh for the
330                  * first time from bmesh, rather then giving a warning about this we could be smarter
331                  * and check if there was any data to begin with, for now just print the warning with
332                  * some info to help troubleshoot whats going on - campbell */
333                 printf("%s: warning! Tesselation uvs or vcol data got out of sync, "
334                        "had to reset!\n    CD_MTFACE: %d != CD_MTEXPOLY: %d || CD_MCOL: %d != CD_MLOOPCOL: %d\n",
335                        __func__, tottex_tessface, tottex_original, totcol_tessface, totcol_original);
336         }
337 }
338
339 /* this ensures grouped customdata (e.g. mtexpoly and mloopuv and mtface, or
340  * mloopcol and mcol) have the same relative active/render/clone/mask indices.
341  *
342  * note that for undo mesh data we want to skip 'ensure_tess_cd' call since
343  * we dont want to store memory for tessface when its only used for older
344  * versions of the mesh. - campbell*/
345 static void mesh_update_linked_customdata(Mesh *me, const short do_ensure_tess_cd)
346 {
347         if (me->edit_btmesh)
348                 BMEdit_UpdateLinkedCustomData(me->edit_btmesh);
349
350         if (do_ensure_tess_cd) {
351                 mesh_ensure_tesselation_customdata(me);
352         }
353
354         CustomData_bmesh_update_active_layers(&me->fdata, &me->pdata, &me->ldata);
355 }
356
357 void mesh_update_customdata_pointers(Mesh *me, const short do_ensure_tess_cd)
358 {
359         mesh_update_linked_customdata(me, do_ensure_tess_cd);
360
361         me->mvert = CustomData_get_layer(&me->vdata, CD_MVERT);
362         me->dvert = CustomData_get_layer(&me->vdata, CD_MDEFORMVERT);
363         me->msticky = CustomData_get_layer(&me->vdata, CD_MSTICKY);
364
365         me->medge = CustomData_get_layer(&me->edata, CD_MEDGE);
366
367         me->mface = CustomData_get_layer(&me->fdata, CD_MFACE);
368         me->mcol = CustomData_get_layer(&me->fdata, CD_MCOL);
369         me->mtface = CustomData_get_layer(&me->fdata, CD_MTFACE);
370         
371         me->mpoly = CustomData_get_layer(&me->pdata, CD_MPOLY);
372         me->mloop = CustomData_get_layer(&me->ldata, CD_MLOOP);
373
374         me->mtpoly = CustomData_get_layer(&me->pdata, CD_MTEXPOLY);
375         me->mloopcol = CustomData_get_layer(&me->ldata, CD_MLOOPCOL);
376         me->mloopuv = CustomData_get_layer(&me->ldata, CD_MLOOPUV);
377 }
378
379 /* Note: unlinking is called when me->id.us is 0, question remains how
380  * much unlinking of Library data in Mesh should be done... probably
381  * we need a more generic method, like the expand() functions in
382  * readfile.c */
383
384 void unlink_mesh(Mesh *me)
385 {
386         int a;
387         
388         if(me==NULL) return;
389         
390         for(a=0; a<me->totcol; a++) {
391                 if(me->mat[a]) me->mat[a]->id.us--;
392                 me->mat[a]= NULL;
393         }
394
395         if(me->key) {
396                 me->key->id.us--;
397         }
398         me->key= NULL;
399         
400         if(me->texcomesh) me->texcomesh= NULL;
401 }
402
403 /* do not free mesh itself */
404 void free_mesh(Mesh *me, int unlink)
405 {
406         if (unlink)
407                 unlink_mesh(me);
408
409         CustomData_free(&me->vdata, me->totvert);
410         CustomData_free(&me->edata, me->totedge);
411         CustomData_free(&me->fdata, me->totface);
412         CustomData_free(&me->ldata, me->totloop);
413         CustomData_free(&me->pdata, me->totpoly);
414
415         if(me->adt) {
416                 BKE_free_animdata(&me->id);
417                 me->adt= NULL;
418         }
419         
420         if(me->mat) MEM_freeN(me->mat);
421         
422         if(me->bb) MEM_freeN(me->bb);
423         if(me->mselect) MEM_freeN(me->mselect);
424         if(me->edit_btmesh) MEM_freeN(me->edit_btmesh);
425 }
426
427 void copy_dverts(MDeformVert *dst, MDeformVert *src, int copycount)
428 {
429         /* Assumes dst is already set up */
430         int i;
431
432         if (!src || !dst)
433                 return;
434
435         memcpy (dst, src, copycount * sizeof(MDeformVert));
436         
437         for (i=0; i<copycount; i++){
438                 if (src[i].dw){
439                         dst[i].dw = MEM_callocN (sizeof(MDeformWeight)*src[i].totweight, "copy_deformWeight");
440                         memcpy (dst[i].dw, src[i].dw, sizeof (MDeformWeight)*src[i].totweight);
441                 }
442         }
443
444 }
445
446 void free_dverts(MDeformVert *dvert, int totvert)
447 {
448         /* Instead of freeing the verts directly,
449         call this function to delete any special
450         vert data */
451         int     i;
452
453         if (!dvert)
454                 return;
455
456         /* Free any special data from the verts */
457         for (i=0; i<totvert; i++){
458                 if (dvert[i].dw) MEM_freeN (dvert[i].dw);
459         }
460         MEM_freeN (dvert);
461 }
462
463 Mesh *add_mesh(const char *name)
464 {
465         Mesh *me;
466         
467         me= alloc_libblock(&G.main->mesh, ID_ME, name);
468         
469         me->size[0]= me->size[1]= me->size[2]= 1.0;
470         me->smoothresh= 30;
471         me->texflag= AUTOSPACE;
472         me->flag= ME_TWOSIDED;
473         me->bb= unit_boundbox();
474         me->drawflag= ME_DRAWEDGES|ME_DRAWFACES|ME_DRAWCREASES;
475         
476         return me;
477 }
478
479 Mesh *copy_mesh(Mesh *me)
480 {
481         Mesh *men;
482         MTFace *tface;
483         MTexPoly *txface;
484         int a, i;
485         
486         men= copy_libblock(&me->id);
487         
488         men->mat= MEM_dupallocN(me->mat);
489         for(a=0; a<men->totcol; a++) {
490                 id_us_plus((ID *)men->mat[a]);
491         }
492         id_us_plus((ID *)men->texcomesh);
493
494         CustomData_copy(&me->vdata, &men->vdata, CD_MASK_MESH, CD_DUPLICATE, men->totvert);
495         CustomData_copy(&me->edata, &men->edata, CD_MASK_MESH, CD_DUPLICATE, men->totedge);
496         CustomData_copy(&me->fdata, &men->fdata, CD_MASK_MESH, CD_DUPLICATE, men->totface);
497         CustomData_copy(&me->ldata, &men->ldata, CD_MASK_MESH, CD_DUPLICATE, men->totloop);
498         CustomData_copy(&me->pdata, &men->pdata, CD_MASK_MESH, CD_DUPLICATE, men->totpoly);
499         mesh_update_customdata_pointers(men, TRUE);
500
501         /* ensure indirect linked data becomes lib-extern */
502         for(i=0; i<me->fdata.totlayer; i++) {
503                 if(me->fdata.layers[i].type == CD_MTFACE) {
504                         tface= (MTFace*)me->fdata.layers[i].data;
505
506                         for(a=0; a<me->totface; a++, tface++)
507                                 if(tface->tpage)
508                                         id_lib_extern((ID*)tface->tpage);
509                 }
510         }
511         
512         for(i=0; i<me->pdata.totlayer; i++) {
513                 if(me->pdata.layers[i].type == CD_MTEXPOLY) {
514                         txface= (MTexPoly*)me->pdata.layers[i].data;
515
516                         for(a=0; a<me->totpoly; a++, txface++)
517                                 if(txface->tpage)
518                                         id_lib_extern((ID*)txface->tpage);
519                 }
520         }
521
522         men->mselect= NULL;
523         men->edit_btmesh= NULL;
524
525         men->bb= MEM_dupallocN(men->bb);
526         
527         men->key= copy_key(me->key);
528         if(men->key) men->key->from= (ID *)men;
529
530         return men;
531 }
532
533 BMesh *BKE_mesh_to_bmesh(Mesh *me, Object *ob)
534 {
535         BMesh *bm;
536         int allocsize[4] = {512,512,2048,512};
537
538         bm = BM_Make_Mesh(ob, allocsize);
539
540         BMO_CallOpf(bm, "mesh_to_bmesh mesh=%p object=%p set_shapekey=%i", me, ob, 1);
541
542         return bm;
543 }
544
545 static void expand_local_mesh(Mesh *me)
546 {
547         id_lib_extern((ID *)me->texcomesh);
548
549         if(me->mtface) {
550                 int a, i;
551
552                 for(i=0; i<me->pdata.totlayer; i++) {
553                         if(me->pdata.layers[i].type == CD_MTEXPOLY) {
554                                 MTexPoly *txface= (MTexPoly*)me->fdata.layers[i].data;
555
556                                 for(a=0; a<me->totpoly; a++, txface++) {
557                                         /* special case: ima always local immediately */
558                                         if(txface->tpage) {
559                                                 if(txface->tpage) {
560                                                         id_lib_extern((ID *)txface->tpage);
561                                                 }
562                                         }
563                                 }
564                         }
565                 }
566
567                 for(i=0; i<me->fdata.totlayer; i++) {
568                         if(me->fdata.layers[i].type == CD_MTFACE) {
569                                 MTFace *tface= (MTFace*)me->fdata.layers[i].data;
570
571                                 for(a=0; a<me->totface; a++, tface++) {
572                                         /* special case: ima always local immediately */
573                                         if(tface->tpage) {
574                                                 if(tface->tpage) {
575                                                         id_lib_extern((ID *)tface->tpage);
576                                                 }
577                                         }
578                                 }
579                         }
580                 }
581         }
582
583         if(me->mat) {
584                 extern_local_matarar(me->mat, me->totcol);
585         }
586 }
587
588 void make_local_mesh(Mesh *me)
589 {
590         Main *bmain= G.main;
591         Object *ob;
592         int is_local= FALSE, is_lib= FALSE;
593
594         /* - only lib users: do nothing
595          * - only local users: set flag
596          * - mixed: make copy
597          */
598
599         if(me->id.lib==NULL) return;
600         if(me->id.us==1) {
601                 id_clear_lib_data(bmain, &me->id);
602                 expand_local_mesh(me);
603                 return;
604         }
605
606         for(ob= bmain->object.first; ob && ELEM(0, is_lib, is_local); ob= ob->id.next) {
607                 if(me == ob->data) {
608                         if(ob->id.lib) is_lib= TRUE;
609                         else is_local= TRUE;
610                 }
611         }
612
613         if(is_local && is_lib == FALSE) {
614                 id_clear_lib_data(bmain, &me->id);
615                 expand_local_mesh(me);
616         }
617         else if(is_local && is_lib) {
618                 Mesh *me_new= copy_mesh(me);
619                 me_new->id.us= 0;
620
621
622                 /* Remap paths of new ID using old library as base. */
623                 BKE_id_lib_local_paths(bmain, me->id.lib, &me_new->id);
624
625                 for(ob= bmain->object.first; ob; ob= ob->id.next) {
626                         if(me == ob->data) {
627                                 if(ob->id.lib==NULL) {
628                                         set_mesh(ob, me_new);
629                                 }
630                         }
631                 }
632         }
633 }
634
635 void boundbox_mesh(Mesh *me, float *loc, float *size)
636 {
637         BoundBox *bb;
638         float min[3], max[3];
639         float mloc[3], msize[3];
640         
641         if(me->bb==NULL) me->bb= MEM_callocN(sizeof(BoundBox), "boundbox");
642         bb= me->bb;
643
644         if (!loc) loc= mloc;
645         if (!size) size= msize;
646         
647         INIT_MINMAX(min, max);
648         if(!minmax_mesh(me, min, max)) {
649                 min[0] = min[1] = min[2] = -1.0f;
650                 max[0] = max[1] = max[2] = 1.0f;
651         }
652
653         mid_v3_v3v3(loc, min, max);
654                 
655         size[0]= (max[0]-min[0])/2.0f;
656         size[1]= (max[1]-min[1])/2.0f;
657         size[2]= (max[2]-min[2])/2.0f;
658         
659         boundbox_set_from_min_max(bb, min, max);
660 }
661
662 void tex_space_mesh(Mesh *me)
663 {
664         float loc[3], size[3];
665         int a;
666
667         boundbox_mesh(me, loc, size);
668
669         if(me->texflag & AUTOSPACE) {
670                 for (a=0; a<3; a++) {
671                         if(size[a]==0.0f) size[a]= 1.0f;
672                         else if(size[a]>0.0f && size[a]<0.00001f) size[a]= 0.00001f;
673                         else if(size[a]<0.0f && size[a]> -0.00001f) size[a]= -0.00001f;
674                 }
675
676                 copy_v3_v3(me->loc, loc);
677                 copy_v3_v3(me->size, size);
678                 zero_v3(me->rot);
679         }
680 }
681
682 BoundBox *mesh_get_bb(Object *ob)
683 {
684         Mesh *me= ob->data;
685
686         if(ob->bb)
687                 return ob->bb;
688
689         if (!me->bb)
690                 tex_space_mesh(me);
691
692         return me->bb;
693 }
694
695 void mesh_get_texspace(Mesh *me, float *loc_r, float *rot_r, float *size_r)
696 {
697         if (!me->bb) {
698                 tex_space_mesh(me);
699         }
700
701         if (loc_r) copy_v3_v3(loc_r, me->loc);
702         if (rot_r) copy_v3_v3(rot_r, me->rot);
703         if (size_r) copy_v3_v3(size_r, me->size);
704 }
705
706 float *get_mesh_orco_verts(Object *ob)
707 {
708         Mesh *me = ob->data;
709         MVert *mvert = NULL;
710         Mesh *tme = me->texcomesh?me->texcomesh:me;
711         int a, totvert;
712         float (*vcos)[3] = NULL;
713
714         /* Get appropriate vertex coordinates */
715         vcos = MEM_callocN(sizeof(*vcos)*me->totvert, "orco mesh");
716         mvert = tme->mvert;
717         totvert = MIN2(tme->totvert, me->totvert);
718
719         for(a=0; a<totvert; a++, mvert++) {
720                 copy_v3_v3(vcos[a], mvert->co);
721         }
722
723         return (float*)vcos;
724 }
725
726 void transform_mesh_orco_verts(Mesh *me, float (*orco)[3], int totvert, int invert)
727 {
728         float loc[3], size[3];
729         int a;
730
731         mesh_get_texspace(me->texcomesh?me->texcomesh:me, loc, NULL, size);
732
733         if(invert) {
734                 for(a=0; a<totvert; a++) {
735                         float *co = orco[a];
736                         madd_v3_v3v3v3(co, loc, co, size);
737                 }
738         }
739         else {
740                 for(a=0; a<totvert; a++) {
741                         float *co = orco[a];
742                         co[0] = (co[0]-loc[0])/size[0];
743                         co[1] = (co[1]-loc[1])/size[1];
744                         co[2] = (co[2]-loc[2])/size[2];
745                 }
746         }
747 }
748
749 /* rotates the vertices of a face in case v[2] or v[3] (vertex index) is = 0.
750    this is necessary to make the if(mface->v4) check for quads work */
751 int test_index_face(MFace *mface, CustomData *fdata, int mfindex, int nr)
752 {
753         /* first test if the face is legal */
754         if((mface->v3 || nr==4) && mface->v3==mface->v4) {
755                 mface->v4= 0;
756                 nr--;
757         }
758         if((mface->v2 || mface->v4) && mface->v2==mface->v3) {
759                 mface->v3= mface->v4;
760                 mface->v4= 0;
761                 nr--;
762         }
763         if(mface->v1==mface->v2) {
764                 mface->v2= mface->v3;
765                 mface->v3= mface->v4;
766                 mface->v4= 0;
767                 nr--;
768         }
769
770         /* check corrupt cases, bowtie geometry, cant handle these because edge data wont exist so just return 0 */
771         if(nr==3) {
772                 if(
773                 /* real edges */
774                         mface->v1==mface->v2 ||
775                         mface->v2==mface->v3 ||
776                         mface->v3==mface->v1
777                 ) {
778                         return 0;
779                 }
780         }
781         else if(nr==4) {
782                 if(
783                 /* real edges */
784                         mface->v1==mface->v2 ||
785                         mface->v2==mface->v3 ||
786                         mface->v3==mface->v4 ||
787                         mface->v4==mface->v1 ||
788                 /* across the face */
789                         mface->v1==mface->v3 ||
790                         mface->v2==mface->v4
791                 ) {
792                         return 0;
793                 }
794         }
795
796         /* prevent a zero at wrong index location */
797         if(nr==3) {
798                 if(mface->v3==0) {
799                         static int corner_indices[4] = {1, 2, 0, 3};
800
801                         SWAP(unsigned int, mface->v1, mface->v2);
802                         SWAP(unsigned int, mface->v2, mface->v3);
803
804                         if(fdata)
805                                 CustomData_swap(fdata, mfindex, corner_indices);
806                 }
807         }
808         else if(nr==4) {
809                 if(mface->v3==0 || mface->v4==0) {
810                         static int corner_indices[4] = {2, 3, 0, 1};
811
812                         SWAP(unsigned int, mface->v1, mface->v3);
813                         SWAP(unsigned int, mface->v2, mface->v4);
814
815                         if(fdata)
816                                 CustomData_swap(fdata, mfindex, corner_indices);
817                 }
818         }
819
820         return nr;
821 }
822
823 Mesh *get_mesh(Object *ob)
824 {
825         
826         if(ob==NULL) return NULL;
827         if(ob->type==OB_MESH) return ob->data;
828         else return NULL;
829 }
830
831 void set_mesh(Object *ob, Mesh *me)
832 {
833         Mesh *old=NULL;
834
835         multires_force_update(ob);
836         
837         if(ob==NULL) return;
838         
839         if(ob->type==OB_MESH) {
840                 old= ob->data;
841                 if (old)
842                         old->id.us--;
843                 ob->data= me;
844                 id_us_plus((ID *)me);
845         }
846         
847         test_object_materials((ID *)me);
848
849         test_object_modifiers(ob);
850 }
851
852 /* ************** make edges in a Mesh, for outside of editmode */
853
854 struct edgesort {
855         unsigned int v1, v2;
856         short is_loose, is_draw;
857 };
858
859 /* edges have to be added with lowest index first for sorting */
860 static void to_edgesort(struct edgesort *ed,
861                         unsigned int v1, unsigned int v2,
862                         short is_loose, short is_draw)
863 {
864         if(v1<v2) {
865                 ed->v1= v1; ed->v2= v2;
866         }
867         else {
868                 ed->v1= v2; ed->v2= v1;
869         }
870         ed->is_loose= is_loose;
871         ed->is_draw= is_draw;
872 }
873
874 static int vergedgesort(const void *v1, const void *v2)
875 {
876         const struct edgesort *x1=v1, *x2=v2;
877
878         if( x1->v1 > x2->v1) return 1;
879         else if( x1->v1 < x2->v1) return -1;
880         else if( x1->v2 > x2->v2) return 1;
881         else if( x1->v2 < x2->v2) return -1;
882         
883         return 0;
884 }
885
886 static void mfaces_strip_loose(MFace *mface, int *totface)
887 {
888         int a,b;
889
890         for (a=b=0; a<*totface; a++) {
891                 if (mface[a].v3) {
892                         if (a!=b) {
893                                 memcpy(&mface[b],&mface[a],sizeof(mface[b]));
894                         }
895                         b++;
896                 }
897         }
898
899         *totface= b;
900 }
901
902 /* Create edges based on known verts and faces */
903 static void make_edges_mdata(MVert *UNUSED(allvert), MFace *allface, MLoop *allloop,
904         MPoly *allpoly, int UNUSED(totvert), int totface, int UNUSED(totloop), int totpoly,
905         int old, MEdge **alledge, int *_totedge)
906 {
907         MPoly *mpoly;
908         MLoop *mloop;
909         MFace *mface;
910         MEdge *medge;
911         EdgeHash *hash = BLI_edgehash_new();
912         struct edgesort *edsort, *ed;
913         int a, b, totedge=0, final=0;
914
915         /* we put all edges in array, sort them, and detect doubles that way */
916
917         for(a= totface, mface= allface; a>0; a--, mface++) {
918                 if(mface->v4) totedge+=4;
919                 else if(mface->v3) totedge+=3;
920                 else totedge+=1;
921         }
922
923         if(totedge==0) {
924                 /* flag that mesh has edges */
925                 (*alledge)= MEM_callocN(0, "make mesh edges");
926                 (*_totedge) = 0;
927                 return;
928         }
929
930         ed= edsort= MEM_mallocN(totedge*sizeof(struct edgesort), "edgesort");
931
932         for(a= totface, mface= allface; a>0; a--, mface++) {
933                 to_edgesort(ed++, mface->v1, mface->v2, !mface->v3, mface->edcode & ME_V1V2);
934                 if(mface->v4) {
935                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
936                         to_edgesort(ed++, mface->v3, mface->v4, 0, mface->edcode & ME_V3V4);
937                         to_edgesort(ed++, mface->v4, mface->v1, 0, mface->edcode & ME_V4V1);
938                 }
939                 else if(mface->v3) {
940                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
941                         to_edgesort(ed++, mface->v3, mface->v1, 0, mface->edcode & ME_V3V1);
942                 }
943         }
944
945         qsort(edsort, totedge, sizeof(struct edgesort), vergedgesort);
946
947         /* count final amount */
948         for(a=totedge, ed=edsort; a>1; a--, ed++) {
949                 /* edge is unique when it differs from next edge, or is last */
950                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) final++;
951         }
952         final++;
953
954         (*alledge)= medge= MEM_callocN(sizeof (MEdge) * final, "make_edges mdge");
955         (*_totedge)= final;
956
957         for(a=totedge, ed=edsort; a>1; a--, ed++) {
958                 /* edge is unique when it differs from next edge, or is last */
959                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) {
960                         medge->v1= ed->v1;
961                         medge->v2= ed->v2;
962                         if(old==0 || ed->is_draw) medge->flag= ME_EDGEDRAW|ME_EDGERENDER;
963                         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
964
965                         /* order is swapped so extruding this edge as a surface wont flip face normals
966                          * with cyclic curves */
967                         if(ed->v1+1 != ed->v2) {
968                                 SWAP(unsigned int, medge->v1, medge->v2);
969                         }
970                         medge++;
971                 }
972                 else {
973                         /* equal edge, we merge the drawflag */
974                         (ed+1)->is_draw |= ed->is_draw;
975                 }
976         }
977         /* last edge */
978         medge->v1= ed->v1;
979         medge->v2= ed->v2;
980         medge->flag= ME_EDGEDRAW;
981         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
982         medge->flag |= ME_EDGERENDER;
983
984         MEM_freeN(edsort);
985         
986         /*set edge members of mloops*/
987         medge= *alledge;
988         for (a=0; a<*_totedge; a++, medge++) {
989                 BLI_edgehash_insert(hash, medge->v1, medge->v2, SET_INT_IN_POINTER(a));
990         }
991         
992         mpoly = allpoly;
993         for (a=0; a<totpoly; a++, mpoly++) {
994                 mloop = allloop + mpoly->loopstart;
995                 for (b=0; b<mpoly->totloop; b++) {
996                         int v1, v2;
997                         
998                         v1 = mloop[b].v;
999                         v2 = ME_POLY_LOOP_NEXT(mloop, mpoly, b)->v;
1000                         mloop[b].e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(hash, v1, v2));
1001                 }
1002         }
1003         
1004         BLI_edgehash_free(hash, NULL);
1005 }
1006
1007 void make_edges(Mesh *me, int old)
1008 {
1009         MEdge *medge;
1010         int totedge=0;
1011
1012         make_edges_mdata(me->mvert, me->mface, me->mloop, me->mpoly, me->totvert, me->totface, me->totloop, me->totpoly, old, &medge, &totedge);
1013         if(totedge==0) {
1014                 /* flag that mesh has edges */
1015                 me->medge = medge;
1016                 me->totedge = 0;
1017                 return;
1018         }
1019
1020         medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, medge, totedge);
1021         me->medge= medge;
1022         me->totedge= totedge;
1023
1024         mesh_strip_loose_faces(me);
1025 }
1026
1027 void mesh_strip_loose_faces(Mesh *me)
1028 {
1029         int a,b;
1030
1031         for (a=b=0; a<me->totface; a++) {
1032                 if (me->mface[a].v3) {
1033                         if (a!=b) {
1034                                 memcpy(&me->mface[b],&me->mface[a],sizeof(me->mface[b]));
1035                                 CustomData_copy_data(&me->fdata, &me->fdata, a, b, 1);
1036                                 CustomData_free_elem(&me->fdata, a, 1);
1037                         }
1038                         b++;
1039                 }
1040         }
1041         me->totface = b;
1042 }
1043
1044 void mesh_strip_loose_edges(Mesh *me)
1045 {
1046         int a,b;
1047
1048         for (a=b=0; a<me->totedge; a++) {
1049                 if (me->medge[a].v1!=me->medge[a].v2) {
1050                         if (a!=b) {
1051                                 memcpy(&me->medge[b],&me->medge[a],sizeof(me->medge[b]));
1052                                 CustomData_copy_data(&me->edata, &me->edata, a, b, 1);
1053                                 CustomData_free_elem(&me->edata, a, 1);
1054                         }
1055                         b++;
1056                 }
1057         }
1058         me->totedge = b;
1059 }
1060
1061 void mball_to_mesh(ListBase *lb, Mesh *me)
1062 {
1063         DispList *dl;
1064         MVert *mvert;
1065         MFace *mface;
1066         float *nors, *verts;
1067         int a, *index;
1068         
1069         dl= lb->first;
1070         if(dl==NULL) return;
1071
1072         if(dl->type==DL_INDEX4) {
1073                 me->totvert= dl->nr;
1074                 me->totface= dl->parts;
1075                 
1076                 mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, dl->nr);
1077                 mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, dl->parts);
1078                 me->mvert= mvert;
1079                 me->mface= mface;
1080
1081                 a= dl->nr;
1082                 nors= dl->nors;
1083                 verts= dl->verts;
1084                 while(a--) {
1085                         copy_v3_v3(mvert->co, verts);
1086                         normal_float_to_short_v3(mvert->no, nors);
1087                         mvert++;
1088                         nors+= 3;
1089                         verts+= 3;
1090                 }
1091                 
1092                 a= dl->parts;
1093                 index= dl->index;
1094                 while(a--) {
1095                         mface->v1= index[0];
1096                         mface->v2= index[1];
1097                         mface->v3= index[2];
1098                         mface->v4= index[3];
1099                         mface->flag= ME_SMOOTH;
1100
1101                         test_index_face(mface, NULL, 0, (mface->v3==mface->v4)? 3: 4);
1102
1103                         mface++;
1104                         index+= 4;
1105                 }
1106
1107                 make_edges(me, 0);      // all edges
1108
1109
1110                 /* BMESH_TODO - low priority, should make polygons instead */
1111                 convert_mfaces_to_mpolys(me);
1112
1113                 mesh_update_customdata_pointers(me, TRUE);
1114         }
1115 }
1116
1117 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1118 /* return non-zero on error */
1119 int nurbs_to_mdata(Object *ob, MVert **allvert, int *totvert,
1120         MEdge **alledge, int *totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1121         int *totface, int *totloop, int *totpoly)
1122 {
1123         return nurbs_to_mdata_customdb(ob, &ob->disp,
1124                 allvert, totvert, alledge, totedge, allface, allloop, allpoly, totface, totloop, totpoly);
1125 }
1126
1127 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1128 /* use specified dispbase  */
1129 int nurbs_to_mdata_customdb(Object *ob, ListBase *dispbase, MVert **allvert, int *_totvert,
1130         MEdge **alledge, int *_totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1131         int *_totface, int *_totloop, int *_totpoly)
1132 {
1133         DispList *dl;
1134         Curve *cu;
1135         MVert *mvert;
1136         MFace *mface;
1137         MPoly *mpoly;
1138         MLoop *mloop;
1139         float *data;
1140         int a, b, ofs, vertcount, startvert, totvert=0, totvlak=0;
1141         int p1, p2, p3, p4, *index;
1142         int conv_polys= 0;
1143         int i, j;
1144
1145         cu= ob->data;
1146
1147         conv_polys|= cu->flag & CU_3D;          /* 2d polys are filled with DL_INDEX3 displists */
1148         conv_polys|= ob->type == OB_SURF;       /* surf polys are never filled */
1149
1150         /* count */
1151         dl= dispbase->first;
1152         while(dl) {
1153                 if(dl->type==DL_SEGM) {
1154                         totvert+= dl->parts*dl->nr;
1155                         totvlak+= dl->parts*(dl->nr-1);
1156                 }
1157                 else if(dl->type==DL_POLY) {
1158                         if(conv_polys) {
1159                                 totvert+= dl->parts*dl->nr;
1160                                 totvlak+= dl->parts*dl->nr;
1161                         }
1162                 }
1163                 else if(dl->type==DL_SURF) {
1164                         totvert+= dl->parts*dl->nr;
1165                         totvlak+= (dl->parts-1+((dl->flag & DL_CYCL_V)==2))*(dl->nr-1+(dl->flag & DL_CYCL_U));
1166                 }
1167                 else if(dl->type==DL_INDEX3) {
1168                         totvert+= dl->nr;
1169                         totvlak+= dl->parts;
1170                 }
1171                 dl= dl->next;
1172         }
1173
1174         if(totvert==0) {
1175                 /* error("can't convert"); */
1176                 /* Make Sure you check ob->data is a curve */
1177                 return -1;
1178         }
1179
1180         *allvert= mvert= MEM_callocN(sizeof (MVert) * totvert, "nurbs_init mvert");
1181         *allface= mface= MEM_callocN(sizeof (MFace) * totvlak, "nurbs_init mface");
1182         *allloop = mloop = MEM_callocN(sizeof(MLoop) * totvlak * 4, "nurbs_init mloop");
1183         *allpoly = mpoly = MEM_callocN(sizeof(MPoly) * totvlak * 4, "nurbs_init mloop");
1184         
1185         /* verts and faces */
1186         vertcount= 0;
1187
1188         dl= dispbase->first;
1189         while(dl) {
1190                 int smooth= dl->rt & CU_SMOOTH ? 1 : 0;
1191
1192                 if(dl->type==DL_SEGM) {
1193                         startvert= vertcount;
1194                         a= dl->parts*dl->nr;
1195                         data= dl->verts;
1196                         while(a--) {
1197                                 copy_v3_v3(mvert->co, data);
1198                                 data+=3;
1199                                 vertcount++;
1200                                 mvert++;
1201                         }
1202
1203                         for(a=0; a<dl->parts; a++) {
1204                                 ofs= a*dl->nr;
1205                                 for(b=1; b<dl->nr; b++) {
1206                                         mface->v1= startvert+ofs+b-1;
1207                                         mface->v2= startvert+ofs+b;
1208                                         if(smooth) mface->flag |= ME_SMOOTH;
1209                                         mface++;
1210                                 }
1211                         }
1212
1213                 }
1214                 else if(dl->type==DL_POLY) {
1215                         if(conv_polys) {
1216                                 startvert= vertcount;
1217                                 a= dl->parts*dl->nr;
1218                                 data= dl->verts;
1219                                 while(a--) {
1220                                         copy_v3_v3(mvert->co, data);
1221                                         data+=3;
1222                                         vertcount++;
1223                                         mvert++;
1224                                 }
1225
1226                                 for(a=0; a<dl->parts; a++) {
1227                                         ofs= a*dl->nr;
1228                                         for(b=0; b<dl->nr; b++) {
1229                                                 mface->v1= startvert+ofs+b;
1230                                                 if(b==dl->nr-1) mface->v2= startvert+ofs;
1231                                                 else mface->v2= startvert+ofs+b+1;
1232                                                 if(smooth) mface->flag |= ME_SMOOTH;
1233                                                 mface++;
1234                                         }
1235                                 }
1236                         }
1237                 }
1238                 else if(dl->type==DL_INDEX3) {
1239                         startvert= vertcount;
1240                         a= dl->nr;
1241                         data= dl->verts;
1242                         while(a--) {
1243                                 copy_v3_v3(mvert->co, data);
1244                                 data+=3;
1245                                 vertcount++;
1246                                 mvert++;
1247                         }
1248
1249                         a= dl->parts;
1250                         index= dl->index;
1251                         while(a--) {
1252                                 mface->v1= startvert+index[0];
1253                                 mface->v2= startvert+index[2];
1254                                 mface->v3= startvert+index[1];
1255                                 mface->v4= 0;
1256                                 mface->mat_nr= dl->col;
1257                                 test_index_face(mface, NULL, 0, 3);
1258
1259                                 if(smooth) mface->flag |= ME_SMOOTH;
1260                                 mface++;
1261                                 index+= 3;
1262                         }
1263
1264
1265                 }
1266                 else if(dl->type==DL_SURF) {
1267                         startvert= vertcount;
1268                         a= dl->parts*dl->nr;
1269                         data= dl->verts;
1270                         while(a--) {
1271                                 copy_v3_v3(mvert->co, data);
1272                                 data+=3;
1273                                 vertcount++;
1274                                 mvert++;
1275                         }
1276
1277                         for(a=0; a<dl->parts; a++) {
1278
1279                                 if( (dl->flag & DL_CYCL_V)==0 && a==dl->parts-1) break;
1280
1281                                 if(dl->flag & DL_CYCL_U) {                      /* p2 -> p1 -> */
1282                                         p1= startvert+ dl->nr*a;        /* p4 -> p3 -> */
1283                                         p2= p1+ dl->nr-1;               /* -----> next row */
1284                                         p3= p1+ dl->nr;
1285                                         p4= p2+ dl->nr;
1286                                         b= 0;
1287                                 }
1288                                 else {
1289                                         p2= startvert+ dl->nr*a;
1290                                         p1= p2+1;
1291                                         p4= p2+ dl->nr;
1292                                         p3= p1+ dl->nr;
1293                                         b= 1;
1294                                 }
1295                                 if( (dl->flag & DL_CYCL_V) && a==dl->parts-1) {
1296                                         p3-= dl->parts*dl->nr;
1297                                         p4-= dl->parts*dl->nr;
1298                                 }
1299
1300                                 for(; b<dl->nr; b++) {
1301                                         mface->v1= p1;
1302                                         mface->v2= p3;
1303                                         mface->v3= p4;
1304                                         mface->v4= p2;
1305                                         mface->mat_nr= dl->col;
1306                                         test_index_face(mface, NULL, 0, 4);
1307
1308                                         if(smooth) mface->flag |= ME_SMOOTH;
1309                                         mface++;
1310
1311                                         p4= p3;
1312                                         p3++;
1313                                         p2= p1;
1314                                         p1++;
1315                                 }
1316                         }
1317
1318                 }
1319
1320                 dl= dl->next;
1321         }
1322         
1323         mface= *allface;
1324         j = 0;
1325         for (i=0; i<totvert; i++, mpoly++, mface++) {
1326                 int k;
1327                 
1328                 if (!mface->v3) {
1329                         mpoly--;
1330                         i--;
1331                         continue;
1332                 }
1333                 
1334                 if (mface >= *allface + totvlak)
1335                         break;
1336
1337                 mpoly->flag |= mface->flag & ME_SMOOTH;
1338                 mpoly->loopstart= j;
1339                 mpoly->totloop= mface->v4 ? 4 : 3;
1340                 for (k=0; k<mpoly->totloop; k++, mloop++, j++) {
1341                         mloop->v = (&mface->v1)[k];
1342                 }
1343         }
1344         
1345         *_totpoly= i;
1346         *_totloop= j;
1347         *_totvert= totvert;
1348         *_totface= totvlak;
1349
1350         make_edges_mdata(*allvert, *allface, *allloop, *allpoly, totvert, totvlak, *_totloop, *_totpoly, 0, alledge, _totedge);
1351         mfaces_strip_loose(*allface, _totface);
1352
1353         return 0;
1354 }
1355
1356 /* this may fail replacing ob->data, be sure to check ob->type */
1357 void nurbs_to_mesh(Object *ob)
1358 {
1359         Main *bmain= G.main;
1360         Object *ob1;
1361         DerivedMesh *dm= ob->derivedFinal;
1362         Mesh *me;
1363         Curve *cu;
1364         MVert *allvert= NULL;
1365         MEdge *alledge= NULL;
1366         MFace *allface= NULL;
1367         MLoop *allloop = NULL;
1368         MPoly *allpoly = NULL;
1369         int totvert, totedge, totface, totloop, totpoly;
1370
1371         cu= ob->data;
1372
1373         if (dm == NULL) {
1374                 if (nurbs_to_mdata (ob, &allvert, &totvert, &alledge, &totedge, &allface, &allloop, &allpoly, &totface, &totloop, &totpoly) != 0) {
1375                         /* Error initializing */
1376                         return;
1377                 }
1378
1379                 /* make mesh */
1380                 me= add_mesh("Mesh");
1381                 me->totvert= totvert;
1382                 me->totface= totface;
1383                 me->totedge= totedge;
1384                 me->totloop = totloop;
1385                 me->totpoly = totpoly;
1386
1387                 me->mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_ASSIGN, allvert, me->totvert);
1388                 me->medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, alledge, me->totedge);
1389                 me->mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_ASSIGN, allface, me->totface);
1390                 me->mloop= CustomData_add_layer(&me->ldata, CD_MLOOP, CD_ASSIGN, allloop, me->totloop);
1391                 me->mpoly= CustomData_add_layer(&me->pdata, CD_MPOLY, CD_ASSIGN, allpoly, me->totpoly);
1392
1393                 mesh_calc_normals_mapping(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, me->totpoly, NULL, NULL, 0, NULL, NULL);
1394         } else {
1395                 me= add_mesh("Mesh");
1396                 DM_to_mesh(dm, me, ob);
1397         }
1398
1399         me->totcol= cu->totcol;
1400         me->mat= cu->mat;
1401
1402         tex_space_mesh(me);
1403
1404         cu->mat= NULL;
1405         cu->totcol= 0;
1406
1407         if(ob->data) {
1408                 free_libblock(&bmain->curve, ob->data);
1409         }
1410         ob->data= me;
1411         ob->type= OB_MESH;
1412
1413         /* other users */
1414         ob1= bmain->object.first;
1415         while(ob1) {
1416                 if(ob1->data==cu) {
1417                         ob1->type= OB_MESH;
1418                 
1419                         ob1->data= ob->data;
1420                         id_us_plus((ID *)ob->data);
1421                 }
1422                 ob1= ob1->id.next;
1423         }
1424 }
1425
1426 typedef struct EdgeLink {
1427         Link *next, *prev;
1428         void *edge;
1429 } EdgeLink;
1430
1431 typedef struct VertLink {
1432         Link *next, *prev;
1433         unsigned int index;
1434 } VertLink;
1435
1436 static void prependPolyLineVert(ListBase *lb, unsigned int index)
1437 {
1438         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1439         vl->index = index;
1440         BLI_addhead(lb, vl);
1441 }
1442
1443 static void appendPolyLineVert(ListBase *lb, unsigned int index)
1444 {
1445         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1446         vl->index = index;
1447         BLI_addtail(lb, vl);
1448 }
1449
1450 void mesh_to_curve(Scene *scene, Object *ob)
1451 {
1452         /* make new mesh data from the original copy */
1453         DerivedMesh *dm= mesh_get_derived_final(scene, ob, CD_MASK_MESH);
1454
1455         MVert *mverts= dm->getVertArray(dm);
1456         MEdge *med, *medge= dm->getEdgeArray(dm);
1457         MFace *mf,  *mface= dm->getTessFaceArray(dm);
1458
1459         int totedge = dm->getNumEdges(dm);
1460         int totface = dm->getNumTessFaces(dm);
1461         int totedges = 0;
1462         int i, needsFree = 0;
1463
1464         /* only to detect edge polylines */
1465         EdgeHash *eh = BLI_edgehash_new();
1466         EdgeHash *eh_edge = BLI_edgehash_new();
1467
1468
1469         ListBase edges = {NULL, NULL};
1470
1471         /* create edges from all faces (so as to find edges not in any faces) */
1472         mf= mface;
1473         for (i = 0; i < totface; i++, mf++) {
1474                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
1475                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
1476                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
1477                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
1478
1479                 if (mf->v4) {
1480                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
1481                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
1482                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
1483                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
1484                 } else {
1485                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
1486                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
1487                 }
1488         }
1489
1490         med= medge;
1491         for(i=0; i<totedge; i++, med++) {
1492                 if (!BLI_edgehash_haskey(eh, med->v1, med->v2)) {
1493                         EdgeLink *edl= MEM_callocN(sizeof(EdgeLink), "EdgeLink");
1494
1495                         BLI_edgehash_insert(eh_edge, med->v1, med->v2, NULL);
1496                         edl->edge= med;
1497
1498                         BLI_addtail(&edges, edl);       totedges++;
1499                 }
1500         }
1501         BLI_edgehash_free(eh_edge, NULL);
1502         BLI_edgehash_free(eh, NULL);
1503
1504         if(edges.first) {
1505                 Curve *cu = add_curve(ob->id.name+2, OB_CURVE);
1506                 cu->flag |= CU_3D;
1507
1508                 while(edges.first) {
1509                         /* each iteration find a polyline and add this as a nurbs poly spline */
1510
1511                         ListBase polyline = {NULL, NULL}; /* store a list of VertLink's */
1512                         int closed = FALSE;
1513                         int totpoly= 0;
1514                         MEdge *med_current= ((EdgeLink *)edges.last)->edge;
1515                         unsigned int startVert= med_current->v1;
1516                         unsigned int endVert= med_current->v2;
1517                         int ok= TRUE;
1518
1519                         appendPolyLineVert(&polyline, startVert);       totpoly++;
1520                         appendPolyLineVert(&polyline, endVert);         totpoly++;
1521                         BLI_freelinkN(&edges, edges.last);                      totedges--;
1522
1523                         while(ok) { /* while connected edges are found... */
1524                                 ok = FALSE;
1525                                 i= totedges;
1526                                 while(i) {
1527                                         EdgeLink *edl;
1528
1529                                         i-=1;
1530                                         edl= BLI_findlink(&edges, i);
1531                                         med= edl->edge;
1532
1533                                         if(med->v1==endVert) {
1534                                                 endVert = med->v2;
1535                                                 appendPolyLineVert(&polyline, med->v2); totpoly++;
1536                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1537                                                 ok= TRUE;
1538                                         }
1539                                         else if(med->v2==endVert) {
1540                                                 endVert = med->v1;
1541                                                 appendPolyLineVert(&polyline, endVert); totpoly++;
1542                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1543                                                 ok= TRUE;
1544                                         }
1545                                         else if(med->v1==startVert) {
1546                                                 startVert = med->v2;
1547                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1548                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1549                                                 ok= TRUE;
1550                                         }
1551                                         else if(med->v2==startVert) {
1552                                                 startVert = med->v1;
1553                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1554                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1555                                                 ok= TRUE;
1556                                         }
1557                                 }
1558                         }
1559
1560                         /* Now we have a polyline, make into a curve */
1561                         if(startVert==endVert) {
1562                                 BLI_freelinkN(&polyline, polyline.last);
1563                                 totpoly--;
1564                                 closed = TRUE;
1565                         }
1566
1567                         /* --- nurbs --- */
1568                         {
1569                                 Nurb *nu;
1570                                 BPoint *bp;
1571                                 VertLink *vl;
1572
1573                                 /* create new 'nurb' within the curve */
1574                                 nu = (Nurb *)MEM_callocN(sizeof(Nurb), "MeshNurb");
1575
1576                                 nu->pntsu= totpoly;
1577                                 nu->pntsv= 1;
1578                                 nu->orderu= 4;
1579                                 nu->flagu= CU_NURB_ENDPOINT | (closed ? CU_NURB_CYCLIC:0);      /* endpoint */
1580                                 nu->resolu= 12;
1581
1582                                 nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*totpoly, "bpoints");
1583
1584                                 /* add points */
1585                                 vl= polyline.first;
1586                                 for (i=0, bp=nu->bp; i < totpoly; i++, bp++, vl=(VertLink *)vl->next) {
1587                                         copy_v3_v3(bp->vec, mverts[vl->index].co);
1588                                         bp->f1= SELECT;
1589                                         bp->radius = bp->weight = 1.0;
1590                                 }
1591                                 BLI_freelistN(&polyline);
1592
1593                                 /* add nurb to curve */
1594                                 BLI_addtail(&cu->nurb, nu);
1595                         }
1596                         /* --- done with nurbs --- */
1597                 }
1598
1599                 ((Mesh *)ob->data)->id.us--;
1600                 ob->data= cu;
1601                 ob->type= OB_CURVE;
1602
1603                 /* curve objects can't contain DM in usual cases, we could free memory */
1604                 needsFree= 1;
1605         }
1606
1607         dm->needsFree = needsFree;
1608         dm->release(dm);
1609
1610         if (needsFree) {
1611                 ob->derivedFinal = NULL;
1612
1613                 /* curve object could have got bounding box only in special cases */
1614                 if(ob->bb) {
1615                         MEM_freeN(ob->bb);
1616                         ob->bb= NULL;
1617                 }
1618         }
1619 }
1620
1621 void mesh_delete_material_index(Mesh *me, short index)
1622 {
1623         int i;
1624
1625         for (i=0; i<me->totpoly; i++) {
1626                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1627                 if (mp->mat_nr && mp->mat_nr>=index) 
1628                         mp->mat_nr--;
1629         }
1630         
1631         for (i=0; i<me->totface; i++) {
1632                 MFace *mf = &((MFace*) me->mface)[i];
1633                 if (mf->mat_nr && mf->mat_nr>=index) 
1634                         mf->mat_nr--;
1635         }
1636 }
1637
1638 void mesh_set_smooth_flag(Object *meshOb, int enableSmooth) 
1639 {
1640         Mesh *me = meshOb->data;
1641         int i;
1642
1643         for (i=0; i<me->totpoly; i++) {
1644                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1645
1646                 if (enableSmooth) {
1647                         mp->flag |= ME_SMOOTH;
1648                 } else {
1649                         mp->flag &= ~ME_SMOOTH;
1650                 }
1651         }
1652         
1653         for (i=0; i<me->totface; i++) {
1654                 MFace *mf = &((MFace*) me->mface)[i];
1655
1656                 if (enableSmooth) {
1657                         mf->flag |= ME_SMOOTH;
1658                 } else {
1659                         mf->flag &= ~ME_SMOOTH;
1660                 }
1661         }
1662 }
1663
1664 void mesh_calc_normals_mapping(MVert *mverts, int numVerts,
1665                                 MLoop *mloop, MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
1666                                 MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3])
1667 {
1668         mesh_calc_normals_mapping_ex(mverts, numVerts, mloop, mpolys,
1669                                       numLoops, numPolys, polyNors_r, mfaces, numFaces,
1670                                       origIndexFace, faceNors_r, TRUE);
1671 }
1672
1673 void mesh_calc_normals_mapping_ex(MVert *mverts, int numVerts,
1674                                    MLoop *mloop, MPoly *mpolys,
1675                                    int numLoops, int numPolys, float (*polyNors_r)[3],
1676                                    MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3],
1677                                    const short only_face_normals)
1678 {
1679         float (*pnors)[3] = polyNors_r, (*fnors)[3] = faceNors_r;
1680         int i;
1681         MFace *mf;
1682         MPoly *mp;
1683
1684         if (numPolys == 0) {
1685                 return;
1686         }
1687
1688         /* if we are not calculating verts and no verts were passes thene we have nothign to do */
1689         if ((only_face_normals == TRUE) && (polyNors_r == NULL) && (faceNors_r == NULL)) {
1690                 printf("%s: called with nothing to do\n", __func__);
1691                 return;
1692         }
1693
1694         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1695         /* if (!fnors) fnors = MEM_callocN(sizeof(float) * 3 * numFaces, "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
1696
1697
1698         if (only_face_normals == FALSE) {
1699                 /* vertex normals are optional, they require some extra calculations,
1700                  * so make them optional */
1701                 mesh_calc_normals(mverts, numVerts, mloop, mpolys, numLoops, numPolys, pnors);
1702         }
1703         else {
1704                 /* only calc poly normals */
1705                 mp = mpolys;
1706                 for (i=0; i<numPolys; i++, mp++) {
1707                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1708                 }
1709         }
1710
1711         if ( origIndexFace &&
1712              /* fnors==faceNors_r */ /* NO NEED TO ALLOC YET */
1713              fnors != NULL &&
1714              numFaces)
1715         {
1716                 mf = mfaces;
1717                 for (i=0; i<numFaces; i++, mf++, origIndexFace++) {
1718                         if (*origIndexFace < numPolys) {
1719                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
1720                         } else {
1721                                 /*eek, we're not corrusponding to polys*/
1722                                 printf("error in mesh_calc_normals; tesselation face indices are incorrect.  normals may look bad.\n");
1723                         }
1724                 }
1725         }
1726
1727         if (pnors != polyNors_r) MEM_freeN(pnors);
1728         /* if (fnors != faceNors_r) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
1729
1730         fnors = pnors = NULL;
1731         
1732 }
1733
1734 void mesh_calc_normals(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1735                        int UNUSED(numLoops), int numPolys, float (*polyNors_r)[3])
1736 {
1737         float (*pnors)[3] = polyNors_r;
1738
1739         float (*tnorms)[3], (*edgevecbuf)[3]= NULL;
1740         float **vertcos = NULL, **vertnos = NULL;
1741         BLI_array_declare(vertcos);
1742         BLI_array_declare(vertnos);
1743         BLI_array_declare(edgevecbuf);
1744
1745         int i, j;
1746         MPoly *mp;
1747         MLoop *ml;
1748
1749         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1750
1751         /*first go through and calculate normals for all the polys*/
1752         tnorms = MEM_callocN(sizeof(float)*3*numVerts, "tnorms mesh.c");
1753
1754         mp = mpolys;
1755         for (i=0; i<numPolys; i++, mp++) {
1756                 mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1757                 ml = mloop + mp->loopstart;
1758
1759                 BLI_array_empty(vertcos);
1760                 BLI_array_empty(vertnos);
1761                 for (j=0; j<mp->totloop; j++) {
1762                         int vindex = ml[j].v;
1763                         BLI_array_append(vertcos, mverts[vindex].co);
1764                         BLI_array_append(vertnos, tnorms[vindex]);
1765                 }
1766
1767                 BLI_array_empty(edgevecbuf);
1768                 BLI_array_growitems(edgevecbuf, mp->totloop);
1769
1770                 accumulate_vertex_normals_poly(vertnos, pnors[i], vertcos, edgevecbuf, mp->totloop);
1771         }
1772
1773         BLI_array_free(vertcos);
1774         BLI_array_free(vertnos);
1775         BLI_array_free(edgevecbuf);
1776
1777         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1778         for(i=0; i<numVerts; i++) {
1779                 MVert *mv= &mverts[i];
1780                 float *no= tnorms[i];
1781
1782                 if(normalize_v3(no) == 0.0f)
1783                         normalize_v3_v3(no, mv->co);
1784
1785                 normal_float_to_short_v3(mv->no, no);
1786         }
1787
1788         MEM_freeN(tnorms);
1789
1790         if (pnors != polyNors_r) MEM_freeN(pnors);
1791 }
1792
1793 void mesh_calc_normals_tessface(MVert *mverts, int numVerts, MFace *mfaces, int numFaces, float (*faceNors_r)[3])
1794 {
1795         float (*tnorms)[3]= MEM_callocN(numVerts*sizeof(*tnorms), "tnorms");
1796         float (*fnors)[3]= (faceNors_r)? faceNors_r: MEM_callocN(sizeof(*fnors)*numFaces, "meshnormals");
1797         int i;
1798
1799         for(i=0; i<numFaces; i++) {
1800                 MFace *mf= &mfaces[i];
1801                 float *f_no= fnors[i];
1802                 float *n4 = (mf->v4)? tnorms[mf->v4]: NULL;
1803                 float *c4 = (mf->v4)? mverts[mf->v4].co: NULL;
1804
1805                 if(mf->v4)
1806                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
1807                 else
1808                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
1809
1810                 accumulate_vertex_normals(tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
1811                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
1812         }
1813
1814         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1815         for(i=0; i<numVerts; i++) {
1816                 MVert *mv= &mverts[i];
1817                 float *no= tnorms[i];
1818                 
1819                 if(normalize_v3(no) == 0.0f)
1820                         normalize_v3_v3(no, mv->co);
1821
1822                 normal_float_to_short_v3(mv->no, no);
1823         }
1824         
1825         MEM_freeN(tnorms);
1826
1827         if(fnors != faceNors_r)
1828                 MEM_freeN(fnors);
1829 }
1830
1831
1832 static void bmesh_corners_to_loops(Mesh *me, int findex, int loopstart, int numTex, int numCol)
1833 {
1834         MTFace *texface;
1835         MTexPoly *texpoly;
1836         MCol *mcol;
1837         MLoopCol *mloopcol;
1838         MLoopUV *mloopuv;
1839         MFace *mf;
1840         int i;
1841
1842         mf = me->mface + findex;
1843
1844         for(i=0; i < numTex; i++){
1845                 texface = CustomData_get_n(&me->fdata, CD_MTFACE, findex, i);
1846                 texpoly = CustomData_get_n(&me->pdata, CD_MTEXPOLY, findex, i); 
1847                 
1848                 texpoly->tpage = texface->tpage;
1849                 texpoly->flag = texface->flag;
1850                 texpoly->transp = texface->transp;
1851                 texpoly->mode = texface->mode;
1852                 texpoly->tile = texface->tile;
1853                 texpoly->unwrap = texface->unwrap;
1854         
1855                 mloopuv = CustomData_get_n(&me->ldata, CD_MLOOPUV, loopstart, i);
1856                 mloopuv->uv[0] = texface->uv[0][0]; mloopuv->uv[1] = texface->uv[0][1]; mloopuv++;
1857                 mloopuv->uv[0] = texface->uv[1][0]; mloopuv->uv[1] = texface->uv[1][1]; mloopuv++;
1858                 mloopuv->uv[0] = texface->uv[2][0]; mloopuv->uv[1] = texface->uv[2][1]; mloopuv++;
1859
1860                 if (mf->v4) {
1861                         mloopuv->uv[0] = texface->uv[3][0]; mloopuv->uv[1] = texface->uv[3][1]; mloopuv++;
1862                 }
1863         }
1864
1865         for(i=0; i < numCol; i++){
1866                 mloopcol = CustomData_get_n(&me->ldata, CD_MLOOPCOL, loopstart, i);
1867                 mcol = CustomData_get_n(&me->fdata, CD_MCOL, findex, i);
1868
1869                 mloopcol->r = mcol[0].r; mloopcol->g = mcol[0].g; mloopcol->b = mcol[0].b; mloopcol->a = mcol[0].a; mloopcol++;
1870                 mloopcol->r = mcol[1].r; mloopcol->g = mcol[1].g; mloopcol->b = mcol[1].b; mloopcol->a = mcol[1].a; mloopcol++;
1871                 mloopcol->r = mcol[2].r; mloopcol->g = mcol[2].g; mloopcol->b = mcol[2].b; mloopcol->a = mcol[2].a; mloopcol++;
1872                 if (mf->v4) {
1873                         mloopcol->r = mcol[3].r; mloopcol->g = mcol[3].g; mloopcol->b = mcol[3].b; mloopcol->a = mcol[3].a; mloopcol++;
1874                 }
1875         }
1876         
1877         if (CustomData_has_layer(&me->fdata, CD_MDISPS)) {
1878                 MDisps *ld = CustomData_get(&me->ldata, loopstart, CD_MDISPS);
1879                 MDisps *fd = CustomData_get(&me->fdata, findex, CD_MDISPS);
1880                 float (*disps)[3] = fd->disps;
1881                 int i, tot = mf->v4 ? 4 : 3;
1882                 int side, corners;
1883                 
1884                 corners = multires_mdisp_corners(fd);
1885                 
1886                 if (corners == 0) {
1887                         /* Empty MDisp layers appear in at least one of the sintel.blend files.
1888                            Not sure why this happens, but it seems fine to just ignore them here.
1889                            If corners==0 for a non-empty layer though, something went wrong. */
1890                         BLI_assert(fd->totdisp == 0);
1891                 }
1892                 else {
1893                         side = sqrt(fd->totdisp / corners);
1894                 
1895                         for (i=0; i<tot; i++, disps += side*side, ld++) {
1896                                 ld->totdisp = side*side;
1897                         
1898                                 if (ld->disps)
1899                                         MEM_freeN(ld->disps);
1900                         
1901                                 ld->disps = MEM_callocN(sizeof(float)*3*side*side, "converted loop mdisps");
1902                                 if (fd->disps) {
1903                                         memcpy(ld->disps, disps, sizeof(float)*3*side*side);
1904                                 }
1905                         }
1906                 }
1907         }
1908 }
1909
1910 void convert_mfaces_to_mpolys(Mesh *mesh)
1911 {
1912         MFace *mf;
1913         MLoop *ml;
1914         MPoly *mp;
1915         MEdge *me;
1916         EdgeHash *eh;
1917         int numTex, numCol;
1918         int i, j, totloop;
1919
1920         mesh->totpoly = mesh->totface;
1921         mesh->mpoly = MEM_callocN(sizeof(MPoly)*mesh->totpoly, "mpoly converted");
1922         CustomData_add_layer(&mesh->pdata, CD_MPOLY, CD_ASSIGN, mesh->mpoly, mesh->totpoly);
1923
1924         numTex = CustomData_number_of_layers(&mesh->fdata, CD_MTFACE);
1925         numCol = CustomData_number_of_layers(&mesh->fdata, CD_MCOL);
1926         
1927         totloop = 0;
1928         mf = mesh->mface;
1929         for (i=0; i<mesh->totface; i++, mf++) {
1930                 totloop += mf->v4 ? 4 : 3;
1931         }
1932         
1933         mesh->totloop = totloop;
1934         mesh->mloop = MEM_callocN(sizeof(MLoop)*mesh->totloop, "mloop converted");
1935
1936         CustomData_add_layer(&mesh->ldata, CD_MLOOP, CD_ASSIGN, mesh->mloop, totloop);
1937         CustomData_to_bmeshpoly(&mesh->fdata, &mesh->pdata, &mesh->ldata,
1938                 mesh->totloop, mesh->totpoly);
1939
1940         eh = BLI_edgehash_new();
1941
1942         /*build edge hash*/
1943         me = mesh->medge;
1944         for (i=0; i<mesh->totedge; i++, me++) {
1945                 BLI_edgehash_insert(eh, me->v1, me->v2, SET_INT_IN_POINTER(i));
1946         }
1947
1948         j = 0; /*current loop index*/
1949         ml = mesh->mloop;
1950         mf = mesh->mface;
1951         mp = mesh->mpoly;
1952         for (i=0; i<mesh->totface; i++, mf++, mp++) {
1953                 mp->loopstart = j;
1954                 
1955                 mp->totloop = mf->v4 ? 4 : 3;
1956
1957                 mp->mat_nr = mf->mat_nr;
1958                 mp->flag = mf->flag;
1959                 
1960                 #define ML(v1, v2) {ml->v = mf->v1; ml->e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(eh, mf->v1, mf->v2)); ml++; j++;}
1961                 
1962                 ML(v1, v2);
1963                 ML(v2, v3);
1964                 if (mf->v4) {
1965                         ML(v3, v4);
1966                         ML(v4, v1);
1967                 } else {
1968                         ML(v3, v1);
1969                 }
1970                 
1971                 #undef ML
1972
1973                 bmesh_corners_to_loops(mesh, i, mp->loopstart, numTex, numCol);
1974         }
1975
1976         /* note, we dont convert FGons at all, these are not even real ngons,
1977          * they have their own UV's, colors etc - its more an editing feature. */
1978
1979         mesh_update_customdata_pointers(mesh, TRUE);
1980
1981         BLI_edgehash_free(eh, NULL);
1982 }
1983
1984 float (*mesh_getVertexCos(Mesh *me, int *numVerts_r))[3]
1985 {
1986         int i, numVerts = me->totvert;
1987         float (*cos)[3] = MEM_mallocN(sizeof(*cos)*numVerts, "vertexcos1");
1988
1989         if (numVerts_r) *numVerts_r = numVerts;
1990         for (i=0; i<numVerts; i++)
1991                 copy_v3_v3(cos[i], me->mvert[i].co);
1992
1993         return cos;
1994 }
1995
1996
1997 /* ngon version wip, based on EDBM_make_uv_vert_map */
1998 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
1999  * but for now this replaces it because its unused. */
2000
2001 UvVertMap *make_uv_vert_map(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv, unsigned int totpoly, unsigned int totvert, int selected, float *limit)
2002 {
2003         UvVertMap *vmap;
2004         UvMapVert *buf;
2005         MPoly *mp;
2006         unsigned int a;
2007         int     i, totuv, nverts;
2008
2009         totuv = 0;
2010
2011         /* generate UvMapVert array */
2012         mp= mpoly;
2013         for(a=0; a<totpoly; a++, mp++)
2014                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
2015                         totuv += mp->totloop;
2016
2017         if(totuv==0)
2018                 return NULL;
2019         
2020         vmap= (UvVertMap*)MEM_callocN(sizeof(*vmap), "UvVertMap");
2021         if (!vmap)
2022                 return NULL;
2023
2024         vmap->vert= (UvMapVert**)MEM_callocN(sizeof(*vmap->vert)*totvert, "UvMapVert*");
2025         buf= vmap->buf= (UvMapVert*)MEM_callocN(sizeof(*vmap->buf)*totuv, "UvMapVert");
2026
2027         if (!vmap->vert || !vmap->buf) {
2028                 free_uv_vert_map(vmap);
2029                 return NULL;
2030         }
2031
2032         mp= mpoly;
2033         for(a=0; a<totpoly; a++, mp++) {
2034                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
2035                         nverts= mp->totloop;
2036
2037                         for(i=0; i<nverts; i++) {
2038                                 buf->tfindex= i;
2039                                 buf->f= a;
2040                                 buf->separate = 0;
2041                                 buf->next= vmap->vert[mloop[mp->loopstart + i].v];
2042                                 vmap->vert[mloop[mp->loopstart + i].v]= buf;
2043                                 buf++;
2044                         }
2045                 }
2046         }
2047         
2048         /* sort individual uvs for each vert */
2049         for(a=0; a<totvert; a++) {
2050                 UvMapVert *newvlist= NULL, *vlist=vmap->vert[a];
2051                 UvMapVert *iterv, *v, *lastv, *next;
2052                 float *uv, *uv2, uvdiff[2];
2053
2054                 while(vlist) {
2055                         v= vlist;
2056                         vlist= vlist->next;
2057                         v->next= newvlist;
2058                         newvlist= v;
2059
2060                         uv= mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
2061                         lastv= NULL;
2062                         iterv= vlist;
2063
2064                         while(iterv) {
2065                                 next= iterv->next;
2066
2067                                 uv2= mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
2068                                 sub_v2_v2v2(uvdiff, uv2, uv);
2069
2070
2071                                 if(fabsf(uv[0]-uv2[0]) < limit[0] && fabsf(uv[1]-uv2[1]) < limit[1]) {
2072                                         if(lastv) lastv->next= next;
2073                                         else vlist= next;
2074                                         iterv->next= newvlist;
2075                                         newvlist= iterv;
2076                                 }
2077                                 else
2078                                         lastv=iterv;
2079
2080                                 iterv= next;
2081                         }
2082
2083                         newvlist->separate = 1;
2084                 }
2085
2086                 vmap->vert[a]= newvlist;
2087         }
2088         
2089         return vmap;
2090 }
2091
2092 UvMapVert *get_uv_map_vert(UvVertMap *vmap, unsigned int v)
2093 {
2094         return vmap->vert[v];
2095 }
2096
2097 void free_uv_vert_map(UvVertMap *vmap)
2098 {
2099         if (vmap) {
2100                 if (vmap->vert) MEM_freeN(vmap->vert);
2101                 if (vmap->buf) MEM_freeN(vmap->buf);
2102                 MEM_freeN(vmap);
2103         }
2104 }
2105
2106 /* Generates a map where the key is the vertex and the value is a list
2107    of faces that use that vertex as a corner. The lists are allocated
2108    from one memory pool. */
2109 void create_vert_face_map(ListBase **map, IndexNode **mem, const MFace *mface, const int totvert, const int totface)
2110 {
2111         int i,j;
2112         IndexNode *node = NULL;
2113         
2114         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2115         (*mem) = MEM_callocN(sizeof(IndexNode) * totface*4, "vert face map mem");
2116         node = *mem;
2117         
2118         /* Find the users */
2119         for(i = 0; i < totface; ++i){
2120                 for(j = 0; j < (mface[i].v4?4:3); ++j, ++node) {
2121                         node->index = i;
2122                         BLI_addtail(&(*map)[((unsigned int*)(&mface[i]))[j]], node);
2123                 }
2124         }
2125 }
2126
2127 /* Generates a map where the key is the vertex and the value is a list
2128    of edges that use that vertex as an endpoint. The lists are allocated
2129    from one memory pool. */
2130 void create_vert_edge_map(ListBase **map, IndexNode **mem, const MEdge *medge, const int totvert, const int totedge)
2131 {
2132         int i, j;
2133         IndexNode *node = NULL;
2134  
2135         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
2136         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
2137         node = *mem;
2138
2139         /* Find the users */
2140         for(i = 0; i < totedge; ++i){
2141                 for(j = 0; j < 2; ++j, ++node) {
2142                         node->index = i;
2143                         BLI_addtail(&(*map)[((unsigned int*)(&medge[i].v1))[j]], node);
2144                 }
2145         }
2146 }
2147
2148 void mesh_loops_to_mface_corners(CustomData *fdata, CustomData *ldata,
2149                                  CustomData *pdata, int lindex[4], int findex,
2150                                  const int polyindex,
2151                                  const int mf_len, /* 3 or 4 */
2152
2153                                  /* cache values to avoid lookups every time */
2154                                  const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2155                                  const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2156                                  const int hasWCol /* CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL) */
2157                                  )
2158 {
2159         MTFace *texface;
2160         MTexPoly *texpoly;
2161         MCol *mcol;
2162         MLoopCol *mloopcol;
2163         MLoopUV *mloopuv;
2164         int i, j;
2165         
2166         for(i=0; i < numTex; i++){
2167                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2168                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2169                 
2170                 texface->tpage = texpoly->tpage;
2171                 texface->flag = texpoly->flag;
2172                 texface->transp = texpoly->transp;
2173                 texface->mode = texpoly->mode;
2174                 texface->tile = texpoly->tile;
2175                 texface->unwrap = texpoly->unwrap;
2176
2177                 for (j=0; j < mf_len; j++) {
2178                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, lindex[j], i);
2179                         texface->uv[j][0] = mloopuv->uv[0];
2180                         texface->uv[j][1] = mloopuv->uv[1];
2181                 }
2182         }
2183
2184         for(i=0; i < numCol; i++){
2185                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2186
2187                 for (j=0; j < mf_len; j++) {
2188                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, lindex[j], i);
2189                         mcol[j].r = mloopcol->r;
2190                         mcol[j].g = mloopcol->g;
2191                         mcol[j].b = mloopcol->b;
2192                         mcol[j].a = mloopcol->a;
2193                 }
2194         }
2195
2196         if (hasWCol) {
2197                 mcol = CustomData_get(fdata,  findex, CD_WEIGHT_MCOL);
2198
2199                 for (j=0; j < mf_len; j++) {
2200                         mloopcol = CustomData_get(ldata, lindex[j], CD_WEIGHT_MLOOPCOL);
2201                         mcol[j].r = mloopcol->r;
2202                         mcol[j].g = mloopcol->g;
2203                         mcol[j].b = mloopcol->b;
2204                         mcol[j].a = mloopcol->a;
2205                 }
2206         }
2207 }
2208
2209 /*
2210   this function recreates a tesselation.
2211   returns number of tesselation faces.
2212  */
2213 int mesh_recalcTesselation(CustomData *fdata,
2214                            CustomData *ldata, CustomData *pdata,
2215                            MVert *mvert, int totface, int UNUSED(totloop),
2216                            int totpoly,
2217                            /* when teseelating to recalcilate normals after
2218                             * we can skip copying here */
2219                            const int do_face_nor_cpy)
2220 {
2221
2222         /* use this to avoid locking pthread for _every_ polygon
2223          * and calling the fill function */
2224
2225 #define USE_TESSFACE_SPEEDUP
2226 #define USE_TESSFACE_QUADS // NEEDS FURTHER TESTING
2227
2228 #define TESSFACE_SCANFILL (1<<0)
2229 #define TESSFACE_IS_QUAD  (1<<1)
2230
2231         MPoly *mp, *mpoly;
2232         MLoop *ml, *mloop;
2233         MFace *mface = NULL, *mf;
2234         BLI_array_declare(mface);
2235         EditVert *v, *lastv, *firstv;
2236         EditFace *f;
2237         int *mface_orig_index = NULL;
2238         BLI_array_declare(mface_orig_index);
2239         int *mface_to_poly_map = NULL;
2240         BLI_array_declare(mface_to_poly_map);
2241         int lindex[4]; /* only ever use 3 in this case */
2242         int *poly_orig_index;
2243         int poly_index, j, mface_index;
2244
2245         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2246         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2247         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2248
2249         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2250         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2251
2252         /* allocate the length of totfaces, avoid many small reallocs,
2253          * if all faces are tri's it will be correct, quads == 2x allocs */
2254         BLI_array_reserve(mface_to_poly_map, totpoly);
2255         BLI_array_reserve(mface, totpoly);
2256
2257         mface_index = 0;
2258         mp = mpoly;
2259         poly_orig_index = CustomData_get_layer(pdata, CD_ORIGINDEX);
2260         for (poly_index = 0; poly_index < totpoly; poly_index++, mp++) {
2261                 if (mp->totloop < 3) {
2262                         /* do nothing */
2263                 }
2264
2265 #ifdef USE_TESSFACE_SPEEDUP
2266
2267 #define ML_TO_MF(i1, i2, i3)                                                  \
2268                 BLI_array_growone(mface_to_poly_map);                                 \
2269                 BLI_array_growone(mface);                                             \
2270                 mface_to_poly_map[mface_index] = poly_index;                          \
2271                 mf= &mface[mface_index];                                              \
2272                 /* set loop indices, transformed to vert indices later */             \
2273                 mf->v1 = mp->loopstart + i1;                                          \
2274                 mf->v2 = mp->loopstart + i2;                                          \
2275                 mf->v3 = mp->loopstart + i3;                                          \
2276                 mf->v4 = 0;                                                           \
2277                 mf->mat_nr = mp->mat_nr;                                              \
2278                 mf->flag = mp->flag;                                                  \
2279                 if (poly_orig_index) {                                                \
2280                         BLI_array_append(mface_orig_index,                                \
2281                                      poly_orig_index[poly_index]);                    \
2282                 }                                                                     \
2283
2284 /* ALMOST IDENTICAL TO DEFINE ABOVE (see EXCEPTION) */
2285 #define ML_TO_MF_QUAD()                                                       \
2286                 BLI_array_growone(mface_to_poly_map);                                 \
2287                 BLI_array_growone(mface);                                             \
2288                 mface_to_poly_map[mface_index] = poly_index;                          \
2289                 mf= &mface[mface_index];                                              \
2290                 /* set loop indices, transformed to vert indices later */             \
2291                 mf->v1 = mp->loopstart + 0; /* EXCEPTION */                           \
2292                 mf->v2 = mp->loopstart + 1; /* EXCEPTION */                           \
2293                 mf->v3 = mp->loopstart + 2; /* EXCEPTION */                           \
2294                 mf->v4 = mp->loopstart + 3; /* EXCEPTION */                           \
2295                 mf->mat_nr = mp->mat_nr;                                              \
2296                 mf->flag = mp->flag;                                                  \
2297                 if (poly_orig_index) {                                                \
2298                         BLI_array_append(mface_orig_index,                                \
2299                                      poly_orig_index[poly_index]);                    \
2300                 }                                                                     \
2301                 mf->edcode |= TESSFACE_IS_QUAD; /* EXCEPTION */                       \
2302
2303
2304                 else if (mp->totloop == 3) {
2305                         ml = mloop + mp->loopstart;
2306                         ML_TO_MF(0, 1, 2)
2307                         mface_index++;
2308                 }
2309                 else if (mp->totloop == 4) {
2310 #ifdef USE_TESSFACE_QUADS
2311                         ml = mloop + mp->loopstart;
2312                         ML_TO_MF_QUAD()
2313                         mface_index++;
2314 #else
2315                         ml = mloop + mp->loopstart;
2316                         ML_TO_MF(0, 1, 2)
2317                         mface_index++;
2318                         ML_TO_MF(0, 2, 3)
2319                         mface_index++;
2320 #endif
2321                 }
2322 #endif /* USE_TESSFACE_SPEEDUP */
2323                 else {
2324                         int totfilltri;
2325
2326                         ml = mloop + mp->loopstart;
2327                         
2328                         BLI_begin_edgefill();
2329                         firstv = NULL;
2330                         lastv = NULL;
2331                         for (j=0; j<mp->totloop; j++, ml++) {
2332                                 v = BLI_addfillvert(mvert[ml->v].co);
2333         
2334                                 v->keyindex = mp->loopstart + j;
2335         
2336                                 if (lastv)
2337                                         BLI_addfilledge(lastv, v);
2338         
2339                                 if (!firstv)
2340                                         firstv = v;
2341                                 lastv = v;
2342                         }
2343                         BLI_addfilledge(lastv, firstv);
2344                         
2345                         totfilltri = BLI_edgefill(2);
2346                         if (totfilltri) {
2347                                 BLI_array_growitems(mface_to_poly_map, totfilltri);
2348                                 BLI_array_growitems(mface, totfilltri);
2349                                 if (poly_orig_index) {
2350                                         BLI_array_growitems(mface_orig_index, totfilltri);
2351                                 }
2352
2353                                 for (f = fillfacebase.first; f; f = f->next, mf++) {
2354                                         mface_to_poly_map[mface_index] = poly_index;
2355                                         mf= &mface[mface_index];
2356
2357                                         /* set loop indices, transformed to vert indices later */
2358                                         mf->v1 = f->v1->keyindex;
2359                                         mf->v2 = f->v2->keyindex;
2360                                         mf->v3 = f->v3->keyindex;
2361                                         mf->v4 = 0;
2362
2363                                         mf->mat_nr = mp->mat_nr;
2364                                         mf->flag = mp->flag;
2365
2366 #ifdef USE_TESSFACE_SPEEDUP
2367                                         mf->edcode |= TESSFACE_SCANFILL; /* tag for sorting loop indicies */
2368 #endif
2369
2370                                         if (poly_orig_index) {
2371                                                 mface_orig_index[mface_index] = poly_orig_index[poly_index];
2372                                         }
2373
2374                                         mface_index++;
2375                                 }
2376                         }
2377         
2378                         BLI_end_edgefill();
2379                 }
2380         }
2381
2382         CustomData_free(fdata, totface);
2383         memset(fdata, 0, sizeof(CustomData));
2384         totface = mface_index;
2385
2386
2387         /* note essential but without this we store over-alloc'd memory in the CustomData layers */
2388         if (LIKELY((MEM_allocN_len(mface) / sizeof(*mface)) != totface)) {
2389                 mface = MEM_reallocN(mface, sizeof(*mface) * totface);
2390                 mface_to_poly_map = MEM_reallocN(mface_to_poly_map, sizeof(*mface_to_poly_map) * totface);
2391                 if (mface_orig_index) {
2392                         mface_orig_index = MEM_reallocN(mface_orig_index, sizeof(*mface_orig_index) * totface);
2393                 }
2394         }
2395
2396         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2397
2398         /* CD_POLYINDEX will contain an array of indices from tessfaces to the polygons
2399          * they are directly tesselated from */
2400         CustomData_add_layer(fdata, CD_POLYINDEX, CD_ASSIGN, mface_to_poly_map, totface);
2401         if (mface_orig_index) {
2402                 /* If polys had a CD_ORIGINDEX layer, then the tesselated faces will get this
2403                  * layer as well, pointing to polys from the original mesh (not the polys
2404                  * that just got tesselated) */
2405                 CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, mface_orig_index, totface);
2406         }
2407
2408         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2409
2410         if (do_face_nor_cpy) {
2411                 /* If polys have a normals layer, copying that to faces can help
2412                  * avoid the need to recalculate normals later */
2413                 if (CustomData_has_layer(pdata, CD_NORMAL)) {
2414                         float (*pnors)[3] = CustomData_get_layer(pdata, CD_NORMAL);
2415                         float (*fnors)[3] = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2416                         for (mface_index = 0; mface_index < totface; mface_index++) {
2417                                 copy_v3_v3(fnors[mface_index], pnors[mface_to_poly_map[mface_index]]);
2418                         }
2419                 }
2420         }
2421
2422         mf = mface;
2423         for (mface_index=0; mface_index < totface; mface_index++, mf++) {
2424
2425 #ifdef USE_TESSFACE_QUADS
2426                 const int mf_len = mf->edcode & TESSFACE_IS_QUAD ? 4 : 3;
2427 #endif
2428
2429 #ifdef USE_TESSFACE_SPEEDUP
2430                 /* skip sorting when not using ngons */
2431                 if (UNLIKELY(mf->edcode & TESSFACE_SCANFILL))
2432 #endif
2433                 {
2434                         /* sort loop indices to ensure winding is correct */
2435                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2436                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2437                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2438
2439                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2440                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2441                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2442                 }
2443
2444                 /* end abusing the edcode */
2445 #if defined(USE_TESSFACE_QUADS) || defined(USE_TESSFACE_SPEEDUP)
2446                 mf->edcode = 0;
2447 #endif
2448
2449
2450                 lindex[0] = mf->v1;
2451                 lindex[1] = mf->v2;
2452                 lindex[2] = mf->v3;
2453 #ifdef USE_TESSFACE_QUADS
2454                 if (mf_len == 4) lindex[3] = mf->v4;
2455 #endif
2456
2457                 /*transform loop indices to vert indices*/
2458                 mf->v1 = mloop[mf->v1].v;
2459                 mf->v2 = mloop[mf->v2].v;
2460                 mf->v3 = mloop[mf->v3].v;
2461 #ifdef USE_TESSFACE_QUADS
2462                 if (mf_len == 4) mf->v4 = mloop[mf->v4].v;
2463 #endif
2464
2465                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2466                                             lindex, mface_index, mface_to_poly_map[mface_index],
2467 #ifdef USE_TESSFACE_QUADS
2468                                             mf_len,
2469 #else
2470                                             3,
2471 #endif
2472                                             numTex, numCol, hasWCol);
2473
2474
2475 #ifdef USE_TESSFACE_QUADS
2476                 test_index_face(mf, fdata, mface_index, mf_len);
2477 #endif
2478
2479         }
2480
2481         return totface;
2482
2483 #undef USE_TESSFACE_SPEEDUP
2484
2485 }
2486
2487
2488 #ifdef USE_BMESH_SAVE_AS_COMPAT
2489
2490 /*
2491  * this function recreates a tesselation.
2492  * returns number of tesselation faces.
2493  */
2494 int mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
2495         struct CustomData *pdata, int totface, int UNUSED(totloop), int totpoly)
2496 {
2497         MLoop *mloop;
2498
2499         int lindex[4];
2500         int i;
2501         int k;
2502
2503         MPoly *mp, *mpoly;
2504         MFace *mface = NULL, *mf;
2505         BLI_array_declare(mface);
2506
2507         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2508         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2509         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2510
2511         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2512         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2513
2514         mp = mpoly;
2515         k = 0;
2516         for (i = 0; i<totpoly; i++, mp++) {
2517                 if (ELEM(mp->totloop, 3, 4)) {
2518                         BLI_array_growone(mface);
2519                         mf = &mface[k];
2520
2521                         mf->mat_nr = mp->mat_nr;
2522                         mf->flag = mp->flag;
2523
2524                         mf->v1 = mp->loopstart + 0;
2525                         mf->v2 = mp->loopstart + 1;
2526                         mf->v3 = mp->loopstart + 2;
2527                         mf->v4 = (mp->totloop == 4) ? (mp->loopstart + 3) : 0;
2528
2529                         /* abuse edcode for temp storage and clear next loop */
2530                         mf->edcode = (char)mp->totloop; /* only ever 3 or 4 */
2531
2532                         k++;
2533                 }
2534         }
2535
2536         CustomData_free(fdata, totface);
2537         memset(fdata, 0, sizeof(CustomData));
2538
2539         totface= k;
2540
2541         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2542
2543         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2544
2545         mp = mpoly;
2546         k = 0;
2547         for (i = 0; i<totpoly; i++, mp++) {
2548                 if (ELEM(mp->totloop, 3, 4)) {
2549                         mf = &mface[k];
2550
2551                         if (mf->edcode == 3) {
2552                                 /*sort loop indices to ensure winding is correct*/
2553                                 /* NO SORT - looks like we can skip this */
2554
2555                                 lindex[0] = mf->v1;
2556                                 lindex[1] = mf->v2;
2557                                 lindex[2] = mf->v3;
2558                                 lindex[3] = 0; /* unused */
2559
2560                                 /*transform loop indices to vert indices*/
2561                                 mf->v1 = mloop[mf->v1].v;
2562                                 mf->v2 = mloop[mf->v2].v;
2563                                 mf->v3 = mloop[mf->v3].v;
2564
2565                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2566                                                             lindex, k, i, 3,
2567                                                             numTex, numCol, hasWCol);
2568                                 test_index_face(mf, fdata, k, 3);
2569                         }
2570                         else {
2571                                 /*sort loop indices to ensure winding is correct*/
2572                                 /* NO SORT - looks like we can skip this */
2573
2574                                 lindex[0] = mf->v1;
2575                                 lindex[1] = mf->v2;
2576                                 lindex[2] = mf->v3;
2577                                 lindex[3] = mf->v4;
2578
2579                                 /*transform loop indices to vert indices*/
2580                                 mf->v1 = mloop[mf->v1].v;
2581                                 mf->v2 = mloop[mf->v2].v;
2582                                 mf->v3 = mloop[mf->v3].v;
2583                                 mf->v4 = mloop[mf->v4].v;
2584
2585                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2586                                                             lindex, k, i, 4,
2587                                                             numTex, numCol, hasWCol);
2588                                 test_index_face(mf, fdata, k, 4);
2589                         }
2590
2591                         mf->edcode= 0;
2592
2593                         k++;
2594                 }
2595         }
2596
2597         return k;
2598 }
2599 #endif /* USE_BMESH_SAVE_AS_COMPAT */
2600
2601 /*
2602  * COMPUTE POLY NORMAL
2603  *
2604  * Computes the normal of a planar 
2605  * polygon See Graphics Gems for 
2606  * computing newell normal.
2607  *
2608 */
2609 static void mesh_calc_ngon_normal(MPoly *mpoly, MLoop *loopstart, 
2610                                   MVert *mvert, float normal[3])
2611 {
2612
2613         MVert *v1, *v2, *v3;
2614         double u[3], v[3], w[3];
2615         double n[3] = {0.0, 0.0, 0.0}, l;
2616         int i;
2617
2618         for(i = 0; i < mpoly->totloop; i++){
2619                 v1 = mvert + loopstart[i].v;
2620                 v2 = mvert + loopstart[(i+1)%mpoly->totloop].v;
2621                 v3 = mvert + loopstart[(i+2)%mpoly->totloop].v;
2622                 
2623                 VECCOPY(u, v1->co);
2624                 VECCOPY(v, v2->co);
2625                 VECCOPY(w, v3->co);
2626
2627                 /*this fixes some weird numerical error*/
2628                 if (i==0) {
2629                         u[0] += 0.0001f;
2630                         u[1] += 0.0001f;
2631                         u[2] += 0.0001f;
2632                 }
2633                 
2634                 /* newell's method
2635                 
2636                 so thats?:
2637                 (a[1] - b[1]) * (a[2] + b[2]);
2638                 a[1]*b[2] - b[1]*a[2] - b[1]*b[2] + a[1]*a[2]
2639
2640                 odd.  half of that is the cross product. . .what's the
2641                 other half?
2642
2643                 also could be like a[1]*(b[2] + a[2]) - b[1]*(a[2] - b[2])
2644                 */
2645
2646                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2647                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2648                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2649         }
2650         
2651         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2652         l = sqrt(l);
2653
2654         if (l == 0.0) {
2655                 normal[0] = 0.0f;
2656                 normal[1] = 0.0f;
2657                 normal[2] = 1.0f;
2658
2659                 return;
2660         } else l = 1.0f / l;
2661
2662         n[0] *= l;
2663         n[1] *= l;
2664         n[2] *= l;
2665         
2666         normal[0] = (float) n[0];
2667         normal[1] = (float) n[1];
2668         normal[2] = (float) n[2];
2669 }
2670
2671 void mesh_calc_poly_normal(MPoly *mpoly, MLoop *loopstart, 
2672                            MVert *mvarray, float no[3])
2673 {
2674         if (mpoly->totloop > 4) {
2675                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, no);
2676         }
2677         else if (mpoly->totloop == 3){
2678                 normal_tri_v3(no,
2679                               mvarray[loopstart[0].v].co,
2680                               mvarray[loopstart[1].v].co,
2681                               mvarray[loopstart[2].v].co
2682                               );
2683         }
2684         else if (mpoly->totloop == 4) {
2685                 normal_quad_v3(no,
2686                                mvarray[loopstart[0].v].co,
2687                                mvarray[loopstart[1].v].co,
2688                                mvarray[loopstart[2].v].co,
2689                                mvarray[loopstart[3].v].co
2690                                );
2691         }
2692         else { /* horrible, two sided face! */
2693                 no[0] = 0.0;
2694                 no[1] = 0.0;
2695                 no[2] = 1.0;
2696         }
2697 }
2698 /* duplicate of function above _but_ takes coords rather then mverts */
2699 static void mesh_calc_ngon_normal_coords(MPoly *mpoly, MLoop *loopstart,
2700                                          const float (*vertex_coords)[3], float normal[3])
2701 {
2702
2703         const float *v1, *v2, *v3;
2704         double u[3], v[3], w[3];
2705         double n[3] = {0.0, 0.0, 0.0}, l;
2706         int i;
2707
2708         for(i = 0; i < mpoly->totloop; i++){
2709                 v1 = (const float *)(vertex_coords + loopstart[i].v);
2710                 v2 = (const float *)(vertex_coords + loopstart[(i+1)%mpoly->totloop].v);
2711                 v3 = (const float *)(vertex_coords + loopstart[(i+2)%mpoly->totloop].v);
2712
2713                 VECCOPY(u, v1);
2714                 VECCOPY(v, v2);
2715                 VECCOPY(w, v3);
2716
2717                 /*this fixes some weird numerical error*/
2718                 if (i==0) {
2719                         u[0] += 0.0001f;
2720                         u[1] += 0.0001f;
2721                         u[2] += 0.0001f;
2722                 }
2723
2724                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2725                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2726                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2727         }
2728
2729         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2730         l = sqrt(l);
2731
2732         if (l == 0.0) {
2733                 normal[0] = 0.0f;
2734                 normal[1] = 0.0f;
2735                 normal[2] = 1.0f;
2736
2737                 return;
2738         } else l = 1.0f / l;
2739
2740         n[0] *= l;
2741         n[1] *= l;
2742         n[2] *= l;
2743
2744         normal[0] = (float) n[0];
2745         normal[1] = (float) n[1];
2746         normal[2] = (float) n[2];
2747 }
2748
2749 void mesh_calc_poly_normal_coords(MPoly *mpoly, MLoop *loopstart,
2750                            const float (*vertex_coords)[3], float no[3])
2751 {
2752         if (mpoly->totloop > 4) {
2753                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, no);
2754         }
2755         else if (mpoly->totloop == 3){
2756                 normal_tri_v3(no,
2757                               vertex_coords[loopstart[0].v],
2758                               vertex_coords[loopstart[1].v],
2759                               vertex_coords[loopstart[2].v]
2760                               );
2761         }
2762         else if (mpoly->totloop == 4) {
2763                 normal_quad_v3(no,
2764                                vertex_coords[loopstart[0].v],
2765                                vertex_coords[loopstart[1].v],
2766                                vertex_coords[loopstart[2].v],
2767                                vertex_coords[loopstart[3].v]
2768                                );
2769         }
2770         else { /* horrible, two sided face! */
2771                 no[0] = 0.0;
2772                 no[1] = 0.0;
2773                 no[2] = 1.0;
2774         }
2775 }
2776
2777 static void mesh_calc_ngon_center(MPoly *mpoly, MLoop *loopstart,
2778                                   MVert *mvert, float cent[3])
2779 {
2780         const float w= 1.0f / (float)mpoly->totloop;
2781         int i;
2782
2783         zero_v3(cent);
2784
2785         for (i = 0; i < mpoly->totloop; i++) {
2786                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2787         }
2788 }
2789
2790 void mesh_calc_poly_center(MPoly *mpoly, MLoop *loopstart,
2791                            MVert *mvarray, float cent[3])
2792 {
2793         if (mpoly->totloop == 3) {
2794                 cent_tri_v3(cent,
2795                             mvarray[loopstart[0].v].co,
2796                             mvarray[loopstart[1].v].co,
2797                             mvarray[loopstart[2].v].co
2798                             );
2799         }
2800         else if (mpoly->totloop == 4) {
2801                 cent_quad_v3(cent,
2802                              mvarray[loopstart[0].v].co,
2803                              mvarray[loopstart[1].v].co,
2804                              mvarray[loopstart[2].v].co,
2805                              mvarray[loopstart[3].v].co
2806                              );
2807         }
2808         else {
2809                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, cent);
2810         }
2811 }
2812
2813 /* note, passing polynormal is only a speedup so we can skip calculating it */
2814 float mesh_calc_poly_area(MPoly *mpoly, MLoop *loopstart,
2815                           MVert *mvarray, float polynormal[3])
2816 {
2817         if (mpoly->totloop == 3) {
2818                 return area_tri_v3(mvarray[loopstart[0].v].co,
2819                                    mvarray[loopstart[1].v].co,
2820                                    mvarray[loopstart[2].v].co
2821                                    );
2822         }
2823         else if (mpoly->totloop == 4) {
2824                 return area_quad_v3(mvarray[loopstart[0].v].co,
2825                                     mvarray[loopstart[1].v].co,
2826                                     mvarray[loopstart[2].v].co,
2827                                     mvarray[loopstart[3].v].co
2828                                     );
2829         }
2830         else {
2831                 int i;
2832                 float area, polynorm_local[3], (*vertexcos)[3];
2833                 float *no= polynormal ? polynormal : polynorm_local;
2834                 BLI_array_fixedstack_declare(vertexcos, BM_NGON_STACK_SIZE, mpoly->totloop, __func__);
2835
2836                 /* pack vertex cos into an array for area_poly_v3 */
2837                 for (i = 0; i < mpoly->totloop; i++) {
2838                         copy_v3_v3(vertexcos[i], mvarray[(loopstart++)->v].co);
2839                 }
2840
2841                 /* need normal for area_poly_v3 as well */
2842                 if (polynormal == NULL) {
2843                         mesh_calc_poly_normal(mpoly, loopstart, mvarray, no);
2844                 }
2845
2846                 /* finally calculate the area */
2847                 area = area_poly_v3(mpoly->totloop, vertexcos, no);
2848
2849                 BLI_array_fixedstack_free(vertexcos);
2850
2851                 return area;
2852         }
2853 }
2854
2855 /* basic vertex data functions */
2856 int minmax_mesh(Mesh *me, float min[3], float max[3])
2857 {
2858         int i= me->totvert;
2859         MVert *mvert;
2860         for(mvert= me->mvert; i--; mvert++) {
2861                 DO_MINMAX(mvert->co, min, max);
2862         }
2863         
2864         return (me->totvert != 0);
2865 }
2866
2867 int mesh_center_median(Mesh *me, float cent[3])
2868 {
2869         int i= me->totvert;
2870         MVert *mvert;
2871         zero_v3(cent);
2872         for(mvert= me->mvert; i--; mvert++) {
2873                 add_v3_v3(cent, mvert->co);
2874         }
2875         /* otherwise we get NAN for 0 verts */
2876         if(me->totvert) {
2877                 mul_v3_fl(cent, 1.0f/(float)me->totvert);
2878         }
2879
2880         return (me->totvert != 0);
2881 }
2882
2883 int mesh_center_bounds(Mesh *me, float cent[3])
2884 {
2885         float min[3], max[3];
2886         INIT_MINMAX(min, max);
2887         if(minmax_mesh(me, min, max)) {
2888                 mid_v3_v3v3(cent, min, max);
2889                 return 1;
2890         }
2891
2892         return 0;
2893 }
2894
2895 void mesh_translate(Mesh *me, float offset[3], int do_keys)
2896 {
2897         int i= me->totvert;
2898         MVert *mvert;
2899         for(mvert= me->mvert; i--; mvert++) {
2900                 add_v3_v3(mvert->co, offset);
2901         }
2902         
2903         if (do_keys && me->key) {
2904                 KeyBlock *kb;
2905                 for (kb=me->key->block.first; kb; kb=kb->next) {
2906                         float *fp= kb->data;
2907                         for (i= kb->totelem; i--; fp+=3) {
2908                                 add_v3_v3(fp, offset);
2909                         }
2910                 }
2911         }
2912 }
2913
2914
2915 void BKE_mesh_ensure_navmesh(Mesh *me)
2916 {
2917         if (!CustomData_has_layer(&me->fdata, CD_RECAST)) {
2918                 int i;
2919                 int numFaces = me->totface;
2920                 int* recastData;
2921                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_CALLOC, NULL, numFaces, "recastData");
2922                 recastData = (int*)CustomData_get_layer(&me->fdata, CD_RECAST);
2923                 for (i=0; i<numFaces; i++) {
2924                         recastData[i] = i+1;
2925                 }
2926                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_REFERENCE, recastData, numFaces, "recastData");
2927         }
2928 }