svn merge ^/trunk/blender -r43530:43554
[blender.git] / source / blender / blenkernel / intern / mesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh.c
27  *  \ingroup bke
28  */
29
30
31 #include <stdlib.h>
32 #include <string.h>
33 #include <stdio.h>
34 #include <math.h>
35
36 #include "MEM_guardedalloc.h"
37
38 #include "DNA_scene_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_key_types.h"
42 #include "DNA_meshdata_types.h"
43 #include "DNA_ipo_types.h"
44 #include "DNA_customdata_types.h"
45
46 #include "BLI_utildefines.h"
47 #include "BLI_blenlib.h"
48 #include "BLI_bpath.h"
49 #include "BLI_editVert.h"
50 #include "BLI_math.h"
51 #include "BLI_edgehash.h"
52 #include "BLI_scanfill.h"
53
54 #include "BKE_animsys.h"
55 #include "BKE_main.h"
56 #include "BKE_customdata.h"
57 #include "BKE_DerivedMesh.h"
58 #include "BKE_global.h"
59 #include "BKE_mesh.h"
60 #include "BKE_displist.h"
61 #include "BKE_library.h"
62 #include "BKE_material.h"
63 #include "BKE_modifier.h"
64 #include "BKE_multires.h"
65 #include "BKE_key.h"
66 /* these 2 are only used by conversion functions */
67 #include "BKE_curve.h"
68 /* -- */
69 #include "BKE_object.h"
70 #include "BKE_tessmesh.h"
71 #include "BLI_edgehash.h"
72
73 #include "BLI_blenlib.h"
74 #include "BLI_editVert.h"
75 #include "BLI_math.h"
76 #include "BLI_cellalloc.h"
77 #include "BLI_array.h"
78 #include "BLI_edgehash.h"
79
80 #include "bmesh.h"
81
82 enum {
83         MESHCMP_DVERT_WEIGHTMISMATCH = 1,
84         MESHCMP_DVERT_GROUPMISMATCH,
85         MESHCMP_DVERT_TOTGROUPMISMATCH,
86         MESHCMP_LOOPCOLMISMATCH,
87         MESHCMP_LOOPUVMISMATCH,
88         MESHCMP_LOOPMISMATCH,
89         MESHCMP_POLYVERTMISMATCH,
90         MESHCMP_POLYMISMATCH,
91         MESHCMP_EDGEUNKNOWN,
92         MESHCMP_VERTCOMISMATCH,
93         MESHCMP_CDLAYERS_MISMATCH,
94 };
95
96 static const char *cmpcode_to_str(int code)
97 {
98         switch (code) {
99                 case MESHCMP_DVERT_WEIGHTMISMATCH:
100                         return "Vertex Weight Mismatch";
101                 case MESHCMP_DVERT_GROUPMISMATCH:
102                                         return "Vertex Group Mismatch";
103                 case MESHCMP_DVERT_TOTGROUPMISMATCH:
104                                         return "Vertex Doesn't Belong To Same Number Of Groups";
105                 case MESHCMP_LOOPCOLMISMATCH:
106                                         return "Vertex Color Mismatch";
107                 case MESHCMP_LOOPUVMISMATCH:
108                                         return "UV Mismatch";
109                 case MESHCMP_LOOPMISMATCH:
110                                         return "Loop Mismatch";
111                 case MESHCMP_POLYVERTMISMATCH:
112                                         return "Loop Vert Mismatch In Poly Test";
113                 case MESHCMP_POLYMISMATCH:
114                                         return "Loop Vert Mismatch";
115                 case MESHCMP_EDGEUNKNOWN:
116                                         return "Edge Mismatch";
117                 case MESHCMP_VERTCOMISMATCH:
118                                         return "Vertex Coordinate Mismatch";
119                 case MESHCMP_CDLAYERS_MISMATCH:
120                                         return "CustomData Layer Count Mismatch";
121                 default:
122                                 return "Mesh Comparison Code Unknown";
123                 }
124 }
125
126 /*thresh is threshold for comparing vertices, uvs, vertex colors,
127   weights, etc.*/
128 static int customdata_compare(CustomData *c1, CustomData *c2, Mesh *m1, Mesh *m2, float thresh)
129 {
130         CustomDataLayer *l1, *l2;
131         int i, i1=0, i2=0, tot, j;
132         
133         for (i=0; i<c1->totlayer; i++) {
134                 if (ELEM7(c1->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
135                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
136                         i1++;
137         }
138         
139         for (i=0; i<c2->totlayer; i++) {
140                 if (ELEM7(c2->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
141                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
142                         i2++;
143         }
144         
145         if (i1 != i2)
146                 return MESHCMP_CDLAYERS_MISMATCH;
147         
148         l1 = c1->layers; l2 = c2->layers;
149         tot = i1;
150         i1 = 0; i2 = 0; 
151         for (i=0; i < tot; i++) {
152                 while (i1 < c1->totlayer && !ELEM7(l1->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
153                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
154                         i1++, l1++;
155
156                 while (i2 < c2->totlayer && !ELEM7(l2->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
157                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
158                         i2++, l2++;
159                 
160                 if (l1->type == CD_MVERT) {
161                         MVert *v1 = l1->data;
162                         MVert *v2 = l2->data;
163                         int vtot = m1->totvert;
164                         
165                         for (j=0; j<vtot; j++, v1++, v2++) {
166                                 if (len_v3v3(v1->co, v2->co) > thresh)
167                                         return MESHCMP_VERTCOMISMATCH;
168                                 /*I don't care about normals, let's just do coodinates*/
169                         }
170                 }
171                 
172                 /*we're order-agnostic for edges here*/
173                 if (l1->type == CD_MEDGE) {
174                         MEdge *e1 = l1->data;
175                         MEdge *e2 = l2->data;
176                         EdgeHash *eh = BLI_edgehash_new();
177                         int etot = m1->totedge;
178                 
179                         for (j=0; j<etot; j++, e1++) {
180                                 BLI_edgehash_insert(eh, e1->v1, e1->v2, e1);
181                         }
182                         
183                         for (j=0; j<etot; j++, e2++) {
184                                 if (!BLI_edgehash_lookup(eh, e2->v1, e2->v2))
185                                         return MESHCMP_EDGEUNKNOWN;
186                         }
187                         BLI_edgehash_free(eh, NULL);
188                 }
189                 
190                 if (l1->type == CD_MPOLY) {
191                         MPoly *p1 = l1->data;
192                         MPoly *p2 = l2->data;
193                         int ptot = m1->totpoly;
194                 
195                         for (j=0; j<ptot; j++, p1++, p2++) {
196                                 MLoop *lp1, *lp2;
197                                 int k;
198                                 
199                                 if (p1->totloop != p2->totloop)
200                                         return MESHCMP_POLYMISMATCH;
201                                 
202                                 lp1 = m1->mloop + p1->loopstart;
203                                 lp2 = m2->mloop + p2->loopstart;
204                                 
205                                 for (k=0; k<p1->totloop; k++, lp1++, lp2++) {
206                                         if (lp1->v != lp2->v)
207                                                 return MESHCMP_POLYVERTMISMATCH;
208                                 }
209                         }
210                 }
211                 if (l1->type == CD_MLOOP) {
212                         MLoop *lp1 = l1->data;
213                         MLoop *lp2 = l2->data;
214                         int ltot = m1->totloop;
215                 
216                         for (j=0; j<ltot; j++, lp1++, lp2++) {
217                                 if (lp1->v != lp2->v)
218                                         return MESHCMP_LOOPMISMATCH;
219                         }
220                 }
221                 if (l1->type == CD_MLOOPUV) {
222                         MLoopUV *lp1 = l1->data;
223                         MLoopUV *lp2 = l2->data;
224                         int ltot = m1->totloop;
225                 
226                         for (j=0; j<ltot; j++, lp1++, lp2++) {
227                                 if (len_v2v2(lp1->uv, lp2->uv) > thresh)
228                                         return MESHCMP_LOOPUVMISMATCH;
229                         }
230                 }
231                 
232                 if (l1->type == CD_MLOOPCOL) {
233                         MLoopCol *lp1 = l1->data;
234                         MLoopCol *lp2 = l2->data;
235                         int ltot = m1->totloop;
236                 
237                         for (j=0; j<ltot; j++, lp1++, lp2++) {
238                                 if (ABS(lp1->r - lp2->r) > thresh || 
239                                     ABS(lp1->g - lp2->g) > thresh || 
240                                     ABS(lp1->b - lp2->b) > thresh || 
241                                     ABS(lp1->a - lp2->a) > thresh)
242                                 {
243                                         return MESHCMP_LOOPCOLMISMATCH;
244                                 }
245                         }
246                 }
247
248                 if (l1->type == CD_MDEFORMVERT) {
249                         MDeformVert *dv1 = l1->data;
250                         MDeformVert *dv2 = l2->data;
251                         int dvtot = m1->totvert;
252                 
253                         for (j=0; j<dvtot; j++, dv1++, dv2++) {
254                                 int k;
255                                 MDeformWeight *dw1 = dv1->dw, *dw2=dv2->dw;
256                                 
257                                 if (dv1->totweight != dv2->totweight)
258                                         return MESHCMP_DVERT_TOTGROUPMISMATCH;
259                                 
260                                 for (k=0; k<dv1->totweight; k++, dw1++, dw2++) {
261                                         if (dw1->def_nr != dw2->def_nr)
262                                                 return MESHCMP_DVERT_GROUPMISMATCH;
263                                         if (ABS(dw1->weight - dw2->weight) > thresh)
264                                                 return MESHCMP_DVERT_WEIGHTMISMATCH;
265                                 }
266                         }
267                 }
268         }
269         
270         return 0;
271 }
272
273 /*used for testing.  returns an error string the two meshes don't match*/
274 const char *mesh_cmp(Mesh *me1, Mesh *me2, float thresh)
275 {
276         int c;
277         
278         if (!me1 || !me2)
279                 return "Requires two input meshes";
280         
281         if (me1->totvert != me2->totvert) 
282                 return "Number of verts don't match";
283         
284         if (me1->totedge != me2->totedge)
285                 return "Number of edges don't match";
286         
287         if (me1->totpoly != me2->totpoly)
288                 return "Number of faces don't match";
289                                 
290         if (me1->totloop !=me2->totloop)
291                 return "Number of loops don't match";
292         
293         if ((c = customdata_compare(&me1->vdata, &me2->vdata, me1, me2, thresh)))
294                 return cmpcode_to_str(c);
295
296         if ((c = customdata_compare(&me1->edata, &me2->edata, me1, me2, thresh)))
297                 return cmpcode_to_str(c);
298
299         if ((c = customdata_compare(&me1->ldata, &me2->ldata, me1, me2, thresh)))
300                 return cmpcode_to_str(c);
301
302         if ((c = customdata_compare(&me1->pdata, &me2->pdata, me1, me2, thresh)))
303                 return cmpcode_to_str(c);
304         
305         return NULL;
306 }
307
308 static void mesh_ensure_tesselation_customdata(Mesh *me)
309 {
310         const int tottex_original = CustomData_number_of_layers(&me->pdata, CD_MTEXPOLY);
311         const int totcol_original = CustomData_number_of_layers(&me->ldata, CD_MLOOPCOL);
312
313         const int tottex_tessface = CustomData_number_of_layers(&me->fdata, CD_MTFACE);
314         const int totcol_tessface = CustomData_number_of_layers(&me->fdata, CD_MCOL);
315
316         if (tottex_tessface != tottex_original ||
317             totcol_tessface != totcol_original )
318         {
319                 CustomData_free(&me->fdata, me->totface);
320                 
321                 me->mface = NULL;
322                 me->mtface = NULL;
323                 me->mcol = NULL;
324                 me->totface = 0;
325
326                 memset(&me->fdata, 0, sizeof(&me->fdata));
327
328                 CustomData_from_bmeshpoly(&me->fdata, &me->pdata, &me->ldata, me->totface);
329
330                 /* note: this warning may be un-called for if we are inirializing the mesh for the
331                  * first time from bmesh, rather then giving a warning about this we could be smarter
332                  * and check if there was any data to begin with, for now just print the warning with
333                  * some info to help troubleshoot whats going on - campbell */
334                 printf("%s: warning! Tesselation uvs or vcol data got out of sync, "
335                        "had to reset!\n    CD_MTFACE: %d != CD_MTEXPOLY: %d || CD_MCOL: %d != CD_MLOOPCOL: %d\n",
336                        __func__, tottex_tessface, tottex_original, totcol_tessface, totcol_original);
337         }
338 }
339
340 /* this ensures grouped customdata (e.g. mtexpoly and mloopuv and mtface, or
341  * mloopcol and mcol) have the same relative active/render/clone/mask indices.
342  *
343  * note that for undo mesh data we want to skip 'ensure_tess_cd' call since
344  * we dont want to store memory for tessface when its only used for older
345  * versions of the mesh. - campbell*/
346 static void mesh_update_linked_customdata(Mesh *me, const short do_ensure_tess_cd)
347 {
348         if (me->edit_btmesh)
349                 BMEdit_UpdateLinkedCustomData(me->edit_btmesh);
350
351         if (do_ensure_tess_cd) {
352                 mesh_ensure_tesselation_customdata(me);
353         }
354
355         CustomData_bmesh_update_active_layers(&me->fdata, &me->pdata, &me->ldata);
356 }
357
358 void mesh_update_customdata_pointers(Mesh *me, const short do_ensure_tess_cd)
359 {
360         mesh_update_linked_customdata(me, do_ensure_tess_cd);
361
362         me->mvert = CustomData_get_layer(&me->vdata, CD_MVERT);
363         me->dvert = CustomData_get_layer(&me->vdata, CD_MDEFORMVERT);
364         me->msticky = CustomData_get_layer(&me->vdata, CD_MSTICKY);
365
366         me->medge = CustomData_get_layer(&me->edata, CD_MEDGE);
367
368         me->mface = CustomData_get_layer(&me->fdata, CD_MFACE);
369         me->mcol = CustomData_get_layer(&me->fdata, CD_MCOL);
370         me->mtface = CustomData_get_layer(&me->fdata, CD_MTFACE);
371         
372         me->mpoly = CustomData_get_layer(&me->pdata, CD_MPOLY);
373         me->mloop = CustomData_get_layer(&me->ldata, CD_MLOOP);
374
375         me->mtpoly = CustomData_get_layer(&me->pdata, CD_MTEXPOLY);
376         me->mloopcol = CustomData_get_layer(&me->ldata, CD_MLOOPCOL);
377         me->mloopuv = CustomData_get_layer(&me->ldata, CD_MLOOPUV);
378 }
379
380 /* Note: unlinking is called when me->id.us is 0, question remains how
381  * much unlinking of Library data in Mesh should be done... probably
382  * we need a more generic method, like the expand() functions in
383  * readfile.c */
384
385 void unlink_mesh(Mesh *me)
386 {
387         int a;
388         
389         if(me==NULL) return;
390         
391         for(a=0; a<me->totcol; a++) {
392                 if(me->mat[a]) me->mat[a]->id.us--;
393                 me->mat[a]= NULL;
394         }
395
396         if(me->key) {
397                 me->key->id.us--;
398         }
399         me->key= NULL;
400         
401         if(me->texcomesh) me->texcomesh= NULL;
402 }
403
404 /* do not free mesh itself */
405 void free_mesh(Mesh *me, int unlink)
406 {
407         if (unlink)
408                 unlink_mesh(me);
409
410         CustomData_free(&me->vdata, me->totvert);
411         CustomData_free(&me->edata, me->totedge);
412         CustomData_free(&me->fdata, me->totface);
413         CustomData_free(&me->ldata, me->totloop);
414         CustomData_free(&me->pdata, me->totpoly);
415
416         if(me->adt) {
417                 BKE_free_animdata(&me->id);
418                 me->adt= NULL;
419         }
420         
421         if(me->mat) MEM_freeN(me->mat);
422         
423         if(me->bb) MEM_freeN(me->bb);
424         if(me->mselect) MEM_freeN(me->mselect);
425         if(me->edit_btmesh) MEM_freeN(me->edit_btmesh);
426 }
427
428 void copy_dverts(MDeformVert *dst, MDeformVert *src, int copycount)
429 {
430         /* Assumes dst is already set up */
431         int i;
432
433         if (!src || !dst)
434                 return;
435
436         memcpy (dst, src, copycount * sizeof(MDeformVert));
437         
438         for (i=0; i<copycount; i++){
439                 if (src[i].dw){
440                         dst[i].dw = BLI_cellalloc_calloc (sizeof(MDeformWeight)*src[i].totweight, "copy_deformWeight");
441                         memcpy (dst[i].dw, src[i].dw, sizeof (MDeformWeight)*src[i].totweight);
442                 }
443         }
444
445 }
446
447 void free_dverts(MDeformVert *dvert, int totvert)
448 {
449         /* Instead of freeing the verts directly,
450         call this function to delete any special
451         vert data */
452         int     i;
453
454         if (!dvert)
455                 return;
456
457         /* Free any special data from the verts */
458         for (i=0; i<totvert; i++){
459                 if (dvert[i].dw) BLI_cellalloc_free (dvert[i].dw);
460         }
461         MEM_freeN (dvert);
462 }
463
464 Mesh *add_mesh(const char *name)
465 {
466         Mesh *me;
467         
468         me= alloc_libblock(&G.main->mesh, ID_ME, name);
469         
470         me->size[0]= me->size[1]= me->size[2]= 1.0;
471         me->smoothresh= 30;
472         me->texflag= AUTOSPACE;
473         me->flag= ME_TWOSIDED;
474         me->bb= unit_boundbox();
475         me->drawflag= ME_DRAWEDGES|ME_DRAWFACES|ME_DRAWCREASES;
476         
477         return me;
478 }
479
480 Mesh *copy_mesh(Mesh *me)
481 {
482         Mesh *men;
483         MTFace *tface;
484         MTexPoly *txface;
485         int a, i;
486         
487         men= copy_libblock(&me->id);
488         
489         men->mat= MEM_dupallocN(me->mat);
490         for(a=0; a<men->totcol; a++) {
491                 id_us_plus((ID *)men->mat[a]);
492         }
493         id_us_plus((ID *)men->texcomesh);
494
495         CustomData_copy(&me->vdata, &men->vdata, CD_MASK_MESH, CD_DUPLICATE, men->totvert);
496         CustomData_copy(&me->edata, &men->edata, CD_MASK_MESH, CD_DUPLICATE, men->totedge);
497         CustomData_copy(&me->fdata, &men->fdata, CD_MASK_MESH, CD_DUPLICATE, men->totface);
498         CustomData_copy(&me->ldata, &men->ldata, CD_MASK_MESH, CD_DUPLICATE, men->totloop);
499         CustomData_copy(&me->pdata, &men->pdata, CD_MASK_MESH, CD_DUPLICATE, men->totpoly);
500         mesh_update_customdata_pointers(men, TRUE);
501
502         /* ensure indirect linked data becomes lib-extern */
503         for(i=0; i<me->fdata.totlayer; i++) {
504                 if(me->fdata.layers[i].type == CD_MTFACE) {
505                         tface= (MTFace*)me->fdata.layers[i].data;
506
507                         for(a=0; a<me->totface; a++, tface++)
508                                 if(tface->tpage)
509                                         id_lib_extern((ID*)tface->tpage);
510                 }
511         }
512         
513         for(i=0; i<me->pdata.totlayer; i++) {
514                 if(me->pdata.layers[i].type == CD_MTEXPOLY) {
515                         txface= (MTexPoly*)me->pdata.layers[i].data;
516
517                         for(a=0; a<me->totpoly; a++, txface++)
518                                 if(txface->tpage)
519                                         id_lib_extern((ID*)txface->tpage);
520                 }
521         }
522
523         men->mselect= NULL;
524         men->edit_btmesh= NULL;
525
526         men->bb= MEM_dupallocN(men->bb);
527         
528         men->key= copy_key(me->key);
529         if(men->key) men->key->from= (ID *)men;
530
531         return men;
532 }
533
534 BMesh *BKE_mesh_to_bmesh(Mesh *me, Object *ob)
535 {
536         BMesh *bm;
537         int allocsize[4] = {512,512,2048,512};
538
539         bm = BM_Make_Mesh(ob, allocsize);
540
541         BMO_CallOpf(bm, "mesh_to_bmesh mesh=%p object=%p set_shapekey=%i", me, ob, 1);
542
543         return bm;
544 }
545
546 static void expand_local_mesh(Mesh *me)
547 {
548         id_lib_extern((ID *)me->texcomesh);
549
550         if(me->mtface) {
551                 int a, i;
552
553                 for(i=0; i<me->pdata.totlayer; i++) {
554                         if(me->pdata.layers[i].type == CD_MTEXPOLY) {
555                                 MTexPoly *txface= (MTexPoly*)me->fdata.layers[i].data;
556
557                                 for(a=0; a<me->totpoly; a++, txface++) {
558                                         /* special case: ima always local immediately */
559                                         if(txface->tpage) {
560                                                 if(txface->tpage) {
561                                                         id_lib_extern((ID *)txface->tpage);
562                                                 }
563                                         }
564                                 }
565                         }
566                 }
567
568                 for(i=0; i<me->fdata.totlayer; i++) {
569                         if(me->fdata.layers[i].type == CD_MTFACE) {
570                                 MTFace *tface= (MTFace*)me->fdata.layers[i].data;
571
572                                 for(a=0; a<me->totface; a++, tface++) {
573                                         /* special case: ima always local immediately */
574                                         if(tface->tpage) {
575                                                 if(tface->tpage) {
576                                                         id_lib_extern((ID *)tface->tpage);
577                                                 }
578                                         }
579                                 }
580                         }
581                 }
582         }
583
584         if(me->mat) {
585                 extern_local_matarar(me->mat, me->totcol);
586         }
587 }
588
589 void make_local_mesh(Mesh *me)
590 {
591         Main *bmain= G.main;
592         Object *ob;
593         int is_local= FALSE, is_lib= FALSE;
594
595         /* - only lib users: do nothing
596          * - only local users: set flag
597          * - mixed: make copy
598          */
599
600         if(me->id.lib==NULL) return;
601         if(me->id.us==1) {
602                 id_clear_lib_data(bmain, &me->id);
603                 expand_local_mesh(me);
604                 return;
605         }
606
607         for(ob= bmain->object.first; ob && ELEM(0, is_lib, is_local); ob= ob->id.next) {
608                 if(me == ob->data) {
609                         if(ob->id.lib) is_lib= TRUE;
610                         else is_local= TRUE;
611                 }
612         }
613
614         if(is_local && is_lib == FALSE) {
615                 id_clear_lib_data(bmain, &me->id);
616                 expand_local_mesh(me);
617         }
618         else if(is_local && is_lib) {
619                 Mesh *me_new= copy_mesh(me);
620                 me_new->id.us= 0;
621
622
623                 /* Remap paths of new ID using old library as base. */
624                 BKE_id_lib_local_paths(bmain, me->id.lib, &me_new->id);
625
626                 for(ob= bmain->object.first; ob; ob= ob->id.next) {
627                         if(me == ob->data) {
628                                 if(ob->id.lib==NULL) {
629                                         set_mesh(ob, me_new);
630                                 }
631                         }
632                 }
633         }
634 }
635
636 void boundbox_mesh(Mesh *me, float *loc, float *size)
637 {
638         BoundBox *bb;
639         float min[3], max[3];
640         float mloc[3], msize[3];
641         
642         if(me->bb==NULL) me->bb= MEM_callocN(sizeof(BoundBox), "boundbox");
643         bb= me->bb;
644
645         if (!loc) loc= mloc;
646         if (!size) size= msize;
647         
648         INIT_MINMAX(min, max);
649         if(!minmax_mesh(me, min, max)) {
650                 min[0] = min[1] = min[2] = -1.0f;
651                 max[0] = max[1] = max[2] = 1.0f;
652         }
653
654         mid_v3_v3v3(loc, min, max);
655                 
656         size[0]= (max[0]-min[0])/2.0f;
657         size[1]= (max[1]-min[1])/2.0f;
658         size[2]= (max[2]-min[2])/2.0f;
659         
660         boundbox_set_from_min_max(bb, min, max);
661 }
662
663 void tex_space_mesh(Mesh *me)
664 {
665         float loc[3], size[3];
666         int a;
667
668         boundbox_mesh(me, loc, size);
669
670         if(me->texflag & AUTOSPACE) {
671                 for (a=0; a<3; a++) {
672                         if(size[a]==0.0f) size[a]= 1.0f;
673                         else if(size[a]>0.0f && size[a]<0.00001f) size[a]= 0.00001f;
674                         else if(size[a]<0.0f && size[a]> -0.00001f) size[a]= -0.00001f;
675                 }
676
677                 copy_v3_v3(me->loc, loc);
678                 copy_v3_v3(me->size, size);
679                 zero_v3(me->rot);
680         }
681 }
682
683 BoundBox *mesh_get_bb(Object *ob)
684 {
685         Mesh *me= ob->data;
686
687         if(ob->bb)
688                 return ob->bb;
689
690         if (!me->bb)
691                 tex_space_mesh(me);
692
693         return me->bb;
694 }
695
696 void mesh_get_texspace(Mesh *me, float *loc_r, float *rot_r, float *size_r)
697 {
698         if (!me->bb) {
699                 tex_space_mesh(me);
700         }
701
702         if (loc_r) copy_v3_v3(loc_r, me->loc);
703         if (rot_r) copy_v3_v3(rot_r, me->rot);
704         if (size_r) copy_v3_v3(size_r, me->size);
705 }
706
707 float *get_mesh_orco_verts(Object *ob)
708 {
709         Mesh *me = ob->data;
710         MVert *mvert = NULL;
711         Mesh *tme = me->texcomesh?me->texcomesh:me;
712         int a, totvert;
713         float (*vcos)[3] = NULL;
714
715         /* Get appropriate vertex coordinates */
716         vcos = MEM_callocN(sizeof(*vcos)*me->totvert, "orco mesh");
717         mvert = tme->mvert;
718         totvert = MIN2(tme->totvert, me->totvert);
719
720         for(a=0; a<totvert; a++, mvert++) {
721                 copy_v3_v3(vcos[a], mvert->co);
722         }
723
724         return (float*)vcos;
725 }
726
727 void transform_mesh_orco_verts(Mesh *me, float (*orco)[3], int totvert, int invert)
728 {
729         float loc[3], size[3];
730         int a;
731
732         mesh_get_texspace(me->texcomesh?me->texcomesh:me, loc, NULL, size);
733
734         if(invert) {
735                 for(a=0; a<totvert; a++) {
736                         float *co = orco[a];
737                         madd_v3_v3v3v3(co, loc, co, size);
738                 }
739         }
740         else {
741                 for(a=0; a<totvert; a++) {
742                         float *co = orco[a];
743                         co[0] = (co[0]-loc[0])/size[0];
744                         co[1] = (co[1]-loc[1])/size[1];
745                         co[2] = (co[2]-loc[2])/size[2];
746                 }
747         }
748 }
749
750 /* rotates the vertices of a face in case v[2] or v[3] (vertex index) is = 0.
751    this is necessary to make the if(mface->v4) check for quads work */
752 int test_index_face(MFace *mface, CustomData *fdata, int mfindex, int nr)
753 {
754         /* first test if the face is legal */
755         if((mface->v3 || nr==4) && mface->v3==mface->v4) {
756                 mface->v4= 0;
757                 nr--;
758         }
759         if((mface->v2 || mface->v4) && mface->v2==mface->v3) {
760                 mface->v3= mface->v4;
761                 mface->v4= 0;
762                 nr--;
763         }
764         if(mface->v1==mface->v2) {
765                 mface->v2= mface->v3;
766                 mface->v3= mface->v4;
767                 mface->v4= 0;
768                 nr--;
769         }
770
771         /* check corrupt cases, bowtie geometry, cant handle these because edge data wont exist so just return 0 */
772         if(nr==3) {
773                 if(
774                 /* real edges */
775                         mface->v1==mface->v2 ||
776                         mface->v2==mface->v3 ||
777                         mface->v3==mface->v1
778                 ) {
779                         return 0;
780                 }
781         }
782         else if(nr==4) {
783                 if(
784                 /* real edges */
785                         mface->v1==mface->v2 ||
786                         mface->v2==mface->v3 ||
787                         mface->v3==mface->v4 ||
788                         mface->v4==mface->v1 ||
789                 /* across the face */
790                         mface->v1==mface->v3 ||
791                         mface->v2==mface->v4
792                 ) {
793                         return 0;
794                 }
795         }
796
797         /* prevent a zero at wrong index location */
798         if(nr==3) {
799                 if(mface->v3==0) {
800                         static int corner_indices[4] = {1, 2, 0, 3};
801
802                         SWAP(unsigned int, mface->v1, mface->v2);
803                         SWAP(unsigned int, mface->v2, mface->v3);
804
805                         if(fdata)
806                                 CustomData_swap(fdata, mfindex, corner_indices);
807                 }
808         }
809         else if(nr==4) {
810                 if(mface->v3==0 || mface->v4==0) {
811                         static int corner_indices[4] = {2, 3, 0, 1};
812
813                         SWAP(unsigned int, mface->v1, mface->v3);
814                         SWAP(unsigned int, mface->v2, mface->v4);
815
816                         if(fdata)
817                                 CustomData_swap(fdata, mfindex, corner_indices);
818                 }
819         }
820
821         return nr;
822 }
823
824 Mesh *get_mesh(Object *ob)
825 {
826         
827         if(ob==NULL) return NULL;
828         if(ob->type==OB_MESH) return ob->data;
829         else return NULL;
830 }
831
832 void set_mesh(Object *ob, Mesh *me)
833 {
834         Mesh *old=NULL;
835
836         multires_force_update(ob);
837         
838         if(ob==NULL) return;
839         
840         if(ob->type==OB_MESH) {
841                 old= ob->data;
842                 if (old)
843                         old->id.us--;
844                 ob->data= me;
845                 id_us_plus((ID *)me);
846         }
847         
848         test_object_materials((ID *)me);
849
850         test_object_modifiers(ob);
851 }
852
853 /* ************** make edges in a Mesh, for outside of editmode */
854
855 struct edgesort {
856         unsigned int v1, v2;
857         short is_loose, is_draw;
858 };
859
860 /* edges have to be added with lowest index first for sorting */
861 static void to_edgesort(struct edgesort *ed,
862                         unsigned int v1, unsigned int v2,
863                         short is_loose, short is_draw)
864 {
865         if(v1<v2) {
866                 ed->v1= v1; ed->v2= v2;
867         }
868         else {
869                 ed->v1= v2; ed->v2= v1;
870         }
871         ed->is_loose= is_loose;
872         ed->is_draw= is_draw;
873 }
874
875 static int vergedgesort(const void *v1, const void *v2)
876 {
877         const struct edgesort *x1=v1, *x2=v2;
878
879         if( x1->v1 > x2->v1) return 1;
880         else if( x1->v1 < x2->v1) return -1;
881         else if( x1->v2 > x2->v2) return 1;
882         else if( x1->v2 < x2->v2) return -1;
883         
884         return 0;
885 }
886
887 static void mfaces_strip_loose(MFace *mface, int *totface)
888 {
889         int a,b;
890
891         for (a=b=0; a<*totface; a++) {
892                 if (mface[a].v3) {
893                         if (a!=b) {
894                                 memcpy(&mface[b],&mface[a],sizeof(mface[b]));
895                         }
896                         b++;
897                 }
898         }
899
900         *totface= b;
901 }
902
903 /* Create edges based on known verts and faces */
904 static void make_edges_mdata(MVert *UNUSED(allvert), MFace *allface, MLoop *allloop,
905         MPoly *allpoly, int UNUSED(totvert), int totface, int UNUSED(totloop), int totpoly,
906         int old, MEdge **alledge, int *_totedge)
907 {
908         MPoly *mpoly;
909         MLoop *mloop;
910         MFace *mface;
911         MEdge *medge;
912         EdgeHash *hash = BLI_edgehash_new();
913         struct edgesort *edsort, *ed;
914         int a, b, totedge=0, final=0;
915
916         /* we put all edges in array, sort them, and detect doubles that way */
917
918         for(a= totface, mface= allface; a>0; a--, mface++) {
919                 if(mface->v4) totedge+=4;
920                 else if(mface->v3) totedge+=3;
921                 else totedge+=1;
922         }
923
924         if(totedge==0) {
925                 /* flag that mesh has edges */
926                 (*alledge)= MEM_callocN(0, "make mesh edges");
927                 (*_totedge) = 0;
928                 return;
929         }
930
931         ed= edsort= MEM_mallocN(totedge*sizeof(struct edgesort), "edgesort");
932
933         for(a= totface, mface= allface; a>0; a--, mface++) {
934                 to_edgesort(ed++, mface->v1, mface->v2, !mface->v3, mface->edcode & ME_V1V2);
935                 if(mface->v4) {
936                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
937                         to_edgesort(ed++, mface->v3, mface->v4, 0, mface->edcode & ME_V3V4);
938                         to_edgesort(ed++, mface->v4, mface->v1, 0, mface->edcode & ME_V4V1);
939                 }
940                 else if(mface->v3) {
941                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
942                         to_edgesort(ed++, mface->v3, mface->v1, 0, mface->edcode & ME_V3V1);
943                 }
944         }
945
946         qsort(edsort, totedge, sizeof(struct edgesort), vergedgesort);
947
948         /* count final amount */
949         for(a=totedge, ed=edsort; a>1; a--, ed++) {
950                 /* edge is unique when it differs from next edge, or is last */
951                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) final++;
952         }
953         final++;
954
955         (*alledge)= medge= MEM_callocN(sizeof (MEdge) * final, "make_edges mdge");
956         (*_totedge)= final;
957
958         for(a=totedge, ed=edsort; a>1; a--, ed++) {
959                 /* edge is unique when it differs from next edge, or is last */
960                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) {
961                         medge->v1= ed->v1;
962                         medge->v2= ed->v2;
963                         if(old==0 || ed->is_draw) medge->flag= ME_EDGEDRAW|ME_EDGERENDER;
964                         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
965
966                         /* order is swapped so extruding this edge as a surface wont flip face normals
967                          * with cyclic curves */
968                         if(ed->v1+1 != ed->v2) {
969                                 SWAP(unsigned int, medge->v1, medge->v2);
970                         }
971                         medge++;
972                 }
973                 else {
974                         /* equal edge, we merge the drawflag */
975                         (ed+1)->is_draw |= ed->is_draw;
976                 }
977         }
978         /* last edge */
979         medge->v1= ed->v1;
980         medge->v2= ed->v2;
981         medge->flag= ME_EDGEDRAW;
982         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
983         medge->flag |= ME_EDGERENDER;
984
985         MEM_freeN(edsort);
986         
987         /*set edge members of mloops*/
988         medge= *alledge;
989         for (a=0; a<*_totedge; a++, medge++) {
990                 BLI_edgehash_insert(hash, medge->v1, medge->v2, SET_INT_IN_POINTER(a));
991         }
992         
993         mpoly = allpoly;
994         for (a=0; a<totpoly; a++, mpoly++) {
995                 mloop = allloop + mpoly->loopstart;
996                 for (b=0; b<mpoly->totloop; b++) {
997                         int v1, v2;
998                         
999                         v1 = mloop[b].v;
1000                         v2 = ME_POLY_LOOP_NEXT(mloop, mpoly, b)->v;
1001                         mloop[b].e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(hash, v1, v2));
1002                 }
1003         }
1004         
1005         BLI_edgehash_free(hash, NULL);
1006 }
1007
1008 void make_edges(Mesh *me, int old)
1009 {
1010         MEdge *medge;
1011         int totedge=0;
1012
1013         make_edges_mdata(me->mvert, me->mface, me->mloop, me->mpoly, me->totvert, me->totface, me->totloop, me->totpoly, old, &medge, &totedge);
1014         if(totedge==0) {
1015                 /* flag that mesh has edges */
1016                 me->medge = medge;
1017                 me->totedge = 0;
1018                 return;
1019         }
1020
1021         medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, medge, totedge);
1022         me->medge= medge;
1023         me->totedge= totedge;
1024
1025         mesh_strip_loose_faces(me);
1026 }
1027
1028 void mesh_strip_loose_faces(Mesh *me)
1029 {
1030         int a,b;
1031
1032         for (a=b=0; a<me->totface; a++) {
1033                 if (me->mface[a].v3) {
1034                         if (a!=b) {
1035                                 memcpy(&me->mface[b],&me->mface[a],sizeof(me->mface[b]));
1036                                 CustomData_copy_data(&me->fdata, &me->fdata, a, b, 1);
1037                                 CustomData_free_elem(&me->fdata, a, 1);
1038                         }
1039                         b++;
1040                 }
1041         }
1042         me->totface = b;
1043 }
1044
1045 void mesh_strip_loose_edges(Mesh *me)
1046 {
1047         int a,b;
1048
1049         for (a=b=0; a<me->totedge; a++) {
1050                 if (me->medge[a].v1!=me->medge[a].v2) {
1051                         if (a!=b) {
1052                                 memcpy(&me->medge[b],&me->medge[a],sizeof(me->medge[b]));
1053                                 CustomData_copy_data(&me->edata, &me->edata, a, b, 1);
1054                                 CustomData_free_elem(&me->edata, a, 1);
1055                         }
1056                         b++;
1057                 }
1058         }
1059         me->totedge = b;
1060 }
1061
1062 void mball_to_mesh(ListBase *lb, Mesh *me)
1063 {
1064         DispList *dl;
1065         MVert *mvert;
1066         MFace *mface;
1067         float *nors, *verts;
1068         int a, *index;
1069         
1070         dl= lb->first;
1071         if(dl==NULL) return;
1072
1073         if(dl->type==DL_INDEX4) {
1074                 me->totvert= dl->nr;
1075                 me->totface= dl->parts;
1076                 
1077                 mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, dl->nr);
1078                 mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, dl->parts);
1079                 me->mvert= mvert;
1080                 me->mface= mface;
1081
1082                 a= dl->nr;
1083                 nors= dl->nors;
1084                 verts= dl->verts;
1085                 while(a--) {
1086                         copy_v3_v3(mvert->co, verts);
1087                         normal_float_to_short_v3(mvert->no, nors);
1088                         mvert++;
1089                         nors+= 3;
1090                         verts+= 3;
1091                 }
1092                 
1093                 a= dl->parts;
1094                 index= dl->index;
1095                 while(a--) {
1096                         mface->v1= index[0];
1097                         mface->v2= index[1];
1098                         mface->v3= index[2];
1099                         mface->v4= index[3];
1100                         mface->flag= ME_SMOOTH;
1101
1102                         test_index_face(mface, NULL, 0, (mface->v3==mface->v4)? 3: 4);
1103
1104                         mface++;
1105                         index+= 4;
1106                 }
1107
1108                 /* BMESH_TODO - why is this converting from MFaces to MPoly's then tesselating?
1109                  * should just make mpolys */
1110
1111                 make_edges(me, 0);      // all edges
1112                 convert_mfaces_to_mpolys(me);
1113
1114                 me->totface = mesh_recalcTesselation(&me->fdata, &me->ldata, &me->pdata,
1115                                                      me->mvert,
1116                                                      me->totface, me->totloop, me->totpoly,
1117                                                      TRUE);
1118
1119                 mesh_update_customdata_pointers(me, TRUE);
1120         }
1121 }
1122
1123 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1124 /* return non-zero on error */
1125 int nurbs_to_mdata(Object *ob, MVert **allvert, int *totvert,
1126         MEdge **alledge, int *totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1127         int *totface, int *totloop, int *totpoly)
1128 {
1129         return nurbs_to_mdata_customdb(ob, &ob->disp,
1130                 allvert, totvert, alledge, totedge, allface, allloop, allpoly, totface, totloop, totpoly);
1131 }
1132
1133 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1134 /* use specified dispbase  */
1135 int nurbs_to_mdata_customdb(Object *ob, ListBase *dispbase, MVert **allvert, int *_totvert,
1136         MEdge **alledge, int *_totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1137         int *_totface, int *_totloop, int *_totpoly)
1138 {
1139         DispList *dl;
1140         Curve *cu;
1141         MVert *mvert;
1142         MFace *mface;
1143         MPoly *mpoly;
1144         MLoop *mloop;
1145         float *data;
1146         int a, b, ofs, vertcount, startvert, totvert=0, totvlak=0;
1147         int p1, p2, p3, p4, *index;
1148         int conv_polys= 0;
1149         int i, j;
1150
1151         cu= ob->data;
1152
1153         conv_polys|= cu->flag & CU_3D;          /* 2d polys are filled with DL_INDEX3 displists */
1154         conv_polys|= ob->type == OB_SURF;       /* surf polys are never filled */
1155
1156         /* count */
1157         dl= dispbase->first;
1158         while(dl) {
1159                 if(dl->type==DL_SEGM) {
1160                         totvert+= dl->parts*dl->nr;
1161                         totvlak+= dl->parts*(dl->nr-1);
1162                 }
1163                 else if(dl->type==DL_POLY) {
1164                         if(conv_polys) {
1165                                 totvert+= dl->parts*dl->nr;
1166                                 totvlak+= dl->parts*dl->nr;
1167                         }
1168                 }
1169                 else if(dl->type==DL_SURF) {
1170                         totvert+= dl->parts*dl->nr;
1171                         totvlak+= (dl->parts-1+((dl->flag & DL_CYCL_V)==2))*(dl->nr-1+(dl->flag & DL_CYCL_U));
1172                 }
1173                 else if(dl->type==DL_INDEX3) {
1174                         totvert+= dl->nr;
1175                         totvlak+= dl->parts;
1176                 }
1177                 dl= dl->next;
1178         }
1179
1180         if(totvert==0) {
1181                 /* error("can't convert"); */
1182                 /* Make Sure you check ob->data is a curve */
1183                 return -1;
1184         }
1185
1186         *allvert= mvert= MEM_callocN(sizeof (MVert) * totvert, "nurbs_init mvert");
1187         *allface= mface= MEM_callocN(sizeof (MFace) * totvlak, "nurbs_init mface");
1188         *allloop = mloop = MEM_callocN(sizeof(MLoop) * totvlak * 4, "nurbs_init mloop");
1189         *allpoly = mpoly = MEM_callocN(sizeof(MPoly) * totvlak * 4, "nurbs_init mloop");
1190         
1191         /* verts and faces */
1192         vertcount= 0;
1193
1194         dl= dispbase->first;
1195         while(dl) {
1196                 int smooth= dl->rt & CU_SMOOTH ? 1 : 0;
1197
1198                 if(dl->type==DL_SEGM) {
1199                         startvert= vertcount;
1200                         a= dl->parts*dl->nr;
1201                         data= dl->verts;
1202                         while(a--) {
1203                                 copy_v3_v3(mvert->co, data);
1204                                 data+=3;
1205                                 vertcount++;
1206                                 mvert++;
1207                         }
1208
1209                         for(a=0; a<dl->parts; a++) {
1210                                 ofs= a*dl->nr;
1211                                 for(b=1; b<dl->nr; b++) {
1212                                         mface->v1= startvert+ofs+b-1;
1213                                         mface->v2= startvert+ofs+b;
1214                                         if(smooth) mface->flag |= ME_SMOOTH;
1215                                         mface++;
1216                                 }
1217                         }
1218
1219                 }
1220                 else if(dl->type==DL_POLY) {
1221                         if(conv_polys) {
1222                                 startvert= vertcount;
1223                                 a= dl->parts*dl->nr;
1224                                 data= dl->verts;
1225                                 while(a--) {
1226                                         copy_v3_v3(mvert->co, data);
1227                                         data+=3;
1228                                         vertcount++;
1229                                         mvert++;
1230                                 }
1231
1232                                 for(a=0; a<dl->parts; a++) {
1233                                         ofs= a*dl->nr;
1234                                         for(b=0; b<dl->nr; b++) {
1235                                                 mface->v1= startvert+ofs+b;
1236                                                 if(b==dl->nr-1) mface->v2= startvert+ofs;
1237                                                 else mface->v2= startvert+ofs+b+1;
1238                                                 if(smooth) mface->flag |= ME_SMOOTH;
1239                                                 mface++;
1240                                         }
1241                                 }
1242                         }
1243                 }
1244                 else if(dl->type==DL_INDEX3) {
1245                         startvert= vertcount;
1246                         a= dl->nr;
1247                         data= dl->verts;
1248                         while(a--) {
1249                                 copy_v3_v3(mvert->co, data);
1250                                 data+=3;
1251                                 vertcount++;
1252                                 mvert++;
1253                         }
1254
1255                         a= dl->parts;
1256                         index= dl->index;
1257                         while(a--) {
1258                                 mface->v1= startvert+index[0];
1259                                 mface->v2= startvert+index[2];
1260                                 mface->v3= startvert+index[1];
1261                                 mface->v4= 0;
1262                                 mface->mat_nr= dl->col;
1263                                 test_index_face(mface, NULL, 0, 3);
1264
1265                                 if(smooth) mface->flag |= ME_SMOOTH;
1266                                 mface++;
1267                                 index+= 3;
1268                         }
1269
1270
1271                 }
1272                 else if(dl->type==DL_SURF) {
1273                         startvert= vertcount;
1274                         a= dl->parts*dl->nr;
1275                         data= dl->verts;
1276                         while(a--) {
1277                                 copy_v3_v3(mvert->co, data);
1278                                 data+=3;
1279                                 vertcount++;
1280                                 mvert++;
1281                         }
1282
1283                         for(a=0; a<dl->parts; a++) {
1284
1285                                 if( (dl->flag & DL_CYCL_V)==0 && a==dl->parts-1) break;
1286
1287                                 if(dl->flag & DL_CYCL_U) {                      /* p2 -> p1 -> */
1288                                         p1= startvert+ dl->nr*a;        /* p4 -> p3 -> */
1289                                         p2= p1+ dl->nr-1;               /* -----> next row */
1290                                         p3= p1+ dl->nr;
1291                                         p4= p2+ dl->nr;
1292                                         b= 0;
1293                                 }
1294                                 else {
1295                                         p2= startvert+ dl->nr*a;
1296                                         p1= p2+1;
1297                                         p4= p2+ dl->nr;
1298                                         p3= p1+ dl->nr;
1299                                         b= 1;
1300                                 }
1301                                 if( (dl->flag & DL_CYCL_V) && a==dl->parts-1) {
1302                                         p3-= dl->parts*dl->nr;
1303                                         p4-= dl->parts*dl->nr;
1304                                 }
1305
1306                                 for(; b<dl->nr; b++) {
1307                                         mface->v1= p1;
1308                                         mface->v2= p3;
1309                                         mface->v3= p4;
1310                                         mface->v4= p2;
1311                                         mface->mat_nr= dl->col;
1312                                         test_index_face(mface, NULL, 0, 4);
1313
1314                                         if(smooth) mface->flag |= ME_SMOOTH;
1315                                         mface++;
1316
1317                                         p4= p3;
1318                                         p3++;
1319                                         p2= p1;
1320                                         p1++;
1321                                 }
1322                         }
1323
1324                 }
1325
1326                 dl= dl->next;
1327         }
1328         
1329         mface= *allface;
1330         j = 0;
1331         for (i=0; i<totvert; i++, mpoly++, mface++) {
1332                 int k;
1333                 
1334                 if (!mface->v3) {
1335                         mpoly--;
1336                         i--;
1337                         continue;
1338                 }
1339                 
1340                 if (mface >= *allface + totvlak)
1341                         break;
1342
1343                 mpoly->flag |= mface->flag & ME_SMOOTH;
1344                 mpoly->loopstart= j;
1345                 mpoly->totloop= mface->v4 ? 4 : 3;
1346                 for (k=0; k<mpoly->totloop; k++, mloop++, j++) {
1347                         mloop->v = (&mface->v1)[k];
1348                 }
1349         }
1350         
1351         *_totpoly= i;
1352         *_totloop= j;
1353         *_totvert= totvert;
1354         *_totface= totvlak;
1355
1356         make_edges_mdata(*allvert, *allface, *allloop, *allpoly, totvert, totvlak, *_totloop, *_totpoly, 0, alledge, _totedge);
1357         mfaces_strip_loose(*allface, _totface);
1358
1359         return 0;
1360 }
1361
1362 /* this may fail replacing ob->data, be sure to check ob->type */
1363 void nurbs_to_mesh(Object *ob)
1364 {
1365         Main *bmain= G.main;
1366         Object *ob1;
1367         DerivedMesh *dm= ob->derivedFinal;
1368         Mesh *me;
1369         Curve *cu;
1370         MVert *allvert= NULL;
1371         MEdge *alledge= NULL;
1372         MFace *allface= NULL;
1373         MLoop *allloop = NULL;
1374         MPoly *allpoly = NULL;
1375         int totvert, totedge, totface, totloop, totpoly;
1376
1377         cu= ob->data;
1378
1379         if (dm == NULL) {
1380                 if (nurbs_to_mdata (ob, &allvert, &totvert, &alledge, &totedge, &allface, &allloop, &allpoly, &totface, &totloop, &totpoly) != 0) {
1381                         /* Error initializing */
1382                         return;
1383                 }
1384
1385                 /* make mesh */
1386                 me= add_mesh("Mesh");
1387                 me->totvert= totvert;
1388                 me->totface= totface;
1389                 me->totedge= totedge;
1390                 me->totloop = totloop;
1391                 me->totpoly = totpoly;
1392
1393                 me->mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_ASSIGN, allvert, me->totvert);
1394                 me->medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, alledge, me->totedge);
1395                 me->mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_ASSIGN, allface, me->totface);
1396                 me->mloop= CustomData_add_layer(&me->ldata, CD_MLOOP, CD_ASSIGN, allloop, me->totloop);
1397                 me->mpoly= CustomData_add_layer(&me->pdata, CD_MPOLY, CD_ASSIGN, allpoly, me->totpoly);
1398
1399                 mesh_calc_normals_mapping(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, me->totpoly, NULL, NULL, 0, NULL, NULL);
1400         } else {
1401                 me= add_mesh("Mesh");
1402                 DM_to_mesh(dm, me, ob);
1403         }
1404
1405         me->totcol= cu->totcol;
1406         me->mat= cu->mat;
1407
1408         tex_space_mesh(me);
1409
1410         cu->mat= NULL;
1411         cu->totcol= 0;
1412
1413         if(ob->data) {
1414                 free_libblock(&bmain->curve, ob->data);
1415         }
1416         ob->data= me;
1417         ob->type= OB_MESH;
1418
1419         /* other users */
1420         ob1= bmain->object.first;
1421         while(ob1) {
1422                 if(ob1->data==cu) {
1423                         ob1->type= OB_MESH;
1424                 
1425                         ob1->data= ob->data;
1426                         id_us_plus((ID *)ob->data);
1427                 }
1428                 ob1= ob1->id.next;
1429         }
1430 }
1431
1432 typedef struct EdgeLink {
1433         Link *next, *prev;
1434         void *edge;
1435 } EdgeLink;
1436
1437 typedef struct VertLink {
1438         Link *next, *prev;
1439         unsigned int index;
1440 } VertLink;
1441
1442 static void prependPolyLineVert(ListBase *lb, unsigned int index)
1443 {
1444         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1445         vl->index = index;
1446         BLI_addhead(lb, vl);
1447 }
1448
1449 static void appendPolyLineVert(ListBase *lb, unsigned int index)
1450 {
1451         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1452         vl->index = index;
1453         BLI_addtail(lb, vl);
1454 }
1455
1456 void mesh_to_curve(Scene *scene, Object *ob)
1457 {
1458         /* make new mesh data from the original copy */
1459         DerivedMesh *dm= mesh_get_derived_final(scene, ob, CD_MASK_MESH);
1460
1461         MVert *mverts= dm->getVertArray(dm);
1462         MEdge *med, *medge= dm->getEdgeArray(dm);
1463         MFace *mf,  *mface= dm->getTessFaceArray(dm);
1464
1465         int totedge = dm->getNumEdges(dm);
1466         int totface = dm->getNumTessFaces(dm);
1467         int totedges = 0;
1468         int i, needsFree = 0;
1469
1470         /* only to detect edge polylines */
1471         EdgeHash *eh = BLI_edgehash_new();
1472         EdgeHash *eh_edge = BLI_edgehash_new();
1473
1474
1475         ListBase edges = {NULL, NULL};
1476
1477         /* create edges from all faces (so as to find edges not in any faces) */
1478         mf= mface;
1479         for (i = 0; i < totface; i++, mf++) {
1480                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
1481                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
1482                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
1483                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
1484
1485                 if (mf->v4) {
1486                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
1487                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
1488                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
1489                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
1490                 } else {
1491                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
1492                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
1493                 }
1494         }
1495
1496         med= medge;
1497         for(i=0; i<totedge; i++, med++) {
1498                 if (!BLI_edgehash_haskey(eh, med->v1, med->v2)) {
1499                         EdgeLink *edl= MEM_callocN(sizeof(EdgeLink), "EdgeLink");
1500
1501                         BLI_edgehash_insert(eh_edge, med->v1, med->v2, NULL);
1502                         edl->edge= med;
1503
1504                         BLI_addtail(&edges, edl);       totedges++;
1505                 }
1506         }
1507         BLI_edgehash_free(eh_edge, NULL);
1508         BLI_edgehash_free(eh, NULL);
1509
1510         if(edges.first) {
1511                 Curve *cu = add_curve(ob->id.name+2, OB_CURVE);
1512                 cu->flag |= CU_3D;
1513
1514                 while(edges.first) {
1515                         /* each iteration find a polyline and add this as a nurbs poly spline */
1516
1517                         ListBase polyline = {NULL, NULL}; /* store a list of VertLink's */
1518                         int closed = FALSE;
1519                         int totpoly= 0;
1520                         MEdge *med_current= ((EdgeLink *)edges.last)->edge;
1521                         unsigned int startVert= med_current->v1;
1522                         unsigned int endVert= med_current->v2;
1523                         int ok= TRUE;
1524
1525                         appendPolyLineVert(&polyline, startVert);       totpoly++;
1526                         appendPolyLineVert(&polyline, endVert);         totpoly++;
1527                         BLI_freelinkN(&edges, edges.last);                      totedges--;
1528
1529                         while(ok) { /* while connected edges are found... */
1530                                 ok = FALSE;
1531                                 i= totedges;
1532                                 while(i) {
1533                                         EdgeLink *edl;
1534
1535                                         i-=1;
1536                                         edl= BLI_findlink(&edges, i);
1537                                         med= edl->edge;
1538
1539                                         if(med->v1==endVert) {
1540                                                 endVert = med->v2;
1541                                                 appendPolyLineVert(&polyline, med->v2); totpoly++;
1542                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1543                                                 ok= TRUE;
1544                                         }
1545                                         else if(med->v2==endVert) {
1546                                                 endVert = med->v1;
1547                                                 appendPolyLineVert(&polyline, endVert); totpoly++;
1548                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1549                                                 ok= TRUE;
1550                                         }
1551                                         else if(med->v1==startVert) {
1552                                                 startVert = med->v2;
1553                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1554                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1555                                                 ok= TRUE;
1556                                         }
1557                                         else if(med->v2==startVert) {
1558                                                 startVert = med->v1;
1559                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1560                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1561                                                 ok= TRUE;
1562                                         }
1563                                 }
1564                         }
1565
1566                         /* Now we have a polyline, make into a curve */
1567                         if(startVert==endVert) {
1568                                 BLI_freelinkN(&polyline, polyline.last);
1569                                 totpoly--;
1570                                 closed = TRUE;
1571                         }
1572
1573                         /* --- nurbs --- */
1574                         {
1575                                 Nurb *nu;
1576                                 BPoint *bp;
1577                                 VertLink *vl;
1578
1579                                 /* create new 'nurb' within the curve */
1580                                 nu = (Nurb *)MEM_callocN(sizeof(Nurb), "MeshNurb");
1581
1582                                 nu->pntsu= totpoly;
1583                                 nu->pntsv= 1;
1584                                 nu->orderu= 4;
1585                                 nu->flagu= CU_NURB_ENDPOINT | (closed ? CU_NURB_CYCLIC:0);      /* endpoint */
1586                                 nu->resolu= 12;
1587
1588                                 nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*totpoly, "bpoints");
1589
1590                                 /* add points */
1591                                 vl= polyline.first;
1592                                 for (i=0, bp=nu->bp; i < totpoly; i++, bp++, vl=(VertLink *)vl->next) {
1593                                         copy_v3_v3(bp->vec, mverts[vl->index].co);
1594                                         bp->f1= SELECT;
1595                                         bp->radius = bp->weight = 1.0;
1596                                 }
1597                                 BLI_freelistN(&polyline);
1598
1599                                 /* add nurb to curve */
1600                                 BLI_addtail(&cu->nurb, nu);
1601                         }
1602                         /* --- done with nurbs --- */
1603                 }
1604
1605                 ((Mesh *)ob->data)->id.us--;
1606                 ob->data= cu;
1607                 ob->type= OB_CURVE;
1608
1609                 /* curve objects can't contain DM in usual cases, we could free memory */
1610                 needsFree= 1;
1611         }
1612
1613         dm->needsFree = needsFree;
1614         dm->release(dm);
1615
1616         if (needsFree) {
1617                 ob->derivedFinal = NULL;
1618
1619                 /* curve object could have got bounding box only in special cases */
1620                 if(ob->bb) {
1621                         MEM_freeN(ob->bb);
1622                         ob->bb= NULL;
1623                 }
1624         }
1625 }
1626
1627 void mesh_delete_material_index(Mesh *me, short index)
1628 {
1629         int i;
1630
1631         for (i=0; i<me->totpoly; i++) {
1632                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1633                 if (mp->mat_nr && mp->mat_nr>=index) 
1634                         mp->mat_nr--;
1635         }
1636         
1637         for (i=0; i<me->totface; i++) {
1638                 MFace *mf = &((MFace*) me->mface)[i];
1639                 if (mf->mat_nr && mf->mat_nr>=index) 
1640                         mf->mat_nr--;
1641         }
1642 }
1643
1644 void mesh_set_smooth_flag(Object *meshOb, int enableSmooth) 
1645 {
1646         Mesh *me = meshOb->data;
1647         int i;
1648
1649         for (i=0; i<me->totpoly; i++) {
1650                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1651
1652                 if (enableSmooth) {
1653                         mp->flag |= ME_SMOOTH;
1654                 } else {
1655                         mp->flag &= ~ME_SMOOTH;
1656                 }
1657         }
1658         
1659         for (i=0; i<me->totface; i++) {
1660                 MFace *mf = &((MFace*) me->mface)[i];
1661
1662                 if (enableSmooth) {
1663                         mf->flag |= ME_SMOOTH;
1664                 } else {
1665                         mf->flag &= ~ME_SMOOTH;
1666                 }
1667         }
1668 }
1669
1670 void mesh_calc_normals_mapping(MVert *mverts, int numVerts,
1671                                 MLoop *mloop, MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
1672                                 MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3])
1673 {
1674         mesh_calc_normals_mapping_ex(mverts, numVerts, mloop, mpolys,
1675                                       numLoops, numPolys, polyNors_r, mfaces, numFaces,
1676                                       origIndexFace, faceNors_r, TRUE);
1677 }
1678
1679 void mesh_calc_normals_mapping_ex(MVert *mverts, int numVerts,
1680                                    MLoop *mloop, MPoly *mpolys,
1681                                    int numLoops, int numPolys, float (*polyNors_r)[3],
1682                                    MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3],
1683                                    const short only_face_normals)
1684 {
1685         float (*pnors)[3] = polyNors_r, (*fnors)[3] = faceNors_r;
1686         int i;
1687         MFace *mf;
1688         MPoly *mp;
1689
1690         if (numPolys == 0) {
1691                 return;
1692         }
1693
1694         /* if we are not calculating verts and no verts were passes thene we have nothign to do */
1695         if ((only_face_normals == TRUE) && (polyNors_r == NULL) && (faceNors_r == NULL)) {
1696                 printf("%s: called with nothing to do\n", __func__);
1697                 return;
1698         }
1699
1700         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1701         /* if (!fnors) fnors = MEM_callocN(sizeof(float) * 3 * numFaces, "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
1702
1703
1704         if (only_face_normals == FALSE) {
1705                 /* vertex normals are optional, they require some extra calculations,
1706                  * so make them optional */
1707                 mesh_calc_normals(mverts, numVerts, mloop, mpolys, numLoops, numPolys, pnors);
1708         }
1709         else {
1710                 /* only calc poly normals */
1711                 mp = mpolys;
1712                 for (i=0; i<numPolys; i++, mp++) {
1713                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1714                 }
1715         }
1716
1717         if ( origIndexFace &&
1718              /* fnors==faceNors_r */ /* NO NEED TO ALLOC YET */
1719              fnors != NULL &&
1720              numFaces)
1721         {
1722                 mf = mfaces;
1723                 for (i=0; i<numFaces; i++, mf++, origIndexFace++) {
1724                         if (*origIndexFace < numPolys) {
1725                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
1726                         } else {
1727                                 /*eek, we're not corrusponding to polys*/
1728                                 printf("error in mesh_calc_normals; tesselation face indices are incorrect.  normals may look bad.\n");
1729                         }
1730                 }
1731         }
1732
1733         if (pnors != polyNors_r) MEM_freeN(pnors);
1734         /* if (fnors != faceNors_r) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
1735
1736         fnors = pnors = NULL;
1737         
1738 }
1739
1740 void mesh_calc_normals(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1741                        int UNUSED(numLoops), int numPolys, float (*polyNors_r)[3])
1742 {
1743         float (*pnors)[3] = polyNors_r;
1744
1745         float (*tnorms)[3], (*edgevecbuf)[3]= NULL;
1746         float **vertcos = NULL, **vertnos = NULL;
1747         BLI_array_declare(vertcos);
1748         BLI_array_declare(vertnos);
1749         BLI_array_declare(edgevecbuf);
1750
1751         int i, j;
1752         MPoly *mp;
1753         MLoop *ml;
1754
1755         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1756
1757         /*first go through and calculate normals for all the polys*/
1758         tnorms = MEM_callocN(sizeof(float)*3*numVerts, "tnorms mesh.c");
1759
1760         mp = mpolys;
1761         for (i=0; i<numPolys; i++, mp++) {
1762                 mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1763                 ml = mloop + mp->loopstart;
1764
1765                 BLI_array_empty(vertcos);
1766                 BLI_array_empty(vertnos);
1767                 for (j=0; j<mp->totloop; j++) {
1768                         int vindex = ml[j].v;
1769                         BLI_array_append(vertcos, mverts[vindex].co);
1770                         BLI_array_append(vertnos, tnorms[vindex]);
1771                 }
1772
1773                 BLI_array_empty(edgevecbuf);
1774                 BLI_array_growitems(edgevecbuf, mp->totloop);
1775
1776                 accumulate_vertex_normals_poly(vertnos, pnors[i], vertcos, edgevecbuf, mp->totloop);
1777         }
1778
1779         BLI_array_free(vertcos);
1780         BLI_array_free(vertnos);
1781         BLI_array_free(edgevecbuf);
1782
1783         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1784         for(i=0; i<numVerts; i++) {
1785                 MVert *mv= &mverts[i];
1786                 float *no= tnorms[i];
1787
1788                 if(normalize_v3(no) == 0.0f)
1789                         normalize_v3_v3(no, mv->co);
1790
1791                 normal_float_to_short_v3(mv->no, no);
1792         }
1793
1794         MEM_freeN(tnorms);
1795
1796         if (pnors != polyNors_r) MEM_freeN(pnors);
1797 }
1798
1799 void mesh_calc_normals_tessface(MVert *mverts, int numVerts, MFace *mfaces, int numFaces, float (*faceNors_r)[3])
1800 {
1801         float (*tnorms)[3]= MEM_callocN(numVerts*sizeof(*tnorms), "tnorms");
1802         float (*fnors)[3]= (faceNors_r)? faceNors_r: MEM_callocN(sizeof(*fnors)*numFaces, "meshnormals");
1803         int i;
1804
1805         for(i=0; i<numFaces; i++) {
1806                 MFace *mf= &mfaces[i];
1807                 float *f_no= fnors[i];
1808                 float *n4 = (mf->v4)? tnorms[mf->v4]: NULL;
1809                 float *c4 = (mf->v4)? mverts[mf->v4].co: NULL;
1810
1811                 if(mf->v4)
1812                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
1813                 else
1814                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
1815
1816                 accumulate_vertex_normals(tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
1817                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
1818         }
1819
1820         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1821         for(i=0; i<numVerts; i++) {
1822                 MVert *mv= &mverts[i];
1823                 float *no= tnorms[i];
1824                 
1825                 if(normalize_v3(no) == 0.0f)
1826                         normalize_v3_v3(no, mv->co);
1827
1828                 normal_float_to_short_v3(mv->no, no);
1829         }
1830         
1831         MEM_freeN(tnorms);
1832
1833         if(fnors != faceNors_r)
1834                 MEM_freeN(fnors);
1835 }
1836
1837
1838 static void bmesh_corners_to_loops(Mesh *me, int findex, int loopstart, int numTex, int numCol)
1839 {
1840         MTFace *texface;
1841         MTexPoly *texpoly;
1842         MCol *mcol;
1843         MLoopCol *mloopcol;
1844         MLoopUV *mloopuv;
1845         MFace *mf;
1846         int i;
1847
1848         mf = me->mface + findex;
1849
1850         for(i=0; i < numTex; i++){
1851                 texface = CustomData_get_n(&me->fdata, CD_MTFACE, findex, i);
1852                 texpoly = CustomData_get_n(&me->pdata, CD_MTEXPOLY, findex, i); 
1853                 
1854                 texpoly->tpage = texface->tpage;
1855                 texpoly->flag = texface->flag;
1856                 texpoly->transp = texface->transp;
1857                 texpoly->mode = texface->mode;
1858                 texpoly->tile = texface->tile;
1859                 texpoly->unwrap = texface->unwrap;
1860         
1861                 mloopuv = CustomData_get_n(&me->ldata, CD_MLOOPUV, loopstart, i);
1862                 mloopuv->uv[0] = texface->uv[0][0]; mloopuv->uv[1] = texface->uv[0][1]; mloopuv++;
1863                 mloopuv->uv[0] = texface->uv[1][0]; mloopuv->uv[1] = texface->uv[1][1]; mloopuv++;
1864                 mloopuv->uv[0] = texface->uv[2][0]; mloopuv->uv[1] = texface->uv[2][1]; mloopuv++;
1865
1866                 if (mf->v4) {
1867                         mloopuv->uv[0] = texface->uv[3][0]; mloopuv->uv[1] = texface->uv[3][1]; mloopuv++;
1868                 }
1869         }
1870
1871         for(i=0; i < numCol; i++){
1872                 mloopcol = CustomData_get_n(&me->ldata, CD_MLOOPCOL, loopstart, i);
1873                 mcol = CustomData_get_n(&me->fdata, CD_MCOL, findex, i);
1874
1875                 mloopcol->r = mcol[0].r; mloopcol->g = mcol[0].g; mloopcol->b = mcol[0].b; mloopcol->a = mcol[0].a; mloopcol++;
1876                 mloopcol->r = mcol[1].r; mloopcol->g = mcol[1].g; mloopcol->b = mcol[1].b; mloopcol->a = mcol[1].a; mloopcol++;
1877                 mloopcol->r = mcol[2].r; mloopcol->g = mcol[2].g; mloopcol->b = mcol[2].b; mloopcol->a = mcol[2].a; mloopcol++;
1878                 if (mf->v4) {
1879                         mloopcol->r = mcol[3].r; mloopcol->g = mcol[3].g; mloopcol->b = mcol[3].b; mloopcol->a = mcol[3].a; mloopcol++;
1880                 }
1881         }
1882         
1883         if (CustomData_has_layer(&me->fdata, CD_MDISPS)) {
1884                 MDisps *ld = CustomData_get(&me->ldata, loopstart, CD_MDISPS);
1885                 MDisps *fd = CustomData_get(&me->fdata, findex, CD_MDISPS);
1886                 float (*disps)[3] = fd->disps;
1887                 int i, tot = mf->v4 ? 4 : 3;
1888                 int side, corners;
1889                 
1890                 corners = multires_mdisp_corners(fd);
1891                 
1892                 if (corners == 0) {
1893                         /* Empty MDisp layers appear in at least one of the sintel.blend files.
1894                            Not sure why this happens, but it seems fine to just ignore them here.
1895                            If corners==0 for a non-empty layer though, something went wrong. */
1896                         BLI_assert(fd->totdisp == 0);
1897                 }
1898                 else {
1899                         side = sqrt(fd->totdisp / corners);
1900                 
1901                         for (i=0; i<tot; i++, disps += side*side, ld++) {
1902                                 ld->totdisp = side*side;
1903                         
1904                                 if (ld->disps)
1905                                         BLI_cellalloc_free(ld->disps);
1906                         
1907                                 ld->disps = BLI_cellalloc_calloc(sizeof(float)*3*side*side, "converted loop mdisps");
1908                                 if (fd->disps) {
1909                                         memcpy(ld->disps, disps, sizeof(float)*3*side*side);
1910                                 }
1911                         }
1912                 }
1913         }
1914 }
1915
1916 void convert_mfaces_to_mpolys(Mesh *mesh)
1917 {
1918         MFace *mf;
1919         MLoop *ml;
1920         MPoly *mp;
1921         MEdge *me;
1922         EdgeHash *eh;
1923         int numTex, numCol;
1924         int i, j, totloop;
1925
1926         mesh->totpoly = mesh->totface;
1927         mesh->mpoly = MEM_callocN(sizeof(MPoly)*mesh->totpoly, "mpoly converted");
1928         CustomData_add_layer(&mesh->pdata, CD_MPOLY, CD_ASSIGN, mesh->mpoly, mesh->totpoly);
1929
1930         numTex = CustomData_number_of_layers(&mesh->fdata, CD_MTFACE);
1931         numCol = CustomData_number_of_layers(&mesh->fdata, CD_MCOL);
1932         
1933         totloop = 0;
1934         mf = mesh->mface;
1935         for (i=0; i<mesh->totface; i++, mf++) {
1936                 totloop += mf->v4 ? 4 : 3;
1937         }
1938         
1939         mesh->totloop = totloop;
1940         mesh->mloop = MEM_callocN(sizeof(MLoop)*mesh->totloop, "mloop converted");
1941
1942         CustomData_add_layer(&mesh->ldata, CD_MLOOP, CD_ASSIGN, mesh->mloop, totloop);
1943         CustomData_to_bmeshpoly(&mesh->fdata, &mesh->pdata, &mesh->ldata,
1944                 mesh->totloop, mesh->totpoly);
1945
1946         eh = BLI_edgehash_new();
1947
1948         /*build edge hash*/
1949         me = mesh->medge;
1950         for (i=0; i<mesh->totedge; i++, me++) {
1951                 BLI_edgehash_insert(eh, me->v1, me->v2, SET_INT_IN_POINTER(i));
1952         }
1953
1954         j = 0; /*current loop index*/
1955         ml = mesh->mloop;
1956         mf = mesh->mface;
1957         mp = mesh->mpoly;
1958         for (i=0; i<mesh->totface; i++, mf++, mp++) {
1959                 mp->loopstart = j;
1960                 
1961                 mp->totloop = mf->v4 ? 4 : 3;
1962
1963                 mp->mat_nr = mf->mat_nr;
1964                 mp->flag = mf->flag;
1965                 
1966                 #define ML(v1, v2) {ml->v = mf->v1; ml->e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(eh, mf->v1, mf->v2)); ml++; j++;}
1967                 
1968                 ML(v1, v2);
1969                 ML(v2, v3);
1970                 if (mf->v4) {
1971                         ML(v3, v4);
1972                         ML(v4, v1);
1973                 } else {
1974                         ML(v3, v1);
1975                 }
1976                 
1977                 #undef ML
1978
1979                 bmesh_corners_to_loops(mesh, i, mp->loopstart, numTex, numCol);
1980         }
1981
1982         /* note, we dont convert FGons at all, these are not even real ngons,
1983          * they have their own UV's, colors etc - its more an editing feature. */
1984
1985         mesh_update_customdata_pointers(mesh, TRUE);
1986
1987         BLI_edgehash_free(eh, NULL);
1988 }
1989
1990 float (*mesh_getVertexCos(Mesh *me, int *numVerts_r))[3]
1991 {
1992         int i, numVerts = me->totvert;
1993         float (*cos)[3] = MEM_mallocN(sizeof(*cos)*numVerts, "vertexcos1");
1994         
1995         if (numVerts_r) *numVerts_r = numVerts;
1996         for (i=0; i<numVerts; i++)
1997                 copy_v3_v3(cos[i], me->mvert[i].co);
1998         
1999         return cos;
2000 }
2001
2002
2003 /* ngon version wip, based on EDBM_make_uv_vert_map */
2004 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
2005  * but for now this replaces it because its unused. */
2006
2007 UvVertMap *make_uv_vert_map(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv, unsigned int totpoly, unsigned int totvert, int selected, float *limit)
2008 {
2009         UvVertMap *vmap;
2010         UvMapVert *buf;
2011         MPoly *mp;
2012         unsigned int a;
2013         int     i, totuv, nverts;
2014
2015         totuv = 0;
2016
2017         /* generate UvMapVert array */
2018         mp= mpoly;
2019         for(a=0; a<totpoly; a++, mp++)
2020                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
2021                         totuv += mp->totloop;
2022
2023         if(totuv==0)
2024                 return NULL;
2025         
2026         vmap= (UvVertMap*)MEM_callocN(sizeof(*vmap), "UvVertMap");
2027         if (!vmap)
2028                 return NULL;
2029
2030         vmap->vert= (UvMapVert**)MEM_callocN(sizeof(*vmap->vert)*totvert, "UvMapVert*");
2031         buf= vmap->buf= (UvMapVert*)MEM_callocN(sizeof(*vmap->buf)*totuv, "UvMapVert");
2032
2033         if (!vmap->vert || !vmap->buf) {
2034                 free_uv_vert_map(vmap);
2035                 return NULL;
2036         }
2037
2038         mp= mpoly;
2039         for(a=0; a<totpoly; a++, mp++) {
2040                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
2041                         nverts= mp->totloop;
2042
2043                         for(i=0; i<nverts; i++) {
2044                                 buf->tfindex= i;
2045                                 buf->f= a;
2046                                 buf->separate = 0;
2047                                 buf->next= vmap->vert[mloop[mp->loopstart + i].v];
2048                                 vmap->vert[mloop[mp->loopstart + i].v]= buf;
2049                                 buf++;
2050                         }
2051                 }
2052         }
2053         
2054         /* sort individual uvs for each vert */
2055         for(a=0; a<totvert; a++) {
2056                 UvMapVert *newvlist= NULL, *vlist=vmap->vert[a];
2057                 UvMapVert *iterv, *v, *lastv, *next;
2058                 float *uv, *uv2, uvdiff[2];
2059
2060                 while(vlist) {
2061                         v= vlist;
2062                         vlist= vlist->next;
2063                         v->next= newvlist;
2064                         newvlist= v;
2065
2066                         uv= mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
2067                         lastv= NULL;
2068                         iterv= vlist;
2069
2070                         while(iterv) {
2071                                 next= iterv->next;
2072
2073                                 uv2= mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
2074                                 sub_v2_v2v2(uvdiff, uv2, uv);
2075
2076
2077                                 if(fabsf(uv[0]-uv2[0]) < limit[0] && fabsf(uv[1]-uv2[1]) < limit[1]) {
2078                                         if(lastv) lastv->next= next;
2079                                         else vlist= next;
2080                                         iterv->next= newvlist;
2081                                         newvlist= iterv;
2082                                 }
2083                                 else
2084                                         lastv=iterv;
2085
2086                                 iterv= next;
2087                         }
2088
2089                         newvlist->separate = 1;
2090                 }
2091
2092                 vmap->vert[a]= newvlist;
2093         }
2094         
2095         return vmap;
2096 }
2097
2098 UvMapVert *get_uv_map_vert(UvVertMap *vmap, unsigned int v)
2099 {
2100         return vmap->vert[v];
2101 }
2102
2103 void free_uv_vert_map(UvVertMap *vmap)
2104 {
2105         if (vmap) {
2106                 if (vmap->vert) MEM_freeN(vmap->vert);
2107                 if (vmap->buf) MEM_freeN(vmap->buf);
2108                 MEM_freeN(vmap);
2109         }
2110 }
2111
2112 /* Generates a map where the key is the vertex and the value is a list
2113    of faces that use that vertex as a corner. The lists are allocated
2114    from one memory pool. */
2115 void create_vert_face_map(ListBase **map, IndexNode **mem, const MFace *mface, const int totvert, const int totface)
2116 {
2117         int i,j;
2118         IndexNode *node = NULL;
2119         
2120         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2121         (*mem) = MEM_callocN(sizeof(IndexNode) * totface*4, "vert face map mem");
2122         node = *mem;
2123         
2124         /* Find the users */
2125         for(i = 0; i < totface; ++i){
2126                 for(j = 0; j < (mface[i].v4?4:3); ++j, ++node) {
2127                         node->index = i;
2128                         BLI_addtail(&(*map)[((unsigned int*)(&mface[i]))[j]], node);
2129                 }
2130         }
2131 }
2132
2133 /* Generates a map where the key is the vertex and the value is a list
2134    of edges that use that vertex as an endpoint. The lists are allocated
2135    from one memory pool. */
2136 void create_vert_edge_map(ListBase **map, IndexNode **mem, const MEdge *medge, const int totvert, const int totedge)
2137 {
2138         int i, j;
2139         IndexNode *node = NULL;
2140  
2141         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
2142         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
2143         node = *mem;
2144
2145         /* Find the users */
2146         for(i = 0; i < totedge; ++i){
2147                 for(j = 0; j < 2; ++j, ++node) {
2148                         node->index = i;
2149                         BLI_addtail(&(*map)[((unsigned int*)(&medge[i].v1))[j]], node);
2150                 }
2151         }
2152 }
2153
2154 void mesh_loops_to_mface_corners(CustomData *fdata, CustomData *ldata,
2155                                  CustomData *pdata, int lindex[4], int findex,
2156                                  const int polyindex,
2157                                  const int mf_len, /* 3 or 4 */
2158
2159                                  /* cache values to avoid lookups every time */
2160                                  const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2161                                  const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2162                                  const int hasWCol /* CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL) */
2163                                  )
2164 {
2165         MTFace *texface;
2166         MTexPoly *texpoly;
2167         MCol *mcol;
2168         MLoopCol *mloopcol;
2169         MLoopUV *mloopuv;
2170         int i, j;
2171         
2172         for(i=0; i < numTex; i++){
2173                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2174                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2175                 
2176                 texface->tpage = texpoly->tpage;
2177                 texface->flag = texpoly->flag;
2178                 texface->transp = texpoly->transp;
2179                 texface->mode = texpoly->mode;
2180                 texface->tile = texpoly->tile;
2181                 texface->unwrap = texpoly->unwrap;
2182
2183                 for (j=0; j < mf_len; j++) {
2184                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, lindex[j], i);
2185                         texface->uv[j][0] = mloopuv->uv[0];
2186                         texface->uv[j][1] = mloopuv->uv[1];
2187                 }
2188         }
2189
2190         for(i=0; i < numCol; i++){
2191                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2192
2193                 for (j=0; j < mf_len; j++) {
2194                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, lindex[j], i);
2195                         mcol[j].r = mloopcol->r;
2196                         mcol[j].g = mloopcol->g;
2197                         mcol[j].b = mloopcol->b;
2198                         mcol[j].a = mloopcol->a;
2199                 }
2200         }
2201
2202         if (hasWCol) {
2203                 mcol = CustomData_get(fdata,  findex, CD_WEIGHT_MCOL);
2204
2205                 for (j=0; j < mf_len; j++) {
2206                         mloopcol = CustomData_get(ldata, lindex[j], CD_WEIGHT_MLOOPCOL);
2207                         mcol[j].r = mloopcol->r;
2208                         mcol[j].g = mloopcol->g;
2209                         mcol[j].b = mloopcol->b;
2210                         mcol[j].a = mloopcol->a;
2211                 }
2212         }
2213 }
2214
2215 /*
2216   this function recreates a tesselation.
2217   returns number of tesselation faces.
2218  */
2219 int mesh_recalcTesselation(CustomData *fdata,
2220                            CustomData *ldata, CustomData *pdata,
2221                            MVert *mvert, int totface, int UNUSED(totloop),
2222                            int totpoly,
2223                            /* when teseelating to recalcilate normals after
2224                             * we can skip copying here */
2225                            const int do_face_nor_cpy)
2226 {
2227
2228         /* use this to avoid locking pthread for _every_ polygon
2229          * and calling the fill function */
2230
2231 #define USE_TESSFACE_SPEEDUP
2232
2233         MPoly *mp, *mpoly;
2234         MLoop *ml, *mloop;
2235         MFace *mface = NULL, *mf;
2236         BLI_array_declare(mface);
2237         EditVert *v, *lastv, *firstv;
2238         EditFace *f;
2239         int *origIndex = NULL;
2240         BLI_array_declare(origIndex);
2241         int *polyIndex = NULL;
2242         BLI_array_declare(polyIndex);
2243         int lindex[4]; /* only ever use 3 in this case */
2244         int *polyorigIndex;
2245         int i, j, k;
2246
2247         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2248         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2249         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2250
2251         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2252         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2253
2254         k = 0;
2255         mp = mpoly;
2256         polyorigIndex = CustomData_get_layer(pdata, CD_ORIGINDEX);
2257         for (i=0; i<totpoly; i++, mp++) {
2258                 if (mp->totloop < 3) {
2259                         /* do nothing */
2260                 }
2261
2262 #ifdef USE_TESSFACE_SPEEDUP
2263
2264 #define ML_TO_MF(i1, i2, i3)                                                  \
2265                 BLI_array_growone(mface);                                             \
2266                 BLI_array_append(polyIndex, i);                                       \
2267                 mf= &mface[k];                                                        \
2268                 /* set loop indices, transformed to vert indices later */             \
2269                 mf->v1 = mp->loopstart + i1;                                          \
2270                 mf->v2 = mp->loopstart + i2;                                          \
2271                 mf->v3 = mp->loopstart + i3;                                          \
2272                 mf->v4 = 0;                                                           \
2273                 mf->mat_nr = mp->mat_nr;                                              \
2274                 mf->flag = mp->flag;                                                  \
2275                 if (polyorigIndex) {                                                  \
2276                         BLI_array_append(origIndex, polyorigIndex[polyIndex[k]]);         \
2277                 }                                                                     \
2278
2279                 else if (mp->totloop == 3) {
2280                         ml = mloop + mp->loopstart;
2281                         ML_TO_MF(0, 1, 2)
2282                         k++;
2283                 }
2284                 else if (mp->totloop == 4) {
2285                         ml = mloop + mp->loopstart;
2286                         ML_TO_MF(0, 1, 2)
2287                         k++;
2288                         ML_TO_MF(0, 2, 3)
2289                         k++;
2290                 }
2291 #endif /* USE_TESSFACE_SPEEDUP */
2292                 else {
2293                         ml = mloop + mp->loopstart;
2294                         
2295                         BLI_begin_edgefill();
2296                         firstv = NULL;
2297                         lastv = NULL;
2298                         for (j=0; j<mp->totloop; j++, ml++) {
2299                                 v = BLI_addfillvert(mvert[ml->v].co);
2300         
2301                                 v->keyindex = mp->loopstart + j;
2302         
2303                                 if (lastv)
2304                                         BLI_addfilledge(lastv, v);
2305         
2306                                 if (!firstv)
2307                                         firstv = v;
2308                                 lastv = v;
2309                         }
2310                         BLI_addfilledge(lastv, firstv);
2311                         
2312                         BLI_edgefill(2);
2313                         for (f=fillfacebase.first; f; f=f->next) {
2314                                 BLI_array_growone(mface);
2315                                 BLI_array_append(polyIndex, i);
2316                                 mf= &mface[k];
2317
2318                                 /* set loop indices, transformed to vert indices later */
2319                                 mf->v1 = f->v1->keyindex;
2320                                 mf->v2 = f->v2->keyindex;
2321                                 mf->v3 = f->v3->keyindex;
2322                                 mf->v4 = 0;
2323                                 
2324                                 mf->mat_nr = mp->mat_nr;
2325                                 mf->flag = mp->flag;
2326
2327 #ifdef USE_TESSFACE_SPEEDUP
2328                                 mf->edcode = 1; /* tag for sorting loop indicies */
2329 #endif
2330
2331                                 if (polyorigIndex) {
2332                                         BLI_array_append(origIndex, polyorigIndex[polyIndex[k]]);
2333                                 }
2334         
2335                                 k++;
2336                         }
2337         
2338                         BLI_end_edgefill();
2339                 }
2340         }
2341
2342         CustomData_free(fdata, totface);
2343         memset(fdata, 0, sizeof(CustomData));
2344         totface = k;
2345         
2346         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2347
2348         /* CD_POLYINDEX will contain an array of indices from tessfaces to the polygons
2349          * they are directly tesselated from */
2350         CustomData_add_layer(fdata, CD_POLYINDEX, CD_ASSIGN, polyIndex, totface);
2351         if (origIndex) {
2352                 /* If polys had a CD_ORIGINDEX layer, then the tesselated faces will get this
2353                  * layer as well, pointing to polys from the original mesh (not the polys
2354                  * that just got tesselated) */
2355                 CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, origIndex, totface);
2356         }
2357
2358         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2359
2360         if (do_face_nor_cpy) {
2361                 /* If polys have a normals layer, copying that to faces can help
2362                  * avoid the need to recalculate normals later */
2363                 if (CustomData_has_layer(pdata, CD_NORMAL)) {
2364                         float (*pnors)[3] = CustomData_get_layer(pdata, CD_NORMAL);
2365                         float (*fnors)[3] = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2366                         for (i=0; i<totface; i++) {
2367                                 copy_v3_v3(fnors[i], pnors[polyIndex[i]]);
2368                         }
2369                 }
2370         }
2371
2372         mf = mface;
2373         for (i=0; i < totface; i++, mf++) {
2374
2375 #ifdef USE_TESSFACE_SPEEDUP
2376                 /* skip sorting when not using ngons */
2377                 if (UNLIKELY(mf->edcode == 1))
2378 #endif
2379                 {
2380                         /* sort loop indices to ensure winding is correct */
2381                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2382                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2383                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2384
2385                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2386                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2387                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2388
2389 #ifdef USE_TESSFACE_SPEEDUP
2390                         mf->edcode = 0;
2391 #endif
2392                 }
2393
2394                 lindex[0] = mf->v1;
2395                 lindex[1] = mf->v2;
2396                 lindex[2] = mf->v3;
2397
2398                 /*transform loop indices to vert indices*/
2399                 mf->v1 = mloop[mf->v1].v;
2400                 mf->v2 = mloop[mf->v2].v;
2401                 mf->v3 = mloop[mf->v3].v;
2402
2403                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2404                                             lindex, i, polyIndex[i], 3,
2405                                             numTex, numCol, hasWCol);
2406         }
2407
2408         return totface;
2409
2410 #undef USE_TESSFACE_SPEEDUP
2411
2412 }
2413
2414
2415 #ifdef USE_BMESH_SAVE_AS_COMPAT
2416
2417 /*
2418  * this function recreates a tesselation.
2419  * returns number of tesselation faces.
2420  */
2421 int mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
2422         struct CustomData *pdata, int totface, int UNUSED(totloop), int totpoly)
2423 {
2424         MLoop *mloop;
2425
2426         int lindex[4];
2427         int i;
2428         int k;
2429
2430         MPoly *mp, *mpoly;
2431         MFace *mface = NULL, *mf;
2432         BLI_array_declare(mface);
2433
2434         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2435         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2436         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2437
2438         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2439         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2440
2441         mp = mpoly;
2442         k = 0;
2443         for (i = 0; i<totpoly; i++, mp++) {
2444                 if (ELEM(mp->totloop, 3, 4)) {
2445                         BLI_array_growone(mface);
2446                         mf = &mface[k];
2447
2448                         mf->mat_nr = mp->mat_nr;
2449                         mf->flag = mp->flag;
2450
2451                         mf->v1 = mp->loopstart + 0;
2452                         mf->v2 = mp->loopstart + 1;
2453                         mf->v3 = mp->loopstart + 2;
2454                         mf->v4 = (mp->totloop == 4) ? (mp->loopstart + 3) : 0;
2455
2456                         /* abuse edcode for temp storage and clear next loop */
2457                         mf->edcode = (char)mp->totloop; /* only ever 3 or 4 */
2458
2459                         k++;
2460                 }
2461         }
2462
2463         CustomData_free(fdata, totface);
2464         memset(fdata, 0, sizeof(CustomData));
2465
2466         totface= k;
2467
2468         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2469
2470         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2471
2472         mp = mpoly;
2473         k = 0;
2474         for (i = 0; i<totpoly; i++, mp++) {
2475                 if (ELEM(mp->totloop, 3, 4)) {
2476                         mf = &mface[k];
2477
2478                         if (mf->edcode == 3) {
2479                                 /*sort loop indices to ensure winding is correct*/
2480                                 /* NO SORT - looks like we can skip this */
2481
2482                                 lindex[0] = mf->v1;
2483                                 lindex[1] = mf->v2;
2484                                 lindex[2] = mf->v3;
2485                                 lindex[3] = 0; /* unused */
2486
2487                                 /*transform loop indices to vert indices*/
2488                                 mf->v1 = mloop[mf->v1].v;
2489                                 mf->v2 = mloop[mf->v2].v;
2490                                 mf->v3 = mloop[mf->v3].v;
2491
2492                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2493                                                             lindex, k, i, 3,
2494                                                             numTex, numCol, hasWCol);
2495                                 test_index_face(mf, fdata, k, 3);
2496                         }
2497                         else {
2498                                 /*sort loop indices to ensure winding is correct*/
2499                                 /* NO SORT - looks like we can skip this */
2500
2501                                 lindex[0] = mf->v1;
2502                                 lindex[1] = mf->v2;
2503                                 lindex[2] = mf->v3;
2504                                 lindex[3] = mf->v4;
2505
2506                                 /*transform loop indices to vert indices*/
2507                                 mf->v1 = mloop[mf->v1].v;
2508                                 mf->v2 = mloop[mf->v2].v;
2509                                 mf->v3 = mloop[mf->v3].v;
2510                                 mf->v4 = mloop[mf->v4].v;
2511
2512                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2513                                                             lindex, k, i, 4,
2514                                                             numTex, numCol, hasWCol);
2515                                 test_index_face(mf, fdata, k, 4);
2516                         }
2517
2518                         mf->edcode= 0;
2519
2520                         k++;
2521                 }
2522         }
2523
2524         return k;
2525 }
2526 #endif /* USE_BMESH_SAVE_AS_COMPAT */
2527
2528 /*
2529  * COMPUTE POLY NORMAL
2530  *
2531  * Computes the normal of a planar 
2532  * polygon See Graphics Gems for 
2533  * computing newell normal.
2534  *
2535 */
2536 static void mesh_calc_ngon_normal(MPoly *mpoly, MLoop *loopstart, 
2537                                   MVert *mvert, float normal[3])
2538 {
2539
2540         MVert *v1, *v2, *v3;
2541         double u[3], v[3], w[3];
2542         double n[3] = {0.0, 0.0, 0.0}, l;
2543         int i;
2544
2545         for(i = 0; i < mpoly->totloop; i++){
2546                 v1 = mvert + loopstart[i].v;
2547                 v2 = mvert + loopstart[(i+1)%mpoly->totloop].v;
2548                 v3 = mvert + loopstart[(i+2)%mpoly->totloop].v;
2549                 
2550                 VECCOPY(u, v1->co);
2551                 VECCOPY(v, v2->co);
2552                 VECCOPY(w, v3->co);
2553
2554                 /*this fixes some weird numerical error*/
2555                 if (i==0) {
2556                         u[0] += 0.0001f;
2557                         u[1] += 0.0001f;
2558                         u[2] += 0.0001f;
2559                 }
2560                 
2561                 /* newell's method
2562                 
2563                 so thats?:
2564                 (a[1] - b[1]) * (a[2] + b[2]);
2565                 a[1]*b[2] - b[1]*a[2] - b[1]*b[2] + a[1]*a[2]
2566
2567                 odd.  half of that is the cross product. . .what's the
2568                 other half?
2569
2570                 also could be like a[1]*(b[2] + a[2]) - b[1]*(a[2] - b[2])
2571                 */
2572
2573                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2574                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2575                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2576         }
2577         
2578         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2579         l = sqrt(l);
2580
2581         if (l == 0.0) {
2582                 normal[0] = 0.0f;
2583                 normal[1] = 0.0f;
2584                 normal[2] = 1.0f;
2585
2586                 return;
2587         } else l = 1.0f / l;
2588
2589         n[0] *= l;
2590         n[1] *= l;
2591         n[2] *= l;
2592         
2593         normal[0] = (float) n[0];
2594         normal[1] = (float) n[1];
2595         normal[2] = (float) n[2];
2596 }
2597
2598 void mesh_calc_poly_normal(MPoly *mpoly, MLoop *loopstart, 
2599                            MVert *mvarray, float no[3])
2600 {
2601         if (mpoly->totloop > 4) {
2602                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, no);
2603         }
2604         else if (mpoly->totloop == 3){
2605                 normal_tri_v3(no,
2606                               mvarray[loopstart[0].v].co,
2607                               mvarray[loopstart[1].v].co,
2608                               mvarray[loopstart[2].v].co
2609                               );
2610         }
2611         else if (mpoly->totloop == 4) {
2612                 normal_quad_v3(no,
2613                                mvarray[loopstart[0].v].co,
2614                                mvarray[loopstart[1].v].co,
2615                                mvarray[loopstart[2].v].co,
2616                                mvarray[loopstart[3].v].co
2617                                );
2618         }
2619         else { /* horrible, two sided face! */
2620                 no[0] = 0.0;
2621                 no[1] = 0.0;
2622                 no[2] = 1.0;
2623         }
2624 }
2625 /* duplicate of function above _but_ takes coords rather then mverts */
2626 static void mesh_calc_ngon_normal_coords(MPoly *mpoly, MLoop *loopstart,
2627                                          const float (*vertex_coords)[3], float normal[3])
2628 {
2629
2630         const float *v1, *v2, *v3;
2631         double u[3], v[3], w[3];
2632         double n[3] = {0.0, 0.0, 0.0}, l;
2633         int i;
2634
2635         for(i = 0; i < mpoly->totloop; i++){
2636                 v1 = (const float *)(vertex_coords + loopstart[i].v);
2637                 v2 = (const float *)(vertex_coords + loopstart[(i+1)%mpoly->totloop].v);
2638                 v3 = (const float *)(vertex_coords + loopstart[(i+2)%mpoly->totloop].v);
2639
2640                 VECCOPY(u, v1);
2641                 VECCOPY(v, v2);
2642                 VECCOPY(w, v3);
2643
2644                 /*this fixes some weird numerical error*/
2645                 if (i==0) {
2646                         u[0] += 0.0001f;
2647                         u[1] += 0.0001f;
2648                         u[2] += 0.0001f;
2649                 }
2650
2651                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2652                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2653                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2654         }
2655
2656         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2657         l = sqrt(l);
2658
2659         if (l == 0.0) {
2660                 normal[0] = 0.0f;
2661                 normal[1] = 0.0f;
2662                 normal[2] = 1.0f;
2663
2664                 return;
2665         } else l = 1.0f / l;
2666
2667         n[0] *= l;
2668         n[1] *= l;
2669         n[2] *= l;
2670
2671         normal[0] = (float) n[0];
2672         normal[1] = (float) n[1];
2673         normal[2] = (float) n[2];
2674 }
2675
2676 void mesh_calc_poly_normal_coords(MPoly *mpoly, MLoop *loopstart,
2677                            const float (*vertex_coords)[3], float no[3])
2678 {
2679         if (mpoly->totloop > 4) {
2680                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, no);
2681         }
2682         else if (mpoly->totloop == 3){
2683                 normal_tri_v3(no,
2684                               vertex_coords[loopstart[0].v],
2685                               vertex_coords[loopstart[1].v],
2686                               vertex_coords[loopstart[2].v]
2687                               );
2688         }
2689         else if (mpoly->totloop == 4) {
2690                 normal_quad_v3(no,
2691                                vertex_coords[loopstart[0].v],
2692                                vertex_coords[loopstart[1].v],
2693                                vertex_coords[loopstart[2].v],
2694                                vertex_coords[loopstart[3].v]
2695                                );
2696         }
2697         else { /* horrible, two sided face! */
2698                 no[0] = 0.0;
2699                 no[1] = 0.0;
2700                 no[2] = 1.0;
2701         }
2702 }
2703
2704 static void mesh_calc_ngon_center(MPoly *mpoly, MLoop *loopstart,
2705                                   MVert *mvert, float cent[3])
2706 {
2707         const float w= 1.0f / (float)mpoly->totloop;
2708         int i;
2709
2710         zero_v3(cent);
2711
2712         for (i = 0; i < mpoly->totloop; i++) {
2713                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2714         }
2715 }
2716
2717 void mesh_calc_poly_center(MPoly *mpoly, MLoop *loopstart,
2718                            MVert *mvarray, float cent[3])
2719 {
2720         if (mpoly->totloop == 3) {
2721                 cent_tri_v3(cent,
2722                             mvarray[loopstart[0].v].co,
2723                             mvarray[loopstart[1].v].co,
2724                             mvarray[loopstart[2].v].co
2725                             );
2726         }
2727         else if (mpoly->totloop == 4) {
2728                 cent_quad_v3(cent,
2729                              mvarray[loopstart[0].v].co,
2730                              mvarray[loopstart[1].v].co,
2731                              mvarray[loopstart[2].v].co,
2732                              mvarray[loopstart[3].v].co
2733                              );
2734         }
2735         else {
2736                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, cent);
2737         }
2738 }
2739
2740 /* note, passing polynormal is only a speedup so we can skip calculating it */
2741 float mesh_calc_poly_area(MPoly *mpoly, MLoop *loopstart,
2742                           MVert *mvarray, float polynormal[3])
2743 {
2744         if (mpoly->totloop == 3) {
2745                 return area_tri_v3(mvarray[loopstart[0].v].co,
2746                                    mvarray[loopstart[1].v].co,
2747                                    mvarray[loopstart[2].v].co
2748                                    );
2749         }
2750         else if (mpoly->totloop == 4) {
2751                 return area_quad_v3(mvarray[loopstart[0].v].co,
2752                                     mvarray[loopstart[1].v].co,
2753                                     mvarray[loopstart[2].v].co,
2754                                     mvarray[loopstart[3].v].co
2755                                     );
2756         }
2757         else {
2758                 int i;
2759                 float area, polynorm_local[3], (*vertexcos)[3];
2760                 float *no= polynormal ? polynormal : polynorm_local;
2761                 BLI_array_fixedstack_declare(vertexcos, BM_NGON_STACK_SIZE, mpoly->totloop, __func__);
2762
2763                 /* pack vertex cos into an array for area_poly_v3 */
2764                 for (i = 0; i < mpoly->totloop; i++) {
2765                         copy_v3_v3(vertexcos[i], mvarray[(loopstart++)->v].co);
2766                 }
2767
2768                 /* need normal for area_poly_v3 as well */
2769                 if (polynormal == NULL) {
2770                         mesh_calc_poly_normal(mpoly, loopstart, mvarray, no);
2771                 }
2772
2773                 /* finally calculate the area */
2774                 area = area_poly_v3(mpoly->totloop, vertexcos, no);
2775
2776                 BLI_array_fixedstack_free(vertexcos);
2777
2778                 return area;
2779         }
2780 }
2781
2782 /* basic vertex data functions */
2783 int minmax_mesh(Mesh *me, float min[3], float max[3])
2784 {
2785         int i= me->totvert;
2786         MVert *mvert;
2787         for(mvert= me->mvert; i--; mvert++) {
2788                 DO_MINMAX(mvert->co, min, max);
2789         }
2790         
2791         return (me->totvert != 0);
2792 }
2793
2794 int mesh_center_median(Mesh *me, float cent[3])
2795 {
2796         int i= me->totvert;
2797         MVert *mvert;
2798         zero_v3(cent);
2799         for(mvert= me->mvert; i--; mvert++) {
2800                 add_v3_v3(cent, mvert->co);
2801         }
2802         /* otherwise we get NAN for 0 verts */
2803         if(me->totvert) {
2804                 mul_v3_fl(cent, 1.0f/(float)me->totvert);
2805         }
2806
2807         return (me->totvert != 0);
2808 }
2809
2810 int mesh_center_bounds(Mesh *me, float cent[3])
2811 {
2812         float min[3], max[3];
2813         INIT_MINMAX(min, max);
2814         if(minmax_mesh(me, min, max)) {
2815                 mid_v3_v3v3(cent, min, max);
2816                 return 1;
2817         }
2818
2819         return 0;
2820 }
2821
2822 void mesh_translate(Mesh *me, float offset[3], int do_keys)
2823 {
2824         int i= me->totvert;
2825         MVert *mvert;
2826         for(mvert= me->mvert; i--; mvert++) {
2827                 add_v3_v3(mvert->co, offset);
2828         }
2829         
2830         if (do_keys && me->key) {
2831                 KeyBlock *kb;
2832                 for (kb=me->key->block.first; kb; kb=kb->next) {
2833                         float *fp= kb->data;
2834                         for (i= kb->totelem; i--; fp+=3) {
2835                                 add_v3_v3(fp, offset);
2836                         }
2837                 }
2838         }
2839 }
2840
2841
2842 void BKE_mesh_ensure_navmesh(Mesh *me)
2843 {
2844         if (!CustomData_has_layer(&me->fdata, CD_RECAST)) {
2845                 int i;
2846                 int numFaces = me->totface;
2847                 int* recastData;
2848                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_CALLOC, NULL, numFaces, "recastData");
2849                 recastData = (int*)CustomData_get_layer(&me->fdata, CD_RECAST);
2850                 for (i=0; i<numFaces; i++) {
2851                         recastData[i] = i+1;
2852                 }
2853                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_REFERENCE, recastData, numFaces, "recastData");
2854         }
2855 }