alternate fix for r43166
[blender.git] / source / blender / blenkernel / intern / mesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh.c
27  *  \ingroup bke
28  */
29
30
31 #include <stdlib.h>
32 #include <string.h>
33 #include <stdio.h>
34 #include <math.h>
35
36 #include "MEM_guardedalloc.h"
37
38 #include "DNA_scene_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_key_types.h"
42 #include "DNA_meshdata_types.h"
43 #include "DNA_ipo_types.h"
44 #include "DNA_customdata_types.h"
45
46 #include "BLI_utildefines.h"
47 #include "BLI_blenlib.h"
48 #include "BLI_bpath.h"
49 #include "BLI_editVert.h"
50 #include "BLI_math.h"
51 #include "BLI_edgehash.h"
52 #include "BLI_scanfill.h"
53
54 #include "BKE_animsys.h"
55 #include "BKE_main.h"
56 #include "BKE_customdata.h"
57 #include "BKE_DerivedMesh.h"
58 #include "BKE_global.h"
59 #include "BKE_mesh.h"
60 #include "BKE_displist.h"
61 #include "BKE_library.h"
62 #include "BKE_material.h"
63 #include "BKE_modifier.h"
64 #include "BKE_multires.h"
65 #include "BKE_key.h"
66 /* these 2 are only used by conversion functions */
67 #include "BKE_curve.h"
68 /* -- */
69 #include "BKE_object.h"
70 #include "BKE_tessmesh.h"
71 #include "BLI_edgehash.h"
72
73 #include "BLI_blenlib.h"
74 #include "BLI_editVert.h"
75 #include "BLI_math.h"
76 #include "BLI_cellalloc.h"
77 #include "BLI_array.h"
78 #include "BLI_edgehash.h"
79
80 #include "bmesh.h"
81
82 enum {
83         MESHCMP_DVERT_WEIGHTMISMATCH = 1,
84         MESHCMP_DVERT_GROUPMISMATCH,
85         MESHCMP_DVERT_TOTGROUPMISMATCH,
86         MESHCMP_LOOPCOLMISMATCH,
87         MESHCMP_LOOPUVMISMATCH,
88         MESHCMP_LOOPMISMATCH,
89         MESHCMP_POLYVERTMISMATCH,
90         MESHCMP_POLYMISMATCH,
91         MESHCMP_EDGEUNKNOWN,
92         MESHCMP_VERTCOMISMATCH,
93         MESHCMP_CDLAYERS_MISMATCH,
94 };
95
96 static const char *cmpcode_to_str(int code)
97 {
98         switch (code) {
99                 case MESHCMP_DVERT_WEIGHTMISMATCH:
100                         return "Vertex Weight Mismatch";
101                 case MESHCMP_DVERT_GROUPMISMATCH:
102                                         return "Vertex Group Mismatch";
103                 case MESHCMP_DVERT_TOTGROUPMISMATCH:
104                                         return "Vertex Doesn't Belong To Same Number Of Groups";
105                 case MESHCMP_LOOPCOLMISMATCH:
106                                         return "Vertex Color Mismatch";
107                 case MESHCMP_LOOPUVMISMATCH:
108                                         return "UV Mismatch";
109                 case MESHCMP_LOOPMISMATCH:
110                                         return "Loop Mismatch";
111                 case MESHCMP_POLYVERTMISMATCH:
112                                         return "Loop Vert Mismatch In Poly Test";
113                 case MESHCMP_POLYMISMATCH:
114                                         return "Loop Vert Mismatch";
115                 case MESHCMP_EDGEUNKNOWN:
116                                         return "Edge Mismatch";
117                 case MESHCMP_VERTCOMISMATCH:
118                                         return "Vertex Coordinate Mismatch";
119                 case MESHCMP_CDLAYERS_MISMATCH:
120                                         return "CustomData Layer Count Mismatch";
121                 default:
122                                 return "Mesh Comparison Code Unknown";
123                 }
124 }
125
126 /*thresh is threshold for comparing vertices, uvs, vertex colors,
127   weights, etc.*/
128 static int customdata_compare(CustomData *c1, CustomData *c2, Mesh *m1, Mesh *m2, float thresh)
129 {
130         CustomDataLayer *l1, *l2;
131         int i, i1=0, i2=0, tot, j;
132         
133         for (i=0; i<c1->totlayer; i++) {
134                 if (ELEM7(c1->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
135                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
136                         i1++;
137         }
138         
139         for (i=0; i<c2->totlayer; i++) {
140                 if (ELEM7(c2->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
141                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
142                         i2++;
143         }
144         
145         if (i1 != i2)
146                 return MESHCMP_CDLAYERS_MISMATCH;
147         
148         l1 = c1->layers; l2 = c2->layers;
149         tot = i1;
150         i1 = 0; i2 = 0; 
151         for (i=0; i < tot; i++) {
152                 while (i1 < c1->totlayer && !ELEM7(l1->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
153                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
154                         i1++, l1++;
155
156                 while (i2 < c2->totlayer && !ELEM7(l2->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
157                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
158                         i2++, l2++;
159                 
160                 if (l1->type == CD_MVERT) {
161                         MVert *v1 = l1->data;
162                         MVert *v2 = l2->data;
163                         int vtot = m1->totvert;
164                         
165                         for (j=0; j<vtot; j++, v1++, v2++) {
166                                 if (len_v3v3(v1->co, v2->co) > thresh)
167                                         return MESHCMP_VERTCOMISMATCH;
168                                 /*I don't care about normals, let's just do coodinates*/
169                         }
170                 }
171                 
172                 /*we're order-agnostic for edges here*/
173                 if (l1->type == CD_MEDGE) {
174                         MEdge *e1 = l1->data;
175                         MEdge *e2 = l2->data;
176                         EdgeHash *eh = BLI_edgehash_new();
177                         int etot = m1->totedge;
178                 
179                         for (j=0; j<etot; j++, e1++) {
180                                 BLI_edgehash_insert(eh, e1->v1, e1->v2, e1);
181                         }
182                         
183                         for (j=0; j<etot; j++, e2++) {
184                                 if (!BLI_edgehash_lookup(eh, e2->v1, e2->v2))
185                                         return MESHCMP_EDGEUNKNOWN;
186                         }
187                         BLI_edgehash_free(eh, NULL);
188                 }
189                 
190                 if (l1->type == CD_MPOLY) {
191                         MPoly *p1 = l1->data;
192                         MPoly *p2 = l2->data;
193                         int ptot = m1->totpoly;
194                 
195                         for (j=0; j<ptot; j++, p1++, p2++) {
196                                 MLoop *lp1, *lp2;
197                                 int k;
198                                 
199                                 if (p1->totloop != p2->totloop)
200                                         return MESHCMP_POLYMISMATCH;
201                                 
202                                 lp1 = m1->mloop + p1->loopstart;
203                                 lp2 = m2->mloop + p2->loopstart;
204                                 
205                                 for (k=0; k<p1->totloop; k++, lp1++, lp2++) {
206                                         if (lp1->v != lp2->v)
207                                                 return MESHCMP_POLYVERTMISMATCH;
208                                 }
209                         }
210                 }
211                 if (l1->type == CD_MLOOP) {
212                         MLoop *lp1 = l1->data;
213                         MLoop *lp2 = l2->data;
214                         int ltot = m1->totloop;
215                 
216                         for (j=0; j<ltot; j++, lp1++, lp2++) {
217                                 if (lp1->v != lp2->v)
218                                         return MESHCMP_LOOPMISMATCH;
219                         }
220                 }
221                 if (l1->type == CD_MLOOPUV) {
222                         MLoopUV *lp1 = l1->data;
223                         MLoopUV *lp2 = l2->data;
224                         int ltot = m1->totloop;
225                 
226                         for (j=0; j<ltot; j++, lp1++, lp2++) {
227                                 if (len_v2v2(lp1->uv, lp2->uv) > thresh)
228                                         return MESHCMP_LOOPUVMISMATCH;
229                         }
230                 }
231                 
232                 if (l1->type == CD_MLOOPCOL) {
233                         MLoopCol *lp1 = l1->data;
234                         MLoopCol *lp2 = l2->data;
235                         int ltot = m1->totloop;
236                 
237                         for (j=0; j<ltot; j++, lp1++, lp2++) {
238                                 if (ABS(lp1->r - lp2->r) > thresh || 
239                                     ABS(lp1->g - lp2->g) > thresh || 
240                                     ABS(lp1->b - lp2->b) > thresh || 
241                                     ABS(lp1->a - lp2->a) > thresh)
242                                 {
243                                         return MESHCMP_LOOPCOLMISMATCH;
244                                 }
245                         }
246                 }
247
248                 if (l1->type == CD_MDEFORMVERT) {
249                         MDeformVert *dv1 = l1->data;
250                         MDeformVert *dv2 = l2->data;
251                         int dvtot = m1->totvert;
252                 
253                         for (j=0; j<dvtot; j++, dv1++, dv2++) {
254                                 int k;
255                                 MDeformWeight *dw1 = dv1->dw, *dw2=dv2->dw;
256                                 
257                                 if (dv1->totweight != dv2->totweight)
258                                         return MESHCMP_DVERT_TOTGROUPMISMATCH;
259                                 
260                                 for (k=0; k<dv1->totweight; k++, dw1++, dw2++) {
261                                         if (dw1->def_nr != dw2->def_nr)
262                                                 return MESHCMP_DVERT_GROUPMISMATCH;
263                                         if (ABS(dw1->weight - dw2->weight) > thresh)
264                                                 return MESHCMP_DVERT_WEIGHTMISMATCH;
265                                 }
266                         }
267                 }
268         }
269         
270         return 0;
271 }
272
273 /*used for testing.  returns an error string the two meshes don't match*/
274 const char *mesh_cmp(Mesh *me1, Mesh *me2, float thresh)
275 {
276         int c;
277         
278         if (!me1 || !me2)
279                 return "Requires two input meshes";
280         
281         if (me1->totvert != me2->totvert) 
282                 return "Number of verts don't match";
283         
284         if (me1->totedge != me2->totedge)
285                 return "Number of edges don't match";
286         
287         if (me1->totpoly != me2->totpoly)
288                 return "Number of faces don't match";
289                                 
290         if (me1->totloop !=me2->totloop)
291                 return "Number of loops don't match";
292         
293         if ((c = customdata_compare(&me1->vdata, &me2->vdata, me1, me2, thresh)))
294                 return cmpcode_to_str(c);
295
296         if ((c = customdata_compare(&me1->edata, &me2->edata, me1, me2, thresh)))
297                 return cmpcode_to_str(c);
298
299         if ((c = customdata_compare(&me1->ldata, &me2->ldata, me1, me2, thresh)))
300                 return cmpcode_to_str(c);
301
302         if ((c = customdata_compare(&me1->pdata, &me2->pdata, me1, me2, thresh)))
303                 return cmpcode_to_str(c);
304         
305         return NULL;
306 }
307
308 static void mesh_ensure_tesselation_customdata(Mesh *me)
309 {
310         const int tottex_original = CustomData_number_of_layers(&me->pdata, CD_MTEXPOLY);
311         const int totcol_original = CustomData_number_of_layers(&me->ldata, CD_MLOOPCOL);
312
313         const int tottex_tessface = CustomData_number_of_layers(&me->fdata, CD_MTFACE);
314         const int totcol_tessface = CustomData_number_of_layers(&me->fdata, CD_MCOL);
315
316         if (tottex_tessface != tottex_original ||
317             totcol_tessface != totcol_original )
318         {
319                 CustomData_free(&me->fdata, me->totface);
320                 
321                 me->mface = NULL;
322                 me->mtface = NULL;
323                 me->mcol = NULL;
324                 me->totface = 0;
325
326                 memset(&me->fdata, 0, sizeof(&me->fdata));
327
328                 CustomData_from_bmeshpoly(&me->fdata, &me->pdata, &me->ldata, me->totface);
329
330                 /* note: this warning may be un-called for if we are inirializing the mesh for the
331                  * first time from bmesh, rather then giving a warning about this we could be smarter
332                  * and check if there was any data to begin with, for now just print the warning with
333                  * some info to help troubleshoot whats going on - campbell */
334                 printf("%s: warning! Tesselation uvs or vcol data got out of sync, "
335                        "had to reset!\n    CD_MTFACE: %d != CD_MTEXPOLY: %d || CD_MCOL: %d != CD_MLOOPCOL: %d\n",
336                        __func__, tottex_tessface, tottex_original, totcol_tessface, totcol_original);
337         }
338 }
339
340 /* this ensures grouped customdata (e.g. mtexpoly and mloopuv and mtface, or
341  * mloopcol and mcol) have the same relative active/render/clone/mask indices.
342  *
343  * note that for undo mesh data we want to skip 'ensure_tess_cd' call since
344  * we dont want to store memory for tessface when its only used for older
345  * versions of the mesh. - campbell*/
346 static void mesh_update_linked_customdata(Mesh *me, const short do_ensure_tess_cd)
347 {
348         if (me->edit_btmesh)
349                 BMEdit_UpdateLinkedCustomData(me->edit_btmesh);
350
351         if (do_ensure_tess_cd) {
352                 mesh_ensure_tesselation_customdata(me);
353         }
354
355         CustomData_bmesh_update_active_layers(&me->fdata, &me->pdata, &me->ldata);
356 }
357
358 void mesh_update_customdata_pointers(Mesh *me, const short do_ensure_tess_cd)
359 {
360         mesh_update_linked_customdata(me, do_ensure_tess_cd);
361
362         me->mvert = CustomData_get_layer(&me->vdata, CD_MVERT);
363         me->dvert = CustomData_get_layer(&me->vdata, CD_MDEFORMVERT);
364         me->msticky = CustomData_get_layer(&me->vdata, CD_MSTICKY);
365
366         me->medge = CustomData_get_layer(&me->edata, CD_MEDGE);
367
368         me->mface = CustomData_get_layer(&me->fdata, CD_MFACE);
369         me->mcol = CustomData_get_layer(&me->fdata, CD_MCOL);
370         me->mtface = CustomData_get_layer(&me->fdata, CD_MTFACE);
371         
372         me->mpoly = CustomData_get_layer(&me->pdata, CD_MPOLY);
373         me->mloop = CustomData_get_layer(&me->ldata, CD_MLOOP);
374
375         me->mtpoly = CustomData_get_layer(&me->pdata, CD_MTEXPOLY);
376         me->mloopcol = CustomData_get_layer(&me->ldata, CD_MLOOPCOL);
377         me->mloopuv = CustomData_get_layer(&me->ldata, CD_MLOOPUV);
378 }
379
380 /* Note: unlinking is called when me->id.us is 0, question remains how
381  * much unlinking of Library data in Mesh should be done... probably
382  * we need a more generic method, like the expand() functions in
383  * readfile.c */
384
385 void unlink_mesh(Mesh *me)
386 {
387         int a;
388         
389         if(me==NULL) return;
390         
391         for(a=0; a<me->totcol; a++) {
392                 if(me->mat[a]) me->mat[a]->id.us--;
393                 me->mat[a]= NULL;
394         }
395
396         if(me->key) {
397                 me->key->id.us--;
398         }
399         me->key= NULL;
400         
401         if(me->texcomesh) me->texcomesh= NULL;
402 }
403
404 /* do not free mesh itself */
405 void free_mesh(Mesh *me, int unlink)
406 {
407         if (unlink)
408                 unlink_mesh(me);
409
410         CustomData_free(&me->vdata, me->totvert);
411         CustomData_free(&me->edata, me->totedge);
412         CustomData_free(&me->fdata, me->totface);
413         CustomData_free(&me->ldata, me->totloop);
414         CustomData_free(&me->pdata, me->totpoly);
415
416         if(me->adt) {
417                 BKE_free_animdata(&me->id);
418                 me->adt= NULL;
419         }
420         
421         if(me->mat) MEM_freeN(me->mat);
422         
423         if(me->bb) MEM_freeN(me->bb);
424         if(me->mselect) MEM_freeN(me->mselect);
425         if(me->edit_btmesh) MEM_freeN(me->edit_btmesh);
426 }
427
428 void copy_dverts(MDeformVert *dst, MDeformVert *src, int copycount)
429 {
430         /* Assumes dst is already set up */
431         int i;
432
433         if (!src || !dst)
434                 return;
435
436         memcpy (dst, src, copycount * sizeof(MDeformVert));
437         
438         for (i=0; i<copycount; i++){
439                 if (src[i].dw){
440                         dst[i].dw = BLI_cellalloc_calloc (sizeof(MDeformWeight)*src[i].totweight, "copy_deformWeight");
441                         memcpy (dst[i].dw, src[i].dw, sizeof (MDeformWeight)*src[i].totweight);
442                 }
443         }
444
445 }
446
447 void free_dverts(MDeformVert *dvert, int totvert)
448 {
449         /* Instead of freeing the verts directly,
450         call this function to delete any special
451         vert data */
452         int     i;
453
454         if (!dvert)
455                 return;
456
457         /* Free any special data from the verts */
458         for (i=0; i<totvert; i++){
459                 if (dvert[i].dw) BLI_cellalloc_free (dvert[i].dw);
460         }
461         MEM_freeN (dvert);
462 }
463
464 Mesh *add_mesh(const char *name)
465 {
466         Mesh *me;
467         
468         me= alloc_libblock(&G.main->mesh, ID_ME, name);
469         
470         me->size[0]= me->size[1]= me->size[2]= 1.0;
471         me->smoothresh= 30;
472         me->texflag= AUTOSPACE;
473         me->flag= ME_TWOSIDED;
474         me->bb= unit_boundbox();
475         me->drawflag= ME_DRAWEDGES|ME_DRAWFACES|ME_DRAWCREASES;
476         
477         return me;
478 }
479
480 Mesh *copy_mesh(Mesh *me)
481 {
482         Mesh *men;
483         MTFace *tface;
484         MTexPoly *txface;
485         int a, i;
486         
487         men= copy_libblock(&me->id);
488         
489         men->mat= MEM_dupallocN(me->mat);
490         for(a=0; a<men->totcol; a++) {
491                 id_us_plus((ID *)men->mat[a]);
492         }
493         id_us_plus((ID *)men->texcomesh);
494
495         CustomData_copy(&me->vdata, &men->vdata, CD_MASK_MESH, CD_DUPLICATE, men->totvert);
496         CustomData_copy(&me->edata, &men->edata, CD_MASK_MESH, CD_DUPLICATE, men->totedge);
497         CustomData_copy(&me->fdata, &men->fdata, CD_MASK_MESH, CD_DUPLICATE, men->totface);
498         CustomData_copy(&me->ldata, &men->ldata, CD_MASK_MESH, CD_DUPLICATE, men->totloop);
499         CustomData_copy(&me->pdata, &men->pdata, CD_MASK_MESH, CD_DUPLICATE, men->totpoly);
500         mesh_update_customdata_pointers(men, TRUE);
501
502         /* ensure indirect linked data becomes lib-extern */
503         for(i=0; i<me->fdata.totlayer; i++) {
504                 if(me->fdata.layers[i].type == CD_MTFACE) {
505                         tface= (MTFace*)me->fdata.layers[i].data;
506
507                         for(a=0; a<me->totface; a++, tface++)
508                                 if(tface->tpage)
509                                         id_lib_extern((ID*)tface->tpage);
510                 }
511         }
512         
513         for(i=0; i<me->pdata.totlayer; i++) {
514                 if(me->pdata.layers[i].type == CD_MTEXPOLY) {
515                         txface= (MTexPoly*)me->pdata.layers[i].data;
516
517                         for(a=0; a<me->totpoly; a++, txface++)
518                                 if(txface->tpage)
519                                         id_lib_extern((ID*)txface->tpage);
520                 }
521         }
522
523         men->mselect= NULL;
524         men->edit_btmesh= NULL;
525
526         men->bb= MEM_dupallocN(men->bb);
527         
528         men->key= copy_key(me->key);
529         if(men->key) men->key->from= (ID *)men;
530
531         return men;
532 }
533
534 BMesh *BKE_mesh_to_bmesh(Mesh *me, Object *ob)
535 {
536         BMesh *bm;
537         int allocsize[4] = {512,512,2048,512};
538
539         bm = BM_Make_Mesh(ob, allocsize);
540
541         BMO_CallOpf(bm, "mesh_to_bmesh mesh=%p object=%p set_shapekey=%i", me, ob, 1);
542
543         return bm;
544 }
545
546 static void expand_local_mesh(Mesh *me)
547 {
548         id_lib_extern((ID *)me->texcomesh);
549
550         if(me->mtface) {
551                 int a, i;
552
553                 for(i=0; i<me->pdata.totlayer; i++) {
554                         if(me->pdata.layers[i].type == CD_MTEXPOLY) {
555                                 MTexPoly *txface= (MTexPoly*)me->fdata.layers[i].data;
556
557                                 for(a=0; a<me->totpoly; a++, txface++) {
558                                         /* special case: ima always local immediately */
559                                         if(txface->tpage) {
560                                                 if(txface->tpage) {
561                                                         id_lib_extern((ID *)txface->tpage);
562                                                 }
563                                         }
564                                 }
565                         }
566                 }
567
568                 for(i=0; i<me->fdata.totlayer; i++) {
569                         if(me->fdata.layers[i].type == CD_MTFACE) {
570                                 MTFace *tface= (MTFace*)me->fdata.layers[i].data;
571
572                                 for(a=0; a<me->totface; a++, tface++) {
573                                         /* special case: ima always local immediately */
574                                         if(tface->tpage) {
575                                                 if(tface->tpage) {
576                                                         id_lib_extern((ID *)tface->tpage);
577                                                 }
578                                         }
579                                 }
580                         }
581                 }
582         }
583
584         if(me->mat) {
585                 extern_local_matarar(me->mat, me->totcol);
586         }
587 }
588
589 void make_local_mesh(Mesh *me)
590 {
591         Main *bmain= G.main;
592         Object *ob;
593         int is_local= FALSE, is_lib= FALSE;
594
595         /* - only lib users: do nothing
596          * - only local users: set flag
597          * - mixed: make copy
598          */
599
600         if(me->id.lib==NULL) return;
601         if(me->id.us==1) {
602                 id_clear_lib_data(bmain, &me->id);
603                 expand_local_mesh(me);
604                 return;
605         }
606
607         for(ob= bmain->object.first; ob && ELEM(0, is_lib, is_local); ob= ob->id.next) {
608                 if(me == ob->data) {
609                         if(ob->id.lib) is_lib= TRUE;
610                         else is_local= TRUE;
611                 }
612         }
613
614         if(is_local && is_lib == FALSE) {
615                 id_clear_lib_data(bmain, &me->id);
616                 expand_local_mesh(me);
617         }
618         else if(is_local && is_lib) {
619                 Mesh *me_new= copy_mesh(me);
620                 me_new->id.us= 0;
621
622
623                 /* Remap paths of new ID using old library as base. */
624                 BKE_id_lib_local_paths(bmain, me->id.lib, &me_new->id);
625
626                 for(ob= bmain->object.first; ob; ob= ob->id.next) {
627                         if(me == ob->data) {
628                                 if(ob->id.lib==NULL) {
629                                         set_mesh(ob, me_new);
630                                 }
631                         }
632                 }
633         }
634 }
635
636 void boundbox_mesh(Mesh *me, float *loc, float *size)
637 {
638         BoundBox *bb;
639         float min[3], max[3];
640         float mloc[3], msize[3];
641         
642         if(me->bb==NULL) me->bb= MEM_callocN(sizeof(BoundBox), "boundbox");
643         bb= me->bb;
644
645         if (!loc) loc= mloc;
646         if (!size) size= msize;
647         
648         INIT_MINMAX(min, max);
649         if(!minmax_mesh(me, min, max)) {
650                 min[0] = min[1] = min[2] = -1.0f;
651                 max[0] = max[1] = max[2] = 1.0f;
652         }
653
654         mid_v3_v3v3(loc, min, max);
655                 
656         size[0]= (max[0]-min[0])/2.0f;
657         size[1]= (max[1]-min[1])/2.0f;
658         size[2]= (max[2]-min[2])/2.0f;
659         
660         boundbox_set_from_min_max(bb, min, max);
661 }
662
663 void tex_space_mesh(Mesh *me)
664 {
665         float loc[3], size[3];
666         int a;
667
668         boundbox_mesh(me, loc, size);
669
670         if(me->texflag & AUTOSPACE) {
671                 for (a=0; a<3; a++) {
672                         if(size[a]==0.0f) size[a]= 1.0f;
673                         else if(size[a]>0.0f && size[a]<0.00001f) size[a]= 0.00001f;
674                         else if(size[a]<0.0f && size[a]> -0.00001f) size[a]= -0.00001f;
675                 }
676
677                 copy_v3_v3(me->loc, loc);
678                 copy_v3_v3(me->size, size);
679                 zero_v3(me->rot);
680         }
681 }
682
683 BoundBox *mesh_get_bb(Object *ob)
684 {
685         Mesh *me= ob->data;
686
687         if(ob->bb)
688                 return ob->bb;
689
690         if (!me->bb)
691                 tex_space_mesh(me);
692
693         return me->bb;
694 }
695
696 void mesh_get_texspace(Mesh *me, float *loc_r, float *rot_r, float *size_r)
697 {
698         if (!me->bb) {
699                 tex_space_mesh(me);
700         }
701
702         if (loc_r) copy_v3_v3(loc_r, me->loc);
703         if (rot_r) copy_v3_v3(rot_r, me->rot);
704         if (size_r) copy_v3_v3(size_r, me->size);
705 }
706
707 float *get_mesh_orco_verts(Object *ob)
708 {
709         Mesh *me = ob->data;
710         MVert *mvert = NULL;
711         Mesh *tme = me->texcomesh?me->texcomesh:me;
712         int a, totvert;
713         float (*vcos)[3] = NULL;
714
715         /* Get appropriate vertex coordinates */
716         vcos = MEM_callocN(sizeof(*vcos)*me->totvert, "orco mesh");
717         mvert = tme->mvert;
718         totvert = MIN2(tme->totvert, me->totvert);
719
720         for(a=0; a<totvert; a++, mvert++) {
721                 copy_v3_v3(vcos[a], mvert->co);
722         }
723
724         return (float*)vcos;
725 }
726
727 void transform_mesh_orco_verts(Mesh *me, float (*orco)[3], int totvert, int invert)
728 {
729         float loc[3], size[3];
730         int a;
731
732         mesh_get_texspace(me->texcomesh?me->texcomesh:me, loc, NULL, size);
733
734         if(invert) {
735                 for(a=0; a<totvert; a++) {
736                         float *co = orco[a];
737                         madd_v3_v3v3v3(co, loc, co, size);
738                 }
739         }
740         else {
741                 for(a=0; a<totvert; a++) {
742                         float *co = orco[a];
743                         co[0] = (co[0]-loc[0])/size[0];
744                         co[1] = (co[1]-loc[1])/size[1];
745                         co[2] = (co[2]-loc[2])/size[2];
746                 }
747         }
748 }
749
750 /* rotates the vertices of a face in case v[2] or v[3] (vertex index) is = 0.
751    this is necessary to make the if(mface->v4) check for quads work */
752 int test_index_face(MFace *mface, CustomData *fdata, int mfindex, int nr)
753 {
754         /* first test if the face is legal */
755         if((mface->v3 || nr==4) && mface->v3==mface->v4) {
756                 mface->v4= 0;
757                 nr--;
758         }
759         if((mface->v2 || mface->v4) && mface->v2==mface->v3) {
760                 mface->v3= mface->v4;
761                 mface->v4= 0;
762                 nr--;
763         }
764         if(mface->v1==mface->v2) {
765                 mface->v2= mface->v3;
766                 mface->v3= mface->v4;
767                 mface->v4= 0;
768                 nr--;
769         }
770
771         /* check corrupt cases, bowtie geometry, cant handle these because edge data wont exist so just return 0 */
772         if(nr==3) {
773                 if(
774                 /* real edges */
775                         mface->v1==mface->v2 ||
776                         mface->v2==mface->v3 ||
777                         mface->v3==mface->v1
778                 ) {
779                         return 0;
780                 }
781         }
782         else if(nr==4) {
783                 if(
784                 /* real edges */
785                         mface->v1==mface->v2 ||
786                         mface->v2==mface->v3 ||
787                         mface->v3==mface->v4 ||
788                         mface->v4==mface->v1 ||
789                 /* across the face */
790                         mface->v1==mface->v3 ||
791                         mface->v2==mface->v4
792                 ) {
793                         return 0;
794                 }
795         }
796
797         /* prevent a zero at wrong index location */
798         if(nr==3) {
799                 if(mface->v3==0) {
800                         static int corner_indices[4] = {1, 2, 0, 3};
801
802                         SWAP(unsigned int, mface->v1, mface->v2);
803                         SWAP(unsigned int, mface->v2, mface->v3);
804
805                         if(fdata)
806                                 CustomData_swap(fdata, mfindex, corner_indices);
807                 }
808         }
809         else if(nr==4) {
810                 if(mface->v3==0 || mface->v4==0) {
811                         static int corner_indices[4] = {2, 3, 0, 1};
812
813                         SWAP(unsigned int, mface->v1, mface->v3);
814                         SWAP(unsigned int, mface->v2, mface->v4);
815
816                         if(fdata)
817                                 CustomData_swap(fdata, mfindex, corner_indices);
818                 }
819         }
820
821         return nr;
822 }
823
824 Mesh *get_mesh(Object *ob)
825 {
826         
827         if(ob==NULL) return NULL;
828         if(ob->type==OB_MESH) return ob->data;
829         else return NULL;
830 }
831
832 void set_mesh(Object *ob, Mesh *me)
833 {
834         Mesh *old=NULL;
835
836         multires_force_update(ob);
837         
838         if(ob==NULL) return;
839         
840         if(ob->type==OB_MESH) {
841                 old= ob->data;
842                 if (old)
843                         old->id.us--;
844                 ob->data= me;
845                 id_us_plus((ID *)me);
846         }
847         
848         test_object_materials((ID *)me);
849
850         test_object_modifiers(ob);
851 }
852
853 /* ************** make edges in a Mesh, for outside of editmode */
854
855 struct edgesort {
856         unsigned int v1, v2;
857         short is_loose, is_draw;
858 };
859
860 /* edges have to be added with lowest index first for sorting */
861 static void to_edgesort(struct edgesort *ed,
862                         unsigned int v1, unsigned int v2,
863                         short is_loose, short is_draw)
864 {
865         if(v1<v2) {
866                 ed->v1= v1; ed->v2= v2;
867         }
868         else {
869                 ed->v1= v2; ed->v2= v1;
870         }
871         ed->is_loose= is_loose;
872         ed->is_draw= is_draw;
873 }
874
875 static int vergedgesort(const void *v1, const void *v2)
876 {
877         const struct edgesort *x1=v1, *x2=v2;
878
879         if( x1->v1 > x2->v1) return 1;
880         else if( x1->v1 < x2->v1) return -1;
881         else if( x1->v2 > x2->v2) return 1;
882         else if( x1->v2 < x2->v2) return -1;
883         
884         return 0;
885 }
886
887 static void mfaces_strip_loose(MFace *mface, int *totface)
888 {
889         int a,b;
890
891         for (a=b=0; a<*totface; a++) {
892                 if (mface[a].v3) {
893                         if (a!=b) {
894                                 memcpy(&mface[b],&mface[a],sizeof(mface[b]));
895                         }
896                         b++;
897                 }
898         }
899
900         *totface= b;
901 }
902
903 /* Create edges based on known verts and faces */
904 static void make_edges_mdata(MVert *UNUSED(allvert), MFace *allface, MLoop *allloop,
905         MPoly *allpoly, int UNUSED(totvert), int totface, int UNUSED(totloop), int totpoly,
906         int old, MEdge **alledge, int *_totedge)
907 {
908         MPoly *mpoly;
909         MLoop *mloop;
910         MFace *mface;
911         MEdge *medge;
912         EdgeHash *hash = BLI_edgehash_new();
913         struct edgesort *edsort, *ed;
914         int a, b, totedge=0, final=0;
915
916         /* we put all edges in array, sort them, and detect doubles that way */
917
918         for(a= totface, mface= allface; a>0; a--, mface++) {
919                 if(mface->v4) totedge+=4;
920                 else if(mface->v3) totedge+=3;
921                 else totedge+=1;
922         }
923
924         if(totedge==0) {
925                 /* flag that mesh has edges */
926                 (*alledge)= MEM_callocN(0, "make mesh edges");
927                 (*_totedge) = 0;
928                 return;
929         }
930
931         ed= edsort= MEM_mallocN(totedge*sizeof(struct edgesort), "edgesort");
932
933         for(a= totface, mface= allface; a>0; a--, mface++) {
934                 to_edgesort(ed++, mface->v1, mface->v2, !mface->v3, mface->edcode & ME_V1V2);
935                 if(mface->v4) {
936                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
937                         to_edgesort(ed++, mface->v3, mface->v4, 0, mface->edcode & ME_V3V4);
938                         to_edgesort(ed++, mface->v4, mface->v1, 0, mface->edcode & ME_V4V1);
939                 }
940                 else if(mface->v3) {
941                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
942                         to_edgesort(ed++, mface->v3, mface->v1, 0, mface->edcode & ME_V3V1);
943                 }
944         }
945
946         qsort(edsort, totedge, sizeof(struct edgesort), vergedgesort);
947
948         /* count final amount */
949         for(a=totedge, ed=edsort; a>1; a--, ed++) {
950                 /* edge is unique when it differs from next edge, or is last */
951                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) final++;
952         }
953         final++;
954
955         (*alledge)= medge= MEM_callocN(sizeof (MEdge) * final, "make_edges mdge");
956         (*_totedge)= final;
957
958         for(a=totedge, ed=edsort; a>1; a--, ed++) {
959                 /* edge is unique when it differs from next edge, or is last */
960                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) {
961                         medge->v1= ed->v1;
962                         medge->v2= ed->v2;
963                         if(old==0 || ed->is_draw) medge->flag= ME_EDGEDRAW|ME_EDGERENDER;
964                         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
965
966                         /* order is swapped so extruding this edge as a surface wont flip face normals
967                          * with cyclic curves */
968                         if(ed->v1+1 != ed->v2) {
969                                 SWAP(unsigned int, medge->v1, medge->v2);
970                         }
971                         medge++;
972                 }
973                 else {
974                         /* equal edge, we merge the drawflag */
975                         (ed+1)->is_draw |= ed->is_draw;
976                 }
977         }
978         /* last edge */
979         medge->v1= ed->v1;
980         medge->v2= ed->v2;
981         medge->flag= ME_EDGEDRAW;
982         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
983         medge->flag |= ME_EDGERENDER;
984
985         MEM_freeN(edsort);
986         
987         /*set edge members of mloops*/
988         medge= *alledge;
989         for (a=0; a<*_totedge; a++, medge++) {
990                 BLI_edgehash_insert(hash, medge->v1, medge->v2, SET_INT_IN_POINTER(a));
991         }
992         
993         mpoly = allpoly;
994         for (a=0; a<totpoly; a++, mpoly++) {
995                 mloop = allloop + mpoly->loopstart;
996                 for (b=0; b<mpoly->totloop; b++) {
997                         int v1, v2;
998                         
999                         v1 = mloop[b].v;
1000                         v2 = ME_POLY_LOOP_NEXT(mloop, mpoly, b)->v;
1001                         mloop[b].e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(hash, v1, v2));
1002                 }
1003         }
1004         
1005         BLI_edgehash_free(hash, NULL);
1006 }
1007
1008 void make_edges(Mesh *me, int old)
1009 {
1010         MEdge *medge;
1011         int totedge=0;
1012
1013         make_edges_mdata(me->mvert, me->mface, me->mloop, me->mpoly, me->totvert, me->totface, me->totloop, me->totpoly, old, &medge, &totedge);
1014         if(totedge==0) {
1015                 /* flag that mesh has edges */
1016                 me->medge = medge;
1017                 me->totedge = 0;
1018                 return;
1019         }
1020
1021         medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, medge, totedge);
1022         me->medge= medge;
1023         me->totedge= totedge;
1024
1025         mesh_strip_loose_faces(me);
1026 }
1027
1028 void mesh_strip_loose_faces(Mesh *me)
1029 {
1030         int a,b;
1031
1032         for (a=b=0; a<me->totface; a++) {
1033                 if (me->mface[a].v3) {
1034                         if (a!=b) {
1035                                 memcpy(&me->mface[b],&me->mface[a],sizeof(me->mface[b]));
1036                                 CustomData_copy_data(&me->fdata, &me->fdata, a, b, 1);
1037                                 CustomData_free_elem(&me->fdata, a, 1);
1038                         }
1039                         b++;
1040                 }
1041         }
1042         me->totface = b;
1043 }
1044
1045 void mesh_strip_loose_edges(Mesh *me)
1046 {
1047         int a,b;
1048
1049         for (a=b=0; a<me->totedge; a++) {
1050                 if (me->medge[a].v1!=me->medge[a].v2) {
1051                         if (a!=b) {
1052                                 memcpy(&me->medge[b],&me->medge[a],sizeof(me->medge[b]));
1053                                 CustomData_copy_data(&me->edata, &me->edata, a, b, 1);
1054                                 CustomData_free_elem(&me->edata, a, 1);
1055                         }
1056                         b++;
1057                 }
1058         }
1059         me->totedge = b;
1060 }
1061
1062 void mball_to_mesh(ListBase *lb, Mesh *me)
1063 {
1064         DispList *dl;
1065         MVert *mvert;
1066         MFace *mface;
1067         float *nors, *verts;
1068         int a, *index;
1069         
1070         dl= lb->first;
1071         if(dl==NULL) return;
1072
1073         if(dl->type==DL_INDEX4) {
1074                 me->totvert= dl->nr;
1075                 me->totface= dl->parts;
1076                 
1077                 mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, dl->nr);
1078                 mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, dl->parts);
1079                 me->mvert= mvert;
1080                 me->mface= mface;
1081
1082                 a= dl->nr;
1083                 nors= dl->nors;
1084                 verts= dl->verts;
1085                 while(a--) {
1086                         copy_v3_v3(mvert->co, verts);
1087                         normal_float_to_short_v3(mvert->no, nors);
1088                         mvert++;
1089                         nors+= 3;
1090                         verts+= 3;
1091                 }
1092                 
1093                 a= dl->parts;
1094                 index= dl->index;
1095                 while(a--) {
1096                         mface->v1= index[0];
1097                         mface->v2= index[1];
1098                         mface->v3= index[2];
1099                         mface->v4= index[3];
1100                         mface->flag= ME_SMOOTH;
1101
1102                         test_index_face(mface, NULL, 0, (mface->v3==mface->v4)? 3: 4);
1103
1104                         mface++;
1105                         index+= 4;
1106                 }
1107
1108                 make_edges(me, 0);      // all edges
1109                 convert_mfaces_to_mpolys(me);
1110
1111                 me->totface = mesh_recalcTesselation(
1112                         &me->fdata, &me->ldata, &me->pdata,
1113                         me->mvert, me->totface, me->totloop, me->totpoly);
1114
1115                 mesh_update_customdata_pointers(me, TRUE);
1116         }
1117 }
1118
1119 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1120 /* return non-zero on error */
1121 int nurbs_to_mdata(Object *ob, MVert **allvert, int *totvert,
1122         MEdge **alledge, int *totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1123         int *totface, int *totloop, int *totpoly)
1124 {
1125         return nurbs_to_mdata_customdb(ob, &ob->disp,
1126                 allvert, totvert, alledge, totedge, allface, allloop, allpoly, totface, totloop, totpoly);
1127 }
1128
1129 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1130 /* use specified dispbase  */
1131 int nurbs_to_mdata_customdb(Object *ob, ListBase *dispbase, MVert **allvert, int *_totvert,
1132         MEdge **alledge, int *_totedge, MFace **allface, MLoop **allloop, MPoly **allpoly, 
1133         int *_totface, int *_totloop, int *_totpoly)
1134 {
1135         DispList *dl;
1136         Curve *cu;
1137         MVert *mvert;
1138         MFace *mface;
1139         MPoly *mpoly;
1140         MLoop *mloop;
1141         float *data;
1142         int a, b, ofs, vertcount, startvert, totvert=0, totvlak=0;
1143         int p1, p2, p3, p4, *index;
1144         int conv_polys= 0;
1145         int i, j;
1146
1147         cu= ob->data;
1148
1149         conv_polys|= cu->flag & CU_3D;          /* 2d polys are filled with DL_INDEX3 displists */
1150         conv_polys|= ob->type == OB_SURF;       /* surf polys are never filled */
1151
1152         /* count */
1153         dl= dispbase->first;
1154         while(dl) {
1155                 if(dl->type==DL_SEGM) {
1156                         totvert+= dl->parts*dl->nr;
1157                         totvlak+= dl->parts*(dl->nr-1);
1158                 }
1159                 else if(dl->type==DL_POLY) {
1160                         if(conv_polys) {
1161                                 totvert+= dl->parts*dl->nr;
1162                                 totvlak+= dl->parts*dl->nr;
1163                         }
1164                 }
1165                 else if(dl->type==DL_SURF) {
1166                         totvert+= dl->parts*dl->nr;
1167                         totvlak+= (dl->parts-1+((dl->flag & DL_CYCL_V)==2))*(dl->nr-1+(dl->flag & DL_CYCL_U));
1168                 }
1169                 else if(dl->type==DL_INDEX3) {
1170                         totvert+= dl->nr;
1171                         totvlak+= dl->parts;
1172                 }
1173                 dl= dl->next;
1174         }
1175
1176         if(totvert==0) {
1177                 /* error("can't convert"); */
1178                 /* Make Sure you check ob->data is a curve */
1179                 return -1;
1180         }
1181
1182         *allvert= mvert= MEM_callocN(sizeof (MVert) * totvert, "nurbs_init mvert");
1183         *allface= mface= MEM_callocN(sizeof (MFace) * totvlak, "nurbs_init mface");
1184         *allloop = mloop = MEM_callocN(sizeof(MLoop) * totvlak * 4, "nurbs_init mloop");
1185         *allpoly = mpoly = MEM_callocN(sizeof(MPoly) * totvlak * 4, "nurbs_init mloop");
1186         
1187         /* verts and faces */
1188         vertcount= 0;
1189
1190         dl= dispbase->first;
1191         while(dl) {
1192                 int smooth= dl->rt & CU_SMOOTH ? 1 : 0;
1193
1194                 if(dl->type==DL_SEGM) {
1195                         startvert= vertcount;
1196                         a= dl->parts*dl->nr;
1197                         data= dl->verts;
1198                         while(a--) {
1199                                 copy_v3_v3(mvert->co, data);
1200                                 data+=3;
1201                                 vertcount++;
1202                                 mvert++;
1203                         }
1204
1205                         for(a=0; a<dl->parts; a++) {
1206                                 ofs= a*dl->nr;
1207                                 for(b=1; b<dl->nr; b++) {
1208                                         mface->v1= startvert+ofs+b-1;
1209                                         mface->v2= startvert+ofs+b;
1210                                         if(smooth) mface->flag |= ME_SMOOTH;
1211                                         mface++;
1212                                 }
1213                         }
1214
1215                 }
1216                 else if(dl->type==DL_POLY) {
1217                         if(conv_polys) {
1218                                 startvert= vertcount;
1219                                 a= dl->parts*dl->nr;
1220                                 data= dl->verts;
1221                                 while(a--) {
1222                                         copy_v3_v3(mvert->co, data);
1223                                         data+=3;
1224                                         vertcount++;
1225                                         mvert++;
1226                                 }
1227
1228                                 for(a=0; a<dl->parts; a++) {
1229                                         ofs= a*dl->nr;
1230                                         for(b=0; b<dl->nr; b++) {
1231                                                 mface->v1= startvert+ofs+b;
1232                                                 if(b==dl->nr-1) mface->v2= startvert+ofs;
1233                                                 else mface->v2= startvert+ofs+b+1;
1234                                                 if(smooth) mface->flag |= ME_SMOOTH;
1235                                                 mface++;
1236                                         }
1237                                 }
1238                         }
1239                 }
1240                 else if(dl->type==DL_INDEX3) {
1241                         startvert= vertcount;
1242                         a= dl->nr;
1243                         data= dl->verts;
1244                         while(a--) {
1245                                 copy_v3_v3(mvert->co, data);
1246                                 data+=3;
1247                                 vertcount++;
1248                                 mvert++;
1249                         }
1250
1251                         a= dl->parts;
1252                         index= dl->index;
1253                         while(a--) {
1254                                 mface->v1= startvert+index[0];
1255                                 mface->v2= startvert+index[2];
1256                                 mface->v3= startvert+index[1];
1257                                 mface->v4= 0;
1258                                 mface->mat_nr= dl->col;
1259                                 test_index_face(mface, NULL, 0, 3);
1260
1261                                 if(smooth) mface->flag |= ME_SMOOTH;
1262                                 mface++;
1263                                 index+= 3;
1264                         }
1265
1266
1267                 }
1268                 else if(dl->type==DL_SURF) {
1269                         startvert= vertcount;
1270                         a= dl->parts*dl->nr;
1271                         data= dl->verts;
1272                         while(a--) {
1273                                 copy_v3_v3(mvert->co, data);
1274                                 data+=3;
1275                                 vertcount++;
1276                                 mvert++;
1277                         }
1278
1279                         for(a=0; a<dl->parts; a++) {
1280
1281                                 if( (dl->flag & DL_CYCL_V)==0 && a==dl->parts-1) break;
1282
1283                                 if(dl->flag & DL_CYCL_U) {                      /* p2 -> p1 -> */
1284                                         p1= startvert+ dl->nr*a;        /* p4 -> p3 -> */
1285                                         p2= p1+ dl->nr-1;               /* -----> next row */
1286                                         p3= p1+ dl->nr;
1287                                         p4= p2+ dl->nr;
1288                                         b= 0;
1289                                 }
1290                                 else {
1291                                         p2= startvert+ dl->nr*a;
1292                                         p1= p2+1;
1293                                         p4= p2+ dl->nr;
1294                                         p3= p1+ dl->nr;
1295                                         b= 1;
1296                                 }
1297                                 if( (dl->flag & DL_CYCL_V) && a==dl->parts-1) {
1298                                         p3-= dl->parts*dl->nr;
1299                                         p4-= dl->parts*dl->nr;
1300                                 }
1301
1302                                 for(; b<dl->nr; b++) {
1303                                         mface->v1= p1;
1304                                         mface->v2= p3;
1305                                         mface->v3= p4;
1306                                         mface->v4= p2;
1307                                         mface->mat_nr= dl->col;
1308                                         test_index_face(mface, NULL, 0, 4);
1309
1310                                         if(smooth) mface->flag |= ME_SMOOTH;
1311                                         mface++;
1312
1313                                         p4= p3;
1314                                         p3++;
1315                                         p2= p1;
1316                                         p1++;
1317                                 }
1318                         }
1319
1320                 }
1321
1322                 dl= dl->next;
1323         }
1324         
1325         mface= *allface;
1326         j = 0;
1327         for (i=0; i<totvert; i++, mpoly++, mface++) {
1328                 int k;
1329                 
1330                 if (!mface->v3) {
1331                         mpoly--;
1332                         i--;
1333                         continue;
1334                 }
1335                 
1336                 if (mface >= *allface + totvlak)
1337                         break;
1338
1339                 mpoly->flag |= mface->flag & ME_SMOOTH;
1340                 mpoly->loopstart= j;
1341                 mpoly->totloop= mface->v4 ? 4 : 3;
1342                 for (k=0; k<mpoly->totloop; k++, mloop++, j++) {
1343                         mloop->v = (&mface->v1)[k];
1344                 }
1345         }
1346         
1347         *_totpoly= i;
1348         *_totloop= j;
1349         *_totvert= totvert;
1350         *_totface= totvlak;
1351
1352         make_edges_mdata(*allvert, *allface, *allloop, *allpoly, totvert, totvlak, *_totloop, *_totpoly, 0, alledge, _totedge);
1353         mfaces_strip_loose(*allface, _totface);
1354
1355         return 0;
1356 }
1357
1358 /* this may fail replacing ob->data, be sure to check ob->type */
1359 void nurbs_to_mesh(Object *ob)
1360 {
1361         Main *bmain= G.main;
1362         Object *ob1;
1363         DerivedMesh *dm= ob->derivedFinal;
1364         Mesh *me;
1365         Curve *cu;
1366         MVert *allvert= NULL;
1367         MEdge *alledge= NULL;
1368         MFace *allface= NULL;
1369         MLoop *allloop = NULL;
1370         MPoly *allpoly = NULL;
1371         int totvert, totedge, totface, totloop, totpoly;
1372
1373         cu= ob->data;
1374
1375         if (dm == NULL) {
1376                 if (nurbs_to_mdata (ob, &allvert, &totvert, &alledge, &totedge, &allface, &allloop, &allpoly, &totface, &totloop, &totpoly) != 0) {
1377                         /* Error initializing */
1378                         return;
1379                 }
1380
1381                 /* make mesh */
1382                 me= add_mesh("Mesh");
1383                 me->totvert= totvert;
1384                 me->totface= totface;
1385                 me->totedge= totedge;
1386                 me->totloop = totloop;
1387                 me->totpoly = totpoly;
1388
1389                 me->mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_ASSIGN, allvert, me->totvert);
1390                 me->medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, alledge, me->totedge);
1391                 me->mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_ASSIGN, allface, me->totface);
1392                 me->mloop= CustomData_add_layer(&me->ldata, CD_MLOOP, CD_ASSIGN, allloop, me->totloop);
1393                 me->mpoly= CustomData_add_layer(&me->pdata, CD_MPOLY, CD_ASSIGN, allpoly, me->totpoly);
1394
1395                 mesh_calc_normals(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, me->totpoly, NULL, NULL, 0, NULL, NULL);
1396         } else {
1397                 me= add_mesh("Mesh");
1398                 DM_to_mesh(dm, me, ob);
1399         }
1400
1401         me->totcol= cu->totcol;
1402         me->mat= cu->mat;
1403
1404         tex_space_mesh(me);
1405
1406         cu->mat= NULL;
1407         cu->totcol= 0;
1408
1409         if(ob->data) {
1410                 free_libblock(&bmain->curve, ob->data);
1411         }
1412         ob->data= me;
1413         ob->type= OB_MESH;
1414
1415         /* other users */
1416         ob1= bmain->object.first;
1417         while(ob1) {
1418                 if(ob1->data==cu) {
1419                         ob1->type= OB_MESH;
1420                 
1421                         ob1->data= ob->data;
1422                         id_us_plus((ID *)ob->data);
1423                 }
1424                 ob1= ob1->id.next;
1425         }
1426 }
1427
1428 typedef struct EdgeLink {
1429         Link *next, *prev;
1430         void *edge;
1431 } EdgeLink;
1432
1433 typedef struct VertLink {
1434         Link *next, *prev;
1435         unsigned int index;
1436 } VertLink;
1437
1438 static void prependPolyLineVert(ListBase *lb, unsigned int index)
1439 {
1440         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1441         vl->index = index;
1442         BLI_addhead(lb, vl);
1443 }
1444
1445 static void appendPolyLineVert(ListBase *lb, unsigned int index)
1446 {
1447         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1448         vl->index = index;
1449         BLI_addtail(lb, vl);
1450 }
1451
1452 void mesh_to_curve(Scene *scene, Object *ob)
1453 {
1454         /* make new mesh data from the original copy */
1455         DerivedMesh *dm= mesh_get_derived_final(scene, ob, CD_MASK_MESH);
1456
1457         MVert *mverts= dm->getVertArray(dm);
1458         MEdge *med, *medge= dm->getEdgeArray(dm);
1459         MFace *mf,  *mface= dm->getTessFaceArray(dm);
1460
1461         int totedge = dm->getNumEdges(dm);
1462         int totface = dm->getNumTessFaces(dm);
1463         int totedges = 0;
1464         int i, needsFree = 0;
1465
1466         /* only to detect edge polylines */
1467         EdgeHash *eh = BLI_edgehash_new();
1468         EdgeHash *eh_edge = BLI_edgehash_new();
1469
1470
1471         ListBase edges = {NULL, NULL};
1472
1473         /* create edges from all faces (so as to find edges not in any faces) */
1474         mf= mface;
1475         for (i = 0; i < totface; i++, mf++) {
1476                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
1477                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
1478                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
1479                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
1480
1481                 if (mf->v4) {
1482                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
1483                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
1484                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
1485                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
1486                 } else {
1487                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
1488                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
1489                 }
1490         }
1491
1492         med= medge;
1493         for(i=0; i<totedge; i++, med++) {
1494                 if (!BLI_edgehash_haskey(eh, med->v1, med->v2)) {
1495                         EdgeLink *edl= MEM_callocN(sizeof(EdgeLink), "EdgeLink");
1496
1497                         BLI_edgehash_insert(eh_edge, med->v1, med->v2, NULL);
1498                         edl->edge= med;
1499
1500                         BLI_addtail(&edges, edl);       totedges++;
1501                 }
1502         }
1503         BLI_edgehash_free(eh_edge, NULL);
1504         BLI_edgehash_free(eh, NULL);
1505
1506         if(edges.first) {
1507                 Curve *cu = add_curve(ob->id.name+2, OB_CURVE);
1508                 cu->flag |= CU_3D;
1509
1510                 while(edges.first) {
1511                         /* each iteration find a polyline and add this as a nurbs poly spline */
1512
1513                         ListBase polyline = {NULL, NULL}; /* store a list of VertLink's */
1514                         int closed = FALSE;
1515                         int totpoly= 0;
1516                         MEdge *med_current= ((EdgeLink *)edges.last)->edge;
1517                         unsigned int startVert= med_current->v1;
1518                         unsigned int endVert= med_current->v2;
1519                         int ok= TRUE;
1520
1521                         appendPolyLineVert(&polyline, startVert);       totpoly++;
1522                         appendPolyLineVert(&polyline, endVert);         totpoly++;
1523                         BLI_freelinkN(&edges, edges.last);                      totedges--;
1524
1525                         while(ok) { /* while connected edges are found... */
1526                                 ok = FALSE;
1527                                 i= totedges;
1528                                 while(i) {
1529                                         EdgeLink *edl;
1530
1531                                         i-=1;
1532                                         edl= BLI_findlink(&edges, i);
1533                                         med= edl->edge;
1534
1535                                         if(med->v1==endVert) {
1536                                                 endVert = med->v2;
1537                                                 appendPolyLineVert(&polyline, med->v2); totpoly++;
1538                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1539                                                 ok= TRUE;
1540                                         }
1541                                         else if(med->v2==endVert) {
1542                                                 endVert = med->v1;
1543                                                 appendPolyLineVert(&polyline, endVert); totpoly++;
1544                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1545                                                 ok= TRUE;
1546                                         }
1547                                         else if(med->v1==startVert) {
1548                                                 startVert = med->v2;
1549                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1550                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1551                                                 ok= TRUE;
1552                                         }
1553                                         else if(med->v2==startVert) {
1554                                                 startVert = med->v1;
1555                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1556                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1557                                                 ok= TRUE;
1558                                         }
1559                                 }
1560                         }
1561
1562                         /* Now we have a polyline, make into a curve */
1563                         if(startVert==endVert) {
1564                                 BLI_freelinkN(&polyline, polyline.last);
1565                                 totpoly--;
1566                                 closed = TRUE;
1567                         }
1568
1569                         /* --- nurbs --- */
1570                         {
1571                                 Nurb *nu;
1572                                 BPoint *bp;
1573                                 VertLink *vl;
1574
1575                                 /* create new 'nurb' within the curve */
1576                                 nu = (Nurb *)MEM_callocN(sizeof(Nurb), "MeshNurb");
1577
1578                                 nu->pntsu= totpoly;
1579                                 nu->pntsv= 1;
1580                                 nu->orderu= 4;
1581                                 nu->flagu= CU_NURB_ENDPOINT | (closed ? CU_NURB_CYCLIC:0);      /* endpoint */
1582                                 nu->resolu= 12;
1583
1584                                 nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*totpoly, "bpoints");
1585
1586                                 /* add points */
1587                                 vl= polyline.first;
1588                                 for (i=0, bp=nu->bp; i < totpoly; i++, bp++, vl=(VertLink *)vl->next) {
1589                                         copy_v3_v3(bp->vec, mverts[vl->index].co);
1590                                         bp->f1= SELECT;
1591                                         bp->radius = bp->weight = 1.0;
1592                                 }
1593                                 BLI_freelistN(&polyline);
1594
1595                                 /* add nurb to curve */
1596                                 BLI_addtail(&cu->nurb, nu);
1597                         }
1598                         /* --- done with nurbs --- */
1599                 }
1600
1601                 ((Mesh *)ob->data)->id.us--;
1602                 ob->data= cu;
1603                 ob->type= OB_CURVE;
1604
1605                 /* curve objects can't contain DM in usual cases, we could free memory */
1606                 needsFree= 1;
1607         }
1608
1609         dm->needsFree = needsFree;
1610         dm->release(dm);
1611
1612         if (needsFree) {
1613                 ob->derivedFinal = NULL;
1614
1615                 /* curve object could have got bounding box only in special cases */
1616                 if(ob->bb) {
1617                         MEM_freeN(ob->bb);
1618                         ob->bb= NULL;
1619                 }
1620         }
1621 }
1622
1623 void mesh_delete_material_index(Mesh *me, short index)
1624 {
1625         int i;
1626
1627         for (i=0; i<me->totpoly; i++) {
1628                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1629                 if (mp->mat_nr && mp->mat_nr>=index) 
1630                         mp->mat_nr--;
1631         }
1632         
1633         for (i=0; i<me->totface; i++) {
1634                 MFace *mf = &((MFace*) me->mface)[i];
1635                 if (mf->mat_nr && mf->mat_nr>=index) 
1636                         mf->mat_nr--;
1637         }
1638 }
1639
1640 void mesh_set_smooth_flag(Object *meshOb, int enableSmooth) 
1641 {
1642         Mesh *me = meshOb->data;
1643         int i;
1644
1645         for (i=0; i<me->totpoly; i++) {
1646                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1647
1648                 if (enableSmooth) {
1649                         mp->flag |= ME_SMOOTH;
1650                 } else {
1651                         mp->flag &= ~ME_SMOOTH;
1652                 }
1653         }
1654         
1655         for (i=0; i<me->totface; i++) {
1656                 MFace *mf = &((MFace*) me->mface)[i];
1657
1658                 if (enableSmooth) {
1659                         mf->flag |= ME_SMOOTH;
1660                 } else {
1661                         mf->flag &= ~ME_SMOOTH;
1662                 }
1663         }
1664
1665         mesh_calc_normals(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, 
1666                                           me->totpoly, NULL, NULL, 0, NULL, NULL);
1667 }
1668
1669 void mesh_calc_normals(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1670                 int numLoops, int numPolys, float (*polyNors_r)[3], MFace *mfaces, int numFaces,
1671                 int *origIndexFace, float (*faceNors_r)[3])
1672 {
1673         mesh_calc_normals_ex(mverts, numVerts, mloop, mpolys,
1674                           numLoops, numPolys, polyNors_r, mfaces, numFaces,
1675                           origIndexFace, faceNors_r, TRUE);
1676 }
1677 void mesh_calc_normals_ex(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1678                 int UNUSED(numLoops), int numPolys, float (*polyNors_r)[3], MFace *mfaces, int numFaces,
1679                 int *origIndexFace, float (*faceNors_r)[3],
1680                 const short only_face_normals)
1681 {
1682         float (*pnors)[3] = polyNors_r, (*fnors)[3] = faceNors_r;
1683         int i, j;
1684         MFace *mf;
1685         MPoly *mp;
1686         MLoop *ml;
1687
1688         if (numPolys == 0) {
1689                 return;
1690         }
1691
1692         /* if we are not calculating verts and no verts were passes thene we have nothign to do */
1693         if ((only_face_normals == TRUE) && (polyNors_r == NULL) && (faceNors_r == NULL)) {
1694                 printf("%s: called with nothing to do\n", __func__);
1695                 return;
1696         }
1697
1698         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1699         /* if (!fnors) fnors = MEM_callocN(sizeof(float) * 3 * numFaces, "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
1700
1701
1702         if (only_face_normals == FALSE) {
1703                 /* vertex normals are optional, they require some extra calculations,
1704                  * so make them optional */
1705
1706                 float (*tnorms)[3], (*edgevecbuf)[3]= NULL;
1707                 float **vertcos = NULL, **vertnos = NULL;
1708                 BLI_array_declare(vertcos);
1709                 BLI_array_declare(vertnos);
1710                 BLI_array_declare(edgevecbuf);
1711
1712                 /*first go through and calculate normals for all the polys*/
1713                 tnorms = MEM_callocN(sizeof(float)*3*numVerts, "tnorms mesh.c");
1714
1715                 mp = mpolys;
1716                 for (i=0; i<numPolys; i++, mp++) {
1717                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1718                         ml = mloop + mp->loopstart;
1719
1720                         BLI_array_empty(vertcos);
1721                         BLI_array_empty(vertnos);
1722                         for (j=0; j<mp->totloop; j++) {
1723                                 int vindex = ml[j].v;
1724                                 BLI_array_append(vertcos, mverts[vindex].co);
1725                                 BLI_array_append(vertnos, tnorms[vindex]);
1726                         }
1727
1728                         BLI_array_empty(edgevecbuf);
1729                         BLI_array_growitems(edgevecbuf, mp->totloop);
1730
1731                         accumulate_vertex_normals_poly(vertnos, pnors[i], vertcos, edgevecbuf, mp->totloop);
1732                 }
1733
1734                 BLI_array_free(vertcos);
1735                 BLI_array_free(vertnos);
1736                 BLI_array_free(edgevecbuf);
1737
1738                 /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1739                 for(i=0; i<numVerts; i++) {
1740                         MVert *mv= &mverts[i];
1741                         float *no= tnorms[i];
1742
1743                         if(normalize_v3(no) == 0.0f)
1744                                 normalize_v3_v3(no, mv->co);
1745
1746                         normal_float_to_short_v3(mv->no, no);
1747                 }
1748
1749                 MEM_freeN(tnorms);
1750         }
1751         else {
1752                 /* only calc poly normals */
1753                 mp = mpolys;
1754                 for (i=0; i<numPolys; i++, mp++) {
1755                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1756                 }
1757         }
1758
1759         if ( origIndexFace &&
1760              /* fnors==faceNors_r */ /* NO NEED TO ALLOC YET */
1761              fnors != NULL &&
1762              numFaces)
1763         {
1764                 mf = mfaces;
1765                 for (i=0; i<numFaces; i++, mf++, origIndexFace++) {
1766                         if (*origIndexFace < numPolys) {
1767                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
1768                         } else {
1769                                 /*eek, we're not corrusponding to polys*/
1770                                 printf("error in mesh_calc_normals; tesselation face indices are incorrect.  normals may look bad.\n");
1771                         }
1772                 }
1773         }
1774
1775         if (pnors != polyNors_r) MEM_freeN(pnors);
1776         /* if (fnors != faceNors_r) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
1777
1778         fnors = pnors = NULL;
1779         
1780 }
1781
1782 void mesh_calc_tessface_normals(MVert *mverts, int numVerts, MFace *mfaces, int numFaces, float (*faceNors_r)[3]) 
1783 {
1784         float (*tnorms)[3]= MEM_callocN(numVerts*sizeof(*tnorms), "tnorms");
1785         float (*fnors)[3]= (faceNors_r)? faceNors_r: MEM_callocN(sizeof(*fnors)*numFaces, "meshnormals");
1786         int i;
1787
1788         for(i=0; i<numFaces; i++) {
1789                 MFace *mf= &mfaces[i];
1790                 float *f_no= fnors[i];
1791                 float *n4 = (mf->v4)? tnorms[mf->v4]: NULL;
1792                 float *c4 = (mf->v4)? mverts[mf->v4].co: NULL;
1793
1794                 if(mf->v4)
1795                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
1796                 else
1797                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
1798
1799                 accumulate_vertex_normals(tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
1800                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
1801         }
1802
1803         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1804         for(i=0; i<numVerts; i++) {
1805                 MVert *mv= &mverts[i];
1806                 float *no= tnorms[i];
1807                 
1808                 if(normalize_v3(no) == 0.0f)
1809                         normalize_v3_v3(no, mv->co);
1810
1811                 normal_float_to_short_v3(mv->no, no);
1812         }
1813         
1814         MEM_freeN(tnorms);
1815
1816         if(fnors != faceNors_r)
1817                 MEM_freeN(fnors);
1818 }
1819
1820
1821 static void bmesh_corners_to_loops(Mesh *me, int findex, int loopstart, int numTex, int numCol)
1822 {
1823         MTFace *texface;
1824         MTexPoly *texpoly;
1825         MCol *mcol;
1826         MLoopCol *mloopcol;
1827         MLoopUV *mloopuv;
1828         MFace *mf;
1829         int i;
1830
1831         mf = me->mface + findex;
1832
1833         for(i=0; i < numTex; i++){
1834                 texface = CustomData_get_n(&me->fdata, CD_MTFACE, findex, i);
1835                 texpoly = CustomData_get_n(&me->pdata, CD_MTEXPOLY, findex, i); 
1836                 
1837                 texpoly->tpage = texface->tpage;
1838                 texpoly->flag = texface->flag;
1839                 texpoly->transp = texface->transp;
1840                 texpoly->mode = texface->mode;
1841                 texpoly->tile = texface->tile;
1842                 texpoly->unwrap = texface->unwrap;
1843         
1844                 mloopuv = CustomData_get_n(&me->ldata, CD_MLOOPUV, loopstart, i);
1845                 mloopuv->uv[0] = texface->uv[0][0]; mloopuv->uv[1] = texface->uv[0][1]; mloopuv++;
1846                 mloopuv->uv[0] = texface->uv[1][0]; mloopuv->uv[1] = texface->uv[1][1]; mloopuv++;
1847                 mloopuv->uv[0] = texface->uv[2][0]; mloopuv->uv[1] = texface->uv[2][1]; mloopuv++;
1848
1849                 if (mf->v4) {
1850                         mloopuv->uv[0] = texface->uv[3][0]; mloopuv->uv[1] = texface->uv[3][1]; mloopuv++;
1851                 }
1852         }
1853
1854         for(i=0; i < numCol; i++){
1855                 mloopcol = CustomData_get_n(&me->ldata, CD_MLOOPCOL, loopstart, i);
1856                 mcol = CustomData_get_n(&me->fdata, CD_MCOL, findex, i);
1857
1858                 mloopcol->r = mcol[0].r; mloopcol->g = mcol[0].g; mloopcol->b = mcol[0].b; mloopcol->a = mcol[0].a; mloopcol++;
1859                 mloopcol->r = mcol[1].r; mloopcol->g = mcol[1].g; mloopcol->b = mcol[1].b; mloopcol->a = mcol[1].a; mloopcol++;
1860                 mloopcol->r = mcol[2].r; mloopcol->g = mcol[2].g; mloopcol->b = mcol[2].b; mloopcol->a = mcol[2].a; mloopcol++;
1861                 if (mf->v4) {
1862                         mloopcol->r = mcol[3].r; mloopcol->g = mcol[3].g; mloopcol->b = mcol[3].b; mloopcol->a = mcol[3].a; mloopcol++;
1863                 }
1864         }
1865         
1866         if (CustomData_has_layer(&me->fdata, CD_MDISPS)) {
1867                 MDisps *ld = CustomData_get(&me->ldata, loopstart, CD_MDISPS);
1868                 MDisps *fd = CustomData_get(&me->fdata, findex, CD_MDISPS);
1869                 float (*disps)[3] = fd->disps;
1870                 int i, tot = mf->v4 ? 4 : 3;
1871                 int side, corners;
1872                 
1873                 corners = multires_mdisp_corners(fd);
1874                 
1875                 if (corners == 0) {
1876                         /* Empty MDisp layers appear in at least one of the sintel.blend files.
1877                            Not sure why this happens, but it seems fine to just ignore them here.
1878                            If corners==0 for a non-empty layer though, something went wrong. */
1879                         BLI_assert(fd->totdisp == 0);
1880                 }
1881                 else {
1882                         side = sqrt(fd->totdisp / corners);
1883                 
1884                         for (i=0; i<tot; i++, disps += side*side, ld++) {
1885                                 ld->totdisp = side*side;
1886                         
1887                                 if (ld->disps)
1888                                         BLI_cellalloc_free(ld->disps);
1889                         
1890                                 ld->disps = BLI_cellalloc_calloc(sizeof(float)*3*side*side, "converted loop mdisps");
1891                                 if (fd->disps) {
1892                                         memcpy(ld->disps, disps, sizeof(float)*3*side*side);
1893                                 }
1894                         }
1895                 }
1896         }
1897 }
1898
1899 void convert_mfaces_to_mpolys(Mesh *mesh)
1900 {
1901         MFace *mf;
1902         MLoop *ml;
1903         MPoly *mp;
1904         MEdge *me;
1905         EdgeHash *eh;
1906         int numTex, numCol;
1907         int i, j, totloop;
1908
1909         mesh->totpoly = mesh->totface;
1910         mesh->mpoly = MEM_callocN(sizeof(MPoly)*mesh->totpoly, "mpoly converted");
1911         CustomData_add_layer(&mesh->pdata, CD_MPOLY, CD_ASSIGN, mesh->mpoly, mesh->totpoly);
1912
1913         numTex = CustomData_number_of_layers(&mesh->fdata, CD_MTFACE);
1914         numCol = CustomData_number_of_layers(&mesh->fdata, CD_MCOL);
1915         
1916         totloop = 0;
1917         mf = mesh->mface;
1918         for (i=0; i<mesh->totface; i++, mf++) {
1919                 totloop += mf->v4 ? 4 : 3;
1920         }
1921         
1922         mesh->totloop = totloop;
1923         mesh->mloop = MEM_callocN(sizeof(MLoop)*mesh->totloop, "mloop converted");
1924
1925         CustomData_add_layer(&mesh->ldata, CD_MLOOP, CD_ASSIGN, mesh->mloop, totloop);
1926         CustomData_to_bmeshpoly(&mesh->fdata, &mesh->pdata, &mesh->ldata,
1927                 mesh->totloop, mesh->totpoly);
1928
1929         eh = BLI_edgehash_new();
1930
1931         /*build edge hash*/
1932         me = mesh->medge;
1933         for (i=0; i<mesh->totedge; i++, me++) {
1934                 BLI_edgehash_insert(eh, me->v1, me->v2, SET_INT_IN_POINTER(i));
1935         }
1936
1937         j = 0; /*current loop index*/
1938         ml = mesh->mloop;
1939         mf = mesh->mface;
1940         mp = mesh->mpoly;
1941         for (i=0; i<mesh->totface; i++, mf++, mp++) {
1942                 mp->loopstart = j;
1943                 
1944                 mp->totloop = mf->v4 ? 4 : 3;
1945
1946                 mp->mat_nr = mf->mat_nr;
1947                 mp->flag = mf->flag;
1948                 
1949                 #define ML(v1, v2) {ml->v = mf->v1; ml->e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(eh, mf->v1, mf->v2)); ml++; j++;}
1950                 
1951                 ML(v1, v2);
1952                 ML(v2, v3);
1953                 if (mf->v4) {
1954                         ML(v3, v4);
1955                         ML(v4, v1);
1956                 } else {
1957                         ML(v3, v1);
1958                 }
1959                 
1960                 #undef ML
1961
1962                 bmesh_corners_to_loops(mesh, i, mp->loopstart, numTex, numCol);
1963         }
1964
1965         /* note, we dont convert FGons at all, these are not even real ngons,
1966          * they have their own UV's, colors etc - its more an editing feature. */
1967
1968         mesh_update_customdata_pointers(mesh, TRUE);
1969
1970         BLI_edgehash_free(eh, NULL);
1971 }
1972
1973 float (*mesh_getVertexCos(Mesh *me, int *numVerts_r))[3]
1974 {
1975         int i, numVerts = me->totvert;
1976         float (*cos)[3] = MEM_mallocN(sizeof(*cos)*numVerts, "vertexcos1");
1977         
1978         if (numVerts_r) *numVerts_r = numVerts;
1979         for (i=0; i<numVerts; i++)
1980                 copy_v3_v3(cos[i], me->mvert[i].co);
1981         
1982         return cos;
1983 }
1984
1985
1986 /* ngon version wip, based on EDBM_make_uv_vert_map */
1987 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
1988  * but for now this replaces it because its unused. */
1989
1990 UvVertMap *make_uv_vert_map(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv, unsigned int totpoly, unsigned int totvert, int selected, float *limit)
1991 {
1992         UvVertMap *vmap;
1993         UvMapVert *buf;
1994         MPoly *mp;
1995         unsigned int a;
1996         int     i, totuv, nverts;
1997
1998         totuv = 0;
1999
2000         /* generate UvMapVert array */
2001         mp= mpoly;
2002         for(a=0; a<totpoly; a++, mp++)
2003                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
2004                         totuv += mp->totloop;
2005
2006         if(totuv==0)
2007                 return NULL;
2008         
2009         vmap= (UvVertMap*)MEM_callocN(sizeof(*vmap), "UvVertMap");
2010         if (!vmap)
2011                 return NULL;
2012
2013         vmap->vert= (UvMapVert**)MEM_callocN(sizeof(*vmap->vert)*totvert, "UvMapVert*");
2014         buf= vmap->buf= (UvMapVert*)MEM_callocN(sizeof(*vmap->buf)*totuv, "UvMapVert");
2015
2016         if (!vmap->vert || !vmap->buf) {
2017                 free_uv_vert_map(vmap);
2018                 return NULL;
2019         }
2020
2021         mp= mpoly;
2022         for(a=0; a<totpoly; a++, mp++) {
2023                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
2024                         nverts= mp->totloop;
2025
2026                         for(i=0; i<nverts; i++) {
2027                                 buf->tfindex= i;
2028                                 buf->f= a;
2029                                 buf->separate = 0;
2030                                 buf->next= vmap->vert[mloop[mp->loopstart + i].v];
2031                                 vmap->vert[mloop[mp->loopstart + i].v]= buf;
2032                                 buf++;
2033                         }
2034                 }
2035         }
2036         
2037         /* sort individual uvs for each vert */
2038         for(a=0; a<totvert; a++) {
2039                 UvMapVert *newvlist= NULL, *vlist=vmap->vert[a];
2040                 UvMapVert *iterv, *v, *lastv, *next;
2041                 float *uv, *uv2, uvdiff[2];
2042
2043                 while(vlist) {
2044                         v= vlist;
2045                         vlist= vlist->next;
2046                         v->next= newvlist;
2047                         newvlist= v;
2048
2049                         uv= mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
2050                         lastv= NULL;
2051                         iterv= vlist;
2052
2053                         while(iterv) {
2054                                 next= iterv->next;
2055
2056                                 uv2= mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
2057                                 sub_v2_v2v2(uvdiff, uv2, uv);
2058
2059
2060                                 if(fabsf(uv[0]-uv2[0]) < limit[0] && fabsf(uv[1]-uv2[1]) < limit[1]) {
2061                                         if(lastv) lastv->next= next;
2062                                         else vlist= next;
2063                                         iterv->next= newvlist;
2064                                         newvlist= iterv;
2065                                 }
2066                                 else
2067                                         lastv=iterv;
2068
2069                                 iterv= next;
2070                         }
2071
2072                         newvlist->separate = 1;
2073                 }
2074
2075                 vmap->vert[a]= newvlist;
2076         }
2077         
2078         return vmap;
2079 }
2080
2081 UvMapVert *get_uv_map_vert(UvVertMap *vmap, unsigned int v)
2082 {
2083         return vmap->vert[v];
2084 }
2085
2086 void free_uv_vert_map(UvVertMap *vmap)
2087 {
2088         if (vmap) {
2089                 if (vmap->vert) MEM_freeN(vmap->vert);
2090                 if (vmap->buf) MEM_freeN(vmap->buf);
2091                 MEM_freeN(vmap);
2092         }
2093 }
2094
2095 /* Generates a map where the key is the vertex and the value is a list
2096    of faces that use that vertex as a corner. The lists are allocated
2097    from one memory pool. */
2098 void create_vert_face_map(ListBase **map, IndexNode **mem, const MFace *mface, const int totvert, const int totface)
2099 {
2100         int i,j;
2101         IndexNode *node = NULL;
2102         
2103         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2104         (*mem) = MEM_callocN(sizeof(IndexNode) * totface*4, "vert face map mem");
2105         node = *mem;
2106         
2107         /* Find the users */
2108         for(i = 0; i < totface; ++i){
2109                 for(j = 0; j < (mface[i].v4?4:3); ++j, ++node) {
2110                         node->index = i;
2111                         BLI_addtail(&(*map)[((unsigned int*)(&mface[i]))[j]], node);
2112                 }
2113         }
2114 }
2115
2116 /* Generates a map where the key is the vertex and the value is a list
2117    of edges that use that vertex as an endpoint. The lists are allocated
2118    from one memory pool. */
2119 void create_vert_edge_map(ListBase **map, IndexNode **mem, const MEdge *medge, const int totvert, const int totedge)
2120 {
2121         int i, j;
2122         IndexNode *node = NULL;
2123  
2124         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
2125         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
2126         node = *mem;
2127
2128         /* Find the users */
2129         for(i = 0; i < totedge; ++i){
2130                 for(j = 0; j < 2; ++j, ++node) {
2131                         node->index = i;
2132                         BLI_addtail(&(*map)[((unsigned int*)(&medge[i].v1))[j]], node);
2133                 }
2134         }
2135 }
2136
2137 void mesh_loops_to_mface_corners(CustomData *fdata, CustomData *ldata,
2138                                  CustomData *pdata, int lindex[4], int findex,
2139                                  const int polyindex,
2140                                  const int mf_len, /* 3 or 4 */
2141
2142                                  /* cache values to avoid lookups every time */
2143                                  const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2144                                  const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2145                                  const int hasWCol /* CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL) */
2146                                  )
2147 {
2148         MTFace *texface;
2149         MTexPoly *texpoly;
2150         MCol *mcol;
2151         MLoopCol *mloopcol;
2152         MLoopUV *mloopuv;
2153         int i, j;
2154         
2155         for(i=0; i < numTex; i++){
2156                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2157                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2158                 
2159                 texface->tpage = texpoly->tpage;
2160                 texface->flag = texpoly->flag;
2161                 texface->transp = texpoly->transp;
2162                 texface->mode = texpoly->mode;
2163                 texface->tile = texpoly->tile;
2164                 texface->unwrap = texpoly->unwrap;
2165
2166                 for (j=0; j < mf_len; j++) {
2167                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, lindex[j], i);
2168                         texface->uv[j][0] = mloopuv->uv[0];
2169                         texface->uv[j][1] = mloopuv->uv[1];
2170                 }
2171         }
2172
2173         for(i=0; i < numCol; i++){
2174                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2175
2176                 for (j=0; j < mf_len; j++) {
2177                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, lindex[j], i);
2178                         mcol[j].r = mloopcol->r;
2179                         mcol[j].g = mloopcol->g;
2180                         mcol[j].b = mloopcol->b;
2181                         mcol[j].a = mloopcol->a;
2182                 }
2183         }
2184
2185         if (hasWCol) {
2186                 mcol = CustomData_get(fdata,  findex, CD_WEIGHT_MCOL);
2187
2188                 for (j=0; j < mf_len; j++) {
2189                         mloopcol = CustomData_get(ldata, lindex[j], CD_WEIGHT_MLOOPCOL);
2190                         mcol[j].r = mloopcol->r;
2191                         mcol[j].g = mloopcol->g;
2192                         mcol[j].b = mloopcol->b;
2193                         mcol[j].a = mloopcol->a;
2194                 }
2195         }
2196 }
2197
2198 /*
2199   this function recreates a tesselation.
2200   returns number of tesselation faces.
2201  */
2202 int mesh_recalcTesselation(CustomData *fdata, 
2203                            CustomData *ldata, CustomData *pdata,
2204                            MVert *mvert, int totface, int UNUSED(totloop),
2205                            int totpoly)
2206 {
2207
2208         /* use this to avoid locking pthread for _every_ polygon
2209          * and calling the fill function */
2210
2211 #define USE_TESSFACE_SPEEDUP
2212
2213         MPoly *mp, *mpoly;
2214         MLoop *ml, *mloop;
2215         MFace *mface = NULL, *mf;
2216         BLI_array_declare(mface);
2217         EditVert *v, *lastv, *firstv;
2218         EditFace *f;
2219         int *origIndex = NULL;
2220         BLI_array_declare(origIndex);
2221         int *polyIndex = NULL;
2222         BLI_array_declare(polyIndex);
2223         int lindex[4]; /* only ever use 3 in this case */
2224         int *polyorigIndex;
2225         int i, j, k;
2226
2227         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2228         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2229         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2230
2231         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2232         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2233
2234         k = 0;
2235         mp = mpoly;
2236         polyorigIndex = CustomData_get_layer(pdata, CD_ORIGINDEX);
2237         for (i=0; i<totpoly; i++, mp++) {
2238                 if (mp->totloop < 3) {
2239                         /* do nothing */
2240                 }
2241
2242 #ifdef USE_TESSFACE_SPEEDUP
2243
2244 #define ML_TO_MF(i1, i2, i3)                                                  \
2245                 BLI_array_growone(mface);                                             \
2246                 BLI_array_append(polyIndex, i);                                       \
2247                 mf= &mface[k];                                                        \
2248                 /* set loop indices, transformed to vert indices later */             \
2249                 mf->v1 = mp->loopstart + i1;                                          \
2250                 mf->v2 = mp->loopstart + i2;                                          \
2251                 mf->v3 = mp->loopstart + i3;                                          \
2252                 mf->v4 = 0;                                                           \
2253                 mf->mat_nr = mp->mat_nr;                                              \
2254                 mf->flag = mp->flag;                                                  \
2255                 if (polyorigIndex) {                                                  \
2256                         BLI_array_append(origIndex, polyorigIndex[polyIndex[k]]);         \
2257                 }                                                                     \
2258
2259                 else if (mp->totloop == 3) {
2260                         ml = mloop + mp->loopstart;
2261                         ML_TO_MF(0, 1, 2)
2262                         k++;
2263                 }
2264                 else if (mp->totloop == 4) {
2265                         ml = mloop + mp->loopstart;
2266                         ML_TO_MF(0, 1, 2)
2267                         k++;
2268                         ML_TO_MF(0, 2, 3)
2269                         k++;
2270                 }
2271 #endif /* USE_TESSFACE_SPEEDUP */
2272                 else {
2273                         ml = mloop + mp->loopstart;
2274                         
2275                         BLI_begin_edgefill();
2276                         firstv = NULL;
2277                         lastv = NULL;
2278                         for (j=0; j<mp->totloop; j++, ml++) {
2279                                 v = BLI_addfillvert(mvert[ml->v].co);
2280         
2281                                 v->keyindex = mp->loopstart + j;
2282         
2283                                 if (lastv)
2284                                         BLI_addfilledge(lastv, v);
2285         
2286                                 if (!firstv)
2287                                         firstv = v;
2288                                 lastv = v;
2289                         }
2290                         BLI_addfilledge(lastv, firstv);
2291                         
2292                         BLI_edgefill(2);
2293                         for (f=fillfacebase.first; f; f=f->next) {
2294                                 BLI_array_growone(mface);
2295                                 BLI_array_append(polyIndex, i);
2296                                 mf= &mface[k];
2297
2298                                 /* set loop indices, transformed to vert indices later */
2299                                 mf->v1 = f->v1->keyindex;
2300                                 mf->v2 = f->v2->keyindex;
2301                                 mf->v3 = f->v3->keyindex;
2302                                 mf->v4 = 0;
2303                                 
2304                                 mf->mat_nr = mp->mat_nr;
2305                                 mf->flag = mp->flag;
2306
2307 #ifdef USE_TESSFACE_SPEEDUP
2308                                 mf->edcode = 1; /* tag for sorting loop indicies */
2309 #endif
2310
2311                                 if (polyorigIndex) {
2312                                         BLI_array_append(origIndex, polyorigIndex[polyIndex[k]]);
2313                                 }
2314         
2315                                 k++;
2316                         }
2317         
2318                         BLI_end_edgefill();
2319                 }
2320         }
2321
2322         CustomData_free(fdata, totface);
2323         memset(fdata, 0, sizeof(CustomData));
2324         totface = k;
2325         
2326         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2327
2328         /* CD_POLYINDEX will contain an array of indices from tessfaces to the polygons
2329          * they are directly tesselated from */
2330         CustomData_add_layer(fdata, CD_POLYINDEX, CD_ASSIGN, polyIndex, totface);
2331         if (origIndex) {
2332                 /* If polys had a CD_ORIGINDEX layer, then the tesselated faces will get this
2333                  * layer as well, pointing to polys from the original mesh (not the polys
2334                  * that just got tesselated) */
2335                 CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, origIndex, totface);
2336         }
2337
2338         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2339
2340         /* If polys have a normals layer, copying that to faces can help
2341          * avoid the need to recalculate normals later */
2342         if (CustomData_has_layer(pdata, CD_NORMAL)) {
2343                 float *pnors = CustomData_get_layer(pdata, CD_NORMAL);
2344                 float *fnors = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2345                 for (i=0; i<totface; i++, fnors++) {
2346                         copy_v3_v3(fnors, &pnors[polyIndex[i]]);
2347                 }
2348         }
2349
2350         mf = mface;
2351         for (i=0; i < totface; i++, mf++) {
2352
2353 #ifdef USE_TESSFACE_SPEEDUP
2354                 /* skip sorting when not using ngons */
2355                 if (UNLIKELY(mf->edcode == 1))
2356 #endif
2357                 {
2358                         /* sort loop indices to ensure winding is correct */
2359                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2360                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2361                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2362
2363                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2364                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2365                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2366
2367 #ifdef USE_TESSFACE_SPEEDUP
2368                         mf->edcode = 0;
2369 #endif
2370                 }
2371
2372                 lindex[0] = mf->v1;
2373                 lindex[1] = mf->v2;
2374                 lindex[2] = mf->v3;
2375
2376                 /*transform loop indices to vert indices*/
2377                 mf->v1 = mloop[mf->v1].v;
2378                 mf->v2 = mloop[mf->v2].v;
2379                 mf->v3 = mloop[mf->v3].v;
2380
2381                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2382                                             lindex, i, polyIndex[i], 3,
2383                                             numTex, numCol, hasWCol);
2384         }
2385
2386         return totface;
2387
2388 #undef USE_TESSFACE_SPEEDUP
2389
2390 }
2391
2392
2393 #ifdef USE_BMESH_SAVE_AS_COMPAT
2394
2395 /*
2396  * this function recreates a tesselation.
2397  * returns number of tesselation faces.
2398  */
2399 int mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
2400         struct CustomData *pdata, int totface, int UNUSED(totloop), int totpoly)
2401 {
2402         MLoop *mloop;
2403
2404         int lindex[4];
2405         int i;
2406         int k;
2407
2408         MPoly *mp, *mpoly;
2409         MFace *mface = NULL, *mf;
2410         BLI_array_declare(mface);
2411
2412         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2413         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2414         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2415
2416         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2417         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2418
2419         mp = mpoly;
2420         k = 0;
2421         for (i = 0; i<totpoly; i++, mp++) {
2422                 if (ELEM(mp->totloop, 3, 4)) {
2423                         BLI_array_growone(mface);
2424                         mf = &mface[k];
2425
2426                         mf->mat_nr = mp->mat_nr;
2427                         mf->flag = mp->flag;
2428
2429                         mf->v1 = mp->loopstart + 0;
2430                         mf->v2 = mp->loopstart + 1;
2431                         mf->v3 = mp->loopstart + 2;
2432                         mf->v4 = (mp->totloop == 4) ? (mp->loopstart + 3) : 0;
2433
2434                         /* abuse edcode for temp storage and clear next loop */
2435                         mf->edcode = (char)mp->totloop; /* only ever 3 or 4 */
2436
2437                         k++;
2438                 }
2439         }
2440
2441         CustomData_free(fdata, totface);
2442         memset(fdata, 0, sizeof(CustomData));
2443
2444         totface= k;
2445
2446         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2447
2448         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2449
2450         mp = mpoly;
2451         k = 0;
2452         for (i = 0; i<totpoly; i++, mp++) {
2453                 if (ELEM(mp->totloop, 3, 4)) {
2454                         mf = &mface[k];
2455
2456                         if (mf->edcode == 3) {
2457                                 /*sort loop indices to ensure winding is correct*/
2458                                 /* NO SORT - looks like we can skip this */
2459
2460                                 lindex[0] = mf->v1;
2461                                 lindex[1] = mf->v2;
2462                                 lindex[2] = mf->v3;
2463                                 lindex[3] = 0; /* unused */
2464
2465                                 /*transform loop indices to vert indices*/
2466                                 mf->v1 = mloop[mf->v1].v;
2467                                 mf->v2 = mloop[mf->v2].v;
2468                                 mf->v3 = mloop[mf->v3].v;
2469
2470                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2471                                                             lindex, k, i, 3,
2472                                                             numTex, numCol, hasWCol);
2473                                 test_index_face(mf, fdata, totface, 3);
2474                         }
2475                         else {
2476                                 /*sort loop indices to ensure winding is correct*/
2477                                 /* NO SORT - looks like we can skip this */
2478
2479                                 lindex[0] = mf->v1;
2480                                 lindex[1] = mf->v2;
2481                                 lindex[2] = mf->v3;
2482                                 lindex[3] = mf->v4;
2483
2484                                 /*transform loop indices to vert indices*/
2485                                 mf->v1 = mloop[mf->v1].v;
2486                                 mf->v2 = mloop[mf->v2].v;
2487                                 mf->v3 = mloop[mf->v3].v;
2488                                 mf->v4 = mloop[mf->v4].v;
2489
2490                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2491                                                             lindex, k, i, 4,
2492                                                             numTex, numCol, hasWCol);
2493                                 test_index_face(mf, fdata, totface, 4);
2494                         }
2495
2496                         mf->edcode= 0;
2497
2498                         k++;
2499                 }
2500         }
2501
2502         return k;
2503 }
2504 #endif /* USE_BMESH_SAVE_AS_COMPAT */
2505
2506 /*
2507  * COMPUTE POLY NORMAL
2508  *
2509  * Computes the normal of a planar 
2510  * polygon See Graphics Gems for 
2511  * computing newell normal.
2512  *
2513 */
2514 static void mesh_calc_ngon_normal(MPoly *mpoly, MLoop *loopstart, 
2515                                   MVert *mvert, float normal[3])
2516 {
2517
2518         MVert *v1, *v2, *v3;
2519         double u[3], v[3], w[3];
2520         double n[3] = {0.0, 0.0, 0.0}, l;
2521         int i;
2522
2523         for(i = 0; i < mpoly->totloop; i++){
2524                 v1 = mvert + loopstart[i].v;
2525                 v2 = mvert + loopstart[(i+1)%mpoly->totloop].v;
2526                 v3 = mvert + loopstart[(i+2)%mpoly->totloop].v;
2527                 
2528                 VECCOPY(u, v1->co);
2529                 VECCOPY(v, v2->co);
2530                 VECCOPY(w, v3->co);
2531
2532                 /*this fixes some weird numerical error*/
2533                 if (i==0) {
2534                         u[0] += 0.0001f;
2535                         u[1] += 0.0001f;
2536                         u[2] += 0.0001f;
2537                 }
2538                 
2539                 /* newell's method
2540                 
2541                 so thats?:
2542                 (a[1] - b[1]) * (a[2] + b[2]);
2543                 a[1]*b[2] - b[1]*a[2] - b[1]*b[2] + a[1]*a[2]
2544
2545                 odd.  half of that is the cross product. . .what's the
2546                 other half?
2547
2548                 also could be like a[1]*(b[2] + a[2]) - b[1]*(a[2] - b[2])
2549                 */
2550
2551                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2552                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2553                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2554         }
2555         
2556         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2557         l = sqrt(l);
2558
2559         if (l == 0.0) {
2560                 normal[0] = 0.0f;
2561                 normal[1] = 0.0f;
2562                 normal[2] = 1.0f;
2563
2564                 return;
2565         } else l = 1.0f / l;
2566
2567         n[0] *= l;
2568         n[1] *= l;
2569         n[2] *= l;
2570         
2571         normal[0] = (float) n[0];
2572         normal[1] = (float) n[1];
2573         normal[2] = (float) n[2];
2574 }
2575
2576 void mesh_calc_poly_normal(MPoly *mpoly, MLoop *loopstart, 
2577                            MVert *mvarray, float no[3])
2578 {
2579         if (mpoly->totloop > 4) {
2580                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, no);
2581         }
2582         else if (mpoly->totloop == 3){
2583                 normal_tri_v3(no,
2584                               mvarray[loopstart[0].v].co,
2585                               mvarray[loopstart[1].v].co,
2586                               mvarray[loopstart[2].v].co
2587                               );
2588         }
2589         else if (mpoly->totloop == 4) {
2590                 normal_quad_v3(no,
2591                                mvarray[loopstart[0].v].co,
2592                                mvarray[loopstart[1].v].co,
2593                                mvarray[loopstart[2].v].co,
2594                                mvarray[loopstart[3].v].co
2595                                );
2596         }
2597         else { /* horrible, two sided face! */
2598                 no[0] = 0.0;
2599                 no[1] = 0.0;
2600                 no[2] = 1.0;
2601         }
2602 }
2603 /* duplicate of function above _but_ takes coords rather then mverts */
2604 static void mesh_calc_ngon_normal_coords(MPoly *mpoly, MLoop *loopstart,
2605                                          const float (*vertex_coords)[3], float normal[3])
2606 {
2607
2608         float *v1, *v2, *v3;
2609         double u[3], v[3], w[3];
2610         double n[3] = {0.0, 0.0, 0.0}, l;
2611         int i;
2612
2613         for(i = 0; i < mpoly->totloop; i++){
2614                 v1 = vertex_coords + loopstart[i].v;
2615                 v2 = vertex_coords + loopstart[(i+1)%mpoly->totloop].v;
2616                 v3 = vertex_coords + loopstart[(i+2)%mpoly->totloop].v;
2617
2618                 VECCOPY(u, v1);
2619                 VECCOPY(v, v2);
2620                 VECCOPY(w, v3);
2621
2622                 /*this fixes some weird numerical error*/
2623                 if (i==0) {
2624                         u[0] += 0.0001f;
2625                         u[1] += 0.0001f;
2626                         u[2] += 0.0001f;
2627                 }
2628
2629                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2630                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2631                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2632         }
2633
2634         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2635         l = sqrt(l);
2636
2637         if (l == 0.0) {
2638                 normal[0] = 0.0f;
2639                 normal[1] = 0.0f;
2640                 normal[2] = 1.0f;
2641
2642                 return;
2643         } else l = 1.0f / l;
2644
2645         n[0] *= l;
2646         n[1] *= l;
2647         n[2] *= l;
2648
2649         normal[0] = (float) n[0];
2650         normal[1] = (float) n[1];
2651         normal[2] = (float) n[2];
2652 }
2653
2654 void mesh_calc_poly_normal_coords(MPoly *mpoly, MLoop *loopstart,
2655                            const float (*vertex_coords)[3], float no[3])
2656 {
2657         if (mpoly->totloop > 4) {
2658                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, no);
2659         }
2660         else if (mpoly->totloop == 3){
2661                 normal_tri_v3(no,
2662                               vertex_coords[loopstart[0].v],
2663                               vertex_coords[loopstart[1].v],
2664                               vertex_coords[loopstart[2].v]
2665                               );
2666         }
2667         else if (mpoly->totloop == 4) {
2668                 normal_quad_v3(no,
2669                                vertex_coords[loopstart[0].v],
2670                                vertex_coords[loopstart[1].v],
2671                                vertex_coords[loopstart[2].v],
2672                                vertex_coords[loopstart[3].v]
2673                                );
2674         }
2675         else { /* horrible, two sided face! */
2676                 no[0] = 0.0;
2677                 no[1] = 0.0;
2678                 no[2] = 1.0;
2679         }
2680 }
2681
2682 static void mesh_calc_ngon_center(MPoly *mpoly, MLoop *loopstart,
2683                                   MVert *mvert, float cent[3])
2684 {
2685         const float w= 1.0f / (float)mpoly->totloop;
2686         int i;
2687
2688         zero_v3(cent);
2689
2690         for (i = 0; i < mpoly->totloop; i++) {
2691                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2692         }
2693 }
2694
2695 void mesh_calc_poly_center(MPoly *mpoly, MLoop *loopstart,
2696                            MVert *mvarray, float cent[3])
2697 {
2698         if (mpoly->totloop == 3) {
2699                 cent_tri_v3(cent,
2700                             mvarray[loopstart[0].v].co,
2701                             mvarray[loopstart[1].v].co,
2702                             mvarray[loopstart[2].v].co
2703                             );
2704         }
2705         else if (mpoly->totloop == 4) {
2706                 cent_quad_v3(cent,
2707                              mvarray[loopstart[0].v].co,
2708                              mvarray[loopstart[1].v].co,
2709                              mvarray[loopstart[2].v].co,
2710                              mvarray[loopstart[3].v].co
2711                              );
2712         }
2713         else {
2714                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, cent);
2715         }
2716 }
2717
2718 /* note, passing polynormal is only a speedup so we can skip calculating it */
2719 float mesh_calc_poly_area(MPoly *mpoly, MLoop *loopstart,
2720                           MVert *mvarray, float polynormal[3])
2721 {
2722         if (mpoly->totloop == 3) {
2723                 return area_tri_v3(mvarray[loopstart[0].v].co,
2724                                    mvarray[loopstart[1].v].co,
2725                                    mvarray[loopstart[2].v].co
2726                                    );
2727         }
2728         else if (mpoly->totloop == 4) {
2729                 return area_quad_v3(mvarray[loopstart[0].v].co,
2730                                     mvarray[loopstart[1].v].co,
2731                                     mvarray[loopstart[2].v].co,
2732                                     mvarray[loopstart[3].v].co
2733                                     );
2734         }
2735         else {
2736                 int i;
2737                 float area, polynorm_local[3], (*vertexcos)[3];
2738                 float *no= polynormal ? polynormal : polynorm_local;
2739                 BLI_array_fixedstack_declare(vertexcos, BM_NGON_STACK_SIZE, mpoly->totloop, __func__);
2740
2741                 /* pack vertex cos into an array for area_poly_v3 */
2742                 for (i = 0; i < mpoly->totloop; i++) {
2743                         copy_v3_v3(vertexcos[i], mvarray[(loopstart++)->v].co);
2744                 }
2745
2746                 /* need normal for area_poly_v3 as well */
2747                 if (polynormal == NULL) {
2748                         mesh_calc_poly_normal(mpoly, loopstart, mvarray, no);
2749                 }
2750
2751                 /* finally calculate the area */
2752                 area = area_poly_v3(mpoly->totloop, vertexcos, no);
2753
2754                 BLI_array_fixedstack_free(vertexcos);
2755
2756                 return area;
2757         }
2758 }
2759
2760 /* basic vertex data functions */
2761 int minmax_mesh(Mesh *me, float min[3], float max[3])
2762 {
2763         int i= me->totvert;
2764         MVert *mvert;
2765         for(mvert= me->mvert; i--; mvert++) {
2766                 DO_MINMAX(mvert->co, min, max);
2767         }
2768         
2769         return (me->totvert != 0);
2770 }
2771
2772 int mesh_center_median(Mesh *me, float cent[3])
2773 {
2774         int i= me->totvert;
2775         MVert *mvert;
2776         zero_v3(cent);
2777         for(mvert= me->mvert; i--; mvert++) {
2778                 add_v3_v3(cent, mvert->co);
2779         }
2780         /* otherwise we get NAN for 0 verts */
2781         if(me->totvert) {
2782                 mul_v3_fl(cent, 1.0f/(float)me->totvert);
2783         }
2784
2785         return (me->totvert != 0);
2786 }
2787
2788 int mesh_center_bounds(Mesh *me, float cent[3])
2789 {
2790         float min[3], max[3];
2791         INIT_MINMAX(min, max);
2792         if(minmax_mesh(me, min, max)) {
2793                 mid_v3_v3v3(cent, min, max);
2794                 return 1;
2795         }
2796
2797         return 0;
2798 }
2799
2800 void mesh_translate(Mesh *me, float offset[3], int do_keys)
2801 {
2802         int i= me->totvert;
2803         MVert *mvert;
2804         for(mvert= me->mvert; i--; mvert++) {
2805                 add_v3_v3(mvert->co, offset);
2806         }
2807         
2808         if (do_keys && me->key) {
2809                 KeyBlock *kb;
2810                 for (kb=me->key->block.first; kb; kb=kb->next) {
2811                         float *fp= kb->data;
2812                         for (i= kb->totelem; i--; fp+=3) {
2813                                 add_v3_v3(fp, offset);
2814                         }
2815                 }
2816         }
2817 }
2818
2819
2820 void BKE_mesh_ensure_navmesh(Mesh *me)
2821 {
2822         if (!CustomData_has_layer(&me->fdata, CD_RECAST)) {
2823                 int i;
2824                 int numFaces = me->totface;
2825                 int* recastData;
2826                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_CALLOC, NULL, numFaces, "recastData");
2827                 recastData = (int*)CustomData_get_layer(&me->fdata, CD_RECAST);
2828                 for (i=0; i<numFaces; i++) {
2829                         recastData[i] = i+1;
2830                 }
2831                 CustomData_add_layer_named(&me->fdata, CD_RECAST, CD_REFERENCE, recastData, numFaces, "recastData");
2832         }
2833 }