misc changes from trunk (avoid confusion since these were not intentional differences)
[blender.git] / source / blender / blenkernel / intern / mesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh.c
27  *  \ingroup bke
28  */
29
30
31 #include <stdlib.h>
32 #include <string.h>
33 #include <stdio.h>
34 #include <math.h>
35
36 #include "MEM_guardedalloc.h"
37
38 #include "DNA_scene_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_key_types.h"
42 #include "DNA_meshdata_types.h"
43 #include "DNA_ipo_types.h"
44 #include "DNA_customdata_types.h"
45
46 #include "BLI_utildefines.h"
47 #include "BLI_blenlib.h"
48 #include "BLI_bpath.h"
49 #include "BLI_editVert.h"
50 #include "BLI_math.h"
51 #include "BLI_edgehash.h"
52 #include "BLI_scanfill.h"
53
54 #include "BKE_animsys.h"
55 #include "BKE_main.h"
56 #include "BKE_customdata.h"
57 #include "BKE_DerivedMesh.h"
58 #include "BKE_global.h"
59 #include "BKE_mesh.h"
60 #include "BKE_displist.h"
61 #include "BKE_library.h"
62 #include "BKE_material.h"
63 #include "BKE_modifier.h"
64 #include "BKE_multires.h"
65 #include "BKE_key.h"
66 /* these 2 are only used by conversion functions */
67 #include "BKE_curve.h"
68 /* -- */
69 #include "BKE_object.h"
70 #include "BKE_tessmesh.h"
71 #include "BLI_edgehash.h"
72
73 #include "BLI_blenlib.h"
74 #include "BLI_editVert.h"
75 #include "BLI_math.h"
76 #include "BLI_array.h"
77 #include "BLI_edgehash.h"
78
79 #include "bmesh.h"
80
81 enum {
82         MESHCMP_DVERT_WEIGHTMISMATCH = 1,
83         MESHCMP_DVERT_GROUPMISMATCH,
84         MESHCMP_DVERT_TOTGROUPMISMATCH,
85         MESHCMP_LOOPCOLMISMATCH,
86         MESHCMP_LOOPUVMISMATCH,
87         MESHCMP_LOOPMISMATCH,
88         MESHCMP_POLYVERTMISMATCH,
89         MESHCMP_POLYMISMATCH,
90         MESHCMP_EDGEUNKNOWN,
91         MESHCMP_VERTCOMISMATCH,
92         MESHCMP_CDLAYERS_MISMATCH,
93 };
94
95 static const char *cmpcode_to_str(int code)
96 {
97         switch (code) {
98                 case MESHCMP_DVERT_WEIGHTMISMATCH:
99                         return "Vertex Weight Mismatch";
100                 case MESHCMP_DVERT_GROUPMISMATCH:
101                                         return "Vertex Group Mismatch";
102                 case MESHCMP_DVERT_TOTGROUPMISMATCH:
103                                         return "Vertex Doesn't Belong To Same Number Of Groups";
104                 case MESHCMP_LOOPCOLMISMATCH:
105                                         return "Vertex Color Mismatch";
106                 case MESHCMP_LOOPUVMISMATCH:
107                                         return "UV Mismatch";
108                 case MESHCMP_LOOPMISMATCH:
109                                         return "Loop Mismatch";
110                 case MESHCMP_POLYVERTMISMATCH:
111                                         return "Loop Vert Mismatch In Poly Test";
112                 case MESHCMP_POLYMISMATCH:
113                                         return "Loop Vert Mismatch";
114                 case MESHCMP_EDGEUNKNOWN:
115                                         return "Edge Mismatch";
116                 case MESHCMP_VERTCOMISMATCH:
117                                         return "Vertex Coordinate Mismatch";
118                 case MESHCMP_CDLAYERS_MISMATCH:
119                                         return "CustomData Layer Count Mismatch";
120                 default:
121                                 return "Mesh Comparison Code Unknown";
122                 }
123 }
124
125 /*thresh is threshold for comparing vertices, uvs, vertex colors,
126   weights, etc.*/
127 static int customdata_compare(CustomData *c1, CustomData *c2, Mesh *m1, Mesh *m2, float thresh)
128 {
129         CustomDataLayer *l1, *l2;
130         int i, i1=0, i2=0, tot, j;
131         
132         for (i=0; i<c1->totlayer; i++) {
133                 if (ELEM7(c1->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
134                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
135                         i1++;
136         }
137         
138         for (i=0; i<c2->totlayer; i++) {
139                 if (ELEM7(c2->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
140                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
141                         i2++;
142         }
143         
144         if (i1 != i2)
145                 return MESHCMP_CDLAYERS_MISMATCH;
146         
147         l1 = c1->layers; l2 = c2->layers;
148         tot = i1;
149         i1 = 0; i2 = 0; 
150         for (i=0; i < tot; i++) {
151                 while (i1 < c1->totlayer && !ELEM7(l1->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
152                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
153                         i1++, l1++;
154
155                 while (i2 < c2->totlayer && !ELEM7(l2->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
156                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
157                         i2++, l2++;
158                 
159                 if (l1->type == CD_MVERT) {
160                         MVert *v1 = l1->data;
161                         MVert *v2 = l2->data;
162                         int vtot = m1->totvert;
163                         
164                         for (j=0; j<vtot; j++, v1++, v2++) {
165                                 if (len_v3v3(v1->co, v2->co) > thresh)
166                                         return MESHCMP_VERTCOMISMATCH;
167                                 /*I don't care about normals, let's just do coodinates*/
168                         }
169                 }
170                 
171                 /*we're order-agnostic for edges here*/
172                 if (l1->type == CD_MEDGE) {
173                         MEdge *e1 = l1->data;
174                         MEdge *e2 = l2->data;
175                         EdgeHash *eh = BLI_edgehash_new();
176                         int etot = m1->totedge;
177                 
178                         for (j=0; j<etot; j++, e1++) {
179                                 BLI_edgehash_insert(eh, e1->v1, e1->v2, e1);
180                         }
181                         
182                         for (j=0; j<etot; j++, e2++) {
183                                 if (!BLI_edgehash_lookup(eh, e2->v1, e2->v2))
184                                         return MESHCMP_EDGEUNKNOWN;
185                         }
186                         BLI_edgehash_free(eh, NULL);
187                 }
188                 
189                 if (l1->type == CD_MPOLY) {
190                         MPoly *p1 = l1->data;
191                         MPoly *p2 = l2->data;
192                         int ptot = m1->totpoly;
193                 
194                         for (j=0; j<ptot; j++, p1++, p2++) {
195                                 MLoop *lp1, *lp2;
196                                 int k;
197                                 
198                                 if (p1->totloop != p2->totloop)
199                                         return MESHCMP_POLYMISMATCH;
200                                 
201                                 lp1 = m1->mloop + p1->loopstart;
202                                 lp2 = m2->mloop + p2->loopstart;
203                                 
204                                 for (k=0; k<p1->totloop; k++, lp1++, lp2++) {
205                                         if (lp1->v != lp2->v)
206                                                 return MESHCMP_POLYVERTMISMATCH;
207                                 }
208                         }
209                 }
210                 if (l1->type == CD_MLOOP) {
211                         MLoop *lp1 = l1->data;
212                         MLoop *lp2 = l2->data;
213                         int ltot = m1->totloop;
214                 
215                         for (j=0; j<ltot; j++, lp1++, lp2++) {
216                                 if (lp1->v != lp2->v)
217                                         return MESHCMP_LOOPMISMATCH;
218                         }
219                 }
220                 if (l1->type == CD_MLOOPUV) {
221                         MLoopUV *lp1 = l1->data;
222                         MLoopUV *lp2 = l2->data;
223                         int ltot = m1->totloop;
224                 
225                         for (j=0; j<ltot; j++, lp1++, lp2++) {
226                                 if (len_v2v2(lp1->uv, lp2->uv) > thresh)
227                                         return MESHCMP_LOOPUVMISMATCH;
228                         }
229                 }
230                 
231                 if (l1->type == CD_MLOOPCOL) {
232                         MLoopCol *lp1 = l1->data;
233                         MLoopCol *lp2 = l2->data;
234                         int ltot = m1->totloop;
235                 
236                         for (j=0; j<ltot; j++, lp1++, lp2++) {
237                                 if (ABS(lp1->r - lp2->r) > thresh || 
238                                     ABS(lp1->g - lp2->g) > thresh || 
239                                     ABS(lp1->b - lp2->b) > thresh || 
240                                     ABS(lp1->a - lp2->a) > thresh)
241                                 {
242                                         return MESHCMP_LOOPCOLMISMATCH;
243                                 }
244                         }
245                 }
246
247                 if (l1->type == CD_MDEFORMVERT) {
248                         MDeformVert *dv1 = l1->data;
249                         MDeformVert *dv2 = l2->data;
250                         int dvtot = m1->totvert;
251                 
252                         for (j=0; j<dvtot; j++, dv1++, dv2++) {
253                                 int k;
254                                 MDeformWeight *dw1 = dv1->dw, *dw2=dv2->dw;
255                                 
256                                 if (dv1->totweight != dv2->totweight)
257                                         return MESHCMP_DVERT_TOTGROUPMISMATCH;
258                                 
259                                 for (k=0; k<dv1->totweight; k++, dw1++, dw2++) {
260                                         if (dw1->def_nr != dw2->def_nr)
261                                                 return MESHCMP_DVERT_GROUPMISMATCH;
262                                         if (ABS(dw1->weight - dw2->weight) > thresh)
263                                                 return MESHCMP_DVERT_WEIGHTMISMATCH;
264                                 }
265                         }
266                 }
267         }
268         
269         return 0;
270 }
271
272 /*used for testing.  returns an error string the two meshes don't match*/
273 const char *mesh_cmp(Mesh *me1, Mesh *me2, float thresh)
274 {
275         int c;
276         
277         if (!me1 || !me2)
278                 return "Requires two input meshes";
279         
280         if (me1->totvert != me2->totvert) 
281                 return "Number of verts don't match";
282         
283         if (me1->totedge != me2->totedge)
284                 return "Number of edges don't match";
285         
286         if (me1->totpoly != me2->totpoly)
287                 return "Number of faces don't match";
288                                 
289         if (me1->totloop !=me2->totloop)
290                 return "Number of loops don't match";
291         
292         if ((c = customdata_compare(&me1->vdata, &me2->vdata, me1, me2, thresh)))
293                 return cmpcode_to_str(c);
294
295         if ((c = customdata_compare(&me1->edata, &me2->edata, me1, me2, thresh)))
296                 return cmpcode_to_str(c);
297
298         if ((c = customdata_compare(&me1->ldata, &me2->ldata, me1, me2, thresh)))
299                 return cmpcode_to_str(c);
300
301         if ((c = customdata_compare(&me1->pdata, &me2->pdata, me1, me2, thresh)))
302                 return cmpcode_to_str(c);
303         
304         return NULL;
305 }
306
307 static void mesh_ensure_tesselation_customdata(Mesh *me)
308 {
309         const int tottex_original = CustomData_number_of_layers(&me->pdata, CD_MTEXPOLY);
310         const int totcol_original = CustomData_number_of_layers(&me->ldata, CD_MLOOPCOL);
311
312         const int tottex_tessface = CustomData_number_of_layers(&me->fdata, CD_MTFACE);
313         const int totcol_tessface = CustomData_number_of_layers(&me->fdata, CD_MCOL);
314
315         if (tottex_tessface != tottex_original ||
316             totcol_tessface != totcol_original )
317         {
318                 BKE_mesh_tessface_clear(me);
319
320                 CustomData_from_bmeshpoly(&me->fdata, &me->pdata, &me->ldata, me->totface);
321
322                 /* note: this warning may be un-called for if we are inirializing the mesh for the
323                  * first time from bmesh, rather then giving a warning about this we could be smarter
324                  * and check if there was any data to begin with, for now just print the warning with
325                  * some info to help troubleshoot whats going on - campbell */
326                 printf("%s: warning! Tesselation uvs or vcol data got out of sync, "
327                        "had to reset!\n    CD_MTFACE: %d != CD_MTEXPOLY: %d || CD_MCOL: %d != CD_MLOOPCOL: %d\n",
328                        __func__, tottex_tessface, tottex_original, totcol_tessface, totcol_original);
329         }
330 }
331
332 /* this ensures grouped customdata (e.g. mtexpoly and mloopuv and mtface, or
333  * mloopcol and mcol) have the same relative active/render/clone/mask indices.
334  *
335  * note that for undo mesh data we want to skip 'ensure_tess_cd' call since
336  * we dont want to store memory for tessface when its only used for older
337  * versions of the mesh. - campbell*/
338 static void mesh_update_linked_customdata(Mesh *me, const short do_ensure_tess_cd)
339 {
340         if (me->edit_btmesh)
341                 BMEdit_UpdateLinkedCustomData(me->edit_btmesh);
342
343         if (do_ensure_tess_cd) {
344                 mesh_ensure_tesselation_customdata(me);
345         }
346
347         CustomData_bmesh_update_active_layers(&me->fdata, &me->pdata, &me->ldata);
348 }
349
350 void mesh_update_customdata_pointers(Mesh *me, const short do_ensure_tess_cd)
351 {
352         mesh_update_linked_customdata(me, do_ensure_tess_cd);
353
354         me->mvert = CustomData_get_layer(&me->vdata, CD_MVERT);
355         me->dvert = CustomData_get_layer(&me->vdata, CD_MDEFORMVERT);
356         me->msticky = CustomData_get_layer(&me->vdata, CD_MSTICKY);
357
358         me->medge = CustomData_get_layer(&me->edata, CD_MEDGE);
359
360         me->mface = CustomData_get_layer(&me->fdata, CD_MFACE);
361         me->mcol = CustomData_get_layer(&me->fdata, CD_MCOL);
362         me->mtface = CustomData_get_layer(&me->fdata, CD_MTFACE);
363         
364         me->mpoly = CustomData_get_layer(&me->pdata, CD_MPOLY);
365         me->mloop = CustomData_get_layer(&me->ldata, CD_MLOOP);
366
367         me->mtpoly = CustomData_get_layer(&me->pdata, CD_MTEXPOLY);
368         me->mloopcol = CustomData_get_layer(&me->ldata, CD_MLOOPCOL);
369         me->mloopuv = CustomData_get_layer(&me->ldata, CD_MLOOPUV);
370 }
371
372 /* Note: unlinking is called when me->id.us is 0, question remains how
373  * much unlinking of Library data in Mesh should be done... probably
374  * we need a more generic method, like the expand() functions in
375  * readfile.c */
376
377 void unlink_mesh(Mesh *me)
378 {
379         int a;
380         
381         if(me==NULL) return;
382         
383         for(a=0; a<me->totcol; a++) {
384                 if(me->mat[a]) me->mat[a]->id.us--;
385                 me->mat[a]= NULL;
386         }
387
388         if(me->key) {
389                 me->key->id.us--;
390         }
391         me->key= NULL;
392         
393         if(me->texcomesh) me->texcomesh= NULL;
394 }
395
396 /* do not free mesh itself */
397 void free_mesh(Mesh *me, int unlink)
398 {
399         if (unlink)
400                 unlink_mesh(me);
401
402         CustomData_free(&me->vdata, me->totvert);
403         CustomData_free(&me->edata, me->totedge);
404         CustomData_free(&me->fdata, me->totface);
405         CustomData_free(&me->ldata, me->totloop);
406         CustomData_free(&me->pdata, me->totpoly);
407
408         if(me->adt) {
409                 BKE_free_animdata(&me->id);
410                 me->adt= NULL;
411         }
412         
413         if(me->mat) MEM_freeN(me->mat);
414         
415         if(me->bb) MEM_freeN(me->bb);
416         if(me->mselect) MEM_freeN(me->mselect);
417         if(me->edit_btmesh) MEM_freeN(me->edit_btmesh);
418 }
419
420 void copy_dverts(MDeformVert *dst, MDeformVert *src, int copycount)
421 {
422         /* Assumes dst is already set up */
423         int i;
424
425         if (!src || !dst)
426                 return;
427
428         memcpy (dst, src, copycount * sizeof(MDeformVert));
429         
430         for (i=0; i<copycount; i++){
431                 if (src[i].dw){
432                         dst[i].dw = MEM_callocN (sizeof(MDeformWeight)*src[i].totweight, "copy_deformWeight");
433                         memcpy (dst[i].dw, src[i].dw, sizeof (MDeformWeight)*src[i].totweight);
434                 }
435         }
436
437 }
438
439 void free_dverts(MDeformVert *dvert, int totvert)
440 {
441         /* Instead of freeing the verts directly,
442         call this function to delete any special
443         vert data */
444         int     i;
445
446         if (!dvert)
447                 return;
448
449         /* Free any special data from the verts */
450         for (i=0; i<totvert; i++){
451                 if (dvert[i].dw) MEM_freeN (dvert[i].dw);
452         }
453         MEM_freeN (dvert);
454 }
455
456 Mesh *add_mesh(const char *name)
457 {
458         Mesh *me;
459         
460         me= alloc_libblock(&G.main->mesh, ID_ME, name);
461         
462         me->size[0]= me->size[1]= me->size[2]= 1.0;
463         me->smoothresh= 30;
464         me->texflag= AUTOSPACE;
465         me->flag= ME_TWOSIDED;
466         me->bb= unit_boundbox();
467         me->drawflag= ME_DRAWEDGES|ME_DRAWFACES|ME_DRAWCREASES;
468         
469         return me;
470 }
471
472 Mesh *copy_mesh(Mesh *me)
473 {
474         Mesh *men;
475         MTFace *tface;
476         MTexPoly *txface;
477         int a, i;
478         
479         men= copy_libblock(&me->id);
480         
481         men->mat= MEM_dupallocN(me->mat);
482         for(a=0; a<men->totcol; a++) {
483                 id_us_plus((ID *)men->mat[a]);
484         }
485         id_us_plus((ID *)men->texcomesh);
486
487         CustomData_copy(&me->vdata, &men->vdata, CD_MASK_MESH, CD_DUPLICATE, men->totvert);
488         CustomData_copy(&me->edata, &men->edata, CD_MASK_MESH, CD_DUPLICATE, men->totedge);
489         CustomData_copy(&me->fdata, &men->fdata, CD_MASK_MESH, CD_DUPLICATE, men->totface);
490         CustomData_copy(&me->ldata, &men->ldata, CD_MASK_MESH, CD_DUPLICATE, men->totloop);
491         CustomData_copy(&me->pdata, &men->pdata, CD_MASK_MESH, CD_DUPLICATE, men->totpoly);
492         mesh_update_customdata_pointers(men, TRUE);
493
494         /* ensure indirect linked data becomes lib-extern */
495         for(i=0; i<me->fdata.totlayer; i++) {
496                 if(me->fdata.layers[i].type == CD_MTFACE) {
497                         tface= (MTFace*)me->fdata.layers[i].data;
498
499                         for(a=0; a<me->totface; a++, tface++)
500                                 if(tface->tpage)
501                                         id_lib_extern((ID*)tface->tpage);
502                 }
503         }
504         
505         for(i=0; i<me->pdata.totlayer; i++) {
506                 if(me->pdata.layers[i].type == CD_MTEXPOLY) {
507                         txface= (MTexPoly*)me->pdata.layers[i].data;
508
509                         for(a=0; a<me->totpoly; a++, txface++)
510                                 if(txface->tpage)
511                                         id_lib_extern((ID*)txface->tpage);
512                 }
513         }
514
515         men->mselect= NULL;
516         men->edit_btmesh= NULL;
517
518         men->bb= MEM_dupallocN(men->bb);
519         
520         men->key= copy_key(me->key);
521         if(men->key) men->key->from= (ID *)men;
522
523         return men;
524 }
525
526 BMesh *BKE_mesh_to_bmesh(Mesh *me, Object *ob)
527 {
528         BMesh *bm;
529
530         bm = BM_mesh_create(ob, bm_mesh_allocsize_default);
531
532         BMO_op_callf(bm, "mesh_to_bmesh mesh=%p object=%p set_shapekey=%i", me, ob, 1);
533
534         return bm;
535 }
536
537 static void expand_local_mesh(Mesh *me)
538 {
539         id_lib_extern((ID *)me->texcomesh);
540
541         if(me->mtface || me->mtpoly) {
542                 int a, i;
543
544                 for(i=0; i<me->pdata.totlayer; i++) {
545                         if(me->pdata.layers[i].type == CD_MTEXPOLY) {
546                                 MTexPoly *txface= (MTexPoly*)me->fdata.layers[i].data;
547
548                                 for(a=0; a<me->totpoly; a++, txface++) {
549                                         /* special case: ima always local immediately */
550                                         if(txface->tpage) {
551                                                 if(txface->tpage) {
552                                                         id_lib_extern((ID *)txface->tpage);
553                                                 }
554                                         }
555                                 }
556                         }
557                 }
558
559                 for(i=0; i<me->fdata.totlayer; i++) {
560                         if(me->fdata.layers[i].type == CD_MTFACE) {
561                                 MTFace *tface= (MTFace*)me->fdata.layers[i].data;
562
563                                 for(a=0; a<me->totface; a++, tface++) {
564                                         /* special case: ima always local immediately */
565                                         if(tface->tpage) {
566                                                 if(tface->tpage) {
567                                                         id_lib_extern((ID *)tface->tpage);
568                                                 }
569                                         }
570                                 }
571                         }
572                 }
573         }
574
575         if(me->mat) {
576                 extern_local_matarar(me->mat, me->totcol);
577         }
578 }
579
580 void make_local_mesh(Mesh *me)
581 {
582         Main *bmain= G.main;
583         Object *ob;
584         int is_local= FALSE, is_lib= FALSE;
585
586         /* - only lib users: do nothing
587          * - only local users: set flag
588          * - mixed: make copy
589          */
590
591         if(me->id.lib==NULL) return;
592         if(me->id.us==1) {
593                 id_clear_lib_data(bmain, &me->id);
594                 expand_local_mesh(me);
595                 return;
596         }
597
598         for(ob= bmain->object.first; ob && ELEM(0, is_lib, is_local); ob= ob->id.next) {
599                 if(me == ob->data) {
600                         if(ob->id.lib) is_lib= TRUE;
601                         else is_local= TRUE;
602                 }
603         }
604
605         if(is_local && is_lib == FALSE) {
606                 id_clear_lib_data(bmain, &me->id);
607                 expand_local_mesh(me);
608         }
609         else if(is_local && is_lib) {
610                 Mesh *me_new= copy_mesh(me);
611                 me_new->id.us= 0;
612
613
614                 /* Remap paths of new ID using old library as base. */
615                 BKE_id_lib_local_paths(bmain, me->id.lib, &me_new->id);
616
617                 for(ob= bmain->object.first; ob; ob= ob->id.next) {
618                         if(me == ob->data) {
619                                 if(ob->id.lib==NULL) {
620                                         set_mesh(ob, me_new);
621                                 }
622                         }
623                 }
624         }
625 }
626
627 void boundbox_mesh(Mesh *me, float *loc, float *size)
628 {
629         BoundBox *bb;
630         float min[3], max[3];
631         float mloc[3], msize[3];
632         
633         if(me->bb==NULL) me->bb= MEM_callocN(sizeof(BoundBox), "boundbox");
634         bb= me->bb;
635
636         if (!loc) loc= mloc;
637         if (!size) size= msize;
638         
639         INIT_MINMAX(min, max);
640         if(!minmax_mesh(me, min, max)) {
641                 min[0] = min[1] = min[2] = -1.0f;
642                 max[0] = max[1] = max[2] = 1.0f;
643         }
644
645         mid_v3_v3v3(loc, min, max);
646                 
647         size[0]= (max[0]-min[0])/2.0f;
648         size[1]= (max[1]-min[1])/2.0f;
649         size[2]= (max[2]-min[2])/2.0f;
650         
651         boundbox_set_from_min_max(bb, min, max);
652 }
653
654 void tex_space_mesh(Mesh *me)
655 {
656         float loc[3], size[3];
657         int a;
658
659         boundbox_mesh(me, loc, size);
660
661         if(me->texflag & AUTOSPACE) {
662                 for (a=0; a<3; a++) {
663                         if(size[a]==0.0f) size[a]= 1.0f;
664                         else if(size[a]>0.0f && size[a]<0.00001f) size[a]= 0.00001f;
665                         else if(size[a]<0.0f && size[a]> -0.00001f) size[a]= -0.00001f;
666                 }
667
668                 copy_v3_v3(me->loc, loc);
669                 copy_v3_v3(me->size, size);
670                 zero_v3(me->rot);
671         }
672 }
673
674 BoundBox *mesh_get_bb(Object *ob)
675 {
676         Mesh *me= ob->data;
677
678         if(ob->bb)
679                 return ob->bb;
680
681         if (!me->bb)
682                 tex_space_mesh(me);
683
684         return me->bb;
685 }
686
687 void mesh_get_texspace(Mesh *me, float *loc_r, float *rot_r, float *size_r)
688 {
689         if (!me->bb) {
690                 tex_space_mesh(me);
691         }
692
693         if (loc_r) copy_v3_v3(loc_r, me->loc);
694         if (rot_r) copy_v3_v3(rot_r, me->rot);
695         if (size_r) copy_v3_v3(size_r, me->size);
696 }
697
698 float *get_mesh_orco_verts(Object *ob)
699 {
700         Mesh *me = ob->data;
701         MVert *mvert = NULL;
702         Mesh *tme = me->texcomesh?me->texcomesh:me;
703         int a, totvert;
704         float (*vcos)[3] = NULL;
705
706         /* Get appropriate vertex coordinates */
707         vcos = MEM_callocN(sizeof(*vcos)*me->totvert, "orco mesh");
708         mvert = tme->mvert;
709         totvert = MIN2(tme->totvert, me->totvert);
710
711         for(a=0; a<totvert; a++, mvert++) {
712                 copy_v3_v3(vcos[a], mvert->co);
713         }
714
715         return (float*)vcos;
716 }
717
718 void transform_mesh_orco_verts(Mesh *me, float (*orco)[3], int totvert, int invert)
719 {
720         float loc[3], size[3];
721         int a;
722
723         mesh_get_texspace(me->texcomesh?me->texcomesh:me, loc, NULL, size);
724
725         if(invert) {
726                 for(a=0; a<totvert; a++) {
727                         float *co = orco[a];
728                         madd_v3_v3v3v3(co, loc, co, size);
729                 }
730         }
731         else {
732                 for(a=0; a<totvert; a++) {
733                         float *co = orco[a];
734                         co[0] = (co[0]-loc[0])/size[0];
735                         co[1] = (co[1]-loc[1])/size[1];
736                         co[2] = (co[2]-loc[2])/size[2];
737                 }
738         }
739 }
740
741 /* rotates the vertices of a face in case v[2] or v[3] (vertex index) is = 0.
742    this is necessary to make the if(mface->v4) check for quads work */
743 int test_index_face(MFace *mface, CustomData *fdata, int mfindex, int nr)
744 {
745         /* first test if the face is legal */
746         if((mface->v3 || nr==4) && mface->v3==mface->v4) {
747                 mface->v4= 0;
748                 nr--;
749         }
750         if((mface->v2 || mface->v4) && mface->v2==mface->v3) {
751                 mface->v3= mface->v4;
752                 mface->v4= 0;
753                 nr--;
754         }
755         if(mface->v1==mface->v2) {
756                 mface->v2= mface->v3;
757                 mface->v3= mface->v4;
758                 mface->v4= 0;
759                 nr--;
760         }
761
762         /* check corrupt cases, bowtie geometry, cant handle these because edge data wont exist so just return 0 */
763         if(nr==3) {
764                 if(
765                 /* real edges */
766                         mface->v1==mface->v2 ||
767                         mface->v2==mface->v3 ||
768                         mface->v3==mface->v1
769                 ) {
770                         return 0;
771                 }
772         }
773         else if(nr==4) {
774                 if(
775                 /* real edges */
776                         mface->v1==mface->v2 ||
777                         mface->v2==mface->v3 ||
778                         mface->v3==mface->v4 ||
779                         mface->v4==mface->v1 ||
780                 /* across the face */
781                         mface->v1==mface->v3 ||
782                         mface->v2==mface->v4
783                 ) {
784                         return 0;
785                 }
786         }
787
788         /* prevent a zero at wrong index location */
789         if(nr==3) {
790                 if(mface->v3==0) {
791                         static int corner_indices[4] = {1, 2, 0, 3};
792
793                         SWAP(unsigned int, mface->v1, mface->v2);
794                         SWAP(unsigned int, mface->v2, mface->v3);
795
796                         if(fdata)
797                                 CustomData_swap(fdata, mfindex, corner_indices);
798                 }
799         }
800         else if(nr==4) {
801                 if(mface->v3==0 || mface->v4==0) {
802                         static int corner_indices[4] = {2, 3, 0, 1};
803
804                         SWAP(unsigned int, mface->v1, mface->v3);
805                         SWAP(unsigned int, mface->v2, mface->v4);
806
807                         if(fdata)
808                                 CustomData_swap(fdata, mfindex, corner_indices);
809                 }
810         }
811
812         return nr;
813 }
814
815 Mesh *get_mesh(Object *ob)
816 {
817         
818         if(ob==NULL) return NULL;
819         if(ob->type==OB_MESH) return ob->data;
820         else return NULL;
821 }
822
823 void set_mesh(Object *ob, Mesh *me)
824 {
825         Mesh *old=NULL;
826
827         multires_force_update(ob);
828         
829         if(ob==NULL) return;
830         
831         if(ob->type==OB_MESH) {
832                 old= ob->data;
833                 if (old)
834                         old->id.us--;
835                 ob->data= me;
836                 id_us_plus((ID *)me);
837         }
838         
839         test_object_materials((ID *)me);
840
841         test_object_modifiers(ob);
842 }
843
844 /* ************** make edges in a Mesh, for outside of editmode */
845
846 struct edgesort {
847         unsigned int v1, v2;
848         short is_loose, is_draw;
849 };
850
851 /* edges have to be added with lowest index first for sorting */
852 static void to_edgesort(struct edgesort *ed,
853                         unsigned int v1, unsigned int v2,
854                         short is_loose, short is_draw)
855 {
856         if(v1<v2) {
857                 ed->v1= v1; ed->v2= v2;
858         }
859         else {
860                 ed->v1= v2; ed->v2= v1;
861         }
862         ed->is_loose= is_loose;
863         ed->is_draw= is_draw;
864 }
865
866 static int vergedgesort(const void *v1, const void *v2)
867 {
868         const struct edgesort *x1=v1, *x2=v2;
869
870         if( x1->v1 > x2->v1) return 1;
871         else if( x1->v1 < x2->v1) return -1;
872         else if( x1->v2 > x2->v2) return 1;
873         else if( x1->v2 < x2->v2) return -1;
874         
875         return 0;
876 }
877
878
879 /* TODO: remove after bmesh merge */
880 #if 0
881
882 static void mfaces_strip_loose(MFace *mface, int *totface)
883 {
884         int a,b;
885
886         for (a=b=0; a<*totface; a++) {
887                 if (mface[a].v3) {
888                         if (a!=b) {
889                                 memcpy(&mface[b],&mface[a],sizeof(mface[b]));
890                         }
891                         b++;
892                 }
893         }
894
895         *totface= b;
896 }
897
898 #endif
899
900 /* Create edges based on known verts and faces */
901 static void make_edges_mdata(MVert *UNUSED(allvert), MFace *allface, MLoop *allloop,
902         MPoly *allpoly, int UNUSED(totvert), int totface, int UNUSED(totloop), int totpoly,
903         int old, MEdge **alledge, int *_totedge)
904 {
905         MPoly *mpoly;
906         MLoop *mloop;
907         MFace *mface;
908         MEdge *medge;
909         EdgeHash *hash = BLI_edgehash_new();
910         struct edgesort *edsort, *ed;
911         int a, b, totedge=0, final=0;
912
913         /* we put all edges in array, sort them, and detect doubles that way */
914
915         for(a= totface, mface= allface; a>0; a--, mface++) {
916                 if(mface->v4) totedge+=4;
917                 else if(mface->v3) totedge+=3;
918                 else totedge+=1;
919         }
920
921         if(totedge==0) {
922                 /* flag that mesh has edges */
923                 (*alledge)= MEM_callocN(0, "make mesh edges");
924                 (*_totedge) = 0;
925                 return;
926         }
927
928         ed= edsort= MEM_mallocN(totedge*sizeof(struct edgesort), "edgesort");
929
930         for(a= totface, mface= allface; a>0; a--, mface++) {
931                 to_edgesort(ed++, mface->v1, mface->v2, !mface->v3, mface->edcode & ME_V1V2);
932                 if(mface->v4) {
933                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
934                         to_edgesort(ed++, mface->v3, mface->v4, 0, mface->edcode & ME_V3V4);
935                         to_edgesort(ed++, mface->v4, mface->v1, 0, mface->edcode & ME_V4V1);
936                 }
937                 else if(mface->v3) {
938                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
939                         to_edgesort(ed++, mface->v3, mface->v1, 0, mface->edcode & ME_V3V1);
940                 }
941         }
942
943         qsort(edsort, totedge, sizeof(struct edgesort), vergedgesort);
944
945         /* count final amount */
946         for(a=totedge, ed=edsort; a>1; a--, ed++) {
947                 /* edge is unique when it differs from next edge, or is last */
948                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) final++;
949         }
950         final++;
951
952         (*alledge)= medge= MEM_callocN(sizeof (MEdge) * final, "make_edges mdge");
953         (*_totedge)= final;
954
955         for(a=totedge, ed=edsort; a>1; a--, ed++) {
956                 /* edge is unique when it differs from next edge, or is last */
957                 if(ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) {
958                         medge->v1= ed->v1;
959                         medge->v2= ed->v2;
960                         if(old==0 || ed->is_draw) medge->flag= ME_EDGEDRAW|ME_EDGERENDER;
961                         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
962
963                         /* order is swapped so extruding this edge as a surface wont flip face normals
964                          * with cyclic curves */
965                         if(ed->v1+1 != ed->v2) {
966                                 SWAP(unsigned int, medge->v1, medge->v2);
967                         }
968                         medge++;
969                 }
970                 else {
971                         /* equal edge, we merge the drawflag */
972                         (ed+1)->is_draw |= ed->is_draw;
973                 }
974         }
975         /* last edge */
976         medge->v1= ed->v1;
977         medge->v2= ed->v2;
978         medge->flag= ME_EDGEDRAW;
979         if(ed->is_loose) medge->flag|= ME_LOOSEEDGE;
980         medge->flag |= ME_EDGERENDER;
981
982         MEM_freeN(edsort);
983         
984         /*set edge members of mloops*/
985         medge= *alledge;
986         for (a=0; a<*_totedge; a++, medge++) {
987                 BLI_edgehash_insert(hash, medge->v1, medge->v2, SET_INT_IN_POINTER(a));
988         }
989         
990         mpoly = allpoly;
991         for (a=0; a<totpoly; a++, mpoly++) {
992                 mloop = allloop + mpoly->loopstart;
993                 for (b=0; b<mpoly->totloop; b++) {
994                         int v1, v2;
995                         
996                         v1 = mloop[b].v;
997                         v2 = ME_POLY_LOOP_NEXT(mloop, mpoly, b)->v;
998                         mloop[b].e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(hash, v1, v2));
999                 }
1000         }
1001         
1002         BLI_edgehash_free(hash, NULL);
1003 }
1004
1005 void make_edges(Mesh *me, int old)
1006 {
1007         MEdge *medge;
1008         int totedge=0;
1009
1010         make_edges_mdata(me->mvert, me->mface, me->mloop, me->mpoly, me->totvert, me->totface, me->totloop, me->totpoly, old, &medge, &totedge);
1011         if(totedge==0) {
1012                 /* flag that mesh has edges */
1013                 me->medge = medge;
1014                 me->totedge = 0;
1015                 return;
1016         }
1017
1018         medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, medge, totedge);
1019         me->medge= medge;
1020         me->totedge= totedge;
1021
1022         mesh_strip_loose_faces(me);
1023 }
1024
1025 void mesh_strip_loose_faces(Mesh *me)
1026 {
1027         int a,b;
1028
1029         for (a=b=0; a<me->totface; a++) {
1030                 if (me->mface[a].v3) {
1031                         if (a!=b) {
1032                                 memcpy(&me->mface[b],&me->mface[a],sizeof(me->mface[b]));
1033                                 CustomData_copy_data(&me->fdata, &me->fdata, a, b, 1);
1034                                 CustomData_free_elem(&me->fdata, a, 1);
1035                         }
1036                         b++;
1037                 }
1038         }
1039         me->totface = b;
1040 }
1041
1042 void mesh_strip_loose_edges(Mesh *me)
1043 {
1044         int a,b;
1045
1046         for (a=b=0; a<me->totedge; a++) {
1047                 if (me->medge[a].v1!=me->medge[a].v2) {
1048                         if (a!=b) {
1049                                 memcpy(&me->medge[b],&me->medge[a],sizeof(me->medge[b]));
1050                                 CustomData_copy_data(&me->edata, &me->edata, a, b, 1);
1051                                 CustomData_free_elem(&me->edata, a, 1);
1052                         }
1053                         b++;
1054                 }
1055         }
1056         me->totedge = b;
1057 }
1058
1059 void mball_to_mesh(ListBase *lb, Mesh *me)
1060 {
1061         DispList *dl;
1062         MVert *mvert;
1063         MFace *mface;
1064         float *nors, *verts;
1065         int a, *index;
1066         
1067         dl= lb->first;
1068         if(dl==NULL) return;
1069
1070         if(dl->type==DL_INDEX4) {
1071                 me->totvert= dl->nr;
1072                 me->totface= dl->parts;
1073                 
1074                 mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, dl->nr);
1075                 mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, dl->parts);
1076                 me->mvert= mvert;
1077                 me->mface= mface;
1078
1079                 a= dl->nr;
1080                 nors= dl->nors;
1081                 verts= dl->verts;
1082                 while(a--) {
1083                         copy_v3_v3(mvert->co, verts);
1084                         normal_float_to_short_v3(mvert->no, nors);
1085                         mvert++;
1086                         nors+= 3;
1087                         verts+= 3;
1088                 }
1089                 
1090                 a= dl->parts;
1091                 index= dl->index;
1092                 while(a--) {
1093                         mface->v1= index[0];
1094                         mface->v2= index[1];
1095                         mface->v3= index[2];
1096                         mface->v4= index[3];
1097                         mface->flag= ME_SMOOTH;
1098
1099                         test_index_face(mface, NULL, 0, (mface->v3==mface->v4)? 3: 4);
1100
1101                         mface++;
1102                         index+= 4;
1103                 }
1104
1105                 make_edges(me, 0);      // all edges
1106
1107
1108                 /* BMESH_TODO - low priority, should make polygons instead */
1109                 convert_mfaces_to_mpolys(me);
1110
1111                 mesh_update_customdata_pointers(me, TRUE);
1112         }
1113 }
1114
1115 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1116 /* return non-zero on error */
1117 int nurbs_to_mdata(Object *ob, MVert **allvert, int *totvert,
1118         MEdge **alledge, int *totedge, MLoop **allloop, MPoly **allpoly,
1119         int *totloop, int *totpoly)
1120 {
1121         return nurbs_to_mdata_customdb(ob, &ob->disp,
1122                 allvert, totvert, alledge, totedge, allloop, allpoly, totloop, totpoly);
1123 }
1124
1125 /* BMESH: this doesn't calculate all edges from polygons,
1126  * only free standing edges are calculated */
1127
1128 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1129 /* use specified dispbase  */
1130 int nurbs_to_mdata_customdb(Object *ob, ListBase *dispbase, MVert **allvert, int *_totvert,
1131         MEdge **alledge, int *_totedge, MLoop **allloop, MPoly **allpoly,
1132         int *_totloop, int *_totpoly)
1133 {
1134         DispList *dl;
1135         Curve *cu;
1136         MVert *mvert;
1137         MPoly *mpoly;
1138         MLoop *mloop;
1139         MEdge *medge;
1140         float *data;
1141         int a, b, ofs, vertcount, startvert, totvert=0, totedge=0, totloop=0, totvlak=0;
1142         int p1, p2, p3, p4, *index;
1143         int conv_polys= 0;
1144
1145         cu= ob->data;
1146
1147         conv_polys|= cu->flag & CU_3D;          /* 2d polys are filled with DL_INDEX3 displists */
1148         conv_polys|= ob->type == OB_SURF;       /* surf polys are never filled */
1149
1150         /* count */
1151         dl= dispbase->first;
1152         while(dl) {
1153                 if(dl->type==DL_SEGM) {
1154                         totvert+= dl->parts*dl->nr;
1155                         totedge+= dl->parts*(dl->nr-1);
1156                 }
1157                 else if(dl->type==DL_POLY) {
1158                         if(conv_polys) {
1159                                 totvert+= dl->parts*dl->nr;
1160                                 totedge+= dl->parts*dl->nr;
1161                         }
1162                 }
1163                 else if(dl->type==DL_SURF) {
1164                         int tot;
1165                         totvert+= dl->parts*dl->nr;
1166                         tot = (dl->parts-1+((dl->flag & DL_CYCL_V)==2))*(dl->nr-1+(dl->flag & DL_CYCL_U));
1167                         totvlak += tot;
1168                         totloop += tot * 4;
1169                 }
1170                 else if(dl->type==DL_INDEX3) {
1171                         int tot;
1172                         totvert+= dl->nr;
1173                         tot = dl->parts;
1174                         totvlak+= tot;
1175                         totloop += tot * 3;
1176                 }
1177                 dl= dl->next;
1178         }
1179
1180         if(totvert==0) {
1181                 /* error("can't convert"); */
1182                 /* Make Sure you check ob->data is a curve */
1183                 return -1;
1184         }
1185
1186         *allvert = mvert = MEM_callocN(sizeof(MVert) * totvert, "nurbs_init mvert");
1187         *alledge = medge = MEM_callocN(sizeof(MEdge) * totedge, "nurbs_init medge");
1188         *allloop = mloop = MEM_callocN(sizeof(MLoop) * totvlak * 4, "nurbs_init mloop"); // totloop
1189         *allpoly = mpoly = MEM_callocN(sizeof(MPoly) * totvlak, "nurbs_init mloop");
1190         
1191         /* verts and faces */
1192         vertcount= 0;
1193
1194         dl= dispbase->first;
1195         while(dl) {
1196                 int smooth= dl->rt & CU_SMOOTH ? 1 : 0;
1197
1198                 if(dl->type==DL_SEGM) {
1199                         startvert= vertcount;
1200                         a= dl->parts*dl->nr;
1201                         data= dl->verts;
1202                         while(a--) {
1203                                 copy_v3_v3(mvert->co, data);
1204                                 data+=3;
1205                                 vertcount++;
1206                                 mvert++;
1207                         }
1208
1209                         for(a=0; a<dl->parts; a++) {
1210                                 ofs= a*dl->nr;
1211                                 for(b=1; b<dl->nr; b++) {
1212                                         medge->v1= startvert+ofs+b-1;
1213                                         medge->v2= startvert+ofs+b;
1214                                         medge->flag = ME_LOOSEEDGE|ME_EDGERENDER;
1215
1216                                         medge++;
1217                                 }
1218                         }
1219
1220                 }
1221                 else if(dl->type==DL_POLY) {
1222                         if(conv_polys) {
1223                                 startvert= vertcount;
1224                                 a= dl->parts*dl->nr;
1225                                 data= dl->verts;
1226                                 while(a--) {
1227                                         copy_v3_v3(mvert->co, data);
1228                                         data+=3;
1229                                         vertcount++;
1230                                         mvert++;
1231                                 }
1232
1233                                 for(a=0; a<dl->parts; a++) {
1234                                         ofs= a*dl->nr;
1235                                         for(b=0; b<dl->nr; b++) {
1236                                                 medge->v1= startvert+ofs+b;
1237                                                 if(b==dl->nr-1) medge->v2= startvert+ofs;
1238                                                 else medge->v2= startvert+ofs+b+1;
1239                                                 medge->flag = ME_LOOSEEDGE|ME_EDGERENDER;
1240                                                 medge++;
1241                                         }
1242                                 }
1243                         }
1244                 }
1245                 else if(dl->type==DL_INDEX3) {
1246                         startvert= vertcount;
1247                         a= dl->nr;
1248                         data= dl->verts;
1249                         while(a--) {
1250                                 copy_v3_v3(mvert->co, data);
1251                                 data+=3;
1252                                 vertcount++;
1253                                 mvert++;
1254                         }
1255
1256                         a= dl->parts;
1257                         index= dl->index;
1258                         while(a--) {
1259                                 mloop[0].v = startvert+index[0];
1260                                 mloop[1].v = startvert+index[2];
1261                                 mloop[2].v = startvert+index[1];
1262                                 mpoly->loopstart = (int)(mloop - (*allloop));
1263                                 mpoly->totloop = 3;
1264                                 mpoly->mat_nr = dl->col;
1265
1266                                 if(smooth) mpoly->flag |= ME_SMOOTH;
1267                                 mpoly++;
1268                                 mloop+= 3;
1269                                 index+= 3;
1270                         }
1271
1272
1273                 }
1274                 else if(dl->type==DL_SURF) {
1275                         startvert= vertcount;
1276                         a= dl->parts*dl->nr;
1277                         data= dl->verts;
1278                         while(a--) {
1279                                 copy_v3_v3(mvert->co, data);
1280                                 data+=3;
1281                                 vertcount++;
1282                                 mvert++;
1283                         }
1284
1285                         for(a=0; a<dl->parts; a++) {
1286
1287                                 if( (dl->flag & DL_CYCL_V)==0 && a==dl->parts-1) break;
1288
1289                                 if(dl->flag & DL_CYCL_U) {                      /* p2 -> p1 -> */
1290                                         p1= startvert+ dl->nr*a;        /* p4 -> p3 -> */
1291                                         p2= p1+ dl->nr-1;               /* -----> next row */
1292                                         p3= p1+ dl->nr;
1293                                         p4= p2+ dl->nr;
1294                                         b= 0;
1295                                 }
1296                                 else {
1297                                         p2= startvert+ dl->nr*a;
1298                                         p1= p2+1;
1299                                         p4= p2+ dl->nr;
1300                                         p3= p1+ dl->nr;
1301                                         b= 1;
1302                                 }
1303                                 if( (dl->flag & DL_CYCL_V) && a==dl->parts-1) {
1304                                         p3-= dl->parts*dl->nr;
1305                                         p4-= dl->parts*dl->nr;
1306                                 }
1307
1308                                 for(; b<dl->nr; b++) {
1309                                         mloop[0].v= p1;
1310                                         mloop[1].v= p3;
1311                                         mloop[2].v= p4;
1312                                         mloop[3].v= p2;
1313                                         mpoly->loopstart = (int)(mloop - (*allloop));
1314                                         mpoly->totloop = 4;
1315                                         mpoly->mat_nr = dl->col;
1316
1317                                         if(smooth) mpoly->flag |= ME_SMOOTH;
1318                                         mpoly++;
1319                                         mloop+= 4;
1320
1321                                         p4= p3;
1322                                         p3++;
1323                                         p2= p1;
1324                                         p1++;
1325                                 }
1326                         }
1327
1328                 }
1329
1330                 dl= dl->next;
1331         }
1332         
1333         *_totpoly= totvlak;
1334         *_totloop= totloop;
1335         *_totedge= totedge;
1336         *_totvert= totvert;
1337
1338         /* not uded for bmesh */
1339 #if 0
1340         make_edges_mdata(*allvert, *allface, *allloop, *allpoly, totvert, totvlak, *_totloop, *_totpoly, 0, alledge, _totedge);
1341         mfaces_strip_loose(*allface, _totface);
1342 #endif
1343
1344         return 0;
1345 }
1346
1347 /* this may fail replacing ob->data, be sure to check ob->type */
1348 void nurbs_to_mesh(Object *ob)
1349 {
1350         Main *bmain= G.main;
1351         Object *ob1;
1352         DerivedMesh *dm= ob->derivedFinal;
1353         Mesh *me;
1354         Curve *cu;
1355         MVert *allvert= NULL;
1356         MEdge *alledge= NULL;
1357         MLoop *allloop = NULL;
1358         MPoly *allpoly = NULL;
1359         int totvert, totedge, totloop, totpoly;
1360
1361         cu= ob->data;
1362
1363         if (dm == NULL) {
1364                 if (nurbs_to_mdata (ob, &allvert, &totvert, &alledge, &totedge, &allloop, &allpoly, &totloop, &totpoly) != 0) {
1365                         /* Error initializing */
1366                         return;
1367                 }
1368
1369                 /* make mesh */
1370                 me= add_mesh("Mesh");
1371                 me->totvert= totvert;
1372                 me->totedge= totedge;
1373                 me->totloop = totloop;
1374                 me->totpoly = totpoly;
1375
1376                 me->mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_ASSIGN, allvert, me->totvert);
1377                 me->medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, alledge, me->totedge);
1378                 me->mloop= CustomData_add_layer(&me->ldata, CD_MLOOP, CD_ASSIGN, allloop, me->totloop);
1379                 me->mpoly= CustomData_add_layer(&me->pdata, CD_MPOLY, CD_ASSIGN, allpoly, me->totpoly);
1380
1381                 mesh_calc_normals(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, me->totpoly, NULL);
1382
1383                 BKE_mesh_calc_edges(me, TRUE);
1384         } else {
1385                 me= add_mesh("Mesh");
1386                 DM_to_mesh(dm, me, ob);
1387         }
1388
1389         me->totcol= cu->totcol;
1390         me->mat= cu->mat;
1391
1392         tex_space_mesh(me);
1393
1394         cu->mat= NULL;
1395         cu->totcol= 0;
1396
1397         if(ob->data) {
1398                 free_libblock(&bmain->curve, ob->data);
1399         }
1400         ob->data= me;
1401         ob->type= OB_MESH;
1402
1403         /* other users */
1404         ob1= bmain->object.first;
1405         while(ob1) {
1406                 if(ob1->data==cu) {
1407                         ob1->type= OB_MESH;
1408                 
1409                         ob1->data= ob->data;
1410                         id_us_plus((ID *)ob->data);
1411                 }
1412                 ob1= ob1->id.next;
1413         }
1414 }
1415
1416 typedef struct EdgeLink {
1417         Link *next, *prev;
1418         void *edge;
1419 } EdgeLink;
1420
1421 typedef struct VertLink {
1422         Link *next, *prev;
1423         unsigned int index;
1424 } VertLink;
1425
1426 static void prependPolyLineVert(ListBase *lb, unsigned int index)
1427 {
1428         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1429         vl->index = index;
1430         BLI_addhead(lb, vl);
1431 }
1432
1433 static void appendPolyLineVert(ListBase *lb, unsigned int index)
1434 {
1435         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1436         vl->index = index;
1437         BLI_addtail(lb, vl);
1438 }
1439
1440 void mesh_to_curve(Scene *scene, Object *ob)
1441 {
1442         /* make new mesh data from the original copy */
1443         DerivedMesh *dm= mesh_get_derived_final(scene, ob, CD_MASK_MESH);
1444
1445         MVert *mverts= dm->getVertArray(dm);
1446         MEdge *med, *medge= dm->getEdgeArray(dm);
1447         MFace *mf,  *mface= dm->getTessFaceArray(dm);
1448
1449         int totedge = dm->getNumEdges(dm);
1450         int totface = dm->getNumTessFaces(dm);
1451         int totedges = 0;
1452         int i, needsFree = 0;
1453
1454         /* only to detect edge polylines */
1455         EdgeHash *eh = BLI_edgehash_new();
1456         EdgeHash *eh_edge = BLI_edgehash_new();
1457
1458
1459         ListBase edges = {NULL, NULL};
1460
1461         /* create edges from all faces (so as to find edges not in any faces) */
1462         mf= mface;
1463         for (i = 0; i < totface; i++, mf++) {
1464                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
1465                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
1466                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
1467                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
1468
1469                 if (mf->v4) {
1470                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
1471                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
1472                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
1473                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
1474                 } else {
1475                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
1476                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
1477                 }
1478         }
1479
1480         med= medge;
1481         for(i=0; i<totedge; i++, med++) {
1482                 if (!BLI_edgehash_haskey(eh, med->v1, med->v2)) {
1483                         EdgeLink *edl= MEM_callocN(sizeof(EdgeLink), "EdgeLink");
1484
1485                         BLI_edgehash_insert(eh_edge, med->v1, med->v2, NULL);
1486                         edl->edge= med;
1487
1488                         BLI_addtail(&edges, edl);       totedges++;
1489                 }
1490         }
1491         BLI_edgehash_free(eh_edge, NULL);
1492         BLI_edgehash_free(eh, NULL);
1493
1494         if(edges.first) {
1495                 Curve *cu = add_curve(ob->id.name+2, OB_CURVE);
1496                 cu->flag |= CU_3D;
1497
1498                 while(edges.first) {
1499                         /* each iteration find a polyline and add this as a nurbs poly spline */
1500
1501                         ListBase polyline = {NULL, NULL}; /* store a list of VertLink's */
1502                         int closed = FALSE;
1503                         int totpoly= 0;
1504                         MEdge *med_current= ((EdgeLink *)edges.last)->edge;
1505                         unsigned int startVert= med_current->v1;
1506                         unsigned int endVert= med_current->v2;
1507                         int ok= TRUE;
1508
1509                         appendPolyLineVert(&polyline, startVert);       totpoly++;
1510                         appendPolyLineVert(&polyline, endVert);         totpoly++;
1511                         BLI_freelinkN(&edges, edges.last);                      totedges--;
1512
1513                         while(ok) { /* while connected edges are found... */
1514                                 ok = FALSE;
1515                                 i= totedges;
1516                                 while(i) {
1517                                         EdgeLink *edl;
1518
1519                                         i-=1;
1520                                         edl= BLI_findlink(&edges, i);
1521                                         med= edl->edge;
1522
1523                                         if(med->v1==endVert) {
1524                                                 endVert = med->v2;
1525                                                 appendPolyLineVert(&polyline, med->v2); totpoly++;
1526                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1527                                                 ok= TRUE;
1528                                         }
1529                                         else if(med->v2==endVert) {
1530                                                 endVert = med->v1;
1531                                                 appendPolyLineVert(&polyline, endVert); totpoly++;
1532                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1533                                                 ok= TRUE;
1534                                         }
1535                                         else if(med->v1==startVert) {
1536                                                 startVert = med->v2;
1537                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1538                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1539                                                 ok= TRUE;
1540                                         }
1541                                         else if(med->v2==startVert) {
1542                                                 startVert = med->v1;
1543                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1544                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1545                                                 ok= TRUE;
1546                                         }
1547                                 }
1548                         }
1549
1550                         /* Now we have a polyline, make into a curve */
1551                         if(startVert==endVert) {
1552                                 BLI_freelinkN(&polyline, polyline.last);
1553                                 totpoly--;
1554                                 closed = TRUE;
1555                         }
1556
1557                         /* --- nurbs --- */
1558                         {
1559                                 Nurb *nu;
1560                                 BPoint *bp;
1561                                 VertLink *vl;
1562
1563                                 /* create new 'nurb' within the curve */
1564                                 nu = (Nurb *)MEM_callocN(sizeof(Nurb), "MeshNurb");
1565
1566                                 nu->pntsu= totpoly;
1567                                 nu->pntsv= 1;
1568                                 nu->orderu= 4;
1569                                 nu->flagu= CU_NURB_ENDPOINT | (closed ? CU_NURB_CYCLIC:0);      /* endpoint */
1570                                 nu->resolu= 12;
1571
1572                                 nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*totpoly, "bpoints");
1573
1574                                 /* add points */
1575                                 vl= polyline.first;
1576                                 for (i=0, bp=nu->bp; i < totpoly; i++, bp++, vl=(VertLink *)vl->next) {
1577                                         copy_v3_v3(bp->vec, mverts[vl->index].co);
1578                                         bp->f1= SELECT;
1579                                         bp->radius = bp->weight = 1.0;
1580                                 }
1581                                 BLI_freelistN(&polyline);
1582
1583                                 /* add nurb to curve */
1584                                 BLI_addtail(&cu->nurb, nu);
1585                         }
1586                         /* --- done with nurbs --- */
1587                 }
1588
1589                 ((Mesh *)ob->data)->id.us--;
1590                 ob->data= cu;
1591                 ob->type= OB_CURVE;
1592
1593                 /* curve objects can't contain DM in usual cases, we could free memory */
1594                 needsFree= 1;
1595         }
1596
1597         dm->needsFree = needsFree;
1598         dm->release(dm);
1599
1600         if (needsFree) {
1601                 ob->derivedFinal = NULL;
1602
1603                 /* curve object could have got bounding box only in special cases */
1604                 if(ob->bb) {
1605                         MEM_freeN(ob->bb);
1606                         ob->bb= NULL;
1607                 }
1608         }
1609 }
1610
1611 void mesh_delete_material_index(Mesh *me, short index)
1612 {
1613         int i;
1614
1615         for (i=0; i<me->totpoly; i++) {
1616                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1617                 if (mp->mat_nr && mp->mat_nr>=index) 
1618                         mp->mat_nr--;
1619         }
1620         
1621         for (i=0; i<me->totface; i++) {
1622                 MFace *mf = &((MFace*) me->mface)[i];
1623                 if (mf->mat_nr && mf->mat_nr>=index) 
1624                         mf->mat_nr--;
1625         }
1626 }
1627
1628 void mesh_set_smooth_flag(Object *meshOb, int enableSmooth) 
1629 {
1630         Mesh *me = meshOb->data;
1631         int i;
1632
1633         for (i=0; i<me->totpoly; i++) {
1634                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1635
1636                 if (enableSmooth) {
1637                         mp->flag |= ME_SMOOTH;
1638                 } else {
1639                         mp->flag &= ~ME_SMOOTH;
1640                 }
1641         }
1642         
1643         for (i=0; i<me->totface; i++) {
1644                 MFace *mf = &((MFace*) me->mface)[i];
1645
1646                 if (enableSmooth) {
1647                         mf->flag |= ME_SMOOTH;
1648                 } else {
1649                         mf->flag &= ~ME_SMOOTH;
1650                 }
1651         }
1652 }
1653
1654 void mesh_calc_normals_mapping(MVert *mverts, int numVerts,
1655                                 MLoop *mloop, MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
1656                                 MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3])
1657 {
1658         mesh_calc_normals_mapping_ex(mverts, numVerts, mloop, mpolys,
1659                                       numLoops, numPolys, polyNors_r, mfaces, numFaces,
1660                                       origIndexFace, faceNors_r, TRUE);
1661 }
1662
1663 void mesh_calc_normals_mapping_ex(MVert *mverts, int numVerts,
1664                                    MLoop *mloop, MPoly *mpolys,
1665                                    int numLoops, int numPolys, float (*polyNors_r)[3],
1666                                    MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3],
1667                                    const short only_face_normals)
1668 {
1669         float (*pnors)[3] = polyNors_r, (*fnors)[3] = faceNors_r;
1670         int i;
1671         MFace *mf;
1672         MPoly *mp;
1673
1674         if (numPolys == 0) {
1675                 return;
1676         }
1677
1678         /* if we are not calculating verts and no verts were passes thene we have nothign to do */
1679         if ((only_face_normals == TRUE) && (polyNors_r == NULL) && (faceNors_r == NULL)) {
1680                 printf("%s: called with nothing to do\n", __func__);
1681                 return;
1682         }
1683
1684         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1685         /* if (!fnors) fnors = MEM_callocN(sizeof(float) * 3 * numFaces, "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
1686
1687
1688         if (only_face_normals == FALSE) {
1689                 /* vertex normals are optional, they require some extra calculations,
1690                  * so make them optional */
1691                 mesh_calc_normals(mverts, numVerts, mloop, mpolys, numLoops, numPolys, pnors);
1692         }
1693         else {
1694                 /* only calc poly normals */
1695                 mp = mpolys;
1696                 for (i=0; i<numPolys; i++, mp++) {
1697                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1698                 }
1699         }
1700
1701         if ( origIndexFace &&
1702              /* fnors==faceNors_r */ /* NO NEED TO ALLOC YET */
1703              fnors != NULL &&
1704              numFaces)
1705         {
1706                 mf = mfaces;
1707                 for (i=0; i<numFaces; i++, mf++, origIndexFace++) {
1708                         if (*origIndexFace < numPolys) {
1709                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
1710                         } else {
1711                                 /*eek, we're not corrusponding to polys*/
1712                                 printf("error in mesh_calc_normals; tesselation face indices are incorrect.  normals may look bad.\n");
1713                         }
1714                 }
1715         }
1716
1717         if (pnors != polyNors_r) MEM_freeN(pnors);
1718         /* if (fnors != faceNors_r) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
1719
1720         fnors = pnors = NULL;
1721         
1722 }
1723
1724 void mesh_calc_normals(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1725                        int UNUSED(numLoops), int numPolys, float (*polyNors_r)[3])
1726 {
1727         float (*pnors)[3] = polyNors_r;
1728
1729         float (*tnorms)[3], (*edgevecbuf)[3]= NULL;
1730         float **vertcos = NULL, **vertnos = NULL;
1731         BLI_array_declare(vertcos);
1732         BLI_array_declare(vertnos);
1733         BLI_array_declare(edgevecbuf);
1734
1735         int i, j;
1736         MPoly *mp;
1737         MLoop *ml;
1738
1739         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1740
1741         /*first go through and calculate normals for all the polys*/
1742         tnorms = MEM_callocN(sizeof(float)*3*numVerts, "tnorms mesh.c");
1743
1744         mp = mpolys;
1745         for (i=0; i<numPolys; i++, mp++) {
1746                 mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1747                 ml = mloop + mp->loopstart;
1748
1749                 BLI_array_empty(vertcos);
1750                 BLI_array_empty(vertnos);
1751                 BLI_array_growitems(vertcos, mp->totloop);
1752                 BLI_array_growitems(vertnos, mp->totloop);
1753
1754                 for (j=0; j < mp->totloop; j++) {
1755                         int vindex = ml[j].v;
1756                         vertcos[j] = mverts[vindex].co;
1757                         vertnos[j] = tnorms[vindex];
1758                 }
1759
1760                 BLI_array_empty(edgevecbuf);
1761                 BLI_array_growitems(edgevecbuf, mp->totloop);
1762
1763                 accumulate_vertex_normals_poly(vertnos, pnors[i], vertcos, edgevecbuf, mp->totloop);
1764         }
1765
1766         BLI_array_free(vertcos);
1767         BLI_array_free(vertnos);
1768         BLI_array_free(edgevecbuf);
1769
1770         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1771         for(i=0; i<numVerts; i++) {
1772                 MVert *mv= &mverts[i];
1773                 float *no= tnorms[i];
1774
1775                 if(normalize_v3(no) == 0.0f)
1776                         normalize_v3_v3(no, mv->co);
1777
1778                 normal_float_to_short_v3(mv->no, no);
1779         }
1780
1781         MEM_freeN(tnorms);
1782
1783         if (pnors != polyNors_r) MEM_freeN(pnors);
1784 }
1785
1786 void mesh_calc_normals_tessface(MVert *mverts, int numVerts, MFace *mfaces, int numFaces, float (*faceNors_r)[3])
1787 {
1788         float (*tnorms)[3]= MEM_callocN(numVerts*sizeof(*tnorms), "tnorms");
1789         float (*fnors)[3]= (faceNors_r)? faceNors_r: MEM_callocN(sizeof(*fnors)*numFaces, "meshnormals");
1790         int i;
1791
1792         for(i=0; i<numFaces; i++) {
1793                 MFace *mf= &mfaces[i];
1794                 float *f_no= fnors[i];
1795                 float *n4 = (mf->v4)? tnorms[mf->v4]: NULL;
1796                 float *c4 = (mf->v4)? mverts[mf->v4].co: NULL;
1797
1798                 if(mf->v4)
1799                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
1800                 else
1801                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
1802
1803                 accumulate_vertex_normals(tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
1804                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
1805         }
1806
1807         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1808         for(i=0; i<numVerts; i++) {
1809                 MVert *mv= &mverts[i];
1810                 float *no= tnorms[i];
1811                 
1812                 if(normalize_v3(no) == 0.0f)
1813                         normalize_v3_v3(no, mv->co);
1814
1815                 normal_float_to_short_v3(mv->no, no);
1816         }
1817         
1818         MEM_freeN(tnorms);
1819
1820         if(fnors != faceNors_r)
1821                 MEM_freeN(fnors);
1822 }
1823
1824
1825 static void bmesh_corners_to_loops(Mesh *me, int findex, int loopstart, int numTex, int numCol)
1826 {
1827         MTFace *texface;
1828         MTexPoly *texpoly;
1829         MCol *mcol;
1830         MLoopCol *mloopcol;
1831         MLoopUV *mloopuv;
1832         MFace *mf;
1833         int i;
1834
1835         mf = me->mface + findex;
1836
1837         for(i=0; i < numTex; i++){
1838                 texface = CustomData_get_n(&me->fdata, CD_MTFACE, findex, i);
1839                 texpoly = CustomData_get_n(&me->pdata, CD_MTEXPOLY, findex, i); 
1840                 
1841                 ME_MTEXFACE_CPY(texpoly, texface);
1842         
1843                 mloopuv = CustomData_get_n(&me->ldata, CD_MLOOPUV, loopstart, i);
1844                 copy_v2_v2(mloopuv->uv, texface->uv[0]); mloopuv++;
1845                 copy_v2_v2(mloopuv->uv, texface->uv[1]); mloopuv++;
1846                 copy_v2_v2(mloopuv->uv, texface->uv[2]); mloopuv++;
1847
1848                 if (mf->v4) {
1849                         copy_v2_v2(mloopuv->uv, texface->uv[3]); mloopuv++;
1850                 }
1851         }
1852
1853         for(i=0; i < numCol; i++){
1854                 mloopcol = CustomData_get_n(&me->ldata, CD_MLOOPCOL, loopstart, i);
1855                 mcol = CustomData_get_n(&me->fdata, CD_MCOL, findex, i);
1856
1857                 mloopcol->r = mcol[0].r; mloopcol->g = mcol[0].g; mloopcol->b = mcol[0].b; mloopcol->a = mcol[0].a; mloopcol++;
1858                 mloopcol->r = mcol[1].r; mloopcol->g = mcol[1].g; mloopcol->b = mcol[1].b; mloopcol->a = mcol[1].a; mloopcol++;
1859                 mloopcol->r = mcol[2].r; mloopcol->g = mcol[2].g; mloopcol->b = mcol[2].b; mloopcol->a = mcol[2].a; mloopcol++;
1860                 if (mf->v4) {
1861                         mloopcol->r = mcol[3].r; mloopcol->g = mcol[3].g; mloopcol->b = mcol[3].b; mloopcol->a = mcol[3].a; mloopcol++;
1862                 }
1863         }
1864         
1865         if (CustomData_has_layer(&me->fdata, CD_MDISPS)) {
1866                 MDisps *ld = CustomData_get(&me->ldata, loopstart, CD_MDISPS);
1867                 MDisps *fd = CustomData_get(&me->fdata, findex, CD_MDISPS);
1868                 float (*disps)[3] = fd->disps;
1869                 int i, tot = mf->v4 ? 4 : 3;
1870                 int side, corners;
1871                 
1872                 corners = multires_mdisp_corners(fd);
1873                 
1874                 if (corners == 0) {
1875                         /* Empty MDisp layers appear in at least one of the sintel.blend files.
1876                            Not sure why this happens, but it seems fine to just ignore them here.
1877                            If corners==0 for a non-empty layer though, something went wrong. */
1878                         BLI_assert(fd->totdisp == 0);
1879                 }
1880                 else {
1881                         side = sqrt(fd->totdisp / corners);
1882                 
1883                         for (i=0; i<tot; i++, disps += side*side, ld++) {
1884                                 ld->totdisp = side*side;
1885                         
1886                                 if (ld->disps)
1887                                         MEM_freeN(ld->disps);
1888                         
1889                                 ld->disps = MEM_callocN(sizeof(float)*3*side*side, "converted loop mdisps");
1890                                 if (fd->disps) {
1891                                         memcpy(ld->disps, disps, sizeof(float)*3*side*side);
1892                                 }
1893                         }
1894                 }
1895         }
1896 }
1897
1898 void convert_mfaces_to_mpolys(Mesh *mesh)
1899 {
1900         MFace *mf;
1901         MLoop *ml;
1902         MPoly *mp;
1903         MEdge *me;
1904         EdgeHash *eh;
1905         int numTex, numCol;
1906         int i, j, totloop;
1907
1908         mesh->totpoly = mesh->totface;
1909         mesh->mpoly = MEM_callocN(sizeof(MPoly)*mesh->totpoly, "mpoly converted");
1910         CustomData_add_layer(&mesh->pdata, CD_MPOLY, CD_ASSIGN, mesh->mpoly, mesh->totpoly);
1911
1912         numTex = CustomData_number_of_layers(&mesh->fdata, CD_MTFACE);
1913         numCol = CustomData_number_of_layers(&mesh->fdata, CD_MCOL);
1914         
1915         totloop = 0;
1916         mf = mesh->mface;
1917         for (i=0; i<mesh->totface; i++, mf++) {
1918                 totloop += mf->v4 ? 4 : 3;
1919         }
1920         
1921         mesh->totloop = totloop;
1922         mesh->mloop = MEM_callocN(sizeof(MLoop)*mesh->totloop, "mloop converted");
1923
1924         CustomData_add_layer(&mesh->ldata, CD_MLOOP, CD_ASSIGN, mesh->mloop, totloop);
1925         CustomData_to_bmeshpoly(&mesh->fdata, &mesh->pdata, &mesh->ldata,
1926                 mesh->totloop, mesh->totpoly);
1927
1928         eh = BLI_edgehash_new();
1929
1930         /*build edge hash*/
1931         me = mesh->medge;
1932         for (i=0; i<mesh->totedge; i++, me++) {
1933                 BLI_edgehash_insert(eh, me->v1, me->v2, SET_INT_IN_POINTER(i));
1934         }
1935
1936         j = 0; /*current loop index*/
1937         ml = mesh->mloop;
1938         mf = mesh->mface;
1939         mp = mesh->mpoly;
1940         for (i=0; i<mesh->totface; i++, mf++, mp++) {
1941                 mp->loopstart = j;
1942                 
1943                 mp->totloop = mf->v4 ? 4 : 3;
1944
1945                 mp->mat_nr = mf->mat_nr;
1946                 mp->flag = mf->flag;
1947                 
1948                 #define ML(v1, v2) {ml->v = mf->v1; ml->e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(eh, mf->v1, mf->v2)); ml++; j++;}
1949                 
1950                 ML(v1, v2);
1951                 ML(v2, v3);
1952                 if (mf->v4) {
1953                         ML(v3, v4);
1954                         ML(v4, v1);
1955                 } else {
1956                         ML(v3, v1);
1957                 }
1958                 
1959                 #undef ML
1960
1961                 bmesh_corners_to_loops(mesh, i, mp->loopstart, numTex, numCol);
1962         }
1963
1964         /* note, we dont convert FGons at all, these are not even real ngons,
1965          * they have their own UV's, colors etc - its more an editing feature. */
1966
1967         mesh_update_customdata_pointers(mesh, TRUE);
1968
1969         BLI_edgehash_free(eh, NULL);
1970 }
1971
1972 float (*mesh_getVertexCos(Mesh *me, int *numVerts_r))[3]
1973 {
1974         int i, numVerts = me->totvert;
1975         float (*cos)[3] = MEM_mallocN(sizeof(*cos)*numVerts, "vertexcos1");
1976
1977         if (numVerts_r) *numVerts_r = numVerts;
1978         for (i=0; i<numVerts; i++)
1979                 copy_v3_v3(cos[i], me->mvert[i].co);
1980
1981         return cos;
1982 }
1983
1984
1985 /* ngon version wip, based on EDBM_make_uv_vert_map */
1986 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
1987  * but for now this replaces it because its unused. */
1988
1989 UvVertMap *make_uv_vert_map(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv, unsigned int totpoly, unsigned int totvert, int selected, float *limit)
1990 {
1991         UvVertMap *vmap;
1992         UvMapVert *buf;
1993         MPoly *mp;
1994         unsigned int a;
1995         int     i, totuv, nverts;
1996
1997         totuv = 0;
1998
1999         /* generate UvMapVert array */
2000         mp= mpoly;
2001         for(a=0; a<totpoly; a++, mp++)
2002                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
2003                         totuv += mp->totloop;
2004
2005         if(totuv==0)
2006                 return NULL;
2007         
2008         vmap= (UvVertMap*)MEM_callocN(sizeof(*vmap), "UvVertMap");
2009         if (!vmap)
2010                 return NULL;
2011
2012         vmap->vert= (UvMapVert**)MEM_callocN(sizeof(*vmap->vert)*totvert, "UvMapVert*");
2013         buf= vmap->buf= (UvMapVert*)MEM_callocN(sizeof(*vmap->buf)*totuv, "UvMapVert");
2014
2015         if (!vmap->vert || !vmap->buf) {
2016                 free_uv_vert_map(vmap);
2017                 return NULL;
2018         }
2019
2020         mp= mpoly;
2021         for(a=0; a<totpoly; a++, mp++) {
2022                 if(!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
2023                         nverts= mp->totloop;
2024
2025                         for(i=0; i<nverts; i++) {
2026                                 buf->tfindex= i;
2027                                 buf->f= a;
2028                                 buf->separate = 0;
2029                                 buf->next= vmap->vert[mloop[mp->loopstart + i].v];
2030                                 vmap->vert[mloop[mp->loopstart + i].v]= buf;
2031                                 buf++;
2032                         }
2033                 }
2034         }
2035         
2036         /* sort individual uvs for each vert */
2037         for(a=0; a<totvert; a++) {
2038                 UvMapVert *newvlist= NULL, *vlist=vmap->vert[a];
2039                 UvMapVert *iterv, *v, *lastv, *next;
2040                 float *uv, *uv2, uvdiff[2];
2041
2042                 while(vlist) {
2043                         v= vlist;
2044                         vlist= vlist->next;
2045                         v->next= newvlist;
2046                         newvlist= v;
2047
2048                         uv= mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
2049                         lastv= NULL;
2050                         iterv= vlist;
2051
2052                         while(iterv) {
2053                                 next= iterv->next;
2054
2055                                 uv2= mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
2056                                 sub_v2_v2v2(uvdiff, uv2, uv);
2057
2058
2059                                 if(fabsf(uv[0]-uv2[0]) < limit[0] && fabsf(uv[1]-uv2[1]) < limit[1]) {
2060                                         if(lastv) lastv->next= next;
2061                                         else vlist= next;
2062                                         iterv->next= newvlist;
2063                                         newvlist= iterv;
2064                                 }
2065                                 else
2066                                         lastv=iterv;
2067
2068                                 iterv= next;
2069                         }
2070
2071                         newvlist->separate = 1;
2072                 }
2073
2074                 vmap->vert[a]= newvlist;
2075         }
2076         
2077         return vmap;
2078 }
2079
2080 UvMapVert *get_uv_map_vert(UvVertMap *vmap, unsigned int v)
2081 {
2082         return vmap->vert[v];
2083 }
2084
2085 void free_uv_vert_map(UvVertMap *vmap)
2086 {
2087         if (vmap) {
2088                 if (vmap->vert) MEM_freeN(vmap->vert);
2089                 if (vmap->buf) MEM_freeN(vmap->buf);
2090                 MEM_freeN(vmap);
2091         }
2092 }
2093
2094 /* Generates a map where the key is the vertex and the value is a list
2095    of polys that use that vertex as a corner. The lists are allocated
2096    from one memory pool. */
2097 void create_vert_poly_map(ListBase **map, IndexNode **mem,
2098                           MPoly *mpoly, MLoop *mloop,
2099                           const int totvert, const int totpoly, const int totloop)
2100 {
2101         int i,j;
2102         IndexNode *node = NULL;
2103         MPoly *mp;
2104         MLoop *ml;
2105
2106         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2107         (*mem) = MEM_callocN(sizeof(IndexNode) * totloop, "vert poly map mem");
2108         node = *mem;
2109
2110         /* Find the users */
2111         for(i = 0, mp = mpoly; i < totpoly; ++i, ++mp){
2112                 ml = &mloop[mp->loopstart];
2113                 for(j = 0; j < mp->totloop; ++j, ++node, ++ml) {
2114                         node->index = i;
2115                         BLI_addtail(&(*map)[ml->v], node);
2116                 }
2117         }
2118 }
2119
2120 /* Generates a map where the key is the vertex and the value is a list
2121    of faces that use that vertex as a corner. The lists are allocated
2122    from one memory pool. */
2123 void create_vert_face_map(ListBase **map, IndexNode **mem, const MFace *mface, const int totvert, const int totface)
2124 {
2125         int i,j;
2126         IndexNode *node = NULL;
2127         
2128         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2129         (*mem) = MEM_callocN(sizeof(IndexNode) * totface*4, "vert face map mem");
2130         node = *mem;
2131         
2132         /* Find the users */
2133         for(i = 0; i < totface; ++i){
2134                 for(j = 0; j < (mface[i].v4?4:3); ++j, ++node) {
2135                         node->index = i;
2136                         BLI_addtail(&(*map)[((unsigned int*)(&mface[i]))[j]], node);
2137                 }
2138         }
2139 }
2140
2141 /* Generates a map where the key is the vertex and the value is a list
2142    of edges that use that vertex as an endpoint. The lists are allocated
2143    from one memory pool. */
2144 void create_vert_edge_map(ListBase **map, IndexNode **mem, const MEdge *medge, const int totvert, const int totedge)
2145 {
2146         int i, j;
2147         IndexNode *node = NULL;
2148  
2149         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
2150         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
2151         node = *mem;
2152
2153         /* Find the users */
2154         for(i = 0; i < totedge; ++i){
2155                 for(j = 0; j < 2; ++j, ++node) {
2156                         node->index = i;
2157                         BLI_addtail(&(*map)[((unsigned int*)(&medge[i].v1))[j]], node);
2158                 }
2159         }
2160 }
2161
2162 void mesh_loops_to_mface_corners(CustomData *fdata, CustomData *ldata,
2163                                  CustomData *pdata, int lindex[4], int findex,
2164                                  const int polyindex,
2165                                  const int mf_len, /* 3 or 4 */
2166
2167                                  /* cache values to avoid lookups every time */
2168                                  const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2169                                  const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2170                                  const int hasWCol, /* CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL) */
2171                                  const int hasOrigSpace /* CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP) */
2172                                  )
2173 {
2174         MTFace *texface;
2175         MTexPoly *texpoly;
2176         MCol *mcol;
2177         MLoopCol *mloopcol;
2178         MLoopUV *mloopuv;
2179         int i, j;
2180         
2181         for(i=0; i < numTex; i++){
2182                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2183                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2184
2185                 ME_MTEXFACE_CPY(texface, texpoly);
2186
2187                 for (j=0; j < mf_len; j++) {
2188                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, lindex[j], i);
2189                         copy_v2_v2(texface->uv[j], mloopuv->uv);
2190                 }
2191         }
2192
2193         for(i=0; i < numCol; i++){
2194                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2195
2196                 for (j=0; j < mf_len; j++) {
2197                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, lindex[j], i);
2198                         mcol[j].r = mloopcol->r;
2199                         mcol[j].g = mloopcol->g;
2200                         mcol[j].b = mloopcol->b;
2201                         mcol[j].a = mloopcol->a;
2202                 }
2203         }
2204
2205         if (hasWCol) {
2206                 mcol = CustomData_get(fdata,  findex, CD_WEIGHT_MCOL);
2207
2208                 for (j=0; j < mf_len; j++) {
2209                         mloopcol = CustomData_get(ldata, lindex[j], CD_WEIGHT_MLOOPCOL);
2210                         mcol[j].r = mloopcol->r;
2211                         mcol[j].g = mloopcol->g;
2212                         mcol[j].b = mloopcol->b;
2213                         mcol[j].a = mloopcol->a;
2214                 }
2215         }
2216
2217         if (hasOrigSpace) {
2218                 OrigSpaceFace *of = CustomData_get(fdata, findex, CD_ORIGSPACE);
2219                 OrigSpaceLoop *lof;
2220
2221                 for (j=0; j < mf_len; j++) {
2222                         lof = CustomData_get(ldata, lindex[j], CD_ORIGSPACE_MLOOP);
2223                         of->uv[j][0] = lof->uv[0];
2224                         of->uv[j][1] = lof->uv[1];
2225                 }
2226         }
2227 }
2228
2229 /*
2230   this function recreates a tesselation.
2231   returns number of tesselation faces.
2232  */
2233 int mesh_recalcTesselation(CustomData *fdata,
2234                            CustomData *ldata, CustomData *pdata,
2235                            MVert *mvert, int totface, int UNUSED(totloop),
2236                            int totpoly,
2237                            /* when teseelating to recalcilate normals after
2238                             * we can skip copying here */
2239                            const int do_face_nor_cpy)
2240 {
2241
2242         /* use this to avoid locking pthread for _every_ polygon
2243          * and calling the fill function */
2244
2245 #define USE_TESSFACE_SPEEDUP
2246 #define USE_TESSFACE_QUADS // NEEDS FURTHER TESTING
2247
2248 #define TESSFACE_SCANFILL (1<<0)
2249 #define TESSFACE_IS_QUAD  (1<<1)
2250
2251         MPoly *mp, *mpoly;
2252         MLoop *ml, *mloop;
2253         MFace *mface = NULL, *mf;
2254         BLI_array_declare(mface);
2255         EditVert *v, *lastv, *firstv;
2256         EditFace *f;
2257         int *mface_orig_index = NULL;
2258         BLI_array_declare(mface_orig_index);
2259         int *mface_to_poly_map = NULL;
2260         BLI_array_declare(mface_to_poly_map);
2261         int lindex[4]; /* only ever use 3 in this case */
2262         int *poly_orig_index;
2263         int poly_index, j, mface_index;
2264
2265         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2266         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2267         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2268         const int hasOrigSpace = CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP);
2269
2270         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2271         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2272
2273         /* allocate the length of totfaces, avoid many small reallocs,
2274          * if all faces are tri's it will be correct, quads == 2x allocs */
2275         BLI_array_reserve(mface_to_poly_map, totpoly);
2276         BLI_array_reserve(mface, totpoly);
2277
2278         mface_index = 0;
2279         mp = mpoly;
2280         poly_orig_index = CustomData_get_layer(pdata, CD_ORIGINDEX);
2281         for (poly_index = 0; poly_index < totpoly; poly_index++, mp++) {
2282                 if (mp->totloop < 3) {
2283                         /* do nothing */
2284                 }
2285
2286 #ifdef USE_TESSFACE_SPEEDUP
2287
2288 #define ML_TO_MF(i1, i2, i3)                                                  \
2289                 BLI_array_growone(mface_to_poly_map);                                 \
2290                 BLI_array_growone(mface);                                             \
2291                 mface_to_poly_map[mface_index] = poly_index;                          \
2292                 mf= &mface[mface_index];                                              \
2293                 /* set loop indices, transformed to vert indices later */             \
2294                 mf->v1 = mp->loopstart + i1;                                          \
2295                 mf->v2 = mp->loopstart + i2;                                          \
2296                 mf->v3 = mp->loopstart + i3;                                          \
2297                 mf->v4 = 0;                                                           \
2298                 mf->mat_nr = mp->mat_nr;                                              \
2299                 mf->flag = mp->flag;                                                  \
2300                 if (poly_orig_index) {                                                \
2301                         BLI_array_append(mface_orig_index,                                \
2302                                      poly_orig_index[poly_index]);                    \
2303                 }                                                                     \
2304
2305 /* ALMOST IDENTICAL TO DEFINE ABOVE (see EXCEPTION) */
2306 #define ML_TO_MF_QUAD()                                                       \
2307                 BLI_array_growone(mface_to_poly_map);                                 \
2308                 BLI_array_growone(mface);                                             \
2309                 mface_to_poly_map[mface_index] = poly_index;                          \
2310                 mf= &mface[mface_index];                                              \
2311                 /* set loop indices, transformed to vert indices later */             \
2312                 mf->v1 = mp->loopstart + 0; /* EXCEPTION */                           \
2313                 mf->v2 = mp->loopstart + 1; /* EXCEPTION */                           \
2314                 mf->v3 = mp->loopstart + 2; /* EXCEPTION */                           \
2315                 mf->v4 = mp->loopstart + 3; /* EXCEPTION */                           \
2316                 mf->mat_nr = mp->mat_nr;                                              \
2317                 mf->flag = mp->flag;                                                  \
2318                 if (poly_orig_index) {                                                \
2319                         BLI_array_append(mface_orig_index,                                \
2320                                      poly_orig_index[poly_index]);                    \
2321                 }                                                                     \
2322                 mf->edcode |= TESSFACE_IS_QUAD; /* EXCEPTION */                       \
2323
2324
2325                 else if (mp->totloop == 3) {
2326                         ml = mloop + mp->loopstart;
2327                         ML_TO_MF(0, 1, 2)
2328                         mface_index++;
2329                 }
2330                 else if (mp->totloop == 4) {
2331 #ifdef USE_TESSFACE_QUADS
2332                         ml = mloop + mp->loopstart;
2333                         ML_TO_MF_QUAD()
2334                         mface_index++;
2335 #else
2336                         ml = mloop + mp->loopstart;
2337                         ML_TO_MF(0, 1, 2)
2338                         mface_index++;
2339                         ML_TO_MF(0, 2, 3)
2340                         mface_index++;
2341 #endif
2342                 }
2343 #endif /* USE_TESSFACE_SPEEDUP */
2344                 else {
2345                         int totfilltri;
2346
2347                         ml = mloop + mp->loopstart;
2348                         
2349                         BLI_begin_edgefill();
2350                         firstv = NULL;
2351                         lastv = NULL;
2352                         for (j=0; j<mp->totloop; j++, ml++) {
2353                                 v = BLI_addfillvert(mvert[ml->v].co);
2354         
2355                                 v->keyindex = mp->loopstart + j;
2356         
2357                                 if (lastv)
2358                                         BLI_addfilledge(lastv, v);
2359         
2360                                 if (!firstv)
2361                                         firstv = v;
2362                                 lastv = v;
2363                         }
2364                         BLI_addfilledge(lastv, firstv);
2365                         
2366                         totfilltri = BLI_edgefill(2);
2367                         if (totfilltri) {
2368                                 BLI_array_growitems(mface_to_poly_map, totfilltri);
2369                                 BLI_array_growitems(mface, totfilltri);
2370                                 if (poly_orig_index) {
2371                                         BLI_array_growitems(mface_orig_index, totfilltri);
2372                                 }
2373
2374                                 for (f = fillfacebase.first; f; f = f->next, mf++) {
2375                                         mface_to_poly_map[mface_index] = poly_index;
2376                                         mf= &mface[mface_index];
2377
2378                                         /* set loop indices, transformed to vert indices later */
2379                                         mf->v1 = f->v1->keyindex;
2380                                         mf->v2 = f->v2->keyindex;
2381                                         mf->v3 = f->v3->keyindex;
2382                                         mf->v4 = 0;
2383
2384                                         mf->mat_nr = mp->mat_nr;
2385                                         mf->flag = mp->flag;
2386
2387 #ifdef USE_TESSFACE_SPEEDUP
2388                                         mf->edcode |= TESSFACE_SCANFILL; /* tag for sorting loop indicies */
2389 #endif
2390
2391                                         if (poly_orig_index) {
2392                                                 mface_orig_index[mface_index] = poly_orig_index[poly_index];
2393                                         }
2394
2395                                         mface_index++;
2396                                 }
2397                         }
2398         
2399                         BLI_end_edgefill();
2400                 }
2401         }
2402
2403         CustomData_free(fdata, totface);
2404         memset(fdata, 0, sizeof(CustomData));
2405         totface = mface_index;
2406
2407
2408         /* note essential but without this we store over-alloc'd memory in the CustomData layers */
2409         if (LIKELY((MEM_allocN_len(mface) / sizeof(*mface)) != totface)) {
2410                 mface = MEM_reallocN(mface, sizeof(*mface) * totface);
2411                 mface_to_poly_map = MEM_reallocN(mface_to_poly_map, sizeof(*mface_to_poly_map) * totface);
2412                 if (mface_orig_index) {
2413                         mface_orig_index = MEM_reallocN(mface_orig_index, sizeof(*mface_orig_index) * totface);
2414                 }
2415         }
2416
2417         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2418
2419         /* CD_POLYINDEX will contain an array of indices from tessfaces to the polygons
2420          * they are directly tesselated from */
2421         CustomData_add_layer(fdata, CD_POLYINDEX, CD_ASSIGN, mface_to_poly_map, totface);
2422         if (mface_orig_index) {
2423                 /* If polys had a CD_ORIGINDEX layer, then the tesselated faces will get this
2424                  * layer as well, pointing to polys from the original mesh (not the polys
2425                  * that just got tesselated) */
2426                 CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, mface_orig_index, totface);
2427         }
2428
2429         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2430
2431         if (do_face_nor_cpy) {
2432                 /* If polys have a normals layer, copying that to faces can help
2433                  * avoid the need to recalculate normals later */
2434                 if (CustomData_has_layer(pdata, CD_NORMAL)) {
2435                         float (*pnors)[3] = CustomData_get_layer(pdata, CD_NORMAL);
2436                         float (*fnors)[3] = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2437                         for (mface_index = 0; mface_index < totface; mface_index++) {
2438                                 copy_v3_v3(fnors[mface_index], pnors[mface_to_poly_map[mface_index]]);
2439                         }
2440                 }
2441         }
2442
2443         mf = mface;
2444         for (mface_index=0; mface_index < totface; mface_index++, mf++) {
2445
2446 #ifdef USE_TESSFACE_QUADS
2447                 const int mf_len = mf->edcode & TESSFACE_IS_QUAD ? 4 : 3;
2448 #endif
2449
2450 #ifdef USE_TESSFACE_SPEEDUP
2451                 /* skip sorting when not using ngons */
2452                 if (UNLIKELY(mf->edcode & TESSFACE_SCANFILL))
2453 #endif
2454                 {
2455                         /* sort loop indices to ensure winding is correct */
2456                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2457                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2458                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2459
2460                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2461                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2462                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2463                 }
2464
2465                 /* end abusing the edcode */
2466 #if defined(USE_TESSFACE_QUADS) || defined(USE_TESSFACE_SPEEDUP)
2467                 mf->edcode = 0;
2468 #endif
2469
2470
2471                 lindex[0] = mf->v1;
2472                 lindex[1] = mf->v2;
2473                 lindex[2] = mf->v3;
2474 #ifdef USE_TESSFACE_QUADS
2475                 if (mf_len == 4) lindex[3] = mf->v4;
2476 #endif
2477
2478                 /*transform loop indices to vert indices*/
2479                 mf->v1 = mloop[mf->v1].v;
2480                 mf->v2 = mloop[mf->v2].v;
2481                 mf->v3 = mloop[mf->v3].v;
2482 #ifdef USE_TESSFACE_QUADS
2483                 if (mf_len == 4) mf->v4 = mloop[mf->v4].v;
2484 #endif
2485
2486                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2487                                             lindex, mface_index, mface_to_poly_map[mface_index],
2488 #ifdef USE_TESSFACE_QUADS
2489                                             mf_len,
2490 #else
2491                                             3,
2492 #endif
2493                                             numTex, numCol, hasWCol, hasOrigSpace);
2494
2495
2496 #ifdef USE_TESSFACE_QUADS
2497                 test_index_face(mf, fdata, mface_index, mf_len);
2498 #endif
2499
2500         }
2501
2502         return totface;
2503
2504 #undef USE_TESSFACE_SPEEDUP
2505
2506 }
2507
2508
2509 #ifdef USE_BMESH_SAVE_AS_COMPAT
2510
2511 /*
2512  * this function recreates a tesselation.
2513  * returns number of tesselation faces.
2514  */
2515 int mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
2516         struct CustomData *pdata, int totface, int UNUSED(totloop), int totpoly)
2517 {
2518         MLoop *mloop;
2519
2520         int lindex[4];
2521         int i;
2522         int k;
2523
2524         MPoly *mp, *mpoly;
2525         MFace *mface = NULL, *mf;
2526         BLI_array_declare(mface);
2527
2528         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2529         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2530         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2531         const int hasOrigSpace = CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP);
2532
2533         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2534         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2535
2536         mp = mpoly;
2537         k = 0;
2538         for (i = 0; i<totpoly; i++, mp++) {
2539                 if (ELEM(mp->totloop, 3, 4)) {
2540                         BLI_array_growone(mface);
2541                         mf = &mface[k];
2542
2543                         mf->mat_nr = mp->mat_nr;
2544                         mf->flag = mp->flag;
2545
2546                         mf->v1 = mp->loopstart + 0;
2547                         mf->v2 = mp->loopstart + 1;
2548                         mf->v3 = mp->loopstart + 2;
2549                         mf->v4 = (mp->totloop == 4) ? (mp->loopstart + 3) : 0;
2550
2551                         /* abuse edcode for temp storage and clear next loop */
2552                         mf->edcode = (char)mp->totloop; /* only ever 3 or 4 */
2553
2554                         k++;
2555                 }
2556         }
2557
2558         CustomData_free(fdata, totface);
2559         memset(fdata, 0, sizeof(CustomData));
2560
2561         totface= k;
2562
2563         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2564
2565         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2566
2567         mp = mpoly;
2568         k = 0;
2569         for (i = 0; i<totpoly; i++, mp++) {
2570                 if (ELEM(mp->totloop, 3, 4)) {
2571                         mf = &mface[k];
2572
2573                         if (mf->edcode == 3) {
2574                                 /*sort loop indices to ensure winding is correct*/
2575                                 /* NO SORT - looks like we can skip this */
2576
2577                                 lindex[0] = mf->v1;
2578                                 lindex[1] = mf->v2;
2579                                 lindex[2] = mf->v3;
2580                                 lindex[3] = 0; /* unused */
2581
2582                                 /*transform loop indices to vert indices*/
2583                                 mf->v1 = mloop[mf->v1].v;
2584                                 mf->v2 = mloop[mf->v2].v;
2585                                 mf->v3 = mloop[mf->v3].v;
2586
2587                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2588                                                             lindex, k, i, 3,
2589                                                             numTex, numCol, hasWCol, hasOrigSpace);
2590                                 test_index_face(mf, fdata, k, 3);
2591                         }
2592                         else {
2593                                 /*sort loop indices to ensure winding is correct*/
2594                                 /* NO SORT - looks like we can skip this */
2595
2596                                 lindex[0] = mf->v1;
2597                                 lindex[1] = mf->v2;
2598                                 lindex[2] = mf->v3;
2599                                 lindex[3] = mf->v4;
2600
2601                                 /*transform loop indices to vert indices*/
2602                                 mf->v1 = mloop[mf->v1].v;
2603                                 mf->v2 = mloop[mf->v2].v;
2604                                 mf->v3 = mloop[mf->v3].v;
2605                                 mf->v4 = mloop[mf->v4].v;
2606
2607                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2608                                                             lindex, k, i, 4,
2609                                                             numTex, numCol, hasWCol, hasOrigSpace);
2610                                 test_index_face(mf, fdata, k, 4);
2611                         }
2612
2613                         mf->edcode= 0;
2614
2615                         k++;
2616                 }
2617         }
2618
2619         return k;
2620 }
2621 #endif /* USE_BMESH_SAVE_AS_COMPAT */
2622
2623 /*
2624  * COMPUTE POLY NORMAL
2625  *
2626  * Computes the normal of a planar 
2627  * polygon See Graphics Gems for 
2628  * computing newell normal.
2629  *
2630 */
2631 static void mesh_calc_ngon_normal(MPoly *mpoly, MLoop *loopstart, 
2632                                   MVert *mvert, float normal[3])
2633 {
2634
2635         MVert *v1, *v2, *v3;
2636         double u[3], v[3], w[3];
2637         double n[3] = {0.0, 0.0, 0.0}, l;
2638         int i;
2639
2640         for(i = 0; i < mpoly->totloop; i++){
2641                 v1 = mvert + loopstart[i].v;
2642                 v2 = mvert + loopstart[(i+1)%mpoly->totloop].v;
2643                 v3 = mvert + loopstart[(i+2)%mpoly->totloop].v;
2644                 
2645                 VECCOPY(u, v1->co);
2646                 VECCOPY(v, v2->co);
2647                 VECCOPY(w, v3->co);
2648
2649                 /*this fixes some weird numerical error*/
2650                 if (i==0) {
2651                         u[0] += 0.0001f;
2652                         u[1] += 0.0001f;
2653                         u[2] += 0.0001f;
2654                 }
2655                 
2656                 /* newell's method
2657                 
2658                 so thats?:
2659                 (a[1] - b[1]) * (a[2] + b[2]);
2660                 a[1]*b[2] - b[1]*a[2] - b[1]*b[2] + a[1]*a[2]
2661
2662                 odd.  half of that is the cross product. . .what's the
2663                 other half?
2664
2665                 also could be like a[1]*(b[2] + a[2]) - b[1]*(a[2] - b[2])
2666                 */
2667
2668                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2669                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2670                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2671         }
2672         
2673         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2674         l = sqrt(l);
2675
2676         if (l == 0.0) {
2677                 normal[0] = 0.0f;
2678                 normal[1] = 0.0f;
2679                 normal[2] = 1.0f;
2680
2681                 return;
2682         } else l = 1.0f / l;
2683
2684         n[0] *= l;
2685         n[1] *= l;
2686         n[2] *= l;
2687         
2688         normal[0] = (float) n[0];
2689         normal[1] = (float) n[1];
2690         normal[2] = (float) n[2];
2691 }
2692
2693 void mesh_calc_poly_normal(MPoly *mpoly, MLoop *loopstart, 
2694                            MVert *mvarray, float no[3])
2695 {
2696         if (mpoly->totloop > 4) {
2697                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, no);
2698         }
2699         else if (mpoly->totloop == 3){
2700                 normal_tri_v3(no,
2701                               mvarray[loopstart[0].v].co,
2702                               mvarray[loopstart[1].v].co,
2703                               mvarray[loopstart[2].v].co
2704                               );
2705         }
2706         else if (mpoly->totloop == 4) {
2707                 normal_quad_v3(no,
2708                                mvarray[loopstart[0].v].co,
2709                                mvarray[loopstart[1].v].co,
2710                                mvarray[loopstart[2].v].co,
2711                                mvarray[loopstart[3].v].co
2712                                );
2713         }
2714         else { /* horrible, two sided face! */
2715                 no[0] = 0.0;
2716                 no[1] = 0.0;
2717                 no[2] = 1.0;
2718         }
2719 }
2720 /* duplicate of function above _but_ takes coords rather then mverts */
2721 static void mesh_calc_ngon_normal_coords(MPoly *mpoly, MLoop *loopstart,
2722                                          const float (*vertex_coords)[3], float normal[3])
2723 {
2724
2725         const float *v1, *v2, *v3;
2726         double u[3], v[3], w[3];
2727         double n[3] = {0.0, 0.0, 0.0}, l;
2728         int i;
2729
2730         for(i = 0; i < mpoly->totloop; i++){
2731                 v1 = (const float *)(vertex_coords + loopstart[i].v);
2732                 v2 = (const float *)(vertex_coords + loopstart[(i+1)%mpoly->totloop].v);
2733                 v3 = (const float *)(vertex_coords + loopstart[(i+2)%mpoly->totloop].v);
2734
2735                 VECCOPY(u, v1);
2736                 VECCOPY(v, v2);
2737                 VECCOPY(w, v3);
2738
2739                 /*this fixes some weird numerical error*/
2740                 if (i==0) {
2741                         u[0] += 0.0001f;
2742                         u[1] += 0.0001f;
2743                         u[2] += 0.0001f;
2744                 }
2745
2746                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2747                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2748                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2749         }
2750
2751         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2752         l = sqrt(l);
2753
2754         if (l == 0.0) {
2755                 normal[0] = 0.0f;
2756                 normal[1] = 0.0f;
2757                 normal[2] = 1.0f;
2758
2759                 return;
2760         } else l = 1.0f / l;
2761
2762         n[0] *= l;
2763         n[1] *= l;
2764         n[2] *= l;
2765
2766         normal[0] = (float) n[0];
2767         normal[1] = (float) n[1];
2768         normal[2] = (float) n[2];
2769 }
2770
2771 void mesh_calc_poly_normal_coords(MPoly *mpoly, MLoop *loopstart,
2772                            const float (*vertex_coords)[3], float no[3])
2773 {
2774         if (mpoly->totloop > 4) {
2775                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, no);
2776         }
2777         else if (mpoly->totloop == 3){
2778                 normal_tri_v3(no,
2779                               vertex_coords[loopstart[0].v],
2780                               vertex_coords[loopstart[1].v],
2781                               vertex_coords[loopstart[2].v]
2782                               );
2783         }
2784         else if (mpoly->totloop == 4) {
2785                 normal_quad_v3(no,
2786                                vertex_coords[loopstart[0].v],
2787                                vertex_coords[loopstart[1].v],
2788                                vertex_coords[loopstart[2].v],
2789                                vertex_coords[loopstart[3].v]
2790                                );
2791         }
2792         else { /* horrible, two sided face! */
2793                 no[0] = 0.0;
2794                 no[1] = 0.0;
2795                 no[2] = 1.0;
2796         }
2797 }
2798
2799 static void mesh_calc_ngon_center(MPoly *mpoly, MLoop *loopstart,
2800                                   MVert *mvert, float cent[3])
2801 {
2802         const float w= 1.0f / (float)mpoly->totloop;
2803         int i;
2804
2805         zero_v3(cent);
2806
2807         for (i = 0; i < mpoly->totloop; i++) {
2808                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2809         }
2810 }
2811
2812 void mesh_calc_poly_center(MPoly *mpoly, MLoop *loopstart,
2813                            MVert *mvarray, float cent[3])
2814 {
2815         if (mpoly->totloop == 3) {
2816                 cent_tri_v3(cent,
2817                             mvarray[loopstart[0].v].co,
2818                             mvarray[loopstart[1].v].co,
2819                             mvarray[loopstart[2].v].co
2820                             );
2821         }
2822         else if (mpoly->totloop == 4) {
2823                 cent_quad_v3(cent,
2824                              mvarray[loopstart[0].v].co,
2825                              mvarray[loopstart[1].v].co,
2826                              mvarray[loopstart[2].v].co,
2827                              mvarray[loopstart[3].v].co
2828                              );
2829         }
2830         else {
2831                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, cent);
2832         }
2833 }
2834
2835 /* note, passing polynormal is only a speedup so we can skip calculating it */
2836 float mesh_calc_poly_area(MPoly *mpoly, MLoop *loopstart,
2837                           MVert *mvarray, float polynormal[3])
2838 {
2839         if (mpoly->totloop == 3) {
2840                 return area_tri_v3(mvarray[loopstart[0].v].co,
2841                                    mvarray[loopstart[1].v].co,
2842                                    mvarray[loopstart[2].v].co
2843                                    );
2844         }
2845         else if (mpoly->totloop == 4) {
2846                 return area_quad_v3(mvarray[loopstart[0].v].co,
2847                                     mvarray[loopstart[1].v].co,
2848                                     mvarray[loopstart[2].v].co,
2849                                     mvarray[loopstart[3].v].co
2850                                     );
2851         }
2852         else {
2853                 int i;
2854                 float area, polynorm_local[3], (*vertexcos)[3];
2855                 float *no= polynormal ? polynormal : polynorm_local;
2856                 BLI_array_fixedstack_declare(vertexcos, BM_NGON_STACK_SIZE, mpoly->totloop, __func__);
2857
2858                 /* pack vertex cos into an array for area_poly_v3 */
2859                 for (i = 0; i < mpoly->totloop; i++) {
2860                         copy_v3_v3(vertexcos[i], mvarray[(loopstart++)->v].co);
2861                 }
2862
2863                 /* need normal for area_poly_v3 as well */
2864                 if (polynormal == NULL) {
2865                         mesh_calc_poly_normal(mpoly, loopstart, mvarray, no);
2866                 }
2867
2868                 /* finally calculate the area */
2869                 area = area_poly_v3(mpoly->totloop, vertexcos, no);
2870
2871                 BLI_array_fixedstack_free(vertexcos);
2872
2873                 return area;
2874         }
2875 }
2876
2877 /* basic vertex data functions */
2878 int minmax_mesh(Mesh *me, float min[3], float max[3])
2879 {
2880         int i= me->totvert;
2881         MVert *mvert;
2882         for(mvert= me->mvert; i--; mvert++) {
2883                 DO_MINMAX(mvert->co, min, max);
2884         }
2885         
2886         return (me->totvert != 0);
2887 }
2888
2889 int mesh_center_median(Mesh *me, float cent[3])
2890 {
2891         int i= me->totvert;
2892         MVert *mvert;
2893         zero_v3(cent);
2894         for(mvert= me->mvert; i--; mvert++) {
2895                 add_v3_v3(cent, mvert->co);
2896         }
2897         /* otherwise we get NAN for 0 verts */
2898         if(me->totvert) {
2899                 mul_v3_fl(cent, 1.0f/(float)me->totvert);
2900         }
2901
2902         return (me->totvert != 0);
2903 }
2904
2905 int mesh_center_bounds(Mesh *me, float cent[3])
2906 {
2907         float min[3], max[3];
2908         INIT_MINMAX(min, max);
2909         if(minmax_mesh(me, min, max)) {
2910                 mid_v3_v3v3(cent, min, max);
2911                 return 1;
2912         }
2913
2914         return 0;
2915 }
2916
2917 void mesh_translate(Mesh *me, float offset[3], int do_keys)
2918 {
2919         int i= me->totvert;
2920         MVert *mvert;
2921         for(mvert= me->mvert; i--; mvert++) {
2922                 add_v3_v3(mvert->co, offset);
2923         }
2924         
2925         if (do_keys && me->key) {
2926                 KeyBlock *kb;
2927                 for (kb=me->key->block.first; kb; kb=kb->next) {
2928                         float *fp= kb->data;
2929                         for (i= kb->totelem; i--; fp+=3) {
2930                                 add_v3_v3(fp, offset);
2931                         }
2932                 }
2933         }
2934 }
2935
2936
2937 void BKE_mesh_ensure_navmesh(Mesh *me)
2938 {
2939         if (!CustomData_has_layer(&me->pdata, CD_RECAST)) {
2940                 int i;
2941                 int numFaces = me->totpoly;
2942                 int* recastData;
2943                 CustomData_add_layer_named(&me->pdata, CD_RECAST, CD_CALLOC, NULL, numFaces, "recastData");
2944                 recastData = (int*)CustomData_get_layer(&me->pdata, CD_RECAST);
2945                 for (i=0; i<numFaces; i++) {
2946                         recastData[i] = i+1;
2947                 }
2948                 CustomData_add_layer_named(&me->pdata, CD_RECAST, CD_REFERENCE, recastData, numFaces, "recastData");
2949         }
2950 }
2951
2952 void BKE_mesh_tessface_calc(Mesh *mesh)
2953 {
2954         mesh->totface = mesh_recalcTesselation(&mesh->fdata, &mesh->ldata, &mesh->pdata,
2955                                                mesh->mvert,
2956                                                mesh->totface, mesh->totloop, mesh->totpoly,
2957                                                /* calc normals right after, dont copy from polys here */
2958                                                FALSE);
2959
2960         mesh_update_customdata_pointers(mesh, TRUE);
2961 }
2962
2963 void BKE_mesh_tessface_ensure(Mesh *mesh)
2964 {
2965         if (mesh->totpoly && mesh->totface == 0) {
2966                 BKE_mesh_tessface_calc(mesh);
2967         }
2968 }
2969
2970 void BKE_mesh_tessface_clear(Mesh *mesh)
2971 {
2972         CustomData_free(&mesh->fdata, mesh->totface);
2973
2974         mesh->mface = NULL;
2975         mesh->mtface = NULL;
2976         mesh->mcol = NULL;
2977         mesh->totface = 0;
2978
2979         memset(&mesh->fdata, 0, sizeof(&mesh->fdata));
2980 }