Add 'level' field to struct MDisps, companion to 'totdisp'.
[blender.git] / source / blender / blenkernel / intern / mesh.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh.c
27  *  \ingroup bke
28  */
29
30
31 #include <stdlib.h>
32 #include <string.h>
33 #include <stdio.h>
34 #include <math.h>
35
36 #include "MEM_guardedalloc.h"
37
38 #include "DNA_scene_types.h"
39 #include "DNA_material_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_key_types.h"
42 #include "DNA_mesh_types.h"
43 #include "DNA_meshdata_types.h"
44 #include "DNA_ipo_types.h"
45 #include "DNA_customdata_types.h"
46
47 #include "BLI_utildefines.h"
48 #include "BLI_blenlib.h"
49 #include "BLI_bpath.h"
50 #include "BLI_math.h"
51 #include "BLI_edgehash.h"
52 #include "BLI_scanfill.h"
53
54 #include "BKE_animsys.h"
55 #include "BKE_main.h"
56 #include "BKE_customdata.h"
57 #include "BKE_DerivedMesh.h"
58 #include "BKE_global.h"
59 #include "BKE_mesh.h"
60 #include "BKE_displist.h"
61 #include "BKE_library.h"
62 #include "BKE_material.h"
63 #include "BKE_modifier.h"
64 #include "BKE_multires.h"
65 #include "BKE_key.h"
66 /* these 2 are only used by conversion functions */
67 #include "BKE_curve.h"
68 /* -- */
69 #include "BKE_object.h"
70 #include "BKE_tessmesh.h"
71 #include "BLI_edgehash.h"
72
73 #include "BLI_blenlib.h"
74 #include "BLI_math.h"
75 #include "BLI_array.h"
76 #include "BLI_edgehash.h"
77
78 #include "bmesh.h"
79
80 enum {
81         MESHCMP_DVERT_WEIGHTMISMATCH = 1,
82         MESHCMP_DVERT_GROUPMISMATCH,
83         MESHCMP_DVERT_TOTGROUPMISMATCH,
84         MESHCMP_LOOPCOLMISMATCH,
85         MESHCMP_LOOPUVMISMATCH,
86         MESHCMP_LOOPMISMATCH,
87         MESHCMP_POLYVERTMISMATCH,
88         MESHCMP_POLYMISMATCH,
89         MESHCMP_EDGEUNKNOWN,
90         MESHCMP_VERTCOMISMATCH,
91         MESHCMP_CDLAYERS_MISMATCH,
92 };
93
94 static const char *cmpcode_to_str(int code)
95 {
96         switch (code) {
97                 case MESHCMP_DVERT_WEIGHTMISMATCH:
98                         return "Vertex Weight Mismatch";
99                 case MESHCMP_DVERT_GROUPMISMATCH:
100                                         return "Vertex Group Mismatch";
101                 case MESHCMP_DVERT_TOTGROUPMISMATCH:
102                                         return "Vertex Doesn't Belong To Same Number Of Groups";
103                 case MESHCMP_LOOPCOLMISMATCH:
104                                         return "Vertex Color Mismatch";
105                 case MESHCMP_LOOPUVMISMATCH:
106                                         return "UV Mismatch";
107                 case MESHCMP_LOOPMISMATCH:
108                                         return "Loop Mismatch";
109                 case MESHCMP_POLYVERTMISMATCH:
110                                         return "Loop Vert Mismatch In Poly Test";
111                 case MESHCMP_POLYMISMATCH:
112                                         return "Loop Vert Mismatch";
113                 case MESHCMP_EDGEUNKNOWN:
114                                         return "Edge Mismatch";
115                 case MESHCMP_VERTCOMISMATCH:
116                                         return "Vertex Coordinate Mismatch";
117                 case MESHCMP_CDLAYERS_MISMATCH:
118                                         return "CustomData Layer Count Mismatch";
119                 default:
120                                 return "Mesh Comparison Code Unknown";
121                 }
122 }
123
124 /* thresh is threshold for comparing vertices, uvs, vertex colors,
125  * weights, etc.*/
126 static int customdata_compare(CustomData *c1, CustomData *c2, Mesh *m1, Mesh *m2, float thresh)
127 {
128         CustomDataLayer *l1, *l2;
129         int i, i1=0, i2=0, tot, j;
130         
131         for (i=0; i<c1->totlayer; i++) {
132                 if (ELEM7(c1->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
133                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
134                         i1++;
135         }
136         
137         for (i=0; i<c2->totlayer; i++) {
138                 if (ELEM7(c2->layers[i].type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
139                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))                
140                         i2++;
141         }
142         
143         if (i1 != i2)
144                 return MESHCMP_CDLAYERS_MISMATCH;
145         
146         l1 = c1->layers; l2 = c2->layers;
147         tot = i1;
148         i1 = 0; i2 = 0; 
149         for (i=0; i < tot; i++) {
150                 while (i1 < c1->totlayer && !ELEM7(l1->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
151                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
152                         i1++, l1++;
153
154                 while (i2 < c2->totlayer && !ELEM7(l2->type, CD_MVERT, CD_MEDGE, CD_MPOLY, 
155                                   CD_MLOOPUV, CD_MLOOPCOL, CD_MTEXPOLY, CD_MDEFORMVERT))
156                         i2++, l2++;
157                 
158                 if (l1->type == CD_MVERT) {
159                         MVert *v1 = l1->data;
160                         MVert *v2 = l2->data;
161                         int vtot = m1->totvert;
162                         
163                         for (j=0; j<vtot; j++, v1++, v2++) {
164                                 if (len_v3v3(v1->co, v2->co) > thresh)
165                                         return MESHCMP_VERTCOMISMATCH;
166                                 /*I don't care about normals, let's just do coodinates*/
167                         }
168                 }
169                 
170                 /*we're order-agnostic for edges here*/
171                 if (l1->type == CD_MEDGE) {
172                         MEdge *e1 = l1->data;
173                         MEdge *e2 = l2->data;
174                         EdgeHash *eh = BLI_edgehash_new();
175                         int etot = m1->totedge;
176                 
177                         for (j=0; j<etot; j++, e1++) {
178                                 BLI_edgehash_insert(eh, e1->v1, e1->v2, e1);
179                         }
180                         
181                         for (j=0; j<etot; j++, e2++) {
182                                 if (!BLI_edgehash_lookup(eh, e2->v1, e2->v2))
183                                         return MESHCMP_EDGEUNKNOWN;
184                         }
185                         BLI_edgehash_free(eh, NULL);
186                 }
187                 
188                 if (l1->type == CD_MPOLY) {
189                         MPoly *p1 = l1->data;
190                         MPoly *p2 = l2->data;
191                         int ptot = m1->totpoly;
192                 
193                         for (j=0; j<ptot; j++, p1++, p2++) {
194                                 MLoop *lp1, *lp2;
195                                 int k;
196                                 
197                                 if (p1->totloop != p2->totloop)
198                                         return MESHCMP_POLYMISMATCH;
199                                 
200                                 lp1 = m1->mloop + p1->loopstart;
201                                 lp2 = m2->mloop + p2->loopstart;
202                                 
203                                 for (k=0; k<p1->totloop; k++, lp1++, lp2++) {
204                                         if (lp1->v != lp2->v)
205                                                 return MESHCMP_POLYVERTMISMATCH;
206                                 }
207                         }
208                 }
209                 if (l1->type == CD_MLOOP) {
210                         MLoop *lp1 = l1->data;
211                         MLoop *lp2 = l2->data;
212                         int ltot = m1->totloop;
213                 
214                         for (j=0; j<ltot; j++, lp1++, lp2++) {
215                                 if (lp1->v != lp2->v)
216                                         return MESHCMP_LOOPMISMATCH;
217                         }
218                 }
219                 if (l1->type == CD_MLOOPUV) {
220                         MLoopUV *lp1 = l1->data;
221                         MLoopUV *lp2 = l2->data;
222                         int ltot = m1->totloop;
223                 
224                         for (j=0; j<ltot; j++, lp1++, lp2++) {
225                                 if (len_v2v2(lp1->uv, lp2->uv) > thresh)
226                                         return MESHCMP_LOOPUVMISMATCH;
227                         }
228                 }
229                 
230                 if (l1->type == CD_MLOOPCOL) {
231                         MLoopCol *lp1 = l1->data;
232                         MLoopCol *lp2 = l2->data;
233                         int ltot = m1->totloop;
234                 
235                         for (j=0; j<ltot; j++, lp1++, lp2++) {
236                                 if (ABS(lp1->r - lp2->r) > thresh || 
237                                     ABS(lp1->g - lp2->g) > thresh || 
238                                     ABS(lp1->b - lp2->b) > thresh || 
239                                     ABS(lp1->a - lp2->a) > thresh)
240                                 {
241                                         return MESHCMP_LOOPCOLMISMATCH;
242                                 }
243                         }
244                 }
245
246                 if (l1->type == CD_MDEFORMVERT) {
247                         MDeformVert *dv1 = l1->data;
248                         MDeformVert *dv2 = l2->data;
249                         int dvtot = m1->totvert;
250                 
251                         for (j=0; j<dvtot; j++, dv1++, dv2++) {
252                                 int k;
253                                 MDeformWeight *dw1 = dv1->dw, *dw2=dv2->dw;
254                                 
255                                 if (dv1->totweight != dv2->totweight)
256                                         return MESHCMP_DVERT_TOTGROUPMISMATCH;
257                                 
258                                 for (k=0; k<dv1->totweight; k++, dw1++, dw2++) {
259                                         if (dw1->def_nr != dw2->def_nr)
260                                                 return MESHCMP_DVERT_GROUPMISMATCH;
261                                         if (ABS(dw1->weight - dw2->weight) > thresh)
262                                                 return MESHCMP_DVERT_WEIGHTMISMATCH;
263                                 }
264                         }
265                 }
266         }
267         
268         return 0;
269 }
270
271 /*used for testing.  returns an error string the two meshes don't match*/
272 const char *mesh_cmp(Mesh *me1, Mesh *me2, float thresh)
273 {
274         int c;
275         
276         if (!me1 || !me2)
277                 return "Requires two input meshes";
278         
279         if (me1->totvert != me2->totvert) 
280                 return "Number of verts don't match";
281         
282         if (me1->totedge != me2->totedge)
283                 return "Number of edges don't match";
284         
285         if (me1->totpoly != me2->totpoly)
286                 return "Number of faces don't match";
287                                 
288         if (me1->totloop !=me2->totloop)
289                 return "Number of loops don't match";
290         
291         if ((c = customdata_compare(&me1->vdata, &me2->vdata, me1, me2, thresh)))
292                 return cmpcode_to_str(c);
293
294         if ((c = customdata_compare(&me1->edata, &me2->edata, me1, me2, thresh)))
295                 return cmpcode_to_str(c);
296
297         if ((c = customdata_compare(&me1->ldata, &me2->ldata, me1, me2, thresh)))
298                 return cmpcode_to_str(c);
299
300         if ((c = customdata_compare(&me1->pdata, &me2->pdata, me1, me2, thresh)))
301                 return cmpcode_to_str(c);
302         
303         return NULL;
304 }
305
306 static void mesh_ensure_tessellation_customdata(Mesh *me)
307 {
308         const int tottex_original = CustomData_number_of_layers(&me->pdata, CD_MTEXPOLY);
309         const int totcol_original = CustomData_number_of_layers(&me->ldata, CD_MLOOPCOL);
310
311         const int tottex_tessface = CustomData_number_of_layers(&me->fdata, CD_MTFACE);
312         const int totcol_tessface = CustomData_number_of_layers(&me->fdata, CD_MCOL);
313
314         if (tottex_tessface != tottex_original ||
315             totcol_tessface != totcol_original )
316         {
317                 BKE_mesh_tessface_clear(me);
318
319                 CustomData_from_bmeshpoly(&me->fdata, &me->pdata, &me->ldata, me->totface);
320
321                 /* note: this warning may be un-called for if we are inirializing the mesh for the
322                  * first time from bmesh, rather then giving a warning about this we could be smarter
323                  * and check if there was any data to begin with, for now just print the warning with
324                  * some info to help troubleshoot whats going on - campbell */
325                 printf("%s: warning! Tessellation uvs or vcol data got out of sync, "
326                        "had to reset!\n    CD_MTFACE: %d != CD_MTEXPOLY: %d || CD_MCOL: %d != CD_MLOOPCOL: %d\n",
327                        __func__, tottex_tessface, tottex_original, totcol_tessface, totcol_original);
328         }
329 }
330
331 /* this ensures grouped customdata (e.g. mtexpoly and mloopuv and mtface, or
332  * mloopcol and mcol) have the same relative active/render/clone/mask indices.
333  *
334  * note that for undo mesh data we want to skip 'ensure_tess_cd' call since
335  * we dont want to store memory for tessface when its only used for older
336  * versions of the mesh. - campbell*/
337 static void mesh_update_linked_customdata(Mesh *me, const short do_ensure_tess_cd)
338 {
339         if (me->edit_btmesh)
340                 BMEdit_UpdateLinkedCustomData(me->edit_btmesh);
341
342         if (do_ensure_tess_cd) {
343                 mesh_ensure_tessellation_customdata(me);
344         }
345
346         CustomData_bmesh_update_active_layers(&me->fdata, &me->pdata, &me->ldata);
347 }
348
349 void mesh_update_customdata_pointers(Mesh *me, const short do_ensure_tess_cd)
350 {
351         mesh_update_linked_customdata(me, do_ensure_tess_cd);
352
353         me->mvert = CustomData_get_layer(&me->vdata, CD_MVERT);
354         me->dvert = CustomData_get_layer(&me->vdata, CD_MDEFORMVERT);
355         me->msticky = CustomData_get_layer(&me->vdata, CD_MSTICKY);
356
357         me->medge = CustomData_get_layer(&me->edata, CD_MEDGE);
358
359         me->mface = CustomData_get_layer(&me->fdata, CD_MFACE);
360         me->mcol = CustomData_get_layer(&me->fdata, CD_MCOL);
361         me->mtface = CustomData_get_layer(&me->fdata, CD_MTFACE);
362         
363         me->mpoly = CustomData_get_layer(&me->pdata, CD_MPOLY);
364         me->mloop = CustomData_get_layer(&me->ldata, CD_MLOOP);
365
366         me->mtpoly = CustomData_get_layer(&me->pdata, CD_MTEXPOLY);
367         me->mloopcol = CustomData_get_layer(&me->ldata, CD_MLOOPCOL);
368         me->mloopuv = CustomData_get_layer(&me->ldata, CD_MLOOPUV);
369 }
370
371 /* Note: unlinking is called when me->id.us is 0, question remains how
372  * much unlinking of Library data in Mesh should be done... probably
373  * we need a more generic method, like the expand() functions in
374  * readfile.c */
375
376 void unlink_mesh(Mesh *me)
377 {
378         int a;
379         
380         if (me==NULL) return;
381         
382         for (a=0; a<me->totcol; a++) {
383                 if (me->mat[a]) me->mat[a]->id.us--;
384                 me->mat[a]= NULL;
385         }
386
387         if (me->key) {
388                 me->key->id.us--;
389         }
390         me->key= NULL;
391         
392         if (me->texcomesh) me->texcomesh= NULL;
393 }
394
395 /* do not free mesh itself */
396 void free_mesh(Mesh *me, int unlink)
397 {
398         if (unlink)
399                 unlink_mesh(me);
400
401         CustomData_free(&me->vdata, me->totvert);
402         CustomData_free(&me->edata, me->totedge);
403         CustomData_free(&me->fdata, me->totface);
404         CustomData_free(&me->ldata, me->totloop);
405         CustomData_free(&me->pdata, me->totpoly);
406
407         if (me->adt) {
408                 BKE_free_animdata(&me->id);
409                 me->adt= NULL;
410         }
411         
412         if (me->mat) MEM_freeN(me->mat);
413         
414         if (me->bb) MEM_freeN(me->bb);
415         if (me->mselect) MEM_freeN(me->mselect);
416         if (me->edit_btmesh) MEM_freeN(me->edit_btmesh);
417 }
418
419 void copy_dverts(MDeformVert *dst, MDeformVert *src, int copycount)
420 {
421         /* Assumes dst is already set up */
422         int i;
423
424         if (!src || !dst)
425                 return;
426
427         memcpy (dst, src, copycount * sizeof(MDeformVert));
428         
429         for (i=0; i<copycount; i++) {
430                 if (src[i].dw) {
431                         dst[i].dw = MEM_callocN (sizeof(MDeformWeight)*src[i].totweight, "copy_deformWeight");
432                         memcpy (dst[i].dw, src[i].dw, sizeof (MDeformWeight)*src[i].totweight);
433                 }
434         }
435
436 }
437
438 void free_dverts(MDeformVert *dvert, int totvert)
439 {
440         /* Instead of freeing the verts directly,
441          * call this function to delete any special
442          * vert data */
443         int     i;
444
445         if (!dvert)
446                 return;
447
448         /* Free any special data from the verts */
449         for (i=0; i<totvert; i++) {
450                 if (dvert[i].dw) MEM_freeN (dvert[i].dw);
451         }
452         MEM_freeN (dvert);
453 }
454
455 static void mesh_tessface_clear_intern(Mesh *mesh, int free_customdata)
456 {
457         if (free_customdata)
458                 CustomData_free(&mesh->fdata, mesh->totface);
459
460         mesh->mface = NULL;
461         mesh->mtface = NULL;
462         mesh->mcol = NULL;
463         mesh->totface = 0;
464
465         memset(&mesh->fdata, 0, sizeof(mesh->fdata));
466 }
467
468 Mesh *add_mesh(const char *name)
469 {
470         Mesh *me;
471         
472         me= alloc_libblock(&G.main->mesh, ID_ME, name);
473         
474         me->size[0]= me->size[1]= me->size[2]= 1.0;
475         me->smoothresh= 30;
476         me->texflag= ME_AUTOSPACE;
477         me->flag= ME_TWOSIDED;
478         me->bb= unit_boundbox();
479         me->drawflag= ME_DRAWEDGES|ME_DRAWFACES|ME_DRAWCREASES;
480         
481         return me;
482 }
483
484 Mesh *copy_mesh(Mesh *me)
485 {
486         Mesh *men;
487         MTFace *tface;
488         MTexPoly *txface;
489         int a, i;
490         const int do_tessface = ((me->totface != 0) && (me->totpoly == 0)); /* only do tessface if we have no polys */
491         
492         men= copy_libblock(&me->id);
493         
494         men->mat= MEM_dupallocN(me->mat);
495         for (a=0; a<men->totcol; a++) {
496                 id_us_plus((ID *)men->mat[a]);
497         }
498         id_us_plus((ID *)men->texcomesh);
499
500         CustomData_copy(&me->vdata, &men->vdata, CD_MASK_MESH, CD_DUPLICATE, men->totvert);
501         CustomData_copy(&me->edata, &men->edata, CD_MASK_MESH, CD_DUPLICATE, men->totedge);
502         CustomData_copy(&me->ldata, &men->ldata, CD_MASK_MESH, CD_DUPLICATE, men->totloop);
503         CustomData_copy(&me->pdata, &men->pdata, CD_MASK_MESH, CD_DUPLICATE, men->totpoly);
504         if (do_tessface) {
505                 CustomData_copy(&me->fdata, &men->fdata, CD_MASK_MESH, CD_DUPLICATE, men->totface);
506         }
507         else {
508                 mesh_tessface_clear_intern(men, FALSE);
509         }
510
511         mesh_update_customdata_pointers(men, do_tessface);
512
513         /* ensure indirect linked data becomes lib-extern */
514         for (i=0; i<me->fdata.totlayer; i++) {
515                 if (me->fdata.layers[i].type == CD_MTFACE) {
516                         tface= (MTFace*)me->fdata.layers[i].data;
517
518                         for (a=0; a<me->totface; a++, tface++)
519                                 if (tface->tpage)
520                                         id_lib_extern((ID*)tface->tpage);
521                 }
522         }
523         
524         for (i=0; i<me->pdata.totlayer; i++) {
525                 if (me->pdata.layers[i].type == CD_MTEXPOLY) {
526                         txface= (MTexPoly*)me->pdata.layers[i].data;
527
528                         for (a=0; a<me->totpoly; a++, txface++)
529                                 if (txface->tpage)
530                                         id_lib_extern((ID*)txface->tpage);
531                 }
532         }
533
534         men->mselect= NULL;
535         men->edit_btmesh= NULL;
536
537         men->bb= MEM_dupallocN(men->bb);
538         
539         men->key= copy_key(me->key);
540         if (men->key) men->key->from= (ID *)men;
541
542         return men;
543 }
544
545 BMesh *BKE_mesh_to_bmesh(Mesh *me, Object *ob)
546 {
547         BMesh *bm;
548
549         bm = BM_mesh_create(&bm_mesh_allocsize_default);
550
551         BMO_op_callf(bm, "mesh_to_bmesh mesh=%p object=%p set_shapekey=%b", me, ob, TRUE);
552
553         return bm;
554 }
555
556 static void expand_local_mesh(Mesh *me)
557 {
558         id_lib_extern((ID *)me->texcomesh);
559
560         if (me->mtface || me->mtpoly) {
561                 int a, i;
562
563                 for (i=0; i<me->pdata.totlayer; i++) {
564                         if (me->pdata.layers[i].type == CD_MTEXPOLY) {
565                                 MTexPoly *txface= (MTexPoly*)me->fdata.layers[i].data;
566
567                                 for (a=0; a<me->totpoly; a++, txface++) {
568                                         /* special case: ima always local immediately */
569                                         if (txface->tpage) {
570                                                 id_lib_extern((ID *)txface->tpage);
571                                         }
572                                 }
573                         }
574                 }
575
576                 for (i=0; i<me->fdata.totlayer; i++) {
577                         if (me->fdata.layers[i].type == CD_MTFACE) {
578                                 MTFace *tface= (MTFace*)me->fdata.layers[i].data;
579
580                                 for (a=0; a<me->totface; a++, tface++) {
581                                         /* special case: ima always local immediately */
582                                         if (tface->tpage) {
583                                                 id_lib_extern((ID *)tface->tpage);
584                                         }
585                                 }
586                         }
587                 }
588         }
589
590         if (me->mat) {
591                 extern_local_matarar(me->mat, me->totcol);
592         }
593 }
594
595 void make_local_mesh(Mesh *me)
596 {
597         Main *bmain= G.main;
598         Object *ob;
599         int is_local= FALSE, is_lib= FALSE;
600
601         /* - only lib users: do nothing
602          * - only local users: set flag
603          * - mixed: make copy
604          */
605
606         if (me->id.lib==NULL) return;
607         if (me->id.us==1) {
608                 id_clear_lib_data(bmain, &me->id);
609                 expand_local_mesh(me);
610                 return;
611         }
612
613         for (ob= bmain->object.first; ob && ELEM(0, is_lib, is_local); ob= ob->id.next) {
614                 if (me == ob->data) {
615                         if (ob->id.lib) is_lib= TRUE;
616                         else is_local= TRUE;
617                 }
618         }
619
620         if (is_local && is_lib == FALSE) {
621                 id_clear_lib_data(bmain, &me->id);
622                 expand_local_mesh(me);
623         }
624         else if (is_local && is_lib) {
625                 Mesh *me_new= copy_mesh(me);
626                 me_new->id.us= 0;
627
628
629                 /* Remap paths of new ID using old library as base. */
630                 BKE_id_lib_local_paths(bmain, me->id.lib, &me_new->id);
631
632                 for (ob= bmain->object.first; ob; ob= ob->id.next) {
633                         if (me == ob->data) {
634                                 if (ob->id.lib==NULL) {
635                                         set_mesh(ob, me_new);
636                                 }
637                         }
638                 }
639         }
640 }
641
642 void boundbox_mesh(Mesh *me, float *loc, float *size)
643 {
644         BoundBox *bb;
645         float min[3], max[3];
646         float mloc[3], msize[3];
647         
648         if (me->bb==NULL) me->bb= MEM_callocN(sizeof(BoundBox), "boundbox");
649         bb= me->bb;
650
651         if (!loc) loc= mloc;
652         if (!size) size= msize;
653         
654         INIT_MINMAX(min, max);
655         if (!minmax_mesh(me, min, max)) {
656                 min[0] = min[1] = min[2] = -1.0f;
657                 max[0] = max[1] = max[2] = 1.0f;
658         }
659
660         mid_v3_v3v3(loc, min, max);
661                 
662         size[0]= (max[0]-min[0])/2.0f;
663         size[1]= (max[1]-min[1])/2.0f;
664         size[2]= (max[2]-min[2])/2.0f;
665         
666         boundbox_set_from_min_max(bb, min, max);
667 }
668
669 void tex_space_mesh(Mesh *me)
670 {
671         float loc[3], size[3];
672         int a;
673
674         boundbox_mesh(me, loc, size);
675
676         if (me->texflag & ME_AUTOSPACE) {
677                 for (a=0; a<3; a++) {
678                         if (size[a]==0.0f) size[a]= 1.0f;
679                         else if (size[a]>0.0f && size[a]<0.00001f) size[a]= 0.00001f;
680                         else if (size[a]<0.0f && size[a]> -0.00001f) size[a]= -0.00001f;
681                 }
682
683                 copy_v3_v3(me->loc, loc);
684                 copy_v3_v3(me->size, size);
685                 zero_v3(me->rot);
686         }
687 }
688
689 BoundBox *mesh_get_bb(Object *ob)
690 {
691         Mesh *me= ob->data;
692
693         if (ob->bb)
694                 return ob->bb;
695
696         if (!me->bb)
697                 tex_space_mesh(me);
698
699         return me->bb;
700 }
701
702 void mesh_get_texspace(Mesh *me, float r_loc[3], float r_rot[3], float r_size[3])
703 {
704         if (!me->bb) {
705                 tex_space_mesh(me);
706         }
707
708         if (r_loc)  copy_v3_v3(r_loc,  me->loc);
709         if (r_rot)  copy_v3_v3(r_rot,  me->rot);
710         if (r_size) copy_v3_v3(r_size, me->size);
711 }
712
713 float *get_mesh_orco_verts(Object *ob)
714 {
715         Mesh *me = ob->data;
716         MVert *mvert = NULL;
717         Mesh *tme = me->texcomesh?me->texcomesh:me;
718         int a, totvert;
719         float (*vcos)[3] = NULL;
720
721         /* Get appropriate vertex coordinates */
722         vcos = MEM_callocN(sizeof(*vcos)*me->totvert, "orco mesh");
723         mvert = tme->mvert;
724         totvert = MIN2(tme->totvert, me->totvert);
725
726         for (a=0; a<totvert; a++, mvert++) {
727                 copy_v3_v3(vcos[a], mvert->co);
728         }
729
730         return (float*)vcos;
731 }
732
733 void transform_mesh_orco_verts(Mesh *me, float (*orco)[3], int totvert, int invert)
734 {
735         float loc[3], size[3];
736         int a;
737
738         mesh_get_texspace(me->texcomesh?me->texcomesh:me, loc, NULL, size);
739
740         if (invert) {
741                 for (a=0; a<totvert; a++) {
742                         float *co = orco[a];
743                         madd_v3_v3v3v3(co, loc, co, size);
744                 }
745         }
746         else {
747                 for (a=0; a<totvert; a++) {
748                         float *co = orco[a];
749                         co[0] = (co[0]-loc[0])/size[0];
750                         co[1] = (co[1]-loc[1])/size[1];
751                         co[2] = (co[2]-loc[2])/size[2];
752                 }
753         }
754 }
755
756 /* rotates the vertices of a face in case v[2] or v[3] (vertex index) is = 0.
757  * this is necessary to make the if (mface->v4) check for quads work */
758 int test_index_face(MFace *mface, CustomData *fdata, int mfindex, int nr)
759 {
760         /* first test if the face is legal */
761         if ((mface->v3 || nr==4) && mface->v3==mface->v4) {
762                 mface->v4= 0;
763                 nr--;
764         }
765         if ((mface->v2 || mface->v4) && mface->v2==mface->v3) {
766                 mface->v3= mface->v4;
767                 mface->v4= 0;
768                 nr--;
769         }
770         if (mface->v1==mface->v2) {
771                 mface->v2= mface->v3;
772                 mface->v3= mface->v4;
773                 mface->v4= 0;
774                 nr--;
775         }
776
777         /* check corrupt cases, bowtie geometry, cant handle these because edge data wont exist so just return 0 */
778         if (nr==3) {
779                 if (
780                 /* real edges */
781                         mface->v1==mface->v2 ||
782                         mface->v2==mface->v3 ||
783                         mface->v3==mface->v1
784                 ) {
785                         return 0;
786                 }
787         }
788         else if (nr==4) {
789                 if (
790                 /* real edges */
791                         mface->v1==mface->v2 ||
792                         mface->v2==mface->v3 ||
793                         mface->v3==mface->v4 ||
794                         mface->v4==mface->v1 ||
795                 /* across the face */
796                         mface->v1==mface->v3 ||
797                         mface->v2==mface->v4
798                 ) {
799                         return 0;
800                 }
801         }
802
803         /* prevent a zero at wrong index location */
804         if (nr==3) {
805                 if (mface->v3==0) {
806                         static int corner_indices[4] = {1, 2, 0, 3};
807
808                         SWAP(unsigned int, mface->v1, mface->v2);
809                         SWAP(unsigned int, mface->v2, mface->v3);
810
811                         if (fdata)
812                                 CustomData_swap(fdata, mfindex, corner_indices);
813                 }
814         }
815         else if (nr==4) {
816                 if (mface->v3==0 || mface->v4==0) {
817                         static int corner_indices[4] = {2, 3, 0, 1};
818
819                         SWAP(unsigned int, mface->v1, mface->v3);
820                         SWAP(unsigned int, mface->v2, mface->v4);
821
822                         if (fdata)
823                                 CustomData_swap(fdata, mfindex, corner_indices);
824                 }
825         }
826
827         return nr;
828 }
829
830 Mesh *get_mesh(Object *ob)
831 {
832         
833         if (ob==NULL) return NULL;
834         if (ob->type==OB_MESH) return ob->data;
835         else return NULL;
836 }
837
838 void set_mesh(Object *ob, Mesh *me)
839 {
840         Mesh *old=NULL;
841
842         multires_force_update(ob);
843         
844         if (ob==NULL) return;
845         
846         if (ob->type==OB_MESH) {
847                 old= ob->data;
848                 if (old)
849                         old->id.us--;
850                 ob->data= me;
851                 id_us_plus((ID *)me);
852         }
853         
854         test_object_materials((ID *)me);
855
856         test_object_modifiers(ob);
857 }
858
859 /* ************** make edges in a Mesh, for outside of editmode */
860
861 struct edgesort {
862         unsigned int v1, v2;
863         short is_loose, is_draw;
864 };
865
866 /* edges have to be added with lowest index first for sorting */
867 static void to_edgesort(struct edgesort *ed,
868                         unsigned int v1, unsigned int v2,
869                         short is_loose, short is_draw)
870 {
871         if (v1<v2) {
872                 ed->v1= v1; ed->v2= v2;
873         }
874         else {
875                 ed->v1= v2; ed->v2= v1;
876         }
877         ed->is_loose= is_loose;
878         ed->is_draw= is_draw;
879 }
880
881 static int vergedgesort(const void *v1, const void *v2)
882 {
883         const struct edgesort *x1=v1, *x2=v2;
884
885         if ( x1->v1 > x2->v1) return 1;
886         else if ( x1->v1 < x2->v1) return -1;
887         else if ( x1->v2 > x2->v2) return 1;
888         else if ( x1->v2 < x2->v2) return -1;
889         
890         return 0;
891 }
892
893
894 /* Create edges based on known verts and faces */
895 static void make_edges_mdata(MVert *UNUSED(allvert), MFace *allface, MLoop *allloop,
896         MPoly *allpoly, int UNUSED(totvert), int totface, int UNUSED(totloop), int totpoly,
897         int old, MEdge **alledge, int *_totedge)
898 {
899         MPoly *mpoly;
900         MLoop *mloop;
901         MFace *mface;
902         MEdge *medge;
903         EdgeHash *hash = BLI_edgehash_new();
904         struct edgesort *edsort, *ed;
905         int a, b, totedge=0, final=0;
906
907         /* we put all edges in array, sort them, and detect doubles that way */
908
909         for (a= totface, mface= allface; a>0; a--, mface++) {
910                 if (mface->v4) totedge+=4;
911                 else if (mface->v3) totedge+=3;
912                 else totedge+=1;
913         }
914
915         if (totedge==0) {
916                 /* flag that mesh has edges */
917                 (*alledge)= MEM_callocN(0, "make mesh edges");
918                 (*_totedge) = 0;
919                 return;
920         }
921
922         ed= edsort= MEM_mallocN(totedge*sizeof(struct edgesort), "edgesort");
923
924         for (a= totface, mface= allface; a>0; a--, mface++) {
925                 to_edgesort(ed++, mface->v1, mface->v2, !mface->v3, mface->edcode & ME_V1V2);
926                 if (mface->v4) {
927                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
928                         to_edgesort(ed++, mface->v3, mface->v4, 0, mface->edcode & ME_V3V4);
929                         to_edgesort(ed++, mface->v4, mface->v1, 0, mface->edcode & ME_V4V1);
930                 }
931                 else if (mface->v3) {
932                         to_edgesort(ed++, mface->v2, mface->v3, 0, mface->edcode & ME_V2V3);
933                         to_edgesort(ed++, mface->v3, mface->v1, 0, mface->edcode & ME_V3V1);
934                 }
935         }
936
937         qsort(edsort, totedge, sizeof(struct edgesort), vergedgesort);
938
939         /* count final amount */
940         for (a=totedge, ed=edsort; a>1; a--, ed++) {
941                 /* edge is unique when it differs from next edge, or is last */
942                 if (ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) final++;
943         }
944         final++;
945
946         (*alledge)= medge= MEM_callocN(sizeof (MEdge) * final, "make_edges mdge");
947         (*_totedge)= final;
948
949         for (a=totedge, ed=edsort; a>1; a--, ed++) {
950                 /* edge is unique when it differs from next edge, or is last */
951                 if (ed->v1 != (ed+1)->v1 || ed->v2 != (ed+1)->v2) {
952                         medge->v1= ed->v1;
953                         medge->v2= ed->v2;
954                         if (old==0 || ed->is_draw) medge->flag= ME_EDGEDRAW|ME_EDGERENDER;
955                         if (ed->is_loose) medge->flag|= ME_LOOSEEDGE;
956
957                         /* order is swapped so extruding this edge as a surface wont flip face normals
958                          * with cyclic curves */
959                         if (ed->v1+1 != ed->v2) {
960                                 SWAP(unsigned int, medge->v1, medge->v2);
961                         }
962                         medge++;
963                 }
964                 else {
965                         /* equal edge, we merge the drawflag */
966                         (ed+1)->is_draw |= ed->is_draw;
967                 }
968         }
969         /* last edge */
970         medge->v1= ed->v1;
971         medge->v2= ed->v2;
972         medge->flag= ME_EDGEDRAW;
973         if (ed->is_loose) medge->flag|= ME_LOOSEEDGE;
974         medge->flag |= ME_EDGERENDER;
975
976         MEM_freeN(edsort);
977         
978         /*set edge members of mloops*/
979         medge= *alledge;
980         for (a=0; a<*_totedge; a++, medge++) {
981                 BLI_edgehash_insert(hash, medge->v1, medge->v2, SET_INT_IN_POINTER(a));
982         }
983         
984         mpoly = allpoly;
985         for (a=0; a<totpoly; a++, mpoly++) {
986                 mloop = allloop + mpoly->loopstart;
987                 for (b=0; b<mpoly->totloop; b++) {
988                         int v1, v2;
989                         
990                         v1 = mloop[b].v;
991                         v2 = ME_POLY_LOOP_NEXT(mloop, mpoly, b)->v;
992                         mloop[b].e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(hash, v1, v2));
993                 }
994         }
995         
996         BLI_edgehash_free(hash, NULL);
997 }
998
999 void make_edges(Mesh *me, int old)
1000 {
1001         MEdge *medge;
1002         int totedge=0;
1003
1004         make_edges_mdata(me->mvert, me->mface, me->mloop, me->mpoly, me->totvert, me->totface, me->totloop, me->totpoly, old, &medge, &totedge);
1005         if (totedge==0) {
1006                 /* flag that mesh has edges */
1007                 me->medge = medge;
1008                 me->totedge = 0;
1009                 return;
1010         }
1011
1012         medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, medge, totedge);
1013         me->medge= medge;
1014         me->totedge= totedge;
1015
1016         mesh_strip_loose_faces(me);
1017 }
1018
1019 void mesh_strip_loose_faces(Mesh *me)
1020 {
1021         int a,b;
1022
1023         for (a=b=0; a<me->totface; a++) {
1024                 if (me->mface[a].v3) {
1025                         if (a!=b) {
1026                                 memcpy(&me->mface[b],&me->mface[a],sizeof(me->mface[b]));
1027                                 CustomData_copy_data(&me->fdata, &me->fdata, a, b, 1);
1028                                 CustomData_free_elem(&me->fdata, a, 1);
1029                         }
1030                         b++;
1031                 }
1032         }
1033         me->totface = b;
1034 }
1035
1036 void mesh_strip_loose_edges(Mesh *me)
1037 {
1038         int a,b;
1039
1040         for (a=b=0; a<me->totedge; a++) {
1041                 if (me->medge[a].v1!=me->medge[a].v2) {
1042                         if (a!=b) {
1043                                 memcpy(&me->medge[b],&me->medge[a],sizeof(me->medge[b]));
1044                                 CustomData_copy_data(&me->edata, &me->edata, a, b, 1);
1045                                 CustomData_free_elem(&me->edata, a, 1);
1046                         }
1047                         b++;
1048                 }
1049         }
1050         me->totedge = b;
1051 }
1052
1053 void mball_to_mesh(ListBase *lb, Mesh *me)
1054 {
1055         DispList *dl;
1056         MVert *mvert;
1057         MFace *mface;
1058         float *nors, *verts;
1059         int a, *index;
1060         
1061         dl= lb->first;
1062         if (dl==NULL) return;
1063
1064         if (dl->type==DL_INDEX4) {
1065                 me->totvert= dl->nr;
1066                 me->totface= dl->parts;
1067                 
1068                 mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, dl->nr);
1069                 mface= CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, dl->parts);
1070                 me->mvert= mvert;
1071                 me->mface= mface;
1072
1073                 a= dl->nr;
1074                 nors= dl->nors;
1075                 verts= dl->verts;
1076                 while (a--) {
1077                         copy_v3_v3(mvert->co, verts);
1078                         normal_float_to_short_v3(mvert->no, nors);
1079                         mvert++;
1080                         nors+= 3;
1081                         verts+= 3;
1082                 }
1083                 
1084                 a= dl->parts;
1085                 index= dl->index;
1086                 while (a--) {
1087                         mface->v1= index[0];
1088                         mface->v2= index[1];
1089                         mface->v3= index[2];
1090                         mface->v4= index[3];
1091                         mface->flag= ME_SMOOTH;
1092
1093                         test_index_face(mface, NULL, 0, (mface->v3==mface->v4)? 3: 4);
1094
1095                         mface++;
1096                         index+= 4;
1097                 }
1098
1099                 make_edges(me, 0);      // all edges
1100
1101
1102                 /* BMESH_TODO - low priority, should make polygons instead */
1103                 convert_mfaces_to_mpolys(me);
1104
1105                 mesh_update_customdata_pointers(me, TRUE);
1106         }
1107 }
1108
1109 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1110 /* return non-zero on error */
1111 int nurbs_to_mdata(Object *ob, MVert **allvert, int *totvert,
1112         MEdge **alledge, int *totedge, MLoop **allloop, MPoly **allpoly,
1113         int *totloop, int *totpoly)
1114 {
1115         return nurbs_to_mdata_customdb(ob, &ob->disp,
1116                 allvert, totvert, alledge, totedge, allloop, allpoly, totloop, totpoly);
1117 }
1118
1119 /* BMESH: this doesn't calculate all edges from polygons,
1120  * only free standing edges are calculated */
1121
1122 /* Initialize mverts, medges and, faces for converting nurbs to mesh and derived mesh */
1123 /* use specified dispbase  */
1124 int nurbs_to_mdata_customdb(Object *ob, ListBase *dispbase, MVert **allvert, int *_totvert,
1125         MEdge **alledge, int *_totedge, MLoop **allloop, MPoly **allpoly,
1126         int *_totloop, int *_totpoly)
1127 {
1128         DispList *dl;
1129         Curve *cu;
1130         MVert *mvert;
1131         MPoly *mpoly;
1132         MLoop *mloop;
1133         MEdge *medge;
1134         float *data;
1135         int a, b, ofs, vertcount, startvert, totvert=0, totedge=0, totloop=0, totvlak=0;
1136         int p1, p2, p3, p4, *index;
1137         int conv_polys= 0;
1138
1139         cu= ob->data;
1140
1141         conv_polys|= cu->flag & CU_3D;          /* 2d polys are filled with DL_INDEX3 displists */
1142         conv_polys|= ob->type == OB_SURF;       /* surf polys are never filled */
1143
1144         /* count */
1145         dl= dispbase->first;
1146         while (dl) {
1147                 if (dl->type==DL_SEGM) {
1148                         totvert+= dl->parts*dl->nr;
1149                         totedge+= dl->parts*(dl->nr-1);
1150                 }
1151                 else if (dl->type==DL_POLY) {
1152                         if (conv_polys) {
1153                                 totvert+= dl->parts*dl->nr;
1154                                 totedge+= dl->parts*dl->nr;
1155                         }
1156                 }
1157                 else if (dl->type==DL_SURF) {
1158                         int tot;
1159                         totvert+= dl->parts*dl->nr;
1160                         tot = (dl->parts-1+((dl->flag & DL_CYCL_V)==2))*(dl->nr-1+(dl->flag & DL_CYCL_U));
1161                         totvlak += tot;
1162                         totloop += tot * 4;
1163                 }
1164                 else if (dl->type==DL_INDEX3) {
1165                         int tot;
1166                         totvert+= dl->nr;
1167                         tot = dl->parts;
1168                         totvlak+= tot;
1169                         totloop += tot * 3;
1170                 }
1171                 dl= dl->next;
1172         }
1173
1174         if (totvert==0) {
1175                 /* error("can't convert"); */
1176                 /* Make Sure you check ob->data is a curve */
1177                 return -1;
1178         }
1179
1180         *allvert = mvert = MEM_callocN(sizeof(MVert) * totvert, "nurbs_init mvert");
1181         *alledge = medge = MEM_callocN(sizeof(MEdge) * totedge, "nurbs_init medge");
1182         *allloop = mloop = MEM_callocN(sizeof(MLoop) * totvlak * 4, "nurbs_init mloop"); // totloop
1183         *allpoly = mpoly = MEM_callocN(sizeof(MPoly) * totvlak, "nurbs_init mloop");
1184         
1185         /* verts and faces */
1186         vertcount= 0;
1187
1188         dl= dispbase->first;
1189         while (dl) {
1190                 int smooth= dl->rt & CU_SMOOTH ? 1 : 0;
1191
1192                 if (dl->type==DL_SEGM) {
1193                         startvert= vertcount;
1194                         a= dl->parts*dl->nr;
1195                         data= dl->verts;
1196                         while (a--) {
1197                                 copy_v3_v3(mvert->co, data);
1198                                 data+=3;
1199                                 vertcount++;
1200                                 mvert++;
1201                         }
1202
1203                         for (a=0; a<dl->parts; a++) {
1204                                 ofs= a*dl->nr;
1205                                 for (b=1; b<dl->nr; b++) {
1206                                         medge->v1= startvert+ofs+b-1;
1207                                         medge->v2= startvert+ofs+b;
1208                                         medge->flag = ME_LOOSEEDGE|ME_EDGERENDER;
1209
1210                                         medge++;
1211                                 }
1212                         }
1213
1214                 }
1215                 else if (dl->type==DL_POLY) {
1216                         if (conv_polys) {
1217                                 startvert= vertcount;
1218                                 a= dl->parts*dl->nr;
1219                                 data= dl->verts;
1220                                 while (a--) {
1221                                         copy_v3_v3(mvert->co, data);
1222                                         data+=3;
1223                                         vertcount++;
1224                                         mvert++;
1225                                 }
1226
1227                                 for (a=0; a<dl->parts; a++) {
1228                                         ofs= a*dl->nr;
1229                                         for (b=0; b<dl->nr; b++) {
1230                                                 medge->v1= startvert+ofs+b;
1231                                                 if (b==dl->nr-1) medge->v2= startvert+ofs;
1232                                                 else medge->v2= startvert+ofs+b+1;
1233                                                 medge->flag = ME_LOOSEEDGE|ME_EDGERENDER;
1234                                                 medge++;
1235                                         }
1236                                 }
1237                         }
1238                 }
1239                 else if (dl->type==DL_INDEX3) {
1240                         startvert= vertcount;
1241                         a= dl->nr;
1242                         data= dl->verts;
1243                         while (a--) {
1244                                 copy_v3_v3(mvert->co, data);
1245                                 data+=3;
1246                                 vertcount++;
1247                                 mvert++;
1248                         }
1249
1250                         a= dl->parts;
1251                         index= dl->index;
1252                         while (a--) {
1253                                 mloop[0].v = startvert+index[0];
1254                                 mloop[1].v = startvert+index[2];
1255                                 mloop[2].v = startvert+index[1];
1256                                 mpoly->loopstart = (int)(mloop - (*allloop));
1257                                 mpoly->totloop = 3;
1258                                 mpoly->mat_nr = dl->col;
1259
1260                                 if (smooth) mpoly->flag |= ME_SMOOTH;
1261                                 mpoly++;
1262                                 mloop+= 3;
1263                                 index+= 3;
1264                         }
1265
1266
1267                 }
1268                 else if (dl->type==DL_SURF) {
1269                         startvert= vertcount;
1270                         a= dl->parts*dl->nr;
1271                         data= dl->verts;
1272                         while (a--) {
1273                                 copy_v3_v3(mvert->co, data);
1274                                 data+=3;
1275                                 vertcount++;
1276                                 mvert++;
1277                         }
1278
1279                         for (a=0; a<dl->parts; a++) {
1280
1281                                 if ( (dl->flag & DL_CYCL_V)==0 && a==dl->parts-1) break;
1282
1283                                 if (dl->flag & DL_CYCL_U) {                     /* p2 -> p1 -> */
1284                                         p1= startvert+ dl->nr*a;        /* p4 -> p3 -> */
1285                                         p2= p1+ dl->nr-1;               /* -----> next row */
1286                                         p3= p1+ dl->nr;
1287                                         p4= p2+ dl->nr;
1288                                         b= 0;
1289                                 }
1290                                 else {
1291                                         p2= startvert+ dl->nr*a;
1292                                         p1= p2+1;
1293                                         p4= p2+ dl->nr;
1294                                         p3= p1+ dl->nr;
1295                                         b= 1;
1296                                 }
1297                                 if ( (dl->flag & DL_CYCL_V) && a==dl->parts-1) {
1298                                         p3-= dl->parts*dl->nr;
1299                                         p4-= dl->parts*dl->nr;
1300                                 }
1301
1302                                 for (; b<dl->nr; b++) {
1303                                         mloop[0].v= p1;
1304                                         mloop[1].v= p3;
1305                                         mloop[2].v= p4;
1306                                         mloop[3].v= p2;
1307                                         mpoly->loopstart = (int)(mloop - (*allloop));
1308                                         mpoly->totloop = 4;
1309                                         mpoly->mat_nr = dl->col;
1310
1311                                         if (smooth) mpoly->flag |= ME_SMOOTH;
1312                                         mpoly++;
1313                                         mloop+= 4;
1314
1315                                         p4= p3;
1316                                         p3++;
1317                                         p2= p1;
1318                                         p1++;
1319                                 }
1320                         }
1321
1322                 }
1323
1324                 dl= dl->next;
1325         }
1326         
1327         *_totpoly= totvlak;
1328         *_totloop= totloop;
1329         *_totedge= totedge;
1330         *_totvert= totvert;
1331
1332         /* not uded for bmesh */
1333 #if 0
1334         make_edges_mdata(*allvert, *allface, *allloop, *allpoly, totvert, totvlak, *_totloop, *_totpoly, 0, alledge, _totedge);
1335         mfaces_strip_loose(*allface, _totface);
1336 #endif
1337
1338         return 0;
1339 }
1340
1341 /* this may fail replacing ob->data, be sure to check ob->type */
1342 void nurbs_to_mesh(Object *ob)
1343 {
1344         Main *bmain= G.main;
1345         Object *ob1;
1346         DerivedMesh *dm= ob->derivedFinal;
1347         Mesh *me;
1348         Curve *cu;
1349         MVert *allvert= NULL;
1350         MEdge *alledge= NULL;
1351         MLoop *allloop = NULL;
1352         MPoly *allpoly = NULL;
1353         int totvert, totedge, totloop, totpoly;
1354
1355         cu= ob->data;
1356
1357         if (dm == NULL) {
1358                 if (nurbs_to_mdata (ob, &allvert, &totvert, &alledge, &totedge, &allloop, &allpoly, &totloop, &totpoly) != 0) {
1359                         /* Error initializing */
1360                         return;
1361                 }
1362
1363                 /* make mesh */
1364                 me= add_mesh("Mesh");
1365                 me->totvert= totvert;
1366                 me->totedge= totedge;
1367                 me->totloop = totloop;
1368                 me->totpoly = totpoly;
1369
1370                 me->mvert= CustomData_add_layer(&me->vdata, CD_MVERT, CD_ASSIGN, allvert, me->totvert);
1371                 me->medge= CustomData_add_layer(&me->edata, CD_MEDGE, CD_ASSIGN, alledge, me->totedge);
1372                 me->mloop= CustomData_add_layer(&me->ldata, CD_MLOOP, CD_ASSIGN, allloop, me->totloop);
1373                 me->mpoly= CustomData_add_layer(&me->pdata, CD_MPOLY, CD_ASSIGN, allpoly, me->totpoly);
1374
1375                 mesh_calc_normals(me->mvert, me->totvert, me->mloop, me->mpoly, me->totloop, me->totpoly, NULL);
1376
1377                 BKE_mesh_calc_edges(me, TRUE);
1378         } else {
1379                 me= add_mesh("Mesh");
1380                 DM_to_mesh(dm, me, ob);
1381         }
1382
1383         me->totcol= cu->totcol;
1384         me->mat= cu->mat;
1385
1386         tex_space_mesh(me);
1387
1388         cu->mat= NULL;
1389         cu->totcol= 0;
1390
1391         if (ob->data) {
1392                 free_libblock(&bmain->curve, ob->data);
1393         }
1394         ob->data= me;
1395         ob->type= OB_MESH;
1396
1397         /* other users */
1398         ob1= bmain->object.first;
1399         while (ob1) {
1400                 if (ob1->data==cu) {
1401                         ob1->type= OB_MESH;
1402                 
1403                         ob1->data= ob->data;
1404                         id_us_plus((ID *)ob->data);
1405                 }
1406                 ob1= ob1->id.next;
1407         }
1408 }
1409
1410 typedef struct EdgeLink {
1411         Link *next, *prev;
1412         void *edge;
1413 } EdgeLink;
1414
1415 typedef struct VertLink {
1416         Link *next, *prev;
1417         unsigned int index;
1418 } VertLink;
1419
1420 static void prependPolyLineVert(ListBase *lb, unsigned int index)
1421 {
1422         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1423         vl->index = index;
1424         BLI_addhead(lb, vl);
1425 }
1426
1427 static void appendPolyLineVert(ListBase *lb, unsigned int index)
1428 {
1429         VertLink *vl= MEM_callocN(sizeof(VertLink), "VertLink");
1430         vl->index = index;
1431         BLI_addtail(lb, vl);
1432 }
1433
1434 void mesh_to_curve(Scene *scene, Object *ob)
1435 {
1436         /* make new mesh data from the original copy */
1437         DerivedMesh *dm= mesh_get_derived_final(scene, ob, CD_MASK_MESH);
1438
1439         MVert *mverts= dm->getVertArray(dm);
1440         MEdge *med, *medge= dm->getEdgeArray(dm);
1441         MFace *mf,  *mface= dm->getTessFaceArray(dm);
1442
1443         int totedge = dm->getNumEdges(dm);
1444         int totface = dm->getNumTessFaces(dm);
1445         int totedges = 0;
1446         int i, needsFree = 0;
1447
1448         /* only to detect edge polylines */
1449         EdgeHash *eh = BLI_edgehash_new();
1450         EdgeHash *eh_edge = BLI_edgehash_new();
1451
1452
1453         ListBase edges = {NULL, NULL};
1454
1455         /* create edges from all faces (so as to find edges not in any faces) */
1456         mf= mface;
1457         for (i = 0; i < totface; i++, mf++) {
1458                 if (!BLI_edgehash_haskey(eh, mf->v1, mf->v2))
1459                         BLI_edgehash_insert(eh, mf->v1, mf->v2, NULL);
1460                 if (!BLI_edgehash_haskey(eh, mf->v2, mf->v3))
1461                         BLI_edgehash_insert(eh, mf->v2, mf->v3, NULL);
1462
1463                 if (mf->v4) {
1464                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v4))
1465                                 BLI_edgehash_insert(eh, mf->v3, mf->v4, NULL);
1466                         if (!BLI_edgehash_haskey(eh, mf->v4, mf->v1))
1467                                 BLI_edgehash_insert(eh, mf->v4, mf->v1, NULL);
1468                 } else {
1469                         if (!BLI_edgehash_haskey(eh, mf->v3, mf->v1))
1470                                 BLI_edgehash_insert(eh, mf->v3, mf->v1, NULL);
1471                 }
1472         }
1473
1474         med= medge;
1475         for (i=0; i<totedge; i++, med++) {
1476                 if (!BLI_edgehash_haskey(eh, med->v1, med->v2)) {
1477                         EdgeLink *edl= MEM_callocN(sizeof(EdgeLink), "EdgeLink");
1478
1479                         BLI_edgehash_insert(eh_edge, med->v1, med->v2, NULL);
1480                         edl->edge= med;
1481
1482                         BLI_addtail(&edges, edl);       totedges++;
1483                 }
1484         }
1485         BLI_edgehash_free(eh_edge, NULL);
1486         BLI_edgehash_free(eh, NULL);
1487
1488         if (edges.first) {
1489                 Curve *cu = add_curve(ob->id.name+2, OB_CURVE);
1490                 cu->flag |= CU_3D;
1491
1492                 while (edges.first) {
1493                         /* each iteration find a polyline and add this as a nurbs poly spline */
1494
1495                         ListBase polyline = {NULL, NULL}; /* store a list of VertLink's */
1496                         int closed = FALSE;
1497                         int totpoly= 0;
1498                         MEdge *med_current= ((EdgeLink *)edges.last)->edge;
1499                         unsigned int startVert= med_current->v1;
1500                         unsigned int endVert= med_current->v2;
1501                         int ok= TRUE;
1502
1503                         appendPolyLineVert(&polyline, startVert);       totpoly++;
1504                         appendPolyLineVert(&polyline, endVert);         totpoly++;
1505                         BLI_freelinkN(&edges, edges.last);                      totedges--;
1506
1507                         while (ok) { /* while connected edges are found... */
1508                                 ok = FALSE;
1509                                 i= totedges;
1510                                 while (i) {
1511                                         EdgeLink *edl;
1512
1513                                         i-=1;
1514                                         edl= BLI_findlink(&edges, i);
1515                                         med= edl->edge;
1516
1517                                         if (med->v1==endVert) {
1518                                                 endVert = med->v2;
1519                                                 appendPolyLineVert(&polyline, med->v2); totpoly++;
1520                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1521                                                 ok= TRUE;
1522                                         }
1523                                         else if (med->v2==endVert) {
1524                                                 endVert = med->v1;
1525                                                 appendPolyLineVert(&polyline, endVert); totpoly++;
1526                                                 BLI_freelinkN(&edges, edl);                             totedges--;
1527                                                 ok= TRUE;
1528                                         }
1529                                         else if (med->v1==startVert) {
1530                                                 startVert = med->v2;
1531                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1532                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1533                                                 ok= TRUE;
1534                                         }
1535                                         else if (med->v2==startVert) {
1536                                                 startVert = med->v1;
1537                                                 prependPolyLineVert(&polyline, startVert);      totpoly++;
1538                                                 BLI_freelinkN(&edges, edl);                                     totedges--;
1539                                                 ok= TRUE;
1540                                         }
1541                                 }
1542                         }
1543
1544                         /* Now we have a polyline, make into a curve */
1545                         if (startVert==endVert) {
1546                                 BLI_freelinkN(&polyline, polyline.last);
1547                                 totpoly--;
1548                                 closed = TRUE;
1549                         }
1550
1551                         /* --- nurbs --- */
1552                         {
1553                                 Nurb *nu;
1554                                 BPoint *bp;
1555                                 VertLink *vl;
1556
1557                                 /* create new 'nurb' within the curve */
1558                                 nu = (Nurb *)MEM_callocN(sizeof(Nurb), "MeshNurb");
1559
1560                                 nu->pntsu= totpoly;
1561                                 nu->pntsv= 1;
1562                                 nu->orderu= 4;
1563                                 nu->flagu= CU_NURB_ENDPOINT | (closed ? CU_NURB_CYCLIC:0);      /* endpoint */
1564                                 nu->resolu= 12;
1565
1566                                 nu->bp= (BPoint *)MEM_callocN(sizeof(BPoint)*totpoly, "bpoints");
1567
1568                                 /* add points */
1569                                 vl= polyline.first;
1570                                 for (i=0, bp=nu->bp; i < totpoly; i++, bp++, vl=(VertLink *)vl->next) {
1571                                         copy_v3_v3(bp->vec, mverts[vl->index].co);
1572                                         bp->f1= SELECT;
1573                                         bp->radius = bp->weight = 1.0;
1574                                 }
1575                                 BLI_freelistN(&polyline);
1576
1577                                 /* add nurb to curve */
1578                                 BLI_addtail(&cu->nurb, nu);
1579                         }
1580                         /* --- done with nurbs --- */
1581                 }
1582
1583                 ((Mesh *)ob->data)->id.us--;
1584                 ob->data= cu;
1585                 ob->type= OB_CURVE;
1586
1587                 /* curve objects can't contain DM in usual cases, we could free memory */
1588                 needsFree= 1;
1589         }
1590
1591         dm->needsFree = needsFree;
1592         dm->release(dm);
1593
1594         if (needsFree) {
1595                 ob->derivedFinal = NULL;
1596
1597                 /* curve object could have got bounding box only in special cases */
1598                 if (ob->bb) {
1599                         MEM_freeN(ob->bb);
1600                         ob->bb= NULL;
1601                 }
1602         }
1603 }
1604
1605 void mesh_delete_material_index(Mesh *me, short index)
1606 {
1607         int i;
1608
1609         for (i=0; i<me->totpoly; i++) {
1610                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1611                 if (mp->mat_nr && mp->mat_nr>=index) 
1612                         mp->mat_nr--;
1613         }
1614         
1615         for (i=0; i<me->totface; i++) {
1616                 MFace *mf = &((MFace*) me->mface)[i];
1617                 if (mf->mat_nr && mf->mat_nr>=index) 
1618                         mf->mat_nr--;
1619         }
1620 }
1621
1622 void mesh_set_smooth_flag(Object *meshOb, int enableSmooth) 
1623 {
1624         Mesh *me = meshOb->data;
1625         int i;
1626
1627         for (i=0; i<me->totpoly; i++) {
1628                 MPoly *mp = &((MPoly*) me->mpoly)[i];
1629
1630                 if (enableSmooth) {
1631                         mp->flag |= ME_SMOOTH;
1632                 } else {
1633                         mp->flag &= ~ME_SMOOTH;
1634                 }
1635         }
1636         
1637         for (i=0; i<me->totface; i++) {
1638                 MFace *mf = &((MFace*) me->mface)[i];
1639
1640                 if (enableSmooth) {
1641                         mf->flag |= ME_SMOOTH;
1642                 } else {
1643                         mf->flag &= ~ME_SMOOTH;
1644                 }
1645         }
1646 }
1647
1648 void mesh_calc_normals_mapping(MVert *mverts, int numVerts,
1649                                 MLoop *mloop, MPoly *mpolys, int numLoops, int numPolys, float (*polyNors_r)[3],
1650                                 MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3])
1651 {
1652         mesh_calc_normals_mapping_ex(mverts, numVerts, mloop, mpolys,
1653                                       numLoops, numPolys, polyNors_r, mfaces, numFaces,
1654                                       origIndexFace, faceNors_r, TRUE);
1655 }
1656
1657 void mesh_calc_normals_mapping_ex(MVert *mverts, int numVerts,
1658                                    MLoop *mloop, MPoly *mpolys,
1659                                    int numLoops, int numPolys, float (*polyNors_r)[3],
1660                                    MFace *mfaces, int numFaces, int *origIndexFace, float (*faceNors_r)[3],
1661                                    const short only_face_normals)
1662 {
1663         float (*pnors)[3] = polyNors_r, (*fnors)[3] = faceNors_r;
1664         int i;
1665         MFace *mf;
1666         MPoly *mp;
1667
1668         if (numPolys == 0) {
1669                 return;
1670         }
1671
1672         /* if we are not calculating verts and no verts were passes thene we have nothign to do */
1673         if ((only_face_normals == TRUE) && (polyNors_r == NULL) && (faceNors_r == NULL)) {
1674                 printf("%s: called with nothing to do\n", __func__);
1675                 return;
1676         }
1677
1678         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1679         /* if (!fnors) fnors = MEM_callocN(sizeof(float) * 3 * numFaces, "face nors mesh.c"); */ /* NO NEED TO ALLOC YET */
1680
1681
1682         if (only_face_normals == FALSE) {
1683                 /* vertex normals are optional, they require some extra calculations,
1684                  * so make them optional */
1685                 mesh_calc_normals(mverts, numVerts, mloop, mpolys, numLoops, numPolys, pnors);
1686         }
1687         else {
1688                 /* only calc poly normals */
1689                 mp = mpolys;
1690                 for (i=0; i<numPolys; i++, mp++) {
1691                         mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1692                 }
1693         }
1694
1695         if ( origIndexFace &&
1696              /* fnors==faceNors_r */ /* NO NEED TO ALLOC YET */
1697              fnors != NULL &&
1698              numFaces)
1699         {
1700                 mf = mfaces;
1701                 for (i=0; i<numFaces; i++, mf++, origIndexFace++) {
1702                         if (*origIndexFace < numPolys) {
1703                                 copy_v3_v3(fnors[i], pnors[*origIndexFace]);
1704                         }
1705                         else {
1706                                 /* eek, we're not corresponding to polys */
1707                                 printf("error in mesh_calc_normals; tessellation face indices are incorrect.  normals may look bad.\n");
1708                         }
1709                 }
1710         }
1711
1712         if (pnors != polyNors_r) MEM_freeN(pnors);
1713         /* if (fnors != faceNors_r) MEM_freeN(fnors); */ /* NO NEED TO ALLOC YET */
1714
1715         fnors = pnors = NULL;
1716         
1717 }
1718
1719 void mesh_calc_normals(MVert *mverts, int numVerts, MLoop *mloop, MPoly *mpolys,
1720                        int UNUSED(numLoops), int numPolys, float (*polyNors_r)[3])
1721 {
1722         float (*pnors)[3] = polyNors_r;
1723
1724         float (*tnorms)[3], (*edgevecbuf)[3]= NULL;
1725         float **vertcos = NULL, **vertnos = NULL;
1726         BLI_array_declare(vertcos);
1727         BLI_array_declare(vertnos);
1728         BLI_array_declare(edgevecbuf);
1729
1730         int i, j;
1731         MPoly *mp;
1732         MLoop *ml;
1733
1734         if (!pnors) pnors = MEM_callocN(sizeof(float) * 3 * numPolys, "poly_nors mesh.c");
1735
1736         /*first go through and calculate normals for all the polys*/
1737         tnorms = MEM_callocN(sizeof(float)*3*numVerts, "tnorms mesh.c");
1738
1739         mp = mpolys;
1740         for (i=0; i<numPolys; i++, mp++) {
1741                 mesh_calc_poly_normal(mp, mloop+mp->loopstart, mverts, pnors[i]);
1742                 ml = mloop + mp->loopstart;
1743
1744                 BLI_array_empty(vertcos);
1745                 BLI_array_empty(vertnos);
1746                 BLI_array_growitems(vertcos, mp->totloop);
1747                 BLI_array_growitems(vertnos, mp->totloop);
1748
1749                 for (j=0; j < mp->totloop; j++) {
1750                         int vindex = ml[j].v;
1751                         vertcos[j] = mverts[vindex].co;
1752                         vertnos[j] = tnorms[vindex];
1753                 }
1754
1755                 BLI_array_empty(edgevecbuf);
1756                 BLI_array_growitems(edgevecbuf, mp->totloop);
1757
1758                 accumulate_vertex_normals_poly(vertnos, pnors[i], vertcos, edgevecbuf, mp->totloop);
1759         }
1760
1761         BLI_array_free(vertcos);
1762         BLI_array_free(vertnos);
1763         BLI_array_free(edgevecbuf);
1764
1765         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1766         for (i=0; i<numVerts; i++) {
1767                 MVert *mv= &mverts[i];
1768                 float *no= tnorms[i];
1769
1770                 if (normalize_v3(no) == 0.0f)
1771                         normalize_v3_v3(no, mv->co);
1772
1773                 normal_float_to_short_v3(mv->no, no);
1774         }
1775
1776         MEM_freeN(tnorms);
1777
1778         if (pnors != polyNors_r) MEM_freeN(pnors);
1779 }
1780
1781 void mesh_calc_normals_tessface(MVert *mverts, int numVerts, MFace *mfaces, int numFaces, float (*faceNors_r)[3])
1782 {
1783         float (*tnorms)[3]= MEM_callocN(numVerts*sizeof(*tnorms), "tnorms");
1784         float (*fnors)[3]= (faceNors_r)? faceNors_r: MEM_callocN(sizeof(*fnors)*numFaces, "meshnormals");
1785         int i;
1786
1787         for (i=0; i<numFaces; i++) {
1788                 MFace *mf= &mfaces[i];
1789                 float *f_no= fnors[i];
1790                 float *n4 = (mf->v4)? tnorms[mf->v4]: NULL;
1791                 float *c4 = (mf->v4)? mverts[mf->v4].co: NULL;
1792
1793                 if (mf->v4)
1794                         normal_quad_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, mverts[mf->v4].co);
1795                 else
1796                         normal_tri_v3(f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co);
1797
1798                 accumulate_vertex_normals(tnorms[mf->v1], tnorms[mf->v2], tnorms[mf->v3], n4,
1799                         f_no, mverts[mf->v1].co, mverts[mf->v2].co, mverts[mf->v3].co, c4);
1800         }
1801
1802         /* following Mesh convention; we use vertex coordinate itself for normal in this case */
1803         for (i=0; i<numVerts; i++) {
1804                 MVert *mv= &mverts[i];
1805                 float *no= tnorms[i];
1806                 
1807                 if (normalize_v3(no) == 0.0f)
1808                         normalize_v3_v3(no, mv->co);
1809
1810                 normal_float_to_short_v3(mv->no, no);
1811         }
1812         
1813         MEM_freeN(tnorms);
1814
1815         if (fnors != faceNors_r)
1816                 MEM_freeN(fnors);
1817 }
1818
1819
1820 static void bm_corners_to_loops(Mesh *me, int findex, int loopstart, int numTex, int numCol)
1821 {
1822         MTFace *texface;
1823         MTexPoly *texpoly;
1824         MCol *mcol;
1825         MLoopCol *mloopcol;
1826         MLoopUV *mloopuv;
1827         MFace *mf;
1828         int i;
1829
1830         mf = me->mface + findex;
1831
1832         for (i=0; i < numTex; i++) {
1833                 texface = CustomData_get_n(&me->fdata, CD_MTFACE, findex, i);
1834                 texpoly = CustomData_get_n(&me->pdata, CD_MTEXPOLY, findex, i); 
1835                 
1836                 ME_MTEXFACE_CPY(texpoly, texface);
1837         
1838                 mloopuv = CustomData_get_n(&me->ldata, CD_MLOOPUV, loopstart, i);
1839                 copy_v2_v2(mloopuv->uv, texface->uv[0]); mloopuv++;
1840                 copy_v2_v2(mloopuv->uv, texface->uv[1]); mloopuv++;
1841                 copy_v2_v2(mloopuv->uv, texface->uv[2]); mloopuv++;
1842
1843                 if (mf->v4) {
1844                         copy_v2_v2(mloopuv->uv, texface->uv[3]); mloopuv++;
1845                 }
1846         }
1847
1848         for (i=0; i < numCol; i++) {
1849                 mloopcol = CustomData_get_n(&me->ldata, CD_MLOOPCOL, loopstart, i);
1850                 mcol = CustomData_get_n(&me->fdata, CD_MCOL, findex, i);
1851
1852                 mloopcol->r = mcol[0].r; mloopcol->g = mcol[0].g; mloopcol->b = mcol[0].b; mloopcol->a = mcol[0].a; mloopcol++;
1853                 mloopcol->r = mcol[1].r; mloopcol->g = mcol[1].g; mloopcol->b = mcol[1].b; mloopcol->a = mcol[1].a; mloopcol++;
1854                 mloopcol->r = mcol[2].r; mloopcol->g = mcol[2].g; mloopcol->b = mcol[2].b; mloopcol->a = mcol[2].a; mloopcol++;
1855                 if (mf->v4) {
1856                         mloopcol->r = mcol[3].r; mloopcol->g = mcol[3].g; mloopcol->b = mcol[3].b; mloopcol->a = mcol[3].a; mloopcol++;
1857                 }
1858         }
1859         
1860         if (CustomData_has_layer(&me->fdata, CD_MDISPS)) {
1861                 MDisps *ld = CustomData_get(&me->ldata, loopstart, CD_MDISPS);
1862                 MDisps *fd = CustomData_get(&me->fdata, findex, CD_MDISPS);
1863                 float (*disps)[3] = fd->disps;
1864                 int i, tot = mf->v4 ? 4 : 3;
1865                 int side, corners;
1866                 
1867                 corners = multires_mdisp_corners(fd);
1868                 
1869                 if (corners == 0) {
1870                         /* Empty MDisp layers appear in at least one of the sintel.blend files.
1871                          * Not sure why this happens, but it seems fine to just ignore them here.
1872                          * If corners==0 for a non-empty layer though, something went wrong. */
1873                         BLI_assert(fd->totdisp == 0);
1874                 }
1875                 else {
1876                         side = sqrt(fd->totdisp / corners);
1877                 
1878                         for (i=0; i<tot; i++, disps += side*side, ld++) {
1879                                 ld->totdisp = side*side;
1880                                 ld->level = (int)(logf(side - 1.0f) / M_LN2) + 1;
1881                         
1882                                 if (ld->disps)
1883                                         MEM_freeN(ld->disps);
1884                         
1885                                 ld->disps = MEM_callocN(sizeof(float)*3*side*side, "converted loop mdisps");
1886                                 if (fd->disps) {
1887                                         memcpy(ld->disps, disps, sizeof(float)*3*side*side);
1888                                 }
1889                         }
1890                 }
1891         }
1892 }
1893
1894 void convert_mfaces_to_mpolys(Mesh *mesh)
1895 {
1896         MFace *mf;
1897         MLoop *ml;
1898         MPoly *mp;
1899         MEdge *me;
1900         EdgeHash *eh;
1901         int numTex, numCol;
1902         int i, j, totloop;
1903
1904         /* just in case some of these layers are filled in (can happen with python created meshes) */
1905         CustomData_free(&mesh->ldata, mesh->totloop);
1906         CustomData_free(&mesh->pdata, mesh->totpoly);
1907         memset(&mesh->ldata, 0, sizeof(mesh->ldata));
1908         memset(&mesh->pdata, 0, sizeof(mesh->pdata));
1909
1910         mesh->totpoly = mesh->totface;
1911         mesh->mpoly = MEM_callocN(sizeof(MPoly)*mesh->totpoly, "mpoly converted");
1912         CustomData_add_layer(&mesh->pdata, CD_MPOLY, CD_ASSIGN, mesh->mpoly, mesh->totpoly);
1913
1914         numTex = CustomData_number_of_layers(&mesh->fdata, CD_MTFACE);
1915         numCol = CustomData_number_of_layers(&mesh->fdata, CD_MCOL);
1916         
1917         totloop = 0;
1918         mf = mesh->mface;
1919         for (i=0; i<mesh->totface; i++, mf++) {
1920                 totloop += mf->v4 ? 4 : 3;
1921         }
1922         
1923         mesh->totloop = totloop;
1924         mesh->mloop = MEM_callocN(sizeof(MLoop)*mesh->totloop, "mloop converted");
1925
1926         CustomData_add_layer(&mesh->ldata, CD_MLOOP, CD_ASSIGN, mesh->mloop, totloop);
1927         CustomData_to_bmeshpoly(&mesh->fdata, &mesh->pdata, &mesh->ldata,
1928                 mesh->totloop, mesh->totpoly);
1929
1930         eh = BLI_edgehash_new();
1931
1932         /*build edge hash*/
1933         me = mesh->medge;
1934         for (i=0; i<mesh->totedge; i++, me++) {
1935                 BLI_edgehash_insert(eh, me->v1, me->v2, SET_INT_IN_POINTER(i));
1936         }
1937
1938         j = 0; /*current loop index*/
1939         ml = mesh->mloop;
1940         mf = mesh->mface;
1941         mp = mesh->mpoly;
1942         for (i=0; i<mesh->totface; i++, mf++, mp++) {
1943                 mp->loopstart = j;
1944                 
1945                 mp->totloop = mf->v4 ? 4 : 3;
1946
1947                 mp->mat_nr = mf->mat_nr;
1948                 mp->flag = mf->flag;
1949                 
1950                 #define ML(v1, v2) {ml->v = mf->v1; ml->e = GET_INT_FROM_POINTER(BLI_edgehash_lookup(eh, mf->v1, mf->v2)); ml++; j++;}
1951                 
1952                 ML(v1, v2);
1953                 ML(v2, v3);
1954                 if (mf->v4) {
1955                         ML(v3, v4);
1956                         ML(v4, v1);
1957                 } else {
1958                         ML(v3, v1);
1959                 }
1960                 
1961                 #undef ML
1962
1963                 bm_corners_to_loops(mesh, i, mp->loopstart, numTex, numCol);
1964         }
1965
1966         /* note, we dont convert FGons at all, these are not even real ngons,
1967          * they have their own UV's, colors etc - its more an editing feature. */
1968
1969         mesh_update_customdata_pointers(mesh, TRUE);
1970
1971         BLI_edgehash_free(eh, NULL);
1972 }
1973
1974 float (*mesh_getVertexCos(Mesh *me, int *numVerts_r))[3]
1975 {
1976         int i, numVerts = me->totvert;
1977         float (*cos)[3] = MEM_mallocN(sizeof(*cos)*numVerts, "vertexcos1");
1978
1979         if (numVerts_r) *numVerts_r = numVerts;
1980         for (i=0; i<numVerts; i++)
1981                 copy_v3_v3(cos[i], me->mvert[i].co);
1982
1983         return cos;
1984 }
1985
1986
1987 /* ngon version wip, based on EDBM_make_uv_vert_map */
1988 /* this replaces the non bmesh function (in trunk) which takes MTFace's, if we ever need it back we could
1989  * but for now this replaces it because its unused. */
1990
1991 UvVertMap *make_uv_vert_map(struct MPoly *mpoly, struct MLoop *mloop, struct MLoopUV *mloopuv, unsigned int totpoly, unsigned int totvert, int selected, float *limit)
1992 {
1993         UvVertMap *vmap;
1994         UvMapVert *buf;
1995         MPoly *mp;
1996         unsigned int a;
1997         int     i, totuv, nverts;
1998
1999         totuv = 0;
2000
2001         /* generate UvMapVert array */
2002         mp= mpoly;
2003         for (a=0; a<totpoly; a++, mp++)
2004                 if (!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL)))
2005                         totuv += mp->totloop;
2006
2007         if (totuv==0)
2008                 return NULL;
2009         
2010         vmap= (UvVertMap*)MEM_callocN(sizeof(*vmap), "UvVertMap");
2011         if (!vmap)
2012                 return NULL;
2013
2014         vmap->vert= (UvMapVert**)MEM_callocN(sizeof(*vmap->vert)*totvert, "UvMapVert*");
2015         buf= vmap->buf= (UvMapVert*)MEM_callocN(sizeof(*vmap->buf)*totuv, "UvMapVert");
2016
2017         if (!vmap->vert || !vmap->buf) {
2018                 free_uv_vert_map(vmap);
2019                 return NULL;
2020         }
2021
2022         mp= mpoly;
2023         for (a=0; a<totpoly; a++, mp++) {
2024                 if (!selected || (!(mp->flag & ME_HIDE) && (mp->flag & ME_FACE_SEL))) {
2025                         nverts= mp->totloop;
2026
2027                         for (i=0; i<nverts; i++) {
2028                                 buf->tfindex= i;
2029                                 buf->f= a;
2030                                 buf->separate = 0;
2031                                 buf->next= vmap->vert[mloop[mp->loopstart + i].v];
2032                                 vmap->vert[mloop[mp->loopstart + i].v]= buf;
2033                                 buf++;
2034                         }
2035                 }
2036         }
2037         
2038         /* sort individual uvs for each vert */
2039         for (a=0; a<totvert; a++) {
2040                 UvMapVert *newvlist= NULL, *vlist=vmap->vert[a];
2041                 UvMapVert *iterv, *v, *lastv, *next;
2042                 float *uv, *uv2, uvdiff[2];
2043
2044                 while (vlist) {
2045                         v= vlist;
2046                         vlist= vlist->next;
2047                         v->next= newvlist;
2048                         newvlist= v;
2049
2050                         uv= mloopuv[mpoly[v->f].loopstart + v->tfindex].uv;
2051                         lastv= NULL;
2052                         iterv= vlist;
2053
2054                         while (iterv) {
2055                                 next= iterv->next;
2056
2057                                 uv2= mloopuv[mpoly[iterv->f].loopstart + iterv->tfindex].uv;
2058                                 sub_v2_v2v2(uvdiff, uv2, uv);
2059
2060
2061                                 if (fabsf(uv[0]-uv2[0]) < limit[0] && fabsf(uv[1]-uv2[1]) < limit[1]) {
2062                                         if (lastv) lastv->next= next;
2063                                         else vlist= next;
2064                                         iterv->next= newvlist;
2065                                         newvlist= iterv;
2066                                 }
2067                                 else
2068                                         lastv=iterv;
2069
2070                                 iterv= next;
2071                         }
2072
2073                         newvlist->separate = 1;
2074                 }
2075
2076                 vmap->vert[a]= newvlist;
2077         }
2078         
2079         return vmap;
2080 }
2081
2082 UvMapVert *get_uv_map_vert(UvVertMap *vmap, unsigned int v)
2083 {
2084         return vmap->vert[v];
2085 }
2086
2087 void free_uv_vert_map(UvVertMap *vmap)
2088 {
2089         if (vmap) {
2090                 if (vmap->vert) MEM_freeN(vmap->vert);
2091                 if (vmap->buf) MEM_freeN(vmap->buf);
2092                 MEM_freeN(vmap);
2093         }
2094 }
2095
2096 /* Generates a map where the key is the vertex and the value is a list
2097  * of polys that use that vertex as a corner. The lists are allocated
2098  * from one memory pool. */
2099 void create_vert_poly_map(ListBase **map, IndexNode **mem,
2100                           MPoly *mpoly, MLoop *mloop,
2101                           const int totvert, const int totpoly, const int totloop)
2102 {
2103         int i,j;
2104         IndexNode *node = NULL;
2105         MPoly *mp;
2106         MLoop *ml;
2107
2108         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
2109         (*mem) = MEM_callocN(sizeof(IndexNode) * totloop, "vert poly map mem");
2110         node = *mem;
2111
2112         /* Find the users */
2113         for (i = 0, mp = mpoly; i < totpoly; ++i, ++mp) {
2114                 ml = &mloop[mp->loopstart];
2115                 for (j = 0; j < mp->totloop; ++j, ++node, ++ml) {
2116                         node->index = i;
2117                         BLI_addtail(&(*map)[ml->v], node);
2118                 }
2119         }
2120 }
2121
2122 /* Generates a map where the key is the vertex and the value is a list
2123  * of edges that use that vertex as an endpoint. The lists are allocated
2124  * from one memory pool. */
2125 void create_vert_edge_map(ListBase **map, IndexNode **mem, const MEdge *medge, const int totvert, const int totedge)
2126 {
2127         int i, j;
2128         IndexNode *node = NULL;
2129  
2130         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
2131         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
2132         node = *mem;
2133
2134         /* Find the users */
2135         for (i = 0; i < totedge; ++i) {
2136                 for (j = 0; j < 2; ++j, ++node) {
2137                         node->index = i;
2138                         BLI_addtail(&(*map)[((unsigned int*)(&medge[i].v1))[j]], node);
2139                 }
2140         }
2141 }
2142
2143 void mesh_loops_to_mface_corners(CustomData *fdata, CustomData *ldata,
2144                                  CustomData *pdata, int lindex[4], int findex,
2145                                  const int polyindex,
2146                                  const int mf_len, /* 3 or 4 */
2147
2148                                  /* cache values to avoid lookups every time */
2149                                  const int numTex, /* CustomData_number_of_layers(pdata, CD_MTEXPOLY) */
2150                                  const int numCol, /* CustomData_number_of_layers(ldata, CD_MLOOPCOL) */
2151                                  const int hasWCol, /* CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL) */
2152                                  const int hasOrigSpace /* CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP) */
2153                                  )
2154 {
2155         MTFace *texface;
2156         MTexPoly *texpoly;
2157         MCol *mcol;
2158         MLoopCol *mloopcol;
2159         MLoopUV *mloopuv;
2160         int i, j;
2161         
2162         for (i=0; i < numTex; i++) {
2163                 texface = CustomData_get_n(fdata, CD_MTFACE, findex, i);
2164                 texpoly = CustomData_get_n(pdata, CD_MTEXPOLY, polyindex, i);
2165
2166                 ME_MTEXFACE_CPY(texface, texpoly);
2167
2168                 for (j=0; j < mf_len; j++) {
2169                         mloopuv = CustomData_get_n(ldata, CD_MLOOPUV, lindex[j], i);
2170                         copy_v2_v2(texface->uv[j], mloopuv->uv);
2171                 }
2172         }
2173
2174         for (i=0; i < numCol; i++) {
2175                 mcol = CustomData_get_n(fdata, CD_MCOL, findex, i);
2176
2177                 for (j=0; j < mf_len; j++) {
2178                         mloopcol = CustomData_get_n(ldata, CD_MLOOPCOL, lindex[j], i);
2179                         mcol[j].r = mloopcol->r;
2180                         mcol[j].g = mloopcol->g;
2181                         mcol[j].b = mloopcol->b;
2182                         mcol[j].a = mloopcol->a;
2183                 }
2184         }
2185
2186         if (hasWCol) {
2187                 mcol = CustomData_get(fdata,  findex, CD_WEIGHT_MCOL);
2188
2189                 for (j=0; j < mf_len; j++) {
2190                         mloopcol = CustomData_get(ldata, lindex[j], CD_WEIGHT_MLOOPCOL);
2191                         mcol[j].r = mloopcol->r;
2192                         mcol[j].g = mloopcol->g;
2193                         mcol[j].b = mloopcol->b;
2194                         mcol[j].a = mloopcol->a;
2195                 }
2196         }
2197
2198         if (hasOrigSpace) {
2199                 OrigSpaceFace *of = CustomData_get(fdata, findex, CD_ORIGSPACE);
2200                 OrigSpaceLoop *lof;
2201
2202                 for (j=0; j < mf_len; j++) {
2203                         lof = CustomData_get(ldata, lindex[j], CD_ORIGSPACE_MLOOP);
2204                         of->uv[j][0] = lof->uv[0];
2205                         of->uv[j][1] = lof->uv[1];
2206                 }
2207         }
2208 }
2209
2210 /*
2211  * this function recreates a tessellation.
2212  * returns number of tessellation faces.
2213  */
2214 int mesh_recalcTessellation(CustomData *fdata,
2215                            CustomData *ldata, CustomData *pdata,
2216                            MVert *mvert, int totface, int UNUSED(totloop),
2217                            int totpoly,
2218                            /* when tessellating to recalcilate normals after
2219                             * we can skip copying here */
2220                            const int do_face_nor_cpy)
2221 {
2222
2223         /* use this to avoid locking pthread for _every_ polygon
2224          * and calling the fill function */
2225
2226 #define USE_TESSFACE_SPEEDUP
2227 #define USE_TESSFACE_QUADS // NEEDS FURTHER TESTING
2228
2229 #define TESSFACE_SCANFILL (1<<0)
2230 #define TESSFACE_IS_QUAD  (1<<1)
2231
2232         MPoly *mp, *mpoly;
2233         MLoop *ml, *mloop;
2234         MFace *mface = NULL, *mf;
2235         BLI_array_declare(mface);
2236         ScanFillVert *v, *lastv, *firstv;
2237         ScanFillFace *f;
2238         int *mface_orig_index = NULL;
2239         BLI_array_declare(mface_orig_index);
2240         int *mface_to_poly_map = NULL;
2241         BLI_array_declare(mface_to_poly_map);
2242         int lindex[4]; /* only ever use 3 in this case */
2243         int *poly_orig_index;
2244         int poly_index, j, mface_index;
2245
2246         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2247         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2248         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2249         const int hasOrigSpace = CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP);
2250
2251         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2252         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2253
2254         /* allocate the length of totfaces, avoid many small reallocs,
2255          * if all faces are tri's it will be correct, quads == 2x allocs */
2256         BLI_array_reserve(mface_to_poly_map, totpoly);
2257         BLI_array_reserve(mface, totpoly);
2258
2259         mface_index = 0;
2260         mp = mpoly;
2261         poly_orig_index = CustomData_get_layer(pdata, CD_ORIGINDEX);
2262         for (poly_index = 0; poly_index < totpoly; poly_index++, mp++) {
2263                 if (mp->totloop < 3) {
2264                         /* do nothing */
2265                 }
2266
2267 #ifdef USE_TESSFACE_SPEEDUP
2268
2269 #define ML_TO_MF(i1, i2, i3)                                                  \
2270                 BLI_array_growone(mface_to_poly_map);                                 \
2271                 BLI_array_growone(mface);                                             \
2272                 mface_to_poly_map[mface_index] = poly_index;                          \
2273                 mf= &mface[mface_index];                                              \
2274                 /* set loop indices, transformed to vert indices later */             \
2275                 mf->v1 = mp->loopstart + i1;                                          \
2276                 mf->v2 = mp->loopstart + i2;                                          \
2277                 mf->v3 = mp->loopstart + i3;                                          \
2278                 mf->v4 = 0;                                                           \
2279                 mf->mat_nr = mp->mat_nr;                                              \
2280                 mf->flag = mp->flag;                                                  \
2281                 if (poly_orig_index) {                                                \
2282                         BLI_array_append(mface_orig_index,                                \
2283                                      poly_orig_index[poly_index]);                    \
2284                 }                                                                     \
2285
2286 /* ALMOST IDENTICAL TO DEFINE ABOVE (see EXCEPTION) */
2287 #define ML_TO_MF_QUAD()                                                       \
2288                 BLI_array_growone(mface_to_poly_map);                                 \
2289                 BLI_array_growone(mface);                                             \
2290                 mface_to_poly_map[mface_index] = poly_index;                          \
2291                 mf= &mface[mface_index];                                              \
2292                 /* set loop indices, transformed to vert indices later */             \
2293                 mf->v1 = mp->loopstart + 0; /* EXCEPTION */                           \
2294                 mf->v2 = mp->loopstart + 1; /* EXCEPTION */                           \
2295                 mf->v3 = mp->loopstart + 2; /* EXCEPTION */                           \
2296                 mf->v4 = mp->loopstart + 3; /* EXCEPTION */                           \
2297                 mf->mat_nr = mp->mat_nr;                                              \
2298                 mf->flag = mp->flag;                                                  \
2299                 if (poly_orig_index) {                                                \
2300                         BLI_array_append(mface_orig_index,                                \
2301                                      poly_orig_index[poly_index]);                    \
2302                 }                                                                     \
2303                 mf->edcode |= TESSFACE_IS_QUAD; /* EXCEPTION */                       \
2304
2305
2306                 else if (mp->totloop == 3) {
2307                         ML_TO_MF(0, 1, 2)
2308                         mface_index++;
2309                 }
2310                 else if (mp->totloop == 4) {
2311 #ifdef USE_TESSFACE_QUADS
2312                         ML_TO_MF_QUAD()
2313                         mface_index++;
2314 #else
2315                         ML_TO_MF(0, 1, 2)
2316                         mface_index++;
2317                         ML_TO_MF(0, 2, 3)
2318                         mface_index++;
2319 #endif
2320                 }
2321 #endif /* USE_TESSFACE_SPEEDUP */
2322                 else {
2323                         int totfilltri;
2324
2325                         ml = mloop + mp->loopstart;
2326                         
2327                         BLI_begin_edgefill();
2328                         firstv = NULL;
2329                         lastv = NULL;
2330                         for (j=0; j<mp->totloop; j++, ml++) {
2331                                 v = BLI_addfillvert(mvert[ml->v].co);
2332         
2333                                 v->keyindex = mp->loopstart + j;
2334         
2335                                 if (lastv)
2336                                         BLI_addfilledge(lastv, v);
2337         
2338                                 if (!firstv)
2339                                         firstv = v;
2340                                 lastv = v;
2341                         }
2342                         BLI_addfilledge(lastv, firstv);
2343                         
2344                         totfilltri = BLI_edgefill(2);
2345                         if (totfilltri) {
2346                                 BLI_array_growitems(mface_to_poly_map, totfilltri);
2347                                 BLI_array_growitems(mface, totfilltri);
2348                                 if (poly_orig_index) {
2349                                         BLI_array_growitems(mface_orig_index, totfilltri);
2350                                 }
2351
2352                                 for (f = fillfacebase.first; f; f = f->next, mf++) {
2353                                         mface_to_poly_map[mface_index] = poly_index;
2354                                         mf= &mface[mface_index];
2355
2356                                         /* set loop indices, transformed to vert indices later */
2357                                         mf->v1 = f->v1->keyindex;
2358                                         mf->v2 = f->v2->keyindex;
2359                                         mf->v3 = f->v3->keyindex;
2360                                         mf->v4 = 0;
2361
2362                                         mf->mat_nr = mp->mat_nr;
2363                                         mf->flag = mp->flag;
2364
2365 #ifdef USE_TESSFACE_SPEEDUP
2366                                         mf->edcode |= TESSFACE_SCANFILL; /* tag for sorting loop indices */
2367 #endif
2368
2369                                         if (poly_orig_index) {
2370                                                 mface_orig_index[mface_index] = poly_orig_index[poly_index];
2371                                         }
2372
2373                                         mface_index++;
2374                                 }
2375                         }
2376         
2377                         BLI_end_edgefill();
2378                 }
2379         }
2380
2381         CustomData_free(fdata, totface);
2382         memset(fdata, 0, sizeof(CustomData));
2383         totface = mface_index;
2384
2385
2386         /* not essential but without this we store over-alloc'd memory in the CustomData layers */
2387         if (LIKELY((MEM_allocN_len(mface) / sizeof(*mface)) != totface)) {
2388                 mface = MEM_reallocN(mface, sizeof(*mface) * totface);
2389                 mface_to_poly_map = MEM_reallocN(mface_to_poly_map, sizeof(*mface_to_poly_map) * totface);
2390                 if (mface_orig_index) {
2391                         mface_orig_index = MEM_reallocN(mface_orig_index, sizeof(*mface_orig_index) * totface);
2392                 }
2393         }
2394
2395         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2396
2397         /* CD_POLYINDEX will contain an array of indices from tessfaces to the polygons
2398          * they are directly tesselated from */
2399         CustomData_add_layer(fdata, CD_POLYINDEX, CD_ASSIGN, mface_to_poly_map, totface);
2400         if (mface_orig_index) {
2401                 /* If polys had a CD_ORIGINDEX layer, then the tesselated faces will get this
2402                  * layer as well, pointing to polys from the original mesh (not the polys
2403                  * that just got tesselated) */
2404                 CustomData_add_layer(fdata, CD_ORIGINDEX, CD_ASSIGN, mface_orig_index, totface);
2405         }
2406
2407         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2408
2409         if (do_face_nor_cpy) {
2410                 /* If polys have a normals layer, copying that to faces can help
2411                  * avoid the need to recalculate normals later */
2412                 if (CustomData_has_layer(pdata, CD_NORMAL)) {
2413                         float (*pnors)[3] = CustomData_get_layer(pdata, CD_NORMAL);
2414                         float (*fnors)[3] = CustomData_add_layer(fdata, CD_NORMAL, CD_CALLOC, NULL, totface);
2415                         for (mface_index = 0; mface_index < totface; mface_index++) {
2416                                 copy_v3_v3(fnors[mface_index], pnors[mface_to_poly_map[mface_index]]);
2417                         }
2418                 }
2419         }
2420
2421         mf = mface;
2422         for (mface_index=0; mface_index < totface; mface_index++, mf++) {
2423
2424 #ifdef USE_TESSFACE_QUADS
2425                 const int mf_len = mf->edcode & TESSFACE_IS_QUAD ? 4 : 3;
2426 #endif
2427
2428 #ifdef USE_TESSFACE_SPEEDUP
2429                 /* skip sorting when not using ngons */
2430                 if (UNLIKELY(mf->edcode & TESSFACE_SCANFILL))
2431 #endif
2432                 {
2433                         /* sort loop indices to ensure winding is correct */
2434                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2435                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2436                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2437
2438                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2439                         if (mf->v2 > mf->v3) SWAP(int, mf->v2, mf->v3);
2440                         if (mf->v1 > mf->v2) SWAP(int, mf->v1, mf->v2);
2441                 }
2442
2443                 /* end abusing the edcode */
2444 #if defined(USE_TESSFACE_QUADS) || defined(USE_TESSFACE_SPEEDUP)
2445                 mf->edcode = 0;
2446 #endif
2447
2448
2449                 lindex[0] = mf->v1;
2450                 lindex[1] = mf->v2;
2451                 lindex[2] = mf->v3;
2452 #ifdef USE_TESSFACE_QUADS
2453                 if (mf_len == 4) lindex[3] = mf->v4;
2454 #endif
2455
2456                 /*transform loop indices to vert indices*/
2457                 mf->v1 = mloop[mf->v1].v;
2458                 mf->v2 = mloop[mf->v2].v;
2459                 mf->v3 = mloop[mf->v3].v;
2460 #ifdef USE_TESSFACE_QUADS
2461                 if (mf_len == 4) mf->v4 = mloop[mf->v4].v;
2462 #endif
2463
2464                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2465                                             lindex, mface_index, mface_to_poly_map[mface_index],
2466 #ifdef USE_TESSFACE_QUADS
2467                                             mf_len,
2468 #else
2469                                             3,
2470 #endif
2471                                             numTex, numCol, hasWCol, hasOrigSpace);
2472
2473
2474 #ifdef USE_TESSFACE_QUADS
2475                 test_index_face(mf, fdata, mface_index, mf_len);
2476 #endif
2477
2478         }
2479
2480         return totface;
2481
2482 #undef USE_TESSFACE_SPEEDUP
2483
2484 }
2485
2486
2487 #ifdef USE_BMESH_SAVE_AS_COMPAT
2488
2489 /*
2490  * this function recreates a tessellation.
2491  * returns number of tessellation faces.
2492  */
2493 int mesh_mpoly_to_mface(struct CustomData *fdata, struct CustomData *ldata,
2494         struct CustomData *pdata, int totface, int UNUSED(totloop), int totpoly)
2495 {
2496         MLoop *mloop;
2497
2498         int lindex[4];
2499         int i;
2500         int k;
2501
2502         MPoly *mp, *mpoly;
2503         MFace *mface = NULL, *mf;
2504         BLI_array_declare(mface);
2505
2506         const int numTex = CustomData_number_of_layers(pdata, CD_MTEXPOLY);
2507         const int numCol = CustomData_number_of_layers(ldata, CD_MLOOPCOL);
2508         const int hasWCol = CustomData_has_layer(ldata, CD_WEIGHT_MLOOPCOL);
2509         const int hasOrigSpace = CustomData_has_layer(ldata, CD_ORIGSPACE_MLOOP);
2510
2511         mpoly = CustomData_get_layer(pdata, CD_MPOLY);
2512         mloop = CustomData_get_layer(ldata, CD_MLOOP);
2513
2514         mp = mpoly;
2515         k = 0;
2516         for (i = 0; i<totpoly; i++, mp++) {
2517                 if (ELEM(mp->totloop, 3, 4)) {
2518                         BLI_array_growone(mface);
2519                         mf = &mface[k];
2520
2521                         mf->mat_nr = mp->mat_nr;
2522                         mf->flag = mp->flag;
2523
2524                         mf->v1 = mp->loopstart + 0;
2525                         mf->v2 = mp->loopstart + 1;
2526                         mf->v3 = mp->loopstart + 2;
2527                         mf->v4 = (mp->totloop == 4) ? (mp->loopstart + 3) : 0;
2528
2529                         /* abuse edcode for temp storage and clear next loop */
2530                         mf->edcode = (char)mp->totloop; /* only ever 3 or 4 */
2531
2532                         k++;
2533                 }
2534         }
2535
2536         CustomData_free(fdata, totface);
2537         memset(fdata, 0, sizeof(CustomData));
2538
2539         totface= k;
2540
2541         CustomData_add_layer(fdata, CD_MFACE, CD_ASSIGN, mface, totface);
2542
2543         CustomData_from_bmeshpoly(fdata, pdata, ldata, totface);
2544
2545         mp = mpoly;
2546         k = 0;
2547         for (i = 0; i<totpoly; i++, mp++) {
2548                 if (ELEM(mp->totloop, 3, 4)) {
2549                         mf = &mface[k];
2550
2551                         if (mf->edcode == 3) {
2552                                 /*sort loop indices to ensure winding is correct*/
2553                                 /* NO SORT - looks like we can skip this */
2554
2555                                 lindex[0] = mf->v1;
2556                                 lindex[1] = mf->v2;
2557                                 lindex[2] = mf->v3;
2558                                 lindex[3] = 0; /* unused */
2559
2560                                 /*transform loop indices to vert indices*/
2561                                 mf->v1 = mloop[mf->v1].v;
2562                                 mf->v2 = mloop[mf->v2].v;
2563                                 mf->v3 = mloop[mf->v3].v;
2564
2565                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2566                                                             lindex, k, i, 3,
2567                                                             numTex, numCol, hasWCol, hasOrigSpace);
2568                                 test_index_face(mf, fdata, k, 3);
2569                         }
2570                         else {
2571                                 /*sort loop indices to ensure winding is correct*/
2572                                 /* NO SORT - looks like we can skip this */
2573
2574                                 lindex[0] = mf->v1;
2575                                 lindex[1] = mf->v2;
2576                                 lindex[2] = mf->v3;
2577                                 lindex[3] = mf->v4;
2578
2579                                 /*transform loop indices to vert indices*/
2580                                 mf->v1 = mloop[mf->v1].v;
2581                                 mf->v2 = mloop[mf->v2].v;
2582                                 mf->v3 = mloop[mf->v3].v;
2583                                 mf->v4 = mloop[mf->v4].v;
2584
2585                                 mesh_loops_to_mface_corners(fdata, ldata, pdata,
2586                                                             lindex, k, i, 4,
2587                                                             numTex, numCol, hasWCol, hasOrigSpace);
2588                                 test_index_face(mf, fdata, k, 4);
2589                         }
2590
2591                         mf->edcode= 0;
2592
2593                         k++;
2594                 }
2595         }
2596
2597         return k;
2598 }
2599 #endif /* USE_BMESH_SAVE_AS_COMPAT */
2600
2601 /*
2602  * COMPUTE POLY NORMAL
2603  *
2604  * Computes the normal of a planar 
2605  * polygon See Graphics Gems for 
2606  * computing newell normal.
2607  *
2608  */
2609 static void mesh_calc_ngon_normal(MPoly *mpoly, MLoop *loopstart, 
2610                                   MVert *mvert, float normal[3])
2611 {
2612
2613         MVert *v1, *v2, *v3;
2614         double u[3], v[3], w[3];
2615         double n[3] = {0.0, 0.0, 0.0}, l;
2616         int i;
2617
2618         for (i = 0; i < mpoly->totloop; i++) {
2619                 v1 = mvert + loopstart[i].v;
2620                 v2 = mvert + loopstart[(i+1)%mpoly->totloop].v;
2621                 v3 = mvert + loopstart[(i+2)%mpoly->totloop].v;
2622                 
2623                 copy_v3db_v3fl(u, v1->co);
2624                 copy_v3db_v3fl(v, v2->co);
2625                 copy_v3db_v3fl(w, v3->co);
2626
2627                 /*this fixes some weird numerical error*/
2628                 if (i==0) {
2629                         u[0] += 0.0001f;
2630                         u[1] += 0.0001f;
2631                         u[2] += 0.0001f;
2632                 }
2633                 
2634                 /* newell's method
2635                  * 
2636                  * so thats?:
2637                  * (a[1] - b[1]) * (a[2] + b[2]);
2638                  * a[1]*b[2] - b[1]*a[2] - b[1]*b[2] + a[1]*a[2]
2639                  * 
2640                  * odd.  half of that is the cross product. . .what's the
2641                  * other half?
2642                  * 
2643                  * also could be like a[1]*(b[2] + a[2]) - b[1]*(a[2] - b[2])
2644                  */
2645
2646                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2647                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2648                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2649         }
2650         
2651         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2652         l = sqrt(l);
2653
2654         if (l == 0.0) {
2655                 normal[0] = 0.0f;
2656                 normal[1] = 0.0f;
2657                 normal[2] = 1.0f;
2658
2659                 return;
2660         } else l = 1.0f / l;
2661
2662         n[0] *= l;
2663         n[1] *= l;
2664         n[2] *= l;
2665         
2666         normal[0] = (float) n[0];
2667         normal[1] = (float) n[1];
2668         normal[2] = (float) n[2];
2669 }
2670
2671 void mesh_calc_poly_normal(MPoly *mpoly, MLoop *loopstart, 
2672                            MVert *mvarray, float no[3])
2673 {
2674         if (mpoly->totloop > 4) {
2675                 mesh_calc_ngon_normal(mpoly, loopstart, mvarray, no);
2676         }
2677         else if (mpoly->totloop == 3) {
2678                 normal_tri_v3(no,
2679                               mvarray[loopstart[0].v].co,
2680                               mvarray[loopstart[1].v].co,
2681                               mvarray[loopstart[2].v].co
2682                               );
2683         }
2684         else if (mpoly->totloop == 4) {
2685                 normal_quad_v3(no,
2686                                mvarray[loopstart[0].v].co,
2687                                mvarray[loopstart[1].v].co,
2688                                mvarray[loopstart[2].v].co,
2689                                mvarray[loopstart[3].v].co
2690                                );
2691         }
2692         else { /* horrible, two sided face! */
2693                 no[0] = 0.0;
2694                 no[1] = 0.0;
2695                 no[2] = 1.0;
2696         }
2697 }
2698 /* duplicate of function above _but_ takes coords rather then mverts */
2699 static void mesh_calc_ngon_normal_coords(MPoly *mpoly, MLoop *loopstart,
2700                                          const float (*vertex_coords)[3], float normal[3])
2701 {
2702
2703         const float *v1, *v2, *v3;
2704         double u[3], v[3], w[3];
2705         double n[3] = {0.0, 0.0, 0.0}, l;
2706         int i;
2707
2708         for (i = 0; i < mpoly->totloop; i++) {
2709                 v1 = (const float *)(vertex_coords + loopstart[i].v);
2710                 v2 = (const float *)(vertex_coords + loopstart[(i+1)%mpoly->totloop].v);
2711                 v3 = (const float *)(vertex_coords + loopstart[(i+2)%mpoly->totloop].v);
2712
2713                 copy_v3db_v3fl(u, v1);
2714                 copy_v3db_v3fl(v, v2);
2715                 copy_v3db_v3fl(w, v3);
2716
2717                 /*this fixes some weird numerical error*/
2718                 if (i==0) {
2719                         u[0] += 0.0001f;
2720                         u[1] += 0.0001f;
2721                         u[2] += 0.0001f;
2722                 }
2723
2724                 n[0] += (u[1] - v[1]) * (u[2] + v[2]);
2725                 n[1] += (u[2] - v[2]) * (u[0] + v[0]);
2726                 n[2] += (u[0] - v[0]) * (u[1] + v[1]);
2727         }
2728
2729         l = n[0]*n[0]+n[1]*n[1]+n[2]*n[2];
2730         l = sqrt(l);
2731
2732         if (l == 0.0) {
2733                 normal[0] = 0.0f;
2734                 normal[1] = 0.0f;
2735                 normal[2] = 1.0f;
2736
2737                 return;
2738         } else l = 1.0f / l;
2739
2740         n[0] *= l;
2741         n[1] *= l;
2742         n[2] *= l;
2743
2744         normal[0] = (float) n[0];
2745         normal[1] = (float) n[1];
2746         normal[2] = (float) n[2];
2747 }
2748
2749 void mesh_calc_poly_normal_coords(MPoly *mpoly, MLoop *loopstart,
2750                            const float (*vertex_coords)[3], float no[3])
2751 {
2752         if (mpoly->totloop > 4) {
2753                 mesh_calc_ngon_normal_coords(mpoly, loopstart, vertex_coords, no);
2754         }
2755         else if (mpoly->totloop == 3) {
2756                 normal_tri_v3(no,
2757                               vertex_coords[loopstart[0].v],
2758                               vertex_coords[loopstart[1].v],
2759                               vertex_coords[loopstart[2].v]
2760                               );
2761         }
2762         else if (mpoly->totloop == 4) {
2763                 normal_quad_v3(no,
2764                                vertex_coords[loopstart[0].v],
2765                                vertex_coords[loopstart[1].v],
2766                                vertex_coords[loopstart[2].v],
2767                                vertex_coords[loopstart[3].v]
2768                                );
2769         }
2770         else { /* horrible, two sided face! */
2771                 no[0] = 0.0;
2772                 no[1] = 0.0;
2773                 no[2] = 1.0;
2774         }
2775 }
2776
2777 static void mesh_calc_ngon_center(MPoly *mpoly, MLoop *loopstart,
2778                                   MVert *mvert, float cent[3])
2779 {
2780         const float w= 1.0f / (float)mpoly->totloop;
2781         int i;
2782
2783         zero_v3(cent);
2784
2785         for (i = 0; i < mpoly->totloop; i++) {
2786                 madd_v3_v3fl(cent, mvert[(loopstart++)->v].co, w);
2787         }
2788 }
2789
2790 void mesh_calc_poly_center(MPoly *mpoly, MLoop *loopstart,
2791                            MVert *mvarray, float cent[3])
2792 {
2793         if (mpoly->totloop == 3) {
2794                 cent_tri_v3(cent,
2795                             mvarray[loopstart[0].v].co,
2796                             mvarray[loopstart[1].v].co,
2797                             mvarray[loopstart[2].v].co
2798                             );
2799         }
2800         else if (mpoly->totloop == 4) {
2801                 cent_quad_v3(cent,
2802                              mvarray[loopstart[0].v].co,
2803                              mvarray[loopstart[1].v].co,
2804                              mvarray[loopstart[2].v].co,
2805                              mvarray[loopstart[3].v].co
2806                              );
2807         }
2808         else {
2809                 mesh_calc_ngon_center(mpoly, loopstart, mvarray, cent);
2810         }
2811 }
2812
2813 /* note, passing polynormal is only a speedup so we can skip calculating it */
2814 float mesh_calc_poly_area(MPoly *mpoly, MLoop *loopstart,
2815                           MVert *mvarray, float polynormal[3])
2816 {
2817         if (mpoly->totloop == 3) {
2818                 return area_tri_v3(mvarray[loopstart[0].v].co,
2819                                    mvarray[loopstart[1].v].co,
2820                                    mvarray[loopstart[2].v].co
2821                                    );
2822         }
2823         else if (mpoly->totloop == 4) {
2824                 return area_quad_v3(mvarray[loopstart[0].v].co,
2825                                     mvarray[loopstart[1].v].co,
2826                                     mvarray[loopstart[2].v].co,
2827                                     mvarray[loopstart[3].v].co
2828                                     );
2829         }
2830         else {
2831                 int i;
2832                 MLoop *l_iter = loopstart;
2833                 float area, polynorm_local[3], (*vertexcos)[3];
2834                 float *no= polynormal ? polynormal : polynorm_local;
2835                 BLI_array_fixedstack_declare(vertexcos, BM_NGON_STACK_SIZE, mpoly->totloop, __func__);
2836
2837                 /* pack vertex cos into an array for area_poly_v3 */
2838                 for (i = 0; i < mpoly->totloop; i++, l_iter++) {
2839                         copy_v3_v3(vertexcos[i], mvarray[l_iter->v].co);
2840                 }
2841
2842                 /* need normal for area_poly_v3 as well */
2843                 if (polynormal == NULL) {
2844                         mesh_calc_poly_normal(mpoly, loopstart, mvarray, no);
2845                 }
2846
2847                 /* finally calculate the area */
2848                 area = area_poly_v3(mpoly->totloop, vertexcos, no);
2849
2850                 BLI_array_fixedstack_free(vertexcos);
2851
2852                 return area;
2853         }
2854 }
2855
2856 /* Find the index of the loop in 'poly' which references vertex,
2857  * returns -1 if not found */
2858 int poly_find_loop_from_vert(const MPoly *poly, const MLoop *loopstart,
2859                                                          unsigned vert)
2860 {
2861         int j;
2862         for (j = 0; j < poly->totloop; j++, loopstart++) {
2863                 if (loopstart->v == vert)
2864                         return j;
2865         }
2866         
2867         return -1;
2868 }
2869
2870 /* Fill 'adj_r' with the loop indices in 'poly' adjacent to the
2871  * vertex. Returns the index of the loop matching vertex, or -1 if the
2872  * vertex is not in 'poly' */
2873 int poly_get_adj_loops_from_vert(unsigned adj_r[3], const MPoly *poly,
2874                                                                  const MLoop *mloop, unsigned vert)
2875 {
2876         int corner = poly_find_loop_from_vert(poly,
2877                                                                                   &mloop[poly->loopstart],
2878                                                                                   vert);
2879                 
2880         if(corner != -1) {
2881                 const MLoop *ml = &mloop[poly->loopstart + corner];
2882
2883                 /* vertex was found */
2884                 adj_r[0] = ME_POLY_LOOP_PREV(mloop, poly, corner)->v;
2885                 adj_r[1] = ml->v;
2886                 adj_r[2] = ME_POLY_LOOP_NEXT(mloop, poly, corner)->v;
2887         }
2888
2889         return corner;
2890 }
2891
2892 /* basic vertex data functions */
2893 int minmax_mesh(Mesh *me, float min[3], float max[3])
2894 {
2895         int i= me->totvert;
2896         MVert *mvert;
2897         for (mvert= me->mvert; i--; mvert++) {
2898                 DO_MINMAX(mvert->co, min, max);
2899         }
2900         
2901         return (me->totvert != 0);
2902 }
2903
2904 int mesh_center_median(Mesh *me, float cent[3])
2905 {
2906         int i= me->totvert;
2907         MVert *mvert;
2908         zero_v3(cent);
2909         for (mvert= me->mvert; i--; mvert++) {
2910                 add_v3_v3(cent, mvert->co);
2911         }
2912         /* otherwise we get NAN for 0 verts */
2913         if (me->totvert) {
2914                 mul_v3_fl(cent, 1.0f/(float)me->totvert);
2915         }
2916
2917         return (me->totvert != 0);
2918 }
2919
2920 int mesh_center_bounds(Mesh *me, float cent[3])
2921 {
2922         float min[3], max[3];
2923         INIT_MINMAX(min, max);
2924         if (minmax_mesh(me, min, max)) {
2925                 mid_v3_v3v3(cent, min, max);
2926                 return 1;
2927         }
2928
2929         return 0;
2930 }
2931
2932 void mesh_translate(Mesh *me, float offset[3], int do_keys)
2933 {
2934         int i= me->totvert;
2935         MVert *mvert;
2936         for (mvert= me->mvert; i--; mvert++) {
2937                 add_v3_v3(mvert->co, offset);
2938         }
2939         
2940         if (do_keys && me->key) {
2941                 KeyBlock *kb;
2942                 for (kb=me->key->block.first; kb; kb=kb->next) {
2943                         float *fp= kb->data;
2944                         for (i= kb->totelem; i--; fp+=3) {
2945                                 add_v3_v3(fp, offset);
2946                         }
2947                 }
2948         }
2949 }
2950
2951
2952 void BKE_mesh_ensure_navmesh(Mesh *me)
2953 {
2954         if (!CustomData_has_layer(&me->pdata, CD_RECAST)) {
2955                 int i;
2956                 int numFaces = me->totpoly;
2957                 int* recastData;
2958                 CustomData_add_layer_named(&me->pdata, CD_RECAST, CD_CALLOC, NULL, numFaces, "recastData");
2959                 recastData = (int*)CustomData_get_layer(&me->pdata, CD_RECAST);
2960                 for (i=0; i<numFaces; i++) {
2961                         recastData[i] = i+1;
2962                 }
2963                 CustomData_add_layer_named(&me->pdata, CD_RECAST, CD_REFERENCE, recastData, numFaces, "recastData");
2964         }
2965 }
2966
2967 void BKE_mesh_tessface_calc(Mesh *mesh)
2968 {
2969         mesh->totface = mesh_recalcTessellation(&mesh->fdata, &mesh->ldata, &mesh->pdata,
2970                                                mesh->mvert,
2971                                                mesh->totface, mesh->totloop, mesh->totpoly,
2972                                                /* calc normals right after, dont copy from polys here */
2973                                                FALSE);
2974
2975         mesh_update_customdata_pointers(mesh, TRUE);
2976 }
2977
2978 void BKE_mesh_tessface_ensure(Mesh *mesh)
2979 {
2980         if (mesh->totpoly && mesh->totface == 0) {
2981                 BKE_mesh_tessface_calc(mesh);
2982         }
2983 }
2984
2985 void BKE_mesh_tessface_clear(Mesh *mesh)
2986 {
2987         mesh_tessface_clear_intern(mesh, TRUE);
2988 }