Fix infinite recursion when using adjustment strip placed to channel 1
[blender.git] / source / blender / blenkernel / intern / multires.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2007 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/multires.c
29  *  \ingroup bke
30  */
31
32
33 #include "MEM_guardedalloc.h"
34
35 /* for reading old multires */
36 #define DNA_DEPRECATED_ALLOW
37
38 #include "DNA_mesh_types.h"
39 #include "DNA_meshdata_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_scene_types.h"
42
43 #include "BLI_bitmap.h"
44 #include "BLI_blenlib.h"
45 #include "BLI_math.h"
46 #include "BLI_pbvh.h"
47 #include "BLI_utildefines.h"
48
49 #include "BKE_ccg.h"
50 #include "BKE_cdderivedmesh.h"
51 #include "BKE_mesh.h"
52 #include "BKE_modifier.h"
53 #include "BKE_multires.h"
54 #include "BKE_paint.h"
55 #include "BKE_scene.h"
56 #include "BKE_subsurf.h"
57 #include "BKE_tessmesh.h"
58
59 #include "BKE_object.h"
60
61 #include "CCGSubSurf.h"
62
63 #include <math.h>
64 #include <string.h>
65
66 /* MULTIRES MODIFIER */
67 static const int multires_max_levels = 13;
68 static const int multires_grid_tot[] = {0, 4, 9, 25, 81, 289, 1089, 4225, 16641, 66049, 263169, 1050625, 4198401, 16785409};
69 static const int multires_side_tot[] = {0, 2, 3, 5,  9,  17,  33,   65,   129,   257,   513,    1025,    2049,    4097};
70
71 /* See multiresModifier_disp_run for description of each operation */
72 typedef enum {
73         APPLY_DISPLACEMENTS,
74         CALC_DISPLACEMENTS,
75         ADD_DISPLACEMENTS,
76 } DispOp;
77
78 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert);
79 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl);
80
81 /** Customdata **/
82
83 void multires_customdata_delete(Mesh *me)
84 {
85         if (me->edit_btmesh) {
86                 BMEditMesh *em = me->edit_btmesh;
87                 /* CustomData_external_remove is used here only to mark layer
88                  * as non-external for further free-ing, so zero element count
89                  * looks safer than em->totface */
90                 CustomData_external_remove(&em->bm->ldata, &me->id,
91                                            CD_MDISPS, 0);
92                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_MDISPS);
93
94                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_GRID_PAINT_MASK);
95         }
96         else {
97                 CustomData_external_remove(&me->ldata, &me->id,
98                                            CD_MDISPS, me->totloop);
99                 CustomData_free_layer_active(&me->ldata, CD_MDISPS,
100                                              me->totloop);
101
102                 CustomData_free_layer_active(&me->ldata, CD_GRID_PAINT_MASK,
103                                              me->totloop);
104         }
105 }
106
107 /** Grid hiding **/
108 static BLI_bitmap multires_mdisps_upsample_hidden(BLI_bitmap lo_hidden,
109                                                   int lo_level,
110                                                   int hi_level,
111
112                                                   /* assumed to be at hi_level (or
113                                                    *  null) */
114                                                   BLI_bitmap prev_hidden)
115 {
116         BLI_bitmap subd;
117         int hi_gridsize = ccg_gridsize(hi_level);
118         int lo_gridsize = ccg_gridsize(lo_level);
119         int yh, xh, xl, yl, xo, yo, hi_ndx;
120         int offset, factor;
121
122         BLI_assert(lo_level <= hi_level);
123
124         /* fast case */
125         if (lo_level == hi_level)
126                 return MEM_dupallocN(lo_hidden);
127
128         subd = BLI_BITMAP_NEW(hi_gridsize * hi_gridsize, "MDisps.hidden upsample");
129
130         factor = ccg_factor(lo_level, hi_level);
131         offset = 1 << (hi_level - lo_level - 1);
132
133         /* low-res blocks */
134         for (yl = 0; yl < lo_gridsize; yl++) {
135                 for (xl = 0; xl < lo_gridsize; xl++) {
136                         int lo_val = BLI_BITMAP_GET(lo_hidden, yl * lo_gridsize + xl);
137
138                         /* high-res blocks */
139                         for (yo = -offset; yo <= offset; yo++) {
140                                 yh = yl * factor + yo;
141                                 if (yh < 0 || yh >= hi_gridsize)
142                                         continue;
143
144                                 for (xo = -offset; xo <= offset; xo++) {
145                                         xh = xl * factor + xo;
146                                         if (xh < 0 || xh >= hi_gridsize)
147                                                 continue;
148
149                                         hi_ndx = yh * hi_gridsize + xh;
150
151                                         if (prev_hidden) {
152                                                 /* If prev_hidden is available, copy it to
153                                                  * subd, except when the equivalent element in
154                                                  * lo_hidden is different */
155                                                 if (lo_val != prev_hidden[hi_ndx])
156                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
157                                                 else
158                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, prev_hidden[hi_ndx]);
159                                         }
160                                         else {
161                                                 BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
162                                         }
163                                 }
164                         }
165                 }
166         }
167
168         return subd;
169 }
170
171 static BLI_bitmap multires_mdisps_downsample_hidden(BLI_bitmap old_hidden,
172                                                     int old_level,
173                                                     int new_level)
174 {
175         BLI_bitmap new_hidden;
176         int new_gridsize = ccg_gridsize(new_level);
177         int old_gridsize = ccg_gridsize(old_level);
178         int x, y, factor, old_value;
179
180         BLI_assert(new_level <= old_level);
181         factor = ccg_factor(new_level, old_level);
182         new_hidden = BLI_BITMAP_NEW(new_gridsize * new_gridsize,
183                                     "downsample hidden");
184
185
186
187         for (y = 0; y < new_gridsize; y++) {
188                 for (x = 0; x < new_gridsize; x++) {
189                         old_value = BLI_BITMAP_GET(old_hidden,
190                                                    factor * y * old_gridsize + x * factor);
191                         
192                         BLI_BITMAP_MODIFY(new_hidden, y * new_gridsize + x, old_value);
193                 }
194         }
195
196         return new_hidden;
197 }
198
199 static void multires_output_hidden_to_ccgdm(CCGDerivedMesh *ccgdm,
200                                             Mesh *me, int level)
201 {
202         const MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
203         BLI_bitmap *grid_hidden = ccgdm->gridHidden;
204         int *gridOffset;
205         int i, j;
206         
207         gridOffset = ccgdm->dm.getGridOffset(&ccgdm->dm);
208
209         for (i = 0; i < me->totpoly; i++) {
210                 for (j = 0; j < me->mpoly[i].totloop; j++) {
211                         int g = gridOffset[i] + j;
212                         const MDisps *md = &mdisps[g];
213                         BLI_bitmap gh = md->hidden;
214                         
215                         if (gh) {
216                                 grid_hidden[g] =
217                                         multires_mdisps_downsample_hidden(gh, md->level, level);
218                         }
219                 }
220         }
221 }
222
223 /* subdivide mdisps.hidden if needed (assumes that md.level reflects
224  * the current level of md.hidden) */
225 static void multires_mdisps_subdivide_hidden(MDisps *md, int new_level)
226 {
227         BLI_bitmap subd;
228         
229         BLI_assert(md->hidden);
230
231         /* nothing to do if already subdivided enough */
232         if (md->level >= new_level)
233                 return;
234
235         subd = multires_mdisps_upsample_hidden(md->hidden,
236                                                md->level,
237                                                new_level,
238                                                NULL);
239         
240         /* swap in the subdivided data */
241         MEM_freeN(md->hidden);
242         md->hidden = subd;
243 }
244
245 static MDisps *multires_mdisps_initialize_hidden(Mesh *me, int level)
246 {
247         MDisps *mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS,
248                                               CD_CALLOC, 0, me->totloop);
249         int gridsize = ccg_gridsize(level);
250         int gridarea = gridsize * gridsize;
251         int i, j, k;
252         
253         for (i = 0; i < me->totpoly; i++) {
254                 int hide = 0;
255
256                 for (j = 0; j < me->mpoly[i].totloop; j++) {
257                         if (me->mvert[me->mloop[me->mpoly[i].loopstart + j].v].flag & ME_HIDE) {
258                                 hide = 1;
259                                 break;
260                         }
261                 }
262
263                 if (!hide)
264                         continue;
265
266                 for (j = 0; j < me->mpoly[i].totloop; j++) {
267                         MDisps *md = &mdisps[me->mpoly[i].loopstart + j];
268
269                         BLI_assert(!md->hidden);
270
271                         md->hidden = BLI_BITMAP_NEW(gridarea, "MDisps.hidden initialize");
272
273                         for (k = 0; k < gridarea; k++)
274                                 BLI_BITMAP_SET(md->hidden, k);
275                 }
276         }
277
278         return mdisps;
279 }
280
281 DerivedMesh *get_multires_dm(Scene *scene, MultiresModifierData *mmd, Object *ob)
282 {
283         ModifierData *md = (ModifierData *)mmd;
284         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
285         DerivedMesh *tdm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
286         DerivedMesh *dm;
287
288         dm = mti->applyModifier(md, ob, tdm, MOD_APPLY_USECACHE);
289         if (dm == tdm) {
290                 dm = CDDM_copy(tdm);
291         }
292
293         return dm;
294 }
295
296 MultiresModifierData *find_multires_modifier_before(Scene *scene, ModifierData *lastmd)
297 {
298         ModifierData *md;
299
300         for (md = lastmd; md; md = md->prev) {
301                 if (md->type == eModifierType_Multires) {
302                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime))
303                                 return (MultiresModifierData *)md;
304                 }
305         }
306
307         return NULL;
308 }
309
310 /* used for applying scale on mdisps layer and syncing subdivide levels when joining objects
311  * use_first - return first multires modifier if all multires'es are disabled
312  */
313 MultiresModifierData *get_multires_modifier(Scene *scene, Object *ob, int use_first)
314 {
315         ModifierData *md;
316         MultiresModifierData *mmd = NULL, *firstmmd = NULL;
317
318         /* find first active multires modifier */
319         for (md = ob->modifiers.first; md; md = md->next) {
320                 if (md->type == eModifierType_Multires) {
321                         if (!firstmmd)
322                                 firstmmd = (MultiresModifierData *)md;
323
324                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime)) {
325                                 mmd = (MultiresModifierData *)md;
326                                 break;
327                         }
328                 }
329         }
330
331         if (!mmd && use_first) {
332                 /* active multires have not been found
333                  * try to use first one */
334                 return firstmmd;
335         }
336
337         return mmd;
338 }
339
340 static int multires_get_level(Object *ob, MultiresModifierData *mmd, int render)
341 {
342         if (render)
343                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->renderlvl) : mmd->renderlvl;
344         else if (ob->mode == OB_MODE_SCULPT)
345                 return mmd->sculptlvl;
346         else
347                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->lvl) : mmd->lvl;
348 }
349
350 void multires_set_tot_level(Object *ob, MultiresModifierData *mmd, int lvl)
351 {
352         mmd->totlvl = lvl;
353
354         if (ob->mode != OB_MODE_SCULPT)
355                 mmd->lvl = CLAMPIS(MAX2(mmd->lvl, lvl), 0, mmd->totlvl);
356
357         mmd->sculptlvl = CLAMPIS(MAX2(mmd->sculptlvl, lvl), 0, mmd->totlvl);
358         mmd->renderlvl = CLAMPIS(MAX2(mmd->renderlvl, lvl), 0, mmd->totlvl);
359 }
360
361 static void multires_dm_mark_as_modified(DerivedMesh *dm, MultiresModifiedFlags flags)
362 {
363         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
364         ccgdm->multires.modified_flags |= flags;
365 }
366
367 void multires_mark_as_modified(Object *ob, MultiresModifiedFlags flags)
368 {
369         if (ob && ob->derivedFinal)
370                 multires_dm_mark_as_modified(ob->derivedFinal, flags);
371 }
372
373 void multires_force_update(Object *ob)
374 {
375         if (ob) {
376                 if (ob->derivedFinal) {
377                         ob->derivedFinal->needsFree = 1;
378                         ob->derivedFinal->release(ob->derivedFinal);
379                         ob->derivedFinal = NULL;
380                 }
381                 if (ob->sculpt && ob->sculpt->pbvh) {
382                         BLI_pbvh_free(ob->sculpt->pbvh);
383                         ob->sculpt->pbvh = NULL;
384                 }
385         }
386 }
387
388 void multires_force_external_reload(Object *ob)
389 {
390         Mesh *me = BKE_mesh_from_object(ob);
391
392         CustomData_external_reload(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
393         multires_force_update(ob);
394 }
395
396 void multires_force_render_update(Object *ob)
397 {
398         if (ob && (ob->mode & OB_MODE_SCULPT) && modifiers_findByType(ob, eModifierType_Multires))
399                 multires_force_update(ob);
400 }
401
402 int multiresModifier_reshapeFromDM(Scene *scene, MultiresModifierData *mmd,
403                                    Object *ob, DerivedMesh *srcdm)
404 {
405         DerivedMesh *mrdm = get_multires_dm(scene, mmd, ob);
406
407         if (mrdm && srcdm && mrdm->getNumVerts(mrdm) == srcdm->getNumVerts(srcdm)) {
408                 multires_mvert_to_ss(mrdm, srcdm->getVertArray(srcdm));
409
410                 multires_dm_mark_as_modified(mrdm, MULTIRES_COORDS_MODIFIED);
411                 multires_force_update(ob);
412
413                 mrdm->release(mrdm);
414
415                 return 1;
416         }
417
418         if (mrdm) mrdm->release(mrdm);
419
420         return 0;
421 }
422
423 /* Returns 1 on success, 0 if the src's totvert doesn't match */
424 int multiresModifier_reshape(Scene *scene, MultiresModifierData *mmd, Object *dst, Object *src)
425 {
426         DerivedMesh *srcdm = mesh_get_derived_final(scene, src, CD_MASK_BAREMESH);
427         return multiresModifier_reshapeFromDM(scene, mmd, dst, srcdm);
428 }
429
430 int multiresModifier_reshapeFromDeformMod(Scene *scene, MultiresModifierData *mmd,
431                                           Object *ob, ModifierData *md)
432 {
433         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
434         DerivedMesh *dm, *ndm;
435         int numVerts, result;
436         float (*deformedVerts)[3];
437
438         if (multires_get_level(ob, mmd, 0) == 0)
439                 return 0;
440
441         /* Create DerivedMesh for deformation modifier */
442         dm = get_multires_dm(scene, mmd, ob);
443         numVerts = dm->getNumVerts(dm);
444         deformedVerts = MEM_callocN(sizeof(float) * numVerts * 3, "multiresReshape_deformVerts");
445
446         dm->getVertCos(dm, deformedVerts);
447         mti->deformVerts(md, ob, dm, deformedVerts, numVerts, 0);
448
449         ndm = CDDM_copy(dm);
450         CDDM_apply_vert_coords(ndm, deformedVerts);
451
452         MEM_freeN(deformedVerts);
453         dm->release(dm);
454
455         /* Reshaping */
456         result = multiresModifier_reshapeFromDM(scene, mmd, ob, ndm);
457
458         /* Cleanup */
459         ndm->release(ndm);
460
461         return result;
462 }
463
464 /* reset the multires levels to match the number of mdisps */
465 static int get_levels_from_disps(Object *ob)
466 {
467         Mesh *me = ob->data;
468         MDisps *mdisp, *md;
469         int i, j, totlvl = 0;
470
471         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
472
473         for (i = 0; i < me->totpoly; ++i) {
474                 md = mdisp + me->mpoly[i].loopstart;
475
476                 for (j = 0; j < me->mpoly[i].totloop; j++, md++) {
477                         if (md->totdisp == 0) continue;
478         
479                         while (1) {
480                                 int side = (1 << (totlvl - 1)) + 1;
481                                 int lvl_totdisp = side * side;
482                                 if (md->totdisp == lvl_totdisp)
483                                         break;
484                                 else if (md->totdisp < lvl_totdisp)
485                                         totlvl--;
486                                 else
487                                         totlvl++;
488         
489                         }
490                         
491                         break;
492                 }
493         }
494
495         return totlvl;
496 }
497
498 /* reset the multires levels to match the number of mdisps */
499 void multiresModifier_set_levels_from_disps(MultiresModifierData *mmd, Object *ob)
500 {
501         Mesh *me = ob->data;
502         MDisps *mdisp;
503
504         if (me->edit_btmesh)
505                 mdisp = CustomData_get_layer(&me->edit_btmesh->bm->ldata, CD_MDISPS);
506         else
507                 mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
508
509         if (mdisp) {
510                 mmd->totlvl = get_levels_from_disps(ob);
511                 mmd->lvl = MIN2(mmd->sculptlvl, mmd->totlvl);
512                 mmd->sculptlvl = MIN2(mmd->sculptlvl, mmd->totlvl);
513                 mmd->renderlvl = MIN2(mmd->renderlvl, mmd->totlvl);
514         }
515 }
516
517 static void multires_set_tot_mdisps(Mesh *me, int lvl)
518 {
519         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
520         int i;
521
522         if (mdisps) {
523                 for (i = 0; i < me->totloop; i++, mdisps++) {
524                         mdisps->totdisp = multires_grid_tot[lvl];
525                         mdisps->level = lvl;
526                 }
527         }
528 }
529
530 static void multires_reallocate_mdisps(int totloop, MDisps *mdisps, int lvl)
531 {
532         int i;
533
534         /* reallocate displacements to be filled in */
535         for (i = 0; i < totloop; ++i) {
536                 int totdisp = multires_grid_tot[lvl];
537                 float (*disps)[3] = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
538
539                 if (mdisps[i].disps)
540                         MEM_freeN(mdisps[i].disps);
541                 
542                 if (mdisps[i].level && mdisps[i].hidden)
543                         multires_mdisps_subdivide_hidden(&mdisps[i], lvl);
544
545                 mdisps[i].disps = disps;
546                 mdisps[i].totdisp = totdisp;
547                 mdisps[i].level = lvl;
548         }
549 }
550
551 static void multires_copy_grid(float (*gridA)[3], float (*gridB)[3], int sizeA, int sizeB)
552 {
553         int x, y, j, skip;
554
555         if (sizeA > sizeB) {
556                 skip = (sizeA - 1) / (sizeB - 1);
557
558                 for (j = 0, y = 0; y < sizeB; y++)
559                         for (x = 0; x < sizeB; x++, j++)
560                                 copy_v3_v3(gridA[y * skip * sizeA + x * skip], gridB[j]);
561         }
562         else {
563                 skip = (sizeB - 1) / (sizeA - 1);
564
565                 for (j = 0, y = 0; y < sizeA; y++)
566                         for (x = 0; x < sizeA; x++, j++)
567                                 copy_v3_v3(gridA[j], gridB[y * skip * sizeB + x * skip]);
568         }
569 }
570
571 static void multires_copy_dm_grid(CCGElem *gridA, CCGElem *gridB, CCGKey *keyA, CCGKey *keyB)
572 {
573         int x, y, j, skip;
574
575         if (keyA->grid_size > keyB->grid_size) {
576                 skip = (keyA->grid_size - 1) / (keyB->grid_size - 1);
577
578                 for (j = 0, y = 0; y < keyB->grid_size; y++)
579                         for (x = 0; x < keyB->grid_size; x++, j++)
580                                 memcpy(CCG_elem_offset_co(keyA, gridA, y * skip * keyA->grid_size + x * skip),
581                                        CCG_elem_offset_co(keyB, gridB, j),
582                                        sizeof(float) * keyA->num_layers);
583         }
584         else {
585                 skip = (keyB->grid_size - 1) / (keyA->grid_size - 1);
586
587                 for (j = 0, y = 0; y < keyA->grid_size; y++)
588                         for (x = 0; x < keyA->grid_size; x++, j++)
589                                 memcpy(CCG_elem_offset_co(keyA, gridA, j),
590                                        CCG_elem_offset_co(keyB, gridB, y * skip * keyB->grid_size + x * skip),
591                                        sizeof(float) * keyA->num_layers);
592         }
593 }
594
595 /* Reallocate gpm->data at a lower resolution and copy values over
596  * from the original high-resolution data */
597 static void multires_grid_paint_mask_downsample(GridPaintMask *gpm, int level)
598 {
599         if (level < gpm->level) {
600                 int gridsize = ccg_gridsize(level);
601                 float *data = MEM_callocN(sizeof(float) * gridsize * gridsize,
602                                           "multires_grid_paint_mask_downsample");
603                 int x, y;
604
605                 for (y = 0; y < gridsize; y++) {
606                         for (x = 0; x < gridsize; x++) {
607                                 data[y * gridsize + x] =
608                                     paint_grid_paint_mask(gpm, level, x, y);
609                         }
610                 }
611
612                 MEM_freeN(gpm->data);
613                 gpm->data = data;
614                 gpm->level = level;
615         }
616 }
617
618 static void multires_del_higher(MultiresModifierData *mmd, Object *ob, int lvl)
619 {
620         Mesh *me = (Mesh *)ob->data;
621         int levels = mmd->totlvl - lvl;
622         MDisps *mdisps;
623         GridPaintMask *gpm;
624
625         multires_set_tot_mdisps(me, mmd->totlvl);
626         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
627         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
628         gpm = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
629
630         multires_force_update(ob);
631
632         if (mdisps && levels > 0) {
633                 if (lvl > 0) {
634                         /* MLoop *ml = me->mloop; */ /*UNUSED*/
635                         int nsize = multires_side_tot[lvl];
636                         int hsize = multires_side_tot[mmd->totlvl];
637                         int i, j;
638
639                         for (i = 0; i < me->totpoly; ++i) {
640                                 for (j = 0; j < me->mpoly[i].totloop; j++) {
641                                         int g = me->mpoly[i].loopstart + j;
642                                         MDisps *mdisp = &mdisps[g];
643                                         float (*disps)[3], (*ndisps)[3], (*hdisps)[3];
644                                         int totdisp = multires_grid_tot[lvl];
645
646                                         disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
647
648                                         ndisps = disps;
649                                         hdisps = mdisp->disps;
650
651                                         multires_copy_grid(ndisps, hdisps, nsize, hsize);
652                                         if (mdisp->hidden) {
653                                                 BLI_bitmap gh =
654                                                     multires_mdisps_downsample_hidden(mdisp->hidden,
655                                                                                       mdisp->level,
656                                                                                       lvl);
657                                                 MEM_freeN(mdisp->hidden);
658                                                 mdisp->hidden = gh;
659                                         }
660
661                                         ndisps += nsize * nsize;
662                                         hdisps += hsize * hsize;
663
664                                         MEM_freeN(mdisp->disps);
665                                         mdisp->disps = disps;
666                                         mdisp->totdisp = totdisp;
667                                         mdisp->level = lvl;
668
669                                         multires_grid_paint_mask_downsample(&gpm[g], lvl);
670                                 }
671                         }
672                 }
673                 else {
674                         multires_customdata_delete(me);
675                 }
676         }
677
678         multires_set_tot_level(ob, mmd, lvl);
679 }
680
681 /* (direction = 1) for delete higher, (direction = 0) for lower (not implemented yet) */
682 void multiresModifier_del_levels(MultiresModifierData *mmd, Object *ob, int direction)
683 {
684         Mesh *me = BKE_mesh_from_object(ob);
685         int lvl = multires_get_level(ob, mmd, 0);
686         int levels = mmd->totlvl - lvl;
687         MDisps *mdisps;
688
689         multires_set_tot_mdisps(me, mmd->totlvl);
690         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
691         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
692
693         multires_force_update(ob);
694
695         if (mdisps && levels > 0 && direction == 1) {
696                 multires_del_higher(mmd, ob, lvl);
697         }
698
699         multires_set_tot_level(ob, mmd, lvl);
700 }
701
702 static DerivedMesh *multires_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int totlvl, int simple, int alloc_paint_mask)
703 {
704         MultiresModifierData mmd = {{NULL}};
705         MultiresFlags flags = MULTIRES_USE_LOCAL_MMD;
706
707         mmd.lvl = lvl;
708         mmd.sculptlvl = lvl;
709         mmd.renderlvl = lvl;
710         mmd.totlvl = totlvl;
711         mmd.simple = simple;
712
713         if (alloc_paint_mask)
714                 flags |= MULTIRES_ALLOC_PAINT_MASK;
715
716         return multires_make_derived_from_derived(dm, &mmd, ob, flags);
717 }
718
719 static DerivedMesh *subsurf_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int simple, int optimal, int plain_uv, int alloc_paint_mask)
720 {
721         SubsurfModifierData smd = {{NULL}};
722         SubsurfFlags flags = 0;
723
724         smd.levels = smd.renderLevels = lvl;
725         if (!plain_uv)
726                 smd.flags |= eSubsurfModifierFlag_SubsurfUv;
727         if (simple)
728                 smd.subdivType = ME_SIMPLE_SUBSURF;
729         if (optimal)
730                 smd.flags |= eSubsurfModifierFlag_ControlEdges;
731
732         if (ob->mode & OB_MODE_EDIT)
733                 flags |= SUBSURF_IN_EDIT_MODE;
734
735         if (alloc_paint_mask)
736                 flags |= SUBSURF_ALLOC_PAINT_MASK;
737         
738         return subsurf_make_derived_from_derived(dm, &smd, NULL, flags);
739 }
740
741
742
743 /* assumes no is normalized; return value's sign is negative if v is on
744  * the other side of the plane */
745 static float v3_dist_from_plane(float v[3], float center[3], float no[3])
746 {
747         float s[3];
748         sub_v3_v3v3(s, v, center);
749         return dot_v3v3(s, no);
750 }
751
752 void multiresModifier_base_apply(MultiresModifierData *mmd, Object *ob)
753 {
754         DerivedMesh *cddm, *dispdm, *origdm;
755         Mesh *me;
756         const MeshElemMap *pmap;
757         float (*origco)[3];
758         int i, j, k, offset, totlvl;
759
760         multires_force_update(ob);
761
762         me = BKE_mesh_from_object(ob);
763         totlvl = mmd->totlvl;
764
765         /* nothing to do */
766         if (!totlvl)
767                 return;
768
769         /* XXX - probably not necessary to regenerate the cddm so much? */
770
771         /* generate highest level with displacements */
772         cddm = CDDM_from_mesh(me, NULL);
773         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
774         dispdm = multires_dm_create_local(ob, cddm, totlvl, totlvl, 0, 0);
775         cddm->release(cddm);
776
777         /* copy the new locations of the base verts into the mesh */
778         offset = dispdm->getNumVerts(dispdm) - me->totvert;
779         for (i = 0; i < me->totvert; ++i) {
780                 dispdm->getVertCo(dispdm, offset + i, me->mvert[i].co);
781         }
782
783         /* heuristic to produce a better-fitting base mesh */
784
785         cddm = CDDM_from_mesh(me, NULL);
786         pmap = cddm->getPolyMap(ob, cddm);
787         origco = MEM_callocN(sizeof(float) * 3 * me->totvert, "multires apply base origco");
788         for (i = 0; i < me->totvert; ++i)
789                 copy_v3_v3(origco[i], me->mvert[i].co);
790
791         for (i = 0; i < me->totvert; ++i) {
792                 float avg_no[3] = {0, 0, 0}, center[3] = {0, 0, 0}, push[3];
793                 float dist;
794                 int tot = 0;
795
796                 /* don't adjust verts not used by at least one poly */
797                 if (!pmap[i].count)
798                         continue;
799
800                 /* find center */
801                 for (j = 0; j < pmap[i].count; j++) {
802                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
803                         
804                         /* this double counts, not sure if that's bad or good */
805                         for (k = 0; k < p->totloop; ++k) {
806                                 int vndx = me->mloop[p->loopstart + k].v;
807                                 if (vndx != i) {
808                                         add_v3_v3(center, origco[vndx]);
809                                         tot++;
810                                 }
811                         }
812                 }
813                 mul_v3_fl(center, 1.0f / tot);
814
815                 /* find normal */
816                 for (j = 0; j < pmap[i].count; j++) {
817                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
818                         MPoly fake_poly;
819                         MLoop *fake_loops;
820                         float (*fake_co)[3];
821                         float no[3];
822
823                         /* set up poly, loops, and coords in order to call
824                          * BKE_mesh_calc_poly_normal_coords() */
825                         fake_poly.totloop = p->totloop;
826                         fake_poly.loopstart = 0;
827                         fake_loops = MEM_mallocN(sizeof(MLoop) * p->totloop, "fake_loops");
828                         fake_co = MEM_mallocN(sizeof(float) * 3 * p->totloop, "fake_co");
829                         
830                         for (k = 0; k < p->totloop; ++k) {
831                                 int vndx = me->mloop[p->loopstart + k].v;
832                                 
833                                 fake_loops[k].v = k;
834                                 
835                                 if (vndx == i)
836                                         copy_v3_v3(fake_co[k], center);
837                                 else
838                                         copy_v3_v3(fake_co[k], origco[vndx]);
839                         }
840                         
841                         BKE_mesh_calc_poly_normal_coords(&fake_poly, fake_loops,
842                                                          (const float(*)[3])fake_co, no);
843                         MEM_freeN(fake_loops);
844                         MEM_freeN(fake_co);
845
846                         add_v3_v3(avg_no, no);
847                 }
848                 normalize_v3(avg_no);
849
850                 /* push vertex away from the plane */
851                 dist = v3_dist_from_plane(me->mvert[i].co, center, avg_no);
852                 copy_v3_v3(push, avg_no);
853                 mul_v3_fl(push, dist);
854                 add_v3_v3(me->mvert[i].co, push);
855                 
856         }
857
858         MEM_freeN(origco);
859         cddm->release(cddm);
860
861         /* subdivide the mesh to highest level without displacements */
862         cddm = CDDM_from_mesh(me, NULL);
863         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
864         origdm = subsurf_dm_create_local(ob, cddm, totlvl, 0, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
865         cddm->release(cddm);
866
867         /* calc disps */
868         multiresModifier_disp_run(dispdm, me, NULL, CALC_DISPLACEMENTS, origdm->getGridData(origdm), totlvl);
869
870         origdm->release(origdm);
871         dispdm->release(dispdm);
872 }
873
874 static void multires_subdivide(MultiresModifierData *mmd, Object *ob, int totlvl, int updateblock, int simple)
875 {
876         Mesh *me = ob->data;
877         MDisps *mdisps;
878         int lvl = mmd->totlvl;
879
880         if ((totlvl > multires_max_levels) || (me->totpoly == 0))
881                 return;
882
883         multires_force_update(ob);
884
885         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
886         if (!mdisps)
887                 mdisps = multires_mdisps_initialize_hidden(me, totlvl);
888
889         if (mdisps->disps && !updateblock && totlvl > 1) {
890                 /* upsample */
891                 DerivedMesh *lowdm, *cddm, *highdm;
892                 CCGElem **highGridData, **lowGridData, **subGridData;
893                 CCGKey highGridKey, lowGridKey;
894                 CCGSubSurf *ss;
895                 int i, numGrids, highGridSize;
896
897                 /* create subsurf DM from original mesh at high level */
898                 cddm = CDDM_from_mesh(me, NULL);
899                 DM_set_only_copy(cddm, CD_MASK_BAREMESH);
900                 highdm = subsurf_dm_create_local(ob, cddm, totlvl, simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, TRUE);
901                 ss = ((CCGDerivedMesh *)highdm)->ss;
902
903                 /* create multires DM from original mesh at low level */
904                 lowdm = multires_dm_create_local(ob, cddm, lvl, lvl, simple, TRUE);
905                 cddm->release(cddm);
906
907                 /* copy subsurf grids and replace them with low displaced grids */
908                 numGrids = highdm->getNumGrids(highdm);
909                 highGridSize = highdm->getGridSize(highdm);
910                 highGridData = highdm->getGridData(highdm);
911                 highdm->getGridKey(highdm, &highGridKey);
912                 lowGridData = lowdm->getGridData(lowdm);
913                 lowdm->getGridKey(lowdm, &lowGridKey);
914
915                 subGridData = MEM_callocN(sizeof(float *) * numGrids, "subGridData*");
916
917                 for (i = 0; i < numGrids; ++i) {
918                         /* backup subsurf grids */
919                         subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
920                         memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
921
922                         /* overwrite with current displaced grids */
923                         multires_copy_dm_grid(highGridData[i], lowGridData[i], &highGridKey, &lowGridKey);
924                 }
925
926                 /* low lower level dm no longer needed at this point */
927                 lowdm->release(lowdm);
928
929                 /* subsurf higher levels again with displaced data */
930                 ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
931                 ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
932
933                 /* reallocate displacements */
934                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
935
936                 /* compute displacements */
937                 multiresModifier_disp_run(highdm, me, NULL, CALC_DISPLACEMENTS, subGridData, totlvl);
938
939                 /* free */
940                 highdm->release(highdm);
941                 for (i = 0; i < numGrids; ++i)
942                         MEM_freeN(subGridData[i]);
943                 MEM_freeN(subGridData);
944         }
945         else {
946                 /* only reallocate, nothing to upsample */
947                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
948         }
949
950         multires_set_tot_level(ob, mmd, totlvl);
951 }
952
953 void multiresModifier_subdivide(MultiresModifierData *mmd, Object *ob, int updateblock, int simple)
954 {
955         multires_subdivide(mmd, ob, mmd->totlvl + 1, updateblock, simple);
956 }
957
958 static void grid_tangent(const CCGKey *key, int x, int y, int axis, CCGElem *grid, float t[3])
959 {
960         if (axis == 0) {
961                 if (x == key->grid_size - 1) {
962                         if (y == key->grid_size - 1)
963                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y - 1), CCG_grid_elem_co(key, grid, x - 1, y - 1));
964                         else
965                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x - 1, y));
966                 }
967                 else
968                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x + 1, y), CCG_grid_elem_co(key, grid, x, y));
969         }
970         else if (axis == 1) {
971                 if (y == key->grid_size - 1) {
972                         if (x == key->grid_size - 1)
973                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x - 1, y), CCG_grid_elem_co(key, grid, x - 1, (y - 1)));
974                         else
975                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x, (y - 1)));
976                 }
977                 else
978                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, (y + 1)), CCG_grid_elem_co(key, grid, x, y));
979         }
980 }
981
982 /* Construct 3x3 tangent-space matrix in 'mat' */
983 static void grid_tangent_matrix(float mat[3][3], const CCGKey *key,
984                                                                 int x, int y, CCGElem *grid)
985 {
986         grid_tangent(key, x, y, 0, grid, mat[0]);
987         normalize_v3(mat[0]);
988
989         grid_tangent(key, x, y, 1, grid, mat[1]);
990         normalize_v3(mat[1]);
991
992         copy_v3_v3(mat[2], CCG_grid_elem_no(key, grid, x, y));
993 }
994
995 /* XXX WARNING: subsurf elements from dm and oldGridData *must* be of the same format (size),
996  *              because this code uses CCGKey's info from dm to access oldGridData's normals
997  *              (through the call to grid_tangent_matrix())! */
998 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl)
999 {
1000         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1001         CCGElem **gridData, **subGridData;
1002         CCGKey key;
1003         MPoly *mpoly = me->mpoly;
1004         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1005         GridPaintMask *grid_paint_mask = NULL;
1006         int *gridOffset;
1007         int i, k, /*numGrids, */ gridSize, dGridSize, dSkip;
1008         int totloop, totpoly;
1009         
1010         /* this happens in the dm made by bmesh_mdisps_space_set */
1011         if (dm2 && CustomData_has_layer(&dm2->loopData, CD_MDISPS)) {
1012                 mpoly = CustomData_get_layer(&dm2->polyData, CD_MPOLY);
1013                 mdisps = CustomData_get_layer(&dm2->loopData, CD_MDISPS);
1014                 totloop = dm2->numLoopData;
1015                 totpoly = dm2->numPolyData;
1016         }
1017         else {
1018                 totloop = me->totloop;
1019                 totpoly = me->totpoly;
1020         }
1021         
1022         if (!mdisps) {
1023                 if (op == CALC_DISPLACEMENTS)
1024                         mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS, CD_DEFAULT, NULL, me->totloop);
1025                 else
1026                         return;
1027         }
1028
1029         /*numGrids = dm->getNumGrids(dm);*/ /*UNUSED*/
1030         gridSize = dm->getGridSize(dm);
1031         gridData = dm->getGridData(dm);
1032         gridOffset = dm->getGridOffset(dm);
1033         dm->getGridKey(dm, &key);
1034         subGridData = (oldGridData) ? oldGridData : gridData;
1035
1036         dGridSize = multires_side_tot[totlvl];
1037         dSkip = (dGridSize - 1) / (gridSize - 1);
1038
1039         /* multires paint masks */
1040         if (key.has_mask)
1041                 grid_paint_mask = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
1042
1043         k = 0; /*current loop/mdisp index within the mloop array*/
1044
1045         #pragma omp parallel for private(i) if (totloop*gridSize*gridSize >= CCG_OMP_LIMIT)
1046
1047         for (i = 0; i < totpoly; ++i) {
1048                 const int numVerts = mpoly[i].totloop;
1049                 int S, x, y, gIndex = gridOffset[i];
1050
1051                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1052                         GridPaintMask *gpm = grid_paint_mask ? &grid_paint_mask[gIndex] : NULL;
1053                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1054                         CCGElem *grid = gridData[gIndex];
1055                         CCGElem *subgrid = subGridData[gIndex];
1056                         float (*dispgrid)[3] = NULL;
1057
1058                         /* when adding new faces in edit mode, need to allocate disps */
1059                         if (!mdisp->disps)
1060                         #pragma omp critical
1061                         {
1062                                 multires_reallocate_mdisps(totloop, mdisps, totlvl);
1063                         }
1064
1065                         dispgrid = mdisp->disps;
1066
1067                         /* if needed, reallocate multires paint mask */
1068                         if (gpm && gpm->level < key.level) {
1069                                 gpm->level = key.level;
1070                                 #pragma omp critical
1071                                 {
1072                                         if (gpm->data)
1073                                                 MEM_freeN(gpm->data);
1074                                         gpm->data = MEM_callocN(sizeof(float) * key.grid_area, "gpm.data");
1075                                 }
1076                         }
1077
1078                         for (y = 0; y < gridSize; y++) {
1079                                 for (x = 0; x < gridSize; x++) {
1080                                         float *co = CCG_grid_elem_co(&key, grid, x, y);
1081                                         float *sco = CCG_grid_elem_co(&key, subgrid, x, y);
1082                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1083                                         float mat[3][3], disp[3], d[3], mask;
1084
1085                                         /* construct tangent space matrix */
1086                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1087
1088                                         switch (op) {
1089                                                 case APPLY_DISPLACEMENTS:
1090                                                         /* Convert displacement to object space
1091                                                          * and add to grid points */
1092                                                         mul_v3_m3v3(disp, mat, data);
1093                                                         add_v3_v3v3(co, sco, disp);
1094                                                         break;
1095                                                 case CALC_DISPLACEMENTS:
1096                                                         /* Calculate displacement between new and old
1097                                                          * grid points and convert to tangent space */
1098                                                         sub_v3_v3v3(disp, co, sco);
1099                                                         invert_m3(mat);
1100                                                         mul_v3_m3v3(data, mat, disp);
1101                                                         break;
1102                                                 case ADD_DISPLACEMENTS:
1103                                                         /* Convert subdivided displacements to tangent
1104                                                          * space and add to the original displacements */
1105                                                         invert_m3(mat);
1106                                                         mul_v3_m3v3(d, mat, co);
1107                                                         add_v3_v3(data, d);
1108                                                         break;
1109                                         }
1110
1111                                         if (gpm) {
1112                                                 switch (op) {
1113                                                         case APPLY_DISPLACEMENTS:
1114                                                                 /* Copy mask from gpm to DM */
1115                                                                 *CCG_grid_elem_mask(&key, grid, x, y) =
1116                                                                     paint_grid_paint_mask(gpm, key.level, x, y);
1117                                                                 break;
1118                                                         case CALC_DISPLACEMENTS:
1119                                                                 /* Copy mask from DM to gpm */
1120                                                                 mask = *CCG_grid_elem_mask(&key, grid, x, y);
1121                                                                 gpm->data[y * gridSize + x] = CLAMPIS(mask, 0, 1);
1122                                                                 break;
1123                                                         case ADD_DISPLACEMENTS:
1124                                                                 /* Add mask displacement to gpm */
1125                                                                 gpm->data[y * gridSize + x] +=
1126                                                                     *CCG_grid_elem_mask(&key, grid, x, y);
1127                                                                 break;
1128                                                 }
1129                                         }
1130                                 }
1131                         }
1132                 }
1133         }
1134         
1135         if (op == APPLY_DISPLACEMENTS) {
1136                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, NULL, 0);
1137                 ccgSubSurf_updateNormals(ccgdm->ss, NULL, 0);
1138         }
1139 }
1140
1141 void multires_modifier_update_mdisps(struct DerivedMesh *dm)
1142 {
1143         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1144         Object *ob;
1145         Mesh *me;
1146         MDisps *mdisps;
1147         MultiresModifierData *mmd;
1148
1149         ob = ccgdm->multires.ob;
1150         me = ccgdm->multires.ob->data;
1151         mmd = ccgdm->multires.mmd;
1152         multires_set_tot_mdisps(me, mmd->totlvl);
1153         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1154         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1155
1156         if (mdisps) {
1157                 int lvl = ccgdm->multires.lvl;
1158                 int totlvl = ccgdm->multires.totlvl;
1159                 
1160                 if (lvl < totlvl) {
1161                         Mesh *me = ob->data;
1162                         DerivedMesh *lowdm, *cddm, *highdm;
1163                         CCGElem **highGridData, **lowGridData, **subGridData, **gridData, *diffGrid;
1164                         CCGKey highGridKey, lowGridKey;
1165                         CCGSubSurf *ss;
1166                         int i, j, numGrids, highGridSize, lowGridSize;
1167
1168                         /* create subsurf DM from original mesh at high level */
1169                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1170                         else cddm = CDDM_from_mesh(me, NULL);
1171                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1172
1173                         highdm = subsurf_dm_create_local(ob, cddm, totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, TRUE);
1174                         ss = ((CCGDerivedMesh *)highdm)->ss;
1175
1176                         /* create multires DM from original mesh and displacements */
1177                         lowdm = multires_dm_create_local(ob, cddm, lvl, totlvl, mmd->simple, TRUE);
1178                         cddm->release(cddm);
1179
1180                         /* gather grid data */
1181                         numGrids = highdm->getNumGrids(highdm);
1182                         highGridSize = highdm->getGridSize(highdm);
1183                         highGridData = highdm->getGridData(highdm);
1184                         highdm->getGridKey(highdm, &highGridKey);
1185                         lowGridSize = lowdm->getGridSize(lowdm);
1186                         lowGridData = lowdm->getGridData(lowdm);
1187                         lowdm->getGridKey(lowdm, &lowGridKey);
1188                         gridData = dm->getGridData(dm);
1189
1190                         BLI_assert(highGridKey.elem_size == lowGridKey.elem_size);
1191
1192                         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1193                         diffGrid = MEM_callocN(lowGridKey.elem_size * lowGridSize * lowGridSize, "diff");
1194
1195                         for (i = 0; i < numGrids; ++i) {
1196                                 /* backup subsurf grids */
1197                                 subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
1198                                 memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
1199
1200                                 /* write difference of subsurf and displaced low level into high subsurf */
1201                                 for (j = 0; j < lowGridSize * lowGridSize; ++j) {
1202                                         sub_v4_v4v4(CCG_elem_offset_co(&lowGridKey, diffGrid, j),
1203                                                     CCG_elem_offset_co(&lowGridKey, gridData[i], j),
1204                                                     CCG_elem_offset_co(&lowGridKey, lowGridData[i], j));
1205                                 }
1206
1207                                 multires_copy_dm_grid(highGridData[i], diffGrid, &highGridKey, &lowGridKey);
1208                         }
1209
1210                         /* lower level dm no longer needed at this point */
1211                         MEM_freeN(diffGrid);
1212                         lowdm->release(lowdm);
1213
1214                         /* subsurf higher levels again with difference of coordinates */
1215                         ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
1216                         ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
1217
1218                         /* add to displacements */
1219                         multiresModifier_disp_run(highdm, me, NULL, ADD_DISPLACEMENTS, subGridData, mmd->totlvl);
1220
1221                         /* free */
1222                         highdm->release(highdm);
1223                         for (i = 0; i < numGrids; ++i)
1224                                 MEM_freeN(subGridData[i]);
1225                         MEM_freeN(subGridData);
1226                 }
1227                 else {
1228                         DerivedMesh *cddm, *subdm;
1229
1230                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1231                         else cddm = CDDM_from_mesh(me, NULL);
1232                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1233
1234                         subdm = subsurf_dm_create_local(ob, cddm, mmd->totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, TRUE);
1235                         cddm->release(cddm);
1236
1237                         multiresModifier_disp_run(dm, me, NULL, CALC_DISPLACEMENTS, subdm->getGridData(subdm), mmd->totlvl);
1238
1239                         subdm->release(subdm);
1240                 }
1241         }
1242 }
1243
1244 void multires_modifier_update_hidden(DerivedMesh *dm)
1245 {
1246         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1247         BLI_bitmap *grid_hidden = ccgdm->gridHidden;
1248         Mesh *me = ccgdm->multires.ob->data;
1249         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1250         int totlvl = ccgdm->multires.totlvl;
1251         int lvl = ccgdm->multires.lvl;
1252
1253         if (mdisps) {
1254                 int i;
1255                 
1256                 for (i = 0; i < me->totloop; i++) {
1257                         MDisps *md = &mdisps[i];
1258                         BLI_bitmap gh = grid_hidden[i];
1259
1260                         if (!gh && md->hidden) {
1261                                 MEM_freeN(md->hidden);
1262                                 md->hidden = NULL;
1263                         }
1264                         else if (gh) {
1265                                 gh = multires_mdisps_upsample_hidden(gh, lvl, totlvl,
1266                                                                      md->hidden);
1267                                 if (md->hidden)
1268                                         MEM_freeN(md->hidden);
1269                                 
1270                                 md->hidden = gh;
1271                         }
1272                 }
1273         }
1274 }
1275
1276 void multires_set_space(DerivedMesh *dm, Object *ob, int from, int to)
1277 {
1278         DerivedMesh *ccgdm = NULL, *subsurf = NULL;
1279         CCGElem **gridData, **subGridData = NULL;
1280         CCGKey key;
1281         MPoly *mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1282         MDisps *mdisps;
1283         MultiresModifierData *mmd = get_multires_modifier(NULL, ob, 1);
1284         int *gridOffset, totlvl;
1285         int i, k, numGrids, gridSize, dGridSize, dSkip;
1286         
1287         if (!mmd)
1288                 return;
1289         
1290         mdisps = CustomData_get_layer(&dm->loopData, CD_MDISPS);
1291
1292         if (!mdisps) {
1293                 goto cleanup;
1294         }
1295
1296         totlvl = mmd->totlvl;
1297         ccgdm = multires_dm_create_local(ob, dm, totlvl, totlvl, mmd->simple, FALSE);
1298         
1299         subsurf = subsurf_dm_create_local(ob, dm, totlvl,
1300                                           mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
1301
1302         numGrids = subsurf->getNumGrids(subsurf);
1303         gridSize = subsurf->getGridSize(subsurf);
1304         gridData = subsurf->getGridData(subsurf);
1305         subsurf->getGridKey(subsurf, &key);
1306
1307         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1308
1309         for (i = 0; i < numGrids; i++) {
1310                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1311                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1312         }
1313         
1314         /* numGrids = ccgdm->dm->getNumGrids((DerivedMesh *)ccgdm); */ /*UNUSED*/
1315         gridSize = ccgdm->getGridSize((DerivedMesh *)ccgdm);
1316         gridData = ccgdm->getGridData((DerivedMesh *)ccgdm);
1317         gridOffset = ccgdm->getGridOffset((DerivedMesh *)ccgdm);
1318
1319         dGridSize = multires_side_tot[totlvl];
1320         dSkip = (dGridSize - 1) / (gridSize - 1);
1321
1322         k = 0; /*current loop/mdisp index within the mloop array*/
1323
1324         //#pragma omp parallel for private(i) if (dm->numLoopData*gridSize*gridSize >= CCG_OMP_LIMIT)
1325
1326         for (i = 0; i < dm->numPolyData; ++i) {
1327                 const int numVerts = mpoly[i].totloop;
1328                 int S, x, y, gIndex = gridOffset[i];
1329                                                 
1330                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1331                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1332                         /* CCGElem *grid = gridData[gIndex]; */ /* UNUSED */
1333                         CCGElem *subgrid = subGridData[gIndex];
1334                         float (*dispgrid)[3] = NULL;
1335
1336                         /* when adding new faces in edit mode, need to allocate disps */
1337                         if (!mdisp->disps) {
1338                                 mdisp->totdisp = gridSize * gridSize;
1339                                 mdisp->level = totlvl;
1340                                 mdisp->disps = MEM_callocN(sizeof(float) * 3 * mdisp->totdisp, "disp in multires_set_space");
1341                         }
1342
1343                         dispgrid = mdisp->disps;
1344
1345                         for (y = 0; y < gridSize; y++) {
1346                                 for (x = 0; x < gridSize; x++) {
1347                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1348                                         float *co = CCG_grid_elem_co(&key, subgrid, x, y);
1349                                         float mat[3][3], dco[3];
1350                                         
1351                                         /* construct tangent space matrix */
1352                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1353
1354                                         /* convert to absolute coordinates in space */
1355                                         if (from == MULTIRES_SPACE_TANGENT) {
1356                                                 mul_v3_m3v3(dco, mat, data);
1357                                                 add_v3_v3(dco, co);
1358                                         }
1359                                         else if (from == MULTIRES_SPACE_OBJECT) {
1360                                                 add_v3_v3v3(dco, co, data);
1361                                         }
1362                                         else if (from == MULTIRES_SPACE_ABSOLUTE) {
1363                                                 copy_v3_v3(dco, data);
1364                                         }
1365                                         
1366                                         /*now, convert to desired displacement type*/
1367                                         if (to == MULTIRES_SPACE_TANGENT) {
1368                                                 invert_m3(mat);
1369
1370                                                 sub_v3_v3(dco, co);
1371                                                 mul_v3_m3v3(data, mat, dco);
1372                                         }
1373                                         else if (to == MULTIRES_SPACE_OBJECT) {
1374                                                 sub_v3_v3(dco, co);
1375                                                 mul_v3_m3v3(data, mat, dco);
1376                                         }
1377                                         else if (to == MULTIRES_SPACE_ABSOLUTE) {
1378                                                 copy_v3_v3(data, dco);
1379                                         }
1380                                 }
1381                         }
1382                 }
1383         }
1384
1385 cleanup:
1386         if (subsurf) {
1387                 subsurf->needsFree = 1;
1388                 subsurf->release(subsurf);
1389         }
1390
1391         if (ccgdm) {
1392                 ccgdm->needsFree = 1;
1393                 ccgdm->release(ccgdm);
1394         }
1395 }
1396
1397 void multires_stitch_grids(Object *ob)
1398 {
1399         /* utility for smooth brush */
1400         if (ob && ob->derivedFinal) {
1401                 CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)ob->derivedFinal;
1402                 CCGFace **faces;
1403                 int totface;
1404
1405                 if (ccgdm->pbvh) {
1406                         BLI_pbvh_get_grid_updates(ccgdm->pbvh, 0, (void ***)&faces, &totface);
1407
1408                         if (totface) {
1409                                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, faces, totface);
1410                                 MEM_freeN(faces);
1411                         }
1412                 }
1413         }
1414 }
1415
1416 DerivedMesh *multires_make_derived_from_derived(DerivedMesh *dm,
1417                                                 MultiresModifierData *mmd,
1418                                                 Object *ob,
1419                                                 MultiresFlags flags)
1420 {
1421         Mesh *me = ob->data;
1422         DerivedMesh *result;
1423         CCGDerivedMesh *ccgdm = NULL;
1424         CCGElem **gridData, **subGridData;
1425         CCGKey key;
1426         int lvl = multires_get_level(ob, mmd, (flags & MULTIRES_USE_RENDER_PARAMS));
1427         int i, gridSize, numGrids;
1428
1429         if (lvl == 0)
1430                 return dm;
1431
1432         result = subsurf_dm_create_local(ob, dm, lvl,
1433                                          mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges,
1434                                          mmd->flags & eMultiresModifierFlag_PlainUv,
1435                                          flags & MULTIRES_ALLOC_PAINT_MASK);
1436
1437         if (!(flags & MULTIRES_USE_LOCAL_MMD)) {
1438                 ccgdm = (CCGDerivedMesh *)result;
1439
1440                 ccgdm->multires.ob = ob;
1441                 ccgdm->multires.mmd = mmd;
1442                 ccgdm->multires.local_mmd = 0;
1443                 ccgdm->multires.lvl = lvl;
1444                 ccgdm->multires.totlvl = mmd->totlvl;
1445                 ccgdm->multires.modified_flags = 0;
1446         }
1447
1448         numGrids = result->getNumGrids(result);
1449         gridSize = result->getGridSize(result);
1450         gridData = result->getGridData(result);
1451         result->getGridKey(result, &key);
1452
1453         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1454
1455         for (i = 0; i < numGrids; i++) {
1456                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1457                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1458         }
1459
1460         multires_set_tot_mdisps(me, mmd->totlvl);
1461         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1462
1463         /*run displacement*/
1464         multiresModifier_disp_run(result, ob->data, dm, APPLY_DISPLACEMENTS, subGridData, mmd->totlvl);
1465
1466         /* copy hidden elements for this level */
1467         if (ccgdm)
1468                 multires_output_hidden_to_ccgdm(ccgdm, me, lvl);
1469
1470         for (i = 0; i < numGrids; i++)
1471                 MEM_freeN(subGridData[i]);
1472         MEM_freeN(subGridData);
1473
1474         return result;
1475 }
1476
1477 /**** Old Multires code ****
1478  ***************************/
1479
1480 /* Adapted from sculptmode.c */
1481 void old_mdisps_bilinear(float out[3], float (*disps)[3], const int st, float u, float v)
1482 {
1483         int x, y, x2, y2;
1484         const int st_max = st - 1;
1485         float urat, vrat, uopp;
1486         float d[4][3], d2[2][3];
1487         
1488         if (!disps || isnan(u) || isnan(v))
1489                 return;
1490                         
1491         if (u < 0)
1492                 u = 0;
1493         else if (u >= st)
1494                 u = st_max;
1495         if (v < 0)
1496                 v = 0;
1497         else if (v >= st)
1498                 v = st_max;
1499
1500         x = floor(u);
1501         y = floor(v);
1502         x2 = x + 1;
1503         y2 = y + 1;
1504
1505         if (x2 >= st) x2 = st_max;
1506         if (y2 >= st) y2 = st_max;
1507         
1508         urat = u - x;
1509         vrat = v - y;
1510         uopp = 1 - urat;
1511
1512         mul_v3_v3fl(d[0], disps[y * st + x], uopp);
1513         mul_v3_v3fl(d[1], disps[y * st + x2], urat);
1514         mul_v3_v3fl(d[2], disps[y2 * st + x], uopp);
1515         mul_v3_v3fl(d[3], disps[y2 * st + x2], urat);
1516
1517         add_v3_v3v3(d2[0], d[0], d[1]);
1518         add_v3_v3v3(d2[1], d[2], d[3]);
1519         mul_v3_fl(d2[0], 1 - vrat);
1520         mul_v3_fl(d2[1], vrat);
1521
1522         add_v3_v3v3(out, d2[0], d2[1]);
1523 }
1524
1525 static void old_mdisps_rotate(int S, int UNUSED(newside), int oldside, int x, int y, float *u, float *v)
1526 {
1527         float offset = oldside * 0.5f - 0.5f;
1528
1529         if (S == 1) { *u = offset + x; *v = offset - y; }
1530         if (S == 2) { *u = offset + y; *v = offset + x; }
1531         if (S == 3) { *u = offset - x; *v = offset + y; }
1532         if (S == 0) { *u = offset - y; *v = offset - x; }
1533 }
1534
1535 static void old_mdisps_convert(MFace *mface, MDisps *mdisp)
1536 {
1537         int newlvl = log(sqrt(mdisp->totdisp) - 1) / M_LN2;
1538         int oldlvl = newlvl + 1;
1539         int oldside = multires_side_tot[oldlvl];
1540         int newside = multires_side_tot[newlvl];
1541         int nvert = (mface->v4) ? 4 : 3;
1542         int newtotdisp = multires_grid_tot[newlvl] * nvert;
1543         int x, y, S;
1544         float (*disps)[3], (*out)[3], u = 0.0f, v = 0.0f; /* Quite gcc barking. */
1545
1546         disps = MEM_callocN(sizeof(float) * 3 * newtotdisp, "multires disps");
1547
1548         out = disps;
1549         for (S = 0; S < nvert; S++) {
1550                 for (y = 0; y < newside; ++y) {
1551                         for (x = 0; x < newside; ++x, ++out) {
1552                                 old_mdisps_rotate(S, newside, oldside, x, y, &u, &v);
1553                                 old_mdisps_bilinear(*out, mdisp->disps, oldside, u, v);
1554
1555                                 if (S == 1) { (*out)[1] = -(*out)[1]; }
1556                                 else if (S == 2) { SWAP(float, (*out)[0], (*out)[1]); }
1557                                 else if (S == 3) { (*out)[0] = -(*out)[0]; }
1558                                 else if (S == 0) { SWAP(float, (*out)[0], (*out)[1]); (*out)[0] = -(*out)[0]; (*out)[1] = -(*out)[1]; };
1559                         }
1560                 }
1561         }
1562
1563         MEM_freeN(mdisp->disps);
1564
1565         mdisp->totdisp = newtotdisp;
1566         mdisp->level = newlvl;
1567         mdisp->disps = disps;
1568 }
1569
1570 void multires_load_old_250(Mesh *me)
1571 {
1572         MDisps *mdisps, *mdisps2;
1573         MFace *mf;
1574         int i, j, k;
1575
1576         mdisps = CustomData_get_layer(&me->fdata, CD_MDISPS);
1577
1578         if (mdisps) {
1579                 for (i = 0; i < me->totface; i++)
1580                         if (mdisps[i].totdisp)
1581                                 old_mdisps_convert(&me->mface[i], &mdisps[i]);
1582                 
1583                 CustomData_add_layer(&me->ldata, CD_MDISPS, CD_CALLOC, NULL, me->totloop);
1584                 mdisps2 = CustomData_get_layer(&me->ldata, CD_MDISPS);
1585
1586                 k = 0;
1587                 mf = me->mface;
1588                 for (i = 0; i < me->totface; i++, mf++) {
1589                         int nvert = mf->v4 ? 4 : 3;
1590                         int totdisp = mdisps[i].totdisp / nvert;
1591                         
1592                         for (j = 0; j < mf->v4 ? 4 : 3; j++, k++) {
1593                                 mdisps2[k].disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disp in conversion");
1594                                 mdisps2[k].totdisp = totdisp;
1595                                 mdisps2[k].level = mdisps[i].level;
1596                                 memcpy(mdisps2[k].disps, mdisps[i].disps + totdisp * j, totdisp);
1597                         }
1598
1599                 }
1600         }
1601 }
1602
1603 /* Does not actually free lvl itself */
1604 static void multires_free_level(MultiresLevel *lvl)
1605 {
1606         if (lvl) {
1607                 if (lvl->faces) MEM_freeN(lvl->faces);
1608                 if (lvl->edges) MEM_freeN(lvl->edges);
1609                 if (lvl->colfaces) MEM_freeN(lvl->colfaces);
1610         }
1611 }
1612
1613 void multires_free(Multires *mr)
1614 {
1615         if (mr) {
1616                 MultiresLevel *lvl = mr->levels.first;
1617
1618                 /* Free the first-level data */
1619                 if (lvl) {
1620                         CustomData_free(&mr->vdata, lvl->totvert);
1621                         CustomData_free(&mr->fdata, lvl->totface);
1622                         if (mr->edge_flags)
1623                                 MEM_freeN(mr->edge_flags);
1624                         if (mr->edge_creases)
1625                                 MEM_freeN(mr->edge_creases);
1626                 }
1627
1628                 while (lvl) {
1629                         multires_free_level(lvl);                       
1630                         lvl = lvl->next;
1631                 }
1632
1633                 MEM_freeN(mr->verts);
1634
1635                 BLI_freelistN(&mr->levels);
1636
1637                 MEM_freeN(mr);
1638         }
1639 }
1640
1641 static void create_old_vert_face_map(ListBase **map, IndexNode **mem, const MultiresFace *mface,
1642                                      const int totvert, const int totface)
1643 {
1644         int i, j;
1645         IndexNode *node = NULL;
1646         
1647         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
1648         (*mem) = MEM_callocN(sizeof(IndexNode) * totface * 4, "vert face map mem");
1649         node = *mem;
1650         
1651         /* Find the users */
1652         for (i = 0; i < totface; ++i) {
1653                 for (j = 0; j < (mface[i].v[3] ? 4 : 3); ++j, ++node) {
1654                         node->index = i;
1655                         BLI_addtail(&(*map)[mface[i].v[j]], node);
1656                 }
1657         }
1658 }
1659
1660 static void create_old_vert_edge_map(ListBase **map, IndexNode **mem, const MultiresEdge *medge,
1661                                      const int totvert, const int totedge)
1662 {
1663         int i, j;
1664         IndexNode *node = NULL;
1665         
1666         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
1667         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
1668         node = *mem;
1669         
1670         /* Find the users */
1671         for (i = 0; i < totedge; ++i) {
1672                 for (j = 0; j < 2; ++j, ++node) {
1673                         node->index = i;
1674                         BLI_addtail(&(*map)[medge[i].v[j]], node);
1675                 }
1676         }
1677 }
1678
1679 static MultiresFace *find_old_face(ListBase *map, MultiresFace *faces, int v1, int v2, int v3, int v4)
1680 {
1681         IndexNode *n1;
1682         int v[4], i, j;
1683
1684         v[0] = v1;
1685         v[1] = v2;
1686         v[2] = v3;
1687         v[3] = v4;
1688
1689         for (n1 = map[v1].first; n1; n1 = n1->next) {
1690                 int fnd[4] = {0, 0, 0, 0};
1691
1692                 for (i = 0; i < 4; ++i) {
1693                         for (j = 0; j < 4; ++j) {
1694                                 if (v[i] == faces[n1->index].v[j])
1695                                         fnd[i] = 1;
1696                         }
1697                 }
1698
1699                 if (fnd[0] && fnd[1] && fnd[2] && fnd[3])
1700                         return &faces[n1->index];
1701         }
1702
1703         return NULL;
1704 }
1705
1706 static MultiresEdge *find_old_edge(ListBase *map, MultiresEdge *edges, int v1, int v2)
1707 {
1708         IndexNode *n1, *n2;
1709
1710         for (n1 = map[v1].first; n1; n1 = n1->next) {
1711                 for (n2 = map[v2].first; n2; n2 = n2->next) {
1712                         if (n1->index == n2->index)
1713                                 return &edges[n1->index];
1714                 }
1715         }
1716
1717         return NULL;
1718 }
1719
1720 static void multires_load_old_edges(ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst, int v1, int v2, int mov)
1721 {
1722         int emid = find_old_edge(emap[2], lvl->edges, v1, v2)->mid;
1723         vvmap[dst + mov] = emid;
1724
1725         if (lvl->next->next) {
1726                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v1, emid, mov / 2);
1727                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v2, emid, -mov / 2);
1728         }
1729 }
1730
1731 static void multires_load_old_faces(ListBase **fmap, ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst,
1732                                     int v1, int v2, int v3, int v4, int st2, int st3)
1733 {
1734         int fmid;
1735         int emid13, emid14, emid23, emid24;
1736
1737         if (lvl && lvl->next) {
1738                 fmid = find_old_face(fmap[1], lvl->faces, v1, v2, v3, v4)->mid;
1739                 vvmap[dst] = fmid;
1740
1741                 emid13 = find_old_edge(emap[1], lvl->edges, v1, v3)->mid;
1742                 emid14 = find_old_edge(emap[1], lvl->edges, v1, v4)->mid;
1743                 emid23 = find_old_edge(emap[1], lvl->edges, v2, v3)->mid;
1744                 emid24 = find_old_edge(emap[1], lvl->edges, v2, v4)->mid;
1745
1746
1747                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 + st3,
1748                                         fmid, v2, emid23, emid24, st2, st3 / 2);
1749
1750                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 + st3,
1751                                         emid14, emid24, fmid, v4, st2, st3 / 2);
1752
1753                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 - st3,
1754                                         emid13, emid23, v3, fmid, st2, st3 / 2);
1755
1756                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 - st3,
1757                                         v1, fmid, emid13, emid14, st2, st3 / 2);
1758
1759                 if (lvl->next->next) {
1760                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid24, fmid, st3);
1761                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid13, fmid, -st3);
1762                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid14, fmid, -st2 * st3);
1763                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid23, fmid, st2 * st3);
1764                 }
1765         }
1766 }
1767
1768 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert)
1769 {
1770         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *) dm;
1771         CCGSubSurf *ss = ccgdm->ss;
1772         CCGElem *vd;
1773         CCGKey key;
1774         int index;
1775         int totvert, totedge, totface;
1776         int gridSize = ccgSubSurf_getGridSize(ss);
1777         int edgeSize = ccgSubSurf_getEdgeSize(ss);
1778         int i = 0;
1779
1780         dm->getGridKey(dm, &key);
1781
1782         totface = ccgSubSurf_getNumFaces(ss);
1783         for (index = 0; index < totface; index++) {
1784                 CCGFace *f = ccgdm->faceMap[index].face;
1785                 int x, y, S, numVerts = ccgSubSurf_getFaceNumVerts(f);
1786
1787                 vd = ccgSubSurf_getFaceCenterData(f);
1788                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1789                 i++;
1790                 
1791                 for (S = 0; S < numVerts; S++) {
1792                         for (x = 1; x < gridSize - 1; x++, i++) {
1793                                 vd = ccgSubSurf_getFaceGridEdgeData(ss, f, S, x);
1794                                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1795                         }
1796                 }
1797
1798                 for (S = 0; S < numVerts; S++) {
1799                         for (y = 1; y < gridSize - 1; y++) {
1800                                 for (x = 1; x < gridSize - 1; x++, i++) {
1801                                         vd = ccgSubSurf_getFaceGridData(ss, f, S, x, y);
1802                                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1803                                 }
1804                         }
1805                 }
1806         }
1807
1808         totedge = ccgSubSurf_getNumEdges(ss);
1809         for (index = 0; index < totedge; index++) {
1810                 CCGEdge *e = ccgdm->edgeMap[index].edge;
1811                 int x;
1812
1813                 for (x = 1; x < edgeSize - 1; x++, i++) {
1814                         vd = ccgSubSurf_getEdgeData(ss, e, x);
1815                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1816                 }
1817         }
1818
1819         totvert = ccgSubSurf_getNumVerts(ss);
1820         for (index = 0; index < totvert; index++) {
1821                 CCGVert *v = ccgdm->vertMap[index].vert;
1822
1823                 vd = ccgSubSurf_getVertData(ss, v);
1824                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1825                 i++;
1826         }
1827
1828         ccgSubSurf_updateToFaces(ss, 0, NULL, 0);
1829 }
1830
1831 /* Loads a multires object stored in the old Multires struct into the new format */
1832 static void multires_load_old_dm(DerivedMesh *dm, Mesh *me, int totlvl)
1833 {
1834         MultiresLevel *lvl, *lvl1;
1835         Multires *mr = me->mr;
1836         MVert *vsrc, *vdst;
1837         unsigned int src, dst;
1838         int st = multires_side_tot[totlvl - 1] - 1;
1839         int extedgelen = multires_side_tot[totlvl] - 2;
1840         int *vvmap; // inorder for dst, map to src
1841         int crossedgelen;
1842         int s, x, tottri, totquad;
1843         unsigned int i, j, totvert;
1844
1845         src = 0;
1846         vsrc = mr->verts;
1847         vdst = dm->getVertArray(dm);
1848         totvert = (unsigned int)dm->getNumVerts(dm);
1849         vvmap = MEM_callocN(sizeof(int) * totvert, "multires vvmap");
1850
1851         lvl1 = mr->levels.first;
1852         /* Load base verts */
1853         for (i = 0; i < lvl1->totvert; ++i) {
1854                 vvmap[totvert - lvl1->totvert + i] = src;
1855                 src++;
1856         }
1857
1858         /* Original edges */
1859         dst = totvert - lvl1->totvert - extedgelen * lvl1->totedge;
1860         for (i = 0; i < lvl1->totedge; ++i) {
1861                 int ldst = dst + extedgelen * i;
1862                 int lsrc = src;
1863                 lvl = lvl1->next;
1864
1865                 for (j = 2; j <= mr->level_count; ++j) {
1866                         int base = multires_side_tot[totlvl - j + 1] - 2;
1867                         int skip = multires_side_tot[totlvl - j + 2] - 1;
1868                         int st = multires_side_tot[j - 1] - 1;
1869
1870                         for (x = 0; x < st; ++x)
1871                                 vvmap[ldst + base + x * skip] = lsrc + st * i + x;
1872
1873                         lsrc += lvl->totvert - lvl->prev->totvert;
1874                         lvl = lvl->next;
1875                 }
1876         }
1877
1878         /* Center points */
1879         dst = 0;
1880         for (i = 0; i < lvl1->totface; ++i) {
1881                 int sides = lvl1->faces[i].v[3] ? 4 : 3;
1882
1883                 vvmap[dst] = src + lvl1->totedge + i;
1884                 dst += 1 + sides * (st - 1) * st;
1885         }
1886
1887
1888         /* The rest is only for level 3 and up */
1889         if (lvl1->next && lvl1->next->next) {
1890                 ListBase **fmap, **emap;
1891                 IndexNode **fmem, **emem;
1892
1893                 /* Face edge cross */
1894                 tottri = totquad = 0;
1895                 crossedgelen = multires_side_tot[totlvl - 1] - 2;
1896                 dst = 0;
1897                 for (i = 0; i < lvl1->totface; ++i) {
1898                         int sides = lvl1->faces[i].v[3] ? 4 : 3;
1899
1900                         lvl = lvl1->next->next;
1901                         dst++;
1902
1903                         for (j = 3; j <= mr->level_count; ++j) {
1904                                 int base = multires_side_tot[totlvl - j + 1] - 2;
1905                                 int skip = multires_side_tot[totlvl - j + 2] - 1;
1906                                 int st = pow(2, j - 2);
1907                                 int st2 = pow(2, j - 3);
1908                                 int lsrc = lvl->prev->totvert;
1909
1910                                 /* Skip exterior edge verts */
1911                                 lsrc += lvl1->totedge * st;
1912
1913                                 /* Skip earlier face edge crosses */
1914                                 lsrc += st2 * (tottri * 3 + totquad * 4);
1915
1916                                 for (s = 0; s < sides; ++s) {
1917                                         for (x = 0; x < st2; ++x) {
1918                                                 vvmap[dst + crossedgelen * (s + 1) - base - x * skip - 1] = lsrc;
1919                                                 lsrc++;
1920                                         }
1921                                 }
1922
1923                                 lvl = lvl->next;
1924                         }
1925
1926                         dst += sides * (st - 1) * st;
1927
1928                         if (sides == 4) ++totquad;
1929                         else ++tottri;
1930
1931                 }
1932
1933                 /* calculate vert to edge/face maps for each level (except the last) */
1934                 fmap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires fmap");
1935                 emap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires emap");
1936                 fmem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires fmem");
1937                 emem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires emem");
1938                 lvl = lvl1;
1939                 for (i = 0; i < (unsigned int)mr->level_count - 1; ++i) {
1940                         create_old_vert_face_map(fmap + i, fmem + i, lvl->faces, lvl->totvert, lvl->totface);
1941                         create_old_vert_edge_map(emap + i, emem + i, lvl->edges, lvl->totvert, lvl->totedge);
1942                         lvl = lvl->next;
1943                 }
1944
1945                 /* Interior face verts */
1946                 /* lvl = lvl1->next->next; */ /* UNUSED */
1947                 dst = 0;
1948                 for (j = 0; j < lvl1->totface; ++j) {
1949                         int sides = lvl1->faces[j].v[3] ? 4 : 3;
1950                         int ldst = dst + 1 + sides * (st - 1);
1951
1952                         for (s = 0; s < sides; ++s) {
1953                                 int st2 = multires_side_tot[totlvl - 1] - 2;
1954                                 int st3 = multires_side_tot[totlvl - 2] - 2;
1955                                 int st4 = st3 == 0 ? 1 : (st3 + 1) / 2;
1956                                 int mid = ldst + st2 * st3 + st3;
1957                                 int cv = lvl1->faces[j].v[s];
1958                                 int nv = lvl1->faces[j].v[s == sides - 1 ? 0 : s + 1];
1959                                 int pv = lvl1->faces[j].v[s == 0 ? sides - 1 : s - 1];
1960
1961                                 multires_load_old_faces(fmap, emap, lvl1->next, vvmap, mid,
1962                                                         vvmap[dst], cv,
1963                                                         find_old_edge(emap[0], lvl1->edges, pv, cv)->mid,
1964                                                         find_old_edge(emap[0], lvl1->edges, cv, nv)->mid,
1965                                                         st2, st4);
1966
1967                                 ldst += (st - 1) * (st - 1);
1968                         }
1969
1970
1971                         dst = ldst;
1972                 }
1973
1974                 /*lvl = lvl->next;*/ /*UNUSED*/
1975
1976                 for (i = 0; i < (unsigned int)(mr->level_count - 1); ++i) {
1977                         MEM_freeN(fmap[i]);
1978                         MEM_freeN(fmem[i]);
1979                         MEM_freeN(emap[i]);
1980                         MEM_freeN(emem[i]);
1981                 }
1982
1983                 MEM_freeN(fmap);
1984                 MEM_freeN(emap);
1985                 MEM_freeN(fmem);
1986                 MEM_freeN(emem);
1987         }
1988
1989         /* Transfer verts */
1990         for (i = 0; i < totvert; ++i)
1991                 copy_v3_v3(vdst[i].co, vsrc[vvmap[i]].co);
1992
1993         MEM_freeN(vvmap);
1994
1995         multires_mvert_to_ss(dm, vdst);
1996 }
1997
1998 /* Copy the first-level vcol data to the mesh, if it exists */
1999 /* Warning: higher-level vcol data will be lost */
2000 static void multires_load_old_vcols(Mesh *me)
2001 {
2002         MultiresLevel *lvl;
2003         MultiresColFace *colface;
2004         MCol *mcol;
2005         int i, j;
2006
2007         if (!(lvl = me->mr->levels.first))
2008                 return;
2009
2010         if (!(colface = lvl->colfaces))
2011                 return;
2012
2013         /* older multires format never supported multiple vcol layers,
2014          * so we can assume the active vcol layer is the correct one */
2015         if (!(mcol = CustomData_get_layer(&me->fdata, CD_MCOL)))
2016                 return;
2017         
2018         for (i = 0; i < me->totface; ++i) {
2019                 for (j = 0; j < 4; ++j) {
2020                         mcol[i * 4 + j].a = colface[i].col[j].a;
2021                         mcol[i * 4 + j].r = colface[i].col[j].r;
2022                         mcol[i * 4 + j].g = colface[i].col[j].g;
2023                         mcol[i * 4 + j].b = colface[i].col[j].b;
2024                 }
2025         }
2026 }
2027
2028 /* Copy the first-level face-flag data to the mesh */
2029 static void multires_load_old_face_flags(Mesh *me)
2030 {
2031         MultiresLevel *lvl;
2032         MultiresFace *faces;
2033         int i;
2034
2035         if (!(lvl = me->mr->levels.first))
2036                 return;
2037
2038         if (!(faces = lvl->faces))
2039                 return;
2040
2041         for (i = 0; i < me->totface; ++i)
2042                 me->mface[i].flag = faces[i].flag;
2043 }
2044
2045 void multires_load_old(Object *ob, Mesh *me)
2046 {
2047         MultiresLevel *lvl;
2048         ModifierData *md;
2049         MultiresModifierData *mmd;
2050         DerivedMesh *dm, *orig;
2051         CustomDataLayer *l;
2052         int i;
2053
2054         /* Load original level into the mesh */
2055         lvl = me->mr->levels.first;
2056         CustomData_free_layers(&me->vdata, CD_MVERT, lvl->totvert);
2057         CustomData_free_layers(&me->edata, CD_MEDGE, lvl->totedge);
2058         CustomData_free_layers(&me->fdata, CD_MFACE, lvl->totface);
2059         me->totvert = lvl->totvert;
2060         me->totedge = lvl->totedge;
2061         me->totface = lvl->totface;
2062         me->mvert = CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, me->totvert);
2063         me->medge = CustomData_add_layer(&me->edata, CD_MEDGE, CD_CALLOC, NULL, me->totedge);
2064         me->mface = CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, me->totface);
2065         memcpy(me->mvert, me->mr->verts, sizeof(MVert) * me->totvert);
2066         for (i = 0; i < me->totedge; ++i) {
2067                 me->medge[i].v1 = lvl->edges[i].v[0];
2068                 me->medge[i].v2 = lvl->edges[i].v[1];
2069         }
2070         for (i = 0; i < me->totface; ++i) {
2071                 me->mface[i].v1 = lvl->faces[i].v[0];
2072                 me->mface[i].v2 = lvl->faces[i].v[1];
2073                 me->mface[i].v3 = lvl->faces[i].v[2];
2074                 me->mface[i].v4 = lvl->faces[i].v[3];
2075                 me->mface[i].mat_nr = lvl->faces[i].mat_nr;
2076         }
2077
2078         /* Copy the first-level data to the mesh */
2079         /* XXX We must do this before converting tessfaces to polys/lopps! */
2080         for (i = 0, l = me->mr->vdata.layers; i < me->mr->vdata.totlayer; ++i, ++l)
2081                 CustomData_add_layer(&me->vdata, l->type, CD_REFERENCE, l->data, me->totvert);
2082         for (i = 0, l = me->mr->fdata.layers; i < me->mr->fdata.totlayer; ++i, ++l)
2083                 CustomData_add_layer(&me->fdata, l->type, CD_REFERENCE, l->data, me->totface);
2084         memset(&me->mr->vdata, 0, sizeof(CustomData));
2085         memset(&me->mr->fdata, 0, sizeof(CustomData));
2086
2087         multires_load_old_vcols(me);
2088         multires_load_old_face_flags(me);
2089
2090         /* multiresModifier_subdivide (actually, multires_subdivide) expects polys, not tessfaces! */
2091         BKE_mesh_convert_mfaces_to_mpolys(me);
2092
2093         /* Add a multires modifier to the object */
2094         md = ob->modifiers.first;
2095         while (md && modifierType_getInfo(md->type)->type == eModifierTypeType_OnlyDeform)
2096                 md = md->next;                          
2097         mmd = (MultiresModifierData *)modifier_new(eModifierType_Multires);
2098         BLI_insertlinkbefore(&ob->modifiers, md, mmd);
2099
2100         for (i = 0; i < me->mr->level_count - 1; ++i)
2101                 multiresModifier_subdivide(mmd, ob, 1, 0);
2102
2103         mmd->lvl = mmd->totlvl;
2104         orig = CDDM_from_mesh(me, NULL);
2105         /* XXX We *must* alloc paint mask here, else we have some kind of mismatch in
2106          *     multires_modifier_update_mdisps() (called by dm->release(dm)), which always creates the
2107          *     reference subsurfed dm with this option, before calling multiresModifier_disp_run(),
2108          *     which implicitly expects both subsurfs from its first dm and oldGridData parameters to
2109          *     be of the same "format"! */
2110         dm = multires_make_derived_from_derived(orig, mmd, ob, MULTIRES_ALLOC_PAINT_MASK);
2111
2112         multires_load_old_dm(dm, me, mmd->totlvl + 1);
2113
2114         multires_dm_mark_as_modified(dm, MULTIRES_COORDS_MODIFIED);
2115         dm->release(dm);
2116         orig->release(orig);
2117
2118         /* Remove the old multires */
2119         multires_free(me->mr);
2120         me->mr = NULL;
2121 }
2122
2123 /* If 'ob' and 'to_ob' both have multires modifiers, synchronize them
2124  * such that 'ob' has the same total number of levels as 'to_ob'. */
2125 static void multires_sync_levels(Scene *scene, Object *ob, Object *to_ob)
2126 {
2127         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2128         MultiresModifierData *to_mmd = get_multires_modifier(scene, to_ob, 1);
2129
2130         if (!mmd) {
2131                 /* object could have MDISP even when there is no multires modifier
2132                  * this could lead to troubles due to i've got no idea how mdisp could be
2133                  * upsampled correct without modifier data.
2134                  * just remove mdisps if no multires present (nazgul) */
2135
2136                 multires_customdata_delete(ob->data);
2137         }
2138
2139         if (mmd && to_mmd) {
2140                 if (mmd->totlvl > to_mmd->totlvl)
2141                         multires_del_higher(mmd, ob, to_mmd->totlvl);
2142                 else
2143                         multires_subdivide(mmd, ob, to_mmd->totlvl, 0, mmd->simple);
2144         }
2145 }
2146
2147 static void multires_apply_smat(Scene *scene, Object *ob, float smat[3][3])
2148 {
2149         DerivedMesh *dm = NULL, *cddm = NULL, *subdm = NULL;
2150         CCGElem **gridData, **subGridData;
2151         CCGKey dm_key, subdm_key;
2152         Mesh *me = (Mesh *)ob->data;
2153         MPoly *mpoly = me->mpoly;
2154         /* MLoop *mloop = me->mloop; */ /* UNUSED */
2155         MDisps *mdisps;
2156         int *gridOffset;
2157         int i, /*numGrids, */ gridSize, dGridSize, dSkip, totvert;
2158         float (*vertCos)[3] = NULL;
2159         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2160         MultiresModifierData high_mmd;
2161
2162         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2163         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
2164
2165         if (!mdisps || !mmd || !mmd->totlvl) return;
2166
2167         /* we need derived mesh created from highest resolution */
2168         high_mmd = *mmd;
2169         high_mmd.lvl = high_mmd.totlvl;
2170
2171         /* unscaled multires with applied displacement */
2172         subdm = get_multires_dm(scene, &high_mmd, ob);
2173
2174         /* prepare scaled CDDM to create ccgDN */
2175         cddm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
2176
2177         totvert = cddm->getNumVerts(cddm);
2178         vertCos = MEM_mallocN(sizeof(*vertCos) * totvert, "multiresScale vertCos");
2179         cddm->getVertCos(cddm, vertCos);
2180         for (i = 0; i < totvert; i++)
2181                 mul_m3_v3(smat, vertCos[i]);
2182         CDDM_apply_vert_coords(cddm, vertCos);
2183         MEM_freeN(vertCos);
2184
2185         /* scaled ccgDM for tangent space of object with applied scale */
2186         dm = subsurf_dm_create_local(ob, cddm, high_mmd.totlvl, high_mmd.simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
2187         cddm->release(cddm);
2188
2189         gridSize = dm->getGridSize(dm);
2190         gridData = dm->getGridData(dm);
2191         gridOffset = dm->getGridOffset(dm);
2192         dm->getGridKey(dm, &dm_key);
2193         subGridData = subdm->getGridData(subdm);
2194         subdm->getGridKey(subdm, &subdm_key);
2195
2196         dGridSize = multires_side_tot[high_mmd.totlvl];
2197         dSkip = (dGridSize - 1) / (gridSize - 1);
2198
2199         #pragma omp parallel for private(i) if (me->totface*gridSize*gridSize*4 >= CCG_OMP_LIMIT)
2200         for (i = 0; i < me->totpoly; ++i) {
2201                 const int numVerts = mpoly[i].totloop;
2202                 MDisps *mdisp = &mdisps[mpoly[i].loopstart];
2203                 int S, x, y, gIndex = gridOffset[i];
2204
2205                 for (S = 0; S < numVerts; ++S, ++gIndex, mdisp++) {
2206                         CCGElem *grid = gridData[gIndex];
2207                         CCGElem *subgrid = subGridData[gIndex];
2208                         float (*dispgrid)[3] = mdisp->disps;
2209
2210                         for (y = 0; y < gridSize; y++) {
2211                                 for (x = 0; x < gridSize; x++) {
2212                                         float *co = CCG_grid_elem_co(&dm_key, grid, x, y);
2213                                         float *sco = CCG_grid_elem_co(&subdm_key, subgrid, x, y);
2214                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
2215                                         float mat[3][3], disp[3];
2216
2217                                         /* construct tangent space matrix */
2218                                         grid_tangent_matrix(mat, &dm_key, x, y, grid);
2219
2220                                         /* scale subgrid coord and calculate displacement */
2221                                         mul_m3_v3(smat, sco);
2222                                         sub_v3_v3v3(disp, sco, co);
2223
2224                                         /* convert difference to tangent space */
2225                                         invert_m3(mat);
2226                                         mul_v3_m3v3(data, mat, disp);
2227                                 }
2228                         }
2229                 }
2230         }
2231
2232         dm->release(dm);
2233         subdm->release(subdm);
2234 }
2235
2236 int multires_mdisp_corners(MDisps *s)
2237 {
2238         int lvl = 13;
2239
2240         while (lvl > 0) {
2241                 int side = (1 << (lvl - 1)) + 1;
2242                 if ((s->totdisp % (side * side)) == 0) return s->totdisp / (side * side);
2243                 lvl--;
2244         }
2245
2246         return 0;
2247 }
2248
2249 void multiresModifier_scale_disp(Scene *scene, Object *ob)
2250 {
2251         float smat[3][3];
2252
2253         /* object's scale matrix */
2254         BKE_object_scale_to_mat3(ob, smat);
2255
2256         multires_apply_smat(scene, ob, smat);
2257 }
2258
2259 void multiresModifier_prepare_join(Scene *scene, Object *ob, Object *to_ob)
2260 {
2261         float smat[3][3], tmat[3][3], mat[3][3];
2262         multires_sync_levels(scene, ob, to_ob);
2263
2264         /* construct scale matrix for displacement */
2265         BKE_object_scale_to_mat3(to_ob, tmat);
2266         invert_m3(tmat);
2267         BKE_object_scale_to_mat3(ob, smat);
2268         mul_m3_m3m3(mat, smat, tmat);
2269
2270         multires_apply_smat(scene, ob, mat);
2271 }
2272
2273 /* update multires data after topology changing */
2274 void multires_topology_changed(Mesh *me)
2275 {
2276         MDisps *mdisp = NULL, *cur = NULL;
2277         int i, grid = 0;
2278
2279         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totface);
2280         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
2281
2282         if (!mdisp)
2283                 return;
2284
2285         cur = mdisp;
2286         for (i = 0; i < me->totloop; i++, cur++) {
2287                 if (cur->totdisp) {
2288                         grid = mdisp->totdisp;
2289
2290                         break;
2291                 }
2292         }
2293
2294         for (i = 0; i < me->totloop; i++, mdisp++) {
2295                 /* allocate memory for mdisp, the whole disp layer would be erased otherwise */
2296                 if (!mdisp->totdisp || !mdisp->disps) {
2297                         if (grid) {
2298                                 mdisp->totdisp = grid;
2299                                 mdisp->disps = MEM_callocN(3 * mdisp->totdisp * sizeof(float), "mdisp topology");
2300                         }
2301
2302                         continue;
2303                 }
2304         }
2305 }
2306
2307 /***************** Multires interpolation stuff *****************/
2308
2309 /* Find per-corner coordinate with given per-face UV coord */
2310 int mdisp_rot_face_to_crn(const int corners, const int face_side, const float u, const float v, float *x, float *y)
2311 {
2312         const float offset = face_side * 0.5f - 0.5f;
2313         int S = 0;
2314
2315         if (corners == 4) {
2316                 if (u <= offset && v <= offset) S = 0;
2317                 else if (u > offset  && v <= offset) S = 1;
2318                 else if (u > offset  && v > offset) S = 2;
2319                 else if (u <= offset && v >= offset) S = 3;
2320
2321                 if (S == 0) {
2322                         *y = offset - u;
2323                         *x = offset - v;
2324                 }
2325                 else if (S == 1) {
2326                         *x = u - offset;
2327                         *y = offset - v;
2328                 }
2329                 else if (S == 2) {
2330                         *y = u - offset;
2331                         *x = v - offset;
2332                 }
2333                 else if (S == 3) {
2334                         *x = offset - u;
2335                         *y = v - offset;
2336                 }
2337         }
2338         else {
2339                 int grid_size = offset;
2340                 float w = (face_side - 1) - u - v;
2341                 float W1, W2;
2342
2343                 if (u >= v && u >= w) {S = 0; W1 = w; W2 = v; }
2344                 else if (v >= u && v >= w) {S = 1; W1 = u; W2 = w; }
2345                 else {S = 2; W1 = v; W2 = u; }
2346
2347                 W1 /= (face_side - 1);
2348                 W2 /= (face_side - 1);
2349
2350                 *x = (1 - (2 * W1) / (1 - W2)) * grid_size;
2351                 *y = (1 - (2 * W2) / (1 - W1)) * grid_size;
2352         }
2353
2354         return S;
2355 }