Code cleanup: no need to use calloc when memory is initialized after
[blender-staging.git] / source / blender / blenkernel / intern / multires.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2007 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/multires.c
29  *  \ingroup bke
30  */
31
32
33 #include "MEM_guardedalloc.h"
34
35 /* for reading old multires */
36 #define DNA_DEPRECATED_ALLOW
37
38 #include "DNA_mesh_types.h"
39 #include "DNA_meshdata_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_scene_types.h"
42
43 #include "BLI_bitmap.h"
44 #include "BLI_blenlib.h"
45 #include "BLI_math.h"
46 #include "BLI_utildefines.h"
47
48 #include "BKE_pbvh.h"
49 #include "BKE_ccg.h"
50 #include "BKE_cdderivedmesh.h"
51 #include "BKE_mesh.h"
52 #include "BKE_mesh_mapping.h"
53 #include "BKE_modifier.h"
54 #include "BKE_multires.h"
55 #include "BKE_paint.h"
56 #include "BKE_scene.h"
57 #include "BKE_subsurf.h"
58 #include "BKE_editmesh.h"
59
60 #include "BKE_object.h"
61
62 #include "CCGSubSurf.h"
63
64 #include <math.h>
65 #include <string.h>
66
67 /* MULTIRES MODIFIER */
68 static const int multires_max_levels = 13;
69 static const int multires_grid_tot[] = {0, 4, 9, 25, 81, 289, 1089, 4225, 16641, 66049, 263169, 1050625, 4198401, 16785409};
70 static const int multires_side_tot[] = {0, 2, 3, 5,  9,  17,  33,   65,   129,   257,   513,    1025,    2049,    4097};
71
72 /* See multiresModifier_disp_run for description of each operation */
73 typedef enum {
74         APPLY_DISPLACEMENTS,
75         CALC_DISPLACEMENTS,
76         ADD_DISPLACEMENTS,
77 } DispOp;
78
79 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert);
80 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl);
81
82 /** Customdata **/
83
84 void multires_customdata_delete(Mesh *me)
85 {
86         if (me->edit_btmesh) {
87                 BMEditMesh *em = me->edit_btmesh;
88                 /* CustomData_external_remove is used here only to mark layer
89                  * as non-external for further free-ing, so zero element count
90                  * looks safer than em->totface */
91                 CustomData_external_remove(&em->bm->ldata, &me->id,
92                                            CD_MDISPS, 0);
93                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_MDISPS);
94
95                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_GRID_PAINT_MASK);
96         }
97         else {
98                 CustomData_external_remove(&me->ldata, &me->id,
99                                            CD_MDISPS, me->totloop);
100                 CustomData_free_layer_active(&me->ldata, CD_MDISPS,
101                                              me->totloop);
102
103                 CustomData_free_layer_active(&me->ldata, CD_GRID_PAINT_MASK,
104                                              me->totloop);
105         }
106 }
107
108 /** Grid hiding **/
109 static BLI_bitmap *multires_mdisps_upsample_hidden(BLI_bitmap *lo_hidden,
110                                                    int lo_level,
111                                                    int hi_level,
112
113                                                    /* assumed to be at hi_level (or
114                                                     *  null) */
115                                                    BLI_bitmap *prev_hidden)
116 {
117         BLI_bitmap *subd;
118         int hi_gridsize = BKE_ccg_gridsize(hi_level);
119         int lo_gridsize = BKE_ccg_gridsize(lo_level);
120         int yh, xh, xl, yl, xo, yo, hi_ndx;
121         int offset, factor;
122
123         BLI_assert(lo_level <= hi_level);
124
125         /* fast case */
126         if (lo_level == hi_level)
127                 return MEM_dupallocN(lo_hidden);
128
129         subd = BLI_BITMAP_NEW(hi_gridsize * hi_gridsize, "MDisps.hidden upsample");
130
131         factor = BKE_ccg_factor(lo_level, hi_level);
132         offset = 1 << (hi_level - lo_level - 1);
133
134         /* low-res blocks */
135         for (yl = 0; yl < lo_gridsize; yl++) {
136                 for (xl = 0; xl < lo_gridsize; xl++) {
137                         int lo_val = BLI_BITMAP_GET(lo_hidden, yl * lo_gridsize + xl);
138
139                         /* high-res blocks */
140                         for (yo = -offset; yo <= offset; yo++) {
141                                 yh = yl * factor + yo;
142                                 if (yh < 0 || yh >= hi_gridsize)
143                                         continue;
144
145                                 for (xo = -offset; xo <= offset; xo++) {
146                                         xh = xl * factor + xo;
147                                         if (xh < 0 || xh >= hi_gridsize)
148                                                 continue;
149
150                                         hi_ndx = yh * hi_gridsize + xh;
151
152                                         if (prev_hidden) {
153                                                 /* If prev_hidden is available, copy it to
154                                                  * subd, except when the equivalent element in
155                                                  * lo_hidden is different */
156                                                 if (lo_val != prev_hidden[hi_ndx])
157                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
158                                                 else
159                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, prev_hidden[hi_ndx]);
160                                         }
161                                         else {
162                                                 BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
163                                         }
164                                 }
165                         }
166                 }
167         }
168
169         return subd;
170 }
171
172 static BLI_bitmap *multires_mdisps_downsample_hidden(BLI_bitmap *old_hidden,
173                                                      int old_level,
174                                                      int new_level)
175 {
176         BLI_bitmap *new_hidden;
177         int new_gridsize = BKE_ccg_gridsize(new_level);
178         int old_gridsize = BKE_ccg_gridsize(old_level);
179         int x, y, factor, old_value;
180
181         BLI_assert(new_level <= old_level);
182         factor = BKE_ccg_factor(new_level, old_level);
183         new_hidden = BLI_BITMAP_NEW(new_gridsize * new_gridsize,
184                                     "downsample hidden");
185
186
187
188         for (y = 0; y < new_gridsize; y++) {
189                 for (x = 0; x < new_gridsize; x++) {
190                         old_value = BLI_BITMAP_GET(old_hidden,
191                                                    factor * y * old_gridsize + x * factor);
192                         
193                         BLI_BITMAP_MODIFY(new_hidden, y * new_gridsize + x, old_value);
194                 }
195         }
196
197         return new_hidden;
198 }
199
200 static void multires_output_hidden_to_ccgdm(CCGDerivedMesh *ccgdm,
201                                             Mesh *me, int level)
202 {
203         const MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
204         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
205         int *gridOffset;
206         int i, j;
207         
208         gridOffset = ccgdm->dm.getGridOffset(&ccgdm->dm);
209
210         for (i = 0; i < me->totpoly; i++) {
211                 for (j = 0; j < me->mpoly[i].totloop; j++) {
212                         int g = gridOffset[i] + j;
213                         const MDisps *md = &mdisps[g];
214                         BLI_bitmap *gh = md->hidden;
215                         
216                         if (gh) {
217                                 grid_hidden[g] =
218                                         multires_mdisps_downsample_hidden(gh, md->level, level);
219                         }
220                 }
221         }
222 }
223
224 /* subdivide mdisps.hidden if needed (assumes that md.level reflects
225  * the current level of md.hidden) */
226 static void multires_mdisps_subdivide_hidden(MDisps *md, int new_level)
227 {
228         BLI_bitmap *subd;
229         
230         BLI_assert(md->hidden);
231
232         /* nothing to do if already subdivided enough */
233         if (md->level >= new_level)
234                 return;
235
236         subd = multires_mdisps_upsample_hidden(md->hidden,
237                                                md->level,
238                                                new_level,
239                                                NULL);
240         
241         /* swap in the subdivided data */
242         MEM_freeN(md->hidden);
243         md->hidden = subd;
244 }
245
246 static MDisps *multires_mdisps_initialize_hidden(Mesh *me, int level)
247 {
248         MDisps *mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS,
249                                               CD_CALLOC, NULL, me->totloop);
250         int gridsize = BKE_ccg_gridsize(level);
251         int gridarea = gridsize * gridsize;
252         int i, j, k;
253         
254         for (i = 0; i < me->totpoly; i++) {
255                 int hide = 0;
256
257                 for (j = 0; j < me->mpoly[i].totloop; j++) {
258                         if (me->mvert[me->mloop[me->mpoly[i].loopstart + j].v].flag & ME_HIDE) {
259                                 hide = 1;
260                                 break;
261                         }
262                 }
263
264                 if (!hide)
265                         continue;
266
267                 for (j = 0; j < me->mpoly[i].totloop; j++) {
268                         MDisps *md = &mdisps[me->mpoly[i].loopstart + j];
269
270                         BLI_assert(!md->hidden);
271
272                         md->hidden = BLI_BITMAP_NEW(gridarea, "MDisps.hidden initialize");
273
274                         for (k = 0; k < gridarea; k++)
275                                 BLI_BITMAP_SET(md->hidden, k);
276                 }
277         }
278
279         return mdisps;
280 }
281
282 DerivedMesh *get_multires_dm(Scene *scene, MultiresModifierData *mmd, Object *ob)
283 {
284         ModifierData *md = (ModifierData *)mmd;
285         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
286         DerivedMesh *tdm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
287         DerivedMesh *dm;
288
289         dm = mti->applyModifier(md, ob, tdm, MOD_APPLY_USECACHE);
290         if (dm == tdm) {
291                 dm = CDDM_copy(tdm);
292         }
293
294         return dm;
295 }
296
297 MultiresModifierData *find_multires_modifier_before(Scene *scene, ModifierData *lastmd)
298 {
299         ModifierData *md;
300
301         for (md = lastmd; md; md = md->prev) {
302                 if (md->type == eModifierType_Multires) {
303                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime))
304                                 return (MultiresModifierData *)md;
305                 }
306         }
307
308         return NULL;
309 }
310
311 /* used for applying scale on mdisps layer and syncing subdivide levels when joining objects
312  * use_first - return first multires modifier if all multires'es are disabled
313  */
314 MultiresModifierData *get_multires_modifier(Scene *scene, Object *ob, bool use_first)
315 {
316         ModifierData *md;
317         MultiresModifierData *mmd = NULL, *firstmmd = NULL;
318
319         /* find first active multires modifier */
320         for (md = ob->modifiers.first; md; md = md->next) {
321                 if (md->type == eModifierType_Multires) {
322                         if (!firstmmd)
323                                 firstmmd = (MultiresModifierData *)md;
324
325                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime)) {
326                                 mmd = (MultiresModifierData *)md;
327                                 break;
328                         }
329                 }
330         }
331
332         if (!mmd && use_first) {
333                 /* active multires have not been found
334                  * try to use first one */
335                 return firstmmd;
336         }
337
338         return mmd;
339 }
340
341 static int multires_get_level(Object *ob, MultiresModifierData *mmd, int render)
342 {
343         if (render)
344                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->renderlvl) : mmd->renderlvl;
345         else if (ob->mode == OB_MODE_SCULPT)
346                 return mmd->sculptlvl;
347         else
348                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->lvl) : mmd->lvl;
349 }
350
351 void multires_set_tot_level(Object *ob, MultiresModifierData *mmd, int lvl)
352 {
353         mmd->totlvl = lvl;
354
355         if (ob->mode != OB_MODE_SCULPT)
356                 mmd->lvl = CLAMPIS(MAX2(mmd->lvl, lvl), 0, mmd->totlvl);
357
358         mmd->sculptlvl = CLAMPIS(MAX2(mmd->sculptlvl, lvl), 0, mmd->totlvl);
359         mmd->renderlvl = CLAMPIS(MAX2(mmd->renderlvl, lvl), 0, mmd->totlvl);
360 }
361
362 static void multires_dm_mark_as_modified(DerivedMesh *dm, MultiresModifiedFlags flags)
363 {
364         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
365         ccgdm->multires.modified_flags |= flags;
366 }
367
368 void multires_mark_as_modified(Object *ob, MultiresModifiedFlags flags)
369 {
370         if (ob && ob->derivedFinal)
371                 multires_dm_mark_as_modified(ob->derivedFinal, flags);
372 }
373
374 void multires_force_update(Object *ob)
375 {
376         if (ob) {
377                 BKE_object_free_derived_caches(ob);
378
379                 if (ob->sculpt && ob->sculpt->pbvh) {
380                         BKE_pbvh_free(ob->sculpt->pbvh);
381                         ob->sculpt->pbvh = NULL;
382                 }
383         }
384 }
385
386 void multires_force_external_reload(Object *ob)
387 {
388         Mesh *me = BKE_mesh_from_object(ob);
389
390         CustomData_external_reload(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
391         multires_force_update(ob);
392 }
393
394 void multires_force_render_update(Object *ob)
395 {
396         if (ob && (ob->mode & OB_MODE_SCULPT) && modifiers_findByType(ob, eModifierType_Multires))
397                 multires_force_update(ob);
398 }
399
400 int multiresModifier_reshapeFromDM(Scene *scene, MultiresModifierData *mmd,
401                                    Object *ob, DerivedMesh *srcdm)
402 {
403         DerivedMesh *mrdm = get_multires_dm(scene, mmd, ob);
404
405         if (mrdm && srcdm && mrdm->getNumVerts(mrdm) == srcdm->getNumVerts(srcdm)) {
406                 multires_mvert_to_ss(mrdm, srcdm->getVertArray(srcdm));
407
408                 multires_dm_mark_as_modified(mrdm, MULTIRES_COORDS_MODIFIED);
409                 multires_force_update(ob);
410
411                 mrdm->release(mrdm);
412
413                 return 1;
414         }
415
416         if (mrdm) mrdm->release(mrdm);
417
418         return 0;
419 }
420
421 /* Returns 1 on success, 0 if the src's totvert doesn't match */
422 int multiresModifier_reshape(Scene *scene, MultiresModifierData *mmd, Object *dst, Object *src)
423 {
424         DerivedMesh *srcdm = mesh_get_derived_final(scene, src, CD_MASK_BAREMESH);
425         return multiresModifier_reshapeFromDM(scene, mmd, dst, srcdm);
426 }
427
428 int multiresModifier_reshapeFromDeformMod(Scene *scene, MultiresModifierData *mmd,
429                                           Object *ob, ModifierData *md)
430 {
431         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
432         DerivedMesh *dm, *ndm;
433         int numVerts, result;
434         float (*deformedVerts)[3];
435
436         if (multires_get_level(ob, mmd, 0) == 0)
437                 return 0;
438
439         /* Create DerivedMesh for deformation modifier */
440         dm = get_multires_dm(scene, mmd, ob);
441         numVerts = dm->getNumVerts(dm);
442         deformedVerts = MEM_mallocN(sizeof(float[3]) * numVerts, "multiresReshape_deformVerts");
443
444         dm->getVertCos(dm, deformedVerts);
445         mti->deformVerts(md, ob, dm, deformedVerts, numVerts, 0);
446
447         ndm = CDDM_copy(dm);
448         CDDM_apply_vert_coords(ndm, deformedVerts);
449
450         MEM_freeN(deformedVerts);
451         dm->release(dm);
452
453         /* Reshaping */
454         result = multiresModifier_reshapeFromDM(scene, mmd, ob, ndm);
455
456         /* Cleanup */
457         ndm->release(ndm);
458
459         return result;
460 }
461
462 /* reset the multires levels to match the number of mdisps */
463 static int get_levels_from_disps(Object *ob)
464 {
465         Mesh *me = ob->data;
466         MDisps *mdisp, *md;
467         int i, j, totlvl = 0;
468
469         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
470
471         for (i = 0; i < me->totpoly; ++i) {
472                 md = mdisp + me->mpoly[i].loopstart;
473
474                 for (j = 0; j < me->mpoly[i].totloop; j++, md++) {
475                         if (md->totdisp == 0) continue;
476         
477                         while (1) {
478                                 int side = (1 << (totlvl - 1)) + 1;
479                                 int lvl_totdisp = side * side;
480                                 if (md->totdisp == lvl_totdisp)
481                                         break;
482                                 else if (md->totdisp < lvl_totdisp)
483                                         totlvl--;
484                                 else
485                                         totlvl++;
486         
487                         }
488                         
489                         break;
490                 }
491         }
492
493         return totlvl;
494 }
495
496 /* reset the multires levels to match the number of mdisps */
497 void multiresModifier_set_levels_from_disps(MultiresModifierData *mmd, Object *ob)
498 {
499         Mesh *me = ob->data;
500         MDisps *mdisp;
501
502         if (me->edit_btmesh)
503                 mdisp = CustomData_get_layer(&me->edit_btmesh->bm->ldata, CD_MDISPS);
504         else
505                 mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
506
507         if (mdisp) {
508                 mmd->totlvl = get_levels_from_disps(ob);
509                 mmd->lvl = MIN2(mmd->sculptlvl, mmd->totlvl);
510                 mmd->sculptlvl = MIN2(mmd->sculptlvl, mmd->totlvl);
511                 mmd->renderlvl = MIN2(mmd->renderlvl, mmd->totlvl);
512         }
513 }
514
515 static void multires_set_tot_mdisps(Mesh *me, int lvl)
516 {
517         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
518         int i;
519
520         if (mdisps) {
521                 for (i = 0; i < me->totloop; i++, mdisps++) {
522                         mdisps->totdisp = multires_grid_tot[lvl];
523                         mdisps->level = lvl;
524                 }
525         }
526 }
527
528 static void multires_reallocate_mdisps(int totloop, MDisps *mdisps, int lvl)
529 {
530         int i;
531
532         /* reallocate displacements to be filled in */
533         for (i = 0; i < totloop; ++i) {
534                 int totdisp = multires_grid_tot[lvl];
535                 float (*disps)[3] = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
536
537                 if (mdisps[i].disps)
538                         MEM_freeN(mdisps[i].disps);
539                 
540                 if (mdisps[i].level && mdisps[i].hidden)
541                         multires_mdisps_subdivide_hidden(&mdisps[i], lvl);
542
543                 mdisps[i].disps = disps;
544                 mdisps[i].totdisp = totdisp;
545                 mdisps[i].level = lvl;
546         }
547 }
548
549 static void multires_copy_grid(float (*gridA)[3], float (*gridB)[3], int sizeA, int sizeB)
550 {
551         int x, y, j, skip;
552
553         if (sizeA > sizeB) {
554                 skip = (sizeA - 1) / (sizeB - 1);
555
556                 for (j = 0, y = 0; y < sizeB; y++)
557                         for (x = 0; x < sizeB; x++, j++)
558                                 copy_v3_v3(gridA[y * skip * sizeA + x * skip], gridB[j]);
559         }
560         else {
561                 skip = (sizeB - 1) / (sizeA - 1);
562
563                 for (j = 0, y = 0; y < sizeA; y++)
564                         for (x = 0; x < sizeA; x++, j++)
565                                 copy_v3_v3(gridA[j], gridB[y * skip * sizeB + x * skip]);
566         }
567 }
568
569 static void multires_copy_dm_grid(CCGElem *gridA, CCGElem *gridB, CCGKey *keyA, CCGKey *keyB)
570 {
571         int x, y, j, skip;
572
573         if (keyA->grid_size > keyB->grid_size) {
574                 skip = (keyA->grid_size - 1) / (keyB->grid_size - 1);
575
576                 for (j = 0, y = 0; y < keyB->grid_size; y++)
577                         for (x = 0; x < keyB->grid_size; x++, j++)
578                                 memcpy(CCG_elem_offset_co(keyA, gridA, y * skip * keyA->grid_size + x * skip),
579                                        CCG_elem_offset_co(keyB, gridB, j),
580                                        sizeof(float) * keyA->num_layers);
581         }
582         else {
583                 skip = (keyB->grid_size - 1) / (keyA->grid_size - 1);
584
585                 for (j = 0, y = 0; y < keyA->grid_size; y++)
586                         for (x = 0; x < keyA->grid_size; x++, j++)
587                                 memcpy(CCG_elem_offset_co(keyA, gridA, j),
588                                        CCG_elem_offset_co(keyB, gridB, y * skip * keyB->grid_size + x * skip),
589                                        sizeof(float) * keyA->num_layers);
590         }
591 }
592
593 /* Reallocate gpm->data at a lower resolution and copy values over
594  * from the original high-resolution data */
595 static void multires_grid_paint_mask_downsample(GridPaintMask *gpm, int level)
596 {
597         if (level < gpm->level) {
598                 int gridsize = BKE_ccg_gridsize(level);
599                 float *data = MEM_callocN(sizeof(float) * gridsize * gridsize,
600                                           "multires_grid_paint_mask_downsample");
601                 int x, y;
602
603                 for (y = 0; y < gridsize; y++) {
604                         for (x = 0; x < gridsize; x++) {
605                                 data[y * gridsize + x] =
606                                     paint_grid_paint_mask(gpm, level, x, y);
607                         }
608                 }
609
610                 MEM_freeN(gpm->data);
611                 gpm->data = data;
612                 gpm->level = level;
613         }
614 }
615
616 static void multires_del_higher(MultiresModifierData *mmd, Object *ob, int lvl)
617 {
618         Mesh *me = (Mesh *)ob->data;
619         int levels = mmd->totlvl - lvl;
620         MDisps *mdisps;
621         GridPaintMask *gpm;
622
623         multires_set_tot_mdisps(me, mmd->totlvl);
624         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
625         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
626         gpm = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
627
628         multires_force_update(ob);
629
630         if (mdisps && levels > 0) {
631                 if (lvl > 0) {
632                         /* MLoop *ml = me->mloop; */ /*UNUSED*/
633                         int nsize = multires_side_tot[lvl];
634                         int hsize = multires_side_tot[mmd->totlvl];
635                         int i, j;
636
637                         for (i = 0; i < me->totpoly; ++i) {
638                                 for (j = 0; j < me->mpoly[i].totloop; j++) {
639                                         int g = me->mpoly[i].loopstart + j;
640                                         MDisps *mdisp = &mdisps[g];
641                                         float (*disps)[3], (*ndisps)[3], (*hdisps)[3];
642                                         int totdisp = multires_grid_tot[lvl];
643
644                                         disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
645
646                                         ndisps = disps;
647                                         hdisps = mdisp->disps;
648
649                                         multires_copy_grid(ndisps, hdisps, nsize, hsize);
650                                         if (mdisp->hidden) {
651                                                 BLI_bitmap *gh =
652                                                     multires_mdisps_downsample_hidden(mdisp->hidden,
653                                                                                       mdisp->level,
654                                                                                       lvl);
655                                                 MEM_freeN(mdisp->hidden);
656                                                 mdisp->hidden = gh;
657                                         }
658
659                                         ndisps += nsize * nsize;
660                                         hdisps += hsize * hsize;
661
662                                         MEM_freeN(mdisp->disps);
663                                         mdisp->disps = disps;
664                                         mdisp->totdisp = totdisp;
665                                         mdisp->level = lvl;
666
667                                         if (gpm) {
668                                                 multires_grid_paint_mask_downsample(&gpm[g], lvl);
669                                         }
670                                 }
671                         }
672                 }
673                 else {
674                         multires_customdata_delete(me);
675                 }
676         }
677
678         multires_set_tot_level(ob, mmd, lvl);
679 }
680
681 /* (direction = 1) for delete higher, (direction = 0) for lower (not implemented yet) */
682 void multiresModifier_del_levels(MultiresModifierData *mmd, Object *ob, int direction)
683 {
684         Mesh *me = BKE_mesh_from_object(ob);
685         int lvl = multires_get_level(ob, mmd, 0);
686         int levels = mmd->totlvl - lvl;
687         MDisps *mdisps;
688
689         multires_set_tot_mdisps(me, mmd->totlvl);
690         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
691         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
692
693         multires_force_update(ob);
694
695         if (mdisps && levels > 0 && direction == 1) {
696                 multires_del_higher(mmd, ob, lvl);
697         }
698
699         multires_set_tot_level(ob, mmd, lvl);
700 }
701
702 static DerivedMesh *multires_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int totlvl, int simple, bool alloc_paint_mask)
703 {
704         MultiresModifierData mmd = {{NULL}};
705         MultiresFlags flags = MULTIRES_USE_LOCAL_MMD;
706
707         mmd.lvl = lvl;
708         mmd.sculptlvl = lvl;
709         mmd.renderlvl = lvl;
710         mmd.totlvl = totlvl;
711         mmd.simple = simple;
712
713         if (alloc_paint_mask)
714                 flags |= MULTIRES_ALLOC_PAINT_MASK;
715
716         return multires_make_derived_from_derived(dm, &mmd, ob, flags);
717 }
718
719 static DerivedMesh *subsurf_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int simple, int optimal, int plain_uv, int alloc_paint_mask)
720 {
721         SubsurfModifierData smd = {{NULL}};
722         SubsurfFlags flags = 0;
723
724         smd.levels = smd.renderLevels = lvl;
725         if (!plain_uv)
726                 smd.flags |= eSubsurfModifierFlag_SubsurfUv;
727         if (simple)
728                 smd.subdivType = ME_SIMPLE_SUBSURF;
729         if (optimal)
730                 smd.flags |= eSubsurfModifierFlag_ControlEdges;
731
732         if (ob->mode & OB_MODE_EDIT)
733                 flags |= SUBSURF_IN_EDIT_MODE;
734
735         if (alloc_paint_mask)
736                 flags |= SUBSURF_ALLOC_PAINT_MASK;
737         
738         return subsurf_make_derived_from_derived(dm, &smd, NULL, flags);
739 }
740
741
742
743 /* assumes no is normalized; return value's sign is negative if v is on
744  * the other side of the plane */
745 static float v3_dist_from_plane(float v[3], float center[3], float no[3])
746 {
747         float s[3];
748         sub_v3_v3v3(s, v, center);
749         return dot_v3v3(s, no);
750 }
751
752 void multiresModifier_base_apply(MultiresModifierData *mmd, Object *ob)
753 {
754         DerivedMesh *cddm, *dispdm, *origdm;
755         Mesh *me;
756         const MeshElemMap *pmap;
757         float (*origco)[3];
758         int i, j, k, offset, totlvl;
759
760         multires_force_update(ob);
761
762         me = BKE_mesh_from_object(ob);
763         totlvl = mmd->totlvl;
764
765         /* nothing to do */
766         if (!totlvl)
767                 return;
768
769         /* XXX - probably not necessary to regenerate the cddm so much? */
770
771         /* generate highest level with displacements */
772         cddm = CDDM_from_mesh(me);
773         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
774         dispdm = multires_dm_create_local(ob, cddm, totlvl, totlvl, 0, 0);
775         cddm->release(cddm);
776
777         /* copy the new locations of the base verts into the mesh */
778         offset = dispdm->getNumVerts(dispdm) - me->totvert;
779         for (i = 0; i < me->totvert; ++i) {
780                 dispdm->getVertCo(dispdm, offset + i, me->mvert[i].co);
781         }
782
783         /* heuristic to produce a better-fitting base mesh */
784
785         cddm = CDDM_from_mesh(me);
786         pmap = cddm->getPolyMap(ob, cddm);
787         origco = MEM_callocN(sizeof(float) * 3 * me->totvert, "multires apply base origco");
788         for (i = 0; i < me->totvert; ++i)
789                 copy_v3_v3(origco[i], me->mvert[i].co);
790
791         for (i = 0; i < me->totvert; ++i) {
792                 float avg_no[3] = {0, 0, 0}, center[3] = {0, 0, 0}, push[3];
793                 float dist;
794                 int tot = 0;
795
796                 /* don't adjust verts not used by at least one poly */
797                 if (!pmap[i].count)
798                         continue;
799
800                 /* find center */
801                 for (j = 0; j < pmap[i].count; j++) {
802                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
803                         
804                         /* this double counts, not sure if that's bad or good */
805                         for (k = 0; k < p->totloop; ++k) {
806                                 int vndx = me->mloop[p->loopstart + k].v;
807                                 if (vndx != i) {
808                                         add_v3_v3(center, origco[vndx]);
809                                         tot++;
810                                 }
811                         }
812                 }
813                 mul_v3_fl(center, 1.0f / tot);
814
815                 /* find normal */
816                 for (j = 0; j < pmap[i].count; j++) {
817                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
818                         MPoly fake_poly;
819                         MLoop *fake_loops;
820                         float (*fake_co)[3];
821                         float no[3];
822
823                         /* set up poly, loops, and coords in order to call
824                          * BKE_mesh_calc_poly_normal_coords() */
825                         fake_poly.totloop = p->totloop;
826                         fake_poly.loopstart = 0;
827                         fake_loops = MEM_mallocN(sizeof(MLoop) * p->totloop, "fake_loops");
828                         fake_co = MEM_mallocN(sizeof(float) * 3 * p->totloop, "fake_co");
829                         
830                         for (k = 0; k < p->totloop; ++k) {
831                                 int vndx = me->mloop[p->loopstart + k].v;
832                                 
833                                 fake_loops[k].v = k;
834                                 
835                                 if (vndx == i)
836                                         copy_v3_v3(fake_co[k], center);
837                                 else
838                                         copy_v3_v3(fake_co[k], origco[vndx]);
839                         }
840                         
841                         BKE_mesh_calc_poly_normal_coords(&fake_poly, fake_loops,
842                                                          (const float(*)[3])fake_co, no);
843                         MEM_freeN(fake_loops);
844                         MEM_freeN(fake_co);
845
846                         add_v3_v3(avg_no, no);
847                 }
848                 normalize_v3(avg_no);
849
850                 /* push vertex away from the plane */
851                 dist = v3_dist_from_plane(me->mvert[i].co, center, avg_no);
852                 copy_v3_v3(push, avg_no);
853                 mul_v3_fl(push, dist);
854                 add_v3_v3(me->mvert[i].co, push);
855                 
856         }
857
858         MEM_freeN(origco);
859         cddm->release(cddm);
860
861         /* Vertices were moved around, need to update normals after all the vertices are updated
862          * Probably this is possible to do in the loop above, but this is rather tricky because
863          * we don't know all needed vertices' coordinates there yet.
864          */
865         BKE_mesh_calc_normals(me);
866
867         /* subdivide the mesh to highest level without displacements */
868         cddm = CDDM_from_mesh(me);
869         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
870         origdm = subsurf_dm_create_local(ob, cddm, totlvl, 0, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
871         cddm->release(cddm);
872
873         /* calc disps */
874         multiresModifier_disp_run(dispdm, me, NULL, CALC_DISPLACEMENTS, origdm->getGridData(origdm), totlvl);
875
876         origdm->release(origdm);
877         dispdm->release(dispdm);
878 }
879
880 static void multires_subdivide(MultiresModifierData *mmd, Object *ob, int totlvl, int updateblock, int simple)
881 {
882         Mesh *me = ob->data;
883         MDisps *mdisps;
884         int lvl = mmd->totlvl;
885
886         if ((totlvl > multires_max_levels) || (me->totpoly == 0))
887                 return;
888
889         multires_force_update(ob);
890
891         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
892         if (!mdisps)
893                 mdisps = multires_mdisps_initialize_hidden(me, totlvl);
894
895         if (mdisps->disps && !updateblock && totlvl > 1) {
896                 /* upsample */
897                 DerivedMesh *lowdm, *cddm, *highdm;
898                 CCGElem **highGridData, **lowGridData, **subGridData;
899                 CCGKey highGridKey, lowGridKey;
900                 CCGSubSurf *ss;
901                 int i, numGrids, highGridSize;
902                 const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
903
904                 /* create subsurf DM from original mesh at high level */
905                 cddm = CDDM_from_mesh(me);
906                 DM_set_only_copy(cddm, CD_MASK_BAREMESH);
907                 highdm = subsurf_dm_create_local(ob, cddm, totlvl, simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
908                 ss = ((CCGDerivedMesh *)highdm)->ss;
909
910                 /* create multires DM from original mesh at low level */
911                 lowdm = multires_dm_create_local(ob, cddm, lvl, lvl, simple, has_mask);
912                 cddm->release(cddm);
913
914                 /* copy subsurf grids and replace them with low displaced grids */
915                 numGrids = highdm->getNumGrids(highdm);
916                 highGridSize = highdm->getGridSize(highdm);
917                 highGridData = highdm->getGridData(highdm);
918                 highdm->getGridKey(highdm, &highGridKey);
919                 lowGridData = lowdm->getGridData(lowdm);
920                 lowdm->getGridKey(lowdm, &lowGridKey);
921
922                 subGridData = MEM_callocN(sizeof(float *) * numGrids, "subGridData*");
923
924                 for (i = 0; i < numGrids; ++i) {
925                         /* backup subsurf grids */
926                         subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
927                         memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
928
929                         /* overwrite with current displaced grids */
930                         multires_copy_dm_grid(highGridData[i], lowGridData[i], &highGridKey, &lowGridKey);
931                 }
932
933                 /* low lower level dm no longer needed at this point */
934                 lowdm->release(lowdm);
935
936                 /* subsurf higher levels again with displaced data */
937                 ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
938                 ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
939
940                 /* reallocate displacements */
941                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
942
943                 /* compute displacements */
944                 multiresModifier_disp_run(highdm, me, NULL, CALC_DISPLACEMENTS, subGridData, totlvl);
945
946                 /* free */
947                 highdm->release(highdm);
948                 for (i = 0; i < numGrids; ++i)
949                         MEM_freeN(subGridData[i]);
950                 MEM_freeN(subGridData);
951         }
952         else {
953                 /* only reallocate, nothing to upsample */
954                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
955         }
956
957         multires_set_tot_level(ob, mmd, totlvl);
958 }
959
960 void multiresModifier_subdivide(MultiresModifierData *mmd, Object *ob, int updateblock, int simple)
961 {
962         multires_subdivide(mmd, ob, mmd->totlvl + 1, updateblock, simple);
963 }
964
965 static void grid_tangent(const CCGKey *key, int x, int y, int axis, CCGElem *grid, float t[3])
966 {
967         if (axis == 0) {
968                 if (x == key->grid_size - 1) {
969                         if (y == key->grid_size - 1)
970                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y - 1), CCG_grid_elem_co(key, grid, x - 1, y - 1));
971                         else
972                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x - 1, y));
973                 }
974                 else
975                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x + 1, y), CCG_grid_elem_co(key, grid, x, y));
976         }
977         else if (axis == 1) {
978                 if (y == key->grid_size - 1) {
979                         if (x == key->grid_size - 1)
980                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x - 1, y), CCG_grid_elem_co(key, grid, x - 1, (y - 1)));
981                         else
982                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x, (y - 1)));
983                 }
984                 else
985                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, (y + 1)), CCG_grid_elem_co(key, grid, x, y));
986         }
987 }
988
989 /* Construct 3x3 tangent-space matrix in 'mat' */
990 static void grid_tangent_matrix(float mat[3][3], const CCGKey *key,
991                                 int x, int y, CCGElem *grid)
992 {
993         grid_tangent(key, x, y, 0, grid, mat[0]);
994         normalize_v3(mat[0]);
995
996         grid_tangent(key, x, y, 1, grid, mat[1]);
997         normalize_v3(mat[1]);
998
999         copy_v3_v3(mat[2], CCG_grid_elem_no(key, grid, x, y));
1000 }
1001
1002 /* XXX WARNING: subsurf elements from dm and oldGridData *must* be of the same format (size),
1003  *              because this code uses CCGKey's info from dm to access oldGridData's normals
1004  *              (through the call to grid_tangent_matrix())! */
1005 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl)
1006 {
1007         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1008         CCGElem **gridData, **subGridData;
1009         CCGKey key;
1010         MPoly *mpoly = me->mpoly;
1011         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1012         GridPaintMask *grid_paint_mask = NULL;
1013         int *gridOffset;
1014         int i, k, /*numGrids, */ gridSize, dGridSize, dSkip;
1015         int totloop, totpoly;
1016         
1017         /* this happens in the dm made by bmesh_mdisps_space_set */
1018         if (dm2 && CustomData_has_layer(&dm2->loopData, CD_MDISPS)) {
1019                 mpoly = CustomData_get_layer(&dm2->polyData, CD_MPOLY);
1020                 mdisps = CustomData_get_layer(&dm2->loopData, CD_MDISPS);
1021                 totloop = dm2->numLoopData;
1022                 totpoly = dm2->numPolyData;
1023         }
1024         else {
1025                 totloop = me->totloop;
1026                 totpoly = me->totpoly;
1027         }
1028         
1029         if (!mdisps) {
1030                 if (op == CALC_DISPLACEMENTS)
1031                         mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS, CD_DEFAULT, NULL, me->totloop);
1032                 else
1033                         return;
1034         }
1035
1036         /*numGrids = dm->getNumGrids(dm);*/ /*UNUSED*/
1037         gridSize = dm->getGridSize(dm);
1038         gridData = dm->getGridData(dm);
1039         gridOffset = dm->getGridOffset(dm);
1040         dm->getGridKey(dm, &key);
1041         subGridData = (oldGridData) ? oldGridData : gridData;
1042
1043         dGridSize = multires_side_tot[totlvl];
1044         dSkip = (dGridSize - 1) / (gridSize - 1);
1045
1046         /* multires paint masks */
1047         if (key.has_mask)
1048                 grid_paint_mask = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
1049
1050         k = 0; /*current loop/mdisp index within the mloop array*/
1051
1052 #pragma omp parallel for private(i) if (totloop * gridSize * gridSize >= CCG_OMP_LIMIT)
1053
1054         for (i = 0; i < totpoly; ++i) {
1055                 const int numVerts = mpoly[i].totloop;
1056                 int S, x, y, gIndex = gridOffset[i];
1057
1058                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1059                         GridPaintMask *gpm = grid_paint_mask ? &grid_paint_mask[gIndex] : NULL;
1060                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1061                         CCGElem *grid = gridData[gIndex];
1062                         CCGElem *subgrid = subGridData[gIndex];
1063                         float (*dispgrid)[3] = NULL;
1064
1065                         /* when adding new faces in edit mode, need to allocate disps */
1066                         if (!mdisp->disps)
1067 #pragma omp critical
1068                         {
1069                                 multires_reallocate_mdisps(totloop, mdisps, totlvl);
1070                         }
1071
1072                         dispgrid = mdisp->disps;
1073
1074                         /* if needed, reallocate multires paint mask */
1075                         if (gpm && gpm->level < key.level) {
1076                                 gpm->level = key.level;
1077 #pragma omp critical
1078                                 {
1079                                         if (gpm->data)
1080                                                 MEM_freeN(gpm->data);
1081                                         gpm->data = MEM_callocN(sizeof(float) * key.grid_area, "gpm.data");
1082                                 }
1083                         }
1084
1085                         for (y = 0; y < gridSize; y++) {
1086                                 for (x = 0; x < gridSize; x++) {
1087                                         float *co = CCG_grid_elem_co(&key, grid, x, y);
1088                                         float *sco = CCG_grid_elem_co(&key, subgrid, x, y);
1089                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1090                                         float mat[3][3], disp[3], d[3], mask;
1091
1092                                         /* construct tangent space matrix */
1093                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1094
1095                                         switch (op) {
1096                                                 case APPLY_DISPLACEMENTS:
1097                                                         /* Convert displacement to object space
1098                                                          * and add to grid points */
1099                                                         mul_v3_m3v3(disp, mat, data);
1100                                                         add_v3_v3v3(co, sco, disp);
1101                                                         break;
1102                                                 case CALC_DISPLACEMENTS:
1103                                                         /* Calculate displacement between new and old
1104                                                          * grid points and convert to tangent space */
1105                                                         sub_v3_v3v3(disp, co, sco);
1106                                                         invert_m3(mat);
1107                                                         mul_v3_m3v3(data, mat, disp);
1108                                                         break;
1109                                                 case ADD_DISPLACEMENTS:
1110                                                         /* Convert subdivided displacements to tangent
1111                                                          * space and add to the original displacements */
1112                                                         invert_m3(mat);
1113                                                         mul_v3_m3v3(d, mat, co);
1114                                                         add_v3_v3(data, d);
1115                                                         break;
1116                                         }
1117
1118                                         if (gpm) {
1119                                                 switch (op) {
1120                                                         case APPLY_DISPLACEMENTS:
1121                                                                 /* Copy mask from gpm to DM */
1122                                                                 *CCG_grid_elem_mask(&key, grid, x, y) =
1123                                                                     paint_grid_paint_mask(gpm, key.level, x, y);
1124                                                                 break;
1125                                                         case CALC_DISPLACEMENTS:
1126                                                                 /* Copy mask from DM to gpm */
1127                                                                 mask = *CCG_grid_elem_mask(&key, grid, x, y);
1128                                                                 gpm->data[y * gridSize + x] = CLAMPIS(mask, 0, 1);
1129                                                                 break;
1130                                                         case ADD_DISPLACEMENTS:
1131                                                                 /* Add mask displacement to gpm */
1132                                                                 gpm->data[y * gridSize + x] +=
1133                                                                     *CCG_grid_elem_mask(&key, grid, x, y);
1134                                                                 break;
1135                                                 }
1136                                         }
1137                                 }
1138                         }
1139                 }
1140         }
1141         
1142         if (op == APPLY_DISPLACEMENTS) {
1143                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, NULL, 0);
1144                 ccgSubSurf_updateNormals(ccgdm->ss, NULL, 0);
1145         }
1146 }
1147
1148 void multires_modifier_update_mdisps(struct DerivedMesh *dm)
1149 {
1150         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1151         Object *ob;
1152         Mesh *me;
1153         MDisps *mdisps;
1154         MultiresModifierData *mmd;
1155
1156         ob = ccgdm->multires.ob;
1157         me = ccgdm->multires.ob->data;
1158         mmd = ccgdm->multires.mmd;
1159         multires_set_tot_mdisps(me, mmd->totlvl);
1160         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1161         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1162
1163         if (mdisps) {
1164                 int lvl = ccgdm->multires.lvl;
1165                 int totlvl = ccgdm->multires.totlvl;
1166                 
1167                 if (lvl < totlvl) {
1168                         DerivedMesh *lowdm, *cddm, *highdm;
1169                         CCGElem **highGridData, **lowGridData, **subGridData, **gridData, *diffGrid;
1170                         CCGKey highGridKey, lowGridKey;
1171                         CCGSubSurf *ss;
1172                         int i, j, numGrids, highGridSize, lowGridSize;
1173                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1174
1175                         /* create subsurf DM from original mesh at high level */
1176                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1177                         else cddm = CDDM_from_mesh(me);
1178                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1179
1180                         highdm = subsurf_dm_create_local(ob, cddm, totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1181                         ss = ((CCGDerivedMesh *)highdm)->ss;
1182
1183                         /* create multires DM from original mesh and displacements */
1184                         lowdm = multires_dm_create_local(ob, cddm, lvl, totlvl, mmd->simple, has_mask);
1185                         cddm->release(cddm);
1186
1187                         /* gather grid data */
1188                         numGrids = highdm->getNumGrids(highdm);
1189                         highGridSize = highdm->getGridSize(highdm);
1190                         highGridData = highdm->getGridData(highdm);
1191                         highdm->getGridKey(highdm, &highGridKey);
1192                         lowGridSize = lowdm->getGridSize(lowdm);
1193                         lowGridData = lowdm->getGridData(lowdm);
1194                         lowdm->getGridKey(lowdm, &lowGridKey);
1195                         gridData = dm->getGridData(dm);
1196
1197                         BLI_assert(highGridKey.elem_size == lowGridKey.elem_size);
1198
1199                         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1200                         diffGrid = MEM_callocN(lowGridKey.elem_size * lowGridSize * lowGridSize, "diff");
1201
1202                         for (i = 0; i < numGrids; ++i) {
1203                                 /* backup subsurf grids */
1204                                 subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
1205                                 memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
1206
1207                                 /* write difference of subsurf and displaced low level into high subsurf */
1208                                 for (j = 0; j < lowGridSize * lowGridSize; ++j) {
1209                                         sub_v4_v4v4(CCG_elem_offset_co(&lowGridKey, diffGrid, j),
1210                                                     CCG_elem_offset_co(&lowGridKey, gridData[i], j),
1211                                                     CCG_elem_offset_co(&lowGridKey, lowGridData[i], j));
1212                                 }
1213
1214                                 multires_copy_dm_grid(highGridData[i], diffGrid, &highGridKey, &lowGridKey);
1215                         }
1216
1217                         /* lower level dm no longer needed at this point */
1218                         MEM_freeN(diffGrid);
1219                         lowdm->release(lowdm);
1220
1221                         /* subsurf higher levels again with difference of coordinates */
1222                         ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
1223                         ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
1224
1225                         /* add to displacements */
1226                         multiresModifier_disp_run(highdm, me, NULL, ADD_DISPLACEMENTS, subGridData, mmd->totlvl);
1227
1228                         /* free */
1229                         highdm->release(highdm);
1230                         for (i = 0; i < numGrids; ++i)
1231                                 MEM_freeN(subGridData[i]);
1232                         MEM_freeN(subGridData);
1233                 }
1234                 else {
1235                         DerivedMesh *cddm, *subdm;
1236                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1237
1238                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1239                         else cddm = CDDM_from_mesh(me);
1240                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1241
1242                         subdm = subsurf_dm_create_local(ob, cddm, mmd->totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1243                         cddm->release(cddm);
1244
1245                         multiresModifier_disp_run(dm, me, NULL, CALC_DISPLACEMENTS, subdm->getGridData(subdm), mmd->totlvl);
1246
1247                         subdm->release(subdm);
1248                 }
1249         }
1250 }
1251
1252 void multires_modifier_update_hidden(DerivedMesh *dm)
1253 {
1254         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1255         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
1256         Mesh *me = ccgdm->multires.ob->data;
1257         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1258         int totlvl = ccgdm->multires.totlvl;
1259         int lvl = ccgdm->multires.lvl;
1260
1261         if (mdisps) {
1262                 int i;
1263                 
1264                 for (i = 0; i < me->totloop; i++) {
1265                         MDisps *md = &mdisps[i];
1266                         BLI_bitmap *gh = grid_hidden[i];
1267
1268                         if (!gh && md->hidden) {
1269                                 MEM_freeN(md->hidden);
1270                                 md->hidden = NULL;
1271                         }
1272                         else if (gh) {
1273                                 gh = multires_mdisps_upsample_hidden(gh, lvl, totlvl,
1274                                                                      md->hidden);
1275                                 if (md->hidden)
1276                                         MEM_freeN(md->hidden);
1277                                 
1278                                 md->hidden = gh;
1279                         }
1280                 }
1281         }
1282 }
1283
1284 void multires_set_space(DerivedMesh *dm, Object *ob, int from, int to)
1285 {
1286         DerivedMesh *ccgdm = NULL, *subsurf = NULL;
1287         CCGElem **gridData, **subGridData = NULL;
1288         CCGKey key;
1289         MPoly *mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1290         MDisps *mdisps;
1291         MultiresModifierData *mmd = get_multires_modifier(NULL, ob, 1);
1292         int *gridOffset, totlvl;
1293         int i, k, numGrids, gridSize, dGridSize, dSkip;
1294         
1295         if (!mmd)
1296                 return;
1297         
1298         mdisps = CustomData_get_layer(&dm->loopData, CD_MDISPS);
1299
1300         if (!mdisps) {
1301                 goto cleanup;
1302         }
1303
1304         totlvl = mmd->totlvl;
1305         ccgdm = multires_dm_create_local(ob, dm, totlvl, totlvl, mmd->simple, false);
1306         
1307         subsurf = subsurf_dm_create_local(ob, dm, totlvl,
1308                                           mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
1309
1310         numGrids = subsurf->getNumGrids(subsurf);
1311         gridSize = subsurf->getGridSize(subsurf);
1312         gridData = subsurf->getGridData(subsurf);
1313         subsurf->getGridKey(subsurf, &key);
1314
1315         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1316
1317         for (i = 0; i < numGrids; i++) {
1318                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1319                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1320         }
1321         
1322         /* numGrids = ccgdm->dm->getNumGrids((DerivedMesh *)ccgdm); */ /*UNUSED*/
1323         gridSize = ccgdm->getGridSize((DerivedMesh *)ccgdm);
1324         gridData = ccgdm->getGridData((DerivedMesh *)ccgdm);
1325         gridOffset = ccgdm->getGridOffset((DerivedMesh *)ccgdm);
1326
1327         dGridSize = multires_side_tot[totlvl];
1328         dSkip = (dGridSize - 1) / (gridSize - 1);
1329
1330         k = 0; /*current loop/mdisp index within the mloop array*/
1331
1332         //#pragma omp parallel for private(i) if (dm->numLoopData * gridSize * gridSize >= CCG_OMP_LIMIT)
1333
1334         for (i = 0; i < dm->numPolyData; ++i) {
1335                 const int numVerts = mpoly[i].totloop;
1336                 int S, x, y, gIndex = gridOffset[i];
1337                                                 
1338                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1339                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1340                         /* CCGElem *grid = gridData[gIndex]; */ /* UNUSED */
1341                         CCGElem *subgrid = subGridData[gIndex];
1342                         float (*dispgrid)[3] = NULL;
1343
1344                         /* when adding new faces in edit mode, need to allocate disps */
1345                         if (!mdisp->disps) {
1346                                 mdisp->totdisp = gridSize * gridSize;
1347                                 mdisp->level = totlvl;
1348                                 mdisp->disps = MEM_callocN(sizeof(float) * 3 * mdisp->totdisp, "disp in multires_set_space");
1349                         }
1350
1351                         dispgrid = mdisp->disps;
1352
1353                         for (y = 0; y < gridSize; y++) {
1354                                 for (x = 0; x < gridSize; x++) {
1355                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1356                                         float *co = CCG_grid_elem_co(&key, subgrid, x, y);
1357                                         float mat[3][3], dco[3];
1358                                         
1359                                         /* construct tangent space matrix */
1360                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1361
1362                                         /* convert to absolute coordinates in space */
1363                                         if (from == MULTIRES_SPACE_TANGENT) {
1364                                                 mul_v3_m3v3(dco, mat, data);
1365                                                 add_v3_v3(dco, co);
1366                                         }
1367                                         else if (from == MULTIRES_SPACE_OBJECT) {
1368                                                 add_v3_v3v3(dco, co, data);
1369                                         }
1370                                         else if (from == MULTIRES_SPACE_ABSOLUTE) {
1371                                                 copy_v3_v3(dco, data);
1372                                         }
1373                                         
1374                                         /*now, convert to desired displacement type*/
1375                                         if (to == MULTIRES_SPACE_TANGENT) {
1376                                                 invert_m3(mat);
1377
1378                                                 sub_v3_v3(dco, co);
1379                                                 mul_v3_m3v3(data, mat, dco);
1380                                         }
1381                                         else if (to == MULTIRES_SPACE_OBJECT) {
1382                                                 sub_v3_v3(dco, co);
1383                                                 mul_v3_m3v3(data, mat, dco);
1384                                         }
1385                                         else if (to == MULTIRES_SPACE_ABSOLUTE) {
1386                                                 copy_v3_v3(data, dco);
1387                                         }
1388                                 }
1389                         }
1390                 }
1391         }
1392
1393 cleanup:
1394         if (subsurf) {
1395                 subsurf->needsFree = 1;
1396                 subsurf->release(subsurf);
1397         }
1398
1399         if (ccgdm) {
1400                 ccgdm->needsFree = 1;
1401                 ccgdm->release(ccgdm);
1402         }
1403 }
1404
1405 void multires_stitch_grids(Object *ob)
1406 {
1407         /* utility for smooth brush */
1408         if (ob && ob->derivedFinal) {
1409                 CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)ob->derivedFinal;
1410                 CCGFace **faces;
1411                 int totface;
1412
1413                 if (ccgdm->pbvh) {
1414                         BKE_pbvh_get_grid_updates(ccgdm->pbvh, 0, (void ***)&faces, &totface);
1415
1416                         if (totface) {
1417                                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, faces, totface);
1418                                 MEM_freeN(faces);
1419                         }
1420                 }
1421         }
1422 }
1423
1424 DerivedMesh *multires_make_derived_from_derived(DerivedMesh *dm,
1425                                                 MultiresModifierData *mmd,
1426                                                 Object *ob,
1427                                                 MultiresFlags flags)
1428 {
1429         Mesh *me = ob->data;
1430         DerivedMesh *result;
1431         CCGDerivedMesh *ccgdm = NULL;
1432         CCGElem **gridData, **subGridData;
1433         CCGKey key;
1434         int lvl = multires_get_level(ob, mmd, (flags & MULTIRES_USE_RENDER_PARAMS));
1435         int i, gridSize, numGrids;
1436
1437         if (lvl == 0)
1438                 return dm;
1439
1440         result = subsurf_dm_create_local(ob, dm, lvl,
1441                                          mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges,
1442                                          mmd->flags & eMultiresModifierFlag_PlainUv,
1443                                          flags & MULTIRES_ALLOC_PAINT_MASK);
1444
1445         if (!(flags & MULTIRES_USE_LOCAL_MMD)) {
1446                 ccgdm = (CCGDerivedMesh *)result;
1447
1448                 ccgdm->multires.ob = ob;
1449                 ccgdm->multires.mmd = mmd;
1450                 ccgdm->multires.local_mmd = 0;
1451                 ccgdm->multires.lvl = lvl;
1452                 ccgdm->multires.totlvl = mmd->totlvl;
1453                 ccgdm->multires.modified_flags = 0;
1454         }
1455
1456         numGrids = result->getNumGrids(result);
1457         gridSize = result->getGridSize(result);
1458         gridData = result->getGridData(result);
1459         result->getGridKey(result, &key);
1460
1461         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1462
1463         for (i = 0; i < numGrids; i++) {
1464                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1465                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1466         }
1467
1468         multires_set_tot_mdisps(me, mmd->totlvl);
1469         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1470
1471         /*run displacement*/
1472         multiresModifier_disp_run(result, ob->data, dm, APPLY_DISPLACEMENTS, subGridData, mmd->totlvl);
1473
1474         /* copy hidden elements for this level */
1475         if (ccgdm)
1476                 multires_output_hidden_to_ccgdm(ccgdm, me, lvl);
1477
1478         for (i = 0; i < numGrids; i++)
1479                 MEM_freeN(subGridData[i]);
1480         MEM_freeN(subGridData);
1481
1482         return result;
1483 }
1484
1485 /**** Old Multires code ****
1486  ***************************/
1487
1488 /* Adapted from sculptmode.c */
1489 void old_mdisps_bilinear(float out[3], float (*disps)[3], const int st, float u, float v)
1490 {
1491         int x, y, x2, y2;
1492         const int st_max = st - 1;
1493         float urat, vrat, uopp;
1494         float d[4][3], d2[2][3];
1495         
1496         if (!disps || isnan(u) || isnan(v))
1497                 return;
1498                         
1499         if (u < 0)
1500                 u = 0;
1501         else if (u >= st)
1502                 u = st_max;
1503         if (v < 0)
1504                 v = 0;
1505         else if (v >= st)
1506                 v = st_max;
1507
1508         x = floor(u);
1509         y = floor(v);
1510         x2 = x + 1;
1511         y2 = y + 1;
1512
1513         if (x2 >= st) x2 = st_max;
1514         if (y2 >= st) y2 = st_max;
1515         
1516         urat = u - x;
1517         vrat = v - y;
1518         uopp = 1 - urat;
1519
1520         mul_v3_v3fl(d[0], disps[y * st + x], uopp);
1521         mul_v3_v3fl(d[1], disps[y * st + x2], urat);
1522         mul_v3_v3fl(d[2], disps[y2 * st + x], uopp);
1523         mul_v3_v3fl(d[3], disps[y2 * st + x2], urat);
1524
1525         add_v3_v3v3(d2[0], d[0], d[1]);
1526         add_v3_v3v3(d2[1], d[2], d[3]);
1527         mul_v3_fl(d2[0], 1 - vrat);
1528         mul_v3_fl(d2[1], vrat);
1529
1530         add_v3_v3v3(out, d2[0], d2[1]);
1531 }
1532
1533 static void old_mdisps_rotate(int S, int UNUSED(newside), int oldside, int x, int y, float *u, float *v)
1534 {
1535         float offset = oldside * 0.5f - 0.5f;
1536
1537         if (S == 1) { *u = offset + x; *v = offset - y; }
1538         if (S == 2) { *u = offset + y; *v = offset + x; }
1539         if (S == 3) { *u = offset - x; *v = offset + y; }
1540         if (S == 0) { *u = offset - y; *v = offset - x; }
1541 }
1542
1543 static void old_mdisps_convert(MFace *mface, MDisps *mdisp)
1544 {
1545         int newlvl = log(sqrt(mdisp->totdisp) - 1) / M_LN2;
1546         int oldlvl = newlvl + 1;
1547         int oldside = multires_side_tot[oldlvl];
1548         int newside = multires_side_tot[newlvl];
1549         int nvert = (mface->v4) ? 4 : 3;
1550         int newtotdisp = multires_grid_tot[newlvl] * nvert;
1551         int x, y, S;
1552         float (*disps)[3], (*out)[3], u = 0.0f, v = 0.0f; /* Quite gcc barking. */
1553
1554         disps = MEM_callocN(sizeof(float) * 3 * newtotdisp, "multires disps");
1555
1556         out = disps;
1557         for (S = 0; S < nvert; S++) {
1558                 for (y = 0; y < newside; ++y) {
1559                         for (x = 0; x < newside; ++x, ++out) {
1560                                 old_mdisps_rotate(S, newside, oldside, x, y, &u, &v);
1561                                 old_mdisps_bilinear(*out, mdisp->disps, oldside, u, v);
1562
1563                                 if (S == 1) { (*out)[1] = -(*out)[1]; }
1564                                 else if (S == 2) { SWAP(float, (*out)[0], (*out)[1]); }
1565                                 else if (S == 3) { (*out)[0] = -(*out)[0]; }
1566                                 else if (S == 0) { SWAP(float, (*out)[0], (*out)[1]); (*out)[0] = -(*out)[0]; (*out)[1] = -(*out)[1]; }
1567                         }
1568                 }
1569         }
1570
1571         MEM_freeN(mdisp->disps);
1572
1573         mdisp->totdisp = newtotdisp;
1574         mdisp->level = newlvl;
1575         mdisp->disps = disps;
1576 }
1577
1578 void multires_load_old_250(Mesh *me)
1579 {
1580         MDisps *mdisps, *mdisps2;
1581         MFace *mf;
1582         int i, j, k;
1583
1584         mdisps = CustomData_get_layer(&me->fdata, CD_MDISPS);
1585
1586         if (mdisps) {
1587                 for (i = 0; i < me->totface; i++)
1588                         if (mdisps[i].totdisp)
1589                                 old_mdisps_convert(&me->mface[i], &mdisps[i]);
1590                 
1591                 CustomData_add_layer(&me->ldata, CD_MDISPS, CD_CALLOC, NULL, me->totloop);
1592                 mdisps2 = CustomData_get_layer(&me->ldata, CD_MDISPS);
1593
1594                 k = 0;
1595                 mf = me->mface;
1596                 for (i = 0; i < me->totface; i++, mf++) {
1597                         int nvert = mf->v4 ? 4 : 3;
1598                         int totdisp = mdisps[i].totdisp / nvert;
1599                         
1600                         for (j = 0; j < mf->v4 ? 4 : 3; j++, k++) {
1601                                 mdisps2[k].disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disp in conversion");
1602                                 mdisps2[k].totdisp = totdisp;
1603                                 mdisps2[k].level = mdisps[i].level;
1604                                 memcpy(mdisps2[k].disps, mdisps[i].disps + totdisp * j, totdisp);
1605                         }
1606
1607                 }
1608         }
1609 }
1610
1611 /* Does not actually free lvl itself */
1612 static void multires_free_level(MultiresLevel *lvl)
1613 {
1614         if (lvl) {
1615                 if (lvl->faces) MEM_freeN(lvl->faces);
1616                 if (lvl->edges) MEM_freeN(lvl->edges);
1617                 if (lvl->colfaces) MEM_freeN(lvl->colfaces);
1618         }
1619 }
1620
1621 void multires_free(Multires *mr)
1622 {
1623         if (mr) {
1624                 MultiresLevel *lvl = mr->levels.first;
1625
1626                 /* Free the first-level data */
1627                 if (lvl) {
1628                         CustomData_free(&mr->vdata, lvl->totvert);
1629                         CustomData_free(&mr->fdata, lvl->totface);
1630                         if (mr->edge_flags)
1631                                 MEM_freeN(mr->edge_flags);
1632                         if (mr->edge_creases)
1633                                 MEM_freeN(mr->edge_creases);
1634                 }
1635
1636                 while (lvl) {
1637                         multires_free_level(lvl);
1638                         lvl = lvl->next;
1639                 }
1640
1641                 MEM_freeN(mr->verts);
1642
1643                 BLI_freelistN(&mr->levels);
1644
1645                 MEM_freeN(mr);
1646         }
1647 }
1648
1649 typedef struct IndexNode {
1650         struct IndexNode *next, *prev;
1651         int index;
1652 } IndexNode;
1653
1654 static void create_old_vert_face_map(ListBase **map, IndexNode **mem, const MultiresFace *mface,
1655                                      const int totvert, const int totface)
1656 {
1657         int i, j;
1658         IndexNode *node = NULL;
1659         
1660         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
1661         (*mem) = MEM_callocN(sizeof(IndexNode) * totface * 4, "vert face map mem");
1662         node = *mem;
1663         
1664         /* Find the users */
1665         for (i = 0; i < totface; ++i) {
1666                 for (j = 0; j < (mface[i].v[3] ? 4 : 3); ++j, ++node) {
1667                         node->index = i;
1668                         BLI_addtail(&(*map)[mface[i].v[j]], node);
1669                 }
1670         }
1671 }
1672
1673 static void create_old_vert_edge_map(ListBase **map, IndexNode **mem, const MultiresEdge *medge,
1674                                      const int totvert, const int totedge)
1675 {
1676         int i, j;
1677         IndexNode *node = NULL;
1678         
1679         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
1680         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
1681         node = *mem;
1682         
1683         /* Find the users */
1684         for (i = 0; i < totedge; ++i) {
1685                 for (j = 0; j < 2; ++j, ++node) {
1686                         node->index = i;
1687                         BLI_addtail(&(*map)[medge[i].v[j]], node);
1688                 }
1689         }
1690 }
1691
1692 static MultiresFace *find_old_face(ListBase *map, MultiresFace *faces, int v1, int v2, int v3, int v4)
1693 {
1694         IndexNode *n1;
1695         int v[4], i, j;
1696
1697         v[0] = v1;
1698         v[1] = v2;
1699         v[2] = v3;
1700         v[3] = v4;
1701
1702         for (n1 = map[v1].first; n1; n1 = n1->next) {
1703                 int fnd[4] = {0, 0, 0, 0};
1704
1705                 for (i = 0; i < 4; ++i) {
1706                         for (j = 0; j < 4; ++j) {
1707                                 if (v[i] == faces[n1->index].v[j])
1708                                         fnd[i] = 1;
1709                         }
1710                 }
1711
1712                 if (fnd[0] && fnd[1] && fnd[2] && fnd[3])
1713                         return &faces[n1->index];
1714         }
1715
1716         return NULL;
1717 }
1718
1719 static MultiresEdge *find_old_edge(ListBase *map, MultiresEdge *edges, int v1, int v2)
1720 {
1721         IndexNode *n1, *n2;
1722
1723         for (n1 = map[v1].first; n1; n1 = n1->next) {
1724                 for (n2 = map[v2].first; n2; n2 = n2->next) {
1725                         if (n1->index == n2->index)
1726                                 return &edges[n1->index];
1727                 }
1728         }
1729
1730         return NULL;
1731 }
1732
1733 static void multires_load_old_edges(ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst, int v1, int v2, int mov)
1734 {
1735         int emid = find_old_edge(emap[2], lvl->edges, v1, v2)->mid;
1736         vvmap[dst + mov] = emid;
1737
1738         if (lvl->next->next) {
1739                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v1, emid, mov / 2);
1740                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v2, emid, -mov / 2);
1741         }
1742 }
1743
1744 static void multires_load_old_faces(ListBase **fmap, ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst,
1745                                     int v1, int v2, int v3, int v4, int st2, int st3)
1746 {
1747         int fmid;
1748         int emid13, emid14, emid23, emid24;
1749
1750         if (lvl && lvl->next) {
1751                 fmid = find_old_face(fmap[1], lvl->faces, v1, v2, v3, v4)->mid;
1752                 vvmap[dst] = fmid;
1753
1754                 emid13 = find_old_edge(emap[1], lvl->edges, v1, v3)->mid;
1755                 emid14 = find_old_edge(emap[1], lvl->edges, v1, v4)->mid;
1756                 emid23 = find_old_edge(emap[1], lvl->edges, v2, v3)->mid;
1757                 emid24 = find_old_edge(emap[1], lvl->edges, v2, v4)->mid;
1758
1759
1760                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 + st3,
1761                                         fmid, v2, emid23, emid24, st2, st3 / 2);
1762
1763                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 + st3,
1764                                         emid14, emid24, fmid, v4, st2, st3 / 2);
1765
1766                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 - st3,
1767                                         emid13, emid23, v3, fmid, st2, st3 / 2);
1768
1769                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 - st3,
1770                                         v1, fmid, emid13, emid14, st2, st3 / 2);
1771
1772                 if (lvl->next->next) {
1773                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid24, fmid, st3);
1774                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid13, fmid, -st3);
1775                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid14, fmid, -st2 * st3);
1776                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid23, fmid, st2 * st3);
1777                 }
1778         }
1779 }
1780
1781 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert)
1782 {
1783         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *) dm;
1784         CCGSubSurf *ss = ccgdm->ss;
1785         CCGElem *vd;
1786         CCGKey key;
1787         int index;
1788         int totvert, totedge, totface;
1789         int gridSize = ccgSubSurf_getGridSize(ss);
1790         int edgeSize = ccgSubSurf_getEdgeSize(ss);
1791         int i = 0;
1792
1793         dm->getGridKey(dm, &key);
1794
1795         totface = ccgSubSurf_getNumFaces(ss);
1796         for (index = 0; index < totface; index++) {
1797                 CCGFace *f = ccgdm->faceMap[index].face;
1798                 int x, y, S, numVerts = ccgSubSurf_getFaceNumVerts(f);
1799
1800                 vd = ccgSubSurf_getFaceCenterData(f);
1801                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1802                 i++;
1803                 
1804                 for (S = 0; S < numVerts; S++) {
1805                         for (x = 1; x < gridSize - 1; x++, i++) {
1806                                 vd = ccgSubSurf_getFaceGridEdgeData(ss, f, S, x);
1807                                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1808                         }
1809                 }
1810
1811                 for (S = 0; S < numVerts; S++) {
1812                         for (y = 1; y < gridSize - 1; y++) {
1813                                 for (x = 1; x < gridSize - 1; x++, i++) {
1814                                         vd = ccgSubSurf_getFaceGridData(ss, f, S, x, y);
1815                                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1816                                 }
1817                         }
1818                 }
1819         }
1820
1821         totedge = ccgSubSurf_getNumEdges(ss);
1822         for (index = 0; index < totedge; index++) {
1823                 CCGEdge *e = ccgdm->edgeMap[index].edge;
1824                 int x;
1825
1826                 for (x = 1; x < edgeSize - 1; x++, i++) {
1827                         vd = ccgSubSurf_getEdgeData(ss, e, x);
1828                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1829                 }
1830         }
1831
1832         totvert = ccgSubSurf_getNumVerts(ss);
1833         for (index = 0; index < totvert; index++) {
1834                 CCGVert *v = ccgdm->vertMap[index].vert;
1835
1836                 vd = ccgSubSurf_getVertData(ss, v);
1837                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1838                 i++;
1839         }
1840
1841         ccgSubSurf_updateToFaces(ss, 0, NULL, 0);
1842 }
1843
1844 /* Loads a multires object stored in the old Multires struct into the new format */
1845 static void multires_load_old_dm(DerivedMesh *dm, Mesh *me, int totlvl)
1846 {
1847         MultiresLevel *lvl, *lvl1;
1848         Multires *mr = me->mr;
1849         MVert *vsrc, *vdst;
1850         unsigned int src, dst;
1851         int st = multires_side_tot[totlvl - 1] - 1;
1852         int extedgelen = multires_side_tot[totlvl] - 2;
1853         int *vvmap; // inorder for dst, map to src
1854         int crossedgelen;
1855         int s, x, tottri, totquad;
1856         unsigned int i, j, totvert;
1857
1858         src = 0;
1859         vsrc = mr->verts;
1860         vdst = dm->getVertArray(dm);
1861         totvert = (unsigned int)dm->getNumVerts(dm);
1862         vvmap = MEM_callocN(sizeof(int) * totvert, "multires vvmap");
1863
1864         lvl1 = mr->levels.first;
1865         /* Load base verts */
1866         for (i = 0; i < lvl1->totvert; ++i) {
1867                 vvmap[totvert - lvl1->totvert + i] = src;
1868                 src++;
1869         }
1870
1871         /* Original edges */
1872         dst = totvert - lvl1->totvert - extedgelen * lvl1->totedge;
1873         for (i = 0; i < lvl1->totedge; ++i) {
1874                 int ldst = dst + extedgelen * i;
1875                 int lsrc = src;
1876                 lvl = lvl1->next;
1877
1878                 for (j = 2; j <= mr->level_count; ++j) {
1879                         int base = multires_side_tot[totlvl - j + 1] - 2;
1880                         int skip = multires_side_tot[totlvl - j + 2] - 1;
1881                         int st = multires_side_tot[j - 1] - 1;
1882
1883                         for (x = 0; x < st; ++x)
1884                                 vvmap[ldst + base + x * skip] = lsrc + st * i + x;
1885
1886                         lsrc += lvl->totvert - lvl->prev->totvert;
1887                         lvl = lvl->next;
1888                 }
1889         }
1890
1891         /* Center points */
1892         dst = 0;
1893         for (i = 0; i < lvl1->totface; ++i) {
1894                 int sides = lvl1->faces[i].v[3] ? 4 : 3;
1895
1896                 vvmap[dst] = src + lvl1->totedge + i;
1897                 dst += 1 + sides * (st - 1) * st;
1898         }
1899
1900
1901         /* The rest is only for level 3 and up */
1902         if (lvl1->next && lvl1->next->next) {
1903                 ListBase **fmap, **emap;
1904                 IndexNode **fmem, **emem;
1905
1906                 /* Face edge cross */
1907                 tottri = totquad = 0;
1908                 crossedgelen = multires_side_tot[totlvl - 1] - 2;
1909                 dst = 0;
1910                 for (i = 0; i < lvl1->totface; ++i) {
1911                         int sides = lvl1->faces[i].v[3] ? 4 : 3;
1912
1913                         lvl = lvl1->next->next;
1914                         dst++;
1915
1916                         for (j = 3; j <= mr->level_count; ++j) {
1917                                 int base = multires_side_tot[totlvl - j + 1] - 2;
1918                                 int skip = multires_side_tot[totlvl - j + 2] - 1;
1919                                 int st = pow(2, j - 2);
1920                                 int st2 = pow(2, j - 3);
1921                                 int lsrc = lvl->prev->totvert;
1922
1923                                 /* Skip exterior edge verts */
1924                                 lsrc += lvl1->totedge * st;
1925
1926                                 /* Skip earlier face edge crosses */
1927                                 lsrc += st2 * (tottri * 3 + totquad * 4);
1928
1929                                 for (s = 0; s < sides; ++s) {
1930                                         for (x = 0; x < st2; ++x) {
1931                                                 vvmap[dst + crossedgelen * (s + 1) - base - x * skip - 1] = lsrc;
1932                                                 lsrc++;
1933                                         }
1934                                 }
1935
1936                                 lvl = lvl->next;
1937                         }
1938
1939                         dst += sides * (st - 1) * st;
1940
1941                         if (sides == 4) ++totquad;
1942                         else ++tottri;
1943
1944                 }
1945
1946                 /* calculate vert to edge/face maps for each level (except the last) */
1947                 fmap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires fmap");
1948                 emap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires emap");
1949                 fmem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires fmem");
1950                 emem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires emem");
1951                 lvl = lvl1;
1952                 for (i = 0; i < (unsigned int)mr->level_count - 1; ++i) {
1953                         create_old_vert_face_map(fmap + i, fmem + i, lvl->faces, lvl->totvert, lvl->totface);
1954                         create_old_vert_edge_map(emap + i, emem + i, lvl->edges, lvl->totvert, lvl->totedge);
1955                         lvl = lvl->next;
1956                 }
1957
1958                 /* Interior face verts */
1959                 /* lvl = lvl1->next->next; */ /* UNUSED */
1960                 dst = 0;
1961                 for (j = 0; j < lvl1->totface; ++j) {
1962                         int sides = lvl1->faces[j].v[3] ? 4 : 3;
1963                         int ldst = dst + 1 + sides * (st - 1);
1964
1965                         for (s = 0; s < sides; ++s) {
1966                                 int st2 = multires_side_tot[totlvl - 1] - 2;
1967                                 int st3 = multires_side_tot[totlvl - 2] - 2;
1968                                 int st4 = st3 == 0 ? 1 : (st3 + 1) / 2;
1969                                 int mid = ldst + st2 * st3 + st3;
1970                                 int cv = lvl1->faces[j].v[s];
1971                                 int nv = lvl1->faces[j].v[s == sides - 1 ? 0 : s + 1];
1972                                 int pv = lvl1->faces[j].v[s == 0 ? sides - 1 : s - 1];
1973
1974                                 multires_load_old_faces(fmap, emap, lvl1->next, vvmap, mid,
1975                                                         vvmap[dst], cv,
1976                                                         find_old_edge(emap[0], lvl1->edges, pv, cv)->mid,
1977                                                         find_old_edge(emap[0], lvl1->edges, cv, nv)->mid,
1978                                                         st2, st4);
1979
1980                                 ldst += (st - 1) * (st - 1);
1981                         }
1982
1983
1984                         dst = ldst;
1985                 }
1986
1987                 /*lvl = lvl->next;*/ /*UNUSED*/
1988
1989                 for (i = 0; i < (unsigned int)(mr->level_count - 1); ++i) {
1990                         MEM_freeN(fmap[i]);
1991                         MEM_freeN(fmem[i]);
1992                         MEM_freeN(emap[i]);
1993                         MEM_freeN(emem[i]);
1994                 }
1995
1996                 MEM_freeN(fmap);
1997                 MEM_freeN(emap);
1998                 MEM_freeN(fmem);
1999                 MEM_freeN(emem);
2000         }
2001
2002         /* Transfer verts */
2003         for (i = 0; i < totvert; ++i)
2004                 copy_v3_v3(vdst[i].co, vsrc[vvmap[i]].co);
2005
2006         MEM_freeN(vvmap);
2007
2008         multires_mvert_to_ss(dm, vdst);
2009 }
2010
2011 /* Copy the first-level vcol data to the mesh, if it exists */
2012 /* Warning: higher-level vcol data will be lost */
2013 static void multires_load_old_vcols(Mesh *me)
2014 {
2015         MultiresLevel *lvl;
2016         MultiresColFace *colface;
2017         MCol *mcol;
2018         int i, j;
2019
2020         if (!(lvl = me->mr->levels.first))
2021                 return;
2022
2023         if (!(colface = lvl->colfaces))
2024                 return;
2025
2026         /* older multires format never supported multiple vcol layers,
2027          * so we can assume the active vcol layer is the correct one */
2028         if (!(mcol = CustomData_get_layer(&me->fdata, CD_MCOL)))
2029                 return;
2030         
2031         for (i = 0; i < me->totface; ++i) {
2032                 for (j = 0; j < 4; ++j) {
2033                         mcol[i * 4 + j].a = colface[i].col[j].a;
2034                         mcol[i * 4 + j].r = colface[i].col[j].r;
2035                         mcol[i * 4 + j].g = colface[i].col[j].g;
2036                         mcol[i * 4 + j].b = colface[i].col[j].b;
2037                 }
2038         }
2039 }
2040
2041 /* Copy the first-level face-flag data to the mesh */
2042 static void multires_load_old_face_flags(Mesh *me)
2043 {
2044         MultiresLevel *lvl;
2045         MultiresFace *faces;
2046         int i;
2047
2048         if (!(lvl = me->mr->levels.first))
2049                 return;
2050
2051         if (!(faces = lvl->faces))
2052                 return;
2053
2054         for (i = 0; i < me->totface; ++i)
2055                 me->mface[i].flag = faces[i].flag;
2056 }
2057
2058 void multires_load_old(Object *ob, Mesh *me)
2059 {
2060         MultiresLevel *lvl;
2061         ModifierData *md;
2062         MultiresModifierData *mmd;
2063         DerivedMesh *dm, *orig;
2064         CustomDataLayer *l;
2065         int i;
2066
2067         /* Load original level into the mesh */
2068         lvl = me->mr->levels.first;
2069         CustomData_free_layers(&me->vdata, CD_MVERT, lvl->totvert);
2070         CustomData_free_layers(&me->edata, CD_MEDGE, lvl->totedge);
2071         CustomData_free_layers(&me->fdata, CD_MFACE, lvl->totface);
2072         me->totvert = lvl->totvert;
2073         me->totedge = lvl->totedge;
2074         me->totface = lvl->totface;
2075         me->mvert = CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, me->totvert);
2076         me->medge = CustomData_add_layer(&me->edata, CD_MEDGE, CD_CALLOC, NULL, me->totedge);
2077         me->mface = CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, me->totface);
2078         memcpy(me->mvert, me->mr->verts, sizeof(MVert) * me->totvert);
2079         for (i = 0; i < me->totedge; ++i) {
2080                 me->medge[i].v1 = lvl->edges[i].v[0];
2081                 me->medge[i].v2 = lvl->edges[i].v[1];
2082         }
2083         for (i = 0; i < me->totface; ++i) {
2084                 me->mface[i].v1 = lvl->faces[i].v[0];
2085                 me->mface[i].v2 = lvl->faces[i].v[1];
2086                 me->mface[i].v3 = lvl->faces[i].v[2];
2087                 me->mface[i].v4 = lvl->faces[i].v[3];
2088                 me->mface[i].mat_nr = lvl->faces[i].mat_nr;
2089         }
2090
2091         /* Copy the first-level data to the mesh */
2092         /* XXX We must do this before converting tessfaces to polys/lopps! */
2093         for (i = 0, l = me->mr->vdata.layers; i < me->mr->vdata.totlayer; ++i, ++l)
2094                 CustomData_add_layer(&me->vdata, l->type, CD_REFERENCE, l->data, me->totvert);
2095         for (i = 0, l = me->mr->fdata.layers; i < me->mr->fdata.totlayer; ++i, ++l)
2096                 CustomData_add_layer(&me->fdata, l->type, CD_REFERENCE, l->data, me->totface);
2097         CustomData_reset(&me->mr->vdata);
2098         CustomData_reset(&me->mr->fdata);
2099
2100         multires_load_old_vcols(me);
2101         multires_load_old_face_flags(me);
2102
2103         /* multiresModifier_subdivide (actually, multires_subdivide) expects polys, not tessfaces! */
2104         BKE_mesh_convert_mfaces_to_mpolys(me);
2105
2106         /* Add a multires modifier to the object */
2107         md = ob->modifiers.first;
2108         while (md && modifierType_getInfo(md->type)->type == eModifierTypeType_OnlyDeform)
2109                 md = md->next;                          
2110         mmd = (MultiresModifierData *)modifier_new(eModifierType_Multires);
2111         BLI_insertlinkbefore(&ob->modifiers, md, mmd);
2112
2113         for (i = 0; i < me->mr->level_count - 1; ++i)
2114                 multiresModifier_subdivide(mmd, ob, 1, 0);
2115
2116         mmd->lvl = mmd->totlvl;
2117         orig = CDDM_from_mesh(me);
2118         /* XXX We *must* alloc paint mask here, else we have some kind of mismatch in
2119          *     multires_modifier_update_mdisps() (called by dm->release(dm)), which always creates the
2120          *     reference subsurfed dm with this option, before calling multiresModifier_disp_run(),
2121          *     which implicitly expects both subsurfs from its first dm and oldGridData parameters to
2122          *     be of the same "format"! */
2123         dm = multires_make_derived_from_derived(orig, mmd, ob, 0);
2124
2125         multires_load_old_dm(dm, me, mmd->totlvl + 1);
2126
2127         multires_dm_mark_as_modified(dm, MULTIRES_COORDS_MODIFIED);
2128         dm->release(dm);
2129         orig->release(orig);
2130
2131         /* Remove the old multires */
2132         multires_free(me->mr);
2133         me->mr = NULL;
2134 }
2135
2136 /* If 'ob' and 'to_ob' both have multires modifiers, synchronize them
2137  * such that 'ob' has the same total number of levels as 'to_ob'. */
2138 static void multires_sync_levels(Scene *scene, Object *ob, Object *to_ob)
2139 {
2140         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2141         MultiresModifierData *to_mmd = get_multires_modifier(scene, to_ob, 1);
2142
2143         if (!mmd) {
2144                 /* object could have MDISP even when there is no multires modifier
2145                  * this could lead to troubles due to i've got no idea how mdisp could be
2146                  * upsampled correct without modifier data.
2147                  * just remove mdisps if no multires present (nazgul) */
2148
2149                 multires_customdata_delete(ob->data);
2150         }
2151
2152         if (mmd && to_mmd) {
2153                 if (mmd->totlvl > to_mmd->totlvl)
2154                         multires_del_higher(mmd, ob, to_mmd->totlvl);
2155                 else
2156                         multires_subdivide(mmd, ob, to_mmd->totlvl, 0, mmd->simple);
2157         }
2158 }
2159
2160 static void multires_apply_smat(Scene *scene, Object *ob, float smat[3][3])
2161 {
2162         DerivedMesh *dm = NULL, *cddm = NULL, *subdm = NULL;
2163         CCGElem **gridData, **subGridData;
2164         CCGKey dm_key, subdm_key;
2165         Mesh *me = (Mesh *)ob->data;
2166         MPoly *mpoly = me->mpoly;
2167         /* MLoop *mloop = me->mloop; */ /* UNUSED */
2168         MDisps *mdisps;
2169         int *gridOffset;
2170         int i, /*numGrids, */ gridSize, dGridSize, dSkip, totvert;
2171         float (*vertCos)[3] = NULL;
2172         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2173         MultiresModifierData high_mmd;
2174
2175         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2176         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
2177
2178         if (!mdisps || !mmd || !mmd->totlvl) return;
2179
2180         /* we need derived mesh created from highest resolution */
2181         high_mmd = *mmd;
2182         high_mmd.lvl = high_mmd.totlvl;
2183
2184         /* unscaled multires with applied displacement */
2185         subdm = get_multires_dm(scene, &high_mmd, ob);
2186
2187         /* prepare scaled CDDM to create ccgDN */
2188         cddm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
2189
2190         totvert = cddm->getNumVerts(cddm);
2191         vertCos = MEM_mallocN(sizeof(*vertCos) * totvert, "multiresScale vertCos");
2192         cddm->getVertCos(cddm, vertCos);
2193         for (i = 0; i < totvert; i++)
2194                 mul_m3_v3(smat, vertCos[i]);
2195         CDDM_apply_vert_coords(cddm, vertCos);
2196         MEM_freeN(vertCos);
2197
2198         /* scaled ccgDM for tangent space of object with applied scale */
2199         dm = subsurf_dm_create_local(ob, cddm, high_mmd.totlvl, high_mmd.simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
2200         cddm->release(cddm);
2201
2202         gridSize = dm->getGridSize(dm);
2203         gridData = dm->getGridData(dm);
2204         gridOffset = dm->getGridOffset(dm);
2205         dm->getGridKey(dm, &dm_key);
2206         subGridData = subdm->getGridData(subdm);
2207         subdm->getGridKey(subdm, &subdm_key);
2208
2209         dGridSize = multires_side_tot[high_mmd.totlvl];
2210         dSkip = (dGridSize - 1) / (gridSize - 1);
2211
2212 #pragma omp parallel for private(i) if (me->totface * gridSize * gridSize * 4 >= CCG_OMP_LIMIT)
2213         for (i = 0; i < me->totpoly; ++i) {
2214                 const int numVerts = mpoly[i].totloop;
2215                 MDisps *mdisp = &mdisps[mpoly[i].loopstart];
2216                 int S, x, y, gIndex = gridOffset[i];
2217
2218                 for (S = 0; S < numVerts; ++S, ++gIndex, mdisp++) {
2219                         CCGElem *grid = gridData[gIndex];
2220                         CCGElem *subgrid = subGridData[gIndex];
2221                         float (*dispgrid)[3] = mdisp->disps;
2222
2223                         for (y = 0; y < gridSize; y++) {
2224                                 for (x = 0; x < gridSize; x++) {
2225                                         float *co = CCG_grid_elem_co(&dm_key, grid, x, y);
2226                                         float *sco = CCG_grid_elem_co(&subdm_key, subgrid, x, y);
2227                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
2228                                         float mat[3][3], disp[3];
2229
2230                                         /* construct tangent space matrix */
2231                                         grid_tangent_matrix(mat, &dm_key, x, y, grid);
2232
2233                                         /* scale subgrid coord and calculate displacement */
2234                                         mul_m3_v3(smat, sco);
2235                                         sub_v3_v3v3(disp, sco, co);
2236
2237                                         /* convert difference to tangent space */
2238                                         invert_m3(mat);
2239                                         mul_v3_m3v3(data, mat, disp);
2240                                 }
2241                         }
2242                 }
2243         }
2244
2245         dm->release(dm);
2246         subdm->release(subdm);
2247 }
2248
2249 int multires_mdisp_corners(MDisps *s)
2250 {
2251         int lvl = 13;
2252
2253         while (lvl > 0) {
2254                 int side = (1 << (lvl - 1)) + 1;
2255                 if ((s->totdisp % (side * side)) == 0) return s->totdisp / (side * side);
2256                 lvl--;
2257         }
2258
2259         return 0;
2260 }
2261
2262 void multiresModifier_scale_disp(Scene *scene, Object *ob)
2263 {
2264         float smat[3][3];
2265
2266         /* object's scale matrix */
2267         BKE_object_scale_to_mat3(ob, smat);
2268
2269         multires_apply_smat(scene, ob, smat);
2270 }
2271
2272 void multiresModifier_prepare_join(Scene *scene, Object *ob, Object *to_ob)
2273 {
2274         float smat[3][3], tmat[3][3], mat[3][3];
2275         multires_sync_levels(scene, ob, to_ob);
2276
2277         /* construct scale matrix for displacement */
2278         BKE_object_scale_to_mat3(to_ob, tmat);
2279         invert_m3(tmat);
2280         BKE_object_scale_to_mat3(ob, smat);
2281         mul_m3_m3m3(mat, smat, tmat);
2282
2283         multires_apply_smat(scene, ob, mat);
2284 }
2285
2286 /* update multires data after topology changing */
2287 void multires_topology_changed(Mesh *me)
2288 {
2289         MDisps *mdisp = NULL, *cur = NULL;
2290         int i, grid = 0;
2291
2292         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2293         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
2294
2295         if (!mdisp)
2296                 return;
2297
2298         cur = mdisp;
2299         for (i = 0; i < me->totloop; i++, cur++) {
2300                 if (cur->totdisp) {
2301                         grid = mdisp->totdisp;
2302
2303                         break;
2304                 }
2305         }
2306
2307         for (i = 0; i < me->totloop; i++, mdisp++) {
2308                 /* allocate memory for mdisp, the whole disp layer would be erased otherwise */
2309                 if (!mdisp->totdisp || !mdisp->disps) {
2310                         if (grid) {
2311                                 mdisp->totdisp = grid;
2312                                 mdisp->disps = MEM_callocN(3 * mdisp->totdisp * sizeof(float), "mdisp topology");
2313                         }
2314
2315                         continue;
2316                 }
2317         }
2318 }
2319
2320 /***************** Multires interpolation stuff *****************/
2321
2322 /* Find per-corner coordinate with given per-face UV coord */
2323 int mdisp_rot_face_to_crn(const int corners, const int face_side, const float u, const float v, float *x, float *y)
2324 {
2325         const float offset = face_side * 0.5f - 0.5f;
2326         int S = 0;
2327
2328         if (corners == 4) {
2329                 if (u <= offset && v <= offset) S = 0;
2330                 else if (u > offset  && v <= offset) S = 1;
2331                 else if (u > offset  && v > offset) S = 2;
2332                 else if (u <= offset && v >= offset) S = 3;
2333
2334                 if (S == 0) {
2335                         *y = offset - u;
2336                         *x = offset - v;
2337                 }
2338                 else if (S == 1) {
2339                         *x = u - offset;
2340                         *y = offset - v;
2341                 }
2342                 else if (S == 2) {
2343                         *y = u - offset;
2344                         *x = v - offset;
2345                 }
2346                 else if (S == 3) {
2347                         *x = offset - u;
2348                         *y = v - offset;
2349                 }
2350         }
2351         else {
2352                 int grid_size = offset;
2353                 float w = (face_side - 1) - u - v;
2354                 float W1, W2;
2355
2356                 if (u >= v && u >= w) {S = 0; W1 = w; W2 = v; }
2357                 else if (v >= u && v >= w) {S = 1; W1 = u; W2 = w; }
2358                 else {S = 2; W1 = v; W2 = u; }
2359
2360                 W1 /= (face_side - 1);
2361                 W2 /= (face_side - 1);
2362
2363                 *x = (1 - (2 * W1) / (1 - W2)) * grid_size;
2364                 *y = (1 - (2 * W2) / (1 - W1)) * grid_size;
2365         }
2366
2367         return S;
2368 }