Merging r58475 through r58700 from trunk into soc-2013-depsgraph_mt
[blender.git] / source / blender / blenkernel / intern / multires.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2007 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/multires.c
29  *  \ingroup bke
30  */
31
32
33 #include "MEM_guardedalloc.h"
34
35 /* for reading old multires */
36 #define DNA_DEPRECATED_ALLOW
37
38 #include "DNA_mesh_types.h"
39 #include "DNA_meshdata_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_scene_types.h"
42
43 #include "BLI_bitmap.h"
44 #include "BLI_blenlib.h"
45 #include "BLI_math.h"
46 #include "BLI_utildefines.h"
47
48 #include "BKE_pbvh.h"
49 #include "BKE_ccg.h"
50 #include "BKE_cdderivedmesh.h"
51 #include "BKE_mesh.h"
52 #include "BKE_modifier.h"
53 #include "BKE_multires.h"
54 #include "BKE_paint.h"
55 #include "BKE_scene.h"
56 #include "BKE_subsurf.h"
57 #include "BKE_editmesh.h"
58
59 #include "BKE_object.h"
60
61 #include "CCGSubSurf.h"
62
63 #include <math.h>
64 #include <string.h>
65
66 /* MULTIRES MODIFIER */
67 static const int multires_max_levels = 13;
68 static const int multires_grid_tot[] = {0, 4, 9, 25, 81, 289, 1089, 4225, 16641, 66049, 263169, 1050625, 4198401, 16785409};
69 static const int multires_side_tot[] = {0, 2, 3, 5,  9,  17,  33,   65,   129,   257,   513,    1025,    2049,    4097};
70
71 /* See multiresModifier_disp_run for description of each operation */
72 typedef enum {
73         APPLY_DISPLACEMENTS,
74         CALC_DISPLACEMENTS,
75         ADD_DISPLACEMENTS,
76 } DispOp;
77
78 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert);
79 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl);
80
81 /** Customdata **/
82
83 void multires_customdata_delete(Mesh *me)
84 {
85         if (me->edit_btmesh) {
86                 BMEditMesh *em = me->edit_btmesh;
87                 /* CustomData_external_remove is used here only to mark layer
88                  * as non-external for further free-ing, so zero element count
89                  * looks safer than em->totface */
90                 CustomData_external_remove(&em->bm->ldata, &me->id,
91                                            CD_MDISPS, 0);
92                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_MDISPS);
93
94                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_GRID_PAINT_MASK);
95         }
96         else {
97                 CustomData_external_remove(&me->ldata, &me->id,
98                                            CD_MDISPS, me->totloop);
99                 CustomData_free_layer_active(&me->ldata, CD_MDISPS,
100                                              me->totloop);
101
102                 CustomData_free_layer_active(&me->ldata, CD_GRID_PAINT_MASK,
103                                              me->totloop);
104         }
105 }
106
107 /** Grid hiding **/
108 static BLI_bitmap *multires_mdisps_upsample_hidden(BLI_bitmap *lo_hidden,
109                                                    int lo_level,
110                                                    int hi_level,
111
112                                                    /* assumed to be at hi_level (or
113                                                     *  null) */
114                                                    BLI_bitmap *prev_hidden)
115 {
116         BLI_bitmap *subd;
117         int hi_gridsize = ccg_gridsize(hi_level);
118         int lo_gridsize = ccg_gridsize(lo_level);
119         int yh, xh, xl, yl, xo, yo, hi_ndx;
120         int offset, factor;
121
122         BLI_assert(lo_level <= hi_level);
123
124         /* fast case */
125         if (lo_level == hi_level)
126                 return MEM_dupallocN(lo_hidden);
127
128         subd = BLI_BITMAP_NEW(hi_gridsize * hi_gridsize, "MDisps.hidden upsample");
129
130         factor = ccg_factor(lo_level, hi_level);
131         offset = 1 << (hi_level - lo_level - 1);
132
133         /* low-res blocks */
134         for (yl = 0; yl < lo_gridsize; yl++) {
135                 for (xl = 0; xl < lo_gridsize; xl++) {
136                         int lo_val = BLI_BITMAP_GET(lo_hidden, yl * lo_gridsize + xl);
137
138                         /* high-res blocks */
139                         for (yo = -offset; yo <= offset; yo++) {
140                                 yh = yl * factor + yo;
141                                 if (yh < 0 || yh >= hi_gridsize)
142                                         continue;
143
144                                 for (xo = -offset; xo <= offset; xo++) {
145                                         xh = xl * factor + xo;
146                                         if (xh < 0 || xh >= hi_gridsize)
147                                                 continue;
148
149                                         hi_ndx = yh * hi_gridsize + xh;
150
151                                         if (prev_hidden) {
152                                                 /* If prev_hidden is available, copy it to
153                                                  * subd, except when the equivalent element in
154                                                  * lo_hidden is different */
155                                                 if (lo_val != prev_hidden[hi_ndx])
156                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
157                                                 else
158                                                         BLI_BITMAP_MODIFY(subd, hi_ndx, prev_hidden[hi_ndx]);
159                                         }
160                                         else {
161                                                 BLI_BITMAP_MODIFY(subd, hi_ndx, lo_val);
162                                         }
163                                 }
164                         }
165                 }
166         }
167
168         return subd;
169 }
170
171 static BLI_bitmap *multires_mdisps_downsample_hidden(BLI_bitmap *old_hidden,
172                                                      int old_level,
173                                                      int new_level)
174 {
175         BLI_bitmap *new_hidden;
176         int new_gridsize = ccg_gridsize(new_level);
177         int old_gridsize = ccg_gridsize(old_level);
178         int x, y, factor, old_value;
179
180         BLI_assert(new_level <= old_level);
181         factor = ccg_factor(new_level, old_level);
182         new_hidden = BLI_BITMAP_NEW(new_gridsize * new_gridsize,
183                                     "downsample hidden");
184
185
186
187         for (y = 0; y < new_gridsize; y++) {
188                 for (x = 0; x < new_gridsize; x++) {
189                         old_value = BLI_BITMAP_GET(old_hidden,
190                                                    factor * y * old_gridsize + x * factor);
191                         
192                         BLI_BITMAP_MODIFY(new_hidden, y * new_gridsize + x, old_value);
193                 }
194         }
195
196         return new_hidden;
197 }
198
199 static void multires_output_hidden_to_ccgdm(CCGDerivedMesh *ccgdm,
200                                             Mesh *me, int level)
201 {
202         const MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
203         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
204         int *gridOffset;
205         int i, j;
206         
207         gridOffset = ccgdm->dm.getGridOffset(&ccgdm->dm);
208
209         for (i = 0; i < me->totpoly; i++) {
210                 for (j = 0; j < me->mpoly[i].totloop; j++) {
211                         int g = gridOffset[i] + j;
212                         const MDisps *md = &mdisps[g];
213                         BLI_bitmap *gh = md->hidden;
214                         
215                         if (gh) {
216                                 grid_hidden[g] =
217                                         multires_mdisps_downsample_hidden(gh, md->level, level);
218                         }
219                 }
220         }
221 }
222
223 /* subdivide mdisps.hidden if needed (assumes that md.level reflects
224  * the current level of md.hidden) */
225 static void multires_mdisps_subdivide_hidden(MDisps *md, int new_level)
226 {
227         BLI_bitmap *subd;
228         
229         BLI_assert(md->hidden);
230
231         /* nothing to do if already subdivided enough */
232         if (md->level >= new_level)
233                 return;
234
235         subd = multires_mdisps_upsample_hidden(md->hidden,
236                                                md->level,
237                                                new_level,
238                                                NULL);
239         
240         /* swap in the subdivided data */
241         MEM_freeN(md->hidden);
242         md->hidden = subd;
243 }
244
245 static MDisps *multires_mdisps_initialize_hidden(Mesh *me, int level)
246 {
247         MDisps *mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS,
248                                               CD_CALLOC, 0, me->totloop);
249         int gridsize = ccg_gridsize(level);
250         int gridarea = gridsize * gridsize;
251         int i, j, k;
252         
253         for (i = 0; i < me->totpoly; i++) {
254                 int hide = 0;
255
256                 for (j = 0; j < me->mpoly[i].totloop; j++) {
257                         if (me->mvert[me->mloop[me->mpoly[i].loopstart + j].v].flag & ME_HIDE) {
258                                 hide = 1;
259                                 break;
260                         }
261                 }
262
263                 if (!hide)
264                         continue;
265
266                 for (j = 0; j < me->mpoly[i].totloop; j++) {
267                         MDisps *md = &mdisps[me->mpoly[i].loopstart + j];
268
269                         BLI_assert(!md->hidden);
270
271                         md->hidden = BLI_BITMAP_NEW(gridarea, "MDisps.hidden initialize");
272
273                         for (k = 0; k < gridarea; k++)
274                                 BLI_BITMAP_SET(md->hidden, k);
275                 }
276         }
277
278         return mdisps;
279 }
280
281 DerivedMesh *get_multires_dm(Scene *scene, MultiresModifierData *mmd, Object *ob)
282 {
283         ModifierData *md = (ModifierData *)mmd;
284         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
285         DerivedMesh *tdm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
286         DerivedMesh *dm;
287
288         dm = mti->applyModifier(md, ob, tdm, MOD_APPLY_USECACHE);
289         if (dm == tdm) {
290                 dm = CDDM_copy(tdm);
291         }
292
293         return dm;
294 }
295
296 MultiresModifierData *find_multires_modifier_before(Scene *scene, ModifierData *lastmd)
297 {
298         ModifierData *md;
299
300         for (md = lastmd; md; md = md->prev) {
301                 if (md->type == eModifierType_Multires) {
302                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime))
303                                 return (MultiresModifierData *)md;
304                 }
305         }
306
307         return NULL;
308 }
309
310 /* used for applying scale on mdisps layer and syncing subdivide levels when joining objects
311  * use_first - return first multires modifier if all multires'es are disabled
312  */
313 MultiresModifierData *get_multires_modifier(Scene *scene, Object *ob, bool use_first)
314 {
315         ModifierData *md;
316         MultiresModifierData *mmd = NULL, *firstmmd = NULL;
317
318         /* find first active multires modifier */
319         for (md = ob->modifiers.first; md; md = md->next) {
320                 if (md->type == eModifierType_Multires) {
321                         if (!firstmmd)
322                                 firstmmd = (MultiresModifierData *)md;
323
324                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime)) {
325                                 mmd = (MultiresModifierData *)md;
326                                 break;
327                         }
328                 }
329         }
330
331         if (!mmd && use_first) {
332                 /* active multires have not been found
333                  * try to use first one */
334                 return firstmmd;
335         }
336
337         return mmd;
338 }
339
340 static int multires_get_level(Object *ob, MultiresModifierData *mmd, int render)
341 {
342         if (render)
343                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->renderlvl) : mmd->renderlvl;
344         else if (ob->mode == OB_MODE_SCULPT)
345                 return mmd->sculptlvl;
346         else
347                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->lvl) : mmd->lvl;
348 }
349
350 void multires_set_tot_level(Object *ob, MultiresModifierData *mmd, int lvl)
351 {
352         mmd->totlvl = lvl;
353
354         if (ob->mode != OB_MODE_SCULPT)
355                 mmd->lvl = CLAMPIS(MAX2(mmd->lvl, lvl), 0, mmd->totlvl);
356
357         mmd->sculptlvl = CLAMPIS(MAX2(mmd->sculptlvl, lvl), 0, mmd->totlvl);
358         mmd->renderlvl = CLAMPIS(MAX2(mmd->renderlvl, lvl), 0, mmd->totlvl);
359 }
360
361 static void multires_dm_mark_as_modified(DerivedMesh *dm, MultiresModifiedFlags flags)
362 {
363         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
364         ccgdm->multires.modified_flags |= flags;
365 }
366
367 void multires_mark_as_modified(Object *ob, MultiresModifiedFlags flags)
368 {
369         if (ob && ob->derivedFinal)
370                 multires_dm_mark_as_modified(ob->derivedFinal, flags);
371 }
372
373 void multires_force_update(Object *ob)
374 {
375         if (ob) {
376                 BKE_object_free_derived_caches(ob);
377
378                 if (ob->sculpt && ob->sculpt->pbvh) {
379                         BKE_pbvh_free(ob->sculpt->pbvh);
380                         ob->sculpt->pbvh = NULL;
381                 }
382         }
383 }
384
385 void multires_force_external_reload(Object *ob)
386 {
387         Mesh *me = BKE_mesh_from_object(ob);
388
389         CustomData_external_reload(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
390         multires_force_update(ob);
391 }
392
393 void multires_force_render_update(Object *ob)
394 {
395         if (ob && (ob->mode & OB_MODE_SCULPT) && modifiers_findByType(ob, eModifierType_Multires))
396                 multires_force_update(ob);
397 }
398
399 int multiresModifier_reshapeFromDM(Scene *scene, MultiresModifierData *mmd,
400                                    Object *ob, DerivedMesh *srcdm)
401 {
402         DerivedMesh *mrdm = get_multires_dm(scene, mmd, ob);
403
404         if (mrdm && srcdm && mrdm->getNumVerts(mrdm) == srcdm->getNumVerts(srcdm)) {
405                 multires_mvert_to_ss(mrdm, srcdm->getVertArray(srcdm));
406
407                 multires_dm_mark_as_modified(mrdm, MULTIRES_COORDS_MODIFIED);
408                 multires_force_update(ob);
409
410                 mrdm->release(mrdm);
411
412                 return 1;
413         }
414
415         if (mrdm) mrdm->release(mrdm);
416
417         return 0;
418 }
419
420 /* Returns 1 on success, 0 if the src's totvert doesn't match */
421 int multiresModifier_reshape(Scene *scene, MultiresModifierData *mmd, Object *dst, Object *src)
422 {
423         DerivedMesh *srcdm = mesh_get_derived_final(scene, src, CD_MASK_BAREMESH);
424         return multiresModifier_reshapeFromDM(scene, mmd, dst, srcdm);
425 }
426
427 int multiresModifier_reshapeFromDeformMod(Scene *scene, MultiresModifierData *mmd,
428                                           Object *ob, ModifierData *md)
429 {
430         ModifierTypeInfo *mti = modifierType_getInfo(md->type);
431         DerivedMesh *dm, *ndm;
432         int numVerts, result;
433         float (*deformedVerts)[3];
434
435         if (multires_get_level(ob, mmd, 0) == 0)
436                 return 0;
437
438         /* Create DerivedMesh for deformation modifier */
439         dm = get_multires_dm(scene, mmd, ob);
440         numVerts = dm->getNumVerts(dm);
441         deformedVerts = MEM_callocN(sizeof(float) * numVerts * 3, "multiresReshape_deformVerts");
442
443         dm->getVertCos(dm, deformedVerts);
444         mti->deformVerts(md, ob, dm, deformedVerts, numVerts, 0);
445
446         ndm = CDDM_copy(dm);
447         CDDM_apply_vert_coords(ndm, deformedVerts);
448
449         MEM_freeN(deformedVerts);
450         dm->release(dm);
451
452         /* Reshaping */
453         result = multiresModifier_reshapeFromDM(scene, mmd, ob, ndm);
454
455         /* Cleanup */
456         ndm->release(ndm);
457
458         return result;
459 }
460
461 /* reset the multires levels to match the number of mdisps */
462 static int get_levels_from_disps(Object *ob)
463 {
464         Mesh *me = ob->data;
465         MDisps *mdisp, *md;
466         int i, j, totlvl = 0;
467
468         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
469
470         for (i = 0; i < me->totpoly; ++i) {
471                 md = mdisp + me->mpoly[i].loopstart;
472
473                 for (j = 0; j < me->mpoly[i].totloop; j++, md++) {
474                         if (md->totdisp == 0) continue;
475         
476                         while (1) {
477                                 int side = (1 << (totlvl - 1)) + 1;
478                                 int lvl_totdisp = side * side;
479                                 if (md->totdisp == lvl_totdisp)
480                                         break;
481                                 else if (md->totdisp < lvl_totdisp)
482                                         totlvl--;
483                                 else
484                                         totlvl++;
485         
486                         }
487                         
488                         break;
489                 }
490         }
491
492         return totlvl;
493 }
494
495 /* reset the multires levels to match the number of mdisps */
496 void multiresModifier_set_levels_from_disps(MultiresModifierData *mmd, Object *ob)
497 {
498         Mesh *me = ob->data;
499         MDisps *mdisp;
500
501         if (me->edit_btmesh)
502                 mdisp = CustomData_get_layer(&me->edit_btmesh->bm->ldata, CD_MDISPS);
503         else
504                 mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
505
506         if (mdisp) {
507                 mmd->totlvl = get_levels_from_disps(ob);
508                 mmd->lvl = MIN2(mmd->sculptlvl, mmd->totlvl);
509                 mmd->sculptlvl = MIN2(mmd->sculptlvl, mmd->totlvl);
510                 mmd->renderlvl = MIN2(mmd->renderlvl, mmd->totlvl);
511         }
512 }
513
514 static void multires_set_tot_mdisps(Mesh *me, int lvl)
515 {
516         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
517         int i;
518
519         if (mdisps) {
520                 for (i = 0; i < me->totloop; i++, mdisps++) {
521                         mdisps->totdisp = multires_grid_tot[lvl];
522                         mdisps->level = lvl;
523                 }
524         }
525 }
526
527 static void multires_reallocate_mdisps(int totloop, MDisps *mdisps, int lvl)
528 {
529         int i;
530
531         /* reallocate displacements to be filled in */
532         for (i = 0; i < totloop; ++i) {
533                 int totdisp = multires_grid_tot[lvl];
534                 float (*disps)[3] = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
535
536                 if (mdisps[i].disps)
537                         MEM_freeN(mdisps[i].disps);
538                 
539                 if (mdisps[i].level && mdisps[i].hidden)
540                         multires_mdisps_subdivide_hidden(&mdisps[i], lvl);
541
542                 mdisps[i].disps = disps;
543                 mdisps[i].totdisp = totdisp;
544                 mdisps[i].level = lvl;
545         }
546 }
547
548 static void multires_copy_grid(float (*gridA)[3], float (*gridB)[3], int sizeA, int sizeB)
549 {
550         int x, y, j, skip;
551
552         if (sizeA > sizeB) {
553                 skip = (sizeA - 1) / (sizeB - 1);
554
555                 for (j = 0, y = 0; y < sizeB; y++)
556                         for (x = 0; x < sizeB; x++, j++)
557                                 copy_v3_v3(gridA[y * skip * sizeA + x * skip], gridB[j]);
558         }
559         else {
560                 skip = (sizeB - 1) / (sizeA - 1);
561
562                 for (j = 0, y = 0; y < sizeA; y++)
563                         for (x = 0; x < sizeA; x++, j++)
564                                 copy_v3_v3(gridA[j], gridB[y * skip * sizeB + x * skip]);
565         }
566 }
567
568 static void multires_copy_dm_grid(CCGElem *gridA, CCGElem *gridB, CCGKey *keyA, CCGKey *keyB)
569 {
570         int x, y, j, skip;
571
572         if (keyA->grid_size > keyB->grid_size) {
573                 skip = (keyA->grid_size - 1) / (keyB->grid_size - 1);
574
575                 for (j = 0, y = 0; y < keyB->grid_size; y++)
576                         for (x = 0; x < keyB->grid_size; x++, j++)
577                                 memcpy(CCG_elem_offset_co(keyA, gridA, y * skip * keyA->grid_size + x * skip),
578                                        CCG_elem_offset_co(keyB, gridB, j),
579                                        sizeof(float) * keyA->num_layers);
580         }
581         else {
582                 skip = (keyB->grid_size - 1) / (keyA->grid_size - 1);
583
584                 for (j = 0, y = 0; y < keyA->grid_size; y++)
585                         for (x = 0; x < keyA->grid_size; x++, j++)
586                                 memcpy(CCG_elem_offset_co(keyA, gridA, j),
587                                        CCG_elem_offset_co(keyB, gridB, y * skip * keyB->grid_size + x * skip),
588                                        sizeof(float) * keyA->num_layers);
589         }
590 }
591
592 /* Reallocate gpm->data at a lower resolution and copy values over
593  * from the original high-resolution data */
594 static void multires_grid_paint_mask_downsample(GridPaintMask *gpm, int level)
595 {
596         if (level < gpm->level) {
597                 int gridsize = ccg_gridsize(level);
598                 float *data = MEM_callocN(sizeof(float) * gridsize * gridsize,
599                                           "multires_grid_paint_mask_downsample");
600                 int x, y;
601
602                 for (y = 0; y < gridsize; y++) {
603                         for (x = 0; x < gridsize; x++) {
604                                 data[y * gridsize + x] =
605                                     paint_grid_paint_mask(gpm, level, x, y);
606                         }
607                 }
608
609                 MEM_freeN(gpm->data);
610                 gpm->data = data;
611                 gpm->level = level;
612         }
613 }
614
615 static void multires_del_higher(MultiresModifierData *mmd, Object *ob, int lvl)
616 {
617         Mesh *me = (Mesh *)ob->data;
618         int levels = mmd->totlvl - lvl;
619         MDisps *mdisps;
620         GridPaintMask *gpm;
621
622         multires_set_tot_mdisps(me, mmd->totlvl);
623         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
624         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
625         gpm = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
626
627         multires_force_update(ob);
628
629         if (mdisps && levels > 0) {
630                 if (lvl > 0) {
631                         /* MLoop *ml = me->mloop; */ /*UNUSED*/
632                         int nsize = multires_side_tot[lvl];
633                         int hsize = multires_side_tot[mmd->totlvl];
634                         int i, j;
635
636                         for (i = 0; i < me->totpoly; ++i) {
637                                 for (j = 0; j < me->mpoly[i].totloop; j++) {
638                                         int g = me->mpoly[i].loopstart + j;
639                                         MDisps *mdisp = &mdisps[g];
640                                         float (*disps)[3], (*ndisps)[3], (*hdisps)[3];
641                                         int totdisp = multires_grid_tot[lvl];
642
643                                         disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
644
645                                         ndisps = disps;
646                                         hdisps = mdisp->disps;
647
648                                         multires_copy_grid(ndisps, hdisps, nsize, hsize);
649                                         if (mdisp->hidden) {
650                                                 BLI_bitmap *gh =
651                                                     multires_mdisps_downsample_hidden(mdisp->hidden,
652                                                                                       mdisp->level,
653                                                                                       lvl);
654                                                 MEM_freeN(mdisp->hidden);
655                                                 mdisp->hidden = gh;
656                                         }
657
658                                         ndisps += nsize * nsize;
659                                         hdisps += hsize * hsize;
660
661                                         MEM_freeN(mdisp->disps);
662                                         mdisp->disps = disps;
663                                         mdisp->totdisp = totdisp;
664                                         mdisp->level = lvl;
665
666                                         if (gpm) {
667                                                 multires_grid_paint_mask_downsample(&gpm[g], lvl);
668                                         }
669                                 }
670                         }
671                 }
672                 else {
673                         multires_customdata_delete(me);
674                 }
675         }
676
677         multires_set_tot_level(ob, mmd, lvl);
678 }
679
680 /* (direction = 1) for delete higher, (direction = 0) for lower (not implemented yet) */
681 void multiresModifier_del_levels(MultiresModifierData *mmd, Object *ob, int direction)
682 {
683         Mesh *me = BKE_mesh_from_object(ob);
684         int lvl = multires_get_level(ob, mmd, 0);
685         int levels = mmd->totlvl - lvl;
686         MDisps *mdisps;
687
688         multires_set_tot_mdisps(me, mmd->totlvl);
689         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
690         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
691
692         multires_force_update(ob);
693
694         if (mdisps && levels > 0 && direction == 1) {
695                 multires_del_higher(mmd, ob, lvl);
696         }
697
698         multires_set_tot_level(ob, mmd, lvl);
699 }
700
701 static DerivedMesh *multires_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int totlvl, int simple, int alloc_paint_mask)
702 {
703         MultiresModifierData mmd = {{NULL}};
704         MultiresFlags flags = MULTIRES_USE_LOCAL_MMD;
705
706         mmd.lvl = lvl;
707         mmd.sculptlvl = lvl;
708         mmd.renderlvl = lvl;
709         mmd.totlvl = totlvl;
710         mmd.simple = simple;
711
712         if (alloc_paint_mask)
713                 flags |= MULTIRES_ALLOC_PAINT_MASK;
714
715         return multires_make_derived_from_derived(dm, &mmd, ob, flags);
716 }
717
718 static DerivedMesh *subsurf_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int simple, int optimal, int plain_uv, int alloc_paint_mask)
719 {
720         SubsurfModifierData smd = {{NULL}};
721         SubsurfFlags flags = 0;
722
723         smd.levels = smd.renderLevels = lvl;
724         if (!plain_uv)
725                 smd.flags |= eSubsurfModifierFlag_SubsurfUv;
726         if (simple)
727                 smd.subdivType = ME_SIMPLE_SUBSURF;
728         if (optimal)
729                 smd.flags |= eSubsurfModifierFlag_ControlEdges;
730
731         if (ob->mode & OB_MODE_EDIT)
732                 flags |= SUBSURF_IN_EDIT_MODE;
733
734         if (alloc_paint_mask)
735                 flags |= SUBSURF_ALLOC_PAINT_MASK;
736         
737         return subsurf_make_derived_from_derived(dm, &smd, NULL, flags);
738 }
739
740
741
742 /* assumes no is normalized; return value's sign is negative if v is on
743  * the other side of the plane */
744 static float v3_dist_from_plane(float v[3], float center[3], float no[3])
745 {
746         float s[3];
747         sub_v3_v3v3(s, v, center);
748         return dot_v3v3(s, no);
749 }
750
751 void multiresModifier_base_apply(MultiresModifierData *mmd, Object *ob)
752 {
753         DerivedMesh *cddm, *dispdm, *origdm;
754         Mesh *me;
755         const MeshElemMap *pmap;
756         float (*origco)[3];
757         int i, j, k, offset, totlvl;
758
759         multires_force_update(ob);
760
761         me = BKE_mesh_from_object(ob);
762         totlvl = mmd->totlvl;
763
764         /* nothing to do */
765         if (!totlvl)
766                 return;
767
768         /* XXX - probably not necessary to regenerate the cddm so much? */
769
770         /* generate highest level with displacements */
771         cddm = CDDM_from_mesh(me, NULL);
772         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
773         dispdm = multires_dm_create_local(ob, cddm, totlvl, totlvl, 0, 0);
774         cddm->release(cddm);
775
776         /* copy the new locations of the base verts into the mesh */
777         offset = dispdm->getNumVerts(dispdm) - me->totvert;
778         for (i = 0; i < me->totvert; ++i) {
779                 dispdm->getVertCo(dispdm, offset + i, me->mvert[i].co);
780         }
781
782         /* heuristic to produce a better-fitting base mesh */
783
784         cddm = CDDM_from_mesh(me, NULL);
785         pmap = cddm->getPolyMap(ob, cddm);
786         origco = MEM_callocN(sizeof(float) * 3 * me->totvert, "multires apply base origco");
787         for (i = 0; i < me->totvert; ++i)
788                 copy_v3_v3(origco[i], me->mvert[i].co);
789
790         for (i = 0; i < me->totvert; ++i) {
791                 float avg_no[3] = {0, 0, 0}, center[3] = {0, 0, 0}, push[3];
792                 float dist;
793                 int tot = 0;
794
795                 /* don't adjust verts not used by at least one poly */
796                 if (!pmap[i].count)
797                         continue;
798
799                 /* find center */
800                 for (j = 0; j < pmap[i].count; j++) {
801                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
802                         
803                         /* this double counts, not sure if that's bad or good */
804                         for (k = 0; k < p->totloop; ++k) {
805                                 int vndx = me->mloop[p->loopstart + k].v;
806                                 if (vndx != i) {
807                                         add_v3_v3(center, origco[vndx]);
808                                         tot++;
809                                 }
810                         }
811                 }
812                 mul_v3_fl(center, 1.0f / tot);
813
814                 /* find normal */
815                 for (j = 0; j < pmap[i].count; j++) {
816                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
817                         MPoly fake_poly;
818                         MLoop *fake_loops;
819                         float (*fake_co)[3];
820                         float no[3];
821
822                         /* set up poly, loops, and coords in order to call
823                          * BKE_mesh_calc_poly_normal_coords() */
824                         fake_poly.totloop = p->totloop;
825                         fake_poly.loopstart = 0;
826                         fake_loops = MEM_mallocN(sizeof(MLoop) * p->totloop, "fake_loops");
827                         fake_co = MEM_mallocN(sizeof(float) * 3 * p->totloop, "fake_co");
828                         
829                         for (k = 0; k < p->totloop; ++k) {
830                                 int vndx = me->mloop[p->loopstart + k].v;
831                                 
832                                 fake_loops[k].v = k;
833                                 
834                                 if (vndx == i)
835                                         copy_v3_v3(fake_co[k], center);
836                                 else
837                                         copy_v3_v3(fake_co[k], origco[vndx]);
838                         }
839                         
840                         BKE_mesh_calc_poly_normal_coords(&fake_poly, fake_loops,
841                                                          (const float(*)[3])fake_co, no);
842                         MEM_freeN(fake_loops);
843                         MEM_freeN(fake_co);
844
845                         add_v3_v3(avg_no, no);
846                 }
847                 normalize_v3(avg_no);
848
849                 /* push vertex away from the plane */
850                 dist = v3_dist_from_plane(me->mvert[i].co, center, avg_no);
851                 copy_v3_v3(push, avg_no);
852                 mul_v3_fl(push, dist);
853                 add_v3_v3(me->mvert[i].co, push);
854                 
855         }
856
857         MEM_freeN(origco);
858         cddm->release(cddm);
859
860         /* Vertices were moved around, need to update normals after all the vertices are updated
861          * Probably this is possible to do in the loop above, but this is rather tricky because
862          * we don't know all needed vertices' coordinates there yet.
863          */
864         BKE_mesh_calc_normals(me);
865
866         /* subdivide the mesh to highest level without displacements */
867         cddm = CDDM_from_mesh(me, NULL);
868         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
869         origdm = subsurf_dm_create_local(ob, cddm, totlvl, 0, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
870         cddm->release(cddm);
871
872         /* calc disps */
873         multiresModifier_disp_run(dispdm, me, NULL, CALC_DISPLACEMENTS, origdm->getGridData(origdm), totlvl);
874
875         origdm->release(origdm);
876         dispdm->release(dispdm);
877 }
878
879 static void multires_subdivide(MultiresModifierData *mmd, Object *ob, int totlvl, int updateblock, int simple)
880 {
881         Mesh *me = ob->data;
882         MDisps *mdisps;
883         int lvl = mmd->totlvl;
884
885         if ((totlvl > multires_max_levels) || (me->totpoly == 0))
886                 return;
887
888         multires_force_update(ob);
889
890         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
891         if (!mdisps)
892                 mdisps = multires_mdisps_initialize_hidden(me, totlvl);
893
894         if (mdisps->disps && !updateblock && totlvl > 1) {
895                 /* upsample */
896                 DerivedMesh *lowdm, *cddm, *highdm;
897                 CCGElem **highGridData, **lowGridData, **subGridData;
898                 CCGKey highGridKey, lowGridKey;
899                 CCGSubSurf *ss;
900                 int i, numGrids, highGridSize;
901                 int has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
902
903                 /* create subsurf DM from original mesh at high level */
904                 cddm = CDDM_from_mesh(me, NULL);
905                 DM_set_only_copy(cddm, CD_MASK_BAREMESH);
906                 highdm = subsurf_dm_create_local(ob, cddm, totlvl, simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
907                 ss = ((CCGDerivedMesh *)highdm)->ss;
908
909                 /* create multires DM from original mesh at low level */
910                 lowdm = multires_dm_create_local(ob, cddm, lvl, lvl, simple, has_mask);
911                 cddm->release(cddm);
912
913                 /* copy subsurf grids and replace them with low displaced grids */
914                 numGrids = highdm->getNumGrids(highdm);
915                 highGridSize = highdm->getGridSize(highdm);
916                 highGridData = highdm->getGridData(highdm);
917                 highdm->getGridKey(highdm, &highGridKey);
918                 lowGridData = lowdm->getGridData(lowdm);
919                 lowdm->getGridKey(lowdm, &lowGridKey);
920
921                 subGridData = MEM_callocN(sizeof(float *) * numGrids, "subGridData*");
922
923                 for (i = 0; i < numGrids; ++i) {
924                         /* backup subsurf grids */
925                         subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
926                         memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
927
928                         /* overwrite with current displaced grids */
929                         multires_copy_dm_grid(highGridData[i], lowGridData[i], &highGridKey, &lowGridKey);
930                 }
931
932                 /* low lower level dm no longer needed at this point */
933                 lowdm->release(lowdm);
934
935                 /* subsurf higher levels again with displaced data */
936                 ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
937                 ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
938
939                 /* reallocate displacements */
940                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
941
942                 /* compute displacements */
943                 multiresModifier_disp_run(highdm, me, NULL, CALC_DISPLACEMENTS, subGridData, totlvl);
944
945                 /* free */
946                 highdm->release(highdm);
947                 for (i = 0; i < numGrids; ++i)
948                         MEM_freeN(subGridData[i]);
949                 MEM_freeN(subGridData);
950         }
951         else {
952                 /* only reallocate, nothing to upsample */
953                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
954         }
955
956         multires_set_tot_level(ob, mmd, totlvl);
957 }
958
959 void multiresModifier_subdivide(MultiresModifierData *mmd, Object *ob, int updateblock, int simple)
960 {
961         multires_subdivide(mmd, ob, mmd->totlvl + 1, updateblock, simple);
962 }
963
964 static void grid_tangent(const CCGKey *key, int x, int y, int axis, CCGElem *grid, float t[3])
965 {
966         if (axis == 0) {
967                 if (x == key->grid_size - 1) {
968                         if (y == key->grid_size - 1)
969                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y - 1), CCG_grid_elem_co(key, grid, x - 1, y - 1));
970                         else
971                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x - 1, y));
972                 }
973                 else
974                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x + 1, y), CCG_grid_elem_co(key, grid, x, y));
975         }
976         else if (axis == 1) {
977                 if (y == key->grid_size - 1) {
978                         if (x == key->grid_size - 1)
979                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x - 1, y), CCG_grid_elem_co(key, grid, x - 1, (y - 1)));
980                         else
981                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x, (y - 1)));
982                 }
983                 else
984                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, (y + 1)), CCG_grid_elem_co(key, grid, x, y));
985         }
986 }
987
988 /* Construct 3x3 tangent-space matrix in 'mat' */
989 static void grid_tangent_matrix(float mat[3][3], const CCGKey *key,
990                                 int x, int y, CCGElem *grid)
991 {
992         grid_tangent(key, x, y, 0, grid, mat[0]);
993         normalize_v3(mat[0]);
994
995         grid_tangent(key, x, y, 1, grid, mat[1]);
996         normalize_v3(mat[1]);
997
998         copy_v3_v3(mat[2], CCG_grid_elem_no(key, grid, x, y));
999 }
1000
1001 /* XXX WARNING: subsurf elements from dm and oldGridData *must* be of the same format (size),
1002  *              because this code uses CCGKey's info from dm to access oldGridData's normals
1003  *              (through the call to grid_tangent_matrix())! */
1004 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl)
1005 {
1006         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1007         CCGElem **gridData, **subGridData;
1008         CCGKey key;
1009         MPoly *mpoly = me->mpoly;
1010         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1011         GridPaintMask *grid_paint_mask = NULL;
1012         int *gridOffset;
1013         int i, k, /*numGrids, */ gridSize, dGridSize, dSkip;
1014         int totloop, totpoly;
1015         
1016         /* this happens in the dm made by bmesh_mdisps_space_set */
1017         if (dm2 && CustomData_has_layer(&dm2->loopData, CD_MDISPS)) {
1018                 mpoly = CustomData_get_layer(&dm2->polyData, CD_MPOLY);
1019                 mdisps = CustomData_get_layer(&dm2->loopData, CD_MDISPS);
1020                 totloop = dm2->numLoopData;
1021                 totpoly = dm2->numPolyData;
1022         }
1023         else {
1024                 totloop = me->totloop;
1025                 totpoly = me->totpoly;
1026         }
1027         
1028         if (!mdisps) {
1029                 if (op == CALC_DISPLACEMENTS)
1030                         mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS, CD_DEFAULT, NULL, me->totloop);
1031                 else
1032                         return;
1033         }
1034
1035         /*numGrids = dm->getNumGrids(dm);*/ /*UNUSED*/
1036         gridSize = dm->getGridSize(dm);
1037         gridData = dm->getGridData(dm);
1038         gridOffset = dm->getGridOffset(dm);
1039         dm->getGridKey(dm, &key);
1040         subGridData = (oldGridData) ? oldGridData : gridData;
1041
1042         dGridSize = multires_side_tot[totlvl];
1043         dSkip = (dGridSize - 1) / (gridSize - 1);
1044
1045         /* multires paint masks */
1046         if (key.has_mask)
1047                 grid_paint_mask = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
1048
1049         k = 0; /*current loop/mdisp index within the mloop array*/
1050
1051         #pragma omp parallel for private(i) if (totloop * gridSize * gridSize >= CCG_OMP_LIMIT)
1052
1053         for (i = 0; i < totpoly; ++i) {
1054                 const int numVerts = mpoly[i].totloop;
1055                 int S, x, y, gIndex = gridOffset[i];
1056
1057                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1058                         GridPaintMask *gpm = grid_paint_mask ? &grid_paint_mask[gIndex] : NULL;
1059                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1060                         CCGElem *grid = gridData[gIndex];
1061                         CCGElem *subgrid = subGridData[gIndex];
1062                         float (*dispgrid)[3] = NULL;
1063
1064                         /* when adding new faces in edit mode, need to allocate disps */
1065                         if (!mdisp->disps)
1066                         #pragma omp critical
1067                         {
1068                                 multires_reallocate_mdisps(totloop, mdisps, totlvl);
1069                         }
1070
1071                         dispgrid = mdisp->disps;
1072
1073                         /* if needed, reallocate multires paint mask */
1074                         if (gpm && gpm->level < key.level) {
1075                                 gpm->level = key.level;
1076                                 #pragma omp critical
1077                                 {
1078                                         if (gpm->data)
1079                                                 MEM_freeN(gpm->data);
1080                                         gpm->data = MEM_callocN(sizeof(float) * key.grid_area, "gpm.data");
1081                                 }
1082                         }
1083
1084                         for (y = 0; y < gridSize; y++) {
1085                                 for (x = 0; x < gridSize; x++) {
1086                                         float *co = CCG_grid_elem_co(&key, grid, x, y);
1087                                         float *sco = CCG_grid_elem_co(&key, subgrid, x, y);
1088                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1089                                         float mat[3][3], disp[3], d[3], mask;
1090
1091                                         /* construct tangent space matrix */
1092                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1093
1094                                         switch (op) {
1095                                                 case APPLY_DISPLACEMENTS:
1096                                                         /* Convert displacement to object space
1097                                                          * and add to grid points */
1098                                                         mul_v3_m3v3(disp, mat, data);
1099                                                         add_v3_v3v3(co, sco, disp);
1100                                                         break;
1101                                                 case CALC_DISPLACEMENTS:
1102                                                         /* Calculate displacement between new and old
1103                                                          * grid points and convert to tangent space */
1104                                                         sub_v3_v3v3(disp, co, sco);
1105                                                         invert_m3(mat);
1106                                                         mul_v3_m3v3(data, mat, disp);
1107                                                         break;
1108                                                 case ADD_DISPLACEMENTS:
1109                                                         /* Convert subdivided displacements to tangent
1110                                                          * space and add to the original displacements */
1111                                                         invert_m3(mat);
1112                                                         mul_v3_m3v3(d, mat, co);
1113                                                         add_v3_v3(data, d);
1114                                                         break;
1115                                         }
1116
1117                                         if (gpm) {
1118                                                 switch (op) {
1119                                                         case APPLY_DISPLACEMENTS:
1120                                                                 /* Copy mask from gpm to DM */
1121                                                                 *CCG_grid_elem_mask(&key, grid, x, y) =
1122                                                                     paint_grid_paint_mask(gpm, key.level, x, y);
1123                                                                 break;
1124                                                         case CALC_DISPLACEMENTS:
1125                                                                 /* Copy mask from DM to gpm */
1126                                                                 mask = *CCG_grid_elem_mask(&key, grid, x, y);
1127                                                                 gpm->data[y * gridSize + x] = CLAMPIS(mask, 0, 1);
1128                                                                 break;
1129                                                         case ADD_DISPLACEMENTS:
1130                                                                 /* Add mask displacement to gpm */
1131                                                                 gpm->data[y * gridSize + x] +=
1132                                                                     *CCG_grid_elem_mask(&key, grid, x, y);
1133                                                                 break;
1134                                                 }
1135                                         }
1136                                 }
1137                         }
1138                 }
1139         }
1140         
1141         if (op == APPLY_DISPLACEMENTS) {
1142                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, NULL, 0);
1143                 ccgSubSurf_updateNormals(ccgdm->ss, NULL, 0);
1144         }
1145 }
1146
1147 void multires_modifier_update_mdisps(struct DerivedMesh *dm)
1148 {
1149         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1150         Object *ob;
1151         Mesh *me;
1152         MDisps *mdisps;
1153         MultiresModifierData *mmd;
1154
1155         ob = ccgdm->multires.ob;
1156         me = ccgdm->multires.ob->data;
1157         mmd = ccgdm->multires.mmd;
1158         multires_set_tot_mdisps(me, mmd->totlvl);
1159         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1160         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1161
1162         if (mdisps) {
1163                 int lvl = ccgdm->multires.lvl;
1164                 int totlvl = ccgdm->multires.totlvl;
1165                 
1166                 if (lvl < totlvl) {
1167                         DerivedMesh *lowdm, *cddm, *highdm;
1168                         CCGElem **highGridData, **lowGridData, **subGridData, **gridData, *diffGrid;
1169                         CCGKey highGridKey, lowGridKey;
1170                         CCGSubSurf *ss;
1171                         int i, j, numGrids, highGridSize, lowGridSize;
1172                         int has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1173
1174                         /* create subsurf DM from original mesh at high level */
1175                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1176                         else cddm = CDDM_from_mesh(me, NULL);
1177                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1178
1179                         highdm = subsurf_dm_create_local(ob, cddm, totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1180                         ss = ((CCGDerivedMesh *)highdm)->ss;
1181
1182                         /* create multires DM from original mesh and displacements */
1183                         lowdm = multires_dm_create_local(ob, cddm, lvl, totlvl, mmd->simple, has_mask);
1184                         cddm->release(cddm);
1185
1186                         /* gather grid data */
1187                         numGrids = highdm->getNumGrids(highdm);
1188                         highGridSize = highdm->getGridSize(highdm);
1189                         highGridData = highdm->getGridData(highdm);
1190                         highdm->getGridKey(highdm, &highGridKey);
1191                         lowGridSize = lowdm->getGridSize(lowdm);
1192                         lowGridData = lowdm->getGridData(lowdm);
1193                         lowdm->getGridKey(lowdm, &lowGridKey);
1194                         gridData = dm->getGridData(dm);
1195
1196                         BLI_assert(highGridKey.elem_size == lowGridKey.elem_size);
1197
1198                         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1199                         diffGrid = MEM_callocN(lowGridKey.elem_size * lowGridSize * lowGridSize, "diff");
1200
1201                         for (i = 0; i < numGrids; ++i) {
1202                                 /* backup subsurf grids */
1203                                 subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
1204                                 memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
1205
1206                                 /* write difference of subsurf and displaced low level into high subsurf */
1207                                 for (j = 0; j < lowGridSize * lowGridSize; ++j) {
1208                                         sub_v4_v4v4(CCG_elem_offset_co(&lowGridKey, diffGrid, j),
1209                                                     CCG_elem_offset_co(&lowGridKey, gridData[i], j),
1210                                                     CCG_elem_offset_co(&lowGridKey, lowGridData[i], j));
1211                                 }
1212
1213                                 multires_copy_dm_grid(highGridData[i], diffGrid, &highGridKey, &lowGridKey);
1214                         }
1215
1216                         /* lower level dm no longer needed at this point */
1217                         MEM_freeN(diffGrid);
1218                         lowdm->release(lowdm);
1219
1220                         /* subsurf higher levels again with difference of coordinates */
1221                         ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
1222                         ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
1223
1224                         /* add to displacements */
1225                         multiresModifier_disp_run(highdm, me, NULL, ADD_DISPLACEMENTS, subGridData, mmd->totlvl);
1226
1227                         /* free */
1228                         highdm->release(highdm);
1229                         for (i = 0; i < numGrids; ++i)
1230                                 MEM_freeN(subGridData[i]);
1231                         MEM_freeN(subGridData);
1232                 }
1233                 else {
1234                         DerivedMesh *cddm, *subdm;
1235                         int has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1236
1237                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1238                         else cddm = CDDM_from_mesh(me, NULL);
1239                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1240
1241                         subdm = subsurf_dm_create_local(ob, cddm, mmd->totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1242                         cddm->release(cddm);
1243
1244                         multiresModifier_disp_run(dm, me, NULL, CALC_DISPLACEMENTS, subdm->getGridData(subdm), mmd->totlvl);
1245
1246                         subdm->release(subdm);
1247                 }
1248         }
1249 }
1250
1251 void multires_modifier_update_hidden(DerivedMesh *dm)
1252 {
1253         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1254         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
1255         Mesh *me = ccgdm->multires.ob->data;
1256         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1257         int totlvl = ccgdm->multires.totlvl;
1258         int lvl = ccgdm->multires.lvl;
1259
1260         if (mdisps) {
1261                 int i;
1262                 
1263                 for (i = 0; i < me->totloop; i++) {
1264                         MDisps *md = &mdisps[i];
1265                         BLI_bitmap *gh = grid_hidden[i];
1266
1267                         if (!gh && md->hidden) {
1268                                 MEM_freeN(md->hidden);
1269                                 md->hidden = NULL;
1270                         }
1271                         else if (gh) {
1272                                 gh = multires_mdisps_upsample_hidden(gh, lvl, totlvl,
1273                                                                      md->hidden);
1274                                 if (md->hidden)
1275                                         MEM_freeN(md->hidden);
1276                                 
1277                                 md->hidden = gh;
1278                         }
1279                 }
1280         }
1281 }
1282
1283 void multires_set_space(DerivedMesh *dm, Object *ob, int from, int to)
1284 {
1285         DerivedMesh *ccgdm = NULL, *subsurf = NULL;
1286         CCGElem **gridData, **subGridData = NULL;
1287         CCGKey key;
1288         MPoly *mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1289         MDisps *mdisps;
1290         MultiresModifierData *mmd = get_multires_modifier(NULL, ob, 1);
1291         int *gridOffset, totlvl;
1292         int i, k, numGrids, gridSize, dGridSize, dSkip;
1293         
1294         if (!mmd)
1295                 return;
1296         
1297         mdisps = CustomData_get_layer(&dm->loopData, CD_MDISPS);
1298
1299         if (!mdisps) {
1300                 goto cleanup;
1301         }
1302
1303         totlvl = mmd->totlvl;
1304         ccgdm = multires_dm_create_local(ob, dm, totlvl, totlvl, mmd->simple, FALSE);
1305         
1306         subsurf = subsurf_dm_create_local(ob, dm, totlvl,
1307                                           mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
1308
1309         numGrids = subsurf->getNumGrids(subsurf);
1310         gridSize = subsurf->getGridSize(subsurf);
1311         gridData = subsurf->getGridData(subsurf);
1312         subsurf->getGridKey(subsurf, &key);
1313
1314         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1315
1316         for (i = 0; i < numGrids; i++) {
1317                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1318                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1319         }
1320         
1321         /* numGrids = ccgdm->dm->getNumGrids((DerivedMesh *)ccgdm); */ /*UNUSED*/
1322         gridSize = ccgdm->getGridSize((DerivedMesh *)ccgdm);
1323         gridData = ccgdm->getGridData((DerivedMesh *)ccgdm);
1324         gridOffset = ccgdm->getGridOffset((DerivedMesh *)ccgdm);
1325
1326         dGridSize = multires_side_tot[totlvl];
1327         dSkip = (dGridSize - 1) / (gridSize - 1);
1328
1329         k = 0; /*current loop/mdisp index within the mloop array*/
1330
1331         //#pragma omp parallel for private(i) if (dm->numLoopData * gridSize * gridSize >= CCG_OMP_LIMIT)
1332
1333         for (i = 0; i < dm->numPolyData; ++i) {
1334                 const int numVerts = mpoly[i].totloop;
1335                 int S, x, y, gIndex = gridOffset[i];
1336                                                 
1337                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1338                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1339                         /* CCGElem *grid = gridData[gIndex]; */ /* UNUSED */
1340                         CCGElem *subgrid = subGridData[gIndex];
1341                         float (*dispgrid)[3] = NULL;
1342
1343                         /* when adding new faces in edit mode, need to allocate disps */
1344                         if (!mdisp->disps) {
1345                                 mdisp->totdisp = gridSize * gridSize;
1346                                 mdisp->level = totlvl;
1347                                 mdisp->disps = MEM_callocN(sizeof(float) * 3 * mdisp->totdisp, "disp in multires_set_space");
1348                         }
1349
1350                         dispgrid = mdisp->disps;
1351
1352                         for (y = 0; y < gridSize; y++) {
1353                                 for (x = 0; x < gridSize; x++) {
1354                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1355                                         float *co = CCG_grid_elem_co(&key, subgrid, x, y);
1356                                         float mat[3][3], dco[3];
1357                                         
1358                                         /* construct tangent space matrix */
1359                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1360
1361                                         /* convert to absolute coordinates in space */
1362                                         if (from == MULTIRES_SPACE_TANGENT) {
1363                                                 mul_v3_m3v3(dco, mat, data);
1364                                                 add_v3_v3(dco, co);
1365                                         }
1366                                         else if (from == MULTIRES_SPACE_OBJECT) {
1367                                                 add_v3_v3v3(dco, co, data);
1368                                         }
1369                                         else if (from == MULTIRES_SPACE_ABSOLUTE) {
1370                                                 copy_v3_v3(dco, data);
1371                                         }
1372                                         
1373                                         /*now, convert to desired displacement type*/
1374                                         if (to == MULTIRES_SPACE_TANGENT) {
1375                                                 invert_m3(mat);
1376
1377                                                 sub_v3_v3(dco, co);
1378                                                 mul_v3_m3v3(data, mat, dco);
1379                                         }
1380                                         else if (to == MULTIRES_SPACE_OBJECT) {
1381                                                 sub_v3_v3(dco, co);
1382                                                 mul_v3_m3v3(data, mat, dco);
1383                                         }
1384                                         else if (to == MULTIRES_SPACE_ABSOLUTE) {
1385                                                 copy_v3_v3(data, dco);
1386                                         }
1387                                 }
1388                         }
1389                 }
1390         }
1391
1392 cleanup:
1393         if (subsurf) {
1394                 subsurf->needsFree = 1;
1395                 subsurf->release(subsurf);
1396         }
1397
1398         if (ccgdm) {
1399                 ccgdm->needsFree = 1;
1400                 ccgdm->release(ccgdm);
1401         }
1402 }
1403
1404 void multires_stitch_grids(Object *ob)
1405 {
1406         /* utility for smooth brush */
1407         if (ob && ob->derivedFinal) {
1408                 CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)ob->derivedFinal;
1409                 CCGFace **faces;
1410                 int totface;
1411
1412                 if (ccgdm->pbvh) {
1413                         BKE_pbvh_get_grid_updates(ccgdm->pbvh, 0, (void ***)&faces, &totface);
1414
1415                         if (totface) {
1416                                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, faces, totface);
1417                                 MEM_freeN(faces);
1418                         }
1419                 }
1420         }
1421 }
1422
1423 DerivedMesh *multires_make_derived_from_derived(DerivedMesh *dm,
1424                                                 MultiresModifierData *mmd,
1425                                                 Object *ob,
1426                                                 MultiresFlags flags)
1427 {
1428         Mesh *me = ob->data;
1429         DerivedMesh *result;
1430         CCGDerivedMesh *ccgdm = NULL;
1431         CCGElem **gridData, **subGridData;
1432         CCGKey key;
1433         int lvl = multires_get_level(ob, mmd, (flags & MULTIRES_USE_RENDER_PARAMS));
1434         int i, gridSize, numGrids;
1435
1436         if (lvl == 0)
1437                 return dm;
1438
1439         result = subsurf_dm_create_local(ob, dm, lvl,
1440                                          mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges,
1441                                          mmd->flags & eMultiresModifierFlag_PlainUv,
1442                                          flags & MULTIRES_ALLOC_PAINT_MASK);
1443
1444         if (!(flags & MULTIRES_USE_LOCAL_MMD)) {
1445                 ccgdm = (CCGDerivedMesh *)result;
1446
1447                 ccgdm->multires.ob = ob;
1448                 ccgdm->multires.mmd = mmd;
1449                 ccgdm->multires.local_mmd = 0;
1450                 ccgdm->multires.lvl = lvl;
1451                 ccgdm->multires.totlvl = mmd->totlvl;
1452                 ccgdm->multires.modified_flags = 0;
1453         }
1454
1455         numGrids = result->getNumGrids(result);
1456         gridSize = result->getGridSize(result);
1457         gridData = result->getGridData(result);
1458         result->getGridKey(result, &key);
1459
1460         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1461
1462         for (i = 0; i < numGrids; i++) {
1463                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1464                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1465         }
1466
1467         multires_set_tot_mdisps(me, mmd->totlvl);
1468         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1469
1470         /*run displacement*/
1471         multiresModifier_disp_run(result, ob->data, dm, APPLY_DISPLACEMENTS, subGridData, mmd->totlvl);
1472
1473         /* copy hidden elements for this level */
1474         if (ccgdm)
1475                 multires_output_hidden_to_ccgdm(ccgdm, me, lvl);
1476
1477         for (i = 0; i < numGrids; i++)
1478                 MEM_freeN(subGridData[i]);
1479         MEM_freeN(subGridData);
1480
1481         return result;
1482 }
1483
1484 /**** Old Multires code ****
1485  ***************************/
1486
1487 /* Adapted from sculptmode.c */
1488 void old_mdisps_bilinear(float out[3], float (*disps)[3], const int st, float u, float v)
1489 {
1490         int x, y, x2, y2;
1491         const int st_max = st - 1;
1492         float urat, vrat, uopp;
1493         float d[4][3], d2[2][3];
1494         
1495         if (!disps || isnan(u) || isnan(v))
1496                 return;
1497                         
1498         if (u < 0)
1499                 u = 0;
1500         else if (u >= st)
1501                 u = st_max;
1502         if (v < 0)
1503                 v = 0;
1504         else if (v >= st)
1505                 v = st_max;
1506
1507         x = floor(u);
1508         y = floor(v);
1509         x2 = x + 1;
1510         y2 = y + 1;
1511
1512         if (x2 >= st) x2 = st_max;
1513         if (y2 >= st) y2 = st_max;
1514         
1515         urat = u - x;
1516         vrat = v - y;
1517         uopp = 1 - urat;
1518
1519         mul_v3_v3fl(d[0], disps[y * st + x], uopp);
1520         mul_v3_v3fl(d[1], disps[y * st + x2], urat);
1521         mul_v3_v3fl(d[2], disps[y2 * st + x], uopp);
1522         mul_v3_v3fl(d[3], disps[y2 * st + x2], urat);
1523
1524         add_v3_v3v3(d2[0], d[0], d[1]);
1525         add_v3_v3v3(d2[1], d[2], d[3]);
1526         mul_v3_fl(d2[0], 1 - vrat);
1527         mul_v3_fl(d2[1], vrat);
1528
1529         add_v3_v3v3(out, d2[0], d2[1]);
1530 }
1531
1532 static void old_mdisps_rotate(int S, int UNUSED(newside), int oldside, int x, int y, float *u, float *v)
1533 {
1534         float offset = oldside * 0.5f - 0.5f;
1535
1536         if (S == 1) { *u = offset + x; *v = offset - y; }
1537         if (S == 2) { *u = offset + y; *v = offset + x; }
1538         if (S == 3) { *u = offset - x; *v = offset + y; }
1539         if (S == 0) { *u = offset - y; *v = offset - x; }
1540 }
1541
1542 static void old_mdisps_convert(MFace *mface, MDisps *mdisp)
1543 {
1544         int newlvl = log(sqrt(mdisp->totdisp) - 1) / M_LN2;
1545         int oldlvl = newlvl + 1;
1546         int oldside = multires_side_tot[oldlvl];
1547         int newside = multires_side_tot[newlvl];
1548         int nvert = (mface->v4) ? 4 : 3;
1549         int newtotdisp = multires_grid_tot[newlvl] * nvert;
1550         int x, y, S;
1551         float (*disps)[3], (*out)[3], u = 0.0f, v = 0.0f; /* Quite gcc barking. */
1552
1553         disps = MEM_callocN(sizeof(float) * 3 * newtotdisp, "multires disps");
1554
1555         out = disps;
1556         for (S = 0; S < nvert; S++) {
1557                 for (y = 0; y < newside; ++y) {
1558                         for (x = 0; x < newside; ++x, ++out) {
1559                                 old_mdisps_rotate(S, newside, oldside, x, y, &u, &v);
1560                                 old_mdisps_bilinear(*out, mdisp->disps, oldside, u, v);
1561
1562                                 if (S == 1) { (*out)[1] = -(*out)[1]; }
1563                                 else if (S == 2) { SWAP(float, (*out)[0], (*out)[1]); }
1564                                 else if (S == 3) { (*out)[0] = -(*out)[0]; }
1565                                 else if (S == 0) { SWAP(float, (*out)[0], (*out)[1]); (*out)[0] = -(*out)[0]; (*out)[1] = -(*out)[1]; }
1566                         }
1567                 }
1568         }
1569
1570         MEM_freeN(mdisp->disps);
1571
1572         mdisp->totdisp = newtotdisp;
1573         mdisp->level = newlvl;
1574         mdisp->disps = disps;
1575 }
1576
1577 void multires_load_old_250(Mesh *me)
1578 {
1579         MDisps *mdisps, *mdisps2;
1580         MFace *mf;
1581         int i, j, k;
1582
1583         mdisps = CustomData_get_layer(&me->fdata, CD_MDISPS);
1584
1585         if (mdisps) {
1586                 for (i = 0; i < me->totface; i++)
1587                         if (mdisps[i].totdisp)
1588                                 old_mdisps_convert(&me->mface[i], &mdisps[i]);
1589                 
1590                 CustomData_add_layer(&me->ldata, CD_MDISPS, CD_CALLOC, NULL, me->totloop);
1591                 mdisps2 = CustomData_get_layer(&me->ldata, CD_MDISPS);
1592
1593                 k = 0;
1594                 mf = me->mface;
1595                 for (i = 0; i < me->totface; i++, mf++) {
1596                         int nvert = mf->v4 ? 4 : 3;
1597                         int totdisp = mdisps[i].totdisp / nvert;
1598                         
1599                         for (j = 0; j < mf->v4 ? 4 : 3; j++, k++) {
1600                                 mdisps2[k].disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disp in conversion");
1601                                 mdisps2[k].totdisp = totdisp;
1602                                 mdisps2[k].level = mdisps[i].level;
1603                                 memcpy(mdisps2[k].disps, mdisps[i].disps + totdisp * j, totdisp);
1604                         }
1605
1606                 }
1607         }
1608 }
1609
1610 /* Does not actually free lvl itself */
1611 static void multires_free_level(MultiresLevel *lvl)
1612 {
1613         if (lvl) {
1614                 if (lvl->faces) MEM_freeN(lvl->faces);
1615                 if (lvl->edges) MEM_freeN(lvl->edges);
1616                 if (lvl->colfaces) MEM_freeN(lvl->colfaces);
1617         }
1618 }
1619
1620 void multires_free(Multires *mr)
1621 {
1622         if (mr) {
1623                 MultiresLevel *lvl = mr->levels.first;
1624
1625                 /* Free the first-level data */
1626                 if (lvl) {
1627                         CustomData_free(&mr->vdata, lvl->totvert);
1628                         CustomData_free(&mr->fdata, lvl->totface);
1629                         if (mr->edge_flags)
1630                                 MEM_freeN(mr->edge_flags);
1631                         if (mr->edge_creases)
1632                                 MEM_freeN(mr->edge_creases);
1633                 }
1634
1635                 while (lvl) {
1636                         multires_free_level(lvl);
1637                         lvl = lvl->next;
1638                 }
1639
1640                 MEM_freeN(mr->verts);
1641
1642                 BLI_freelistN(&mr->levels);
1643
1644                 MEM_freeN(mr);
1645         }
1646 }
1647
1648 static void create_old_vert_face_map(ListBase **map, IndexNode **mem, const MultiresFace *mface,
1649                                      const int totvert, const int totface)
1650 {
1651         int i, j;
1652         IndexNode *node = NULL;
1653         
1654         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
1655         (*mem) = MEM_callocN(sizeof(IndexNode) * totface * 4, "vert face map mem");
1656         node = *mem;
1657         
1658         /* Find the users */
1659         for (i = 0; i < totface; ++i) {
1660                 for (j = 0; j < (mface[i].v[3] ? 4 : 3); ++j, ++node) {
1661                         node->index = i;
1662                         BLI_addtail(&(*map)[mface[i].v[j]], node);
1663                 }
1664         }
1665 }
1666
1667 static void create_old_vert_edge_map(ListBase **map, IndexNode **mem, const MultiresEdge *medge,
1668                                      const int totvert, const int totedge)
1669 {
1670         int i, j;
1671         IndexNode *node = NULL;
1672         
1673         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
1674         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
1675         node = *mem;
1676         
1677         /* Find the users */
1678         for (i = 0; i < totedge; ++i) {
1679                 for (j = 0; j < 2; ++j, ++node) {
1680                         node->index = i;
1681                         BLI_addtail(&(*map)[medge[i].v[j]], node);
1682                 }
1683         }
1684 }
1685
1686 static MultiresFace *find_old_face(ListBase *map, MultiresFace *faces, int v1, int v2, int v3, int v4)
1687 {
1688         IndexNode *n1;
1689         int v[4], i, j;
1690
1691         v[0] = v1;
1692         v[1] = v2;
1693         v[2] = v3;
1694         v[3] = v4;
1695
1696         for (n1 = map[v1].first; n1; n1 = n1->next) {
1697                 int fnd[4] = {0, 0, 0, 0};
1698
1699                 for (i = 0; i < 4; ++i) {
1700                         for (j = 0; j < 4; ++j) {
1701                                 if (v[i] == faces[n1->index].v[j])
1702                                         fnd[i] = 1;
1703                         }
1704                 }
1705
1706                 if (fnd[0] && fnd[1] && fnd[2] && fnd[3])
1707                         return &faces[n1->index];
1708         }
1709
1710         return NULL;
1711 }
1712
1713 static MultiresEdge *find_old_edge(ListBase *map, MultiresEdge *edges, int v1, int v2)
1714 {
1715         IndexNode *n1, *n2;
1716
1717         for (n1 = map[v1].first; n1; n1 = n1->next) {
1718                 for (n2 = map[v2].first; n2; n2 = n2->next) {
1719                         if (n1->index == n2->index)
1720                                 return &edges[n1->index];
1721                 }
1722         }
1723
1724         return NULL;
1725 }
1726
1727 static void multires_load_old_edges(ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst, int v1, int v2, int mov)
1728 {
1729         int emid = find_old_edge(emap[2], lvl->edges, v1, v2)->mid;
1730         vvmap[dst + mov] = emid;
1731
1732         if (lvl->next->next) {
1733                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v1, emid, mov / 2);
1734                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v2, emid, -mov / 2);
1735         }
1736 }
1737
1738 static void multires_load_old_faces(ListBase **fmap, ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst,
1739                                     int v1, int v2, int v3, int v4, int st2, int st3)
1740 {
1741         int fmid;
1742         int emid13, emid14, emid23, emid24;
1743
1744         if (lvl && lvl->next) {
1745                 fmid = find_old_face(fmap[1], lvl->faces, v1, v2, v3, v4)->mid;
1746                 vvmap[dst] = fmid;
1747
1748                 emid13 = find_old_edge(emap[1], lvl->edges, v1, v3)->mid;
1749                 emid14 = find_old_edge(emap[1], lvl->edges, v1, v4)->mid;
1750                 emid23 = find_old_edge(emap[1], lvl->edges, v2, v3)->mid;
1751                 emid24 = find_old_edge(emap[1], lvl->edges, v2, v4)->mid;
1752
1753
1754                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 + st3,
1755                                         fmid, v2, emid23, emid24, st2, st3 / 2);
1756
1757                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 + st3,
1758                                         emid14, emid24, fmid, v4, st2, st3 / 2);
1759
1760                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 - st3,
1761                                         emid13, emid23, v3, fmid, st2, st3 / 2);
1762
1763                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 - st3,
1764                                         v1, fmid, emid13, emid14, st2, st3 / 2);
1765
1766                 if (lvl->next->next) {
1767                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid24, fmid, st3);
1768                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid13, fmid, -st3);
1769                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid14, fmid, -st2 * st3);
1770                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid23, fmid, st2 * st3);
1771                 }
1772         }
1773 }
1774
1775 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert)
1776 {
1777         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *) dm;
1778         CCGSubSurf *ss = ccgdm->ss;
1779         CCGElem *vd;
1780         CCGKey key;
1781         int index;
1782         int totvert, totedge, totface;
1783         int gridSize = ccgSubSurf_getGridSize(ss);
1784         int edgeSize = ccgSubSurf_getEdgeSize(ss);
1785         int i = 0;
1786
1787         dm->getGridKey(dm, &key);
1788
1789         totface = ccgSubSurf_getNumFaces(ss);
1790         for (index = 0; index < totface; index++) {
1791                 CCGFace *f = ccgdm->faceMap[index].face;
1792                 int x, y, S, numVerts = ccgSubSurf_getFaceNumVerts(f);
1793
1794                 vd = ccgSubSurf_getFaceCenterData(f);
1795                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1796                 i++;
1797                 
1798                 for (S = 0; S < numVerts; S++) {
1799                         for (x = 1; x < gridSize - 1; x++, i++) {
1800                                 vd = ccgSubSurf_getFaceGridEdgeData(ss, f, S, x);
1801                                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1802                         }
1803                 }
1804
1805                 for (S = 0; S < numVerts; S++) {
1806                         for (y = 1; y < gridSize - 1; y++) {
1807                                 for (x = 1; x < gridSize - 1; x++, i++) {
1808                                         vd = ccgSubSurf_getFaceGridData(ss, f, S, x, y);
1809                                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1810                                 }
1811                         }
1812                 }
1813         }
1814
1815         totedge = ccgSubSurf_getNumEdges(ss);
1816         for (index = 0; index < totedge; index++) {
1817                 CCGEdge *e = ccgdm->edgeMap[index].edge;
1818                 int x;
1819
1820                 for (x = 1; x < edgeSize - 1; x++, i++) {
1821                         vd = ccgSubSurf_getEdgeData(ss, e, x);
1822                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1823                 }
1824         }
1825
1826         totvert = ccgSubSurf_getNumVerts(ss);
1827         for (index = 0; index < totvert; index++) {
1828                 CCGVert *v = ccgdm->vertMap[index].vert;
1829
1830                 vd = ccgSubSurf_getVertData(ss, v);
1831                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1832                 i++;
1833         }
1834
1835         ccgSubSurf_updateToFaces(ss, 0, NULL, 0);
1836 }
1837
1838 /* Loads a multires object stored in the old Multires struct into the new format */
1839 static void multires_load_old_dm(DerivedMesh *dm, Mesh *me, int totlvl)
1840 {
1841         MultiresLevel *lvl, *lvl1;
1842         Multires *mr = me->mr;
1843         MVert *vsrc, *vdst;
1844         unsigned int src, dst;
1845         int st = multires_side_tot[totlvl - 1] - 1;
1846         int extedgelen = multires_side_tot[totlvl] - 2;
1847         int *vvmap; // inorder for dst, map to src
1848         int crossedgelen;
1849         int s, x, tottri, totquad;
1850         unsigned int i, j, totvert;
1851
1852         src = 0;
1853         vsrc = mr->verts;
1854         vdst = dm->getVertArray(dm);
1855         totvert = (unsigned int)dm->getNumVerts(dm);
1856         vvmap = MEM_callocN(sizeof(int) * totvert, "multires vvmap");
1857
1858         lvl1 = mr->levels.first;
1859         /* Load base verts */
1860         for (i = 0; i < lvl1->totvert; ++i) {
1861                 vvmap[totvert - lvl1->totvert + i] = src;
1862                 src++;
1863         }
1864
1865         /* Original edges */
1866         dst = totvert - lvl1->totvert - extedgelen * lvl1->totedge;
1867         for (i = 0; i < lvl1->totedge; ++i) {
1868                 int ldst = dst + extedgelen * i;
1869                 int lsrc = src;
1870                 lvl = lvl1->next;
1871
1872                 for (j = 2; j <= mr->level_count; ++j) {
1873                         int base = multires_side_tot[totlvl - j + 1] - 2;
1874                         int skip = multires_side_tot[totlvl - j + 2] - 1;
1875                         int st = multires_side_tot[j - 1] - 1;
1876
1877                         for (x = 0; x < st; ++x)
1878                                 vvmap[ldst + base + x * skip] = lsrc + st * i + x;
1879
1880                         lsrc += lvl->totvert - lvl->prev->totvert;
1881                         lvl = lvl->next;
1882                 }
1883         }
1884
1885         /* Center points */
1886         dst = 0;
1887         for (i = 0; i < lvl1->totface; ++i) {
1888                 int sides = lvl1->faces[i].v[3] ? 4 : 3;
1889
1890                 vvmap[dst] = src + lvl1->totedge + i;
1891                 dst += 1 + sides * (st - 1) * st;
1892         }
1893
1894
1895         /* The rest is only for level 3 and up */
1896         if (lvl1->next && lvl1->next->next) {
1897                 ListBase **fmap, **emap;
1898                 IndexNode **fmem, **emem;
1899
1900                 /* Face edge cross */
1901                 tottri = totquad = 0;
1902                 crossedgelen = multires_side_tot[totlvl - 1] - 2;
1903                 dst = 0;
1904                 for (i = 0; i < lvl1->totface; ++i) {
1905                         int sides = lvl1->faces[i].v[3] ? 4 : 3;
1906
1907                         lvl = lvl1->next->next;
1908                         dst++;
1909
1910                         for (j = 3; j <= mr->level_count; ++j) {
1911                                 int base = multires_side_tot[totlvl - j + 1] - 2;
1912                                 int skip = multires_side_tot[totlvl - j + 2] - 1;
1913                                 int st = pow(2, j - 2);
1914                                 int st2 = pow(2, j - 3);
1915                                 int lsrc = lvl->prev->totvert;
1916
1917                                 /* Skip exterior edge verts */
1918                                 lsrc += lvl1->totedge * st;
1919
1920                                 /* Skip earlier face edge crosses */
1921                                 lsrc += st2 * (tottri * 3 + totquad * 4);
1922
1923                                 for (s = 0; s < sides; ++s) {
1924                                         for (x = 0; x < st2; ++x) {
1925                                                 vvmap[dst + crossedgelen * (s + 1) - base - x * skip - 1] = lsrc;
1926                                                 lsrc++;
1927                                         }
1928                                 }
1929
1930                                 lvl = lvl->next;
1931                         }
1932
1933                         dst += sides * (st - 1) * st;
1934
1935                         if (sides == 4) ++totquad;
1936                         else ++tottri;
1937
1938                 }
1939
1940                 /* calculate vert to edge/face maps for each level (except the last) */
1941                 fmap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires fmap");
1942                 emap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires emap");
1943                 fmem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires fmem");
1944                 emem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires emem");
1945                 lvl = lvl1;
1946                 for (i = 0; i < (unsigned int)mr->level_count - 1; ++i) {
1947                         create_old_vert_face_map(fmap + i, fmem + i, lvl->faces, lvl->totvert, lvl->totface);
1948                         create_old_vert_edge_map(emap + i, emem + i, lvl->edges, lvl->totvert, lvl->totedge);
1949                         lvl = lvl->next;
1950                 }
1951
1952                 /* Interior face verts */
1953                 /* lvl = lvl1->next->next; */ /* UNUSED */
1954                 dst = 0;
1955                 for (j = 0; j < lvl1->totface; ++j) {
1956                         int sides = lvl1->faces[j].v[3] ? 4 : 3;
1957                         int ldst = dst + 1 + sides * (st - 1);
1958
1959                         for (s = 0; s < sides; ++s) {
1960                                 int st2 = multires_side_tot[totlvl - 1] - 2;
1961                                 int st3 = multires_side_tot[totlvl - 2] - 2;
1962                                 int st4 = st3 == 0 ? 1 : (st3 + 1) / 2;
1963                                 int mid = ldst + st2 * st3 + st3;
1964                                 int cv = lvl1->faces[j].v[s];
1965                                 int nv = lvl1->faces[j].v[s == sides - 1 ? 0 : s + 1];
1966                                 int pv = lvl1->faces[j].v[s == 0 ? sides - 1 : s - 1];
1967
1968                                 multires_load_old_faces(fmap, emap, lvl1->next, vvmap, mid,
1969                                                         vvmap[dst], cv,
1970                                                         find_old_edge(emap[0], lvl1->edges, pv, cv)->mid,
1971                                                         find_old_edge(emap[0], lvl1->edges, cv, nv)->mid,
1972                                                         st2, st4);
1973
1974                                 ldst += (st - 1) * (st - 1);
1975                         }
1976
1977
1978                         dst = ldst;
1979                 }
1980
1981                 /*lvl = lvl->next;*/ /*UNUSED*/
1982
1983                 for (i = 0; i < (unsigned int)(mr->level_count - 1); ++i) {
1984                         MEM_freeN(fmap[i]);
1985                         MEM_freeN(fmem[i]);
1986                         MEM_freeN(emap[i]);
1987                         MEM_freeN(emem[i]);
1988                 }
1989
1990                 MEM_freeN(fmap);
1991                 MEM_freeN(emap);
1992                 MEM_freeN(fmem);
1993                 MEM_freeN(emem);
1994         }
1995
1996         /* Transfer verts */
1997         for (i = 0; i < totvert; ++i)
1998                 copy_v3_v3(vdst[i].co, vsrc[vvmap[i]].co);
1999
2000         MEM_freeN(vvmap);
2001
2002         multires_mvert_to_ss(dm, vdst);
2003 }
2004
2005 /* Copy the first-level vcol data to the mesh, if it exists */
2006 /* Warning: higher-level vcol data will be lost */
2007 static void multires_load_old_vcols(Mesh *me)
2008 {
2009         MultiresLevel *lvl;
2010         MultiresColFace *colface;
2011         MCol *mcol;
2012         int i, j;
2013
2014         if (!(lvl = me->mr->levels.first))
2015                 return;
2016
2017         if (!(colface = lvl->colfaces))
2018                 return;
2019
2020         /* older multires format never supported multiple vcol layers,
2021          * so we can assume the active vcol layer is the correct one */
2022         if (!(mcol = CustomData_get_layer(&me->fdata, CD_MCOL)))
2023                 return;
2024         
2025         for (i = 0; i < me->totface; ++i) {
2026                 for (j = 0; j < 4; ++j) {
2027                         mcol[i * 4 + j].a = colface[i].col[j].a;
2028                         mcol[i * 4 + j].r = colface[i].col[j].r;
2029                         mcol[i * 4 + j].g = colface[i].col[j].g;
2030                         mcol[i * 4 + j].b = colface[i].col[j].b;
2031                 }
2032         }
2033 }
2034
2035 /* Copy the first-level face-flag data to the mesh */
2036 static void multires_load_old_face_flags(Mesh *me)
2037 {
2038         MultiresLevel *lvl;
2039         MultiresFace *faces;
2040         int i;
2041
2042         if (!(lvl = me->mr->levels.first))
2043                 return;
2044
2045         if (!(faces = lvl->faces))
2046                 return;
2047
2048         for (i = 0; i < me->totface; ++i)
2049                 me->mface[i].flag = faces[i].flag;
2050 }
2051
2052 void multires_load_old(Object *ob, Mesh *me)
2053 {
2054         MultiresLevel *lvl;
2055         ModifierData *md;
2056         MultiresModifierData *mmd;
2057         DerivedMesh *dm, *orig;
2058         CustomDataLayer *l;
2059         int i;
2060
2061         /* Load original level into the mesh */
2062         lvl = me->mr->levels.first;
2063         CustomData_free_layers(&me->vdata, CD_MVERT, lvl->totvert);
2064         CustomData_free_layers(&me->edata, CD_MEDGE, lvl->totedge);
2065         CustomData_free_layers(&me->fdata, CD_MFACE, lvl->totface);
2066         me->totvert = lvl->totvert;
2067         me->totedge = lvl->totedge;
2068         me->totface = lvl->totface;
2069         me->mvert = CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, me->totvert);
2070         me->medge = CustomData_add_layer(&me->edata, CD_MEDGE, CD_CALLOC, NULL, me->totedge);
2071         me->mface = CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, me->totface);
2072         memcpy(me->mvert, me->mr->verts, sizeof(MVert) * me->totvert);
2073         for (i = 0; i < me->totedge; ++i) {
2074                 me->medge[i].v1 = lvl->edges[i].v[0];
2075                 me->medge[i].v2 = lvl->edges[i].v[1];
2076         }
2077         for (i = 0; i < me->totface; ++i) {
2078                 me->mface[i].v1 = lvl->faces[i].v[0];
2079                 me->mface[i].v2 = lvl->faces[i].v[1];
2080                 me->mface[i].v3 = lvl->faces[i].v[2];
2081                 me->mface[i].v4 = lvl->faces[i].v[3];
2082                 me->mface[i].mat_nr = lvl->faces[i].mat_nr;
2083         }
2084
2085         /* Copy the first-level data to the mesh */
2086         /* XXX We must do this before converting tessfaces to polys/lopps! */
2087         for (i = 0, l = me->mr->vdata.layers; i < me->mr->vdata.totlayer; ++i, ++l)
2088                 CustomData_add_layer(&me->vdata, l->type, CD_REFERENCE, l->data, me->totvert);
2089         for (i = 0, l = me->mr->fdata.layers; i < me->mr->fdata.totlayer; ++i, ++l)
2090                 CustomData_add_layer(&me->fdata, l->type, CD_REFERENCE, l->data, me->totface);
2091         CustomData_reset(&me->mr->vdata);
2092         CustomData_reset(&me->mr->fdata);
2093
2094         multires_load_old_vcols(me);
2095         multires_load_old_face_flags(me);
2096
2097         /* multiresModifier_subdivide (actually, multires_subdivide) expects polys, not tessfaces! */
2098         BKE_mesh_convert_mfaces_to_mpolys(me);
2099
2100         /* Add a multires modifier to the object */
2101         md = ob->modifiers.first;
2102         while (md && modifierType_getInfo(md->type)->type == eModifierTypeType_OnlyDeform)
2103                 md = md->next;                          
2104         mmd = (MultiresModifierData *)modifier_new(eModifierType_Multires);
2105         BLI_insertlinkbefore(&ob->modifiers, md, mmd);
2106
2107         for (i = 0; i < me->mr->level_count - 1; ++i)
2108                 multiresModifier_subdivide(mmd, ob, 1, 0);
2109
2110         mmd->lvl = mmd->totlvl;
2111         orig = CDDM_from_mesh(me, NULL);
2112         /* XXX We *must* alloc paint mask here, else we have some kind of mismatch in
2113          *     multires_modifier_update_mdisps() (called by dm->release(dm)), which always creates the
2114          *     reference subsurfed dm with this option, before calling multiresModifier_disp_run(),
2115          *     which implicitly expects both subsurfs from its first dm and oldGridData parameters to
2116          *     be of the same "format"! */
2117         dm = multires_make_derived_from_derived(orig, mmd, ob, 0);
2118
2119         multires_load_old_dm(dm, me, mmd->totlvl + 1);
2120
2121         multires_dm_mark_as_modified(dm, MULTIRES_COORDS_MODIFIED);
2122         dm->release(dm);
2123         orig->release(orig);
2124
2125         /* Remove the old multires */
2126         multires_free(me->mr);
2127         me->mr = NULL;
2128 }
2129
2130 /* If 'ob' and 'to_ob' both have multires modifiers, synchronize them
2131  * such that 'ob' has the same total number of levels as 'to_ob'. */
2132 static void multires_sync_levels(Scene *scene, Object *ob, Object *to_ob)
2133 {
2134         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2135         MultiresModifierData *to_mmd = get_multires_modifier(scene, to_ob, 1);
2136
2137         if (!mmd) {
2138                 /* object could have MDISP even when there is no multires modifier
2139                  * this could lead to troubles due to i've got no idea how mdisp could be
2140                  * upsampled correct without modifier data.
2141                  * just remove mdisps if no multires present (nazgul) */
2142
2143                 multires_customdata_delete(ob->data);
2144         }
2145
2146         if (mmd && to_mmd) {
2147                 if (mmd->totlvl > to_mmd->totlvl)
2148                         multires_del_higher(mmd, ob, to_mmd->totlvl);
2149                 else
2150                         multires_subdivide(mmd, ob, to_mmd->totlvl, 0, mmd->simple);
2151         }
2152 }
2153
2154 static void multires_apply_smat(Scene *scene, Object *ob, float smat[3][3])
2155 {
2156         DerivedMesh *dm = NULL, *cddm = NULL, *subdm = NULL;
2157         CCGElem **gridData, **subGridData;
2158         CCGKey dm_key, subdm_key;
2159         Mesh *me = (Mesh *)ob->data;
2160         MPoly *mpoly = me->mpoly;
2161         /* MLoop *mloop = me->mloop; */ /* UNUSED */
2162         MDisps *mdisps;
2163         int *gridOffset;
2164         int i, /*numGrids, */ gridSize, dGridSize, dSkip, totvert;
2165         float (*vertCos)[3] = NULL;
2166         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2167         MultiresModifierData high_mmd;
2168
2169         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2170         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
2171
2172         if (!mdisps || !mmd || !mmd->totlvl) return;
2173
2174         /* we need derived mesh created from highest resolution */
2175         high_mmd = *mmd;
2176         high_mmd.lvl = high_mmd.totlvl;
2177
2178         /* unscaled multires with applied displacement */
2179         subdm = get_multires_dm(scene, &high_mmd, ob);
2180
2181         /* prepare scaled CDDM to create ccgDN */
2182         cddm = mesh_get_derived_deform(scene, ob, CD_MASK_BAREMESH);
2183
2184         totvert = cddm->getNumVerts(cddm);
2185         vertCos = MEM_mallocN(sizeof(*vertCos) * totvert, "multiresScale vertCos");
2186         cddm->getVertCos(cddm, vertCos);
2187         for (i = 0; i < totvert; i++)
2188                 mul_m3_v3(smat, vertCos[i]);
2189         CDDM_apply_vert_coords(cddm, vertCos);
2190         MEM_freeN(vertCos);
2191
2192         /* scaled ccgDM for tangent space of object with applied scale */
2193         dm = subsurf_dm_create_local(ob, cddm, high_mmd.totlvl, high_mmd.simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
2194         cddm->release(cddm);
2195
2196         gridSize = dm->getGridSize(dm);
2197         gridData = dm->getGridData(dm);
2198         gridOffset = dm->getGridOffset(dm);
2199         dm->getGridKey(dm, &dm_key);
2200         subGridData = subdm->getGridData(subdm);
2201         subdm->getGridKey(subdm, &subdm_key);
2202
2203         dGridSize = multires_side_tot[high_mmd.totlvl];
2204         dSkip = (dGridSize - 1) / (gridSize - 1);
2205
2206         #pragma omp parallel for private(i) if (me->totface * gridSize * gridSize * 4 >= CCG_OMP_LIMIT)
2207         for (i = 0; i < me->totpoly; ++i) {
2208                 const int numVerts = mpoly[i].totloop;
2209                 MDisps *mdisp = &mdisps[mpoly[i].loopstart];
2210                 int S, x, y, gIndex = gridOffset[i];
2211
2212                 for (S = 0; S < numVerts; ++S, ++gIndex, mdisp++) {
2213                         CCGElem *grid = gridData[gIndex];
2214                         CCGElem *subgrid = subGridData[gIndex];
2215                         float (*dispgrid)[3] = mdisp->disps;
2216
2217                         for (y = 0; y < gridSize; y++) {
2218                                 for (x = 0; x < gridSize; x++) {
2219                                         float *co = CCG_grid_elem_co(&dm_key, grid, x, y);
2220                                         float *sco = CCG_grid_elem_co(&subdm_key, subgrid, x, y);
2221                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
2222                                         float mat[3][3], disp[3];
2223
2224                                         /* construct tangent space matrix */
2225                                         grid_tangent_matrix(mat, &dm_key, x, y, grid);
2226
2227                                         /* scale subgrid coord and calculate displacement */
2228                                         mul_m3_v3(smat, sco);
2229                                         sub_v3_v3v3(disp, sco, co);
2230
2231                                         /* convert difference to tangent space */
2232                                         invert_m3(mat);
2233                                         mul_v3_m3v3(data, mat, disp);
2234                                 }
2235                         }
2236                 }
2237         }
2238
2239         dm->release(dm);
2240         subdm->release(subdm);
2241 }
2242
2243 int multires_mdisp_corners(MDisps *s)
2244 {
2245         int lvl = 13;
2246
2247         while (lvl > 0) {
2248                 int side = (1 << (lvl - 1)) + 1;
2249                 if ((s->totdisp % (side * side)) == 0) return s->totdisp / (side * side);
2250                 lvl--;
2251         }
2252
2253         return 0;
2254 }
2255
2256 void multiresModifier_scale_disp(Scene *scene, Object *ob)
2257 {
2258         float smat[3][3];
2259
2260         /* object's scale matrix */
2261         BKE_object_scale_to_mat3(ob, smat);
2262
2263         multires_apply_smat(scene, ob, smat);
2264 }
2265
2266 void multiresModifier_prepare_join(Scene *scene, Object *ob, Object *to_ob)
2267 {
2268         float smat[3][3], tmat[3][3], mat[3][3];
2269         multires_sync_levels(scene, ob, to_ob);
2270
2271         /* construct scale matrix for displacement */
2272         BKE_object_scale_to_mat3(to_ob, tmat);
2273         invert_m3(tmat);
2274         BKE_object_scale_to_mat3(ob, smat);
2275         mul_m3_m3m3(mat, smat, tmat);
2276
2277         multires_apply_smat(scene, ob, mat);
2278 }
2279
2280 /* update multires data after topology changing */
2281 void multires_topology_changed(Mesh *me)
2282 {
2283         MDisps *mdisp = NULL, *cur = NULL;
2284         int i, grid = 0;
2285
2286         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totface);
2287         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
2288
2289         if (!mdisp)
2290                 return;
2291
2292         cur = mdisp;
2293         for (i = 0; i < me->totloop; i++, cur++) {
2294                 if (cur->totdisp) {
2295                         grid = mdisp->totdisp;
2296
2297                         break;
2298                 }
2299         }
2300
2301         for (i = 0; i < me->totloop; i++, mdisp++) {
2302                 /* allocate memory for mdisp, the whole disp layer would be erased otherwise */
2303                 if (!mdisp->totdisp || !mdisp->disps) {
2304                         if (grid) {
2305                                 mdisp->totdisp = grid;
2306                                 mdisp->disps = MEM_callocN(3 * mdisp->totdisp * sizeof(float), "mdisp topology");
2307                         }
2308
2309                         continue;
2310                 }
2311         }
2312 }
2313
2314 /***************** Multires interpolation stuff *****************/
2315
2316 /* Find per-corner coordinate with given per-face UV coord */
2317 int mdisp_rot_face_to_crn(const int corners, const int face_side, const float u, const float v, float *x, float *y)
2318 {
2319         const float offset = face_side * 0.5f - 0.5f;
2320         int S = 0;
2321
2322         if (corners == 4) {
2323                 if (u <= offset && v <= offset) S = 0;
2324                 else if (u > offset  && v <= offset) S = 1;
2325                 else if (u > offset  && v > offset) S = 2;
2326                 else if (u <= offset && v >= offset) S = 3;
2327
2328                 if (S == 0) {
2329                         *y = offset - u;
2330                         *x = offset - v;
2331                 }
2332                 else if (S == 1) {
2333                         *x = u - offset;
2334                         *y = offset - v;
2335                 }
2336                 else if (S == 2) {
2337                         *y = u - offset;
2338                         *x = v - offset;
2339                 }
2340                 else if (S == 3) {
2341                         *x = offset - u;
2342                         *y = v - offset;
2343                 }
2344         }
2345         else {
2346                 int grid_size = offset;
2347                 float w = (face_side - 1) - u - v;
2348                 float W1, W2;
2349
2350                 if (u >= v && u >= w) {S = 0; W1 = w; W2 = v; }
2351                 else if (v >= u && v >= w) {S = 1; W1 = u; W2 = w; }
2352                 else {S = 2; W1 = v; W2 = u; }
2353
2354                 W1 /= (face_side - 1);
2355                 W2 /= (face_side - 1);
2356
2357                 *x = (1 - (2 * W1) / (1 - W2)) * grid_size;
2358                 *y = (1 - (2 * W2) / (1 - W1)) * grid_size;
2359         }
2360
2361         return S;
2362 }