Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / multires.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2007 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/multires.c
29  *  \ingroup bke
30  */
31
32
33 #include "MEM_guardedalloc.h"
34
35 /* for reading old multires */
36 #define DNA_DEPRECATED_ALLOW
37
38 #include "DNA_mesh_types.h"
39 #include "DNA_meshdata_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_scene_types.h"
42
43 #include "BLI_bitmap.h"
44 #include "BLI_blenlib.h"
45 #include "BLI_math.h"
46 #include "BLI_utildefines.h"
47 #include "BLI_task.h"
48
49 #include "BKE_pbvh.h"
50 #include "BKE_ccg.h"
51 #include "BKE_cdderivedmesh.h"
52 #include "BKE_mesh.h"
53 #include "BKE_mesh_mapping.h"
54 #include "BKE_modifier.h"
55 #include "BKE_multires.h"
56 #include "BKE_paint.h"
57 #include "BKE_scene.h"
58 #include "BKE_subsurf.h"
59 #include "BKE_editmesh.h"
60
61 #include "BKE_object.h"
62
63 #include "CCGSubSurf.h"
64
65 #include <math.h>
66 #include <string.h>
67
68 /* MULTIRES MODIFIER */
69 static const int multires_max_levels = 13;
70 static const int multires_grid_tot[] = {0, 4, 9, 25, 81, 289, 1089, 4225, 16641, 66049, 263169, 1050625, 4198401, 16785409};
71 static const int multires_side_tot[] = {0, 2, 3, 5,  9,  17,  33,   65,   129,   257,   513,    1025,    2049,    4097};
72
73 /* See multiresModifier_disp_run for description of each operation */
74 typedef enum {
75         APPLY_DISPLACEMENTS,
76         CALC_DISPLACEMENTS,
77         ADD_DISPLACEMENTS,
78 } DispOp;
79
80 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert);
81 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl);
82
83 /** Customdata **/
84
85 void multires_customdata_delete(Mesh *me)
86 {
87         if (me->edit_btmesh) {
88                 BMEditMesh *em = me->edit_btmesh;
89                 /* CustomData_external_remove is used here only to mark layer
90                  * as non-external for further free-ing, so zero element count
91                  * looks safer than em->totface */
92                 CustomData_external_remove(&em->bm->ldata, &me->id,
93                                            CD_MDISPS, 0);
94                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_MDISPS);
95
96                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_GRID_PAINT_MASK);
97         }
98         else {
99                 CustomData_external_remove(&me->ldata, &me->id,
100                                            CD_MDISPS, me->totloop);
101                 CustomData_free_layer_active(&me->ldata, CD_MDISPS,
102                                              me->totloop);
103
104                 CustomData_free_layer_active(&me->ldata, CD_GRID_PAINT_MASK,
105                                              me->totloop);
106         }
107 }
108
109 /** Grid hiding **/
110 static BLI_bitmap *multires_mdisps_upsample_hidden(
111         BLI_bitmap *lo_hidden,
112         int lo_level, int hi_level,
113
114         /* assumed to be at hi_level (or null) */
115         const BLI_bitmap *prev_hidden)
116 {
117         BLI_bitmap *subd;
118         int hi_gridsize = BKE_ccg_gridsize(hi_level);
119         int lo_gridsize = BKE_ccg_gridsize(lo_level);
120         int yh, xh, xl, yl, xo, yo, hi_ndx;
121         int offset, factor;
122
123         BLI_assert(lo_level <= hi_level);
124
125         /* fast case */
126         if (lo_level == hi_level)
127                 return MEM_dupallocN(lo_hidden);
128
129         subd = BLI_BITMAP_NEW(SQUARE(hi_gridsize), "MDisps.hidden upsample");
130
131         factor = BKE_ccg_factor(lo_level, hi_level);
132         offset = 1 << (hi_level - lo_level - 1);
133
134         /* low-res blocks */
135         for (yl = 0; yl < lo_gridsize; yl++) {
136                 for (xl = 0; xl < lo_gridsize; xl++) {
137                         int lo_val = BLI_BITMAP_TEST(lo_hidden, yl * lo_gridsize + xl);
138
139                         /* high-res blocks */
140                         for (yo = -offset; yo <= offset; yo++) {
141                                 yh = yl * factor + yo;
142                                 if (yh < 0 || yh >= hi_gridsize)
143                                         continue;
144
145                                 for (xo = -offset; xo <= offset; xo++) {
146                                         xh = xl * factor + xo;
147                                         if (xh < 0 || xh >= hi_gridsize)
148                                                 continue;
149
150                                         hi_ndx = yh * hi_gridsize + xh;
151
152                                         if (prev_hidden) {
153                                                 /* If prev_hidden is available, copy it to
154                                                  * subd, except when the equivalent element in
155                                                  * lo_hidden is different */
156                                                 if (lo_val != prev_hidden[hi_ndx]) {
157                                                         BLI_BITMAP_SET(subd, hi_ndx, lo_val);
158                                                 }
159                                                 else {
160                                                         BLI_BITMAP_SET(subd, hi_ndx, prev_hidden[hi_ndx]);
161                                                 }
162                                         }
163                                         else {
164                                                 BLI_BITMAP_SET(subd, hi_ndx, lo_val);
165                                         }
166                                 }
167                         }
168                 }
169         }
170
171         return subd;
172 }
173
174 static BLI_bitmap *multires_mdisps_downsample_hidden(BLI_bitmap *old_hidden,
175                                                      int old_level,
176                                                      int new_level)
177 {
178         BLI_bitmap *new_hidden;
179         int new_gridsize = BKE_ccg_gridsize(new_level);
180         int old_gridsize = BKE_ccg_gridsize(old_level);
181         int x, y, factor, old_value;
182
183         BLI_assert(new_level <= old_level);
184         factor = BKE_ccg_factor(new_level, old_level);
185         new_hidden = BLI_BITMAP_NEW(SQUARE(new_gridsize), "downsample hidden");
186
187
188         for (y = 0; y < new_gridsize; y++) {
189                 for (x = 0; x < new_gridsize; x++) {
190                         old_value = BLI_BITMAP_TEST(old_hidden,
191                                                    factor * y * old_gridsize + x * factor);
192                         
193                         BLI_BITMAP_SET(new_hidden, y * new_gridsize + x, old_value);
194                 }
195         }
196
197         return new_hidden;
198 }
199
200 static void multires_output_hidden_to_ccgdm(CCGDerivedMesh *ccgdm,
201                                             Mesh *me, int level)
202 {
203         const MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
204         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
205         int *gridOffset;
206         int i, j;
207         
208         gridOffset = ccgdm->dm.getGridOffset(&ccgdm->dm);
209
210         for (i = 0; i < me->totpoly; i++) {
211                 for (j = 0; j < me->mpoly[i].totloop; j++) {
212                         int g = gridOffset[i] + j;
213                         const MDisps *md = &mdisps[g];
214                         BLI_bitmap *gh = md->hidden;
215                         
216                         if (gh) {
217                                 grid_hidden[g] =
218                                         multires_mdisps_downsample_hidden(gh, md->level, level);
219                         }
220                 }
221         }
222 }
223
224 /* subdivide mdisps.hidden if needed (assumes that md.level reflects
225  * the current level of md.hidden) */
226 static void multires_mdisps_subdivide_hidden(MDisps *md, int new_level)
227 {
228         BLI_bitmap *subd;
229         
230         BLI_assert(md->hidden);
231
232         /* nothing to do if already subdivided enough */
233         if (md->level >= new_level)
234                 return;
235
236         subd = multires_mdisps_upsample_hidden(md->hidden,
237                                                md->level,
238                                                new_level,
239                                                NULL);
240         
241         /* swap in the subdivided data */
242         MEM_freeN(md->hidden);
243         md->hidden = subd;
244 }
245
246 static MDisps *multires_mdisps_initialize_hidden(Mesh *me, int level)
247 {
248         MDisps *mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS,
249                                               CD_CALLOC, NULL, me->totloop);
250         int gridsize = BKE_ccg_gridsize(level);
251         int gridarea = SQUARE(gridsize);
252         int i, j;
253         
254         for (i = 0; i < me->totpoly; i++) {
255                 bool hide = false;
256
257                 for (j = 0; j < me->mpoly[i].totloop; j++) {
258                         if (me->mvert[me->mloop[me->mpoly[i].loopstart + j].v].flag & ME_HIDE) {
259                                 hide = true;
260                                 break;
261                         }
262                 }
263
264                 if (!hide)
265                         continue;
266
267                 for (j = 0; j < me->mpoly[i].totloop; j++) {
268                         MDisps *md = &mdisps[me->mpoly[i].loopstart + j];
269
270                         BLI_assert(!md->hidden);
271
272                         md->hidden = BLI_BITMAP_NEW(gridarea, "MDisps.hidden initialize");
273                         BLI_BITMAP_SET_ALL(md->hidden, true, gridarea);
274                 }
275         }
276
277         return mdisps;
278 }
279
280 DerivedMesh *get_multires_dm(const struct EvaluationContext *eval_ctx, Scene *scene, MultiresModifierData *mmd, Object *ob)
281 {
282         ModifierData *md = (ModifierData *)mmd;
283         const ModifierTypeInfo *mti = modifierType_getInfo(md->type);
284         DerivedMesh *tdm = mesh_get_derived_deform(eval_ctx, scene, ob, CD_MASK_BAREMESH);
285         DerivedMesh *dm;
286
287         dm = mti->applyModifier(md, eval_ctx, ob, tdm, MOD_APPLY_USECACHE | MOD_APPLY_IGNORE_SIMPLIFY);
288         if (dm == tdm) {
289                 dm = CDDM_copy(tdm);
290         }
291
292         return dm;
293 }
294
295 MultiresModifierData *find_multires_modifier_before(Scene *scene, ModifierData *lastmd)
296 {
297         ModifierData *md;
298
299         for (md = lastmd; md; md = md->prev) {
300                 if (md->type == eModifierType_Multires) {
301                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime))
302                                 return (MultiresModifierData *)md;
303                 }
304         }
305
306         return NULL;
307 }
308
309 /* used for applying scale on mdisps layer and syncing subdivide levels when joining objects
310  * use_first - return first multires modifier if all multires'es are disabled
311  */
312 MultiresModifierData *get_multires_modifier(Scene *scene, Object *ob, bool use_first)
313 {
314         ModifierData *md;
315         MultiresModifierData *mmd = NULL, *firstmmd = NULL;
316
317         /* find first active multires modifier */
318         for (md = ob->modifiers.first; md; md = md->next) {
319                 if (md->type == eModifierType_Multires) {
320                         if (!firstmmd)
321                                 firstmmd = (MultiresModifierData *)md;
322
323                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime)) {
324                                 mmd = (MultiresModifierData *)md;
325                                 break;
326                         }
327                 }
328         }
329
330         if (!mmd && use_first) {
331                 /* active multires have not been found
332                  * try to use first one */
333                 return firstmmd;
334         }
335
336         return mmd;
337 }
338
339 static int multires_get_level(Object *ob, MultiresModifierData *mmd,
340                               bool render, bool ignore_simplify)
341 {
342         if (render)
343                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->renderlvl, true) : mmd->renderlvl;
344         else if (ob->mode == OB_MODE_SCULPT)
345                 return mmd->sculptlvl;
346         else if (ignore_simplify)
347                 return mmd->lvl;
348         else
349                 return (mmd->modifier.scene) ? get_render_subsurf_level(&mmd->modifier.scene->r, mmd->lvl, false) : mmd->lvl;
350 }
351
352 void multires_set_tot_level(Object *ob, MultiresModifierData *mmd, int lvl)
353 {
354         mmd->totlvl = lvl;
355
356         if (ob->mode != OB_MODE_SCULPT)
357                 mmd->lvl = CLAMPIS(MAX2(mmd->lvl, lvl), 0, mmd->totlvl);
358
359         mmd->sculptlvl = CLAMPIS(MAX2(mmd->sculptlvl, lvl), 0, mmd->totlvl);
360         mmd->renderlvl = CLAMPIS(MAX2(mmd->renderlvl, lvl), 0, mmd->totlvl);
361 }
362
363 static void multires_dm_mark_as_modified(DerivedMesh *dm, MultiresModifiedFlags flags)
364 {
365         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
366         ccgdm->multires.modified_flags |= flags;
367 }
368
369 void multires_mark_as_modified(Object *ob, MultiresModifiedFlags flags)
370 {
371         if (ob && ob->derivedFinal)
372                 multires_dm_mark_as_modified(ob->derivedFinal, flags);
373 }
374
375 void multires_force_update(Object *ob)
376 {
377         if (ob) {
378                 BKE_object_free_derived_caches(ob);
379
380                 if (ob->sculpt && ob->sculpt->pbvh) {
381                         BKE_pbvh_free(ob->sculpt->pbvh);
382                         ob->sculpt->pbvh = NULL;
383                 }
384         }
385 }
386
387 void multires_force_external_reload(Object *ob)
388 {
389         Mesh *me = BKE_mesh_from_object(ob);
390
391         CustomData_external_reload(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
392         multires_force_update(ob);
393 }
394
395 void multires_force_render_update(Object *ob)
396 {
397         if (ob && (ob->mode & OB_MODE_SCULPT) && modifiers_findByType(ob, eModifierType_Multires))
398                 multires_force_update(ob);
399 }
400
401 int multiresModifier_reshapeFromDM(const struct EvaluationContext *eval_ctx, Scene *scene, MultiresModifierData *mmd,
402                                    Object *ob, DerivedMesh *srcdm)
403 {
404         DerivedMesh *mrdm = get_multires_dm(eval_ctx, scene, mmd, ob);
405
406         if (mrdm && srcdm && mrdm->getNumVerts(mrdm) == srcdm->getNumVerts(srcdm)) {
407                 multires_mvert_to_ss(mrdm, srcdm->getVertArray(srcdm));
408
409                 multires_dm_mark_as_modified(mrdm, MULTIRES_COORDS_MODIFIED);
410                 multires_force_update(ob);
411
412                 mrdm->release(mrdm);
413
414                 return 1;
415         }
416
417         if (mrdm) mrdm->release(mrdm);
418
419         return 0;
420 }
421
422 /* Returns 1 on success, 0 if the src's totvert doesn't match */
423 int multiresModifier_reshape(const struct EvaluationContext *eval_ctx, Scene *scene, MultiresModifierData *mmd, Object *dst, Object *src)
424 {
425         DerivedMesh *srcdm = mesh_get_derived_final(eval_ctx, scene, src, CD_MASK_BAREMESH);
426         return multiresModifier_reshapeFromDM(eval_ctx, scene, mmd, dst, srcdm);
427 }
428
429 int multiresModifier_reshapeFromDeformMod(const struct EvaluationContext *eval_ctx, Scene *scene, MultiresModifierData *mmd,
430                                           Object *ob, ModifierData *md)
431 {
432         const ModifierTypeInfo *mti = modifierType_getInfo(md->type);
433         DerivedMesh *dm, *ndm;
434         int numVerts, result;
435         float (*deformedVerts)[3];
436
437         if (multires_get_level(ob, mmd, false, true) == 0)
438                 return 0;
439
440         /* Create DerivedMesh for deformation modifier */
441         dm = get_multires_dm(eval_ctx, scene, mmd, ob);
442         numVerts = dm->getNumVerts(dm);
443         deformedVerts = MEM_mallocN(sizeof(float[3]) * numVerts, "multiresReshape_deformVerts");
444
445         dm->getVertCos(dm, deformedVerts);
446         mti->deformVerts(md, eval_ctx, ob, dm, deformedVerts, numVerts, 0);
447
448         ndm = CDDM_copy(dm);
449         CDDM_apply_vert_coords(ndm, deformedVerts);
450
451         MEM_freeN(deformedVerts);
452         dm->release(dm);
453
454         /* Reshaping */
455         result = multiresModifier_reshapeFromDM(eval_ctx, scene, mmd, ob, ndm);
456
457         /* Cleanup */
458         ndm->release(ndm);
459
460         return result;
461 }
462
463 /* reset the multires levels to match the number of mdisps */
464 static int get_levels_from_disps(Object *ob)
465 {
466         Mesh *me = ob->data;
467         MDisps *mdisp, *md;
468         int i, j, totlvl = 0;
469
470         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
471
472         for (i = 0; i < me->totpoly; ++i) {
473                 md = mdisp + me->mpoly[i].loopstart;
474
475                 for (j = 0; j < me->mpoly[i].totloop; j++, md++) {
476                         if (md->totdisp == 0) continue;
477         
478                         while (1) {
479                                 int side = (1 << (totlvl - 1)) + 1;
480                                 int lvl_totdisp = side * side;
481                                 if (md->totdisp == lvl_totdisp)
482                                         break;
483                                 else if (md->totdisp < lvl_totdisp)
484                                         totlvl--;
485                                 else
486                                         totlvl++;
487         
488                         }
489                         
490                         break;
491                 }
492         }
493
494         return totlvl;
495 }
496
497 /* reset the multires levels to match the number of mdisps */
498 void multiresModifier_set_levels_from_disps(MultiresModifierData *mmd, Object *ob)
499 {
500         Mesh *me = ob->data;
501         MDisps *mdisp;
502
503         if (me->edit_btmesh)
504                 mdisp = CustomData_get_layer(&me->edit_btmesh->bm->ldata, CD_MDISPS);
505         else
506                 mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
507
508         if (mdisp) {
509                 mmd->totlvl = get_levels_from_disps(ob);
510                 mmd->lvl = MIN2(mmd->sculptlvl, mmd->totlvl);
511                 mmd->sculptlvl = MIN2(mmd->sculptlvl, mmd->totlvl);
512                 mmd->renderlvl = MIN2(mmd->renderlvl, mmd->totlvl);
513         }
514 }
515
516 static void multires_set_tot_mdisps(Mesh *me, int lvl)
517 {
518         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
519         int i;
520
521         if (mdisps) {
522                 for (i = 0; i < me->totloop; i++, mdisps++) {
523                         mdisps->totdisp = multires_grid_tot[lvl];
524                         mdisps->level = lvl;
525                 }
526         }
527 }
528
529 static void multires_reallocate_mdisps(int totloop, MDisps *mdisps, int lvl)
530 {
531         int i;
532
533         /* reallocate displacements to be filled in */
534         for (i = 0; i < totloop; ++i) {
535                 int totdisp = multires_grid_tot[lvl];
536                 float (*disps)[3] = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
537
538                 if (mdisps[i].disps)
539                         MEM_freeN(mdisps[i].disps);
540                 
541                 if (mdisps[i].level && mdisps[i].hidden)
542                         multires_mdisps_subdivide_hidden(&mdisps[i], lvl);
543
544                 mdisps[i].disps = disps;
545                 mdisps[i].totdisp = totdisp;
546                 mdisps[i].level = lvl;
547         }
548 }
549
550 static void multires_copy_grid(float (*gridA)[3], float (*gridB)[3], int sizeA, int sizeB)
551 {
552         int x, y, j, skip;
553
554         if (sizeA > sizeB) {
555                 skip = (sizeA - 1) / (sizeB - 1);
556
557                 for (j = 0, y = 0; y < sizeB; y++)
558                         for (x = 0; x < sizeB; x++, j++)
559                                 copy_v3_v3(gridA[y * skip * sizeA + x * skip], gridB[j]);
560         }
561         else {
562                 skip = (sizeB - 1) / (sizeA - 1);
563
564                 for (j = 0, y = 0; y < sizeA; y++)
565                         for (x = 0; x < sizeA; x++, j++)
566                                 copy_v3_v3(gridA[j], gridB[y * skip * sizeB + x * skip]);
567         }
568 }
569
570 static void multires_copy_dm_grid(CCGElem *gridA, CCGElem *gridB, CCGKey *keyA, CCGKey *keyB)
571 {
572         int x, y, j, skip;
573
574         if (keyA->grid_size > keyB->grid_size) {
575                 skip = (keyA->grid_size - 1) / (keyB->grid_size - 1);
576
577                 for (j = 0, y = 0; y < keyB->grid_size; y++)
578                         for (x = 0; x < keyB->grid_size; x++, j++)
579                                 memcpy(CCG_elem_offset_co(keyA, gridA, y * skip * keyA->grid_size + x * skip),
580                                        CCG_elem_offset_co(keyB, gridB, j),
581                                        sizeof(float) * keyA->num_layers);
582         }
583         else {
584                 skip = (keyB->grid_size - 1) / (keyA->grid_size - 1);
585
586                 for (j = 0, y = 0; y < keyA->grid_size; y++)
587                         for (x = 0; x < keyA->grid_size; x++, j++)
588                                 memcpy(CCG_elem_offset_co(keyA, gridA, j),
589                                        CCG_elem_offset_co(keyB, gridB, y * skip * keyB->grid_size + x * skip),
590                                        sizeof(float) * keyA->num_layers);
591         }
592 }
593
594 /* Reallocate gpm->data at a lower resolution and copy values over
595  * from the original high-resolution data */
596 static void multires_grid_paint_mask_downsample(GridPaintMask *gpm, int level)
597 {
598         if (level < gpm->level) {
599                 int gridsize = BKE_ccg_gridsize(level);
600                 float *data = MEM_callocN(sizeof(float) * SQUARE(gridsize),
601                                           "multires_grid_paint_mask_downsample");
602                 int x, y;
603
604                 for (y = 0; y < gridsize; y++) {
605                         for (x = 0; x < gridsize; x++) {
606                                 data[y * gridsize + x] =
607                                     paint_grid_paint_mask(gpm, level, x, y);
608                         }
609                 }
610
611                 MEM_freeN(gpm->data);
612                 gpm->data = data;
613                 gpm->level = level;
614         }
615 }
616
617 static void multires_del_higher(MultiresModifierData *mmd, Object *ob, int lvl)
618 {
619         Mesh *me = (Mesh *)ob->data;
620         int levels = mmd->totlvl - lvl;
621         MDisps *mdisps;
622         GridPaintMask *gpm;
623
624         multires_set_tot_mdisps(me, mmd->totlvl);
625         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
626         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
627         gpm = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
628
629         multires_force_update(ob);
630
631         if (mdisps && levels > 0) {
632                 if (lvl > 0) {
633                         /* MLoop *ml = me->mloop; */ /*UNUSED*/
634                         int nsize = multires_side_tot[lvl];
635                         int hsize = multires_side_tot[mmd->totlvl];
636                         int i, j;
637
638                         for (i = 0; i < me->totpoly; ++i) {
639                                 for (j = 0; j < me->mpoly[i].totloop; j++) {
640                                         int g = me->mpoly[i].loopstart + j;
641                                         MDisps *mdisp = &mdisps[g];
642                                         float (*disps)[3], (*ndisps)[3], (*hdisps)[3];
643                                         int totdisp = multires_grid_tot[lvl];
644
645                                         disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disps");
646
647                                         ndisps = disps;
648                                         hdisps = mdisp->disps;
649
650                                         multires_copy_grid(ndisps, hdisps, nsize, hsize);
651                                         if (mdisp->hidden) {
652                                                 BLI_bitmap *gh =
653                                                     multires_mdisps_downsample_hidden(mdisp->hidden,
654                                                                                       mdisp->level,
655                                                                                       lvl);
656                                                 MEM_freeN(mdisp->hidden);
657                                                 mdisp->hidden = gh;
658                                         }
659
660                                         ndisps += nsize * nsize;
661                                         hdisps += hsize * hsize;
662
663                                         MEM_freeN(mdisp->disps);
664                                         mdisp->disps = disps;
665                                         mdisp->totdisp = totdisp;
666                                         mdisp->level = lvl;
667
668                                         if (gpm) {
669                                                 multires_grid_paint_mask_downsample(&gpm[g], lvl);
670                                         }
671                                 }
672                         }
673                 }
674                 else {
675                         multires_customdata_delete(me);
676                 }
677         }
678
679         multires_set_tot_level(ob, mmd, lvl);
680 }
681
682 /* (direction = 1) for delete higher, (direction = 0) for lower (not implemented yet) */
683 void multiresModifier_del_levels(MultiresModifierData *mmd, Object *ob, int direction)
684 {
685         Mesh *me = BKE_mesh_from_object(ob);
686         int lvl = multires_get_level(ob, mmd, false, true);
687         int levels = mmd->totlvl - lvl;
688         MDisps *mdisps;
689
690         multires_set_tot_mdisps(me, mmd->totlvl);
691         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
692         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
693
694         multires_force_update(ob);
695
696         if (mdisps && levels > 0 && direction == 1) {
697                 multires_del_higher(mmd, ob, lvl);
698         }
699
700         multires_set_tot_level(ob, mmd, lvl);
701 }
702
703 static DerivedMesh *multires_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int totlvl, int simple, bool alloc_paint_mask)
704 {
705         MultiresModifierData mmd = {{NULL}};
706         MultiresFlags flags = MULTIRES_USE_LOCAL_MMD;
707
708         mmd.lvl = lvl;
709         mmd.sculptlvl = lvl;
710         mmd.renderlvl = lvl;
711         mmd.totlvl = totlvl;
712         mmd.simple = simple;
713
714         if (alloc_paint_mask)
715                 flags |= MULTIRES_ALLOC_PAINT_MASK;
716
717         return multires_make_derived_from_derived(dm, &mmd, ob, flags);
718 }
719
720 static DerivedMesh *subsurf_dm_create_local(Object *ob, DerivedMesh *dm, int lvl, int simple, int optimal, int plain_uv, int alloc_paint_mask)
721 {
722         SubsurfModifierData smd = {{NULL}};
723         SubsurfFlags flags = 0;
724
725         smd.levels = smd.renderLevels = lvl;
726         if (!plain_uv)
727                 smd.flags |= eSubsurfModifierFlag_SubsurfUv;
728         if (simple)
729                 smd.subdivType = ME_SIMPLE_SUBSURF;
730         if (optimal)
731                 smd.flags |= eSubsurfModifierFlag_ControlEdges;
732
733         if (ob->mode & OB_MODE_EDIT)
734                 flags |= SUBSURF_IN_EDIT_MODE;
735
736         if (alloc_paint_mask)
737                 flags |= SUBSURF_ALLOC_PAINT_MASK;
738         
739         return subsurf_make_derived_from_derived(dm, &smd, NULL, flags);
740 }
741
742
743
744 /* assumes no is normalized; return value's sign is negative if v is on
745  * the other side of the plane */
746 static float v3_dist_from_plane(float v[3], float center[3], float no[3])
747 {
748         float s[3];
749         sub_v3_v3v3(s, v, center);
750         return dot_v3v3(s, no);
751 }
752
753 void multiresModifier_base_apply(MultiresModifierData *mmd, Object *ob)
754 {
755         DerivedMesh *cddm, *dispdm, *origdm;
756         Mesh *me;
757         const MeshElemMap *pmap;
758         float (*origco)[3];
759         int i, j, k, offset, totlvl;
760
761         multires_force_update(ob);
762
763         me = BKE_mesh_from_object(ob);
764         totlvl = mmd->totlvl;
765
766         /* nothing to do */
767         if (!totlvl)
768                 return;
769
770         /* XXX - probably not necessary to regenerate the cddm so much? */
771
772         /* generate highest level with displacements */
773         cddm = CDDM_from_mesh(me);
774         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
775         dispdm = multires_dm_create_local(ob, cddm, totlvl, totlvl, 0, 0);
776         cddm->release(cddm);
777
778         /* copy the new locations of the base verts into the mesh */
779         offset = dispdm->getNumVerts(dispdm) - me->totvert;
780         for (i = 0; i < me->totvert; ++i) {
781                 dispdm->getVertCo(dispdm, offset + i, me->mvert[i].co);
782         }
783
784         /* heuristic to produce a better-fitting base mesh */
785
786         cddm = CDDM_from_mesh(me);
787         pmap = cddm->getPolyMap(ob, cddm);
788         origco = MEM_callocN(sizeof(float) * 3 * me->totvert, "multires apply base origco");
789         for (i = 0; i < me->totvert; ++i)
790                 copy_v3_v3(origco[i], me->mvert[i].co);
791
792         for (i = 0; i < me->totvert; ++i) {
793                 float avg_no[3] = {0, 0, 0}, center[3] = {0, 0, 0}, push[3];
794                 float dist;
795                 int tot = 0;
796
797                 /* don't adjust verts not used by at least one poly */
798                 if (!pmap[i].count)
799                         continue;
800
801                 /* find center */
802                 for (j = 0; j < pmap[i].count; j++) {
803                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
804                         
805                         /* this double counts, not sure if that's bad or good */
806                         for (k = 0; k < p->totloop; ++k) {
807                                 int vndx = me->mloop[p->loopstart + k].v;
808                                 if (vndx != i) {
809                                         add_v3_v3(center, origco[vndx]);
810                                         tot++;
811                                 }
812                         }
813                 }
814                 mul_v3_fl(center, 1.0f / tot);
815
816                 /* find normal */
817                 for (j = 0; j < pmap[i].count; j++) {
818                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
819                         MPoly fake_poly;
820                         MLoop *fake_loops;
821                         float (*fake_co)[3];
822                         float no[3];
823
824                         /* set up poly, loops, and coords in order to call
825                          * BKE_mesh_calc_poly_normal_coords() */
826                         fake_poly.totloop = p->totloop;
827                         fake_poly.loopstart = 0;
828                         fake_loops = MEM_mallocN(sizeof(MLoop) * p->totloop, "fake_loops");
829                         fake_co = MEM_mallocN(sizeof(float) * 3 * p->totloop, "fake_co");
830                         
831                         for (k = 0; k < p->totloop; ++k) {
832                                 int vndx = me->mloop[p->loopstart + k].v;
833                                 
834                                 fake_loops[k].v = k;
835                                 
836                                 if (vndx == i)
837                                         copy_v3_v3(fake_co[k], center);
838                                 else
839                                         copy_v3_v3(fake_co[k], origco[vndx]);
840                         }
841                         
842                         BKE_mesh_calc_poly_normal_coords(&fake_poly, fake_loops,
843                                                          (const float(*)[3])fake_co, no);
844                         MEM_freeN(fake_loops);
845                         MEM_freeN(fake_co);
846
847                         add_v3_v3(avg_no, no);
848                 }
849                 normalize_v3(avg_no);
850
851                 /* push vertex away from the plane */
852                 dist = v3_dist_from_plane(me->mvert[i].co, center, avg_no);
853                 copy_v3_v3(push, avg_no);
854                 mul_v3_fl(push, dist);
855                 add_v3_v3(me->mvert[i].co, push);
856                 
857         }
858
859         MEM_freeN(origco);
860         cddm->release(cddm);
861
862         /* Vertices were moved around, need to update normals after all the vertices are updated
863          * Probably this is possible to do in the loop above, but this is rather tricky because
864          * we don't know all needed vertices' coordinates there yet.
865          */
866         BKE_mesh_calc_normals(me);
867
868         /* subdivide the mesh to highest level without displacements */
869         cddm = CDDM_from_mesh(me);
870         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
871         origdm = subsurf_dm_create_local(ob, cddm, totlvl, 0, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
872         cddm->release(cddm);
873
874         /* calc disps */
875         multiresModifier_disp_run(dispdm, me, NULL, CALC_DISPLACEMENTS, origdm->getGridData(origdm), totlvl);
876
877         origdm->release(origdm);
878         dispdm->release(dispdm);
879 }
880
881 static void multires_subdivide(MultiresModifierData *mmd, Object *ob, int totlvl, int updateblock, int simple)
882 {
883         Mesh *me = ob->data;
884         MDisps *mdisps;
885         const int lvl = mmd->totlvl;
886
887         if ((totlvl > multires_max_levels) || (me->totpoly == 0))
888                 return;
889
890         BLI_assert(totlvl > lvl);
891
892         multires_force_update(ob);
893
894         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
895         if (!mdisps)
896                 mdisps = multires_mdisps_initialize_hidden(me, totlvl);
897
898         if (mdisps->disps && !updateblock && lvl != 0) {
899                 /* upsample */
900                 DerivedMesh *lowdm, *cddm, *highdm;
901                 CCGElem **highGridData, **lowGridData, **subGridData;
902                 CCGKey highGridKey, lowGridKey;
903                 CCGSubSurf *ss;
904                 int i, numGrids, highGridSize;
905                 const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
906
907                 /* create subsurf DM from original mesh at high level */
908                 cddm = CDDM_from_mesh(me);
909                 DM_set_only_copy(cddm, CD_MASK_BAREMESH);
910                 highdm = subsurf_dm_create_local(ob, cddm, totlvl, simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
911                 ss = ((CCGDerivedMesh *)highdm)->ss;
912
913                 /* create multires DM from original mesh at low level */
914                 lowdm = multires_dm_create_local(ob, cddm, lvl, lvl, simple, has_mask);
915                 BLI_assert(lowdm != cddm);
916                 cddm->release(cddm);
917
918                 /* copy subsurf grids and replace them with low displaced grids */
919                 numGrids = highdm->getNumGrids(highdm);
920                 highGridSize = highdm->getGridSize(highdm);
921                 highGridData = highdm->getGridData(highdm);
922                 highdm->getGridKey(highdm, &highGridKey);
923                 lowGridData = lowdm->getGridData(lowdm);
924                 lowdm->getGridKey(lowdm, &lowGridKey);
925
926                 subGridData = MEM_callocN(sizeof(float *) * numGrids, "subGridData*");
927
928                 for (i = 0; i < numGrids; ++i) {
929                         /* backup subsurf grids */
930                         subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
931                         memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
932
933                         /* overwrite with current displaced grids */
934                         multires_copy_dm_grid(highGridData[i], lowGridData[i], &highGridKey, &lowGridKey);
935                 }
936
937                 /* low lower level dm no longer needed at this point */
938                 lowdm->release(lowdm);
939
940                 /* subsurf higher levels again with displaced data */
941                 ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
942                 ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
943
944                 /* reallocate displacements */
945                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
946
947                 /* compute displacements */
948                 multiresModifier_disp_run(highdm, me, NULL, CALC_DISPLACEMENTS, subGridData, totlvl);
949
950                 /* free */
951                 highdm->release(highdm);
952                 for (i = 0; i < numGrids; ++i)
953                         MEM_freeN(subGridData[i]);
954                 MEM_freeN(subGridData);
955         }
956         else {
957                 /* only reallocate, nothing to upsample */
958                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl); 
959         }
960
961         multires_set_tot_level(ob, mmd, totlvl);
962 }
963
964 void multiresModifier_subdivide(MultiresModifierData *mmd, Object *ob, int updateblock, int simple)
965 {
966         multires_subdivide(mmd, ob, mmd->totlvl + 1, updateblock, simple);
967 }
968
969 static void grid_tangent(const CCGKey *key, int x, int y, int axis, CCGElem *grid, float t[3])
970 {
971         if (axis == 0) {
972                 if (x == key->grid_size - 1) {
973                         if (y == key->grid_size - 1)
974                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y - 1), CCG_grid_elem_co(key, grid, x - 1, y - 1));
975                         else
976                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x - 1, y));
977                 }
978                 else
979                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x + 1, y), CCG_grid_elem_co(key, grid, x, y));
980         }
981         else if (axis == 1) {
982                 if (y == key->grid_size - 1) {
983                         if (x == key->grid_size - 1)
984                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x - 1, y), CCG_grid_elem_co(key, grid, x - 1, (y - 1)));
985                         else
986                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x, (y - 1)));
987                 }
988                 else
989                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, (y + 1)), CCG_grid_elem_co(key, grid, x, y));
990         }
991 }
992
993 /* Construct 3x3 tangent-space matrix in 'mat' */
994 static void grid_tangent_matrix(float mat[3][3], const CCGKey *key,
995                                 int x, int y, CCGElem *grid)
996 {
997         grid_tangent(key, x, y, 0, grid, mat[0]);
998         normalize_v3(mat[0]);
999
1000         grid_tangent(key, x, y, 1, grid, mat[1]);
1001         normalize_v3(mat[1]);
1002
1003         copy_v3_v3(mat[2], CCG_grid_elem_no(key, grid, x, y));
1004 }
1005
1006
1007 typedef struct MultiresThreadedData {
1008         DispOp op;
1009         CCGElem **gridData, **subGridData;
1010         CCGKey *key;
1011         CCGKey *sub_key;
1012         MPoly *mpoly;
1013         MDisps *mdisps;
1014         GridPaintMask *grid_paint_mask;
1015         int *gridOffset;
1016         int gridSize, dGridSize, dSkip;
1017         float (*smat)[3];
1018 } MultiresThreadedData;
1019
1020 static void multires_disp_run_cb(
1021         void *__restrict userdata,
1022         const int pidx,
1023         const ParallelRangeTLS *__restrict UNUSED(tls))
1024 {
1025         MultiresThreadedData *tdata = userdata;
1026
1027         DispOp op = tdata->op;
1028         CCGElem **gridData = tdata->gridData;
1029         CCGElem **subGridData = tdata->subGridData;
1030         CCGKey *key = tdata->key;
1031         MPoly *mpoly = tdata->mpoly;
1032         MDisps *mdisps = tdata->mdisps;
1033         GridPaintMask *grid_paint_mask = tdata->grid_paint_mask;
1034         int *gridOffset = tdata->gridOffset;
1035         int gridSize = tdata->gridSize;
1036         int dGridSize = tdata->dGridSize;
1037         int dSkip = tdata->dSkip;
1038
1039         const int numVerts = mpoly[pidx].totloop;
1040         int S, x, y, gIndex = gridOffset[pidx];
1041
1042         for (S = 0; S < numVerts; ++S, ++gIndex) {
1043                 GridPaintMask *gpm = grid_paint_mask ? &grid_paint_mask[gIndex] : NULL;
1044                 MDisps *mdisp = &mdisps[mpoly[pidx].loopstart + S];
1045                 CCGElem *grid = gridData[gIndex];
1046                 CCGElem *subgrid = subGridData[gIndex];
1047                 float (*dispgrid)[3] = NULL;
1048
1049                 dispgrid = mdisp->disps;
1050
1051                 /* if needed, reallocate multires paint mask */
1052                 if (gpm && gpm->level < key->level) {
1053                         gpm->level = key->level;
1054                         if (gpm->data) {
1055                                 MEM_freeN(gpm->data);
1056                         }
1057                         gpm->data = MEM_callocN(sizeof(float) * key->grid_area, "gpm.data");
1058                 }
1059
1060                 for (y = 0; y < gridSize; y++) {
1061                         for (x = 0; x < gridSize; x++) {
1062                                 float *co = CCG_grid_elem_co(key, grid, x, y);
1063                                 float *sco = CCG_grid_elem_co(key, subgrid, x, y);
1064                                 float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1065                                 float mat[3][3], disp[3], d[3], mask;
1066
1067                                 /* construct tangent space matrix */
1068                                 grid_tangent_matrix(mat, key, x, y, subgrid);
1069
1070                                 switch (op) {
1071                                         case APPLY_DISPLACEMENTS:
1072                                                 /* Convert displacement to object space
1073                                                  * and add to grid points */
1074                                                 mul_v3_m3v3(disp, mat, data);
1075                                                 add_v3_v3v3(co, sco, disp);
1076                                                 break;
1077                                         case CALC_DISPLACEMENTS:
1078                                                 /* Calculate displacement between new and old
1079                                                  * grid points and convert to tangent space */
1080                                                 sub_v3_v3v3(disp, co, sco);
1081                                                 invert_m3(mat);
1082                                                 mul_v3_m3v3(data, mat, disp);
1083                                                 break;
1084                                         case ADD_DISPLACEMENTS:
1085                                                 /* Convert subdivided displacements to tangent
1086                                                  * space and add to the original displacements */
1087                                                 invert_m3(mat);
1088                                                 mul_v3_m3v3(d, mat, co);
1089                                                 add_v3_v3(data, d);
1090                                                 break;
1091                                 }
1092
1093                                 if (gpm) {
1094                                         switch (op) {
1095                                                 case APPLY_DISPLACEMENTS:
1096                                                         /* Copy mask from gpm to DM */
1097                                                         *CCG_grid_elem_mask(key, grid, x, y) =
1098                                                             paint_grid_paint_mask(gpm, key->level, x, y);
1099                                                         break;
1100                                                 case CALC_DISPLACEMENTS:
1101                                                         /* Copy mask from DM to gpm */
1102                                                         mask = *CCG_grid_elem_mask(key, grid, x, y);
1103                                                         gpm->data[y * gridSize + x] = CLAMPIS(mask, 0, 1);
1104                                                         break;
1105                                                 case ADD_DISPLACEMENTS:
1106                                                         /* Add mask displacement to gpm */
1107                                                         gpm->data[y * gridSize + x] +=
1108                                                             *CCG_grid_elem_mask(key, grid, x, y);
1109                                                         break;
1110                                         }
1111                                 }
1112                         }
1113                 }
1114         }
1115 }
1116
1117 /* XXX WARNING: subsurf elements from dm and oldGridData *must* be of the same format (size),
1118  *              because this code uses CCGKey's info from dm to access oldGridData's normals
1119  *              (through the call to grid_tangent_matrix())! */
1120 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl)
1121 {
1122         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1123         CCGElem **gridData, **subGridData;
1124         CCGKey key;
1125         MPoly *mpoly = me->mpoly;
1126         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1127         GridPaintMask *grid_paint_mask = NULL;
1128         int *gridOffset;
1129         int i, gridSize, dGridSize, dSkip;
1130         int totloop, totpoly;
1131         
1132         /* this happens in the dm made by bmesh_mdisps_space_set */
1133         if (dm2 && CustomData_has_layer(&dm2->loopData, CD_MDISPS)) {
1134                 mpoly = CustomData_get_layer(&dm2->polyData, CD_MPOLY);
1135                 mdisps = CustomData_get_layer(&dm2->loopData, CD_MDISPS);
1136                 totloop = dm2->numLoopData;
1137                 totpoly = dm2->numPolyData;
1138         }
1139         else {
1140                 totloop = me->totloop;
1141                 totpoly = me->totpoly;
1142         }
1143         
1144         if (!mdisps) {
1145                 if (op == CALC_DISPLACEMENTS)
1146                         mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS, CD_DEFAULT, NULL, me->totloop);
1147                 else
1148                         return;
1149         }
1150
1151         /*numGrids = dm->getNumGrids(dm);*/ /*UNUSED*/
1152         gridSize = dm->getGridSize(dm);
1153         gridData = dm->getGridData(dm);
1154         gridOffset = dm->getGridOffset(dm);
1155         dm->getGridKey(dm, &key);
1156         subGridData = (oldGridData) ? oldGridData : gridData;
1157
1158         dGridSize = multires_side_tot[totlvl];
1159         dSkip = (dGridSize - 1) / (gridSize - 1);
1160
1161         /* multires paint masks */
1162         if (key.has_mask)
1163                 grid_paint_mask = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
1164
1165         /* when adding new faces in edit mode, need to allocate disps */
1166         for (i = 0; i < totloop; ++i) {
1167                 if (mdisps[i].disps == NULL) {
1168                         multires_reallocate_mdisps(totloop, mdisps, totlvl);
1169                         break;
1170                 }
1171         }
1172
1173         ParallelRangeSettings settings;
1174         BLI_parallel_range_settings_defaults(&settings);
1175         settings.min_iter_per_thread = CCG_TASK_LIMIT;
1176
1177         MultiresThreadedData data = {
1178             .op = op,
1179             .gridData = gridData,
1180             .subGridData = subGridData,
1181             .key = &key,
1182             .mpoly = mpoly,
1183             .mdisps = mdisps,
1184             .grid_paint_mask = grid_paint_mask,
1185             .gridOffset = gridOffset,
1186             .gridSize = gridSize,
1187             .dGridSize = dGridSize,
1188             .dSkip = dSkip
1189         };
1190
1191         BLI_task_parallel_range(0, totpoly, &data, multires_disp_run_cb, &settings);
1192
1193         if (op == APPLY_DISPLACEMENTS) {
1194                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, NULL, 0);
1195                 ccgSubSurf_updateNormals(ccgdm->ss, NULL, 0);
1196         }
1197 }
1198
1199 void multires_modifier_update_mdisps(struct DerivedMesh *dm)
1200 {
1201         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1202         Object *ob;
1203         Mesh *me;
1204         MDisps *mdisps;
1205         MultiresModifierData *mmd;
1206
1207         ob = ccgdm->multires.ob;
1208         me = ccgdm->multires.ob->data;
1209         mmd = ccgdm->multires.mmd;
1210         multires_set_tot_mdisps(me, mmd->totlvl);
1211         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1212         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1213
1214         if (mdisps) {
1215                 int lvl = ccgdm->multires.lvl;
1216                 int totlvl = ccgdm->multires.totlvl;
1217                 
1218                 if (lvl < totlvl) {
1219                         DerivedMesh *lowdm, *cddm, *highdm;
1220                         CCGElem **highGridData, **lowGridData, **subGridData, **gridData, *diffGrid;
1221                         CCGKey highGridKey, lowGridKey;
1222                         CCGSubSurf *ss;
1223                         int i, j, numGrids, highGridSize, lowGridSize;
1224                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1225
1226                         /* create subsurf DM from original mesh at high level */
1227                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1228                         else cddm = CDDM_from_mesh(me);
1229                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1230
1231                         highdm = subsurf_dm_create_local(ob, cddm, totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1232                         ss = ((CCGDerivedMesh *)highdm)->ss;
1233
1234                         /* create multires DM from original mesh and displacements */
1235                         lowdm = multires_dm_create_local(ob, cddm, lvl, totlvl, mmd->simple, has_mask);
1236                         cddm->release(cddm);
1237
1238                         /* gather grid data */
1239                         numGrids = highdm->getNumGrids(highdm);
1240                         highGridSize = highdm->getGridSize(highdm);
1241                         highGridData = highdm->getGridData(highdm);
1242                         highdm->getGridKey(highdm, &highGridKey);
1243                         lowGridSize = lowdm->getGridSize(lowdm);
1244                         lowGridData = lowdm->getGridData(lowdm);
1245                         lowdm->getGridKey(lowdm, &lowGridKey);
1246                         gridData = dm->getGridData(dm);
1247
1248                         BLI_assert(highGridKey.elem_size == lowGridKey.elem_size);
1249
1250                         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1251                         diffGrid = MEM_callocN(lowGridKey.elem_size * lowGridSize * lowGridSize, "diff");
1252
1253                         for (i = 0; i < numGrids; ++i) {
1254                                 /* backup subsurf grids */
1255                                 subGridData[i] = MEM_callocN(highGridKey.elem_size * highGridSize * highGridSize, "subGridData");
1256                                 memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
1257
1258                                 /* write difference of subsurf and displaced low level into high subsurf */
1259                                 for (j = 0; j < lowGridSize * lowGridSize; ++j) {
1260                                         sub_v4_v4v4(CCG_elem_offset_co(&lowGridKey, diffGrid, j),
1261                                                     CCG_elem_offset_co(&lowGridKey, gridData[i], j),
1262                                                     CCG_elem_offset_co(&lowGridKey, lowGridData[i], j));
1263                                 }
1264
1265                                 multires_copy_dm_grid(highGridData[i], diffGrid, &highGridKey, &lowGridKey);
1266                         }
1267
1268                         /* lower level dm no longer needed at this point */
1269                         MEM_freeN(diffGrid);
1270                         lowdm->release(lowdm);
1271
1272                         /* subsurf higher levels again with difference of coordinates */
1273                         ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
1274                         ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
1275
1276                         /* add to displacements */
1277                         multiresModifier_disp_run(highdm, me, NULL, ADD_DISPLACEMENTS, subGridData, mmd->totlvl);
1278
1279                         /* free */
1280                         highdm->release(highdm);
1281                         for (i = 0; i < numGrids; ++i)
1282                                 MEM_freeN(subGridData[i]);
1283                         MEM_freeN(subGridData);
1284                 }
1285                 else {
1286                         DerivedMesh *cddm, *subdm;
1287                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1288
1289                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1290                         else cddm = CDDM_from_mesh(me);
1291                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1292
1293                         subdm = subsurf_dm_create_local(ob, cddm, mmd->totlvl, mmd->simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, has_mask);
1294                         cddm->release(cddm);
1295
1296                         multiresModifier_disp_run(dm, me, NULL, CALC_DISPLACEMENTS, subdm->getGridData(subdm), mmd->totlvl);
1297
1298                         subdm->release(subdm);
1299                 }
1300         }
1301 }
1302
1303 void multires_modifier_update_hidden(DerivedMesh *dm)
1304 {
1305         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1306         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
1307         Mesh *me = ccgdm->multires.ob->data;
1308         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1309         int totlvl = ccgdm->multires.totlvl;
1310         int lvl = ccgdm->multires.lvl;
1311
1312         if (mdisps) {
1313                 int i;
1314                 
1315                 for (i = 0; i < me->totloop; i++) {
1316                         MDisps *md = &mdisps[i];
1317                         BLI_bitmap *gh = grid_hidden[i];
1318
1319                         if (!gh && md->hidden) {
1320                                 MEM_freeN(md->hidden);
1321                                 md->hidden = NULL;
1322                         }
1323                         else if (gh) {
1324                                 gh = multires_mdisps_upsample_hidden(gh, lvl, totlvl,
1325                                                                      md->hidden);
1326                                 if (md->hidden)
1327                                         MEM_freeN(md->hidden);
1328                                 
1329                                 md->hidden = gh;
1330                         }
1331                 }
1332         }
1333 }
1334
1335 void multires_set_space(DerivedMesh *dm, Object *ob, int from, int to)
1336 {
1337         DerivedMesh *ccgdm = NULL, *subsurf = NULL;
1338         CCGElem **gridData, **subGridData = NULL;
1339         CCGKey key;
1340         MPoly *mpoly = CustomData_get_layer(&dm->polyData, CD_MPOLY);
1341         MDisps *mdisps;
1342         MultiresModifierData *mmd = get_multires_modifier(NULL, ob, 1);
1343         int *gridOffset, totlvl;
1344         int i, k, numGrids, gridSize, dGridSize, dSkip;
1345         
1346         if (!mmd)
1347                 return;
1348         
1349         mdisps = CustomData_get_layer(&dm->loopData, CD_MDISPS);
1350
1351         if (!mdisps) {
1352                 goto cleanup;
1353         }
1354
1355         totlvl = mmd->totlvl;
1356         ccgdm = multires_dm_create_local(ob, dm, totlvl, totlvl, mmd->simple, false);
1357         
1358         subsurf = subsurf_dm_create_local(ob, dm, totlvl,
1359                                           mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
1360
1361         numGrids = subsurf->getNumGrids(subsurf);
1362         gridSize = subsurf->getGridSize(subsurf);
1363         gridData = subsurf->getGridData(subsurf);
1364         subsurf->getGridKey(subsurf, &key);
1365
1366         subGridData = MEM_callocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1367
1368         for (i = 0; i < numGrids; i++) {
1369                 subGridData[i] = MEM_callocN(key.elem_size * gridSize * gridSize, "subGridData");
1370                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1371         }
1372         
1373         /* numGrids = ccgdm->dm->getNumGrids((DerivedMesh *)ccgdm); */ /*UNUSED*/
1374         gridSize = ccgdm->getGridSize((DerivedMesh *)ccgdm);
1375         gridData = ccgdm->getGridData((DerivedMesh *)ccgdm);
1376         gridOffset = ccgdm->getGridOffset((DerivedMesh *)ccgdm);
1377
1378         dGridSize = multires_side_tot[totlvl];
1379         dSkip = (dGridSize - 1) / (gridSize - 1);
1380
1381         k = 0; /*current loop/mdisp index within the mloop array*/
1382
1383         /* TODO: Use BLI_task parallel range for that one too? */
1384         for (i = 0; i < dm->numPolyData; ++i) {
1385                 const int numVerts = mpoly[i].totloop;
1386                 int S, x, y, gIndex = gridOffset[i];
1387                                                 
1388                 for (S = 0; S < numVerts; ++S, ++gIndex, ++k) {
1389                         MDisps *mdisp = &mdisps[mpoly[i].loopstart + S];
1390                         /* CCGElem *grid = gridData[gIndex]; */ /* UNUSED */
1391                         CCGElem *subgrid = subGridData[gIndex];
1392                         float (*dispgrid)[3] = NULL;
1393
1394                         /* when adding new faces in edit mode, need to allocate disps */
1395                         if (!mdisp->disps) {
1396                                 mdisp->totdisp = gridSize * gridSize;
1397                                 mdisp->level = totlvl;
1398                                 mdisp->disps = MEM_callocN(sizeof(float) * 3 * mdisp->totdisp, "disp in multires_set_space");
1399                         }
1400
1401                         dispgrid = mdisp->disps;
1402
1403                         for (y = 0; y < gridSize; y++) {
1404                                 for (x = 0; x < gridSize; x++) {
1405                                         float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1406                                         float *co = CCG_grid_elem_co(&key, subgrid, x, y);
1407                                         float mat[3][3], dco[3];
1408                                         
1409                                         /* construct tangent space matrix */
1410                                         grid_tangent_matrix(mat, &key, x, y, subgrid);
1411
1412                                         /* convert to absolute coordinates in space */
1413                                         if (from == MULTIRES_SPACE_TANGENT) {
1414                                                 mul_v3_m3v3(dco, mat, data);
1415                                                 add_v3_v3(dco, co);
1416                                         }
1417                                         else if (from == MULTIRES_SPACE_OBJECT) {
1418                                                 add_v3_v3v3(dco, co, data);
1419                                         }
1420                                         else if (from == MULTIRES_SPACE_ABSOLUTE) {
1421                                                 copy_v3_v3(dco, data);
1422                                         }
1423                                         
1424                                         /*now, convert to desired displacement type*/
1425                                         if (to == MULTIRES_SPACE_TANGENT) {
1426                                                 invert_m3(mat);
1427
1428                                                 sub_v3_v3(dco, co);
1429                                                 mul_v3_m3v3(data, mat, dco);
1430                                         }
1431                                         else if (to == MULTIRES_SPACE_OBJECT) {
1432                                                 sub_v3_v3(dco, co);
1433                                                 mul_v3_m3v3(data, mat, dco);
1434                                         }
1435                                         else if (to == MULTIRES_SPACE_ABSOLUTE) {
1436                                                 copy_v3_v3(data, dco);
1437                                         }
1438                                 }
1439                         }
1440                 }
1441         }
1442
1443 cleanup:
1444         if (subsurf) {
1445                 subsurf->needsFree = 1;
1446                 subsurf->release(subsurf);
1447         }
1448
1449         if (ccgdm) {
1450                 ccgdm->needsFree = 1;
1451                 ccgdm->release(ccgdm);
1452         }
1453 }
1454
1455 void multires_stitch_grids(Object *ob)
1456 {
1457         /* utility for smooth brush */
1458         if (ob && ob->derivedFinal) {
1459                 CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)ob->derivedFinal;
1460                 CCGFace **faces;
1461                 int totface;
1462
1463                 if (ccgdm->pbvh) {
1464                         BKE_pbvh_get_grid_updates(ccgdm->pbvh, false, (void ***)&faces, &totface);
1465
1466                         if (totface) {
1467                                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, faces, totface);
1468                                 MEM_freeN(faces);
1469                         }
1470                 }
1471         }
1472 }
1473
1474 DerivedMesh *multires_make_derived_from_derived(DerivedMesh *dm,
1475                                                 MultiresModifierData *mmd,
1476                                                 Object *ob,
1477                                                 MultiresFlags flags)
1478 {
1479         Mesh *me = ob->data;
1480         DerivedMesh *result;
1481         CCGDerivedMesh *ccgdm = NULL;
1482         CCGElem **gridData, **subGridData;
1483         CCGKey key;
1484         const bool render = (flags & MULTIRES_USE_RENDER_PARAMS) != 0;
1485         const bool ignore_simplify = (flags & MULTIRES_IGNORE_SIMPLIFY) != 0;
1486         int lvl = multires_get_level(ob, mmd, render, ignore_simplify);
1487         int i, gridSize, numGrids;
1488
1489         if (lvl == 0)
1490                 return dm;
1491
1492         result = subsurf_dm_create_local(ob, dm, lvl,
1493                                          mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges,
1494                                          mmd->flags & eMultiresModifierFlag_PlainUv,
1495                                          flags & MULTIRES_ALLOC_PAINT_MASK);
1496
1497         if (!(flags & MULTIRES_USE_LOCAL_MMD)) {
1498                 ccgdm = (CCGDerivedMesh *)result;
1499
1500                 ccgdm->multires.ob = ob;
1501                 ccgdm->multires.mmd = mmd;
1502                 ccgdm->multires.local_mmd = 0;
1503                 ccgdm->multires.lvl = lvl;
1504                 ccgdm->multires.totlvl = mmd->totlvl;
1505                 ccgdm->multires.modified_flags = 0;
1506         }
1507
1508         numGrids = result->getNumGrids(result);
1509         gridSize = result->getGridSize(result);
1510         gridData = result->getGridData(result);
1511         result->getGridKey(result, &key);
1512
1513         subGridData = MEM_mallocN(sizeof(CCGElem *) * numGrids, "subGridData*");
1514
1515         for (i = 0; i < numGrids; i++) {
1516                 subGridData[i] = MEM_mallocN(key.elem_size * gridSize * gridSize, "subGridData");
1517                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1518         }
1519
1520         multires_set_tot_mdisps(me, mmd->totlvl);
1521         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1522
1523         /*run displacement*/
1524         multiresModifier_disp_run(result, ob->data, dm, APPLY_DISPLACEMENTS, subGridData, mmd->totlvl);
1525
1526         /* copy hidden elements for this level */
1527         if (ccgdm)
1528                 multires_output_hidden_to_ccgdm(ccgdm, me, lvl);
1529
1530         for (i = 0; i < numGrids; i++)
1531                 MEM_freeN(subGridData[i]);
1532         MEM_freeN(subGridData);
1533
1534         return result;
1535 }
1536
1537 /**** Old Multires code ****
1538  ***************************/
1539
1540 /* Adapted from sculptmode.c */
1541 void old_mdisps_bilinear(float out[3], float (*disps)[3], const int st, float u, float v)
1542 {
1543         int x, y, x2, y2;
1544         const int st_max = st - 1;
1545         float urat, vrat, uopp;
1546         float d[4][3], d2[2][3];
1547         
1548         if (!disps || isnan(u) || isnan(v))
1549                 return;
1550                         
1551         if (u < 0)
1552                 u = 0;
1553         else if (u >= st)
1554                 u = st_max;
1555         if (v < 0)
1556                 v = 0;
1557         else if (v >= st)
1558                 v = st_max;
1559
1560         x = floor(u);
1561         y = floor(v);
1562         x2 = x + 1;
1563         y2 = y + 1;
1564
1565         if (x2 >= st) x2 = st_max;
1566         if (y2 >= st) y2 = st_max;
1567         
1568         urat = u - x;
1569         vrat = v - y;
1570         uopp = 1 - urat;
1571
1572         mul_v3_v3fl(d[0], disps[y * st + x], uopp);
1573         mul_v3_v3fl(d[1], disps[y * st + x2], urat);
1574         mul_v3_v3fl(d[2], disps[y2 * st + x], uopp);
1575         mul_v3_v3fl(d[3], disps[y2 * st + x2], urat);
1576
1577         add_v3_v3v3(d2[0], d[0], d[1]);
1578         add_v3_v3v3(d2[1], d[2], d[3]);
1579         mul_v3_fl(d2[0], 1 - vrat);
1580         mul_v3_fl(d2[1], vrat);
1581
1582         add_v3_v3v3(out, d2[0], d2[1]);
1583 }
1584
1585 static void old_mdisps_rotate(int S, int UNUSED(newside), int oldside, int x, int y, float *u, float *v)
1586 {
1587         float offset = oldside * 0.5f - 0.5f;
1588
1589         if (S == 1) { *u = offset + x; *v = offset - y; }
1590         if (S == 2) { *u = offset + y; *v = offset + x; }
1591         if (S == 3) { *u = offset - x; *v = offset + y; }
1592         if (S == 0) { *u = offset - y; *v = offset - x; }
1593 }
1594
1595 static void old_mdisps_convert(MFace *mface, MDisps *mdisp)
1596 {
1597         int newlvl = log(sqrt(mdisp->totdisp) - 1) / M_LN2;
1598         int oldlvl = newlvl + 1;
1599         int oldside = multires_side_tot[oldlvl];
1600         int newside = multires_side_tot[newlvl];
1601         int nvert = (mface->v4) ? 4 : 3;
1602         int newtotdisp = multires_grid_tot[newlvl] * nvert;
1603         int x, y, S;
1604         float (*disps)[3], (*out)[3], u = 0.0f, v = 0.0f; /* Quite gcc barking. */
1605
1606         disps = MEM_callocN(sizeof(float) * 3 * newtotdisp, "multires disps");
1607
1608         out = disps;
1609         for (S = 0; S < nvert; S++) {
1610                 for (y = 0; y < newside; ++y) {
1611                         for (x = 0; x < newside; ++x, ++out) {
1612                                 old_mdisps_rotate(S, newside, oldside, x, y, &u, &v);
1613                                 old_mdisps_bilinear(*out, mdisp->disps, oldside, u, v);
1614
1615                                 if (S == 1) { (*out)[1] = -(*out)[1]; }
1616                                 else if (S == 2) { SWAP(float, (*out)[0], (*out)[1]); }
1617                                 else if (S == 3) { (*out)[0] = -(*out)[0]; }
1618                                 else if (S == 0) { SWAP(float, (*out)[0], (*out)[1]); (*out)[0] = -(*out)[0]; (*out)[1] = -(*out)[1]; }
1619                         }
1620                 }
1621         }
1622
1623         MEM_freeN(mdisp->disps);
1624
1625         mdisp->totdisp = newtotdisp;
1626         mdisp->level = newlvl;
1627         mdisp->disps = disps;
1628 }
1629
1630 void multires_load_old_250(Mesh *me)
1631 {
1632         MDisps *mdisps, *mdisps2;
1633         MFace *mf;
1634         int i, j, k;
1635
1636         mdisps = CustomData_get_layer(&me->fdata, CD_MDISPS);
1637
1638         if (mdisps) {
1639                 for (i = 0; i < me->totface; i++)
1640                         if (mdisps[i].totdisp)
1641                                 old_mdisps_convert(&me->mface[i], &mdisps[i]);
1642                 
1643                 CustomData_add_layer(&me->ldata, CD_MDISPS, CD_CALLOC, NULL, me->totloop);
1644                 mdisps2 = CustomData_get_layer(&me->ldata, CD_MDISPS);
1645
1646                 k = 0;
1647                 mf = me->mface;
1648                 for (i = 0; i < me->totface; i++, mf++) {
1649                         int nvert = mf->v4 ? 4 : 3;
1650                         int totdisp = mdisps[i].totdisp / nvert;
1651                         
1652                         for (j = 0; j < nvert; j++, k++) {
1653                                 mdisps2[k].disps = MEM_callocN(sizeof(float) * 3 * totdisp, "multires disp in conversion");
1654                                 mdisps2[k].totdisp = totdisp;
1655                                 mdisps2[k].level = mdisps[i].level;
1656                                 memcpy(mdisps2[k].disps, mdisps[i].disps + totdisp * j, totdisp);
1657                         }
1658
1659                 }
1660         }
1661 }
1662
1663 /* Does not actually free lvl itself */
1664 static void multires_free_level(MultiresLevel *lvl)
1665 {
1666         if (lvl) {
1667                 if (lvl->faces) MEM_freeN(lvl->faces);
1668                 if (lvl->edges) MEM_freeN(lvl->edges);
1669                 if (lvl->colfaces) MEM_freeN(lvl->colfaces);
1670         }
1671 }
1672
1673 void multires_free(Multires *mr)
1674 {
1675         if (mr) {
1676                 MultiresLevel *lvl = mr->levels.first;
1677
1678                 /* Free the first-level data */
1679                 if (lvl) {
1680                         CustomData_free(&mr->vdata, lvl->totvert);
1681                         CustomData_free(&mr->fdata, lvl->totface);
1682                         if (mr->edge_flags)
1683                                 MEM_freeN(mr->edge_flags);
1684                         if (mr->edge_creases)
1685                                 MEM_freeN(mr->edge_creases);
1686                 }
1687
1688                 while (lvl) {
1689                         multires_free_level(lvl);
1690                         lvl = lvl->next;
1691                 }
1692
1693                 /* mr->verts may be NULL when loading old files, see direct_link_mesh() in readfile.c, and T43560. */
1694                 MEM_SAFE_FREE(mr->verts);
1695
1696                 BLI_freelistN(&mr->levels);
1697
1698                 MEM_freeN(mr);
1699         }
1700 }
1701
1702 typedef struct IndexNode {
1703         struct IndexNode *next, *prev;
1704         int index;
1705 } IndexNode;
1706
1707 static void create_old_vert_face_map(ListBase **map, IndexNode **mem, const MultiresFace *mface,
1708                                      const int totvert, const int totface)
1709 {
1710         int i, j;
1711         IndexNode *node = NULL;
1712         
1713         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert face map");
1714         (*mem) = MEM_callocN(sizeof(IndexNode) * totface * 4, "vert face map mem");
1715         node = *mem;
1716         
1717         /* Find the users */
1718         for (i = 0; i < totface; ++i) {
1719                 for (j = 0; j < (mface[i].v[3] ? 4 : 3); ++j, ++node) {
1720                         node->index = i;
1721                         BLI_addtail(&(*map)[mface[i].v[j]], node);
1722                 }
1723         }
1724 }
1725
1726 static void create_old_vert_edge_map(ListBase **map, IndexNode **mem, const MultiresEdge *medge,
1727                                      const int totvert, const int totedge)
1728 {
1729         int i, j;
1730         IndexNode *node = NULL;
1731         
1732         (*map) = MEM_callocN(sizeof(ListBase) * totvert, "vert edge map");
1733         (*mem) = MEM_callocN(sizeof(IndexNode) * totedge * 2, "vert edge map mem");
1734         node = *mem;
1735         
1736         /* Find the users */
1737         for (i = 0; i < totedge; ++i) {
1738                 for (j = 0; j < 2; ++j, ++node) {
1739                         node->index = i;
1740                         BLI_addtail(&(*map)[medge[i].v[j]], node);
1741                 }
1742         }
1743 }
1744
1745 static MultiresFace *find_old_face(ListBase *map, MultiresFace *faces, int v1, int v2, int v3, int v4)
1746 {
1747         IndexNode *n1;
1748         int v[4], i, j;
1749
1750         v[0] = v1;
1751         v[1] = v2;
1752         v[2] = v3;
1753         v[3] = v4;
1754
1755         for (n1 = map[v1].first; n1; n1 = n1->next) {
1756                 int fnd[4] = {0, 0, 0, 0};
1757
1758                 for (i = 0; i < 4; ++i) {
1759                         for (j = 0; j < 4; ++j) {
1760                                 if (v[i] == faces[n1->index].v[j])
1761                                         fnd[i] = 1;
1762                         }
1763                 }
1764
1765                 if (fnd[0] && fnd[1] && fnd[2] && fnd[3])
1766                         return &faces[n1->index];
1767         }
1768
1769         return NULL;
1770 }
1771
1772 static MultiresEdge *find_old_edge(ListBase *map, MultiresEdge *edges, int v1, int v2)
1773 {
1774         IndexNode *n1, *n2;
1775
1776         for (n1 = map[v1].first; n1; n1 = n1->next) {
1777                 for (n2 = map[v2].first; n2; n2 = n2->next) {
1778                         if (n1->index == n2->index)
1779                                 return &edges[n1->index];
1780                 }
1781         }
1782
1783         return NULL;
1784 }
1785
1786 static void multires_load_old_edges(ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst, int v1, int v2, int mov)
1787 {
1788         int emid = find_old_edge(emap[2], lvl->edges, v1, v2)->mid;
1789         vvmap[dst + mov] = emid;
1790
1791         if (lvl->next->next) {
1792                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v1, emid, mov / 2);
1793                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v2, emid, -mov / 2);
1794         }
1795 }
1796
1797 static void multires_load_old_faces(ListBase **fmap, ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst,
1798                                     int v1, int v2, int v3, int v4, int st2, int st3)
1799 {
1800         int fmid;
1801         int emid13, emid14, emid23, emid24;
1802
1803         if (lvl && lvl->next) {
1804                 fmid = find_old_face(fmap[1], lvl->faces, v1, v2, v3, v4)->mid;
1805                 vvmap[dst] = fmid;
1806
1807                 emid13 = find_old_edge(emap[1], lvl->edges, v1, v3)->mid;
1808                 emid14 = find_old_edge(emap[1], lvl->edges, v1, v4)->mid;
1809                 emid23 = find_old_edge(emap[1], lvl->edges, v2, v3)->mid;
1810                 emid24 = find_old_edge(emap[1], lvl->edges, v2, v4)->mid;
1811
1812
1813                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 + st3,
1814                                         fmid, v2, emid23, emid24, st2, st3 / 2);
1815
1816                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 + st3,
1817                                         emid14, emid24, fmid, v4, st2, st3 / 2);
1818
1819                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 - st3,
1820                                         emid13, emid23, v3, fmid, st2, st3 / 2);
1821
1822                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 - st3,
1823                                         v1, fmid, emid13, emid14, st2, st3 / 2);
1824
1825                 if (lvl->next->next) {
1826                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid24, fmid, st3);
1827                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid13, fmid, -st3);
1828                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid14, fmid, -st2 * st3);
1829                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid23, fmid, st2 * st3);
1830                 }
1831         }
1832 }
1833
1834 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert)
1835 {
1836         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *) dm;
1837         CCGSubSurf *ss = ccgdm->ss;
1838         CCGElem *vd;
1839         CCGKey key;
1840         int index;
1841         int totvert, totedge, totface;
1842         int gridSize = ccgSubSurf_getGridSize(ss);
1843         int edgeSize = ccgSubSurf_getEdgeSize(ss);
1844         int i = 0;
1845
1846         dm->getGridKey(dm, &key);
1847
1848         totface = ccgSubSurf_getNumFaces(ss);
1849         for (index = 0; index < totface; index++) {
1850                 CCGFace *f = ccgdm->faceMap[index].face;
1851                 int x, y, S, numVerts = ccgSubSurf_getFaceNumVerts(f);
1852
1853                 vd = ccgSubSurf_getFaceCenterData(f);
1854                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1855                 i++;
1856                 
1857                 for (S = 0; S < numVerts; S++) {
1858                         for (x = 1; x < gridSize - 1; x++, i++) {
1859                                 vd = ccgSubSurf_getFaceGridEdgeData(ss, f, S, x);
1860                                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1861                         }
1862                 }
1863
1864                 for (S = 0; S < numVerts; S++) {
1865                         for (y = 1; y < gridSize - 1; y++) {
1866                                 for (x = 1; x < gridSize - 1; x++, i++) {
1867                                         vd = ccgSubSurf_getFaceGridData(ss, f, S, x, y);
1868                                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1869                                 }
1870                         }
1871                 }
1872         }
1873
1874         totedge = ccgSubSurf_getNumEdges(ss);
1875         for (index = 0; index < totedge; index++) {
1876                 CCGEdge *e = ccgdm->edgeMap[index].edge;
1877                 int x;
1878
1879                 for (x = 1; x < edgeSize - 1; x++, i++) {
1880                         vd = ccgSubSurf_getEdgeData(ss, e, x);
1881                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1882                 }
1883         }
1884
1885         totvert = ccgSubSurf_getNumVerts(ss);
1886         for (index = 0; index < totvert; index++) {
1887                 CCGVert *v = ccgdm->vertMap[index].vert;
1888
1889                 vd = ccgSubSurf_getVertData(ss, v);
1890                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1891                 i++;
1892         }
1893
1894         ccgSubSurf_updateToFaces(ss, 0, NULL, 0);
1895 }
1896
1897 /* Loads a multires object stored in the old Multires struct into the new format */
1898 static void multires_load_old_dm(DerivedMesh *dm, Mesh *me, int totlvl)
1899 {
1900         MultiresLevel *lvl, *lvl1;
1901         Multires *mr = me->mr;
1902         MVert *vsrc, *vdst;
1903         unsigned int src, dst;
1904         int st_last = multires_side_tot[totlvl - 1] - 1;
1905         int extedgelen = multires_side_tot[totlvl] - 2;
1906         int *vvmap; // inorder for dst, map to src
1907         int crossedgelen;
1908         int s, x, tottri, totquad;
1909         unsigned int i, j, totvert;
1910
1911         src = 0;
1912         vsrc = mr->verts;
1913         vdst = dm->getVertArray(dm);
1914         totvert = (unsigned int)dm->getNumVerts(dm);
1915         vvmap = MEM_callocN(sizeof(int) * totvert, "multires vvmap");
1916
1917         lvl1 = mr->levels.first;
1918         /* Load base verts */
1919         for (i = 0; i < lvl1->totvert; ++i) {
1920                 vvmap[totvert - lvl1->totvert + i] = src;
1921                 src++;
1922         }
1923
1924         /* Original edges */
1925         dst = totvert - lvl1->totvert - extedgelen * lvl1->totedge;
1926         for (i = 0; i < lvl1->totedge; ++i) {
1927                 int ldst = dst + extedgelen * i;
1928                 int lsrc = src;
1929                 lvl = lvl1->next;
1930
1931                 for (j = 2; j <= mr->level_count; ++j) {
1932                         int base = multires_side_tot[totlvl - j + 1] - 2;
1933                         int skip = multires_side_tot[totlvl - j + 2] - 1;
1934                         int st = multires_side_tot[j - 1] - 1;
1935
1936                         for (x = 0; x < st; ++x)
1937                                 vvmap[ldst + base + x * skip] = lsrc + st * i + x;
1938
1939                         lsrc += lvl->totvert - lvl->prev->totvert;
1940                         lvl = lvl->next;
1941                 }
1942         }
1943
1944         /* Center points */
1945         dst = 0;
1946         for (i = 0; i < lvl1->totface; ++i) {
1947                 int sides = lvl1->faces[i].v[3] ? 4 : 3;
1948
1949                 vvmap[dst] = src + lvl1->totedge + i;
1950                 dst += 1 + sides * (st_last - 1) * st_last;
1951         }
1952
1953
1954         /* The rest is only for level 3 and up */
1955         if (lvl1->next && lvl1->next->next) {
1956                 ListBase **fmap, **emap;
1957                 IndexNode **fmem, **emem;
1958
1959                 /* Face edge cross */
1960                 tottri = totquad = 0;
1961                 crossedgelen = multires_side_tot[totlvl - 1] - 2;
1962                 dst = 0;
1963                 for (i = 0; i < lvl1->totface; ++i) {
1964                         int sides = lvl1->faces[i].v[3] ? 4 : 3;
1965
1966                         lvl = lvl1->next->next;
1967                         dst++;
1968
1969                         for (j = 3; j <= mr->level_count; ++j) {
1970                                 int base = multires_side_tot[totlvl - j + 1] - 2;
1971                                 int skip = multires_side_tot[totlvl - j + 2] - 1;
1972                                 int st = pow(2, j - 2);
1973                                 int st2 = pow(2, j - 3);
1974                                 int lsrc = lvl->prev->totvert;
1975
1976                                 /* Skip exterior edge verts */
1977                                 lsrc += lvl1->totedge * st;
1978
1979                                 /* Skip earlier face edge crosses */
1980                                 lsrc += st2 * (tottri * 3 + totquad * 4);
1981
1982                                 for (s = 0; s < sides; ++s) {
1983                                         for (x = 0; x < st2; ++x) {
1984                                                 vvmap[dst + crossedgelen * (s + 1) - base - x * skip - 1] = lsrc;
1985                                                 lsrc++;
1986                                         }
1987                                 }
1988
1989                                 lvl = lvl->next;
1990                         }
1991
1992                         dst += sides * (st_last - 1) * st_last;
1993
1994                         if (sides == 4) ++totquad;
1995                         else ++tottri;
1996
1997                 }
1998
1999                 /* calculate vert to edge/face maps for each level (except the last) */
2000                 fmap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires fmap");
2001                 emap = MEM_callocN(sizeof(ListBase *) * (mr->level_count - 1), "multires emap");
2002                 fmem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires fmem");
2003                 emem = MEM_callocN(sizeof(IndexNode *) * (mr->level_count - 1), "multires emem");
2004                 lvl = lvl1;
2005                 for (i = 0; i < (unsigned int)mr->level_count - 1; ++i) {
2006                         create_old_vert_face_map(fmap + i, fmem + i, lvl->faces, lvl->totvert, lvl->totface);
2007                         create_old_vert_edge_map(emap + i, emem + i, lvl->edges, lvl->totvert, lvl->totedge);
2008                         lvl = lvl->next;
2009                 }
2010
2011                 /* Interior face verts */
2012                 /* lvl = lvl1->next->next; */ /* UNUSED */
2013                 dst = 0;
2014                 for (j = 0; j < lvl1->totface; ++j) {
2015                         int sides = lvl1->faces[j].v[3] ? 4 : 3;
2016                         int ldst = dst + 1 + sides * (st_last - 1);
2017
2018                         for (s = 0; s < sides; ++s) {
2019                                 int st2 = multires_side_tot[totlvl - 1] - 2;
2020                                 int st3 = multires_side_tot[totlvl - 2] - 2;
2021                                 int st4 = st3 == 0 ? 1 : (st3 + 1) / 2;
2022                                 int mid = ldst + st2 * st3 + st3;
2023                                 int cv = lvl1->faces[j].v[s];
2024                                 int nv = lvl1->faces[j].v[s == sides - 1 ? 0 : s + 1];
2025                                 int pv = lvl1->faces[j].v[s == 0 ? sides - 1 : s - 1];
2026
2027                                 multires_load_old_faces(fmap, emap, lvl1->next, vvmap, mid,
2028                                                         vvmap[dst], cv,
2029                                                         find_old_edge(emap[0], lvl1->edges, pv, cv)->mid,
2030                                                         find_old_edge(emap[0], lvl1->edges, cv, nv)->mid,
2031                                                         st2, st4);
2032
2033                                 ldst += (st_last - 1) * (st_last - 1);
2034                         }
2035
2036
2037                         dst = ldst;
2038                 }
2039
2040                 /*lvl = lvl->next;*/ /*UNUSED*/
2041
2042                 for (i = 0; i < (unsigned int)(mr->level_count - 1); ++i) {
2043                         MEM_freeN(fmap[i]);
2044                         MEM_freeN(fmem[i]);
2045                         MEM_freeN(emap[i]);
2046                         MEM_freeN(emem[i]);
2047                 }
2048
2049                 MEM_freeN(fmap);
2050                 MEM_freeN(emap);
2051                 MEM_freeN(fmem);
2052                 MEM_freeN(emem);
2053         }
2054
2055         /* Transfer verts */
2056         for (i = 0; i < totvert; ++i)
2057                 copy_v3_v3(vdst[i].co, vsrc[vvmap[i]].co);
2058
2059         MEM_freeN(vvmap);
2060
2061         multires_mvert_to_ss(dm, vdst);
2062 }
2063
2064 /* Copy the first-level vcol data to the mesh, if it exists */
2065 /* Warning: higher-level vcol data will be lost */
2066 static void multires_load_old_vcols(Mesh *me)
2067 {
2068         MultiresLevel *lvl;
2069         MultiresColFace *colface;
2070         MCol *mcol;
2071         int i, j;
2072
2073         if (!(lvl = me->mr->levels.first))
2074                 return;
2075
2076         if (!(colface = lvl->colfaces))
2077                 return;
2078
2079         /* older multires format never supported multiple vcol layers,
2080          * so we can assume the active vcol layer is the correct one */
2081         if (!(mcol = CustomData_get_layer(&me->fdata, CD_MCOL)))
2082                 return;
2083         
2084         for (i = 0; i < me->totface; ++i) {
2085                 for (j = 0; j < 4; ++j) {
2086                         mcol[i * 4 + j].a = colface[i].col[j].a;
2087                         mcol[i * 4 + j].r = colface[i].col[j].r;
2088                         mcol[i * 4 + j].g = colface[i].col[j].g;
2089                         mcol[i * 4 + j].b = colface[i].col[j].b;
2090                 }
2091         }
2092 }
2093
2094 /* Copy the first-level face-flag data to the mesh */
2095 static void multires_load_old_face_flags(Mesh *me)
2096 {
2097         MultiresLevel *lvl;
2098         MultiresFace *faces;
2099         int i;
2100
2101         if (!(lvl = me->mr->levels.first))
2102                 return;
2103
2104         if (!(faces = lvl->faces))
2105                 return;
2106
2107         for (i = 0; i < me->totface; ++i)
2108                 me->mface[i].flag = faces[i].flag;
2109 }
2110
2111 void multires_load_old(Object *ob, Mesh *me)
2112 {
2113         MultiresLevel *lvl;
2114         ModifierData *md;
2115         MultiresModifierData *mmd;
2116         DerivedMesh *dm, *orig;
2117         CustomDataLayer *l;
2118         int i;
2119
2120         /* Load original level into the mesh */
2121         lvl = me->mr->levels.first;
2122         CustomData_free_layers(&me->vdata, CD_MVERT, lvl->totvert);
2123         CustomData_free_layers(&me->edata, CD_MEDGE, lvl->totedge);
2124         CustomData_free_layers(&me->fdata, CD_MFACE, lvl->totface);
2125         me->totvert = lvl->totvert;
2126         me->totedge = lvl->totedge;
2127         me->totface = lvl->totface;
2128         me->mvert = CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, me->totvert);
2129         me->medge = CustomData_add_layer(&me->edata, CD_MEDGE, CD_CALLOC, NULL, me->totedge);
2130         me->mface = CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, me->totface);
2131         memcpy(me->mvert, me->mr->verts, sizeof(MVert) * me->totvert);
2132         for (i = 0; i < me->totedge; ++i) {
2133                 me->medge[i].v1 = lvl->edges[i].v[0];
2134                 me->medge[i].v2 = lvl->edges[i].v[1];
2135         }
2136         for (i = 0; i < me->totface; ++i) {
2137                 me->mface[i].v1 = lvl->faces[i].v[0];
2138                 me->mface[i].v2 = lvl->faces[i].v[1];
2139                 me->mface[i].v3 = lvl->faces[i].v[2];
2140                 me->mface[i].v4 = lvl->faces[i].v[3];
2141                 me->mface[i].mat_nr = lvl->faces[i].mat_nr;
2142         }
2143
2144         /* Copy the first-level data to the mesh */
2145         /* XXX We must do this before converting tessfaces to polys/lopps! */
2146         for (i = 0, l = me->mr->vdata.layers; i < me->mr->vdata.totlayer; ++i, ++l)
2147                 CustomData_add_layer(&me->vdata, l->type, CD_REFERENCE, l->data, me->totvert);
2148         for (i = 0, l = me->mr->fdata.layers; i < me->mr->fdata.totlayer; ++i, ++l)
2149                 CustomData_add_layer(&me->fdata, l->type, CD_REFERENCE, l->data, me->totface);
2150         CustomData_reset(&me->mr->vdata);
2151         CustomData_reset(&me->mr->fdata);
2152
2153         multires_load_old_vcols(me);
2154         multires_load_old_face_flags(me);
2155
2156         /* multiresModifier_subdivide (actually, multires_subdivide) expects polys, not tessfaces! */
2157         BKE_mesh_convert_mfaces_to_mpolys(me);
2158
2159         /* Add a multires modifier to the object */
2160         md = ob->modifiers.first;
2161         while (md && modifierType_getInfo(md->type)->type == eModifierTypeType_OnlyDeform)
2162                 md = md->next;                          
2163         mmd = (MultiresModifierData *)modifier_new(eModifierType_Multires);
2164         BLI_insertlinkbefore(&ob->modifiers, md, mmd);
2165
2166         for (i = 0; i < me->mr->level_count - 1; ++i)
2167                 multiresModifier_subdivide(mmd, ob, 1, 0);
2168
2169         mmd->lvl = mmd->totlvl;
2170         orig = CDDM_from_mesh(me);
2171         /* XXX We *must* alloc paint mask here, else we have some kind of mismatch in
2172          *     multires_modifier_update_mdisps() (called by dm->release(dm)), which always creates the
2173          *     reference subsurfed dm with this option, before calling multiresModifier_disp_run(),
2174          *     which implicitly expects both subsurfs from its first dm and oldGridData parameters to
2175          *     be of the same "format"! */
2176         dm = multires_make_derived_from_derived(orig, mmd, ob, 0);
2177
2178         multires_load_old_dm(dm, me, mmd->totlvl + 1);
2179
2180         multires_dm_mark_as_modified(dm, MULTIRES_COORDS_MODIFIED);
2181         dm->release(dm);
2182         orig->release(orig);
2183
2184         /* Remove the old multires */
2185         multires_free(me->mr);
2186         me->mr = NULL;
2187 }
2188
2189 /* If 'ob_src' and 'ob_dst' both have multires modifiers, synchronize them
2190  * such that 'ob_dst' has the same total number of levels as 'ob_src'. */
2191 void multiresModifier_sync_levels_ex(Object *ob_dst, MultiresModifierData *mmd_src, MultiresModifierData *mmd_dst)
2192 {
2193         if (mmd_src->totlvl == mmd_dst->totlvl) {
2194                 return;
2195         }
2196
2197         if (mmd_src->totlvl > mmd_dst->totlvl) {
2198                 multires_subdivide(mmd_dst, ob_dst, mmd_src->totlvl, false, mmd_dst->simple);
2199         }
2200         else {
2201                 multires_del_higher(mmd_dst, ob_dst, mmd_src->totlvl);
2202         }
2203 }
2204
2205 static void multires_sync_levels(Scene *scene, Object *ob_src, Object *ob_dst)
2206 {
2207         MultiresModifierData *mmd_src = get_multires_modifier(scene, ob_src, true);
2208         MultiresModifierData *mmd_dst = get_multires_modifier(scene, ob_dst, true);
2209
2210         if (!mmd_src) {
2211                 /* object could have MDISP even when there is no multires modifier
2212                  * this could lead to troubles due to i've got no idea how mdisp could be
2213                  * upsampled correct without modifier data.
2214                  * just remove mdisps if no multires present (nazgul) */
2215
2216                 multires_customdata_delete(ob_src->data);
2217         }
2218
2219         if (mmd_src && mmd_dst) {
2220                 multiresModifier_sync_levels_ex(ob_dst, mmd_src, mmd_dst);
2221         }
2222 }
2223
2224 static void multires_apply_smat_cb(
2225         void *__restrict userdata,
2226         const int pidx,
2227         const ParallelRangeTLS *__restrict UNUSED(tls))
2228 {
2229         MultiresThreadedData *tdata = userdata;
2230
2231         CCGElem **gridData = tdata->gridData;
2232         CCGElem **subGridData = tdata->subGridData;
2233         CCGKey *dm_key = tdata->key;
2234         CCGKey *subdm_key = tdata->sub_key;
2235         MPoly *mpoly = tdata->mpoly;
2236         MDisps *mdisps = tdata->mdisps;
2237         int *gridOffset = tdata->gridOffset;
2238         int gridSize = tdata->gridSize;
2239         int dGridSize = tdata->dGridSize;
2240         int dSkip = tdata->dSkip;
2241         float (*smat)[3] = tdata->smat;
2242
2243         const int numVerts = mpoly[pidx].totloop;
2244         MDisps *mdisp = &mdisps[mpoly[pidx].loopstart];
2245         int S, x, y, gIndex = gridOffset[pidx];
2246
2247         for (S = 0; S < numVerts; ++S, ++gIndex, mdisp++) {
2248                 CCGElem *grid = gridData[gIndex];
2249                 CCGElem *subgrid = subGridData[gIndex];
2250                 float (*dispgrid)[3] = mdisp->disps;
2251
2252                 for (y = 0; y < gridSize; y++) {
2253                         for (x = 0; x < gridSize; x++) {
2254                                 float *co = CCG_grid_elem_co(dm_key, grid, x, y);
2255                                 float *sco = CCG_grid_elem_co(subdm_key, subgrid, x, y);
2256                                 float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
2257                                 float mat[3][3], disp[3];
2258
2259                                 /* construct tangent space matrix */
2260                                 grid_tangent_matrix(mat, dm_key, x, y, grid);
2261
2262                                 /* scale subgrid coord and calculate displacement */
2263                                 mul_m3_v3(smat, sco);
2264                                 sub_v3_v3v3(disp, sco, co);
2265
2266                                 /* convert difference to tangent space */
2267                                 invert_m3(mat);
2268                                 mul_v3_m3v3(data, mat, disp);
2269                         }
2270                 }
2271         }
2272 }
2273
2274 static void multires_apply_smat(const struct EvaluationContext *eval_ctx, Scene *scene, Object *ob, float smat[3][3])
2275 {
2276         DerivedMesh *dm = NULL, *cddm = NULL, *subdm = NULL;
2277         CCGElem **gridData, **subGridData;
2278         CCGKey dm_key, subdm_key;
2279         Mesh *me = (Mesh *)ob->data;
2280         MPoly *mpoly = me->mpoly;
2281         /* MLoop *mloop = me->mloop; */ /* UNUSED */
2282         MDisps *mdisps;
2283         int *gridOffset;
2284         int i, /*numGrids, */ gridSize, dGridSize, dSkip, totvert;
2285         float (*vertCos)[3] = NULL;
2286         MultiresModifierData *mmd = get_multires_modifier(scene, ob, 1);
2287         MultiresModifierData high_mmd;
2288
2289         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2290         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
2291
2292         if (!mdisps || !mmd || !mmd->totlvl) return;
2293
2294         /* we need derived mesh created from highest resolution */
2295         high_mmd = *mmd;
2296         high_mmd.lvl = high_mmd.totlvl;
2297
2298         /* unscaled multires with applied displacement */
2299         subdm = get_multires_dm(eval_ctx, scene, &high_mmd, ob);
2300
2301         /* prepare scaled CDDM to create ccgDN */
2302         cddm = mesh_get_derived_deform(eval_ctx, scene, ob, CD_MASK_BAREMESH);
2303
2304         totvert = cddm->getNumVerts(cddm);
2305         vertCos = MEM_mallocN(sizeof(*vertCos) * totvert, "multiresScale vertCos");
2306         cddm->getVertCos(cddm, vertCos);
2307         for (i = 0; i < totvert; i++)
2308                 mul_m3_v3(smat, vertCos[i]);
2309         CDDM_apply_vert_coords(cddm, vertCos);
2310         MEM_freeN(vertCos);
2311
2312         /* scaled ccgDM for tangent space of object with applied scale */
2313         dm = subsurf_dm_create_local(ob, cddm, high_mmd.totlvl, high_mmd.simple, 0, mmd->flags & eMultiresModifierFlag_PlainUv, 0);
2314         cddm->release(cddm);
2315
2316         gridSize = dm->getGridSize(dm);
2317         gridData = dm->getGridData(dm);
2318         gridOffset = dm->getGridOffset(dm);
2319         dm->getGridKey(dm, &dm_key);
2320         subGridData = subdm->getGridData(subdm);
2321         subdm->getGridKey(subdm, &subdm_key);
2322
2323         dGridSize = multires_side_tot[high_mmd.totlvl];
2324         dSkip = (dGridSize - 1) / (gridSize - 1);
2325
2326         ParallelRangeSettings settings;
2327         BLI_parallel_range_settings_defaults(&settings);
2328         settings.min_iter_per_thread = CCG_TASK_LIMIT;
2329
2330         MultiresThreadedData data = {
2331             .gridData = gridData,
2332             .subGridData = subGridData,
2333             .key = &dm_key,
2334             .sub_key = &subdm_key,
2335             .mpoly = mpoly,
2336             .mdisps = mdisps,
2337             .gridOffset = gridOffset,
2338             .gridSize = gridSize,
2339             .dGridSize = dGridSize,
2340             .dSkip = dSkip,
2341             .smat = smat
2342         };
2343
2344         BLI_task_parallel_range(0, me->totpoly, &data, multires_apply_smat_cb, &settings);
2345
2346         dm->release(dm);
2347         subdm->release(subdm);
2348 }
2349
2350 int multires_mdisp_corners(MDisps *s)
2351 {
2352         int lvl = 13;
2353
2354         while (lvl > 0) {
2355                 int side = (1 << (lvl - 1)) + 1;
2356                 if ((s->totdisp % (side * side)) == 0) return s->totdisp / (side * side);
2357                 lvl--;
2358         }
2359
2360         return 0;
2361 }
2362
2363 void multiresModifier_scale_disp(const struct EvaluationContext *eval_ctx, Scene *scene, Object *ob)
2364 {
2365         float smat[3][3];
2366
2367         /* object's scale matrix */
2368         BKE_object_scale_to_mat3(ob, smat);
2369
2370         multires_apply_smat(eval_ctx, scene, ob, smat);
2371 }
2372
2373 void multiresModifier_prepare_join(const struct EvaluationContext *eval_ctx, Scene *scene, Object *ob, Object *to_ob)
2374 {
2375         float smat[3][3], tmat[3][3], mat[3][3];
2376         multires_sync_levels(scene, to_ob, ob);
2377
2378         /* construct scale matrix for displacement */
2379         BKE_object_scale_to_mat3(to_ob, tmat);
2380         invert_m3(tmat);
2381         BKE_object_scale_to_mat3(ob, smat);
2382         mul_m3_m3m3(mat, smat, tmat);
2383
2384         multires_apply_smat(eval_ctx, scene, ob, mat);
2385 }
2386
2387 /* update multires data after topology changing */
2388 void multires_topology_changed(Mesh *me)
2389 {
2390         MDisps *mdisp = NULL, *cur = NULL;
2391         int i, grid = 0;
2392
2393         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2394         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
2395
2396         if (!mdisp)
2397                 return;
2398
2399         cur = mdisp;
2400         for (i = 0; i < me->totloop; i++, cur++) {
2401                 if (cur->totdisp) {
2402                         grid = mdisp->totdisp;
2403
2404                         break;
2405                 }
2406         }
2407
2408         for (i = 0; i < me->totloop; i++, mdisp++) {
2409                 /* allocate memory for mdisp, the whole disp layer would be erased otherwise */
2410                 if (!mdisp->totdisp || !mdisp->disps) {
2411                         if (grid) {
2412                                 mdisp->totdisp = grid;
2413                                 mdisp->disps = MEM_callocN(3 * mdisp->totdisp * sizeof(float), "mdisp topology");
2414                         }
2415
2416                         continue;
2417                 }
2418         }
2419 }
2420
2421 /***************** Multires interpolation stuff *****************/
2422
2423 /* Find per-corner coordinate with given per-face UV coord */
2424 int mdisp_rot_face_to_crn(struct MVert *UNUSED(mvert), struct MPoly *mpoly, struct MLoop *UNUSED(mloop), const struct MLoopTri *UNUSED(lt), const int face_side, const float u, const float v, float *x, float *y)
2425 {
2426         const float offset = face_side * 0.5f - 0.5f;
2427         int S = 0;
2428
2429         if (mpoly->totloop == 4) {
2430                 if (u <= offset && v <= offset) S = 0;
2431                 else if (u > offset  && v <= offset) S = 1;
2432                 else if (u > offset  && v > offset) S = 2;
2433                 else if (u <= offset && v >= offset) S = 3;
2434
2435                 if (S == 0) {
2436                         *y = offset - u;
2437                         *x = offset - v;
2438                 }
2439                 else if (S == 1) {
2440                         *x = u - offset;
2441                         *y = offset - v;
2442                 }
2443                 else if (S == 2) {
2444                         *y = u - offset;
2445                         *x = v - offset;
2446                 }
2447                 else if (S == 3) {
2448                         *x = offset - u;
2449                         *y = v - offset;
2450                 }
2451         }
2452         else if (mpoly->totloop == 3) {
2453                 int grid_size = offset;
2454                 float w = (face_side - 1) - u - v;
2455                 float W1, W2;
2456
2457                 if (u >= v && u >= w) {S = 0; W1 = w; W2 = v; }
2458                 else if (v >= u && v >= w) {S = 1; W1 = u; W2 = w; }
2459                 else {S = 2; W1 = v; W2 = u; }
2460
2461                 W1 /= (face_side - 1);
2462                 W2 /= (face_side - 1);
2463
2464                 *x = (1 - (2 * W1) / (1 - W2)) * grid_size;
2465                 *y = (1 - (2 * W2) / (1 - W1)) * grid_size;
2466         }
2467         else {
2468                 /* the complicated ngon case: find the actual coordinate from
2469                  * the barycentric coordinates and finally find the closest vertex
2470                  * should work reliably for convex cases only but better than nothing */
2471
2472 #if 0
2473                 int minS, i;
2474                 float mindist = FLT_MAX;
2475
2476                 for (i = 0; i < mpoly->totloop; i++) {
2477                         float len = len_v3v3(NULL, mvert[mloop[mpoly->loopstart + i].v].co);
2478                         if (len < mindist) {
2479                                 mindist = len;
2480                                 minS = i;
2481                         }
2482                 }
2483                 S = minS;
2484 #endif
2485                 /* temp not implemented yet and also not working properly in current master.
2486                  * (was worked around by subdividing once) */
2487                 S = 0;
2488                 *x = 0;
2489                 *y = 0;
2490         }
2491
2492         return S;
2493 }