Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / multires.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2007 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/multires.c
29  *  \ingroup bke
30  */
31
32
33 #include "MEM_guardedalloc.h"
34
35 /* for reading old multires */
36 #define DNA_DEPRECATED_ALLOW
37
38 #include "DNA_mesh_types.h"
39 #include "DNA_meshdata_types.h"
40 #include "DNA_object_types.h"
41 #include "DNA_scene_types.h"
42
43 #include "BLI_bitmap.h"
44 #include "BLI_blenlib.h"
45 #include "BLI_math.h"
46 #include "BLI_utildefines.h"
47 #include "BLI_task.h"
48
49 #include "BKE_pbvh.h"
50 #include "BKE_ccg.h"
51 #include "BKE_cdderivedmesh.h"
52 #include "BKE_library.h"
53 #include "BKE_mesh.h"
54 #include "BKE_mesh_mapping.h"
55 #include "BKE_mesh_runtime.h"
56 #include "BKE_modifier.h"
57 #include "BKE_multires.h"
58 #include "BKE_paint.h"
59 #include "BKE_scene.h"
60 #include "BKE_subdiv_ccg.h"
61 #include "BKE_subsurf.h"
62 #include "BKE_editmesh.h"
63
64 #include "BKE_object.h"
65
66 #include "CCGSubSurf.h"
67
68 #include "DEG_depsgraph_query.h"
69
70 #include <math.h>
71 #include <string.h>
72
73 /* MULTIRES MODIFIER */
74 static const int multires_max_levels = 13;
75 static const int multires_grid_tot[] = {0, 4, 9, 25, 81, 289, 1089, 4225, 16641, 66049, 263169, 1050625, 4198401, 16785409};
76 static const int multires_side_tot[] = {0, 2, 3, 5,  9,  17,  33,   65,   129,   257,   513,    1025,    2049,    4097};
77
78 /* See multiresModifier_disp_run for description of each operation */
79 typedef enum {
80         APPLY_DISPLACEMENTS,
81         CALC_DISPLACEMENTS,
82         ADD_DISPLACEMENTS,
83 } DispOp;
84
85 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert);
86 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl);
87
88 /** Customdata **/
89
90 void multires_customdata_delete(Mesh *me)
91 {
92         if (me->edit_btmesh) {
93                 BMEditMesh *em = me->edit_btmesh;
94                 /* CustomData_external_remove is used here only to mark layer
95                  * as non-external for further free-ing, so zero element count
96                  * looks safer than em->totface */
97                 CustomData_external_remove(&em->bm->ldata, &me->id,
98                                            CD_MDISPS, 0);
99                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_MDISPS);
100
101                 BM_data_layer_free(em->bm, &em->bm->ldata, CD_GRID_PAINT_MASK);
102         }
103         else {
104                 CustomData_external_remove(&me->ldata, &me->id,
105                                            CD_MDISPS, me->totloop);
106                 CustomData_free_layer_active(&me->ldata, CD_MDISPS,
107                                              me->totloop);
108
109                 CustomData_free_layer_active(&me->ldata, CD_GRID_PAINT_MASK,
110                                              me->totloop);
111         }
112 }
113
114 /** Grid hiding **/
115 static BLI_bitmap *multires_mdisps_upsample_hidden(
116         BLI_bitmap *lo_hidden,
117         int lo_level, int hi_level,
118
119         /* assumed to be at hi_level (or null) */
120         const BLI_bitmap *prev_hidden)
121 {
122         BLI_bitmap *subd;
123         int hi_gridsize = BKE_ccg_gridsize(hi_level);
124         int lo_gridsize = BKE_ccg_gridsize(lo_level);
125         int yh, xh, xl, yl, xo, yo, hi_ndx;
126         int offset, factor;
127
128         BLI_assert(lo_level <= hi_level);
129
130         /* fast case */
131         if (lo_level == hi_level)
132                 return MEM_dupallocN(lo_hidden);
133
134         subd = BLI_BITMAP_NEW(SQUARE(hi_gridsize), "MDisps.hidden upsample");
135
136         factor = BKE_ccg_factor(lo_level, hi_level);
137         offset = 1 << (hi_level - lo_level - 1);
138
139         /* low-res blocks */
140         for (yl = 0; yl < lo_gridsize; yl++) {
141                 for (xl = 0; xl < lo_gridsize; xl++) {
142                         int lo_val = BLI_BITMAP_TEST(lo_hidden, yl * lo_gridsize + xl);
143
144                         /* high-res blocks */
145                         for (yo = -offset; yo <= offset; yo++) {
146                                 yh = yl * factor + yo;
147                                 if (yh < 0 || yh >= hi_gridsize)
148                                         continue;
149
150                                 for (xo = -offset; xo <= offset; xo++) {
151                                         xh = xl * factor + xo;
152                                         if (xh < 0 || xh >= hi_gridsize)
153                                                 continue;
154
155                                         hi_ndx = yh * hi_gridsize + xh;
156
157                                         if (prev_hidden) {
158                                                 /* If prev_hidden is available, copy it to
159                                                  * subd, except when the equivalent element in
160                                                  * lo_hidden is different */
161                                                 if (lo_val != prev_hidden[hi_ndx]) {
162                                                         BLI_BITMAP_SET(subd, hi_ndx, lo_val);
163                                                 }
164                                                 else {
165                                                         BLI_BITMAP_SET(subd, hi_ndx, prev_hidden[hi_ndx]);
166                                                 }
167                                         }
168                                         else {
169                                                 BLI_BITMAP_SET(subd, hi_ndx, lo_val);
170                                         }
171                                 }
172                         }
173                 }
174         }
175
176         return subd;
177 }
178
179 static BLI_bitmap *multires_mdisps_downsample_hidden(BLI_bitmap *old_hidden,
180                                                      int old_level,
181                                                      int new_level)
182 {
183         BLI_bitmap *new_hidden;
184         int new_gridsize = BKE_ccg_gridsize(new_level);
185         int old_gridsize = BKE_ccg_gridsize(old_level);
186         int x, y, factor, old_value;
187
188         BLI_assert(new_level <= old_level);
189         factor = BKE_ccg_factor(new_level, old_level);
190         new_hidden = BLI_BITMAP_NEW(SQUARE(new_gridsize), "downsample hidden");
191
192
193         for (y = 0; y < new_gridsize; y++) {
194                 for (x = 0; x < new_gridsize; x++) {
195                         old_value = BLI_BITMAP_TEST(old_hidden,
196                                                    factor * y * old_gridsize + x * factor);
197
198                         BLI_BITMAP_SET(new_hidden, y * new_gridsize + x, old_value);
199                 }
200         }
201
202         return new_hidden;
203 }
204
205 static void multires_output_hidden_to_ccgdm(CCGDerivedMesh *ccgdm,
206                                             Mesh *me, int level)
207 {
208         const MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
209         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
210         int *gridOffset;
211         int i, j;
212
213         gridOffset = ccgdm->dm.getGridOffset(&ccgdm->dm);
214
215         for (i = 0; i < me->totpoly; i++) {
216                 for (j = 0; j < me->mpoly[i].totloop; j++) {
217                         int g = gridOffset[i] + j;
218                         const MDisps *md = &mdisps[g];
219                         BLI_bitmap *gh = md->hidden;
220
221                         if (gh) {
222                                 grid_hidden[g] =
223                                         multires_mdisps_downsample_hidden(gh, md->level, level);
224                         }
225                 }
226         }
227 }
228
229 /* subdivide mdisps.hidden if needed (assumes that md.level reflects
230  * the current level of md.hidden) */
231 static void multires_mdisps_subdivide_hidden(MDisps *md, int new_level)
232 {
233         BLI_bitmap *subd;
234
235         BLI_assert(md->hidden);
236
237         /* nothing to do if already subdivided enough */
238         if (md->level >= new_level)
239                 return;
240
241         subd = multires_mdisps_upsample_hidden(md->hidden,
242                                                md->level,
243                                                new_level,
244                                                NULL);
245
246         /* swap in the subdivided data */
247         MEM_freeN(md->hidden);
248         md->hidden = subd;
249 }
250
251 static MDisps *multires_mdisps_initialize_hidden(Mesh *me, int level)
252 {
253         MDisps *mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS,
254                                               CD_CALLOC, NULL, me->totloop);
255         int gridsize = BKE_ccg_gridsize(level);
256         int gridarea = SQUARE(gridsize);
257         int i, j;
258
259         for (i = 0; i < me->totpoly; i++) {
260                 bool hide = false;
261
262                 for (j = 0; j < me->mpoly[i].totloop; j++) {
263                         if (me->mvert[me->mloop[me->mpoly[i].loopstart + j].v].flag & ME_HIDE) {
264                                 hide = true;
265                                 break;
266                         }
267                 }
268
269                 if (!hide)
270                         continue;
271
272                 for (j = 0; j < me->mpoly[i].totloop; j++) {
273                         MDisps *md = &mdisps[me->mpoly[i].loopstart + j];
274
275                         BLI_assert(!md->hidden);
276
277                         md->hidden = BLI_BITMAP_NEW(gridarea, "MDisps.hidden initialize");
278                         BLI_bitmap_set_all(md->hidden, true, gridarea);
279                 }
280         }
281
282         return mdisps;
283 }
284
285 Mesh *BKE_multires_create_mesh(
286         struct Depsgraph *depsgraph,
287         Scene *scene,
288         MultiresModifierData *mmd,
289         Object *ob)
290 {
291         Object *ob_eval = DEG_get_evaluated_object(depsgraph, ob);
292         Mesh *deformed_mesh = mesh_get_eval_deform(depsgraph, scene, ob_eval, CD_MASK_BAREMESH);
293         ModifierEvalContext modifier_ctx = {
294                 .depsgraph = depsgraph,
295                 .object = ob_eval,
296                 .flag = MOD_APPLY_USECACHE | MOD_APPLY_IGNORE_SIMPLIFY};
297
298         const ModifierTypeInfo *mti = modifierType_getInfo(mmd->modifier.type);
299         Mesh *result = mti->applyModifier(&mmd->modifier, &modifier_ctx, deformed_mesh);
300
301         if (result == deformed_mesh) {
302                 result = BKE_mesh_copy_for_eval(deformed_mesh, true);
303         }
304         return result;
305 }
306
307 MultiresModifierData *find_multires_modifier_before(Scene *scene, ModifierData *lastmd)
308 {
309         ModifierData *md;
310
311         for (md = lastmd; md; md = md->prev) {
312                 if (md->type == eModifierType_Multires) {
313                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime))
314                                 return (MultiresModifierData *)md;
315                 }
316         }
317
318         return NULL;
319 }
320
321 /* used for applying scale on mdisps layer and syncing subdivide levels when joining objects
322  * use_first - return first multires modifier if all multires'es are disabled
323  */
324 MultiresModifierData *get_multires_modifier(Scene *scene, Object *ob, bool use_first)
325 {
326         ModifierData *md;
327         MultiresModifierData *mmd = NULL, *firstmmd = NULL;
328
329         /* find first active multires modifier */
330         for (md = ob->modifiers.first; md; md = md->next) {
331                 if (md->type == eModifierType_Multires) {
332                         if (!firstmmd)
333                                 firstmmd = (MultiresModifierData *)md;
334
335                         if (modifier_isEnabled(scene, md, eModifierMode_Realtime)) {
336                                 mmd = (MultiresModifierData *)md;
337                                 break;
338                         }
339                 }
340         }
341
342         if (!mmd && use_first) {
343                 /* active multires have not been found
344                  * try to use first one */
345                 return firstmmd;
346         }
347
348         return mmd;
349 }
350
351 int multires_get_level(const Scene *scene, const Object *ob, const MultiresModifierData *mmd,
352                        bool render, bool ignore_simplify)
353 {
354         if (render)
355                 return (scene != NULL) ? get_render_subsurf_level(&scene->r, mmd->renderlvl, true) : mmd->renderlvl;
356         else if (ob->mode == OB_MODE_SCULPT)
357                 return mmd->sculptlvl;
358         else if (ignore_simplify)
359                 return mmd->lvl;
360         else
361                 return (scene != NULL) ? get_render_subsurf_level(&scene->r, mmd->lvl, false) : mmd->lvl;
362 }
363
364 void multires_set_tot_level(Object *ob, MultiresModifierData *mmd, int lvl)
365 {
366         mmd->totlvl = lvl;
367
368         if (ob->mode != OB_MODE_SCULPT)
369                 mmd->lvl = CLAMPIS(MAX2(mmd->lvl, lvl), 0, mmd->totlvl);
370
371         mmd->sculptlvl = CLAMPIS(MAX2(mmd->sculptlvl, lvl), 0, mmd->totlvl);
372         mmd->renderlvl = CLAMPIS(MAX2(mmd->renderlvl, lvl), 0, mmd->totlvl);
373 }
374
375 static void multires_dm_mark_as_modified(DerivedMesh *dm, MultiresModifiedFlags flags)
376 {
377         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
378         ccgdm->multires.modified_flags |= flags;
379 }
380
381 static void multires_ccg_mark_as_modified(SubdivCCG *subdiv_ccg,
382                                           MultiresModifiedFlags flags)
383 {
384         if (flags & MULTIRES_COORDS_MODIFIED) {
385                 subdiv_ccg->dirty.coords = true;
386         }
387         if (flags & MULTIRES_HIDDEN_MODIFIED) {
388                 subdiv_ccg->dirty.hidden = true;
389         }
390 }
391
392 void multires_mark_as_modified(Object *ob, MultiresModifiedFlags flags)
393 {
394         if (ob == NULL) {
395                 return;
396         }
397         Mesh *mesh = ob->data;
398         SubdivCCG *subdiv_ccg = mesh->runtime.subdiv_ccg;
399         if (subdiv_ccg == NULL) {
400                 return;
401         }
402         multires_ccg_mark_as_modified(subdiv_ccg, flags);
403 }
404
405 void multires_force_update(Object *ob)
406 {
407         if (ob == NULL) {
408                 return;
409         }
410         SculptSession *sculpt_session = ob->sculpt;
411         if (sculpt_session != NULL && sculpt_session->pbvh != NULL) {
412                 PBVH *pbvh = sculpt_session->pbvh;
413                 if (BKE_pbvh_type(pbvh) == PBVH_GRIDS) {
414                         Mesh *mesh = ob->data;
415                         multiresModifier_reshapeFromCCG(
416                                 sculpt_session->multires->totlvl, mesh, sculpt_session->subdiv_ccg);
417                 }
418                 else {
419                         /* NOTE: Disabled for until OpenSubdiv is enabled by default. */
420                         // BLI_assert(!"multires_force_update is used on non-grids PBVH");
421                 }
422                 BKE_pbvh_free(pbvh);
423                 ob->sculpt->pbvh = NULL;
424         }
425 }
426
427 void multires_force_external_reload(Object *ob)
428 {
429         Mesh *me = BKE_mesh_from_object(ob);
430
431         CustomData_external_reload(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
432         multires_force_update(ob);
433 }
434
435 void multires_force_render_update(Object *ob)
436 {
437         if (ob && (ob->mode & OB_MODE_SCULPT) && modifiers_findByType(ob, eModifierType_Multires))
438                 multires_force_update(ob);
439 }
440
441 /* reset the multires levels to match the number of mdisps */
442 static int get_levels_from_disps(Object *ob)
443 {
444         Mesh *me = ob->data;
445         MDisps *mdisp, *md;
446         int i, j, totlvl = 0;
447
448         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
449
450         for (i = 0; i < me->totpoly; ++i) {
451                 md = mdisp + me->mpoly[i].loopstart;
452
453                 for (j = 0; j < me->mpoly[i].totloop; j++, md++) {
454                         if (md->totdisp == 0) continue;
455
456                         while (1) {
457                                 int side = (1 << (totlvl - 1)) + 1;
458                                 int lvl_totdisp = side * side;
459                                 if (md->totdisp == lvl_totdisp)
460                                         break;
461                                 else if (md->totdisp < lvl_totdisp)
462                                         totlvl--;
463                                 else
464                                         totlvl++;
465
466                         }
467
468                         break;
469                 }
470         }
471
472         return totlvl;
473 }
474
475 /* reset the multires levels to match the number of mdisps */
476 void multiresModifier_set_levels_from_disps(MultiresModifierData *mmd, Object *ob)
477 {
478         Mesh *me = ob->data;
479         MDisps *mdisp;
480
481         if (me->edit_btmesh)
482                 mdisp = CustomData_get_layer(&me->edit_btmesh->bm->ldata, CD_MDISPS);
483         else
484                 mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
485
486         if (mdisp) {
487                 mmd->totlvl = get_levels_from_disps(ob);
488                 mmd->lvl = MIN2(mmd->sculptlvl, mmd->totlvl);
489                 mmd->sculptlvl = MIN2(mmd->sculptlvl, mmd->totlvl);
490                 mmd->renderlvl = MIN2(mmd->renderlvl, mmd->totlvl);
491         }
492 }
493
494 static void multires_set_tot_mdisps(Mesh *me, int lvl)
495 {
496         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
497         int i;
498
499         if (mdisps) {
500                 for (i = 0; i < me->totloop; i++, mdisps++) {
501                         mdisps->totdisp = multires_grid_tot[lvl];
502                         mdisps->level = lvl;
503                 }
504         }
505 }
506
507 static void multires_reallocate_mdisps(int totloop, MDisps *mdisps, int lvl)
508 {
509         int i;
510
511         /* reallocate displacements to be filled in */
512         for (i = 0; i < totloop; ++i) {
513                 int totdisp = multires_grid_tot[lvl];
514                 float (*disps)[3] = MEM_calloc_arrayN(totdisp, 3 * sizeof(float), "multires disps");
515
516                 if (mdisps[i].disps)
517                         MEM_freeN(mdisps[i].disps);
518
519                 if (mdisps[i].level && mdisps[i].hidden)
520                         multires_mdisps_subdivide_hidden(&mdisps[i], lvl);
521
522                 mdisps[i].disps = disps;
523                 mdisps[i].totdisp = totdisp;
524                 mdisps[i].level = lvl;
525         }
526 }
527
528 static void multires_copy_grid(float (*gridA)[3], float (*gridB)[3], int sizeA, int sizeB)
529 {
530         int x, y, j, skip;
531
532         if (sizeA > sizeB) {
533                 skip = (sizeA - 1) / (sizeB - 1);
534
535                 for (j = 0, y = 0; y < sizeB; y++)
536                         for (x = 0; x < sizeB; x++, j++)
537                                 copy_v3_v3(gridA[y * skip * sizeA + x * skip], gridB[j]);
538         }
539         else {
540                 skip = (sizeB - 1) / (sizeA - 1);
541
542                 for (j = 0, y = 0; y < sizeA; y++)
543                         for (x = 0; x < sizeA; x++, j++)
544                                 copy_v3_v3(gridA[j], gridB[y * skip * sizeB + x * skip]);
545         }
546 }
547
548 static void multires_copy_dm_grid(CCGElem *gridA, CCGElem *gridB, CCGKey *keyA, CCGKey *keyB)
549 {
550         int x, y, j, skip;
551
552         if (keyA->grid_size > keyB->grid_size) {
553                 skip = (keyA->grid_size - 1) / (keyB->grid_size - 1);
554
555                 for (j = 0, y = 0; y < keyB->grid_size; y++)
556                         for (x = 0; x < keyB->grid_size; x++, j++)
557                                 memcpy(CCG_elem_offset_co(keyA, gridA, y * skip * keyA->grid_size + x * skip),
558                                        CCG_elem_offset_co(keyB, gridB, j),
559                                        keyA->elem_size);
560         }
561         else {
562                 skip = (keyB->grid_size - 1) / (keyA->grid_size - 1);
563
564                 for (j = 0, y = 0; y < keyA->grid_size; y++)
565                         for (x = 0; x < keyA->grid_size; x++, j++)
566                                 memcpy(CCG_elem_offset_co(keyA, gridA, j),
567                                        CCG_elem_offset_co(keyB, gridB, y * skip * keyB->grid_size + x * skip),
568                                        keyA->elem_size);
569         }
570 }
571
572 /* Reallocate gpm->data at a lower resolution and copy values over
573  * from the original high-resolution data */
574 static void multires_grid_paint_mask_downsample(GridPaintMask *gpm, int level)
575 {
576         if (level < gpm->level) {
577                 int gridsize = BKE_ccg_gridsize(level);
578                 float *data = MEM_calloc_arrayN(SQUARE(gridsize), sizeof(float),
579                                           "multires_grid_paint_mask_downsample");
580                 int x, y;
581
582                 for (y = 0; y < gridsize; y++) {
583                         for (x = 0; x < gridsize; x++) {
584                                 data[y * gridsize + x] =
585                                     paint_grid_paint_mask(gpm, level, x, y);
586                         }
587                 }
588
589                 MEM_freeN(gpm->data);
590                 gpm->data = data;
591                 gpm->level = level;
592         }
593 }
594
595 static void multires_del_higher(MultiresModifierData *mmd, Object *ob, int lvl)
596 {
597         Mesh *me = (Mesh *)ob->data;
598         int levels = mmd->totlvl - lvl;
599         MDisps *mdisps;
600         GridPaintMask *gpm;
601
602         multires_set_tot_mdisps(me, mmd->totlvl);
603         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
604         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
605         gpm = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
606
607         multires_force_update(ob);
608
609         if (mdisps && levels > 0) {
610                 if (lvl > 0) {
611                         /* MLoop *ml = me->mloop; */ /*UNUSED*/
612                         int nsize = multires_side_tot[lvl];
613                         int hsize = multires_side_tot[mmd->totlvl];
614                         int i, j;
615
616                         for (i = 0; i < me->totpoly; ++i) {
617                                 for (j = 0; j < me->mpoly[i].totloop; j++) {
618                                         int g = me->mpoly[i].loopstart + j;
619                                         MDisps *mdisp = &mdisps[g];
620                                         float (*disps)[3], (*ndisps)[3], (*hdisps)[3];
621                                         int totdisp = multires_grid_tot[lvl];
622
623                                         disps = MEM_calloc_arrayN(totdisp, 3 * sizeof(float), "multires disps");
624
625                                         ndisps = disps;
626                                         hdisps = mdisp->disps;
627
628                                         multires_copy_grid(ndisps, hdisps, nsize, hsize);
629                                         if (mdisp->hidden) {
630                                                 BLI_bitmap *gh =
631                                                     multires_mdisps_downsample_hidden(mdisp->hidden,
632                                                                                       mdisp->level,
633                                                                                       lvl);
634                                                 MEM_freeN(mdisp->hidden);
635                                                 mdisp->hidden = gh;
636                                         }
637
638                                         ndisps += nsize * nsize;
639                                         hdisps += hsize * hsize;
640
641                                         MEM_freeN(mdisp->disps);
642                                         mdisp->disps = disps;
643                                         mdisp->totdisp = totdisp;
644                                         mdisp->level = lvl;
645
646                                         if (gpm) {
647                                                 multires_grid_paint_mask_downsample(&gpm[g], lvl);
648                                         }
649                                 }
650                         }
651                 }
652                 else {
653                         multires_customdata_delete(me);
654                 }
655         }
656
657         multires_set_tot_level(ob, mmd, lvl);
658 }
659
660 /* (direction = 1) for delete higher, (direction = 0) for lower (not implemented yet) */
661 void multiresModifier_del_levels(MultiresModifierData *mmd, Scene *scene, Object *ob, int direction)
662 {
663         Mesh *me = BKE_mesh_from_object(ob);
664         int lvl = multires_get_level(scene, ob, mmd, false, true);
665         int levels = mmd->totlvl - lvl;
666         MDisps *mdisps;
667
668         multires_set_tot_mdisps(me, mmd->totlvl);
669         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
670         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
671
672         multires_force_update(ob);
673
674         if (mdisps && levels > 0 && direction == 1) {
675                 multires_del_higher(mmd, ob, lvl);
676         }
677
678         multires_set_tot_level(ob, mmd, lvl);
679 }
680
681 static DerivedMesh *multires_dm_create_local(Scene *scene, Object *ob, DerivedMesh *dm, int lvl, int totlvl, int simple, bool alloc_paint_mask)
682 {
683         MultiresModifierData mmd = {{NULL}};
684         MultiresFlags flags = MULTIRES_USE_LOCAL_MMD;
685
686         mmd.lvl = lvl;
687         mmd.sculptlvl = lvl;
688         mmd.renderlvl = lvl;
689         mmd.totlvl = totlvl;
690         mmd.simple = simple;
691
692         if (alloc_paint_mask)
693                 flags |= MULTIRES_ALLOC_PAINT_MASK;
694
695         return multires_make_derived_from_derived(dm, &mmd, scene, ob, flags);
696 }
697
698 static DerivedMesh *subsurf_dm_create_local(
699         Scene *scene, Object *ob, DerivedMesh *dm,
700         int lvl,
701         bool is_simple, bool is_optimal, bool is_plain_uv, bool alloc_paint_mask,
702         bool for_render)
703 {
704         SubsurfModifierData smd = {{NULL}};
705         SubsurfFlags flags = 0;
706
707         smd.levels = smd.renderLevels = lvl;
708         smd.quality = 3;
709         if (!is_plain_uv) {
710                 smd.uv_smooth = SUBSURF_UV_SMOOTH_PRESERVE_CORNERS;
711         }
712         else {
713                 smd.uv_smooth = SUBSURF_UV_SMOOTH_NONE;
714         }
715         if (is_simple) {
716                 smd.subdivType = ME_SIMPLE_SUBSURF;
717         }
718         if (is_optimal) {
719                 smd.flags |= eSubsurfModifierFlag_ControlEdges;
720         }
721
722         if (ob->mode & OB_MODE_EDIT) {
723                 flags |= SUBSURF_IN_EDIT_MODE;
724         }
725         if (alloc_paint_mask) {
726                 flags |= SUBSURF_ALLOC_PAINT_MASK;
727         }
728         if (for_render) {
729                 flags |= SUBSURF_USE_RENDER_PARAMS;
730         }
731
732         return subsurf_make_derived_from_derived(dm, &smd, scene, NULL, flags);
733 }
734
735
736
737 /* assumes no is normalized; return value's sign is negative if v is on
738  * the other side of the plane */
739 static float v3_dist_from_plane(float v[3], float center[3], float no[3])
740 {
741         float s[3];
742         sub_v3_v3v3(s, v, center);
743         return dot_v3v3(s, no);
744 }
745
746 void multiresModifier_base_apply(MultiresModifierData *mmd, Scene *scene, Object *ob)
747 {
748         DerivedMesh *cddm, *dispdm, *origdm;
749         Mesh *me;
750         const MeshElemMap *pmap;
751         float (*origco)[3];
752         int i, j, k, offset, totlvl;
753
754         multires_force_update(ob);
755
756         me = BKE_mesh_from_object(ob);
757         totlvl = mmd->totlvl;
758
759         /* nothing to do */
760         if (!totlvl)
761                 return;
762
763         /* XXX - probably not necessary to regenerate the cddm so much? */
764
765         /* generate highest level with displacements */
766         cddm = CDDM_from_mesh(me);
767         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
768         dispdm = multires_dm_create_local(scene, ob, cddm, totlvl, totlvl, 0, 0);
769         cddm->release(cddm);
770
771         /* copy the new locations of the base verts into the mesh */
772         offset = dispdm->getNumVerts(dispdm) - me->totvert;
773         for (i = 0; i < me->totvert; ++i) {
774                 dispdm->getVertCo(dispdm, offset + i, me->mvert[i].co);
775         }
776
777         /* heuristic to produce a better-fitting base mesh */
778
779         cddm = CDDM_from_mesh(me);
780         pmap = cddm->getPolyMap(ob, cddm);
781         origco = MEM_calloc_arrayN(me->totvert, 3 * sizeof(float), "multires apply base origco");
782         for (i = 0; i < me->totvert; ++i)
783                 copy_v3_v3(origco[i], me->mvert[i].co);
784
785         for (i = 0; i < me->totvert; ++i) {
786                 float avg_no[3] = {0, 0, 0}, center[3] = {0, 0, 0}, push[3];
787                 float dist;
788                 int tot = 0;
789
790                 /* don't adjust verts not used by at least one poly */
791                 if (!pmap[i].count)
792                         continue;
793
794                 /* find center */
795                 for (j = 0; j < pmap[i].count; j++) {
796                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
797
798                         /* this double counts, not sure if that's bad or good */
799                         for (k = 0; k < p->totloop; ++k) {
800                                 int vndx = me->mloop[p->loopstart + k].v;
801                                 if (vndx != i) {
802                                         add_v3_v3(center, origco[vndx]);
803                                         tot++;
804                                 }
805                         }
806                 }
807                 mul_v3_fl(center, 1.0f / tot);
808
809                 /* find normal */
810                 for (j = 0; j < pmap[i].count; j++) {
811                         const MPoly *p = &me->mpoly[pmap[i].indices[j]];
812                         MPoly fake_poly;
813                         MLoop *fake_loops;
814                         float (*fake_co)[3];
815                         float no[3];
816
817                         /* set up poly, loops, and coords in order to call
818                          * BKE_mesh_calc_poly_normal_coords() */
819                         fake_poly.totloop = p->totloop;
820                         fake_poly.loopstart = 0;
821                         fake_loops = MEM_malloc_arrayN(p->totloop, sizeof(MLoop), "fake_loops");
822                         fake_co = MEM_malloc_arrayN(p->totloop, 3 * sizeof(float), "fake_co");
823
824                         for (k = 0; k < p->totloop; ++k) {
825                                 int vndx = me->mloop[p->loopstart + k].v;
826
827                                 fake_loops[k].v = k;
828
829                                 if (vndx == i)
830                                         copy_v3_v3(fake_co[k], center);
831                                 else
832                                         copy_v3_v3(fake_co[k], origco[vndx]);
833                         }
834
835                         BKE_mesh_calc_poly_normal_coords(&fake_poly, fake_loops,
836                                                          (const float(*)[3])fake_co, no);
837                         MEM_freeN(fake_loops);
838                         MEM_freeN(fake_co);
839
840                         add_v3_v3(avg_no, no);
841                 }
842                 normalize_v3(avg_no);
843
844                 /* push vertex away from the plane */
845                 dist = v3_dist_from_plane(me->mvert[i].co, center, avg_no);
846                 copy_v3_v3(push, avg_no);
847                 mul_v3_fl(push, dist);
848                 add_v3_v3(me->mvert[i].co, push);
849
850         }
851
852         MEM_freeN(origco);
853         cddm->release(cddm);
854
855         /* Vertices were moved around, need to update normals after all the vertices are updated
856          * Probably this is possible to do in the loop above, but this is rather tricky because
857          * we don't know all needed vertices' coordinates there yet.
858          */
859         BKE_mesh_calc_normals(me);
860
861         /* subdivide the mesh to highest level without displacements */
862         cddm = CDDM_from_mesh(me);
863         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
864         origdm = subsurf_dm_create_local(scene, ob, cddm, totlvl, 0, 0, mmd->uv_smooth == SUBSURF_UV_SMOOTH_NONE, 0, false);
865         cddm->release(cddm);
866
867         /* calc disps */
868         multiresModifier_disp_run(dispdm, me, NULL, CALC_DISPLACEMENTS, origdm->getGridData(origdm), totlvl);
869
870         origdm->release(origdm);
871         dispdm->release(dispdm);
872 }
873
874 static void multires_subdivide(
875         MultiresModifierData *mmd, Scene *scene, Object *ob,
876         int totlvl, int updateblock, int simple)
877 {
878         Mesh *me = ob->data;
879         MDisps *mdisps;
880         const int lvl = mmd->totlvl;
881
882         if ((totlvl > multires_max_levels) || (me->totpoly == 0))
883                 return;
884
885         BLI_assert(totlvl > lvl);
886
887         multires_force_update(ob);
888
889         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
890         if (!mdisps)
891                 mdisps = multires_mdisps_initialize_hidden(me, totlvl);
892
893         if (mdisps->disps && !updateblock && lvl != 0) {
894                 /* upsample */
895                 DerivedMesh *lowdm, *cddm, *highdm;
896                 CCGElem **highGridData, **lowGridData, **subGridData;
897                 CCGKey highGridKey, lowGridKey;
898                 CCGSubSurf *ss;
899                 int i, numGrids, highGridSize;
900                 const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
901
902                 /* create subsurf DM from original mesh at high level */
903                 cddm = CDDM_from_mesh(me);
904                 DM_set_only_copy(cddm, CD_MASK_BAREMESH);
905                 highdm = subsurf_dm_create_local(scene, ob, cddm, totlvl, simple, 0, mmd->uv_smooth == SUBSURF_UV_SMOOTH_NONE, has_mask, false);
906                 ss = ((CCGDerivedMesh *)highdm)->ss;
907
908                 /* create multires DM from original mesh at low level */
909                 lowdm = multires_dm_create_local(scene, ob, cddm, lvl, lvl, simple, has_mask);
910                 BLI_assert(lowdm != cddm);
911                 cddm->release(cddm);
912
913                 /* copy subsurf grids and replace them with low displaced grids */
914                 numGrids = highdm->getNumGrids(highdm);
915                 highGridSize = highdm->getGridSize(highdm);
916                 highGridData = highdm->getGridData(highdm);
917                 highdm->getGridKey(highdm, &highGridKey);
918                 lowGridData = lowdm->getGridData(lowdm);
919                 lowdm->getGridKey(lowdm, &lowGridKey);
920
921                 subGridData = MEM_calloc_arrayN(numGrids, sizeof(float *), "subGridData*");
922
923                 for (i = 0; i < numGrids; ++i) {
924                         /* backup subsurf grids */
925                         subGridData[i] = MEM_calloc_arrayN(highGridKey.elem_size, highGridSize * highGridSize, "subGridData");
926                         memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
927
928                         /* overwrite with current displaced grids */
929                         multires_copy_dm_grid(highGridData[i], lowGridData[i], &highGridKey, &lowGridKey);
930                 }
931
932                 /* low lower level dm no longer needed at this point */
933                 lowdm->release(lowdm);
934
935                 /* subsurf higher levels again with displaced data */
936                 ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
937                 ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
938
939                 /* reallocate displacements */
940                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl);
941
942                 /* compute displacements */
943                 multiresModifier_disp_run(highdm, me, NULL, CALC_DISPLACEMENTS, subGridData, totlvl);
944
945                 /* free */
946                 highdm->release(highdm);
947                 for (i = 0; i < numGrids; ++i)
948                         MEM_freeN(subGridData[i]);
949                 MEM_freeN(subGridData);
950         }
951         else {
952                 /* only reallocate, nothing to upsample */
953                 multires_reallocate_mdisps(me->totloop, mdisps, totlvl);
954         }
955
956         multires_set_tot_level(ob, mmd, totlvl);
957 }
958
959 void multiresModifier_subdivide(MultiresModifierData *mmd, Scene *scene, Object *ob, int updateblock, int simple)
960 {
961         multires_subdivide(mmd, scene, ob, mmd->totlvl + 1, updateblock, simple);
962 }
963
964 static void grid_tangent(const CCGKey *key, int x, int y, int axis, CCGElem *grid, float t[3])
965 {
966         if (axis == 0) {
967                 if (x == key->grid_size - 1) {
968                         if (y == key->grid_size - 1)
969                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y - 1), CCG_grid_elem_co(key, grid, x - 1, y - 1));
970                         else
971                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x - 1, y));
972                 }
973                 else
974                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x + 1, y), CCG_grid_elem_co(key, grid, x, y));
975         }
976         else if (axis == 1) {
977                 if (y == key->grid_size - 1) {
978                         if (x == key->grid_size - 1)
979                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x - 1, y), CCG_grid_elem_co(key, grid, x - 1, (y - 1)));
980                         else
981                                 sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, y), CCG_grid_elem_co(key, grid, x, (y - 1)));
982                 }
983                 else
984                         sub_v3_v3v3(t, CCG_grid_elem_co(key, grid, x, (y + 1)), CCG_grid_elem_co(key, grid, x, y));
985         }
986 }
987
988 /* Construct 3x3 tangent-space matrix in 'mat' */
989 static void grid_tangent_matrix(float mat[3][3], const CCGKey *key,
990                                 int x, int y, CCGElem *grid)
991 {
992         grid_tangent(key, x, y, 0, grid, mat[0]);
993         normalize_v3(mat[0]);
994
995         grid_tangent(key, x, y, 1, grid, mat[1]);
996         normalize_v3(mat[1]);
997
998         copy_v3_v3(mat[2], CCG_grid_elem_no(key, grid, x, y));
999 }
1000
1001
1002 typedef struct MultiresThreadedData {
1003         DispOp op;
1004         CCGElem **gridData, **subGridData;
1005         CCGKey *key;
1006         CCGKey *sub_key;
1007         MPoly *mpoly;
1008         MDisps *mdisps;
1009         GridPaintMask *grid_paint_mask;
1010         int *gridOffset;
1011         int gridSize, dGridSize, dSkip;
1012         float (*smat)[3];
1013 } MultiresThreadedData;
1014
1015 static void multires_disp_run_cb(
1016         void *__restrict userdata,
1017         const int pidx,
1018         const ParallelRangeTLS *__restrict UNUSED(tls))
1019 {
1020         MultiresThreadedData *tdata = userdata;
1021
1022         DispOp op = tdata->op;
1023         CCGElem **gridData = tdata->gridData;
1024         CCGElem **subGridData = tdata->subGridData;
1025         CCGKey *key = tdata->key;
1026         MPoly *mpoly = tdata->mpoly;
1027         MDisps *mdisps = tdata->mdisps;
1028         GridPaintMask *grid_paint_mask = tdata->grid_paint_mask;
1029         int *gridOffset = tdata->gridOffset;
1030         int gridSize = tdata->gridSize;
1031         int dGridSize = tdata->dGridSize;
1032         int dSkip = tdata->dSkip;
1033
1034         const int numVerts = mpoly[pidx].totloop;
1035         int S, x, y, gIndex = gridOffset[pidx];
1036
1037         for (S = 0; S < numVerts; ++S, ++gIndex) {
1038                 GridPaintMask *gpm = grid_paint_mask ? &grid_paint_mask[gIndex] : NULL;
1039                 MDisps *mdisp = &mdisps[mpoly[pidx].loopstart + S];
1040                 CCGElem *grid = gridData[gIndex];
1041                 CCGElem *subgrid = subGridData[gIndex];
1042                 float (*dispgrid)[3] = NULL;
1043
1044                 dispgrid = mdisp->disps;
1045
1046                 /* if needed, reallocate multires paint mask */
1047                 if (gpm && gpm->level < key->level) {
1048                         gpm->level = key->level;
1049                         if (gpm->data) {
1050                                 MEM_freeN(gpm->data);
1051                         }
1052                         gpm->data = MEM_calloc_arrayN(key->grid_area, sizeof(float), "gpm.data");
1053                 }
1054
1055                 for (y = 0; y < gridSize; y++) {
1056                         for (x = 0; x < gridSize; x++) {
1057                                 float *co = CCG_grid_elem_co(key, grid, x, y);
1058                                 float *sco = CCG_grid_elem_co(key, subgrid, x, y);
1059                                 float *data = dispgrid[dGridSize * y * dSkip + x * dSkip];
1060                                 float mat[3][3], disp[3], d[3], mask;
1061
1062                                 /* construct tangent space matrix */
1063                                 grid_tangent_matrix(mat, key, x, y, subgrid);
1064
1065                                 switch (op) {
1066                                         case APPLY_DISPLACEMENTS:
1067                                                 /* Convert displacement to object space
1068                                                  * and add to grid points */
1069                                                 mul_v3_m3v3(disp, mat, data);
1070                                                 add_v3_v3v3(co, sco, disp);
1071                                                 break;
1072                                         case CALC_DISPLACEMENTS:
1073                                                 /* Calculate displacement between new and old
1074                                                  * grid points and convert to tangent space */
1075                                                 sub_v3_v3v3(disp, co, sco);
1076                                                 invert_m3(mat);
1077                                                 mul_v3_m3v3(data, mat, disp);
1078                                                 break;
1079                                         case ADD_DISPLACEMENTS:
1080                                                 /* Convert subdivided displacements to tangent
1081                                                  * space and add to the original displacements */
1082                                                 invert_m3(mat);
1083                                                 mul_v3_m3v3(d, mat, co);
1084                                                 add_v3_v3(data, d);
1085                                                 break;
1086                                 }
1087
1088                                 if (gpm) {
1089                                         switch (op) {
1090                                                 case APPLY_DISPLACEMENTS:
1091                                                         /* Copy mask from gpm to DM */
1092                                                         *CCG_grid_elem_mask(key, grid, x, y) =
1093                                                             paint_grid_paint_mask(gpm, key->level, x, y);
1094                                                         break;
1095                                                 case CALC_DISPLACEMENTS:
1096                                                         /* Copy mask from DM to gpm */
1097                                                         mask = *CCG_grid_elem_mask(key, grid, x, y);
1098                                                         gpm->data[y * gridSize + x] = CLAMPIS(mask, 0, 1);
1099                                                         break;
1100                                                 case ADD_DISPLACEMENTS:
1101                                                         /* Add mask displacement to gpm */
1102                                                         gpm->data[y * gridSize + x] +=
1103                                                             *CCG_grid_elem_mask(key, grid, x, y);
1104                                                         break;
1105                                         }
1106                                 }
1107                         }
1108                 }
1109         }
1110 }
1111
1112 /* XXX WARNING: subsurf elements from dm and oldGridData *must* be of the same format (size),
1113  *              because this code uses CCGKey's info from dm to access oldGridData's normals
1114  *              (through the call to grid_tangent_matrix())! */
1115 static void multiresModifier_disp_run(DerivedMesh *dm, Mesh *me, DerivedMesh *dm2, DispOp op, CCGElem **oldGridData, int totlvl)
1116 {
1117         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1118         CCGElem **gridData, **subGridData;
1119         CCGKey key;
1120         MPoly *mpoly = me->mpoly;
1121         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1122         GridPaintMask *grid_paint_mask = NULL;
1123         int *gridOffset;
1124         int i, gridSize, dGridSize, dSkip;
1125         int totloop, totpoly;
1126
1127         /* this happens in the dm made by bmesh_mdisps_space_set */
1128         if (dm2 && CustomData_has_layer(&dm2->loopData, CD_MDISPS)) {
1129                 mpoly = CustomData_get_layer(&dm2->polyData, CD_MPOLY);
1130                 mdisps = CustomData_get_layer(&dm2->loopData, CD_MDISPS);
1131                 totloop = dm2->numLoopData;
1132                 totpoly = dm2->numPolyData;
1133         }
1134         else {
1135                 totloop = me->totloop;
1136                 totpoly = me->totpoly;
1137         }
1138
1139         if (!mdisps) {
1140                 if (op == CALC_DISPLACEMENTS)
1141                         mdisps = CustomData_add_layer(&me->ldata, CD_MDISPS, CD_DEFAULT, NULL, me->totloop);
1142                 else
1143                         return;
1144         }
1145
1146         /*numGrids = dm->getNumGrids(dm);*/ /*UNUSED*/
1147         gridSize = dm->getGridSize(dm);
1148         gridData = dm->getGridData(dm);
1149         gridOffset = dm->getGridOffset(dm);
1150         dm->getGridKey(dm, &key);
1151         subGridData = (oldGridData) ? oldGridData : gridData;
1152
1153         dGridSize = multires_side_tot[totlvl];
1154         dSkip = (dGridSize - 1) / (gridSize - 1);
1155
1156         /* multires paint masks */
1157         if (key.has_mask)
1158                 grid_paint_mask = CustomData_get_layer(&me->ldata, CD_GRID_PAINT_MASK);
1159
1160         /* when adding new faces in edit mode, need to allocate disps */
1161         for (i = 0; i < totloop; ++i) {
1162                 if (mdisps[i].disps == NULL) {
1163                         multires_reallocate_mdisps(totloop, mdisps, totlvl);
1164                         break;
1165                 }
1166         }
1167
1168         ParallelRangeSettings settings;
1169         BLI_parallel_range_settings_defaults(&settings);
1170         settings.min_iter_per_thread = CCG_TASK_LIMIT;
1171
1172         MultiresThreadedData data = {
1173             .op = op,
1174             .gridData = gridData,
1175             .subGridData = subGridData,
1176             .key = &key,
1177             .mpoly = mpoly,
1178             .mdisps = mdisps,
1179             .grid_paint_mask = grid_paint_mask,
1180             .gridOffset = gridOffset,
1181             .gridSize = gridSize,
1182             .dGridSize = dGridSize,
1183             .dSkip = dSkip
1184         };
1185
1186         BLI_task_parallel_range(0, totpoly, &data, multires_disp_run_cb, &settings);
1187
1188         if (op == APPLY_DISPLACEMENTS) {
1189                 ccgSubSurf_stitchFaces(ccgdm->ss, 0, NULL, 0);
1190                 ccgSubSurf_updateNormals(ccgdm->ss, NULL, 0);
1191         }
1192 }
1193
1194 void multires_modifier_update_mdisps(struct DerivedMesh *dm, Scene *scene)
1195 {
1196         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1197         Object *ob;
1198         Mesh *me;
1199         MDisps *mdisps;
1200         MultiresModifierData *mmd;
1201
1202         ob = ccgdm->multires.ob;
1203         me = ccgdm->multires.ob->data;
1204         mmd = ccgdm->multires.mmd;
1205         multires_set_tot_mdisps(me, mmd->totlvl);
1206         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1207         mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1208
1209         if (mdisps) {
1210                 int lvl = ccgdm->multires.lvl;
1211                 int totlvl = ccgdm->multires.totlvl;
1212
1213                 if (lvl < totlvl) {
1214                         DerivedMesh *lowdm, *cddm, *highdm;
1215                         CCGElem **highGridData, **lowGridData, **subGridData, **gridData, *diffGrid;
1216                         CCGKey highGridKey, lowGridKey;
1217                         CCGSubSurf *ss;
1218                         int i, j, numGrids, highGridSize, lowGridSize;
1219                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1220
1221                         /* create subsurf DM from original mesh at high level */
1222                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1223                         else cddm = CDDM_from_mesh(me);
1224                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1225
1226                         highdm = subsurf_dm_create_local(scene, ob, cddm, totlvl, mmd->simple, 0, mmd->uv_smooth == SUBSURF_UV_SMOOTH_NONE, has_mask, false);
1227                         ss = ((CCGDerivedMesh *)highdm)->ss;
1228
1229                         /* create multires DM from original mesh and displacements */
1230                         lowdm = multires_dm_create_local(scene, ob, cddm, lvl, totlvl, mmd->simple, has_mask);
1231                         cddm->release(cddm);
1232
1233                         /* gather grid data */
1234                         numGrids = highdm->getNumGrids(highdm);
1235                         highGridSize = highdm->getGridSize(highdm);
1236                         highGridData = highdm->getGridData(highdm);
1237                         highdm->getGridKey(highdm, &highGridKey);
1238                         lowGridSize = lowdm->getGridSize(lowdm);
1239                         lowGridData = lowdm->getGridData(lowdm);
1240                         lowdm->getGridKey(lowdm, &lowGridKey);
1241                         gridData = dm->getGridData(dm);
1242
1243                         BLI_assert(highGridKey.elem_size == lowGridKey.elem_size);
1244
1245                         subGridData = MEM_calloc_arrayN(numGrids, sizeof(CCGElem *), "subGridData*");
1246                         diffGrid = MEM_calloc_arrayN(lowGridKey.elem_size, lowGridSize * lowGridSize, "diff");
1247
1248                         for (i = 0; i < numGrids; ++i) {
1249                                 /* backup subsurf grids */
1250                                 subGridData[i] = MEM_calloc_arrayN(highGridKey.elem_size, highGridSize * highGridSize, "subGridData");
1251                                 memcpy(subGridData[i], highGridData[i], highGridKey.elem_size * highGridSize * highGridSize);
1252
1253                                 /* write difference of subsurf and displaced low level into high subsurf */
1254                                 for (j = 0; j < lowGridSize * lowGridSize; ++j) {
1255                                         sub_v4_v4v4(CCG_elem_offset_co(&lowGridKey, diffGrid, j),
1256                                                     CCG_elem_offset_co(&lowGridKey, gridData[i], j),
1257                                                     CCG_elem_offset_co(&lowGridKey, lowGridData[i], j));
1258                                 }
1259
1260                                 multires_copy_dm_grid(highGridData[i], diffGrid, &highGridKey, &lowGridKey);
1261                         }
1262
1263                         /* lower level dm no longer needed at this point */
1264                         MEM_freeN(diffGrid);
1265                         lowdm->release(lowdm);
1266
1267                         /* subsurf higher levels again with difference of coordinates */
1268                         ccgSubSurf_updateFromFaces(ss, lvl, NULL, 0);
1269                         ccgSubSurf_updateLevels(ss, lvl, NULL, 0);
1270
1271                         /* add to displacements */
1272                         multiresModifier_disp_run(highdm, me, NULL, ADD_DISPLACEMENTS, subGridData, mmd->totlvl);
1273
1274                         /* free */
1275                         highdm->release(highdm);
1276                         for (i = 0; i < numGrids; ++i)
1277                                 MEM_freeN(subGridData[i]);
1278                         MEM_freeN(subGridData);
1279                 }
1280                 else {
1281                         DerivedMesh *cddm, *subdm;
1282                         const bool has_mask = CustomData_has_layer(&me->ldata, CD_GRID_PAINT_MASK);
1283
1284                         if (ob->derivedDeform) cddm = CDDM_copy(ob->derivedDeform);
1285                         else cddm = CDDM_from_mesh(me);
1286                         DM_set_only_copy(cddm, CD_MASK_BAREMESH);
1287
1288                         subdm = subsurf_dm_create_local(scene, ob, cddm, mmd->totlvl, mmd->simple, 0, mmd->uv_smooth == SUBSURF_UV_SMOOTH_NONE, has_mask, false);
1289                         cddm->release(cddm);
1290
1291                         multiresModifier_disp_run(dm, me, NULL, CALC_DISPLACEMENTS, subdm->getGridData(subdm), mmd->totlvl);
1292
1293                         subdm->release(subdm);
1294                 }
1295         }
1296 }
1297
1298 void multires_modifier_update_hidden(DerivedMesh *dm)
1299 {
1300         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *)dm;
1301         BLI_bitmap **grid_hidden = ccgdm->gridHidden;
1302         Mesh *me = ccgdm->multires.ob->data;
1303         MDisps *mdisps = CustomData_get_layer(&me->ldata, CD_MDISPS);
1304         int totlvl = ccgdm->multires.totlvl;
1305         int lvl = ccgdm->multires.lvl;
1306
1307         if (mdisps) {
1308                 int i;
1309
1310                 for (i = 0; i < me->totloop; i++) {
1311                         MDisps *md = &mdisps[i];
1312                         BLI_bitmap *gh = grid_hidden[i];
1313
1314                         if (!gh && md->hidden) {
1315                                 MEM_freeN(md->hidden);
1316                                 md->hidden = NULL;
1317                         }
1318                         else if (gh) {
1319                                 gh = multires_mdisps_upsample_hidden(gh, lvl, totlvl,
1320                                                                      md->hidden);
1321                                 if (md->hidden)
1322                                         MEM_freeN(md->hidden);
1323
1324                                 md->hidden = gh;
1325                         }
1326                 }
1327         }
1328 }
1329
1330 void multires_stitch_grids(Object *ob)
1331 {
1332         if (ob == NULL) {
1333                 return;
1334         }
1335         SculptSession *sculpt_session = ob->sculpt;
1336         if (sculpt_session == NULL) {
1337                 return;
1338         }
1339         PBVH *pbvh = sculpt_session->pbvh;
1340         SubdivCCG *subdiv_ccg = sculpt_session->subdiv_ccg;
1341         if (pbvh == NULL || subdiv_ccg == NULL) {
1342                 return;
1343         }
1344         BLI_assert(BKE_pbvh_type(pbvh) == PBVH_GRIDS);
1345         /* NOTE: Currently CCG does not keep track of faces, making it impossible
1346          * to use BKE_pbvh_get_grid_updates().
1347          */
1348         CCGFace **faces;
1349         int num_faces;
1350         BKE_pbvh_get_grid_updates(pbvh, false, (void ***)&faces, &num_faces);
1351         if (num_faces) {
1352                 BKE_subdiv_ccg_average_stitch_faces(subdiv_ccg, faces, num_faces);
1353                 MEM_freeN(faces);
1354         }
1355 }
1356
1357 DerivedMesh *multires_make_derived_from_derived(DerivedMesh *dm,
1358                                                 MultiresModifierData *mmd,
1359                                                 Scene *scene,
1360                                                 Object *ob,
1361                                                 MultiresFlags flags)
1362 {
1363         Mesh *me = ob->data;
1364         DerivedMesh *result;
1365         CCGDerivedMesh *ccgdm = NULL;
1366         CCGElem **gridData, **subGridData;
1367         CCGKey key;
1368         const bool render = (flags & MULTIRES_USE_RENDER_PARAMS) != 0;
1369         const bool ignore_simplify = (flags & MULTIRES_IGNORE_SIMPLIFY) != 0;
1370         int lvl = multires_get_level(scene, ob, mmd, render, ignore_simplify);
1371         int i, gridSize, numGrids;
1372
1373         if (lvl == 0)
1374                 return dm;
1375
1376         result = subsurf_dm_create_local(scene, ob, dm, lvl,
1377                                          mmd->simple, mmd->flags & eMultiresModifierFlag_ControlEdges,
1378                                          mmd->uv_smooth == SUBSURF_UV_SMOOTH_NONE,
1379                                          flags & MULTIRES_ALLOC_PAINT_MASK,
1380                                          render);
1381
1382         if (!(flags & MULTIRES_USE_LOCAL_MMD)) {
1383                 ccgdm = (CCGDerivedMesh *)result;
1384
1385                 ccgdm->multires.ob = ob;
1386                 ccgdm->multires.mmd = mmd;
1387                 ccgdm->multires.local_mmd = 0;
1388                 ccgdm->multires.lvl = lvl;
1389                 ccgdm->multires.totlvl = mmd->totlvl;
1390                 ccgdm->multires.modified_flags = 0;
1391         }
1392
1393         numGrids = result->getNumGrids(result);
1394         gridSize = result->getGridSize(result);
1395         gridData = result->getGridData(result);
1396         result->getGridKey(result, &key);
1397
1398         subGridData = MEM_malloc_arrayN(numGrids, sizeof(CCGElem *), "subGridData*");
1399
1400         for (i = 0; i < numGrids; i++) {
1401                 subGridData[i] = MEM_malloc_arrayN(key.elem_size, gridSize * gridSize, "subGridData");
1402                 memcpy(subGridData[i], gridData[i], key.elem_size * gridSize * gridSize);
1403         }
1404
1405         multires_set_tot_mdisps(me, mmd->totlvl);
1406         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
1407
1408         /*run displacement*/
1409         multiresModifier_disp_run(result, ob->data, dm, APPLY_DISPLACEMENTS, subGridData, mmd->totlvl);
1410
1411         /* copy hidden elements for this level */
1412         if (ccgdm)
1413                 multires_output_hidden_to_ccgdm(ccgdm, me, lvl);
1414
1415         for (i = 0; i < numGrids; i++)
1416                 MEM_freeN(subGridData[i]);
1417         MEM_freeN(subGridData);
1418
1419         return result;
1420 }
1421
1422 /**** Old Multires code ****
1423  ***************************/
1424
1425 /* Adapted from sculptmode.c */
1426 void old_mdisps_bilinear(float out[3], float (*disps)[3], const int st, float u, float v)
1427 {
1428         int x, y, x2, y2;
1429         const int st_max = st - 1;
1430         float urat, vrat, uopp;
1431         float d[4][3], d2[2][3];
1432
1433         if (!disps || isnan(u) || isnan(v))
1434                 return;
1435
1436         if (u < 0)
1437                 u = 0;
1438         else if (u >= st)
1439                 u = st_max;
1440         if (v < 0)
1441                 v = 0;
1442         else if (v >= st)
1443                 v = st_max;
1444
1445         x = floor(u);
1446         y = floor(v);
1447         x2 = x + 1;
1448         y2 = y + 1;
1449
1450         if (x2 >= st) x2 = st_max;
1451         if (y2 >= st) y2 = st_max;
1452
1453         urat = u - x;
1454         vrat = v - y;
1455         uopp = 1 - urat;
1456
1457         mul_v3_v3fl(d[0], disps[y * st + x], uopp);
1458         mul_v3_v3fl(d[1], disps[y * st + x2], urat);
1459         mul_v3_v3fl(d[2], disps[y2 * st + x], uopp);
1460         mul_v3_v3fl(d[3], disps[y2 * st + x2], urat);
1461
1462         add_v3_v3v3(d2[0], d[0], d[1]);
1463         add_v3_v3v3(d2[1], d[2], d[3]);
1464         mul_v3_fl(d2[0], 1 - vrat);
1465         mul_v3_fl(d2[1], vrat);
1466
1467         add_v3_v3v3(out, d2[0], d2[1]);
1468 }
1469
1470 static void old_mdisps_rotate(int S, int UNUSED(newside), int oldside, int x, int y, float *u, float *v)
1471 {
1472         float offset = oldside * 0.5f - 0.5f;
1473
1474         if (S == 1) { *u = offset + x; *v = offset - y; }
1475         if (S == 2) { *u = offset + y; *v = offset + x; }
1476         if (S == 3) { *u = offset - x; *v = offset + y; }
1477         if (S == 0) { *u = offset - y; *v = offset - x; }
1478 }
1479
1480 static void old_mdisps_convert(MFace *mface, MDisps *mdisp)
1481 {
1482         int newlvl = log(sqrt(mdisp->totdisp) - 1) / M_LN2;
1483         int oldlvl = newlvl + 1;
1484         int oldside = multires_side_tot[oldlvl];
1485         int newside = multires_side_tot[newlvl];
1486         int nvert = (mface->v4) ? 4 : 3;
1487         int newtotdisp = multires_grid_tot[newlvl] * nvert;
1488         int x, y, S;
1489         float (*disps)[3], (*out)[3], u = 0.0f, v = 0.0f; /* Quite gcc barking. */
1490
1491         disps = MEM_calloc_arrayN(newtotdisp, 3 * sizeof(float), "multires disps");
1492
1493         out = disps;
1494         for (S = 0; S < nvert; S++) {
1495                 for (y = 0; y < newside; ++y) {
1496                         for (x = 0; x < newside; ++x, ++out) {
1497                                 old_mdisps_rotate(S, newside, oldside, x, y, &u, &v);
1498                                 old_mdisps_bilinear(*out, mdisp->disps, oldside, u, v);
1499
1500                                 if (S == 1) { (*out)[1] = -(*out)[1]; }
1501                                 else if (S == 2) { SWAP(float, (*out)[0], (*out)[1]); }
1502                                 else if (S == 3) { (*out)[0] = -(*out)[0]; }
1503                                 else if (S == 0) { SWAP(float, (*out)[0], (*out)[1]); (*out)[0] = -(*out)[0]; (*out)[1] = -(*out)[1]; }
1504                         }
1505                 }
1506         }
1507
1508         MEM_freeN(mdisp->disps);
1509
1510         mdisp->totdisp = newtotdisp;
1511         mdisp->level = newlvl;
1512         mdisp->disps = disps;
1513 }
1514
1515 void multires_load_old_250(Mesh *me)
1516 {
1517         MDisps *mdisps, *mdisps2;
1518         MFace *mf;
1519         int i, j, k;
1520
1521         mdisps = CustomData_get_layer(&me->fdata, CD_MDISPS);
1522
1523         if (mdisps) {
1524                 for (i = 0; i < me->totface; i++)
1525                         if (mdisps[i].totdisp)
1526                                 old_mdisps_convert(&me->mface[i], &mdisps[i]);
1527
1528                 CustomData_add_layer(&me->ldata, CD_MDISPS, CD_CALLOC, NULL, me->totloop);
1529                 mdisps2 = CustomData_get_layer(&me->ldata, CD_MDISPS);
1530
1531                 k = 0;
1532                 mf = me->mface;
1533                 for (i = 0; i < me->totface; i++, mf++) {
1534                         int nvert = mf->v4 ? 4 : 3;
1535                         int totdisp = mdisps[i].totdisp / nvert;
1536
1537                         for (j = 0; j < nvert; j++, k++) {
1538                                 mdisps2[k].disps = MEM_calloc_arrayN(totdisp, 3 * sizeof(float), "multires disp in conversion");
1539                                 mdisps2[k].totdisp = totdisp;
1540                                 mdisps2[k].level = mdisps[i].level;
1541                                 memcpy(mdisps2[k].disps, mdisps[i].disps + totdisp * j, totdisp);
1542                         }
1543
1544                 }
1545         }
1546 }
1547
1548 /* Does not actually free lvl itself */
1549 static void multires_free_level(MultiresLevel *lvl)
1550 {
1551         if (lvl) {
1552                 if (lvl->faces) MEM_freeN(lvl->faces);
1553                 if (lvl->edges) MEM_freeN(lvl->edges);
1554                 if (lvl->colfaces) MEM_freeN(lvl->colfaces);
1555         }
1556 }
1557
1558 void multires_free(Multires *mr)
1559 {
1560         if (mr) {
1561                 MultiresLevel *lvl = mr->levels.first;
1562
1563                 /* Free the first-level data */
1564                 if (lvl) {
1565                         CustomData_free(&mr->vdata, lvl->totvert);
1566                         CustomData_free(&mr->fdata, lvl->totface);
1567                         if (mr->edge_flags)
1568                                 MEM_freeN(mr->edge_flags);
1569                         if (mr->edge_creases)
1570                                 MEM_freeN(mr->edge_creases);
1571                 }
1572
1573                 while (lvl) {
1574                         multires_free_level(lvl);
1575                         lvl = lvl->next;
1576                 }
1577
1578                 /* mr->verts may be NULL when loading old files, see direct_link_mesh() in readfile.c, and T43560. */
1579                 MEM_SAFE_FREE(mr->verts);
1580
1581                 BLI_freelistN(&mr->levels);
1582
1583                 MEM_freeN(mr);
1584         }
1585 }
1586
1587 typedef struct IndexNode {
1588         struct IndexNode *next, *prev;
1589         int index;
1590 } IndexNode;
1591
1592 static void create_old_vert_face_map(ListBase **map, IndexNode **mem, const MultiresFace *mface,
1593                                      const int totvert, const int totface)
1594 {
1595         int i, j;
1596         IndexNode *node = NULL;
1597
1598         (*map) = MEM_calloc_arrayN(totvert, sizeof(ListBase), "vert face map");
1599         (*mem) = MEM_calloc_arrayN(totface, 4 * sizeof(IndexNode), "vert face map mem");
1600         node = *mem;
1601
1602         /* Find the users */
1603         for (i = 0; i < totface; ++i) {
1604                 for (j = 0; j < (mface[i].v[3] ? 4 : 3); ++j, ++node) {
1605                         node->index = i;
1606                         BLI_addtail(&(*map)[mface[i].v[j]], node);
1607                 }
1608         }
1609 }
1610
1611 static void create_old_vert_edge_map(ListBase **map, IndexNode **mem, const MultiresEdge *medge,
1612                                      const int totvert, const int totedge)
1613 {
1614         int i, j;
1615         IndexNode *node = NULL;
1616
1617         (*map) = MEM_calloc_arrayN(totvert, sizeof(ListBase), "vert edge map");
1618         (*mem) = MEM_calloc_arrayN(totedge, 2 * sizeof(IndexNode), "vert edge map mem");
1619         node = *mem;
1620
1621         /* Find the users */
1622         for (i = 0; i < totedge; ++i) {
1623                 for (j = 0; j < 2; ++j, ++node) {
1624                         node->index = i;
1625                         BLI_addtail(&(*map)[medge[i].v[j]], node);
1626                 }
1627         }
1628 }
1629
1630 static MultiresFace *find_old_face(ListBase *map, MultiresFace *faces, int v1, int v2, int v3, int v4)
1631 {
1632         IndexNode *n1;
1633         int v[4], i, j;
1634
1635         v[0] = v1;
1636         v[1] = v2;
1637         v[2] = v3;
1638         v[3] = v4;
1639
1640         for (n1 = map[v1].first; n1; n1 = n1->next) {
1641                 int fnd[4] = {0, 0, 0, 0};
1642
1643                 for (i = 0; i < 4; ++i) {
1644                         for (j = 0; j < 4; ++j) {
1645                                 if (v[i] == faces[n1->index].v[j])
1646                                         fnd[i] = 1;
1647                         }
1648                 }
1649
1650                 if (fnd[0] && fnd[1] && fnd[2] && fnd[3])
1651                         return &faces[n1->index];
1652         }
1653
1654         return NULL;
1655 }
1656
1657 static MultiresEdge *find_old_edge(ListBase *map, MultiresEdge *edges, int v1, int v2)
1658 {
1659         IndexNode *n1, *n2;
1660
1661         for (n1 = map[v1].first; n1; n1 = n1->next) {
1662                 for (n2 = map[v2].first; n2; n2 = n2->next) {
1663                         if (n1->index == n2->index)
1664                                 return &edges[n1->index];
1665                 }
1666         }
1667
1668         return NULL;
1669 }
1670
1671 static void multires_load_old_edges(ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst, int v1, int v2, int mov)
1672 {
1673         int emid = find_old_edge(emap[2], lvl->edges, v1, v2)->mid;
1674         vvmap[dst + mov] = emid;
1675
1676         if (lvl->next->next) {
1677                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v1, emid, mov / 2);
1678                 multires_load_old_edges(emap + 1, lvl->next, vvmap, dst + mov, v2, emid, -mov / 2);
1679         }
1680 }
1681
1682 static void multires_load_old_faces(ListBase **fmap, ListBase **emap, MultiresLevel *lvl, int *vvmap, int dst,
1683                                     int v1, int v2, int v3, int v4, int st2, int st3)
1684 {
1685         int fmid;
1686         int emid13, emid14, emid23, emid24;
1687
1688         if (lvl && lvl->next) {
1689                 fmid = find_old_face(fmap[1], lvl->faces, v1, v2, v3, v4)->mid;
1690                 vvmap[dst] = fmid;
1691
1692                 emid13 = find_old_edge(emap[1], lvl->edges, v1, v3)->mid;
1693                 emid14 = find_old_edge(emap[1], lvl->edges, v1, v4)->mid;
1694                 emid23 = find_old_edge(emap[1], lvl->edges, v2, v3)->mid;
1695                 emid24 = find_old_edge(emap[1], lvl->edges, v2, v4)->mid;
1696
1697
1698                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 + st3,
1699                                         fmid, v2, emid23, emid24, st2, st3 / 2);
1700
1701                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 + st3,
1702                                         emid14, emid24, fmid, v4, st2, st3 / 2);
1703
1704                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst + st2 * st3 - st3,
1705                                         emid13, emid23, v3, fmid, st2, st3 / 2);
1706
1707                 multires_load_old_faces(fmap + 1, emap + 1, lvl->next, vvmap, dst - st2 * st3 - st3,
1708                                         v1, fmid, emid13, emid14, st2, st3 / 2);
1709
1710                 if (lvl->next->next) {
1711                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid24, fmid, st3);
1712                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid13, fmid, -st3);
1713                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid14, fmid, -st2 * st3);
1714                         multires_load_old_edges(emap, lvl->next, vvmap, dst, emid23, fmid, st2 * st3);
1715                 }
1716         }
1717 }
1718
1719 static void multires_mvert_to_ss(DerivedMesh *dm, MVert *mvert)
1720 {
1721         CCGDerivedMesh *ccgdm = (CCGDerivedMesh *) dm;
1722         CCGSubSurf *ss = ccgdm->ss;
1723         CCGElem *vd;
1724         CCGKey key;
1725         int index;
1726         int totvert, totedge, totface;
1727         int gridSize = ccgSubSurf_getGridSize(ss);
1728         int edgeSize = ccgSubSurf_getEdgeSize(ss);
1729         int i = 0;
1730
1731         dm->getGridKey(dm, &key);
1732
1733         totface = ccgSubSurf_getNumFaces(ss);
1734         for (index = 0; index < totface; index++) {
1735                 CCGFace *f = ccgdm->faceMap[index].face;
1736                 int x, y, S, numVerts = ccgSubSurf_getFaceNumVerts(f);
1737
1738                 vd = ccgSubSurf_getFaceCenterData(f);
1739                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1740                 i++;
1741
1742                 for (S = 0; S < numVerts; S++) {
1743                         for (x = 1; x < gridSize - 1; x++, i++) {
1744                                 vd = ccgSubSurf_getFaceGridEdgeData(ss, f, S, x);
1745                                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1746                         }
1747                 }
1748
1749                 for (S = 0; S < numVerts; S++) {
1750                         for (y = 1; y < gridSize - 1; y++) {
1751                                 for (x = 1; x < gridSize - 1; x++, i++) {
1752                                         vd = ccgSubSurf_getFaceGridData(ss, f, S, x, y);
1753                                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1754                                 }
1755                         }
1756                 }
1757         }
1758
1759         totedge = ccgSubSurf_getNumEdges(ss);
1760         for (index = 0; index < totedge; index++) {
1761                 CCGEdge *e = ccgdm->edgeMap[index].edge;
1762                 int x;
1763
1764                 for (x = 1; x < edgeSize - 1; x++, i++) {
1765                         vd = ccgSubSurf_getEdgeData(ss, e, x);
1766                         copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1767                 }
1768         }
1769
1770         totvert = ccgSubSurf_getNumVerts(ss);
1771         for (index = 0; index < totvert; index++) {
1772                 CCGVert *v = ccgdm->vertMap[index].vert;
1773
1774                 vd = ccgSubSurf_getVertData(ss, v);
1775                 copy_v3_v3(CCG_elem_co(&key, vd), mvert[i].co);
1776                 i++;
1777         }
1778
1779         ccgSubSurf_updateToFaces(ss, 0, NULL, 0);
1780 }
1781
1782 /* Loads a multires object stored in the old Multires struct into the new format */
1783 static void multires_load_old_dm(DerivedMesh *dm, Mesh *me, int totlvl)
1784 {
1785         MultiresLevel *lvl, *lvl1;
1786         Multires *mr = me->mr;
1787         MVert *vsrc, *vdst;
1788         unsigned int src, dst;
1789         int st_last = multires_side_tot[totlvl - 1] - 1;
1790         int extedgelen = multires_side_tot[totlvl] - 2;
1791         int *vvmap; // inorder for dst, map to src
1792         int crossedgelen;
1793         int s, x, tottri, totquad;
1794         unsigned int i, j, totvert;
1795
1796         src = 0;
1797         vsrc = mr->verts;
1798         vdst = dm->getVertArray(dm);
1799         totvert = (unsigned int)dm->getNumVerts(dm);
1800         vvmap = MEM_calloc_arrayN(totvert, sizeof(int), "multires vvmap");
1801
1802         if (!vvmap) {
1803                 return;
1804         }
1805
1806         lvl1 = mr->levels.first;
1807         /* Load base verts */
1808         for (i = 0; i < lvl1->totvert; ++i) {
1809                 vvmap[totvert - lvl1->totvert + i] = src;
1810                 src++;
1811         }
1812
1813         /* Original edges */
1814         dst = totvert - lvl1->totvert - extedgelen * lvl1->totedge;
1815         for (i = 0; i < lvl1->totedge; ++i) {
1816                 int ldst = dst + extedgelen * i;
1817                 int lsrc = src;
1818                 lvl = lvl1->next;
1819
1820                 for (j = 2; j <= mr->level_count; ++j) {
1821                         int base = multires_side_tot[totlvl - j + 1] - 2;
1822                         int skip = multires_side_tot[totlvl - j + 2] - 1;
1823                         int st = multires_side_tot[j - 1] - 1;
1824
1825                         for (x = 0; x < st; ++x)
1826                                 vvmap[ldst + base + x * skip] = lsrc + st * i + x;
1827
1828                         lsrc += lvl->totvert - lvl->prev->totvert;
1829                         lvl = lvl->next;
1830                 }
1831         }
1832
1833         /* Center points */
1834         dst = 0;
1835         for (i = 0; i < lvl1->totface; ++i) {
1836                 int sides = lvl1->faces[i].v[3] ? 4 : 3;
1837
1838                 vvmap[dst] = src + lvl1->totedge + i;
1839                 dst += 1 + sides * (st_last - 1) * st_last;
1840         }
1841
1842
1843         /* The rest is only for level 3 and up */
1844         if (lvl1->next && lvl1->next->next) {
1845                 ListBase **fmap, **emap;
1846                 IndexNode **fmem, **emem;
1847
1848                 /* Face edge cross */
1849                 tottri = totquad = 0;
1850                 crossedgelen = multires_side_tot[totlvl - 1] - 2;
1851                 dst = 0;
1852                 for (i = 0; i < lvl1->totface; ++i) {
1853                         int sides = lvl1->faces[i].v[3] ? 4 : 3;
1854
1855                         lvl = lvl1->next->next;
1856                         dst++;
1857
1858                         for (j = 3; j <= mr->level_count; ++j) {
1859                                 int base = multires_side_tot[totlvl - j + 1] - 2;
1860                                 int skip = multires_side_tot[totlvl - j + 2] - 1;
1861                                 int st = pow(2, j - 2);
1862                                 int st2 = pow(2, j - 3);
1863                                 int lsrc = lvl->prev->totvert;
1864
1865                                 /* Skip exterior edge verts */
1866                                 lsrc += lvl1->totedge * st;
1867
1868                                 /* Skip earlier face edge crosses */
1869                                 lsrc += st2 * (tottri * 3 + totquad * 4);
1870
1871                                 for (s = 0; s < sides; ++s) {
1872                                         for (x = 0; x < st2; ++x) {
1873                                                 vvmap[dst + crossedgelen * (s + 1) - base - x * skip - 1] = lsrc;
1874                                                 lsrc++;
1875                                         }
1876                                 }
1877
1878                                 lvl = lvl->next;
1879                         }
1880
1881                         dst += sides * (st_last - 1) * st_last;
1882
1883                         if (sides == 4) ++totquad;
1884                         else ++tottri;
1885
1886                 }
1887
1888                 /* calculate vert to edge/face maps for each level (except the last) */
1889                 fmap = MEM_calloc_arrayN((mr->level_count - 1), sizeof(ListBase *), "multires fmap");
1890                 emap = MEM_calloc_arrayN((mr->level_count - 1), sizeof(ListBase *), "multires emap");
1891                 fmem = MEM_calloc_arrayN((mr->level_count - 1), sizeof(IndexNode *), "multires fmem");
1892                 emem = MEM_calloc_arrayN((mr->level_count - 1), sizeof(IndexNode *), "multires emem");
1893                 lvl = lvl1;
1894                 for (i = 0; i < (unsigned int)mr->level_count - 1; ++i) {
1895                         create_old_vert_face_map(fmap + i, fmem + i, lvl->faces, lvl->totvert, lvl->totface);
1896                         create_old_vert_edge_map(emap + i, emem + i, lvl->edges, lvl->totvert, lvl->totedge);
1897                         lvl = lvl->next;
1898                 }
1899
1900                 /* Interior face verts */
1901                 /* lvl = lvl1->next->next; */ /* UNUSED */
1902                 dst = 0;
1903                 for (j = 0; j < lvl1->totface; ++j) {
1904                         int sides = lvl1->faces[j].v[3] ? 4 : 3;
1905                         int ldst = dst + 1 + sides * (st_last - 1);
1906
1907                         for (s = 0; s < sides; ++s) {
1908                                 int st2 = multires_side_tot[totlvl - 1] - 2;
1909                                 int st3 = multires_side_tot[totlvl - 2] - 2;
1910                                 int st4 = st3 == 0 ? 1 : (st3 + 1) / 2;
1911                                 int mid = ldst + st2 * st3 + st3;
1912                                 int cv = lvl1->faces[j].v[s];
1913                                 int nv = lvl1->faces[j].v[s == sides - 1 ? 0 : s + 1];
1914                                 int pv = lvl1->faces[j].v[s == 0 ? sides - 1 : s - 1];
1915
1916                                 multires_load_old_faces(fmap, emap, lvl1->next, vvmap, mid,
1917                                                         vvmap[dst], cv,
1918                                                         find_old_edge(emap[0], lvl1->edges, pv, cv)->mid,
1919                                                         find_old_edge(emap[0], lvl1->edges, cv, nv)->mid,
1920                                                         st2, st4);
1921
1922                                 ldst += (st_last - 1) * (st_last - 1);
1923                         }
1924
1925
1926                         dst = ldst;
1927                 }
1928
1929                 /*lvl = lvl->next;*/ /*UNUSED*/
1930
1931                 for (i = 0; i < (unsigned int)(mr->level_count - 1); ++i) {
1932                         MEM_freeN(fmap[i]);
1933                         MEM_freeN(fmem[i]);
1934                         MEM_freeN(emap[i]);
1935                         MEM_freeN(emem[i]);
1936                 }
1937
1938                 MEM_freeN(fmap);
1939                 MEM_freeN(emap);
1940                 MEM_freeN(fmem);
1941                 MEM_freeN(emem);
1942         }
1943
1944         /* Transfer verts */
1945         for (i = 0; i < totvert; ++i)
1946                 copy_v3_v3(vdst[i].co, vsrc[vvmap[i]].co);
1947
1948         MEM_freeN(vvmap);
1949
1950         multires_mvert_to_ss(dm, vdst);
1951 }
1952
1953 /* Copy the first-level vcol data to the mesh, if it exists */
1954 /* Warning: higher-level vcol data will be lost */
1955 static void multires_load_old_vcols(Mesh *me)
1956 {
1957         MultiresLevel *lvl;
1958         MultiresColFace *colface;
1959         MCol *mcol;
1960         int i, j;
1961
1962         if (!(lvl = me->mr->levels.first))
1963                 return;
1964
1965         if (!(colface = lvl->colfaces))
1966                 return;
1967
1968         /* older multires format never supported multiple vcol layers,
1969          * so we can assume the active vcol layer is the correct one */
1970         if (!(mcol = CustomData_get_layer(&me->fdata, CD_MCOL)))
1971                 return;
1972
1973         for (i = 0; i < me->totface; ++i) {
1974                 for (j = 0; j < 4; ++j) {
1975                         mcol[i * 4 + j].a = colface[i].col[j].a;
1976                         mcol[i * 4 + j].r = colface[i].col[j].r;
1977                         mcol[i * 4 + j].g = colface[i].col[j].g;
1978                         mcol[i * 4 + j].b = colface[i].col[j].b;
1979                 }
1980         }
1981 }
1982
1983 /* Copy the first-level face-flag data to the mesh */
1984 static void multires_load_old_face_flags(Mesh *me)
1985 {
1986         MultiresLevel *lvl;
1987         MultiresFace *faces;
1988         int i;
1989
1990         if (!(lvl = me->mr->levels.first))
1991                 return;
1992
1993         if (!(faces = lvl->faces))
1994                 return;
1995
1996         for (i = 0; i < me->totface; ++i)
1997                 me->mface[i].flag = faces[i].flag;
1998 }
1999
2000 void multires_load_old(Object *ob, Mesh *me)
2001 {
2002         MultiresLevel *lvl;
2003         ModifierData *md;
2004         MultiresModifierData *mmd;
2005         DerivedMesh *dm, *orig;
2006         CustomDataLayer *l;
2007         int i;
2008
2009         /* Load original level into the mesh */
2010         lvl = me->mr->levels.first;
2011         CustomData_free_layers(&me->vdata, CD_MVERT, lvl->totvert);
2012         CustomData_free_layers(&me->edata, CD_MEDGE, lvl->totedge);
2013         CustomData_free_layers(&me->fdata, CD_MFACE, lvl->totface);
2014         me->totvert = lvl->totvert;
2015         me->totedge = lvl->totedge;
2016         me->totface = lvl->totface;
2017         me->mvert = CustomData_add_layer(&me->vdata, CD_MVERT, CD_CALLOC, NULL, me->totvert);
2018         me->medge = CustomData_add_layer(&me->edata, CD_MEDGE, CD_CALLOC, NULL, me->totedge);
2019         me->mface = CustomData_add_layer(&me->fdata, CD_MFACE, CD_CALLOC, NULL, me->totface);
2020         memcpy(me->mvert, me->mr->verts, sizeof(MVert) * me->totvert);
2021         for (i = 0; i < me->totedge; ++i) {
2022                 me->medge[i].v1 = lvl->edges[i].v[0];
2023                 me->medge[i].v2 = lvl->edges[i].v[1];
2024         }
2025         for (i = 0; i < me->totface; ++i) {
2026                 me->mface[i].v1 = lvl->faces[i].v[0];
2027                 me->mface[i].v2 = lvl->faces[i].v[1];
2028                 me->mface[i].v3 = lvl->faces[i].v[2];
2029                 me->mface[i].v4 = lvl->faces[i].v[3];
2030                 me->mface[i].mat_nr = lvl->faces[i].mat_nr;
2031         }
2032
2033         /* Copy the first-level data to the mesh */
2034         /* XXX We must do this before converting tessfaces to polys/lopps! */
2035         for (i = 0, l = me->mr->vdata.layers; i < me->mr->vdata.totlayer; ++i, ++l)
2036                 CustomData_add_layer(&me->vdata, l->type, CD_REFERENCE, l->data, me->totvert);
2037         for (i = 0, l = me->mr->fdata.layers; i < me->mr->fdata.totlayer; ++i, ++l)
2038                 CustomData_add_layer(&me->fdata, l->type, CD_REFERENCE, l->data, me->totface);
2039         CustomData_reset(&me->mr->vdata);
2040         CustomData_reset(&me->mr->fdata);
2041
2042         multires_load_old_vcols(me);
2043         multires_load_old_face_flags(me);
2044
2045         /* multiresModifier_subdivide (actually, multires_subdivide) expects polys, not tessfaces! */
2046         BKE_mesh_convert_mfaces_to_mpolys(me);
2047
2048         /* Add a multires modifier to the object */
2049         md = ob->modifiers.first;
2050         while (md && modifierType_getInfo(md->type)->type == eModifierTypeType_OnlyDeform)
2051                 md = md->next;
2052         mmd = (MultiresModifierData *)modifier_new(eModifierType_Multires);
2053         BLI_insertlinkbefore(&ob->modifiers, md, mmd);
2054
2055         for (i = 0; i < me->mr->level_count - 1; ++i)
2056                 multiresModifier_subdivide(mmd, NULL, ob, 1, 0);
2057
2058         mmd->lvl = mmd->totlvl;
2059         orig = CDDM_from_mesh(me);
2060         /* XXX We *must* alloc paint mask here, else we have some kind of mismatch in
2061          *     multires_modifier_update_mdisps() (called by dm->release(dm)), which always creates the
2062          *     reference subsurfed dm with this option, before calling multiresModifier_disp_run(),
2063          *     which implicitly expects both subsurfs from its first dm and oldGridData parameters to
2064          *     be of the same "format"! */
2065         dm = multires_make_derived_from_derived(orig, mmd, NULL, ob, 0);
2066
2067         multires_load_old_dm(dm, me, mmd->totlvl + 1);
2068
2069         multires_dm_mark_as_modified(dm, MULTIRES_COORDS_MODIFIED);
2070         dm->release(dm);
2071         orig->release(orig);
2072
2073         /* Remove the old multires */
2074         multires_free(me->mr);
2075         me->mr = NULL;
2076 }
2077
2078 /* If 'ob_src' and 'ob_dst' both have multires modifiers, synchronize them
2079  * such that 'ob_dst' has the same total number of levels as 'ob_src'. */
2080 void multiresModifier_sync_levels_ex(Scene *scene, Object *ob_dst, MultiresModifierData *mmd_src, MultiresModifierData *mmd_dst)
2081 {
2082         if (mmd_src->totlvl == mmd_dst->totlvl) {
2083                 return;
2084         }
2085
2086         if (mmd_src->totlvl > mmd_dst->totlvl) {
2087                 multires_subdivide(mmd_dst, scene, ob_dst, mmd_src->totlvl, false, mmd_dst->simple);
2088         }
2089         else {
2090                 multires_del_higher(mmd_dst, ob_dst, mmd_src->totlvl);
2091         }
2092 }
2093
2094 static void multires_sync_levels(Scene *scene, Object *ob_src, Object *ob_dst)
2095 {
2096         MultiresModifierData *mmd_src = get_multires_modifier(scene, ob_src, true);
2097         MultiresModifierData *mmd_dst = get_multires_modifier(scene, ob_dst, true);
2098
2099         if (!mmd_src) {
2100                 /* object could have MDISP even when there is no multires modifier
2101                  * this could lead to troubles due to i've got no idea how mdisp could be
2102                  * upsampled correct without modifier data.
2103                  * just remove mdisps if no multires present (nazgul) */
2104
2105                 multires_customdata_delete(ob_src->data);
2106         }
2107
2108         if (mmd_src && mmd_dst) {
2109                 multiresModifier_sync_levels_ex(scene, ob_dst, mmd_src, mmd_dst);
2110         }
2111 }
2112
2113 static void multires_apply_uniform_scale(Object *object, const float scale)
2114 {
2115         Mesh *mesh = (Mesh *)object->data;
2116         MDisps *mdisps = CustomData_get_layer(&mesh->ldata, CD_MDISPS);
2117         for (int i = 0; i < mesh->totloop; ++i) {
2118                 MDisps *grid = &mdisps[i];
2119                 for (int j = 0; j < grid->totdisp; ++j) {
2120                         mul_v3_fl(grid->disps[j], scale);
2121                 }
2122         }
2123 }
2124
2125 static void multires_apply_smat(
2126         struct Depsgraph *UNUSED(depsgraph),
2127         Scene *scene,
2128         Object *object,
2129         float smat[3][3])
2130 {
2131         const MultiresModifierData *mmd = get_multires_modifier(scene, object, true);
2132         if (mmd == NULL || mmd->totlvl == 0) {
2133                 return;
2134         }
2135         /* Make sure layer present. */
2136         Mesh *mesh = (Mesh *)object->data;
2137         CustomData_external_read(
2138                 &mesh->ldata, &mesh->id, CD_MASK_MDISPS, mesh->totloop);
2139         if (!CustomData_get_layer(&mesh->ldata, CD_MDISPS)) {
2140                 return;
2141         }
2142         if (is_uniform_scaled_m3(smat)) {
2143                 const float scale = mat3_to_scale(smat);
2144                 multires_apply_uniform_scale(object, scale);
2145         }
2146         else {
2147                 /* TODO(sergey): This branch of code actually requires more work to
2148                  * preserve all the details.
2149                  */
2150                 const float scale = mat3_to_scale(smat);
2151                 multires_apply_uniform_scale(object, scale);
2152         }
2153 }
2154
2155 int multires_mdisp_corners(MDisps *s)
2156 {
2157         int lvl = 13;
2158
2159         while (lvl > 0) {
2160                 int side = (1 << (lvl - 1)) + 1;
2161                 if ((s->totdisp % (side * side)) == 0) return s->totdisp / (side * side);
2162                 lvl--;
2163         }
2164
2165         return 0;
2166 }
2167
2168 void multiresModifier_scale_disp(struct Depsgraph *depsgraph, Scene *scene, Object *ob)
2169 {
2170         float smat[3][3];
2171
2172         /* object's scale matrix */
2173         BKE_object_scale_to_mat3(ob, smat);
2174
2175         multires_apply_smat(depsgraph, scene, ob, smat);
2176 }
2177
2178 void multiresModifier_prepare_join(struct Depsgraph *depsgraph, Scene *scene, Object *ob, Object *to_ob)
2179 {
2180         float smat[3][3], tmat[3][3], mat[3][3];
2181         multires_sync_levels(scene, to_ob, ob);
2182
2183         /* construct scale matrix for displacement */
2184         BKE_object_scale_to_mat3(to_ob, tmat);
2185         invert_m3(tmat);
2186         BKE_object_scale_to_mat3(ob, smat);
2187         mul_m3_m3m3(mat, smat, tmat);
2188
2189         multires_apply_smat(depsgraph, scene, ob, mat);
2190 }
2191
2192 /* update multires data after topology changing */
2193 void multires_topology_changed(Mesh *me)
2194 {
2195         MDisps *mdisp = NULL, *cur = NULL;
2196         int i, grid = 0;
2197
2198         CustomData_external_read(&me->ldata, &me->id, CD_MASK_MDISPS, me->totloop);
2199         mdisp = CustomData_get_layer(&me->ldata, CD_MDISPS);
2200
2201         if (!mdisp)
2202                 return;
2203
2204         cur = mdisp;
2205         for (i = 0; i < me->totloop; i++, cur++) {
2206                 if (cur->totdisp) {
2207                         grid = mdisp->totdisp;
2208
2209                         break;
2210                 }
2211         }
2212
2213         for (i = 0; i < me->totloop; i++, mdisp++) {
2214                 /* allocate memory for mdisp, the whole disp layer would be erased otherwise */
2215                 if (!mdisp->totdisp || !mdisp->disps) {
2216                         if (grid) {
2217                                 mdisp->totdisp = grid;
2218                                 mdisp->disps = MEM_calloc_arrayN(3 * sizeof(float),  mdisp->totdisp, "mdisp topology");
2219                         }
2220
2221                         continue;
2222                 }
2223         }
2224 }
2225
2226 /***************** Multires interpolation stuff *****************/
2227
2228 /* Find per-corner coordinate with given per-face UV coord */
2229 int mdisp_rot_face_to_crn(struct MVert *UNUSED(mvert), struct MPoly *mpoly, struct MLoop *UNUSED(mloop), const struct MLoopTri *UNUSED(lt), const int face_side, const float u, const float v, float *x, float *y)
2230 {
2231         const float offset = face_side * 0.5f - 0.5f;
2232         int S = 0;
2233
2234         if (mpoly->totloop == 4) {
2235                 if (u <= offset && v <= offset) S = 0;
2236                 else if (u > offset  && v <= offset) S = 1;
2237                 else if (u > offset  && v > offset) S = 2;
2238                 else if (u <= offset && v >= offset) S = 3;
2239
2240                 if (S == 0) {
2241                         *y = offset - u;
2242                         *x = offset - v;
2243                 }
2244                 else if (S == 1) {
2245                         *x = u - offset;
2246                         *y = offset - v;
2247                 }
2248                 else if (S == 2) {
2249                         *y = u - offset;
2250                         *x = v - offset;
2251                 }
2252                 else if (S == 3) {
2253                         *x = offset - u;
2254                         *y = v - offset;
2255                 }
2256         }
2257         else if (mpoly->totloop == 3) {
2258                 int grid_size = offset;
2259                 float w = (face_side - 1) - u - v;
2260                 float W1, W2;
2261
2262                 if (u >= v && u >= w) {S = 0; W1 = w; W2 = v; }
2263                 else if (v >= u && v >= w) {S = 1; W1 = u; W2 = w; }
2264                 else {S = 2; W1 = v; W2 = u; }
2265
2266                 W1 /= (face_side - 1);
2267                 W2 /= (face_side - 1);
2268
2269                 *x = (1 - (2 * W1) / (1 - W2)) * grid_size;
2270                 *y = (1 - (2 * W2) / (1 - W1)) * grid_size;
2271         }
2272         else {
2273                 /* the complicated ngon case: find the actual coordinate from
2274                  * the barycentric coordinates and finally find the closest vertex
2275                  * should work reliably for convex cases only but better than nothing */
2276
2277 #if 0
2278                 int minS, i;
2279                 float mindist = FLT_MAX;
2280
2281                 for (i = 0; i < mpoly->totloop; i++) {
2282                         float len = len_v3v3(NULL, mvert[mloop[mpoly->loopstart + i].v].co);
2283                         if (len < mindist) {
2284                                 mindist = len;
2285                                 minS = i;
2286                         }
2287                 }
2288                 S = minS;
2289 #endif
2290                 /* temp not implemented yet and also not working properly in current master.
2291                  * (was worked around by subdividing once) */
2292                 S = 0;
2293                 *x = 0;
2294                 *y = 0;
2295         }
2296
2297         return S;
2298 }