Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / library.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/library.c
29  *  \ingroup bke
30  *
31  * Contains management of ID's and libraries
32  * allocate and free of all library data
33  */
34
35 #include <stdio.h>
36 #include <ctype.h>
37 #include <string.h>
38 #include <stdlib.h>
39 #include <stddef.h>
40 #include <assert.h>
41
42 #include "MEM_guardedalloc.h"
43
44 /* all types are needed here, in order to do memory operations */
45 #include "DNA_anim_types.h"
46 #include "DNA_armature_types.h"
47 #include "DNA_brush_types.h"
48 #include "DNA_cachefile_types.h"
49 #include "DNA_camera_types.h"
50 #include "DNA_group_types.h"
51 #include "DNA_gpencil_types.h"
52 #include "DNA_ipo_types.h"
53 #include "DNA_key_types.h"
54 #include "DNA_lamp_types.h"
55 #include "DNA_lattice_types.h"
56 #include "DNA_linestyle_types.h"
57 #include "DNA_material_types.h"
58 #include "DNA_mesh_types.h"
59 #include "DNA_meta_types.h"
60 #include "DNA_modifier_types.h"
61 #include "DNA_movieclip_types.h"
62 #include "DNA_mask_types.h"
63 #include "DNA_node_types.h"
64 #include "DNA_object_types.h"
65 #include "DNA_lightprobe_types.h"
66 #include "DNA_scene_types.h"
67 #include "DNA_screen_types.h"
68 #include "DNA_speaker_types.h"
69 #include "DNA_sound_types.h"
70 #include "DNA_text_types.h"
71 #include "DNA_vfont_types.h"
72 #include "DNA_windowmanager_types.h"
73 #include "DNA_world_types.h"
74 #include "DNA_workspace_types.h"
75
76 #include "BLI_blenlib.h"
77 #include "BLI_utildefines.h"
78 #include "BLI_ghash.h"
79 #include "BLI_linklist.h"
80 #include "BLI_memarena.h"
81 #include "BLI_mempool.h"
82 #include "BLI_string_utils.h"
83
84 #include "BLI_threads.h"
85 #include "BLT_translation.h"
86
87 #include "BKE_action.h"
88 #include "BKE_animsys.h"
89 #include "BKE_armature.h"
90 #include "BKE_bpath.h"
91 #include "BKE_brush.h"
92 #include "BKE_camera.h"
93 #include "BKE_cachefile.h"
94 #include "BKE_context.h"
95 #include "BKE_curve.h"
96 #include "BKE_font.h"
97 #include "BKE_global.h"
98 #include "BKE_group.h"
99 #include "BKE_gpencil.h"
100 #include "BKE_idcode.h"
101 #include "BKE_idprop.h"
102 #include "BKE_image.h"
103 #include "BKE_key.h"
104 #include "BKE_lamp.h"
105 #include "BKE_lattice.h"
106 #include "BKE_library.h"
107 #include "BKE_library_override.h"
108 #include "BKE_library_query.h"
109 #include "BKE_library_remap.h"
110 #include "BKE_linestyle.h"
111 #include "BKE_mesh.h"
112 #include "BKE_material.h"
113 #include "BKE_main.h"
114 #include "BKE_mball.h"
115 #include "BKE_mask.h"
116 #include "BKE_movieclip.h"
117 #include "BKE_node.h"
118 #include "BKE_object.h"
119 #include "BKE_paint.h"
120 #include "BKE_particle.h"
121 #include "BKE_packedFile.h"
122 #include "BKE_lightprobe.h"
123 #include "BKE_sound.h"
124 #include "BKE_speaker.h"
125 #include "BKE_scene.h"
126 #include "BKE_text.h"
127 #include "BKE_texture.h"
128 #include "BKE_world.h"
129
130 #include "DEG_depsgraph.h"
131
132 #include "RNA_access.h"
133
134 #include "IMB_imbuf.h"
135 #include "IMB_imbuf_types.h"
136
137 #include "atomic_ops.h"
138
139 //#define DEBUG_TIME
140
141 #ifdef DEBUG_TIME
142 #  include "PIL_time_utildefines.h"
143 #endif
144
145 /* GS reads the memory pointed at in a specific ordering. 
146  * only use this definition, makes little and big endian systems
147  * work fine, in conjunction with MAKE_ID */
148
149 /* ************* general ************************ */
150
151
152 /* this has to be called from each make_local_* func, we could call
153  * from id_make_local() but then the make local functions would not be self
154  * contained.
155  * also note that the id _must_ have a library - campbell */
156 void BKE_id_lib_local_paths(Main *bmain, Library *lib, ID *id)
157 {
158         const char *bpath_user_data[2] = {bmain->name, lib->filepath};
159
160         BKE_bpath_traverse_id(bmain, id,
161                               BKE_bpath_relocate_visitor,
162                               BKE_BPATH_TRAVERSE_SKIP_MULTIFILE,
163                               (void *)bpath_user_data);
164 }
165
166 void id_lib_extern(ID *id)
167 {
168         if (id && ID_IS_LINKED(id)) {
169                 BLI_assert(BKE_idcode_is_linkable(GS(id->name)));
170                 if (id->tag & LIB_TAG_INDIRECT) {
171                         id->tag -= LIB_TAG_INDIRECT;
172                         id->tag |= LIB_TAG_EXTERN;
173                 }
174         }
175 }
176
177 /* ensure we have a real user */
178 /* Note: Now that we have flags, we could get rid of the 'fake_user' special case, flags are enough to ensure
179  *       we always have a real user.
180  *       However, ID_REAL_USERS is used in several places outside of core library.c, so think we can wait later
181  *       to make this change... */
182 void id_us_ensure_real(ID *id)
183 {
184         if (id) {
185                 const int limit = ID_FAKE_USERS(id);
186                 id->tag |= LIB_TAG_EXTRAUSER;
187                 if (id->us <= limit) {
188                         if (id->us < limit || ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER_SET))) {
189                                 printf("ID user count error: %s (from '%s')\n", id->name, id->lib ? id->lib->filepath : "[Main]");
190                                 BLI_assert(0);
191                         }
192                         id->us = limit + 1;
193                         id->tag |= LIB_TAG_EXTRAUSER_SET;
194                 }
195         }
196 }
197
198 void id_us_clear_real(ID *id)
199 {
200         if (id && (id->tag & LIB_TAG_EXTRAUSER)) {
201                 if (id->tag & LIB_TAG_EXTRAUSER_SET) {
202                         id->us--;
203                         BLI_assert(id->us >= ID_FAKE_USERS(id));
204                 }
205                 id->tag &= ~(LIB_TAG_EXTRAUSER | LIB_TAG_EXTRAUSER_SET);
206         }
207 }
208
209 /**
210  * Same as \a id_us_plus, but does not handle lib indirect -> extern.
211  * Only used by readfile.c so far, but simpler/safer to keep it here nonetheless.
212  */
213 void id_us_plus_no_lib(ID *id)
214 {
215         if (id) {
216                 if ((id->tag & LIB_TAG_EXTRAUSER) && (id->tag & LIB_TAG_EXTRAUSER_SET)) {
217                         BLI_assert(id->us >= 1);
218                         /* No need to increase count, just tag extra user as no more set.
219                          * Avoids annoying & inconsistent +1 in user count. */
220                         id->tag &= ~LIB_TAG_EXTRAUSER_SET;
221                 }
222                 else {
223                         BLI_assert(id->us >= 0);
224                         id->us++;
225                 }
226         }
227 }
228
229
230 void id_us_plus(ID *id)
231 {
232         if (id) {
233                 id_us_plus_no_lib(id);
234                 id_lib_extern(id);
235         }
236 }
237
238 /* decrements the user count for *id. */
239 void id_us_min(ID *id)
240 {
241         if (id) {
242                 const int limit = ID_FAKE_USERS(id);
243
244                 if (id->us <= limit) {
245                         printf("ID user decrement error: %s (from '%s'): %d <= %d\n",
246                                id->name, id->lib ? id->lib->filepath : "[Main]", id->us, limit);
247                         BLI_assert(0);
248                         id->us = limit;
249                 }
250                 else {
251                         id->us--;
252                 }
253
254                 if ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER)) {
255                         /* We need an extra user here, but never actually incremented user count for it so far, do it now. */
256                         id_us_ensure_real(id);
257                 }
258         }
259 }
260
261 void id_fake_user_set(ID *id)
262 {
263         if (id && !(id->flag & LIB_FAKEUSER)) {
264                 id->flag |= LIB_FAKEUSER;
265                 id_us_plus(id);
266         }
267 }
268
269 void id_fake_user_clear(ID *id)
270 {
271         if (id && (id->flag & LIB_FAKEUSER)) {
272                 id->flag &= ~LIB_FAKEUSER;
273                 id_us_min(id);
274         }
275 }
276
277 void BKE_id_clear_newpoin(ID *id)
278 {
279         if (id->newid) {
280                 id->newid->tag &= ~LIB_TAG_NEW;
281         }
282         id->newid = NULL;
283 }
284
285 static int id_expand_local_callback(
286         void *UNUSED(user_data), struct ID *id_self, struct ID **id_pointer, int cb_flag)
287 {
288         if (cb_flag & IDWALK_CB_PRIVATE) {
289                 return IDWALK_RET_NOP;
290         }
291
292         /* Can hapen that we get unlinkable ID here, e.g. with shapekey referring to itself (through drivers)...
293          * Just skip it, shape key can only be either indirectly linked, or fully local, period.
294          * And let's curse one more time that stupid useless shapekey ID type! */
295         if (*id_pointer && *id_pointer != id_self && BKE_idcode_is_linkable(GS((*id_pointer)->name))) {
296                 id_lib_extern(*id_pointer);
297         }
298
299         return IDWALK_RET_NOP;
300 }
301
302 /**
303  * Expand ID usages of given id as 'extern' (and no more indirect) linked data. Used by ID copy/make_local functions.
304  */
305 void BKE_id_expand_local(Main *bmain, ID *id)
306 {
307         BKE_library_foreach_ID_link(bmain, id, id_expand_local_callback, NULL, IDWALK_READONLY);
308 }
309
310 /**
311  * Ensure new (copied) ID is fully made local.
312  */
313 void BKE_id_copy_ensure_local(Main *bmain, const ID *old_id, ID *new_id)
314 {
315         if (ID_IS_LINKED(old_id)) {
316                 BKE_id_expand_local(bmain, new_id);
317                 BKE_id_lib_local_paths(bmain, old_id->lib, new_id);
318         }
319 }
320
321 /**
322  * Generic 'make local' function, works for most of datablock types...
323  */
324 void BKE_id_make_local_generic(Main *bmain, ID *id, const bool id_in_mainlist, const bool lib_local)
325 {
326         bool is_local = false, is_lib = false;
327
328         /* - only lib users: do nothing (unless force_local is set)
329          * - only local users: set flag
330          * - mixed: make copy
331          * In case we make a whole lib's content local, we always want to localize, and we skip remapping (done later).
332          */
333
334         if (!ID_IS_LINKED(id)) {
335                 return;
336         }
337
338         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
339
340         if (lib_local || is_local) {
341                 if (!is_lib) {
342                         id_clear_lib_data_ex(bmain, id, id_in_mainlist);
343                         BKE_id_expand_local(bmain, id);
344                 }
345                 else {
346                         ID *id_new;
347
348                         /* Should not fail in expected usecases, but id_copy does not copy Scene e.g. */
349                         if (id_copy(bmain, id, &id_new, false)) {
350                                 id_new->us = 0;
351
352                                 /* setting newid is mandatory for complex make_lib_local logic... */
353                                 ID_NEW_SET(id, id_new);
354                                 Key *key = BKE_key_from_id(id), *key_new = BKE_key_from_id(id);
355                                 if (key && key_new) {
356                                         ID_NEW_SET(key, key_new);
357                                 }
358                                 bNodeTree *ntree = ntreeFromID(id), *ntree_new = ntreeFromID(id_new);
359                                 if (ntree && ntree_new) {
360                                         ID_NEW_SET(ntree, ntree_new);
361                                 }
362
363                                 if (!lib_local) {
364                                         BKE_libblock_remap(bmain, id, id_new, ID_REMAP_SKIP_INDIRECT_USAGE);
365                                 }
366                         }
367                 }
368         }
369 }
370
371 /**
372  * Calls the appropriate make_local method for the block, unless test is set.
373  *
374  * \note Always set ID->newid pointer in case it gets duplicated...
375  *
376  * \param lib_local Special flag used when making a whole library's content local, it needs specific handling.
377  *
378  * \return true if the block can be made local.
379  */
380 bool id_make_local(Main *bmain, ID *id, const bool test, const bool lib_local)
381 {
382         /* We don't care whether ID is directly or indirectly linked in case we are making a whole lib local... */
383         if (!lib_local && (id->tag & LIB_TAG_INDIRECT)) {
384                 return false;
385         }
386
387         switch ((ID_Type)GS(id->name)) {
388                 case ID_SCE:
389                         if (!test) BKE_scene_make_local(bmain, (Scene *)id, lib_local);
390                         return true;
391                 case ID_OB:
392                         if (!test) BKE_object_make_local(bmain, (Object *)id, lib_local);
393                         return true;
394                 case ID_ME:
395                         if (!test) BKE_mesh_make_local(bmain, (Mesh *)id, lib_local);
396                         return true;
397                 case ID_CU:
398                         if (!test) BKE_curve_make_local(bmain, (Curve *)id, lib_local);
399                         return true;
400                 case ID_MB:
401                         if (!test) BKE_mball_make_local(bmain, (MetaBall *)id, lib_local);
402                         return true;
403                 case ID_MA:
404                         if (!test) BKE_material_make_local(bmain, (Material *)id, lib_local);
405                         return true;
406                 case ID_TE:
407                         if (!test) BKE_texture_make_local(bmain, (Tex *)id, lib_local);
408                         return true;
409                 case ID_IM:
410                         if (!test) BKE_image_make_local(bmain, (Image *)id, lib_local);
411                         return true;
412                 case ID_LT:
413                         if (!test) BKE_lattice_make_local(bmain, (Lattice *)id, lib_local);
414                         return true;
415                 case ID_LA:
416                         if (!test) BKE_lamp_make_local(bmain, (Lamp *)id, lib_local);
417                         return true;
418                 case ID_CA:
419                         if (!test) BKE_camera_make_local(bmain, (Camera *)id, lib_local);
420                         return true;
421                 case ID_SPK:
422                         if (!test) BKE_speaker_make_local(bmain, (Speaker *)id, lib_local);
423                         return true;
424                 case ID_LP:
425                         if (!test) BKE_lightprobe_make_local(bmain, (LightProbe *)id, lib_local);
426                         return true;
427                 case ID_WO:
428                         if (!test) BKE_world_make_local(bmain, (World *)id, lib_local);
429                         return true;
430                 case ID_VF:
431                         if (!test) BKE_vfont_make_local(bmain, (VFont *)id, lib_local);
432                         return true;
433                 case ID_TXT:
434                         if (!test) BKE_text_make_local(bmain, (Text *)id, lib_local);
435                         return true;
436                 case ID_SO:
437                         if (!test) BKE_sound_make_local(bmain, (bSound *)id, lib_local);
438                         return true;
439                 case ID_GR:
440                         if (!test) BKE_group_make_local(bmain, (Group *)id, lib_local);
441                         return true;
442                 case ID_AR:
443                         if (!test) BKE_armature_make_local(bmain, (bArmature *)id, lib_local);
444                         return true;
445                 case ID_AC:
446                         if (!test) BKE_action_make_local(bmain, (bAction *)id, lib_local);
447                         return true;
448                 case ID_NT:
449                         if (!test) ntreeMakeLocal(bmain, (bNodeTree *)id, true, lib_local);
450                         return true;
451                 case ID_BR:
452                         if (!test) BKE_brush_make_local(bmain, (Brush *)id, lib_local);
453                         return true;
454                 case ID_PA:
455                         if (!test) BKE_particlesettings_make_local(bmain, (ParticleSettings *)id, lib_local);
456                         return true;
457                 case ID_GD:
458                         if (!test) BKE_gpencil_make_local(bmain, (bGPdata *)id, lib_local);
459                         return true;
460                 case ID_MC:
461                         if (!test) BKE_movieclip_make_local(bmain, (MovieClip *)id, lib_local);
462                         return true;
463                 case ID_MSK:
464                         if (!test) BKE_mask_make_local(bmain, (Mask *)id, lib_local);
465                         return true;
466                 case ID_LS:
467                         if (!test) BKE_linestyle_make_local(bmain, (FreestyleLineStyle *)id, lib_local);
468                         return true;
469                 case ID_PAL:
470                         if (!test) BKE_palette_make_local(bmain, (Palette *)id, lib_local);
471                         return true;
472                 case ID_PC:
473                         if (!test) BKE_paint_curve_make_local(bmain, (PaintCurve *)id, lib_local);
474                         return true;
475                 case ID_CF:
476                         if (!test) BKE_cachefile_make_local(bmain, (CacheFile *)id, lib_local);
477                         return true;
478                 case ID_WS:
479                 case ID_SCR:
480                         /* A bit special: can be appended but not linked. Return false
481                          * since supporting make-local doesn't make much sense. */
482                         return false;
483                 case ID_LI:
484                 case ID_KE:
485                 case ID_WM:
486                         return false; /* can't be linked */
487                 case ID_IP:
488                         return false; /* deprecated */
489         }
490
491         return false;
492 }
493
494 struct IDCopyLibManagementData {
495         const ID *id_src;
496         ID *id_dst;
497         int flag;
498 };
499
500 /* Increases usercount as required, and remap self ID pointers. */
501 static int id_copy_libmanagement_cb(void *user_data, ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
502 {
503         struct IDCopyLibManagementData *data = user_data;
504         ID *id = *id_pointer;
505
506         /* Remap self-references to new copied ID. */
507         if (id == data->id_src) {
508                 /* We cannot use id_self here, it is not *always* id_dst (thanks to $£!+@#&/? nodetrees). */
509                 id = *id_pointer = data->id_dst;
510         }
511
512         /* Increase used IDs refcount if needed and required. */
513         if ((data->flag & LIB_ID_CREATE_NO_USER_REFCOUNT) == 0 && (cb_flag & IDWALK_CB_USER)) {
514                 id_us_plus(id);
515         }
516
517         return IDWALK_RET_NOP;
518 }
519
520 /**
521  * Generic entry point for copying a datablock (new API).
522  *
523  * \note Copy is only affecting given data-block (no ID used by copied one will be affected, besides usercount).
524  *       There is only one exception, if LIB_ID_COPY_ACTIONS is defined, actions used by animdata will be duplicated.
525  *
526  * \note Usercount of new copy is always set to 1.
527  *
528  * \param bmain Main database, may be NULL only if LIB_ID_CREATE_NO_MAIN is specified.
529  * \param id Source datablock.
530  * \param r_newid Pointer to new (copied) ID pointer.
531  * \param flag Set of copy options, see DNA_ID.h enum for details (leave to zero for default, full copy).
532  * \param test If set, do not do any copy, just test whether copy is supported.
533  * \return False when copying that ID type is not supported, true otherwise.
534  */
535 /* XXX TODO remove test thing, *all* IDs should be copyable that way! */
536 bool BKE_id_copy_ex(Main *bmain, const ID *id, ID **r_newid, const int flag, const bool test)
537 {
538 #define LIB_ID_TYPES_NOCOPY ID_LI, ID_SCR, ID_WM,  /* Not supported */ \
539                             ID_IP  /* Deprecated */
540
541         BLI_assert(test || (r_newid != NULL));
542         /* Early output is source is NULL. */
543         if (id == NULL) {
544                 return false;
545         }
546         /* Make sure destination pointer is all good. */
547         if ((flag & LIB_ID_CREATE_NO_ALLOCATE) == 0) {
548                 if (r_newid != NULL) {
549                         *r_newid = NULL;
550                 }
551         }
552         else {
553                 if (r_newid != NULL && *r_newid != NULL) {
554                         /* Allow some garbage non-initialized memory to go in. */
555                         const size_t size = BKE_libblock_get_alloc_info(GS(id->name), NULL);
556                         memset(*r_newid, 0, size);
557                 }
558         }
559         if (ELEM(GS(id->name), LIB_ID_TYPES_NOCOPY)) {
560                 return false;
561         }
562         else if (test) {
563                 return true;
564         }
565
566         BKE_libblock_copy_ex(bmain, id, r_newid, flag);
567
568         switch ((ID_Type)GS(id->name)) {
569                 case ID_SCE:
570                         BKE_scene_copy_data(bmain, (Scene *)*r_newid, (Scene *)id, flag);
571                         break;
572                 case ID_OB:
573                         BKE_object_copy_data(bmain, (Object *)*r_newid, (Object *)id, flag);
574                         break;
575                 case ID_ME:
576                         BKE_mesh_copy_data(bmain, (Mesh *)*r_newid, (Mesh *)id, flag);
577                         break;
578                 case ID_CU:
579                         BKE_curve_copy_data(bmain, (Curve *)*r_newid, (Curve *)id, flag);
580                         break;
581                 case ID_MB:
582                         BKE_mball_copy_data(bmain, (MetaBall *)*r_newid, (MetaBall *)id, flag);
583                         break;
584                 case ID_MA:
585                         BKE_material_copy_data(bmain, (Material *)*r_newid, (Material *)id, flag);
586                         break;
587                 case ID_TE:
588                         BKE_texture_copy_data(bmain, (Tex *)*r_newid, (Tex *)id, flag);
589                         break;
590                 case ID_IM:
591                         BKE_image_copy_data(bmain, (Image *)*r_newid, (Image *)id, flag);
592                         break;
593                 case ID_LT:
594                         BKE_lattice_copy_data(bmain, (Lattice *)*r_newid, (Lattice *)id, flag);
595                         break;
596                 case ID_LA:
597                         BKE_lamp_copy_data(bmain, (Lamp *)*r_newid, (Lamp *)id, flag);
598                         break;
599                 case ID_SPK:
600                         BKE_speaker_copy_data(bmain, (Speaker *)*r_newid, (Speaker *)id, flag);
601                         break;
602                 case ID_LP:
603                         BKE_lightprobe_copy_data(bmain, (LightProbe *)*r_newid, (LightProbe *)id, flag);
604                         break;
605                 case ID_CA:
606                         BKE_camera_copy_data(bmain, (Camera *)*r_newid, (Camera *)id, flag);
607                         break;
608                 case ID_KE:
609                         BKE_key_copy_data(bmain, (Key *)*r_newid, (Key *)id, flag);
610                         break;
611                 case ID_WO:
612                         BKE_world_copy_data(bmain, (World *)*r_newid, (World *)id, flag);
613                         break;
614                 case ID_TXT:
615                         BKE_text_copy_data(bmain, (Text *)*r_newid, (Text *)id, flag);
616                         break;
617                 case ID_GR:
618                         BKE_group_copy_data(bmain, (Group *)*r_newid, (Group *)id, flag);
619                         break;
620                 case ID_AR:
621                         BKE_armature_copy_data(bmain, (bArmature *)*r_newid, (bArmature *)id, flag);
622                         break;
623                 case ID_AC:
624                         BKE_action_copy_data(bmain, (bAction *)*r_newid, (bAction *)id, flag);
625                         break;
626                 case ID_NT:
627                         BKE_node_tree_copy_data(bmain, (bNodeTree *)*r_newid, (bNodeTree *)id, flag);
628                         break;
629                 case ID_BR:
630                         BKE_brush_copy_data(bmain, (Brush *)*r_newid, (Brush *)id, flag);
631                         break;
632                 case ID_PA:
633                         BKE_particlesettings_copy_data(bmain, (ParticleSettings *)*r_newid, (ParticleSettings *)id, flag);
634                         break;
635                 case ID_GD:
636                         BKE_gpencil_copy_data(bmain, (bGPdata *)*r_newid, (bGPdata *)id, flag);
637                         break;
638                 case ID_MC:
639                         BKE_movieclip_copy_data(bmain, (MovieClip *)*r_newid, (MovieClip *)id, flag);
640                         break;
641                 case ID_MSK:
642                         BKE_mask_copy_data(bmain, (Mask *)*r_newid, (Mask *)id, flag);
643                         break;
644                 case ID_LS:
645                         BKE_linestyle_copy_data(bmain, (FreestyleLineStyle *)*r_newid, (FreestyleLineStyle *)id, flag);
646                         break;
647                 case ID_PAL:
648                         BKE_palette_copy_data(bmain, (Palette *)*r_newid, (Palette *)id, flag);
649                         break;
650                 case ID_PC:
651                         BKE_paint_curve_copy_data(bmain, (PaintCurve *)*r_newid, (PaintCurve *)id, flag);
652                         break;
653                 case ID_CF:
654                         BKE_cachefile_copy_data(bmain, (CacheFile *)*r_newid, (CacheFile *)id, flag);
655                         break;
656                 case ID_SO:
657                         BKE_sound_copy_data(bmain, (bSound *)*r_newid, (bSound *)id, flag);
658                         break;
659                 case ID_VF:
660                         BKE_vfont_copy_data(bmain, (VFont *)*r_newid, (VFont *)id, flag);
661                         break;
662                 case ID_LI:
663                 case ID_SCR:
664                 case ID_WM:
665                 case ID_WS:
666                 case ID_IP:
667                         BLI_assert(0);  /* Should have been rejected at start of function! */
668                         break;
669         }
670
671         /* Update ID refcount, remap pointers to self in new ID. */
672         struct IDCopyLibManagementData data = {.id_src = id, .id_dst = *r_newid, .flag = flag};
673         BKE_library_foreach_ID_link(bmain, *r_newid, id_copy_libmanagement_cb, &data, IDWALK_NOP);
674
675         /* Do not make new copy local in case we are copying outside of main...
676          * XXX TODO: is this behavior OK, or should we need own flag to control that? */
677         if ((flag & LIB_ID_CREATE_NO_MAIN) == 0) {
678                 BLI_assert((flag & LIB_ID_COPY_KEEP_LIB) == 0);
679                 BKE_id_copy_ensure_local(bmain, id, *r_newid);
680         }
681         else {
682                 (*r_newid)->lib = id->lib;
683         }
684
685         return true;
686 }
687
688 /**
689  * Invokes the appropriate copy method for the block and returns the result in
690  * newid, unless test. Returns true if the block can be copied.
691  */
692 bool id_copy(Main *bmain, const ID *id, ID **newid, bool test)
693 {
694         return BKE_id_copy_ex(bmain, id, newid, 0, test);
695 }
696
697 /** Does a mere memory swap over the whole IDs data (including type-specific memory).
698  *  \note Most internal ID data itself is not swapped (only IDProperties are). */
699 void BKE_id_swap(Main *bmain, ID *id_a, ID *id_b)
700 {
701         BLI_assert(GS(id_a->name) == GS(id_b->name));
702
703         const ID id_a_back = *id_a;
704         const ID id_b_back = *id_b;
705
706 #define CASE_SWAP(_gs, _type) \
707         case _gs: \
708                 SWAP(_type, *(_type *)id_a, *(_type *)id_b); \
709                 break
710
711         switch ((ID_Type)GS(id_a->name)) {
712                 CASE_SWAP(ID_SCE, Scene);
713                 CASE_SWAP(ID_LI, Library);
714                 CASE_SWAP(ID_OB, Object);
715                 CASE_SWAP(ID_ME, Mesh);
716                 CASE_SWAP(ID_CU, Curve);
717                 CASE_SWAP(ID_MB, MetaBall);
718                 CASE_SWAP(ID_MA, Material);
719                 CASE_SWAP(ID_TE, Tex);
720                 CASE_SWAP(ID_IM, Image);
721                 CASE_SWAP(ID_LT, Lattice);
722                 CASE_SWAP(ID_LA, Lamp);
723                 CASE_SWAP(ID_LP, LightProbe);
724                 CASE_SWAP(ID_CA, Camera);
725                 CASE_SWAP(ID_KE, Key);
726                 CASE_SWAP(ID_WO, World);
727                 CASE_SWAP(ID_SCR, bScreen);
728                 CASE_SWAP(ID_VF, VFont);
729                 CASE_SWAP(ID_TXT, Text);
730                 CASE_SWAP(ID_SPK, Speaker);
731                 CASE_SWAP(ID_SO, bSound);
732                 CASE_SWAP(ID_GR, Group);
733                 CASE_SWAP(ID_AR, bArmature);
734                 CASE_SWAP(ID_AC, bAction);
735                 CASE_SWAP(ID_NT, bNodeTree);
736                 CASE_SWAP(ID_BR, Brush);
737                 CASE_SWAP(ID_PA, ParticleSettings);
738                 CASE_SWAP(ID_WM, wmWindowManager);
739                 CASE_SWAP(ID_WS, WorkSpace);
740                 CASE_SWAP(ID_GD, bGPdata);
741                 CASE_SWAP(ID_MC, MovieClip);
742                 CASE_SWAP(ID_MSK, Mask);
743                 CASE_SWAP(ID_LS, FreestyleLineStyle);
744                 CASE_SWAP(ID_PAL, Palette);
745                 CASE_SWAP(ID_PC, PaintCurve);
746                 CASE_SWAP(ID_CF, CacheFile);
747                 case ID_IP:
748                         break;  /* Deprecated. */
749         }
750
751 #undef CASE_SWAP
752
753         /* Restore original ID's internal data. */
754         *id_a = id_a_back;
755         *id_b = id_b_back;
756
757         /* Exception: IDProperties. */
758         id_a->properties = id_b_back.properties;
759         id_b->properties = id_a_back.properties;
760
761         /* Swap will have broken internal references to itself, restore them. */
762         BKE_libblock_relink_ex(bmain, id_a, id_b, id_a, false);
763         BKE_libblock_relink_ex(bmain, id_b, id_a, id_b, false);
764 }
765
766 /** Does *not* set ID->newid pointer. */
767 bool id_single_user(bContext *C, ID *id, PointerRNA *ptr, PropertyRNA *prop)
768 {
769         ID *newid = NULL;
770         PointerRNA idptr;
771         
772         if (id) {
773                 /* if property isn't editable, we're going to have an extra block hanging around until we save */
774                 if (RNA_property_editable(ptr, prop)) {
775                         if (id_copy(CTX_data_main(C), id, &newid, false) && newid) {
776                                 /* copy animation actions too */
777                                 BKE_animdata_copy_id_action(id, false);
778                                 /* us is 1 by convention, but RNA_property_pointer_set
779                                  * will also increment it, so set it to zero */
780                                 newid->us = 0;
781
782                                 /* assign copy */
783                                 RNA_id_pointer_create(newid, &idptr);
784                                 RNA_property_pointer_set(ptr, prop, idptr);
785                                 RNA_property_update(C, ptr, prop);
786                                 
787                                 return true;
788                         }
789                 }
790         }
791         
792         return false;
793 }
794
795 static int libblock_management_us_plus(void *UNUSED(user_data), ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
796 {
797         if (cb_flag & IDWALK_CB_USER) {
798                 id_us_plus(*id_pointer);
799         }
800         if (cb_flag & IDWALK_CB_USER_ONE) {
801                 id_us_ensure_real(*id_pointer);
802         }
803
804         return IDWALK_RET_NOP;
805 }
806
807 static int libblock_management_us_min(void *UNUSED(user_data), ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
808 {
809         if (cb_flag & IDWALK_CB_USER) {
810                 id_us_min(*id_pointer);
811         }
812         /* We can do nothing in IDWALK_CB_USER_ONE case! */
813
814         return IDWALK_RET_NOP;
815 }
816
817 /** Add a 'NO_MAIN' datablock to given main (also sets usercounts of its IDs if needed). */
818 void BKE_libblock_management_main_add(Main *bmain, void *idv)
819 {
820         ID *id = idv;
821
822         BLI_assert(bmain != NULL);
823         if ((id->tag & LIB_TAG_NO_MAIN) == 0) {
824                 return;
825         }
826
827         if ((id->tag & LIB_TAG_NOT_ALLOCATED) != 0) {
828                 /* We cannot add non-allocated ID to Main! */
829                 return;
830         }
831
832         /* We cannot allow non-userrefcounting IDs in Main database! */
833         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) != 0) {
834                 BKE_library_foreach_ID_link(bmain, id, libblock_management_us_plus, NULL, IDWALK_NOP);
835         }
836
837         ListBase *lb = which_libbase(bmain, GS(id->name));
838         BKE_main_lock(bmain);
839         BLI_addtail(lb, id);
840         new_id(lb, id, NULL);
841         /* alphabetic insertion: is in new_id */
842         id->tag &= ~(LIB_TAG_NO_MAIN | LIB_TAG_NO_USER_REFCOUNT);
843         bmain->is_memfile_undo_written = false;
844         BKE_main_unlock(bmain);
845 }
846
847 /** Remove a datablock from given main (set it to 'NO_MAIN' status). */
848 void BKE_libblock_management_main_remove(Main *bmain, void *idv)
849 {
850         ID *id = idv;
851
852         BLI_assert(bmain != NULL);
853         if ((id->tag & LIB_TAG_NO_MAIN) != 0) {
854                 return;
855         }
856
857         /* For now, allow userrefcounting IDs to get out of Main - can be handy in some cases... */
858
859         ListBase *lb = which_libbase(bmain, GS(id->name));
860         BKE_main_lock(bmain);
861         BLI_remlink(lb, id);
862         id->tag |= LIB_TAG_NO_MAIN;
863         bmain->is_memfile_undo_written = false;
864         BKE_main_unlock(bmain);
865 }
866
867 void BKE_libblock_management_usercounts_set(Main *bmain, void *idv)
868 {
869         ID *id = idv;
870
871         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) == 0) {
872                 return;
873         }
874
875         BKE_library_foreach_ID_link(bmain, id, libblock_management_us_plus, NULL, IDWALK_NOP);
876         id->tag &= ~LIB_TAG_NO_USER_REFCOUNT;
877 }
878
879 void BKE_libblock_management_usercounts_clear(Main *bmain, void *idv)
880 {
881         ID *id = idv;
882
883         /* We do not allow IDs in Main database to not be userrefcounting. */
884         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) != 0 || (id->tag & LIB_TAG_NO_MAIN) != 0) {
885                 return;
886         }
887
888         BKE_library_foreach_ID_link(bmain, id, libblock_management_us_min, NULL, IDWALK_NOP);
889         id->tag |= LIB_TAG_NO_USER_REFCOUNT;
890 }
891
892 ListBase *which_libbase(Main *mainlib, short type)
893 {
894         switch ((ID_Type)type) {
895                 case ID_SCE:
896                         return &(mainlib->scene);
897                 case ID_LI:
898                         return &(mainlib->library);
899                 case ID_OB:
900                         return &(mainlib->object);
901                 case ID_ME:
902                         return &(mainlib->mesh);
903                 case ID_CU:
904                         return &(mainlib->curve);
905                 case ID_MB:
906                         return &(mainlib->mball);
907                 case ID_MA:
908                         return &(mainlib->mat);
909                 case ID_TE:
910                         return &(mainlib->tex);
911                 case ID_IM:
912                         return &(mainlib->image);
913                 case ID_LT:
914                         return &(mainlib->latt);
915                 case ID_LA:
916                         return &(mainlib->lamp);
917                 case ID_CA:
918                         return &(mainlib->camera);
919                 case ID_IP:
920                         return &(mainlib->ipo);
921                 case ID_KE:
922                         return &(mainlib->key);
923                 case ID_WO:
924                         return &(mainlib->world);
925                 case ID_SCR:
926                         return &(mainlib->screen);
927                 case ID_VF:
928                         return &(mainlib->vfont);
929                 case ID_TXT:
930                         return &(mainlib->text);
931                 case ID_SPK:
932                         return &(mainlib->speaker);
933                 case ID_LP:
934                         return &(mainlib->lightprobe);
935                 case ID_SO:
936                         return &(mainlib->sound);
937                 case ID_GR:
938                         return &(mainlib->group);
939                 case ID_AR:
940                         return &(mainlib->armature);
941                 case ID_AC:
942                         return &(mainlib->action);
943                 case ID_NT:
944                         return &(mainlib->nodetree);
945                 case ID_BR:
946                         return &(mainlib->brush);
947                 case ID_PA:
948                         return &(mainlib->particle);
949                 case ID_WM:
950                         return &(mainlib->wm);
951                 case ID_GD:
952                         return &(mainlib->gpencil);
953                 case ID_MC:
954                         return &(mainlib->movieclip);
955                 case ID_MSK:
956                         return &(mainlib->mask);
957                 case ID_LS:
958                         return &(mainlib->linestyle);
959                 case ID_PAL:
960                         return &(mainlib->palettes);
961                 case ID_PC:
962                         return &(mainlib->paintcurves);
963                 case ID_CF:
964                         return &(mainlib->cachefiles);
965                 case ID_WS:
966                         return &(mainlib->workspaces);
967         }
968         return NULL;
969 }
970
971 /**
972  * Clear or set given tags for all ids in listbase (runtime tags).
973  */
974 void BKE_main_id_tag_listbase(ListBase *lb, const int tag, const bool value)
975 {
976         ID *id;
977         if (value) {
978                 for (id = lb->first; id; id = id->next) {
979                         id->tag |= tag;
980                 }
981         }
982         else {
983                 const int ntag = ~tag;
984                 for (id = lb->first; id; id = id->next) {
985                         id->tag &= ntag;
986                 }
987         }
988 }
989
990 /**
991  * Clear or set given tags for all ids of given type in bmain (runtime tags).
992  */
993 void BKE_main_id_tag_idcode(struct Main *mainvar, const short type, const int tag, const bool value)
994 {
995         ListBase *lb = which_libbase(mainvar, type);
996
997         BKE_main_id_tag_listbase(lb, tag, value);
998 }
999
1000 /**
1001  * Clear or set given tags for all ids in bmain (runtime tags).
1002  */
1003 void BKE_main_id_tag_all(struct Main *mainvar, const int tag, const bool value)
1004 {
1005         ListBase *lbarray[MAX_LIBARRAY];
1006         int a;
1007
1008         a = set_listbasepointers(mainvar, lbarray);
1009         while (a--) {
1010                 BKE_main_id_tag_listbase(lbarray[a], tag, value);
1011         }
1012 }
1013
1014
1015 /**
1016  * Clear or set given flags for all ids in listbase (persistent flags).
1017  */
1018 void BKE_main_id_flag_listbase(ListBase *lb, const int flag, const bool value)
1019 {
1020         ID *id;
1021         if (value) {
1022                 for (id = lb->first; id; id = id->next)
1023                         id->tag |= flag;
1024         }
1025         else {
1026                 const int nflag = ~flag;
1027                 for (id = lb->first; id; id = id->next)
1028                         id->tag &= nflag;
1029         }
1030 }
1031
1032 /**
1033  * Clear or set given flags for all ids in bmain (persistent flags).
1034  */
1035 void BKE_main_id_flag_all(Main *bmain, const int flag, const bool value)
1036 {
1037         ListBase *lbarray[MAX_LIBARRAY];
1038         int a;
1039         a = set_listbasepointers(bmain, lbarray);
1040         while (a--) {
1041                 BKE_main_id_flag_listbase(lbarray[a], flag, value);
1042         }
1043 }
1044
1045 void BKE_main_lib_objects_recalc_all(Main *bmain)
1046 {
1047         Object *ob;
1048
1049         /* flag for full recalc */
1050         for (ob = bmain->object.first; ob; ob = ob->id.next) {
1051                 if (ID_IS_LINKED(ob)) {
1052                         DEG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA | OB_RECALC_TIME);
1053                 }
1054         }
1055
1056         DEG_id_type_tag(bmain, ID_OB);
1057 }
1058
1059 /**
1060  * puts into array *lb pointers to all the ListBase structs in main,
1061  * and returns the number of them as the function result. This is useful for
1062  * generic traversal of all the blocks in a Main (by traversing all the
1063  * lists in turn), without worrying about block types.
1064  *
1065  * \note MAX_LIBARRAY define should match this code */
1066 int set_listbasepointers(Main *main, ListBase **lb)
1067 {
1068         /* BACKWARDS! also watch order of free-ing! (mesh<->mat), first items freed last.
1069          * This is important because freeing data decreases usercounts of other datablocks,
1070          * if this data is its self freed it can crash. */
1071         lb[INDEX_ID_LI] = &(main->library);  /* Libraries may be accessed from pretty much any other ID... */
1072         lb[INDEX_ID_IP] = &(main->ipo);
1073         lb[INDEX_ID_AC] = &(main->action); /* moved here to avoid problems when freeing with animato (aligorith) */
1074         lb[INDEX_ID_KE] = &(main->key);
1075         lb[INDEX_ID_GD] = &(main->gpencil); /* referenced by nodes, objects, view, scene etc, before to free after. */
1076         lb[INDEX_ID_NT] = &(main->nodetree);
1077         lb[INDEX_ID_IM] = &(main->image);
1078         lb[INDEX_ID_TE] = &(main->tex);
1079         lb[INDEX_ID_MA] = &(main->mat);
1080         lb[INDEX_ID_VF] = &(main->vfont);
1081         
1082         /* Important!: When adding a new object type,
1083          * the specific data should be inserted here 
1084          */
1085
1086         lb[INDEX_ID_AR] = &(main->armature);
1087
1088         lb[INDEX_ID_CF] = &(main->cachefiles);
1089         lb[INDEX_ID_ME] = &(main->mesh);
1090         lb[INDEX_ID_CU] = &(main->curve);
1091         lb[INDEX_ID_MB] = &(main->mball);
1092
1093         lb[INDEX_ID_LT] = &(main->latt);
1094         lb[INDEX_ID_LA] = &(main->lamp);
1095         lb[INDEX_ID_CA] = &(main->camera);
1096
1097         lb[INDEX_ID_TXT] = &(main->text);
1098         lb[INDEX_ID_SO]  = &(main->sound);
1099         lb[INDEX_ID_GR]  = &(main->group);
1100         lb[INDEX_ID_PAL] = &(main->palettes);
1101         lb[INDEX_ID_PC]  = &(main->paintcurves);
1102         lb[INDEX_ID_BR]  = &(main->brush);
1103         lb[INDEX_ID_PA]  = &(main->particle);
1104         lb[INDEX_ID_SPK] = &(main->speaker);
1105         lb[INDEX_ID_LP]  = &(main->lightprobe);
1106
1107         lb[INDEX_ID_WO]  = &(main->world);
1108         lb[INDEX_ID_MC]  = &(main->movieclip);
1109         lb[INDEX_ID_SCR] = &(main->screen);
1110         lb[INDEX_ID_OB]  = &(main->object);
1111         lb[INDEX_ID_LS]  = &(main->linestyle); /* referenced by scenes */
1112         lb[INDEX_ID_SCE] = &(main->scene);
1113         lb[INDEX_ID_WS]  = &(main->workspaces); /* before wm, so it's freed after it! */
1114         lb[INDEX_ID_WM]  = &(main->wm);
1115         lb[INDEX_ID_MSK] = &(main->mask);
1116         
1117         lb[INDEX_ID_NULL] = NULL;
1118
1119         return (MAX_LIBARRAY - 1);
1120 }
1121
1122 /* *********** ALLOC AND FREE *****************
1123  *
1124  * BKE_libblock_free(ListBase *lb, ID *id )
1125  * provide a list-basis and datablock, but only ID is read
1126  *
1127  * void *BKE_libblock_alloc(ListBase *lb, type, name)
1128  * inserts in list and returns a new ID
1129  *
1130  * **************************** */
1131
1132 /**
1133  * Get allocation size fo a given datablock type and optionally allocation name.
1134  */
1135 size_t BKE_libblock_get_alloc_info(short type, const char **name)
1136 {
1137 #define CASE_RETURN(id_code, type)  \
1138         case id_code:                   \
1139                 do {                        \
1140                         if (name != NULL) {     \
1141                                 *name = #type;      \
1142                         }                       \
1143                         return sizeof(type);    \
1144                 } while(0)
1145
1146         switch ((ID_Type)type) {
1147                 CASE_RETURN(ID_SCE, Scene);
1148                 CASE_RETURN(ID_LI,  Library);
1149                 CASE_RETURN(ID_OB,  Object);
1150                 CASE_RETURN(ID_ME,  Mesh);
1151                 CASE_RETURN(ID_CU,  Curve);
1152                 CASE_RETURN(ID_MB,  MetaBall);
1153                 CASE_RETURN(ID_MA,  Material);
1154                 CASE_RETURN(ID_TE,  Tex);
1155                 CASE_RETURN(ID_IM,  Image);
1156                 CASE_RETURN(ID_LT,  Lattice);
1157                 CASE_RETURN(ID_LA,  Lamp);
1158                 CASE_RETURN(ID_CA,  Camera);
1159                 CASE_RETURN(ID_IP,  Ipo);
1160                 CASE_RETURN(ID_KE,  Key);
1161                 CASE_RETURN(ID_WO,  World);
1162                 CASE_RETURN(ID_SCR, bScreen);
1163                 CASE_RETURN(ID_VF,  VFont);
1164                 CASE_RETURN(ID_TXT, Text);
1165                 CASE_RETURN(ID_SPK, Speaker);
1166                 CASE_RETURN(ID_LP,  LightProbe);
1167                 CASE_RETURN(ID_SO,  bSound);
1168                 CASE_RETURN(ID_GR,  Group);
1169                 CASE_RETURN(ID_AR,  bArmature);
1170                 CASE_RETURN(ID_AC,  bAction);
1171                 CASE_RETURN(ID_NT,  bNodeTree);
1172                 CASE_RETURN(ID_BR,  Brush);
1173                 CASE_RETURN(ID_PA,  ParticleSettings);
1174                 CASE_RETURN(ID_WM,  wmWindowManager);
1175                 CASE_RETURN(ID_GD,  bGPdata);
1176                 CASE_RETURN(ID_MC,  MovieClip);
1177                 CASE_RETURN(ID_MSK, Mask);
1178                 CASE_RETURN(ID_LS,  FreestyleLineStyle);
1179                 CASE_RETURN(ID_PAL, Palette);
1180                 CASE_RETURN(ID_PC,  PaintCurve);
1181                 CASE_RETURN(ID_CF,  CacheFile);
1182                 CASE_RETURN(ID_WS,  WorkSpace);
1183         }
1184         return 0;
1185 #undef CASE_RETURN
1186 }
1187
1188 /**
1189  * Allocates and returns memory of the right size for the specified block type,
1190  * initialized to zero.
1191  */
1192 void *BKE_libblock_alloc_notest(short type)
1193 {
1194         const char *name;
1195         size_t size = BKE_libblock_get_alloc_info(type, &name);
1196         if (size != 0) {
1197                 return MEM_callocN(size, name);
1198         }
1199         BLI_assert(!"Request to allocate unknown data type");
1200         return NULL;
1201 }
1202
1203 /**
1204  * Allocates and returns a block of the specified type, with the specified name
1205  * (adjusted as necessary to ensure uniqueness), and appended to the specified list.
1206  * The user count is set to 1, all other content (apart from name and links) being
1207  * initialized to zero.
1208  */
1209 void *BKE_libblock_alloc(Main *bmain, short type, const char *name, const int flag)
1210 {
1211         BLI_assert((flag & LIB_ID_CREATE_NO_ALLOCATE) == 0);
1212
1213         ID *id = BKE_libblock_alloc_notest(type);
1214
1215         if (id) {
1216                 if ((flag & LIB_ID_CREATE_NO_MAIN) != 0) {
1217                         id->tag |= LIB_TAG_NO_MAIN;
1218                 }
1219                 if ((flag & LIB_ID_CREATE_NO_USER_REFCOUNT) != 0) {
1220                         id->tag |= LIB_TAG_NO_USER_REFCOUNT;
1221                 }
1222
1223                 id->icon_id = 0;
1224                 *((short *)id->name) = type;
1225                 if ((flag & LIB_ID_CREATE_NO_USER_REFCOUNT) == 0) {
1226                         id->us = 1;
1227                 }
1228                 if ((flag & LIB_ID_CREATE_NO_MAIN) == 0) {
1229                         ListBase *lb = which_libbase(bmain, type);
1230
1231                         BKE_main_lock(bmain);
1232                         BLI_addtail(lb, id);
1233                         new_id(lb, id, name);
1234                         bmain->is_memfile_undo_written = false;
1235                         /* alphabetic insertion: is in new_id */
1236                         BKE_main_unlock(bmain);
1237
1238                         /* TODO to be removed from here! */
1239                         if ((flag & LIB_ID_CREATE_NO_DEG_TAG) == 0) {
1240                                 DEG_id_type_tag(bmain, type);
1241                         }
1242                 }
1243                 else {
1244                         BLI_strncpy(id->name + 2, name, sizeof(id->name) - 2);
1245                 }
1246         }
1247
1248         return id;
1249 }
1250
1251 /**
1252  * Initialize an ID of given type, such that it has valid 'empty' data.
1253  * ID is assumed to be just calloc'ed.
1254  */
1255 void BKE_libblock_init_empty(ID *id)
1256 {
1257         /* Note that only ID types that are not valid when filled of zero should have a callback here. */
1258         switch ((ID_Type)GS(id->name)) {
1259                 case ID_SCE:
1260                         BKE_scene_init((Scene *)id);
1261                         break;
1262                 case ID_LI:
1263                         /* Nothing to do. */
1264                         break;
1265                 case ID_OB:
1266                 {
1267                         Object *ob = (Object *)id;
1268                         ob->type = OB_EMPTY;
1269                         BKE_object_init(ob);
1270                         break;
1271                 }
1272                 case ID_ME:
1273                         BKE_mesh_init((Mesh *)id);
1274                         break;
1275                 case ID_CU:
1276                         BKE_curve_init((Curve *)id);
1277                         break;
1278                 case ID_MB:
1279                         BKE_mball_init((MetaBall *)id);
1280                         break;
1281                 case ID_MA:
1282                         BKE_material_init((Material *)id);
1283                         break;
1284                 case ID_TE:
1285                         BKE_texture_default((Tex *)id);
1286                         break;
1287                 case ID_IM:
1288                         BKE_image_init((Image *)id);
1289                         break;
1290                 case ID_LT:
1291                         BKE_lattice_init((Lattice *)id);
1292                         break;
1293                 case ID_LA:
1294                         BKE_lamp_init((Lamp *)id);
1295                         break;
1296                 case ID_SPK:
1297                         BKE_speaker_init((Speaker *)id);
1298                         break;
1299                 case ID_LP:
1300                         BKE_lightprobe_init((LightProbe *)id);
1301                         break;
1302                 case ID_CA:
1303                         BKE_camera_init((Camera *)id);
1304                         break;
1305                 case ID_WO:
1306                         BKE_world_init((World *)id);
1307                         break;
1308                 case ID_SCR:
1309                         /* Nothing to do. */
1310                         break;
1311                 case ID_VF:
1312                         BKE_vfont_init((VFont *)id);
1313                         break;
1314                 case ID_TXT:
1315                         BKE_text_init((Text *)id);
1316                         break;
1317                 case ID_SO:
1318                         /* Another fuzzy case, think NULLified content is OK here... */
1319                         break;
1320                 case ID_GR:
1321                         /* Nothing to do. */
1322                         break;
1323                 case ID_AR:
1324                         /* Nothing to do. */
1325                         break;
1326                 case ID_AC:
1327                         /* Nothing to do. */
1328                         break;
1329                 case ID_NT:
1330                         ntreeInitDefault((bNodeTree *)id);
1331                         break;
1332                 case ID_BR:
1333                         BKE_brush_init((Brush *)id);
1334                         break;
1335                 case ID_PA:
1336                         /* Nothing to do. */
1337                         break;
1338                 case ID_PC:
1339                         /* Nothing to do. */
1340                         break;
1341                 case ID_GD:
1342                         /* Nothing to do. */
1343                         break;
1344                 case ID_MSK:
1345                         /* Nothing to do. */
1346                         break;
1347                 case ID_LS:
1348                         BKE_linestyle_init((FreestyleLineStyle *)id);
1349                         break;
1350                 case ID_CF:
1351                         BKE_cachefile_init((CacheFile *)id);
1352                         break;
1353                 case ID_KE:
1354                         /* Shapekeys are a complex topic too - they depend on their 'user' data type...
1355                          * They are not linkable, though, so it should never reach here anyway. */
1356                         BLI_assert(0);
1357                         break;
1358                 case ID_WM:
1359                         /* We should never reach this. */
1360                         BLI_assert(0);
1361                         break;
1362                 case ID_IP:
1363                         /* Should not be needed - animation from lib pre-2.5 is broken anyway. */
1364                         BLI_assert(0);
1365                         break;
1366                 default:
1367                         BLI_assert(0);  /* Should never reach this point... */
1368         }
1369 }
1370
1371 /* by spec, animdata is first item after ID */
1372 /* and, trust that BKE_animdata_from_id() will only find AnimData for valid ID-types */
1373 static void id_copy_animdata(Main *bmain, ID *id, const bool do_action)
1374 {
1375         AnimData *adt = BKE_animdata_from_id(id);
1376         
1377         if (adt) {
1378                 IdAdtTemplate *iat = (IdAdtTemplate *)id;
1379                 iat->adt = BKE_animdata_copy(bmain, iat->adt, do_action); /* could be set to false, need to investigate */
1380         }
1381 }
1382
1383 void BKE_libblock_copy_ex(Main *bmain, const ID *id, ID **r_newid, const int flag)
1384 {
1385         ID *new_id = *r_newid;
1386
1387         /* Grrrrrrrrr... Not adding 'root' nodetrees to bmain.... grrrrrrrrrrrrrrrrrrrr! */
1388         /* This is taken from original ntree copy code, might be weak actually? */
1389         const bool use_nodetree_alloc_exception = ((GS(id->name) == ID_NT) && (bmain != NULL) &&
1390                                                    (BLI_findindex(&bmain->nodetree, id) < 0));
1391
1392         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) != 0 || bmain != NULL);
1393         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) != 0 || (flag & LIB_ID_CREATE_NO_ALLOCATE) == 0);
1394         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) == 0 || (flag & LIB_ID_CREATE_NO_USER_REFCOUNT) != 0);
1395
1396         if ((flag & LIB_ID_CREATE_NO_ALLOCATE) != 0) {
1397                 /* r_newid already contains pointer to allocated memory. */
1398                 /* TODO do we want to memset(0) whole mem before filling it? */
1399                 BLI_strncpy(new_id->name, id->name, sizeof(new_id->name));
1400                 new_id->us = 0;
1401                 new_id->tag |= LIB_TAG_NOT_ALLOCATED | LIB_TAG_NO_MAIN | LIB_TAG_NO_USER_REFCOUNT;
1402                 /* TODO Do we want/need to copy more from ID struct itself? */
1403         }
1404         else {
1405                 new_id = BKE_libblock_alloc(bmain, GS(id->name), id->name + 2, flag | (use_nodetree_alloc_exception ? LIB_ID_CREATE_NO_MAIN : 0));
1406         }
1407         BLI_assert(new_id != NULL);
1408
1409         const size_t id_len = BKE_libblock_get_alloc_info(GS(new_id->name), NULL);
1410         const size_t id_offset = sizeof(ID);
1411         if ((int)id_len - (int)id_offset > 0) { /* signed to allow neg result */ /* XXX ????? */
1412                 const char *cp = (const char *)id;
1413                 char *cpn = (char *)new_id;
1414
1415                 memcpy(cpn + id_offset, cp + id_offset, id_len - id_offset);
1416         }
1417
1418         if (id->properties) {
1419                 new_id->properties = IDP_CopyProperty_ex(id->properties, flag);
1420         }
1421
1422         /* XXX Again... We need a way to control what we copy in a much more refined way.
1423          * We cannot always copy this, some internal copying will die on it! */
1424         /* For now, upper level code will have to do that itself when required. */
1425 #if 0
1426         if (id->override != NULL) {
1427                 BKE_override_copy(new_id, id);
1428         }
1429 #endif
1430
1431         /* the duplicate should get a copy of the animdata */
1432         id_copy_animdata(bmain, new_id, (flag & LIB_ID_COPY_ACTIONS) != 0 && (flag & LIB_ID_CREATE_NO_MAIN) == 0);
1433
1434         if ((flag & LIB_ID_CREATE_NO_DEG_TAG) == 0 && (flag & LIB_ID_CREATE_NO_MAIN) == 0) {
1435                 DEG_id_type_tag(bmain, GS(new_id->name));
1436         }
1437
1438         *r_newid = new_id;
1439 }
1440
1441 /* used everywhere in blenkernel */
1442 void *BKE_libblock_copy(Main *bmain, const ID *id)
1443 {
1444         ID *idn;
1445
1446         BKE_libblock_copy_ex(bmain, id, &idn, 0);
1447
1448         return idn;
1449 }
1450
1451 void *BKE_libblock_copy_nolib(const ID *id, const bool do_action)
1452 {
1453         ID *idn;
1454
1455         BKE_libblock_copy_ex(NULL, id, &idn, LIB_ID_CREATE_NO_MAIN | LIB_ID_CREATE_NO_USER_REFCOUNT | (do_action ? LIB_ID_COPY_ACTIONS : 0));
1456
1457         return idn;
1458 }
1459
1460 void BKE_library_free(Library *lib)
1461 {
1462         if (lib->packedfile)
1463                 freePackedFile(lib->packedfile);
1464 }
1465
1466 Main *BKE_main_new(void)
1467 {
1468         Main *bmain = MEM_callocN(sizeof(Main), "new main");
1469         bmain->eval_ctx = DEG_evaluation_context_new(DAG_EVAL_VIEWPORT);
1470         bmain->lock = MEM_mallocN(sizeof(SpinLock), "main lock");
1471         BLI_spin_init((SpinLock *)bmain->lock);
1472         return bmain;
1473 }
1474
1475 void BKE_main_free(Main *mainvar)
1476 {
1477         /* also call when reading a file, erase all, etc */
1478         ListBase *lbarray[MAX_LIBARRAY];
1479         int a;
1480
1481         MEM_SAFE_FREE(mainvar->blen_thumb);
1482
1483         a = set_listbasepointers(mainvar, lbarray);
1484         while (a--) {
1485                 ListBase *lb = lbarray[a];
1486                 ID *id;
1487                 
1488                 while ( (id = lb->first) ) {
1489 #if 1
1490                         BKE_libblock_free_ex(mainvar, id, false, false);
1491 #else
1492                         /* errors freeing ID's can be hard to track down,
1493                          * enable this so valgrind will give the line number in its error log */
1494                         switch (a) {
1495                                 case   0: BKE_libblock_free_ex(mainvar, id, false, false); break;
1496                                 case   1: BKE_libblock_free_ex(mainvar, id, false, false); break;
1497                                 case   2: BKE_libblock_free_ex(mainvar, id, false, false); break;
1498                                 case   3: BKE_libblock_free_ex(mainvar, id, false, false); break;
1499                                 case   4: BKE_libblock_free_ex(mainvar, id, false, false); break;
1500                                 case   5: BKE_libblock_free_ex(mainvar, id, false, false); break;
1501                                 case   6: BKE_libblock_free_ex(mainvar, id, false, false); break;
1502                                 case   7: BKE_libblock_free_ex(mainvar, id, false, false); break;
1503                                 case   8: BKE_libblock_free_ex(mainvar, id, false, false); break;
1504                                 case   9: BKE_libblock_free_ex(mainvar, id, false, false); break;
1505                                 case  10: BKE_libblock_free_ex(mainvar, id, false, false); break;
1506                                 case  11: BKE_libblock_free_ex(mainvar, id, false, false); break;
1507                                 case  12: BKE_libblock_free_ex(mainvar, id, false, false); break;
1508                                 case  13: BKE_libblock_free_ex(mainvar, id, false, false); break;
1509                                 case  14: BKE_libblock_free_ex(mainvar, id, false, false); break;
1510                                 case  15: BKE_libblock_free_ex(mainvar, id, false, false); break;
1511                                 case  16: BKE_libblock_free_ex(mainvar, id, false, false); break;
1512                                 case  17: BKE_libblock_free_ex(mainvar, id, false, false); break;
1513                                 case  18: BKE_libblock_free_ex(mainvar, id, false, false); break;
1514                                 case  19: BKE_libblock_free_ex(mainvar, id, false, false); break;
1515                                 case  20: BKE_libblock_free_ex(mainvar, id, false, false); break;
1516                                 case  21: BKE_libblock_free_ex(mainvar, id, false, false); break;
1517                                 case  22: BKE_libblock_free_ex(mainvar, id, false, false); break;
1518                                 case  23: BKE_libblock_free_ex(mainvar, id, false, false); break;
1519                                 case  24: BKE_libblock_free_ex(mainvar, id, false, false); break;
1520                                 case  25: BKE_libblock_free_ex(mainvar, id, false, false); break;
1521                                 case  26: BKE_libblock_free_ex(mainvar, id, false, false); break;
1522                                 case  27: BKE_libblock_free_ex(mainvar, id, false, false); break;
1523                                 case  28: BKE_libblock_free_ex(mainvar, id, false, false); break;
1524                                 case  29: BKE_libblock_free_ex(mainvar, id, false, false); break;
1525                                 case  30: BKE_libblock_free_ex(mainvar, id, false, false); break;
1526                                 case  31: BKE_libblock_free_ex(mainvar, id, false, false); break;
1527                                 case  32: BKE_libblock_free_ex(mainvar, id, false, false); break;
1528                                 case  33: BKE_libblock_free_ex(mainvar, id, false, false); break;
1529                                 case  34: BKE_libblock_free_ex(mainvar, id, false, false); break;
1530                                 default:
1531                                         BLI_assert(0);
1532                                         break;
1533                         }
1534 #endif
1535                 }
1536         }
1537
1538         if (mainvar->relations) {
1539                 BKE_main_relations_free(mainvar);
1540         }
1541
1542         BLI_spin_end((SpinLock *)mainvar->lock);
1543         MEM_freeN(mainvar->lock);
1544         DEG_evaluation_context_free(mainvar->eval_ctx);
1545         MEM_freeN(mainvar);
1546 }
1547
1548 void BKE_main_lock(struct Main *bmain)
1549 {
1550         BLI_spin_lock((SpinLock *) bmain->lock);
1551 }
1552
1553 void BKE_main_unlock(struct Main *bmain)
1554 {
1555         BLI_spin_unlock((SpinLock *) bmain->lock);
1556 }
1557
1558
1559 static int main_relations_create_cb(void *user_data, ID *id_self, ID **id_pointer, int cb_flag)
1560 {
1561         MainIDRelations *rel = user_data;
1562
1563         if (*id_pointer) {
1564                 MainIDRelationsEntry *entry, **entry_p;
1565
1566                 entry = BLI_mempool_alloc(rel->entry_pool);
1567                 if (BLI_ghash_ensure_p(rel->id_user_to_used, id_self, (void ***)&entry_p)) {
1568                         entry->next = *entry_p;
1569                 }
1570                 else {
1571                         entry->next = NULL;
1572                 }
1573                 entry->id_pointer = id_pointer;
1574                 entry->usage_flag = cb_flag;
1575                 *entry_p = entry;
1576
1577                 entry = BLI_mempool_alloc(rel->entry_pool);
1578                 if (BLI_ghash_ensure_p(rel->id_used_to_user, *id_pointer, (void ***)&entry_p)) {
1579                         entry->next = *entry_p;
1580                 }
1581                 else {
1582                         entry->next = NULL;
1583                 }
1584                 entry->id_pointer = (ID **)id_self;
1585                 entry->usage_flag = cb_flag;
1586                 *entry_p = entry;
1587         }
1588
1589         return IDWALK_RET_NOP;
1590 }
1591
1592 /** Generate the mappings between used IDs and their users, and vice-versa. */
1593 void BKE_main_relations_create(Main *bmain)
1594 {
1595         ListBase *lbarray[MAX_LIBARRAY];
1596         ID *id;
1597         int a;
1598
1599         if (bmain->relations != NULL) {
1600                 BKE_main_relations_free(bmain);
1601         }
1602
1603         bmain->relations = MEM_mallocN(sizeof(*bmain->relations), __func__);
1604         bmain->relations->id_used_to_user = BLI_ghash_new(BLI_ghashutil_ptrhash, BLI_ghashutil_ptrcmp, __func__);
1605         bmain->relations->id_user_to_used = BLI_ghash_new(BLI_ghashutil_ptrhash, BLI_ghashutil_ptrcmp, __func__);
1606         bmain->relations->entry_pool = BLI_mempool_create(sizeof(MainIDRelationsEntry), 128, 128, BLI_MEMPOOL_NOP);
1607
1608         for (a = set_listbasepointers(bmain, lbarray); a--; ) {
1609                 for (id = lbarray[a]->first; id; id = id->next) {
1610                         BKE_library_foreach_ID_link(NULL, id, main_relations_create_cb, bmain->relations, IDWALK_READONLY);
1611                 }
1612         }
1613 }
1614
1615 void BKE_main_relations_free(Main *bmain)
1616 {
1617         if (bmain->relations) {
1618                 if (bmain->relations->id_used_to_user) {
1619                         BLI_ghash_free(bmain->relations->id_used_to_user, NULL, NULL);
1620                 }
1621                 if (bmain->relations->id_user_to_used) {
1622                         BLI_ghash_free(bmain->relations->id_user_to_used, NULL, NULL);
1623                 }
1624                 BLI_mempool_destroy(bmain->relations->entry_pool);
1625                 MEM_freeN(bmain->relations);
1626                 bmain->relations = NULL;
1627         }
1628 }
1629
1630 /**
1631  * Generates a raw .blend file thumbnail data from given image.
1632  *
1633  * \param bmain If not NULL, also store generated data in this Main.
1634  * \param img ImBuf image to generate thumbnail data from.
1635  * \return The generated .blend file raw thumbnail data.
1636  */
1637 BlendThumbnail *BKE_main_thumbnail_from_imbuf(Main *bmain, ImBuf *img)
1638 {
1639         BlendThumbnail *data = NULL;
1640
1641         if (bmain) {
1642                 MEM_SAFE_FREE(bmain->blen_thumb);
1643         }
1644
1645         if (img) {
1646                 const size_t sz = BLEN_THUMB_MEMSIZE(img->x, img->y);
1647                 data = MEM_mallocN(sz, __func__);
1648
1649                 IMB_rect_from_float(img);  /* Just in case... */
1650                 data->width = img->x;
1651                 data->height = img->y;
1652                 memcpy(data->rect, img->rect, sz - sizeof(*data));
1653         }
1654
1655         if (bmain) {
1656                 bmain->blen_thumb = data;
1657         }
1658         return data;
1659 }
1660
1661 /**
1662  * Generates an image from raw .blend file thumbnail \a data.
1663  *
1664  * \param bmain Use this bmain->blen_thumb data if given \a data is NULL.
1665  * \param data Raw .blend file thumbnail data.
1666  * \return An ImBuf from given data, or NULL if invalid.
1667  */
1668 ImBuf *BKE_main_thumbnail_to_imbuf(Main *bmain, BlendThumbnail *data)
1669 {
1670         ImBuf *img = NULL;
1671
1672         if (!data && bmain) {
1673                 data = bmain->blen_thumb;
1674         }
1675
1676         if (data) {
1677                 /* Note: we cannot use IMB_allocFromBuffer(), since it tries to dupalloc passed buffer, which will fail
1678                  *       here (we do not want to pass the first two ints!). */
1679                 img = IMB_allocImBuf((unsigned int)data->width, (unsigned int)data->height, 32, IB_rect | IB_metadata);
1680                 memcpy(img->rect, data->rect, BLEN_THUMB_MEMSIZE(data->width, data->height) - sizeof(*data));
1681         }
1682
1683         return img;
1684 }
1685
1686 /**
1687  * Generates an empty (black) thumbnail for given Main.
1688  */
1689 void BKE_main_thumbnail_create(struct Main *bmain)
1690 {
1691         MEM_SAFE_FREE(bmain->blen_thumb);
1692
1693         bmain->blen_thumb = MEM_callocN(BLEN_THUMB_MEMSIZE(BLEN_THUMB_SIZE, BLEN_THUMB_SIZE), __func__);
1694         bmain->blen_thumb->width = BLEN_THUMB_SIZE;
1695         bmain->blen_thumb->height = BLEN_THUMB_SIZE;
1696 }
1697
1698 /* ***************** ID ************************ */
1699 ID *BKE_libblock_find_name_ex(struct Main *bmain, const short type, const char *name)
1700 {
1701         ListBase *lb = which_libbase(bmain, type);
1702         BLI_assert(lb != NULL);
1703         return BLI_findstring(lb, name, offsetof(ID, name) + 2);
1704 }
1705 ID *BKE_libblock_find_name(const short type, const char *name)
1706 {
1707         return BKE_libblock_find_name_ex(G.main, type, name);
1708 }
1709
1710
1711 void id_sort_by_name(ListBase *lb, ID *id)
1712 {
1713         ID *idtest;
1714         
1715         /* insert alphabetically */
1716         if (lb->first != lb->last) {
1717                 BLI_remlink(lb, id);
1718                 
1719                 idtest = lb->first;
1720                 while (idtest) {
1721                         if (BLI_strcasecmp(idtest->name, id->name) > 0 || (idtest->lib && !id->lib)) {
1722                                 BLI_insertlinkbefore(lb, idtest, id);
1723                                 break;
1724                         }
1725                         idtest = idtest->next;
1726                 }
1727                 /* as last */
1728                 if (idtest == NULL) {
1729                         BLI_addtail(lb, id);
1730                 }
1731         }
1732         
1733 }
1734
1735 /**
1736  * Check to see if there is an ID with the same name as 'name'.
1737  * Returns the ID if so, if not, returns NULL
1738  */
1739 static ID *is_dupid(ListBase *lb, ID *id, const char *name)
1740 {
1741         ID *idtest = NULL;
1742         
1743         for (idtest = lb->first; idtest; idtest = idtest->next) {
1744                 /* if idtest is not a lib */ 
1745                 if (id != idtest && !ID_IS_LINKED(idtest)) {
1746                         /* do not test alphabetic! */
1747                         /* optimized */
1748                         if (idtest->name[2] == name[0]) {
1749                                 if (STREQ(name, idtest->name + 2)) break;
1750                         }
1751                 }
1752         }
1753         
1754         return idtest;
1755 }
1756
1757 /**
1758  * Check to see if an ID name is already used, and find a new one if so.
1759  * Return true if created a new name (returned in name).
1760  *
1761  * Normally the ID that's being check is already in the ListBase, so ID *id
1762  * points at the new entry.  The Python Library module needs to know what
1763  * the name of a datablock will be before it is appended; in this case ID *id
1764  * id is NULL
1765  */
1766
1767 static bool check_for_dupid(ListBase *lb, ID *id, char *name)
1768 {
1769         ID *idtest;
1770         int nr = 0, a;
1771         size_t left_len;
1772 #define MAX_IN_USE 64
1773         bool in_use[MAX_IN_USE];
1774         /* to speed up finding unused numbers within [1 .. MAX_IN_USE - 1] */
1775
1776         char left[MAX_ID_NAME + 8], leftest[MAX_ID_NAME + 8];
1777
1778         while (true) {
1779
1780                 /* phase 1: id already exists? */
1781                 idtest = is_dupid(lb, id, name);
1782
1783                 /* if there is no double, done */
1784                 if (idtest == NULL) return false;
1785
1786                 /* we have a dup; need to make a new name */
1787                 /* quick check so we can reuse one of first MAX_IN_USE - 1 ids if vacant */
1788                 memset(in_use, false, sizeof(in_use));
1789
1790                 /* get name portion, number portion ("name.number") */
1791                 left_len = BLI_split_name_num(left, &nr, name, '.');
1792
1793                 /* if new name will be too long, truncate it */
1794                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {  /* assumption: won't go beyond 9999 */
1795                         left[MAX_ID_NAME - 8] = '\0';
1796                         left_len = MAX_ID_NAME - 8;
1797                 }
1798                 else if (left_len > (MAX_ID_NAME - 7)) {
1799                         left[MAX_ID_NAME - 7] = '\0';
1800                         left_len = MAX_ID_NAME - 7;
1801                 }
1802
1803                 /* Code above may have generated invalid utf-8 string, due to raw truncation.
1804                  * Ensure we get a valid one now! */
1805                 left_len -= (size_t)BLI_utf8_invalid_strip(left, left_len);
1806
1807                 for (idtest = lb->first; idtest; idtest = idtest->next) {
1808                         int nrtest;
1809                         if ( (id != idtest) &&
1810                              !ID_IS_LINKED(idtest) &&
1811                              (*name == *(idtest->name + 2)) &&
1812                              STREQLEN(name, idtest->name + 2, left_len) &&
1813                              (BLI_split_name_num(leftest, &nrtest, idtest->name + 2, '.') == left_len)
1814                              )
1815                         {
1816                                 /* will get here at least once, otherwise is_dupid call above would have returned NULL */
1817                                 if (nrtest < MAX_IN_USE)
1818                                         in_use[nrtest] = true;  /* mark as used */
1819                                 if (nr <= nrtest)
1820                                         nr = nrtest + 1;    /* track largest unused */
1821                         }
1822                 }
1823                 /* At this point, 'nr' will typically be at least 1. (but not always) */
1824                 // BLI_assert(nr >= 1);
1825
1826                 /* decide which value of nr to use */
1827                 for (a = 0; a < MAX_IN_USE; a++) {
1828                         if (a >= nr) break;  /* stop when we've checked up to biggest */  /* redundant check */
1829                         if (!in_use[a]) { /* found an unused value */
1830                                 nr = a;
1831                                 /* can only be zero if all potential duplicate names had
1832                                  * nonzero numeric suffixes, which means name itself has
1833                                  * nonzero numeric suffix (else no name conflict and wouldn't
1834                                  * have got here), which means name[left_len] is not a null */
1835                                 break;
1836                         }
1837                 }
1838                 /* At this point, nr is either the lowest unused number within [0 .. MAX_IN_USE - 1],
1839                  * or 1 greater than the largest used number if all those low ones are taken.
1840                  * We can't be bothered to look for the lowest unused number beyond (MAX_IN_USE - 1). */
1841
1842                 /* If the original name has no numeric suffix, 
1843                  * rather than just chopping and adding numbers, 
1844                  * shave off the end chars until we have a unique name.
1845                  * Check the null terminators match as well so we don't get Cube.000 -> Cube.00 */
1846                 if (nr == 0 && name[left_len] == '\0') {
1847                         size_t len;
1848                         /* FIXME: this code will never be executed, because either nr will be
1849                          * at least 1, or name will not end at left_len! */
1850                         BLI_assert(0);
1851
1852                         len = left_len - 1;
1853                         idtest = is_dupid(lb, id, name);
1854                         
1855                         while (idtest && len > 1) {
1856                                 name[len--] = '\0';
1857                                 idtest = is_dupid(lb, id, name);
1858                         }
1859                         if (idtest == NULL) return true;
1860                         /* otherwise just continue and use a number suffix */
1861                 }
1862                 
1863                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {
1864                         /* this would overflow name buffer */
1865                         left[MAX_ID_NAME - 8] = 0;
1866                         /* left_len = MAX_ID_NAME - 8; */ /* for now this isn't used again */
1867                         memcpy(name, left, sizeof(char) * (MAX_ID_NAME - 7));
1868                         continue;
1869                 }
1870                 /* this format specifier is from hell... */
1871                 BLI_snprintf(name, sizeof(id->name) - 2, "%s.%.3d", left, nr);
1872
1873                 return true;
1874         }
1875
1876 #undef MAX_IN_USE
1877 }
1878
1879 /*
1880  * Only for local blocks: external en indirect blocks already have a
1881  * unique ID.
1882  *
1883  * return true: created a new name
1884  */
1885
1886 bool new_id(ListBase *lb, ID *id, const char *tname)
1887 {
1888         bool result;
1889         char name[MAX_ID_NAME - 2];
1890
1891         /* if library, don't rename */
1892         if (ID_IS_LINKED(id))
1893                 return false;
1894
1895         /* if no name given, use name of current ID
1896          * else make a copy (tname args can be const) */
1897         if (tname == NULL)
1898                 tname = id->name + 2;
1899
1900         BLI_strncpy(name, tname, sizeof(name));
1901
1902         if (name[0] == '\0') {
1903                 /* disallow empty names */
1904                 BLI_strncpy(name, DATA_(ID_FALLBACK_NAME), sizeof(name));
1905         }
1906         else {
1907                 /* disallow non utf8 chars,
1908                  * the interface checks for this but new ID's based on file names don't */
1909                 BLI_utf8_invalid_strip(name, strlen(name));
1910         }
1911
1912         result = check_for_dupid(lb, id, name);
1913         strcpy(id->name + 2, name);
1914
1915         /* This was in 2.43 and previous releases
1916          * however all data in blender should be sorted, not just duplicate names
1917          * sorting should not hurt, but noting just incase it alters the way other
1918          * functions work, so sort every time */
1919 #if 0
1920         if (result)
1921                 id_sort_by_name(lb, id);
1922 #endif
1923
1924         id_sort_by_name(lb, id);
1925         
1926         return result;
1927 }
1928
1929 /**
1930  * Pull an ID out of a library (make it local). Only call this for IDs that
1931  * don't have other library users.
1932  */
1933 void id_clear_lib_data_ex(Main *bmain, ID *id, const bool id_in_mainlist)
1934 {
1935         bNodeTree *ntree = NULL;
1936         Key *key = NULL;
1937
1938         BKE_id_lib_local_paths(bmain, id->lib, id);
1939
1940         id_fake_user_clear(id);
1941
1942         id->lib = NULL;
1943         id->tag &= ~(LIB_TAG_INDIRECT | LIB_TAG_EXTERN);
1944         if (id_in_mainlist)
1945                 new_id(which_libbase(bmain, GS(id->name)), id, NULL);
1946
1947         /* Internal bNodeTree blocks inside datablocks also stores id->lib, make sure this stays in sync. */
1948         if ((ntree = ntreeFromID(id))) {
1949                 id_clear_lib_data_ex(bmain, &ntree->id, false);  /* Datablocks' nodetree is never in Main. */
1950         }
1951
1952         /* Same goes for shapekeys. */
1953         if ((key = BKE_key_from_id(id))) {
1954                 id_clear_lib_data_ex(bmain, &key->id, id_in_mainlist);  /* sigh, why are keys in Main? */
1955         }
1956 }
1957
1958 void id_clear_lib_data(Main *bmain, ID *id)
1959 {
1960         id_clear_lib_data_ex(bmain, id, true);
1961 }
1962
1963 /* next to indirect usage in read/writefile also in editobject.c scene.c */
1964 void BKE_main_id_clear_newpoins(Main *bmain)
1965 {
1966         ListBase *lbarray[MAX_LIBARRAY];
1967         ID *id;
1968         int a;
1969
1970         a = set_listbasepointers(bmain, lbarray);
1971         while (a--) {
1972                 id = lbarray[a]->first;
1973                 while (id) {
1974                         id->newid = NULL;
1975                         id->tag &= ~LIB_TAG_NEW;
1976                         id = id->next;
1977                 }
1978         }
1979 }
1980
1981
1982 static void library_make_local_copying_check(ID *id, GSet *loop_tags, MainIDRelations *id_relations, GSet *done_ids)
1983 {
1984         if (BLI_gset_haskey(done_ids, id)) {
1985                 return;  /* Already checked, nothing else to do. */
1986         }
1987
1988         MainIDRelationsEntry *entry = BLI_ghash_lookup(id_relations->id_used_to_user, id);
1989         BLI_gset_insert(loop_tags, id);
1990         for (; entry != NULL; entry = entry->next) {
1991                 ID *par_id = (ID *)entry->id_pointer;  /* used_to_user stores ID pointer, not pointer to ID pointer... */
1992
1993                 /* Our oh-so-beloved 'from' pointers... */
1994                 if (entry->usage_flag & IDWALK_CB_LOOPBACK) {
1995                         /* We totally disregard Object->proxy_from 'usage' here, this one would only generate fake positives. */
1996                         if (GS(par_id->name) == ID_OB) {
1997                                 BLI_assert(((Object *)par_id)->proxy_from == (Object *)id);
1998                                 continue;
1999                         }
2000
2001                         /* Shapekeys are considered 'private' to their owner ID here, and never tagged (since they cannot be linked),
2002                          * so we have to switch effective parent to their owner. */
2003                         if (GS(par_id->name) == ID_KE) {
2004                                 par_id = ((Key *)par_id)->from;
2005                         }
2006                 }
2007
2008                 if (par_id->lib == NULL) {
2009                         /* Local user, early out to avoid some gset querying... */
2010                         continue;
2011                 }
2012                 if (!BLI_gset_haskey(done_ids, par_id)) {
2013                         if (BLI_gset_haskey(loop_tags, par_id)) {
2014                                 /* We are in a 'dependency loop' of IDs, this does not say us anything, skip it.
2015                                  * Note that this is the situation that can lead to archipelagoes of linked data-blocks
2016                                  * (since all of them have non-local users, they would all be duplicated, leading to a loop of unused
2017                                  * linked data-blocks that cannot be freed since they all use each other...). */
2018                                 continue;
2019                         }
2020                         /* Else, recursively check that user ID. */
2021                         library_make_local_copying_check(par_id, loop_tags, id_relations, done_ids);
2022                 }
2023
2024                 if (par_id->tag & LIB_TAG_DOIT) {
2025                         /* This user will be fully local in future, so far so good, nothing to do here but check next user. */
2026                 }
2027                 else {
2028                         /* This user won't be fully local in future, so current ID won't be either. And we are done checking it. */
2029                         id->tag &= ~LIB_TAG_DOIT;
2030                         break;
2031                 }
2032         }
2033         BLI_gset_add(done_ids, id);
2034         BLI_gset_remove(loop_tags, id, NULL);
2035 }
2036
2037 /** Make linked datablocks local.
2038  *
2039  * \param bmain Almost certainly G.main.
2040  * \param lib If not NULL, only make local datablocks from this library.
2041  * \param untagged_only If true, only make local datablocks not tagged with LIB_TAG_PRE_EXISTING.
2042  * \param set_fake If true, set fake user on all localized datablocks (except group and objects ones).
2043  */
2044 /* Note: Old (2.77) version was simply making (tagging) datablocks as local, without actually making any check whether
2045  * they were also indirectly used or not...
2046  *
2047  * Current version uses regular id_make_local callback, with advanced pre-processing step to detect all cases of
2048  * IDs currently indirectly used, but which will be used by local data only once this function is finished.
2049  * This allows to avoid any unneeded duplication of IDs, and hence all time lost afterwards to remove
2050  * orphaned linked data-blocks...
2051  */
2052 void BKE_library_make_local(
2053         Main *bmain, const Library *lib, GHash *old_to_new_ids, const bool untagged_only, const bool set_fake)
2054 {
2055         ListBase *lbarray[MAX_LIBARRAY];
2056         ID *id;
2057         int a;
2058
2059         LinkNode *todo_ids = NULL;
2060         LinkNode *copied_ids = NULL;
2061         MemArena *linklist_mem = BLI_memarena_new(512 * sizeof(*todo_ids), __func__);
2062
2063         GSet *done_ids = BLI_gset_ptr_new(__func__);
2064
2065 #ifdef DEBUG_TIME
2066         TIMEIT_START(make_local);
2067 #endif
2068
2069         BKE_main_relations_create(bmain);
2070
2071 #ifdef DEBUG_TIME
2072         printf("Pre-compute current ID relations: Done.\n");
2073         TIMEIT_VALUE_PRINT(make_local);
2074 #endif
2075
2076         /* Step 1: Detect datablocks to make local. */
2077         for (a = set_listbasepointers(bmain, lbarray); a--; ) {
2078                 id = lbarray[a]->first;
2079
2080                 /* Do not explicitly make local non-linkable IDs (shapekeys, in fact), they are assumed to be handled
2081                  * by real datablocks responsible of them. */
2082                 const bool do_skip = (id && !BKE_idcode_is_linkable(GS(id->name)));
2083
2084                 for (; id; id = id->next) {
2085                         ID *ntree = (ID *)ntreeFromID(id);
2086
2087                         id->tag &= ~LIB_TAG_DOIT;
2088                         if (ntree != NULL) {
2089                                 ntree->tag &= ~LIB_TAG_DOIT;
2090                         }
2091
2092                         if (id->lib == NULL) {
2093                                 id->tag &= ~(LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW);
2094                         }
2095                         /* The check on the fourth line (LIB_TAG_PRE_EXISTING) is done so its possible to tag data you don't want to
2096                          * be made local, used for appending data, so any libdata already linked wont become local (very nasty
2097                          * to discover all your links are lost after appending).
2098                          * Also, never ever make proxified objects local, would not make any sense. */
2099                         /* Some more notes:
2100                          *   - Shapekeys are never tagged here (since they are not linkable).
2101                          *   - Nodetrees used in materials etc. have to be tagged manually, since they do not exist in Main (!).
2102                          * This is ok-ish on 'make local' side of things (since those are handled by their 'owner' IDs),
2103                          * but complicates slightly the pre-processing of relations between IDs at step 2... */
2104                         else if (!do_skip && id->tag & (LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW) &&
2105                                  ELEM(lib, NULL, id->lib) &&
2106                                  !(GS(id->name) == ID_OB && ((Object *)id)->proxy_from != NULL) &&
2107                                  ((untagged_only == false) || !(id->tag & LIB_TAG_PRE_EXISTING)))
2108                         {
2109                                 BLI_linklist_prepend_arena(&todo_ids, id, linklist_mem);
2110                                 id->tag |= LIB_TAG_DOIT;
2111
2112                                 /* Tag those nasty non-ID nodetrees, but do not add them to todo list, making them local is handled
2113                                  * by 'owner' ID. This is needed for library_make_local_copying_check() to work OK at step 2. */
2114                                 if (ntree != NULL) {
2115                                         ntree->tag |= LIB_TAG_DOIT;
2116                                 }
2117                         }
2118                         else {
2119                                 /* Linked ID that we won't be making local (needed info for step 2, see below). */
2120                                 BLI_gset_add(done_ids, id);
2121                         }
2122                 }
2123         }
2124
2125 #ifdef DEBUG_TIME
2126         printf("Step 1: Detect datablocks to make local: Done.\n");
2127         TIMEIT_VALUE_PRINT(make_local);
2128 #endif
2129
2130         /* Step 2: Check which datablocks we can directly make local (because they are only used by already, or future,
2131          * local data), others will need to be duplicated. */
2132         GSet *loop_tags = BLI_gset_ptr_new(__func__);
2133         for (LinkNode *it = todo_ids; it; it = it->next) {
2134                 library_make_local_copying_check(it->link, loop_tags, bmain->relations, done_ids);
2135                 BLI_assert(BLI_gset_len(loop_tags) == 0);
2136         }
2137         BLI_gset_free(loop_tags, NULL);
2138         BLI_gset_free(done_ids, NULL);
2139
2140         /* Next step will most likely add new IDs, better to get rid of this mapping now. */
2141         BKE_main_relations_free(bmain);
2142
2143 #ifdef DEBUG_TIME
2144         printf("Step 2: Check which datablocks we can directly make local: Done.\n");
2145         TIMEIT_VALUE_PRINT(make_local);
2146 #endif
2147
2148         /* Step 3: Make IDs local, either directly (quick and simple), or using generic process,
2149          * which involves more complex checks and might instead create a local copy of original linked ID. */
2150         for (LinkNode *it = todo_ids, *it_next; it; it = it_next) {
2151                 it_next = it->next;
2152                 id = it->link;
2153
2154                 if (id->tag & LIB_TAG_DOIT) {
2155                         /* We know all users of this object are local or will be made fully local, even if currently there are
2156                          * some indirect usages. So instead of making a copy that we'll likely get rid of later, directly make
2157                          * that data block local. Saves a tremendous amount of time with complex scenes... */
2158                         id_clear_lib_data_ex(bmain, id, true);
2159                         BKE_id_expand_local(bmain, id);
2160                         id->tag &= ~LIB_TAG_DOIT;
2161                 }
2162                 else {
2163                         /* In this specific case, we do want to make ID local even if it has no local usage yet... */
2164                         if (GS(id->name) == ID_OB) {
2165                                 /* Special case for objects because we don't want proxy pointers to be
2166                                  * cleared yet. This will happen down the road in this function.
2167                                  */
2168                                 BKE_object_make_local_ex(bmain, (Object *)id, true, false);
2169                         }
2170                         else {
2171                                 id_make_local(bmain, id, false, true);
2172                         }
2173
2174                         if (id->newid) {
2175                                 /* Reuse already allocated LinkNode (transferring it from todo_ids to copied_ids). */
2176                                 BLI_linklist_prepend_nlink(&copied_ids, id, it);
2177                         }
2178                 }
2179
2180                 if (set_fake) {
2181                         if (!ELEM(GS(id->name), ID_OB, ID_GR)) {
2182                                 /* do not set fake user on objects, groups (instancing) */
2183                                 id_fake_user_set(id);
2184                         }
2185                 }
2186         }
2187
2188 #ifdef DEBUG_TIME
2189         printf("Step 3: Make IDs local: Done.\n");
2190         TIMEIT_VALUE_PRINT(make_local);
2191 #endif
2192
2193         /* At this point, we are done with directly made local IDs. Now we have to handle duplicated ones, since their
2194          * remaining linked original counterpart may not be needed anymore... */
2195         todo_ids = NULL;
2196
2197         /* Step 4: We have to remap local usages of old (linked) ID to new (local) ID in a separated loop,
2198          * as lbarray ordering is not enough to ensure us we did catch all dependencies
2199          * (e.g. if making local a parent object before its child...). See T48907. */
2200         /* TODO This is now the biggest step by far (in term of processing time). We may be able to gain here by
2201          * using again main->relations mapping, but... this implies BKE_libblock_remap & co to be able to update
2202          * main->relations on the fly. Have to think about it a bit more, and see whether new code is OK first, anyway. */
2203         for (LinkNode *it = copied_ids; it; it = it->next) {
2204                 id = it->link;
2205
2206                 BLI_assert(id->newid != NULL);
2207                 BLI_assert(id->lib != NULL);
2208
2209                 BKE_libblock_remap(bmain, id, id->newid, ID_REMAP_SKIP_INDIRECT_USAGE);
2210                 if (old_to_new_ids) {
2211                         BLI_ghash_insert(old_to_new_ids, id, id->newid);
2212                 }
2213
2214                 /* Special hack for groups... Thing is, since we can't instantiate them here, we need to ensure
2215                  * they remain 'alive' (only instantiation is a real group 'user'... *sigh* See T49722. */
2216                 if (GS(id->name) == ID_GR && (id->tag & LIB_TAG_INDIRECT) != 0) {
2217                         id_us_ensure_real(id->newid);
2218                 }
2219         }
2220
2221 #ifdef DEBUG_TIME
2222         printf("Step 4: Remap local usages of old (linked) ID to new (local) ID: Done.\n");
2223         TIMEIT_VALUE_PRINT(make_local);
2224 #endif
2225
2226         /* Note: Keeping both version of the code (old one being safer, since it still has checks against unused IDs)
2227          * for now, we can remove old one once it has been tested for some time in master... */
2228 #if 1
2229         /* Step 5: proxy 'remapping' hack. */
2230         for (LinkNode *it = copied_ids; it; it = it->next) {
2231                 /* Attempt to re-link copied proxy objects. This allows appending of an entire scene
2232                  * from another blend file into this one, even when that blend file contains proxified
2233                  * armatures that have local references. Since the proxified object needs to be linked
2234                  * (not local), this will only work when the "Localize all" checkbox is disabled.
2235                  * TL;DR: this is a dirty hack on top of an already weak feature (proxies). */
2236                 if (GS(id->name) == ID_OB && ((Object *)id)->proxy != NULL) {
2237                         Object *ob = (Object *)id;
2238                         Object *ob_new = (Object *)id->newid;
2239                         bool is_local = false, is_lib = false;
2240
2241                         /* Proxies only work when the proxified object is linked-in from a library. */
2242                         if (ob->proxy->id.lib == NULL) {
2243                                 printf("Warning, proxy object %s will loose its link to %s, because the "
2244                                        "proxified object is local.\n", id->newid->name, ob->proxy->id.name);
2245                                 continue;
2246                         }
2247
2248                         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
2249
2250                         /* We can only switch the proxy'ing to a made-local proxy if it is no longer
2251                          * referred to from a library. Not checking for local use; if new local proxy
2252                          * was not used locally would be a nasty bug! */
2253                         if (is_local || is_lib) {
2254                                 printf("Warning, made-local proxy object %s will loose its link to %s, "
2255                                        "because the linked-in proxy is referenced (is_local=%i, is_lib=%i).\n",
2256                                        id->newid->name, ob->proxy->id.name, is_local, is_lib);
2257                         }
2258                         else {
2259                                 /* we can switch the proxy'ing from the linked-in to the made-local proxy.
2260                                  * BKE_object_make_proxy() shouldn't be used here, as it allocates memory that
2261                                  * was already allocated by BKE_object_make_local_ex() (which called BKE_object_copy_ex). */
2262                                 ob_new->proxy = ob->proxy;
2263                                 ob_new->proxy_group = ob->proxy_group;
2264                                 ob_new->proxy_from = ob->proxy_from;
2265                                 ob_new->proxy->proxy_from = ob_new;
2266                                 ob->proxy = ob->proxy_from = ob->proxy_group = NULL;
2267                         }
2268                 }
2269         }
2270
2271 #ifdef DEBUG_TIME
2272         printf("Step 5: Proxy 'remapping' hack: Done.\n");
2273         TIMEIT_VALUE_PRINT(make_local);
2274 #endif
2275
2276 #else
2277         LinkNode *linked_loop_candidates = NULL;
2278
2279         /* Step 5: remove datablocks that have been copied to be localized and are no more used in the end...
2280          * Note that we may have to loop more than once here, to tackle dependencies between linked objects... */
2281         bool do_loop = true;
2282         while (do_loop) {
2283                 do_loop = false;
2284                 for (LinkNode *it = copied_ids; it; it = it->next) {
2285                         if ((id = it->link) == NULL) {
2286                                 continue;
2287                         }
2288
2289                         bool is_local = false, is_lib = false;
2290
2291                         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
2292
2293                         /* Attempt to re-link copied proxy objects. This allows appending of an entire scene
2294                          * from another blend file into this one, even when that blend file contains proxified
2295                          * armatures that have local references. Since the proxified object needs to be linked
2296                          * (not local), this will only work when the "Localize all" checkbox is disabled.
2297                          * TL;DR: this is a dirty hack on top of an already weak feature (proxies). */
2298                         if (GS(id->name) == ID_OB && ((Object *)id)->proxy != NULL) {
2299                                 Object *ob = (Object *)id;
2300                                 Object *ob_new = (Object *)id->newid;
2301
2302                                 /* Proxies only work when the proxified object is linked-in from a library. */
2303                                 if (ob->proxy->id.lib == NULL) {
2304                                         printf("Warning, proxy object %s will loose its link to %s, because the "
2305                                                    "proxified object is local.\n", id->newid->name, ob->proxy->id.name);
2306                                 }
2307                                 /* We can only switch the proxy'ing to a made-local proxy if it is no longer
2308                                  * referred to from a library. Not checking for local use; if new local proxy
2309                                  * was not used locally would be a nasty bug! */
2310                                 else if (is_local || is_lib) {
2311                                         printf("Warning, made-local proxy object %s will loose its link to %s, "
2312                                                "because the linked-in proxy is referenced (is_local=%i, is_lib=%i).\n",
2313                                                id->newid->name, ob->proxy->id.name, is_local, is_lib);
2314                                 }
2315                                 else {
2316                                         /* we can switch the proxy'ing from the linked-in to the made-local proxy.
2317                                          * BKE_object_make_proxy() shouldn't be used here, as it allocates memory that
2318                                          * was already allocated by BKE_object_make_local_ex() (which called BKE_object_copy_ex). */
2319                                         ob_new->proxy = ob->proxy;
2320                                         ob_new->proxy_group = ob->proxy_group;
2321                                         ob_new->proxy_from = ob->proxy_from;
2322                                         ob_new->proxy->proxy_from = ob_new;
2323                                         ob->proxy = ob->proxy_from = ob->proxy_group = NULL;
2324                                 }
2325                         }
2326
2327                         if (!is_local) {
2328                                 if (!is_lib) {  /* Not used at all, we can free it! */
2329                                         BLI_assert(!"Unused linked data copy remaining from MakeLibLocal process, should not happen anymore");
2330                                         printf("\t%s (from %s)\n", id->name, id->lib->id.name);
2331                                         BKE_libblock_free(bmain, id);
2332                                         it->link = NULL;
2333                                         do_loop = true;
2334                                 }
2335                                 /* Only used by linked data, potential candidate to ugly lib-only dependency cycles... */
2336                                 else if ((id->tag & LIB_TAG_DOIT) == 0) {  /* Check TAG_DOIT to avoid adding same ID several times... */
2337                                         /* Note that we store the node, not directly ID pointer, that way if it->link is set to NULL
2338                                          * later we can skip it in lib-dependency cycles search later. */
2339                                         BLI_linklist_prepend_arena(&linked_loop_candidates, it, linklist_mem);
2340                                         id->tag |= LIB_TAG_DOIT;
2341
2342                                         /* Grrrrrrr... those half-datablocks-stuff... grrrrrrrrrrr...
2343                                          * Here we have to also tag them as potential candidates, otherwise they would falsy report
2344                                          * ID they used as 'directly used' in sixth step. */
2345                                         ID *ntree = (ID *)ntreeFromID(id);
2346                                         if (ntree != NULL) {
2347                                                 ntree->tag |= LIB_TAG_DOIT;
2348                                         }
2349                                 }
2350                         }
2351                 }
2352         }
2353
2354 #ifdef DEBUG_TIME
2355         printf("Step 5: Remove linked datablocks that have been copied and ended fully localized: Done.\n");
2356         TIMEIT_VALUE_PRINT(make_local);
2357 #endif
2358
2359         /* Step 6: Try to find circle dependencies between indirectly-linked-only datablocks.
2360          * Those are fake 'usages' that prevent their deletion. See T49775 for nice ugly case. */
2361         BKE_library_unused_linked_data_set_tag(bmain, false);
2362         for (LinkNode *it = linked_loop_candidates; it; it = it->next) {
2363                 if (it->link == NULL) {
2364                         continue;
2365                 }
2366                 if ((id = ((LinkNode *)it->link)->link) == NULL) {
2367                         it->link = NULL;
2368                         continue;
2369                 }
2370
2371                 /* Note: in theory here we are only handling datablocks forming exclusive linked dependency-cycles-based
2372                  * archipelagos, so no need to check again after we have deleted one, as done in previous step. */
2373                 if (id->tag & LIB_TAG_DOIT) {
2374                         BLI_assert(!"Unused linked data copy remaining from MakeLibLocal process (archipelago case), should not happen anymore");
2375                         /* Object's deletion rely on valid ob->data, but ob->data may have already been freed here...
2376                          * Setting it to NULL may not be 100% correct, but should be safe and do the work. */
2377                         if (GS(id->name) == ID_OB) {
2378                                 ((Object *)id)->data = NULL;
2379                         }
2380
2381                         /* Note: *in theory* IDs tagged here are fully *outside* of file scope, totally unused, so we can
2382                          *       directly wipe them out without caring about clearing their usages.
2383                          *       However, this is a highly-risky presumption, and nice crasher in case something goes wrong here.
2384                          *       So for 2.78a will keep the safe option, and switch to more efficient one in master later. */
2385 #if 1
2386                         BKE_libblock_free_ex(bmain, id, false, true);
2387 #else
2388                         BKE_libblock_unlink(bmain, id, false, false);
2389                         BKE_libblock_free(bmain, id);
2390 #endif
2391                         ((LinkNode *)it->link)->link = NULL;  /* Not strictly necessary, but safer (see T49903)... */
2392                         it->link = NULL;
2393                 }
2394         }
2395
2396 #ifdef DEBUG_TIME
2397         printf("Step 6: Try to find circle dependencies between indirectly-linked-only datablocks: Done.\n");
2398         TIMEIT_VALUE_PRINT(make_local);
2399 #endif
2400
2401 #endif
2402
2403         /* This is probably more of a hack than something we should do here, but...
2404          * Issue is, the whole copying + remapping done in complex cases above may leave pose channels of armatures
2405          * in complete invalid state (more precisely, the bone pointers of the pchans - very crappy cross-datablocks
2406          * relationship), se we tag it to be fully recomputed, but this does not seems to be enough in some cases,
2407          * and evaluation code ends up trying to evaluate a not-yet-updated armature object's deformations.
2408          * Try "make all local" in 04_01_H.lighting.blend from Agent327 without this, e.g. */
2409         for (Object *ob = bmain->object.first; ob; ob = ob->id.next) {
2410                 if (ob->data != NULL && ob->type == OB_ARMATURE && ob->pose != NULL && ob->pose->flag & POSE_RECALC) {
2411                         BKE_pose_rebuild(ob, ob->data);
2412                 }
2413         }
2414
2415 #ifdef DEBUG_TIME
2416         printf("Hack: Forcefully rebuild armature object poses: Done.\n");
2417         TIMEIT_VALUE_PRINT(make_local);
2418 #endif
2419
2420         BKE_main_id_clear_newpoins(bmain);
2421         BLI_memarena_free(linklist_mem);
2422
2423 #ifdef DEBUG_TIME
2424         printf("Cleanup and finish: Done.\n");
2425         TIMEIT_END(make_local);
2426 #endif
2427 }
2428
2429 /**
2430  * Use after setting the ID's name
2431  * When name exists: call 'new_id'
2432  */
2433 void BLI_libblock_ensure_unique_name(Main *bmain, const char *name)
2434 {
2435         ListBase *lb;
2436         ID *idtest;
2437
2438         lb = which_libbase(bmain, GS(name));
2439         if (lb == NULL) return;
2440         
2441         /* search for id */
2442         idtest = BLI_findstring(lb, name + 2, offsetof(ID, name) + 2);
2443
2444         if (idtest && !new_id(lb, idtest, idtest->name + 2)) {
2445                 id_sort_by_name(lb, idtest);
2446         }
2447 }
2448
2449 /**
2450  * Sets the name of a block to name, suitably adjusted for uniqueness.
2451  */
2452 void BKE_libblock_rename(Main *bmain, ID *id, const char *name)
2453 {
2454         ListBase *lb = which_libbase(bmain, GS(id->name));
2455         new_id(lb, id, name);
2456 }
2457
2458 /**
2459  * Returns in name the name of the block, with a 3-character prefix prepended
2460  * indicating whether it comes from a library, has a fake user, or no users.
2461  */
2462 void BKE_id_ui_prefix(char name[MAX_ID_NAME + 1], const ID *id)
2463 {
2464         name[0] = id->lib ? (ID_MISSING(id) ? 'M' : 'L') : ' ';
2465         name[1] = (id->flag & LIB_FAKEUSER) ? 'F' : ((id->us == 0) ? '0' : ' ');
2466         name[2] = ' ';
2467
2468         strcpy(name + 3, id->name + 2);
2469 }
2470
2471 void BKE_library_filepath_set(Library *lib, const char *filepath)
2472 {
2473         /* in some cases this is used to update the absolute path from the
2474          * relative */
2475         if (lib->name != filepath) {
2476                 BLI_strncpy(lib->name, filepath, sizeof(lib->name));
2477         }
2478
2479         BLI_strncpy(lib->filepath, filepath, sizeof(lib->filepath));
2480
2481         /* not essential but set filepath is an absolute copy of value which
2482          * is more useful if its kept in sync */
2483         if (BLI_path_is_rel(lib->filepath)) {
2484                 /* note that the file may be unsaved, in this case, setting the
2485                  * filepath on an indirectly linked path is not allowed from the
2486                  * outliner, and its not really supported but allow from here for now
2487                  * since making local could cause this to be directly linked - campbell
2488                  */
2489                 const char *basepath = lib->parent ? lib->parent->filepath : G.main->name;
2490                 BLI_path_abs(lib->filepath, basepath);
2491         }
2492 }
2493
2494 void BKE_id_tag_set_atomic(ID *id, int tag)
2495 {
2496         atomic_fetch_and_or_int32(&id->tag, tag);
2497 }
2498
2499 void BKE_id_tag_clear_atomic(ID *id, int tag)
2500 {
2501         atomic_fetch_and_and_int32(&id->tag, ~tag);
2502 }