Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / library.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/library.c
29  *  \ingroup bke
30  *
31  * Contains management of ID's and libraries
32  * allocate and free of all library data
33  */
34
35 #include <stdio.h>
36 #include <ctype.h>
37 #include <string.h>
38 #include <stdlib.h>
39 #include <stddef.h>
40 #include <assert.h>
41
42 #include "MEM_guardedalloc.h"
43
44 /* all types are needed here, in order to do memory operations */
45 #include "DNA_anim_types.h"
46 #include "DNA_armature_types.h"
47 #include "DNA_brush_types.h"
48 #include "DNA_cachefile_types.h"
49 #include "DNA_camera_types.h"
50 #include "DNA_group_types.h"
51 #include "DNA_gpencil_types.h"
52 #include "DNA_ipo_types.h"
53 #include "DNA_key_types.h"
54 #include "DNA_lamp_types.h"
55 #include "DNA_lattice_types.h"
56 #include "DNA_linestyle_types.h"
57 #include "DNA_material_types.h"
58 #include "DNA_mesh_types.h"
59 #include "DNA_meta_types.h"
60 #include "DNA_modifier_types.h"
61 #include "DNA_movieclip_types.h"
62 #include "DNA_mask_types.h"
63 #include "DNA_node_types.h"
64 #include "DNA_object_types.h"
65 #include "DNA_lightprobe_types.h"
66 #include "DNA_scene_types.h"
67 #include "DNA_screen_types.h"
68 #include "DNA_speaker_types.h"
69 #include "DNA_sound_types.h"
70 #include "DNA_text_types.h"
71 #include "DNA_vfont_types.h"
72 #include "DNA_windowmanager_types.h"
73 #include "DNA_world_types.h"
74 #include "DNA_workspace_types.h"
75
76 #include "BLI_blenlib.h"
77 #include "BLI_utildefines.h"
78 #include "BLI_ghash.h"
79 #include "BLI_linklist.h"
80 #include "BLI_memarena.h"
81 #include "BLI_mempool.h"
82 #include "BLI_string_utils.h"
83
84 #include "BLI_threads.h"
85 #include "BLT_translation.h"
86
87 #include "BKE_action.h"
88 #include "BKE_animsys.h"
89 #include "BKE_armature.h"
90 #include "BKE_bpath.h"
91 #include "BKE_brush.h"
92 #include "BKE_camera.h"
93 #include "BKE_cachefile.h"
94 #include "BKE_context.h"
95 #include "BKE_curve.h"
96 #include "BKE_font.h"
97 #include "BKE_global.h"
98 #include "BKE_group.h"
99 #include "BKE_gpencil.h"
100 #include "BKE_idcode.h"
101 #include "BKE_idprop.h"
102 #include "BKE_image.h"
103 #include "BKE_key.h"
104 #include "BKE_lamp.h"
105 #include "BKE_lattice.h"
106 #include "BKE_library.h"
107 #include "BKE_library_override.h"
108 #include "BKE_library_query.h"
109 #include "BKE_library_remap.h"
110 #include "BKE_linestyle.h"
111 #include "BKE_mesh.h"
112 #include "BKE_material.h"
113 #include "BKE_main.h"
114 #include "BKE_mball.h"
115 #include "BKE_mask.h"
116 #include "BKE_movieclip.h"
117 #include "BKE_node.h"
118 #include "BKE_object.h"
119 #include "BKE_paint.h"
120 #include "BKE_particle.h"
121 #include "BKE_packedFile.h"
122 #include "BKE_lightprobe.h"
123 #include "BKE_sound.h"
124 #include "BKE_speaker.h"
125 #include "BKE_scene.h"
126 #include "BKE_text.h"
127 #include "BKE_texture.h"
128 #include "BKE_world.h"
129
130 #include "DEG_depsgraph.h"
131
132 #include "RNA_access.h"
133
134 #include "IMB_imbuf.h"
135 #include "IMB_imbuf_types.h"
136
137 #include "atomic_ops.h"
138
139 //#define DEBUG_TIME
140
141 #ifdef DEBUG_TIME
142 #  include "PIL_time_utildefines.h"
143 #endif
144
145 /* GS reads the memory pointed at in a specific ordering. 
146  * only use this definition, makes little and big endian systems
147  * work fine, in conjunction with MAKE_ID */
148
149 /* ************* general ************************ */
150
151
152 /* this has to be called from each make_local_* func, we could call
153  * from id_make_local() but then the make local functions would not be self
154  * contained.
155  * also note that the id _must_ have a library - campbell */
156 void BKE_id_lib_local_paths(Main *bmain, Library *lib, ID *id)
157 {
158         const char *bpath_user_data[2] = {bmain->name, lib->filepath};
159
160         BKE_bpath_traverse_id(bmain, id,
161                               BKE_bpath_relocate_visitor,
162                               BKE_BPATH_TRAVERSE_SKIP_MULTIFILE,
163                               (void *)bpath_user_data);
164 }
165
166 void id_lib_extern(ID *id)
167 {
168         if (id && ID_IS_LINKED(id)) {
169                 BLI_assert(BKE_idcode_is_linkable(GS(id->name)));
170                 if (id->tag & LIB_TAG_INDIRECT) {
171                         id->tag -= LIB_TAG_INDIRECT;
172                         id->tag |= LIB_TAG_EXTERN;
173                 }
174         }
175 }
176
177 /* ensure we have a real user */
178 /* Note: Now that we have flags, we could get rid of the 'fake_user' special case, flags are enough to ensure
179  *       we always have a real user.
180  *       However, ID_REAL_USERS is used in several places outside of core library.c, so think we can wait later
181  *       to make this change... */
182 void id_us_ensure_real(ID *id)
183 {
184         if (id) {
185                 const int limit = ID_FAKE_USERS(id);
186                 id->tag |= LIB_TAG_EXTRAUSER;
187                 if (id->us <= limit) {
188                         if (id->us < limit || ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER_SET))) {
189                                 printf("ID user count error: %s (from '%s')\n", id->name, id->lib ? id->lib->filepath : "[Main]");
190                                 BLI_assert(0);
191                         }
192                         id->us = limit + 1;
193                         id->tag |= LIB_TAG_EXTRAUSER_SET;
194                 }
195         }
196 }
197
198 void id_us_clear_real(ID *id)
199 {
200         if (id && (id->tag & LIB_TAG_EXTRAUSER)) {
201                 if (id->tag & LIB_TAG_EXTRAUSER_SET) {
202                         id->us--;
203                         BLI_assert(id->us >= ID_FAKE_USERS(id));
204                 }
205                 id->tag &= ~(LIB_TAG_EXTRAUSER | LIB_TAG_EXTRAUSER_SET);
206         }
207 }
208
209 /**
210  * Same as \a id_us_plus, but does not handle lib indirect -> extern.
211  * Only used by readfile.c so far, but simpler/safer to keep it here nonetheless.
212  */
213 void id_us_plus_no_lib(ID *id)
214 {
215         if (id) {
216                 if ((id->tag & LIB_TAG_EXTRAUSER) && (id->tag & LIB_TAG_EXTRAUSER_SET)) {
217                         BLI_assert(id->us >= 1);
218                         /* No need to increase count, just tag extra user as no more set.
219                          * Avoids annoying & inconsistent +1 in user count. */
220                         id->tag &= ~LIB_TAG_EXTRAUSER_SET;
221                 }
222                 else {
223                         BLI_assert(id->us >= 0);
224                         id->us++;
225                 }
226         }
227 }
228
229
230 void id_us_plus(ID *id)
231 {
232         if (id) {
233                 id_us_plus_no_lib(id);
234                 id_lib_extern(id);
235         }
236 }
237
238 /* decrements the user count for *id. */
239 void id_us_min(ID *id)
240 {
241         if (id) {
242                 const int limit = ID_FAKE_USERS(id);
243
244                 if (id->us <= limit) {
245                         printf("ID user decrement error: %s (from '%s'): %d <= %d\n",
246                                id->name, id->lib ? id->lib->filepath : "[Main]", id->us, limit);
247                         BLI_assert(0);
248                         id->us = limit;
249                 }
250                 else {
251                         id->us--;
252                 }
253
254                 if ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER)) {
255                         /* We need an extra user here, but never actually incremented user count for it so far, do it now. */
256                         id_us_ensure_real(id);
257                 }
258         }
259 }
260
261 void id_fake_user_set(ID *id)
262 {
263         if (id && !(id->flag & LIB_FAKEUSER)) {
264                 id->flag |= LIB_FAKEUSER;
265                 id_us_plus(id);
266         }
267 }
268
269 void id_fake_user_clear(ID *id)
270 {
271         if (id && (id->flag & LIB_FAKEUSER)) {
272                 id->flag &= ~LIB_FAKEUSER;
273                 id_us_min(id);
274         }
275 }
276
277 void BKE_id_clear_newpoin(ID *id)
278 {
279         if (id->newid) {
280                 id->newid->tag &= ~LIB_TAG_NEW;
281         }
282         id->newid = NULL;
283 }
284
285 static int id_expand_local_callback(
286         void *UNUSED(user_data), struct ID *id_self, struct ID **id_pointer, int cb_flag)
287 {
288         if (cb_flag & IDWALK_CB_PRIVATE) {
289                 return IDWALK_RET_NOP;
290         }
291
292         /* Can hapen that we get unlinkable ID here, e.g. with shapekey referring to itself (through drivers)...
293          * Just skip it, shape key can only be either indirectly linked, or fully local, period.
294          * And let's curse one more time that stupid useless shapekey ID type! */
295         if (*id_pointer && *id_pointer != id_self && BKE_idcode_is_linkable(GS((*id_pointer)->name))) {
296                 id_lib_extern(*id_pointer);
297         }
298
299         return IDWALK_RET_NOP;
300 }
301
302 /**
303  * Expand ID usages of given id as 'extern' (and no more indirect) linked data. Used by ID copy/make_local functions.
304  */
305 void BKE_id_expand_local(Main *bmain, ID *id)
306 {
307         BKE_library_foreach_ID_link(bmain, id, id_expand_local_callback, NULL, IDWALK_READONLY);
308 }
309
310 /**
311  * Ensure new (copied) ID is fully made local.
312  */
313 void BKE_id_copy_ensure_local(Main *bmain, const ID *old_id, ID *new_id)
314 {
315         if (ID_IS_LINKED(old_id)) {
316                 BKE_id_expand_local(bmain, new_id);
317                 BKE_id_lib_local_paths(bmain, old_id->lib, new_id);
318         }
319 }
320
321 /**
322  * Generic 'make local' function, works for most of datablock types...
323  */
324 void BKE_id_make_local_generic(Main *bmain, ID *id, const bool id_in_mainlist, const bool lib_local)
325 {
326         bool is_local = false, is_lib = false;
327
328         /* - only lib users: do nothing (unless force_local is set)
329          * - only local users: set flag
330          * - mixed: make copy
331          * In case we make a whole lib's content local, we always want to localize, and we skip remapping (done later).
332          */
333
334         if (!ID_IS_LINKED(id)) {
335                 return;
336         }
337
338         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
339
340         if (lib_local || is_local) {
341                 if (!is_lib) {
342                         id_clear_lib_data_ex(bmain, id, id_in_mainlist);
343                         BKE_id_expand_local(bmain, id);
344                 }
345                 else {
346                         ID *id_new;
347
348                         /* Should not fail in expected usecases, but id_copy does not copy Scene e.g. */
349                         if (id_copy(bmain, id, &id_new, false)) {
350                                 id_new->us = 0;
351
352                                 /* setting newid is mandatory for complex make_lib_local logic... */
353                                 ID_NEW_SET(id, id_new);
354                                 Key *key = BKE_key_from_id(id), *key_new = BKE_key_from_id(id);
355                                 if (key && key_new) {
356                                         ID_NEW_SET(key, key_new);
357                                 }
358                                 bNodeTree *ntree = ntreeFromID(id), *ntree_new = ntreeFromID(id_new);
359                                 if (ntree && ntree_new) {
360                                         ID_NEW_SET(ntree, ntree_new);
361                                 }
362
363                                 if (!lib_local) {
364                                         BKE_libblock_remap(bmain, id, id_new, ID_REMAP_SKIP_INDIRECT_USAGE);
365                                 }
366                         }
367                 }
368         }
369 }
370
371 /**
372  * Calls the appropriate make_local method for the block, unless test is set.
373  *
374  * \note Always set ID->newid pointer in case it gets duplicated...
375  *
376  * \param lib_local Special flag used when making a whole library's content local, it needs specific handling.
377  *
378  * \return true if the block can be made local.
379  */
380 bool id_make_local(Main *bmain, ID *id, const bool test, const bool lib_local)
381 {
382         /* We don't care whether ID is directly or indirectly linked in case we are making a whole lib local... */
383         if (!lib_local && (id->tag & LIB_TAG_INDIRECT)) {
384                 return false;
385         }
386
387         switch ((ID_Type)GS(id->name)) {
388                 case ID_SCE:
389                         if (!test) BKE_scene_make_local(bmain, (Scene *)id, lib_local);
390                         return true;
391                 case ID_OB:
392                         if (!test) BKE_object_make_local(bmain, (Object *)id, lib_local);
393                         return true;
394                 case ID_ME:
395                         if (!test) BKE_mesh_make_local(bmain, (Mesh *)id, lib_local);
396                         return true;
397                 case ID_CU:
398                         if (!test) BKE_curve_make_local(bmain, (Curve *)id, lib_local);
399                         return true;
400                 case ID_MB:
401                         if (!test) BKE_mball_make_local(bmain, (MetaBall *)id, lib_local);
402                         return true;
403                 case ID_MA:
404                         if (!test) BKE_material_make_local(bmain, (Material *)id, lib_local);
405                         return true;
406                 case ID_TE:
407                         if (!test) BKE_texture_make_local(bmain, (Tex *)id, lib_local);
408                         return true;
409                 case ID_IM:
410                         if (!test) BKE_image_make_local(bmain, (Image *)id, lib_local);
411                         return true;
412                 case ID_LT:
413                         if (!test) BKE_lattice_make_local(bmain, (Lattice *)id, lib_local);
414                         return true;
415                 case ID_LA:
416                         if (!test) BKE_lamp_make_local(bmain, (Lamp *)id, lib_local);
417                         return true;
418                 case ID_CA:
419                         if (!test) BKE_camera_make_local(bmain, (Camera *)id, lib_local);
420                         return true;
421                 case ID_SPK:
422                         if (!test) BKE_speaker_make_local(bmain, (Speaker *)id, lib_local);
423                         return true;
424                 case ID_LP:
425                         if (!test) BKE_lightprobe_make_local(bmain, (LightProbe *)id, lib_local);
426                         return true;
427                 case ID_WO:
428                         if (!test) BKE_world_make_local(bmain, (World *)id, lib_local);
429                         return true;
430                 case ID_VF:
431                         if (!test) BKE_vfont_make_local(bmain, (VFont *)id, lib_local);
432                         return true;
433                 case ID_TXT:
434                         if (!test) BKE_text_make_local(bmain, (Text *)id, lib_local);
435                         return true;
436                 case ID_SO:
437                         if (!test) BKE_sound_make_local(bmain, (bSound *)id, lib_local);
438                         return true;
439                 case ID_GR:
440                         if (!test) BKE_group_make_local(bmain, (Group *)id, lib_local);
441                         return true;
442                 case ID_AR:
443                         if (!test) BKE_armature_make_local(bmain, (bArmature *)id, lib_local);
444                         return true;
445                 case ID_AC:
446                         if (!test) BKE_action_make_local(bmain, (bAction *)id, lib_local);
447                         return true;
448                 case ID_NT:
449                         if (!test) ntreeMakeLocal(bmain, (bNodeTree *)id, true, lib_local);
450                         return true;
451                 case ID_BR:
452                         if (!test) BKE_brush_make_local(bmain, (Brush *)id, lib_local);
453                         return true;
454                 case ID_PA:
455                         if (!test) BKE_particlesettings_make_local(bmain, (ParticleSettings *)id, lib_local);
456                         return true;
457                 case ID_GD:
458                         if (!test) BKE_gpencil_make_local(bmain, (bGPdata *)id, lib_local);
459                         return true;
460                 case ID_MC:
461                         if (!test) BKE_movieclip_make_local(bmain, (MovieClip *)id, lib_local);
462                         return true;
463                 case ID_MSK:
464                         if (!test) BKE_mask_make_local(bmain, (Mask *)id, lib_local);
465                         return true;
466                 case ID_LS:
467                         if (!test) BKE_linestyle_make_local(bmain, (FreestyleLineStyle *)id, lib_local);
468                         return true;
469                 case ID_PAL:
470                         if (!test) BKE_palette_make_local(bmain, (Palette *)id, lib_local);
471                         return true;
472                 case ID_PC:
473                         if (!test) BKE_paint_curve_make_local(bmain, (PaintCurve *)id, lib_local);
474                         return true;
475                 case ID_CF:
476                         if (!test) BKE_cachefile_make_local(bmain, (CacheFile *)id, lib_local);
477                         return true;
478                 case ID_WS:
479                 case ID_SCR:
480                         /* A bit special: can be appended but not linked. Return false
481                          * since supporting make-local doesn't make much sense. */
482                         return false;
483                 case ID_LI:
484                 case ID_KE:
485                 case ID_WM:
486                         return false; /* can't be linked */
487                 case ID_IP:
488                         return false; /* deprecated */
489         }
490
491         return false;
492 }
493
494 struct IDCopyLibManagementData {
495         const ID *id_src;
496         ID *id_dst;
497         int flag;
498 };
499
500 /* Increases usercount as required, and remap self ID pointers. */
501 static int id_copy_libmanagement_cb(void *user_data, ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
502 {
503         struct IDCopyLibManagementData *data = user_data;
504         ID *id = *id_pointer;
505
506         /* Remap self-references to new copied ID. */
507         if (id == data->id_src) {
508                 /* We cannot use id_self here, it is not *always* id_dst (thanks to $£!+@#&/? nodetrees). */
509                 id = *id_pointer = data->id_dst;
510         }
511
512         /* Increase used IDs refcount if needed and required. */
513         if ((data->flag & LIB_ID_CREATE_NO_USER_REFCOUNT) == 0 && (cb_flag & IDWALK_CB_USER)) {
514                 id_us_plus(id);
515         }
516
517         return IDWALK_RET_NOP;
518 }
519
520 /**
521  * Generic entry point for copying a datablock (new API).
522  *
523  * \note Copy is only affecting given data-block (no ID used by copied one will be affected, besides usercount).
524  *       There is only one exception, if LIB_ID_COPY_ACTIONS is defined, actions used by animdata will be duplicated.
525  *
526  * \note Usercount of new copy is always set to 1.
527  *
528  * \param bmain Main database, may be NULL only if LIB_ID_CREATE_NO_MAIN is specified.
529  * \param id Source datablock.
530  * \param r_newid Pointer to new (copied) ID pointer.
531  * \param flag Set of copy options, see DNA_ID.h enum for details (leave to zero for default, full copy).
532  * \param test If set, do not do any copy, just test whether copy is supported.
533  * \return False when copying that ID type is not supported, true otherwise.
534  */
535 /* XXX TODO remove test thing, *all* IDs should be copyable that way! */
536 bool BKE_id_copy_ex(Main *bmain, const ID *id, ID **r_newid, const int flag, const bool test)
537 {
538 #define LIB_ID_TYPES_NOCOPY ID_LI, ID_SCR, ID_WM,  /* Not supported */ \
539                             ID_IP  /* Deprecated */
540
541         BLI_assert(test || (r_newid != NULL));
542         /* Early output is source is NULL. */
543         if (id == NULL) {
544                 return false;
545         }
546         /* Make sure destination pointer is all good. */
547         if ((flag & LIB_ID_CREATE_NO_ALLOCATE) == 0) {
548                 if (r_newid != NULL) {
549                         *r_newid = NULL;
550                 }
551         }
552         else {
553                 if (r_newid != NULL && *r_newid != NULL) {
554                         /* Allow some garbage non-initialized memory to go in. */
555                         const size_t size = BKE_libblock_get_alloc_info(GS(id->name), NULL);
556                         memset(*r_newid, 0, size);
557                 }
558         }
559         if (ELEM(GS(id->name), LIB_ID_TYPES_NOCOPY)) {
560                 return false;
561         }
562         else if (test) {
563                 return true;
564         }
565
566         BKE_libblock_copy_ex(bmain, id, r_newid, flag);
567
568         switch ((ID_Type)GS(id->name)) {
569                 case ID_SCE:
570                         BKE_scene_copy_data(bmain, (Scene *)*r_newid, (Scene *)id, flag);
571                         break;
572                 case ID_OB:
573                         BKE_object_copy_data(bmain, (Object *)*r_newid, (Object *)id, flag);
574                         break;
575                 case ID_ME:
576                         BKE_mesh_copy_data(bmain, (Mesh *)*r_newid, (Mesh *)id, flag);
577                         break;
578                 case ID_CU:
579                         BKE_curve_copy_data(bmain, (Curve *)*r_newid, (Curve *)id, flag);
580                         break;
581                 case ID_MB:
582                         BKE_mball_copy_data(bmain, (MetaBall *)*r_newid, (MetaBall *)id, flag);
583                         break;
584                 case ID_MA:
585                         BKE_material_copy_data(bmain, (Material *)*r_newid, (Material *)id, flag);
586                         break;
587                 case ID_TE:
588                         BKE_texture_copy_data(bmain, (Tex *)*r_newid, (Tex *)id, flag);
589                         break;
590                 case ID_IM:
591                         BKE_image_copy_data(bmain, (Image *)*r_newid, (Image *)id, flag);
592                         break;
593                 case ID_LT:
594                         BKE_lattice_copy_data(bmain, (Lattice *)*r_newid, (Lattice *)id, flag);
595                         break;
596                 case ID_LA:
597                         BKE_lamp_copy_data(bmain, (Lamp *)*r_newid, (Lamp *)id, flag);
598                         break;
599                 case ID_SPK:
600                         BKE_speaker_copy_data(bmain, (Speaker *)*r_newid, (Speaker *)id, flag);
601                         break;
602                 case ID_LP:
603                         BKE_lightprobe_copy_data(bmain, (LightProbe *)*r_newid, (LightProbe *)id, flag);
604                         break;
605                 case ID_CA:
606                         BKE_camera_copy_data(bmain, (Camera *)*r_newid, (Camera *)id, flag);
607                         break;
608                 case ID_KE:
609                         BKE_key_copy_data(bmain, (Key *)*r_newid, (Key *)id, flag);
610                         break;
611                 case ID_WO:
612                         BKE_world_copy_data(bmain, (World *)*r_newid, (World *)id, flag);
613                         break;
614                 case ID_TXT:
615                         BKE_text_copy_data(bmain, (Text *)*r_newid, (Text *)id, flag);
616                         break;
617                 case ID_GR:
618                         BKE_group_copy_data(bmain, (Group *)*r_newid, (Group *)id, flag);
619                         break;
620                 case ID_AR:
621                         BKE_armature_copy_data(bmain, (bArmature *)*r_newid, (bArmature *)id, flag);
622                         break;
623                 case ID_AC:
624                         BKE_action_copy_data(bmain, (bAction *)*r_newid, (bAction *)id, flag);
625                         break;
626                 case ID_NT:
627                         BKE_node_tree_copy_data(bmain, (bNodeTree *)*r_newid, (bNodeTree *)id, flag);
628                         break;
629                 case ID_BR:
630                         BKE_brush_copy_data(bmain, (Brush *)*r_newid, (Brush *)id, flag);
631                         break;
632                 case ID_PA:
633                         BKE_particlesettings_copy_data(bmain, (ParticleSettings *)*r_newid, (ParticleSettings *)id, flag);
634                         break;
635                 case ID_GD:
636                         BKE_gpencil_copy_data(bmain, (bGPdata *)*r_newid, (bGPdata *)id, flag);
637                         break;
638                 case ID_MC:
639                         BKE_movieclip_copy_data(bmain, (MovieClip *)*r_newid, (MovieClip *)id, flag);
640                         break;
641                 case ID_MSK:
642                         BKE_mask_copy_data(bmain, (Mask *)*r_newid, (Mask *)id, flag);
643                         break;
644                 case ID_LS:
645                         BKE_linestyle_copy_data(bmain, (FreestyleLineStyle *)*r_newid, (FreestyleLineStyle *)id, flag);
646                         break;
647                 case ID_PAL:
648                         BKE_palette_copy_data(bmain, (Palette *)*r_newid, (Palette *)id, flag);
649                         break;
650                 case ID_PC:
651                         BKE_paint_curve_copy_data(bmain, (PaintCurve *)*r_newid, (PaintCurve *)id, flag);
652                         break;
653                 case ID_CF:
654                         BKE_cachefile_copy_data(bmain, (CacheFile *)*r_newid, (CacheFile *)id, flag);
655                         break;
656                 case ID_SO:
657                         BKE_sound_copy_data(bmain, (bSound *)*r_newid, (bSound *)id, flag);
658                         break;
659                 case ID_VF:
660                         BKE_vfont_copy_data(bmain, (VFont *)*r_newid, (VFont *)id, flag);
661                         break;
662                 case ID_LI:
663                 case ID_SCR:
664                 case ID_WM:
665                 case ID_WS:
666                 case ID_IP:
667                         BLI_assert(0);  /* Should have been rejected at start of function! */
668                         break;
669         }
670
671         /* Update ID refcount, remap pointers to self in new ID. */
672         struct IDCopyLibManagementData data = {.id_src = id, .id_dst = *r_newid, .flag = flag};
673         BKE_library_foreach_ID_link(bmain, *r_newid, id_copy_libmanagement_cb, &data, IDWALK_NOP);
674
675         /* Do not make new copy local in case we are copying outside of main...
676          * XXX TODO: is this behavior OK, or should we need own flag to control that? */
677         if ((flag & LIB_ID_CREATE_NO_MAIN) == 0) {
678                 BLI_assert((flag & LIB_ID_COPY_KEEP_LIB) == 0);
679                 BKE_id_copy_ensure_local(bmain, id, *r_newid);
680         }
681         else {
682                 (*r_newid)->lib = id->lib;
683         }
684
685         return true;
686 }
687
688 /**
689  * Invokes the appropriate copy method for the block and returns the result in
690  * newid, unless test. Returns true if the block can be copied.
691  */
692 bool id_copy(Main *bmain, const ID *id, ID **newid, bool test)
693 {
694         return BKE_id_copy_ex(bmain, id, newid, 0, test);
695 }
696
697 /** Does a mere memory swap over the whole IDs data (including type-specific memory).
698  *  \note Most internal ID data itself is not swapped (only IDProperties are). */
699 void BKE_id_swap(Main *bmain, ID *id_a, ID *id_b)
700 {
701         BLI_assert(GS(id_a->name) == GS(id_b->name));
702
703         const ID id_a_back = *id_a;
704         const ID id_b_back = *id_b;
705
706 #define CASE_SWAP(_gs, _type) \
707         case _gs: \
708                 SWAP(_type, *(_type *)id_a, *(_type *)id_b); \
709                 break
710
711         switch ((ID_Type)GS(id_a->name)) {
712                 CASE_SWAP(ID_SCE, Scene);
713                 CASE_SWAP(ID_LI, Library);
714                 CASE_SWAP(ID_OB, Object);
715                 CASE_SWAP(ID_ME, Mesh);
716                 CASE_SWAP(ID_CU, Curve);
717                 CASE_SWAP(ID_MB, MetaBall);
718                 CASE_SWAP(ID_MA, Material);
719                 CASE_SWAP(ID_TE, Tex);
720                 CASE_SWAP(ID_IM, Image);
721                 CASE_SWAP(ID_LT, Lattice);
722                 CASE_SWAP(ID_LA, Lamp);
723                 CASE_SWAP(ID_LP, LightProbe);
724                 CASE_SWAP(ID_CA, Camera);
725                 CASE_SWAP(ID_KE, Key);
726                 CASE_SWAP(ID_WO, World);
727                 CASE_SWAP(ID_SCR, bScreen);
728                 CASE_SWAP(ID_VF, VFont);
729                 CASE_SWAP(ID_TXT, Text);
730                 CASE_SWAP(ID_SPK, Speaker);
731                 CASE_SWAP(ID_SO, bSound);
732                 CASE_SWAP(ID_GR, Group);
733                 CASE_SWAP(ID_AR, bArmature);
734                 CASE_SWAP(ID_AC, bAction);
735                 CASE_SWAP(ID_NT, bNodeTree);
736                 CASE_SWAP(ID_BR, Brush);
737                 CASE_SWAP(ID_PA, ParticleSettings);
738                 CASE_SWAP(ID_WM, wmWindowManager);
739                 CASE_SWAP(ID_WS, WorkSpace);
740                 CASE_SWAP(ID_GD, bGPdata);
741                 CASE_SWAP(ID_MC, MovieClip);
742                 CASE_SWAP(ID_MSK, Mask);
743                 CASE_SWAP(ID_LS, FreestyleLineStyle);
744                 CASE_SWAP(ID_PAL, Palette);
745                 CASE_SWAP(ID_PC, PaintCurve);
746                 CASE_SWAP(ID_CF, CacheFile);
747                 case ID_IP:
748                         break;  /* Deprecated. */
749         }
750
751 #undef CASE_SWAP
752
753         /* Restore original ID's internal data. */
754         *id_a = id_a_back;
755         *id_b = id_b_back;
756
757         /* Exception: IDProperties. */
758         id_a->properties = id_b_back.properties;
759         id_b->properties = id_a_back.properties;
760
761         /* Swap will have broken internal references to itself, restore them. */
762         BKE_libblock_relink_ex(bmain, id_a, id_b, id_a, false);
763         BKE_libblock_relink_ex(bmain, id_b, id_a, id_b, false);
764 }
765
766 /** Does *not* set ID->newid pointer. */
767 bool id_single_user(bContext *C, ID *id, PointerRNA *ptr, PropertyRNA *prop)
768 {
769         ID *newid = NULL;
770         PointerRNA idptr;
771         
772         if (id) {
773                 /* if property isn't editable, we're going to have an extra block hanging around until we save */
774                 if (RNA_property_editable(ptr, prop)) {
775                         if (id_copy(CTX_data_main(C), id, &newid, false) && newid) {
776                                 /* copy animation actions too */
777                                 BKE_animdata_copy_id_action(id, false);
778                                 /* us is 1 by convention, but RNA_property_pointer_set
779                                  * will also increment it, so set it to zero */
780                                 newid->us = 0;
781
782                                 /* assign copy */
783                                 RNA_id_pointer_create(newid, &idptr);
784                                 RNA_property_pointer_set(ptr, prop, idptr);
785                                 RNA_property_update(C, ptr, prop);
786                                 
787                                 return true;
788                         }
789                 }
790         }
791         
792         return false;
793 }
794
795 static int libblock_management_us_plus(void *UNUSED(user_data), ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
796 {
797         if (cb_flag & IDWALK_CB_USER) {
798                 id_us_plus(*id_pointer);
799         }
800         if (cb_flag & IDWALK_CB_USER_ONE) {
801                 id_us_ensure_real(*id_pointer);
802         }
803
804         return IDWALK_RET_NOP;
805 }
806
807 static int libblock_management_us_min(void *UNUSED(user_data), ID *UNUSED(id_self), ID **id_pointer, int cb_flag)
808 {
809         if (cb_flag & IDWALK_CB_USER) {
810                 id_us_min(*id_pointer);
811         }
812         /* We can do nothing in IDWALK_CB_USER_ONE case! */
813
814         return IDWALK_RET_NOP;
815 }
816
817 /** Add a 'NO_MAIN' datablock to given main (also sets usercounts of its IDs if needed). */
818 void BKE_libblock_management_main_add(Main *bmain, void *idv)
819 {
820         ID *id = idv;
821
822         BLI_assert(bmain != NULL);
823         if ((id->tag & LIB_TAG_NO_MAIN) == 0) {
824                 return;
825         }
826
827         if ((id->tag & LIB_TAG_NOT_ALLOCATED) != 0) {
828                 /* We cannot add non-allocated ID to Main! */
829                 return;
830         }
831
832         /* We cannot allow non-userrefcounting IDs in Main database! */
833         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) != 0) {
834                 BKE_library_foreach_ID_link(bmain, id, libblock_management_us_plus, NULL, IDWALK_NOP);
835         }
836
837         ListBase *lb = which_libbase(bmain, GS(id->name));
838         BKE_main_lock(bmain);
839         BLI_addtail(lb, id);
840         new_id(lb, id, NULL);
841         /* alphabetic insertion: is in new_id */
842         id->tag &= ~(LIB_TAG_NO_MAIN | LIB_TAG_NO_USER_REFCOUNT);
843         BKE_main_unlock(bmain);
844 }
845
846 /** Remove a datablock from given main (set it to 'NO_MAIN' status). */
847 void BKE_libblock_management_main_remove(Main *bmain, void *idv)
848 {
849         ID *id = idv;
850
851         BLI_assert(bmain != NULL);
852         if ((id->tag & LIB_TAG_NO_MAIN) != 0) {
853                 return;
854         }
855
856         /* For now, allow userrefcounting IDs to get out of Main - can be handy in some cases... */
857
858         ListBase *lb = which_libbase(bmain, GS(id->name));
859         BKE_main_lock(bmain);
860         BLI_remlink(lb, id);
861         id->tag |= LIB_TAG_NO_MAIN;
862         BKE_main_unlock(bmain);
863 }
864
865 void BKE_libblock_management_usercounts_set(Main *bmain, void *idv)
866 {
867         ID *id = idv;
868
869         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) == 0) {
870                 return;
871         }
872
873         BKE_library_foreach_ID_link(bmain, id, libblock_management_us_plus, NULL, IDWALK_NOP);
874         id->tag &= ~LIB_TAG_NO_USER_REFCOUNT;
875 }
876
877 void BKE_libblock_management_usercounts_clear(Main *bmain, void *idv)
878 {
879         ID *id = idv;
880
881         /* We do not allow IDs in Main database to not be userrefcounting. */
882         if ((id->tag & LIB_TAG_NO_USER_REFCOUNT) != 0 || (id->tag & LIB_TAG_NO_MAIN) != 0) {
883                 return;
884         }
885
886         BKE_library_foreach_ID_link(bmain, id, libblock_management_us_min, NULL, IDWALK_NOP);
887         id->tag |= LIB_TAG_NO_USER_REFCOUNT;
888 }
889
890 ListBase *which_libbase(Main *mainlib, short type)
891 {
892         switch ((ID_Type)type) {
893                 case ID_SCE:
894                         return &(mainlib->scene);
895                 case ID_LI:
896                         return &(mainlib->library);
897                 case ID_OB:
898                         return &(mainlib->object);
899                 case ID_ME:
900                         return &(mainlib->mesh);
901                 case ID_CU:
902                         return &(mainlib->curve);
903                 case ID_MB:
904                         return &(mainlib->mball);
905                 case ID_MA:
906                         return &(mainlib->mat);
907                 case ID_TE:
908                         return &(mainlib->tex);
909                 case ID_IM:
910                         return &(mainlib->image);
911                 case ID_LT:
912                         return &(mainlib->latt);
913                 case ID_LA:
914                         return &(mainlib->lamp);
915                 case ID_CA:
916                         return &(mainlib->camera);
917                 case ID_IP:
918                         return &(mainlib->ipo);
919                 case ID_KE:
920                         return &(mainlib->key);
921                 case ID_WO:
922                         return &(mainlib->world);
923                 case ID_SCR:
924                         return &(mainlib->screen);
925                 case ID_VF:
926                         return &(mainlib->vfont);
927                 case ID_TXT:
928                         return &(mainlib->text);
929                 case ID_SPK:
930                         return &(mainlib->speaker);
931                 case ID_LP:
932                         return &(mainlib->lightprobe);
933                 case ID_SO:
934                         return &(mainlib->sound);
935                 case ID_GR:
936                         return &(mainlib->group);
937                 case ID_AR:
938                         return &(mainlib->armature);
939                 case ID_AC:
940                         return &(mainlib->action);
941                 case ID_NT:
942                         return &(mainlib->nodetree);
943                 case ID_BR:
944                         return &(mainlib->brush);
945                 case ID_PA:
946                         return &(mainlib->particle);
947                 case ID_WM:
948                         return &(mainlib->wm);
949                 case ID_GD:
950                         return &(mainlib->gpencil);
951                 case ID_MC:
952                         return &(mainlib->movieclip);
953                 case ID_MSK:
954                         return &(mainlib->mask);
955                 case ID_LS:
956                         return &(mainlib->linestyle);
957                 case ID_PAL:
958                         return &(mainlib->palettes);
959                 case ID_PC:
960                         return &(mainlib->paintcurves);
961                 case ID_CF:
962                         return &(mainlib->cachefiles);
963                 case ID_WS:
964                         return &(mainlib->workspaces);
965         }
966         return NULL;
967 }
968
969 /**
970  * Clear or set given tags for all ids in listbase (runtime tags).
971  */
972 void BKE_main_id_tag_listbase(ListBase *lb, const int tag, const bool value)
973 {
974         ID *id;
975         if (value) {
976                 for (id = lb->first; id; id = id->next) {
977                         id->tag |= tag;
978                 }
979         }
980         else {
981                 const int ntag = ~tag;
982                 for (id = lb->first; id; id = id->next) {
983                         id->tag &= ntag;
984                 }
985         }
986 }
987
988 /**
989  * Clear or set given tags for all ids of given type in bmain (runtime tags).
990  */
991 void BKE_main_id_tag_idcode(struct Main *mainvar, const short type, const int tag, const bool value)
992 {
993         ListBase *lb = which_libbase(mainvar, type);
994
995         BKE_main_id_tag_listbase(lb, tag, value);
996 }
997
998 /**
999  * Clear or set given tags for all ids in bmain (runtime tags).
1000  */
1001 void BKE_main_id_tag_all(struct Main *mainvar, const int tag, const bool value)
1002 {
1003         ListBase *lbarray[MAX_LIBARRAY];
1004         int a;
1005
1006         a = set_listbasepointers(mainvar, lbarray);
1007         while (a--) {
1008                 BKE_main_id_tag_listbase(lbarray[a], tag, value);
1009         }
1010 }
1011
1012
1013 /**
1014  * Clear or set given flags for all ids in listbase (persistent flags).
1015  */
1016 void BKE_main_id_flag_listbase(ListBase *lb, const int flag, const bool value)
1017 {
1018         ID *id;
1019         if (value) {
1020                 for (id = lb->first; id; id = id->next)
1021                         id->tag |= flag;
1022         }
1023         else {
1024                 const int nflag = ~flag;
1025                 for (id = lb->first; id; id = id->next)
1026                         id->tag &= nflag;
1027         }
1028 }
1029
1030 /**
1031  * Clear or set given flags for all ids in bmain (persistent flags).
1032  */
1033 void BKE_main_id_flag_all(Main *bmain, const int flag, const bool value)
1034 {
1035         ListBase *lbarray[MAX_LIBARRAY];
1036         int a;
1037         a = set_listbasepointers(bmain, lbarray);
1038         while (a--) {
1039                 BKE_main_id_flag_listbase(lbarray[a], flag, value);
1040         }
1041 }
1042
1043 void BKE_main_lib_objects_recalc_all(Main *bmain)
1044 {
1045         Object *ob;
1046
1047         /* flag for full recalc */
1048         for (ob = bmain->object.first; ob; ob = ob->id.next) {
1049                 if (ID_IS_LINKED(ob)) {
1050                         DEG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA | OB_RECALC_TIME);
1051                 }
1052         }
1053
1054         DEG_id_type_tag(bmain, ID_OB);
1055 }
1056
1057 /**
1058  * puts into array *lb pointers to all the ListBase structs in main,
1059  * and returns the number of them as the function result. This is useful for
1060  * generic traversal of all the blocks in a Main (by traversing all the
1061  * lists in turn), without worrying about block types.
1062  *
1063  * \note MAX_LIBARRAY define should match this code */
1064 int set_listbasepointers(Main *main, ListBase **lb)
1065 {
1066         /* BACKWARDS! also watch order of free-ing! (mesh<->mat), first items freed last.
1067          * This is important because freeing data decreases usercounts of other datablocks,
1068          * if this data is its self freed it can crash. */
1069         lb[INDEX_ID_LI] = &(main->library);  /* Libraries may be accessed from pretty much any other ID... */
1070         lb[INDEX_ID_IP] = &(main->ipo);
1071         lb[INDEX_ID_AC] = &(main->action); /* moved here to avoid problems when freeing with animato (aligorith) */
1072         lb[INDEX_ID_KE] = &(main->key);
1073         lb[INDEX_ID_GD] = &(main->gpencil); /* referenced by nodes, objects, view, scene etc, before to free after. */
1074         lb[INDEX_ID_NT] = &(main->nodetree);
1075         lb[INDEX_ID_IM] = &(main->image);
1076         lb[INDEX_ID_TE] = &(main->tex);
1077         lb[INDEX_ID_MA] = &(main->mat);
1078         lb[INDEX_ID_VF] = &(main->vfont);
1079         
1080         /* Important!: When adding a new object type,
1081          * the specific data should be inserted here 
1082          */
1083
1084         lb[INDEX_ID_AR] = &(main->armature);
1085
1086         lb[INDEX_ID_CF] = &(main->cachefiles);
1087         lb[INDEX_ID_ME] = &(main->mesh);
1088         lb[INDEX_ID_CU] = &(main->curve);
1089         lb[INDEX_ID_MB] = &(main->mball);
1090
1091         lb[INDEX_ID_LT] = &(main->latt);
1092         lb[INDEX_ID_LA] = &(main->lamp);
1093         lb[INDEX_ID_CA] = &(main->camera);
1094
1095         lb[INDEX_ID_TXT] = &(main->text);
1096         lb[INDEX_ID_SO]  = &(main->sound);
1097         lb[INDEX_ID_GR]  = &(main->group);
1098         lb[INDEX_ID_PAL] = &(main->palettes);
1099         lb[INDEX_ID_PC]  = &(main->paintcurves);
1100         lb[INDEX_ID_BR]  = &(main->brush);
1101         lb[INDEX_ID_PA]  = &(main->particle);
1102         lb[INDEX_ID_SPK] = &(main->speaker);
1103         lb[INDEX_ID_LP]  = &(main->lightprobe);
1104
1105         lb[INDEX_ID_WO]  = &(main->world);
1106         lb[INDEX_ID_MC]  = &(main->movieclip);
1107         lb[INDEX_ID_SCR] = &(main->screen);
1108         lb[INDEX_ID_OB]  = &(main->object);
1109         lb[INDEX_ID_LS]  = &(main->linestyle); /* referenced by scenes */
1110         lb[INDEX_ID_SCE] = &(main->scene);
1111         lb[INDEX_ID_WS]  = &(main->workspaces); /* before wm, so it's freed after it! */
1112         lb[INDEX_ID_WM]  = &(main->wm);
1113         lb[INDEX_ID_MSK] = &(main->mask);
1114         
1115         lb[INDEX_ID_NULL] = NULL;
1116
1117         return (MAX_LIBARRAY - 1);
1118 }
1119
1120 /* *********** ALLOC AND FREE *****************
1121  *
1122  * BKE_libblock_free(ListBase *lb, ID *id )
1123  * provide a list-basis and datablock, but only ID is read
1124  *
1125  * void *BKE_libblock_alloc(ListBase *lb, type, name)
1126  * inserts in list and returns a new ID
1127  *
1128  * **************************** */
1129
1130 /**
1131  * Get allocation size fo a given datablock type and optionally allocation name.
1132  */
1133 size_t BKE_libblock_get_alloc_info(short type, const char **name)
1134 {
1135 #define CASE_RETURN(id_code, type)  \
1136         case id_code:                   \
1137                 do {                        \
1138                         if (name != NULL) {     \
1139                                 *name = #type;      \
1140                         }                       \
1141                         return sizeof(type);    \
1142                 } while(0)
1143
1144         switch ((ID_Type)type) {
1145                 CASE_RETURN(ID_SCE, Scene);
1146                 CASE_RETURN(ID_LI,  Library);
1147                 CASE_RETURN(ID_OB,  Object);
1148                 CASE_RETURN(ID_ME,  Mesh);
1149                 CASE_RETURN(ID_CU,  Curve);
1150                 CASE_RETURN(ID_MB,  MetaBall);
1151                 CASE_RETURN(ID_MA,  Material);
1152                 CASE_RETURN(ID_TE,  Tex);
1153                 CASE_RETURN(ID_IM,  Image);
1154                 CASE_RETURN(ID_LT,  Lattice);
1155                 CASE_RETURN(ID_LA,  Lamp);
1156                 CASE_RETURN(ID_CA,  Camera);
1157                 CASE_RETURN(ID_IP,  Ipo);
1158                 CASE_RETURN(ID_KE,  Key);
1159                 CASE_RETURN(ID_WO,  World);
1160                 CASE_RETURN(ID_SCR, bScreen);
1161                 CASE_RETURN(ID_VF,  VFont);
1162                 CASE_RETURN(ID_TXT, Text);
1163                 CASE_RETURN(ID_SPK, Speaker);
1164                 CASE_RETURN(ID_LP,  LightProbe);
1165                 CASE_RETURN(ID_SO,  bSound);
1166                 CASE_RETURN(ID_GR,  Group);
1167                 CASE_RETURN(ID_AR,  bArmature);
1168                 CASE_RETURN(ID_AC,  bAction);
1169                 CASE_RETURN(ID_NT,  bNodeTree);
1170                 CASE_RETURN(ID_BR,  Brush);
1171                 CASE_RETURN(ID_PA,  ParticleSettings);
1172                 CASE_RETURN(ID_WM,  wmWindowManager);
1173                 CASE_RETURN(ID_GD,  bGPdata);
1174                 CASE_RETURN(ID_MC,  MovieClip);
1175                 CASE_RETURN(ID_MSK, Mask);
1176                 CASE_RETURN(ID_LS,  FreestyleLineStyle);
1177                 CASE_RETURN(ID_PAL, Palette);
1178                 CASE_RETURN(ID_PC,  PaintCurve);
1179                 CASE_RETURN(ID_CF,  CacheFile);
1180                 CASE_RETURN(ID_WS,  WorkSpace);
1181         }
1182         return 0;
1183 #undef CASE_RETURN
1184 }
1185
1186 /**
1187  * Allocates and returns memory of the right size for the specified block type,
1188  * initialized to zero.
1189  */
1190 void *BKE_libblock_alloc_notest(short type)
1191 {
1192         const char *name;
1193         size_t size = BKE_libblock_get_alloc_info(type, &name);
1194         if (size != 0) {
1195                 return MEM_callocN(size, name);
1196         }
1197         BLI_assert(!"Request to allocate unknown data type");
1198         return NULL;
1199 }
1200
1201 /**
1202  * Allocates and returns a block of the specified type, with the specified name
1203  * (adjusted as necessary to ensure uniqueness), and appended to the specified list.
1204  * The user count is set to 1, all other content (apart from name and links) being
1205  * initialized to zero.
1206  */
1207 void *BKE_libblock_alloc(Main *bmain, short type, const char *name, const int flag)
1208 {
1209         BLI_assert((flag & LIB_ID_CREATE_NO_ALLOCATE) == 0);
1210
1211         ID *id = BKE_libblock_alloc_notest(type);
1212
1213         if (id) {
1214                 if ((flag & LIB_ID_CREATE_NO_MAIN) != 0) {
1215                         id->tag |= LIB_TAG_NO_MAIN;
1216                 }
1217                 if ((flag & LIB_ID_CREATE_NO_USER_REFCOUNT) != 0) {
1218                         id->tag |= LIB_TAG_NO_USER_REFCOUNT;
1219                 }
1220
1221                 id->icon_id = 0;
1222                 *((short *)id->name) = type;
1223                 if ((flag & LIB_ID_CREATE_NO_USER_REFCOUNT) == 0) {
1224                         id->us = 1;
1225                 }
1226                 if ((flag & LIB_ID_CREATE_NO_MAIN) == 0) {
1227                         ListBase *lb = which_libbase(bmain, type);
1228
1229                         BKE_main_lock(bmain);
1230                         BLI_addtail(lb, id);
1231                         new_id(lb, id, name);
1232                         /* alphabetic insertion: is in new_id */
1233                         BKE_main_unlock(bmain);
1234
1235                         /* TODO to be removed from here! */
1236                         if ((flag & LIB_ID_CREATE_NO_DEG_TAG) == 0) {
1237                                 DEG_id_type_tag(bmain, type);
1238                         }
1239                 }
1240                 else {
1241                         BLI_strncpy(id->name + 2, name, sizeof(id->name) - 2);
1242                 }
1243         }
1244
1245         return id;
1246 }
1247
1248 /**
1249  * Initialize an ID of given type, such that it has valid 'empty' data.
1250  * ID is assumed to be just calloc'ed.
1251  */
1252 void BKE_libblock_init_empty(ID *id)
1253 {
1254         /* Note that only ID types that are not valid when filled of zero should have a callback here. */
1255         switch ((ID_Type)GS(id->name)) {
1256                 case ID_SCE:
1257                         BKE_scene_init((Scene *)id);
1258                         break;
1259                 case ID_LI:
1260                         /* Nothing to do. */
1261                         break;
1262                 case ID_OB:
1263                 {
1264                         Object *ob = (Object *)id;
1265                         ob->type = OB_EMPTY;
1266                         BKE_object_init(ob);
1267                         break;
1268                 }
1269                 case ID_ME:
1270                         BKE_mesh_init((Mesh *)id);
1271                         break;
1272                 case ID_CU:
1273                         BKE_curve_init((Curve *)id);
1274                         break;
1275                 case ID_MB:
1276                         BKE_mball_init((MetaBall *)id);
1277                         break;
1278                 case ID_MA:
1279                         BKE_material_init((Material *)id);
1280                         break;
1281                 case ID_TE:
1282                         BKE_texture_default((Tex *)id);
1283                         break;
1284                 case ID_IM:
1285                         BKE_image_init((Image *)id);
1286                         break;
1287                 case ID_LT:
1288                         BKE_lattice_init((Lattice *)id);
1289                         break;
1290                 case ID_LA:
1291                         BKE_lamp_init((Lamp *)id);
1292                         break;
1293                 case ID_SPK:
1294                         BKE_speaker_init((Speaker *)id);
1295                         break;
1296                 case ID_LP:
1297                         BKE_lightprobe_init((LightProbe *)id);
1298                         break;
1299                 case ID_CA:
1300                         BKE_camera_init((Camera *)id);
1301                         break;
1302                 case ID_WO:
1303                         BKE_world_init((World *)id);
1304                         break;
1305                 case ID_SCR:
1306                         /* Nothing to do. */
1307                         break;
1308                 case ID_VF:
1309                         BKE_vfont_init((VFont *)id);
1310                         break;
1311                 case ID_TXT:
1312                         BKE_text_init((Text *)id);
1313                         break;
1314                 case ID_SO:
1315                         /* Another fuzzy case, think NULLified content is OK here... */
1316                         break;
1317                 case ID_GR:
1318                         /* Nothing to do. */
1319                         break;
1320                 case ID_AR:
1321                         /* Nothing to do. */
1322                         break;
1323                 case ID_AC:
1324                         /* Nothing to do. */
1325                         break;
1326                 case ID_NT:
1327                         ntreeInitDefault((bNodeTree *)id);
1328                         break;
1329                 case ID_BR:
1330                         BKE_brush_init((Brush *)id);
1331                         break;
1332                 case ID_PA:
1333                         /* Nothing to do. */
1334                         break;
1335                 case ID_PC:
1336                         /* Nothing to do. */
1337                         break;
1338                 case ID_GD:
1339                         /* Nothing to do. */
1340                         break;
1341                 case ID_MSK:
1342                         /* Nothing to do. */
1343                         break;
1344                 case ID_LS:
1345                         BKE_linestyle_init((FreestyleLineStyle *)id);
1346                         break;
1347                 case ID_CF:
1348                         BKE_cachefile_init((CacheFile *)id);
1349                         break;
1350                 case ID_KE:
1351                         /* Shapekeys are a complex topic too - they depend on their 'user' data type...
1352                          * They are not linkable, though, so it should never reach here anyway. */
1353                         BLI_assert(0);
1354                         break;
1355                 case ID_WM:
1356                         /* We should never reach this. */
1357                         BLI_assert(0);
1358                         break;
1359                 case ID_IP:
1360                         /* Should not be needed - animation from lib pre-2.5 is broken anyway. */
1361                         BLI_assert(0);
1362                         break;
1363                 default:
1364                         BLI_assert(0);  /* Should never reach this point... */
1365         }
1366 }
1367
1368 /* by spec, animdata is first item after ID */
1369 /* and, trust that BKE_animdata_from_id() will only find AnimData for valid ID-types */
1370 static void id_copy_animdata(Main *bmain, ID *id, const bool do_action)
1371 {
1372         AnimData *adt = BKE_animdata_from_id(id);
1373         
1374         if (adt) {
1375                 IdAdtTemplate *iat = (IdAdtTemplate *)id;
1376                 iat->adt = BKE_animdata_copy(bmain, iat->adt, do_action); /* could be set to false, need to investigate */
1377         }
1378 }
1379
1380 void BKE_libblock_copy_ex(Main *bmain, const ID *id, ID **r_newid, const int flag)
1381 {
1382         ID *new_id = *r_newid;
1383
1384         /* Grrrrrrrrr... Not adding 'root' nodetrees to bmain.... grrrrrrrrrrrrrrrrrrrr! */
1385         /* This is taken from original ntree copy code, might be weak actually? */
1386         const bool use_nodetree_alloc_exception = ((GS(id->name) == ID_NT) && (bmain != NULL) &&
1387                                                    (BLI_findindex(&bmain->nodetree, id) < 0));
1388
1389         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) != 0 || bmain != NULL);
1390         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) != 0 || (flag & LIB_ID_CREATE_NO_ALLOCATE) == 0);
1391         BLI_assert((flag & LIB_ID_CREATE_NO_MAIN) == 0 || (flag & LIB_ID_CREATE_NO_USER_REFCOUNT) != 0);
1392
1393         if ((flag & LIB_ID_CREATE_NO_ALLOCATE) != 0) {
1394                 /* r_newid already contains pointer to allocated memory. */
1395                 /* TODO do we want to memset(0) whole mem before filling it? */
1396                 BLI_strncpy(new_id->name, id->name, sizeof(new_id->name));
1397                 new_id->us = 0;
1398                 new_id->tag |= LIB_TAG_NOT_ALLOCATED | LIB_TAG_NO_MAIN | LIB_TAG_NO_USER_REFCOUNT;
1399                 /* TODO Do we want/need to copy more from ID struct itself? */
1400         }
1401         else {
1402                 new_id = BKE_libblock_alloc(bmain, GS(id->name), id->name + 2, flag | (use_nodetree_alloc_exception ? LIB_ID_CREATE_NO_MAIN : 0));
1403         }
1404         BLI_assert(new_id != NULL);
1405
1406         const size_t id_len = BKE_libblock_get_alloc_info(GS(new_id->name), NULL);
1407         const size_t id_offset = sizeof(ID);
1408         if ((int)id_len - (int)id_offset > 0) { /* signed to allow neg result */ /* XXX ????? */
1409                 const char *cp = (const char *)id;
1410                 char *cpn = (char *)new_id;
1411
1412                 memcpy(cpn + id_offset, cp + id_offset, id_len - id_offset);
1413         }
1414
1415         if (id->properties) {
1416                 new_id->properties = IDP_CopyProperty_ex(id->properties, flag);
1417         }
1418
1419         /* XXX Again... We need a way to control what we copy in a much more refined way.
1420          * We cannot always copy this, some internal copying will die on it! */
1421         /* For now, upper level code will have to do that itself when required. */
1422 #if 0
1423         if (id->override != NULL) {
1424                 BKE_override_copy(new_id, id);
1425         }
1426 #endif
1427
1428         /* the duplicate should get a copy of the animdata */
1429         id_copy_animdata(bmain, new_id, (flag & LIB_ID_COPY_ACTIONS) != 0 && (flag & LIB_ID_CREATE_NO_MAIN) == 0);
1430
1431         if ((flag & LIB_ID_CREATE_NO_DEG_TAG) == 0 && (flag & LIB_ID_CREATE_NO_MAIN) == 0) {
1432                 DEG_id_type_tag(bmain, GS(new_id->name));
1433         }
1434
1435         *r_newid = new_id;
1436 }
1437
1438 /* used everywhere in blenkernel */
1439 void *BKE_libblock_copy(Main *bmain, const ID *id)
1440 {
1441         ID *idn;
1442
1443         BKE_libblock_copy_ex(bmain, id, &idn, 0);
1444
1445         return idn;
1446 }
1447
1448 void *BKE_libblock_copy_nolib(const ID *id, const bool do_action)
1449 {
1450         ID *idn;
1451
1452         BKE_libblock_copy_ex(NULL, id, &idn, LIB_ID_CREATE_NO_MAIN | LIB_ID_CREATE_NO_USER_REFCOUNT | (do_action ? LIB_ID_COPY_ACTIONS : 0));
1453
1454         return idn;
1455 }
1456
1457 void BKE_library_free(Library *lib)
1458 {
1459         if (lib->packedfile)
1460                 freePackedFile(lib->packedfile);
1461 }
1462
1463 Main *BKE_main_new(void)
1464 {
1465         Main *bmain = MEM_callocN(sizeof(Main), "new main");
1466         bmain->eval_ctx = DEG_evaluation_context_new(DAG_EVAL_VIEWPORT);
1467         bmain->lock = MEM_mallocN(sizeof(SpinLock), "main lock");
1468         BLI_spin_init((SpinLock *)bmain->lock);
1469         return bmain;
1470 }
1471
1472 void BKE_main_free(Main *mainvar)
1473 {
1474         /* also call when reading a file, erase all, etc */
1475         ListBase *lbarray[MAX_LIBARRAY];
1476         int a;
1477
1478         MEM_SAFE_FREE(mainvar->blen_thumb);
1479
1480         a = set_listbasepointers(mainvar, lbarray);
1481         while (a--) {
1482                 ListBase *lb = lbarray[a];
1483                 ID *id;
1484                 
1485                 while ( (id = lb->first) ) {
1486 #if 1
1487                         BKE_libblock_free_ex(mainvar, id, false, false);
1488 #else
1489                         /* errors freeing ID's can be hard to track down,
1490                          * enable this so valgrind will give the line number in its error log */
1491                         switch (a) {
1492                                 case   0: BKE_libblock_free_ex(mainvar, id, false, false); break;
1493                                 case   1: BKE_libblock_free_ex(mainvar, id, false, false); break;
1494                                 case   2: BKE_libblock_free_ex(mainvar, id, false, false); break;
1495                                 case   3: BKE_libblock_free_ex(mainvar, id, false, false); break;
1496                                 case   4: BKE_libblock_free_ex(mainvar, id, false, false); break;
1497                                 case   5: BKE_libblock_free_ex(mainvar, id, false, false); break;
1498                                 case   6: BKE_libblock_free_ex(mainvar, id, false, false); break;
1499                                 case   7: BKE_libblock_free_ex(mainvar, id, false, false); break;
1500                                 case   8: BKE_libblock_free_ex(mainvar, id, false, false); break;
1501                                 case   9: BKE_libblock_free_ex(mainvar, id, false, false); break;
1502                                 case  10: BKE_libblock_free_ex(mainvar, id, false, false); break;
1503                                 case  11: BKE_libblock_free_ex(mainvar, id, false, false); break;
1504                                 case  12: BKE_libblock_free_ex(mainvar, id, false, false); break;
1505                                 case  13: BKE_libblock_free_ex(mainvar, id, false, false); break;
1506                                 case  14: BKE_libblock_free_ex(mainvar, id, false, false); break;
1507                                 case  15: BKE_libblock_free_ex(mainvar, id, false, false); break;
1508                                 case  16: BKE_libblock_free_ex(mainvar, id, false, false); break;
1509                                 case  17: BKE_libblock_free_ex(mainvar, id, false, false); break;
1510                                 case  18: BKE_libblock_free_ex(mainvar, id, false, false); break;
1511                                 case  19: BKE_libblock_free_ex(mainvar, id, false, false); break;
1512                                 case  20: BKE_libblock_free_ex(mainvar, id, false, false); break;
1513                                 case  21: BKE_libblock_free_ex(mainvar, id, false, false); break;
1514                                 case  22: BKE_libblock_free_ex(mainvar, id, false, false); break;
1515                                 case  23: BKE_libblock_free_ex(mainvar, id, false, false); break;
1516                                 case  24: BKE_libblock_free_ex(mainvar, id, false, false); break;
1517                                 case  25: BKE_libblock_free_ex(mainvar, id, false, false); break;
1518                                 case  26: BKE_libblock_free_ex(mainvar, id, false, false); break;
1519                                 case  27: BKE_libblock_free_ex(mainvar, id, false, false); break;
1520                                 case  28: BKE_libblock_free_ex(mainvar, id, false, false); break;
1521                                 case  29: BKE_libblock_free_ex(mainvar, id, false, false); break;
1522                                 case  30: BKE_libblock_free_ex(mainvar, id, false, false); break;
1523                                 case  31: BKE_libblock_free_ex(mainvar, id, false, false); break;
1524                                 case  32: BKE_libblock_free_ex(mainvar, id, false, false); break;
1525                                 case  33: BKE_libblock_free_ex(mainvar, id, false, false); break;
1526                                 case  34: BKE_libblock_free_ex(mainvar, id, false, false); break;
1527                                 default:
1528                                         BLI_assert(0);
1529                                         break;
1530                         }
1531 #endif
1532                 }
1533         }
1534
1535         if (mainvar->relations) {
1536                 BKE_main_relations_free(mainvar);
1537         }
1538
1539         BLI_spin_end((SpinLock *)mainvar->lock);
1540         MEM_freeN(mainvar->lock);
1541         DEG_evaluation_context_free(mainvar->eval_ctx);
1542         MEM_freeN(mainvar);
1543 }
1544
1545 void BKE_main_lock(struct Main *bmain)
1546 {
1547         BLI_spin_lock((SpinLock *) bmain->lock);
1548 }
1549
1550 void BKE_main_unlock(struct Main *bmain)
1551 {
1552         BLI_spin_unlock((SpinLock *) bmain->lock);
1553 }
1554
1555
1556 static int main_relations_create_cb(void *user_data, ID *id_self, ID **id_pointer, int cb_flag)
1557 {
1558         MainIDRelations *rel = user_data;
1559
1560         if (*id_pointer) {
1561                 MainIDRelationsEntry *entry, **entry_p;
1562
1563                 entry = BLI_mempool_alloc(rel->entry_pool);
1564                 if (BLI_ghash_ensure_p(rel->id_user_to_used, id_self, (void ***)&entry_p)) {
1565                         entry->next = *entry_p;
1566                 }
1567                 else {
1568                         entry->next = NULL;
1569                 }
1570                 entry->id_pointer = id_pointer;
1571                 entry->usage_flag = cb_flag;
1572                 *entry_p = entry;
1573
1574                 entry = BLI_mempool_alloc(rel->entry_pool);
1575                 if (BLI_ghash_ensure_p(rel->id_used_to_user, *id_pointer, (void ***)&entry_p)) {
1576                         entry->next = *entry_p;
1577                 }
1578                 else {
1579                         entry->next = NULL;
1580                 }
1581                 entry->id_pointer = (ID **)id_self;
1582                 entry->usage_flag = cb_flag;
1583                 *entry_p = entry;
1584         }
1585
1586         return IDWALK_RET_NOP;
1587 }
1588
1589 /** Generate the mappings between used IDs and their users, and vice-versa. */
1590 void BKE_main_relations_create(Main *bmain)
1591 {
1592         ListBase *lbarray[MAX_LIBARRAY];
1593         ID *id;
1594         int a;
1595
1596         if (bmain->relations != NULL) {
1597                 BKE_main_relations_free(bmain);
1598         }
1599
1600         bmain->relations = MEM_mallocN(sizeof(*bmain->relations), __func__);
1601         bmain->relations->id_used_to_user = BLI_ghash_new(BLI_ghashutil_ptrhash, BLI_ghashutil_ptrcmp, __func__);
1602         bmain->relations->id_user_to_used = BLI_ghash_new(BLI_ghashutil_ptrhash, BLI_ghashutil_ptrcmp, __func__);
1603         bmain->relations->entry_pool = BLI_mempool_create(sizeof(MainIDRelationsEntry), 128, 128, BLI_MEMPOOL_NOP);
1604
1605         for (a = set_listbasepointers(bmain, lbarray); a--; ) {
1606                 for (id = lbarray[a]->first; id; id = id->next) {
1607                         BKE_library_foreach_ID_link(NULL, id, main_relations_create_cb, bmain->relations, IDWALK_READONLY);
1608                 }
1609         }
1610 }
1611
1612 void BKE_main_relations_free(Main *bmain)
1613 {
1614         if (bmain->relations) {
1615                 if (bmain->relations->id_used_to_user) {
1616                         BLI_ghash_free(bmain->relations->id_used_to_user, NULL, NULL);
1617                 }
1618                 if (bmain->relations->id_user_to_used) {
1619                         BLI_ghash_free(bmain->relations->id_user_to_used, NULL, NULL);
1620                 }
1621                 BLI_mempool_destroy(bmain->relations->entry_pool);
1622                 MEM_freeN(bmain->relations);
1623                 bmain->relations = NULL;
1624         }
1625 }
1626
1627 /**
1628  * Generates a raw .blend file thumbnail data from given image.
1629  *
1630  * \param bmain If not NULL, also store generated data in this Main.
1631  * \param img ImBuf image to generate thumbnail data from.
1632  * \return The generated .blend file raw thumbnail data.
1633  */
1634 BlendThumbnail *BKE_main_thumbnail_from_imbuf(Main *bmain, ImBuf *img)
1635 {
1636         BlendThumbnail *data = NULL;
1637
1638         if (bmain) {
1639                 MEM_SAFE_FREE(bmain->blen_thumb);
1640         }
1641
1642         if (img) {
1643                 const size_t sz = BLEN_THUMB_MEMSIZE(img->x, img->y);
1644                 data = MEM_mallocN(sz, __func__);
1645
1646                 IMB_rect_from_float(img);  /* Just in case... */
1647                 data->width = img->x;
1648                 data->height = img->y;
1649                 memcpy(data->rect, img->rect, sz - sizeof(*data));
1650         }
1651
1652         if (bmain) {
1653                 bmain->blen_thumb = data;
1654         }
1655         return data;
1656 }
1657
1658 /**
1659  * Generates an image from raw .blend file thumbnail \a data.
1660  *
1661  * \param bmain Use this bmain->blen_thumb data if given \a data is NULL.
1662  * \param data Raw .blend file thumbnail data.
1663  * \return An ImBuf from given data, or NULL if invalid.
1664  */
1665 ImBuf *BKE_main_thumbnail_to_imbuf(Main *bmain, BlendThumbnail *data)
1666 {
1667         ImBuf *img = NULL;
1668
1669         if (!data && bmain) {
1670                 data = bmain->blen_thumb;
1671         }
1672
1673         if (data) {
1674                 /* Note: we cannot use IMB_allocFromBuffer(), since it tries to dupalloc passed buffer, which will fail
1675                  *       here (we do not want to pass the first two ints!). */
1676                 img = IMB_allocImBuf((unsigned int)data->width, (unsigned int)data->height, 32, IB_rect | IB_metadata);
1677                 memcpy(img->rect, data->rect, BLEN_THUMB_MEMSIZE(data->width, data->height) - sizeof(*data));
1678         }
1679
1680         return img;
1681 }
1682
1683 /**
1684  * Generates an empty (black) thumbnail for given Main.
1685  */
1686 void BKE_main_thumbnail_create(struct Main *bmain)
1687 {
1688         MEM_SAFE_FREE(bmain->blen_thumb);
1689
1690         bmain->blen_thumb = MEM_callocN(BLEN_THUMB_MEMSIZE(BLEN_THUMB_SIZE, BLEN_THUMB_SIZE), __func__);
1691         bmain->blen_thumb->width = BLEN_THUMB_SIZE;
1692         bmain->blen_thumb->height = BLEN_THUMB_SIZE;
1693 }
1694
1695 /* ***************** ID ************************ */
1696 ID *BKE_libblock_find_name_ex(struct Main *bmain, const short type, const char *name)
1697 {
1698         ListBase *lb = which_libbase(bmain, type);
1699         BLI_assert(lb != NULL);
1700         return BLI_findstring(lb, name, offsetof(ID, name) + 2);
1701 }
1702 ID *BKE_libblock_find_name(const short type, const char *name)
1703 {
1704         return BKE_libblock_find_name_ex(G.main, type, name);
1705 }
1706
1707
1708 void id_sort_by_name(ListBase *lb, ID *id)
1709 {
1710         ID *idtest;
1711         
1712         /* insert alphabetically */
1713         if (lb->first != lb->last) {
1714                 BLI_remlink(lb, id);
1715                 
1716                 idtest = lb->first;
1717                 while (idtest) {
1718                         if (BLI_strcasecmp(idtest->name, id->name) > 0 || (idtest->lib && !id->lib)) {
1719                                 BLI_insertlinkbefore(lb, idtest, id);
1720                                 break;
1721                         }
1722                         idtest = idtest->next;
1723                 }
1724                 /* as last */
1725                 if (idtest == NULL) {
1726                         BLI_addtail(lb, id);
1727                 }
1728         }
1729         
1730 }
1731
1732 /**
1733  * Check to see if there is an ID with the same name as 'name'.
1734  * Returns the ID if so, if not, returns NULL
1735  */
1736 static ID *is_dupid(ListBase *lb, ID *id, const char *name)
1737 {
1738         ID *idtest = NULL;
1739         
1740         for (idtest = lb->first; idtest; idtest = idtest->next) {
1741                 /* if idtest is not a lib */ 
1742                 if (id != idtest && !ID_IS_LINKED(idtest)) {
1743                         /* do not test alphabetic! */
1744                         /* optimized */
1745                         if (idtest->name[2] == name[0]) {
1746                                 if (STREQ(name, idtest->name + 2)) break;
1747                         }
1748                 }
1749         }
1750         
1751         return idtest;
1752 }
1753
1754 /**
1755  * Check to see if an ID name is already used, and find a new one if so.
1756  * Return true if created a new name (returned in name).
1757  *
1758  * Normally the ID that's being check is already in the ListBase, so ID *id
1759  * points at the new entry.  The Python Library module needs to know what
1760  * the name of a datablock will be before it is appended; in this case ID *id
1761  * id is NULL
1762  */
1763
1764 static bool check_for_dupid(ListBase *lb, ID *id, char *name)
1765 {
1766         ID *idtest;
1767         int nr = 0, a;
1768         size_t left_len;
1769 #define MAX_IN_USE 64
1770         bool in_use[MAX_IN_USE];
1771         /* to speed up finding unused numbers within [1 .. MAX_IN_USE - 1] */
1772
1773         char left[MAX_ID_NAME + 8], leftest[MAX_ID_NAME + 8];
1774
1775         while (true) {
1776
1777                 /* phase 1: id already exists? */
1778                 idtest = is_dupid(lb, id, name);
1779
1780                 /* if there is no double, done */
1781                 if (idtest == NULL) return false;
1782
1783                 /* we have a dup; need to make a new name */
1784                 /* quick check so we can reuse one of first MAX_IN_USE - 1 ids if vacant */
1785                 memset(in_use, false, sizeof(in_use));
1786
1787                 /* get name portion, number portion ("name.number") */
1788                 left_len = BLI_split_name_num(left, &nr, name, '.');
1789
1790                 /* if new name will be too long, truncate it */
1791                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {  /* assumption: won't go beyond 9999 */
1792                         left[MAX_ID_NAME - 8] = '\0';
1793                         left_len = MAX_ID_NAME - 8;
1794                 }
1795                 else if (left_len > (MAX_ID_NAME - 7)) {
1796                         left[MAX_ID_NAME - 7] = '\0';
1797                         left_len = MAX_ID_NAME - 7;
1798                 }
1799
1800                 /* Code above may have generated invalid utf-8 string, due to raw truncation.
1801                  * Ensure we get a valid one now! */
1802                 left_len -= (size_t)BLI_utf8_invalid_strip(left, left_len);
1803
1804                 for (idtest = lb->first; idtest; idtest = idtest->next) {
1805                         int nrtest;
1806                         if ( (id != idtest) &&
1807                              !ID_IS_LINKED(idtest) &&
1808                              (*name == *(idtest->name + 2)) &&
1809                              STREQLEN(name, idtest->name + 2, left_len) &&
1810                              (BLI_split_name_num(leftest, &nrtest, idtest->name + 2, '.') == left_len)
1811                              )
1812                         {
1813                                 /* will get here at least once, otherwise is_dupid call above would have returned NULL */
1814                                 if (nrtest < MAX_IN_USE)
1815                                         in_use[nrtest] = true;  /* mark as used */
1816                                 if (nr <= nrtest)
1817                                         nr = nrtest + 1;    /* track largest unused */
1818                         }
1819                 }
1820                 /* At this point, 'nr' will typically be at least 1. (but not always) */
1821                 // BLI_assert(nr >= 1);
1822
1823                 /* decide which value of nr to use */
1824                 for (a = 0; a < MAX_IN_USE; a++) {
1825                         if (a >= nr) break;  /* stop when we've checked up to biggest */  /* redundant check */
1826                         if (!in_use[a]) { /* found an unused value */
1827                                 nr = a;
1828                                 /* can only be zero if all potential duplicate names had
1829                                  * nonzero numeric suffixes, which means name itself has
1830                                  * nonzero numeric suffix (else no name conflict and wouldn't
1831                                  * have got here), which means name[left_len] is not a null */
1832                                 break;
1833                         }
1834                 }
1835                 /* At this point, nr is either the lowest unused number within [0 .. MAX_IN_USE - 1],
1836                  * or 1 greater than the largest used number if all those low ones are taken.
1837                  * We can't be bothered to look for the lowest unused number beyond (MAX_IN_USE - 1). */
1838
1839                 /* If the original name has no numeric suffix, 
1840                  * rather than just chopping and adding numbers, 
1841                  * shave off the end chars until we have a unique name.
1842                  * Check the null terminators match as well so we don't get Cube.000 -> Cube.00 */
1843                 if (nr == 0 && name[left_len] == '\0') {
1844                         size_t len;
1845                         /* FIXME: this code will never be executed, because either nr will be
1846                          * at least 1, or name will not end at left_len! */
1847                         BLI_assert(0);
1848
1849                         len = left_len - 1;
1850                         idtest = is_dupid(lb, id, name);
1851                         
1852                         while (idtest && len > 1) {
1853                                 name[len--] = '\0';
1854                                 idtest = is_dupid(lb, id, name);
1855                         }
1856                         if (idtest == NULL) return true;
1857                         /* otherwise just continue and use a number suffix */
1858                 }
1859                 
1860                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {
1861                         /* this would overflow name buffer */
1862                         left[MAX_ID_NAME - 8] = 0;
1863                         /* left_len = MAX_ID_NAME - 8; */ /* for now this isn't used again */
1864                         memcpy(name, left, sizeof(char) * (MAX_ID_NAME - 7));
1865                         continue;
1866                 }
1867                 /* this format specifier is from hell... */
1868                 BLI_snprintf(name, sizeof(id->name) - 2, "%s.%.3d", left, nr);
1869
1870                 return true;
1871         }
1872
1873 #undef MAX_IN_USE
1874 }
1875
1876 /*
1877  * Only for local blocks: external en indirect blocks already have a
1878  * unique ID.
1879  *
1880  * return true: created a new name
1881  */
1882
1883 bool new_id(ListBase *lb, ID *id, const char *tname)
1884 {
1885         bool result;
1886         char name[MAX_ID_NAME - 2];
1887
1888         /* if library, don't rename */
1889         if (ID_IS_LINKED(id))
1890                 return false;
1891
1892         /* if no name given, use name of current ID
1893          * else make a copy (tname args can be const) */
1894         if (tname == NULL)
1895                 tname = id->name + 2;
1896
1897         BLI_strncpy(name, tname, sizeof(name));
1898
1899         if (name[0] == '\0') {
1900                 /* disallow empty names */
1901                 BLI_strncpy(name, DATA_(ID_FALLBACK_NAME), sizeof(name));
1902         }
1903         else {
1904                 /* disallow non utf8 chars,
1905                  * the interface checks for this but new ID's based on file names don't */
1906                 BLI_utf8_invalid_strip(name, strlen(name));
1907         }
1908
1909         result = check_for_dupid(lb, id, name);
1910         strcpy(id->name + 2, name);
1911
1912         /* This was in 2.43 and previous releases
1913          * however all data in blender should be sorted, not just duplicate names
1914          * sorting should not hurt, but noting just incase it alters the way other
1915          * functions work, so sort every time */
1916 #if 0
1917         if (result)
1918                 id_sort_by_name(lb, id);
1919 #endif
1920
1921         id_sort_by_name(lb, id);
1922         
1923         return result;
1924 }
1925
1926 /**
1927  * Pull an ID out of a library (make it local). Only call this for IDs that
1928  * don't have other library users.
1929  */
1930 void id_clear_lib_data_ex(Main *bmain, ID *id, const bool id_in_mainlist)
1931 {
1932         bNodeTree *ntree = NULL;
1933         Key *key = NULL;
1934
1935         BKE_id_lib_local_paths(bmain, id->lib, id);
1936
1937         id_fake_user_clear(id);
1938
1939         id->lib = NULL;
1940         id->tag &= ~(LIB_TAG_INDIRECT | LIB_TAG_EXTERN);
1941         if (id_in_mainlist)
1942                 new_id(which_libbase(bmain, GS(id->name)), id, NULL);
1943
1944         /* Internal bNodeTree blocks inside datablocks also stores id->lib, make sure this stays in sync. */
1945         if ((ntree = ntreeFromID(id))) {
1946                 id_clear_lib_data_ex(bmain, &ntree->id, false);  /* Datablocks' nodetree is never in Main. */
1947         }
1948
1949         /* Same goes for shapekeys. */
1950         if ((key = BKE_key_from_id(id))) {
1951                 id_clear_lib_data_ex(bmain, &key->id, id_in_mainlist);  /* sigh, why are keys in Main? */
1952         }
1953 }
1954
1955 void id_clear_lib_data(Main *bmain, ID *id)
1956 {
1957         id_clear_lib_data_ex(bmain, id, true);
1958 }
1959
1960 /* next to indirect usage in read/writefile also in editobject.c scene.c */
1961 void BKE_main_id_clear_newpoins(Main *bmain)
1962 {
1963         ListBase *lbarray[MAX_LIBARRAY];
1964         ID *id;
1965         int a;
1966
1967         a = set_listbasepointers(bmain, lbarray);
1968         while (a--) {
1969                 id = lbarray[a]->first;
1970                 while (id) {
1971                         id->newid = NULL;
1972                         id->tag &= ~LIB_TAG_NEW;
1973                         id = id->next;
1974                 }
1975         }
1976 }
1977
1978
1979 static void library_make_local_copying_check(ID *id, GSet *loop_tags, MainIDRelations *id_relations, GSet *done_ids)
1980 {
1981         if (BLI_gset_haskey(done_ids, id)) {
1982                 return;  /* Already checked, nothing else to do. */
1983         }
1984
1985         MainIDRelationsEntry *entry = BLI_ghash_lookup(id_relations->id_used_to_user, id);
1986         BLI_gset_insert(loop_tags, id);
1987         for (; entry != NULL; entry = entry->next) {
1988                 ID *par_id = (ID *)entry->id_pointer;  /* used_to_user stores ID pointer, not pointer to ID pointer... */
1989
1990                 /* Our oh-so-beloved 'from' pointers... */
1991                 if (entry->usage_flag & IDWALK_CB_LOOPBACK) {
1992                         /* We totally disregard Object->proxy_from 'usage' here, this one would only generate fake positives. */
1993                         if (GS(par_id->name) == ID_OB) {
1994                                 BLI_assert(((Object *)par_id)->proxy_from == (Object *)id);
1995                                 continue;
1996                         }
1997
1998                         /* Shapekeys are considered 'private' to their owner ID here, and never tagged (since they cannot be linked),
1999                          * so we have to switch effective parent to their owner. */
2000                         if (GS(par_id->name) == ID_KE) {
2001                                 par_id = ((Key *)par_id)->from;
2002                         }
2003                 }
2004
2005                 if (par_id->lib == NULL) {
2006                         /* Local user, early out to avoid some gset querying... */
2007                         continue;
2008                 }
2009                 if (!BLI_gset_haskey(done_ids, par_id)) {
2010                         if (BLI_gset_haskey(loop_tags, par_id)) {
2011                                 /* We are in a 'dependency loop' of IDs, this does not say us anything, skip it.
2012                                  * Note that this is the situation that can lead to archipelagoes of linked data-blocks
2013                                  * (since all of them have non-local users, they would all be duplicated, leading to a loop of unused
2014                                  * linked data-blocks that cannot be freed since they all use each other...). */
2015                                 continue;
2016                         }
2017                         /* Else, recursively check that user ID. */
2018                         library_make_local_copying_check(par_id, loop_tags, id_relations, done_ids);
2019                 }
2020
2021                 if (par_id->tag & LIB_TAG_DOIT) {
2022                         /* This user will be fully local in future, so far so good, nothing to do here but check next user. */
2023                 }
2024                 else {
2025                         /* This user won't be fully local in future, so current ID won't be either. And we are done checking it. */
2026                         id->tag &= ~LIB_TAG_DOIT;
2027                         break;
2028                 }
2029         }
2030         BLI_gset_add(done_ids, id);
2031         BLI_gset_remove(loop_tags, id, NULL);
2032 }
2033
2034 /** Make linked datablocks local.
2035  *
2036  * \param bmain Almost certainly G.main.
2037  * \param lib If not NULL, only make local datablocks from this library.
2038  * \param untagged_only If true, only make local datablocks not tagged with LIB_TAG_PRE_EXISTING.
2039  * \param set_fake If true, set fake user on all localized datablocks (except group and objects ones).
2040  */
2041 /* Note: Old (2.77) version was simply making (tagging) datablocks as local, without actually making any check whether
2042  * they were also indirectly used or not...
2043  *
2044  * Current version uses regular id_make_local callback, with advanced pre-processing step to detect all cases of
2045  * IDs currently indirectly used, but which will be used by local data only once this function is finished.
2046  * This allows to avoid any unneeded duplication of IDs, and hence all time lost afterwards to remove
2047  * orphaned linked data-blocks...
2048  */
2049 void BKE_library_make_local(
2050         Main *bmain, const Library *lib, GHash *old_to_new_ids, const bool untagged_only, const bool set_fake)
2051 {
2052         ListBase *lbarray[MAX_LIBARRAY];
2053         ID *id;
2054         int a;
2055
2056         LinkNode *todo_ids = NULL;
2057         LinkNode *copied_ids = NULL;
2058         MemArena *linklist_mem = BLI_memarena_new(512 * sizeof(*todo_ids), __func__);
2059
2060         GSet *done_ids = BLI_gset_ptr_new(__func__);
2061
2062 #ifdef DEBUG_TIME
2063         TIMEIT_START(make_local);
2064 #endif
2065
2066         BKE_main_relations_create(bmain);
2067
2068 #ifdef DEBUG_TIME
2069         printf("Pre-compute current ID relations: Done.\n");
2070         TIMEIT_VALUE_PRINT(make_local);
2071 #endif
2072
2073         /* Step 1: Detect datablocks to make local. */
2074         for (a = set_listbasepointers(bmain, lbarray); a--; ) {
2075                 id = lbarray[a]->first;
2076
2077                 /* Do not explicitly make local non-linkable IDs (shapekeys, in fact), they are assumed to be handled
2078                  * by real datablocks responsible of them. */
2079                 const bool do_skip = (id && !BKE_idcode_is_linkable(GS(id->name)));
2080
2081                 for (; id; id = id->next) {
2082                         ID *ntree = (ID *)ntreeFromID(id);
2083
2084                         id->tag &= ~LIB_TAG_DOIT;
2085                         if (ntree != NULL) {
2086                                 ntree->tag &= ~LIB_TAG_DOIT;
2087                         }
2088
2089                         if (id->lib == NULL) {
2090                                 id->tag &= ~(LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW);
2091                         }
2092                         /* The check on the fourth line (LIB_TAG_PRE_EXISTING) is done so its possible to tag data you don't want to
2093                          * be made local, used for appending data, so any libdata already linked wont become local (very nasty
2094                          * to discover all your links are lost after appending).
2095                          * Also, never ever make proxified objects local, would not make any sense. */
2096                         /* Some more notes:
2097                          *   - Shapekeys are never tagged here (since they are not linkable).
2098                          *   - Nodetrees used in materials etc. have to be tagged manually, since they do not exist in Main (!).
2099                          * This is ok-ish on 'make local' side of things (since those are handled by their 'owner' IDs),
2100                          * but complicates slightly the pre-processing of relations between IDs at step 2... */
2101                         else if (!do_skip && id->tag & (LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW) &&
2102                                  ELEM(lib, NULL, id->lib) &&
2103                                  !(GS(id->name) == ID_OB && ((Object *)id)->proxy_from != NULL) &&
2104                                  ((untagged_only == false) || !(id->tag & LIB_TAG_PRE_EXISTING)))
2105                         {
2106                                 BLI_linklist_prepend_arena(&todo_ids, id, linklist_mem);
2107                                 id->tag |= LIB_TAG_DOIT;
2108
2109                                 /* Tag those nasty non-ID nodetrees, but do not add them to todo list, making them local is handled
2110                                  * by 'owner' ID. This is needed for library_make_local_copying_check() to work OK at step 2. */
2111                                 if (ntree != NULL) {
2112                                         ntree->tag |= LIB_TAG_DOIT;
2113                                 }
2114                         }
2115                         else {
2116                                 /* Linked ID that we won't be making local (needed info for step 2, see below). */
2117                                 BLI_gset_add(done_ids, id);
2118                         }
2119                 }
2120         }
2121
2122 #ifdef DEBUG_TIME
2123         printf("Step 1: Detect datablocks to make local: Done.\n");
2124         TIMEIT_VALUE_PRINT(make_local);
2125 #endif
2126
2127         /* Step 2: Check which datablocks we can directly make local (because they are only used by already, or future,
2128          * local data), others will need to be duplicated. */
2129         GSet *loop_tags = BLI_gset_ptr_new(__func__);
2130         for (LinkNode *it = todo_ids; it; it = it->next) {
2131                 library_make_local_copying_check(it->link, loop_tags, bmain->relations, done_ids);
2132                 BLI_assert(BLI_gset_len(loop_tags) == 0);
2133         }
2134         BLI_gset_free(loop_tags, NULL);
2135         BLI_gset_free(done_ids, NULL);
2136
2137         /* Next step will most likely add new IDs, better to get rid of this mapping now. */
2138         BKE_main_relations_free(bmain);
2139
2140 #ifdef DEBUG_TIME
2141         printf("Step 2: Check which datablocks we can directly make local: Done.\n");
2142         TIMEIT_VALUE_PRINT(make_local);
2143 #endif
2144
2145         /* Step 3: Make IDs local, either directly (quick and simple), or using generic process,
2146          * which involves more complex checks and might instead create a local copy of original linked ID. */
2147         for (LinkNode *it = todo_ids, *it_next; it; it = it_next) {
2148                 it_next = it->next;
2149                 id = it->link;
2150
2151                 if (id->tag & LIB_TAG_DOIT) {
2152                         /* We know all users of this object are local or will be made fully local, even if currently there are
2153                          * some indirect usages. So instead of making a copy that we'll likely get rid of later, directly make
2154                          * that data block local. Saves a tremendous amount of time with complex scenes... */
2155                         id_clear_lib_data_ex(bmain, id, true);
2156                         BKE_id_expand_local(bmain, id);
2157                         id->tag &= ~LIB_TAG_DOIT;
2158                 }
2159                 else {
2160                         /* In this specific case, we do want to make ID local even if it has no local usage yet... */
2161                         if (GS(id->name) == ID_OB) {
2162                                 /* Special case for objects because we don't want proxy pointers to be
2163                                  * cleared yet. This will happen down the road in this function.
2164                                  */
2165                                 BKE_object_make_local_ex(bmain, (Object *)id, true, false);
2166                         }
2167                         else {
2168                                 id_make_local(bmain, id, false, true);
2169                         }
2170
2171                         if (id->newid) {
2172                                 /* Reuse already allocated LinkNode (transferring it from todo_ids to copied_ids). */
2173                                 BLI_linklist_prepend_nlink(&copied_ids, id, it);
2174                         }
2175                 }
2176
2177                 if (set_fake) {
2178                         if (!ELEM(GS(id->name), ID_OB, ID_GR)) {
2179                                 /* do not set fake user on objects, groups (instancing) */
2180                                 id_fake_user_set(id);
2181                         }
2182                 }
2183         }
2184
2185 #ifdef DEBUG_TIME
2186         printf("Step 3: Make IDs local: Done.\n");
2187         TIMEIT_VALUE_PRINT(make_local);
2188 #endif
2189
2190         /* At this point, we are done with directly made local IDs. Now we have to handle duplicated ones, since their
2191          * remaining linked original counterpart may not be needed anymore... */
2192         todo_ids = NULL;
2193
2194         /* Step 4: We have to remap local usages of old (linked) ID to new (local) ID in a separated loop,
2195          * as lbarray ordering is not enough to ensure us we did catch all dependencies
2196          * (e.g. if making local a parent object before its child...). See T48907. */
2197         /* TODO This is now the biggest step by far (in term of processing time). We may be able to gain here by
2198          * using again main->relations mapping, but... this implies BKE_libblock_remap & co to be able to update
2199          * main->relations on the fly. Have to think about it a bit more, and see whether new code is OK first, anyway. */
2200         for (LinkNode *it = copied_ids; it; it = it->next) {
2201                 id = it->link;
2202
2203                 BLI_assert(id->newid != NULL);
2204                 BLI_assert(id->lib != NULL);
2205
2206                 BKE_libblock_remap(bmain, id, id->newid, ID_REMAP_SKIP_INDIRECT_USAGE);
2207                 if (old_to_new_ids) {
2208                         BLI_ghash_insert(old_to_new_ids, id, id->newid);
2209                 }
2210
2211                 /* Special hack for groups... Thing is, since we can't instantiate them here, we need to ensure
2212                  * they remain 'alive' (only instantiation is a real group 'user'... *sigh* See T49722. */
2213                 if (GS(id->name) == ID_GR && (id->tag & LIB_TAG_INDIRECT) != 0) {
2214                         id_us_ensure_real(id->newid);
2215                 }
2216         }
2217
2218 #ifdef DEBUG_TIME
2219         printf("Step 4: Remap local usages of old (linked) ID to new (local) ID: Done.\n");
2220         TIMEIT_VALUE_PRINT(make_local);
2221 #endif
2222
2223         /* Note: Keeping both version of the code (old one being safer, since it still has checks against unused IDs)
2224          * for now, we can remove old one once it has been tested for some time in master... */
2225 #if 1
2226         /* Step 5: proxy 'remapping' hack. */
2227         for (LinkNode *it = copied_ids; it; it = it->next) {
2228                 /* Attempt to re-link copied proxy objects. This allows appending of an entire scene
2229                  * from another blend file into this one, even when that blend file contains proxified
2230                  * armatures that have local references. Since the proxified object needs to be linked
2231                  * (not local), this will only work when the "Localize all" checkbox is disabled.
2232                  * TL;DR: this is a dirty hack on top of an already weak feature (proxies). */
2233                 if (GS(id->name) == ID_OB && ((Object *)id)->proxy != NULL) {
2234                         Object *ob = (Object *)id;
2235                         Object *ob_new = (Object *)id->newid;
2236                         bool is_local = false, is_lib = false;
2237
2238                         /* Proxies only work when the proxified object is linked-in from a library. */
2239                         if (ob->proxy->id.lib == NULL) {
2240                                 printf("Warning, proxy object %s will loose its link to %s, because the "
2241                                        "proxified object is local.\n", id->newid->name, ob->proxy->id.name);
2242                                 continue;
2243                         }
2244
2245                         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
2246
2247                         /* We can only switch the proxy'ing to a made-local proxy if it is no longer
2248                          * referred to from a library. Not checking for local use; if new local proxy
2249                          * was not used locally would be a nasty bug! */
2250                         if (is_local || is_lib) {
2251                                 printf("Warning, made-local proxy object %s will loose its link to %s, "
2252                                        "because the linked-in proxy is referenced (is_local=%i, is_lib=%i).\n",
2253                                        id->newid->name, ob->proxy->id.name, is_local, is_lib);
2254                         }
2255                         else {
2256                                 /* we can switch the proxy'ing from the linked-in to the made-local proxy.
2257                                  * BKE_object_make_proxy() shouldn't be used here, as it allocates memory that
2258                                  * was already allocated by BKE_object_make_local_ex() (which called BKE_object_copy_ex). */
2259                                 ob_new->proxy = ob->proxy;
2260                                 ob_new->proxy_group = ob->proxy_group;
2261                                 ob_new->proxy_from = ob->proxy_from;
2262                                 ob_new->proxy->proxy_from = ob_new;
2263                                 ob->proxy = ob->proxy_from = ob->proxy_group = NULL;
2264                         }
2265                 }
2266         }
2267
2268 #ifdef DEBUG_TIME
2269         printf("Step 5: Proxy 'remapping' hack: Done.\n");
2270         TIMEIT_VALUE_PRINT(make_local);
2271 #endif
2272
2273 #else
2274         LinkNode *linked_loop_candidates = NULL;
2275
2276         /* Step 5: remove datablocks that have been copied to be localized and are no more used in the end...
2277          * Note that we may have to loop more than once here, to tackle dependencies between linked objects... */
2278         bool do_loop = true;
2279         while (do_loop) {
2280                 do_loop = false;
2281                 for (LinkNode *it = copied_ids; it; it = it->next) {
2282                         if ((id = it->link) == NULL) {
2283                                 continue;
2284                         }
2285
2286                         bool is_local = false, is_lib = false;
2287
2288                         BKE_library_ID_test_usages(bmain, id, &is_local, &is_lib);
2289
2290                         /* Attempt to re-link copied proxy objects. This allows appending of an entire scene
2291                          * from another blend file into this one, even when that blend file contains proxified
2292                          * armatures that have local references. Since the proxified object needs to be linked
2293                          * (not local), this will only work when the "Localize all" checkbox is disabled.
2294                          * TL;DR: this is a dirty hack on top of an already weak feature (proxies). */
2295                         if (GS(id->name) == ID_OB && ((Object *)id)->proxy != NULL) {
2296                                 Object *ob = (Object *)id;
2297                                 Object *ob_new = (Object *)id->newid;
2298
2299                                 /* Proxies only work when the proxified object is linked-in from a library. */
2300                                 if (ob->proxy->id.lib == NULL) {
2301                                         printf("Warning, proxy object %s will loose its link to %s, because the "
2302                                                    "proxified object is local.\n", id->newid->name, ob->proxy->id.name);
2303                                 }
2304                                 /* We can only switch the proxy'ing to a made-local proxy if it is no longer
2305                                  * referred to from a library. Not checking for local use; if new local proxy
2306                                  * was not used locally would be a nasty bug! */
2307                                 else if (is_local || is_lib) {
2308                                         printf("Warning, made-local proxy object %s will loose its link to %s, "
2309                                                "because the linked-in proxy is referenced (is_local=%i, is_lib=%i).\n",
2310                                                id->newid->name, ob->proxy->id.name, is_local, is_lib);
2311                                 }
2312                                 else {
2313                                         /* we can switch the proxy'ing from the linked-in to the made-local proxy.
2314                                          * BKE_object_make_proxy() shouldn't be used here, as it allocates memory that
2315                                          * was already allocated by BKE_object_make_local_ex() (which called BKE_object_copy_ex). */
2316                                         ob_new->proxy = ob->proxy;
2317                                         ob_new->proxy_group = ob->proxy_group;
2318                                         ob_new->proxy_from = ob->proxy_from;
2319                                         ob_new->proxy->proxy_from = ob_new;
2320                                         ob->proxy = ob->proxy_from = ob->proxy_group = NULL;
2321                                 }
2322                         }
2323
2324                         if (!is_local) {
2325                                 if (!is_lib) {  /* Not used at all, we can free it! */
2326                                         BLI_assert(!"Unused linked data copy remaining from MakeLibLocal process, should not happen anymore");
2327                                         printf("\t%s (from %s)\n", id->name, id->lib->id.name);
2328                                         BKE_libblock_free(bmain, id);
2329                                         it->link = NULL;
2330                                         do_loop = true;
2331                                 }
2332                                 /* Only used by linked data, potential candidate to ugly lib-only dependency cycles... */
2333                                 else if ((id->tag & LIB_TAG_DOIT) == 0) {  /* Check TAG_DOIT to avoid adding same ID several times... */
2334                                         /* Note that we store the node, not directly ID pointer, that way if it->link is set to NULL
2335                                          * later we can skip it in lib-dependency cycles search later. */
2336                                         BLI_linklist_prepend_arena(&linked_loop_candidates, it, linklist_mem);
2337                                         id->tag |= LIB_TAG_DOIT;
2338
2339                                         /* Grrrrrrr... those half-datablocks-stuff... grrrrrrrrrrr...
2340                                          * Here we have to also tag them as potential candidates, otherwise they would falsy report
2341                                          * ID they used as 'directly used' in sixth step. */
2342                                         ID *ntree = (ID *)ntreeFromID(id);
2343                                         if (ntree != NULL) {
2344                                                 ntree->tag |= LIB_TAG_DOIT;
2345                                         }
2346                                 }
2347                         }
2348                 }
2349         }
2350
2351 #ifdef DEBUG_TIME
2352         printf("Step 5: Remove linked datablocks that have been copied and ended fully localized: Done.\n");
2353         TIMEIT_VALUE_PRINT(make_local);
2354 #endif
2355
2356         /* Step 6: Try to find circle dependencies between indirectly-linked-only datablocks.
2357          * Those are fake 'usages' that prevent their deletion. See T49775 for nice ugly case. */
2358         BKE_library_unused_linked_data_set_tag(bmain, false);
2359         for (LinkNode *it = linked_loop_candidates; it; it = it->next) {
2360                 if (it->link == NULL) {
2361                         continue;
2362                 }
2363                 if ((id = ((LinkNode *)it->link)->link) == NULL) {
2364                         it->link = NULL;
2365                         continue;
2366                 }
2367
2368                 /* Note: in theory here we are only handling datablocks forming exclusive linked dependency-cycles-based
2369                  * archipelagos, so no need to check again after we have deleted one, as done in previous step. */
2370                 if (id->tag & LIB_TAG_DOIT) {
2371                         BLI_assert(!"Unused linked data copy remaining from MakeLibLocal process (archipelago case), should not happen anymore");
2372                         /* Object's deletion rely on valid ob->data, but ob->data may have already been freed here...
2373                          * Setting it to NULL may not be 100% correct, but should be safe and do the work. */
2374                         if (GS(id->name) == ID_OB) {
2375                                 ((Object *)id)->data = NULL;
2376                         }
2377
2378                         /* Note: *in theory* IDs tagged here are fully *outside* of file scope, totally unused, so we can
2379                          *       directly wipe them out without caring about clearing their usages.
2380                          *       However, this is a highly-risky presumption, and nice crasher in case something goes wrong here.
2381                          *       So for 2.78a will keep the safe option, and switch to more efficient one in master later. */
2382 #if 1
2383                         BKE_libblock_free_ex(bmain, id, false, true);
2384 #else
2385                         BKE_libblock_unlink(bmain, id, false, false);
2386                         BKE_libblock_free(bmain, id);
2387 #endif
2388                         ((LinkNode *)it->link)->link = NULL;  /* Not strictly necessary, but safer (see T49903)... */
2389                         it->link = NULL;
2390                 }
2391         }
2392
2393 #ifdef DEBUG_TIME
2394         printf("Step 6: Try to find circle dependencies between indirectly-linked-only datablocks: Done.\n");
2395         TIMEIT_VALUE_PRINT(make_local);
2396 #endif
2397
2398 #endif
2399
2400         /* This is probably more of a hack than something we should do here, but...
2401          * Issue is, the whole copying + remapping done in complex cases above may leave pose channels of armatures
2402          * in complete invalid state (more precisely, the bone pointers of the pchans - very crappy cross-datablocks
2403          * relationship), se we tag it to be fully recomputed, but this does not seems to be enough in some cases,
2404          * and evaluation code ends up trying to evaluate a not-yet-updated armature object's deformations.
2405          * Try "make all local" in 04_01_H.lighting.blend from Agent327 without this, e.g. */
2406         for (Object *ob = bmain->object.first; ob; ob = ob->id.next) {
2407                 if (ob->data != NULL && ob->type == OB_ARMATURE && ob->pose != NULL && ob->pose->flag & POSE_RECALC) {
2408                         BKE_pose_rebuild(ob, ob->data);
2409                 }
2410         }
2411
2412 #ifdef DEBUG_TIME
2413         printf("Hack: Forcefully rebuild armature object poses: Done.\n");
2414         TIMEIT_VALUE_PRINT(make_local);
2415 #endif
2416
2417         BKE_main_id_clear_newpoins(bmain);
2418         BLI_memarena_free(linklist_mem);
2419
2420 #ifdef DEBUG_TIME
2421         printf("Cleanup and finish: Done.\n");
2422         TIMEIT_END(make_local);
2423 #endif
2424 }
2425
2426 /**
2427  * Use after setting the ID's name
2428  * When name exists: call 'new_id'
2429  */
2430 void BLI_libblock_ensure_unique_name(Main *bmain, const char *name)
2431 {
2432         ListBase *lb;
2433         ID *idtest;
2434
2435         lb = which_libbase(bmain, GS(name));
2436         if (lb == NULL) return;
2437         
2438         /* search for id */
2439         idtest = BLI_findstring(lb, name + 2, offsetof(ID, name) + 2);
2440
2441         if (idtest && !new_id(lb, idtest, idtest->name + 2)) {
2442                 id_sort_by_name(lb, idtest);
2443         }
2444 }
2445
2446 /**
2447  * Sets the name of a block to name, suitably adjusted for uniqueness.
2448  */
2449 void BKE_libblock_rename(Main *bmain, ID *id, const char *name)
2450 {
2451         ListBase *lb = which_libbase(bmain, GS(id->name));
2452         new_id(lb, id, name);
2453 }
2454
2455 /**
2456  * Returns in name the name of the block, with a 3-character prefix prepended
2457  * indicating whether it comes from a library, has a fake user, or no users.
2458  */
2459 void BKE_id_ui_prefix(char name[MAX_ID_NAME + 1], const ID *id)
2460 {
2461         name[0] = id->lib ? (ID_MISSING(id) ? 'M' : 'L') : ' ';
2462         name[1] = (id->flag & LIB_FAKEUSER) ? 'F' : ((id->us == 0) ? '0' : ' ');
2463         name[2] = ' ';
2464
2465         strcpy(name + 3, id->name + 2);
2466 }
2467
2468 void BKE_library_filepath_set(Library *lib, const char *filepath)
2469 {
2470         /* in some cases this is used to update the absolute path from the
2471          * relative */
2472         if (lib->name != filepath) {
2473                 BLI_strncpy(lib->name, filepath, sizeof(lib->name));
2474         }
2475
2476         BLI_strncpy(lib->filepath, filepath, sizeof(lib->filepath));
2477
2478         /* not essential but set filepath is an absolute copy of value which
2479          * is more useful if its kept in sync */
2480         if (BLI_path_is_rel(lib->filepath)) {
2481                 /* note that the file may be unsaved, in this case, setting the
2482                  * filepath on an indirectly linked path is not allowed from the
2483                  * outliner, and its not really supported but allow from here for now
2484                  * since making local could cause this to be directly linked - campbell
2485                  */
2486                 const char *basepath = lib->parent ? lib->parent->filepath : G.main->name;
2487                 BLI_path_abs(lib->filepath, basepath);
2488         }
2489 }
2490
2491 void BKE_id_tag_set_atomic(ID *id, int tag)
2492 {
2493         atomic_fetch_and_or_int32(&id->tag, tag);
2494 }
2495
2496 void BKE_id_tag_clear_atomic(ID *id, int tag)
2497 {
2498         atomic_fetch_and_and_int32(&id->tag, ~tag);
2499 }