Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / library.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/library.c
29  *  \ingroup bke
30  *
31  * Contains management of ID's and libraries
32  * allocate and free of all library data
33  */
34
35 #include <stdio.h>
36 #include <ctype.h>
37 #include <string.h>
38 #include <stdlib.h>
39 #include <stddef.h>
40 #include <assert.h>
41
42 #include "MEM_guardedalloc.h"
43
44 /* all types are needed here, in order to do memory operations */
45 #include "DNA_anim_types.h"
46 #include "DNA_armature_types.h"
47 #include "DNA_brush_types.h"
48 #include "DNA_camera_types.h"
49 #include "DNA_group_types.h"
50 #include "DNA_gpencil_types.h"
51 #include "DNA_ipo_types.h"
52 #include "DNA_key_types.h"
53 #include "DNA_lamp_types.h"
54 #include "DNA_lattice_types.h"
55 #include "DNA_linestyle_types.h"
56 #include "DNA_material_types.h"
57 #include "DNA_mesh_types.h"
58 #include "DNA_meta_types.h"
59 #include "DNA_movieclip_types.h"
60 #include "DNA_mask_types.h"
61 #include "DNA_node_types.h"
62 #include "DNA_object_types.h"
63 #include "DNA_scene_types.h"
64 #include "DNA_screen_types.h"
65 #include "DNA_speaker_types.h"
66 #include "DNA_sound_types.h"
67 #include "DNA_text_types.h"
68 #include "DNA_vfont_types.h"
69 #include "DNA_windowmanager_types.h"
70 #include "DNA_world_types.h"
71
72 #include "BLI_blenlib.h"
73 #include "BLI_utildefines.h"
74
75 #include "BLI_threads.h"
76 #include "BLT_translation.h"
77
78 #include "BKE_action.h"
79 #include "BKE_animsys.h"
80 #include "BKE_armature.h"
81 #include "BKE_bpath.h"
82 #include "BKE_brush.h"
83 #include "BKE_camera.h"
84 #include "BKE_context.h"
85 #include "BKE_curve.h"
86 #include "BKE_depsgraph.h"
87 #include "BKE_font.h"
88 #include "BKE_global.h"
89 #include "BKE_group.h"
90 #include "BKE_gpencil.h"
91 #include "BKE_idcode.h"
92 #include "BKE_idprop.h"
93 #include "BKE_image.h"
94 #include "BKE_key.h"
95 #include "BKE_lamp.h"
96 #include "BKE_lattice.h"
97 #include "BKE_library.h"
98 #include "BKE_library_query.h"
99 #include "BKE_linestyle.h"
100 #include "BKE_mesh.h"
101 #include "BKE_material.h"
102 #include "BKE_main.h"
103 #include "BKE_mball.h"
104 #include "BKE_mask.h"
105 #include "BKE_node.h"
106 #include "BKE_object.h"
107 #include "BKE_packedFile.h"
108 #include "BKE_speaker.h"
109 #include "BKE_scene.h"
110 #include "BKE_text.h"
111 #include "BKE_texture.h"
112 #include "BKE_world.h"
113
114 #include "DEG_depsgraph.h"
115
116 #include "RNA_access.h"
117
118 #include "IMB_imbuf.h"
119 #include "IMB_imbuf_types.h"
120
121 /* GS reads the memory pointed at in a specific ordering. 
122  * only use this definition, makes little and big endian systems
123  * work fine, in conjunction with MAKE_ID */
124
125 /* ************* general ************************ */
126
127
128 /* this has to be called from each make_local_* func, we could call
129  * from id_make_local() but then the make local functions would not be self
130  * contained.
131  * also note that the id _must_ have a library - campbell */
132 void BKE_id_lib_local_paths(Main *bmain, Library *lib, ID *id)
133 {
134         const char *bpath_user_data[2] = {bmain->name, lib->filepath};
135
136         BKE_bpath_traverse_id(bmain, id,
137                               BKE_bpath_relocate_visitor,
138                               BKE_BPATH_TRAVERSE_SKIP_MULTIFILE,
139                               (void *)bpath_user_data);
140 }
141
142 void id_lib_extern(ID *id)
143 {
144         if (id) {
145                 BLI_assert(BKE_idcode_is_linkable(GS(id->name)));
146                 if (id->tag & LIB_TAG_INDIRECT) {
147                         id->tag -= LIB_TAG_INDIRECT;
148                         id->tag |= LIB_TAG_EXTERN;
149                 }
150         }
151 }
152
153 /* ensure we have a real user */
154 /* Note: Now that we have flags, we could get rid of the 'fake_user' special case, flags are enough to ensure
155  *       we always have a real user.
156  *       However, ID_REAL_USERS is used in several places outside of core library.c, so think we can wait later
157  *       to make this change... */
158 void id_us_ensure_real(ID *id)
159 {
160         if (id) {
161                 const int limit = ID_FAKE_USERS(id);
162                 id->tag |= LIB_TAG_EXTRAUSER;
163                 if (id->us <= limit) {
164                         if (id->us < limit || ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER_SET))) {
165                                 printf("ID user count error: %s (from '%s')\n", id->name, id->lib ? id->lib->filepath : "[Main]");
166                                 BLI_assert(0);
167                         }
168                         id->us = limit + 1;
169                         id->tag |= LIB_TAG_EXTRAUSER_SET;
170                 }
171         }
172 }
173
174 void id_us_clear_real(ID *id)
175 {
176         if (id && (id->tag & LIB_TAG_EXTRAUSER)) {
177                 if (id->tag & LIB_TAG_EXTRAUSER_SET) {
178                         id->us--;
179                         BLI_assert(id->us >= ID_FAKE_USERS(id));
180                 }
181                 id->tag &= ~(LIB_TAG_EXTRAUSER | LIB_TAG_EXTRAUSER_SET);
182         }
183 }
184
185 /**
186  * Same as \a id_us_plus, but does not handle lib indirect -> extern.
187  * Only used by readfile.c so far, but simpler/safer to keep it here nonetheless.
188  */
189 void id_us_plus_no_lib(ID *id)
190 {
191         if (id) {
192                 if ((id->tag & LIB_TAG_EXTRAUSER) && (id->tag & LIB_TAG_EXTRAUSER_SET)) {
193                         BLI_assert(id->us >= 1);
194                         /* No need to increase count, just tag extra user as no more set.
195                          * Avoids annoying & inconsistent +1 in user count. */
196                         id->tag &= ~LIB_TAG_EXTRAUSER_SET;
197                 }
198                 else {
199                         BLI_assert(id->us >= 0);
200                         id->us++;
201                 }
202         }
203 }
204
205
206 void id_us_plus(ID *id)
207 {
208         if (id) {
209                 id_us_plus_no_lib(id);
210                 id_lib_extern(id);
211         }
212 }
213
214 /* decrements the user count for *id. */
215 void id_us_min(ID *id)
216 {
217         if (id) {
218                 const int limit = ID_FAKE_USERS(id);
219
220                 if (id->us <= limit) {
221                         printf("ID user decrement error: %s (from '%s'): %d <= %d\n",
222                                id->name, id->lib ? id->lib->filepath : "[Main]", id->us, limit);
223                         BLI_assert(0);
224                         id->us = limit;
225                 }
226                 else {
227                         id->us--;
228                 }
229
230                 if ((id->us == limit) && (id->tag & LIB_TAG_EXTRAUSER)) {
231                         /* We need an extra user here, but never actually incremented user count for it so far, do it now. */
232                         id_us_ensure_real(id);
233                 }
234         }
235 }
236
237 void id_fake_user_set(ID *id)
238 {
239         if (id && !(id->flag & LIB_FAKEUSER)) {
240                 id->flag |= LIB_FAKEUSER;
241                 id_us_plus(id);
242         }
243 }
244
245 void id_fake_user_clear(ID *id)
246 {
247         if (id && (id->flag & LIB_FAKEUSER)) {
248                 id->flag &= ~LIB_FAKEUSER;
249                 id_us_min(id);
250         }
251 }
252
253 /* calls the appropriate make_local method for the block, unless test. Returns true
254  * if the block can be made local. */
255 bool id_make_local(ID *id, bool test)
256 {
257         if (id->tag & LIB_TAG_INDIRECT)
258                 return false;
259
260         switch (GS(id->name)) {
261                 case ID_SCE:
262                         return false; /* not implemented */
263                 case ID_LI:
264                         return false; /* can't be linked */
265                 case ID_OB:
266                         if (!test) BKE_object_make_local((Object *)id);
267                         return true;
268                 case ID_ME:
269                         if (!test) {
270                                 BKE_mesh_make_local((Mesh *)id);
271                                 BKE_key_make_local(((Mesh *)id)->key);
272                         }
273                         return true;
274                 case ID_CU:
275                         if (!test) {
276                                 BKE_curve_make_local((Curve *)id);
277                                 BKE_key_make_local(((Curve *)id)->key);
278                         }
279                         return true;
280                 case ID_MB:
281                         if (!test) BKE_mball_make_local((MetaBall *)id);
282                         return true;
283                 case ID_MA:
284                         if (!test) BKE_material_make_local((Material *)id);
285                         return true;
286                 case ID_TE:
287                         if (!test) BKE_texture_make_local((Tex *)id);
288                         return true;
289                 case ID_IM:
290                         if (!test) BKE_image_make_local((Image *)id);
291                         return true;
292                 case ID_LT:
293                         if (!test) {
294                                 BKE_lattice_make_local((Lattice *)id);
295                                 BKE_key_make_local(((Lattice *)id)->key);
296                         }
297                         return true;
298                 case ID_LA:
299                         if (!test) BKE_lamp_make_local((Lamp *)id);
300                         return true;
301                 case ID_CA:
302                         if (!test) BKE_camera_make_local((Camera *)id);
303                         return true;
304                 case ID_SPK:
305                         if (!test) BKE_speaker_make_local((Speaker *)id);
306                         return true;
307                 case ID_IP:
308                         return false; /* deprecated */
309                 case ID_KE:
310                         if (!test) BKE_key_make_local((Key *)id);
311                         return true;
312                 case ID_WO:
313                         if (!test) BKE_world_make_local((World *)id);
314                         return true;
315                 case ID_SCR:
316                         return false; /* can't be linked */
317                 case ID_VF:
318                         return false; /* not implemented */
319                 case ID_TXT:
320                         return false; /* not implemented */
321                 case ID_SO:
322                         return false; /* not implemented */
323                 case ID_GR:
324                         return false; /* not implemented */
325                 case ID_AR:
326                         if (!test) BKE_armature_make_local((bArmature *)id);
327                         return true;
328                 case ID_AC:
329                         if (!test) BKE_action_make_local((bAction *)id);
330                         return true;
331                 case ID_NT:
332                         if (!test) ntreeMakeLocal((bNodeTree *)id, true);
333                         return true;
334                 case ID_BR:
335                         if (!test) BKE_brush_make_local((Brush *)id);
336                         return true;
337                 case ID_WM:
338                         return false; /* can't be linked */
339                 case ID_GD:
340                         return false; /* not implemented */
341                 case ID_LS:
342                         return false; /* not implemented */
343         }
344
345         return false;
346 }
347
348 /**
349  * Invokes the appropriate copy method for the block and returns the result in
350  * newid, unless test. Returns true if the block can be copied.
351  */
352 bool id_copy(ID *id, ID **newid, bool test)
353 {
354         if (!test) *newid = NULL;
355
356         /* conventions:
357          * - make shallow copy, only this ID block
358          * - id.us of the new ID is set to 1 */
359         switch (GS(id->name)) {
360                 case ID_SCE:
361                         return false;  /* can't be copied from here */
362                 case ID_LI:
363                         return false;  /* can't be copied from here */
364                 case ID_OB:
365                         if (!test) *newid = (ID *)BKE_object_copy((Object *)id);
366                         return true;
367                 case ID_ME:
368                         if (!test) *newid = (ID *)BKE_mesh_copy((Mesh *)id);
369                         return true;
370                 case ID_CU:
371                         if (!test) *newid = (ID *)BKE_curve_copy((Curve *)id);
372                         return true;
373                 case ID_MB:
374                         if (!test) *newid = (ID *)BKE_mball_copy((MetaBall *)id);
375                         return true;
376                 case ID_MA:
377                         if (!test) *newid = (ID *)BKE_material_copy((Material *)id);
378                         return true;
379                 case ID_TE:
380                         if (!test) *newid = (ID *)BKE_texture_copy((Tex *)id);
381                         return true;
382                 case ID_IM:
383                         if (!test) *newid = (ID *)BKE_image_copy(G.main, (Image *)id);
384                         return true;
385                 case ID_LT:
386                         if (!test) *newid = (ID *)BKE_lattice_copy((Lattice *)id);
387                         return true;
388                 case ID_LA:
389                         if (!test) *newid = (ID *)BKE_lamp_copy((Lamp *)id);
390                         return true;
391                 case ID_SPK:
392                         if (!test) *newid = (ID *)BKE_speaker_copy((Speaker *)id);
393                         return true;
394                 case ID_CA:
395                         if (!test) *newid = (ID *)BKE_camera_copy((Camera *)id);
396                         return true;
397                 case ID_IP:
398                         return false;  /* deprecated */
399                 case ID_KE:
400                         if (!test) *newid = (ID *)BKE_key_copy((Key *)id);
401                         return true;
402                 case ID_WO:
403                         if (!test) *newid = (ID *)BKE_world_copy((World *)id);
404                         return true;
405                 case ID_SCR:
406                         return false;  /* can't be copied from here */
407                 case ID_VF:
408                         return false;  /* not implemented */
409                 case ID_TXT:
410                         if (!test) *newid = (ID *)BKE_text_copy(G.main, (Text *)id);
411                         return true;
412                 case ID_SO:
413                         return false;  /* not implemented */
414                 case ID_GR:
415                         if (!test) *newid = (ID *)BKE_group_copy((Group *)id);
416                         return true;
417                 case ID_AR:
418                         if (!test) *newid = (ID *)BKE_armature_copy((bArmature *)id);
419                         return true;
420                 case ID_AC:
421                         if (!test) *newid = (ID *)BKE_action_copy((bAction *)id);
422                         return true;
423                 case ID_NT:
424                         if (!test) *newid = (ID *)ntreeCopyTree((bNodeTree *)id);
425                         return true;
426                 case ID_BR:
427                         if (!test) *newid = (ID *)BKE_brush_copy((Brush *)id);
428                         return true;
429                 case ID_WM:
430                         return false;  /* can't be copied from here */
431                 case ID_GD:
432                         if (!test) *newid = (ID *)gpencil_data_duplicate((bGPdata *)id, false);
433                         return true;
434                 case ID_MSK:
435                         if (!test) *newid = (ID *)BKE_mask_copy((Mask *)id);
436                         return true;
437                 case ID_LS:
438                         if (!test) *newid = (ID *)BKE_linestyle_copy(G.main, (FreestyleLineStyle *)id);
439                         return true;
440         }
441         
442         return false;
443 }
444
445 bool id_single_user(bContext *C, ID *id, PointerRNA *ptr, PropertyRNA *prop)
446 {
447         ID *newid = NULL;
448         PointerRNA idptr;
449         
450         if (id) {
451                 /* if property isn't editable, we're going to have an extra block hanging around until we save */
452                 if (RNA_property_editable(ptr, prop)) {
453                         if (id_copy(id, &newid, false) && newid) {
454                                 /* copy animation actions too */
455                                 BKE_animdata_copy_id_action(id);
456                                 /* us is 1 by convention, but RNA_property_pointer_set
457                                  * will also increment it, so set it to zero */
458                                 newid->us = 0;
459                                 
460                                 /* assign copy */
461                                 RNA_id_pointer_create(newid, &idptr);
462                                 RNA_property_pointer_set(ptr, prop, idptr);
463                                 RNA_property_update(C, ptr, prop);
464                                 
465                                 return true;
466                         }
467                 }
468         }
469         
470         return false;
471 }
472
473 ListBase *which_libbase(Main *mainlib, short type)
474 {
475         switch (type) {
476                 case ID_SCE:
477                         return &(mainlib->scene);
478                 case ID_LI:
479                         return &(mainlib->library);
480                 case ID_OB:
481                         return &(mainlib->object);
482                 case ID_ME:
483                         return &(mainlib->mesh);
484                 case ID_CU:
485                         return &(mainlib->curve);
486                 case ID_MB:
487                         return &(mainlib->mball);
488                 case ID_MA:
489                         return &(mainlib->mat);
490                 case ID_TE:
491                         return &(mainlib->tex);
492                 case ID_IM:
493                         return &(mainlib->image);
494                 case ID_LT:
495                         return &(mainlib->latt);
496                 case ID_LA:
497                         return &(mainlib->lamp);
498                 case ID_CA:
499                         return &(mainlib->camera);
500                 case ID_IP:
501                         return &(mainlib->ipo);
502                 case ID_KE:
503                         return &(mainlib->key);
504                 case ID_WO:
505                         return &(mainlib->world);
506                 case ID_SCR:
507                         return &(mainlib->screen);
508                 case ID_VF:
509                         return &(mainlib->vfont);
510                 case ID_TXT:
511                         return &(mainlib->text);
512                 case ID_SPK:
513                         return &(mainlib->speaker);
514                 case ID_SO:
515                         return &(mainlib->sound);
516                 case ID_GR:
517                         return &(mainlib->group);
518                 case ID_AR:
519                         return &(mainlib->armature);
520                 case ID_AC:
521                         return &(mainlib->action);
522                 case ID_NT:
523                         return &(mainlib->nodetree);
524                 case ID_BR:
525                         return &(mainlib->brush);
526                 case ID_WM:
527                         return &(mainlib->wm);
528                 case ID_GD:
529                         return &(mainlib->gpencil);
530                 case ID_MC:
531                         return &(mainlib->movieclip);
532                 case ID_MSK:
533                         return &(mainlib->mask);
534                 case ID_LS:
535                         return &(mainlib->linestyle);
536                 case ID_PAL:
537                         return &(mainlib->palettes);
538                 case ID_PC:
539                         return &(mainlib->paintcurves);
540         }
541         return NULL;
542 }
543
544 /**
545  * Clear or set given tags for all ids in listbase (runtime tags).
546  */
547 void BKE_main_id_tag_listbase(ListBase *lb, const int tag, const bool value)
548 {
549         ID *id;
550         if (value) {
551                 for (id = lb->first; id; id = id->next) {
552                         id->tag |= tag;
553                 }
554         }
555         else {
556                 const int ntag = ~tag;
557                 for (id = lb->first; id; id = id->next) {
558                         id->tag &= ntag;
559                 }
560         }
561 }
562
563 /**
564  * Clear or set given tags for all ids of given type in bmain (runtime tags).
565  */
566 void BKE_main_id_tag_idcode(struct Main *mainvar, const short type, const int tag, const bool value)
567 {
568         ListBase *lb = which_libbase(mainvar, type);
569
570         BKE_main_id_tag_listbase(lb, tag, value);
571 }
572
573 /**
574  * Clear or set given tags for all ids in bmain (runtime tags).
575  */
576 void BKE_main_id_tag_all(struct Main *mainvar, const int tag, const bool value)
577 {
578         ListBase *lbarray[MAX_LIBARRAY];
579         int a;
580
581         a = set_listbasepointers(mainvar, lbarray);
582         while (a--) {
583                 BKE_main_id_tag_listbase(lbarray[a], tag, value);
584         }
585 }
586
587
588 /**
589  * Clear or set given flags for all ids in listbase (persistent flags).
590  */
591 void BKE_main_id_flag_listbase(ListBase *lb, const int flag, const bool value)
592 {
593         ID *id;
594         if (value) {
595                 for (id = lb->first; id; id = id->next)
596                         id->tag |= flag;
597         }
598         else {
599                 const int nflag = ~flag;
600                 for (id = lb->first; id; id = id->next)
601                         id->tag &= nflag;
602         }
603 }
604
605 /**
606  * Clear or set given flags for all ids in bmain (persistent flags).
607  */
608 void BKE_main_id_flag_all(Main *bmain, const int flag, const bool value)
609 {
610         ListBase *lbarray[MAX_LIBARRAY];
611         int a;
612         a = set_listbasepointers(bmain, lbarray);
613         while (a--) {
614                 BKE_main_id_flag_listbase(lbarray[a], flag, value);
615         }
616 }
617
618 void BKE_main_lib_objects_recalc_all(Main *bmain)
619 {
620         Object *ob;
621
622         /* flag for full recalc */
623         for (ob = bmain->object.first; ob; ob = ob->id.next) {
624                 if (ob->id.lib) {
625                         DAG_id_tag_update(&ob->id, OB_RECALC_OB | OB_RECALC_DATA | OB_RECALC_TIME);
626                 }
627         }
628
629         DAG_id_type_tag(bmain, ID_OB);
630 }
631
632 /**
633  * puts into array *lb pointers to all the ListBase structs in main,
634  * and returns the number of them as the function result. This is useful for
635  * generic traversal of all the blocks in a Main (by traversing all the
636  * lists in turn), without worrying about block types.
637  *
638  * \note MAX_LIBARRAY define should match this code */
639 int set_listbasepointers(Main *main, ListBase **lb)
640 {
641         int a = 0;
642
643         /* BACKWARDS! also watch order of free-ing! (mesh<->mat), first items freed last.
644          * This is important because freeing data decreases usercounts of other datablocks,
645          * if this data is its self freed it can crash. */
646         lb[a++] = &(main->library);  /* Libraries may be accessed from pretty much any other ID... */
647         lb[a++] = &(main->ipo);
648         lb[a++] = &(main->action); /* moved here to avoid problems when freeing with animato (aligorith) */
649         lb[a++] = &(main->key);
650         lb[a++] = &(main->gpencil); /* referenced by nodes, objects, view, scene etc, before to free after. */
651         lb[a++] = &(main->nodetree);
652         lb[a++] = &(main->image);
653         lb[a++] = &(main->tex);
654         lb[a++] = &(main->mat);
655         lb[a++] = &(main->vfont);
656         
657         /* Important!: When adding a new object type,
658          * the specific data should be inserted here 
659          */
660
661         lb[a++] = &(main->armature);
662
663         lb[a++] = &(main->mesh);
664         lb[a++] = &(main->curve);
665         lb[a++] = &(main->mball);
666
667         lb[a++] = &(main->latt);
668         lb[a++] = &(main->lamp);
669         lb[a++] = &(main->camera);
670
671         lb[a++] = &(main->text);
672         lb[a++] = &(main->sound);
673         lb[a++] = &(main->group);
674         lb[a++] = &(main->palettes);
675         lb[a++] = &(main->paintcurves);
676         lb[a++] = &(main->brush);
677         lb[a++] = &(main->speaker);
678
679         lb[a++] = &(main->world);
680         lb[a++] = &(main->movieclip);
681         lb[a++] = &(main->screen);
682         lb[a++] = &(main->object);
683         lb[a++] = &(main->linestyle); /* referenced by scenes */
684         lb[a++] = &(main->scene);
685         lb[a++] = &(main->wm);
686         lb[a++] = &(main->mask);
687         
688         lb[a] = NULL;
689
690         BLI_assert(a + 1 == MAX_LIBARRAY);
691
692         return a;
693 }
694
695 /* *********** ALLOC AND FREE *****************
696  *
697  * BKE_libblock_free(ListBase *lb, ID *id )
698  * provide a list-basis and datablock, but only ID is read
699  *
700  * void *BKE_libblock_alloc(ListBase *lb, type, name)
701  * inserts in list and returns a new ID
702  *
703  * **************************** */
704
705 /**
706  * Allocates and returns memory of the right size for the specified block type,
707  * initialized to zero.
708  */
709 void *BKE_libblock_alloc_notest(short type)
710 {
711         ID *id = NULL;
712         
713         switch (type) {
714                 case ID_SCE:
715                         id = MEM_callocN(sizeof(Scene), "scene");
716                         break;
717                 case ID_LI:
718                         id = MEM_callocN(sizeof(Library), "library");
719                         break;
720                 case ID_OB:
721                         id = MEM_callocN(sizeof(Object), "object");
722                         break;
723                 case ID_ME:
724                         id = MEM_callocN(sizeof(Mesh), "mesh");
725                         break;
726                 case ID_CU:
727                         id = MEM_callocN(sizeof(Curve), "curve");
728                         break;
729                 case ID_MB:
730                         id = MEM_callocN(sizeof(MetaBall), "mball");
731                         break;
732                 case ID_MA:
733                         id = MEM_callocN(sizeof(Material), "mat");
734                         break;
735                 case ID_TE:
736                         id = MEM_callocN(sizeof(Tex), "tex");
737                         break;
738                 case ID_IM:
739                         id = MEM_callocN(sizeof(Image), "image");
740                         break;
741                 case ID_LT:
742                         id = MEM_callocN(sizeof(Lattice), "latt");
743                         break;
744                 case ID_LA:
745                         id = MEM_callocN(sizeof(Lamp), "lamp");
746                         break;
747                 case ID_CA:
748                         id = MEM_callocN(sizeof(Camera), "camera");
749                         break;
750                 case ID_IP:
751                         id = MEM_callocN(sizeof(Ipo), "ipo");
752                         break;
753                 case ID_KE:
754                         id = MEM_callocN(sizeof(Key), "key");
755                         break;
756                 case ID_WO:
757                         id = MEM_callocN(sizeof(World), "world");
758                         break;
759                 case ID_SCR:
760                         id = MEM_callocN(sizeof(bScreen), "screen");
761                         break;
762                 case ID_VF:
763                         id = MEM_callocN(sizeof(VFont), "vfont");
764                         break;
765                 case ID_TXT:
766                         id = MEM_callocN(sizeof(Text), "text");
767                         break;
768                 case ID_SPK:
769                         id = MEM_callocN(sizeof(Speaker), "speaker");
770                         break;
771                 case ID_SO:
772                         id = MEM_callocN(sizeof(bSound), "sound");
773                         break;
774                 case ID_GR:
775                         id = MEM_callocN(sizeof(Group), "group");
776                         break;
777                 case ID_AR:
778                         id = MEM_callocN(sizeof(bArmature), "armature");
779                         break;
780                 case ID_AC:
781                         id = MEM_callocN(sizeof(bAction), "action");
782                         break;
783                 case ID_NT:
784                         id = MEM_callocN(sizeof(bNodeTree), "nodetree");
785                         break;
786                 case ID_BR:
787                         id = MEM_callocN(sizeof(Brush), "brush");
788                         break;
789                 case ID_WM:
790                         id = MEM_callocN(sizeof(wmWindowManager), "Window manager");
791                         break;
792                 case ID_GD:
793                         id = MEM_callocN(sizeof(bGPdata), "Grease Pencil");
794                         break;
795                 case ID_MC:
796                         id = MEM_callocN(sizeof(MovieClip), "Movie Clip");
797                         break;
798                 case ID_MSK:
799                         id = MEM_callocN(sizeof(Mask), "Mask");
800                         break;
801                 case ID_LS:
802                         id = MEM_callocN(sizeof(FreestyleLineStyle), "Freestyle Line Style");
803                         break;
804                 case ID_PAL:
805                         id = MEM_callocN(sizeof(Palette), "Palette");
806                         break;
807                 case ID_PC:
808                         id = MEM_callocN(sizeof(PaintCurve), "Paint Curve");
809                         break;
810         }
811         return id;
812 }
813
814 /**
815  * Allocates and returns a block of the specified type, with the specified name
816  * (adjusted as necessary to ensure uniqueness), and appended to the specified list.
817  * The user count is set to 1, all other content (apart from name and links) being
818  * initialized to zero.
819  */
820 void *BKE_libblock_alloc(Main *bmain, short type, const char *name)
821 {
822         ID *id = NULL;
823         ListBase *lb = which_libbase(bmain, type);
824         
825         id = BKE_libblock_alloc_notest(type);
826         if (id) {
827                 BKE_main_lock(bmain);
828                 BLI_addtail(lb, id);
829                 id->us = 1;
830                 id->icon_id = 0;
831                 *( (short *)id->name) = type;
832                 new_id(lb, id, name);
833                 /* alphabetic insertion: is in new_id */
834                 BKE_main_unlock(bmain);
835         }
836         DAG_id_type_tag(bmain, type);
837         return id;
838 }
839
840 /**
841  * Initialize an ID of given type, such that it has valid 'empty' data.
842  * ID is assumed to be just calloc'ed.
843  */
844 void BKE_libblock_init_empty(ID *id)
845 {
846         /* Note that only ID types that are not valid when filled of zero should have a callback here. */
847         switch (GS(id->name)) {
848                 case ID_SCE:
849                         BKE_scene_init((Scene *)id);
850                         break;
851                 case ID_LI:
852                         /* Nothing to do. */
853                         break;
854                 case ID_OB:
855                 {
856                         Object *ob = (Object *)id;
857                         ob->type = OB_EMPTY;
858                         BKE_object_init(ob);
859                         break;
860                 }
861                 case ID_ME:
862                         BKE_mesh_init((Mesh *)id);
863                         break;
864                 case ID_CU:
865                         BKE_curve_init((Curve *)id);
866                         break;
867                 case ID_MB:
868                         BKE_mball_init((MetaBall *)id);
869                         break;
870                 case ID_MA:
871                         BKE_material_init((Material *)id);
872                         break;
873                 case ID_TE:
874                         BKE_texture_default((Tex *)id);
875                         break;
876                 case ID_IM:
877                         BKE_image_init((Image *)id);
878                         break;
879                 case ID_LT:
880                         BKE_lattice_init((Lattice *)id);
881                         break;
882                 case ID_LA:
883                         BKE_lamp_init((Lamp *)id);
884                         break;
885                 case ID_SPK:
886                         BKE_speaker_init((Speaker *)id);
887                         break;
888                 case ID_CA:
889                         BKE_camera_init((Camera *)id);
890                         break;
891                 case ID_IP:
892                         /* Should not be needed - animation from lib pre-2.5 is broken anyway. */
893                         BLI_assert(0);
894                         break;
895                 case ID_KE:
896                         /* Shapekeys are a complex topic too - they depend on their 'user' data type...
897                          * They are not linkable, though, so it should never reach here anyway. */
898                         BLI_assert(0);
899                         break;
900                 case ID_WO:
901                         BKE_world_init((World *)id);
902                         break;
903                 case ID_SCR:
904                         /* Nothing to do. */
905                         break;
906                 case ID_VF:
907                         BKE_vfont_init((VFont *)id);
908                         break;
909                 case ID_TXT:
910                         BKE_text_init((Text *)id);
911                         break;
912                 case ID_SO:
913                         /* Another fuzzy case, think NULLified content is OK here... */
914                         break;
915                 case ID_GR:
916                         /* Nothing to do. */
917                         break;
918                 case ID_AR:
919                         /* Nothing to do. */
920                         break;
921                 case ID_AC:
922                         /* Nothing to do. */
923                         break;
924                 case ID_NT:
925                         ntreeInitDefault((bNodeTree *)id);
926                         break;
927                 case ID_BR:
928                         BKE_brush_init((Brush *)id);
929                         break;
930                 case ID_PC:
931                         /* Nothing to do. */
932                         break;
933                 case ID_WM:
934                         /* We should never reach this. */
935                         BLI_assert(0);
936                         break;
937                 case ID_GD:
938                         /* Nothing to do. */
939                         break;
940                 case ID_MSK:
941                         /* Nothing to do. */
942                         break;
943                 case ID_LS:
944                         BKE_linestyle_init((FreestyleLineStyle *)id);
945                         break;
946         }
947 }
948
949 /* by spec, animdata is first item after ID */
950 /* and, trust that BKE_animdata_from_id() will only find AnimData for valid ID-types */
951 static void id_copy_animdata(ID *id, const bool do_action)
952 {
953         AnimData *adt = BKE_animdata_from_id(id);
954         
955         if (adt) {
956                 IdAdtTemplate *iat = (IdAdtTemplate *)id;
957                 iat->adt = BKE_animdata_copy(iat->adt, do_action); /* could be set to false, need to investigate */
958         }
959 }
960
961 /* material nodes use this since they are not treated as libdata */
962 void BKE_libblock_copy_data(ID *id, const ID *id_from, const bool do_action)
963 {
964         if (id_from->properties)
965                 id->properties = IDP_CopyProperty(id_from->properties);
966
967         /* the duplicate should get a copy of the animdata */
968         id_copy_animdata(id, do_action);
969 }
970
971 /* used everywhere in blenkernel */
972 void *BKE_libblock_copy_ex(Main *bmain, ID *id)
973 {
974         ID *idn;
975         size_t idn_len;
976
977         idn = BKE_libblock_alloc(bmain, GS(id->name), id->name + 2);
978
979         assert(idn != NULL);
980
981         idn_len = MEM_allocN_len(idn);
982         if ((int)idn_len - (int)sizeof(ID) > 0) { /* signed to allow neg result */
983                 const char *cp = (const char *)id;
984                 char *cpn = (char *)idn;
985
986                 memcpy(cpn + sizeof(ID), cp + sizeof(ID), idn_len - sizeof(ID));
987         }
988         
989         id->newid = idn;
990         idn->tag |= LIB_TAG_NEW;
991
992         BKE_libblock_copy_data(idn, id, false);
993         
994         return idn;
995 }
996
997 void *BKE_libblock_copy_nolib(ID *id, const bool do_action)
998 {
999         ID *idn;
1000         size_t idn_len;
1001
1002         idn = BKE_libblock_alloc_notest(GS(id->name));
1003         assert(idn != NULL);
1004
1005         BLI_strncpy(idn->name, id->name, sizeof(idn->name));
1006
1007         idn_len = MEM_allocN_len(idn);
1008         if ((int)idn_len - (int)sizeof(ID) > 0) { /* signed to allow neg result */
1009                 const char *cp = (const char *)id;
1010                 char *cpn = (char *)idn;
1011
1012                 memcpy(cpn + sizeof(ID), cp + sizeof(ID), idn_len - sizeof(ID));
1013         }
1014
1015         id->newid = idn;
1016         idn->tag |= LIB_TAG_NEW;
1017         idn->us = 1;
1018
1019         BKE_libblock_copy_data(idn, id, do_action);
1020
1021         return idn;
1022 }
1023
1024 void *BKE_libblock_copy(ID *id)
1025 {
1026         return BKE_libblock_copy_ex(G.main, id);
1027 }
1028
1029 static int id_relink_looper(void *UNUSED(user_data), ID *UNUSED(self_id), ID **id_pointer, const int cd_flag)
1030 {
1031         ID *id = *id_pointer;
1032         if (id) {
1033                 /* See: NEW_ID macro */
1034                 if (id->newid) {
1035                         BKE_library_update_ID_link_user(id->newid, id, cd_flag);
1036                         *id_pointer = id->newid;
1037                 }
1038                 else if (id->tag & LIB_TAG_NEW) {
1039                         id->tag &= ~LIB_TAG_NEW;
1040                         BKE_libblock_relink(id);
1041                 }
1042         }
1043         return IDWALK_RET_NOP;
1044 }
1045
1046 void BKE_libblock_relink(ID *id)
1047 {
1048         if (id->lib)
1049                 return;
1050
1051         BKE_library_foreach_ID_link(id, id_relink_looper, NULL, 0);
1052 }
1053
1054 void BKE_library_free(Library *lib)
1055 {
1056         if (lib->packedfile)
1057                 freePackedFile(lib->packedfile);
1058 }
1059
1060 Main *BKE_main_new(void)
1061 {
1062         Main *bmain = MEM_callocN(sizeof(Main), "new main");
1063         bmain->eval_ctx = DEG_evaluation_context_new(DAG_EVAL_VIEWPORT);
1064         bmain->lock = MEM_mallocN(sizeof(SpinLock), "main lock");
1065         BLI_spin_init((SpinLock *)bmain->lock);
1066         return bmain;
1067 }
1068
1069 void BKE_main_free(Main *mainvar)
1070 {
1071         /* also call when reading a file, erase all, etc */
1072         ListBase *lbarray[MAX_LIBARRAY];
1073         int a;
1074
1075         MEM_SAFE_FREE(mainvar->blen_thumb);
1076
1077         a = set_listbasepointers(mainvar, lbarray);
1078         while (a--) {
1079                 ListBase *lb = lbarray[a];
1080                 ID *id;
1081                 
1082                 while ( (id = lb->first) ) {
1083 #if 1
1084                         BKE_libblock_free_ex(mainvar, id, false);
1085 #else
1086                         /* errors freeing ID's can be hard to track down,
1087                          * enable this so valgrind will give the line number in its error log */
1088                         switch (a) {
1089                                 case   0: BKE_libblock_free_ex(mainvar, id, false); break;
1090                                 case   1: BKE_libblock_free_ex(mainvar, id, false); break;
1091                                 case   2: BKE_libblock_free_ex(mainvar, id, false); break;
1092                                 case   3: BKE_libblock_free_ex(mainvar, id, false); break;
1093                                 case   4: BKE_libblock_free_ex(mainvar, id, false); break;
1094                                 case   5: BKE_libblock_free_ex(mainvar, id, false); break;
1095                                 case   6: BKE_libblock_free_ex(mainvar, id, false); break;
1096                                 case   7: BKE_libblock_free_ex(mainvar, id, false); break;
1097                                 case   8: BKE_libblock_free_ex(mainvar, id, false); break;
1098                                 case   9: BKE_libblock_free_ex(mainvar, id, false); break;
1099                                 case  10: BKE_libblock_free_ex(mainvar, id, false); break;
1100                                 case  11: BKE_libblock_free_ex(mainvar, id, false); break;
1101                                 case  12: BKE_libblock_free_ex(mainvar, id, false); break;
1102                                 case  13: BKE_libblock_free_ex(mainvar, id, false); break;
1103                                 case  14: BKE_libblock_free_ex(mainvar, id, false); break;
1104                                 case  15: BKE_libblock_free_ex(mainvar, id, false); break;
1105                                 case  16: BKE_libblock_free_ex(mainvar, id, false); break;
1106                                 case  17: BKE_libblock_free_ex(mainvar, id, false); break;
1107                                 case  18: BKE_libblock_free_ex(mainvar, id, false); break;
1108                                 case  19: BKE_libblock_free_ex(mainvar, id, false); break;
1109                                 case  20: BKE_libblock_free_ex(mainvar, id, false); break;
1110                                 case  21: BKE_libblock_free_ex(mainvar, id, false); break;
1111                                 case  22: BKE_libblock_free_ex(mainvar, id, false); break;
1112                                 case  23: BKE_libblock_free_ex(mainvar, id, false); break;
1113                                 case  24: BKE_libblock_free_ex(mainvar, id, false); break;
1114                                 case  25: BKE_libblock_free_ex(mainvar, id, false); break;
1115                                 case  26: BKE_libblock_free_ex(mainvar, id, false); break;
1116                                 case  27: BKE_libblock_free_ex(mainvar, id, false); break;
1117                                 case  28: BKE_libblock_free_ex(mainvar, id, false); break;
1118                                 case  29: BKE_libblock_free_ex(mainvar, id, false); break;
1119                                 case  30: BKE_libblock_free_ex(mainvar, id, false); break;
1120                                 case  31: BKE_libblock_free_ex(mainvar, id, false); break;
1121                                 case  32: BKE_libblock_free_ex(mainvar, id, false); break;
1122                                 case  33: BKE_libblock_free_ex(mainvar, id, false); break;
1123                                 default:
1124                                         BLI_assert(0);
1125                                         break;
1126                         }
1127 #endif
1128                 }
1129         }
1130
1131         BLI_spin_end((SpinLock *)mainvar->lock);
1132         MEM_freeN(mainvar->lock);
1133         DEG_evaluation_context_free(mainvar->eval_ctx);
1134         MEM_freeN(mainvar);
1135 }
1136
1137 void BKE_main_lock(struct Main *bmain)
1138 {
1139         BLI_spin_lock((SpinLock *) bmain->lock);
1140 }
1141
1142 void BKE_main_unlock(struct Main *bmain)
1143 {
1144         BLI_spin_unlock((SpinLock *) bmain->lock);
1145 }
1146
1147 /**
1148  * Generates a raw .blend file thumbnail data from given image.
1149  *
1150  * \param bmain If not NULL, also store generated data in this Main.
1151  * \param img ImBuf image to generate thumbnail data from.
1152  * \return The generated .blend file raw thumbnail data.
1153  */
1154 BlendThumbnail *BKE_main_thumbnail_from_imbuf(Main *bmain, ImBuf *img)
1155 {
1156         BlendThumbnail *data = NULL;
1157
1158         if (bmain) {
1159                 MEM_SAFE_FREE(bmain->blen_thumb);
1160         }
1161
1162         if (img) {
1163                 const size_t sz = BLEN_THUMB_MEMSIZE(img->x, img->y);
1164                 data = MEM_mallocN(sz, __func__);
1165
1166                 IMB_rect_from_float(img);  /* Just in case... */
1167                 data->width = img->x;
1168                 data->height = img->y;
1169                 memcpy(data->rect, img->rect, sz - sizeof(*data));
1170         }
1171
1172         if (bmain) {
1173                 bmain->blen_thumb = data;
1174         }
1175         return data;
1176 }
1177
1178 /**
1179  * Generates an image from raw .blend file thumbnail \a data.
1180  *
1181  * \param bmain Use this bmain->blen_thumb data if given \a data is NULL.
1182  * \param data Raw .blend file thumbnail data.
1183  * \return An ImBuf from given data, or NULL if invalid.
1184  */
1185 ImBuf *BKE_main_thumbnail_to_imbuf(Main *bmain, BlendThumbnail *data)
1186 {
1187         ImBuf *img = NULL;
1188
1189         if (!data && bmain) {
1190                 data = bmain->blen_thumb;
1191         }
1192
1193         if (data) {
1194                 /* Note: we cannot use IMB_allocFromBuffer(), since it tries to dupalloc passed buffer, which will fail
1195                  *       here (we do not want to pass the first two ints!). */
1196                 img = IMB_allocImBuf((unsigned int)data->width, (unsigned int)data->height, 32, IB_rect | IB_metadata);
1197                 memcpy(img->rect, data->rect, BLEN_THUMB_MEMSIZE(data->width, data->height) - sizeof(*data));
1198         }
1199
1200         return img;
1201 }
1202
1203 /**
1204  * Generates an empty (black) thumbnail for given Main.
1205  */
1206 void BKE_main_thumbnail_create(struct Main *bmain)
1207 {
1208         MEM_SAFE_FREE(bmain->blen_thumb);
1209
1210         bmain->blen_thumb = MEM_callocN(BLEN_THUMB_MEMSIZE(BLEN_THUMB_SIZE, BLEN_THUMB_SIZE), __func__);
1211         bmain->blen_thumb->width = BLEN_THUMB_SIZE;
1212         bmain->blen_thumb->height = BLEN_THUMB_SIZE;
1213 }
1214
1215 /* ***************** ID ************************ */
1216 ID *BKE_libblock_find_name_ex(struct Main *bmain, const short type, const char *name)
1217 {
1218         ListBase *lb = which_libbase(bmain, type);
1219         BLI_assert(lb != NULL);
1220         return BLI_findstring(lb, name, offsetof(ID, name) + 2);
1221 }
1222 ID *BKE_libblock_find_name(const short type, const char *name)
1223 {
1224         return BKE_libblock_find_name_ex(G.main, type, name);
1225 }
1226
1227
1228 void id_sort_by_name(ListBase *lb, ID *id)
1229 {
1230         ID *idtest;
1231         
1232         /* insert alphabetically */
1233         if (lb->first != lb->last) {
1234                 BLI_remlink(lb, id);
1235                 
1236                 idtest = lb->first;
1237                 while (idtest) {
1238                         if (BLI_strcasecmp(idtest->name, id->name) > 0 || (idtest->lib && !id->lib)) {
1239                                 BLI_insertlinkbefore(lb, idtest, id);
1240                                 break;
1241                         }
1242                         idtest = idtest->next;
1243                 }
1244                 /* as last */
1245                 if (idtest == NULL) {
1246                         BLI_addtail(lb, id);
1247                 }
1248         }
1249         
1250 }
1251
1252 /**
1253  * Check to see if there is an ID with the same name as 'name'.
1254  * Returns the ID if so, if not, returns NULL
1255  */
1256 static ID *is_dupid(ListBase *lb, ID *id, const char *name)
1257 {
1258         ID *idtest = NULL;
1259         
1260         for (idtest = lb->first; idtest; idtest = idtest->next) {
1261                 /* if idtest is not a lib */ 
1262                 if (id != idtest && idtest->lib == NULL) {
1263                         /* do not test alphabetic! */
1264                         /* optimized */
1265                         if (idtest->name[2] == name[0]) {
1266                                 if (STREQ(name, idtest->name + 2)) break;
1267                         }
1268                 }
1269         }
1270         
1271         return idtest;
1272 }
1273
1274 /**
1275  * Check to see if an ID name is already used, and find a new one if so.
1276  * Return true if created a new name (returned in name).
1277  *
1278  * Normally the ID that's being check is already in the ListBase, so ID *id
1279  * points at the new entry.  The Python Library module needs to know what
1280  * the name of a datablock will be before it is appended; in this case ID *id
1281  * id is NULL
1282  */
1283
1284 static bool check_for_dupid(ListBase *lb, ID *id, char *name)
1285 {
1286         ID *idtest;
1287         int nr = 0, a, left_len;
1288 #define MAX_IN_USE 64
1289         bool in_use[MAX_IN_USE];
1290         /* to speed up finding unused numbers within [1 .. MAX_IN_USE - 1] */
1291
1292         char left[MAX_ID_NAME + 8], leftest[MAX_ID_NAME + 8];
1293
1294         while (true) {
1295
1296                 /* phase 1: id already exists? */
1297                 idtest = is_dupid(lb, id, name);
1298
1299                 /* if there is no double, done */
1300                 if (idtest == NULL) return false;
1301
1302                 /* we have a dup; need to make a new name */
1303                 /* quick check so we can reuse one of first MAX_IN_USE - 1 ids if vacant */
1304                 memset(in_use, false, sizeof(in_use));
1305
1306                 /* get name portion, number portion ("name.number") */
1307                 left_len = BLI_split_name_num(left, &nr, name, '.');
1308
1309                 /* if new name will be too long, truncate it */
1310                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {  /* assumption: won't go beyond 9999 */
1311                         left[MAX_ID_NAME - 8] = 0;
1312                         left_len = MAX_ID_NAME - 8;
1313                 }
1314                 else if (left_len > (MAX_ID_NAME - 7)) {
1315                         left[MAX_ID_NAME - 7] = 0;
1316                         left_len = MAX_ID_NAME - 7;
1317                 }
1318
1319                 for (idtest = lb->first; idtest; idtest = idtest->next) {
1320                         int nrtest;
1321                         if ( (id != idtest) &&
1322                              (idtest->lib == NULL) &&
1323                              (*name == *(idtest->name + 2)) &&
1324                              STREQLEN(name, idtest->name + 2, left_len) &&
1325                              (BLI_split_name_num(leftest, &nrtest, idtest->name + 2, '.') == left_len)
1326                              )
1327                         {
1328                                 /* will get here at least once, otherwise is_dupid call above would have returned NULL */
1329                                 if (nrtest < MAX_IN_USE)
1330                                         in_use[nrtest] = true;  /* mark as used */
1331                                 if (nr <= nrtest)
1332                                         nr = nrtest + 1;    /* track largest unused */
1333                         }
1334                 }
1335                 /* At this point, 'nr' will typically be at least 1. (but not always) */
1336                 // BLI_assert(nr >= 1);
1337
1338                 /* decide which value of nr to use */
1339                 for (a = 0; a < MAX_IN_USE; a++) {
1340                         if (a >= nr) break;  /* stop when we've checked up to biggest */  /* redundant check */
1341                         if (!in_use[a]) { /* found an unused value */
1342                                 nr = a;
1343                                 /* can only be zero if all potential duplicate names had
1344                                  * nonzero numeric suffixes, which means name itself has
1345                                  * nonzero numeric suffix (else no name conflict and wouldn't
1346                                  * have got here), which means name[left_len] is not a null */
1347                                 break;
1348                         }
1349                 }
1350                 /* At this point, nr is either the lowest unused number within [0 .. MAX_IN_USE - 1],
1351                  * or 1 greater than the largest used number if all those low ones are taken.
1352                  * We can't be bothered to look for the lowest unused number beyond (MAX_IN_USE - 1). */
1353
1354                 /* If the original name has no numeric suffix, 
1355                  * rather than just chopping and adding numbers, 
1356                  * shave off the end chars until we have a unique name.
1357                  * Check the null terminators match as well so we don't get Cube.000 -> Cube.00 */
1358                 if (nr == 0 && name[left_len] == '\0') {
1359                         int len;
1360                         /* FIXME: this code will never be executed, because either nr will be
1361                          * at least 1, or name will not end at left_len! */
1362                         BLI_assert(0);
1363
1364                         len = left_len - 1;
1365                         idtest = is_dupid(lb, id, name);
1366                         
1367                         while (idtest && len > 1) {
1368                                 name[len--] = '\0';
1369                                 idtest = is_dupid(lb, id, name);
1370                         }
1371                         if (idtest == NULL) return true;
1372                         /* otherwise just continue and use a number suffix */
1373                 }
1374                 
1375                 if (nr > 999 && left_len > (MAX_ID_NAME - 8)) {
1376                         /* this would overflow name buffer */
1377                         left[MAX_ID_NAME - 8] = 0;
1378                         /* left_len = MAX_ID_NAME - 8; */ /* for now this isn't used again */
1379                         memcpy(name, left, sizeof(char) * (MAX_ID_NAME - 7));
1380                         continue;
1381                 }
1382                 /* this format specifier is from hell... */
1383                 BLI_snprintf(name, sizeof(id->name) - 2, "%s.%.3d", left, nr);
1384
1385                 return true;
1386         }
1387
1388 #undef MAX_IN_USE
1389 }
1390
1391 /*
1392  * Only for local blocks: external en indirect blocks already have a
1393  * unique ID.
1394  *
1395  * return true: created a new name
1396  */
1397
1398 bool new_id(ListBase *lb, ID *id, const char *tname)
1399 {
1400         bool result;
1401         char name[MAX_ID_NAME - 2];
1402
1403         /* if library, don't rename */
1404         if (id->lib)
1405                 return false;
1406
1407         /* if no libdata given, look up based on ID */
1408         if (lb == NULL)
1409                 lb = which_libbase(G.main, GS(id->name));
1410
1411         /* if no name given, use name of current ID
1412          * else make a copy (tname args can be const) */
1413         if (tname == NULL)
1414                 tname = id->name + 2;
1415
1416         BLI_strncpy(name, tname, sizeof(name));
1417
1418         if (name[0] == '\0') {
1419                 /* disallow empty names */
1420                 BLI_strncpy(name, DATA_(ID_FALLBACK_NAME), sizeof(name));
1421         }
1422         else {
1423                 /* disallow non utf8 chars,
1424                  * the interface checks for this but new ID's based on file names don't */
1425                 BLI_utf8_invalid_strip(name, strlen(name));
1426         }
1427
1428         result = check_for_dupid(lb, id, name);
1429         strcpy(id->name + 2, name);
1430
1431         /* This was in 2.43 and previous releases
1432          * however all data in blender should be sorted, not just duplicate names
1433          * sorting should not hurt, but noting just incase it alters the way other
1434          * functions work, so sort every time */
1435 #if 0
1436         if (result)
1437                 id_sort_by_name(lb, id);
1438 #endif
1439
1440         id_sort_by_name(lb, id);
1441         
1442         return result;
1443 }
1444
1445 /**
1446  * Pull an ID out of a library (make it local). Only call this for IDs that
1447  * don't have other library users.
1448  */
1449 void id_clear_lib_data_ex(Main *bmain, ID *id, bool id_in_mainlist)
1450 {
1451         bNodeTree *ntree = NULL;
1452
1453         BKE_id_lib_local_paths(bmain, id->lib, id);
1454
1455         id_fake_user_clear(id);
1456
1457         id->lib = NULL;
1458         id->tag &= ~(LIB_TAG_INDIRECT | LIB_TAG_EXTERN);
1459         if (id_in_mainlist)
1460                 new_id(which_libbase(bmain, GS(id->name)), id, NULL);
1461
1462         /* internal bNodeTree blocks inside ID types below
1463          * also stores id->lib, make sure this stays in sync.
1464          */
1465         ntree = ntreeFromID(id);
1466
1467         if (ntree) {
1468                 ntreeMakeLocal(ntree, false);
1469         }
1470
1471         if (GS(id->name) == ID_OB) {
1472                 Object *object = (Object *)id;
1473                 if (object->proxy_from != NULL) {
1474                         object->proxy_from->proxy = NULL;
1475                         object->proxy_from->proxy_group = NULL;
1476                 }
1477                 object->proxy = object->proxy_from = object->proxy_group = NULL;
1478         }
1479 }
1480
1481 void id_clear_lib_data(Main *bmain, ID *id)
1482 {
1483         id_clear_lib_data_ex(bmain, id, true);
1484 }
1485
1486 /* next to indirect usage in read/writefile also in editobject.c scene.c */
1487 void BKE_main_id_clear_newpoins(Main *bmain)
1488 {
1489         ListBase *lbarray[MAX_LIBARRAY];
1490         ID *id;
1491         int a;
1492
1493         a = set_listbasepointers(bmain, lbarray);
1494         while (a--) {
1495                 id = lbarray[a]->first;
1496                 while (id) {
1497                         id->newid = NULL;
1498                         id->tag &= ~LIB_TAG_NEW;
1499                         id = id->next;
1500                 }
1501         }
1502 }
1503
1504 static void lib_indirect_test_id(ID *id, const Library *lib)
1505 {
1506 #define LIBTAG(a) \
1507         if (a && a->id.lib) { a->id.tag &= ~LIB_TAG_INDIRECT; a->id.tag |= LIB_TAG_EXTERN; } (void)0
1508         
1509         if (id->lib) {
1510                 /* datablocks that were indirectly related are now direct links
1511                  * without this, appending data that has a link to other data will fail to write */
1512                 if (lib && id->lib->parent == lib) {
1513                         id_lib_extern(id);
1514                 }
1515                 return;
1516         }
1517         
1518         if (GS(id->name) == ID_OB) {
1519                 Object *ob = (Object *)id;
1520                 Mesh *me;
1521
1522                 int a;
1523
1524 #if 0   /* XXX OLD ANIMSYS, NLASTRIPS ARE NO LONGER USED */
1525                 /* XXX old animation system! -------------------------------------- */
1526                 {
1527                         bActionStrip *strip;
1528                         for (strip = ob->nlastrips.first; strip; strip = strip->next) {
1529                                 LIBTAG(strip->object);
1530                                 LIBTAG(strip->act);
1531                                 LIBTAG(strip->ipo);
1532                         }
1533                 }
1534                 /* XXX: new animation system needs something like this? */
1535 #endif
1536
1537                 for (a = 0; a < ob->totcol; a++) {
1538                         LIBTAG(ob->mat[a]);
1539                 }
1540         
1541                 LIBTAG(ob->dup_group);
1542                 LIBTAG(ob->proxy);
1543                 
1544                 me = ob->data;
1545                 LIBTAG(me);
1546         }
1547
1548 #undef LIBTAG
1549 }
1550
1551 /** Make linked datablocks local.
1552  *
1553  * \param bmain Almost certainly G.main.
1554  * \param lib If not NULL, only make local datablocks from this library.
1555  * \param untagged_only If true, only make local datablocks not tagged with LIB_TAG_PRE_EXISTING.
1556  * \param set_fake If true, set fake user on all localized datablocks (except group and objects ones).
1557  */
1558 void BKE_library_make_local(Main *bmain, const Library *lib, const bool untagged_only, const bool set_fake)
1559 {
1560         ListBase *lbarray[MAX_LIBARRAY];
1561         ID *id, *idn;
1562         int a;
1563
1564         a = set_listbasepointers(bmain, lbarray);
1565         while (a--) {
1566                 id = lbarray[a]->first;
1567                 
1568                 while (id) {
1569                         id->newid = NULL;
1570                         idn = id->next;      /* id is possibly being inserted again */
1571                         
1572                         /* The check on the second line (LIB_TAG_PRE_EXISTING) is done so its
1573                          * possible to tag data you don't want to be made local, used for
1574                          * appending data, so any libdata already linked wont become local
1575                          * (very nasty to discover all your links are lost after appending)  
1576                          * */
1577                         if (id->tag & (LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW) &&
1578                             ((untagged_only == false) || !(id->tag & LIB_TAG_PRE_EXISTING)))
1579                         {
1580                                 if (lib == NULL || id->lib == lib) {
1581                                         if (id->lib) {
1582                                                 /* for Make Local > All we should be calling id_make_local,
1583                                                  * but doing that breaks append (see #36003 and #36006), we
1584                                                  * we should make it work with all datablocks and id.us==0 */
1585                                                 id_clear_lib_data(bmain, id); /* sets 'id->tag' */
1586
1587                                                 /* why sort alphabetically here but not in
1588                                                  * id_clear_lib_data() ? - campbell */
1589                                                 id_sort_by_name(lbarray[a], id);
1590                                         }
1591                                         else {
1592                                                 id->tag &= ~(LIB_TAG_EXTERN | LIB_TAG_INDIRECT | LIB_TAG_NEW);
1593                                         }
1594                                 }
1595
1596                                 if (set_fake) {
1597                                         if (!ELEM(GS(id->name), ID_OB, ID_GR)) {
1598                                                 /* do not set fake user on objects, groups (instancing) */
1599                                                 id_fake_user_set(id);
1600                                         }
1601                                 }
1602                         }
1603
1604                         id = idn;
1605                 }
1606         }
1607
1608         a = set_listbasepointers(bmain, lbarray);
1609         while (a--) {
1610                 for (id = lbarray[a]->first; id; id = id->next)
1611                         lib_indirect_test_id(id, lib);
1612         }
1613 }
1614
1615 /**
1616  * Use after setting the ID's name
1617  * When name exists: call 'new_id'
1618  */
1619 void BLI_libblock_ensure_unique_name(Main *bmain, const char *name)
1620 {
1621         ListBase *lb;
1622         ID *idtest;
1623
1624
1625         lb = which_libbase(bmain, GS(name));
1626         if (lb == NULL) return;
1627         
1628         /* search for id */
1629         idtest = BLI_findstring(lb, name + 2, offsetof(ID, name) + 2);
1630
1631         if (idtest && !new_id(lb, idtest, idtest->name + 2)) {
1632                 id_sort_by_name(lb, idtest);
1633         }
1634 }
1635
1636 /**
1637  * Sets the name of a block to name, suitably adjusted for uniqueness.
1638  */
1639 void BKE_libblock_rename(Main *bmain, ID *id, const char *name)
1640 {
1641         ListBase *lb = which_libbase(bmain, GS(id->name));
1642         new_id(lb, id, name);
1643 }
1644
1645 /**
1646  * Returns in name the name of the block, with a 3-character prefix prepended
1647  * indicating whether it comes from a library, has a fake user, or no users.
1648  */
1649 void BKE_id_ui_prefix(char name[MAX_ID_NAME + 1], const ID *id)
1650 {
1651         name[0] = id->lib ? (ID_MISSING(id) ? 'M' : 'L') : ' ';
1652         name[1] = (id->flag & LIB_FAKEUSER) ? 'F' : ((id->us == 0) ? '0' : ' ');
1653         name[2] = ' ';
1654
1655         strcpy(name + 3, id->name + 2);
1656 }
1657
1658 void BKE_library_filepath_set(Library *lib, const char *filepath)
1659 {
1660         /* in some cases this is used to update the absolute path from the
1661          * relative */
1662         if (lib->name != filepath) {
1663                 BLI_strncpy(lib->name, filepath, sizeof(lib->name));
1664         }
1665
1666         BLI_strncpy(lib->filepath, filepath, sizeof(lib->filepath));
1667
1668         /* not essential but set filepath is an absolute copy of value which
1669          * is more useful if its kept in sync */
1670         if (BLI_path_is_rel(lib->filepath)) {
1671                 /* note that the file may be unsaved, in this case, setting the
1672                  * filepath on an indirectly linked path is not allowed from the
1673                  * outliner, and its not really supported but allow from here for now
1674                  * since making local could cause this to be directly linked - campbell
1675                  */
1676                 const char *basepath = lib->parent ? lib->parent->filepath : G.main->name;
1677                 BLI_path_abs(lib->filepath, basepath);
1678         }
1679 }