Bug fix, IRC report.
authorTon Roosendaal <ton@blender.org>
Mon, 17 Dec 2012 14:51:06 +0000 (14:51 +0000)
committerTon Roosendaal <ton@blender.org>
Mon, 17 Dec 2012 14:51:06 +0000 (14:51 +0000)
With 2 windows, 2 scenes, linked objects:
- enter editmode in 1 window.
- the other window allowed to enter editmode too.
- and crash happened on exit editmode.

Since editmode is in Context (scene->obedit) a bad conflict arises.

New function BKE_object_is_in_editmode() returns this info outside of
context. Note I didn't use BMEdit_FromObject() because of the assert().

NOTE: contextual storage of editmode could need rework... five places:
- ob->mode / ob->restore_mode
- scene->object
- CTX_data_edit_object()
- BKE_object_is_in_editmode()
- view3d mode handling menu

source/blender/blenkernel/BKE_object.h
source/blender/blenkernel/intern/object.c
source/blender/editors/object/object_edit.c

index 65b3b1945535b39ce4e51f62a8b31625815b8ae6..885bb6f2a26f1ecf8935c71502b82a678ba0af1a 100644 (file)
@@ -76,7 +76,8 @@ void BKE_object_copy_proxy_drivers(struct Object *ob, struct Object *target);
 
 void BKE_object_unlink(struct Object *ob);
 int  BKE_object_exists_check(struct Object *obtest);
 
 void BKE_object_unlink(struct Object *ob);
 int  BKE_object_exists_check(struct Object *obtest);
-       
+int BKE_object_is_in_editmode(struct Object *ob);
+
 struct Object *BKE_object_add_only_object(int type, const char *name);
 struct Object *BKE_object_add(struct Scene *scene, int type);
 void *BKE_object_obdata_add_from_type(int type);
 struct Object *BKE_object_add_only_object(int type, const char *name);
 struct Object *BKE_object_add(struct Scene *scene, int type);
 void *BKE_object_obdata_add_from_type(int type);
index 03f3fc13ce430721635607bdb3062985ea191571..20a718e83cdf7fc75e528eae09ab48b7f4a65c9e 100644 (file)
@@ -729,6 +729,50 @@ void BKE_object_unlink(Object *ob)
        }
 }
 
        }
 }
 
+/* actual check for internal data, not context or flags */
+int BKE_object_is_in_editmode(Object *ob)
+{
+       if (ob->data == NULL)
+               return 0;
+       
+       if (ob->type == OB_MESH) {
+               Mesh *me = ob->data;
+               if (me->edit_btmesh)
+                       return 1;
+       }
+       else if (ob->type == OB_ARMATURE) {
+               bArmature *arm = ob->data;
+               
+               if (arm->edbo)
+                       return 1;
+       }
+       else if (ob->type == OB_FONT) {
+               Curve *cu = ob->data;
+               
+               if (cu->editfont)
+                       return 1;
+       }
+       else if (ob->type == OB_MBALL) {
+               MetaBall *mb = ob->data;
+               
+               if (mb->editelems)
+                       return 1;
+       }
+       else if (ob->type == OB_LATTICE) {
+               Lattice *lt = ob->data;
+               
+               if (lt->editlatt)
+                       return 1;
+       }
+       else if (ob->type == OB_SURF || ob->type == OB_CURVE) {
+               Curve *cu = ob->data;
+
+               if (cu->editnurb)
+                       return 1;
+       }
+       return 0;
+}
+
 int BKE_object_exists_check(Object *obtest)
 {
        Object *ob;
 int BKE_object_exists_check(Object *obtest)
 {
        Object *ob;
index d39e34824b94f92328d143f74152fa1105842eca..12edb3e8edb4b05e949bb6c45957f0921efa3d87 100644 (file)
@@ -429,6 +429,10 @@ void ED_object_enter_editmode(bContext *C, int flag)
 
        ob = base->object;
 
 
        ob = base->object;
 
+       /* this checks actual object->data, for cases when other scenes have it in editmode context */
+       if ( BKE_object_is_in_editmode(ob) )
+               return;
+       
        if (BKE_object_obdata_is_libdata(ob)) {
                error_libdata();
                return;
        if (BKE_object_obdata_is_libdata(ob)) {
                error_libdata();
                return;