Found float-related numerical instability with vertices lying EXACT on
authorTon Roosendaal <ton@blender.org>
Tue, 24 May 2005 17:36:20 +0000 (17:36 +0000)
committerTon Roosendaal <ton@blender.org>
Tue, 24 May 2005 17:36:20 +0000 (17:36 +0000)
the edge of an image. It should not be clipped, but comparisions with
floats then can go wrong... here the FLT_EPSILON is to the rescue.

/* smallest such that 1.0+FLT_EPSILON != 1.0 */
#define FLT_EPSILON 1.19209290e-07F

(Bug fix #2610)

source/blender/render/intern/source/zbuf.c

index 8d9b35b652727987de0b10de93b93bdb2f5c1482..74dda4c748eb622c65406905a744f7d4f88eaac2 100644 (file)
@@ -144,12 +144,16 @@ static short cliptestf(float p, float q, float *u1, float *u2)
        return 1;
 }
 
+#define FLT_EPSILON 1.19209290e-07F
+
 int RE_testclip(float *v)
 {
        float abs4;     /* WATCH IT: this function should do the same as cliptestf, otherwise troubles in zbufclip()*/
        short c=0;
        
-       abs4= fabs(v[3]);
+       /* if we set clip flags, the clipping should be at least larger than epsilon. 
+          prevents issues with vertices lying exact on borders */
+       abs4= fabs(v[3]) + FLT_EPSILON;
        
        if(v[2]< -abs4) c=16;                   /* this used to be " if(v[2]<0) ", see clippz() */
        else if(v[2]> abs4) c+= 32;