Fix crash in histogram in image window when image buffer contains
authorBrecht Van Lommel <brechtvanlommel@pandora.be>
Thu, 21 Jan 2010 13:06:44 +0000 (13:06 +0000)
committerBrecht Van Lommel <brechtvanlommel@pandora.be>
Thu, 21 Jan 2010 13:06:44 +0000 (13:06 +0000)
NaN values, now clamps integer instead of float to prevent this.

source/blender/blenkernel/intern/colortools.c

index e29d908411c086e8ccad699412790c0679df3fdc..7bf147b49061f84a6bdf000579e8ca8882d98fed 100644 (file)
@@ -882,11 +882,14 @@ void curvemapping_table_RGBA(CurveMapping *cumap, float **array, int *size)
 
 DO_INLINE int get_bin_float(float f)
 {
-       CLAMP(f, 0.0, 1.0);
+       int bin= (int)(f*511);
+
+       /* note: clamp integer instead of float to avoid problems with NaN */
+       CLAMP(bin, 0, 511);
        
        //return (int) (((f + 0.25) / 1.5) * 512);
        
-       return (int)(f * 511);
+       return bin;
 }