UI/floats: Reduce our UI_PRECISION_FLOAT_MAX by one to avoid most rounding issues.
authorBastien Montagne <montagne29@wanadoo.fr>
Fri, 21 Jul 2017 08:10:36 +0000 (10:10 +0200)
committerBastien Montagne <montagne29@wanadoo.fr>
Fri, 21 Jul 2017 08:12:35 +0000 (10:12 +0200)
The way we use it, UI_PRECISION_FLOAT_MAX is actually + 1 to get total
number of digits, and float only has 7 meaningful digits, so that define
shall be at 6.

source/blender/editors/include/UI_interface.h

index 252c199d46c2859e4cd20c9d1b11895837f3cad2..7b4fac08a7b03fbd534164ab4cc763b0f914a1c8 100644 (file)
@@ -1082,7 +1082,7 @@ void UI_butstore_unregister(uiButStore *bs_handle, uiBut **but_p);
 
 
 /* Float precision helpers */
-#define UI_PRECISION_FLOAT_MAX 7
+#define UI_PRECISION_FLOAT_MAX 6
 /* For float buttons the 'step' (or a1), is scaled */
 #define UI_PRECISION_FLOAT_SCALE 0.01f