Fix #34172: cycles BVH build crashing in some rare circumstances on 32 bit linux.
authorBrecht Van Lommel <brechtvanlommel@pandora.be>
Fri, 26 Apr 2013 02:18:29 +0000 (02:18 +0000)
committerBrecht Van Lommel <brechtvanlommel@pandora.be>
Fri, 26 Apr 2013 02:18:29 +0000 (02:18 +0000)
The problem was (again) the x86 extended precision float register being used for
one float value while the other was rounded to lower precision. This caused the
strictly weak order requirement for std::sort to be broken.

intern/cycles/bvh/bvh_sort.cpp

index 91994be..d7dbae3 100644 (file)
 
 CCL_NAMESPACE_BEGIN
 
+/* silly workaround for float extended precision that happens when compiling
+ * on x86, due to one float staying in 80 bit precision register and the other
+ * not, which causes the strictly weak ordering to break */
+#if !defined(__i386__)
+#define NO_EXTENDED_PRECISION
+#else
+#define NO_EXTENDED_PRECISION volatile
+#endif
+
 struct BVHReferenceCompare {
 public:
        int dim;
@@ -34,8 +43,8 @@ public:
 
        bool operator()(const BVHReference& ra, const BVHReference& rb)
        {
-               float ca = ra.bounds().min[dim] + ra.bounds().max[dim];
-               float cb = rb.bounds().min[dim] + rb.bounds().max[dim];
+               NO_EXTENDED_PRECISION float ca = ra.bounds().min[dim] + ra.bounds().max[dim];
+               NO_EXTENDED_PRECISION float cb = rb.bounds().min[dim] + rb.bounds().max[dim];
 
                if(ca < cb) return true;
                else if(ca > cb) return false;
@@ -52,7 +61,8 @@ public:
 
 void bvh_reference_sort(int start, int end, BVHReference *data, int dim)
 {
-       sort(data+start, data+end, BVHReferenceCompare(dim));
+       BVHReferenceCompare compare(dim);
+       sort(data+start, data+end, compare);
 }
 
 CCL_NAMESPACE_END