Fix #34172: cycles BVH build crashing in some rare circumstances on 32 bit linux.
authorBrecht Van Lommel <brechtvanlommel@pandora.be>
Fri, 26 Apr 2013 02:18:29 +0000 (02:18 +0000)
committerBrecht Van Lommel <brechtvanlommel@pandora.be>
Fri, 26 Apr 2013 02:18:29 +0000 (02:18 +0000)
The problem was (again) the x86 extended precision float register being used for
one float value while the other was rounded to lower precision. This caused the
strictly weak order requirement for std::sort to be broken.

intern/cycles/bvh/bvh_sort.cpp

index 91994be5b968f4ab0b76ccd139a322ee39f874c7..d7dbae36336d477f600286aee79ba526211c1f17 100644 (file)
 
 CCL_NAMESPACE_BEGIN
 
+/* silly workaround for float extended precision that happens when compiling
+ * on x86, due to one float staying in 80 bit precision register and the other
+ * not, which causes the strictly weak ordering to break */
+#if !defined(__i386__)
+#define NO_EXTENDED_PRECISION
+#else
+#define NO_EXTENDED_PRECISION volatile
+#endif
+
 struct BVHReferenceCompare {
 public:
        int dim;
@@ -34,8 +43,8 @@ public:
 
        bool operator()(const BVHReference& ra, const BVHReference& rb)
        {
-               float ca = ra.bounds().min[dim] + ra.bounds().max[dim];
-               float cb = rb.bounds().min[dim] + rb.bounds().max[dim];
+               NO_EXTENDED_PRECISION float ca = ra.bounds().min[dim] + ra.bounds().max[dim];
+               NO_EXTENDED_PRECISION float cb = rb.bounds().min[dim] + rb.bounds().max[dim];
 
                if(ca < cb) return true;
                else if(ca > cb) return false;
@@ -52,7 +61,8 @@ public:
 
 void bvh_reference_sort(int start, int end, BVHReference *data, int dim)
 {
-       sort(data+start, data+end, BVHReferenceCompare(dim));
+       BVHReferenceCompare compare(dim);
+       sort(data+start, data+end, compare);
 }
 
 CCL_NAMESPACE_END