Cleanup: Grey --> Gray
[blender.git] / intern / cycles / util / util_math.h
1 /*
2  * Copyright 2011-2013 Blender Foundation
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  * http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #ifndef __UTIL_MATH_H__
18 #define __UTIL_MATH_H__
19
20 /* Math
21  *
22  * Basic math functions on scalar and vector types. This header is used by
23  * both the kernel code when compiled as C++, and other C++ non-kernel code. */
24
25 #ifndef __KERNEL_GPU__
26 #  include <cmath>
27 #endif
28
29
30 #ifndef __KERNEL_OPENCL__
31
32 #include <float.h>
33 #include <math.h>
34 #include <stdio.h>
35
36 #endif
37
38 #include "util_types.h"
39
40 CCL_NAMESPACE_BEGIN
41
42 /* Float Pi variations */
43
44 /* Division */
45 #ifndef M_PI_F
46 #define M_PI_F          ((float)3.14159265358979323846264338327950288)          /* pi */
47 #endif
48 #ifndef M_PI_2_F
49 #define M_PI_2_F        ((float)1.57079632679489661923132169163975144)          /* pi/2 */
50 #endif
51 #ifndef M_PI_4_F
52 #define M_PI_4_F        ((float)0.785398163397448309615660845819875721)         /* pi/4 */
53 #endif
54 #ifndef M_1_PI_F
55 #define M_1_PI_F        ((float)0.318309886183790671537767526745028724)         /* 1/pi */
56 #endif
57 #ifndef M_2_PI_F
58 #define M_2_PI_F        ((float)0.636619772367581343075535053490057448)         /* 2/pi */
59 #endif
60
61 /* Multiplication */
62 #ifndef M_2PI_F
63 #define M_2PI_F         ((float)6.283185307179586476925286766559005768)         /* 2*pi */
64 #endif
65 #ifndef M_4PI_F
66 #define M_4PI_F         ((float)12.56637061435917295385057353311801153)         /* 4*pi */
67 #endif
68
69 /* Float sqrt variations */
70
71 #ifndef M_SQRT2_F
72 #define M_SQRT2_F       ((float)1.41421356237309504880)                                         /* sqrt(2) */
73 #endif
74
75 #ifndef M_LN2_F
76 #define M_LN2_F      ((float)0.6931471805599453)        /* ln(2) */
77 #endif
78
79 #ifndef M_LN10_F
80 #define M_LN10_F     ((float)2.3025850929940457)        /* ln(10) */
81 #endif
82
83 /* Scalar */
84
85 #ifdef _WIN32
86
87 #ifndef __KERNEL_OPENCL__
88
89 ccl_device_inline float fmaxf(float a, float b)
90 {
91         return (a > b)? a: b;
92 }
93
94 ccl_device_inline float fminf(float a, float b)
95 {
96         return (a < b)? a: b;
97 }
98
99 #endif
100
101 #endif
102
103 #ifndef __KERNEL_GPU__
104
105 using std::isfinite;
106 using std::isnan;
107
108 ccl_device_inline int abs(int x)
109 {
110         return (x > 0)? x: -x;
111 }
112
113 ccl_device_inline int max(int a, int b)
114 {
115         return (a > b)? a: b;
116 }
117
118 ccl_device_inline int min(int a, int b)
119 {
120         return (a < b)? a: b;
121 }
122
123 ccl_device_inline float max(float a, float b)
124 {
125         return (a > b)? a: b;
126 }
127
128 ccl_device_inline float min(float a, float b)
129 {
130         return (a < b)? a: b;
131 }
132
133 ccl_device_inline double max(double a, double b)
134 {
135         return (a > b)? a: b;
136 }
137
138 ccl_device_inline double min(double a, double b)
139 {
140         return (a < b)? a: b;
141 }
142
143 /* These 2 guys are templated for usage with registers data.
144  *
145  * NOTE: Since this is CPU-only functions it is ok to use references here.
146  * But for other devices we'll need to be careful about this.
147  */
148
149 template<typename T>
150 ccl_device_inline T min4(const T& a, const T& b, const T& c, const T& d)
151 {
152         return min(min(a,b),min(c,d));
153 }
154
155 template<typename T>
156 ccl_device_inline T max4(const T& a, const T& b, const T& c, const T& d)
157 {
158         return max(max(a,b),max(c,d));
159 }
160
161 #endif
162
163 ccl_device_inline float min4(float a, float b, float c, float d)
164 {
165         return min(min(a, b), min(c, d));
166 }
167
168 ccl_device_inline float max4(float a, float b, float c, float d)
169 {
170         return max(max(a, b), max(c, d));
171 }
172
173 ccl_device_inline float max3(float3 a)
174 {
175         return max(max(a.x, a.y), a.z);
176 }
177
178 #ifndef __KERNEL_OPENCL__
179
180 ccl_device_inline int clamp(int a, int mn, int mx)
181 {
182         return min(max(a, mn), mx);
183 }
184
185 ccl_device_inline float clamp(float a, float mn, float mx)
186 {
187         return min(max(a, mn), mx);
188 }
189
190 ccl_device_inline float mix(float a, float b, float t)
191 {
192     return a + t*(b - a);
193 }
194
195 #endif
196
197 #ifndef __KERNEL_CUDA__
198
199 ccl_device_inline float saturate(float a)
200 {
201         return clamp(a, 0.0f, 1.0f);
202 }
203
204 #endif
205
206 ccl_device_inline int float_to_int(float f)
207 {
208         return (int)f;
209 }
210
211 ccl_device_inline int floor_to_int(float f)
212 {
213         return float_to_int(floorf(f));
214 }
215
216 ccl_device_inline int ceil_to_int(float f)
217 {
218         return float_to_int(ceilf(f));
219 }
220
221 ccl_device_inline float signf(float f)
222 {
223         return (f < 0.0f)? -1.0f: 1.0f;
224 }
225
226 ccl_device_inline float nonzerof(float f, float eps)
227 {
228         if(fabsf(f) < eps)
229                 return signf(f)*eps;
230         else
231                 return f;
232 }
233
234 ccl_device_inline float smoothstepf(float f)
235 {
236         float ff = f*f;
237         return (3.0f*ff - 2.0f*ff*f);
238 }
239
240 ccl_device_inline int mod(int x, int m)
241 {
242         return (x % m + m) % m;
243 }
244
245 /* Float2 Vector */
246
247 #ifndef __KERNEL_OPENCL__
248
249 ccl_device_inline bool is_zero(const float2& a)
250 {
251         return (a.x == 0.0f && a.y == 0.0f);
252 }
253
254 #endif
255
256 #ifndef __KERNEL_OPENCL__
257
258 ccl_device_inline float average(const float2& a)
259 {
260         return (a.x + a.y)*(1.0f/2.0f);
261 }
262
263 #endif
264
265 #ifndef __KERNEL_OPENCL__
266
267 ccl_device_inline float2 operator-(const float2& a)
268 {
269         return make_float2(-a.x, -a.y);
270 }
271
272 ccl_device_inline float2 operator*(const float2& a, const float2& b)
273 {
274         return make_float2(a.x*b.x, a.y*b.y);
275 }
276
277 ccl_device_inline float2 operator*(const float2& a, float f)
278 {
279         return make_float2(a.x*f, a.y*f);
280 }
281
282 ccl_device_inline float2 operator*(float f, const float2& a)
283 {
284         return make_float2(a.x*f, a.y*f);
285 }
286
287 ccl_device_inline float2 operator/(float f, const float2& a)
288 {
289         return make_float2(f/a.x, f/a.y);
290 }
291
292 ccl_device_inline float2 operator/(const float2& a, float f)
293 {
294         float invf = 1.0f/f;
295         return make_float2(a.x*invf, a.y*invf);
296 }
297
298 ccl_device_inline float2 operator/(const float2& a, const float2& b)
299 {
300         return make_float2(a.x/b.x, a.y/b.y);
301 }
302
303 ccl_device_inline float2 operator+(const float2& a, const float2& b)
304 {
305         return make_float2(a.x+b.x, a.y+b.y);
306 }
307
308 ccl_device_inline float2 operator-(const float2& a, const float2& b)
309 {
310         return make_float2(a.x-b.x, a.y-b.y);
311 }
312
313 ccl_device_inline float2 operator+=(float2& a, const float2& b)
314 {
315         return a = a + b;
316 }
317
318 ccl_device_inline float2 operator*=(float2& a, const float2& b)
319 {
320         return a = a * b;
321 }
322
323 ccl_device_inline float2 operator*=(float2& a, float f)
324 {
325         return a = a * f;
326 }
327
328 ccl_device_inline float2 operator/=(float2& a, const float2& b)
329 {
330         return a = a / b;
331 }
332
333 ccl_device_inline float2 operator/=(float2& a, float f)
334 {
335         float invf = 1.0f/f;
336         return a = a * invf;
337 }
338
339
340 ccl_device_inline float dot(const float2& a, const float2& b)
341 {
342         return a.x*b.x + a.y*b.y;
343 }
344
345 ccl_device_inline float cross(const float2& a, const float2& b)
346 {
347         return (a.x*b.y - a.y*b.x);
348 }
349
350 #endif
351
352 #ifndef __KERNEL_OPENCL__
353
354 ccl_device_inline bool operator==(const int2 a, const int2 b)
355 {
356         return (a.x == b.x && a.y == b.y);
357 }
358
359 ccl_device_inline float len(const float2& a)
360 {
361         return sqrtf(dot(a, a));
362 }
363
364 ccl_device_inline float2 normalize(const float2& a)
365 {
366         return a/len(a);
367 }
368
369 ccl_device_inline float2 normalize_len(const float2& a, float *t)
370 {
371         *t = len(a);
372         return a/(*t);
373 }
374
375 ccl_device_inline float2 safe_normalize(const float2& a)
376 {
377         float t = len(a);
378         return (t != 0.0f)? a/t: a;
379 }
380
381 ccl_device_inline bool operator==(const float2& a, const float2& b)
382 {
383         return (a.x == b.x && a.y == b.y);
384 }
385
386 ccl_device_inline bool operator!=(const float2& a, const float2& b)
387 {
388         return !(a == b);
389 }
390
391 ccl_device_inline float2 min(const float2& a, const float2& b)
392 {
393         return make_float2(min(a.x, b.x), min(a.y, b.y));
394 }
395
396 ccl_device_inline float2 max(const float2& a, const float2& b)
397 {
398         return make_float2(max(a.x, b.x), max(a.y, b.y));
399 }
400
401 ccl_device_inline float2 clamp(const float2& a, const float2& mn, const float2& mx)
402 {
403         return min(max(a, mn), mx);
404 }
405
406 ccl_device_inline float2 fabs(const float2& a)
407 {
408         return make_float2(fabsf(a.x), fabsf(a.y));
409 }
410
411 ccl_device_inline float2 as_float2(const float4& a)
412 {
413         return make_float2(a.x, a.y);
414 }
415
416 #endif
417
418 #ifndef __KERNEL_GPU__
419
420 ccl_device_inline void print_float2(const char *label, const float2& a)
421 {
422         printf("%s: %.8f %.8f\n", label, (double)a.x, (double)a.y);
423 }
424
425 #endif
426
427 #ifndef __KERNEL_OPENCL__
428
429 ccl_device_inline float2 interp(const float2& a, const float2& b, float t)
430 {
431         return a + t*(b - a);
432 }
433
434 #endif
435
436 /* Float3 Vector */
437
438 #ifndef __KERNEL_OPENCL__
439
440 ccl_device_inline float3 operator-(const float3& a)
441 {
442 #ifdef __KERNEL_SSE__
443         return float3(_mm_xor_ps(a.m128, _mm_castsi128_ps(_mm_set1_epi32(0x80000000))));
444 #else
445         return make_float3(-a.x, -a.y, -a.z);
446 #endif
447 }
448
449 ccl_device_inline float3 operator*(const float3& a, const float3& b)
450 {
451 #ifdef __KERNEL_SSE__
452         return float3(_mm_mul_ps(a.m128,b.m128));
453 #else
454         return make_float3(a.x*b.x, a.y*b.y, a.z*b.z);
455 #endif
456 }
457
458 ccl_device_inline float3 operator*(const float3& a, const float f)
459 {
460 #ifdef __KERNEL_SSE__
461         return float3(_mm_mul_ps(a.m128,_mm_set1_ps(f)));
462 #else
463         return make_float3(a.x*f, a.y*f, a.z*f);
464 #endif
465 }
466
467 ccl_device_inline float3 operator*(const float f, const float3& a)
468 {
469         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
470 #if defined(__KERNEL_SSE__) && 0
471         return float3(_mm_mul_ps(_mm_set1_ps(f), a.m128));
472 #else
473         return make_float3(a.x*f, a.y*f, a.z*f);
474 #endif
475 }
476
477 ccl_device_inline float3 operator/(const float f, const float3& a)
478 {
479         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
480 #if defined(__KERNEL_SSE__) && 0
481         __m128 rc = _mm_rcp_ps(a.m128);
482         return float3(_mm_mul_ps(_mm_set1_ps(f),rc));
483 #else
484         return make_float3(f / a.x, f / a.y, f / a.z);
485 #endif
486 }
487
488 ccl_device_inline float3 operator/(const float3& a, const float f)
489 {
490         float invf = 1.0f/f;
491         return a * invf;
492 }
493
494 ccl_device_inline float3 operator/(const float3& a, const float3& b)
495 {
496         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
497 #if defined(__KERNEL_SSE__) && 0
498         __m128 rc = _mm_rcp_ps(b.m128);
499         return float3(_mm_mul_ps(a, rc));
500 #else
501         return make_float3(a.x / b.x, a.y / b.y, a.z / b.z);
502 #endif
503 }
504
505 ccl_device_inline float3 operator+(const float3& a, const float3& b)
506 {
507 #ifdef __KERNEL_SSE__
508         return float3(_mm_add_ps(a.m128, b.m128));
509 #else
510         return make_float3(a.x + b.x, a.y + b.y, a.z + b.z);
511 #endif
512 }
513
514 ccl_device_inline float3 operator-(const float3& a, const float3& b)
515 {
516 #ifdef __KERNEL_SSE__
517         return float3(_mm_sub_ps(a.m128, b.m128));
518 #else
519         return make_float3(a.x - b.x, a.y - b.y, a.z - b.z);
520 #endif
521 }
522
523 ccl_device_inline float3 operator+=(float3& a, const float3& b)
524 {
525         return a = a + b;
526 }
527
528 ccl_device_inline float3 operator*=(float3& a, const float3& b)
529 {
530         return a = a * b;
531 }
532
533 ccl_device_inline float3 operator*=(float3& a, float f)
534 {
535         return a = a * f;
536 }
537
538 ccl_device_inline float3 operator/=(float3& a, const float3& b)
539 {
540         return a = a / b;
541 }
542
543 ccl_device_inline float3 operator/=(float3& a, float f)
544 {
545         float invf = 1.0f/f;
546         return a = a * invf;
547 }
548
549 ccl_device_inline float dot(const float3& a, const float3& b)
550 {
551 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
552         return _mm_cvtss_f32(_mm_dp_ps(a, b, 0x7F));
553 #else   
554         return a.x*b.x + a.y*b.y + a.z*b.z;
555 #endif
556 }
557
558 ccl_device_inline float dot_xy(const float3& a, const float3& b)
559 {
560 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
561         return _mm_cvtss_f32(_mm_hadd_ps(_mm_mul_ps(a,b),b));
562 #else
563         return a.x*b.x + a.y*b.y;
564 #endif
565 }
566
567 ccl_device_inline float dot(const float4& a, const float4& b)
568 {
569 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
570         return _mm_cvtss_f32(_mm_dp_ps(a, b, 0xFF));
571 #else   
572         return (a.x*b.x + a.y*b.y) + (a.z*b.z + a.w*b.w);
573 #endif
574 }
575
576 ccl_device_inline float3 cross(const float3& a, const float3& b)
577 {
578         float3 r = make_float3(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x);
579         return r;
580 }
581
582 #endif
583
584 ccl_device_inline float len(const float3 a)
585 {
586 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
587         return _mm_cvtss_f32(_mm_sqrt_ss(_mm_dp_ps(a.m128, a.m128, 0x7F)));
588 #else
589         return sqrtf(dot(a, a));
590 #endif
591 }
592
593 ccl_device_inline float len_squared(const float3 a)
594 {
595         return dot(a, a);
596 }
597
598 #ifndef __KERNEL_OPENCL__
599
600 ccl_device_inline float len_squared(const float4& a)
601 {
602         return dot(a, a);
603 }
604
605 ccl_device_inline float3 normalize(const float3& a)
606 {
607 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
608         __m128 norm = _mm_sqrt_ps(_mm_dp_ps(a.m128, a.m128, 0x7F));
609         return _mm_div_ps(a.m128, norm);
610 #else
611         return a/len(a);
612 #endif
613 }
614
615 #endif
616
617 ccl_device_inline float3 saturate3(float3 a)
618 {
619         return make_float3(saturate(a.x), saturate(a.y), saturate(a.z));
620 }
621
622 ccl_device_inline float3 normalize_len(const float3 a, float *t)
623 {
624         *t = len(a);
625         float x = 1.0f / *t;
626         return a*x;
627 }
628
629 ccl_device_inline float3 safe_normalize(const float3 a)
630 {
631         float t = len(a);
632         return (t != 0.0f)? a * (1.0f/t) : a;
633 }
634
635 ccl_device_inline float3 safe_normalize_len(const float3 a, float *t)
636 {
637         *t = len(a);
638         return (*t != 0.0f)? a/(*t): a;
639 }
640
641 #ifndef __KERNEL_OPENCL__
642
643 ccl_device_inline bool operator==(const float3& a, const float3& b)
644 {
645 #ifdef __KERNEL_SSE__
646         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 7) == 7;
647 #else
648         return (a.x == b.x && a.y == b.y && a.z == b.z);
649 #endif
650 }
651
652 ccl_device_inline bool operator!=(const float3& a, const float3& b)
653 {
654         return !(a == b);
655 }
656
657 ccl_device_inline float3 min(const float3& a, const float3& b)
658 {
659 #ifdef __KERNEL_SSE__
660         return _mm_min_ps(a.m128, b.m128);
661 #else
662         return make_float3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
663 #endif
664 }
665
666 ccl_device_inline float3 max(const float3& a, const float3& b)
667 {
668 #ifdef __KERNEL_SSE__
669         return _mm_max_ps(a.m128, b.m128);
670 #else
671         return make_float3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
672 #endif
673 }
674
675 ccl_device_inline float3 clamp(const float3& a, const float3& mn, const float3& mx)
676 {
677         return min(max(a, mn), mx);
678 }
679
680 ccl_device_inline float3 fabs(const float3& a)
681 {
682 #ifdef __KERNEL_SSE__
683         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x7fffffff));
684         return _mm_and_ps(a.m128, mask);
685 #else
686         return make_float3(fabsf(a.x), fabsf(a.y), fabsf(a.z));
687 #endif
688 }
689
690 #endif
691
692 ccl_device_inline float3 float2_to_float3(const float2 a)
693 {
694         return make_float3(a.x, a.y, 0.0f);
695 }
696
697 ccl_device_inline float3 float4_to_float3(const float4 a)
698 {
699         return make_float3(a.x, a.y, a.z);
700 }
701
702 ccl_device_inline float4 float3_to_float4(const float3 a)
703 {
704         return make_float4(a.x, a.y, a.z, 1.0f);
705 }
706
707 #ifndef __KERNEL_GPU__
708
709 ccl_device_inline void print_float3(const char *label, const float3& a)
710 {
711         printf("%s: %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z);
712 }
713
714 ccl_device_inline float3 rcp(const float3& a)
715 {
716 #ifdef __KERNEL_SSE__
717         float4 r = _mm_rcp_ps(a.m128);
718         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
719 #else
720         return make_float3(1.0f/a.x, 1.0f/a.y, 1.0f/a.z);
721 #endif
722 }
723
724 #endif
725
726 ccl_device_inline float3 interp(float3 a, float3 b, float t)
727 {
728         return a + t*(b - a);
729 }
730
731 #ifndef __KERNEL_OPENCL__
732
733 ccl_device_inline float3 mix(const float3& a, const float3& b, float t)
734 {
735         return a + t*(b - a);
736 }
737
738 #endif
739
740 ccl_device_inline bool is_zero(const float3 a)
741 {
742 #ifdef __KERNEL_SSE__
743         return a == make_float3(0.0f);
744 #else
745         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f);
746 #endif
747 }
748
749 ccl_device_inline float reduce_add(const float3 a)
750 {
751         return (a.x + a.y + a.z);
752 }
753
754 ccl_device_inline float average(const float3 a)
755 {
756         return reduce_add(a)*(1.0f/3.0f);
757 }
758
759 ccl_device_inline bool isequal_float3(const float3 a, const float3 b)
760 {
761 #ifdef __KERNEL_OPENCL__
762         return all(a == b);
763 #else
764         return a == b;
765 #endif
766 }
767
768 /* Float4 Vector */
769
770 #ifdef __KERNEL_SSE__
771
772 template<size_t index_0, size_t index_1, size_t index_2, size_t index_3> __forceinline const float4 shuffle(const float4& b)
773 {
774         return _mm_castsi128_ps(_mm_shuffle_epi32(_mm_castps_si128(b), _MM_SHUFFLE(index_3, index_2, index_1, index_0)));
775 }
776
777 template<> __forceinline const float4 shuffle<0, 0, 2, 2>(const float4& b)
778 {
779         return _mm_moveldup_ps(b);
780 }
781
782 template<> __forceinline const float4 shuffle<1, 1, 3, 3>(const float4& b)
783 {
784         return _mm_movehdup_ps(b);
785 }
786
787 template<> __forceinline const float4 shuffle<0, 1, 0, 1>(const float4& b)
788 {
789         return _mm_castpd_ps(_mm_movedup_pd(_mm_castps_pd(b)));
790 }
791
792 #endif
793
794 #ifndef __KERNEL_OPENCL__
795
796 ccl_device_inline float4 operator-(const float4& a)
797 {
798 #ifdef __KERNEL_SSE__
799         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x80000000));
800         return _mm_xor_ps(a.m128, mask);
801 #else
802         return make_float4(-a.x, -a.y, -a.z, -a.w);
803 #endif
804 }
805
806 ccl_device_inline float4 operator*(const float4& a, const float4& b)
807 {
808 #ifdef __KERNEL_SSE__
809         return _mm_mul_ps(a.m128, b.m128);
810 #else
811         return make_float4(a.x*b.x, a.y*b.y, a.z*b.z, a.w*b.w);
812 #endif
813 }
814
815 ccl_device_inline float4 operator*(const float4& a, float f)
816 {
817 #if defined(__KERNEL_SSE__)
818         return a * make_float4(f);
819 #else
820         return make_float4(a.x*f, a.y*f, a.z*f, a.w*f);
821 #endif
822 }
823
824 ccl_device_inline float4 operator*(float f, const float4& a)
825 {
826         return a * f;
827 }
828
829 ccl_device_inline float4 rcp(const float4& a)
830 {
831 #ifdef __KERNEL_SSE__
832         float4 r = _mm_rcp_ps(a.m128);
833         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
834 #else
835         return make_float4(1.0f/a.x, 1.0f/a.y, 1.0f/a.z, 1.0f/a.w);
836 #endif
837 }
838
839 ccl_device_inline float4 operator/(const float4& a, float f)
840 {
841         return a * (1.0f/f);
842 }
843
844 ccl_device_inline float4 operator/(const float4& a, const float4& b)
845 {
846 #ifdef __KERNEL_SSE__
847         return a * rcp(b);
848 #else
849         return make_float4(a.x/b.x, a.y/b.y, a.z/b.z, a.w/b.w);
850 #endif
851
852 }
853
854 ccl_device_inline float4 operator+(const float4& a, const float4& b)
855 {
856 #ifdef __KERNEL_SSE__
857         return _mm_add_ps(a.m128, b.m128);
858 #else
859         return make_float4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
860 #endif
861 }
862
863 ccl_device_inline float4 operator-(const float4& a, const float4& b)
864 {
865 #ifdef __KERNEL_SSE__
866         return _mm_sub_ps(a.m128, b.m128);
867 #else
868         return make_float4(a.x-b.x, a.y-b.y, a.z-b.z, a.w-b.w);
869 #endif
870 }
871
872 ccl_device_inline float4 operator+=(float4& a, const float4& b)
873 {
874         return a = a + b;
875 }
876
877 ccl_device_inline float4 operator*=(float4& a, const float4& b)
878 {
879         return a = a * b;
880 }
881
882 ccl_device_inline float4 operator/=(float4& a, float f)
883 {
884         return a = a / f;
885 }
886
887 ccl_device_inline int4 operator<(const float4& a, const float4& b)
888 {
889 #ifdef __KERNEL_SSE__
890         return _mm_cvtps_epi32(_mm_cmplt_ps(a.m128, b.m128)); /* todo: avoid cvt */
891 #else
892         return make_int4(a.x < b.x, a.y < b.y, a.z < b.z, a.w < b.w);
893 #endif
894 }
895
896 ccl_device_inline int4 operator>=(const float4& a, const float4& b)
897 {
898 #ifdef __KERNEL_SSE__
899         return _mm_cvtps_epi32(_mm_cmpge_ps(a.m128, b.m128)); /* todo: avoid cvt */
900 #else
901         return make_int4(a.x >= b.x, a.y >= b.y, a.z >= b.z, a.w >= b.w);
902 #endif
903 }
904
905 ccl_device_inline int4 operator<=(const float4& a, const float4& b)
906 {
907 #ifdef __KERNEL_SSE__
908         return _mm_cvtps_epi32(_mm_cmple_ps(a.m128, b.m128)); /* todo: avoid cvt */
909 #else
910         return make_int4(a.x <= b.x, a.y <= b.y, a.z <= b.z, a.w <= b.w);
911 #endif
912 }
913
914 ccl_device_inline bool operator==(const float4& a, const float4& b)
915 {
916 #ifdef __KERNEL_SSE__
917         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 15) == 15;
918 #else
919         return (a.x == b.x && a.y == b.y && a.z == b.z && a.w == b.w);
920 #endif
921 }
922
923 ccl_device_inline float4 cross(const float4& a, const float4& b)
924 {
925 #ifdef __KERNEL_SSE__
926         return (shuffle<1,2,0,0>(a)*shuffle<2,0,1,0>(b)) - (shuffle<2,0,1,0>(a)*shuffle<1,2,0,0>(b));
927 #else
928         return make_float4(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x, 0.0f);
929 #endif
930 }
931
932 ccl_device_inline bool is_zero(const float4& a)
933 {
934 #ifdef __KERNEL_SSE__
935         return a == make_float4(0.0f);
936 #else
937         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f && a.w == 0.0f);
938 #endif
939 }
940
941 ccl_device_inline float reduce_add(const float4& a)
942 {
943 #ifdef __KERNEL_SSE__
944         float4 h = shuffle<1,0,3,2>(a) + a;
945         return _mm_cvtss_f32(shuffle<2,3,0,1>(h) + h); /* todo: efficiency? */
946 #else
947         return ((a.x + a.y) + (a.z + a.w));
948 #endif
949 }
950
951 ccl_device_inline float average(const float4& a)
952 {
953         return reduce_add(a) * 0.25f;
954 }
955
956 ccl_device_inline float len(const float4& a)
957 {
958         return sqrtf(dot(a, a));
959 }
960
961 ccl_device_inline float4 normalize(const float4& a)
962 {
963         return a/len(a);
964 }
965
966 ccl_device_inline float4 safe_normalize(const float4& a)
967 {
968         float t = len(a);
969         return (t != 0.0f)? a/t: a;
970 }
971
972 ccl_device_inline float4 min(const float4& a, const float4& b)
973 {
974 #ifdef __KERNEL_SSE__
975         return _mm_min_ps(a.m128, b.m128);
976 #else
977         return make_float4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
978 #endif
979 }
980
981 ccl_device_inline float4 max(const float4& a, const float4& b)
982 {
983 #ifdef __KERNEL_SSE__
984         return _mm_max_ps(a.m128, b.m128);
985 #else
986         return make_float4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
987 #endif
988 }
989
990 #endif
991
992 #ifndef __KERNEL_GPU__
993
994 ccl_device_inline float4 select(const int4& mask, const float4& a, const float4& b)
995 {
996 #ifdef __KERNEL_SSE__
997         return _mm_or_ps(_mm_and_ps(_mm_cvtepi32_ps(mask), a), _mm_andnot_ps(_mm_cvtepi32_ps(mask), b)); /* todo: avoid cvt */
998 #else
999         return make_float4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
1000 #endif
1001 }
1002
1003 ccl_device_inline float4 reduce_min(const float4& a)
1004 {
1005 #ifdef __KERNEL_SSE__
1006         float4 h = min(shuffle<1,0,3,2>(a), a);
1007         return min(shuffle<2,3,0,1>(h), h);
1008 #else
1009         return make_float4(min(min(a.x, a.y), min(a.z, a.w)));
1010 #endif
1011 }
1012
1013 ccl_device_inline float4 reduce_max(const float4& a)
1014 {
1015 #ifdef __KERNEL_SSE__
1016         float4 h = max(shuffle<1,0,3,2>(a), a);
1017         return max(shuffle<2,3,0,1>(h), h);
1018 #else
1019         return make_float4(max(max(a.x, a.y), max(a.z, a.w)));
1020 #endif
1021 }
1022
1023 #if 0
1024 ccl_device_inline float4 reduce_add(const float4& a)
1025 {
1026 #ifdef __KERNEL_SSE__
1027         float4 h = shuffle<1,0,3,2>(a) + a;
1028         return shuffle<2,3,0,1>(h) + h;
1029 #else
1030         return make_float4((a.x + a.y) + (a.z + a.w));
1031 #endif
1032 }
1033 #endif
1034
1035 ccl_device_inline void print_float4(const char *label, const float4& a)
1036 {
1037         printf("%s: %.8f %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z, (double)a.w);
1038 }
1039
1040 #endif
1041
1042 /* Int2 */
1043
1044 #ifndef __KERNEL_OPENCL__
1045
1046 ccl_device_inline int2 operator+(const int2 &a, const int2 &b)
1047 {
1048         return make_int2(a.x + b.x, a.y + b.y);
1049 }
1050
1051 ccl_device_inline int2 operator+=(int2 &a, const int2 &b)
1052 {
1053         return a = a + b;
1054 }
1055
1056 ccl_device_inline int2 operator-(const int2 &a, const int2 &b)
1057 {
1058         return make_int2(a.x - b.x, a.y - b.y);
1059 }
1060
1061 ccl_device_inline int2 operator*(const int2 &a, const int2 &b)
1062 {
1063         return make_int2(a.x * b.x, a.y * b.y);
1064 }
1065
1066 ccl_device_inline int2 operator/(const int2 &a, const int2 &b)
1067 {
1068         return make_int2(a.x / b.x, a.y / b.y);
1069 }
1070
1071 #endif
1072
1073 /* Int3 */
1074
1075 #ifndef __KERNEL_OPENCL__
1076
1077 ccl_device_inline int3 min(int3 a, int3 b)
1078 {
1079 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1080         return _mm_min_epi32(a.m128, b.m128);
1081 #else
1082         return make_int3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
1083 #endif
1084 }
1085
1086 ccl_device_inline int3 max(int3 a, int3 b)
1087 {
1088 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1089         return _mm_max_epi32(a.m128, b.m128);
1090 #else
1091         return make_int3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
1092 #endif
1093 }
1094
1095 ccl_device_inline int3 clamp(const int3& a, int mn, int mx)
1096 {
1097 #ifdef __KERNEL_SSE__
1098         return min(max(a, make_int3(mn)), make_int3(mx));
1099 #else
1100         return make_int3(clamp(a.x, mn, mx), clamp(a.y, mn, mx), clamp(a.z, mn, mx));
1101 #endif
1102 }
1103
1104 ccl_device_inline int3 clamp(const int3& a, int3& mn, int mx)
1105 {
1106 #ifdef __KERNEL_SSE__
1107         return min(max(a, mn), make_int3(mx));
1108 #else
1109         return make_int3(clamp(a.x, mn.x, mx), clamp(a.y, mn.y, mx), clamp(a.z, mn.z, mx));
1110 #endif
1111 }
1112
1113 #endif
1114
1115 #ifndef __KERNEL_GPU__
1116
1117 ccl_device_inline void print_int3(const char *label, const int3& a)
1118 {
1119         printf("%s: %d %d %d\n", label, a.x, a.y, a.z);
1120 }
1121
1122 #endif
1123
1124 /* Int4 */
1125
1126 #ifndef __KERNEL_GPU__
1127
1128 ccl_device_inline int4 operator+(const int4& a, const int4& b)
1129 {
1130 #ifdef __KERNEL_SSE__
1131         return _mm_add_epi32(a.m128, b.m128);
1132 #else
1133         return make_int4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
1134 #endif
1135 }
1136
1137 ccl_device_inline int4 operator+=(int4& a, const int4& b)
1138 {
1139         return a = a + b;
1140 }
1141
1142 ccl_device_inline int4 operator>>(const int4& a, int i)
1143 {
1144 #ifdef __KERNEL_SSE__
1145         return _mm_srai_epi32(a.m128, i);
1146 #else
1147         return make_int4(a.x >> i, a.y >> i, a.z >> i, a.w >> i);
1148 #endif
1149 }
1150
1151 ccl_device_inline int4 min(int4 a, int4 b)
1152 {
1153 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1154         return _mm_min_epi32(a.m128, b.m128);
1155 #else
1156         return make_int4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
1157 #endif
1158 }
1159
1160 ccl_device_inline int4 max(int4 a, int4 b)
1161 {
1162 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1163         return _mm_max_epi32(a.m128, b.m128);
1164 #else
1165         return make_int4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
1166 #endif
1167 }
1168
1169 ccl_device_inline int4 clamp(const int4& a, const int4& mn, const int4& mx)
1170 {
1171         return min(max(a, mn), mx);
1172 }
1173
1174 ccl_device_inline int4 select(const int4& mask, const int4& a, const int4& b)
1175 {
1176 #ifdef __KERNEL_SSE__
1177         __m128 m = _mm_cvtepi32_ps(mask);
1178         return _mm_castps_si128(_mm_or_ps(_mm_and_ps(m, _mm_castsi128_ps(a)), _mm_andnot_ps(m, _mm_castsi128_ps(b)))); /* todo: avoid cvt */
1179 #else
1180         return make_int4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
1181 #endif
1182 }
1183
1184 ccl_device_inline void print_int4(const char *label, const int4& a)
1185 {
1186         printf("%s: %d %d %d %d\n", label, a.x, a.y, a.z, a.w);
1187 }
1188
1189 #endif
1190
1191 /* Int/Float conversion */
1192
1193 #ifndef __KERNEL_OPENCL__
1194
1195 ccl_device_inline int as_int(uint i)
1196 {
1197         union { uint ui; int i; } u;
1198         u.ui = i;
1199         return u.i;
1200 }
1201
1202 ccl_device_inline uint as_uint(int i)
1203 {
1204         union { uint ui; int i; } u;
1205         u.i = i;
1206         return u.ui;
1207 }
1208
1209 ccl_device_inline uint as_uint(float f)
1210 {
1211         union { uint i; float f; } u;
1212         u.f = f;
1213         return u.i;
1214 }
1215
1216 ccl_device_inline int __float_as_int(float f)
1217 {
1218         union { int i; float f; } u;
1219         u.f = f;
1220         return u.i;
1221 }
1222
1223 ccl_device_inline float __int_as_float(int i)
1224 {
1225         union { int i; float f; } u;
1226         u.i = i;
1227         return u.f;
1228 }
1229
1230 ccl_device_inline uint __float_as_uint(float f)
1231 {
1232         union { uint i; float f; } u;
1233         u.f = f;
1234         return u.i;
1235 }
1236
1237 ccl_device_inline float __uint_as_float(uint i)
1238 {
1239         union { uint i; float f; } u;
1240         u.i = i;
1241         return u.f;
1242 }
1243
1244 /* Versions of functions which are safe for fast math. */
1245 ccl_device_inline bool isnan_safe(float f)
1246 {
1247         unsigned int x = __float_as_uint(f);
1248         return (x << 1) > 0xff000000u;
1249 }
1250
1251 ccl_device_inline bool isfinite_safe(float f)
1252 {
1253         /* By IEEE 754 rule, 2*Inf equals Inf */
1254         unsigned int x = __float_as_uint(f);
1255         return (f == f) && (x == 0 || (f != 2.0f*f));
1256 }
1257
1258 /* Interpolation */
1259
1260 template<class A, class B> A lerp(const A& a, const A& b, const B& t)
1261 {
1262         return (A)(a * ((B)1 - t) + b * t);
1263 }
1264
1265 /* Triangle */
1266
1267 ccl_device_inline float triangle_area(const float3& v1, const float3& v2, const float3& v3)
1268 {
1269         return len(cross(v3 - v2, v1 - v2))*0.5f;
1270 }
1271
1272 #endif
1273
1274 /* Orthonormal vectors */
1275
1276 ccl_device_inline void make_orthonormals(const float3 N, float3 *a, float3 *b)
1277 {
1278 #if 0
1279         if(fabsf(N.y) >= 0.999f) {
1280                 *a = make_float3(1, 0, 0);
1281                 *b = make_float3(0, 0, 1);
1282                 return;
1283         }
1284         if(fabsf(N.z) >= 0.999f) {
1285                 *a = make_float3(1, 0, 0);
1286                 *b = make_float3(0, 1, 0);
1287                 return;
1288         }
1289 #endif
1290
1291         if(N.x != N.y || N.x != N.z)
1292                 *a = make_float3(N.z-N.y, N.x-N.z, N.y-N.x);  //(1,1,1)x N
1293         else
1294                 *a = make_float3(N.z-N.y, N.x+N.z, -N.y-N.x);  //(-1,1,1)x N
1295
1296         *a = normalize(*a);
1297         *b = cross(N, *a);
1298 }
1299
1300 /* Color division */
1301
1302 ccl_device_inline float3 safe_invert_color(float3 a)
1303 {
1304         float x, y, z;
1305
1306         x = (a.x != 0.0f)? 1.0f/a.x: 0.0f;
1307         y = (a.y != 0.0f)? 1.0f/a.y: 0.0f;
1308         z = (a.z != 0.0f)? 1.0f/a.z: 0.0f;
1309
1310         return make_float3(x, y, z);
1311 }
1312
1313 ccl_device_inline float3 safe_divide_color(float3 a, float3 b)
1314 {
1315         float x, y, z;
1316
1317         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1318         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1319         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1320
1321         return make_float3(x, y, z);
1322 }
1323
1324 ccl_device_inline float3 safe_divide_even_color(float3 a, float3 b)
1325 {
1326         float x, y, z;
1327
1328         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1329         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1330         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1331
1332         /* try to get gray even if b is zero */
1333         if(b.x == 0.0f) {
1334                 if(b.y == 0.0f) {
1335                         x = z;
1336                         y = z;
1337                 }
1338                 else if(b.z == 0.0f) {
1339                         x = y;
1340                         z = y;
1341                 }
1342                 else
1343                         x = 0.5f*(y + z);
1344         }
1345         else if(b.y == 0.0f) {
1346                 if(b.z == 0.0f) {
1347                         y = x;
1348                         z = x;
1349                 }
1350                 else
1351                         y = 0.5f*(x + z);
1352         }
1353         else if(b.z == 0.0f) {
1354                 z = 0.5f*(x + y);
1355         }
1356
1357         return make_float3(x, y, z);
1358 }
1359
1360 /* Rotation of point around axis and angle */
1361
1362 ccl_device_inline float3 rotate_around_axis(float3 p, float3 axis, float angle)
1363 {
1364         float costheta = cosf(angle);
1365         float sintheta = sinf(angle);
1366         float3 r;
1367
1368         r.x = ((costheta + (1 - costheta) * axis.x * axis.x) * p.x) +
1369                 (((1 - costheta) * axis.x * axis.y - axis.z * sintheta) * p.y) +
1370                 (((1 - costheta) * axis.x * axis.z + axis.y * sintheta) * p.z);
1371
1372         r.y = (((1 - costheta) * axis.x * axis.y + axis.z * sintheta) * p.x) +
1373                 ((costheta + (1 - costheta) * axis.y * axis.y) * p.y) +
1374                 (((1 - costheta) * axis.y * axis.z - axis.x * sintheta) * p.z);
1375
1376         r.z = (((1 - costheta) * axis.x * axis.z - axis.y * sintheta) * p.x) +
1377                 (((1 - costheta) * axis.y * axis.z + axis.x * sintheta) * p.y) +
1378                 ((costheta + (1 - costheta) * axis.z * axis.z) * p.z);
1379
1380         return r;
1381 }
1382
1383 /* NaN-safe math ops */
1384
1385 ccl_device_inline float safe_sqrtf(float f)
1386 {
1387         return sqrtf(max(f, 0.0f));
1388 }
1389
1390 ccl_device float safe_asinf(float a)
1391 {
1392         return asinf(clamp(a, -1.0f, 1.0f));
1393 }
1394
1395 ccl_device float safe_acosf(float a)
1396 {
1397         return acosf(clamp(a, -1.0f, 1.0f));
1398 }
1399
1400 ccl_device float compatible_powf(float x, float y)
1401 {
1402 #ifdef __KERNEL_GPU__
1403         if(y == 0.0f) /* x^0 -> 1, including 0^0 */
1404                 return 1.0f;
1405
1406         /* GPU pow doesn't accept negative x, do manual checks here */
1407         if(x < 0.0f) {
1408                 if(fmodf(-y, 2.0f) == 0.0f)
1409                         return powf(-x, y);
1410                 else
1411                         return -powf(-x, y);
1412         }
1413         else if(x == 0.0f)
1414                 return 0.0f;
1415 #endif
1416         return powf(x, y);
1417 }
1418
1419 ccl_device float safe_powf(float a, float b)
1420 {
1421         if(UNLIKELY(a < 0.0f && b != float_to_int(b)))
1422                 return 0.0f;
1423
1424         return compatible_powf(a, b);
1425 }
1426
1427 ccl_device float safe_logf(float a, float b)
1428 {
1429         if(UNLIKELY(a < 0.0f || b < 0.0f))
1430                 return 0.0f;
1431
1432         return logf(a)/logf(b);
1433 }
1434
1435 ccl_device float safe_divide(float a, float b)
1436 {
1437         return (b != 0.0f)? a/b: 0.0f;
1438 }
1439
1440 ccl_device float safe_modulo(float a, float b)
1441 {
1442         return (b != 0.0f)? fmodf(a, b): 0.0f;
1443 }
1444
1445 ccl_device_inline float beta(float x, float y)
1446 {
1447 #ifndef __KERNEL_OPENCL__
1448         return expf(lgammaf(x) + lgammaf(y) - lgammaf(x+y));
1449 #else
1450         return expf(lgamma(x) + lgamma(y) - lgamma(x+y));
1451 #endif
1452 }
1453
1454 /* Ray Intersection */
1455
1456 ccl_device bool ray_sphere_intersect(
1457         float3 ray_P, float3 ray_D, float ray_t,
1458         float3 sphere_P, float sphere_radius,
1459         float3 *isect_P, float *isect_t)
1460 {
1461         float3 d = sphere_P - ray_P;
1462         float radiussq = sphere_radius*sphere_radius;
1463         float tsq = dot(d, d);
1464
1465         if(tsq > radiussq) { /* ray origin outside sphere */
1466                 float tp = dot(d, ray_D);
1467
1468                 if(tp < 0.0f) /* dir points away from sphere */
1469                         return false;
1470
1471                 float dsq = tsq - tp*tp; /* pythagoras */
1472
1473                 if(dsq > radiussq) /* closest point on ray outside sphere */
1474                         return false;
1475
1476                 float t = tp - sqrtf(radiussq - dsq); /* pythagoras */
1477
1478                 if(t < ray_t) {
1479                         *isect_t = t;
1480                         *isect_P = ray_P + ray_D*t;
1481                         return true;
1482                 }
1483         }
1484
1485         return false;
1486 }
1487
1488 ccl_device bool ray_aligned_disk_intersect(
1489         float3 ray_P, float3 ray_D, float ray_t,
1490         float3 disk_P, float disk_radius,
1491         float3 *isect_P, float *isect_t)
1492 {
1493         /* aligned disk normal */
1494         float disk_t;
1495         float3 disk_N = normalize_len(ray_P - disk_P, &disk_t);
1496         float div = dot(ray_D, disk_N);
1497
1498         if(UNLIKELY(div == 0.0f))
1499                 return false;
1500
1501         /* compute t to intersection point */
1502         float t = -disk_t/div;
1503         if(t < 0.0f || t > ray_t)
1504                 return false;
1505         
1506         /* test if within radius */
1507         float3 P = ray_P + ray_D*t;
1508         if(len_squared(P - disk_P) > disk_radius*disk_radius)
1509                 return false;
1510
1511         *isect_P = P;
1512         *isect_t = t;
1513
1514         return true;
1515 }
1516
1517 ccl_device bool ray_triangle_intersect(
1518         float3 ray_P, float3 ray_D, float ray_t,
1519         float3 v0, float3 v1, float3 v2,
1520         float3 *isect_P, float *isect_t)
1521 {
1522         /* Calculate intersection */
1523         float3 e1 = v1 - v0;
1524         float3 e2 = v2 - v0;
1525         float3 s1 = cross(ray_D, e2);
1526
1527         const float divisor = dot(s1, e1);
1528         if(UNLIKELY(divisor == 0.0f))
1529                 return false;
1530
1531         const float invdivisor = 1.0f/divisor;
1532
1533         /* compute first barycentric coordinate */
1534         const float3 d = ray_P - v0;
1535         const float u = dot(d, s1)*invdivisor;
1536         if(u < 0.0f)
1537                 return false;
1538
1539         /* Compute second barycentric coordinate */
1540         const float3 s2 = cross(d, e1);
1541         const float v = dot(ray_D, s2)*invdivisor;
1542         if(v < 0.0f)
1543                 return false;
1544
1545         const float b0 = 1.0f - u - v;
1546         if(b0 < 0.0f)
1547                 return false;
1548
1549         /* compute t to intersection point */
1550         const float t = dot(e2, s2)*invdivisor;
1551         if(t < 0.0f || t > ray_t)
1552                 return false;
1553
1554         *isect_t = t;
1555         *isect_P = ray_P + ray_D*t;
1556
1557         return true;
1558 }
1559
1560 ccl_device_inline bool ray_triangle_intersect_uv(
1561         float3 ray_P, float3 ray_D, float ray_t,
1562         float3 v0, float3 v1, float3 v2,
1563         float *isect_u, float *isect_v, float *isect_t)
1564 {
1565         /* Calculate intersection */
1566         float3 e1 = v1 - v0;
1567         float3 e2 = v2 - v0;
1568         float3 s1 = cross(ray_D, e2);
1569
1570         const float divisor = dot(s1, e1);
1571         if(UNLIKELY(divisor == 0.0f))
1572                 return false;
1573
1574         const float invdivisor = 1.0f/divisor;
1575
1576         /* compute first barycentric coordinate */
1577         const float3 d = ray_P - v0;
1578         const float u = dot(d, s1)*invdivisor;
1579         if(u < 0.0f)
1580                 return false;
1581
1582         /* Compute second barycentric coordinate */
1583         const float3 s2 = cross(d, e1);
1584         const float v = dot(ray_D, s2)*invdivisor;
1585         if(v < 0.0f)
1586                 return false;
1587
1588         const float b0 = 1.0f - u - v;
1589         if(b0 < 0.0f)
1590                 return false;
1591
1592         /* compute t to intersection point */
1593         const float t = dot(e2, s2)*invdivisor;
1594         if(t < 0.0f || t > ray_t)
1595                 return false;
1596
1597         *isect_u = u;
1598         *isect_v = v;
1599         *isect_t = t;
1600
1601         return true;
1602 }
1603
1604 ccl_device bool ray_quad_intersect(float3 ray_P, float3 ray_D, float ray_mint, float ray_maxt,
1605                                    float3 quad_P, float3 quad_u, float3 quad_v, float3 quad_n,
1606                                    float3 *isect_P, float *isect_t, float *isect_u, float *isect_v)
1607 {
1608         float t = -(dot(ray_P, quad_n) - dot(quad_P, quad_n)) / dot(ray_D, quad_n);
1609         if(t < ray_mint || t > ray_maxt)
1610                 return false;
1611
1612         float3 hit = ray_P + t*ray_D;
1613         float3 inplane = hit - quad_P;
1614
1615         float u = dot(inplane, quad_u) / dot(quad_u, quad_u) + 0.5f;
1616         if(u < 0.0f || u > 1.0f)
1617                 return false;
1618
1619         float v = dot(inplane, quad_v) / dot(quad_v, quad_v) + 0.5f;
1620         if(v < 0.0f || v > 1.0f)
1621                 return false;
1622
1623         if(isect_P) *isect_P = hit;
1624         if(isect_t) *isect_t = t;
1625         if(isect_u) *isect_u = u;
1626         if(isect_v) *isect_v = v;
1627
1628         return true;
1629 }
1630
1631 /* projections */
1632 ccl_device_inline float2 map_to_tube(const float3 co)
1633 {
1634         float len, u, v;
1635         len = sqrtf(co.x * co.x + co.y * co.y);
1636         if(len > 0.0f) {
1637                 u = (1.0f - (atan2f(co.x / len, co.y / len) / M_PI_F)) * 0.5f;
1638                 v = (co.z + 1.0f) * 0.5f;
1639         }
1640         else {
1641                 u = v = 0.0f;
1642         }
1643         return make_float2(u, v);
1644 }
1645
1646 ccl_device_inline float2 map_to_sphere(const float3 co)
1647 {
1648         float l = len(co);
1649         float u, v;
1650         if(l > 0.0f) {
1651                 if(UNLIKELY(co.x == 0.0f && co.y == 0.0f)) {
1652                         u = 0.0f;  /* othwise domain error */
1653                 }
1654                 else {
1655                         u = (1.0f - atan2f(co.x, co.y) / M_PI_F) / 2.0f;
1656                 }
1657                 v = 1.0f - safe_acosf(co.z / l) / M_PI_F;
1658         }
1659         else {
1660                 u = v = 0.0f;
1661         }
1662         return make_float2(u, v);
1663 }
1664
1665 ccl_device_inline int util_max_axis(float3 vec)
1666 {
1667 #ifdef __KERNEL_SSE__
1668         __m128 a = shuffle<0,0,1,1>(vec.m128);
1669         __m128 b = shuffle<1,2,2,1>(vec.m128);
1670         __m128 c = _mm_cmpgt_ps(a, b);
1671         int mask = _mm_movemask_ps(c) & 0x7;
1672         static const char tab[8] = {2, 2, 2, 0, 1, 2, 1, 0};
1673         return tab[mask];
1674 #else
1675         if(vec.x > vec.y) {
1676                 if(vec.x > vec.z)
1677                         return 0;
1678                 else
1679                         return 2;
1680         }
1681         else {
1682                 if(vec.y > vec.z)
1683                         return 1;
1684                 else
1685                         return 2;
1686         }
1687 #endif
1688 }
1689
1690 CCL_NAMESPACE_END
1691
1692 #endif /* __UTIL_MATH_H__ */
1693