Cycles: Implement texture coordinates for Point, Spot and Area Lamps
[blender-staging.git] / intern / cycles / util / util_math.h
1 /*
2  * Copyright 2011-2013 Blender Foundation
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  * http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #ifndef __UTIL_MATH_H__
18 #define __UTIL_MATH_H__
19
20 /* Math
21  *
22  * Basic math functions on scalar and vector types. This header is used by
23  * both the kernel code when compiled as C++, and other C++ non-kernel code. */
24
25 #ifndef __KERNEL_OPENCL__
26
27 #include <float.h>
28 #include <math.h>
29 #include <stdio.h>
30
31 #endif
32
33 #include "util_types.h"
34
35 CCL_NAMESPACE_BEGIN
36
37 /* Float Pi variations */
38
39 /* Division */
40 #ifndef M_PI_F
41 #define M_PI_F          ((float)3.14159265358979323846264338327950288)          /* pi */
42 #endif
43 #ifndef M_PI_2_F
44 #define M_PI_2_F        ((float)1.57079632679489661923132169163975144)          /* pi/2 */
45 #endif
46 #ifndef M_PI_4_F
47 #define M_PI_4_F        ((float)0.785398163397448309615660845819875721)         /* pi/4 */
48 #endif
49 #ifndef M_1_PI_F
50 #define M_1_PI_F        ((float)0.318309886183790671537767526745028724)         /* 1/pi */
51 #endif
52 #ifndef M_2_PI_F
53 #define M_2_PI_F        ((float)0.636619772367581343075535053490057448)         /* 2/pi */
54 #endif
55
56 /* Multiplication */
57 #ifndef M_2PI_F
58 #define M_2PI_F         ((float)6.283185307179586476925286766559005768)         /* 2*pi */
59 #endif
60 #ifndef M_4PI_F
61 #define M_4PI_F         ((float)12.56637061435917295385057353311801153)         /* 4*pi */
62 #endif
63
64 /* Float sqrt variations */
65
66 #ifndef M_SQRT2_F
67 #define M_SQRT2_F       ((float)1.41421356237309504880)                                         /* sqrt(2) */
68 #endif
69
70 #ifndef M_LN2_F
71 #define M_LN2_F      ((float)0.6931471805599453)        /* ln(2) */
72 #endif
73
74 #ifndef M_LN10_F
75 #define M_LN10_F     ((float)2.3025850929940457)        /* ln(10) */
76 #endif
77
78 /* Scalar */
79
80 #ifdef _WIN32
81
82 #ifndef __KERNEL_OPENCL__
83
84 ccl_device_inline float fmaxf(float a, float b)
85 {
86         return (a > b)? a: b;
87 }
88
89 ccl_device_inline float fminf(float a, float b)
90 {
91         return (a < b)? a: b;
92 }
93
94 #endif
95
96 #endif
97
98 #ifndef __KERNEL_GPU__
99
100 ccl_device_inline int abs(int x)
101 {
102         return (x > 0)? x: -x;
103 }
104
105 ccl_device_inline int max(int a, int b)
106 {
107         return (a > b)? a: b;
108 }
109
110 ccl_device_inline int min(int a, int b)
111 {
112         return (a < b)? a: b;
113 }
114
115 ccl_device_inline float max(float a, float b)
116 {
117         return (a > b)? a: b;
118 }
119
120 ccl_device_inline float min(float a, float b)
121 {
122         return (a < b)? a: b;
123 }
124
125 ccl_device_inline double max(double a, double b)
126 {
127         return (a > b)? a: b;
128 }
129
130 ccl_device_inline double min(double a, double b)
131 {
132         return (a < b)? a: b;
133 }
134
135 /* These 2 guys are templated for usage with registers data.
136  *
137  * NOTE: Since this is CPU-only functions it is ok to use references here.
138  * But for other devices we'll need to be careful about this.
139  */
140
141 template<typename T>
142 ccl_device_inline T min4(const T& a, const T& b, const T& c, const T& d)
143 {
144         return min(min(a,b),min(c,d));
145 }
146
147 template<typename T>
148 ccl_device_inline T max4(const T& a, const T& b, const T& c, const T& d)
149 {
150         return max(max(a,b),max(c,d));
151 }
152
153 #endif
154
155 ccl_device_inline float min4(float a, float b, float c, float d)
156 {
157         return min(min(a, b), min(c, d));
158 }
159
160 ccl_device_inline float max4(float a, float b, float c, float d)
161 {
162         return max(max(a, b), max(c, d));
163 }
164
165 #ifndef __KERNEL_OPENCL__
166
167 ccl_device_inline int clamp(int a, int mn, int mx)
168 {
169         return min(max(a, mn), mx);
170 }
171
172 ccl_device_inline float clamp(float a, float mn, float mx)
173 {
174         return min(max(a, mn), mx);
175 }
176
177 ccl_device_inline float mix(float a, float b, float t)
178 {
179     return a + t*(b - a);
180 }
181
182 #endif
183
184 #ifndef __KERNEL_CUDA__
185
186 ccl_device_inline float saturate(float a)
187 {
188         return clamp(a, 0.0f, 1.0f);
189 }
190
191 #endif
192
193 ccl_device_inline int float_to_int(float f)
194 {
195         return (int)f;
196 }
197
198 ccl_device_inline int floor_to_int(float f)
199 {
200         return float_to_int(floorf(f));
201 }
202
203 ccl_device_inline int ceil_to_int(float f)
204 {
205         return float_to_int(ceilf(f));
206 }
207
208 ccl_device_inline float signf(float f)
209 {
210         return (f < 0.0f)? -1.0f: 1.0f;
211 }
212
213 ccl_device_inline float nonzerof(float f, float eps)
214 {
215         if(fabsf(f) < eps)
216                 return signf(f)*eps;
217         else
218                 return f;
219 }
220
221 ccl_device_inline float smoothstepf(float f)
222 {
223         float ff = f*f;
224         return (3.0f*ff - 2.0f*ff*f);
225 }
226
227 ccl_device_inline int mod(int x, int m)
228 {
229         return (x % m + m) % m;
230 }
231
232 /* Float2 Vector */
233
234 #ifndef __KERNEL_OPENCL__
235
236 ccl_device_inline bool is_zero(const float2& a)
237 {
238         return (a.x == 0.0f && a.y == 0.0f);
239 }
240
241 #endif
242
243 #ifndef __KERNEL_OPENCL__
244
245 ccl_device_inline float average(const float2& a)
246 {
247         return (a.x + a.y)*(1.0f/2.0f);
248 }
249
250 #endif
251
252 #ifndef __KERNEL_OPENCL__
253
254 ccl_device_inline float2 operator-(const float2& a)
255 {
256         return make_float2(-a.x, -a.y);
257 }
258
259 ccl_device_inline float2 operator*(const float2& a, const float2& b)
260 {
261         return make_float2(a.x*b.x, a.y*b.y);
262 }
263
264 ccl_device_inline float2 operator*(const float2& a, float f)
265 {
266         return make_float2(a.x*f, a.y*f);
267 }
268
269 ccl_device_inline float2 operator*(float f, const float2& a)
270 {
271         return make_float2(a.x*f, a.y*f);
272 }
273
274 ccl_device_inline float2 operator/(float f, const float2& a)
275 {
276         return make_float2(f/a.x, f/a.y);
277 }
278
279 ccl_device_inline float2 operator/(const float2& a, float f)
280 {
281         float invf = 1.0f/f;
282         return make_float2(a.x*invf, a.y*invf);
283 }
284
285 ccl_device_inline float2 operator/(const float2& a, const float2& b)
286 {
287         return make_float2(a.x/b.x, a.y/b.y);
288 }
289
290 ccl_device_inline float2 operator+(const float2& a, const float2& b)
291 {
292         return make_float2(a.x+b.x, a.y+b.y);
293 }
294
295 ccl_device_inline float2 operator-(const float2& a, const float2& b)
296 {
297         return make_float2(a.x-b.x, a.y-b.y);
298 }
299
300 ccl_device_inline float2 operator+=(float2& a, const float2& b)
301 {
302         return a = a + b;
303 }
304
305 ccl_device_inline float2 operator*=(float2& a, const float2& b)
306 {
307         return a = a * b;
308 }
309
310 ccl_device_inline float2 operator*=(float2& a, float f)
311 {
312         return a = a * f;
313 }
314
315 ccl_device_inline float2 operator/=(float2& a, const float2& b)
316 {
317         return a = a / b;
318 }
319
320 ccl_device_inline float2 operator/=(float2& a, float f)
321 {
322         float invf = 1.0f/f;
323         return a = a * invf;
324 }
325
326
327 ccl_device_inline float dot(const float2& a, const float2& b)
328 {
329         return a.x*b.x + a.y*b.y;
330 }
331
332 ccl_device_inline float cross(const float2& a, const float2& b)
333 {
334         return (a.x*b.y - a.y*b.x);
335 }
336
337 #endif
338
339 #ifndef __KERNEL_OPENCL__
340
341 ccl_device_inline bool operator==(const int2 a, const int2 b)
342 {
343         return (a.x == b.x && a.y == b.y);
344 }
345
346 ccl_device_inline float len(const float2& a)
347 {
348         return sqrtf(dot(a, a));
349 }
350
351 ccl_device_inline float2 normalize(const float2& a)
352 {
353         return a/len(a);
354 }
355
356 ccl_device_inline float2 normalize_len(const float2& a, float *t)
357 {
358         *t = len(a);
359         return a/(*t);
360 }
361
362 ccl_device_inline float2 safe_normalize(const float2& a)
363 {
364         float t = len(a);
365         return (t != 0.0f)? a/t: a;
366 }
367
368 ccl_device_inline bool operator==(const float2& a, const float2& b)
369 {
370         return (a.x == b.x && a.y == b.y);
371 }
372
373 ccl_device_inline bool operator!=(const float2& a, const float2& b)
374 {
375         return !(a == b);
376 }
377
378 ccl_device_inline float2 min(const float2& a, const float2& b)
379 {
380         return make_float2(min(a.x, b.x), min(a.y, b.y));
381 }
382
383 ccl_device_inline float2 max(const float2& a, const float2& b)
384 {
385         return make_float2(max(a.x, b.x), max(a.y, b.y));
386 }
387
388 ccl_device_inline float2 clamp(const float2& a, const float2& mn, const float2& mx)
389 {
390         return min(max(a, mn), mx);
391 }
392
393 ccl_device_inline float2 fabs(const float2& a)
394 {
395         return make_float2(fabsf(a.x), fabsf(a.y));
396 }
397
398 ccl_device_inline float2 as_float2(const float4& a)
399 {
400         return make_float2(a.x, a.y);
401 }
402
403 #endif
404
405 #ifndef __KERNEL_GPU__
406
407 ccl_device_inline void print_float2(const char *label, const float2& a)
408 {
409         printf("%s: %.8f %.8f\n", label, (double)a.x, (double)a.y);
410 }
411
412 #endif
413
414 #ifndef __KERNEL_OPENCL__
415
416 ccl_device_inline float2 interp(const float2& a, const float2& b, float t)
417 {
418         return a + t*(b - a);
419 }
420
421 #endif
422
423 /* Float3 Vector */
424
425 #ifndef __KERNEL_OPENCL__
426
427 ccl_device_inline float3 operator-(const float3& a)
428 {
429 #ifdef __KERNEL_SSE__
430         return float3(_mm_xor_ps(a.m128, _mm_castsi128_ps(_mm_set1_epi32(0x80000000))));
431 #else
432         return make_float3(-a.x, -a.y, -a.z);
433 #endif
434 }
435
436 ccl_device_inline float3 operator*(const float3& a, const float3& b)
437 {
438 #ifdef __KERNEL_SSE__
439         return float3(_mm_mul_ps(a.m128,b.m128));
440 #else
441         return make_float3(a.x*b.x, a.y*b.y, a.z*b.z);
442 #endif
443 }
444
445 ccl_device_inline float3 operator*(const float3& a, const float f)
446 {
447 #ifdef __KERNEL_SSE__
448         return float3(_mm_mul_ps(a.m128,_mm_set1_ps(f)));
449 #else
450         return make_float3(a.x*f, a.y*f, a.z*f);
451 #endif
452 }
453
454 ccl_device_inline float3 operator*(const float f, const float3& a)
455 {
456         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
457 #if defined(__KERNEL_SSE__) && 0
458         return float3(_mm_mul_ps(_mm_set1_ps(f), a.m128));
459 #else
460         return make_float3(a.x*f, a.y*f, a.z*f);
461 #endif
462 }
463
464 ccl_device_inline float3 operator/(const float f, const float3& a)
465 {
466         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
467 #if defined(__KERNEL_SSE__) && 0
468         __m128 rc = _mm_rcp_ps(a.m128);
469         return float3(_mm_mul_ps(_mm_set1_ps(f),rc));
470 #else
471         return make_float3(f / a.x, f / a.y, f / a.z);
472 #endif
473 }
474
475 ccl_device_inline float3 operator/(const float3& a, const float f)
476 {
477         float invf = 1.0f/f;
478         return a * invf;
479 }
480
481 ccl_device_inline float3 operator/(const float3& a, const float3& b)
482 {
483         /* TODO(sergey): Currently disabled, gives speedup but causes precision issues. */
484 #if defined(__KERNEL_SSE__) && 0
485         __m128 rc = _mm_rcp_ps(b.m128);
486         return float3(_mm_mul_ps(a, rc));
487 #else
488         return make_float3(a.x / b.x, a.y / b.y, a.z / b.z);
489 #endif
490 }
491
492 ccl_device_inline float3 operator+(const float3& a, const float3& b)
493 {
494 #ifdef __KERNEL_SSE__
495         return float3(_mm_add_ps(a.m128, b.m128));
496 #else
497         return make_float3(a.x + b.x, a.y + b.y, a.z + b.z);
498 #endif
499 }
500
501 ccl_device_inline float3 operator-(const float3& a, const float3& b)
502 {
503 #ifdef __KERNEL_SSE__
504         return float3(_mm_sub_ps(a.m128, b.m128));
505 #else
506         return make_float3(a.x - b.x, a.y - b.y, a.z - b.z);
507 #endif
508 }
509
510 ccl_device_inline float3 operator+=(float3& a, const float3& b)
511 {
512         return a = a + b;
513 }
514
515 ccl_device_inline float3 operator*=(float3& a, const float3& b)
516 {
517         return a = a * b;
518 }
519
520 ccl_device_inline float3 operator*=(float3& a, float f)
521 {
522         return a = a * f;
523 }
524
525 ccl_device_inline float3 operator/=(float3& a, const float3& b)
526 {
527         return a = a / b;
528 }
529
530 ccl_device_inline float3 operator/=(float3& a, float f)
531 {
532         float invf = 1.0f/f;
533         return a = a * invf;
534 }
535
536 ccl_device_inline float dot(const float3& a, const float3& b)
537 {
538 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
539         return _mm_cvtss_f32(_mm_dp_ps(a, b, 0x7F));
540 #else   
541         return a.x*b.x + a.y*b.y + a.z*b.z;
542 #endif
543 }
544
545 ccl_device_inline float dot_xy(const float3& a, const float3& b)
546 {
547 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
548         return _mm_cvtss_f32(_mm_hadd_ps(_mm_mul_ps(a,b),b));
549 #else
550         return a.x*b.x + a.y*b.y;
551 #endif
552 }
553
554 ccl_device_inline float dot(const float4& a, const float4& b)
555 {
556 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
557         return _mm_cvtss_f32(_mm_dp_ps(a, b, 0xFF));
558 #else   
559         return (a.x*b.x + a.y*b.y) + (a.z*b.z + a.w*b.w);
560 #endif
561 }
562
563 ccl_device_inline float3 cross(const float3& a, const float3& b)
564 {
565         float3 r = make_float3(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x);
566         return r;
567 }
568
569 #endif
570
571 ccl_device_inline float len(const float3 a)
572 {
573 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__)
574         return _mm_cvtss_f32(_mm_sqrt_ss(_mm_dp_ps(a.m128, a.m128, 0x7F)));
575 #else
576         return sqrtf(dot(a, a));
577 #endif
578 }
579
580 ccl_device_inline float len_squared(const float3 a)
581 {
582         return dot(a, a);
583 }
584
585 #ifndef __KERNEL_OPENCL__
586
587 ccl_device_inline float len_squared(const float4& a)
588 {
589         return dot(a, a);
590 }
591
592 ccl_device_inline float3 normalize(const float3& a)
593 {
594         /* TODO(sergey): Disabled for now, causes crashes in certain cases. */
595 #if defined(__KERNEL_SSE41__) && defined(__KERNEL_SSE__) && 0
596         __m128 norm = _mm_sqrt_ps(_mm_dp_ps(a.m128, a.m128, 0x7F));
597         return _mm_div_ps(a.m128, norm);
598 #else
599         return a/len(a);
600 #endif
601 }
602
603 #endif
604
605 ccl_device_inline float3 saturate3(float3 a)
606 {
607         return make_float3(saturate(a.x), saturate(a.y), saturate(a.z));
608 }
609
610 ccl_device_inline float3 normalize_len(const float3 a, float *t)
611 {
612         *t = len(a);
613         float x = 1.0f / *t;
614         return a*x;
615 }
616
617 ccl_device_inline float3 safe_normalize(const float3 a)
618 {
619         float t = len(a);
620         return (t != 0.0f)? a * (1.0f/t) : a;
621 }
622
623 ccl_device_inline float3 safe_normalize_len(const float3 a, float *t)
624 {
625         *t = len(a);
626         return (*t != 0.0f)? a/(*t): a;
627 }
628
629 #ifndef __KERNEL_OPENCL__
630
631 ccl_device_inline bool operator==(const float3& a, const float3& b)
632 {
633 #ifdef __KERNEL_SSE__
634         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 7) == 7;
635 #else
636         return (a.x == b.x && a.y == b.y && a.z == b.z);
637 #endif
638 }
639
640 ccl_device_inline bool operator!=(const float3& a, const float3& b)
641 {
642         return !(a == b);
643 }
644
645 ccl_device_inline float3 min(const float3& a, const float3& b)
646 {
647 #ifdef __KERNEL_SSE__
648         return _mm_min_ps(a.m128, b.m128);
649 #else
650         return make_float3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
651 #endif
652 }
653
654 ccl_device_inline float3 max(const float3& a, const float3& b)
655 {
656 #ifdef __KERNEL_SSE__
657         return _mm_max_ps(a.m128, b.m128);
658 #else
659         return make_float3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
660 #endif
661 }
662
663 ccl_device_inline float3 clamp(const float3& a, const float3& mn, const float3& mx)
664 {
665         return min(max(a, mn), mx);
666 }
667
668 ccl_device_inline float3 fabs(const float3& a)
669 {
670 #ifdef __KERNEL_SSE__
671         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x7fffffff));
672         return _mm_and_ps(a.m128, mask);
673 #else
674         return make_float3(fabsf(a.x), fabsf(a.y), fabsf(a.z));
675 #endif
676 }
677
678 #endif
679
680 ccl_device_inline float3 float2_to_float3(const float2 a)
681 {
682         return make_float3(a.x, a.y, 0.0f);
683 }
684
685 ccl_device_inline float3 float4_to_float3(const float4 a)
686 {
687         return make_float3(a.x, a.y, a.z);
688 }
689
690 ccl_device_inline float4 float3_to_float4(const float3 a)
691 {
692         return make_float4(a.x, a.y, a.z, 1.0f);
693 }
694
695 #ifndef __KERNEL_GPU__
696
697 ccl_device_inline void print_float3(const char *label, const float3& a)
698 {
699         printf("%s: %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z);
700 }
701
702 ccl_device_inline float3 rcp(const float3& a)
703 {
704 #ifdef __KERNEL_SSE__
705         float4 r = _mm_rcp_ps(a.m128);
706         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
707 #else
708         return make_float3(1.0f/a.x, 1.0f/a.y, 1.0f/a.z);
709 #endif
710 }
711
712 #endif
713
714 ccl_device_inline float3 interp(float3 a, float3 b, float t)
715 {
716         return a + t*(b - a);
717 }
718
719 #ifndef __KERNEL_OPENCL__
720
721 ccl_device_inline float3 mix(const float3& a, const float3& b, float t)
722 {
723         return a + t*(b - a);
724 }
725
726 #endif
727
728 ccl_device_inline bool is_zero(const float3 a)
729 {
730 #ifdef __KERNEL_SSE__
731         return a == make_float3(0.0f);
732 #else
733         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f);
734 #endif
735 }
736
737 ccl_device_inline float reduce_add(const float3 a)
738 {
739         return (a.x + a.y + a.z);
740 }
741
742 ccl_device_inline float average(const float3 a)
743 {
744         return reduce_add(a)*(1.0f/3.0f);
745 }
746
747 ccl_device_inline bool isequal_float3(const float3 a, const float3 b)
748 {
749 #ifdef __KERNEL_OPENCL__
750         return all(a == b);
751 #else
752         return a == b;
753 #endif
754 }
755
756 /* Float4 Vector */
757
758 #ifdef __KERNEL_SSE__
759
760 template<size_t index_0, size_t index_1, size_t index_2, size_t index_3> __forceinline const float4 shuffle(const float4& b)
761 {
762         return _mm_castsi128_ps(_mm_shuffle_epi32(_mm_castps_si128(b), _MM_SHUFFLE(index_3, index_2, index_1, index_0)));
763 }
764
765 template<> __forceinline const float4 shuffle<0, 0, 2, 2>(const float4& b)
766 {
767         return _mm_moveldup_ps(b);
768 }
769
770 template<> __forceinline const float4 shuffle<1, 1, 3, 3>(const float4& b)
771 {
772         return _mm_movehdup_ps(b);
773 }
774
775 template<> __forceinline const float4 shuffle<0, 1, 0, 1>(const float4& b)
776 {
777         return _mm_castpd_ps(_mm_movedup_pd(_mm_castps_pd(b)));
778 }
779
780 #endif
781
782 #ifndef __KERNEL_OPENCL__
783
784 ccl_device_inline float4 operator-(const float4& a)
785 {
786 #ifdef __KERNEL_SSE__
787         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x80000000));
788         return _mm_xor_ps(a.m128, mask);
789 #else
790         return make_float4(-a.x, -a.y, -a.z, -a.w);
791 #endif
792 }
793
794 ccl_device_inline float4 operator*(const float4& a, const float4& b)
795 {
796         /* TODO(sergey): Disabled for now, causes crashes in certain cases. */
797 #if defined(__KERNEL_SSE__) && 0
798         return _mm_mul_ps(a.m128, b.m128);
799 #else
800         return make_float4(a.x*b.x, a.y*b.y, a.z*b.z, a.w*b.w);
801 #endif
802 }
803
804 ccl_device_inline float4 operator*(const float4& a, float f)
805 {
806 #if defined(__KERNEL_SSE__)
807         return a * make_float4(f);
808 #else
809         return make_float4(a.x*f, a.y*f, a.z*f, a.w*f);
810 #endif
811 }
812
813 ccl_device_inline float4 operator*(float f, const float4& a)
814 {
815         return a * f;
816 }
817
818 ccl_device_inline float4 rcp(const float4& a)
819 {
820 #ifdef __KERNEL_SSE__
821         float4 r = _mm_rcp_ps(a.m128);
822         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
823 #else
824         return make_float4(1.0f/a.x, 1.0f/a.y, 1.0f/a.z, 1.0f/a.w);
825 #endif
826 }
827
828 ccl_device_inline float4 operator/(const float4& a, float f)
829 {
830         return a * (1.0f/f);
831 }
832
833 ccl_device_inline float4 operator/(const float4& a, const float4& b)
834 {
835 #ifdef __KERNEL_SSE__
836         return a * rcp(b);
837 #else
838         return make_float4(a.x/b.x, a.y/b.y, a.z/b.z, a.w/b.w);
839 #endif
840
841 }
842
843 ccl_device_inline float4 operator+(const float4& a, const float4& b)
844 {
845         /* TODO(sergey): Disabled for now, causes crashes in certain cases. */
846 #if defined(__KERNEL_SSE__) && 0
847         return _mm_add_ps(a.m128, b.m128);
848 #else
849         return make_float4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
850 #endif
851 }
852
853 ccl_device_inline float4 operator-(const float4& a, const float4& b)
854 {
855 #ifdef __KERNEL_SSE__
856         return _mm_sub_ps(a.m128, b.m128);
857 #else
858         return make_float4(a.x-b.x, a.y-b.y, a.z-b.z, a.w-b.w);
859 #endif
860 }
861
862 ccl_device_inline float4 operator+=(float4& a, const float4& b)
863 {
864         return a = a + b;
865 }
866
867 ccl_device_inline float4 operator*=(float4& a, const float4& b)
868 {
869         return a = a * b;
870 }
871
872 ccl_device_inline float4 operator/=(float4& a, float f)
873 {
874         return a = a / f;
875 }
876
877 ccl_device_inline int4 operator<(const float4& a, const float4& b)
878 {
879 #ifdef __KERNEL_SSE__
880         return _mm_cvtps_epi32(_mm_cmplt_ps(a.m128, b.m128)); /* todo: avoid cvt */
881 #else
882         return make_int4(a.x < b.x, a.y < b.y, a.z < b.z, a.w < b.w);
883 #endif
884 }
885
886 ccl_device_inline int4 operator>=(const float4& a, const float4& b)
887 {
888 #ifdef __KERNEL_SSE__
889         return _mm_cvtps_epi32(_mm_cmpge_ps(a.m128, b.m128)); /* todo: avoid cvt */
890 #else
891         return make_int4(a.x >= b.x, a.y >= b.y, a.z >= b.z, a.w >= b.w);
892 #endif
893 }
894
895 ccl_device_inline int4 operator<=(const float4& a, const float4& b)
896 {
897 #ifdef __KERNEL_SSE__
898         return _mm_cvtps_epi32(_mm_cmple_ps(a.m128, b.m128)); /* todo: avoid cvt */
899 #else
900         return make_int4(a.x <= b.x, a.y <= b.y, a.z <= b.z, a.w <= b.w);
901 #endif
902 }
903
904 ccl_device_inline bool operator==(const float4& a, const float4& b)
905 {
906 #ifdef __KERNEL_SSE__
907         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 15) == 15;
908 #else
909         return (a.x == b.x && a.y == b.y && a.z == b.z && a.w == b.w);
910 #endif
911 }
912
913 ccl_device_inline float4 cross(const float4& a, const float4& b)
914 {
915 #ifdef __KERNEL_SSE__
916         return (shuffle<1,2,0,0>(a)*shuffle<2,0,1,0>(b)) - (shuffle<2,0,1,0>(a)*shuffle<1,2,0,0>(b));
917 #else
918         return make_float4(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x, 0.0f);
919 #endif
920 }
921
922 ccl_device_inline bool is_zero(const float4& a)
923 {
924 #ifdef __KERNEL_SSE__
925         return a == make_float4(0.0f);
926 #else
927         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f && a.w == 0.0f);
928 #endif
929 }
930
931 ccl_device_inline float reduce_add(const float4& a)
932 {
933 #ifdef __KERNEL_SSE__
934         float4 h = shuffle<1,0,3,2>(a) + a;
935         return _mm_cvtss_f32(shuffle<2,3,0,1>(h) + h); /* todo: efficiency? */
936 #else
937         return ((a.x + a.y) + (a.z + a.w));
938 #endif
939 }
940
941 ccl_device_inline float average(const float4& a)
942 {
943         return reduce_add(a) * 0.25f;
944 }
945
946 ccl_device_inline float len(const float4& a)
947 {
948         return sqrtf(dot(a, a));
949 }
950
951 ccl_device_inline float4 normalize(const float4& a)
952 {
953         return a/len(a);
954 }
955
956 ccl_device_inline float4 safe_normalize(const float4& a)
957 {
958         float t = len(a);
959         return (t != 0.0f)? a/t: a;
960 }
961
962 ccl_device_inline float4 min(const float4& a, const float4& b)
963 {
964 #ifdef __KERNEL_SSE__
965         return _mm_min_ps(a.m128, b.m128);
966 #else
967         return make_float4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
968 #endif
969 }
970
971 ccl_device_inline float4 max(const float4& a, const float4& b)
972 {
973 #ifdef __KERNEL_SSE__
974         return _mm_max_ps(a.m128, b.m128);
975 #else
976         return make_float4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
977 #endif
978 }
979
980 #endif
981
982 #ifndef __KERNEL_GPU__
983
984 ccl_device_inline float4 select(const int4& mask, const float4& a, const float4& b)
985 {
986 #ifdef __KERNEL_SSE__
987         return _mm_or_ps(_mm_and_ps(_mm_cvtepi32_ps(mask), a), _mm_andnot_ps(_mm_cvtepi32_ps(mask), b)); /* todo: avoid cvt */
988 #else
989         return make_float4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
990 #endif
991 }
992
993 ccl_device_inline float4 reduce_min(const float4& a)
994 {
995 #ifdef __KERNEL_SSE__
996         float4 h = min(shuffle<1,0,3,2>(a), a);
997         return min(shuffle<2,3,0,1>(h), h);
998 #else
999         return make_float4(min(min(a.x, a.y), min(a.z, a.w)));
1000 #endif
1001 }
1002
1003 ccl_device_inline float4 reduce_max(const float4& a)
1004 {
1005 #ifdef __KERNEL_SSE__
1006         float4 h = max(shuffle<1,0,3,2>(a), a);
1007         return max(shuffle<2,3,0,1>(h), h);
1008 #else
1009         return make_float4(max(max(a.x, a.y), max(a.z, a.w)));
1010 #endif
1011 }
1012
1013 #if 0
1014 ccl_device_inline float4 reduce_add(const float4& a)
1015 {
1016 #ifdef __KERNEL_SSE__
1017         float4 h = shuffle<1,0,3,2>(a) + a;
1018         return shuffle<2,3,0,1>(h) + h;
1019 #else
1020         return make_float4((a.x + a.y) + (a.z + a.w));
1021 #endif
1022 }
1023 #endif
1024
1025 ccl_device_inline void print_float4(const char *label, const float4& a)
1026 {
1027         printf("%s: %.8f %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z, (double)a.w);
1028 }
1029
1030 #endif
1031
1032 /* Int2 */
1033
1034 #ifndef __KERNEL_OPENCL__
1035
1036 ccl_device_inline int2 operator+(const int2 &a, const int2 &b)
1037 {
1038         return make_int2(a.x + b.x, a.y + b.y);
1039 }
1040
1041 ccl_device_inline int2 operator+=(int2 &a, const int2 &b)
1042 {
1043         return a = a + b;
1044 }
1045
1046 ccl_device_inline int2 operator-(const int2 &a, const int2 &b)
1047 {
1048         return make_int2(a.x - b.x, a.y - b.y);
1049 }
1050
1051 ccl_device_inline int2 operator*(const int2 &a, const int2 &b)
1052 {
1053         return make_int2(a.x * b.x, a.y * b.y);
1054 }
1055
1056 ccl_device_inline int2 operator/(const int2 &a, const int2 &b)
1057 {
1058         return make_int2(a.x / b.x, a.y / b.y);
1059 }
1060
1061 #endif
1062
1063 /* Int3 */
1064
1065 #ifndef __KERNEL_OPENCL__
1066
1067 ccl_device_inline int3 min(int3 a, int3 b)
1068 {
1069 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1070         return _mm_min_epi32(a.m128, b.m128);
1071 #else
1072         return make_int3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
1073 #endif
1074 }
1075
1076 ccl_device_inline int3 max(int3 a, int3 b)
1077 {
1078 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1079         return _mm_max_epi32(a.m128, b.m128);
1080 #else
1081         return make_int3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
1082 #endif
1083 }
1084
1085 ccl_device_inline int3 clamp(const int3& a, int mn, int mx)
1086 {
1087 #ifdef __KERNEL_SSE__
1088         return min(max(a, make_int3(mn)), make_int3(mx));
1089 #else
1090         return make_int3(clamp(a.x, mn, mx), clamp(a.y, mn, mx), clamp(a.z, mn, mx));
1091 #endif
1092 }
1093
1094 ccl_device_inline int3 clamp(const int3& a, int3& mn, int mx)
1095 {
1096 #ifdef __KERNEL_SSE__
1097         return min(max(a, mn), make_int3(mx));
1098 #else
1099         return make_int3(clamp(a.x, mn.x, mx), clamp(a.y, mn.y, mx), clamp(a.z, mn.z, mx));
1100 #endif
1101 }
1102
1103 #endif
1104
1105 #ifndef __KERNEL_GPU__
1106
1107 ccl_device_inline void print_int3(const char *label, const int3& a)
1108 {
1109         printf("%s: %d %d %d\n", label, a.x, a.y, a.z);
1110 }
1111
1112 #endif
1113
1114 /* Int4 */
1115
1116 #ifndef __KERNEL_GPU__
1117
1118 ccl_device_inline int4 operator+(const int4& a, const int4& b)
1119 {
1120 #ifdef __KERNEL_SSE__
1121         return _mm_add_epi32(a.m128, b.m128);
1122 #else
1123         return make_int4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
1124 #endif
1125 }
1126
1127 ccl_device_inline int4 operator+=(int4& a, const int4& b)
1128 {
1129         return a = a + b;
1130 }
1131
1132 ccl_device_inline int4 operator>>(const int4& a, int i)
1133 {
1134 #ifdef __KERNEL_SSE__
1135         return _mm_srai_epi32(a.m128, i);
1136 #else
1137         return make_int4(a.x >> i, a.y >> i, a.z >> i, a.w >> i);
1138 #endif
1139 }
1140
1141 ccl_device_inline int4 min(int4 a, int4 b)
1142 {
1143 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1144         return _mm_min_epi32(a.m128, b.m128);
1145 #else
1146         return make_int4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
1147 #endif
1148 }
1149
1150 ccl_device_inline int4 max(int4 a, int4 b)
1151 {
1152 #if defined(__KERNEL_SSE__) && defined(__KERNEL_SSE41__)
1153         return _mm_max_epi32(a.m128, b.m128);
1154 #else
1155         return make_int4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
1156 #endif
1157 }
1158
1159 ccl_device_inline int4 clamp(const int4& a, const int4& mn, const int4& mx)
1160 {
1161         return min(max(a, mn), mx);
1162 }
1163
1164 ccl_device_inline int4 select(const int4& mask, const int4& a, const int4& b)
1165 {
1166 #ifdef __KERNEL_SSE__
1167         __m128 m = _mm_cvtepi32_ps(mask);
1168         return _mm_castps_si128(_mm_or_ps(_mm_and_ps(m, _mm_castsi128_ps(a)), _mm_andnot_ps(m, _mm_castsi128_ps(b)))); /* todo: avoid cvt */
1169 #else
1170         return make_int4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
1171 #endif
1172 }
1173
1174 ccl_device_inline void print_int4(const char *label, const int4& a)
1175 {
1176         printf("%s: %d %d %d %d\n", label, a.x, a.y, a.z, a.w);
1177 }
1178
1179 #endif
1180
1181 /* Int/Float conversion */
1182
1183 #ifndef __KERNEL_OPENCL__
1184
1185 ccl_device_inline int as_int(uint i)
1186 {
1187         union { uint ui; int i; } u;
1188         u.ui = i;
1189         return u.i;
1190 }
1191
1192 ccl_device_inline uint as_uint(int i)
1193 {
1194         union { uint ui; int i; } u;
1195         u.i = i;
1196         return u.ui;
1197 }
1198
1199 ccl_device_inline uint as_uint(float f)
1200 {
1201         union { uint i; float f; } u;
1202         u.f = f;
1203         return u.i;
1204 }
1205
1206 ccl_device_inline int __float_as_int(float f)
1207 {
1208         union { int i; float f; } u;
1209         u.f = f;
1210         return u.i;
1211 }
1212
1213 ccl_device_inline float __int_as_float(int i)
1214 {
1215         union { int i; float f; } u;
1216         u.i = i;
1217         return u.f;
1218 }
1219
1220 ccl_device_inline uint __float_as_uint(float f)
1221 {
1222         union { uint i; float f; } u;
1223         u.f = f;
1224         return u.i;
1225 }
1226
1227 ccl_device_inline float __uint_as_float(uint i)
1228 {
1229         union { uint i; float f; } u;
1230         u.i = i;
1231         return u.f;
1232 }
1233
1234 /* Interpolation */
1235
1236 template<class A, class B> A lerp(const A& a, const A& b, const B& t)
1237 {
1238         return (A)(a * ((B)1 - t) + b * t);
1239 }
1240
1241 /* Triangle */
1242
1243 ccl_device_inline float triangle_area(const float3& v1, const float3& v2, const float3& v3)
1244 {
1245         return len(cross(v3 - v2, v1 - v2))*0.5f;
1246 }
1247
1248 #endif
1249
1250 /* Orthonormal vectors */
1251
1252 ccl_device_inline void make_orthonormals(const float3 N, float3 *a, float3 *b)
1253 {
1254 #if 0
1255         if(fabsf(N.y) >= 0.999f) {
1256                 *a = make_float3(1, 0, 0);
1257                 *b = make_float3(0, 0, 1);
1258                 return;
1259         }
1260         if(fabsf(N.z) >= 0.999f) {
1261                 *a = make_float3(1, 0, 0);
1262                 *b = make_float3(0, 1, 0);
1263                 return;
1264         }
1265 #endif
1266
1267         if(N.x != N.y || N.x != N.z)
1268                 *a = make_float3(N.z-N.y, N.x-N.z, N.y-N.x);  //(1,1,1)x N
1269         else
1270                 *a = make_float3(N.z-N.y, N.x+N.z, -N.y-N.x);  //(-1,1,1)x N
1271
1272         *a = normalize(*a);
1273         *b = cross(N, *a);
1274 }
1275
1276 /* Color division */
1277
1278 ccl_device_inline float3 safe_invert_color(float3 a)
1279 {
1280         float x, y, z;
1281
1282         x = (a.x != 0.0f)? 1.0f/a.x: 0.0f;
1283         y = (a.y != 0.0f)? 1.0f/a.y: 0.0f;
1284         z = (a.z != 0.0f)? 1.0f/a.z: 0.0f;
1285
1286         return make_float3(x, y, z);
1287 }
1288
1289 ccl_device_inline float3 safe_divide_color(float3 a, float3 b)
1290 {
1291         float x, y, z;
1292
1293         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1294         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1295         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1296
1297         return make_float3(x, y, z);
1298 }
1299
1300 ccl_device_inline float3 safe_divide_even_color(float3 a, float3 b)
1301 {
1302         float x, y, z;
1303
1304         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1305         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1306         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1307
1308         /* try to get grey even if b is zero */
1309         if(b.x == 0.0f) {
1310                 if(b.y == 0.0f) {
1311                         x = z;
1312                         y = z;
1313                 }
1314                 else if(b.z == 0.0f) {
1315                         x = y;
1316                         z = y;
1317                 }
1318                 else
1319                         x = 0.5f*(y + z);
1320         }
1321         else if(b.y == 0.0f) {
1322                 if(b.z == 0.0f) {
1323                         y = x;
1324                         z = x;
1325                 }
1326                 else
1327                         y = 0.5f*(x + z);
1328         }
1329         else if(b.z == 0.0f) {
1330                 z = 0.5f*(x + y);
1331         }
1332
1333         return make_float3(x, y, z);
1334 }
1335
1336 /* Rotation of point around axis and angle */
1337
1338 ccl_device_inline float3 rotate_around_axis(float3 p, float3 axis, float angle)
1339 {
1340         float costheta = cosf(angle);
1341         float sintheta = sinf(angle);
1342         float3 r;
1343
1344         r.x = ((costheta + (1 - costheta) * axis.x * axis.x) * p.x) +
1345                 (((1 - costheta) * axis.x * axis.y - axis.z * sintheta) * p.y) +
1346                 (((1 - costheta) * axis.x * axis.z + axis.y * sintheta) * p.z);
1347
1348         r.y = (((1 - costheta) * axis.x * axis.y + axis.z * sintheta) * p.x) +
1349                 ((costheta + (1 - costheta) * axis.y * axis.y) * p.y) +
1350                 (((1 - costheta) * axis.y * axis.z - axis.x * sintheta) * p.z);
1351
1352         r.z = (((1 - costheta) * axis.x * axis.z - axis.y * sintheta) * p.x) +
1353                 (((1 - costheta) * axis.y * axis.z + axis.x * sintheta) * p.y) +
1354                 ((costheta + (1 - costheta) * axis.z * axis.z) * p.z);
1355
1356         return r;
1357 }
1358
1359 /* NaN-safe math ops */
1360
1361 ccl_device_inline float safe_sqrtf(float f)
1362 {
1363         return sqrtf(max(f, 0.0f));
1364 }
1365
1366 ccl_device float safe_asinf(float a)
1367 {
1368         return asinf(clamp(a, -1.0f, 1.0f));
1369 }
1370
1371 ccl_device float safe_acosf(float a)
1372 {
1373         return acosf(clamp(a, -1.0f, 1.0f));
1374 }
1375
1376 ccl_device float compatible_powf(float x, float y)
1377 {
1378 #ifdef __KERNEL_GPU__
1379         if(y == 0.0f) /* x^0 -> 1, including 0^0 */
1380                 return 1.0f;
1381
1382         /* GPU pow doesn't accept negative x, do manual checks here */
1383         if(x < 0.0f) {
1384                 if(fmodf(-y, 2.0f) == 0.0f)
1385                         return powf(-x, y);
1386                 else
1387                         return -powf(-x, y);
1388         }
1389         else if(x == 0.0f)
1390                 return 0.0f;
1391 #endif
1392         return powf(x, y);
1393 }
1394
1395 ccl_device float safe_powf(float a, float b)
1396 {
1397         if(UNLIKELY(a < 0.0f && b != float_to_int(b)))
1398                 return 0.0f;
1399
1400         return compatible_powf(a, b);
1401 }
1402
1403 ccl_device float safe_logf(float a, float b)
1404 {
1405         if(UNLIKELY(a < 0.0f || b < 0.0f))
1406                 return 0.0f;
1407
1408         return logf(a)/logf(b);
1409 }
1410
1411 ccl_device float safe_divide(float a, float b)
1412 {
1413         return (b != 0.0f)? a/b: 0.0f;
1414 }
1415
1416 ccl_device float safe_modulo(float a, float b)
1417 {
1418         return (b != 0.0f)? fmodf(a, b): 0.0f;
1419 }
1420
1421 ccl_device_inline float beta(float x, float y)
1422 {
1423 #ifndef __KERNEL_OPENCL__
1424         return expf(lgammaf(x) + lgammaf(y) - lgammaf(x+y));
1425 #else
1426         return expf(lgamma(x) + lgamma(y) - lgamma(x+y));
1427 #endif
1428 }
1429
1430 /* Ray Intersection */
1431
1432 ccl_device bool ray_sphere_intersect(
1433         float3 ray_P, float3 ray_D, float ray_t,
1434         float3 sphere_P, float sphere_radius,
1435         float3 *isect_P, float *isect_t)
1436 {
1437         float3 d = sphere_P - ray_P;
1438         float radiussq = sphere_radius*sphere_radius;
1439         float tsq = dot(d, d);
1440
1441         if(tsq > radiussq) { /* ray origin outside sphere */
1442                 float tp = dot(d, ray_D);
1443
1444                 if(tp < 0.0f) /* dir points away from sphere */
1445                         return false;
1446
1447                 float dsq = tsq - tp*tp; /* pythagoras */
1448
1449                 if(dsq > radiussq) /* closest point on ray outside sphere */
1450                         return false;
1451
1452                 float t = tp - sqrtf(radiussq - dsq); /* pythagoras */
1453
1454                 if(t < ray_t) {
1455                         *isect_t = t;
1456                         *isect_P = ray_P + ray_D*t;
1457                         return true;
1458                 }
1459         }
1460
1461         return false;
1462 }
1463
1464 ccl_device bool ray_aligned_disk_intersect(
1465         float3 ray_P, float3 ray_D, float ray_t,
1466         float3 disk_P, float disk_radius,
1467         float3 *isect_P, float *isect_t)
1468 {
1469         /* aligned disk normal */
1470         float disk_t;
1471         float3 disk_N = normalize_len(ray_P - disk_P, &disk_t);
1472         float div = dot(ray_D, disk_N);
1473
1474         if(UNLIKELY(div == 0.0f))
1475                 return false;
1476
1477         /* compute t to intersection point */
1478         float t = -disk_t/div;
1479         if(t < 0.0f || t > ray_t)
1480                 return false;
1481         
1482         /* test if within radius */
1483         float3 P = ray_P + ray_D*t;
1484         if(len_squared(P - disk_P) > disk_radius*disk_radius)
1485                 return false;
1486
1487         *isect_P = P;
1488         *isect_t = t;
1489
1490         return true;
1491 }
1492
1493 ccl_device bool ray_triangle_intersect(
1494         float3 ray_P, float3 ray_D, float ray_t,
1495         float3 v0, float3 v1, float3 v2,
1496         float3 *isect_P, float *isect_t)
1497 {
1498         /* Calculate intersection */
1499         float3 e1 = v1 - v0;
1500         float3 e2 = v2 - v0;
1501         float3 s1 = cross(ray_D, e2);
1502
1503         const float divisor = dot(s1, e1);
1504         if(UNLIKELY(divisor == 0.0f))
1505                 return false;
1506
1507         const float invdivisor = 1.0f/divisor;
1508
1509         /* compute first barycentric coordinate */
1510         const float3 d = ray_P - v0;
1511         const float u = dot(d, s1)*invdivisor;
1512         if(u < 0.0f)
1513                 return false;
1514
1515         /* Compute second barycentric coordinate */
1516         const float3 s2 = cross(d, e1);
1517         const float v = dot(ray_D, s2)*invdivisor;
1518         if(v < 0.0f)
1519                 return false;
1520
1521         const float b0 = 1.0f - u - v;
1522         if(b0 < 0.0f)
1523                 return false;
1524
1525         /* compute t to intersection point */
1526         const float t = dot(e2, s2)*invdivisor;
1527         if(t < 0.0f || t > ray_t)
1528                 return false;
1529
1530         *isect_t = t;
1531         *isect_P = ray_P + ray_D*t;
1532
1533         return true;
1534 }
1535
1536 ccl_device_inline bool ray_triangle_intersect_uv(
1537         float3 ray_P, float3 ray_D, float ray_t,
1538         float3 v0, float3 v1, float3 v2,
1539         float *isect_u, float *isect_v, float *isect_t)
1540 {
1541         /* Calculate intersection */
1542         float3 e1 = v1 - v0;
1543         float3 e2 = v2 - v0;
1544         float3 s1 = cross(ray_D, e2);
1545
1546         const float divisor = dot(s1, e1);
1547         if(UNLIKELY(divisor == 0.0f))
1548                 return false;
1549
1550         const float invdivisor = 1.0f/divisor;
1551
1552         /* compute first barycentric coordinate */
1553         const float3 d = ray_P - v0;
1554         const float u = dot(d, s1)*invdivisor;
1555         if(u < 0.0f)
1556                 return false;
1557
1558         /* Compute second barycentric coordinate */
1559         const float3 s2 = cross(d, e1);
1560         const float v = dot(ray_D, s2)*invdivisor;
1561         if(v < 0.0f)
1562                 return false;
1563
1564         const float b0 = 1.0f - u - v;
1565         if(b0 < 0.0f)
1566                 return false;
1567
1568         /* compute t to intersection point */
1569         const float t = dot(e2, s2)*invdivisor;
1570         if(t < 0.0f || t > ray_t)
1571                 return false;
1572
1573         *isect_u = u;
1574         *isect_v = v;
1575         *isect_t = t;
1576
1577         return true;
1578 }
1579
1580 ccl_device bool ray_quad_intersect(float3 ray_P, float3 ray_D, float ray_mint, float ray_maxt,
1581                                    float3 quad_P, float3 quad_u, float3 quad_v, float3 quad_n,
1582                                    float3 *isect_P, float *isect_t, float *isect_u, float *isect_v)
1583 {
1584         float t = -(dot(ray_P, quad_n) - dot(quad_P, quad_n)) / dot(ray_D, quad_n);
1585         if(t < ray_mint || t > ray_maxt)
1586                 return false;
1587
1588         float3 hit = ray_P + t*ray_D;
1589         float3 inplane = hit - quad_P;
1590
1591         float u = dot(inplane, quad_u) / dot(quad_u, quad_u) + 0.5f;
1592         if(u < 0.0f || u > 1.0f)
1593                 return false;
1594
1595         float v = dot(inplane, quad_v) / dot(quad_v, quad_v) + 0.5f;
1596         if(v < 0.0f || v > 1.0f)
1597                 return false;
1598
1599         if(isect_P) *isect_P = hit;
1600         if(isect_t) *isect_t = t;
1601         if(isect_u) *isect_u = u;
1602         if(isect_v) *isect_v = v;
1603
1604         return true;
1605 }
1606
1607 /* projections */
1608 ccl_device_inline float2 map_to_tube(const float3 co)
1609 {
1610         float len, u, v;
1611         len = sqrtf(co.x * co.x + co.y * co.y);
1612         if(len > 0.0f) {
1613                 u = (1.0f - (atan2f(co.x / len, co.y / len) / M_PI_F)) * 0.5f;
1614                 v = (co.z + 1.0f) * 0.5f;
1615         }
1616         else {
1617                 u = v = 0.0f;
1618         }
1619         return make_float2(u, v);
1620 }
1621
1622 ccl_device_inline float2 map_to_sphere(const float3 co)
1623 {
1624         float l = len(co);
1625         float u, v;
1626         if(l > 0.0f) {
1627                 if(UNLIKELY(co.x == 0.0f && co.y == 0.0f)) {
1628                         u = 0.0f;  /* othwise domain error */
1629                 }
1630                 else {
1631                         u = (1.0f - atan2f(co.x, co.y) / M_PI_F) / 2.0f;
1632                 }
1633                 v = 1.0f - safe_acosf(co.z / l) / M_PI_F;
1634         }
1635         else {
1636                 u = v = 0.0f;
1637         }
1638         return make_float2(u, v);
1639 }
1640
1641 ccl_device_inline int util_max_axis(float3 vec)
1642 {
1643 #ifdef __KERNEL_SSE__
1644         __m128 a = shuffle<0,0,1,1>(vec.m128);
1645         __m128 b = shuffle<1,2,2,1>(vec.m128);
1646         __m128 c = _mm_cmpgt_ps(a, b);
1647         int mask = _mm_movemask_ps(c) & 0x7;
1648         static const char tab[8] = {2, 2, 2, 0, 1, 2, 1, 0};
1649         return tab[mask];
1650 #else
1651         if(vec.x > vec.y) {
1652                 if(vec.x > vec.z)
1653                         return 0;
1654                 else
1655                         return 2;
1656         }
1657         else {
1658                 if(vec.y > vec.z)
1659                         return 1;
1660                 else
1661                         return 2;
1662         }
1663 #endif
1664 }
1665
1666 CCL_NAMESPACE_END
1667
1668 #endif /* __UTIL_MATH_H__ */
1669