Cycles: change __device and similar qualifiers to ccl_device in kernel code.
[blender.git] / intern / cycles / util / util_math.h
1 /*
2  * Copyright 2011-2013 Blender Foundation
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  * http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License
15  */
16
17 #ifndef __UTIL_MATH_H__
18 #define __UTIL_MATH_H__
19
20 /* Math
21  *
22  * Basic math functions on scalar and vector types. This header is used by
23  * both the kernel code when compiled as C++, and other C++ non-kernel code. */
24
25 #ifndef __KERNEL_OPENCL__
26
27 #ifdef _MSC_VER
28 #  define _USE_MATH_DEFINES
29 #endif
30
31 #include <float.h>
32 #include <math.h>
33 #include <stdio.h>
34
35 #endif
36
37 #include "util_types.h"
38
39 CCL_NAMESPACE_BEGIN
40
41 /* Float Pi variations */
42
43 /* Division */
44 #ifndef M_PI_F
45 #define M_PI_F          ((float)3.14159265358979323846264338327950288)          /* pi */
46 #endif
47 #ifndef M_PI_2_F
48 #define M_PI_2_F        ((float)1.57079632679489661923132169163975144)          /* pi/2 */
49 #endif
50 #ifndef M_PI_4_F
51 #define M_PI_4_F        ((float)0.785398163397448309615660845819875721)         /* pi/4 */
52 #endif
53 #ifndef M_1_PI_F
54 #define M_1_PI_F        ((float)0.318309886183790671537767526745028724)         /* 1/pi */
55 #endif
56 #ifndef M_2_PI_F
57 #define M_2_PI_F        ((float)0.636619772367581343075535053490057448)         /* 2/pi */
58 #endif
59
60 /* Multiplication */
61 #ifndef M_2PI_F
62 #define M_2PI_F         ((float)6.283185307179586476925286766559005768)         /* 2*pi */
63 #endif
64 #ifndef M_4PI_F
65 #define M_4PI_F         ((float)12.56637061435917295385057353311801153)         /* 4*pi */
66 #endif
67
68 /* Float sqrt variations */
69
70 #ifndef M_SQRT2_F
71 #define M_SQRT2_F       ((float)1.41421356237309504880)                                         /* sqrt(2) */
72 #endif
73
74
75 /* Scalar */
76
77 #ifdef _WIN32
78
79 #ifndef __KERNEL_GPU__
80
81 #if(!defined(FREE_WINDOWS))
82 #define copysignf(x, y) ((float)_copysign(x, y))
83 #define hypotf(x, y) _hypotf(x, y)
84 #define isnan(x) _isnan(x)
85 #define isfinite(x) _finite(x)
86 #endif
87
88 #endif
89
90 #ifndef __KERNEL_OPENCL__
91
92 ccl_device_inline float fmaxf(float a, float b)
93 {
94         return (a > b)? a: b;
95 }
96
97 ccl_device_inline float fminf(float a, float b)
98 {
99         return (a < b)? a: b;
100 }
101
102 #endif
103
104 #endif
105
106 #ifndef __KERNEL_GPU__
107
108 ccl_device_inline int max(int a, int b)
109 {
110         return (a > b)? a: b;
111 }
112
113 ccl_device_inline int min(int a, int b)
114 {
115         return (a < b)? a: b;
116 }
117
118 ccl_device_inline float max(float a, float b)
119 {
120         return (a > b)? a: b;
121 }
122
123 ccl_device_inline float min(float a, float b)
124 {
125         return (a < b)? a: b;
126 }
127
128 ccl_device_inline double max(double a, double b)
129 {
130         return (a > b)? a: b;
131 }
132
133 ccl_device_inline double min(double a, double b)
134 {
135         return (a < b)? a: b;
136 }
137
138 #endif
139
140 ccl_device_inline float min4(float a, float b, float c, float d)
141 {
142         return min(min(a, b), min(c, d));
143 }
144
145 ccl_device_inline float max4(float a, float b, float c, float d)
146 {
147         return max(max(a, b), max(c, d));
148 }
149
150 #ifndef __KERNEL_OPENCL__
151
152 ccl_device_inline int clamp(int a, int mn, int mx)
153 {
154         return min(max(a, mn), mx);
155 }
156
157 ccl_device_inline float clamp(float a, float mn, float mx)
158 {
159         return min(max(a, mn), mx);
160 }
161
162 #endif
163
164 ccl_device_inline int float_to_int(float f)
165 {
166 #if defined(__KERNEL_SSE2__) && !defined(_MSC_VER)
167         return _mm_cvtt_ss2si(_mm_load_ss(&f));
168 #else
169         return (int)f;
170 #endif
171 }
172
173 ccl_device_inline int floor_to_int(float f)
174 {
175         return float_to_int(floorf(f));
176 }
177
178 ccl_device_inline int ceil_to_int(float f)
179 {
180         return float_to_int(ceilf(f));
181 }
182
183 ccl_device_inline float signf(float f)
184 {
185         return (f < 0.0f)? -1.0f: 1.0f;
186 }
187
188 ccl_device_inline float nonzerof(float f, float eps)
189 {
190         if(fabsf(f) < eps)
191                 return signf(f)*eps;
192         else
193                 return f;
194 }
195
196 ccl_device_inline float smoothstepf(float f)
197 {
198         float ff = f*f;
199         return (3.0f*ff - 2.0f*ff*f);
200 }
201
202 /* Float2 Vector */
203
204 #ifndef __KERNEL_OPENCL__
205
206 ccl_device_inline bool is_zero(const float2 a)
207 {
208         return (a.x == 0.0f && a.y == 0.0f);
209 }
210
211 #endif
212
213 #ifndef __KERNEL_OPENCL__
214
215 ccl_device_inline float average(const float2 a)
216 {
217         return (a.x + a.y)*(1.0f/2.0f);
218 }
219
220 #endif
221
222 #ifndef __KERNEL_OPENCL__
223
224 ccl_device_inline float2 operator-(const float2 a)
225 {
226         return make_float2(-a.x, -a.y);
227 }
228
229 ccl_device_inline float2 operator*(const float2 a, const float2 b)
230 {
231         return make_float2(a.x*b.x, a.y*b.y);
232 }
233
234 ccl_device_inline float2 operator*(const float2 a, float f)
235 {
236         return make_float2(a.x*f, a.y*f);
237 }
238
239 ccl_device_inline float2 operator*(float f, const float2 a)
240 {
241         return make_float2(a.x*f, a.y*f);
242 }
243
244 ccl_device_inline float2 operator/(float f, const float2 a)
245 {
246         return make_float2(f/a.x, f/a.y);
247 }
248
249 ccl_device_inline float2 operator/(const float2 a, float f)
250 {
251         float invf = 1.0f/f;
252         return make_float2(a.x*invf, a.y*invf);
253 }
254
255 ccl_device_inline float2 operator/(const float2 a, const float2 b)
256 {
257         return make_float2(a.x/b.x, a.y/b.y);
258 }
259
260 ccl_device_inline float2 operator+(const float2 a, const float2 b)
261 {
262         return make_float2(a.x+b.x, a.y+b.y);
263 }
264
265 ccl_device_inline float2 operator-(const float2 a, const float2 b)
266 {
267         return make_float2(a.x-b.x, a.y-b.y);
268 }
269
270 ccl_device_inline float2 operator+=(float2& a, const float2 b)
271 {
272         return a = a + b;
273 }
274
275 ccl_device_inline float2 operator*=(float2& a, const float2 b)
276 {
277         return a = a * b;
278 }
279
280 ccl_device_inline float2 operator*=(float2& a, float f)
281 {
282         return a = a * f;
283 }
284
285 ccl_device_inline float2 operator/=(float2& a, const float2 b)
286 {
287         return a = a / b;
288 }
289
290 ccl_device_inline float2 operator/=(float2& a, float f)
291 {
292         float invf = 1.0f/f;
293         return a = a * invf;
294 }
295
296
297 ccl_device_inline float dot(const float2 a, const float2 b)
298 {
299         return a.x*b.x + a.y*b.y;
300 }
301
302 ccl_device_inline float cross(const float2 a, const float2 b)
303 {
304         return (a.x*b.y - a.y*b.x);
305 }
306
307 #endif
308
309 #ifndef __KERNEL_OPENCL__
310
311 ccl_device_inline bool operator==(const int2 a, const int2 b)
312 {
313         return (a.x == b.x && a.y == b.y);
314 }
315
316 ccl_device_inline float len(const float2 a)
317 {
318         return sqrtf(dot(a, a));
319 }
320
321 ccl_device_inline float2 normalize(const float2 a)
322 {
323         return a/len(a);
324 }
325
326 ccl_device_inline float2 normalize_len(const float2 a, float *t)
327 {
328         *t = len(a);
329         return a/(*t);
330 }
331
332 ccl_device_inline bool operator==(const float2 a, const float2 b)
333 {
334         return (a.x == b.x && a.y == b.y);
335 }
336
337 ccl_device_inline bool operator!=(const float2 a, const float2 b)
338 {
339         return !(a == b);
340 }
341
342 ccl_device_inline float2 min(float2 a, float2 b)
343 {
344         return make_float2(min(a.x, b.x), min(a.y, b.y));
345 }
346
347 ccl_device_inline float2 max(float2 a, float2 b)
348 {
349         return make_float2(max(a.x, b.x), max(a.y, b.y));
350 }
351
352 ccl_device_inline float2 clamp(float2 a, float2 mn, float2 mx)
353 {
354         return min(max(a, mn), mx);
355 }
356
357 ccl_device_inline float2 fabs(float2 a)
358 {
359         return make_float2(fabsf(a.x), fabsf(a.y));
360 }
361
362 ccl_device_inline float2 as_float2(const float4 a)
363 {
364         return make_float2(a.x, a.y);
365 }
366
367 #endif
368
369 #ifndef __KERNEL_GPU__
370
371 ccl_device_inline void print_float2(const char *label, const float2& a)
372 {
373         printf("%s: %.8f %.8f\n", label, (double)a.x, (double)a.y);
374 }
375
376 #endif
377
378 #ifndef __KERNEL_OPENCL__
379
380 ccl_device_inline float2 interp(float2 a, float2 b, float t)
381 {
382         return a + t*(b - a);
383 }
384
385 #endif
386
387 /* Float3 Vector */
388
389 #ifndef __KERNEL_OPENCL__
390
391 ccl_device_inline float3 operator-(const float3 a)
392 {
393         return make_float3(-a.x, -a.y, -a.z);
394 }
395
396 ccl_device_inline float3 operator*(const float3 a, const float3 b)
397 {
398         return make_float3(a.x*b.x, a.y*b.y, a.z*b.z);
399 }
400
401 ccl_device_inline float3 operator*(const float3 a, float f)
402 {
403         return make_float3(a.x*f, a.y*f, a.z*f);
404 }
405
406 ccl_device_inline float3 operator*(float f, const float3 a)
407 {
408         return make_float3(a.x*f, a.y*f, a.z*f);
409 }
410
411 ccl_device_inline float3 operator/(float f, const float3 a)
412 {
413         return make_float3(f/a.x, f/a.y, f/a.z);
414 }
415
416 ccl_device_inline float3 operator/(const float3 a, float f)
417 {
418         float invf = 1.0f/f;
419         return make_float3(a.x*invf, a.y*invf, a.z*invf);
420 }
421
422 ccl_device_inline float3 operator/(const float3 a, const float3 b)
423 {
424         return make_float3(a.x/b.x, a.y/b.y, a.z/b.z);
425 }
426
427 ccl_device_inline float3 operator+(const float3 a, const float3 b)
428 {
429         return make_float3(a.x+b.x, a.y+b.y, a.z+b.z);
430 }
431
432 ccl_device_inline float3 operator-(const float3 a, const float3 b)
433 {
434         return make_float3(a.x-b.x, a.y-b.y, a.z-b.z);
435 }
436
437 ccl_device_inline float3 operator+=(float3& a, const float3 b)
438 {
439         return a = a + b;
440 }
441
442 ccl_device_inline float3 operator*=(float3& a, const float3 b)
443 {
444         return a = a * b;
445 }
446
447 ccl_device_inline float3 operator*=(float3& a, float f)
448 {
449         return a = a * f;
450 }
451
452 ccl_device_inline float3 operator/=(float3& a, const float3 b)
453 {
454         return a = a / b;
455 }
456
457 ccl_device_inline float3 operator/=(float3& a, float f)
458 {
459         float invf = 1.0f/f;
460         return a = a * invf;
461 }
462
463 ccl_device_inline float dot(const float3 a, const float3 b)
464 {
465         return a.x*b.x + a.y*b.y + a.z*b.z;
466 }
467
468 ccl_device_inline float3 cross(const float3 a, const float3 b)
469 {
470         float3 r = make_float3(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x);
471         return r;
472 }
473
474 #endif
475
476 ccl_device_inline float len(const float3 a)
477 {
478         return sqrtf(dot(a, a));
479 }
480
481 ccl_device_inline float len_squared(const float3 a)
482 {
483         return dot(a, a);
484 }
485
486 #ifndef __KERNEL_OPENCL__
487
488 ccl_device_inline float3 normalize(const float3 a)
489 {
490         return a/len(a);
491 }
492
493 #endif
494
495 ccl_device_inline float3 normalize_len(const float3 a, float *t)
496 {
497         *t = len(a);
498         return a/(*t);
499 }
500
501 #ifndef __KERNEL_OPENCL__
502
503 ccl_device_inline bool operator==(const float3 a, const float3 b)
504 {
505 #ifdef __KERNEL_SSE__
506         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 7) == 7;
507 #else
508         return (a.x == b.x && a.y == b.y && a.z == b.z);
509 #endif
510 }
511
512 ccl_device_inline bool operator!=(const float3 a, const float3 b)
513 {
514         return !(a == b);
515 }
516
517 ccl_device_inline float3 min(float3 a, float3 b)
518 {
519 #ifdef __KERNEL_SSE__
520         return _mm_min_ps(a.m128, b.m128);
521 #else
522         return make_float3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
523 #endif
524 }
525
526 ccl_device_inline float3 max(float3 a, float3 b)
527 {
528 #ifdef __KERNEL_SSE__
529         return _mm_max_ps(a.m128, b.m128);
530 #else
531         return make_float3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
532 #endif
533 }
534
535 ccl_device_inline float3 clamp(float3 a, float3 mn, float3 mx)
536 {
537         return min(max(a, mn), mx);
538 }
539
540 ccl_device_inline float3 fabs(float3 a)
541 {
542 #ifdef __KERNEL_SSE__
543         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x7fffffff));
544         return _mm_and_ps(a.m128, mask);
545 #else
546         return make_float3(fabsf(a.x), fabsf(a.y), fabsf(a.z));
547 #endif
548 }
549
550 #endif
551
552 ccl_device_inline float3 float2_to_float3(const float2 a)
553 {
554         return make_float3(a.x, a.y, 0.0f);
555 }
556
557 ccl_device_inline float3 float4_to_float3(const float4 a)
558 {
559         return make_float3(a.x, a.y, a.z);
560 }
561
562 ccl_device_inline float4 float3_to_float4(const float3 a)
563 {
564         return make_float4(a.x, a.y, a.z, 1.0f);
565 }
566
567 #ifndef __KERNEL_GPU__
568
569 ccl_device_inline void print_float3(const char *label, const float3& a)
570 {
571         printf("%s: %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z);
572 }
573
574 ccl_device_inline float3 rcp(const float3& a)
575 {
576 #ifdef __KERNEL_SSE__
577         float4 r = _mm_rcp_ps(a.m128);
578         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
579 #else
580         return make_float3(1.0f/a.x, 1.0f/a.y, 1.0f/a.z);
581 #endif
582 }
583
584 #endif
585
586 ccl_device_inline float3 interp(float3 a, float3 b, float t)
587 {
588         return a + t*(b - a);
589 }
590
591 ccl_device_inline bool is_zero(const float3 a)
592 {
593 #ifdef __KERNEL_SSE__
594         return a == make_float3(0.0f);
595 #else
596         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f);
597 #endif
598 }
599
600 ccl_device_inline float reduce_add(const float3 a)
601 {
602 #ifdef __KERNEL_SSE__
603         return (a.x + a.y + a.z);
604 #else
605         return (a.x + a.y + a.z);
606 #endif
607 }
608
609 ccl_device_inline float average(const float3 a)
610 {
611         return reduce_add(a)*(1.0f/3.0f);
612 }
613
614 /* Float4 Vector */
615
616 #ifdef __KERNEL_SSE__
617
618 template<size_t index_0, size_t index_1, size_t index_2, size_t index_3> __forceinline const float4 shuffle(const float4& b)
619 {
620         return _mm_castsi128_ps(_mm_shuffle_epi32(_mm_castps_si128(b), _MM_SHUFFLE(index_3, index_2, index_1, index_0)));
621 }
622
623 template<> __forceinline const float4 shuffle<0, 0, 2, 2>(const float4& b)
624 {
625         return _mm_moveldup_ps(b);
626 }
627
628 template<> __forceinline const float4 shuffle<1, 1, 3, 3>(const float4& b)
629 {
630         return _mm_movehdup_ps(b);
631 }
632
633 template<> __forceinline const float4 shuffle<0, 1, 0, 1>(const float4& b)
634 {
635         return _mm_castpd_ps(_mm_movedup_pd(_mm_castps_pd(b)));
636 }
637
638 #endif
639
640 #ifndef __KERNEL_OPENCL__
641
642 ccl_device_inline float4 operator-(const float4& a)
643 {
644 #ifdef __KERNEL_SSE__
645         __m128 mask = _mm_castsi128_ps(_mm_set1_epi32(0x80000000));
646         return _mm_xor_ps(a.m128, mask);
647 #else
648         return make_float4(-a.x, -a.y, -a.z, -a.w);
649 #endif
650 }
651
652 ccl_device_inline float4 operator*(const float4& a, const float4& b)
653 {
654 #ifdef __KERNEL_SSE__
655         return _mm_mul_ps(a.m128, b.m128);
656 #else
657         return make_float4(a.x*b.x, a.y*b.y, a.z*b.z, a.w*b.w);
658 #endif
659 }
660
661 ccl_device_inline float4 operator*(const float4& a, float f)
662 {
663 #ifdef __KERNEL_SSE__
664         return a * make_float4(f);
665 #else
666         return make_float4(a.x*f, a.y*f, a.z*f, a.w*f);
667 #endif
668 }
669
670 ccl_device_inline float4 operator*(float f, const float4& a)
671 {
672         return a * f;
673 }
674
675 ccl_device_inline float4 rcp(const float4& a)
676 {
677 #ifdef __KERNEL_SSE__
678         float4 r = _mm_rcp_ps(a.m128);
679         return _mm_sub_ps(_mm_add_ps(r, r), _mm_mul_ps(_mm_mul_ps(r, r), a));
680 #else
681         return make_float4(1.0f/a.x, 1.0f/a.y, 1.0f/a.z, 1.0f/a.w);
682 #endif
683 }
684
685 ccl_device_inline float4 operator/(const float4& a, float f)
686 {
687         return a * (1.0f/f);
688 }
689
690 ccl_device_inline float4 operator/(const float4& a, const float4& b)
691 {
692 #ifdef __KERNEL_SSE__
693         return a * rcp(b);
694 #else
695         return make_float4(a.x/b.x, a.y/b.y, a.z/b.z, a.w/b.w);
696 #endif
697
698 }
699
700 ccl_device_inline float4 operator+(const float4& a, const float4& b)
701 {
702 #ifdef __KERNEL_SSE__
703         return _mm_add_ps(a.m128, b.m128);
704 #else
705         return make_float4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
706 #endif
707 }
708
709 ccl_device_inline float4 operator-(const float4& a, const float4& b)
710 {
711 #ifdef __KERNEL_SSE__
712         return _mm_sub_ps(a.m128, b.m128);
713 #else
714         return make_float4(a.x-b.x, a.y-b.y, a.z-b.z, a.w-b.w);
715 #endif
716 }
717
718 ccl_device_inline float4 operator+=(float4& a, const float4& b)
719 {
720         return a = a + b;
721 }
722
723 ccl_device_inline float4 operator*=(float4& a, const float4& b)
724 {
725         return a = a * b;
726 }
727
728 ccl_device_inline float4 operator/=(float4& a, float f)
729 {
730         return a = a / f;
731 }
732
733 ccl_device_inline int4 operator<(const float4& a, const float4& b)
734 {
735 #ifdef __KERNEL_SSE__
736         return _mm_cvtps_epi32(_mm_cmplt_ps(a.m128, b.m128)); /* todo: avoid cvt */
737 #else
738         return make_int4(a.x < b.x, a.y < b.y, a.z < b.z, a.w < b.w);
739 #endif
740 }
741
742 ccl_device_inline int4 operator>=(float4 a, float4 b)
743 {
744 #ifdef __KERNEL_SSE__
745         return _mm_cvtps_epi32(_mm_cmpge_ps(a.m128, b.m128)); /* todo: avoid cvt */
746 #else
747         return make_int4(a.x >= b.x, a.y >= b.y, a.z >= b.z, a.w >= b.w);
748 #endif
749 }
750
751 ccl_device_inline int4 operator<=(const float4& a, const float4& b)
752 {
753 #ifdef __KERNEL_SSE__
754         return _mm_cvtps_epi32(_mm_cmple_ps(a.m128, b.m128)); /* todo: avoid cvt */
755 #else
756         return make_int4(a.x <= b.x, a.y <= b.y, a.z <= b.z, a.w <= b.w);
757 #endif
758 }
759
760 ccl_device_inline bool operator==(const float4 a, const float4 b)
761 {
762 #ifdef __KERNEL_SSE__
763         return (_mm_movemask_ps(_mm_cmpeq_ps(a.m128, b.m128)) & 15) == 15;
764 #else
765         return (a.x == b.x && a.y == b.y && a.z == b.z && a.w == b.w);
766 #endif
767 }
768
769 ccl_device_inline float4 cross(const float4& a, const float4& b)
770 {
771 #ifdef __KERNEL_SSE__
772         return (shuffle<1,2,0,0>(a)*shuffle<2,0,1,0>(b)) - (shuffle<2,0,1,0>(a)*shuffle<1,2,0,0>(b));
773 #else
774         return make_float4(a.y*b.z - a.z*b.y, a.z*b.x - a.x*b.z, a.x*b.y - a.y*b.x, 0.0f);
775 #endif
776 }
777
778 ccl_device_inline bool is_zero(const float4& a)
779 {
780 #ifdef __KERNEL_SSE__
781         return a == make_float4(0.0f);
782 #else
783         return (a.x == 0.0f && a.y == 0.0f && a.z == 0.0f && a.w == 0.0f);
784 #endif
785 }
786
787 ccl_device_inline float reduce_add(const float4& a)
788 {
789 #ifdef __KERNEL_SSE__
790         float4 h = shuffle<1,0,3,2>(a) + a;
791         return _mm_cvtss_f32(shuffle<2,3,0,1>(h) + h); /* todo: efficiency? */
792 #else
793         return ((a.x + a.y) + (a.z + a.w));
794 #endif
795 }
796
797 ccl_device_inline float average(const float4& a)
798 {
799         return reduce_add(a) * 0.25f;
800 }
801
802 ccl_device_inline float dot(const float4& a, const float4& b)
803 {
804         return reduce_add(a * b);
805 }
806
807 ccl_device_inline float len(const float4 a)
808 {
809         return sqrtf(dot(a, a));
810 }
811
812 ccl_device_inline float4 normalize(const float4 a)
813 {
814         return a/len(a);
815 }
816
817 ccl_device_inline float4 min(float4 a, float4 b)
818 {
819 #ifdef __KERNEL_SSE__
820         return _mm_min_ps(a.m128, b.m128);
821 #else
822         return make_float4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
823 #endif
824 }
825
826 ccl_device_inline float4 max(float4 a, float4 b)
827 {
828 #ifdef __KERNEL_SSE__
829         return _mm_max_ps(a.m128, b.m128);
830 #else
831         return make_float4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
832 #endif
833 }
834
835 #endif
836
837 #ifndef __KERNEL_GPU__
838
839 ccl_device_inline float4 select(const int4& mask, const float4& a, const float4& b)
840 {
841 #ifdef __KERNEL_SSE__
842         /* blendv is sse4, and apparently broken on vs2008 */
843         return _mm_or_ps(_mm_and_ps(_mm_cvtepi32_ps(mask), a), _mm_andnot_ps(_mm_cvtepi32_ps(mask), b)); /* todo: avoid cvt */
844 #else
845         return make_float4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
846 #endif
847 }
848
849 ccl_device_inline float4 reduce_min(const float4& a)
850 {
851 #ifdef __KERNEL_SSE__
852         float4 h = min(shuffle<1,0,3,2>(a), a);
853         return min(shuffle<2,3,0,1>(h), h);
854 #else
855         return make_float4(min(min(a.x, a.y), min(a.z, a.w)));
856 #endif
857 }
858
859 ccl_device_inline float4 reduce_max(const float4& a)
860 {
861 #ifdef __KERNEL_SSE__
862         float4 h = max(shuffle<1,0,3,2>(a), a);
863         return max(shuffle<2,3,0,1>(h), h);
864 #else
865         return make_float4(max(max(a.x, a.y), max(a.z, a.w)));
866 #endif
867 }
868
869 #if 0
870 ccl_device_inline float4 reduce_add(const float4& a)
871 {
872 #ifdef __KERNEL_SSE__
873         float4 h = shuffle<1,0,3,2>(a) + a;
874         return shuffle<2,3,0,1>(h) + h;
875 #else
876         return make_float4((a.x + a.y) + (a.z + a.w));
877 #endif
878 }
879 #endif
880
881 ccl_device_inline void print_float4(const char *label, const float4& a)
882 {
883         printf("%s: %.8f %.8f %.8f %.8f\n", label, (double)a.x, (double)a.y, (double)a.z, (double)a.w);
884 }
885
886 #endif
887
888 /* Int3 */
889
890 #ifndef __KERNEL_OPENCL__
891
892 ccl_device_inline int3 min(int3 a, int3 b)
893 {
894 #ifdef __KERNEL_SSE__
895         return _mm_min_epi32(a.m128, b.m128);
896 #else
897         return make_int3(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z));
898 #endif
899 }
900
901 ccl_device_inline int3 max(int3 a, int3 b)
902 {
903 #ifdef __KERNEL_SSE__
904         return _mm_max_epi32(a.m128, b.m128);
905 #else
906         return make_int3(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z));
907 #endif
908 }
909
910 ccl_device_inline int3 clamp(const int3& a, int mn, int mx)
911 {
912 #ifdef __KERNEL_SSE__
913         return min(max(a, make_int3(mn)), make_int3(mx));
914 #else
915         return make_int3(clamp(a.x, mn, mx), clamp(a.y, mn, mx), clamp(a.z, mn, mx));
916 #endif
917 }
918
919 ccl_device_inline int3 clamp(const int3& a, int3& mn, int mx)
920 {
921 #ifdef __KERNEL_SSE__
922         return min(max(a, mn), make_int3(mx));
923 #else
924         return make_int3(clamp(a.x, mn.x, mx), clamp(a.y, mn.y, mx), clamp(a.z, mn.z, mx));
925 #endif
926 }
927
928 #endif
929
930 #ifndef __KERNEL_GPU__
931
932 ccl_device_inline void print_int3(const char *label, const int3& a)
933 {
934         printf("%s: %d %d %d\n", label, a.x, a.y, a.z);
935 }
936
937 #endif
938
939 /* Int4 */
940
941 #ifndef __KERNEL_GPU__
942
943 ccl_device_inline int4 operator+(const int4& a, const int4& b)
944 {
945 #ifdef __KERNEL_SSE__
946         return _mm_add_epi32(a.m128, b.m128);
947 #else
948         return make_int4(a.x+b.x, a.y+b.y, a.z+b.z, a.w+b.w);
949 #endif
950 }
951
952 ccl_device_inline int4 operator+=(int4& a, const int4& b)
953 {
954         return a = a + b;
955 }
956
957 ccl_device_inline int4 operator>>(const int4& a, int i)
958 {
959 #ifdef __KERNEL_SSE__
960         return _mm_srai_epi32(a.m128, i);
961 #else
962         return make_int4(a.x >> i, a.y >> i, a.z >> i, a.w >> i);
963 #endif
964 }
965
966 ccl_device_inline int4 min(int4 a, int4 b)
967 {
968 #ifdef __KERNEL_SSE__
969         return _mm_min_epi32(a.m128, b.m128);
970 #else
971         return make_int4(min(a.x, b.x), min(a.y, b.y), min(a.z, b.z), min(a.w, b.w));
972 #endif
973 }
974
975 ccl_device_inline int4 max(int4 a, int4 b)
976 {
977 #ifdef __KERNEL_SSE__
978         return _mm_max_epi32(a.m128, b.m128);
979 #else
980         return make_int4(max(a.x, b.x), max(a.y, b.y), max(a.z, b.z), max(a.w, b.w));
981 #endif
982 }
983
984 ccl_device_inline int4 clamp(const int4& a, const int4& mn, const int4& mx)
985 {
986         return min(max(a, mn), mx);
987 }
988
989 ccl_device_inline int4 select(const int4& mask, const int4& a, const int4& b)
990 {
991 #ifdef __KERNEL_SSE__
992         __m128 m = _mm_cvtepi32_ps(mask);
993         return _mm_castps_si128(_mm_or_ps(_mm_and_ps(m, _mm_castsi128_ps(a)), _mm_andnot_ps(m, _mm_castsi128_ps(b)))); /* todo: avoid cvt */
994 #else
995         return make_int4((mask.x)? a.x: b.x, (mask.y)? a.y: b.y, (mask.z)? a.z: b.z, (mask.w)? a.w: b.w);
996 #endif
997 }
998
999 ccl_device_inline void print_int4(const char *label, const int4& a)
1000 {
1001         printf("%s: %d %d %d %d\n", label, a.x, a.y, a.z, a.w);
1002 }
1003
1004 #endif
1005
1006 /* Int/Float conversion */
1007
1008 #ifndef __KERNEL_OPENCL__
1009
1010 ccl_device_inline int as_int(uint i)
1011 {
1012         union { uint ui; int i; } u;
1013         u.ui = i;
1014         return u.i;
1015 }
1016
1017 ccl_device_inline uint as_uint(int i)
1018 {
1019         union { uint ui; int i; } u;
1020         u.i = i;
1021         return u.ui;
1022 }
1023
1024 ccl_device_inline uint as_uint(float f)
1025 {
1026         union { uint i; float f; } u;
1027         u.f = f;
1028         return u.i;
1029 }
1030
1031 ccl_device_inline int __float_as_int(float f)
1032 {
1033         union { int i; float f; } u;
1034         u.f = f;
1035         return u.i;
1036 }
1037
1038 ccl_device_inline float __int_as_float(int i)
1039 {
1040         union { int i; float f; } u;
1041         u.i = i;
1042         return u.f;
1043 }
1044
1045 ccl_device_inline uint __float_as_uint(float f)
1046 {
1047         union { uint i; float f; } u;
1048         u.f = f;
1049         return u.i;
1050 }
1051
1052 ccl_device_inline float __uint_as_float(uint i)
1053 {
1054         union { uint i; float f; } u;
1055         u.i = i;
1056         return u.f;
1057 }
1058
1059 /* Interpolation */
1060
1061 template<class A, class B> A lerp(const A& a, const A& b, const B& t)
1062 {
1063         return (A)(a * ((B)1 - t) + b * t);
1064 }
1065
1066 /* Triangle */
1067
1068 ccl_device_inline float triangle_area(const float3 v1, const float3 v2, const float3 v3)
1069 {
1070         return len(cross(v3 - v2, v1 - v2))*0.5f;
1071 }
1072
1073 #endif
1074
1075 /* Orthonormal vectors */
1076
1077 ccl_device_inline void make_orthonormals(const float3 N, float3 *a, float3 *b)
1078 {
1079 #if 0
1080         if(fabsf(N.y) >= 0.999f) {
1081                 *a = make_float3(1, 0, 0);
1082                 *b = make_float3(0, 0, 1);
1083                 return;
1084         }
1085         if(fabsf(N.z) >= 0.999f) {
1086                 *a = make_float3(1, 0, 0);
1087                 *b = make_float3(0, 1, 0);
1088                 return;
1089         }
1090 #endif
1091
1092         if(N.x != N.y || N.x != N.z)
1093                 *a = make_float3(N.z-N.y, N.x-N.z, N.y-N.x);  //(1,1,1)x N
1094         else
1095                 *a = make_float3(N.z-N.y, N.x+N.z, -N.y-N.x);  //(-1,1,1)x N
1096
1097         *a = normalize(*a);
1098         *b = cross(N, *a);
1099 }
1100
1101 /* Color division */
1102
1103 ccl_device_inline float3 safe_divide_color(float3 a, float3 b)
1104 {
1105         float x, y, z;
1106
1107         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1108         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1109         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1110
1111         return make_float3(x, y, z);
1112 }
1113
1114 ccl_device_inline float3 safe_divide_even_color(float3 a, float3 b)
1115 {
1116         float x, y, z;
1117
1118         x = (b.x != 0.0f)? a.x/b.x: 0.0f;
1119         y = (b.y != 0.0f)? a.y/b.y: 0.0f;
1120         z = (b.z != 0.0f)? a.z/b.z: 0.0f;
1121
1122         /* try to get grey even if b is zero */
1123         if(b.x == 0.0f) {
1124                 if(b.y == 0.0f) {
1125                         x = z;
1126                         y = z;
1127                 }
1128                 else if(b.z == 0.0f) {
1129                         x = y;
1130                         z = y;
1131                 }
1132                 else
1133                         x = 0.5f*(y + z);
1134         }
1135         else if(b.y == 0.0f) {
1136                 if(b.z == 0.0f) {
1137                         y = x;
1138                         z = x;
1139                 }
1140                 else
1141                         y = 0.5f*(x + z);
1142         }
1143         else if(b.z == 0.0f) {
1144                 z = 0.5f*(x + y);
1145         }
1146
1147         return make_float3(x, y, z);
1148 }
1149
1150 /* Rotation of point around axis and angle */
1151
1152 ccl_device_inline float3 rotate_around_axis(float3 p, float3 axis, float angle)
1153 {
1154         float costheta = cosf(angle);
1155         float sintheta = sinf(angle);
1156         float3 r;
1157
1158         r.x = ((costheta + (1 - costheta) * axis.x * axis.x) * p.x) +
1159                 (((1 - costheta) * axis.x * axis.y - axis.z * sintheta) * p.y) +
1160                 (((1 - costheta) * axis.x * axis.z + axis.y * sintheta) * p.z);
1161
1162         r.y = (((1 - costheta) * axis.x * axis.y + axis.z * sintheta) * p.x) +
1163                 ((costheta + (1 - costheta) * axis.y * axis.y) * p.y) +
1164                 (((1 - costheta) * axis.y * axis.z - axis.x * sintheta) * p.z);
1165
1166         r.z = (((1 - costheta) * axis.x * axis.z - axis.y * sintheta) * p.x) +
1167                 (((1 - costheta) * axis.y * axis.z + axis.x * sintheta) * p.y) +
1168                 ((costheta + (1 - costheta) * axis.z * axis.z) * p.z);
1169
1170         return r;
1171 }
1172
1173 /* NaN-safe math ops */
1174
1175 ccl_device_inline float safe_sqrtf(float f)
1176 {
1177         return sqrtf(max(f, 0.0f));
1178 }
1179
1180 ccl_device float safe_asinf(float a)
1181 {
1182         if(a <= -1.0f)
1183                 return -M_PI_2_F;
1184         else if(a >= 1.0f)
1185                 return M_PI_2_F;
1186
1187         return asinf(a);
1188 }
1189
1190 ccl_device float safe_acosf(float a)
1191 {
1192         if(a <= -1.0f)
1193                 return M_PI_F;
1194         else if(a >= 1.0f)
1195                 return 0.0f;
1196
1197         return acosf(a);
1198 }
1199
1200 ccl_device float compatible_powf(float x, float y)
1201 {
1202         /* GPU pow doesn't accept negative x, do manual checks here */
1203         if(x < 0.0f) {
1204                 if(fmodf(-y, 2.0f) == 0.0f)
1205                         return powf(-x, y);
1206                 else
1207                         return -powf(-x, y);
1208         }
1209         else if(x == 0.0f)
1210                 return 0.0f;
1211
1212         return powf(x, y);
1213 }
1214
1215 ccl_device float safe_powf(float a, float b)
1216 {
1217         if(b == 0.0f)
1218                 return 1.0f;
1219         if(a == 0.0f)
1220                 return 0.0f;
1221         if(a < 0.0f && b != float_to_int(b))
1222                 return 0.0f;
1223         
1224         return compatible_powf(a, b);
1225 }
1226
1227 ccl_device float safe_logf(float a, float b)
1228 {
1229         if(a < 0.0f || b < 0.0f)
1230                 return 0.0f;
1231
1232         return logf(a)/logf(b);
1233 }
1234
1235 ccl_device float safe_divide(float a, float b)
1236 {
1237         return (b != 0.0f)? a/b: 0.0f;
1238 }
1239
1240 ccl_device float safe_modulo(float a, float b)
1241 {
1242         return (b != 0.0f)? fmodf(a, b): 0.0f;
1243 }
1244
1245 /* Ray Intersection */
1246
1247 ccl_device bool ray_sphere_intersect(
1248         float3 ray_P, float3 ray_D, float ray_t,
1249         float3 sphere_P, float sphere_radius,
1250         float3 *isect_P, float *isect_t)
1251 {
1252         float3 d = sphere_P - ray_P;
1253         float radiussq = sphere_radius*sphere_radius;
1254         float tsq = dot(d, d);
1255
1256         if(tsq > radiussq) { /* ray origin outside sphere */
1257                 float tp = dot(d, ray_D);
1258
1259                 if(tp < 0.0f) /* dir points away from sphere */
1260                         return false;
1261
1262                 float dsq = tsq - tp*tp; /* pythagoras */
1263
1264                 if(dsq > radiussq) /* closest point on ray outside sphere */
1265                         return false;
1266
1267                 float t = tp - sqrtf(radiussq - dsq); /* pythagoras */
1268
1269                 if(t < ray_t) {
1270                         *isect_t = t;
1271                         *isect_P = ray_P + ray_D*t;
1272                         return true;
1273                 }
1274         }
1275
1276         return false;
1277 }
1278
1279 ccl_device bool ray_aligned_disk_intersect(
1280         float3 ray_P, float3 ray_D, float ray_t,
1281         float3 disk_P, float disk_radius,
1282         float3 *isect_P, float *isect_t)
1283 {
1284         /* aligned disk normal */
1285         float disk_t;
1286         float3 disk_N = normalize_len(ray_P - disk_P, &disk_t);
1287         float div = dot(ray_D, disk_N);
1288
1289         if(div == 0.0f)
1290                 return false;
1291
1292         /* compute t to intersection point */
1293         float t = -disk_t/div;
1294         if(t < 0.0f || t > ray_t)
1295                 return false;
1296         
1297         /* test if within radius */
1298         float3 P = ray_P + ray_D*t;
1299         if(len_squared(P - disk_P) > disk_radius*disk_radius)
1300                 return false;
1301
1302         *isect_P = P;
1303         *isect_t = t;
1304
1305         return true;
1306 }
1307
1308 ccl_device bool ray_triangle_intersect(
1309         float3 ray_P, float3 ray_D, float ray_t,
1310         float3 v0, float3 v1, float3 v2,
1311         float3 *isect_P, float *isect_t)
1312 {
1313         /* Calculate intersection */
1314         float3 e1 = v1 - v0;
1315         float3 e2 = v2 - v0;
1316         float3 s1 = cross(ray_D, e2);
1317
1318         const float divisor = dot(s1, e1);
1319         if(divisor == 0.0f)
1320                 return false;
1321
1322         const float invdivisor = 1.0f/divisor;
1323
1324         /* compute first barycentric coordinate */
1325         const float3 d = ray_P - v0;
1326         const float u = dot(d, s1)*invdivisor;
1327         if(u < 0.0f)
1328                 return false;
1329
1330         /* Compute second barycentric coordinate */
1331         const float3 s2 = cross(d, e1);
1332         const float v = dot(ray_D, s2)*invdivisor;
1333         if(v < 0.0f)
1334                 return false;
1335
1336         const float b0 = 1.0f - u - v;
1337         if(b0 < 0.0f)
1338                 return false;
1339
1340         /* compute t to intersection point */
1341         const float t = dot(e2, s2)*invdivisor;
1342         if(t < 0.0f || t > ray_t)
1343                 return false;
1344
1345         *isect_t = t;
1346         *isect_P = ray_P + ray_D*t;
1347
1348         return true;
1349 }
1350
1351 ccl_device bool ray_quad_intersect(
1352         float3 ray_P, float3 ray_D, float ray_t,
1353         float3 quad_P, float3 quad_u, float3 quad_v,
1354         float3 *isect_P, float *isect_t)
1355 {
1356         float3 v0 = quad_P - quad_u*0.5f - quad_v*0.5f;
1357         float3 v1 = quad_P + quad_u*0.5f - quad_v*0.5f;
1358         float3 v2 = quad_P + quad_u*0.5f + quad_v*0.5f;
1359         float3 v3 = quad_P - quad_u*0.5f + quad_v*0.5f;
1360
1361         if(ray_triangle_intersect(ray_P, ray_D, ray_t, v0, v1, v2, isect_P, isect_t))
1362                 return true;
1363         else if(ray_triangle_intersect(ray_P, ray_D, ray_t, v0, v2, v3, isect_P, isect_t))
1364                 return true;
1365         
1366         return false;
1367 }
1368
1369 CCL_NAMESPACE_END
1370
1371 #endif /* __UTIL_MATH_H__ */
1372