Merge branch 'master' into blender2.8
[blender.git] / intern / cycles / kernel / split / kernel_split_data_types.h
1 /*
2  * Copyright 2011-2016 Blender Foundation
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  * http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #ifndef __KERNEL_SPLIT_DATA_TYPES_H__
18 #define __KERNEL_SPLIT_DATA_TYPES_H__
19
20 CCL_NAMESPACE_BEGIN
21
22 /* parameters used by the split kernels, we use a single struct to avoid passing these to each kernel */
23
24 typedef struct SplitParams {
25         WorkTile tile;
26         uint total_work_size;
27
28         ccl_global unsigned int *work_pools;
29
30         ccl_global int *queue_index;
31         int queue_size;
32         ccl_global char *use_queues_flag;
33
34         /* Place for storing sd->flag. AMD GPU OpenCL compiler workaround */
35         int dummy_sd_flag;
36 } SplitParams;
37
38 /* Global memory variables [porting]; These memory is used for
39  * co-operation between different kernels; Data written by one
40  * kernel will be available to another kernel via this global
41  * memory.
42  */
43
44 /* SPLIT_DATA_ENTRY(type, name, num) */
45
46 #ifdef __BRANCHED_PATH__
47
48 typedef ccl_global struct SplitBranchedState {
49         /* various state that must be kept and restored after an indirect loop */
50         PathState path_state;
51         float3 throughput;
52         Ray ray;
53
54         Intersection isect;
55
56         char ray_state;
57
58         /* indirect loop state */
59         int next_closure;
60         int next_sample;
61
62 #ifdef __SUBSURFACE__
63         int ss_next_closure;
64         int ss_next_sample;
65         int next_hit;
66         int num_hits;
67
68         uint lcg_state;
69         LocalIntersection ss_isect;
70 #endif  /*__SUBSURFACE__ */
71
72         int shared_sample_count; /* number of branched samples shared with other threads */
73         int original_ray; /* index of original ray when sharing branched samples */
74         bool waiting_on_shared_samples;
75 } SplitBranchedState;
76
77 #define SPLIT_DATA_BRANCHED_ENTRIES \
78         SPLIT_DATA_ENTRY( SplitBranchedState, branched_state, 1) \
79         SPLIT_DATA_ENTRY(ShaderData, _branched_state_sd, 0)
80 #else
81 #define SPLIT_DATA_BRANCHED_ENTRIES
82 #endif  /* __BRANCHED_PATH__ */
83
84 #ifdef __SUBSURFACE__
85 #  define SPLIT_DATA_SUBSURFACE_ENTRIES \
86         SPLIT_DATA_ENTRY(ccl_global SubsurfaceIndirectRays, ss_rays, 1)
87 #else
88 #  define SPLIT_DATA_SUBSURFACE_ENTRIES
89 #endif /* __SUBSURFACE__ */
90
91 #ifdef __VOLUME__
92 #  define SPLIT_DATA_VOLUME_ENTRIES \
93         SPLIT_DATA_ENTRY(ccl_global PathState, state_shadow, 1)
94 #else
95 #  define SPLIT_DATA_VOLUME_ENTRIES
96 #endif /* __VOLUME__ */
97
98 #define SPLIT_DATA_ENTRIES \
99         SPLIT_DATA_ENTRY(ccl_global float3, throughput, 1) \
100         SPLIT_DATA_ENTRY(PathRadiance, path_radiance, 1) \
101         SPLIT_DATA_ENTRY(ccl_global Ray, ray, 1) \
102         SPLIT_DATA_ENTRY(ccl_global PathState, path_state, 1) \
103         SPLIT_DATA_ENTRY(ccl_global Intersection, isect, 1) \
104         SPLIT_DATA_ENTRY(ccl_global BsdfEval, bsdf_eval, 1) \
105         SPLIT_DATA_ENTRY(ccl_global int, is_lamp, 1) \
106         SPLIT_DATA_ENTRY(ccl_global Ray, light_ray, 1) \
107         SPLIT_DATA_ENTRY(ccl_global int, queue_data, (NUM_QUEUES*2)) /* TODO(mai): this is too large? */ \
108         SPLIT_DATA_ENTRY(ccl_global uint, buffer_offset, 1) \
109         SPLIT_DATA_ENTRY(ShaderDataTinyStorage, sd_DL_shadow, 1) \
110         SPLIT_DATA_SUBSURFACE_ENTRIES \
111         SPLIT_DATA_VOLUME_ENTRIES \
112         SPLIT_DATA_BRANCHED_ENTRIES \
113         SPLIT_DATA_ENTRY(ShaderData, _sd, 0)
114
115 /* entries to be copied to inactive rays when sharing branched samples (TODO: which are actually needed?) */
116 #define SPLIT_DATA_ENTRIES_BRANCHED_SHARED \
117         SPLIT_DATA_ENTRY(ccl_global float3, throughput, 1) \
118         SPLIT_DATA_ENTRY(PathRadiance, path_radiance, 1) \
119         SPLIT_DATA_ENTRY(ccl_global Ray, ray, 1) \
120         SPLIT_DATA_ENTRY(ccl_global PathState, path_state, 1) \
121         SPLIT_DATA_ENTRY(ccl_global Intersection, isect, 1) \
122         SPLIT_DATA_ENTRY(ccl_global BsdfEval, bsdf_eval, 1) \
123         SPLIT_DATA_ENTRY(ccl_global int, is_lamp, 1) \
124         SPLIT_DATA_ENTRY(ccl_global Ray, light_ray, 1) \
125         SPLIT_DATA_ENTRY(ShaderDataTinyStorage, sd_DL_shadow, 1) \
126         SPLIT_DATA_SUBSURFACE_ENTRIES \
127         SPLIT_DATA_VOLUME_ENTRIES \
128         SPLIT_DATA_BRANCHED_ENTRIES \
129         SPLIT_DATA_ENTRY(ShaderData, _sd, 0)
130
131 /* struct that holds pointers to data in the shared state buffer */
132 typedef struct SplitData {
133 #define SPLIT_DATA_ENTRY(type, name, num) type *name;
134         SPLIT_DATA_ENTRIES
135 #undef SPLIT_DATA_ENTRY
136
137         /* this is actually in a separate buffer from the rest of the split state data (so it can be read back from
138          * the host easily) but is still used the same as the other data so we have it here in this struct as well
139          */
140         ccl_global char *ray_state;
141 } SplitData;
142
143 #ifndef __KERNEL_CUDA__
144 #  define kernel_split_state (kg->split_data)
145 #  define kernel_split_params (kg->split_param_data)
146 #else
147 __device__ SplitData __split_data;
148 #  define kernel_split_state (__split_data)
149 __device__ SplitParams __split_param_data;
150 #  define kernel_split_params (__split_param_data)
151 #endif  /* __KERNEL_CUDA__ */
152
153 #define kernel_split_sd(sd, ray_index) ((ShaderData*) \
154         ( \
155                 ((ccl_global char*)kernel_split_state._##sd) + \
156                 (sizeof(ShaderData) + sizeof(ShaderClosure)*(kernel_data.integrator.max_closures-1)) * (ray_index) \
157         ))
158
159 /* Local storage for queue_enqueue kernel. */
160 typedef struct QueueEnqueueLocals {
161         uint queue_atomics[2];
162 } QueueEnqueueLocals;
163
164 /* Local storage for holdout_emission_blurring_pathtermination_ao kernel. */
165 typedef struct BackgroundAOLocals {
166         uint queue_atomics_bg;
167         uint queue_atomics_ao;
168 } BackgroundAOLocals;
169
170 typedef struct ShaderSortLocals {
171         uint local_value[SHADER_SORT_BLOCK_SIZE];
172         ushort local_index[SHADER_SORT_BLOCK_SIZE];
173 } ShaderSortLocals;
174
175 CCL_NAMESPACE_END
176
177 #endif  /* __KERNEL_SPLIT_DATA_TYPES_H__ */