Cleanup: Use explicit unsigned int in atomics
[blender.git] / intern / atomic / intern / atomic_ops_ext.h
1 /*
2  * Original code from jemalloc with this license:
3  *
4  * Copyright (C) 2002-2013 Jason Evans <jasone@canonware.com>.
5  * All rights reserved.
6  * Copyright (C) 2007-2012 Mozilla Foundation.  All rights reserved.
7  * Copyright (C) 2009-2013 Facebook, Inc.  All rights reserved.
8  *
9  * Redistribution and use in source and binary forms, with or without
10  * modification, are permitted provided that the following conditions are met:
11  * 1. Redistributions of source code must retain the above copyright notice(s),
12  *    this list of conditions and the following disclaimer.
13  * 2. Redistributions in binary form must reproduce the above copyright notice(s),
14  *    this list of conditions and the following disclaimer in the documentation
15  *    and/or other materials provided with the distribution.
16  *
17  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDER(S) ``AS IS'' AND ANY EXPRESS
18  * OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED WARRANTIES OF
19  * MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE DISCLAIMED.  IN NO
20  * EVENT SHALL THE COPYRIGHT HOLDER(S) BE LIABLE FOR ANY DIRECT, INDIRECT,
21  * INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT
22  * LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
23  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
24  * LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE
25  * OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
26  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
27  *
28  * ***** BEGIN GPL LICENSE BLOCK *****
29  *
30  * This program is free software; you can redistribute it and/or
31  * modify it under the terms of the GNU General Public License
32  * as published by the Free Software Foundation; either version 2
33  * of the License, or (at your option) any later version.
34  *
35  * This program is distributed in the hope that it will be useful,
36  * but WITHOUT ANY WARRANTY; without even the implied warranty of
37  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
38  * GNU General Public License for more details.
39  *
40  * You should have received a copy of the GNU General Public License
41  * along with this program; if not, write to the Free Software Foundation,
42  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
43  *
44  * The Original Code is Copyright (C) 2016 Blender Foundation.
45  * All rights reserved.
46  *
47  * The Original Code is: adapted from jemalloc.
48  *
49  * ***** END GPL LICENSE BLOCK *****
50  */
51
52 #ifndef __ATOMIC_OPS_EXT_H__
53 #define __ATOMIC_OPS_EXT_H__
54
55 #include "atomic_ops_utils.h"
56
57 /******************************************************************************/
58 /* size_t operations. */
59 ATOMIC_INLINE size_t atomic_add_and_fetch_z(size_t *p, size_t x)
60 {
61         assert(sizeof(size_t) == LG_SIZEOF_PTR);
62
63 #if (LG_SIZEOF_PTR == 8)
64         return (size_t)atomic_add_and_fetch_uint64((uint64_t *)p, (uint64_t)x);
65 #elif (LG_SIZEOF_PTR == 4)
66         return (size_t)atomic_add_and_fetch_uint32((uint32_t *)p, (uint32_t)x);
67 #endif
68 }
69
70 ATOMIC_INLINE size_t atomic_sub_and_fetch_z(size_t *p, size_t x)
71 {
72         assert(sizeof(size_t) == LG_SIZEOF_PTR);
73
74 #if (LG_SIZEOF_PTR == 8)
75         return (size_t)atomic_add_and_fetch_uint64((uint64_t *)p, (uint64_t)-((int64_t)x));
76 #elif (LG_SIZEOF_PTR == 4)
77         return (size_t)atomic_add_and_fetch_uint32((uint32_t *)p, (uint32_t)-((int32_t)x));
78 #endif
79 }
80
81 ATOMIC_INLINE size_t atomic_fetch_and_add_z(size_t *p, size_t x)
82 {
83         assert(sizeof(size_t) == LG_SIZEOF_PTR);
84
85 #if (LG_SIZEOF_PTR == 8)
86         return (size_t)atomic_fetch_and_add_uint64((uint64_t *)p, (uint64_t)x);
87 #elif (LG_SIZEOF_PTR == 4)
88         return (size_t)atomic_fetch_and_add_uint32((uint32_t *)p, (uint32_t)x);
89 #endif
90 }
91
92 ATOMIC_INLINE size_t atomic_fetch_and_sub_z(size_t *p, size_t x)
93 {
94         assert(sizeof(size_t) == LG_SIZEOF_PTR);
95
96 #if (LG_SIZEOF_PTR == 8)
97         return (size_t)atomic_fetch_and_add_uint64((uint64_t *)p, (uint64_t)-((int64_t)x));
98 #elif (LG_SIZEOF_PTR == 4)
99         return (size_t)atomic_fetch_and_add_uint32((uint32_t *)p, (uint32_t)-((int32_t)x));
100 #endif
101 }
102
103 ATOMIC_INLINE size_t atomic_cas_z(size_t *v, size_t old, size_t _new)
104 {
105         assert(sizeof(size_t) == LG_SIZEOF_PTR);
106
107 #if (LG_SIZEOF_PTR == 8)
108         return (size_t)atomic_cas_uint64((uint64_t *)v, (uint64_t)old, (uint64_t)_new);
109 #elif (LG_SIZEOF_PTR == 4)
110         return (size_t)atomic_cas_uint32((uint32_t *)v, (uint32_t)old, (uint32_t)_new);
111 #endif
112 }
113
114 /******************************************************************************/
115 /* unsigned operations. */
116 ATOMIC_INLINE unsigned int atomic_add_and_fetch_u(unsigned int *p, unsigned int x)
117 {
118         assert(sizeof(unsigned int) == LG_SIZEOF_INT);
119
120 #if (LG_SIZEOF_INT == 8)
121         return (unsigned int)atomic_add_and_fetch_uint64((uint64_t *)p, (uint64_t)x);
122 #elif (LG_SIZEOF_INT == 4)
123         return (unsigned int)atomic_add_and_fetch_uint32((uint32_t *)p, (uint32_t)x);
124 #endif
125 }
126
127 ATOMIC_INLINE unsigned int atomic_sub_and_fetch_u(unsigned int *p, unsigned int x)
128 {
129         assert(sizeof(unsigned int) == LG_SIZEOF_INT);
130
131 #if (LG_SIZEOF_INT == 8)
132         return (unsigned int)atomic_add_and_fetch_uint64((uint64_t *)p, (uint64_t)-((int64_t)x));
133 #elif (LG_SIZEOF_INT == 4)
134         return (unsigned int)atomic_add_and_fetch_uint32((uint32_t *)p, (uint32_t)-((int32_t)x));
135 #endif
136 }
137
138 ATOMIC_INLINE unsigned int atomic_fetch_and_add_u(unsigned int *p, unsigned int x)
139 {
140         assert(sizeof(unsigned int) == LG_SIZEOF_INT);
141
142 #if (LG_SIZEOF_INT == 8)
143         return (unsigned int)atomic_fetch_and_add_uint64((uint64_t *)p, (uint64_t)x);
144 #elif (LG_SIZEOF_INT == 4)
145         return (unsigned int)atomic_fetch_and_add_uint32((uint32_t *)p, (uint32_t)x);
146 #endif
147 }
148
149 ATOMIC_INLINE unsigned int atomic_fetch_and_sub_u(unsigned int *p, unsigned int x)
150 {
151         assert(sizeof(unsigned int) == LG_SIZEOF_INT);
152
153 #if (LG_SIZEOF_INT == 8)
154         return (unsigned int)atomic_fetch_and_add_uint64((uint64_t *)p, (uint64_t)-((int64_t)x));
155 #elif (LG_SIZEOF_INT == 4)
156         return (unsigned int)atomic_fetch_and_add_uint32((uint32_t *)p, (uint32_t)-((int32_t)x));
157 #endif
158 }
159
160 ATOMIC_INLINE unsigned int atomic_cas_u(unsigned int *v, unsigned int old, unsigned int _new)
161 {
162         assert(sizeof(unsigned int) == LG_SIZEOF_INT);
163
164 #if (LG_SIZEOF_INT == 8)
165         return (unsigned int)atomic_cas_uint64((uint64_t *)v, (uint64_t)old, (uint64_t)_new);
166 #elif (LG_SIZEOF_INT == 4)
167         return (unsigned int)atomic_cas_uint32((uint32_t *)v, (uint32_t)old, (uint32_t)_new);
168 #endif
169 }
170
171 /******************************************************************************/
172 /* float operations. */
173
174 ATOMIC_INLINE float atomic_add_and_fetch_fl(float *p, const float x)
175 {
176         assert(sizeof(float) == sizeof(uint32_t));
177
178         float oldval, newval;
179         uint32_t prevval;
180
181         do {  /* Note that since collisions are unlikely, loop will nearly always run once. */
182                 oldval = *p;
183                 newval = oldval + x;
184                 prevval = atomic_cas_uint32((uint32_t *)p, *(uint32_t *)(&oldval), *(uint32_t *)(&newval));
185         } while (UNLIKELY(prevval != *(uint32_t *)(&oldval)));
186
187         return newval;
188 }
189
190 #endif /* __ATOMIC_OPS_EXT_H__ */