Merge branch 'master' into blender2.8
[blender.git] / source / blender / blenkernel / intern / mesh_tangent.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh_tangent.c
27  *  \ingroup bke
28  *
29  * Functions to evaluate mesh tangents.
30  */
31
32 #include <limits.h>
33
34 #include "MEM_guardedalloc.h"
35
36 #include "DNA_mesh_types.h"
37 #include "DNA_meshdata_types.h"
38
39 #include "BLI_utildefines.h"
40 #include "BLI_math.h"
41 #include "BLI_stack.h"
42 #include "BLI_task.h"
43
44 #include "BKE_customdata.h"
45 #include "BKE_global.h"
46 #include "BKE_mesh.h"
47 #include "BKE_mesh_tangent.h"
48 #include "BKE_report.h"
49
50 #include "BLI_strict_flags.h"
51
52 #include "atomic_ops.h"
53 #include "mikktspace.h"
54
55
56 /* -------------------------------------------------------------------- */
57
58 /** \name Mesh Tangent Calculations (Single Layer)
59  * \{ */
60
61 /* Tangent space utils. */
62
63 /* User data. */
64 typedef struct {
65         const MPoly *mpolys;   /* faces */
66         const MLoop *mloops;   /* faces's vertices */
67         const MVert *mverts;   /* vertices */
68         const MLoopUV *luvs;   /* texture coordinates */
69         float (*lnors)[3];     /* loops' normals */
70         float (*tangents)[4];  /* output tangents */
71         int num_polys;         /* number of polygons */
72 } BKEMeshToTangent;
73
74 /* Mikktspace's API */
75 static int get_num_faces(const SMikkTSpaceContext *pContext)
76 {
77         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
78         return p_mesh->num_polys;
79 }
80
81 static int get_num_verts_of_face(const SMikkTSpaceContext *pContext, const int face_idx)
82 {
83         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
84         return p_mesh->mpolys[face_idx].totloop;
85 }
86
87 static void get_position(const SMikkTSpaceContext *pContext, float r_co[3], const int face_idx, const int vert_idx)
88 {
89         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
90         const int loop_idx = p_mesh->mpolys[face_idx].loopstart + vert_idx;
91         copy_v3_v3(r_co, p_mesh->mverts[p_mesh->mloops[loop_idx].v].co);
92 }
93
94 static void get_texture_coordinate(const SMikkTSpaceContext *pContext, float r_uv[2], const int face_idx,
95                                    const int vert_idx)
96 {
97         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
98         copy_v2_v2(r_uv, p_mesh->luvs[p_mesh->mpolys[face_idx].loopstart + vert_idx].uv);
99 }
100
101 static void get_normal(const SMikkTSpaceContext *pContext, float r_no[3], const int face_idx, const int vert_idx)
102 {
103         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
104         copy_v3_v3(r_no, p_mesh->lnors[p_mesh->mpolys[face_idx].loopstart + vert_idx]);
105 }
106
107 static void set_tspace(const SMikkTSpaceContext *pContext, const float fv_tangent[3], const float face_sign,
108                        const int face_idx, const int vert_idx)
109 {
110         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
111         float *p_res = p_mesh->tangents[p_mesh->mpolys[face_idx].loopstart + vert_idx];
112         copy_v3_v3(p_res, fv_tangent);
113         p_res[3] = face_sign;
114 }
115
116 /**
117  * Compute simplified tangent space normals, i.e. tangent vector + sign of bi-tangent one, which combined with
118  * split normals can be used to recreate the full tangent space.
119  * Note: * The mesh should be made of only tris and quads!
120  */
121 void BKE_mesh_calc_loop_tangent_single_ex(
122         const MVert *mverts, const int UNUSED(numVerts), const MLoop *mloops,
123         float (*r_looptangent)[4], float (*loopnors)[3], const MLoopUV *loopuvs,
124         const int UNUSED(numLoops), const MPoly *mpolys, const int numPolys,
125         ReportList *reports)
126 {
127         BKEMeshToTangent mesh_to_tangent = {NULL};
128         SMikkTSpaceContext s_context = {NULL};
129         SMikkTSpaceInterface s_interface = {NULL};
130
131         const MPoly *mp;
132         int mp_index;
133
134         /* First check we do have a tris/quads only mesh. */
135         for (mp = mpolys, mp_index = 0; mp_index < numPolys; mp++, mp_index++) {
136                 if (mp->totloop > 4) {
137                         BKE_report(reports, RPT_ERROR, "Tangent space can only be computed for tris/quads, aborting");
138                         return;
139                 }
140         }
141
142         /* Compute Mikktspace's tangent normals. */
143         mesh_to_tangent.mpolys = mpolys;
144         mesh_to_tangent.mloops = mloops;
145         mesh_to_tangent.mverts = mverts;
146         mesh_to_tangent.luvs = loopuvs;
147         mesh_to_tangent.lnors = loopnors;
148         mesh_to_tangent.tangents = r_looptangent;
149         mesh_to_tangent.num_polys = numPolys;
150
151         s_context.m_pUserData = &mesh_to_tangent;
152         s_context.m_pInterface = &s_interface;
153         s_interface.m_getNumFaces = get_num_faces;
154         s_interface.m_getNumVerticesOfFace = get_num_verts_of_face;
155         s_interface.m_getPosition = get_position;
156         s_interface.m_getTexCoord = get_texture_coordinate;
157         s_interface.m_getNormal = get_normal;
158         s_interface.m_setTSpaceBasic = set_tspace;
159
160         /* 0 if failed */
161         if (genTangSpaceDefault(&s_context) == false) {
162                 BKE_report(reports, RPT_ERROR, "Mikktspace failed to generate tangents for this mesh!");
163         }
164 }
165
166 /**
167  * Wrapper around BKE_mesh_calc_loop_tangent_single_ex, which takes care of most boiling code.
168  * \note
169  * - There must be a valid loop's CD_NORMALS available.
170  * - The mesh should be made of only tris and quads!
171  */
172 void BKE_mesh_calc_loop_tangent_single(Mesh *mesh, const char *uvmap, float (*r_looptangents)[4], ReportList *reports)
173 {
174         MLoopUV *loopuvs;
175         float (*loopnors)[3];
176
177         /* Check we have valid texture coordinates first! */
178         if (uvmap) {
179                 loopuvs = CustomData_get_layer_named(&mesh->ldata, CD_MLOOPUV, uvmap);
180         }
181         else {
182                 loopuvs = CustomData_get_layer(&mesh->ldata, CD_MLOOPUV);
183         }
184         if (!loopuvs) {
185                 BKE_reportf(reports, RPT_ERROR, "Tangent space computation needs an UVMap, \"%s\" not found, aborting", uvmap);
186                 return;
187         }
188
189         loopnors = CustomData_get_layer(&mesh->ldata, CD_NORMAL);
190         if (!loopnors) {
191                 BKE_report(reports, RPT_ERROR, "Tangent space computation needs loop normals, none found, aborting");
192                 return;
193         }
194
195         BKE_mesh_calc_loop_tangent_single_ex(mesh->mvert, mesh->totvert, mesh->mloop, r_looptangents,
196                                   loopnors, loopuvs, mesh->totloop, mesh->mpoly, mesh->totpoly, reports);
197 }
198
199 /** \} */
200
201
202 /* -------------------------------------------------------------------- */
203
204 /** \name Mesh Tangent Calculations (All Layers)
205  * \{ */
206
207
208 /* Necessary complexity to handle looptri's as quads for correct tangents */
209 #define USE_LOOPTRI_DETECT_QUADS
210
211 typedef struct {
212         const float (*precomputedFaceNormals)[3];
213         const float (*precomputedLoopNormals)[3];
214         const MLoopTri *looptri;
215         MLoopUV *mloopuv;   /* texture coordinates */
216         const MPoly *mpoly;       /* indices */
217         const MLoop *mloop;       /* indices */
218         const MVert *mvert;       /* vertices & normals */
219         const float (*orco)[3];
220         float (*tangent)[4];    /* destination */
221         int numTessFaces;
222
223 #ifdef USE_LOOPTRI_DETECT_QUADS
224         /* map from 'fake' face index to looptri,
225          * quads will point to the first looptri of the quad */
226         const int    *face_as_quad_map;
227         int       num_face_as_quad_map;
228 #endif
229
230 } SGLSLMeshToTangent;
231
232 /* interface */
233 static int dm_ts_GetNumFaces(const SMikkTSpaceContext *pContext)
234 {
235         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
236
237 #ifdef USE_LOOPTRI_DETECT_QUADS
238         return pMesh->num_face_as_quad_map;
239 #else
240         return pMesh->numTessFaces;
241 #endif
242 }
243
244 static int dm_ts_GetNumVertsOfFace(const SMikkTSpaceContext *pContext, const int face_num)
245 {
246 #ifdef USE_LOOPTRI_DETECT_QUADS
247         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
248         if (pMesh->face_as_quad_map) {
249                 const MLoopTri *lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
250                 const MPoly *mp = &pMesh->mpoly[lt->poly];
251                 if (mp->totloop == 4) {
252                         return 4;
253                 }
254         }
255         return 3;
256 #else
257         UNUSED_VARS(pContext, face_num);
258         return 3;
259 #endif
260 }
261
262 static void dm_ts_GetPosition(
263         const SMikkTSpaceContext *pContext, float r_co[3],
264         const int face_num, const int vert_index)
265 {
266         //assert(vert_index >= 0 && vert_index < 4);
267         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
268         const MLoopTri *lt;
269         uint loop_index;
270         const float *co;
271
272 #ifdef USE_LOOPTRI_DETECT_QUADS
273         if (pMesh->face_as_quad_map) {
274                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
275                 const MPoly *mp = &pMesh->mpoly[lt->poly];
276                 if (mp->totloop == 4) {
277                         loop_index = (uint)(mp->loopstart + vert_index);
278                         goto finally;
279                 }
280                 /* fall through to regular triangle */
281         }
282         else {
283                 lt = &pMesh->looptri[face_num];
284         }
285 #else
286         lt = &pMesh->looptri[face_num];
287 #endif
288         loop_index = lt->tri[vert_index];
289
290 finally:
291         co = pMesh->mvert[pMesh->mloop[loop_index].v].co;
292         copy_v3_v3(r_co, co);
293 }
294
295 static void dm_ts_GetTextureCoordinate(
296         const SMikkTSpaceContext *pContext, float r_uv[2],
297         const int face_num, const int vert_index)
298 {
299         //assert(vert_index >= 0 && vert_index < 4);
300         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
301         const MLoopTri *lt;
302         uint loop_index;
303
304 #ifdef USE_LOOPTRI_DETECT_QUADS
305         if (pMesh->face_as_quad_map) {
306                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
307                 const MPoly *mp = &pMesh->mpoly[lt->poly];
308                 if (mp->totloop == 4) {
309                         loop_index = (uint)(mp->loopstart + vert_index);
310                         goto finally;
311                 }
312                 /* fall through to regular triangle */
313         }
314         else {
315                 lt = &pMesh->looptri[face_num];
316         }
317 #else
318         lt = &pMesh->looptri[face_num];
319 #endif
320         loop_index = lt->tri[vert_index];
321
322 finally:
323         if (pMesh->mloopuv != NULL) {
324                 const float *uv = pMesh->mloopuv[loop_index].uv;
325                 copy_v2_v2(r_uv, uv);
326         }
327         else {
328                 const float *orco = pMesh->orco[pMesh->mloop[loop_index].v];
329                 map_to_sphere(&r_uv[0], &r_uv[1], orco[0], orco[1], orco[2]);
330         }
331 }
332
333 static void dm_ts_GetNormal(
334         const SMikkTSpaceContext *pContext, float r_no[3],
335         const int face_num, const int vert_index)
336 {
337         //assert(vert_index >= 0 && vert_index < 4);
338         SGLSLMeshToTangent *pMesh = (SGLSLMeshToTangent *) pContext->m_pUserData;
339         const MLoopTri *lt;
340         uint loop_index;
341
342 #ifdef USE_LOOPTRI_DETECT_QUADS
343         if (pMesh->face_as_quad_map) {
344                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
345                 const MPoly *mp = &pMesh->mpoly[lt->poly];
346                 if (mp->totloop == 4) {
347                         loop_index = (uint)(mp->loopstart + vert_index);
348                         goto finally;
349                 }
350                 /* fall through to regular triangle */
351         }
352         else {
353                 lt = &pMesh->looptri[face_num];
354         }
355 #else
356         lt = &pMesh->looptri[face_num];
357 #endif
358         loop_index = lt->tri[vert_index];
359
360 finally:
361         if (pMesh->precomputedLoopNormals) {
362                 copy_v3_v3(r_no, pMesh->precomputedLoopNormals[loop_index]);
363         }
364         else if ((pMesh->mpoly[lt->poly].flag & ME_SMOOTH) == 0) {  /* flat */
365                 if (pMesh->precomputedFaceNormals) {
366                         copy_v3_v3(r_no, pMesh->precomputedFaceNormals[lt->poly]);
367                 }
368                 else {
369 #ifdef USE_LOOPTRI_DETECT_QUADS
370                         const MPoly *mp = &pMesh->mpoly[lt->poly];
371                         if (mp->totloop == 4) {
372                                 normal_quad_v3(
373                                         r_no,
374                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 0].v].co,
375                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 1].v].co,
376                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 2].v].co,
377                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 3].v].co);
378                         }
379                         else
380 #endif
381                         {
382                                 normal_tri_v3(
383                                         r_no,
384                                         pMesh->mvert[pMesh->mloop[lt->tri[0]].v].co,
385                                         pMesh->mvert[pMesh->mloop[lt->tri[1]].v].co,
386                                         pMesh->mvert[pMesh->mloop[lt->tri[2]].v].co);
387                         }
388                 }
389         }
390         else {
391                 const short *no = pMesh->mvert[pMesh->mloop[loop_index].v].no;
392                 normal_short_to_float_v3(r_no, no);
393         }
394 }
395
396 static void dm_ts_SetTSpace(
397         const SMikkTSpaceContext *pContext, const float fvTangent[3], const float fSign,
398         const int face_num, const int vert_index)
399 {
400         //assert(vert_index >= 0 && vert_index < 4);
401         SGLSLMeshToTangent *pMesh = (SGLSLMeshToTangent *) pContext->m_pUserData;
402         const MLoopTri *lt;
403         uint loop_index;
404
405 #ifdef USE_LOOPTRI_DETECT_QUADS
406         if (pMesh->face_as_quad_map) {
407                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
408                 const MPoly *mp = &pMesh->mpoly[lt->poly];
409                 if (mp->totloop == 4) {
410                         loop_index = (uint)(mp->loopstart + vert_index);
411                         goto finally;
412                 }
413                 /* fall through to regular triangle */
414         }
415         else {
416                 lt = &pMesh->looptri[face_num];
417         }
418 #else
419         lt = &pMesh->looptri[face_num];
420 #endif
421         loop_index = lt->tri[vert_index];
422
423         float *pRes;
424
425 finally:
426         pRes = pMesh->tangent[loop_index];
427         copy_v3_v3(pRes, fvTangent);
428         pRes[3] = fSign;
429 }
430
431 static void DM_calc_loop_tangents_thread(TaskPool * __restrict UNUSED(pool), void *taskdata, int UNUSED(threadid))
432 {
433         struct SGLSLMeshToTangent *mesh2tangent = taskdata;
434         /* new computation method */
435         {
436                 SMikkTSpaceContext sContext = {NULL};
437                 SMikkTSpaceInterface sInterface = {NULL};
438
439                 sContext.m_pUserData = mesh2tangent;
440                 sContext.m_pInterface = &sInterface;
441                 sInterface.m_getNumFaces = dm_ts_GetNumFaces;
442                 sInterface.m_getNumVerticesOfFace = dm_ts_GetNumVertsOfFace;
443                 sInterface.m_getPosition = dm_ts_GetPosition;
444                 sInterface.m_getTexCoord = dm_ts_GetTextureCoordinate;
445                 sInterface.m_getNormal = dm_ts_GetNormal;
446                 sInterface.m_setTSpaceBasic = dm_ts_SetTSpace;
447
448                 /* 0 if failed */
449                 genTangSpaceDefault(&sContext);
450         }
451 }
452
453 void BKE_mesh_add_loop_tangent_named_layer_for_uv(
454         CustomData *uv_data, CustomData *tan_data, int numLoopData,
455         const char *layer_name)
456 {
457         if (CustomData_get_named_layer_index(tan_data, CD_TANGENT, layer_name) == -1 &&
458             CustomData_get_named_layer_index(uv_data, CD_MLOOPUV, layer_name) != -1)
459         {
460                 CustomData_add_layer_named(
461                         tan_data, CD_TANGENT, CD_CALLOC, NULL,
462                         numLoopData, layer_name);
463         }
464 }
465
466 /**
467  * Here we get some useful information such as active uv layer name and search if it is already in tangent_names.
468  * Also, we calculate tangent_mask that works as a descriptor of tangents state.
469  * If tangent_mask has changed, then recalculate tangents.
470  */
471 void BKE_mesh_calc_loop_tangent_step_0(
472         const CustomData *loopData, bool calc_active_tangent,
473         const char (*tangent_names)[MAX_NAME], int tangent_names_count,
474         bool *rcalc_act, bool *rcalc_ren, int *ract_uv_n, int *rren_uv_n,
475         char *ract_uv_name, char *rren_uv_name, short *rtangent_mask) {
476         /* Active uv in viewport */
477         int layer_index = CustomData_get_layer_index(loopData, CD_MLOOPUV);
478         *ract_uv_n = CustomData_get_active_layer(loopData, CD_MLOOPUV);
479         ract_uv_name[0] = 0;
480         if (*ract_uv_n != -1) {
481                 strcpy(ract_uv_name, loopData->layers[*ract_uv_n + layer_index].name);
482         }
483
484         /* Active tangent in render */
485         *rren_uv_n = CustomData_get_render_layer(loopData, CD_MLOOPUV);
486         rren_uv_name[0] = 0;
487         if (*rren_uv_n != -1) {
488                 strcpy(rren_uv_name, loopData->layers[*rren_uv_n + layer_index].name);
489         }
490
491         /* If active tangent not in tangent_names we take it into account */
492         *rcalc_act = false;
493         *rcalc_ren = false;
494         for (int i = 0; i < tangent_names_count; i++) {
495                 if (tangent_names[i][0] == 0) {
496                         calc_active_tangent = true;
497                 }
498         }
499         if (calc_active_tangent) {
500                 *rcalc_act = true;
501                 *rcalc_ren = true;
502                 for (int i = 0; i < tangent_names_count; i++) {
503                         if (STREQ(ract_uv_name, tangent_names[i]))
504                                 *rcalc_act = false;
505                         if (STREQ(rren_uv_name, tangent_names[i]))
506                                 *rcalc_ren = false;
507                 }
508         }
509         *rtangent_mask = 0;
510
511         const int uv_layer_num = CustomData_number_of_layers(loopData, CD_MLOOPUV);
512         for (int n = 0; n < uv_layer_num; n++) {
513                 const char *name = CustomData_get_layer_name(loopData, CD_MLOOPUV, n);
514                 bool add = false;
515                 for (int i = 0; i < tangent_names_count; i++) {
516                         if (tangent_names[i][0] && STREQ(tangent_names[i], name)) {
517                                 add = true;
518                                 break;
519                         }
520                 }
521                 if (!add && ((*rcalc_act && ract_uv_name[0] && STREQ(ract_uv_name, name)) ||
522                              (*rcalc_ren && rren_uv_name[0] && STREQ(rren_uv_name, name))))
523                 {
524                         add = true;
525                 }
526                 if (add)
527                         *rtangent_mask |= (short)(1 << n);
528         }
529
530         if (uv_layer_num == 0)
531                 *rtangent_mask |= DM_TANGENT_MASK_ORCO;
532 }
533
534 /**
535  * See: #BKE_editmesh_loop_tangent_calc (matching logic).
536  */
537 void BKE_mesh_calc_loop_tangent_ex(
538         const MVert *mvert,
539         const MPoly *mpoly, const uint mpoly_len,
540         const MLoop *mloop,
541         const MLoopTri *looptri,
542         const uint looptri_len,
543
544         CustomData *loopdata,
545         bool calc_active_tangent,
546         const char (*tangent_names)[MAX_NAME], int tangent_names_len,
547         const float (*poly_normals)[3],
548         const float (*loop_normals)[3],
549         const float (*vert_orco)[3],
550         /* result */
551         CustomData *loopdata_out,
552         const uint  loopdata_out_len,
553         short *tangent_mask_curr_p)
554 {
555         int act_uv_n = -1;
556         int ren_uv_n = -1;
557         bool calc_act = false;
558         bool calc_ren = false;
559         char act_uv_name[MAX_NAME];
560         char ren_uv_name[MAX_NAME];
561         short tangent_mask = 0;
562         short tangent_mask_curr = *tangent_mask_curr_p;
563
564         BKE_mesh_calc_loop_tangent_step_0(
565                 loopdata, calc_active_tangent, tangent_names, tangent_names_len,
566                 &calc_act, &calc_ren, &act_uv_n, &ren_uv_n, act_uv_name, ren_uv_name, &tangent_mask);
567         if ((tangent_mask_curr | tangent_mask) != tangent_mask_curr) {
568                 /* Check we have all the needed layers */
569                 /* Allocate needed tangent layers */
570                 for (int i = 0; i < tangent_names_len; i++)
571                         if (tangent_names[i][0])
572                                 BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, tangent_names[i]);
573                 if ((tangent_mask & DM_TANGENT_MASK_ORCO) && CustomData_get_named_layer_index(loopdata, CD_TANGENT, "") == -1)
574                             CustomData_add_layer_named(loopdata_out, CD_TANGENT, CD_CALLOC, NULL, (int)loopdata_out_len, "");
575                 if (calc_act && act_uv_name[0])
576                         BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, act_uv_name);
577                 if (calc_ren && ren_uv_name[0])
578                         BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, ren_uv_name);
579
580 #ifdef USE_LOOPTRI_DETECT_QUADS
581                 int num_face_as_quad_map;
582                 int *face_as_quad_map = NULL;
583
584                 /* map faces to quads */
585                 if (looptri_len != mpoly_len) {
586                         /* over alloc, since we dont know how many ngon or quads we have */
587
588                         /* map fake face index to looptri */
589                         face_as_quad_map = MEM_mallocN(sizeof(int) * looptri_len, __func__);
590                         int k, j;
591                         for (k = 0, j = 0; j < (int)looptri_len; k++, j++) {
592                                 face_as_quad_map[k] = j;
593                                 /* step over all quads */
594                                 if (mpoly[looptri[j].poly].totloop == 4) {
595                                         j++;  /* skips the nest looptri */
596                                 }
597                         }
598                         num_face_as_quad_map = k;
599                 }
600                 else {
601                         num_face_as_quad_map = (int)looptri_len;
602                 }
603 #endif
604
605                 /* Calculation */
606                 if (looptri_len != 0) {
607                         TaskScheduler *scheduler = BLI_task_scheduler_get();
608                         TaskPool *task_pool;
609                         task_pool = BLI_task_pool_create(scheduler, NULL);
610
611                         tangent_mask_curr = 0;
612                         /* Calculate tangent layers */
613                         SGLSLMeshToTangent data_array[MAX_MTFACE];
614                         const int tangent_layer_num = CustomData_number_of_layers(loopdata_out, CD_TANGENT);
615                         for (int n = 0; n < tangent_layer_num; n++) {
616                                 int index = CustomData_get_layer_index_n(loopdata_out, CD_TANGENT, n);
617                                 BLI_assert(n < MAX_MTFACE);
618                                 SGLSLMeshToTangent *mesh2tangent = &data_array[n];
619                                 mesh2tangent->numTessFaces = (int)looptri_len;
620 #ifdef USE_LOOPTRI_DETECT_QUADS
621                                 mesh2tangent->face_as_quad_map = face_as_quad_map;
622                                 mesh2tangent->num_face_as_quad_map = num_face_as_quad_map;
623 #endif
624                                 mesh2tangent->mvert = mvert;
625                                 mesh2tangent->mpoly = mpoly;
626                                 mesh2tangent->mloop = mloop;
627                                 mesh2tangent->looptri = looptri;
628                                 /* Note, we assume we do have tessellated loop normals at this point (in case it is object-enabled),
629                                  * have to check this is valid...
630                                  */
631                                 mesh2tangent->precomputedLoopNormals = loop_normals;
632                                 mesh2tangent->precomputedFaceNormals = poly_normals;
633
634                                 mesh2tangent->orco = NULL;
635                                 mesh2tangent->mloopuv = CustomData_get_layer_named(loopdata, CD_MLOOPUV, loopdata_out->layers[index].name);
636
637                                 /* Fill the resulting tangent_mask */
638                                 if (!mesh2tangent->mloopuv) {
639                                     mesh2tangent->orco = vert_orco;
640                                     if (!mesh2tangent->orco)
641                                             continue;
642
643                                     tangent_mask_curr |= DM_TANGENT_MASK_ORCO;
644                                 }
645                                 else {
646                                     int uv_ind = CustomData_get_named_layer_index(loopdata, CD_MLOOPUV, loopdata_out->layers[index].name);
647                                     int uv_start = CustomData_get_layer_index(loopdata, CD_MLOOPUV);
648                                     BLI_assert(uv_ind != -1 && uv_start != -1);
649                                     BLI_assert(uv_ind - uv_start < MAX_MTFACE);
650                                     tangent_mask_curr |= (short)(1 << (uv_ind - uv_start));
651                                 }
652
653                                 mesh2tangent->tangent = loopdata_out->layers[index].data;
654                                 BLI_task_pool_push(task_pool, DM_calc_loop_tangents_thread, mesh2tangent, false, TASK_PRIORITY_LOW);
655                         }
656
657                         BLI_assert(tangent_mask_curr == tangent_mask);
658                         BLI_task_pool_work_and_wait(task_pool);
659                         BLI_task_pool_free(task_pool);
660                 }
661                 else {
662                         tangent_mask_curr = tangent_mask;
663                 }
664 #ifdef USE_LOOPTRI_DETECT_QUADS
665                 if (face_as_quad_map) {
666                         MEM_freeN(face_as_quad_map);
667                 }
668 #undef USE_LOOPTRI_DETECT_QUADS
669
670 #endif
671
672                 *tangent_mask_curr_p = tangent_mask_curr;
673
674                 /* Update active layer index */
675                 int act_uv_index = CustomData_get_layer_index_n(loopdata, CD_MLOOPUV, act_uv_n);
676                 if (act_uv_index != -1) {
677                     int tan_index = CustomData_get_named_layer_index(loopdata, CD_TANGENT, loopdata->layers[act_uv_index].name);
678                     CustomData_set_layer_active_index(loopdata, CD_TANGENT, tan_index);
679                 }/* else tangent has been built from orco */
680
681                 /* Update render layer index */
682                 int ren_uv_index = CustomData_get_layer_index_n(loopdata, CD_MLOOPUV, ren_uv_n);
683                 if (ren_uv_index != -1) {
684                     int tan_index = CustomData_get_named_layer_index(loopdata, CD_TANGENT, loopdata->layers[ren_uv_index].name);
685                     CustomData_set_layer_render_index(loopdata, CD_TANGENT, tan_index);
686                 }/* else tangent has been built from orco */
687         }
688 }
689
690 /** \} */