Fix assert calculating tangents with no faces
[blender.git] / source / blender / blenkernel / intern / mesh_tangent.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * Contributor(s): Blender Foundation
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  */
25
26 /** \file blender/blenkernel/intern/mesh_tangent.c
27  *  \ingroup bke
28  *
29  * Functions to evaluate mesh tangents.
30  */
31
32 #include <limits.h>
33
34 #include "MEM_guardedalloc.h"
35
36 #include "DNA_mesh_types.h"
37 #include "DNA_meshdata_types.h"
38
39 #include "BLI_utildefines.h"
40 #include "BLI_math.h"
41 #include "BLI_stack.h"
42 #include "BLI_task.h"
43
44 #include "BKE_customdata.h"
45 #include "BKE_global.h"
46 #include "BKE_mesh.h"
47 #include "BKE_mesh_tangent.h"
48 #include "BKE_report.h"
49
50 #include "BLI_strict_flags.h"
51
52 #include "atomic_ops.h"
53 #include "mikktspace.h"
54
55
56 /* -------------------------------------------------------------------- */
57
58 /** \name Mesh Tangent Calculations (Single Layer)
59  * \{ */
60
61 /* Tangent space utils. */
62
63 /* User data. */
64 typedef struct {
65         const MPoly *mpolys;   /* faces */
66         const MLoop *mloops;   /* faces's vertices */
67         const MVert *mverts;   /* vertices */
68         const MLoopUV *luvs;   /* texture coordinates */
69         float (*lnors)[3];     /* loops' normals */
70         float (*tangents)[4];  /* output tangents */
71         int num_polys;         /* number of polygons */
72 } BKEMeshToTangent;
73
74 /* Mikktspace's API */
75 static int get_num_faces(const SMikkTSpaceContext *pContext)
76 {
77         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
78         return p_mesh->num_polys;
79 }
80
81 static int get_num_verts_of_face(const SMikkTSpaceContext *pContext, const int face_idx)
82 {
83         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
84         return p_mesh->mpolys[face_idx].totloop;
85 }
86
87 static void get_position(const SMikkTSpaceContext *pContext, float r_co[3], const int face_idx, const int vert_idx)
88 {
89         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
90         const int loop_idx = p_mesh->mpolys[face_idx].loopstart + vert_idx;
91         copy_v3_v3(r_co, p_mesh->mverts[p_mesh->mloops[loop_idx].v].co);
92 }
93
94 static void get_texture_coordinate(const SMikkTSpaceContext *pContext, float r_uv[2], const int face_idx,
95                                    const int vert_idx)
96 {
97         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
98         copy_v2_v2(r_uv, p_mesh->luvs[p_mesh->mpolys[face_idx].loopstart + vert_idx].uv);
99 }
100
101 static void get_normal(const SMikkTSpaceContext *pContext, float r_no[3], const int face_idx, const int vert_idx)
102 {
103         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
104         copy_v3_v3(r_no, p_mesh->lnors[p_mesh->mpolys[face_idx].loopstart + vert_idx]);
105 }
106
107 static void set_tspace(const SMikkTSpaceContext *pContext, const float fv_tangent[3], const float face_sign,
108                        const int face_idx, const int vert_idx)
109 {
110         BKEMeshToTangent *p_mesh = (BKEMeshToTangent *)pContext->m_pUserData;
111         float *p_res = p_mesh->tangents[p_mesh->mpolys[face_idx].loopstart + vert_idx];
112         copy_v3_v3(p_res, fv_tangent);
113         p_res[3] = face_sign;
114 }
115
116 /**
117  * Compute simplified tangent space normals, i.e. tangent vector + sign of bi-tangent one, which combined with
118  * split normals can be used to recreate the full tangent space.
119  * Note: * The mesh should be made of only tris and quads!
120  */
121 void BKE_mesh_calc_loop_tangent_single_ex(
122         const MVert *mverts, const int UNUSED(numVerts), const MLoop *mloops,
123         float (*r_looptangent)[4], float (*loopnors)[3], const MLoopUV *loopuvs,
124         const int UNUSED(numLoops), const MPoly *mpolys, const int numPolys,
125         ReportList *reports)
126 {
127         BKEMeshToTangent mesh_to_tangent = {NULL};
128         SMikkTSpaceContext s_context = {NULL};
129         SMikkTSpaceInterface s_interface = {NULL};
130
131         const MPoly *mp;
132         int mp_index;
133
134         /* First check we do have a tris/quads only mesh. */
135         for (mp = mpolys, mp_index = 0; mp_index < numPolys; mp++, mp_index++) {
136                 if (mp->totloop > 4) {
137                         BKE_report(reports, RPT_ERROR, "Tangent space can only be computed for tris/quads, aborting");
138                         return;
139                 }
140         }
141
142         /* Compute Mikktspace's tangent normals. */
143         mesh_to_tangent.mpolys = mpolys;
144         mesh_to_tangent.mloops = mloops;
145         mesh_to_tangent.mverts = mverts;
146         mesh_to_tangent.luvs = loopuvs;
147         mesh_to_tangent.lnors = loopnors;
148         mesh_to_tangent.tangents = r_looptangent;
149         mesh_to_tangent.num_polys = numPolys;
150
151         s_context.m_pUserData = &mesh_to_tangent;
152         s_context.m_pInterface = &s_interface;
153         s_interface.m_getNumFaces = get_num_faces;
154         s_interface.m_getNumVerticesOfFace = get_num_verts_of_face;
155         s_interface.m_getPosition = get_position;
156         s_interface.m_getTexCoord = get_texture_coordinate;
157         s_interface.m_getNormal = get_normal;
158         s_interface.m_setTSpaceBasic = set_tspace;
159
160         /* 0 if failed */
161         if (genTangSpaceDefault(&s_context) == false) {
162                 BKE_report(reports, RPT_ERROR, "Mikktspace failed to generate tangents for this mesh!");
163         }
164 }
165
166 /**
167  * Wrapper around BKE_mesh_calc_loop_tangent_single_ex, which takes care of most boiling code.
168  * \note
169  * - There must be a valid loop's CD_NORMALS available.
170  * - The mesh should be made of only tris and quads!
171  */
172 void BKE_mesh_calc_loop_tangent_single(Mesh *mesh, const char *uvmap, float (*r_looptangents)[4], ReportList *reports)
173 {
174         MLoopUV *loopuvs;
175         float (*loopnors)[3];
176
177         /* Check we have valid texture coordinates first! */
178         if (uvmap) {
179                 loopuvs = CustomData_get_layer_named(&mesh->ldata, CD_MLOOPUV, uvmap);
180         }
181         else {
182                 loopuvs = CustomData_get_layer(&mesh->ldata, CD_MLOOPUV);
183         }
184         if (!loopuvs) {
185                 BKE_reportf(reports, RPT_ERROR, "Tangent space computation needs an UVMap, \"%s\" not found, aborting", uvmap);
186                 return;
187         }
188
189         loopnors = CustomData_get_layer(&mesh->ldata, CD_NORMAL);
190         if (!loopnors) {
191                 BKE_report(reports, RPT_ERROR, "Tangent space computation needs loop normals, none found, aborting");
192                 return;
193         }
194
195         BKE_mesh_calc_loop_tangent_single_ex(mesh->mvert, mesh->totvert, mesh->mloop, r_looptangents,
196                                   loopnors, loopuvs, mesh->totloop, mesh->mpoly, mesh->totpoly, reports);
197 }
198
199 /** \} */
200
201
202 /* -------------------------------------------------------------------- */
203
204 /** \name Mesh Tangent Calculations (All Layers)
205  * \{ */
206
207
208 /* Necessary complexity to handle looptri's as quads for correct tangents */
209 #define USE_LOOPTRI_DETECT_QUADS
210
211 typedef struct {
212         const float (*precomputedFaceNormals)[3];
213         const float (*precomputedLoopNormals)[3];
214         const MLoopTri *looptri;
215         MLoopUV *mloopuv;   /* texture coordinates */
216         const MPoly *mpoly;       /* indices */
217         const MLoop *mloop;       /* indices */
218         const MVert *mvert;       /* vertices & normals */
219         const float (*orco)[3];
220         float (*tangent)[4];    /* destination */
221         int numTessFaces;
222
223 #ifdef USE_LOOPTRI_DETECT_QUADS
224         /* map from 'fake' face index to looptri,
225          * quads will point to the first looptri of the quad */
226         const int    *face_as_quad_map;
227         int       num_face_as_quad_map;
228 #endif
229
230 } SGLSLMeshToTangent;
231
232 /* interface */
233 #include "mikktspace.h"
234
235 static int dm_ts_GetNumFaces(const SMikkTSpaceContext *pContext)
236 {
237         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
238
239 #ifdef USE_LOOPTRI_DETECT_QUADS
240         return pMesh->num_face_as_quad_map;
241 #else
242         return pMesh->numTessFaces;
243 #endif
244 }
245
246 static int dm_ts_GetNumVertsOfFace(const SMikkTSpaceContext *pContext, const int face_num)
247 {
248 #ifdef USE_LOOPTRI_DETECT_QUADS
249         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
250         if (pMesh->face_as_quad_map) {
251                 const MLoopTri *lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
252                 const MPoly *mp = &pMesh->mpoly[lt->poly];
253                 if (mp->totloop == 4) {
254                         return 4;
255                 }
256         }
257         return 3;
258 #else
259         UNUSED_VARS(pContext, face_num);
260         return 3;
261 #endif
262 }
263
264 static void dm_ts_GetPosition(
265         const SMikkTSpaceContext *pContext, float r_co[3],
266         const int face_num, const int vert_index)
267 {
268         //assert(vert_index >= 0 && vert_index < 4);
269         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
270         const MLoopTri *lt;
271         uint loop_index;
272         const float *co;
273
274 #ifdef USE_LOOPTRI_DETECT_QUADS
275         if (pMesh->face_as_quad_map) {
276                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
277                 const MPoly *mp = &pMesh->mpoly[lt->poly];
278                 if (mp->totloop == 4) {
279                         loop_index = (uint)(mp->loopstart + vert_index);
280                         goto finally;
281                 }
282                 /* fall through to regular triangle */
283         }
284         else {
285                 lt = &pMesh->looptri[face_num];
286         }
287 #else
288         lt = &pMesh->looptri[face_num];
289 #endif
290         loop_index = lt->tri[vert_index];
291
292 finally:
293         co = pMesh->mvert[pMesh->mloop[loop_index].v].co;
294         copy_v3_v3(r_co, co);
295 }
296
297 static void dm_ts_GetTextureCoordinate(
298         const SMikkTSpaceContext *pContext, float r_uv[2],
299         const int face_num, const int vert_index)
300 {
301         //assert(vert_index >= 0 && vert_index < 4);
302         SGLSLMeshToTangent *pMesh = pContext->m_pUserData;
303         const MLoopTri *lt;
304         uint loop_index;
305
306 #ifdef USE_LOOPTRI_DETECT_QUADS
307         if (pMesh->face_as_quad_map) {
308                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
309                 const MPoly *mp = &pMesh->mpoly[lt->poly];
310                 if (mp->totloop == 4) {
311                         loop_index = (uint)(mp->loopstart + vert_index);
312                         goto finally;
313                 }
314                 /* fall through to regular triangle */
315         }
316         else {
317                 lt = &pMesh->looptri[face_num];
318         }
319 #else
320         lt = &pMesh->looptri[face_num];
321 #endif
322         loop_index = lt->tri[vert_index];
323
324 finally:
325         if (pMesh->mloopuv != NULL) {
326                 const float *uv = pMesh->mloopuv[loop_index].uv;
327                 copy_v2_v2(r_uv, uv);
328         }
329         else {
330                 const float *orco = pMesh->orco[pMesh->mloop[loop_index].v];
331                 map_to_sphere(&r_uv[0], &r_uv[1], orco[0], orco[1], orco[2]);
332         }
333 }
334
335 static void dm_ts_GetNormal(
336         const SMikkTSpaceContext *pContext, float r_no[3],
337         const int face_num, const int vert_index)
338 {
339         //assert(vert_index >= 0 && vert_index < 4);
340         SGLSLMeshToTangent *pMesh = (SGLSLMeshToTangent *) pContext->m_pUserData;
341         const MLoopTri *lt;
342         uint loop_index;
343
344 #ifdef USE_LOOPTRI_DETECT_QUADS
345         if (pMesh->face_as_quad_map) {
346                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
347                 const MPoly *mp = &pMesh->mpoly[lt->poly];
348                 if (mp->totloop == 4) {
349                         loop_index = (uint)(mp->loopstart + vert_index);
350                         goto finally;
351                 }
352                 /* fall through to regular triangle */
353         }
354         else {
355                 lt = &pMesh->looptri[face_num];
356         }
357 #else
358         lt = &pMesh->looptri[face_num];
359 #endif
360         loop_index = lt->tri[vert_index];
361
362 finally:
363         if (pMesh->precomputedLoopNormals) {
364                 copy_v3_v3(r_no, pMesh->precomputedLoopNormals[loop_index]);
365         }
366         else if ((pMesh->mpoly[lt->poly].flag & ME_SMOOTH) == 0) {  /* flat */
367                 if (pMesh->precomputedFaceNormals) {
368                         copy_v3_v3(r_no, pMesh->precomputedFaceNormals[lt->poly]);
369                 }
370                 else {
371 #ifdef USE_LOOPTRI_DETECT_QUADS
372                         const MPoly *mp = &pMesh->mpoly[lt->poly];
373                         if (mp->totloop == 4) {
374                                 normal_quad_v3(
375                                         r_no,
376                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 0].v].co,
377                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 1].v].co,
378                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 2].v].co,
379                                         pMesh->mvert[pMesh->mloop[mp->loopstart + 3].v].co);
380                         }
381                         else
382 #endif
383                         {
384                                 normal_tri_v3(
385                                         r_no,
386                                         pMesh->mvert[pMesh->mloop[lt->tri[0]].v].co,
387                                         pMesh->mvert[pMesh->mloop[lt->tri[1]].v].co,
388                                         pMesh->mvert[pMesh->mloop[lt->tri[2]].v].co);
389                         }
390                 }
391         }
392         else {
393                 const short *no = pMesh->mvert[pMesh->mloop[loop_index].v].no;
394                 normal_short_to_float_v3(r_no, no);
395         }
396 }
397
398 static void dm_ts_SetTSpace(
399         const SMikkTSpaceContext *pContext, const float fvTangent[3], const float fSign,
400         const int face_num, const int vert_index)
401 {
402         //assert(vert_index >= 0 && vert_index < 4);
403         SGLSLMeshToTangent *pMesh = (SGLSLMeshToTangent *) pContext->m_pUserData;
404         const MLoopTri *lt;
405         uint loop_index;
406
407 #ifdef USE_LOOPTRI_DETECT_QUADS
408         if (pMesh->face_as_quad_map) {
409                 lt = &pMesh->looptri[pMesh->face_as_quad_map[face_num]];
410                 const MPoly *mp = &pMesh->mpoly[lt->poly];
411                 if (mp->totloop == 4) {
412                         loop_index = (uint)(mp->loopstart + vert_index);
413                         goto finally;
414                 }
415                 /* fall through to regular triangle */
416         }
417         else {
418                 lt = &pMesh->looptri[face_num];
419         }
420 #else
421         lt = &pMesh->looptri[face_num];
422 #endif
423         loop_index = lt->tri[vert_index];
424
425         float *pRes;
426
427 finally:
428         pRes = pMesh->tangent[loop_index];
429         copy_v3_v3(pRes, fvTangent);
430         pRes[3] = fSign;
431 }
432
433 static void DM_calc_loop_tangents_thread(TaskPool * __restrict UNUSED(pool), void *taskdata, int UNUSED(threadid))
434 {
435         struct SGLSLMeshToTangent *mesh2tangent = taskdata;
436         /* new computation method */
437         {
438                 SMikkTSpaceContext sContext = {NULL};
439                 SMikkTSpaceInterface sInterface = {NULL};
440
441                 sContext.m_pUserData = mesh2tangent;
442                 sContext.m_pInterface = &sInterface;
443                 sInterface.m_getNumFaces = dm_ts_GetNumFaces;
444                 sInterface.m_getNumVerticesOfFace = dm_ts_GetNumVertsOfFace;
445                 sInterface.m_getPosition = dm_ts_GetPosition;
446                 sInterface.m_getTexCoord = dm_ts_GetTextureCoordinate;
447                 sInterface.m_getNormal = dm_ts_GetNormal;
448                 sInterface.m_setTSpaceBasic = dm_ts_SetTSpace;
449
450                 /* 0 if failed */
451                 genTangSpaceDefault(&sContext);
452         }
453 }
454
455 void BKE_mesh_add_loop_tangent_named_layer_for_uv(
456         CustomData *uv_data, CustomData *tan_data, int numLoopData,
457         const char *layer_name)
458 {
459         if (CustomData_get_named_layer_index(tan_data, CD_TANGENT, layer_name) == -1 &&
460             CustomData_get_named_layer_index(uv_data, CD_MLOOPUV, layer_name) != -1)
461         {
462                 CustomData_add_layer_named(
463                         tan_data, CD_TANGENT, CD_CALLOC, NULL,
464                         numLoopData, layer_name);
465         }
466 }
467
468 /**
469  * Here we get some useful information such as active uv layer name and search if it is already in tangent_names.
470  * Also, we calculate tangent_mask that works as a descriptor of tangents state.
471  * If tangent_mask has changed, then recalculate tangents.
472  */
473 void BKE_mesh_calc_loop_tangent_step_0(
474         const CustomData *loopData, bool calc_active_tangent,
475         const char (*tangent_names)[MAX_NAME], int tangent_names_count,
476         bool *rcalc_act, bool *rcalc_ren, int *ract_uv_n, int *rren_uv_n,
477         char *ract_uv_name, char *rren_uv_name, char *rtangent_mask) {
478         /* Active uv in viewport */
479         int layer_index = CustomData_get_layer_index(loopData, CD_MLOOPUV);
480         *ract_uv_n = CustomData_get_active_layer(loopData, CD_MLOOPUV);
481         ract_uv_name[0] = 0;
482         if (*ract_uv_n != -1) {
483                 strcpy(ract_uv_name, loopData->layers[*ract_uv_n + layer_index].name);
484         }
485
486         /* Active tangent in render */
487         *rren_uv_n = CustomData_get_render_layer(loopData, CD_MLOOPUV);
488         rren_uv_name[0] = 0;
489         if (*rren_uv_n != -1) {
490                 strcpy(rren_uv_name, loopData->layers[*rren_uv_n + layer_index].name);
491         }
492
493         /* If active tangent not in tangent_names we take it into account */
494         *rcalc_act = false;
495         *rcalc_ren = false;
496         for (int i = 0; i < tangent_names_count; i++) {
497                 if (tangent_names[i][0] == 0) {
498                         calc_active_tangent = true;
499                 }
500         }
501         if (calc_active_tangent) {
502                 *rcalc_act = true;
503                 *rcalc_ren = true;
504                 for (int i = 0; i < tangent_names_count; i++) {
505                         if (STREQ(ract_uv_name, tangent_names[i]))
506                                 *rcalc_act = false;
507                         if (STREQ(rren_uv_name, tangent_names[i]))
508                                 *rcalc_ren = false;
509                 }
510         }
511         *rtangent_mask = 0;
512
513         const int uv_layer_num = CustomData_number_of_layers(loopData, CD_MLOOPUV);
514         for (int n = 0; n < uv_layer_num; n++) {
515                 const char *name = CustomData_get_layer_name(loopData, CD_MLOOPUV, n);
516                 bool add = false;
517                 for (int i = 0; i < tangent_names_count; i++) {
518                         if (tangent_names[i][0] && STREQ(tangent_names[i], name)) {
519                                 add = true;
520                                 break;
521                         }
522                 }
523                 if (!add && ((*rcalc_act && ract_uv_name[0] && STREQ(ract_uv_name, name)) ||
524                              (*rcalc_ren && rren_uv_name[0] && STREQ(rren_uv_name, name))))
525                 {
526                         add = true;
527                 }
528                 if (add)
529                         *rtangent_mask |= (char)(1 << n);
530         }
531 }
532
533 /**
534  * See: #BKE_editmesh_loop_tangent_calc (matching logic).
535  */
536 void BKE_mesh_calc_loop_tangent_ex(
537         const MVert *mvert,
538         const MPoly *mpoly, const uint mpoly_len,
539         const MLoop *mloop,
540         const MLoopTri *looptri,
541         const uint looptri_len,
542
543         CustomData *loopdata,
544         bool calc_active_tangent,
545         const char (*tangent_names)[MAX_NAME], int tangent_names_len,
546         const float (*poly_normals)[3],
547         const float (*loop_normals)[3],
548         const float (*vert_orco)[3],
549         /* result */
550         CustomData *loopdata_out,
551         const uint  loopdata_out_len,
552         char *tangent_mask_curr_p)
553 {
554         BLI_assert(CustomData_number_of_layers(loopdata, CD_MLOOPUV) != 0);
555
556         int act_uv_n = -1;
557         int ren_uv_n = -1;
558         bool calc_act = false;
559         bool calc_ren = false;
560         char act_uv_name[MAX_NAME];
561         char ren_uv_name[MAX_NAME];
562         char tangent_mask = 0;
563         char tangent_mask_curr = *tangent_mask_curr_p;
564
565         BKE_mesh_calc_loop_tangent_step_0(
566                 loopdata, calc_active_tangent, tangent_names, tangent_names_len,
567                 &calc_act, &calc_ren, &act_uv_n, &ren_uv_n, act_uv_name, ren_uv_name, &tangent_mask);
568         if ((tangent_mask_curr | tangent_mask) != tangent_mask_curr) {
569                 /* Check we have all the needed layers */
570                 /* Allocate needed tangent layers */
571                 for (int i = 0; i < tangent_names_len; i++)
572                         if (tangent_names[i][0])
573                                 BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, tangent_names[i]);
574                 if (calc_act && act_uv_name[0])
575                         BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, act_uv_name);
576                 if (calc_ren && ren_uv_name[0])
577                         BKE_mesh_add_loop_tangent_named_layer_for_uv(loopdata, loopdata_out, (int)loopdata_out_len, ren_uv_name);
578
579 #ifdef USE_LOOPTRI_DETECT_QUADS
580                 int num_face_as_quad_map;
581                 int *face_as_quad_map = NULL;
582
583                 /* map faces to quads */
584                 if (looptri_len != mpoly_len) {
585                         /* over alloc, since we dont know how many ngon or quads we have */
586
587                         /* map fake face index to looptri */
588                         face_as_quad_map = MEM_mallocN(sizeof(int) * looptri_len, __func__);
589                         int k, j;
590                         for (k = 0, j = 0; j < (int)looptri_len; k++, j++) {
591                                 face_as_quad_map[k] = j;
592                                 /* step over all quads */
593                                 if (mpoly[looptri[j].poly].totloop == 4) {
594                                         j++;  /* skips the nest looptri */
595                                 }
596                         }
597                         num_face_as_quad_map = k;
598                 }
599                 else {
600                         num_face_as_quad_map = (int)looptri_len;
601                 }
602 #endif
603
604                 /* Calculation */
605                 if (looptri_len != 0) {
606                         TaskScheduler *scheduler = BLI_task_scheduler_get();
607                         TaskPool *task_pool;
608                         task_pool = BLI_task_pool_create(scheduler, NULL);
609
610                         tangent_mask_curr = 0;
611                         /* Calculate tangent layers */
612                         SGLSLMeshToTangent data_array[MAX_MTFACE];
613                         const int tangent_layer_num = CustomData_number_of_layers(loopdata_out, CD_TANGENT);
614                         for (int n = 0; n < tangent_layer_num; n++) {
615                                 int index = CustomData_get_layer_index_n(loopdata_out, CD_TANGENT, n);
616                                 BLI_assert(n < MAX_MTFACE);
617                                 SGLSLMeshToTangent *mesh2tangent = &data_array[n];
618                                 mesh2tangent->numTessFaces = (int)looptri_len;
619 #ifdef USE_LOOPTRI_DETECT_QUADS
620                                 mesh2tangent->face_as_quad_map = face_as_quad_map;
621                                 mesh2tangent->num_face_as_quad_map = num_face_as_quad_map;
622 #endif
623                                 mesh2tangent->mvert = mvert;
624                                 mesh2tangent->mpoly = mpoly;
625                                 mesh2tangent->mloop = mloop;
626                                 mesh2tangent->looptri = looptri;
627                                 /* Note, we assume we do have tessellated loop normals at this point (in case it is object-enabled),
628                                  * have to check this is valid...
629                                  */
630                                 mesh2tangent->precomputedLoopNormals = loop_normals;
631                                 mesh2tangent->precomputedFaceNormals = poly_normals;
632
633                                 mesh2tangent->orco = NULL;
634                                 mesh2tangent->mloopuv = CustomData_get_layer_named(loopdata, CD_MLOOPUV, loopdata->layers[index].name);
635                                 if (!mesh2tangent->mloopuv) {
636                                         mesh2tangent->orco = vert_orco;
637                                         if (!mesh2tangent->orco)
638                                                 continue;
639                                 }
640                                 mesh2tangent->tangent = loopdata_out->layers[index].data;
641
642                                 /* Fill the resulting tangent_mask */
643                                 int uv_ind = CustomData_get_named_layer_index(
644                                         loopdata, CD_MLOOPUV, loopdata_out->layers[index].name);
645                                 int uv_start = CustomData_get_layer_index(loopdata, CD_MLOOPUV);
646                                 BLI_assert(uv_ind != -1 && uv_start != -1);
647                                 BLI_assert(uv_ind - uv_start < MAX_MTFACE);
648                                 tangent_mask_curr |= (char)(1 << (uv_ind - uv_start));
649                                 BLI_task_pool_push(task_pool, DM_calc_loop_tangents_thread, mesh2tangent, false, TASK_PRIORITY_LOW);
650                         }
651
652                         BLI_assert(tangent_mask_curr == tangent_mask);
653                         BLI_task_pool_work_and_wait(task_pool);
654                         BLI_task_pool_free(task_pool);
655                 }
656                 else {
657                         tangent_mask_curr = tangent_mask;
658                 }
659 #ifdef USE_LOOPTRI_DETECT_QUADS
660                 if (face_as_quad_map) {
661                         MEM_freeN(face_as_quad_map);
662                 }
663 #undef USE_LOOPTRI_DETECT_QUADS
664
665 #endif
666
667                 *tangent_mask_curr_p = tangent_mask_curr;
668
669                 int uv_index, tan_index;
670
671                 /* Update active layer index */
672                 uv_index = CustomData_get_layer_index_n(loopdata, CD_MLOOPUV, act_uv_n);
673                 if (uv_index != -1) {
674                         tan_index = CustomData_get_named_layer_index(loopdata_out, CD_TANGENT, loopdata->layers[uv_index].name);
675                         CustomData_set_layer_active_index(loopdata_out, CD_TANGENT, tan_index);
676                 }
677
678                 /* Update render layer index */
679                 uv_index = CustomData_get_layer_index_n(loopdata, CD_MLOOPUV, ren_uv_n);
680                 if (uv_index != -1) {
681                         tan_index = CustomData_get_named_layer_index(loopdata_out, CD_TANGENT, loopdata->layers[uv_index].name);
682                         CustomData_set_layer_render_index(loopdata_out, CD_TANGENT, tan_index);
683                 }
684         }
685 }
686
687 /** \} */