style cleanup, brackets in else/if, some indentation.
[blender.git] / source / blender / blenlib / intern / math_geom.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  
21  * The Original Code is: some of this file.
22  *
23  * ***** END GPL LICENSE BLOCK *****
24  * */
25
26 /** \file blender/blenlib/intern/math_geom.c
27  *  \ingroup bli
28  */
29
30
31
32 #include "MEM_guardedalloc.h"
33
34 #include "BLI_math.h"
35 #include "BLI_memarena.h"
36 #include "BLI_utildefines.h"
37
38 /********************************** Polygons *********************************/
39
40 void cent_tri_v3(float cent[3], const float v1[3], const float v2[3], const float v3[3])
41 {
42         cent[0]= 0.33333f*(v1[0]+v2[0]+v3[0]);
43         cent[1]= 0.33333f*(v1[1]+v2[1]+v3[1]);
44         cent[2]= 0.33333f*(v1[2]+v2[2]+v3[2]);
45 }
46
47 void cent_quad_v3(float cent[3], const float v1[3], const float v2[3], const float v3[3], const float v4[3])
48 {
49         cent[0]= 0.25f*(v1[0]+v2[0]+v3[0]+v4[0]);
50         cent[1]= 0.25f*(v1[1]+v2[1]+v3[1]+v4[1]);
51         cent[2]= 0.25f*(v1[2]+v2[2]+v3[2]+v4[2]);
52 }
53
54 float normal_tri_v3(float n[3], const float v1[3], const float v2[3], const float v3[3])
55 {
56         float n1[3],n2[3];
57
58         n1[0]= v1[0]-v2[0];
59         n2[0]= v2[0]-v3[0];
60         n1[1]= v1[1]-v2[1];
61         n2[1]= v2[1]-v3[1];
62         n1[2]= v1[2]-v2[2];
63         n2[2]= v2[2]-v3[2];
64         n[0]= n1[1]*n2[2]-n1[2]*n2[1];
65         n[1]= n1[2]*n2[0]-n1[0]*n2[2];
66         n[2]= n1[0]*n2[1]-n1[1]*n2[0];
67
68         return normalize_v3(n);
69 }
70
71 float normal_quad_v3(float n[3], const float v1[3], const float v2[3], const float v3[3], const float v4[3])
72 {
73         /* real cross! */
74         float n1[3],n2[3];
75
76         n1[0]= v1[0]-v3[0];
77         n1[1]= v1[1]-v3[1];
78         n1[2]= v1[2]-v3[2];
79
80         n2[0]= v2[0]-v4[0];
81         n2[1]= v2[1]-v4[1];
82         n2[2]= v2[2]-v4[2];
83
84         n[0]= n1[1]*n2[2]-n1[2]*n2[1];
85         n[1]= n1[2]*n2[0]-n1[0]*n2[2];
86         n[2]= n1[0]*n2[1]-n1[1]*n2[0];
87
88         return normalize_v3(n);
89 }
90
91 float area_tri_v2(const float v1[2], const float v2[2], const float v3[2])
92 {
93         return 0.5f * fabsf((v1[0]-v2[0])*(v2[1]-v3[1]) + (v1[1]-v2[1])*(v3[0]-v2[0]));
94 }
95
96 float area_tri_signed_v2(const float v1[2], const float v2[2], const float v3[2])
97 {
98         return 0.5f * ((v1[0]-v2[0])*(v2[1]-v3[1]) + (v1[1]-v2[1])*(v3[0]-v2[0]));
99 }
100
101 float area_quad_v3(const float v1[3], const float v2[3], const float v3[3], const float v4[3])  /* only convex Quadrilaterals */
102 {
103         float len, vec1[3], vec2[3], n[3];
104
105         sub_v3_v3v3(vec1, v2, v1);
106         sub_v3_v3v3(vec2, v4, v1);
107         cross_v3_v3v3(n, vec1, vec2);
108         len= normalize_v3(n);
109
110         sub_v3_v3v3(vec1, v4, v3);
111         sub_v3_v3v3(vec2, v2, v3);
112         cross_v3_v3v3(n, vec1, vec2);
113         len+= normalize_v3(n);
114
115         return (len/2.0f);
116 }
117
118 float area_tri_v3(const float v1[3], const float v2[3], const float v3[3])  /* Triangles */
119 {
120         float len, vec1[3], vec2[3], n[3];
121
122         sub_v3_v3v3(vec1, v3, v2);
123         sub_v3_v3v3(vec2, v1, v2);
124         cross_v3_v3v3(n, vec1, vec2);
125         len= normalize_v3(n);
126
127         return (len/2.0f);
128 }
129
130 float area_poly_v3(int nr, float verts[][3], const float normal[3])
131 {
132         float x, y, z, area, max;
133         float *cur, *prev;
134         int a, px=0, py=1;
135
136         /* first: find dominant axis: 0==X, 1==Y, 2==Z
137          * don't use 'axis_dominant_v3()' because we need max axis too */
138         x= fabsf(normal[0]);
139         y= fabsf(normal[1]);
140         z= fabsf(normal[2]);
141         max = MAX3(x, y, z);
142         if(max==y) py=2;
143         else if(max==x) {
144                 px=1; 
145                 py= 2;
146         }
147
148         /* The Trapezium Area Rule */
149         prev= verts[nr-1];
150         cur= verts[0];
151         area= 0;
152         for(a=0; a<nr; a++) {
153                 area+= (cur[px]-prev[px])*(cur[py]+prev[py]);
154                 prev= verts[a];
155                 cur= verts[a+1];
156         }
157
158         return fabsf(0.5f * area / max);
159 }
160
161 /********************************* Distance **********************************/
162
163 /* distance v1 to line v2-v3 */
164 /* using Hesse formula, NO LINE PIECE! */
165 float dist_to_line_v2(const float v1[2], const float v2[2], const float v3[2])
166 {
167         float a[2],deler;
168
169         a[0]= v2[1]-v3[1];
170         a[1]= v3[0]-v2[0];
171         deler= (float)sqrt(a[0]*a[0]+a[1]*a[1]);
172         if(deler== 0.0f) return 0;
173
174         return fabsf((v1[0]-v2[0])*a[0]+(v1[1]-v2[1])*a[1])/deler;
175
176 }
177
178 /* distance v1 to line-piece v2-v3 */
179 float dist_to_line_segment_v2(const float v1[2], const float v2[2], const float v3[2])
180 {
181         float labda, rc[2], pt[2], len;
182         
183         rc[0]= v3[0]-v2[0];
184         rc[1]= v3[1]-v2[1];
185         len= rc[0]*rc[0]+ rc[1]*rc[1];
186         if(len==0.0f) {
187                 rc[0]= v1[0]-v2[0];
188                 rc[1]= v1[1]-v2[1];
189                 return (float)(sqrt(rc[0]*rc[0]+ rc[1]*rc[1]));
190         }
191         
192         labda= (rc[0]*(v1[0]-v2[0]) + rc[1]*(v1[1]-v2[1]))/len;
193         if(labda <= 0.0f) {
194                 pt[0]= v2[0];
195                 pt[1]= v2[1];
196         }
197         else if(labda >= 1.0f) {
198                 pt[0]= v3[0];
199                 pt[1]= v3[1];
200         }
201         else {
202                 pt[0]= labda*rc[0]+v2[0];
203                 pt[1]= labda*rc[1]+v2[1];
204         }
205
206         rc[0]= pt[0]-v1[0];
207         rc[1]= pt[1]-v1[1];
208         return sqrtf(rc[0]*rc[0]+ rc[1]*rc[1]);
209 }
210
211 /* point closest to v1 on line v2-v3 in 2D */
212 void closest_to_line_segment_v2(float close_r[2], const float p[2], const float l1[2], const float l2[2])
213 {
214         float lambda, cp[2];
215
216         lambda= closest_to_line_v2(cp,p, l1, l2);
217
218         if(lambda <= 0.0f)
219                 copy_v2_v2(close_r, l1);
220         else if(lambda >= 1.0f)
221                 copy_v2_v2(close_r, l2);
222         else
223                 copy_v2_v2(close_r, cp);
224 }
225
226 /* point closest to v1 on line v2-v3 in 3D */
227 void closest_to_line_segment_v3(float close_r[3], const float v1[3], const float v2[3], const float v3[3])
228 {
229         float lambda, cp[3];
230
231         lambda= closest_to_line_v3(cp,v1, v2, v3);
232
233         if(lambda <= 0.0f)
234                 copy_v3_v3(close_r, v2);
235         else if(lambda >= 1.0f)
236                 copy_v3_v3(close_r, v3);
237         else
238                 copy_v3_v3(close_r, cp);
239 }
240
241 /* find the closest point on a plane to another point and store it in close_r
242  * close_r:       return coordinate
243  * plane_co:      a point on the plane
244  * plane_no_unit: the plane's normal, and d is the last number in the plane equation 0 = ax + by + cz + d
245  * pt:            the point that you want the nearest of
246  */
247
248 // const float norm[3], const float coord[3], const float point[3], float dst_r[3]
249 void closest_to_plane_v3(float close_r[3], const float plane_co[3], const float plane_no_unit[3], const float pt[3])
250 {
251         float temp[3];
252         float dotprod;
253
254         sub_v3_v3v3(temp, pt, plane_co);
255         dotprod= dot_v3v3(temp, plane_no_unit);
256
257         close_r[0] = pt[0] - (plane_no_unit[0] * dotprod);
258         close_r[1] = pt[1] - (plane_no_unit[1] * dotprod);
259         close_r[2] = pt[2] - (plane_no_unit[2] * dotprod);
260 }
261
262 /* signed distance from the point to the plane in 3D */
263 float dist_to_plane_normalized_v3(const float p[3], const float plane_co[3], const float plane_no_unit[3])
264 {
265         float plane_co_other[3];
266
267         add_v3_v3v3(plane_co_other, plane_co, plane_no_unit);
268
269         return line_point_factor_v3(p, plane_co, plane_co_other);
270 }
271
272 float dist_to_plane_v3(const float p[3], const float plane_co[3], const float plane_no[3])
273 {
274         float plane_no_unit[3];
275         float plane_co_other[3];
276
277         normalize_v3_v3(plane_no_unit, plane_no);
278         add_v3_v3v3(plane_co_other, plane_co, plane_no_unit);
279
280         return line_point_factor_v3(p, plane_co, plane_co_other);
281 }
282
283 /* distance v1 to line-piece v2-v3 in 3D */
284 float dist_to_line_segment_v3(const float v1[3], const float v2[3], const float v3[3])
285 {
286         float closest[3];
287
288         closest_to_line_segment_v3(closest, v1, v2, v3);
289
290         return len_v3v3(closest, v1);
291 }
292
293 /******************************* Intersection ********************************/
294
295 /* intersect Line-Line, shorts */
296 int isect_line_line_v2_int(const int v1[2], const int v2[2], const int v3[2], const int v4[2])
297 {
298         float div, labda, mu;
299         
300         div= (float)((v2[0]-v1[0])*(v4[1]-v3[1])-(v2[1]-v1[1])*(v4[0]-v3[0]));
301         if(div==0.0f) return ISECT_LINE_LINE_COLINEAR;
302         
303         labda= ((float)(v1[1]-v3[1])*(v4[0]-v3[0])-(v1[0]-v3[0])*(v4[1]-v3[1]))/div;
304         
305         mu= ((float)(v1[1]-v3[1])*(v2[0]-v1[0])-(v1[0]-v3[0])*(v2[1]-v1[1]))/div;
306         
307         if(labda>=0.0f && labda<=1.0f && mu>=0.0f && mu<=1.0f) {
308                 if(labda==0.0f || labda==1.0f || mu==0.0f || mu==1.0f) return ISECT_LINE_LINE_EXACT;
309                 return ISECT_LINE_LINE_CROSS;
310         }
311         return ISECT_LINE_LINE_NONE;
312 }
313
314 /* intersect Line-Line, floats */
315 int isect_line_line_v2(const float v1[2], const float v2[2], const float v3[2], const float v4[2])
316 {
317         float div, labda, mu;
318         
319         div= (v2[0]-v1[0])*(v4[1]-v3[1])-(v2[1]-v1[1])*(v4[0]-v3[0]);
320         if(div==0.0f) return ISECT_LINE_LINE_COLINEAR;
321         
322         labda= ((float)(v1[1]-v3[1])*(v4[0]-v3[0])-(v1[0]-v3[0])*(v4[1]-v3[1]))/div;
323         
324         mu= ((float)(v1[1]-v3[1])*(v2[0]-v1[0])-(v1[0]-v3[0])*(v2[1]-v1[1]))/div;
325         
326         if(labda>=0.0f && labda<=1.0f && mu>=0.0f && mu<=1.0f) {
327                 if(labda==0.0f || labda==1.0f || mu==0.0f || mu==1.0f) return ISECT_LINE_LINE_EXACT;
328                 return ISECT_LINE_LINE_CROSS;
329         }
330         return ISECT_LINE_LINE_NONE;
331 }
332
333 /* get intersection point of two 2D segments and return intersection type:
334  *  -1: colliniar
335  *   1: intersection
336  */
337 int isect_seg_seg_v2_point(const float v1[2], const float v2[2], const float v3[2], const float v4[2], float vi[2])
338 {
339         float a1, a2, b1, b2, c1, c2, d;
340         float u, v;
341         const float eps= 0.000001f;
342
343         a1= v2[0]-v1[0];
344         b1= v4[0]-v3[0];
345         c1= v1[0]-v4[0];
346
347         a2= v2[1]-v1[1];
348         b2= v4[1]-v3[1];
349         c2= v1[1]-v4[1];
350
351         d= a1*b2-a2*b1;
352
353         if(d==0) {
354                 if(a1*c2-a2*c1==0.0f && b1*c2-b2*c1==0.0f) { /* equal lines */
355                         float a[2], b[2], c[2];
356                         float u2;
357
358                         if(len_v2v2(v1, v2)==0.0f) {
359                                 if(len_v2v2(v3, v4)>eps) {
360                                         /* use non-point segment as basis */
361                                         SWAP(const float *, v1, v3);
362                                         SWAP(const float *, v2, v4);
363                                 } else { /* both of segments are points */
364                                         if(equals_v2v2(v1, v3)) { /* points are equal */
365                                                 copy_v2_v2(vi, v1);
366                                                 return 1;
367                                         }
368
369                                         /* two different points */
370                                         return -1;
371                                 }
372                         }
373
374                         sub_v2_v2v2(a, v3, v1);
375                         sub_v2_v2v2(b, v2, v1);
376                         sub_v2_v2v2(c, v2, v1);
377                         u= dot_v2v2(a, b) / dot_v2v2(c, c);
378
379                         sub_v2_v2v2(a, v4, v1);
380                         u2= dot_v2v2(a, b) / dot_v2v2(c, c);
381
382                         if(u>u2) SWAP(float, u, u2);
383
384                         if(u>1.0f+eps || u2<-eps) return -1; /* non-ovlerlapping segments */
385                         else if(maxf(0.0f, u) == minf(1.0f, u2)) { /* one common point: can return result */
386                                 interp_v2_v2v2(vi, v1, v2, maxf(0, u));
387                                 return 1;
388                         }
389                 }
390
391                 /* lines are colliniar */
392                 return -1;
393         }
394
395         u= (c2*b1-b2*c1)/d;
396         v= (c1*a2-a1*c2)/d;
397
398         if(u>=-eps && u<=1.0f+eps && v>=-eps && v<=1.0f+eps) { /* intersection */
399                 interp_v2_v2v2(vi, v1, v2, u);
400                 return 1;
401         }
402
403         /* out of segment intersection */
404         return -1;
405 }
406
407 int isect_line_sphere_v3(const float l1[3], const float l2[3],
408                          const float sp[3], const float r,
409                          float r_p1[3], float r_p2[3])
410 {
411         /* l1:         coordinates (point of line)
412          * l2:         coordinates (point of line)
413          * sp, r:      coordinates and radius (sphere)
414          * r_p1, r_p2: return intersection coordinates
415          */
416
417
418         /* adapted for use in blender by Campbell Barton - 2011
419          *
420          * atelier iebele abel - 2001
421          * atelier@iebele.nl
422          * http://www.iebele.nl
423          *
424          * sphere_line_intersection function adapted from:
425          * http://astronomy.swin.edu.au/pbourke/geometry/sphereline
426          * Paul Bourke pbourke@swin.edu.au
427          */
428
429         const float ldir[3]= {
430             l2[0] - l1[0],
431             l2[1] - l1[1],
432             l2[2] - l1[2]
433         };
434
435         const float a= dot_v3v3(ldir, ldir);
436
437         const float b= 2.0f *
438                 (ldir[0] * (l1[0] - sp[0]) +
439                  ldir[1] * (l1[1] - sp[1]) +
440                  ldir[2] * (l1[2] - sp[2]));
441
442         const float c=
443                 dot_v3v3(sp, sp) +
444                 dot_v3v3(l1, l1) -
445                 (2.0f * dot_v3v3(sp, l1)) -
446                 (r * r);
447
448         const float i = b * b - 4.0f * a * c;
449
450         float mu;
451
452         if (i < 0.0f) {
453                 /* no intersections */
454                 return 0;
455         }
456         else if (i == 0.0f) {
457                 /* one intersection */
458                 mu = -b / (2.0f * a);
459                 madd_v3_v3v3fl(r_p1, l1, ldir, mu);
460                 return 1;
461         }
462         else if (i > 0.0f) {
463                 const float i_sqrt= sqrt(i); /* avoid calc twice */
464
465                 /* first intersection */
466                 mu = (-b + i_sqrt) / (2.0f * a);
467                 madd_v3_v3v3fl(r_p1, l1, ldir, mu);
468
469                 /* second intersection */
470                 mu = (-b - i_sqrt) / (2.0f * a);
471                 madd_v3_v3v3fl(r_p2, l1, ldir, mu);
472                 return 2;
473         }
474         else {
475                 /* math domain error - nan */
476                 return -1;
477         }
478 }
479
480 /* keep in sync with isect_line_sphere_v3 */
481 int isect_line_sphere_v2(const float l1[2], const float l2[2],
482                          const float sp[2], const float r,
483                          float r_p1[2], float r_p2[2])
484 {
485         const float ldir[2]= {
486             l2[0] - l1[0],
487             l2[1] - l1[1]
488         };
489
490         const float a= dot_v2v2(ldir, ldir);
491
492         const float b= 2.0f *
493                 (ldir[0] * (l1[0] - sp[0]) +
494                  ldir[1] * (l1[1] - sp[1]));
495
496         const float c=
497                 dot_v2v2(sp, sp) +
498                 dot_v2v2(l1, l1) -
499                 (2.0f * dot_v2v2(sp, l1)) -
500                 (r * r);
501
502         const float i = b * b - 4.0f * a * c;
503
504         float mu;
505
506         if (i < 0.0f) {
507                 /* no intersections */
508                 return 0;
509         }
510         else if (i == 0.0f) {
511                 /* one intersection */
512                 mu = -b / (2.0f * a);
513                 madd_v2_v2v2fl(r_p1, l1, ldir, mu);
514                 return 1;
515         }
516         else if (i > 0.0f) {
517                 const float i_sqrt= sqrt(i); /* avoid calc twice */
518
519                 /* first intersection */
520                 mu = (-b + i_sqrt) / (2.0f * a);
521                 madd_v2_v2v2fl(r_p1, l1, ldir, mu);
522
523                 /* second intersection */
524                 mu = (-b - i_sqrt) / (2.0f * a);
525                 madd_v2_v2v2fl(r_p2, l1, ldir, mu);
526                 return 2;
527         }
528         else {
529                 /* math domain error - nan */
530                 return -1;
531         }
532 }
533
534 /*
535  * -1: colliniar
536  *  1: intersection
537  */
538 static short IsectLLPt2Df(const float x0, const float y0, const float x1, const float y1,
539                                          const float x2, const float y2, const float x3, const float y3, float *xi,float *yi)
540
541 {
542         /*
543          * this function computes the intersection of the sent lines
544          * and returns the intersection point, note that the function assumes
545          * the lines intersect. the function can handle vertical as well
546          * as horizontal lines. note the function isn't very clever, it simply
547          * applies the math, but we don't need speed since this is a
548          * pre-processing step
549          */
550         float c1,c2, // constants of linear equations
551         det_inv,  // the inverse of the determinant of the coefficient
552         m1,m2;    // the slopes of each line
553         /*
554          * compute slopes, note the cludge for infinity, however, this will
555          * be close enough
556          */
557         if (fabs(x1-x0) > 0.000001)
558                 m1 = (y1-y0) / (x1-x0);
559         else
560                 return -1; /*m1 = (float) 1e+10;*/   // close enough to infinity
561
562         if (fabs(x3-x2) > 0.000001)
563                 m2 = (y3-y2) / (x3-x2);
564         else
565                 return -1; /*m2 = (float) 1e+10;*/   // close enough to infinity
566
567         if (fabs(m1-m2) < 0.000001)
568                 return -1; /* parallel lines */
569         
570 // compute constants
571
572         c1 = (y0-m1*x0);
573         c2 = (y2-m2*x2);
574
575 // compute the inverse of the determinate
576
577         det_inv = 1.0f / (-m1 + m2);
578
579 // use Kramers rule to compute xi and yi
580
581         *xi= ((-c2 + c1) *det_inv);
582         *yi= ((m2*c1 - m1*c2) *det_inv);
583         
584         return 1; 
585 } // end Intersect_Lines
586
587 /* point in tri */
588
589 int isect_point_tri_v2(const float pt[2], const float v1[2], const float v2[2], const float v3[2])
590 {
591         if (line_point_side_v2(v1,v2,pt)>=0.0f) {
592                 if (line_point_side_v2(v2,v3,pt)>=0.0f) {
593                         if (line_point_side_v2(v3,v1,pt)>=0.0f) {
594                                 return 1;
595                         }
596                 }
597         } else {
598                 if (! (line_point_side_v2(v2,v3,pt)>=0.0f)) {
599                         if (! (line_point_side_v2(v3,v1,pt)>=0.0f)) {
600                                 return -1;
601                         }
602                 }
603         }
604         
605         return 0;
606 }
607 /* point in quad - only convex quads */
608 int isect_point_quad_v2(const float pt[2], const float v1[2], const float v2[2], const float v3[2], const float v4[2])
609 {
610         if (line_point_side_v2(v1,v2,pt)>=0.0f) {
611                 if (line_point_side_v2(v2,v3,pt)>=0.0f) {
612                         if (line_point_side_v2(v3,v4,pt)>=0.0f) {
613                                 if (line_point_side_v2(v4,v1,pt)>=0.0f) {
614                                         return 1;
615                                 }
616                         }
617                 }
618         } else {
619                 if (! (line_point_side_v2(v2,v3,pt)>=0.0f)) {
620                         if (! (line_point_side_v2(v3,v4,pt)>=0.0f)) {
621                                 if (! (line_point_side_v2(v4,v1,pt)>=0.0f)) {
622                                         return -1;
623                                 }
624                         }
625                 }
626         }
627         
628         return 0;
629 }
630
631 /* moved from effect.c
632  * test if the line starting at p1 ending at p2 intersects the triangle v0..v2
633  * return non zero if it does 
634  */
635 int isect_line_tri_v3(const float p1[3], const float p2[3],
636                       const float v0[3], const float v1[3], const float v2[3],
637                       float *r_lambda, float r_uv[2])
638 {
639
640         float p[3], s[3], d[3], e1[3], e2[3], q[3];
641         float a, f, u, v;
642         
643         sub_v3_v3v3(e1, v1, v0);
644         sub_v3_v3v3(e2, v2, v0);
645         sub_v3_v3v3(d, p2, p1);
646         
647         cross_v3_v3v3(p, d, e2);
648         a = dot_v3v3(e1, p);
649         if ((a > -0.000001f) && (a < 0.000001f)) return 0;
650         f = 1.0f/a;
651         
652         sub_v3_v3v3(s, p1, v0);
653         
654         u = f * dot_v3v3(s, p);
655         if ((u < 0.0f)||(u > 1.0f)) return 0;
656         
657         cross_v3_v3v3(q, s, e1);
658         
659         v = f * dot_v3v3(d, q);
660         if ((v < 0.0f)||((u + v) > 1.0f)) return 0;
661
662         *r_lambda = f * dot_v3v3(e2, q);
663         if ((*r_lambda < 0.0f)||(*r_lambda > 1.0f)) return 0;
664
665         if(r_uv) {
666                 r_uv[0]= u;
667                 r_uv[1]= v;
668         }
669         
670         return 1;
671 }
672 /* moved from effect.c
673  * test if the ray starting at p1 going in d direction intersects the triangle v0..v2
674  * return non zero if it does 
675  */
676 int isect_ray_tri_v3(const float p1[3], const float d[3],
677                      const float v0[3], const float v1[3], const float v2[3],
678                      float *r_lambda, float r_uv[2])
679 {
680         float p[3], s[3], e1[3], e2[3], q[3];
681         float a, f, u, v;
682         
683         sub_v3_v3v3(e1, v1, v0);
684         sub_v3_v3v3(e2, v2, v0);
685         
686         cross_v3_v3v3(p, d, e2);
687         a = dot_v3v3(e1, p);
688         /* note: these values were 0.000001 in 2.4x but for projection snapping on
689          * a human head (1BU==1m), subsurf level 2, this gave many errors - campbell */
690         if ((a > -0.00000001f) && (a < 0.00000001f)) return 0;
691         f = 1.0f/a;
692         
693         sub_v3_v3v3(s, p1, v0);
694         
695         u = f * dot_v3v3(s, p);
696         if ((u < 0.0f)||(u > 1.0f)) return 0;
697
698         cross_v3_v3v3(q, s, e1);
699         
700         v = f * dot_v3v3(d, q);
701         if ((v < 0.0f)||((u + v) > 1.0f)) return 0;
702
703         *r_lambda = f * dot_v3v3(e2, q);
704         if ((*r_lambda < 0.0f)) return 0;
705
706         if(r_uv) {
707                 r_uv[0]= u;
708                 r_uv[1]= v;
709         }
710         
711         return 1;
712 }
713
714 int isect_ray_plane_v3(const float p1[3], const float d[3],
715                        const float v0[3], const float v1[3], const float v2[3],
716                        float *r_lambda, const int clip)
717 {
718         float p[3], s[3], e1[3], e2[3], q[3];
719         float a, f;
720         /* float  u, v; */ /*UNUSED*/
721
722         sub_v3_v3v3(e1, v1, v0);
723         sub_v3_v3v3(e2, v2, v0);
724         
725         cross_v3_v3v3(p, d, e2);
726         a = dot_v3v3(e1, p);
727         /* note: these values were 0.000001 in 2.4x but for projection snapping on
728          * a human head (1BU==1m), subsurf level 2, this gave many errors - campbell */
729         if ((a > -0.00000001f) && (a < 0.00000001f)) return 0;
730         f = 1.0f/a;
731         
732         sub_v3_v3v3(s, p1, v0);
733         
734         /* u = f * dot_v3v3(s, p); */ /*UNUSED*/
735
736         cross_v3_v3v3(q, s, e1);
737         
738         /* v = f * dot_v3v3(d, q); */ /*UNUSED*/
739
740         *r_lambda = f * dot_v3v3(e2, q);
741         if (clip && (*r_lambda < 0.0f)) return 0;
742
743         return 1;
744 }
745
746 int isect_ray_tri_epsilon_v3(const float p1[3], const float d[3],
747                              const float v0[3], const float v1[3], const float v2[3],
748                              float *r_lambda, float uv[2], const float epsilon)
749 {
750         float p[3], s[3], e1[3], e2[3], q[3];
751         float a, f, u, v;
752
753         sub_v3_v3v3(e1, v1, v0);
754         sub_v3_v3v3(e2, v2, v0);
755
756         cross_v3_v3v3(p, d, e2);
757         a = dot_v3v3(e1, p);
758         if (a == 0.0f) return 0;
759         f = 1.0f/a;
760
761         sub_v3_v3v3(s, p1, v0);
762
763         u = f * dot_v3v3(s, p);
764         if ((u < -epsilon)||(u > 1.0f+epsilon)) return 0;
765
766         cross_v3_v3v3(q, s, e1);
767
768         v = f * dot_v3v3(d, q);
769         if ((v < -epsilon)||((u + v) > 1.0f+epsilon)) return 0;
770
771         *r_lambda = f * dot_v3v3(e2, q);
772         if ((*r_lambda < 0.0f)) return 0;
773
774         if(uv) {
775                 uv[0]= u;
776                 uv[1]= v;
777         }
778
779         return 1;
780 }
781
782 int isect_ray_tri_threshold_v3(const float p1[3], const float d[3],
783                                const float v0[3], const float v1[3], const float v2[3],
784                                float *r_lambda, float r_uv[2], const float threshold)
785 {
786         float p[3], s[3], e1[3], e2[3], q[3];
787         float a, f, u, v;
788         float du = 0, dv = 0;
789         
790         sub_v3_v3v3(e1, v1, v0);
791         sub_v3_v3v3(e2, v2, v0);
792         
793         cross_v3_v3v3(p, d, e2);
794         a = dot_v3v3(e1, p);
795         if ((a > -0.000001f) && (a < 0.000001f)) return 0;
796         f = 1.0f/a;
797         
798         sub_v3_v3v3(s, p1, v0);
799         
800         cross_v3_v3v3(q, s, e1);
801         *r_lambda = f * dot_v3v3(e2, q);
802         if ((*r_lambda < 0.0f)) return 0;
803         
804         u = f * dot_v3v3(s, p);
805         v = f * dot_v3v3(d, q);
806         
807         if (u < 0) du = u;
808         if (u > 1) du = u - 1;
809         if (v < 0) dv = v;
810         if (v > 1) dv = v - 1;
811         if (u > 0 && v > 0 && u + v > 1)
812         {
813                 float t = u + v - 1;
814                 du = u - t/2;
815                 dv = v - t/2;
816         }
817
818         mul_v3_fl(e1, du);
819         mul_v3_fl(e2, dv);
820         
821         if (dot_v3v3(e1, e1) + dot_v3v3(e2, e2) > threshold * threshold)
822         {
823                 return 0;
824         }
825
826         if(r_uv) {
827                 r_uv[0]= u;
828                 r_uv[1]= v;
829         }
830         
831         return 1;
832 }
833
834 int isect_line_plane_v3(float out[3], const float l1[3], const float l2[3], const float plane_co[3], const float plane_no[3], const short no_flip)
835 {
836         float l_vec[3]; /* l1 -> l2 normalized vector */
837         float p_no[3]; /* 'plane_no' normalized */
838         float dot;
839
840         sub_v3_v3v3(l_vec, l2, l1);
841
842         normalize_v3(l_vec);
843         normalize_v3_v3(p_no, plane_no);
844
845         dot= dot_v3v3(l_vec, p_no);
846         if(dot == 0.0f) {
847                 return 0;
848         }
849         else {
850                 float l1_plane[3]; /* line point aligned with the plane */
851                 float dist; /* 'plane_no' aligned distance to the 'plane_co' */
852
853                 /* for predictable flipping since the plane is only used to
854                  * define a direction, ignore its flipping and aligned with 'l_vec' */
855                 if(dot < 0.0f) {
856                         dot= -dot;
857                         negate_v3(p_no);
858                 }
859
860                 add_v3_v3v3(l1_plane, l1, p_no);
861
862                 dist = line_point_factor_v3(plane_co, l1, l1_plane);
863
864                 /* treat line like a ray, when 'no_flip' is set */
865                 if(no_flip && dist < 0.0f) {
866                         dist= -dist;
867                 }
868
869                 mul_v3_fl(l_vec, dist / dot);
870
871                 add_v3_v3v3(out, l1, l_vec);
872
873                 return 1;
874         }
875 }
876
877 /* note: return normal isnt unit length */
878 void isect_plane_plane_v3(float r_isect_co[3], float r_isect_no[3],
879                           const float plane_a_co[3], const float plane_a_no[3],
880                           const float plane_b_co[3], const float plane_b_no[3])
881 {
882         float plane_a_co_other[3];
883         cross_v3_v3v3(r_isect_no, plane_a_no, plane_b_no); /* direction is simply the cross product */
884         cross_v3_v3v3(plane_a_co_other, plane_a_no, r_isect_no);
885         add_v3_v3(plane_a_co_other, plane_a_co);
886         isect_line_plane_v3(r_isect_co, plane_a_co, plane_a_co_other, plane_b_co, plane_b_no, FALSE);
887 }
888
889
890 /* Adapted from the paper by Kasper Fauerby */
891 /* "Improved Collision detection and Response" */
892 static int getLowestRoot(const float a, const float b, const float c, const float maxR, float *root)
893 {
894         // Check if a solution exists
895         float determinant = b*b - 4.0f*a*c;
896
897         // If determinant is negative it means no solutions.
898         if (determinant >= 0.0f)
899         {
900                 // calculate the two roots: (if determinant == 0 then
901                 // x1==x2 but lets disregard that slight optimization)
902                 float sqrtD = (float)sqrt(determinant);
903                 float r1 = (-b - sqrtD) / (2.0f*a);
904                 float r2 = (-b + sqrtD) / (2.0f*a);
905                 
906                 // Sort so x1 <= x2
907                 if (r1 > r2)
908                         SWAP(float, r1, r2);
909
910                 // Get lowest root:
911                 if (r1 > 0.0f && r1 < maxR)
912                 {
913                         *root = r1;
914                         return 1;
915                 }
916
917                 // It is possible that we want x2 - this can happen
918                 // if x1 < 0
919                 if (r2 > 0.0f && r2 < maxR)
920                 {
921                         *root = r2;
922                         return 1;
923                 }
924         }
925         // No (valid) solutions
926         return 0;
927 }
928
929 int isect_sweeping_sphere_tri_v3(
930         const float p1[3], const float p2[3], const float radius,
931         const float v0[3], const float v1[3], const float v2[3],
932         float *r_lambda, float ipoint[3])
933 {
934         float e1[3], e2[3], e3[3], point[3], vel[3], /*dist[3],*/ nor[3], temp[3], bv[3];
935         float a, b, c, d, e, x, y, z, radius2=radius*radius;
936         float elen2,edotv,edotbv,nordotv;
937         float newLambda;
938         int found_by_sweep=0;
939
940         sub_v3_v3v3(e1,v1,v0);
941         sub_v3_v3v3(e2,v2,v0);
942         sub_v3_v3v3(vel,p2,p1);
943
944 /*---test plane of tri---*/
945         cross_v3_v3v3(nor,e1,e2);
946         normalize_v3(nor);
947
948         /* flip normal */
949         if(dot_v3v3(nor,vel)>0.0f) negate_v3(nor);
950         
951         a=dot_v3v3(p1,nor)-dot_v3v3(v0,nor);
952         nordotv=dot_v3v3(nor,vel);
953
954         if (fabsf(nordotv) < 0.000001f)
955         {
956                 if(fabsf(a) >= radius) {
957                         return 0;
958                 }
959         }
960         else {
961                 float t0=(-a+radius)/nordotv;
962                 float t1=(-a-radius)/nordotv;
963
964                 if(t0>t1)
965                         SWAP(float, t0, t1);
966
967                 if(t0>1.0f || t1<0.0f) return 0;
968
969                 /* clamp to [0,1] */
970                 CLAMP(t0, 0.0f, 1.0f);
971                 CLAMP(t1, 0.0f, 1.0f);
972
973                 /*---test inside of tri---*/
974                 /* plane intersection point */
975
976                 point[0] = p1[0] + vel[0]*t0 - nor[0]*radius;
977                 point[1] = p1[1] + vel[1]*t0 - nor[1]*radius;
978                 point[2] = p1[2] + vel[2]*t0 - nor[2]*radius;
979
980
981                 /* is the point in the tri? */
982                 a=dot_v3v3(e1,e1);
983                 b=dot_v3v3(e1,e2);
984                 c=dot_v3v3(e2,e2);
985
986                 sub_v3_v3v3(temp,point,v0);
987                 d=dot_v3v3(temp,e1);
988                 e=dot_v3v3(temp,e2);
989                 
990                 x=d*c-e*b;
991                 y=e*a-d*b;
992                 z=x+y-(a*c-b*b);
993
994
995                 if(z <= 0.0f && (x >= 0.0f && y >= 0.0f))
996                 {
997                 //(((unsigned int)z)& ~(((unsigned int)x)|((unsigned int)y))) & 0x80000000) {
998                         *r_lambda=t0;
999                         copy_v3_v3(ipoint,point);
1000                         return 1;
1001                 }
1002         }
1003
1004
1005         *r_lambda=1.0f;
1006
1007 /*---test points---*/
1008         a=dot_v3v3(vel,vel);
1009
1010         /*v0*/
1011         sub_v3_v3v3(temp,p1,v0);
1012         b=2.0f*dot_v3v3(vel,temp);
1013         c=dot_v3v3(temp,temp)-radius2;
1014
1015         if(getLowestRoot(a, b, c, *r_lambda, r_lambda))
1016         {
1017                 copy_v3_v3(ipoint,v0);
1018                 found_by_sweep=1;
1019         }
1020
1021         /*v1*/
1022         sub_v3_v3v3(temp,p1,v1);
1023         b=2.0f*dot_v3v3(vel,temp);
1024         c=dot_v3v3(temp,temp)-radius2;
1025
1026         if(getLowestRoot(a, b, c, *r_lambda, r_lambda))
1027         {
1028                 copy_v3_v3(ipoint,v1);
1029                 found_by_sweep=1;
1030         }
1031         
1032         /*v2*/
1033         sub_v3_v3v3(temp,p1,v2);
1034         b=2.0f*dot_v3v3(vel,temp);
1035         c=dot_v3v3(temp,temp)-radius2;
1036
1037         if(getLowestRoot(a, b, c, *r_lambda, r_lambda))
1038         {
1039                 copy_v3_v3(ipoint,v2);
1040                 found_by_sweep=1;
1041         }
1042
1043 /*---test edges---*/
1044         sub_v3_v3v3(e3,v2,v1); //wasnt yet calculated
1045
1046
1047         /*e1*/
1048         sub_v3_v3v3(bv,v0,p1);
1049
1050         elen2 = dot_v3v3(e1,e1);
1051         edotv = dot_v3v3(e1,vel);
1052         edotbv = dot_v3v3(e1,bv);
1053
1054         a=elen2*(-dot_v3v3(vel,vel))+edotv*edotv;
1055         b=2.0f*(elen2*dot_v3v3(vel,bv)-edotv*edotbv);
1056         c=elen2*(radius2-dot_v3v3(bv,bv))+edotbv*edotbv;
1057
1058         if(getLowestRoot(a, b, c, *r_lambda, &newLambda))
1059         {
1060                 e=(edotv*newLambda-edotbv)/elen2;
1061
1062                 if(e >= 0.0f && e <= 1.0f)
1063                 {
1064                         *r_lambda = newLambda;
1065                         copy_v3_v3(ipoint,e1);
1066                         mul_v3_fl(ipoint,e);
1067                         add_v3_v3(ipoint, v0);
1068                         found_by_sweep=1;
1069                 }
1070         }
1071
1072         /*e2*/
1073         /*bv is same*/
1074         elen2 = dot_v3v3(e2,e2);
1075         edotv = dot_v3v3(e2,vel);
1076         edotbv = dot_v3v3(e2,bv);
1077
1078         a=elen2*(-dot_v3v3(vel,vel))+edotv*edotv;
1079         b=2.0f*(elen2*dot_v3v3(vel,bv)-edotv*edotbv);
1080         c=elen2*(radius2-dot_v3v3(bv,bv))+edotbv*edotbv;
1081
1082         if(getLowestRoot(a, b, c, *r_lambda, &newLambda))
1083         {
1084                 e=(edotv*newLambda-edotbv)/elen2;
1085
1086                 if(e >= 0.0f && e <= 1.0f)
1087                 {
1088                         *r_lambda = newLambda;
1089                         copy_v3_v3(ipoint,e2);
1090                         mul_v3_fl(ipoint,e);
1091                         add_v3_v3(ipoint, v0);
1092                         found_by_sweep=1;
1093                 }
1094         }
1095
1096         /*e3*/
1097         /* sub_v3_v3v3(bv,v0,p1); */ /* UNUSED */
1098         /* elen2 = dot_v3v3(e1,e1); */ /* UNUSED */
1099         /* edotv = dot_v3v3(e1,vel); */ /* UNUSED */
1100         /* edotbv = dot_v3v3(e1,bv); */ /* UNUSED */
1101
1102         sub_v3_v3v3(bv,v1,p1);
1103         elen2 = dot_v3v3(e3,e3);
1104         edotv = dot_v3v3(e3,vel);
1105         edotbv = dot_v3v3(e3,bv);
1106
1107         a=elen2*(-dot_v3v3(vel,vel))+edotv*edotv;
1108         b=2.0f*(elen2*dot_v3v3(vel,bv)-edotv*edotbv);
1109         c=elen2*(radius2-dot_v3v3(bv,bv))+edotbv*edotbv;
1110
1111         if(getLowestRoot(a, b, c, *r_lambda, &newLambda))
1112         {
1113                 e=(edotv*newLambda-edotbv)/elen2;
1114
1115                 if(e >= 0.0f && e <= 1.0f)
1116                 {
1117                         *r_lambda = newLambda;
1118                         copy_v3_v3(ipoint,e3);
1119                         mul_v3_fl(ipoint,e);
1120                         add_v3_v3(ipoint, v1);
1121                         found_by_sweep=1;
1122                 }
1123         }
1124
1125
1126         return found_by_sweep;
1127 }
1128 int isect_axial_line_tri_v3(const int axis, const float p1[3], const float p2[3],
1129                             const float v0[3], const float v1[3], const float v2[3], float *r_lambda)
1130 {
1131         float p[3], e1[3], e2[3];
1132         float u, v, f;
1133         int a0=axis, a1=(axis+1)%3, a2=(axis+2)%3;
1134
1135         //return isect_line_tri_v3(p1,p2,v0,v1,v2,lambda);
1136
1137         ///* first a simple bounding box test */
1138         //if(MIN3(v0[a1],v1[a1],v2[a1]) > p1[a1]) return 0;
1139         //if(MIN3(v0[a2],v1[a2],v2[a2]) > p1[a2]) return 0;
1140         //if(MAX3(v0[a1],v1[a1],v2[a1]) < p1[a1]) return 0;
1141         //if(MAX3(v0[a2],v1[a2],v2[a2]) < p1[a2]) return 0;
1142
1143         ///* then a full intersection test */
1144         
1145         sub_v3_v3v3(e1,v1,v0);
1146         sub_v3_v3v3(e2,v2,v0);
1147         sub_v3_v3v3(p,v0,p1);
1148
1149         f= (e2[a1]*e1[a2]-e2[a2]*e1[a1]);
1150         if ((f > -0.000001f) && (f < 0.000001f)) return 0;
1151
1152         v= (p[a2]*e1[a1]-p[a1]*e1[a2])/f;
1153         if ((v < 0.0f)||(v > 1.0f)) return 0;
1154         
1155         f= e1[a1];
1156         if((f > -0.000001f) && (f < 0.000001f)) {
1157                 f= e1[a2];
1158                 if((f > -0.000001f) && (f < 0.000001f)) return 0;
1159                 u= (-p[a2]-v*e2[a2])/f;
1160         }
1161         else
1162                 u= (-p[a1]-v*e2[a1])/f;
1163
1164         if ((u < 0.0f) || ((u + v) > 1.0f)) return 0;
1165
1166         *r_lambda = (p[a0]+u*e1[a0]+v*e2[a0])/(p2[a0]-p1[a0]);
1167
1168         if ((*r_lambda < 0.0f) || (*r_lambda > 1.0f)) return 0;
1169
1170         return 1;
1171 }
1172
1173 /* Returns the number of point of interests
1174  * 0 - lines are colinear
1175  * 1 - lines are coplanar, i1 is set to intersection
1176  * 2 - i1 and i2 are the nearest points on line 1 (v1, v2) and line 2 (v3, v4) respectively 
1177  * */
1178 int isect_line_line_v3(const float v1[3], const float v2[3], const float v3[3], const float v4[3], float i1[3], float i2[3])
1179 {
1180         float a[3], b[3], c[3], ab[3], cb[3], dir1[3], dir2[3];
1181         float d;
1182         
1183         sub_v3_v3v3(c, v3, v1);
1184         sub_v3_v3v3(a, v2, v1);
1185         sub_v3_v3v3(b, v4, v3);
1186
1187         normalize_v3_v3(dir1, a);
1188         normalize_v3_v3(dir2, b);
1189         d = dot_v3v3(dir1, dir2);
1190         if (d == 1.0f || d == -1.0f) {
1191                 /* colinear */
1192                 return 0;
1193         }
1194
1195         cross_v3_v3v3(ab, a, b);
1196         d = dot_v3v3(c, ab);
1197
1198         /* test if the two lines are coplanar */
1199         if (d > -0.000001f && d < 0.000001f) {
1200                 cross_v3_v3v3(cb, c, b);
1201
1202                 mul_v3_fl(a, dot_v3v3(cb, ab) / dot_v3v3(ab, ab));
1203                 add_v3_v3v3(i1, v1, a);
1204                 copy_v3_v3(i2, i1);
1205                 
1206                 return 1; /* one intersection only */
1207         }
1208         /* if not */
1209         else {
1210                 float n[3], t[3];
1211                 float v3t[3], v4t[3];
1212                 sub_v3_v3v3(t, v1, v3);
1213
1214                 /* offset between both plane where the lines lies */
1215                 cross_v3_v3v3(n, a, b);
1216                 project_v3_v3v3(t, t, n);
1217
1218                 /* for the first line, offset the second line until it is coplanar */
1219                 add_v3_v3v3(v3t, v3, t);
1220                 add_v3_v3v3(v4t, v4, t);
1221                 
1222                 sub_v3_v3v3(c, v3t, v1);
1223                 sub_v3_v3v3(a, v2, v1);
1224                 sub_v3_v3v3(b, v4t, v3t);
1225
1226                 cross_v3_v3v3(ab, a, b);
1227                 cross_v3_v3v3(cb, c, b);
1228
1229                 mul_v3_fl(a, dot_v3v3(cb, ab) / dot_v3v3(ab, ab));
1230                 add_v3_v3v3(i1, v1, a);
1231
1232                 /* for the second line, just substract the offset from the first intersection point */
1233                 sub_v3_v3v3(i2, i1, t);
1234                 
1235                 return 2; /* two nearest points */
1236         }
1237
1238
1239 /* Intersection point strictly between the two lines
1240  * 0 when no intersection is found 
1241  * */
1242 int isect_line_line_strict_v3(const float v1[3], const float v2[3], const float v3[3], const float v4[3], float vi[3], float *r_lambda)
1243 {
1244         float a[3], b[3], c[3], ab[3], cb[3], ca[3], dir1[3], dir2[3];
1245         float d;
1246         
1247         sub_v3_v3v3(c, v3, v1);
1248         sub_v3_v3v3(a, v2, v1);
1249         sub_v3_v3v3(b, v4, v3);
1250
1251         normalize_v3_v3(dir1, a);
1252         normalize_v3_v3(dir2, b);
1253         d = dot_v3v3(dir1, dir2);
1254         if (d == 1.0f || d == -1.0f || d == 0) {
1255                 /* colinear or one vector is zero-length*/
1256                 return 0;
1257         }
1258
1259         cross_v3_v3v3(ab, a, b);
1260         d = dot_v3v3(c, ab);
1261
1262         /* test if the two lines are coplanar */
1263         if (d > -0.000001f && d < 0.000001f) {
1264                 float f1, f2;
1265                 cross_v3_v3v3(cb, c, b);
1266                 cross_v3_v3v3(ca, c, a);
1267
1268                 f1 = dot_v3v3(cb, ab) / dot_v3v3(ab, ab);
1269                 f2 = dot_v3v3(ca, ab) / dot_v3v3(ab, ab);
1270                 
1271                 if (f1 >= 0 && f1 <= 1 &&
1272                         f2 >= 0 && f2 <= 1)
1273                 {
1274                         mul_v3_fl(a, f1);
1275                         add_v3_v3v3(vi, v1, a);
1276
1277                         if (r_lambda) *r_lambda = f1;
1278
1279                         return 1; /* intersection found */
1280                 }
1281                 else {
1282                         return 0;
1283                 }
1284         }
1285         else {
1286                 return 0;
1287         }
1288
1289
1290 int isect_aabb_aabb_v3(const float min1[3], const float max1[3], const float min2[3], const float max2[3])
1291 {
1292         return (min1[0]<max2[0] && min1[1]<max2[1] && min1[2]<max2[2] &&
1293                         min2[0]<max1[0] && min2[1]<max1[1] && min2[2]<max1[2]);
1294 }
1295
1296 /* find closest point to p on line through l1,l2 and return lambda,
1297  * where (0 <= lambda <= 1) when cp is in the line segement l1,l2
1298  */
1299 float closest_to_line_v3(float cp[3], const float p[3], const float l1[3], const float l2[3])
1300 {
1301         float h[3],u[3],lambda;
1302         sub_v3_v3v3(u, l2, l1);
1303         sub_v3_v3v3(h, p, l1);
1304         lambda = dot_v3v3(u,h)/dot_v3v3(u,u);
1305         cp[0] = l1[0] + u[0] * lambda;
1306         cp[1] = l1[1] + u[1] * lambda;
1307         cp[2] = l1[2] + u[2] * lambda;
1308         return lambda;
1309 }
1310
1311 float closest_to_line_v2(float cp[2],const float p[2], const float l1[2], const float l2[2])
1312 {
1313         float h[2],u[2],lambda;
1314         sub_v2_v2v2(u, l2, l1);
1315         sub_v2_v2v2(h, p, l1);
1316         lambda = dot_v2v2(u,h)/dot_v2v2(u,u);
1317         cp[0] = l1[0] + u[0] * lambda;
1318         cp[1] = l1[1] + u[1] * lambda;
1319         return lambda;
1320 }
1321
1322 /* little sister we only need to know lambda */
1323 float line_point_factor_v3(const float p[3], const float l1[3], const float l2[3])
1324 {
1325         float h[3],u[3];
1326         sub_v3_v3v3(u, l2, l1);
1327         sub_v3_v3v3(h, p, l1);
1328         return(dot_v3v3(u,h)/dot_v3v3(u,u));
1329 }
1330
1331 float line_point_factor_v2(const float p[2], const float l1[2], const float l2[2])
1332 {
1333         float h[2], u[2];
1334         sub_v2_v2v2(u, l2, l1);
1335         sub_v2_v2v2(h, p, l1);
1336         return(dot_v2v2(u, h)/dot_v2v2(u, u));
1337 }
1338
1339 /* Similar to LineIntersectsTriangleUV, except it operates on a quad and in 2d, assumes point is in quad */
1340 void isect_point_quad_uv_v2(const float v0[2], const float v1[2], const float v2[2], const float v3[2], const float pt[2], float r_uv[2])
1341 {
1342         float x0,y0, x1,y1, wtot, v2d[2], w1, w2;
1343         
1344         /* used for parallel lines */
1345         float pt3d[3], l1[3], l2[3], pt_on_line[3];
1346         
1347         /* compute 2 edges  of the quad  intersection point */
1348         if (IsectLLPt2Df(v0[0],v0[1],v1[0],v1[1],  v2[0],v2[1],v3[0],v3[1], &x0,&y0) == 1) {
1349                 /* the intersection point between the quad-edge intersection and the point in the quad we want the uv's for */
1350                 /* should never be paralle !! */
1351                 /*printf("\tnot parallel 1\n");*/
1352                 IsectLLPt2Df(pt[0],pt[1],x0,y0,  v0[0],v0[1],v3[0],v3[1], &x1,&y1);
1353                 
1354                 /* Get the weights from the new intersection point, to each edge */
1355                 v2d[0] = x1-v0[0];
1356                 v2d[1] = y1-v0[1];
1357                 w1 = len_v2(v2d);
1358                 
1359                 v2d[0] = x1-v3[0]; /* some but for the other vert */
1360                 v2d[1] = y1-v3[1];
1361                 w2 = len_v2(v2d);
1362                 wtot = w1+w2;
1363                 /*w1 = w1/wtot;*/
1364                 /*w2 = w2/wtot;*/
1365                 r_uv[0] = w1/wtot;
1366         } else {
1367                 /* lines are parallel, lambda_cp_line_ex is 3d grrr */
1368                 /*printf("\tparallel1\n");*/
1369                 pt3d[0] = pt[0];
1370                 pt3d[1] = pt[1];
1371                 pt3d[2] = l1[2] = l2[2] = 0.0f;
1372                 
1373                 l1[0] = v0[0]; l1[1] = v0[1];
1374                 l2[0] = v1[0]; l2[1] = v1[1];
1375                 closest_to_line_v3(pt_on_line,pt3d, l1, l2);
1376                 v2d[0] = pt[0]-pt_on_line[0]; /* same, for the other vert */
1377                 v2d[1] = pt[1]-pt_on_line[1];
1378                 w1 = len_v2(v2d);
1379                 
1380                 l1[0] = v2[0]; l1[1] = v2[1];
1381                 l2[0] = v3[0]; l2[1] = v3[1];
1382                 closest_to_line_v3(pt_on_line,pt3d, l1, l2);
1383                 v2d[0] = pt[0]-pt_on_line[0]; /* same, for the other vert */
1384                 v2d[1] = pt[1]-pt_on_line[1];
1385                 w2 = len_v2(v2d);
1386                 wtot = w1+w2;
1387                 r_uv[0] = w1/wtot;
1388         }
1389         
1390         /* Same as above to calc the uv[1] value, alternate calculation */
1391         
1392         if (IsectLLPt2Df(v0[0],v0[1],v3[0],v3[1],  v1[0],v1[1],v2[0],v2[1], &x0,&y0) == 1) { /* was v0,v1  v2,v3  now v0,v3  v1,v2*/
1393                 /* never paralle if above was not */
1394                 /*printf("\tnot parallel2\n");*/
1395                 IsectLLPt2Df(pt[0],pt[1],x0,y0,  v0[0],v0[1],v1[0],v1[1], &x1,&y1);/* was v0,v3  now v0,v1*/
1396                 
1397                 v2d[0] = x1-v0[0];
1398                 v2d[1] = y1-v0[1];
1399                 w1 = len_v2(v2d);
1400                 
1401                 v2d[0] = x1-v1[0];
1402                 v2d[1] = y1-v1[1];
1403                 w2 = len_v2(v2d);
1404                 wtot = w1+w2;
1405                 r_uv[1] = w1/wtot;
1406         } else {
1407                 /* lines are parallel, lambda_cp_line_ex is 3d grrr */
1408                 /*printf("\tparallel2\n");*/
1409                 pt3d[0] = pt[0];
1410                 pt3d[1] = pt[1];
1411                 pt3d[2] = l1[2] = l2[2] = 0.0f;
1412                 
1413                 
1414                 l1[0] = v0[0]; l1[1] = v0[1];
1415                 l2[0] = v3[0]; l2[1] = v3[1];
1416                 closest_to_line_v3(pt_on_line,pt3d, l1, l2);
1417                 v2d[0] = pt[0]-pt_on_line[0]; /* some but for the other vert */
1418                 v2d[1] = pt[1]-pt_on_line[1];
1419                 w1 = len_v2(v2d);
1420                 
1421                 l1[0] = v1[0]; l1[1] = v1[1];
1422                 l2[0] = v2[0]; l2[1] = v2[1];
1423                 closest_to_line_v3(pt_on_line,pt3d, l1, l2);
1424                 v2d[0] = pt[0]-pt_on_line[0]; /* some but for the other vert */
1425                 v2d[1] = pt[1]-pt_on_line[1];
1426                 w2 = len_v2(v2d);
1427                 wtot = w1+w2;
1428                 r_uv[1] = w1/wtot;
1429         }
1430         /* may need to flip UV's here */
1431 }
1432
1433 /* same as above but does tri's and quads, tri's are a bit of a hack */
1434 void isect_point_face_uv_v2(const int isquad, const float v0[2], const float v1[2], const float v2[2], const float v3[2], const float pt[2], float r_uv[2])
1435 {
1436         if (isquad) {
1437                 isect_point_quad_uv_v2(v0, v1, v2, v3, pt, r_uv);
1438         }
1439         else {
1440                 /* not for quads, use for our abuse of LineIntersectsTriangleUV */
1441                 float p1_3d[3], p2_3d[3], v0_3d[3], v1_3d[3], v2_3d[3], lambda;
1442                         
1443                 p1_3d[0] = p2_3d[0] = r_uv[0];
1444                 p1_3d[1] = p2_3d[1] = r_uv[1];
1445                 p1_3d[2] = 1.0f;
1446                 p2_3d[2] = -1.0f;
1447                 v0_3d[2] = v1_3d[2] = v2_3d[2] = 0.0;
1448                 
1449                 /* generate a new fuv, (this is possibly a non optimal solution,
1450                  * since we only need 2d calculation but use 3d func's)
1451                  * 
1452                  * this method makes an imaginary triangle in 2d space using the UV's from the derived mesh face
1453                  * Then find new uv coords using the fuv and this face with LineIntersectsTriangleUV.
1454                  * This means the new values will be correct in relation to the derived meshes face. 
1455                  */
1456                 copy_v2_v2(v0_3d, v0);
1457                 copy_v2_v2(v1_3d, v1);
1458                 copy_v2_v2(v2_3d, v2);
1459                 
1460                 /* Doing this in 3D is not nice */
1461                 isect_line_tri_v3(p1_3d, p2_3d, v0_3d, v1_3d, v2_3d, &lambda, r_uv);
1462         }
1463 }
1464
1465 #if 0 // XXX this version used to be used in isect_point_tri_v2_int() and was called IsPointInTri2D
1466 int isect_point_tri_v2(float pt[2], float v1[2], float v2[2], float v3[2])
1467 {
1468         float inp1, inp2, inp3;
1469         
1470         inp1= (v2[0]-v1[0])*(v1[1]-pt[1]) + (v1[1]-v2[1])*(v1[0]-pt[0]);
1471         inp2= (v3[0]-v2[0])*(v2[1]-pt[1]) + (v2[1]-v3[1])*(v2[0]-pt[0]);
1472         inp3= (v1[0]-v3[0])*(v3[1]-pt[1]) + (v3[1]-v1[1])*(v3[0]-pt[0]);
1473         
1474         if(inp1<=0.0f && inp2<=0.0f && inp3<=0.0f) return 1;
1475         if(inp1>=0.0f && inp2>=0.0f && inp3>=0.0f) return 1;
1476         
1477         return 0;
1478 }
1479 #endif
1480
1481 #if 0
1482 int isect_point_tri_v2(float v0[2], float v1[2], float v2[2], float pt[2])
1483 {
1484                 /* not for quads, use for our abuse of LineIntersectsTriangleUV */
1485                 float p1_3d[3], p2_3d[3], v0_3d[3], v1_3d[3], v2_3d[3];
1486                 /* not used */
1487                 float lambda, uv[3];
1488                         
1489                 p1_3d[0] = p2_3d[0] = uv[0]= pt[0];
1490                 p1_3d[1] = p2_3d[1] = uv[1]= uv[2]= pt[1];
1491                 p1_3d[2] = 1.0f;
1492                 p2_3d[2] = -1.0f;
1493                 v0_3d[2] = v1_3d[2] = v2_3d[2] = 0.0;
1494                 
1495                 /* generate a new fuv, (this is possibly a non optimal solution,
1496                  * since we only need 2d calculation but use 3d func's)
1497                  * 
1498                  * this method makes an imaginary triangle in 2d space using the UV's from the derived mesh face
1499                  * Then find new uv coords using the fuv and this face with LineIntersectsTriangleUV.
1500                  * This means the new values will be correct in relation to the derived meshes face. 
1501                  */
1502                 copy_v2_v2(v0_3d, v0);
1503                 copy_v2_v2(v1_3d, v1);
1504                 copy_v2_v2(v2_3d, v2);
1505                 
1506                 /* Doing this in 3D is not nice */
1507                 return isect_line_tri_v3(p1_3d, p2_3d, v0_3d, v1_3d, v2_3d, &lambda, uv);
1508 }
1509 #endif
1510
1511 /*
1512  *     x1,y2
1513  *     |  \
1514  *     |   \     .(a,b)
1515  *     |    \
1516  *     x1,y1-- x2,y1
1517  */
1518 int isect_point_tri_v2_int(const int x1, const int y1, const int x2, const int y2, const int a, const int b)
1519 {
1520         float v1[2], v2[2], v3[2], p[2];
1521         
1522         v1[0]= (float)x1;
1523         v1[1]= (float)y1;
1524         
1525         v2[0]= (float)x1;
1526         v2[1]= (float)y2;
1527         
1528         v3[0]= (float)x2;
1529         v3[1]= (float)y1;
1530         
1531         p[0]= (float)a;
1532         p[1]= (float)b;
1533         
1534         return isect_point_tri_v2(p, v1, v2, v3);
1535 }
1536
1537 static int point_in_slice(const float p[3], const float v1[3], const float l1[3], const float l2[3])
1538 {
1539         /*
1540          * what is a slice ?
1541          * some maths:
1542          * a line including l1,l2 and a point not on the line 
1543          * define a subset of R3 delimeted by planes parallel to the line and orthogonal 
1544          * to the (point --> line) distance vector,one plane on the line one on the point, 
1545          * the room inside usually is rather small compared to R3 though still infinte
1546          * useful for restricting (speeding up) searches 
1547          * e.g. all points of triangular prism are within the intersection of 3 'slices'
1548          * onother trivial case : cube 
1549          * but see a 'spat' which is a deformed cube with paired parallel planes needs only 3 slices too
1550          */
1551         float h,rp[3],cp[3],q[3];
1552
1553         closest_to_line_v3(cp,v1,l1,l2);
1554         sub_v3_v3v3(q,cp,v1);
1555
1556         sub_v3_v3v3(rp,p,v1);
1557         h=dot_v3v3(q,rp)/dot_v3v3(q,q);
1558         if (h < 0.0f || h > 1.0f) return 0;
1559         return 1;
1560 }
1561
1562 #if 0
1563 /* adult sister defining the slice planes by the origin and the normal
1564  * NOTE |normal| may not be 1 but defining the thickness of the slice */
1565 static int point_in_slice_as(float p[3],float origin[3],float normal[3])
1566 {
1567         float h,rp[3];
1568         sub_v3_v3v3(rp,p,origin);
1569         h=dot_v3v3(normal,rp)/dot_v3v3(normal,normal);
1570         if (h < 0.0f || h > 1.0f) return 0;
1571         return 1;
1572 }
1573
1574 /*mama (knowing the squared length of the normal)*/
1575 static int point_in_slice_m(float p[3],float origin[3],float normal[3],float lns)
1576 {
1577         float h,rp[3];
1578         sub_v3_v3v3(rp,p,origin);
1579         h=dot_v3v3(normal,rp)/lns;
1580         if (h < 0.0f || h > 1.0f) return 0;
1581         return 1;
1582 }
1583 #endif
1584
1585 int isect_point_tri_prism_v3(const float p[3], const float v1[3], const float v2[3], const float v3[3])
1586 {
1587         if(!point_in_slice(p,v1,v2,v3)) return 0;
1588         if(!point_in_slice(p,v2,v3,v1)) return 0;
1589         if(!point_in_slice(p,v3,v1,v2)) return 0;
1590         return 1;
1591 }
1592
1593 int clip_line_plane(float p1[3], float p2[3], const float plane[4])
1594 {
1595         float dp[3], n[3], div, t, pc[3];
1596
1597         copy_v3_v3(n, plane);
1598         sub_v3_v3v3(dp, p2, p1);
1599         div= dot_v3v3(dp, n);
1600
1601         if(div == 0.0f) /* parallel */
1602                 return 1;
1603
1604         t= -(dot_v3v3(p1, n) + plane[3])/div;
1605
1606         if(div > 0.0f) {
1607                 /* behind plane, completely clipped */
1608                 if(t >= 1.0f) {
1609                         zero_v3(p1);
1610                         zero_v3(p2);
1611                         return 0;
1612                 }
1613
1614                 /* intersect plane */
1615                 if(t > 0.0f) {
1616                         madd_v3_v3v3fl(pc, p1, dp, t);
1617                         copy_v3_v3(p1, pc);
1618                         return 1;
1619                 }
1620
1621                 return 1;
1622         }
1623         else {
1624                 /* behind plane, completely clipped */
1625                 if(t <= 0.0f) {
1626                         zero_v3(p1);
1627                         zero_v3(p2);
1628                         return 0;
1629                 }
1630
1631                 /* intersect plane */
1632                 if(t < 1.0f) {
1633                         madd_v3_v3v3fl(pc, p1, dp, t);
1634                         copy_v3_v3(p2, pc);
1635                         return 1;
1636                 }
1637
1638                 return 1;
1639         }
1640 }
1641
1642
1643 void plot_line_v2v2i(const int p1[2], const int p2[2], int (*callback)(int, int, void *), void *userData)
1644 {
1645         int x1= p1[0];
1646         int y1= p1[1];
1647         int x2= p2[0];
1648         int y2= p2[1];
1649
1650         signed char ix;
1651         signed char iy;
1652
1653         // if x1 == x2 or y1 == y2, then it does not matter what we set here
1654         int delta_x = (x2 > x1?(ix = 1, x2 - x1):(ix = -1, x1 - x2)) << 1;
1655         int delta_y = (y2 > y1?(iy = 1, y2 - y1):(iy = -1, y1 - y2)) << 1;
1656
1657         if(callback(x1, y1, userData) == 0) {
1658                 return;
1659         }
1660
1661         if (delta_x >= delta_y) {
1662                 // error may go below zero
1663                 int error = delta_y - (delta_x >> 1);
1664
1665                 while (x1 != x2) {
1666                         if (error >= 0) {
1667                                 if (error || (ix > 0)) {
1668                                         y1 += iy;
1669                                         error -= delta_x;
1670                                 }
1671                                 // else do nothing
1672                         }
1673                         // else do nothing
1674
1675                         x1 += ix;
1676                         error += delta_y;
1677
1678                         if (callback(x1, y1, userData) == 0) {
1679                                 return;
1680                         }
1681                 }
1682         }
1683         else {
1684                 // error may go below zero
1685                 int error = delta_x - (delta_y >> 1);
1686
1687                 while (y1 != y2) {
1688                         if (error >= 0) {
1689                                 if (error || (iy > 0)) {
1690                                         x1 += ix;
1691                                         error -= delta_y;
1692                                 }
1693                                 // else do nothing
1694                         }
1695                         // else do nothing
1696
1697                         y1 += iy;
1698                         error += delta_x;
1699
1700                         if(callback(x1, y1, userData) == 0) {
1701                                 return;
1702                         }
1703                 }
1704         }
1705 }
1706
1707 /****************************** Interpolation ********************************/
1708
1709 /* get the 2 dominant axis values, 0==X, 1==Y, 2==Z */
1710 void axis_dominant_v3(int *axis_a, int *axis_b, const float axis[3])
1711 {
1712         const float xn= fabsf(axis[0]);
1713         const float yn= fabsf(axis[1]);
1714         const float zn= fabsf(axis[2]);
1715
1716         if      (zn >= xn && zn >= yn) { *axis_a= 0; *axis_b= 1; }
1717         else if (yn >= xn && yn >= zn) { *axis_a= 0; *axis_b= 2; }
1718         else                           { *axis_a= 1; *axis_b= 2; }
1719 }
1720
1721 static float tri_signed_area(const float v1[3], const float v2[3], const float v3[3], const int i, const int j)
1722 {
1723         return 0.5f*((v1[i]-v2[i])*(v2[j]-v3[j]) + (v1[j]-v2[j])*(v3[i]-v2[i]));
1724 }
1725
1726 static int barycentric_weights(const float v1[3], const float v2[3], const float v3[3], const float co[3], const float n[3], float w[3])
1727 {
1728         float a1, a2, a3, asum;
1729         int i, j;
1730
1731         axis_dominant_v3(&i, &j, n);
1732
1733         a1= tri_signed_area(v2, v3, co, i, j);
1734         a2= tri_signed_area(v3, v1, co, i, j);
1735         a3= tri_signed_area(v1, v2, co, i, j);
1736
1737         asum= a1 + a2 + a3;
1738
1739         if (fabsf(asum) < FLT_EPSILON) {
1740                 /* zero area triangle */
1741                 w[0]= w[1]= w[2]= 1.0f/3.0f;
1742                 return 1;
1743         }
1744
1745         asum= 1.0f/asum;
1746         w[0]= a1*asum;
1747         w[1]= a2*asum;
1748         w[2]= a3*asum;
1749
1750         return 0;
1751 }
1752
1753 void interp_weights_face_v3(float w[4], const float v1[3], const float v2[3], const float v3[3], const float v4[3], const float co[3])
1754 {
1755         float w2[3];
1756
1757         w[0]= w[1]= w[2]= w[3]= 0.0f;
1758
1759         /* first check for exact match */
1760         if(equals_v3v3(co, v1))
1761                 w[0]= 1.0f;
1762         else if(equals_v3v3(co, v2))
1763                 w[1]= 1.0f;
1764         else if(equals_v3v3(co, v3))
1765                 w[2]= 1.0f;
1766         else if(v4 && equals_v3v3(co, v4))
1767                 w[3]= 1.0f;
1768         else {
1769                 /* otherwise compute barycentric interpolation weights */
1770                 float n1[3], n2[3], n[3];
1771                 int degenerate;
1772
1773                 sub_v3_v3v3(n1, v1, v3);
1774                 if (v4) {
1775                         sub_v3_v3v3(n2, v2, v4);
1776                 }
1777                 else {
1778                         sub_v3_v3v3(n2, v2, v3);
1779                 }
1780                 cross_v3_v3v3(n, n1, n2);
1781
1782                 /* OpenGL seems to split this way, so we do too */
1783                 if (v4) {
1784                         degenerate= barycentric_weights(v1, v2, v4, co, n, w);
1785                         SWAP(float, w[2], w[3]);
1786
1787                         if(degenerate || (w[0] < 0.0f)) {
1788                                 /* if w[1] is negative, co is on the other side of the v1-v3 edge,
1789                                  * so we interpolate using the other triangle */
1790                                 degenerate= barycentric_weights(v2, v3, v4, co, n, w2);
1791
1792                                 if(!degenerate) {
1793                                         w[0]= 0.0f;
1794                                         w[1]= w2[0];
1795                                         w[2]= w2[1];
1796                                         w[3]= w2[2];
1797                                 }
1798                         }
1799                 }
1800                 else
1801                         barycentric_weights(v1, v2, v3, co, n, w);
1802         }
1803 }
1804
1805 /* used by projection painting
1806  * note: using area_tri_signed_v2 means locations outside the triangle are correctly weighted */
1807 void barycentric_weights_v2(const float v1[2], const float v2[2], const float v3[2], const float co[2], float w[3])
1808 {
1809         float wtot_inv, wtot;
1810
1811         w[0] = area_tri_signed_v2(v2, v3, co);
1812         w[1] = area_tri_signed_v2(v3, v1, co);
1813         w[2] = area_tri_signed_v2(v1, v2, co);
1814         wtot = w[0]+w[1]+w[2];
1815
1816         if (wtot != 0.0f) {
1817                 wtot_inv = 1.0f/wtot;
1818
1819                 w[0] = w[0]*wtot_inv;
1820                 w[1] = w[1]*wtot_inv;
1821                 w[2] = w[2]*wtot_inv;
1822         }
1823         else /* dummy values for zero area face */
1824                 w[0] = w[1] = w[2] = 1.0f/3.0f;
1825 }
1826
1827 /* given 2 triangles in 3D space, and a point in relation to the first triangle.
1828  * calculate the location of a point in relation to the second triangle.
1829  * Useful for finding relative positions with geometry */
1830 void barycentric_transform(float pt_tar[3], float const pt_src[3],
1831                 const float tri_tar_p1[3], const float tri_tar_p2[3], const float tri_tar_p3[3],
1832                 const float tri_src_p1[3], const float tri_src_p2[3], const float tri_src_p3[3])
1833 {
1834         /* this works by moving the source triangle so its normal is pointing on the Z
1835          * axis where its barycentric wights can be calculated in 2D and its Z offset can
1836          *  be re-applied. The weights are applied directly to the targets 3D points and the
1837          *  z-depth is used to scale the targets normal as an offset.
1838          * This saves transforming the target into its Z-Up orientation and back (which could also work) */
1839         const float z_up[3] = {0, 0, 1};
1840         float no_tar[3], no_src[3];
1841         float quat_src[4];
1842         float pt_src_xy[3];
1843         float  tri_xy_src[3][3];
1844         float w_src[3];
1845         float area_tar, area_src;
1846         float z_ofs_src;
1847
1848         normal_tri_v3(no_tar, tri_tar_p1, tri_tar_p2, tri_tar_p3);
1849         normal_tri_v3(no_src, tri_src_p1, tri_src_p2, tri_src_p3);
1850
1851         rotation_between_vecs_to_quat(quat_src, no_src, z_up);
1852         normalize_qt(quat_src);
1853
1854         copy_v3_v3(pt_src_xy, pt_src);
1855         copy_v3_v3(tri_xy_src[0], tri_src_p1);
1856         copy_v3_v3(tri_xy_src[1], tri_src_p2);
1857         copy_v3_v3(tri_xy_src[2], tri_src_p3);
1858
1859         /* make the source tri xy space */
1860         mul_qt_v3(quat_src, pt_src_xy);
1861         mul_qt_v3(quat_src, tri_xy_src[0]);
1862         mul_qt_v3(quat_src, tri_xy_src[1]);
1863         mul_qt_v3(quat_src, tri_xy_src[2]);
1864
1865         barycentric_weights_v2(tri_xy_src[0], tri_xy_src[1], tri_xy_src[2], pt_src_xy, w_src);
1866         interp_v3_v3v3v3(pt_tar, tri_tar_p1, tri_tar_p2, tri_tar_p3, w_src);
1867
1868         area_tar= sqrtf(area_tri_v3(tri_tar_p1, tri_tar_p2, tri_tar_p3));
1869         area_src= sqrtf(area_tri_v2(tri_xy_src[0], tri_xy_src[1], tri_xy_src[2]));
1870
1871         z_ofs_src= pt_src_xy[2] - tri_xy_src[0][2];
1872         madd_v3_v3v3fl(pt_tar, pt_tar, no_tar, (z_ofs_src / area_src) * area_tar);
1873 }
1874
1875 /* given an array with some invalid values this function interpolates valid values
1876  * replacing the invalid ones */
1877 int interp_sparse_array(float *array, int const list_size, const float skipval)
1878 {
1879         int found_invalid = 0;
1880         int found_valid = 0;
1881         int i;
1882
1883         for (i=0; i < list_size; i++) {
1884                 if(array[i] == skipval)
1885                         found_invalid= 1;
1886                 else
1887                         found_valid= 1;
1888         }
1889
1890         if(found_valid==0) {
1891                 return -1;
1892         }
1893         else if (found_invalid==0) {
1894                 return 0;
1895         }
1896         else {
1897                 /* found invalid depths, interpolate */
1898                 float valid_last= skipval;
1899                 int valid_ofs= 0;
1900
1901                 float *array_up= MEM_callocN(sizeof(float) * list_size, "interp_sparse_array up");
1902                 float *array_down= MEM_callocN(sizeof(float) * list_size, "interp_sparse_array up");
1903
1904                 int *ofs_tot_up= MEM_callocN(sizeof(int) * list_size, "interp_sparse_array tup");
1905                 int *ofs_tot_down= MEM_callocN(sizeof(int) * list_size, "interp_sparse_array tdown");
1906
1907                 for (i=0; i < list_size; i++) {
1908                         if(array[i] == skipval) {
1909                                 array_up[i]= valid_last;
1910                                 ofs_tot_up[i]= ++valid_ofs;
1911                         }
1912                         else {
1913                                 valid_last= array[i];
1914                                 valid_ofs= 0;
1915                         }
1916                 }
1917
1918                 valid_last= skipval;
1919                 valid_ofs= 0;
1920
1921                 for (i=list_size-1; i >= 0; i--) {
1922                         if(array[i] == skipval) {
1923                                 array_down[i]= valid_last;
1924                                 ofs_tot_down[i]= ++valid_ofs;
1925                         }
1926                         else {
1927                                 valid_last= array[i];
1928                                 valid_ofs= 0;
1929                         }
1930                 }
1931
1932                 /* now blend */
1933                 for (i=0; i < list_size; i++) {
1934                         if(array[i] == skipval) {
1935                                 if(array_up[i] != skipval && array_down[i] != skipval) {
1936                                         array[i]= ((array_up[i] * ofs_tot_down[i]) +  (array_down[i] * ofs_tot_up[i])) / (float)(ofs_tot_down[i] + ofs_tot_up[i]);
1937                                 } else if (array_up[i] != skipval) {
1938                                         array[i]= array_up[i];
1939                                 } else if (array_down[i] != skipval) {
1940                                         array[i]= array_down[i];
1941                                 }
1942                         }
1943                 }
1944
1945                 MEM_freeN(array_up);
1946                 MEM_freeN(array_down);
1947
1948                 MEM_freeN(ofs_tot_up);
1949                 MEM_freeN(ofs_tot_down);
1950         }
1951
1952         return 1;
1953 }
1954
1955 /* Mean value weights - smooth interpolation weights for polygons with
1956  * more than 3 vertices */
1957 static float mean_value_half_tan(const float v1[3], const float v2[3], const float v3[3])
1958 {
1959         float d2[3], d3[3], cross[3], area, dot, len;
1960
1961         sub_v3_v3v3(d2, v2, v1);
1962         sub_v3_v3v3(d3, v3, v1);
1963         cross_v3_v3v3(cross, d2, d3);
1964
1965         area= len_v3(cross);
1966         dot= dot_v3v3(d2, d3);
1967         len= len_v3(d2)*len_v3(d3);
1968
1969         if(area == 0.0f)
1970                 return 0.0f;
1971         else
1972                 return (len - dot)/area;
1973 }
1974
1975 void interp_weights_poly_v3(float *w, float v[][3], const int n, const float co[3])
1976 {
1977         float totweight, t1, t2, len, *vmid, *vprev, *vnext;
1978         int i;
1979
1980         totweight= 0.0f;
1981
1982         for(i=0; i<n; i++) {
1983                 vmid= v[i];
1984                 vprev= (i == 0)? v[n-1]: v[i-1];
1985                 vnext= (i == n-1)? v[0]: v[i+1];
1986
1987                 t1= mean_value_half_tan(co, vprev, vmid);
1988                 t2= mean_value_half_tan(co, vmid, vnext);
1989
1990                 len= len_v3v3(co, vmid);
1991                 w[i]= (t1+t2)/len;
1992                 totweight += w[i];
1993         }
1994
1995         if(totweight != 0.0f)
1996                 for(i=0; i<n; i++)
1997                         w[i] /= totweight;
1998 }
1999
2000 /* (x1,v1)(t1=0)------(x2,v2)(t2=1), 0<t<1 --> (x,v)(t) */
2001 void interp_cubic_v3(float x[3], float v[3], const float x1[3], const float v1[3], const float x2[3], const float v2[3], const float t)
2002 {
2003         float a[3],b[3];
2004         float t2= t*t;
2005         float t3= t2*t;
2006
2007         /* cubic interpolation */
2008         a[0]= v1[0] + v2[0] + 2*(x1[0] - x2[0]);
2009         a[1]= v1[1] + v2[1] + 2*(x1[1] - x2[1]);
2010         a[2]= v1[2] + v2[2] + 2*(x1[2] - x2[2]);
2011
2012         b[0]= -2*v1[0] - v2[0] - 3*(x1[0] - x2[0]);
2013         b[1]= -2*v1[1] - v2[1] - 3*(x1[1] - x2[1]);
2014         b[2]= -2*v1[2] - v2[2] - 3*(x1[2] - x2[2]);
2015
2016         x[0]= a[0]*t3 + b[0]*t2 + v1[0]*t + x1[0];
2017         x[1]= a[1]*t3 + b[1]*t2 + v1[1]*t + x1[1];
2018         x[2]= a[2]*t3 + b[2]*t2 + v1[2]*t + x1[2];
2019
2020         v[0]= 3*a[0]*t2 + 2*b[0]*t + v1[0];
2021         v[1]= 3*a[1]*t2 + 2*b[1]*t + v1[1];
2022         v[2]= 3*a[2]*t2 + 2*b[2]*t + v1[2];
2023 }
2024
2025 /* unfortunately internal calculations have to be done at double precision to achieve correct/stable results. */
2026
2027 #define IS_ZERO(x) ((x>(-DBL_EPSILON) && x<DBL_EPSILON) ? 1 : 0)
2028
2029 /* Barycentric reverse  */
2030 void resolve_tri_uv(float r_uv[2], const float st[2], const float st0[2], const float st1[2], const float st2[2])
2031 {
2032         /* find UV such that
2033          * t= u*t0 + v*t1 + (1-u-v)*t2
2034          * u*(t0-t2) + v*(t1-t2)= t-t2 */
2035         const double a= st0[0]-st2[0], b= st1[0]-st2[0];
2036         const double c= st0[1]-st2[1], d= st1[1]-st2[1];
2037         const double det= a*d - c*b;
2038
2039         if(IS_ZERO(det)==0)     {  /* det should never be zero since the determinant is the signed ST area of the triangle. */
2040                 const double x[]= {st[0]-st2[0], st[1]-st2[1]};
2041
2042                 r_uv[0]= (float)((d*x[0] - b*x[1])/det);
2043                 r_uv[1]= (float)(((-c)*x[0] + a*x[1])/det);
2044         } else zero_v2(r_uv);
2045 }
2046
2047 /* bilinear reverse */
2048 void resolve_quad_uv(float r_uv[2], const float st[2], const float st0[2], const float st1[2], const float st2[2], const float st3[2])
2049 {
2050         const double signed_area= (st0[0]*st1[1] - st0[1]*st1[0]) + (st1[0]*st2[1] - st1[1]*st2[0]) +
2051                                   (st2[0]*st3[1] - st2[1]*st3[0]) + (st3[0]*st0[1] - st3[1]*st0[0]);
2052
2053         /* X is 2D cross product (determinant)
2054          * A= (p0-p) X (p0-p3)*/
2055         const double a= (st0[0]-st[0])*(st0[1]-st3[1]) - (st0[1]-st[1])*(st0[0]-st3[0]);
2056
2057         /* B= ( (p0-p) X (p1-p2) + (p1-p) X (p0-p3) ) / 2 */
2058         const double b= 0.5 * ( ((st0[0]-st[0])*(st1[1]-st2[1]) - (st0[1]-st[1])*(st1[0]-st2[0])) +
2059                                                          ((st1[0]-st[0])*(st0[1]-st3[1]) - (st1[1]-st[1])*(st0[0]-st3[0])) );
2060
2061         /* C = (p1-p) X (p1-p2) */
2062         const double fC= (st1[0]-st[0])*(st1[1]-st2[1]) - (st1[1]-st[1])*(st1[0]-st2[0]);
2063         const double denom= a - 2*b + fC;
2064
2065         // clear outputs
2066         zero_v2(r_uv);
2067
2068         if(IS_ZERO(denom)!=0) {
2069                 const double fDen= a-fC;
2070                 if(IS_ZERO(fDen)==0)
2071                         r_uv[0]= (float)(a / fDen);
2072         } else {
2073                 const double desc_sq= b*b - a*fC;
2074                 const double desc= sqrt(desc_sq<0.0?0.0:desc_sq);
2075                 const double s= signed_area>0 ? (-1.0) : 1.0;
2076
2077                 r_uv[0]= (float)(( (a-b) + s * desc ) / denom);
2078         }
2079
2080         /* find UV such that
2081          * fST = (1-u)(1-v)*ST0 + u*(1-v)*ST1 + u*v*ST2 + (1-u)*v*ST3 */
2082         {
2083                 const double denom_s= (1-r_uv[0])*(st0[0]-st3[0]) + r_uv[0]*(st1[0]-st2[0]);
2084                 const double denom_t= (1-r_uv[0])*(st0[1]-st3[1]) + r_uv[0]*(st1[1]-st2[1]);
2085                 int i= 0; double denom= denom_s;
2086
2087                 if(fabs(denom_s)<fabs(denom_t)) {
2088                         i= 1;
2089                         denom=denom_t;
2090                 }
2091
2092                 if(IS_ZERO(denom)==0)
2093                         r_uv[1]= (float) (( (1.0f-r_uv[0])*(st0[i]-st[i]) + r_uv[0]*(st1[i]-st[i]) ) / denom);
2094         }
2095 }
2096
2097 #undef IS_ZERO
2098
2099 /***************************** View & Projection *****************************/
2100
2101 void orthographic_m4(float matrix[][4], const float left, const float right, const float bottom, const float top, const float nearClip, const float farClip)
2102 {
2103         float Xdelta, Ydelta, Zdelta;
2104  
2105         Xdelta = right - left;
2106         Ydelta = top - bottom;
2107         Zdelta = farClip - nearClip;
2108         if (Xdelta == 0.0f || Ydelta == 0.0f || Zdelta == 0.0f) {
2109                 return;
2110         }
2111         unit_m4(matrix);
2112         matrix[0][0] = 2.0f/Xdelta;
2113         matrix[3][0] = -(right + left)/Xdelta;
2114         matrix[1][1] = 2.0f/Ydelta;
2115         matrix[3][1] = -(top + bottom)/Ydelta;
2116         matrix[2][2] = -2.0f/Zdelta;            /* note: negate Z       */
2117         matrix[3][2] = -(farClip + nearClip)/Zdelta;
2118 }
2119
2120 void perspective_m4(float mat[4][4], const float left, const float right, const float bottom, const float top, const float nearClip, const float farClip)
2121 {
2122         float Xdelta, Ydelta, Zdelta;
2123
2124         Xdelta = right - left;
2125         Ydelta = top - bottom;
2126         Zdelta = farClip - nearClip;
2127
2128         if (Xdelta == 0.0f || Ydelta == 0.0f || Zdelta == 0.0f) {
2129                 return;
2130         }
2131         mat[0][0] = nearClip * 2.0f/Xdelta;
2132         mat[1][1] = nearClip * 2.0f/Ydelta;
2133         mat[2][0] = (right + left)/Xdelta;              /* note: negate Z       */
2134         mat[2][1] = (top + bottom)/Ydelta;
2135         mat[2][2] = -(farClip + nearClip)/Zdelta;
2136         mat[2][3] = -1.0f;
2137         mat[3][2] = (-2.0f * nearClip * farClip)/Zdelta;
2138         mat[0][1] = mat[0][2] = mat[0][3] =
2139                 mat[1][0] = mat[1][2] = mat[1][3] =
2140                 mat[3][0] = mat[3][1] = mat[3][3] = 0.0;
2141
2142 }
2143
2144 /* translate a matrix created by orthographic_m4 or perspective_m4 in XY coords (used to jitter the view) */
2145 void window_translate_m4(float winmat[][4], float perspmat[][4], const float x, const float y)
2146 {
2147         if(winmat[2][3] == -1.0f) {
2148                 /* in the case of a win-matrix, this means perspective always */
2149                 float v1[3];
2150                 float v2[3];
2151                 float len1, len2;
2152
2153                 v1[0]= perspmat[0][0];
2154                 v1[1]= perspmat[1][0];
2155                 v1[2]= perspmat[2][0];
2156
2157                 v2[0]= perspmat[0][1];
2158                 v2[1]= perspmat[1][1];
2159                 v2[2]= perspmat[2][1];
2160
2161                 len1= (1.0f / len_v3(v1));
2162                 len2= (1.0f / len_v3(v2));
2163
2164                 winmat[2][0] += len1 * winmat[0][0] * x;
2165                 winmat[2][1] += len2 * winmat[1][1] * y;
2166         }
2167         else {
2168                 winmat[3][0] += x;
2169                 winmat[3][1] += y;
2170         }
2171 }
2172
2173 static void i_multmatrix(float icand[][4], float Vm[][4])
2174 {
2175         int row, col;
2176         float temp[4][4];
2177
2178         for(row=0 ; row<4 ; row++) 
2179                 for(col=0 ; col<4 ; col++)
2180                         temp[row][col] = icand[row][0] * Vm[0][col]
2181                                                    + icand[row][1] * Vm[1][col]
2182                                                    + icand[row][2] * Vm[2][col]
2183                                                    + icand[row][3] * Vm[3][col];
2184         copy_m4_m4(Vm, temp);
2185 }
2186
2187
2188 void polarview_m4(float Vm[][4],float dist, float azimuth, float incidence, float twist)
2189 {
2190
2191         unit_m4(Vm);
2192
2193         translate_m4(Vm,0.0, 0.0, -dist);
2194         rotate_m4(Vm,'Z',-twist);
2195         rotate_m4(Vm,'X',-incidence);
2196         rotate_m4(Vm,'Z',-azimuth);
2197 }
2198
2199 void lookat_m4(float mat[][4],float vx, float vy, float vz, float px, float py, float pz, float twist)
2200 {
2201         float sine, cosine, hyp, hyp1, dx, dy, dz;
2202         float mat1[4][4]= MAT4_UNITY;
2203         
2204         unit_m4(mat);
2205
2206         rotate_m4(mat, 'Z', -twist);
2207
2208         dx = px - vx;
2209         dy = py - vy;
2210         dz = pz - vz;
2211         hyp = dx * dx + dz * dz;        /* hyp squared  */
2212         hyp1 = (float)sqrt(dy*dy + hyp);
2213         hyp = (float)sqrt(hyp);         /* the real hyp */
2214         
2215         if (hyp1 != 0.0f) {             /* rotate X     */
2216                 sine = -dy / hyp1;
2217                 cosine = hyp /hyp1;
2218         } else {
2219                 sine = 0;
2220                 cosine = 1.0f;
2221         }
2222         mat1[1][1] = cosine;
2223         mat1[1][2] = sine;
2224         mat1[2][1] = -sine;
2225         mat1[2][2] = cosine;
2226         
2227         i_multmatrix(mat1, mat);
2228
2229         mat1[1][1] = mat1[2][2] = 1.0f; /* be careful here to reinit    */
2230         mat1[1][2] = mat1[2][1] = 0.0;  /* those modified by the last   */
2231         
2232         /* paragraph    */
2233         if (hyp != 0.0f) {                      /* rotate Y     */
2234                 sine = dx / hyp;
2235                 cosine = -dz / hyp;
2236         } else {
2237                 sine = 0;
2238                 cosine = 1.0f;
2239         }
2240         mat1[0][0] = cosine;
2241         mat1[0][2] = -sine;
2242         mat1[2][0] = sine;
2243         mat1[2][2] = cosine;
2244         
2245         i_multmatrix(mat1, mat);
2246         translate_m4(mat,-vx,-vy,-vz);  /* translate viewpoint to origin */
2247 }
2248
2249 int box_clip_bounds_m4(float boundbox[2][3], const float bounds[4], float winmat[4][4])
2250 {
2251         float mat[4][4], vec[4];
2252         int a, fl, flag= -1;
2253
2254         copy_m4_m4(mat, winmat);
2255
2256         for(a=0; a<8; a++) {
2257                 vec[0]= (a & 1)? boundbox[0][0]: boundbox[1][0];
2258                 vec[1]= (a & 2)? boundbox[0][1]: boundbox[1][1];
2259                 vec[2]= (a & 4)? boundbox[0][2]: boundbox[1][2];
2260                 vec[3]= 1.0;
2261                 mul_m4_v4(mat, vec);
2262
2263                 fl= 0;
2264                 if(bounds) {
2265                         if(vec[0] > bounds[1]*vec[3]) fl |= 1;
2266                         if(vec[0]< bounds[0]*vec[3]) fl |= 2;
2267                         if(vec[1] > bounds[3]*vec[3]) fl |= 4;
2268                         if(vec[1]< bounds[2]*vec[3]) fl |= 8;
2269                 }
2270                 else {
2271                         if(vec[0] < -vec[3]) fl |= 1;
2272                         if(vec[0] > vec[3]) fl |= 2;
2273                         if(vec[1] < -vec[3]) fl |= 4;
2274                         if(vec[1] > vec[3]) fl |= 8;
2275                 }
2276                 if(vec[2] < -vec[3]) fl |= 16;
2277                 if(vec[2] > vec[3]) fl |= 32;
2278
2279                 flag &= fl;
2280                 if(flag==0) return 0;
2281         }
2282
2283         return flag;
2284 }
2285
2286 void box_minmax_bounds_m4(float min[3], float max[3], float boundbox[2][3], float mat[4][4])
2287 {
2288         float mn[3], mx[3], vec[3];
2289         int a;
2290
2291         copy_v3_v3(mn, min);
2292         copy_v3_v3(mx, max);
2293
2294         for(a=0; a<8; a++) {
2295                 vec[0]= (a & 1)? boundbox[0][0]: boundbox[1][0];
2296                 vec[1]= (a & 2)? boundbox[0][1]: boundbox[1][1];
2297                 vec[2]= (a & 4)? boundbox[0][2]: boundbox[1][2];
2298
2299                 mul_m4_v3(mat, vec);
2300                 DO_MINMAX(vec, mn, mx);
2301         }
2302
2303         copy_v3_v3(min, mn);
2304         copy_v3_v3(max, mx);
2305 }
2306
2307 /********************************** Mapping **********************************/
2308
2309 void map_to_tube(float *r_u, float *r_v, const float x, const float y, const float z)
2310 {
2311         float len;
2312         
2313         *r_v = (z + 1.0f) / 2.0f;
2314         
2315         len = sqrtf(x * x + y * y);
2316         if(len > 0.0f) {
2317                 *r_u = (float)((1.0 - (atan2(x/len,y/len) / M_PI)) / 2.0);
2318         }
2319         else {
2320                 *r_v = *r_u = 0.0f; /* to avoid un-initialized variables */
2321         }
2322 }
2323
2324 void map_to_sphere(float *r_u, float *r_v, const float x, const float y, const float z)
2325 {
2326         float len;
2327         
2328         len = sqrtf(x * x + y * y + z * z);
2329         if(len > 0.0f) {
2330                 if(x==0.0f && y==0.0f) *r_u= 0.0f;      /* othwise domain error */
2331                 else *r_u = (1.0f - atan2f(x,y) / (float)M_PI) / 2.0f;
2332
2333                 *r_v = 1.0f - (float)saacos(z/len)/(float)M_PI;
2334         }
2335         else {
2336                 *r_v = *r_u = 0.0f; /* to avoid un-initialized variables */
2337         }
2338 }
2339
2340 /********************************* Normals **********************************/
2341
2342 void accumulate_vertex_normals(float n1[3], float n2[3], float n3[3],
2343         float n4[3], const float f_no[3], const float co1[3], const float co2[3],
2344         const float co3[3], const float co4[3])
2345 {
2346         float vdiffs[4][3];
2347         const int nverts= (n4!=NULL && co4!=NULL)? 4: 3;
2348
2349         /* compute normalized edge vectors */
2350         sub_v3_v3v3(vdiffs[0], co2, co1);
2351         sub_v3_v3v3(vdiffs[1], co3, co2);
2352
2353         if(nverts==3) {
2354                 sub_v3_v3v3(vdiffs[2], co1, co3);
2355         }
2356         else {
2357                 sub_v3_v3v3(vdiffs[2], co4, co3);
2358                 sub_v3_v3v3(vdiffs[3], co1, co4);
2359                 normalize_v3(vdiffs[3]);
2360         }
2361
2362         normalize_v3(vdiffs[0]);
2363         normalize_v3(vdiffs[1]);
2364         normalize_v3(vdiffs[2]);
2365
2366         /* accumulate angle weighted face normal */
2367         {
2368                 float *vn[]= {n1, n2, n3, n4};
2369                 const float *prev_edge = vdiffs[nverts-1];
2370                 int i;
2371
2372                 for(i=0; i<nverts; i++) {
2373                         const float *cur_edge= vdiffs[i];
2374                         const float fac= saacos(-dot_v3v3(cur_edge, prev_edge));
2375
2376                         // accumulate
2377                         madd_v3_v3fl(vn[i], f_no, fac);
2378                         prev_edge = cur_edge;
2379                 }
2380         }
2381 }
2382
2383 /* Add weighted face normal component into normals of the face vertices.
2384  * Caller must pass pre-allocated vdiffs of nverts length. */
2385 void accumulate_vertex_normals_poly(float **vertnos, float polyno[3],
2386         float **vertcos, float vdiffs[][3], int nverts)
2387 {
2388         int i;
2389
2390         /* calculate normalized edge directions for each edge in the poly */
2391         for (i = 0; i < nverts; i++) {
2392                 sub_v3_v3v3(vdiffs[i], vertcos[(i+1) % nverts], vertcos[i]);
2393                 normalize_v3(vdiffs[i]);
2394         }
2395
2396         /* accumulate angle weighted face normal */
2397         {
2398                 const float *prev_edge = vdiffs[nverts-1];
2399                 int i;
2400
2401                 for(i=0; i<nverts; i++) {
2402                         const float *cur_edge = vdiffs[i];
2403
2404                         /* calculate angle between the two poly edges incident on
2405                          * this vertex */
2406                         const float fac= saacos(-dot_v3v3(cur_edge, prev_edge));
2407
2408                         /* accumulate */
2409                         madd_v3_v3fl(vertnos[i], polyno, fac);
2410                         prev_edge = cur_edge;
2411                 }
2412         }
2413 }
2414
2415 /********************************* Tangents **********************************/
2416
2417 /* For normal map tangents we need to detect uv boundaries, and only average
2418  * tangents in case the uvs are connected. Alternative would be to store 1 
2419  * tangent per face rather than 4 per face vertex, but that's not compatible
2420  * with games */
2421
2422
2423 /* from BKE_mesh.h */
2424 #define STD_UV_CONNECT_LIMIT    0.0001f
2425
2426 void sum_or_add_vertex_tangent(void *arena, VertexTangent **vtang, const float tang[3], const float uv[2])
2427 {
2428         VertexTangent *vt;
2429
2430         /* find a tangent with connected uvs */
2431         for(vt= *vtang; vt; vt=vt->next) {
2432                 if(fabsf(uv[0]-vt->uv[0]) < STD_UV_CONNECT_LIMIT && fabsf(uv[1]-vt->uv[1]) < STD_UV_CONNECT_LIMIT) {
2433                         add_v3_v3(vt->tang, tang);
2434                         return;
2435                 }
2436         }
2437
2438         /* if not found, append a new one */
2439         vt= BLI_memarena_alloc((MemArena *)arena, sizeof(VertexTangent));
2440         copy_v3_v3(vt->tang, tang);
2441         vt->uv[0]= uv[0];
2442         vt->uv[1]= uv[1];
2443
2444         if(*vtang)
2445                 vt->next= *vtang;
2446         *vtang= vt;
2447 }
2448
2449 float *find_vertex_tangent(VertexTangent *vtang, const float uv[2])
2450 {
2451         VertexTangent *vt;
2452         static float nulltang[3] = {0.0f, 0.0f, 0.0f};
2453
2454         for(vt= vtang; vt; vt=vt->next)
2455                 if(fabsf(uv[0]-vt->uv[0]) < STD_UV_CONNECT_LIMIT && fabsf(uv[1]-vt->uv[1]) < STD_UV_CONNECT_LIMIT)
2456                         return vt->tang;
2457
2458         return nulltang;        /* shouldn't happen, except for nan or so */
2459 }
2460
2461 void tangent_from_uv(float uv1[2], float uv2[2], float uv3[3], float co1[3], float co2[3], float co3[3], float n[3], float tang[3])
2462 {
2463         float s1= uv2[0] - uv1[0];
2464         float s2= uv3[0] - uv1[0];
2465         float t1= uv2[1] - uv1[1];
2466         float t2= uv3[1] - uv1[1];
2467         float det= (s1 * t2 - s2 * t1);
2468
2469         if(det != 0.0f) { /* otherwise 'tang' becomes nan */
2470                 float tangv[3], ct[3], e1[3], e2[3];
2471
2472                 det= 1.0f/det;
2473
2474                 /* normals in render are inversed... */
2475                 sub_v3_v3v3(e1, co1, co2);
2476                 sub_v3_v3v3(e2, co1, co3);
2477                 tang[0] = (t2*e1[0] - t1*e2[0])*det;
2478                 tang[1] = (t2*e1[1] - t1*e2[1])*det;
2479                 tang[2] = (t2*e1[2] - t1*e2[2])*det;
2480                 tangv[0] = (s1*e2[0] - s2*e1[0])*det;
2481                 tangv[1] = (s1*e2[1] - s2*e1[1])*det;
2482                 tangv[2] = (s1*e2[2] - s2*e1[2])*det;
2483                 cross_v3_v3v3(ct, tang, tangv);
2484         
2485                 /* check flip */
2486                 if (dot_v3v3(ct, n) < 0.0f) {
2487                         negate_v3(tang);
2488                 }
2489         }
2490         else {
2491                 tang[0]= tang[1]= tang[2]=  0.0;
2492         }
2493 }
2494
2495 /****************************** Vector Clouds ********************************/
2496
2497 /* vector clouds */
2498 /* void vcloud_estimate_transform(int list_size, float (*pos)[3], float *weight,float (*rpos)[3], float *rweight,
2499  *                                float lloc[3],float rloc[3],float lrot[3][3],float lscale[3][3])
2500  *
2501  * input
2502  * (
2503  * int list_size
2504  * 4 lists as pointer to array[list_size]
2505  * 1. current pos array of 'new' positions 
2506  * 2. current weight array of 'new'weights (may be NULL pointer if you have no weights )
2507  * 3. reference rpos array of 'old' positions
2508  * 4. reference rweight array of 'old'weights (may be NULL pointer if you have no weights )
2509  * )
2510  * output
2511  * (
2512  * float lloc[3] center of mass pos
2513  * float rloc[3] center of mass rpos
2514  * float lrot[3][3] rotation matrix
2515  * float lscale[3][3] scale matrix
2516  * pointers may be NULL if not needed
2517  * )
2518  */
2519
2520 /* can't believe there is none in math utils */
2521 static float _det_m3(float m2[3][3])
2522 {
2523         float det = 0.f;
2524         if (m2) {
2525         det= m2[0][0]* (m2[1][1]*m2[2][2] - m2[1][2]*m2[2][1])
2526                 -m2[1][0]* (m2[0][1]*m2[2][2] - m2[0][2]*m2[2][1])
2527                 +m2[2][0]* (m2[0][1]*m2[1][2] - m2[0][2]*m2[1][1]);
2528         }
2529         return det;
2530 }
2531
2532
2533 void vcloud_estimate_transform(int list_size, float (*pos)[3], float *weight,float (*rpos)[3], float *rweight,
2534                                                         float lloc[3],float rloc[3],float lrot[3][3],float lscale[3][3])
2535 {
2536         float accu_com[3]= {0.0f,0.0f,0.0f}, accu_rcom[3]= {0.0f,0.0f,0.0f};
2537         float accu_weight = 0.0f,accu_rweight = 0.0f,eps = 0.000001f;
2538
2539         int a;
2540         /* first set up a nice default response */
2541         if (lloc) zero_v3(lloc);
2542         if (rloc) zero_v3(rloc);
2543         if (lrot) unit_m3(lrot);
2544         if (lscale) unit_m3(lscale);
2545         /* do com for both clouds */
2546         if (pos && rpos && (list_size > 0)) /* paranoya check */
2547         {
2548                 /* do com for both clouds */
2549                 for(a=0; a<list_size; a++) {
2550                         if (weight) {
2551                                 float v[3];
2552                                 copy_v3_v3(v,pos[a]);
2553                                 mul_v3_fl(v,weight[a]);
2554                                 add_v3_v3(accu_com, v);
2555                                 accu_weight +=weight[a]; 
2556                         }
2557                         else add_v3_v3(accu_com, pos[a]);
2558
2559                         if (rweight) {
2560                                 float v[3];
2561                                 copy_v3_v3(v,rpos[a]);
2562                                 mul_v3_fl(v,rweight[a]);
2563                                 add_v3_v3(accu_rcom, v);
2564                                 accu_rweight +=rweight[a]; 
2565                         }
2566                         else add_v3_v3(accu_rcom, rpos[a]);
2567
2568                 }
2569                 if (!weight || !rweight) {
2570                         accu_weight = accu_rweight = list_size;
2571                 }
2572
2573                 mul_v3_fl(accu_com,1.0f/accu_weight);
2574                 mul_v3_fl(accu_rcom,1.0f/accu_rweight);
2575                 if (lloc) copy_v3_v3(lloc,accu_com);
2576                 if (rloc) copy_v3_v3(rloc,accu_rcom);
2577                 if (lrot || lscale) { /* caller does not want rot nor scale, strange but legal */
2578                         /*so now do some reverse engeneering and see if we can split rotation from scale ->Polardecompose*/
2579                         /* build 'projection' matrix */
2580                         float m[3][3],mr[3][3],q[3][3],qi[3][3];
2581                         float va[3],vb[3],stunt[3];
2582                         float odet,ndet;
2583                         int i=0,imax=15;
2584                         zero_m3(m);
2585                         zero_m3(mr);
2586
2587                         /* build 'projection' matrix */
2588                         for(a=0; a<list_size; a++) {
2589                                 sub_v3_v3v3(va,rpos[a],accu_rcom);
2590                                 /* mul_v3_fl(va,bp->mass);  mass needs renormalzation here ?? */
2591                                 sub_v3_v3v3(vb,pos[a],accu_com);
2592                                 /* mul_v3_fl(va,rp->mass); */
2593                                 m[0][0] += va[0] * vb[0];
2594                                 m[0][1] += va[0] * vb[1];
2595                                 m[0][2] += va[0] * vb[2];
2596
2597                                 m[1][0] += va[1] * vb[0];
2598                                 m[1][1] += va[1] * vb[1];
2599                                 m[1][2] += va[1] * vb[2];
2600
2601                                 m[2][0] += va[2] * vb[0];
2602                                 m[2][1] += va[2] * vb[1];
2603                                 m[2][2] += va[2] * vb[2];
2604
2605                                 /* building the referenc matrix on the fly
2606                                  * needed to scale properly later */
2607
2608                                 mr[0][0] += va[0] * va[0];
2609                                 mr[0][1] += va[0] * va[1];
2610                                 mr[0][2] += va[0] * va[2];
2611
2612                                 mr[1][0] += va[1] * va[0];
2613                                 mr[1][1] += va[1] * va[1];
2614                                 mr[1][2] += va[1] * va[2];
2615
2616                                 mr[2][0] += va[2] * va[0];
2617                                 mr[2][1] += va[2] * va[1];
2618                                 mr[2][2] += va[2] * va[2];
2619                         }
2620                         copy_m3_m3(q,m);
2621                         stunt[0] = q[0][0]; stunt[1] = q[1][1]; stunt[2] = q[2][2];
2622                         /* renormalizing for numeric stability */
2623                         mul_m3_fl(q,1.f/len_v3(stunt)); 
2624
2625                         /* this is pretty much Polardecompose 'inline' the algo based on Higham's thesis */
2626                         /* without the far case ... but seems to work here pretty neat                   */
2627                         odet = 0.f;
2628                         ndet = _det_m3(q);
2629                         while((odet-ndet)*(odet-ndet) > eps && i<imax) {
2630                                 invert_m3_m3(qi,q);
2631                                 transpose_m3(qi);
2632                                 add_m3_m3m3(q,q,qi);
2633                                 mul_m3_fl(q,0.5f);
2634                                 odet = ndet;
2635                                 ndet = _det_m3(q);
2636                                 i++;
2637                         }
2638
2639                         if (i) {
2640                                 float scale[3][3];
2641                                 float irot[3][3];
2642                                 if(lrot) copy_m3_m3(lrot,q);
2643                                 invert_m3_m3(irot,q);
2644                                 invert_m3_m3(qi,mr);
2645                                 mul_m3_m3m3(q,m,qi); 
2646                                 mul_m3_m3m3(scale,irot,q); 
2647                                 if(lscale) copy_m3_m3(lscale,scale);
2648
2649                         }
2650                 }
2651         }
2652 }
2653
2654 /******************************* Form Factor *********************************/
2655
2656 static void vec_add_dir(float r[3], const float v1[3], const float v2[3], const float fac)
2657 {
2658         r[0]= v1[0] + fac*(v2[0] - v1[0]);
2659         r[1]= v1[1] + fac*(v2[1] - v1[1]);
2660         r[2]= v1[2] + fac*(v2[2] - v1[2]);
2661 }
2662
2663 static int ff_visible_quad(const float p[3], const float n[3], const float v0[3], const float v1[3], const float v2[3], float q0[3], float q1[3], float q2[3], float q3[3])
2664 {
2665         static const float epsilon = 1e-6f;
2666         float c, sd[3];
2667         
2668         c= dot_v3v3(n, p);
2669
2670         /* signed distances from the vertices to the plane. */
2671         sd[0]= dot_v3v3(n, v0) - c;
2672         sd[1]= dot_v3v3(n, v1) - c;
2673         sd[2]= dot_v3v3(n, v2) - c;
2674
2675         if(fabsf(sd[0]) < epsilon) sd[0] = 0.0f;
2676         if(fabsf(sd[1]) < epsilon) sd[1] = 0.0f;
2677         if(fabsf(sd[2]) < epsilon) sd[2] = 0.0f;
2678
2679         if(sd[0] > 0) {
2680                 if(sd[1] > 0) {
2681                         if(sd[2] > 0) {
2682                                 // +++
2683                                 copy_v3_v3(q0, v0);
2684                                 copy_v3_v3(q1, v1);
2685                                 copy_v3_v3(q2, v2);
2686                                 copy_v3_v3(q3, q2);
2687                         }
2688                         else if(sd[2] < 0) {
2689                                 // ++-
2690                                 copy_v3_v3(q0, v0);
2691                                 copy_v3_v3(q1, v1);
2692                                 vec_add_dir(q2, v1, v2, (sd[1]/(sd[1]-sd[2])));
2693                                 vec_add_dir(q3, v0, v2, (sd[0]/(sd[0]-sd[2])));
2694                         }
2695                         else {
2696                                 // ++0
2697                                 copy_v3_v3(q0, v0);
2698                                 copy_v3_v3(q1, v1);
2699                                 copy_v3_v3(q2, v2);
2700                                 copy_v3_v3(q3, q2);
2701                         }
2702                 }
2703                 else if(sd[1] < 0) {
2704                         if(sd[2] > 0) {
2705                                 // +-+
2706                                 copy_v3_v3(q0, v0);
2707                                 vec_add_dir(q1, v0, v1, (sd[0]/(sd[0]-sd[1])));
2708                                 vec_add_dir(q2, v1, v2, (sd[1]/(sd[1]-sd[2])));
2709                                 copy_v3_v3(q3, v2);
2710                         }
2711                         else if(sd[2] < 0) {
2712                                 // +--
2713                                 copy_v3_v3(q0, v0);
2714                                 vec_add_dir(q1, v0, v1, (sd[0]/(sd[0]-sd[1])));
2715                                 vec_add_dir(q2, v0, v2, (sd[0]/(sd[0]-sd[2])));
2716                                 copy_v3_v3(q3, q2);
2717                         }
2718                         else {
2719                                 // +-0
2720                                 copy_v3_v3(q0, v0);
2721                                 vec_add_dir(q1, v0, v1, (sd[0]/(sd[0]-sd[1])));
2722                                 copy_v3_v3(q2, v2);
2723                                 copy_v3_v3(q3, q2);
2724                         }
2725                 }
2726                 else {
2727                         if(sd[2] > 0) {
2728                                 // +0+
2729                                 copy_v3_v3(q0, v0);
2730                                 copy_v3_v3(q1, v1);
2731                                 copy_v3_v3(q2, v2);
2732                                 copy_v3_v3(q3, q2);
2733                         }
2734                         else if(sd[2] < 0) {
2735                                 // +0-
2736                                 copy_v3_v3(q0, v0);
2737                                 copy_v3_v3(q1, v1);
2738                                 vec_add_dir(q2, v0, v2, (sd[0]/(sd[0]-sd[2])));
2739                                 copy_v3_v3(q3, q2);
2740                         }
2741                         else {
2742                                 // +00
2743                                 copy_v3_v3(q0, v0);
2744                                 copy_v3_v3(q1, v1);
2745                                 copy_v3_v3(q2, v2);
2746                                 copy_v3_v3(q3, q2);
2747                         }
2748                 }
2749         }
2750         else if(sd[0] < 0) {
2751                 if(sd[1] > 0) {
2752                         if(sd[2] > 0) {
2753                                 // -++
2754                                 vec_add_dir(q0, v0, v1, (sd[0]/(sd[0]-sd[1])));
2755                                 copy_v3_v3(q1, v1);
2756                                 copy_v3_v3(q2, v2);
2757                                 vec_add_dir(q3, v0, v2, (sd[0]/(sd[0]-sd[2])));
2758                         }
2759                         else if(sd[2] < 0) {
2760                                 // -+-
2761                                 vec_add_dir(q0, v0, v1, (sd[0]/(sd[0]-sd[1])));
2762                                 copy_v3_v3(q1, v1);
2763                                 vec_add_dir(q2, v1, v2, (sd[1]/(sd[1]-sd[2])));
2764                                 copy_v3_v3(q3, q2);
2765                         }
2766                         else {
2767                                 // -+0
2768                                 vec_add_dir(q0, v0, v1, (sd[0]/(sd[0]-sd[1])));
2769                                 copy_v3_v3(q1, v1);
2770                                 copy_v3_v3(q2, v2);
2771                                 copy_v3_v3(q3, q2);
2772                         }
2773                 }
2774                 else if(sd[1] < 0) {
2775                         if(sd[2] > 0) {
2776                                 // --+
2777                                 vec_add_dir(q0, v0, v2, (sd[0]/(sd[0]-sd[2])));
2778                                 vec_add_dir(q1, v1, v2, (sd[1]/(sd[1]-sd[2])));
2779                                 copy_v3_v3(q2, v2);
2780                                 copy_v3_v3(q3, q2);
2781                         }
2782                         else if(sd[2] < 0) {
2783                                 // ---
2784                                 return 0;
2785                         }
2786                         else {
2787                                 // --0
2788                                 return 0;
2789                         }
2790                 }
2791                 else {
2792                         if(sd[2] > 0) {
2793                                 // -0+
2794                                 vec_add_dir(q0, v0, v2, (sd[0]/(sd[0]-sd[2])));
2795                                 copy_v3_v3(q1, v1);
2796                                 copy_v3_v3(q2, v2);
2797                                 copy_v3_v3(q3, q2);
2798                         }
2799                         else if(sd[2] < 0) {
2800                                 // -0-
2801                                 return 0;
2802                         }
2803                         else {
2804                                 // -00
2805                                 return 0;
2806                         }
2807                 }
2808         }
2809         else {
2810                 if(sd[1] > 0) {
2811                         if(sd[2] > 0) {
2812                                 // 0++
2813                                 copy_v3_v3(q0, v0);
2814                                 copy_v3_v3(q1, v1);
2815                                 copy_v3_v3(q2, v2);
2816                                 copy_v3_v3(q3, q2);
2817                         }
2818                         else if(sd[2] < 0) {
2819                                 // 0+-
2820                                 copy_v3_v3(q0, v0);
2821                                 copy_v3_v3(q1, v1);
2822                                 vec_add_dir(q2, v1, v2, (sd[1]/(sd[1]-sd[2])));
2823                                 copy_v3_v3(q3, q2);
2824                         }
2825                         else {
2826                                 // 0+0
2827                                 copy_v3_v3(q0, v0);
2828                                 copy_v3_v3(q1, v1);
2829                                 copy_v3_v3(q2, v2);
2830                                 copy_v3_v3(q3, q2);
2831                         }
2832                 }
2833                 else if(sd[1] < 0) {
2834                         if(sd[2] > 0) {
2835                                 // 0-+
2836                                 copy_v3_v3(q0, v0);
2837                                 vec_add_dir(q1, v1, v2, (sd[1]/(sd[1]-sd[2])));
2838                                 copy_v3_v3(q2, v2);
2839                                 copy_v3_v3(q3, q2);
2840                         }
2841                         else if(sd[2] < 0) {
2842                                 // 0--
2843                                 return 0;
2844                         }
2845                         else {
2846                                 // 0-0
2847                                 return 0;
2848                         }
2849                 }
2850                 else {
2851                         if(sd[2] > 0) {
2852                                 // 00+
2853                                 copy_v3_v3(q0, v0);
2854                                 copy_v3_v3(q1, v1);
2855                                 copy_v3_v3(q2, v2);
2856                                 copy_v3_v3(q3, q2);
2857                         }
2858                         else if(sd[2] < 0) {
2859                                 // 00-
2860                                 return 0;
2861                         }
2862                         else {
2863                                 // 000
2864                                 return 0;
2865                         }
2866                 }
2867         }
2868
2869         return 1;
2870 }
2871
2872 /* altivec optimization, this works, but is unused */
2873
2874 #if 0
2875 #include <Accelerate/Accelerate.h>
2876
2877 typedef union {
2878         vFloat v;
2879         float f[4];
2880 } vFloatResult;
2881
2882 static vFloat vec_splat_float(float val)
2883 {
2884         return (vFloat) {val, val, val, val};
2885 }
2886
2887 static float ff_quad_form_factor(float *p, float *n, float *q0, float *q1, float *q2, float *q3)
2888 {
2889         vFloat vcos, rlen, vrx, vry, vrz, vsrx, vsry, vsrz, gx, gy, gz, vangle;
2890         vUInt8 rotate = (vUInt8) {4,5,6,7,8,9,10,11,12,13,14,15,0,1,2,3};
2891         vFloatResult vresult;
2892         float result;
2893
2894         /* compute r* */
2895         vrx = (vFloat) {q0[0], q1[0], q2[0], q3[0]} - vec_splat_float(p[0]);
2896         vry = (vFloat) {q0[1], q1[1], q2[1], q3[1]} - vec_splat_float(p[1]);
2897         vrz = (vFloat) {q0[2], q1[2], q2[2], q3[2]} - vec_splat_float(p[2]);
2898
2899         /* normalize r* */
2900         rlen = vec_rsqrte(vrx*vrx + vry*vry + vrz*vrz + vec_splat_float(1e-16f));
2901         vrx = vrx*rlen;
2902         vry = vry*rlen;
2903         vrz = vrz*rlen;
2904
2905         /* rotate r* for cross and dot */
2906         vsrx= vec_perm(vrx, vrx, rotate);
2907         vsry= vec_perm(vry, vry, rotate);
2908         vsrz= vec_perm(vrz, vrz, rotate);
2909
2910         /* cross product */
2911         gx = vsry*vrz - vsrz*vry;
2912         gy = vsrz*vrx - vsrx*vrz;
2913         gz = vsrx*vry - vsry*vrx;
2914
2915         /* normalize */
2916         rlen = vec_rsqrte(gx*gx + gy*gy + gz*gz + vec_splat_float(1e-16f));
2917         gx = gx*rlen;
2918         gy = gy*rlen;
2919         gz = gz*rlen;
2920
2921         /* angle */
2922         vcos = vrx*vsrx + vry*vsry + vrz*vsrz;
2923         vcos= vec_max(vec_min(vcos, vec_splat_float(1.0f)), vec_splat_float(-1.0f));
2924         vangle= vacosf(vcos);
2925
2926         /* dot */
2927         vresult.v = (vec_splat_float(n[0])*gx +
2928                      vec_splat_float(n[1])*gy +
2929                      vec_splat_float(n[2])*gz)*vangle;
2930
2931         result= (vresult.f[0] + vresult.f[1] + vresult.f[2] + vresult.f[3])*(0.5f/(float)M_PI);
2932         result= MAX2(result, 0.0f);
2933
2934         return result;
2935 }
2936
2937 #endif
2938
2939 /* SSE optimization, acos code doesn't work */
2940
2941 #if 0
2942
2943 #include <xmmintrin.h>
2944
2945 static __m128 sse_approx_acos(__m128 x)
2946 {
2947         /* needs a better approximation than taylor expansion of acos, since that
2948          * gives big erros for near 1.0 values, sqrt(2*x)*acos(1-x) should work
2949          * better, see http://www.tom.womack.net/projects/sse-fast-arctrig.html */
2950
2951         return _mm_set_ps1(1.0f);
2952 }
2953
2954 static float ff_quad_form_factor(float *p, float *n, float *q0, float *q1, float *q2, float *q3)
2955 {
2956         float r0[3], r1[3], r2[3], r3[3], g0[3], g1[3], g2[3], g3[3];
2957         float a1, a2, a3, a4, dot1, dot2, dot3, dot4, result;
2958         float fresult[4] __attribute__((aligned(16)));
2959         __m128 qx, qy, qz, rx, ry, rz, rlen, srx, sry, srz, gx, gy, gz, glen, rcos, angle, aresult;
2960
2961         /* compute r */
2962         qx = _mm_set_ps(q3[0], q2[0], q1[0], q0[0]);
2963         qy = _mm_set_ps(q3[1], q2[1], q1[1], q0[1]);
2964         qz = _mm_set_ps(q3[2], q2[2], q1[2], q0[2]);
2965
2966         rx = qx - _mm_set_ps1(p[0]);
2967         ry = qy - _mm_set_ps1(p[1]);
2968         rz = qz - _mm_set_ps1(p[2]);
2969
2970         /* normalize r */
2971         rlen = _mm_rsqrt_ps(rx*rx + ry*ry + rz*rz + _mm_set_ps1(1e-16f));
2972         rx = rx*rlen;
2973         ry = ry*rlen;
2974         rz = rz*rlen;
2975
2976         /* cross product */
2977         srx = _mm_shuffle_ps(rx, rx, _MM_SHUFFLE(0,3,2,1));
2978         sry = _mm_shuffle_ps(ry, ry, _MM_SHUFFLE(0,3,2,1));
2979         srz = _mm_shuffle_ps(rz, rz, _MM_SHUFFLE(0,3,2,1));
2980
2981         gx = sry*rz - srz*ry;
2982         gy = srz*rx - srx*rz;
2983         gz = srx*ry - sry*rx;
2984
2985         /* normalize g */
2986         glen = _mm_rsqrt_ps(gx*gx + gy*gy + gz*gz + _mm_set_ps1(1e-16f));
2987         gx = gx*glen;
2988         gy = gy*glen;
2989         gz = gz*glen;
2990
2991         /* compute angle */
2992         rcos = rx*srx + ry*sry + rz*srz;
2993         rcos= _mm_max_ps(_mm_min_ps(rcos, _mm_set_ps1(1.0f)), _mm_set_ps1(-1.0f));
2994
2995         angle = sse_approx_cos(rcos);
2996         aresult = (_mm_set_ps1(n[0])*gx + _mm_set_ps1(n[1])*gy + _mm_set_ps1(n[2])*gz)*angle;
2997
2998         /* sum together */
2999         result= (fresult[0] + fresult[1] + fresult[2] + fresult[3])*(0.5f/(float)M_PI);
3000         result= MAX2(result, 0.0f);
3001
3002         return result;
3003 }
3004
3005 #endif
3006
3007 static void ff_normalize(float n[3])
3008 {
3009         float d;
3010         
3011         d= dot_v3v3(n, n);
3012
3013         if(d > 1.0e-35F) {
3014                 d= 1.0f/sqrtf(d);
3015
3016                 n[0] *= d; 
3017                 n[1] *= d; 
3018                 n[2] *= d;
3019         } 
3020 }
3021
3022 static float ff_quad_form_factor(const float p[3], const float n[3], const float q0[3], const float q1[3], const float q2[3], const float q3[3])
3023 {
3024         float r0[3], r1[3], r2[3], r3[3], g0[3], g1[3], g2[3], g3[3];
3025         float a1, a2, a3, a4, dot1, dot2, dot3, dot4, result;
3026
3027         sub_v3_v3v3(r0, q0, p);
3028         sub_v3_v3v3(r1, q1, p);
3029         sub_v3_v3v3(r2, q2, p);
3030         sub_v3_v3v3(r3, q3, p);
3031
3032         ff_normalize(r0);
3033         ff_normalize(r1);
3034         ff_normalize(r2);
3035         ff_normalize(r3);
3036
3037         cross_v3_v3v3(g0, r1, r0); ff_normalize(g0);
3038         cross_v3_v3v3(g1, r2, r1); ff_normalize(g1);
3039         cross_v3_v3v3(g2, r3, r2); ff_normalize(g2);
3040         cross_v3_v3v3(g3, r0, r3); ff_normalize(g3);
3041
3042         a1= saacosf(dot_v3v3(r0, r1));
3043         a2= saacosf(dot_v3v3(r1, r2));
3044         a3= saacosf(dot_v3v3(r2, r3));
3045         a4= saacosf(dot_v3v3(r3, r0));
3046
3047         dot1= dot_v3v3(n, g0);
3048         dot2= dot_v3v3(n, g1);
3049         dot3= dot_v3v3(n, g2);
3050         dot4= dot_v3v3(n, g3);
3051
3052         result= (a1*dot1 + a2*dot2 + a3*dot3 + a4*dot4)*0.5f/(float)M_PI;
3053         result= MAX2(result, 0.0f);
3054
3055         return result;
3056 }
3057
3058 float form_factor_hemi_poly(float p[3], float n[3], float v1[3], float v2[3], float v3[3], float v4[3])
3059 {
3060         /* computes how much hemisphere defined by point and normal is
3061          * covered by a quad or triangle, cosine weighted */
3062         float q0[3], q1[3], q2[3], q3[3], contrib= 0.0f;
3063
3064         if(ff_visible_quad(p, n, v1, v2, v3, q0, q1, q2, q3))
3065                 contrib += ff_quad_form_factor(p, n, q0, q1, q2, q3);
3066         
3067         if(v4 && ff_visible_quad(p, n, v1, v3, v4, q0, q1, q2, q3))
3068                 contrib += ff_quad_form_factor(p, n, q0, q1, q2, q3);
3069
3070         return contrib;
3071 }
3072
3073 /* evaluate if entire quad is a proper convex quad */
3074  int is_quad_convex_v3(const float *v1, const float *v2, const float *v3, const float *v4)
3075  {
3076         float nor[3], nor1[3], nor2[3], vec[4][2];
3077         int axis_a, axis_b;
3078         
3079         /* define projection, do both trias apart, quad is undefined! */
3080         normal_tri_v3(nor1, v1, v2, v3);
3081         normal_tri_v3(nor2, v1, v3, v4);
3082         add_v3_v3v3(nor, nor1, nor2);
3083
3084         axis_dominant_v3(&axis_a, &axis_b, nor);
3085
3086         vec[0][0]= v1[axis_a]; vec[0][1]= v1[axis_b];
3087         vec[1][0]= v2[axis_a]; vec[1][1]= v2[axis_b];
3088
3089         vec[2][0]= v3[axis_a]; vec[2][1]= v3[axis_b];
3090         vec[3][0]= v4[axis_a]; vec[3][1]= v4[axis_b];
3091         
3092         /* linetests, the 2 diagonals have to instersect to be convex */
3093         return (isect_line_line_v2(vec[0], vec[2], vec[1], vec[3]) > 0) ? 1 : 0;
3094 }