use 'bool' for BLI_/BKE_ functions.
[blender.git] / source / blender / blenlib / intern / lasso.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  */
28
29 /** \file blender/blenlib/intern/lasso.c
30  *  \ingroup bli
31  */
32
33 #include "DNA_vec_types.h"
34
35 #include "BLI_math.h"
36 #include "BLI_rect.h"
37
38 #include "BLI_lasso.h" /* own include */
39
40 void BLI_lasso_boundbox(rcti *rect, const int mcords[][2], const short moves)
41 {
42         short a;
43
44         rect->xmin = rect->xmax = mcords[0][0];
45         rect->ymin = rect->ymax = mcords[0][1];
46
47         for (a = 1; a < moves; a++) {
48                 if      (mcords[a][0] < rect->xmin) rect->xmin = mcords[a][0];
49                 else if (mcords[a][0] > rect->xmax) rect->xmax = mcords[a][0];
50                 if      (mcords[a][1] < rect->ymin) rect->ymin = mcords[a][1];
51                 else if (mcords[a][1] > rect->ymax) rect->ymax = mcords[a][1];
52         }
53 }
54
55
56 bool BLI_lasso_is_point_inside(const int mcords[][2], const short moves,
57                                const int sx, const int sy,
58                                const int error_value)
59 {
60         /* we do the angle rule, define that all added angles should be about zero or (2 * PI) */
61         float angletot = 0.0, dot, ang, cross, fp1[2], fp2[2];
62         int a;
63         const int *p1, *p2;
64
65         if (sx == error_value) {
66                 return false;
67         }
68
69         p1 = mcords[moves - 1];
70         p2 = mcords[0];
71
72         /* first vector */
73         fp1[0] = (float)(p1[0] - sx);
74         fp1[1] = (float)(p1[1] - sy);
75         normalize_v2(fp1);
76
77         for (a = 0; a < moves; a++) {
78                 /* second vector */
79                 fp2[0] = (float)(p2[0] - sx);
80                 fp2[1] = (float)(p2[1] - sy);
81                 normalize_v2(fp2);
82
83                 /* dot and angle and cross */
84                 dot = fp1[0] * fp2[0] + fp1[1] * fp2[1];
85                 ang = fabs(saacos(dot));
86
87                 cross = (float)((p1[1] - p2[1]) * (p1[0] - sx) + (p2[0] - p1[0]) * (p1[1] - sy));
88
89                 if (cross < 0.0f) angletot -= ang;
90                 else angletot += ang;
91
92                 /* circulate */
93                 fp1[0] = fp2[0]; fp1[1] = fp2[1];
94                 p1 = p2;
95                 p2 = mcords[a + 1];
96         }
97
98         if (fabsf(angletot) > 4.0f) return true;
99         return false;
100 }
101
102 /* edge version for lasso select. we assume boundbox check was done */
103 bool BLI_lasso_is_edge_inside(const int mcords[][2], const short moves,
104                               int x0, int y0, int x1, int y1,
105                               const int error_value)
106 {
107         int v1[2], v2[2];
108         int a;
109
110         if (x0 == error_value || x1 == error_value) {
111                 return false;
112         }
113
114         v1[0] = x0, v1[1] = y0;
115         v2[0] = x1, v2[1] = y1;
116
117         /* check points in lasso */
118         if (BLI_lasso_is_point_inside(mcords, moves, v1[0], v1[1], error_value)) return true;
119         if (BLI_lasso_is_point_inside(mcords, moves, v2[0], v2[1], error_value)) return true;
120
121         /* no points in lasso, so we have to intersect with lasso edge */
122
123         if (isect_line_line_v2_int(mcords[0], mcords[moves - 1], v1, v2) > 0) return true;
124         for (a = 0; a < moves - 1; a++) {
125                 if (isect_line_line_v2_int(mcords[a], mcords[a + 1], v1, v2) > 0) return true;
126         }
127
128         return false;
129 }