fix [#30715] bmesh: select linked not ignoring hidden verts/edges/faces
[blender.git] / source / blender / bmesh / intern / bmesh_walkers.h
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s): Joseph Eagar.
19  *
20  * ***** END GPL LICENSE BLOCK *****
21  */
22
23 #ifndef __BMESH_WALKERS_H__
24 #define __BMESH_WALKERS_H__
25
26 /** \file blender/bmesh/intern/bmesh_walkers.h
27  *  \ingroup bmesh
28  */
29
30 #include "BLI_ghash.h"
31
32 /*
33  * NOTE: do NOT modify topology while walking a mesh!
34  */
35
36 typedef enum {
37         BMW_DEPTH_FIRST,
38         BMW_BREADTH_FIRST
39 } BMWOrder;
40
41 typedef enum {
42         BMW_FLAG_NOP = 0,
43         BMW_FLAG_TEST_HIDDEN = (1 << 0)
44 } BMWFlag;
45
46 /*Walkers*/
47 typedef struct BMWalker {
48         void  (*begin) (struct BMWalker *walker, void *start);
49         void *(*step)  (struct BMWalker *walker);
50         void *(*yield) (struct BMWalker *walker);
51         int structsize;
52         BMWOrder order;
53         int valid_mask;
54
55         /* runtime */
56         int layer;
57
58         BMesh *bm;
59         BLI_mempool *worklist;
60         ListBase states;
61
62         /* these masks are to be tested against elements BMO_elem_flag_test(),
63          * should never be accessed directly only through BMW_init() and bmw_mask_check_*() functions */
64         short mask_vert;
65         short mask_edge;
66         short mask_face;
67
68         BMWFlag flag;
69
70         GHash *visithash;
71         GHash *secvisithash;
72         int depth;
73 } BMWalker;
74
75 /* define to make BMW_init more clear */
76 #define BMW_MASK_NOP 0
77
78 /* initialize a walker.  searchmask restricts some (not all) walkers to
79  * elements with a specific tool flag set.  flags is specific to each walker.*/
80 void BMW_init(struct BMWalker *walker, BMesh *bm, int type,
81               short mask_vert, short mask_edge, short mask_face,
82               BMWFlag flag,
83               int layer);
84 void *BMW_begin(BMWalker *walker, void *start);
85 void *BMW_step(struct BMWalker *walker);
86 void  BMW_end(struct BMWalker *walker);
87 int   BMW_current_depth(BMWalker *walker);
88
89 /*these are used by custom walkers*/
90 void *BMW_current_state(BMWalker *walker);
91 void *BMW_state_add(BMWalker *walker);
92 void  BMW_state_remove(BMWalker *walker);
93 void *BMW_walk(BMWalker *walker);
94 void  BMW_reset(BMWalker *walker);
95
96 /*
97  * example of usage, walking over an island of tool flagged faces:
98  *
99  * BMWalker walker;
100  * BMFace *f;
101  *
102  * BMW_init(&walker, bm, BMW_ISLAND, SOME_OP_FLAG);
103  * f = BMW_begin(&walker, some_start_face);
104  * for (; f; f = BMW_step(&walker))
105  * {
106  *     //do something with f
107  * }
108  * BMW_end(&walker);
109  */
110
111 enum {
112         /* walk over connected geometry.  can restrict to a search flag,
113          * or not, it's optional.
114          *
115          * takes a vert as an argument, and spits out edges, restrict flag acts
116          * on the edges as well. */
117         BMW_SHELL,
118         /*walk over an edge loop.  search flag doesn't do anything.*/
119         BMW_LOOP,
120         BMW_FACELOOP,
121         BMW_EDGERING,
122         /* #define BMW_RING     2 */
123         /* walk over uv islands; takes a loop as input.  restrict flag
124          * restricts the walking to loops whose vert has restrict flag set as a
125          * tool flag.
126          *
127          * the flag parameter to BMW_init maps to a loop customdata layer index.
128          */
129         BMW_LOOPDATA_ISLAND,
130         /* walk over an island of flagged faces.  note, that this doesn't work on
131          * non-manifold geometry.  it might be better to rewrite this to extract
132          * boundary info from the island walker, rather then directly walking
133          * over the boundary.  raises an error if it encounters nonmanifold
134          * geometry. */
135         BMW_ISLANDBOUND,
136         /* walk over all faces in an island of tool flagged faces. */
137         BMW_ISLAND,
138         /* walk from a vertex to all connected vertices. */
139         BMW_CONNECTED_VERTEX,
140         /* end of array index enum vals */
141
142         /* do not intitialze function pointers and struct size in BMW_init */
143         BMW_CUSTOM,
144         BMW_MAXWALKERS
145 };
146
147 /* use with BMW_init, so as not to confuse with restrict flags */
148 #define BMW_NIL_LAY  0
149
150 #endif /* __BMESH_WALKERS_H__ */