style cleanup: nodes
[blender.git] / source / blender / editors / sculpt_paint / paint_mask.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software  Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2012 by Nicholas Bishop
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s):
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  */
28
29 /** \file blender/editors/sculpt_paint/paint_mask.c
30  *  \ingroup edsculpt
31  */
32
33 #include "MEM_guardedalloc.h"
34
35 #include "DNA_mesh_types.h"
36 #include "DNA_meshdata_types.h"
37 #include "DNA_object_types.h"
38
39 #include "BLI_utildefines.h"
40 #include "BKE_pbvh.h"
41 #include "BKE_ccg.h"
42 #include "BKE_context.h"
43 #include "BKE_DerivedMesh.h"
44 #include "BKE_multires.h"
45 #include "BKE_paint.h"
46 #include "BKE_subsurf.h"
47
48 #include "RNA_access.h"
49 #include "RNA_define.h"
50
51 #include "WM_api.h"
52 #include "WM_types.h"
53
54 #include "ED_screen.h"
55 #include "ED_sculpt.h"
56
57 #include "paint_intern.h"
58 #include "sculpt_intern.h" /* for undo push */
59
60 #include <stdlib.h>
61
62 static void mask_flood_fill_set_elem(float *elem,
63                                      PaintMaskFloodMode mode,
64                                      float value)
65 {
66         switch (mode) {
67                 case PAINT_MASK_FLOOD_VALUE:
68                         (*elem) = value;
69                         break;
70                 case PAINT_MASK_INVERT:
71                         (*elem) = 1.0f - (*elem);
72                         break;
73         }
74 }
75
76 static int mask_flood_fill_exec(bContext *C, wmOperator *op)
77 {
78         ARegion *ar = CTX_wm_region(C);
79         struct Scene *scene = CTX_data_scene(C);
80         Object *ob = CTX_data_active_object(C);
81         struct MultiresModifierData *mmd = sculpt_multires_active(scene, ob);
82         PaintMaskFloodMode mode;
83         float value;
84         DerivedMesh *dm;
85         PBVH *pbvh;
86         PBVHNode **nodes;
87         int totnode, i;
88
89         mode = RNA_enum_get(op->ptr, "mode");
90         value = RNA_float_get(op->ptr, "value");
91
92         ED_sculpt_mask_layers_ensure(ob, mmd);
93
94         dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
95         pbvh = dm->getPBVH(ob, dm);
96         ob->sculpt->pbvh = pbvh;
97
98         BKE_pbvh_search_gather(pbvh, NULL, NULL, &nodes, &totnode);
99
100         sculpt_undo_push_begin("Mask flood fill");
101
102         for (i = 0; i < totnode; i++) {
103                 PBVHVertexIter vi;
104
105                 sculpt_undo_push_node(ob, nodes[i], SCULPT_UNDO_MASK);
106
107                 BKE_pbvh_vertex_iter_begin(pbvh, nodes[i], vi, PBVH_ITER_UNIQUE) {
108                         mask_flood_fill_set_elem(vi.mask, mode, value);
109                 } BKE_pbvh_vertex_iter_end;
110                 
111                 BKE_pbvh_node_mark_update(nodes[i]);
112                 if (BKE_pbvh_type(pbvh) == PBVH_GRIDS)
113                         multires_mark_as_modified(ob, MULTIRES_COORDS_MODIFIED);
114         }
115         
116         sculpt_undo_push_end();
117
118         if (nodes)
119                 MEM_freeN(nodes);
120
121         ED_region_tag_redraw(ar);
122
123         return OPERATOR_FINISHED;
124 }
125
126 void PAINT_OT_mask_flood_fill(struct wmOperatorType *ot)
127 {
128         static EnumPropertyItem mode_items[] = {
129                 {PAINT_MASK_FLOOD_VALUE, "VALUE", 0, "Value", "Set mask to the level specified by the 'value' property"},
130                 {PAINT_MASK_INVERT, "INVERT", 0, "Invert", "Invert the mask"},
131                 {0}};
132
133         /* identifiers */
134         ot->name = "Mask Flood Fill";
135         ot->idname = "PAINT_OT_mask_flood_fill";
136         ot->description = "Fill the whole mask with a given value, or invert its values";
137
138         /* api callbacks */
139         ot->exec = mask_flood_fill_exec;
140         ot->poll = sculpt_mode_poll;
141
142         ot->flag = OPTYPE_REGISTER;
143
144         /* rna */
145         RNA_def_enum(ot->srna, "mode", mode_items, PAINT_MASK_FLOOD_VALUE, "Mode", NULL);
146         RNA_def_float(ot->srna, "value", 0, 0, 1, "Value",
147                       "Mask level to use when mode is 'Value'; zero means no masking and one is fully masked", 0, 1);
148 }