Merging r50192 through r50223 from trunk into soc-2011-tomato
[blender-staging.git] / source / blender / editors / sculpt_paint / paint_mask.c
1 /*
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software  Foundation,
18  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
19  *
20  * The Original Code is Copyright (C) 2012 by Nicholas Bishop
21  * All rights reserved.
22  *
23  * The Original Code is: all of this file.
24  *
25  * Contributor(s):
26  *
27  * ***** END GPL LICENSE BLOCK *****
28  *
29  */
30
31 /** \file blender/editors/sculpt_paint/paint_mask.c
32  *  \ingroup edsculpt
33  */
34
35 #include "MEM_guardedalloc.h"
36
37 #include "DNA_mesh_types.h"
38 #include "DNA_meshdata_types.h"
39 #include "DNA_object_types.h"
40
41 #include "BLI_pbvh.h"
42
43 #include "BKE_ccg.h"
44 #include "BKE_context.h"
45 #include "BKE_DerivedMesh.h"
46 #include "BKE_multires.h"
47 #include "BKE_paint.h"
48 #include "BKE_subsurf.h"
49
50 #include "RNA_access.h"
51 #include "RNA_define.h"
52
53 #include "WM_api.h"
54 #include "WM_types.h"
55
56 #include "ED_screen.h"
57
58 #include "paint_intern.h"
59 #include "sculpt_intern.h" /* for undo push */
60
61 #include <stdlib.h>
62
63 static void mask_flood_fill_set_elem(float *elem,
64                                      PaintMaskFloodMode mode,
65                                      float value)
66 {
67         switch (mode) {
68                 case PAINT_MASK_FLOOD_VALUE:
69                         (*elem) = value;
70                         break;
71                 case PAINT_MASK_INVERT:
72                         (*elem) = 1.0f - (*elem);
73                         break;
74         }
75 }
76
77 static int mask_flood_fill_exec(bContext *C, wmOperator *op)
78 {
79         ARegion *ar = CTX_wm_region(C);
80         Object *ob = CTX_data_active_object(C);
81         PaintMaskFloodMode mode;
82         float value;
83         DerivedMesh *dm;
84         PBVH *pbvh;
85         PBVHNode **nodes;
86         int totnode, i;
87
88         mode = RNA_enum_get(op->ptr, "mode");
89         value = RNA_float_get(op->ptr, "value");
90
91         dm = mesh_get_derived_final(CTX_data_scene(C), ob, CD_MASK_BAREMESH);
92         pbvh = dm->getPBVH(ob, dm);
93         ob->sculpt->pbvh = pbvh;
94
95         BLI_pbvh_search_gather(pbvh, NULL, NULL, &nodes, &totnode);
96
97         sculpt_undo_push_begin("Mask flood fill");
98
99         for (i = 0; i < totnode; i++) {
100                 PBVHVertexIter vi;
101
102                 sculpt_undo_push_node(ob, nodes[i], SCULPT_UNDO_MASK);
103
104                 BLI_pbvh_vertex_iter_begin(pbvh, nodes[i], vi, PBVH_ITER_UNIQUE) {
105                         mask_flood_fill_set_elem(vi.mask, mode, value);
106                 } BLI_pbvh_vertex_iter_end;
107                 
108                 BLI_pbvh_node_mark_update(nodes[i]);
109                 if (BLI_pbvh_type(pbvh) == PBVH_GRIDS)
110                         multires_mark_as_modified(ob, MULTIRES_COORDS_MODIFIED);
111         }
112         
113         sculpt_undo_push_end();
114
115         if (nodes)
116                 MEM_freeN(nodes);
117
118         ED_region_tag_redraw(ar);
119
120         return OPERATOR_FINISHED;
121 }
122
123 void PAINT_OT_mask_flood_fill(struct wmOperatorType *ot)
124 {
125         static EnumPropertyItem mode_items[] = {
126                 {PAINT_MASK_FLOOD_VALUE, "VALUE", 0, "Value", "Set mask to the level specified by the \"value\" property"},
127                 {PAINT_MASK_INVERT, "INVERT", 0, "Invert", "Invert the mask"},
128                 {0}};
129
130         /* identifiers */
131         ot->name = "Mask Flood Fill";
132         ot->idname = "PAINT_OT_mask_flood_fill";
133
134         /* api callbacks */
135         ot->exec = mask_flood_fill_exec;
136         ot->poll = sculpt_mode_poll;
137
138         ot->flag = OPTYPE_REGISTER;
139
140         /* rna */
141         RNA_def_enum(ot->srna, "mode", mode_items, PAINT_MASK_FLOOD_VALUE, "Mode", NULL);
142         RNA_def_float(ot->srna, "value", 0, 0, 1, "Value", "Mask level to use when mode is \"Value\"; zero means no masking and one is fully masked", 0, 1);
143 }