source/blender/editors/sculpt_paint/paint_mask.c

   1 /*
   2  * $Id$
   3  *
   4  * ***** BEGIN GPL LICENSE BLOCK *****
   5  *
   6  * This program is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU General Public License
   8  * as published by the Free Software Foundation; either version 2
   9  * of the License, or (at your option) any later version.
  10  *
  11  * This program is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  14  * GNU General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU General Public License
  17  * along with this program; if not, write to the Free Software  Foundation,
  18  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
  19  *
  20  * The Original Code is Copyright (C) 2012 by Nicholas Bishop
  21  * All rights reserved.
  22  *
  23  * The Original Code is: all of this file.
  24  *
  25  * Contributor(s):
  26  *
  27  * ***** END GPL LICENSE BLOCK *****
  28  *
  29  */
  30
  31 /** \file blender/editors/sculpt_paint/paint_mask.c
  32  *  \ingroup edsculpt
  33  */
  34
  35 #include "MEM_guardedalloc.h"
  36
  37 #include "DNA_mesh_types.h"
  38 #include "DNA_meshdata_types.h"
  39 #include "DNA_object_types.h"
  40
  41 #include "BLI_pbvh.h"
  42
  43 #include "BKE_ccg.h"
  44 #include "BKE_context.h"
  45 #include "BKE_DerivedMesh.h"
  46 #include "BKE_multires.h"
  47 #include "BKE_paint.h"
  48 #include "BKE_subsurf.h"
  49
  50 #include "RNA_access.h"
  51 #include "RNA_define.h"
  52
  53 #include "WM_api.h"
  54 #include "WM_types.h"
  55
  56 #include "ED_screen.h"
  57
  58 #include "paint_intern.h"
  59 #include "sculpt_intern.h" /* for undo push */
  60
  61 #include <stdlib.h>
  62
  63 static void mask_flood_fill_set_elem(float *elem,
  64                                      PaintMaskFloodMode mode,
  65                                      float value)
  66 {
  67         switch (mode) {
  68                 case PAINT_MASK_FLOOD_VALUE:
  69                         (*elem) = value;
  70                         break;
  71                 case PAINT_MASK_INVERT:
  72                         (*elem) = 1.0f - (*elem);
  73                         break;
  74         }
  75 }
  76
  77 static int mask_flood_fill_exec(bContext *C, wmOperator *op)
  78 {
  79         ARegion *ar = CTX_wm_region(C);
  80         Object *ob = CTX_data_active_object(C);
  81         PaintMaskFloodMode mode;
  82         float value;
  83         DerivedMesh *dm;
  84         PBVH *pbvh;
  85         PBVHNode **nodes;
  86         int totnode, i;
  87
  88         mode = RNA_enum_get(op->ptr, "mode");
  89         value = RNA_float_get(op->ptr, "value");
  90
  91         dm = mesh_get_derived_final(CTX_data_scene(C), ob, CD_MASK_BAREMESH);
  92         pbvh = dm->getPBVH(ob, dm);
  93         ob->sculpt->pbvh = pbvh;
  94
  95         BLI_pbvh_search_gather(pbvh, NULL, NULL, &nodes, &totnode);
  96
  97         sculpt_undo_push_begin("Mask flood fill");
  98
  99         for (i = 0; i < totnode; i++) {
 100                 PBVHVertexIter vi;
 101
 102                 sculpt_undo_push_node(ob, nodes[i], SCULPT_UNDO_MASK);
 103
 104                 BLI_pbvh_vertex_iter_begin(pbvh, nodes[i], vi, PBVH_ITER_UNIQUE) {
 105                         mask_flood_fill_set_elem(vi.mask, mode, value);
 106                 } BLI_pbvh_vertex_iter_end;
 107
 108                 BLI_pbvh_node_mark_update(nodes[i]);
 109                 if (BLI_pbvh_type(pbvh) == PBVH_GRIDS)
 110                         multires_mark_as_modified(ob, MULTIRES_COORDS_MODIFIED);
 111         }
 112
 113         sculpt_undo_push_end();
 114
 115         if (nodes)
 116                 MEM_freeN(nodes);
 117
 118         ED_region_tag_redraw(ar);
 119
 120         return OPERATOR_FINISHED;
 121 }
 122
 123 void PAINT_OT_mask_flood_fill(struct wmOperatorType *ot)
 124 {
 125         static EnumPropertyItem mode_items[] = {
 126                 {PAINT_MASK_FLOOD_VALUE, "VALUE", 0, "Value", "Set mask to the level specified by the \"value\" property"},
 127                 {PAINT_MASK_INVERT, "INVERT", 0, "Invert", "Invert the mask"},
 128                 {0}};
 129
 130         /* identifiers */
 131         ot->name = "Mask Flood Fill";
 132         ot->idname = "PAINT_OT_mask_flood_fill";
 133
 134         /* api callbacks */
 135         ot->exec = mask_flood_fill_exec;
 136         ot->poll = sculpt_mode_poll;
 137
 138         ot->flag = OPTYPE_REGISTER;
 139
 140         /* rna */
 141         RNA_def_enum(ot->srna, "mode", mode_items, PAINT_MASK_FLOOD_VALUE, "Mode", NULL);
 142         RNA_def_float(ot->srna, "value", 0, 0, 1, "Value", "Mask level to use when mode is \"Value\"; zero means no masking and one is fully masked", 0, 1);
 143 }