Merge branch 'master' into blender2.8
[blender.git] / source / blender / editors / mesh / editface.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * Contributor(s): Blender Foundation, Campbell Barton
19  *
20  * ***** END GPL LICENSE BLOCK *****
21  */
22
23 /** \file blender/editors/mesh/editface.c
24  *  \ingroup edmesh
25  */
26
27 #include "MEM_guardedalloc.h"
28
29 #include "BLI_blenlib.h"
30 #include "BLI_math.h"
31 #include "BLI_bitmap.h"
32
33 #include "IMB_imbuf_types.h"
34 #include "IMB_imbuf.h"
35
36 #include "DNA_mesh_types.h"
37 #include "DNA_object_types.h"
38
39 #include "BKE_DerivedMesh.h"
40 #include "BKE_global.h"
41 #include "BKE_mesh.h"
42 #include "BKE_context.h"
43
44 #include "BIF_gl.h"
45
46 #include "ED_mesh.h"
47 #include "ED_screen.h"
48 #include "ED_view3d.h"
49
50 #include "WM_api.h"
51 #include "WM_types.h"
52
53 #include "GPU_draw.h"
54
55 /* own include */
56
57 /* copy the face flags, most importantly selection from the mesh to the final derived mesh,
58  * use in object mode when selecting faces (while painting) */
59 void paintface_flush_flags(Object *ob, short flag)
60 {
61         Mesh *me = BKE_mesh_from_object(ob);
62         DerivedMesh *dm = ob->derivedFinal;
63         MPoly *polys, *mp_orig;
64         const int *index_array = NULL;
65         int totpoly;
66         int i;
67
68         BLI_assert((flag & ~(SELECT | ME_HIDE)) == 0);
69
70         if (me == NULL)
71                 return;
72
73         /* note, call #BKE_mesh_flush_hidden_from_verts_ex first when changing hidden flags */
74
75         /* we could call this directly in all areas that change selection,
76          * since this could become slow for realtime updates (circle-select for eg) */
77         if (flag & SELECT) {
78                 BKE_mesh_flush_select_from_polys(me);
79         }
80
81         if (dm == NULL)
82                 return;
83
84         /* Mesh polys => Final derived polys */
85
86         if ((index_array = CustomData_get_layer(&dm->polyData, CD_ORIGINDEX))) {
87                 polys = dm->getPolyArray(dm);
88                 totpoly = dm->getNumPolys(dm);
89
90                 /* loop over final derived polys */
91                 for (i = 0; i < totpoly; i++) {
92                         if (index_array[i] != ORIGINDEX_NONE) {
93                                 /* Copy flags onto the final derived poly from the original mesh poly */
94                                 mp_orig = me->mpoly + index_array[i];
95                                 polys[i].flag = mp_orig->flag;
96
97                         }
98                 }
99         }
100
101         BKE_mesh_batch_cache_dirty(me, BKE_MESH_BATCH_DIRTY_ALL);
102 }
103
104 void paintface_hide(Object *ob, const bool unselected)
105 {
106         Mesh *me;
107         MPoly *mpoly;
108         int a;
109
110         me = BKE_mesh_from_object(ob);
111         if (me == NULL || me->totpoly == 0) return;
112
113         mpoly = me->mpoly;
114         a = me->totpoly;
115         while (a--) {
116                 if ((mpoly->flag & ME_HIDE) == 0) {
117                         if (((mpoly->flag & ME_FACE_SEL) == 0) == unselected) {
118                                 mpoly->flag |= ME_HIDE;
119                         }
120                 }
121
122                 if (mpoly->flag & ME_HIDE) {
123                         mpoly->flag &= ~ME_FACE_SEL;
124                 }
125
126                 mpoly++;
127         }
128
129         BKE_mesh_flush_hidden_from_polys(me);
130
131         paintface_flush_flags(ob, SELECT | ME_HIDE);
132 }
133
134
135 void paintface_reveal(Object *ob, const bool select)
136 {
137         Mesh *me;
138         MPoly *mpoly;
139         int a;
140
141         me = BKE_mesh_from_object(ob);
142         if (me == NULL || me->totpoly == 0) return;
143
144         mpoly = me->mpoly;
145         a = me->totpoly;
146         while (a--) {
147                 if (mpoly->flag & ME_HIDE) {
148                         SET_FLAG_FROM_TEST(mpoly->flag, select, ME_FACE_SEL);
149                         mpoly->flag &= ~ME_HIDE;
150                 }
151                 mpoly++;
152         }
153
154         BKE_mesh_flush_hidden_from_polys(me);
155
156         paintface_flush_flags(ob, SELECT | ME_HIDE);
157 }
158
159 /* Set tface seams based on edge data, uses hash table to find seam edges. */
160
161 static void select_linked_tfaces_with_seams(Mesh *me, const unsigned int index, const bool select)
162 {
163         MPoly *mp;
164         MLoop *ml;
165         int a, b;
166         bool do_it = true;
167         bool mark = false;
168
169         BLI_bitmap *edge_tag = BLI_BITMAP_NEW(me->totedge, __func__);
170         BLI_bitmap *poly_tag = BLI_BITMAP_NEW(me->totpoly, __func__);
171
172         if (index != (unsigned int)-1) {
173                 /* only put face under cursor in array */
174                 mp = &me->mpoly[index];
175                 BKE_mesh_poly_edgebitmap_insert(edge_tag, mp, me->mloop + mp->loopstart);
176                 BLI_BITMAP_ENABLE(poly_tag, index);
177         }
178         else {
179                 /* fill array by selection */
180                 mp = me->mpoly;
181                 for (a = 0; a < me->totpoly; a++, mp++) {
182                         if (mp->flag & ME_HIDE) {
183                                 /* pass */
184                         }
185                         else if (mp->flag & ME_FACE_SEL) {
186                                 BKE_mesh_poly_edgebitmap_insert(edge_tag, mp, me->mloop + mp->loopstart);
187                                 BLI_BITMAP_ENABLE(poly_tag, a);
188                         }
189                 }
190         }
191
192         while (do_it) {
193                 do_it = false;
194
195                 /* expand selection */
196                 mp = me->mpoly;
197                 for (a = 0; a < me->totpoly; a++, mp++) {
198                         if (mp->flag & ME_HIDE)
199                                 continue;
200
201                         if (!BLI_BITMAP_TEST(poly_tag, a)) {
202                                 mark = false;
203
204                                 ml = me->mloop + mp->loopstart;
205                                 for (b = 0; b < mp->totloop; b++, ml++) {
206                                         if ((me->medge[ml->e].flag & ME_SEAM) == 0) {
207                                                 if (BLI_BITMAP_TEST(edge_tag, ml->e)) {
208                                                         mark = true;
209                                                         break;
210                                                 }
211                                         }
212                                 }
213
214                                 if (mark) {
215                                         BLI_BITMAP_ENABLE(poly_tag, a);
216                                         BKE_mesh_poly_edgebitmap_insert(edge_tag, mp, me->mloop + mp->loopstart);
217                                         do_it = true;
218                                 }
219                         }
220                 }
221         }
222
223         MEM_freeN(edge_tag);
224
225         for (a = 0, mp = me->mpoly; a < me->totpoly; a++, mp++) {
226                 if (BLI_BITMAP_TEST(poly_tag, a)) {
227                         SET_FLAG_FROM_TEST(mp->flag, select, ME_FACE_SEL);
228                 }
229         }
230
231         MEM_freeN(poly_tag);
232 }
233
234 void paintface_select_linked(bContext *C, Object *ob, const int mval[2], const bool select)
235 {
236         Mesh *me;
237         unsigned int index = (unsigned int)-1;
238
239         me = BKE_mesh_from_object(ob);
240         if (me == NULL || me->totpoly == 0) return;
241
242         if (mval) {
243                 if (!ED_mesh_pick_face(C, ob, mval, &index, ED_MESH_PICK_DEFAULT_FACE_SIZE)) {
244                         return;
245                 }
246         }
247
248         select_linked_tfaces_with_seams(me, index, select);
249
250         paintface_flush_flags(ob, SELECT);
251 }
252
253 void paintface_deselect_all_visible(Object *ob, int action, bool flush_flags)
254 {
255         Mesh *me;
256         MPoly *mpoly;
257         int a;
258
259         me = BKE_mesh_from_object(ob);
260         if (me == NULL) return;
261
262         if (action == SEL_TOGGLE) {
263                 action = SEL_SELECT;
264
265                 mpoly = me->mpoly;
266                 a = me->totpoly;
267                 while (a--) {
268                         if ((mpoly->flag & ME_HIDE) == 0 && mpoly->flag & ME_FACE_SEL) {
269                                 action = SEL_DESELECT;
270                                 break;
271                         }
272                         mpoly++;
273                 }
274         }
275
276         mpoly = me->mpoly;
277         a = me->totpoly;
278         while (a--) {
279                 if ((mpoly->flag & ME_HIDE) == 0) {
280                         switch (action) {
281                                 case SEL_SELECT:
282                                         mpoly->flag |= ME_FACE_SEL;
283                                         break;
284                                 case SEL_DESELECT:
285                                         mpoly->flag &= ~ME_FACE_SEL;
286                                         break;
287                                 case SEL_INVERT:
288                                         mpoly->flag ^= ME_FACE_SEL;
289                                         break;
290                         }
291                 }
292                 mpoly++;
293         }
294
295         if (flush_flags) {
296                 paintface_flush_flags(ob, SELECT);
297         }
298 }
299
300 bool paintface_minmax(Object *ob, float r_min[3], float r_max[3])
301 {
302         const Mesh *me;
303         const MPoly *mp;
304         const MLoop *ml;
305         const MVert *mvert;
306         int a, b;
307         bool ok = false;
308         float vec[3], bmat[3][3];
309
310         me = BKE_mesh_from_object(ob);
311         if (!me || !me->mloopuv) {
312                 return ok;
313         }
314
315         copy_m3_m4(bmat, ob->obmat);
316
317         mvert = me->mvert;
318         mp = me->mpoly;
319         for (a = me->totpoly; a > 0; a--, mp++) {
320                 if (mp->flag & ME_HIDE || !(mp->flag & ME_FACE_SEL))
321                         continue;
322
323                 ml = me->mloop + mp->totloop;
324                 for (b = 0; b < mp->totloop; b++, ml++) {
325                         mul_v3_m3v3(vec, bmat, mvert[ml->v].co);
326                         add_v3_v3v3(vec, vec, ob->obmat[3]);
327                         minmax_v3v3_v3(r_min, r_max, vec);
328                 }
329
330                 ok = true;
331         }
332
333         return ok;
334 }
335
336 bool paintface_mouse_select(struct bContext *C, Object *ob, const int mval[2], bool extend, bool deselect, bool toggle)
337 {
338         Mesh *me;
339         MPoly *mpoly, *mpoly_sel;
340         unsigned int a, index;
341
342         /* Get the face under the cursor */
343         me = BKE_mesh_from_object(ob);
344
345         if (!ED_mesh_pick_face(C, ob, mval, &index, ED_MESH_PICK_DEFAULT_FACE_SIZE))
346                 return false;
347
348         if (index >= me->totpoly)
349                 return false;
350
351         mpoly_sel = me->mpoly + index;
352         if (mpoly_sel->flag & ME_HIDE) return false;
353
354         /* clear flags */
355         mpoly = me->mpoly;
356         a = me->totpoly;
357         if (!extend && !deselect && !toggle) {
358                 while (a--) {
359                         mpoly->flag &= ~ME_FACE_SEL;
360                         mpoly++;
361                 }
362         }
363
364         me->act_face = (int)index;
365
366         if (extend) {
367                 mpoly_sel->flag |= ME_FACE_SEL;
368         }
369         else if (deselect) {
370                 mpoly_sel->flag &= ~ME_FACE_SEL;
371         }
372         else if (toggle) {
373                 if (mpoly_sel->flag & ME_FACE_SEL)
374                         mpoly_sel->flag &= ~ME_FACE_SEL;
375                 else
376                         mpoly_sel->flag |= ME_FACE_SEL;
377         }
378         else {
379                 mpoly_sel->flag |= ME_FACE_SEL;
380         }
381
382         /* image window redraw */
383
384         paintface_flush_flags(ob, SELECT);
385         WM_event_add_notifier(C, NC_GEOM | ND_SELECT, ob->data);
386         ED_region_tag_redraw(CTX_wm_region(C)); // XXX - should redraw all 3D views
387         return true;
388 }
389
390 int do_paintface_box_select(ViewContext *vc, rcti *rect, bool select, bool extend)
391 {
392         Object *ob = vc->obact;
393         Mesh *me;
394         MPoly *mpoly;
395         struct ImBuf *ibuf;
396         unsigned int *rt;
397         char *selar;
398         int a, index;
399         const int size[2] = {
400             BLI_rcti_size_x(rect) + 1,
401             BLI_rcti_size_y(rect) + 1};
402
403         me = BKE_mesh_from_object(ob);
404
405         if ((me == NULL) || (me->totpoly == 0) || (size[0] * size[1] <= 0)) {
406                 return OPERATOR_CANCELLED;
407         }
408
409         selar = MEM_callocN(me->totpoly + 1, "selar");
410
411         if (extend == false && select) {
412                 paintface_deselect_all_visible(vc->obact, SEL_DESELECT, false);
413
414                 mpoly = me->mpoly;
415                 for (a = 1; a <= me->totpoly; a++, mpoly++) {
416                         if ((mpoly->flag & ME_HIDE) == 0)
417                                 mpoly->flag &= ~ME_FACE_SEL;
418                 }
419         }
420
421         ED_view3d_backbuf_validate(vc);
422
423         ibuf = IMB_allocImBuf(size[0], size[1], 32, IB_rect);
424         rt = ibuf->rect;
425         view3d_opengl_read_pixels(vc->ar, rect->xmin, rect->ymin, size[0], size[1], GL_RGBA, GL_UNSIGNED_BYTE,  ibuf->rect);
426         if (ENDIAN_ORDER == B_ENDIAN) {
427                 IMB_convert_rgba_to_abgr(ibuf);
428         }
429         GPU_select_to_index_array(ibuf->rect, size[0] * size[1]);
430
431         a = size[0] * size[1];
432         while (a--) {
433                 if (*rt) {
434                         index = *rt;
435                         if (index <= me->totpoly) {
436                                 selar[index] = 1;
437                         }
438                 }
439                 rt++;
440         }
441
442         mpoly = me->mpoly;
443         for (a = 1; a <= me->totpoly; a++, mpoly++) {
444                 if (selar[a]) {
445                         if (mpoly->flag & ME_HIDE) {
446                                 /* pass */
447                         }
448                         else {
449                                 if (select) mpoly->flag |= ME_FACE_SEL;
450                                 else mpoly->flag &= ~ME_FACE_SEL;
451                         }
452                 }
453         }
454
455         IMB_freeImBuf(ibuf);
456         MEM_freeN(selar);
457
458 #ifdef __APPLE__
459         glReadBuffer(GL_BACK);
460 #endif
461
462         paintface_flush_flags(vc->obact, SELECT);
463
464         return OPERATOR_FINISHED;
465 }
466
467
468 /*  (similar to void paintface_flush_flags(Object *ob))
469  * copy the vertex flags, most importantly selection from the mesh to the final derived mesh,
470  * use in object mode when selecting vertices (while painting) */
471 void paintvert_flush_flags(Object *ob)
472 {
473         Mesh *me = BKE_mesh_from_object(ob);
474         DerivedMesh *dm = ob->derivedFinal;
475         MVert *dm_mvert, *dm_mv;
476         const int *index_array = NULL;
477         int totvert;
478         int i;
479
480         if (me == NULL)
481                 return;
482
483         /* we could call this directly in all areas that change selection,
484          * since this could become slow for realtime updates (circle-select for eg) */
485         BKE_mesh_flush_select_from_verts(me);
486
487         if (dm == NULL)
488                 return;
489
490         index_array = dm->getVertDataArray(dm, CD_ORIGINDEX);
491
492         dm_mvert = dm->getVertArray(dm);
493         totvert = dm->getNumVerts(dm);
494
495         dm_mv = dm_mvert;
496
497         if (index_array) {
498                 int orig_index;
499                 for (i = 0; i < totvert; i++, dm_mv++) {
500                         orig_index = index_array[i];
501                         if (orig_index != ORIGINDEX_NONE) {
502                                 dm_mv->flag = me->mvert[index_array[i]].flag;
503                         }
504                 }
505         }
506         else {
507                 for (i = 0; i < totvert; i++, dm_mv++) {
508                         dm_mv->flag = me->mvert[i].flag;
509                 }
510         }
511
512         BKE_mesh_batch_cache_dirty(me, BKE_MESH_BATCH_DIRTY_ALL);
513 }
514 /*  note: if the caller passes false to flush_flags, then they will need to run paintvert_flush_flags(ob) themselves */
515 void paintvert_deselect_all_visible(Object *ob, int action, bool flush_flags)
516 {
517         Mesh *me;
518         MVert *mvert;
519         int a;
520
521         me = BKE_mesh_from_object(ob);
522         if (me == NULL) return;
523
524         if (action == SEL_TOGGLE) {
525                 action = SEL_SELECT;
526
527                 mvert = me->mvert;
528                 a = me->totvert;
529                 while (a--) {
530                         if ((mvert->flag & ME_HIDE) == 0 && mvert->flag & SELECT) {
531                                 action = SEL_DESELECT;
532                                 break;
533                         }
534                         mvert++;
535                 }
536         }
537
538         mvert = me->mvert;
539         a = me->totvert;
540         while (a--) {
541                 if ((mvert->flag & ME_HIDE) == 0) {
542                         switch (action) {
543                                 case SEL_SELECT:
544                                         mvert->flag |= SELECT;
545                                         break;
546                                 case SEL_DESELECT:
547                                         mvert->flag &= ~SELECT;
548                                         break;
549                                 case SEL_INVERT:
550                                         mvert->flag ^= SELECT;
551                                         break;
552                         }
553                 }
554                 mvert++;
555         }
556
557         /* handle mselect */
558         if (action == SEL_SELECT) {
559                 /* pass */
560         }
561         else if (ELEM(action, SEL_DESELECT, SEL_INVERT)) {
562                 BKE_mesh_mselect_clear(me);
563         }
564         else {
565                 BKE_mesh_mselect_validate(me);
566         }
567
568         if (flush_flags) {
569                 paintvert_flush_flags(ob);
570         }
571 }
572
573 void paintvert_select_ungrouped(Object *ob, bool extend, bool flush_flags)
574 {
575         Mesh *me = BKE_mesh_from_object(ob);
576         MVert *mv;
577         MDeformVert *dv;
578         int a, tot;
579
580         if (me == NULL || me->dvert == NULL) {
581                 return;
582         }
583
584         if (!extend) {
585                 paintvert_deselect_all_visible(ob, SEL_DESELECT, false);
586         }
587
588         dv = me->dvert;
589         tot = me->totvert;
590
591         for (a = 0, mv = me->mvert; a < tot; a++, mv++, dv++) {
592                 if ((mv->flag & ME_HIDE) == 0) {
593                         if (dv->dw == NULL) {
594                                 /* if null weight then not grouped */
595                                 mv->flag |= SELECT;
596                         }
597                 }
598         }
599
600         if (flush_flags) {
601                 paintvert_flush_flags(ob);
602         }
603 }