fix [#24499] Consistency Issue with LassoSelect/ExtendOption
[blender.git] / source / blender / editors / mesh / editface.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
19  *
20  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
21  * All rights reserved.
22  *
23  * Contributor(s): Blender Foundation, Campbell Barton
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28
29 #include <math.h>
30 #include <string.h>
31
32 #include "MEM_guardedalloc.h"
33
34 #include "BLI_blenlib.h"
35 #include "BLI_math.h"
36 #include "BLI_heap.h"
37 #include "BLI_edgehash.h"
38 #include "BLI_editVert.h"
39
40 #include "IMB_imbuf_types.h"
41 #include "IMB_imbuf.h"
42
43 #include "DNA_meshdata_types.h"
44 #include "DNA_object_types.h"
45 #include "DNA_scene_types.h"
46
47 #include "BKE_DerivedMesh.h"
48 #include "BKE_global.h"
49 #include "BKE_mesh.h"
50 #include "BKE_context.h"
51
52 #include "BIF_gl.h"
53
54
55 #ifdef WITH_PYTHON
56 //#include "BPY_extern.h"
57 //#include "BPY_menus.h"
58 #endif
59
60 #include "ED_mesh.h"
61 #include "ED_screen.h"
62 #include "ED_view3d.h"
63
64 #include "WM_api.h"
65 #include "WM_types.h"
66
67 /* own include */
68 #include "mesh_intern.h"
69
70 /* copy the face flags, most importantly selection from the mesh to the final derived mesh,
71  * use in object mode when selecting faces (while painting) */
72 void paintface_flush_flags(Object *ob)
73 {
74         Mesh *me= get_mesh(ob);
75         DerivedMesh *dm= ob->derivedFinal;
76         MFace *faces, *mf, *mf_orig;
77         int *index_array = NULL;
78         int totface;
79         int i;
80         
81         if(me==NULL || dm==NULL)
82                 return;
83
84         index_array = dm->getFaceDataArray(dm, CD_ORIGINDEX);
85
86         if(!index_array)
87                 return;
88         
89         faces = dm->getFaceArray(dm);
90         totface = dm->getNumFaces(dm);
91         
92         mf= faces;
93         
94         for (i= 0; i<totface; i++, mf++) { /* loop over derived mesh faces */
95                 mf_orig= me->mface + index_array[i];
96                 mf->flag= mf_orig->flag;;
97         }
98 }
99
100 /* returns 0 if not found, otherwise 1 */
101 int facesel_face_pick(struct bContext *C, Mesh *me, short *mval, unsigned int *index, short rect)
102 {
103         ViewContext vc;
104         view3d_set_viewcontext(C, &vc);
105
106         if (!me || me->totface==0)
107                 return 0;
108
109 // XXX  if (v3d->flag & V3D_INVALID_BACKBUF) {
110 // XXX drawview.c!              check_backbuf();
111 // XXX          persp(PERSP_VIEW);
112 // XXX  }
113
114         if (rect) {
115                 /* sample rect to increase changes of selecting, so that when clicking
116                    on an edge in the backbuf, we can still select a face */
117
118                 int dist;
119                 *index = view3d_sample_backbuf_rect(&vc, mval, 3, 1, me->totface+1, &dist,0,NULL, NULL);
120         }
121         else {
122                 /* sample only on the exact position */
123                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
124         }
125
126         if ((*index)<=0 || (*index)>(unsigned int)me->totface)
127                 return 0;
128
129         (*index)--;
130         
131         return 1;
132 }
133
134 /* last_sel, use em->act_face otherwise get the last selected face in the editselections
135  * at the moment, last_sel is mainly useful for gaking sure the space image dosnt flicker */
136 MTFace *EM_get_active_mtface(EditMesh *em, EditFace **act_efa, MCol **mcol, int sloppy)
137 {
138         EditFace *efa = NULL;
139         
140         if(!EM_texFaceCheck(em))
141                 return NULL;
142         
143         efa = EM_get_actFace(em, sloppy);
144         
145         if (efa) {
146                 if (mcol) {
147                         if (CustomData_has_layer(&em->fdata, CD_MCOL))
148                                 *mcol = CustomData_em_get(&em->fdata, efa->data, CD_MCOL);
149                         else
150                                 *mcol = NULL;
151                 }
152                 if (act_efa) *act_efa = efa; 
153                 return CustomData_em_get(&em->fdata, efa->data, CD_MTFACE);
154         }
155         if (act_efa) *act_efa= NULL;
156         if(mcol) *mcol = NULL;
157         return NULL;
158 }
159
160 void paintface_unhide(Scene *scene)
161 {
162         Mesh *me;
163         MFace *mface;
164         int a;
165         
166         me= get_mesh(OBACT);
167         if(me==0 || me->totface==0) return;
168         
169         mface= me->mface;
170         a= me->totface;
171         while(a--) {
172                 if(mface->flag & ME_HIDE) {
173                         mface->flag |= ME_FACE_SEL;
174                         mface->flag -= ME_HIDE;
175                 }
176                 mface++;
177         }
178
179         paintface_flush_flags(OBACT);
180 }
181
182 void paintface_hide(Scene *scene)
183 {
184         Mesh *me;
185         MFace *mface;
186         int a;
187         int shift=0, alt= 0; // XXX
188         
189         me= get_mesh(OBACT);
190         if(me==0 || me->totface==0) return;
191         
192         if(alt) {
193                 paintface_unhide(scene);
194                 return;
195         }
196         
197         mface= me->mface;
198         a= me->totface;
199         while(a--) {
200                 if(mface->flag & ME_HIDE);
201                 else {
202                         if(shift) {
203                                 if( (mface->flag & ME_FACE_SEL)==0) mface->flag |= ME_HIDE;
204                         }
205                         else {
206                                 if( (mface->flag & ME_FACE_SEL)) mface->flag |= ME_HIDE;
207                         }
208                 }
209                 if(mface->flag & ME_HIDE) mface->flag &= ~ME_FACE_SEL;
210                 
211                 mface++;
212         }
213         
214         paintface_flush_flags(OBACT);
215 }
216
217 /* Set tface seams based on edge data, uses hash table to find seam edges. */
218
219 static void hash_add_face(EdgeHash *ehash, MFace *mf)
220 {
221         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
222         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
223         if(mf->v4) {
224                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
225                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
226         }
227         else
228                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
229 }
230
231
232 static void select_linked_tfaces_with_seams(int mode, Mesh *me, unsigned int index)
233 {
234         MFace *mf;
235         int a, doit=1, mark=0;
236         char *linkflag;
237         EdgeHash *ehash, *seamhash;
238         MEdge *med;
239
240         ehash= BLI_edgehash_new();
241         seamhash = BLI_edgehash_new();
242         linkflag= MEM_callocN(sizeof(char)*me->totface, "linkflaguv");
243
244         for(med=me->medge, a=0; a < me->totedge; a++, med++)
245                 if(med->flag & ME_SEAM)
246                         BLI_edgehash_insert(seamhash, med->v1, med->v2, NULL);
247
248         if (mode==0 || mode==1) {
249                 /* only put face under cursor in array */
250                 mf= ((MFace*)me->mface) + index;
251                 hash_add_face(ehash, mf);
252                 linkflag[index]= 1;
253         }
254         else {
255                 /* fill array by selection */
256                 mf= me->mface;
257                 for(a=0; a<me->totface; a++, mf++) {
258                         if(mf->flag & ME_HIDE);
259                         else if(mf->flag & ME_FACE_SEL) {
260                                 hash_add_face(ehash, mf);
261                                 linkflag[a]= 1;
262                         }
263                 }
264         }
265
266         while(doit) {
267                 doit= 0;
268
269                 /* expand selection */
270                 mf= me->mface;
271                 for(a=0; a<me->totface; a++, mf++) {
272                         if(mf->flag & ME_HIDE)
273                                 continue;
274
275                         if(!linkflag[a]) {
276                                 mark= 0;
277
278                                 if(!BLI_edgehash_haskey(seamhash, mf->v1, mf->v2))
279                                         if(BLI_edgehash_haskey(ehash, mf->v1, mf->v2))
280                                                 mark= 1;
281                                 if(!BLI_edgehash_haskey(seamhash, mf->v2, mf->v3))
282                                         if(BLI_edgehash_haskey(ehash, mf->v2, mf->v3))
283                                                 mark= 1;
284                                 if(mf->v4) {
285                                         if(!BLI_edgehash_haskey(seamhash, mf->v3, mf->v4))
286                                                 if(BLI_edgehash_haskey(ehash, mf->v3, mf->v4))
287                                                         mark= 1;
288                                         if(!BLI_edgehash_haskey(seamhash, mf->v4, mf->v1))
289                                                 if(BLI_edgehash_haskey(ehash, mf->v4, mf->v1))
290                                                         mark= 1;
291                                 }
292                                 else if(!BLI_edgehash_haskey(seamhash, mf->v3, mf->v1))
293                                         if(BLI_edgehash_haskey(ehash, mf->v3, mf->v1))
294                                                 mark = 1;
295
296                                 if(mark) {
297                                         linkflag[a]= 1;
298                                         hash_add_face(ehash, mf);
299                                         doit= 1;
300                                 }
301                         }
302                 }
303
304         }
305
306         BLI_edgehash_free(ehash, NULL);
307         BLI_edgehash_free(seamhash, NULL);
308
309         if(mode==0 || mode==2) {
310                 for(a=0, mf=me->mface; a<me->totface; a++, mf++)
311                         if(linkflag[a])
312                                 mf->flag |= ME_FACE_SEL;
313                         else
314                                 mf->flag &= ~ME_FACE_SEL;
315         }
316         else if(mode==1) {
317                 for(a=0, mf=me->mface; a<me->totface; a++, mf++)
318                         if(linkflag[a] && (mf->flag & ME_FACE_SEL))
319                                 break;
320
321                 if (a<me->totface) {
322                         for(a=0, mf=me->mface; a<me->totface; a++, mf++)
323                                 if(linkflag[a])
324                                         mf->flag &= ~ME_FACE_SEL;
325                 }
326                 else {
327                         for(a=0, mf=me->mface; a<me->totface; a++, mf++)
328                                 if(linkflag[a])
329                                         mf->flag |= ME_FACE_SEL;
330                 }
331         }
332
333         MEM_freeN(linkflag);
334 }
335
336 void paintface_select_linked(bContext *UNUSED(C), Object *ob, short UNUSED(mval[2]), int mode)
337 {
338         Mesh *me;
339         unsigned int index=0;
340
341         me = get_mesh(ob);
342         if(me==0 || me->totface==0) return;
343
344         if (mode==0 || mode==1) {
345                 // XXX - Causes glitches, not sure why
346                 /*
347                 if (!facesel_face_pick(C, me, mval, &index, 1))
348                         return;
349                 */
350         }
351
352         select_linked_tfaces_with_seams(mode, me, index);
353
354         paintface_flush_flags(ob);
355 }
356
357 /* note: caller needs to run paintface_flush_flags(ob) after this */
358 void paintface_deselect_all_visible(Object *ob, int action, short flush_flags)
359 {
360         Mesh *me;
361         MFace *mface;
362         int a;
363
364         me= get_mesh(ob);
365         if(me==0) return;
366         
367         if (action == SEL_TOGGLE) {
368                 action = SEL_SELECT;
369
370                 mface= me->mface;
371                 a= me->totface;
372                 while(a--) {
373                         if((mface->flag & ME_HIDE) == 0 && mface->flag & ME_FACE_SEL) {
374                                 action = SEL_DESELECT;
375                                 break;
376                         }
377                         mface++;
378                 }
379         }
380         
381         mface= me->mface;
382         a= me->totface;
383         while(a--) {
384                 if((mface->flag & ME_HIDE) == 0) {
385                         switch (action) {
386                         case SEL_SELECT:
387                                 mface->flag |= ME_FACE_SEL;
388                                 break;
389                         case SEL_DESELECT:
390                                 mface->flag &= ~ME_FACE_SEL;
391                                 break;
392                         case SEL_INVERT:
393                                 mface->flag ^= ME_FACE_SEL;
394                                 break;
395                         }
396                 }
397                 mface++;
398         }
399
400         if(flush_flags) {
401                 paintface_flush_flags(ob);
402         }
403 }
404
405 void paintface_select_swap(Scene *scene)
406 {
407         Mesh *me;
408         MFace *mface;
409         int a;
410                 
411         me= get_mesh(OBACT);
412         if(me==0) return;
413         
414         mface= me->mface;
415         a= me->totface;
416         while(a--) {
417                 if(mface->flag & ME_HIDE);
418                 else {
419                         if(mface->flag & ME_FACE_SEL) mface->flag &= ~ME_FACE_SEL;
420                         else mface->flag |= ME_FACE_SEL;
421                 }
422                 mface++;
423         }
424         
425         paintface_flush_flags(OBACT);
426 }
427
428 int paintface_minmax(Object *ob, float *min, float *max)
429 {
430         Mesh *me= get_mesh(ob);
431         MFace *mf;
432         MVert *mv;
433         int a, ok=0;
434         float vec[3];
435
436         if(me==NULL)
437                 return ok;
438
439         mv= me->mvert;
440         mf= me->mface;
441         for (a=me->totface; a>0; a--, mf++) {
442                 if ((mf->flag & ME_HIDE || !(mf->flag & ME_FACE_SEL)) == 0) {
443                         int i= mf->v4 ? 3:2;
444                         do {
445                                 mul_v3_m4v3(vec, ob->obmat, (mv + (*(&mf->v1 + i)))->co);
446                                 DO_MINMAX(vec, min, max);
447                         } while (i--);
448                         ok= 1;
449                 }
450         }
451         return ok;
452 }
453
454 /* ******************** edge loop shortest path ********************* */
455
456 #define ME_SEAM_DONE 2          /* reuse this flag */
457
458 static float edgetag_cut_cost(int e1, int e2, int vert)
459 {
460         EditVert *v = EM_get_vert_for_index(vert);
461         EditEdge *eed1 = EM_get_edge_for_index(e1), *eed2 = EM_get_edge_for_index(e2);
462         EditVert *v1 = EM_get_vert_for_index( (eed1->v1->tmp.l == vert)? eed1->v2->tmp.l: eed1->v1->tmp.l );
463         EditVert *v2 = EM_get_vert_for_index( (eed2->v1->tmp.l == vert)? eed2->v2->tmp.l: eed2->v1->tmp.l );
464         float cost, d1[3], d2[3];
465
466         cost = len_v3v3(v1->co, v->co);
467         cost += len_v3v3(v->co, v2->co);
468
469         sub_v3_v3v3(d1, v->co, v1->co);
470         sub_v3_v3v3(d2, v2->co, v->co);
471
472         cost = cost + 0.5f*cost*(2.0f - fabs(d1[0]*d2[0] + d1[1]*d2[1] + d1[2]*d2[2]));
473
474         return cost;
475 }
476
477 static void edgetag_add_adjacent(Heap *heap, int mednum, int vertnum, int *nedges, int *edges, int *prevedge, float *cost)
478 {
479         int startadj, endadj = nedges[vertnum+1];
480
481         for (startadj = nedges[vertnum]; startadj < endadj; startadj++) {
482                 int adjnum = edges[startadj];
483                 EditEdge *eedadj = EM_get_edge_for_index(adjnum);
484                 float newcost;
485
486                 if (eedadj->f2 & ME_SEAM_DONE)
487                         continue;
488
489                 newcost = cost[mednum] + edgetag_cut_cost(mednum, adjnum, vertnum);
490
491                 if (cost[adjnum] > newcost) {
492                         cost[adjnum] = newcost;
493                         prevedge[adjnum] = mednum;
494                         BLI_heap_insert(heap, newcost, SET_INT_IN_POINTER(adjnum));
495                 }
496         }
497 }
498
499 void edgetag_context_set(Scene *scene, EditEdge *eed, int val)
500 {
501         
502         switch (scene->toolsettings->edge_mode) {
503         case EDGE_MODE_SELECT:
504                 EM_select_edge(eed, val);
505                 break;
506         case EDGE_MODE_TAG_SEAM:
507                 if (val)                {eed->seam = 255;}
508                 else                    {eed->seam = 0;}
509                 break;
510         case EDGE_MODE_TAG_SHARP:
511                 if (val)                {eed->sharp = 1;}
512                 else                    {eed->sharp = 0;}
513                 break;                          
514         case EDGE_MODE_TAG_CREASE:      
515                 if (val)                {eed->crease = 1.0f;}
516                 else                    {eed->crease = 0.0f;}
517                 break;
518         case EDGE_MODE_TAG_BEVEL:
519                 if (val)                {eed->bweight = 1.0f;}
520                 else                    {eed->bweight = 0.0f;}
521                 break;
522         }
523 }
524
525 int edgetag_context_check(Scene *scene, EditEdge *eed)
526 {
527         switch (scene->toolsettings->edge_mode) {
528         case EDGE_MODE_SELECT:
529                 return (eed->f & SELECT) ? 1 : 0;
530         case EDGE_MODE_TAG_SEAM:
531                 return eed->seam ? 1 : 0;
532         case EDGE_MODE_TAG_SHARP:
533                 return eed->sharp ? 1 : 0;
534         case EDGE_MODE_TAG_CREASE:      
535                 return eed->crease ? 1 : 0;
536         case EDGE_MODE_TAG_BEVEL:
537                 return eed->bweight ? 1 : 0;
538         }
539         return 0;
540 }
541
542
543 int edgetag_shortest_path(Scene *scene, EditMesh *em, EditEdge *source, EditEdge *target)
544 {
545         EditEdge *eed;
546         EditVert *ev;
547         
548         Heap *heap;
549         float *cost;
550         int a, totvert=0, totedge=0, *nedges, *edges, *prevedge, mednum = -1, nedgeswap = 0;
551
552
553         /* we need the vert */
554         for (ev= em->verts.first, totvert=0; ev; ev= ev->next) {
555                 ev->tmp.l = totvert;
556                 totvert++;
557         }
558
559         for (eed= em->edges.first; eed; eed = eed->next) {
560                 eed->f2 = 0;
561                 if (eed->h) {
562                         eed->f2 |= ME_SEAM_DONE;
563                 }
564                 eed->tmp.l = totedge;
565                 totedge++;
566         }
567
568         /* alloc */
569         nedges = MEM_callocN(sizeof(*nedges)*totvert+1, "SeamPathNEdges");
570         edges = MEM_mallocN(sizeof(*edges)*totedge*2, "SeamPathEdges");
571         prevedge = MEM_mallocN(sizeof(*prevedge)*totedge, "SeamPathPrevious");
572         cost = MEM_mallocN(sizeof(*cost)*totedge, "SeamPathCost");
573
574         /* count edges, compute adjacent edges offsets and fill adjacent edges */
575         for (eed= em->edges.first; eed; eed = eed->next) {
576                 nedges[eed->v1->tmp.l+1]++;
577                 nedges[eed->v2->tmp.l+1]++;
578         }
579
580         for (a=1; a<totvert; a++) {
581                 int newswap = nedges[a+1];
582                 nedges[a+1] = nedgeswap + nedges[a];
583                 nedgeswap = newswap;
584         }
585         nedges[0] = nedges[1] = 0;
586
587         for (a=0, eed= em->edges.first; eed; a++, eed = eed->next) {
588                 edges[nedges[eed->v1->tmp.l+1]++] = a;
589                 edges[nedges[eed->v2->tmp.l+1]++] = a;
590
591                 cost[a] = 1e20f;
592                 prevedge[a] = -1;
593         }
594
595         /* regular dijkstra shortest path, but over edges instead of vertices */
596         heap = BLI_heap_new();
597         BLI_heap_insert(heap, 0.0f, SET_INT_IN_POINTER(source->tmp.l));
598         cost[source->tmp.l] = 0.0f;
599
600         EM_init_index_arrays(em, 1, 1, 0);
601
602
603         while (!BLI_heap_empty(heap)) {
604                 mednum = GET_INT_FROM_POINTER(BLI_heap_popmin(heap));
605                 eed = EM_get_edge_for_index( mednum );
606
607                 if (mednum == target->tmp.l)
608                         break;
609
610                 if (eed->f2 & ME_SEAM_DONE)
611                         continue;
612
613                 eed->f2 |= ME_SEAM_DONE;
614
615                 edgetag_add_adjacent(heap, mednum, eed->v1->tmp.l, nedges, edges, prevedge, cost);
616                 edgetag_add_adjacent(heap, mednum, eed->v2->tmp.l, nedges, edges, prevedge, cost);
617         }
618         
619         
620         MEM_freeN(nedges);
621         MEM_freeN(edges);
622         MEM_freeN(cost);
623         BLI_heap_free(heap, NULL);
624
625         for (eed= em->edges.first; eed; eed = eed->next) {
626                 eed->f2 &= ~ME_SEAM_DONE;
627         }
628
629         if (mednum != target->tmp.l) {
630                 MEM_freeN(prevedge);
631                 EM_free_index_arrays();
632                 return 0;
633         }
634
635         /* follow path back to source and mark as seam */
636         if (mednum == target->tmp.l) {
637                 short allseams = 1;
638
639                 mednum = target->tmp.l;
640                 do {
641                         eed = EM_get_edge_for_index( mednum );
642                         if (!edgetag_context_check(scene, eed)) {
643                                 allseams = 0;
644                                 break;
645                         }
646                         mednum = prevedge[mednum];
647                 } while (mednum != source->tmp.l);
648
649                 mednum = target->tmp.l;
650                 do {
651                         eed = EM_get_edge_for_index( mednum );
652                         if (allseams)
653                                 edgetag_context_set(scene, eed, 0);
654                         else
655                                 edgetag_context_set(scene, eed, 1);
656                         mednum = prevedge[mednum];
657                 } while (mednum != -1);
658         }
659
660         MEM_freeN(prevedge);
661         EM_free_index_arrays();
662         return 1;
663 }
664
665 /* *************************************** */
666 #if 0
667 static void seam_edgehash_insert_face(EdgeHash *ehash, MFace *mf)
668 {
669         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
670         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
671         if (mf->v4) {
672                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
673                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
674         }
675         else
676                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
677 }
678
679 void seam_mark_clear_tface(Scene *scene, short mode)
680 {
681         Mesh *me;
682         MFace *mf;
683         MEdge *med;
684         int a;
685         
686         me= get_mesh(OBACT);
687         if(me==0 ||  me->totface==0) return;
688
689         if (mode == 0)
690                 mode = pupmenu("Seams%t|Mark Border Seam %x1|Clear Seam %x2");
691
692         if (mode != 1 && mode != 2)
693                 return;
694
695         if (mode == 2) {
696                 EdgeHash *ehash = BLI_edgehash_new();
697
698                 for (a=0, mf=me->mface; a<me->totface; a++, mf++)
699                         if (!(mf->flag & ME_HIDE) && (mf->flag & ME_FACE_SEL))
700                                 seam_edgehash_insert_face(ehash, mf);
701
702                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
703                         if (BLI_edgehash_haskey(ehash, med->v1, med->v2))
704                                 med->flag &= ~ME_SEAM;
705
706                 BLI_edgehash_free(ehash, NULL);
707         }
708         else {
709                 /* mark edges that are on both selected and deselected faces */
710                 EdgeHash *ehash1 = BLI_edgehash_new();
711                 EdgeHash *ehash2 = BLI_edgehash_new();
712
713                 for (a=0, mf=me->mface; a<me->totface; a++, mf++) {
714                         if ((mf->flag & ME_HIDE) || !(mf->flag & ME_FACE_SEL))
715                                 seam_edgehash_insert_face(ehash1, mf);
716                         else
717                                 seam_edgehash_insert_face(ehash2, mf);
718                 }
719
720                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
721                         if (BLI_edgehash_haskey(ehash1, med->v1, med->v2) &&
722                                 BLI_edgehash_haskey(ehash2, med->v1, med->v2))
723                                 med->flag |= ME_SEAM;
724
725                 BLI_edgehash_free(ehash1, NULL);
726                 BLI_edgehash_free(ehash2, NULL);
727         }
728
729 // XXX  if (G.rt == 8)
730 //              unwrap_lscm(1);
731
732         me->drawflag |= ME_DRAWSEAMS;
733 }
734 #endif
735
736 int paintface_mouse_select(struct bContext *C, Object *ob, short mval[2], int extend)
737 {
738         Mesh *me;
739         MFace *mface, *msel;
740         unsigned int a, index;
741         
742         /* Get the face under the cursor */
743         me = get_mesh(ob);
744
745         if (!facesel_face_pick(C, me, mval, &index, 1))
746                 return 0;
747         
748         msel= (((MFace*)me->mface)+index);
749         if (msel->flag & ME_HIDE) return 0;
750         
751         /* clear flags */
752         mface = me->mface;
753         a = me->totface;
754         if (!extend) {
755                 while (a--) {
756                         mface->flag &= ~ME_FACE_SEL;
757                         mface++;
758                 }
759         }
760         
761         me->act_face = (int)index;
762
763         if (extend) {
764                 if (msel->flag & ME_FACE_SEL)
765                         msel->flag &= ~ME_FACE_SEL;
766                 else
767                         msel->flag |= ME_FACE_SEL;
768         }
769         else msel->flag |= ME_FACE_SEL;
770         
771         /* image window redraw */
772         
773         paintface_flush_flags(ob);
774         WM_event_add_notifier(C, NC_GEOM|ND_SELECT, ob->data);
775         ED_region_tag_redraw(CTX_wm_region(C)); // XXX - should redraw all 3D views
776         return 1;
777 }
778
779 int do_paintface_box_select(ViewContext *vc, rcti *rect, int select, int extend)
780 {
781         Mesh *me;
782         MFace *mface;
783         struct ImBuf *ibuf;
784         unsigned int *rt;
785         int a, index;
786         char *selar;
787         int sx= rect->xmax-rect->xmin+1;
788         int sy= rect->ymax-rect->ymin+1;
789
790         me= get_mesh(vc->obact);
791
792         if(me==NULL || me->totface==0 || sx*sy <= 0)
793                 return OPERATOR_CANCELLED;
794
795         selar= MEM_callocN(me->totface+1, "selar");
796
797         if (extend == 0 && select)
798                 paintface_deselect_all_visible(vc->obact, SEL_DESELECT, FALSE);
799
800         view3d_validate_backbuf(vc);
801
802         ibuf = IMB_allocImBuf(sx,sy,32,IB_rect);
803         rt = ibuf->rect;
804         glReadPixels(rect->xmin+vc->ar->winrct.xmin,  rect->ymin+vc->ar->winrct.ymin, sx, sy, GL_RGBA, GL_UNSIGNED_BYTE,  ibuf->rect);
805         if(ENDIAN_ORDER==B_ENDIAN) IMB_convert_rgba_to_abgr(ibuf);
806
807         a= sx*sy;
808         while(a--) {
809                 if(*rt) {
810                         index= WM_framebuffer_to_index(*rt);
811                         if(index<=me->totface) selar[index]= 1;
812                 }
813                 rt++;
814         }
815
816         mface= me->mface;
817         for(a=1; a<=me->totface; a++, mface++) {
818                 if(selar[a]) {
819                         if(mface->flag & ME_HIDE);
820                         else {
821                                 if(select) mface->flag |= ME_FACE_SEL;
822                                 else mface->flag &= ~ME_FACE_SEL;
823                         }
824                 }
825         }
826
827         IMB_freeImBuf(ibuf);
828         MEM_freeN(selar);
829
830 #ifdef __APPLE__        
831         glReadBuffer(GL_BACK);
832 #endif
833
834         paintface_flush_flags(vc->obact);
835
836         return OPERATOR_FINISHED;
837 }