commit before doing some hefty shapekey change, will break compilation
[blender.git] / source / blender / editors / mesh / editface.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
19  *
20  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
21  * All rights reserved.
22  *
23  * Contributor(s): Blender Foundation, Campbell Barton
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28
29 #include <math.h>
30 #include <string.h>
31
32 #include "MEM_guardedalloc.h"
33
34 #include "BLI_blenlib.h"
35 #include "BLI_arithb.h"
36 #include "BLI_heap.h"
37 #include "BLI_edgehash.h"
38 #include "BLI_editVert.h"
39
40 #include "IMB_imbuf_types.h"
41 #include "IMB_imbuf.h"
42
43 #include "DNA_image_types.h"
44 #include "DNA_mesh_types.h"
45 #include "DNA_meshdata_types.h"
46 #include "DNA_object_types.h"
47 #include "DNA_space_types.h"
48 #include "DNA_screen_types.h"
49 #include "DNA_scene_types.h"
50 #include "DNA_view3d_types.h"
51
52 #include "BKE_brush.h"
53 #include "BKE_customdata.h"
54 #include "BKE_depsgraph.h"
55 #include "BKE_DerivedMesh.h"
56 #include "BKE_displist.h"
57 #include "BKE_global.h"
58 #include "BKE_mesh.h"
59 #include "BKE_object.h"
60 #include "BKE_texture.h"
61 #include "BKE_utildefines.h"
62 #include "BKE_customdata.h"
63 #include "BKE_context.h"
64
65 #include "BIF_gl.h"
66 #include "BIF_glutil.h"
67
68 #include "GPU_draw.h"
69
70 #ifndef DISABLE_PYTHON
71 //#include "BPY_extern.h"
72 //#include "BPY_menus.h"
73 #endif
74
75 #include "ED_mesh.h"
76 #include "ED_screen.h"
77 #include "ED_object.h"
78 #include "ED_view3d.h"
79
80 #include "WM_api.h"
81 #include "WM_types.h"
82
83 /* own include */
84 #include "mesh_intern.h"
85
86 /* ***************** XXX **************** */
87 static int pupmenu() {return 0;}
88 /* ***************** XXX **************** */
89
90
91 /* copy the face flags, most importantly selection from the mesh to the final derived mesh,
92  * use in object mode when selecting faces (while painting) */
93 void object_facesel_flush_dm(Object *ob)
94 {
95         Mesh *me= get_mesh(ob);
96         DerivedMesh *dm= ob->derivedFinal;
97         MFace *faces, *mf, *mf_orig;
98         int *index_array = NULL;
99         int totface;
100         int i;
101         
102         
103         if(me==NULL || dm==NULL || !CustomData_has_layer( &dm->faceData, CD_ORIGINDEX))
104                 return;
105         
106         faces = dm->getTessFaceArray(dm);
107         totface = dm->getNumTessFaces(dm);
108         
109         index_array = dm->getTessFaceDataArray(dm, CD_ORIGINDEX);
110         
111         mf= faces;
112         
113         for (i= 0; i<totface; i++, mf++) { /* loop over derived mesh faces */
114                 mf_orig= me->mface + index_array[i];
115                 mf->flag= mf_orig->flag;;
116         }
117 }
118
119 /* returns 0 if not found, otherwise 1 */
120 int facesel_face_pick(struct bContext *C, Mesh *me, short *mval, unsigned int *index, short rect)
121 {
122         ViewContext vc;
123         view3d_set_viewcontext(C, &vc);
124
125         if (!me || me->totface==0)
126                 return 0;
127
128 // XXX  if (v3d->flag & V3D_NEEDBACKBUFDRAW) {
129 // XXX drawview.c!              check_backbuf();
130 // XXX          persp(PERSP_VIEW);
131 // XXX  }
132
133         if (rect) {
134                 /* sample rect to increase changes of selecting, so that when clicking
135                    on an edge in the backbuf, we can still select a face */
136
137                 int dist;
138                 *index = view3d_sample_backbuf_rect(&vc, mval, 3, 1, me->totface+1, &dist,0,NULL, NULL);
139         }
140         else {
141                 /* sample only on the exact position */
142                 *index = view3d_sample_backbuf(&vc, mval[0], mval[1]);
143         }
144
145         if ((*index)<=0 || (*index)>(unsigned int)me->totface)
146                 return 0;
147
148         (*index)--;
149         
150         return 1;
151 }
152
153 /* last_sel, use em->act_face otherwise get the last selected face in the editselections
154  * at the moment, last_sel is mainly useful for gaking sure the space image dosnt flicker */
155 MTFace *EM_get_active_mtface(EditMesh *em, EditFace **act_efa, MCol **mcol, int sloppy)
156 {
157         EditFace *efa = NULL;
158         
159         if(!EM_texFaceCheck(em))
160                 return NULL;
161         
162         efa = EM_get_actFace(em, sloppy);
163         
164         if (efa) {
165                 if (mcol) {
166                         if (CustomData_has_layer(&em->fdata, CD_MCOL))
167                                 *mcol = CustomData_em_get(&em->fdata, efa->data, CD_MCOL);
168                         else
169                                 *mcol = NULL;
170                 }
171                 if (act_efa) *act_efa = efa; 
172                 return CustomData_em_get(&em->fdata, efa->data, CD_MTFACE);
173         }
174         if (act_efa) *act_efa= NULL;
175         if(mcol) *mcol = NULL;
176         return NULL;
177 }
178
179 void reveal_tface(Scene *scene)
180 {
181         Mesh *me;
182         MFace *mface;
183         int a;
184         
185         me= get_mesh(OBACT);
186         if(me==0 || me->totface==0) return;
187         
188         mface= me->mface;
189         a= me->totface;
190         while(a--) {
191                 if(mface->flag & ME_HIDE) {
192                         mface->flag |= ME_FACE_SEL;
193                         mface->flag -= ME_HIDE;
194                 }
195                 mface++;
196         }
197
198         object_facesel_flush_dm(OBACT);
199 // XXX notifier!        object_tface_flags_changed(OBACT, 0);
200 }
201
202 void hide_tface(Scene *scene)
203 {
204         Mesh *me;
205         MFace *mface;
206         int a;
207         int shift=0, alt= 0; // XXX
208         
209         me= get_mesh(OBACT);
210         if(me==0 || me->totface==0) return;
211         
212         if(alt) {
213                 reveal_tface(scene);
214                 return;
215         }
216         
217         mface= me->mface;
218         a= me->totface;
219         while(a--) {
220                 if(mface->flag & ME_HIDE);
221                 else {
222                         if(shift) {
223                                 if( (mface->flag & ME_FACE_SEL)==0) mface->flag |= ME_HIDE;
224                         }
225                         else {
226                                 if( (mface->flag & ME_FACE_SEL)) mface->flag |= ME_HIDE;
227                         }
228                 }
229                 if(mface->flag & ME_HIDE) mface->flag &= ~ME_FACE_SEL;
230                 
231                 mface++;
232         }
233         
234         object_facesel_flush_dm(OBACT);
235 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
236 }
237
238 /* Set tface seams based on edge data, uses hash table to find seam edges. */
239
240 static void hash_add_face(EdgeHash *ehash, MFace *mf)
241 {
242         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
243         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
244         if(mf->v4) {
245                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
246                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
247         }
248         else
249                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
250 }
251
252
253 void select_linked_tfaces_with_seams(int mode, Mesh *me, unsigned int index)
254 {
255         MFace *mf;
256         int a, doit=1, mark=0;
257         char *linkflag;
258         EdgeHash *ehash, *seamhash;
259         MEdge *med;
260
261         ehash= BLI_edgehash_new();
262         seamhash = BLI_edgehash_new();
263         linkflag= MEM_callocN(sizeof(char)*me->totface, "linkflaguv");
264
265         for(med=me->medge, a=0; a < me->totedge; a++, med++)
266                 if(med->flag & ME_SEAM)
267                         BLI_edgehash_insert(seamhash, med->v1, med->v2, NULL);
268
269         if (mode==0 || mode==1) {
270                 /* only put face under cursor in array */
271                 mf= ((MFace*)me->mface) + index;
272                 hash_add_face(ehash, mf);
273                 linkflag[index]= 1;
274         }
275         else {
276                 /* fill array by selection */
277                 mf= me->mface;
278                 for(a=0; a<me->totface; a++, mf++) {
279                         if(mf->flag & ME_HIDE);
280                         else if(mf->flag & ME_FACE_SEL) {
281                                 hash_add_face(ehash, mf);
282                                 linkflag[a]= 1;
283                         }
284                 }
285         }
286
287         while(doit) {
288                 doit= 0;
289
290                 /* expand selection */
291                 mf= me->mface;
292                 for(a=0; a<me->totface; a++, mf++) {
293                         if(mf->flag & ME_HIDE)
294                                 continue;
295
296                         if(!linkflag[a]) {
297                                 mark= 0;
298
299                                 if(!BLI_edgehash_haskey(seamhash, mf->v1, mf->v2))
300                                         if(BLI_edgehash_haskey(ehash, mf->v1, mf->v2))
301                                                 mark= 1;
302                                 if(!BLI_edgehash_haskey(seamhash, mf->v2, mf->v3))
303                                         if(BLI_edgehash_haskey(ehash, mf->v2, mf->v3))
304                                                 mark= 1;
305                                 if(mf->v4) {
306                                         if(!BLI_edgehash_haskey(seamhash, mf->v3, mf->v4))
307                                                 if(BLI_edgehash_haskey(ehash, mf->v3, mf->v4))
308                                                         mark= 1;
309                                         if(!BLI_edgehash_haskey(seamhash, mf->v4, mf->v1))
310                                                 if(BLI_edgehash_haskey(ehash, mf->v4, mf->v1))
311                                                         mark= 1;
312                                 }
313                                 else if(!BLI_edgehash_haskey(seamhash, mf->v3, mf->v1))
314                                         if(BLI_edgehash_haskey(ehash, mf->v3, mf->v1))
315                                                 mark = 1;
316
317                                 if(mark) {
318                                         linkflag[a]= 1;
319                                         hash_add_face(ehash, mf);
320                                         doit= 1;
321                                 }
322                         }
323                 }
324
325         }
326
327         BLI_edgehash_free(ehash, NULL);
328         BLI_edgehash_free(seamhash, NULL);
329
330         if(mode==0 || mode==2) {
331                 for(a=0, mf=me->mface; a<me->totface; a++, mf++)
332                         if(linkflag[a])
333                                 mf->flag |= ME_FACE_SEL;
334                         else
335                                 mf->flag &= ~ME_FACE_SEL;
336         }
337         else if(mode==1) {
338                 for(a=0, mf=me->mface; a<me->totface; a++, mf++)
339                         if(linkflag[a] && (mf->flag & ME_FACE_SEL))
340                                 break;
341
342                 if (a<me->totface) {
343                         for(a=0, mf=me->mface; a<me->totface; a++, mf++)
344                                 if(linkflag[a])
345                                         mf->flag &= ~ME_FACE_SEL;
346                 }
347                 else {
348                         for(a=0, mf=me->mface; a<me->totface; a++, mf++)
349                                 if(linkflag[a])
350                                         mf->flag |= ME_FACE_SEL;
351                 }
352         }
353
354         MEM_freeN(linkflag);
355
356         // BIF_undo_push("Select linked UV face");
357         // object_tface_flags_changed(OBACT, 0);
358 }
359
360 void select_linked_tfaces(bContext *C, Object *ob, short mval[2], int mode)
361 {
362         Mesh *me;
363         unsigned int index=0;
364
365         me = get_mesh(ob);
366         if(me==0 || me->totface==0) return;
367
368         if (mode==0 || mode==1) {
369                 // XXX - Causes glitches, not sure why
370                 /*
371                 if (!facesel_face_pick(C, me, mval, &index, 1))
372                         return;
373                 */
374         }
375
376         select_linked_tfaces_with_seams(mode, me, index);
377
378         object_facesel_flush_dm(ob);
379 }
380
381 void deselectall_tface(Object *ob)
382 {
383         Mesh *me;
384         MFace *mface;
385         int a, sel;
386
387         me= get_mesh(ob);
388         if(me==0) return;
389         
390         mface= me->mface;
391         a= me->totface;
392         sel= 0;
393         while(a--) {
394                 if(mface->flag & ME_HIDE);
395                 else if(mface->flag & ME_FACE_SEL) {
396                         sel= 1;
397                         break;
398                 }
399                 mface++;
400         }
401         
402         mface= me->mface;
403         a= me->totface;
404         while(a--) {
405                 if(mface->flag & ME_HIDE);
406                 else {
407                         if(sel) mface->flag &= ~ME_FACE_SEL;
408                         else mface->flag |= ME_FACE_SEL;
409                 }
410                 mface++;
411         }
412
413         object_facesel_flush_dm(ob);
414 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
415 }
416
417 void selectswap_tface(Scene *scene)
418 {
419         Mesh *me;
420         MFace *mface;
421         int a;
422                 
423         me= get_mesh(OBACT);
424         if(me==0) return;
425         
426         mface= me->mface;
427         a= me->totface;
428         while(a--) {
429                 if(mface->flag & ME_HIDE);
430                 else {
431                         if(mface->flag & ME_FACE_SEL) mface->flag &= ~ME_FACE_SEL;
432                         else mface->flag |= ME_FACE_SEL;
433                 }
434                 mface++;
435         }
436         
437         object_facesel_flush_dm(OBACT);
438 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
439 }
440
441 int minmax_tface(Scene *scene, float *min, float *max)
442 {
443         Object *ob;
444         Mesh *me;
445         MFace *mf;
446         MTFace *tf;
447         MVert *mv;
448         int a, ok=0;
449         float vec[3], bmat[3][3];
450         
451         ob = OBACT;
452         if (ob==0) return ok;
453         me= get_mesh(ob);
454         if(me==0 || me->mtface==0) return ok;
455         
456         Mat3CpyMat4(bmat, ob->obmat);
457
458         mv= me->mvert;
459         mf= me->mface;
460         tf= me->mtface;
461         for (a=me->totface; a>0; a--, mf++, tf++) {
462                 if (mf->flag & ME_HIDE || !(mf->flag & ME_FACE_SEL))
463                         continue;
464
465                 VECCOPY(vec, (mv+mf->v1)->co);
466                 Mat3MulVecfl(bmat, vec);
467                 VecAddf(vec, vec, ob->obmat[3]);
468                 DO_MINMAX(vec, min, max);               
469
470                 VECCOPY(vec, (mv+mf->v2)->co);
471                 Mat3MulVecfl(bmat, vec);
472                 VecAddf(vec, vec, ob->obmat[3]);
473                 DO_MINMAX(vec, min, max);               
474
475                 VECCOPY(vec, (mv+mf->v3)->co);
476                 Mat3MulVecfl(bmat, vec);
477                 VecAddf(vec, vec, ob->obmat[3]);
478                 DO_MINMAX(vec, min, max);               
479
480                 if (mf->v4) {
481                         VECCOPY(vec, (mv+mf->v4)->co);
482                         Mat3MulVecfl(bmat, vec);
483                         VecAddf(vec, vec, ob->obmat[3]);
484                         DO_MINMAX(vec, min, max);
485                 }
486                 ok= 1;
487         }
488         return ok;
489 }
490
491 /* ******************** edge loop shortest path ********************* */
492
493 #define ME_SEAM_DONE 2          /* reuse this flag */
494
495 static float edgetag_cut_cost(EditMesh *em, int e1, int e2, int vert)
496 {
497         EditVert *v = EM_get_vert_for_index(vert);
498         EditEdge *eed1 = EM_get_edge_for_index(e1), *eed2 = EM_get_edge_for_index(e2);
499         EditVert *v1 = EM_get_vert_for_index( (eed1->v1->tmp.l == vert)? eed1->v2->tmp.l: eed1->v1->tmp.l );
500         EditVert *v2 = EM_get_vert_for_index( (eed2->v1->tmp.l == vert)? eed2->v2->tmp.l: eed2->v1->tmp.l );
501         float cost, d1[3], d2[3];
502
503         cost = VecLenf(v1->co, v->co);
504         cost += VecLenf(v->co, v2->co);
505
506         VecSubf(d1, v->co, v1->co);
507         VecSubf(d2, v2->co, v->co);
508
509         cost = cost + 0.5f*cost*(2.0f - fabs(d1[0]*d2[0] + d1[1]*d2[1] + d1[2]*d2[2]));
510
511         return cost;
512 }
513
514 static void edgetag_add_adjacent(EditMesh *em, Heap *heap, int mednum, int vertnum, int *nedges, int *edges, int *prevedge, float *cost)
515 {
516         int startadj, endadj = nedges[vertnum+1];
517
518         for (startadj = nedges[vertnum]; startadj < endadj; startadj++) {
519                 int adjnum = edges[startadj];
520                 EditEdge *eedadj = EM_get_edge_for_index(adjnum);
521                 float newcost;
522
523                 if (eedadj->f2 & ME_SEAM_DONE)
524                         continue;
525
526                 newcost = cost[mednum] + edgetag_cut_cost(em, mednum, adjnum, vertnum);
527
528                 if (cost[adjnum] > newcost) {
529                         cost[adjnum] = newcost;
530                         prevedge[adjnum] = mednum;
531                         BLI_heap_insert(heap, newcost, SET_INT_IN_POINTER(adjnum));
532                 }
533         }
534 }
535
536 void edgetag_context_set(Scene *scene, EditEdge *eed, int val)
537 {
538         
539         switch (scene->toolsettings->edge_mode) {
540         case EDGE_MODE_SELECT:
541                 EM_select_edge(eed, val);
542                 break;
543         case EDGE_MODE_TAG_SEAM:
544                 if (val)                {eed->seam = 255;}
545                 else                    {eed->seam = 0;}
546                 break;
547         case EDGE_MODE_TAG_SHARP:
548                 if (val)                {eed->sharp = 1;}
549                 else                    {eed->sharp = 0;}
550                 break;                          
551         case EDGE_MODE_TAG_CREASE:      
552                 if (val)                {eed->crease = 1.0f;}
553                 else                    {eed->crease = 0.0f;}
554                 break;
555         case EDGE_MODE_TAG_BEVEL:
556                 if (val)                {eed->bweight = 1.0f;}
557                 else                    {eed->bweight = 0.0f;}
558                 break;
559         }
560 }
561
562 int edgetag_context_check(Scene *scene, EditEdge *eed)
563 {
564         switch (scene->toolsettings->edge_mode) {
565         case EDGE_MODE_SELECT:
566                 return (eed->f & SELECT) ? 1 : 0;
567         case EDGE_MODE_TAG_SEAM:
568                 return eed->seam ? 1 : 0;
569         case EDGE_MODE_TAG_SHARP:
570                 return eed->sharp ? 1 : 0;
571         case EDGE_MODE_TAG_CREASE:      
572                 return eed->crease ? 1 : 0;
573         case EDGE_MODE_TAG_BEVEL:
574                 return eed->bweight ? 1 : 0;
575         }
576         return 0;
577 }
578
579
580 int edgetag_shortest_path(Scene *scene, EditMesh *em, EditEdge *source, EditEdge *target)
581 {
582         EditEdge *eed;
583         EditVert *ev;
584         
585         Heap *heap;
586         float *cost;
587         int a, totvert=0, totedge=0, *nedges, *edges, *prevedge, mednum = -1, nedgeswap = 0;
588
589
590         /* we need the vert */
591         for (ev= em->verts.first, totvert=0; ev; ev= ev->next) {
592                 ev->tmp.l = totvert;
593                 totvert++;
594         }
595
596         for (eed= em->edges.first; eed; eed = eed->next) {
597                 eed->f2 = 0;
598                 if (eed->h) {
599                         eed->f2 |= ME_SEAM_DONE;
600                 }
601                 eed->tmp.l = totedge;
602                 totedge++;
603         }
604
605         /* alloc */
606         nedges = MEM_callocN(sizeof(*nedges)*totvert+1, "SeamPathNEdges");
607         edges = MEM_mallocN(sizeof(*edges)*totedge*2, "SeamPathEdges");
608         prevedge = MEM_mallocN(sizeof(*prevedge)*totedge, "SeamPathPrevious");
609         cost = MEM_mallocN(sizeof(*cost)*totedge, "SeamPathCost");
610
611         /* count edges, compute adjacent edges offsets and fill adjacent edges */
612         for (eed= em->edges.first; eed; eed = eed->next) {
613                 nedges[eed->v1->tmp.l+1]++;
614                 nedges[eed->v2->tmp.l+1]++;
615         }
616
617         for (a=1; a<totvert; a++) {
618                 int newswap = nedges[a+1];
619                 nedges[a+1] = nedgeswap + nedges[a];
620                 nedgeswap = newswap;
621         }
622         nedges[0] = nedges[1] = 0;
623
624         for (a=0, eed= em->edges.first; eed; a++, eed = eed->next) {
625                 edges[nedges[eed->v1->tmp.l+1]++] = a;
626                 edges[nedges[eed->v2->tmp.l+1]++] = a;
627
628                 cost[a] = 1e20f;
629                 prevedge[a] = -1;
630         }
631
632         /* regular dijkstra shortest path, but over edges instead of vertices */
633         heap = BLI_heap_new();
634         BLI_heap_insert(heap, 0.0f, SET_INT_IN_POINTER(source->tmp.l));
635         cost[source->tmp.l] = 0.0f;
636
637         EM_init_index_arrays(em, 1, 1, 0);
638
639
640         while (!BLI_heap_empty(heap)) {
641                 mednum = GET_INT_FROM_POINTER(BLI_heap_popmin(heap));
642                 eed = EM_get_edge_for_index( mednum );
643
644                 if (mednum == target->tmp.l)
645                         break;
646
647                 if (eed->f2 & ME_SEAM_DONE)
648                         continue;
649
650                 eed->f2 |= ME_SEAM_DONE;
651
652                 edgetag_add_adjacent(em, heap, mednum, eed->v1->tmp.l, nedges, edges, prevedge, cost);
653                 edgetag_add_adjacent(em, heap, mednum, eed->v2->tmp.l, nedges, edges, prevedge, cost);
654         }
655         
656         
657         MEM_freeN(nedges);
658         MEM_freeN(edges);
659         MEM_freeN(cost);
660         BLI_heap_free(heap, NULL);
661
662         for (eed= em->edges.first; eed; eed = eed->next) {
663                 eed->f2 &= ~ME_SEAM_DONE;
664         }
665
666         if (mednum != target->tmp.l) {
667                 MEM_freeN(prevedge);
668                 EM_free_index_arrays();
669                 return 0;
670         }
671
672         /* follow path back to source and mark as seam */
673         if (mednum == target->tmp.l) {
674                 short allseams = 1;
675
676                 mednum = target->tmp.l;
677                 do {
678                         eed = EM_get_edge_for_index( mednum );
679                         if (!edgetag_context_check(scene, eed)) {
680                                 allseams = 0;
681                                 break;
682                         }
683                         mednum = prevedge[mednum];
684                 } while (mednum != source->tmp.l);
685
686                 mednum = target->tmp.l;
687                 do {
688                         eed = EM_get_edge_for_index( mednum );
689                         if (allseams)
690                                 edgetag_context_set(scene, eed, 0);
691                         else
692                                 edgetag_context_set(scene, eed, 1);
693                         mednum = prevedge[mednum];
694                 } while (mednum != -1);
695         }
696
697         MEM_freeN(prevedge);
698         EM_free_index_arrays();
699         return 1;
700 }
701
702 /* *************************************** */
703
704 static void seam_edgehash_insert_face(EdgeHash *ehash, MFace *mf)
705 {
706         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
707         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
708         if (mf->v4) {
709                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
710                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
711         }
712         else
713                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
714 }
715
716 void seam_mark_clear_tface(Scene *scene, short mode)
717 {
718         Mesh *me;
719         MFace *mf;
720         MEdge *med;
721         int a;
722         
723         me= get_mesh(OBACT);
724         if(me==0 ||  me->totface==0) return;
725
726         if (mode == 0)
727                 mode = pupmenu("Seams%t|Mark Border Seam %x1|Clear Seam %x2");
728
729         if (mode != 1 && mode != 2)
730                 return;
731
732         if (mode == 2) {
733                 EdgeHash *ehash = BLI_edgehash_new();
734
735                 for (a=0, mf=me->mface; a<me->totface; a++, mf++)
736                         if (!(mf->flag & ME_HIDE) && (mf->flag & ME_FACE_SEL))
737                                 seam_edgehash_insert_face(ehash, mf);
738
739                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
740                         if (BLI_edgehash_haskey(ehash, med->v1, med->v2))
741                                 med->flag &= ~ME_SEAM;
742
743                 BLI_edgehash_free(ehash, NULL);
744         }
745         else {
746                 /* mark edges that are on both selected and deselected faces */
747                 EdgeHash *ehash1 = BLI_edgehash_new();
748                 EdgeHash *ehash2 = BLI_edgehash_new();
749
750                 for (a=0, mf=me->mface; a<me->totface; a++, mf++) {
751                         if ((mf->flag & ME_HIDE) || !(mf->flag & ME_FACE_SEL))
752                                 seam_edgehash_insert_face(ehash1, mf);
753                         else
754                                 seam_edgehash_insert_face(ehash2, mf);
755                 }
756
757                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
758                         if (BLI_edgehash_haskey(ehash1, med->v1, med->v2) &&
759                             BLI_edgehash_haskey(ehash2, med->v1, med->v2))
760                                 med->flag |= ME_SEAM;
761
762                 BLI_edgehash_free(ehash1, NULL);
763                 BLI_edgehash_free(ehash2, NULL);
764         }
765
766 // XXX  if (G.rt == 8)
767 //              unwrap_lscm(1);
768
769         me->drawflag |= ME_DRAWSEAMS;
770
771 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
772 }
773
774 int face_select(struct bContext *C, Object *ob, short mval[2], int extend)
775 {
776         Mesh *me;
777         MFace *mface, *msel;
778         unsigned int a, index;
779         
780         /* Get the face under the cursor */
781         me = get_mesh(ob);
782
783         if (!facesel_face_pick(C, me, mval, &index, 1))
784                 return 0;
785         
786         msel= (((MFace*)me->mface)+index);
787         if (msel->flag & ME_HIDE) return 0;
788         
789         /* clear flags */
790         mface = me->mface;
791         a = me->totface;
792         if (!extend) {
793                 while (a--) {
794                         mface->flag &= ~ME_FACE_SEL;
795                         mface++;
796                 }
797         }
798         
799         me->act_face = (int)index;
800
801         if (extend) {
802                 if (msel->flag & ME_FACE_SEL)
803                         msel->flag &= ~ME_FACE_SEL;
804                 else
805                         msel->flag |= ME_FACE_SEL;
806         }
807         else msel->flag |= ME_FACE_SEL;
808         
809         /* image window redraw */
810         
811         object_facesel_flush_dm(ob);
812 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
813         WM_event_add_notifier(C, NC_GEOM|ND_SELECT, ob->data);
814         ED_region_tag_redraw(CTX_wm_region(C)); // XXX - should redraw all 3D views
815         return 1;
816 }
817
818 void face_borderselect(struct bContext *C, Object *ob, rcti *rect, int select)
819 {
820         Mesh *me;
821         MFace *mface;
822         struct ImBuf *ibuf;
823         unsigned int *rt;
824         int a, sx, sy, index;
825         char *selar;
826         
827         ViewContext vc;
828         view3d_set_viewcontext(C, &vc);
829
830         me= get_mesh(ob);
831         if(me==0) return;
832         if(me->totface==0) return;
833
834         selar= MEM_callocN(me->totface+1, "selar");
835
836         sx= (rect->xmax-rect->xmin+1);
837         sy= (rect->ymax-rect->ymin+1);
838         if(sx*sy<=0) return;
839
840         view3d_validate_backbuf(&vc);
841
842         ibuf = IMB_allocImBuf(sx,sy,32,IB_rect,0);
843         rt = ibuf->rect;
844         glReadPixels(rect->xmin+vc.ar->winrct.xmin,  rect->ymin+vc.ar->winrct.ymin, sx, sy, GL_RGBA, GL_UNSIGNED_BYTE,  ibuf->rect);
845         if(ENDIAN_ORDER==B_ENDIAN) IMB_convert_rgba_to_abgr(ibuf);
846
847         a= sx*sy;
848         while(a--) {
849                 if(*rt) {
850                         index= WM_framebuffer_to_index(*rt);
851                         if(index<=me->totface) selar[index]= 1;
852                 }
853                 rt++;
854         }
855
856         mface= me->mface;
857         for(a=1; a<=me->totface; a++, mface++) {
858                 if(selar[a]) {
859                         if(mface->flag & ME_HIDE);
860                         else {
861                                 if(select) mface->flag |= ME_FACE_SEL;
862                                 else mface->flag &= ~ME_FACE_SEL;
863                         }
864                 }
865         }
866
867         IMB_freeImBuf(ibuf);
868         MEM_freeN(selar);
869
870
871 // XXX notifier!                        object_tface_flags_changed(OBACT, 0);
872 #ifdef __APPLE__        
873         glReadBuffer(GL_BACK);
874 #endif
875         
876         object_facesel_flush_dm(ob);
877 }