Various warning fixes
[blender.git] / source / blender / editors / mesh / editface.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
19  *
20  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
21  * All rights reserved.
22  *
23  * Contributor(s): Blender Foundation, Campbell Barton
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28
29 #include <math.h>
30 #include <string.h>
31
32 #include "MEM_guardedalloc.h"
33
34 #include "BLI_blenlib.h"
35 #include "BLI_arithb.h"
36 #include "BLI_heap.h"
37 #include "BLI_edgehash.h"
38 #include "BLI_editVert.h"
39
40 #include "IMB_imbuf_types.h"
41 #include "IMB_imbuf.h"
42
43 #include "DNA_image_types.h"
44 #include "DNA_mesh_types.h"
45 #include "DNA_meshdata_types.h"
46 #include "DNA_object_types.h"
47 #include "DNA_space_types.h"
48 #include "DNA_screen_types.h"
49 #include "DNA_scene_types.h"
50 #include "DNA_view3d_types.h"
51
52 #include "BKE_brush.h"
53 #include "BKE_customdata.h"
54 #include "BKE_depsgraph.h"
55 #include "BKE_DerivedMesh.h"
56 #include "BKE_displist.h"
57 #include "BKE_global.h"
58 #include "BKE_mesh.h"
59 #include "BKE_object.h"
60 #include "BKE_texture.h"
61 #include "BKE_utildefines.h"
62 #include "BKE_customdata.h"
63
64 #include "BIF_gl.h"
65 #include "BIF_glutil.h"
66
67 #include "GPU_draw.h"
68
69 #ifndef DISABLE_PYTHON
70 //#include "BPY_extern.h"
71 //#include "BPY_menus.h"
72 #endif
73
74 #include "ED_mesh.h"
75 #include "ED_object.h"
76 #include "ED_view3d.h"
77
78 #include "WM_api.h"
79 #include "WM_types.h"
80
81 /* own include */
82 #include "mesh_intern.h"
83
84 /* ***************** XXX **************** */
85 static int sample_backbuf_rect() {return 0;}
86 static int sample_backbuf() {return 0;}
87 static void error() {}
88 static int pupmenu() {return 0;}
89 /* ***************** XXX **************** */
90
91
92 /* copy the face flags, most importantly selection from the mesh to the final derived mesh,
93  * use in object mode when selecting faces (while painting) */
94 void object_facesel_flush_dm(Object *ob)
95 {
96         Mesh *me= get_mesh(ob);
97         DerivedMesh *dm= ob->derivedFinal;
98         MFace *faces, *mf, *mf_orig;
99         int *index_array = NULL;
100         int totface;
101         int i;
102         
103         
104         if(me==NULL || dm==NULL || !CustomData_has_layer( &dm->faceData, CD_ORIGINDEX))
105                 return;
106         
107         faces = dm->getFaceArray(dm);
108         totface = dm->getNumFaces(dm);
109         
110         index_array = dm->getFaceDataArray(dm, CD_ORIGINDEX);
111         
112         mf= faces;
113         
114         for (i= 0; i<totface; i++, mf++) { /* loop over derived mesh faces */
115                 mf_orig= me->mface + index_array[i];
116                 mf->flag= mf_orig->flag;;
117         }
118 }
119
120 /* returns 0 if not found, otherwise 1 */
121 int facesel_face_pick(View3D *v3d, Mesh *me, short *mval, unsigned int *index, short rect)
122 {
123         if (!me || me->totface==0)
124                 return 0;
125
126         if (v3d->flag & V3D_NEEDBACKBUFDRAW) {
127 // XXX drawview.c!              check_backbuf();
128 // XXX          persp(PERSP_VIEW);
129         }
130
131         if (rect) {
132                 /* sample rect to increase changes of selecting, so that when clicking
133                    on an edge in the backbuf, we can still select a face */
134                 int dist;
135                 *index = sample_backbuf_rect(mval, 3, 1, me->totface+1, &dist,0,NULL);
136         }
137         else
138                 /* sample only on the exact position */
139                 *index = sample_backbuf(mval[0], mval[1]);
140
141         if ((*index)<=0 || (*index)>(unsigned int)me->totface)
142                 return 0;
143
144         (*index)--;
145         
146         return 1;
147 }
148
149 /* last_sel, use em->act_face otherwise get the last selected face in the editselections
150  * at the moment, last_sel is mainly useful for gaking sure the space image dosnt flicker */
151 MTFace *EM_get_active_mtface(EditMesh *em, EditFace **act_efa, MCol **mcol, int sloppy)
152 {
153         EditFace *efa = NULL;
154         
155         if(!EM_texFaceCheck(em))
156                 return NULL;
157         
158         efa = EM_get_actFace(em, sloppy);
159         
160         if (efa) {
161                 if (mcol) {
162                         if (CustomData_has_layer(&em->fdata, CD_MCOL))
163                                 *mcol = CustomData_em_get(&em->fdata, efa->data, CD_MCOL);
164                         else
165                                 *mcol = NULL;
166                 }
167                 if (act_efa) *act_efa = efa; 
168                 return CustomData_em_get(&em->fdata, efa->data, CD_MTFACE);
169         }
170         if (act_efa) *act_efa= NULL;
171         if(mcol) *mcol = NULL;
172         return NULL;
173 }
174
175 void reveal_tface(Scene *scene)
176 {
177         Mesh *me;
178         MFace *mface;
179         int a;
180         
181         me= get_mesh(OBACT);
182         if(me==0 || me->totface==0) return;
183         
184         mface= me->mface;
185         a= me->totface;
186         while(a--) {
187                 if(mface->flag & ME_HIDE) {
188                         mface->flag |= ME_FACE_SEL;
189                         mface->flag -= ME_HIDE;
190                 }
191                 mface++;
192         }
193
194         object_facesel_flush_dm(OBACT);
195 // XXX notifier!        object_tface_flags_changed(OBACT, 0);
196 }
197
198 void hide_tface(Scene *scene)
199 {
200         Mesh *me;
201         MFace *mface;
202         int a;
203         int shift=0, alt= 0; // XXX
204         
205         me= get_mesh(OBACT);
206         if(me==0 || me->totface==0) return;
207         
208         if(alt) {
209                 reveal_tface(scene);
210                 return;
211         }
212         
213         mface= me->mface;
214         a= me->totface;
215         while(a--) {
216                 if(mface->flag & ME_HIDE);
217                 else {
218                         if(shift) {
219                                 if( (mface->flag & ME_FACE_SEL)==0) mface->flag |= ME_HIDE;
220                         }
221                         else {
222                                 if( (mface->flag & ME_FACE_SEL)) mface->flag |= ME_HIDE;
223                         }
224                 }
225                 if(mface->flag & ME_HIDE) mface->flag &= ~ME_FACE_SEL;
226                 
227                 mface++;
228         }
229         
230         object_facesel_flush_dm(OBACT);
231 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
232 }
233
234 void select_linked_tfaces(Scene *scene, View3D *v3d, int mode)
235 {
236         Object *ob;
237         Mesh *me;
238         short mval[2];
239         unsigned int index=0;
240
241         ob = OBACT;
242         me = get_mesh(ob);
243         if(me==0 || me->totface==0) return;
244
245         if (mode==0 || mode==1) {
246                 if (!(ob->lay & v3d->lay))
247                         error("The active object is not in this layer");
248                         
249 // XXX          getmouseco_areawin(mval);
250                 if (!facesel_face_pick(v3d, me, mval, &index, 1)) return;
251         }
252
253 // XXX unwrapper.c      select_linked_tfaces_with_seams(mode, me, index);
254 }
255
256 void deselectall_tface(Scene *scene)
257 {
258         Mesh *me;
259         MFace *mface;
260         int a, sel;
261                 
262         me= get_mesh(OBACT);
263         if(me==0) return;
264         
265         mface= me->mface;
266         a= me->totface;
267         sel= 0;
268         while(a--) {
269                 if(mface->flag & ME_HIDE);
270                 else if(mface->flag & ME_FACE_SEL) {
271                         sel= 1;
272                         break;
273                 }
274                 mface++;
275         }
276         
277         mface= me->mface;
278         a= me->totface;
279         while(a--) {
280                 if(mface->flag & ME_HIDE);
281                 else {
282                         if(sel) mface->flag &= ~ME_FACE_SEL;
283                         else mface->flag |= ME_FACE_SEL;
284                 }
285                 mface++;
286         }
287
288         object_facesel_flush_dm(OBACT);
289 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
290 }
291
292 void selectswap_tface(Scene *scene)
293 {
294         Mesh *me;
295         MFace *mface;
296         int a;
297                 
298         me= get_mesh(OBACT);
299         if(me==0) return;
300         
301         mface= me->mface;
302         a= me->totface;
303         while(a--) {
304                 if(mface->flag & ME_HIDE);
305                 else {
306                         if(mface->flag & ME_FACE_SEL) mface->flag &= ~ME_FACE_SEL;
307                         else mface->flag |= ME_FACE_SEL;
308                 }
309                 mface++;
310         }
311         
312         object_facesel_flush_dm(OBACT);
313 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
314 }
315
316 int minmax_tface(Scene *scene, float *min, float *max)
317 {
318         Object *ob;
319         Mesh *me;
320         MFace *mf;
321         MTFace *tf;
322         MVert *mv;
323         int a, ok=0;
324         float vec[3], bmat[3][3];
325         
326         ob = OBACT;
327         if (ob==0) return ok;
328         me= get_mesh(ob);
329         if(me==0 || me->mtface==0) return ok;
330         
331         Mat3CpyMat4(bmat, ob->obmat);
332
333         mv= me->mvert;
334         mf= me->mface;
335         tf= me->mtface;
336         for (a=me->totface; a>0; a--, mf++, tf++) {
337                 if (mf->flag & ME_HIDE || !(mf->flag & ME_FACE_SEL))
338                         continue;
339
340                 VECCOPY(vec, (mv+mf->v1)->co);
341                 Mat3MulVecfl(bmat, vec);
342                 VecAddf(vec, vec, ob->obmat[3]);
343                 DO_MINMAX(vec, min, max);               
344
345                 VECCOPY(vec, (mv+mf->v2)->co);
346                 Mat3MulVecfl(bmat, vec);
347                 VecAddf(vec, vec, ob->obmat[3]);
348                 DO_MINMAX(vec, min, max);               
349
350                 VECCOPY(vec, (mv+mf->v3)->co);
351                 Mat3MulVecfl(bmat, vec);
352                 VecAddf(vec, vec, ob->obmat[3]);
353                 DO_MINMAX(vec, min, max);               
354
355                 if (mf->v4) {
356                         VECCOPY(vec, (mv+mf->v4)->co);
357                         Mat3MulVecfl(bmat, vec);
358                         VecAddf(vec, vec, ob->obmat[3]);
359                         DO_MINMAX(vec, min, max);
360                 }
361                 ok= 1;
362         }
363         return ok;
364 }
365
366 /* ******************** edge loop shortest path ********************* */
367
368 #define ME_SEAM_DONE 2          /* reuse this flag */
369
370 static float edgetag_cut_cost(EditMesh *em, int e1, int e2, int vert)
371 {
372         EditVert *v = EM_get_vert_for_index(vert);
373         EditEdge *eed1 = EM_get_edge_for_index(e1), *eed2 = EM_get_edge_for_index(e2);
374         EditVert *v1 = EM_get_vert_for_index( (eed1->v1->tmp.l == vert)? eed1->v2->tmp.l: eed1->v1->tmp.l );
375         EditVert *v2 = EM_get_vert_for_index( (eed2->v1->tmp.l == vert)? eed2->v2->tmp.l: eed2->v1->tmp.l );
376         float cost, d1[3], d2[3];
377
378         cost = VecLenf(v1->co, v->co);
379         cost += VecLenf(v->co, v2->co);
380
381         VecSubf(d1, v->co, v1->co);
382         VecSubf(d2, v2->co, v->co);
383
384         cost = cost + 0.5f*cost*(2.0f - fabs(d1[0]*d2[0] + d1[1]*d2[1] + d1[2]*d2[2]));
385
386         return cost;
387 }
388
389 static void edgetag_add_adjacent(EditMesh *em, Heap *heap, int mednum, int vertnum, int *nedges, int *edges, int *prevedge, float *cost)
390 {
391         int startadj, endadj = nedges[vertnum+1];
392
393         for (startadj = nedges[vertnum]; startadj < endadj; startadj++) {
394                 int adjnum = edges[startadj];
395                 EditEdge *eedadj = EM_get_edge_for_index(adjnum);
396                 float newcost;
397
398                 if (eedadj->f2 & ME_SEAM_DONE)
399                         continue;
400
401                 newcost = cost[mednum] + edgetag_cut_cost(em, mednum, adjnum, vertnum);
402
403                 if (cost[adjnum] > newcost) {
404                         cost[adjnum] = newcost;
405                         prevedge[adjnum] = mednum;
406                         BLI_heap_insert(heap, newcost, SET_INT_IN_POINTER(adjnum));
407                 }
408         }
409 }
410
411 void edgetag_context_set(Scene *scene, EditEdge *eed, int val)
412 {
413         
414         switch (scene->toolsettings->edge_mode) {
415         case EDGE_MODE_SELECT:
416                 EM_select_edge(eed, val);
417                 break;
418         case EDGE_MODE_TAG_SEAM:
419                 if (val)                {eed->seam = 255;}
420                 else                    {eed->seam = 0;}
421                 break;
422         case EDGE_MODE_TAG_SHARP:
423                 if (val)                {eed->sharp = 1;}
424                 else                    {eed->sharp = 0;}
425                 break;                          
426         case EDGE_MODE_TAG_CREASE:      
427                 if (val)                {eed->crease = 1.0f;}
428                 else                    {eed->crease = 0.0f;}
429                 break;
430         case EDGE_MODE_TAG_BEVEL:
431                 if (val)                {eed->bweight = 1.0f;}
432                 else                    {eed->bweight = 0.0f;}
433                 break;
434         }
435 }
436
437 int edgetag_context_check(Scene *scene, EditEdge *eed)
438 {
439         switch (scene->toolsettings->edge_mode) {
440         case EDGE_MODE_SELECT:
441                 return (eed->f & SELECT) ? 1 : 0;
442         case EDGE_MODE_TAG_SEAM:
443                 return eed->seam ? 1 : 0;
444         case EDGE_MODE_TAG_SHARP:
445                 return eed->sharp ? 1 : 0;
446         case EDGE_MODE_TAG_CREASE:      
447                 return eed->crease ? 1 : 0;
448         case EDGE_MODE_TAG_BEVEL:
449                 return eed->bweight ? 1 : 0;
450         }
451         return 0;
452 }
453
454
455 int edgetag_shortest_path(Scene *scene, EditMesh *em, EditEdge *source, EditEdge *target)
456 {
457         EditEdge *eed;
458         EditVert *ev;
459         
460         Heap *heap;
461         float *cost;
462         int a, totvert=0, totedge=0, *nedges, *edges, *prevedge, mednum = -1, nedgeswap = 0;
463
464
465         /* we need the vert */
466         for (ev= em->verts.first, totvert=0; ev; ev= ev->next) {
467                 ev->tmp.l = totvert;
468                 totvert++;
469         }
470
471         for (eed= em->edges.first; eed; eed = eed->next) {
472                 eed->f2 = 0;
473                 if (eed->h) {
474                         eed->f2 |= ME_SEAM_DONE;
475                 }
476                 eed->tmp.l = totedge;
477                 totedge++;
478         }
479
480         /* alloc */
481         nedges = MEM_callocN(sizeof(*nedges)*totvert+1, "SeamPathNEdges");
482         edges = MEM_mallocN(sizeof(*edges)*totedge*2, "SeamPathEdges");
483         prevedge = MEM_mallocN(sizeof(*prevedge)*totedge, "SeamPathPrevious");
484         cost = MEM_mallocN(sizeof(*cost)*totedge, "SeamPathCost");
485
486         /* count edges, compute adjacent edges offsets and fill adjacent edges */
487         for (eed= em->edges.first; eed; eed = eed->next) {
488                 nedges[eed->v1->tmp.l+1]++;
489                 nedges[eed->v2->tmp.l+1]++;
490         }
491
492         for (a=1; a<totvert; a++) {
493                 int newswap = nedges[a+1];
494                 nedges[a+1] = nedgeswap + nedges[a];
495                 nedgeswap = newswap;
496         }
497         nedges[0] = nedges[1] = 0;
498
499         for (a=0, eed= em->edges.first; eed; a++, eed = eed->next) {
500                 edges[nedges[eed->v1->tmp.l+1]++] = a;
501                 edges[nedges[eed->v2->tmp.l+1]++] = a;
502
503                 cost[a] = 1e20f;
504                 prevedge[a] = -1;
505         }
506
507         /* regular dijkstra shortest path, but over edges instead of vertices */
508         heap = BLI_heap_new();
509         BLI_heap_insert(heap, 0.0f, SET_INT_IN_POINTER(source->tmp.l));
510         cost[source->tmp.l] = 0.0f;
511
512         EM_init_index_arrays(em, 1, 1, 0);
513
514
515         while (!BLI_heap_empty(heap)) {
516                 mednum = GET_INT_FROM_POINTER(BLI_heap_popmin(heap));
517                 eed = EM_get_edge_for_index( mednum );
518
519                 if (mednum == target->tmp.l)
520                         break;
521
522                 if (eed->f2 & ME_SEAM_DONE)
523                         continue;
524
525                 eed->f2 |= ME_SEAM_DONE;
526
527                 edgetag_add_adjacent(em, heap, mednum, eed->v1->tmp.l, nedges, edges, prevedge, cost);
528                 edgetag_add_adjacent(em, heap, mednum, eed->v2->tmp.l, nedges, edges, prevedge, cost);
529         }
530         
531         
532         MEM_freeN(nedges);
533         MEM_freeN(edges);
534         MEM_freeN(cost);
535         BLI_heap_free(heap, NULL);
536
537         for (eed= em->edges.first; eed; eed = eed->next) {
538                 eed->f2 &= ~ME_SEAM_DONE;
539         }
540
541         if (mednum != target->tmp.l) {
542                 MEM_freeN(prevedge);
543                 EM_free_index_arrays();
544                 return 0;
545         }
546
547         /* follow path back to source and mark as seam */
548         if (mednum == target->tmp.l) {
549                 short allseams = 1;
550
551                 mednum = target->tmp.l;
552                 do {
553                         eed = EM_get_edge_for_index( mednum );
554                         if (!edgetag_context_check(scene, eed)) {
555                                 allseams = 0;
556                                 break;
557                         }
558                         mednum = prevedge[mednum];
559                 } while (mednum != source->tmp.l);
560
561                 mednum = target->tmp.l;
562                 do {
563                         eed = EM_get_edge_for_index( mednum );
564                         if (allseams)
565                                 edgetag_context_set(scene, eed, 0);
566                         else
567                                 edgetag_context_set(scene, eed, 1);
568                         mednum = prevedge[mednum];
569                 } while (mednum != -1);
570         }
571
572         MEM_freeN(prevedge);
573         EM_free_index_arrays();
574         return 1;
575 }
576
577 /* *************************************** */
578
579 static void seam_edgehash_insert_face(EdgeHash *ehash, MFace *mf)
580 {
581         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
582         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
583         if (mf->v4) {
584                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
585                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
586         }
587         else
588                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
589 }
590
591 void seam_mark_clear_tface(Scene *scene, short mode)
592 {
593         Mesh *me;
594         MFace *mf;
595         MEdge *med;
596         int a;
597         
598         me= get_mesh(OBACT);
599         if(me==0 ||  me->totface==0) return;
600
601         if (mode == 0)
602                 mode = pupmenu("Seams%t|Mark Border Seam %x1|Clear Seam %x2");
603
604         if (mode != 1 && mode != 2)
605                 return;
606
607         if (mode == 2) {
608                 EdgeHash *ehash = BLI_edgehash_new();
609
610                 for (a=0, mf=me->mface; a<me->totface; a++, mf++)
611                         if (!(mf->flag & ME_HIDE) && (mf->flag & ME_FACE_SEL))
612                                 seam_edgehash_insert_face(ehash, mf);
613
614                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
615                         if (BLI_edgehash_haskey(ehash, med->v1, med->v2))
616                                 med->flag &= ~ME_SEAM;
617
618                 BLI_edgehash_free(ehash, NULL);
619         }
620         else {
621                 /* mark edges that are on both selected and deselected faces */
622                 EdgeHash *ehash1 = BLI_edgehash_new();
623                 EdgeHash *ehash2 = BLI_edgehash_new();
624
625                 for (a=0, mf=me->mface; a<me->totface; a++, mf++) {
626                         if ((mf->flag & ME_HIDE) || !(mf->flag & ME_FACE_SEL))
627                                 seam_edgehash_insert_face(ehash1, mf);
628                         else
629                                 seam_edgehash_insert_face(ehash2, mf);
630                 }
631
632                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
633                         if (BLI_edgehash_haskey(ehash1, med->v1, med->v2) &&
634                             BLI_edgehash_haskey(ehash2, med->v1, med->v2))
635                                 med->flag |= ME_SEAM;
636
637                 BLI_edgehash_free(ehash1, NULL);
638                 BLI_edgehash_free(ehash2, NULL);
639         }
640
641 // XXX  if (G.rt == 8)
642 //              unwrap_lscm(1);
643
644         me->drawflag |= ME_DRAWSEAMS;
645
646 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
647 }
648
649 void face_select(Scene *scene, View3D *v3d)
650 {
651         Object *ob;
652         Mesh *me;
653         MFace *mface, *msel;
654         short mval[2];
655         unsigned int a, index;
656         int shift= 0; // XXX
657         
658         /* Get the face under the cursor */
659         ob = OBACT;
660         if (!(ob->lay & v3d->lay)) {
661                 error("The active object is not in this layer");
662         }
663         me = get_mesh(ob);
664 // XXX  getmouseco_areawin(mval);
665
666         if (!facesel_face_pick(v3d, me, mval, &index, 1)) return;
667         
668         msel= (((MFace*)me->mface)+index);
669         if (msel->flag & ME_HIDE) return;
670         
671         /* clear flags */
672         mface = me->mface;
673         a = me->totface;
674         if ((shift)==0) {
675                 while (a--) {
676                         mface->flag &= ~ME_FACE_SEL;
677                         mface++;
678                 }
679         }
680         
681         me->act_face = (int)index;
682
683         if (shift) {
684                 if (msel->flag & ME_FACE_SEL)
685                         msel->flag &= ~ME_FACE_SEL;
686                 else
687                         msel->flag |= ME_FACE_SEL;
688         }
689         else msel->flag |= ME_FACE_SEL;
690         
691         /* image window redraw */
692         
693         object_facesel_flush_dm(OBACT);
694 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
695 }
696
697 void face_borderselect(Scene *scene, ScrArea *sa, ARegion *ar)
698 {
699         Mesh *me;
700         MFace *mface;
701         rcti rect;
702         struct ImBuf *ibuf;
703         unsigned int *rt;
704         int a, sx, sy, index, val= 0;
705         char *selar;
706         
707         me= get_mesh(OBACT);
708         if(me==0) return;
709         if(me->totface==0) return;
710         
711 // XXX  val= get_border(&rect, 3);
712         
713         if(val) {
714                 /* without this border select often fails */
715 #if 0 /* XXX untested in 2.5 */
716                 if (v3d->flag & V3D_NEEDBACKBUFDRAW) {
717                         check_backbuf();
718                         persp(PERSP_VIEW);
719                 }
720 #endif
721                 
722                 selar= MEM_callocN(me->totface+1, "selar");
723                 
724                 sx= (rect.xmax-rect.xmin+1);
725                 sy= (rect.ymax-rect.ymin+1);
726                 if(sx*sy<=0) return;
727
728                 ibuf = IMB_allocImBuf(sx,sy,32,IB_rect,0);
729                 rt = ibuf->rect;
730                 glReadPixels(rect.xmin+ar->winrct.xmin,  rect.ymin+ar->winrct.ymin, sx, sy, GL_RGBA, GL_UNSIGNED_BYTE,  ibuf->rect);
731                 if(ENDIAN_ORDER==B_ENDIAN) IMB_convert_rgba_to_abgr(ibuf);
732
733                 a= sx*sy;
734                 while(a--) {
735                         if(*rt) {
736                                 index= WM_framebuffer_to_index(*rt);
737                                 if(index<=me->totface) selar[index]= 1;
738                         }
739                         rt++;
740                 }
741                 
742                 mface= me->mface;
743                 for(a=1; a<=me->totface; a++, mface++) {
744                         if(selar[a]) {
745                                 if(mface->flag & ME_HIDE);
746                                 else {
747                                         if(val==LEFTMOUSE) mface->flag |= ME_FACE_SEL;
748                                         else mface->flag &= ~ME_FACE_SEL;
749                                 }
750                         }
751                 }
752                 
753                 IMB_freeImBuf(ibuf);
754                 MEM_freeN(selar);
755
756
757 // XXX notifier!                        object_tface_flags_changed(OBACT, 0);
758         }
759 #ifdef __APPLE__        
760         glReadBuffer(GL_BACK);
761 #endif
762         
763         object_facesel_flush_dm(OBACT);
764 }
765
766