2.5: UV Editor module porting pretty much finished now, only missing
[blender.git] / source / blender / editors / mesh / editface.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
19  *
20  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
21  * All rights reserved.
22  *
23  * Contributor(s): Blender Foundation, Campbell Barton
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28
29 #include <math.h>
30 #include <string.h>
31
32 #include "MEM_guardedalloc.h"
33
34 #include "BLI_blenlib.h"
35 #include "BLI_arithb.h"
36 #include "BLI_heap.h"
37 #include "BLI_edgehash.h"
38 #include "BLI_editVert.h"
39
40 #include "IMB_imbuf_types.h"
41 #include "IMB_imbuf.h"
42
43 #include "DNA_image_types.h"
44 #include "DNA_mesh_types.h"
45 #include "DNA_meshdata_types.h"
46 #include "DNA_object_types.h"
47 #include "DNA_space_types.h"
48 #include "DNA_screen_types.h"
49 #include "DNA_scene_types.h"
50 #include "DNA_view3d_types.h"
51
52 #include "BKE_brush.h"
53 #include "BKE_customdata.h"
54 #include "BKE_depsgraph.h"
55 #include "BKE_DerivedMesh.h"
56 #include "BKE_displist.h"
57 #include "BKE_global.h"
58 #include "BKE_mesh.h"
59 #include "BKE_object.h"
60 #include "BKE_texture.h"
61 #include "BKE_utildefines.h"
62 #include "BKE_customdata.h"
63
64 #include "BIF_gl.h"
65 #include "BIF_glutil.h"
66
67 #include "GPU_draw.h"
68
69 #ifndef DISABLE_PYTHON
70 //#include "BPY_extern.h"
71 //#include "BPY_menus.h"
72 #endif
73
74 #include "ED_mesh.h"
75 #include "ED_object.h"
76 #include "ED_view3d.h"
77
78 #include "WM_api.h"
79 #include "WM_types.h"
80
81 /* own include */
82 #include "mesh_intern.h"
83
84 /* ***************** XXX **************** */
85 static int sample_backbuf_rect() {return 0;}
86 static int sample_backbuf() {return 0;}
87 static void error() {}
88 static int pupmenu() {return 0;}
89 /* ***************** XXX **************** */
90
91
92 /* returns 0 if not found, otherwise 1 */
93 int facesel_face_pick(View3D *v3d, Mesh *me, short *mval, unsigned int *index, short rect)
94 {
95         if (!me || me->totface==0)
96                 return 0;
97
98         if (v3d->flag & V3D_NEEDBACKBUFDRAW) {
99 // XXX drawview.c!              check_backbuf();
100 // XXX          persp(PERSP_VIEW);
101         }
102
103         if (rect) {
104                 /* sample rect to increase changes of selecting, so that when clicking
105                    on an edge in the backbuf, we can still select a face */
106                 int dist;
107                 *index = sample_backbuf_rect(mval, 3, 1, me->totface+1, &dist,0,NULL);
108         }
109         else
110                 /* sample only on the exact position */
111                 *index = sample_backbuf(mval[0], mval[1]);
112
113         if ((*index)<=0 || (*index)>(unsigned int)me->totface)
114                 return 0;
115
116         (*index)--;
117         
118         return 1;
119 }
120
121 /* last_sel, use em->act_face otherwise get the last selected face in the editselections
122  * at the moment, last_sel is mainly useful for gaking sure the space image dosnt flicker */
123 MTFace *EM_get_active_mtface(EditMesh *em, EditFace **act_efa, MCol **mcol, int sloppy)
124 {
125         EditFace *efa = NULL;
126         
127         if(!EM_texFaceCheck(em))
128                 return NULL;
129         
130         efa = EM_get_actFace(em, sloppy);
131         
132         if (efa) {
133                 if (mcol) {
134                         if (CustomData_has_layer(&em->fdata, CD_MCOL))
135                                 *mcol = CustomData_em_get(&em->fdata, efa->data, CD_MCOL);
136                         else
137                                 *mcol = NULL;
138                 }
139                 if (act_efa) *act_efa = efa; 
140                 return CustomData_em_get(&em->fdata, efa->data, CD_MTFACE);
141         }
142         if (act_efa) *act_efa= NULL;
143         if(mcol) *mcol = NULL;
144         return NULL;
145 }
146
147 static void make_tfaces(Object *ob) 
148 {
149         Mesh *me= ob->data;
150         
151         if(!me->mtface) {
152                 me->mtface= CustomData_add_layer(&me->fdata, CD_MTFACE, CD_DEFAULT,
153                                                  NULL, me->totface);
154         }
155 }
156
157 void reveal_tface(Scene *scene)
158 {
159         Mesh *me;
160         MFace *mface;
161         int a;
162         
163         me= get_mesh(OBACT);
164         if(me==0 || me->totface==0) return;
165         
166         mface= me->mface;
167         a= me->totface;
168         while(a--) {
169                 if(mface->flag & ME_HIDE) {
170                         mface->flag |= ME_FACE_SEL;
171                         mface->flag -= ME_HIDE;
172                 }
173                 mface++;
174         }
175
176 // XXX notifier!        object_tface_flags_changed(OBACT, 0);
177 }
178
179 void hide_tface(Scene *scene)
180 {
181         Mesh *me;
182         MFace *mface;
183         int a;
184         int shift=0, alt= 0; // XXX
185         
186         me= get_mesh(OBACT);
187         if(me==0 || me->totface==0) return;
188         
189         if(alt) {
190                 reveal_tface(scene);
191                 return;
192         }
193         
194         mface= me->mface;
195         a= me->totface;
196         while(a--) {
197                 if(mface->flag & ME_HIDE);
198                 else {
199                         if(shift) {
200                                 if( (mface->flag & ME_FACE_SEL)==0) mface->flag |= ME_HIDE;
201                         }
202                         else {
203                                 if( (mface->flag & ME_FACE_SEL)) mface->flag |= ME_HIDE;
204                         }
205                 }
206                 if(mface->flag & ME_HIDE) mface->flag &= ~ME_FACE_SEL;
207                 
208                 mface++;
209         }
210
211 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
212 }
213
214 void select_linked_tfaces(Scene *scene, View3D *v3d, int mode)
215 {
216         Object *ob;
217         Mesh *me;
218         short mval[2];
219         unsigned int index=0;
220
221         ob = OBACT;
222         me = get_mesh(ob);
223         if(me==0 || me->totface==0) return;
224
225         if (mode==0 || mode==1) {
226                 if (!(ob->lay & v3d->lay))
227                         error("The active object is not in this layer");
228                         
229 // XXX          getmouseco_areawin(mval);
230                 if (!facesel_face_pick(v3d, me, mval, &index, 1)) return;
231         }
232
233 // XXX unwrapper.c      select_linked_tfaces_with_seams(mode, me, index);
234 }
235
236 void deselectall_tface(Scene *scene)
237 {
238         Mesh *me;
239         MFace *mface;
240         int a, sel;
241                 
242         me= get_mesh(OBACT);
243         if(me==0) return;
244         
245         mface= me->mface;
246         a= me->totface;
247         sel= 0;
248         while(a--) {
249                 if(mface->flag & ME_HIDE);
250                 else if(mface->flag & ME_FACE_SEL) sel= 1;
251                 mface++;
252         }
253         
254         mface= me->mface;
255         a= me->totface;
256         while(a--) {
257                 if(mface->flag & ME_HIDE);
258                 else {
259                         if(sel) mface->flag &= ~ME_FACE_SEL;
260                         else mface->flag |= ME_FACE_SEL;
261                 }
262                 mface++;
263         }
264
265 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
266 }
267
268 void selectswap_tface(Scene *scene)
269 {
270         Mesh *me;
271         MFace *mface;
272         int a;
273                 
274         me= get_mesh(OBACT);
275         if(me==0) return;
276         
277         mface= me->mface;
278         a= me->totface;
279         while(a--) {
280                 if(mface->flag & ME_HIDE);
281                 else {
282                         if(mface->flag & ME_FACE_SEL) mface->flag &= ~ME_FACE_SEL;
283                         else mface->flag |= ME_FACE_SEL;
284                 }
285                 mface++;
286         }
287
288 // XXX notifier!                object_tface_flags_changed(OBACT, 0);
289 }
290
291 int minmax_tface(Scene *scene, float *min, float *max)
292 {
293         Object *ob;
294         Mesh *me;
295         MFace *mf;
296         MTFace *tf;
297         MVert *mv;
298         int a, ok=0;
299         float vec[3], bmat[3][3];
300         
301         ob = OBACT;
302         if (ob==0) return ok;
303         me= get_mesh(ob);
304         if(me==0 || me->mtface==0) return ok;
305         
306         Mat3CpyMat4(bmat, ob->obmat);
307
308         mv= me->mvert;
309         mf= me->mface;
310         tf= me->mtface;
311         for (a=me->totface; a>0; a--, mf++, tf++) {
312                 if (mf->flag & ME_HIDE || !(mf->flag & ME_FACE_SEL))
313                         continue;
314
315                 VECCOPY(vec, (mv+mf->v1)->co);
316                 Mat3MulVecfl(bmat, vec);
317                 VecAddf(vec, vec, ob->obmat[3]);
318                 DO_MINMAX(vec, min, max);               
319
320                 VECCOPY(vec, (mv+mf->v2)->co);
321                 Mat3MulVecfl(bmat, vec);
322                 VecAddf(vec, vec, ob->obmat[3]);
323                 DO_MINMAX(vec, min, max);               
324
325                 VECCOPY(vec, (mv+mf->v3)->co);
326                 Mat3MulVecfl(bmat, vec);
327                 VecAddf(vec, vec, ob->obmat[3]);
328                 DO_MINMAX(vec, min, max);               
329
330                 if (mf->v4) {
331                         VECCOPY(vec, (mv+mf->v4)->co);
332                         Mat3MulVecfl(bmat, vec);
333                         VecAddf(vec, vec, ob->obmat[3]);
334                         DO_MINMAX(vec, min, max);
335                 }
336                 ok= 1;
337         }
338         return ok;
339 }
340
341 /* ******************** edge loop shortest path ********************* */
342
343 #define ME_SEAM_DONE 2          /* reuse this flag */
344
345 static float edgetag_cut_cost(EditMesh *em, int e1, int e2, int vert)
346 {
347         EditVert *v = EM_get_vert_for_index(vert);
348         EditEdge *eed1 = EM_get_edge_for_index(e1), *eed2 = EM_get_edge_for_index(e2);
349         EditVert *v1 = EM_get_vert_for_index( (eed1->v1->tmp.l == vert)? eed1->v2->tmp.l: eed1->v1->tmp.l );
350         EditVert *v2 = EM_get_vert_for_index( (eed2->v1->tmp.l == vert)? eed2->v2->tmp.l: eed2->v1->tmp.l );
351         float cost, d1[3], d2[3];
352
353         cost = VecLenf(v1->co, v->co);
354         cost += VecLenf(v->co, v2->co);
355
356         VecSubf(d1, v->co, v1->co);
357         VecSubf(d2, v2->co, v->co);
358
359         cost = cost + 0.5f*cost*(2.0f - fabs(d1[0]*d2[0] + d1[1]*d2[1] + d1[2]*d2[2]));
360
361         return cost;
362 }
363
364 static void edgetag_add_adjacent(EditMesh *em, Heap *heap, int mednum, int vertnum, int *nedges, int *edges, int *prevedge, float *cost)
365 {
366         int startadj, endadj = nedges[vertnum+1];
367
368         for (startadj = nedges[vertnum]; startadj < endadj; startadj++) {
369                 int adjnum = edges[startadj];
370                 EditEdge *eedadj = EM_get_edge_for_index(adjnum);
371                 float newcost;
372
373                 if (eedadj->f2 & ME_SEAM_DONE)
374                         continue;
375
376                 newcost = cost[mednum] + edgetag_cut_cost(em, mednum, adjnum, vertnum);
377
378                 if (cost[adjnum] > newcost) {
379                         cost[adjnum] = newcost;
380                         prevedge[adjnum] = mednum;
381                         BLI_heap_insert(heap, newcost, SET_INT_IN_POINTER(adjnum));
382                 }
383         }
384 }
385
386 void edgetag_context_set(Scene *scene, EditEdge *eed, int val)
387 {
388         
389         switch (scene->toolsettings->edge_mode) {
390         case EDGE_MODE_SELECT:
391                 EM_select_edge(eed, val);
392                 break;
393         case EDGE_MODE_TAG_SEAM:
394                 if (val)                {eed->seam = 255;}
395                 else                    {eed->seam = 0;}
396                 break;
397         case EDGE_MODE_TAG_SHARP:
398                 if (val)                {eed->sharp = 1;}
399                 else                    {eed->sharp = 0;}
400                 break;                          
401         case EDGE_MODE_TAG_CREASE:      
402                 if (val)                {eed->crease = 1.0f;}
403                 else                    {eed->crease = 0.0f;}
404                 break;
405         case EDGE_MODE_TAG_BEVEL:
406                 if (val)                {eed->bweight = 1.0f;}
407                 else                    {eed->bweight = 0.0f;}
408                 break;
409         }
410 }
411
412 int edgetag_context_check(Scene *scene, EditEdge *eed)
413 {
414         switch (scene->toolsettings->edge_mode) {
415         case EDGE_MODE_SELECT:
416                 return (eed->f & SELECT) ? 1 : 0;
417         case EDGE_MODE_TAG_SEAM:
418                 return eed->seam ? 1 : 0;
419         case EDGE_MODE_TAG_SHARP:
420                 return eed->sharp ? 1 : 0;
421         case EDGE_MODE_TAG_CREASE:      
422                 return eed->crease ? 1 : 0;
423         case EDGE_MODE_TAG_BEVEL:
424                 return eed->bweight ? 1 : 0;
425         }
426         return 0;
427 }
428
429
430 int edgetag_shortest_path(Scene *scene, EditMesh *em, EditEdge *source, EditEdge *target)
431 {
432         EditEdge *eed;
433         EditVert *ev;
434         
435         Heap *heap;
436         float *cost;
437         int a, totvert=0, totedge=0, *nedges, *edges, *prevedge, mednum = -1, nedgeswap = 0;
438
439
440         /* we need the vert */
441         for (ev= em->verts.first, totvert=0; ev; ev= ev->next) {
442                 ev->tmp.l = totvert;
443                 totvert++;
444         }
445
446         for (eed= em->edges.first; eed; eed = eed->next) {
447                 eed->f2 = 0;
448                 if (eed->h) {
449                         eed->f2 |= ME_SEAM_DONE;
450                 }
451                 eed->tmp.l = totedge;
452                 totedge++;
453         }
454
455         /* alloc */
456         nedges = MEM_callocN(sizeof(*nedges)*totvert+1, "SeamPathNEdges");
457         edges = MEM_mallocN(sizeof(*edges)*totedge*2, "SeamPathEdges");
458         prevedge = MEM_mallocN(sizeof(*prevedge)*totedge, "SeamPathPrevious");
459         cost = MEM_mallocN(sizeof(*cost)*totedge, "SeamPathCost");
460
461         /* count edges, compute adjacent edges offsets and fill adjacent edges */
462         for (eed= em->edges.first; eed; eed = eed->next) {
463                 nedges[eed->v1->tmp.l+1]++;
464                 nedges[eed->v2->tmp.l+1]++;
465         }
466
467         for (a=1; a<totvert; a++) {
468                 int newswap = nedges[a+1];
469                 nedges[a+1] = nedgeswap + nedges[a];
470                 nedgeswap = newswap;
471         }
472         nedges[0] = nedges[1] = 0;
473
474         for (a=0, eed= em->edges.first; eed; a++, eed = eed->next) {
475                 edges[nedges[eed->v1->tmp.l+1]++] = a;
476                 edges[nedges[eed->v2->tmp.l+1]++] = a;
477
478                 cost[a] = 1e20f;
479                 prevedge[a] = -1;
480         }
481
482         /* regular dijkstra shortest path, but over edges instead of vertices */
483         heap = BLI_heap_new();
484         BLI_heap_insert(heap, 0.0f, SET_INT_IN_POINTER(source->tmp.l));
485         cost[source->tmp.l] = 0.0f;
486
487         EM_init_index_arrays(em, 1, 1, 0);
488
489
490         while (!BLI_heap_empty(heap)) {
491                 mednum = GET_INT_FROM_POINTER(BLI_heap_popmin(heap));
492                 eed = EM_get_edge_for_index( mednum );
493
494                 if (mednum == target->tmp.l)
495                         break;
496
497                 if (eed->f2 & ME_SEAM_DONE)
498                         continue;
499
500                 eed->f2 |= ME_SEAM_DONE;
501
502                 edgetag_add_adjacent(em, heap, mednum, eed->v1->tmp.l, nedges, edges, prevedge, cost);
503                 edgetag_add_adjacent(em, heap, mednum, eed->v2->tmp.l, nedges, edges, prevedge, cost);
504         }
505         
506         
507         MEM_freeN(nedges);
508         MEM_freeN(edges);
509         MEM_freeN(cost);
510         BLI_heap_free(heap, NULL);
511
512         for (eed= em->edges.first; eed; eed = eed->next) {
513                 eed->f2 &= ~ME_SEAM_DONE;
514         }
515
516         if (mednum != target->tmp.l) {
517                 MEM_freeN(prevedge);
518                 EM_free_index_arrays();
519                 return 0;
520         }
521
522         /* follow path back to source and mark as seam */
523         if (mednum == target->tmp.l) {
524                 short allseams = 1;
525
526                 mednum = target->tmp.l;
527                 do {
528                         eed = EM_get_edge_for_index( mednum );
529                         if (!edgetag_context_check(scene, eed)) {
530                                 allseams = 0;
531                                 break;
532                         }
533                         mednum = prevedge[mednum];
534                 } while (mednum != source->tmp.l);
535
536                 mednum = target->tmp.l;
537                 do {
538                         eed = EM_get_edge_for_index( mednum );
539                         if (allseams)
540                                 edgetag_context_set(scene, eed, 0);
541                         else
542                                 edgetag_context_set(scene, eed, 1);
543                         mednum = prevedge[mednum];
544                 } while (mednum != -1);
545         }
546
547         MEM_freeN(prevedge);
548         EM_free_index_arrays();
549         return 1;
550 }
551
552 /* *************************************** */
553
554 static void seam_edgehash_insert_face(EdgeHash *ehash, MFace *mf)
555 {
556         BLI_edgehash_insert(ehash, mf->v1, mf->v2, NULL);
557         BLI_edgehash_insert(ehash, mf->v2, mf->v3, NULL);
558         if (mf->v4) {
559                 BLI_edgehash_insert(ehash, mf->v3, mf->v4, NULL);
560                 BLI_edgehash_insert(ehash, mf->v4, mf->v1, NULL);
561         }
562         else
563                 BLI_edgehash_insert(ehash, mf->v3, mf->v1, NULL);
564 }
565
566 void seam_mark_clear_tface(Scene *scene, short mode)
567 {
568         Mesh *me;
569         MFace *mf;
570         MEdge *med;
571         int a;
572         
573         me= get_mesh(OBACT);
574         if(me==0 ||  me->totface==0) return;
575
576         if (mode == 0)
577                 mode = pupmenu("Seams%t|Mark Border Seam %x1|Clear Seam %x2");
578
579         if (mode != 1 && mode != 2)
580                 return;
581
582         if (mode == 2) {
583                 EdgeHash *ehash = BLI_edgehash_new();
584
585                 for (a=0, mf=me->mface; a<me->totface; a++, mf++)
586                         if (!(mf->flag & ME_HIDE) && (mf->flag & ME_FACE_SEL))
587                                 seam_edgehash_insert_face(ehash, mf);
588
589                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
590                         if (BLI_edgehash_haskey(ehash, med->v1, med->v2))
591                                 med->flag &= ~ME_SEAM;
592
593                 BLI_edgehash_free(ehash, NULL);
594         }
595         else {
596                 /* mark edges that are on both selected and deselected faces */
597                 EdgeHash *ehash1 = BLI_edgehash_new();
598                 EdgeHash *ehash2 = BLI_edgehash_new();
599
600                 for (a=0, mf=me->mface; a<me->totface; a++, mf++) {
601                         if ((mf->flag & ME_HIDE) || !(mf->flag & ME_FACE_SEL))
602                                 seam_edgehash_insert_face(ehash1, mf);
603                         else
604                                 seam_edgehash_insert_face(ehash2, mf);
605                 }
606
607                 for (a=0, med=me->medge; a<me->totedge; a++, med++)
608                         if (BLI_edgehash_haskey(ehash1, med->v1, med->v2) &&
609                             BLI_edgehash_haskey(ehash2, med->v1, med->v2))
610                                 med->flag |= ME_SEAM;
611
612                 BLI_edgehash_free(ehash1, NULL);
613                 BLI_edgehash_free(ehash2, NULL);
614         }
615
616 // XXX  if (G.rt == 8)
617 //              unwrap_lscm(1);
618
619         me->drawflag |= ME_DRAWSEAMS;
620
621 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
622 }
623
624 void face_select(Scene *scene, View3D *v3d)
625 {
626         Object *ob;
627         Mesh *me;
628         MFace *mface, *msel;
629         short mval[2];
630         unsigned int a, index;
631         int shift= 0; // XXX
632         
633         /* Get the face under the cursor */
634         ob = OBACT;
635         if (!(ob->lay & v3d->lay)) {
636                 error("The active object is not in this layer");
637         }
638         me = get_mesh(ob);
639 // XXX  getmouseco_areawin(mval);
640
641         if (!facesel_face_pick(v3d, me, mval, &index, 1)) return;
642         
643         msel= (((MFace*)me->mface)+index);
644         if (msel->flag & ME_HIDE) return;
645         
646         /* clear flags */
647         mface = me->mface;
648         a = me->totface;
649         if ((shift)==0) {
650                 while (a--) {
651                         mface->flag &= ~ME_FACE_SEL;
652                         mface++;
653                 }
654         }
655         
656         me->act_face = (int)index;
657
658         if (shift) {
659                 if (msel->flag & ME_FACE_SEL)
660                         msel->flag &= ~ME_FACE_SEL;
661                 else
662                         msel->flag |= ME_FACE_SEL;
663         }
664         else msel->flag |= ME_FACE_SEL;
665         
666         /* image window redraw */
667         
668
669 // XXX notifier!                object_tface_flags_changed(OBACT, 1);
670 }
671
672 void face_borderselect(Scene *scene, ARegion *ar)
673 {
674         Mesh *me;
675         MFace *mface;
676         rcti rect;
677         struct ImBuf *ibuf;
678         unsigned int *rt;
679         int a, sx, sy, index, val;
680         char *selar;
681         
682         me= get_mesh(OBACT);
683         if(me==0) return;
684         if(me->totface==0) return;
685         
686 // XXX  val= get_border(&rect, 3);
687         
688         /* why readbuffer here? shouldn't be necessary (maybe a flush or so) */
689         glReadBuffer(GL_BACK);
690 #ifdef __APPLE__
691         glReadBuffer(GL_AUX0); /* apple only */
692 #endif
693         
694         if(val) {
695                 selar= MEM_callocN(me->totface+1, "selar");
696                 
697                 sx= (rect.xmax-rect.xmin+1);
698                 sy= (rect.ymax-rect.ymin+1);
699                 if(sx*sy<=0) return;
700
701                 ibuf = IMB_allocImBuf(sx,sy,32,IB_rect,0);
702                 rt = ibuf->rect;
703                 glReadPixels(rect.xmin+ar->winrct.xmin,  rect.ymin+ar->winrct.ymin, sx, sy, GL_RGBA, GL_UNSIGNED_BYTE,  ibuf->rect);
704                 if(ENDIAN_ORDER==B_ENDIAN) IMB_convert_rgba_to_abgr(ibuf);
705
706                 a= sx*sy;
707                 while(a--) {
708                         if(*rt) {
709                                 index= WM_framebuffer_to_index(*rt);
710                                 if(index<=me->totface) selar[index]= 1;
711                         }
712                         rt++;
713                 }
714                 
715                 mface= me->mface;
716                 for(a=1; a<=me->totface; a++, mface++) {
717                         if(selar[a]) {
718                                 if(mface->flag & ME_HIDE);
719                                 else {
720                                         if(val==LEFTMOUSE) mface->flag |= ME_FACE_SEL;
721                                         else mface->flag &= ~ME_FACE_SEL;
722                                 }
723                         }
724                 }
725                 
726                 IMB_freeImBuf(ibuf);
727                 MEM_freeN(selar);
728
729
730 // XXX notifier!                        object_tface_flags_changed(OBACT, 0);
731         }
732 #ifdef __APPLE__        
733         glReadBuffer(GL_BACK);
734 #endif
735 }
736
737 /* Texture Paint */
738
739 void set_texturepaint(Scene *scene) /* toggle */
740 {
741         Object *ob = OBACT;
742         Mesh *me = 0;
743         
744         if(ob==NULL) return;
745         
746         if (object_data_is_libdata(ob)) {
747 // XXX          error_libdata();
748                 return;
749         }
750
751         me= get_mesh(ob);
752         
753         if(me)
754                 DAG_object_flush_update(scene, ob, OB_RECALC_DATA);
755
756         if(G.f & G_TEXTUREPAINT) {
757                 G.f &= ~G_TEXTUREPAINT;
758                 GPU_paint_set_mipmap(1);
759         }
760         else if (me) {
761                 G.f |= G_TEXTUREPAINT;
762
763                 if(me->mtface==NULL)
764                         make_tfaces(ob);
765
766                 brush_check_exists(&scene->toolsettings->imapaint.brush);
767                 GPU_paint_set_mipmap(0);
768         }
769
770 }
771
772 static void texpaint_project(Object *ob, float *model, float *proj, float *co, float *pco)
773 {
774         VECCOPY(pco, co);
775         pco[3]= 1.0f;
776
777         Mat4MulVecfl(ob->obmat, pco);
778         Mat4MulVecfl((float(*)[4])model, pco);
779         Mat4MulVec4fl((float(*)[4])proj, pco);
780 }
781
782 static void texpaint_tri_weights(Object *ob, float *v1, float *v2, float *v3, float *co, float *w)
783 {
784         float pv1[4], pv2[4], pv3[4], h[3], divw;
785         float model[16], proj[16], wmat[3][3], invwmat[3][3];
786         GLint view[4];
787
788         /* compute barycentric coordinates */
789
790         /* get the needed opengl matrices */
791         glGetIntegerv(GL_VIEWPORT, view);
792         glGetFloatv(GL_MODELVIEW_MATRIX, model);
793         glGetFloatv(GL_PROJECTION_MATRIX, proj);
794         view[0] = view[1] = 0;
795
796         /* project the verts */
797         texpaint_project(ob, model, proj, v1, pv1);
798         texpaint_project(ob, model, proj, v2, pv2);
799         texpaint_project(ob, model, proj, v3, pv3);
800
801         /* do inverse view mapping, see gluProject man page */
802         h[0]= (co[0] - view[0])*2.0f/view[2] - 1;
803         h[1]= (co[1] - view[1])*2.0f/view[3] - 1;
804         h[2]= 1.0f;
805
806         /* solve for (w1,w2,w3)/perspdiv in:
807            h*perspdiv = Project*Model*(w1*v1 + w2*v2 + w3*v3) */
808
809         wmat[0][0]= pv1[0];  wmat[1][0]= pv2[0];  wmat[2][0]= pv3[0];
810         wmat[0][1]= pv1[1];  wmat[1][1]= pv2[1];  wmat[2][1]= pv3[1];
811         wmat[0][2]= pv1[3];  wmat[1][2]= pv2[3];  wmat[2][2]= pv3[3];
812
813         Mat3Inv(invwmat, wmat);
814         Mat3MulVecfl(invwmat, h);
815
816         VECCOPY(w, h);
817
818         /* w is still divided by perspdiv, make it sum to one */
819         divw= w[0] + w[1] + w[2];
820         if(divw != 0.0f)
821                 VecMulf(w, 1.0f/divw);
822 }
823
824 /* compute uv coordinates of mouse in face */
825 void texpaint_pick_uv(Scene *scene, Object *ob, Mesh *mesh, unsigned int faceindex, short *xy, float *uv)
826 {
827         DerivedMesh *dm = mesh_get_derived_final(scene, ob, CD_MASK_BAREMESH);
828         int *index = dm->getFaceDataArray(dm, CD_ORIGINDEX);
829         MTFace *tface = dm->getFaceDataArray(dm, CD_MTFACE), *tf;
830         int numfaces = dm->getNumFaces(dm), a;
831         float p[2], w[3], absw, minabsw;
832         MFace mf;
833         MVert mv[4];
834
835         minabsw = 1e10;
836         uv[0] = uv[1] = 0.0;
837
838 // XXX  persp(PERSP_VIEW);
839
840         /* test all faces in the derivedmesh with the original index of the picked face */
841         for (a = 0; a < numfaces; a++) {
842                 if (index[a] == faceindex) {
843                         dm->getFace(dm, a, &mf);
844
845                         dm->getVert(dm, mf.v1, &mv[0]);
846                         dm->getVert(dm, mf.v2, &mv[1]);
847                         dm->getVert(dm, mf.v3, &mv[2]);
848                         if (mf.v4)
849                                 dm->getVert(dm, mf.v4, &mv[3]);
850
851                         tf= &tface[a];
852
853                         p[0]= xy[0];
854                         p[1]= xy[1];
855
856                         if (mf.v4) {
857                                 /* the triangle with the largest absolute values is the one
858                                    with the most negative weights */
859                                 texpaint_tri_weights(ob, mv[0].co, mv[1].co, mv[3].co, p, w);
860                                 absw= fabs(w[0]) + fabs(w[1]) + fabs(w[2]);
861                                 if(absw < minabsw) {
862                                         uv[0]= tf->uv[0][0]*w[0] + tf->uv[1][0]*w[1] + tf->uv[3][0]*w[2];
863                                         uv[1]= tf->uv[0][1]*w[0] + tf->uv[1][1]*w[1] + tf->uv[3][1]*w[2];
864                                         minabsw = absw;
865                                 }
866
867                                 texpaint_tri_weights(ob, mv[1].co, mv[2].co, mv[3].co, p, w);
868                                 absw= fabs(w[0]) + fabs(w[1]) + fabs(w[2]);
869                                 if (absw < minabsw) {
870                                         uv[0]= tf->uv[1][0]*w[0] + tf->uv[2][0]*w[1] + tf->uv[3][0]*w[2];
871                                         uv[1]= tf->uv[1][1]*w[0] + tf->uv[2][1]*w[1] + tf->uv[3][1]*w[2];
872                                         minabsw = absw;
873                                 }
874                         }
875                         else {
876                                 texpaint_tri_weights(ob, mv[0].co, mv[1].co, mv[2].co, p, w);
877                                 absw= fabs(w[0]) + fabs(w[1]) + fabs(w[2]);
878                                 if (absw < minabsw) {
879                                         uv[0]= tf->uv[0][0]*w[0] + tf->uv[1][0]*w[1] + tf->uv[2][0]*w[2];
880                                         uv[1]= tf->uv[0][1]*w[0] + tf->uv[1][1]*w[1] + tf->uv[2][1]*w[2];
881                                         minabsw = absw;
882                                 }
883                         }
884                 }
885         }
886
887         dm->release(dm);
888 }