merge with trunk at r27259 and commit of a patch by anthony jones to fix msvc (though...
[blender-staging.git] / source / blender / editors / space_view3d / drawmesh.c
index 57ab9191beecae5411aa0cdb4377a9f7a8abc9c7..da16182222931cbd338072822e4a7ad9a4598119 100644 (file)
@@ -63,6 +63,7 @@
 #include "BKE_paint.h"
 #include "BKE_property.h"
 #include "BKE_utildefines.h"
+#include "BKE_tessmesh.h"
 
 #include "BIF_gl.h"
 #include "BIF_glutil.h"
@@ -401,7 +402,7 @@ static void draw_textured_end()
        glPopMatrix();
 }
 
-static int draw_tface__set_draw_legacy(MTFace *tface, MCol *mcol, int matnr)
+static int draw_tface__set_draw_legacy(MTFace *tface, int has_vcol, int matnr)
 {
        if (tface && (tface->mode&TF_INVISIBLE)) return 0;
 
@@ -411,7 +412,7 @@ static int draw_tface__set_draw_legacy(MTFace *tface, MCol *mcol, int matnr)
        } else if (tface && tface->mode&TF_OBCOL) {
                glColor3ubv(Gtexdraw.obcol);
                return 2; /* Don't set color */
-       } else if (!mcol) {
+       } else if (!has_vcol) {
                if (tface) glColor3f(1.0, 1.0, 1.0);
                else {
                        Material *ma= give_current_material(Gtexdraw.ob, matnr+1);
@@ -446,15 +447,15 @@ static int draw_tface__set_draw(MTFace *tface, MCol *mcol, int matnr)
 static void add_tface_color_layer(DerivedMesh *dm)
 {
        MTFace *tface = DM_get_face_data_layer(dm, CD_MTFACE);
-       MFace *mface = DM_get_face_data_layer(dm, CD_MFACE);
+       MFace *mface = dm->getTessFaceArray(dm);
        MCol *finalCol;
        int i,j;
-       MCol *mcol = dm->getFaceDataArray(dm, CD_WEIGHT_MCOL);
+       MCol *mcol = dm->getTessFaceDataArray(dm, CD_WEIGHT_MCOL);
        if(!mcol)
-               mcol = dm->getFaceDataArray(dm, CD_MCOL);
+               mcol = dm->getTessFaceDataArray(dm, CD_MCOL);
 
-       finalCol = MEM_mallocN(sizeof(MCol)*4*dm->getNumFaces(dm),"add_tface_color_layer");
-       for(i=0;i<dm->getNumFaces(dm);i++) {
+       finalCol = MEM_mallocN(sizeof(MCol)*4*dm->getNumTessFaces(dm),"add_tface_color_layer");
+       for(i=0;i<dm->getNumTessFaces(dm);i++) {
                if (tface && (tface->mode&TF_INVISIBLE)) {
                        if( mcol )
                                memcpy(&finalCol[i*4],&mcol[i*4],sizeof(MCol)*4);
@@ -520,30 +521,53 @@ static void add_tface_color_layer(DerivedMesh *dm)
 static int draw_tface_mapped__set_draw(void *userData, int index)
 {
        Mesh *me = (Mesh*)userData;
-       MTFace *tface = (me->mtface)? &me->mtface[index]: NULL;
-       MFace *mface = (me->mface)? &me->mface[index]: NULL;
-       MCol *mcol = (me->mcol)? &me->mcol[index]: NULL;
-       int matnr = me->mface[index].mat_nr;
-       if (mface && mface->flag&ME_HIDE) return 0;
-       return draw_tface__set_draw(tface, mcol, matnr);
+       MTexPoly *tpoly = (me->mtpoly)? &me->mtpoly[index]: NULL;
+       MPoly *mpoly = (me->mpoly)? &me->mpoly[index]: NULL;
+       MTFace mtf;
+       int matnr = me->mpoly[index].mat_nr;
+
+       if (mpoly && mpoly->flag&ME_HIDE) return 0;
+
+       memset(&mtf, 0, sizeof(mtf));
+       if (tpoly) {
+               mtf.flag = tpoly->flag;
+               mtf.tpage = tpoly->tpage;
+               mtf.transp = tpoly->transp;
+               mtf.mode = tpoly->mode;
+               mtf.tile = tpoly->tile;
+               mtf.unwrap = tpoly->unwrap;
+       }
+
+       return draw_tface__set_draw(&mtf, CustomData_has_layer(&me->ldata, CD_MLOOPCOL), matnr);
 }
 
 static int draw_em_tf_mapped__set_draw(void *userData, int index)
 {
-       EditMesh *em = userData;
-       EditFace *efa= EM_get_face_for_index(index);
-       MTFace *tface;
-       MCol *mcol;
-       int matnr;
+       BMEditMesh *em = userData;
+       BMFace *efa= EDBM_get_face_for_index(em, index);
+       MTexPoly *tpoly;
+       MTFace mtf;
+       int matnr, has_vcol;
 
-       if (efa==NULL || efa->h)
+       if (efa==NULL || BM_TestHFlag(efa, BM_HIDDEN))
                return 0;
 
-       tface = CustomData_em_get(&em->fdata, efa->data, CD_MTFACE);
-       mcol = CustomData_em_get(&em->fdata, efa->data, CD_MCOL);
+       tpoly = CustomData_bmesh_get(&em->bm->pdata, efa->head.data, CD_MTEXPOLY);
+       has_vcol = CustomData_has_layer(&em->bm->ldata, CD_MLOOPCOL);
        matnr = efa->mat_nr;
 
-       return draw_tface__set_draw(tface, mcol, matnr);
+       memset(&mtf, 0, sizeof(mtf));
+
+       if (tpoly) {
+               mtf.flag = tpoly->flag;
+               mtf.tpage = tpoly->tpage;
+               mtf.transp = tpoly->transp;
+               mtf.mode = tpoly->mode;
+               mtf.tile = tpoly->tile;
+               mtf.unwrap = tpoly->unwrap;
+       }
+
+       return draw_tface__set_draw(&mtf, has_vcol, matnr);
 }
 
 static int wpaint__setSolidDrawOptions(void *userData, int index, int *drawSmooth_r)
@@ -657,7 +681,7 @@ void draw_mesh_textured(Scene *scene, View3D *v3d, RegionView3D *rv3d, Object *o
 
        if(ob->mode & OB_MODE_EDIT) {
                glColor4f(1.0f,1.0f,1.0f,1.0f);
-               dm->drawMappedFacesTex(dm, draw_em_tf_mapped__set_draw, me->edit_mesh);
+               dm->drawMappedFacesTex(dm, draw_em_tf_mapped__set_draw, me->edit_btmesh);
        } else if(faceselect) {
                if(ob->mode & OB_MODE_WEIGHT_PAINT)
                        dm->drawMappedFaces(dm, wpaint__setSolidDrawOptions, me, 1);