Sculpt: svn merge https://svn.blender.org/svnroot/bf-blender/trunk/blender -r24095...
[blender.git] / source / blender / editors / transform / transform_constraints.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version.
10  *
11  * This program is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software Foundation,
18  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
19  *
20  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
21  * All rights reserved.
22  *
23  * The Original Code is: all of this file.
24  *
25  * Contributor(s): none yet.
26  *
27  * ***** END GPL LICENSE BLOCK *****
28  */
29
30 #include <stdlib.h>
31 #include <stdio.h>
32 #include <string.h>
33 #include <math.h>
34
35 #ifdef HAVE_CONFIG_H
36 #include <config.h>
37 #endif
38
39 #ifndef WIN32
40 #include <unistd.h>
41 #else
42 #include <io.h>
43 #endif
44
45 #include "MEM_guardedalloc.h"
46
47 #include "DNA_action_types.h"
48 #include "DNA_armature_types.h"
49 #include "DNA_camera_types.h"
50 #include "DNA_curve_types.h"
51 #include "DNA_effect_types.h"
52 #include "DNA_image_types.h"
53 #include "DNA_ipo_types.h"
54 #include "DNA_key_types.h"
55 #include "DNA_lamp_types.h"
56 #include "DNA_lattice_types.h"
57 #include "DNA_mesh_types.h"
58 #include "DNA_meshdata_types.h"
59 #include "DNA_meta_types.h"
60 #include "DNA_object_types.h"
61 #include "DNA_scene_types.h"
62 #include "DNA_screen_types.h"
63 #include "DNA_space_types.h"
64 #include "DNA_view3d_types.h"
65
66 #include "BIF_gl.h"
67 #include "BIF_glutil.h"
68
69 #include "BKE_context.h"
70 #include "BKE_global.h"
71 #include "BKE_utildefines.h"
72
73 #include "ED_image.h"
74 #include "ED_view3d.h"
75
76 #include "BLI_arithb.h"
77
78 //#include "blendef.h"
79 //
80 //#include "mydevice.h"
81
82 #include "WM_types.h"
83 #include "UI_resources.h"
84
85
86 #include "transform.h"
87
88 static void drawObjectConstraint(TransInfo *t);
89
90 /* ************************** CONSTRAINTS ************************* */
91 void constraintAutoValues(TransInfo *t, float vec[3])
92 {
93         int mode = t->con.mode;
94         if (mode & CON_APPLY)
95         {
96                 float nval = (t->flag & T_NULL_ONE)?1.0f:0.0f;
97
98                 if ((mode & CON_AXIS0) == 0)
99                 {
100                         vec[0] = nval;
101                 }
102                 if ((mode & CON_AXIS1) == 0)
103                 {
104                         vec[1] = nval;
105                 }
106                 if ((mode & CON_AXIS2) == 0)
107                 {
108                         vec[2] = nval;
109                 }
110         }
111 }
112
113 void constraintNumInput(TransInfo *t, float vec[3])
114 {
115         int mode = t->con.mode;
116         if (mode & CON_APPLY) {
117                 float nval = (t->flag & T_NULL_ONE)?1.0f:0.0f;
118
119                 if (getConstraintSpaceDimension(t) == 2) {
120                         int axis = mode & (CON_AXIS0|CON_AXIS1|CON_AXIS2);
121                         if (axis == (CON_AXIS0|CON_AXIS1)) {
122                                 vec[0] = vec[0];
123                                 vec[1] = vec[1];
124                                 vec[2] = nval;
125                         }
126                         else if (axis == (CON_AXIS1|CON_AXIS2)) {
127                                 vec[2] = vec[1];
128                                 vec[1] = vec[0];
129                                 vec[0] = nval;
130                         }
131                         else if (axis == (CON_AXIS0|CON_AXIS2)) {
132                                 vec[0] = vec[0];
133                                 vec[2] = vec[1];
134                                 vec[1] = nval;
135                         }
136                 }
137                 else if (getConstraintSpaceDimension(t) == 1) {
138                         if (mode & CON_AXIS0) {
139                                 vec[0] = vec[0];
140                                 vec[1] = nval;
141                                 vec[2] = nval;
142                         }
143                         else if (mode & CON_AXIS1) {
144                                 vec[1] = vec[0];
145                                 vec[0] = nval;
146                                 vec[2] = nval;
147                         }
148                         else if (mode & CON_AXIS2) {
149                                 vec[2] = vec[0];
150                                 vec[0] = nval;
151                                 vec[1] = nval;
152                         }
153                 }
154         }
155 }
156
157 static void postConstraintChecks(TransInfo *t, float vec[3], float pvec[3]) {
158         int i = 0;
159
160         Mat3MulVecfl(t->con.imtx, vec);
161
162         snapGrid(t, vec);
163
164         if (t->num.flag & T_NULL_ONE) {
165                 if (!(t->con.mode & CON_AXIS0))
166                         vec[0] = 1.0f;
167
168                 if (!(t->con.mode & CON_AXIS1))
169                         vec[1] = 1.0f;
170
171                 if (!(t->con.mode & CON_AXIS2))
172                         vec[2] = 1.0f;
173         }
174
175         if (hasNumInput(&t->num)) {
176                 applyNumInput(&t->num, vec);
177                 constraintNumInput(t, vec);
178         }
179
180         /* autovalues is operator param, use that directly but not if snapping is forced */
181         if (t->flag & T_AUTOVALUES && (t->tsnap.status & SNAP_FORCED) == 0)
182         {
183                 VECCOPY(vec, t->auto_values);
184                 constraintAutoValues(t, vec);
185         }
186
187         if (t->con.mode & CON_AXIS0) {
188                 pvec[i++] = vec[0];
189         }
190         if (t->con.mode & CON_AXIS1) {
191                 pvec[i++] = vec[1];
192         }
193         if (t->con.mode & CON_AXIS2) {
194                 pvec[i++] = vec[2];
195         }
196
197         Mat3MulVecfl(t->con.mtx, vec);
198 }
199
200 static void axisProjection(TransInfo *t, float axis[3], float in[3], float out[3]) {
201         float norm[3], vec[3], factor;
202
203         if(in[0]==0.0f && in[1]==0.0f && in[2]==0.0f)
204                 return;
205
206         /* For when view is parallel to constraint... will cause NaNs otherwise
207            So we take vertical motion in 3D space and apply it to the
208            constraint axis. Nice for camera grab + MMB */
209         if(1.0f - fabs(Inpf(axis, t->viewinv[2])) < 0.000001f) {
210                 Projf(vec, in, t->viewinv[1]);
211                 factor = Inpf(t->viewinv[1], vec) * 2.0f;
212                 /* since camera distance is quite relative, use quadratic relationship. holding shift can compensate */
213                 if(factor<0.0f) factor*= -factor;
214                 else factor*= factor;
215
216                 VECCOPY(out, axis);
217                 Normalize(out);
218                 VecMulf(out, -factor);  /* -factor makes move down going backwards */
219         }
220         else {
221                 float cb[3], ab[3];
222
223                 VECCOPY(out, axis);
224
225                 /* Get view vector on axis to define a plane */
226                 VecAddf(vec, t->con.center, in);
227                 getViewVector(t, vec, norm);
228
229                 Crossf(vec, norm, axis);
230
231                 /* Project input vector on the plane passing on axis */
232                 Projf(vec, in, vec);
233                 VecSubf(vec, in, vec);
234
235                 /* intersect the two lines: axis and norm */
236                 Crossf(cb, vec, norm);
237                 Crossf(ab, axis, norm);
238
239                 VecMulf(out, Inpf(cb, ab) / Inpf(ab, ab));
240         }
241 }
242
243 static void planeProjection(TransInfo *t, float in[3], float out[3]) {
244         float vec[3], factor, norm[3];
245
246         VecAddf(vec, in, t->con.center);
247         getViewVector(t, vec, norm);
248
249         VecSubf(vec, out, in);
250
251         factor = Inpf(vec, norm);
252         if (fabs(factor) <= 0.001) {
253                 return; /* prevent divide by zero */
254         }
255         factor = Inpf(vec, vec) / factor;
256
257         VECCOPY(vec, norm);
258         VecMulf(vec, factor);
259
260         VecAddf(out, in, vec);
261 }
262
263 /*
264  * Generic callback for constant spacial constraints applied to linear motion
265  *
266  * The IN vector in projected into the constrained space and then further
267  * projected along the view vector.
268  * (in perspective mode, the view vector is relative to the position on screen)
269  *
270  */
271
272 static void applyAxisConstraintVec(TransInfo *t, TransData *td, float in[3], float out[3], float pvec[3])
273 {
274         VECCOPY(out, in);
275         if (!td && t->con.mode & CON_APPLY) {
276                 Mat3MulVecfl(t->con.pmtx, out);
277
278                 // With snap, a projection is alright, no need to correct for view alignment
279                 if ((t->tsnap.status & SNAP_ON) == 0) {
280                         if (getConstraintSpaceDimension(t) == 2) {
281                                 if (out[0] != 0.0f || out[1] != 0.0f || out[2] != 0.0f) {
282                                         planeProjection(t, in, out);
283                                 }
284                         }
285                         else if (getConstraintSpaceDimension(t) == 1) {
286                                 float c[3];
287
288                                 if (t->con.mode & CON_AXIS0) {
289                                         VECCOPY(c, t->con.mtx[0]);
290                                 }
291                                 else if (t->con.mode & CON_AXIS1) {
292                                         VECCOPY(c, t->con.mtx[1]);
293                                 }
294                                 else if (t->con.mode & CON_AXIS2) {
295                                         VECCOPY(c, t->con.mtx[2]);
296                                 }
297                                 axisProjection(t, c, in, out);
298                         }
299                 }
300                 postConstraintChecks(t, out, pvec);
301         }
302 }
303
304 /*
305  * Generic callback for object based spacial constraints applied to linear motion
306  *
307  * At first, the following is applied to the first data in the array
308  * The IN vector in projected into the constrained space and then further
309  * projected along the view vector.
310  * (in perspective mode, the view vector is relative to the position on screen)
311  *
312  * Further down, that vector is mapped to each data's space.
313  */
314
315 static void applyObjectConstraintVec(TransInfo *t, TransData *td, float in[3], float out[3], float pvec[3])
316 {
317         VECCOPY(out, in);
318         if (t->con.mode & CON_APPLY) {
319                 if (!td) {
320                         Mat3MulVecfl(t->con.pmtx, out);
321                         if (getConstraintSpaceDimension(t) == 2) {
322                                 if (out[0] != 0.0f || out[1] != 0.0f || out[2] != 0.0f) {
323                                         planeProjection(t, in, out);
324                                 }
325                         }
326                         else if (getConstraintSpaceDimension(t) == 1) {
327                                 float c[3];
328
329                                 if (t->con.mode & CON_AXIS0) {
330                                         VECCOPY(c, t->con.mtx[0]);
331                                 }
332                                 else if (t->con.mode & CON_AXIS1) {
333                                         VECCOPY(c, t->con.mtx[1]);
334                                 }
335                                 else if (t->con.mode & CON_AXIS2) {
336                                         VECCOPY(c, t->con.mtx[2]);
337                                 }
338                                 axisProjection(t, c, in, out);
339                         }
340                         postConstraintChecks(t, out, pvec);
341                         VECCOPY(out, pvec);
342                 }
343                 else {
344                         int i=0;
345
346                         out[0] = out[1] = out[2] = 0.0f;
347                         if (t->con.mode & CON_AXIS0) {
348                                 out[0] = in[i++];
349                         }
350                         if (t->con.mode & CON_AXIS1) {
351                                 out[1] = in[i++];
352                         }
353                         if (t->con.mode & CON_AXIS2) {
354                                 out[2] = in[i++];
355                         }
356                         Mat3MulVecfl(td->axismtx, out);
357                 }
358         }
359 }
360
361 /*
362  * Generic callback for constant spacial constraints applied to resize motion
363  *
364  *
365  */
366
367 static void applyAxisConstraintSize(TransInfo *t, TransData *td, float smat[3][3])
368 {
369         if (!td && t->con.mode & CON_APPLY) {
370                 float tmat[3][3];
371
372                 if (!(t->con.mode & CON_AXIS0)) {
373                         smat[0][0] = 1.0f;
374                 }
375                 if (!(t->con.mode & CON_AXIS1)) {
376                         smat[1][1] = 1.0f;
377                 }
378                 if (!(t->con.mode & CON_AXIS2)) {
379                         smat[2][2] = 1.0f;
380                 }
381
382                 Mat3MulMat3(tmat, smat, t->con.imtx);
383                 Mat3MulMat3(smat, t->con.mtx, tmat);
384         }
385 }
386
387 /*
388  * Callback for object based spacial constraints applied to resize motion
389  *
390  *
391  */
392
393 static void applyObjectConstraintSize(TransInfo *t, TransData *td, float smat[3][3])
394 {
395         if (td && t->con.mode & CON_APPLY) {
396                 float tmat[3][3];
397                 float imat[3][3];
398
399                 Mat3Inv(imat, td->axismtx);
400
401                 if (!(t->con.mode & CON_AXIS0)) {
402                         smat[0][0] = 1.0f;
403                 }
404                 if (!(t->con.mode & CON_AXIS1)) {
405                         smat[1][1] = 1.0f;
406                 }
407                 if (!(t->con.mode & CON_AXIS2)) {
408                         smat[2][2] = 1.0f;
409                 }
410
411                 Mat3MulMat3(tmat, smat, imat);
412                 Mat3MulMat3(smat, td->axismtx, tmat);
413         }
414 }
415
416 /*
417  * Generic callback for constant spacial constraints applied to rotations
418  *
419  * The rotation axis is copied into VEC.
420  *
421  * In the case of single axis constraints, the rotation axis is directly the one constrained to.
422  * For planar constraints (2 axis), the rotation axis is the normal of the plane.
423  *
424  * The following only applies when CON_NOFLIP is not set.
425  * The vector is then modified to always point away from the screen (in global space)
426  * This insures that the rotation is always logically following the mouse.
427  * (ie: not doing counterclockwise rotations when the mouse moves clockwise).
428  */
429
430 static void applyAxisConstraintRot(TransInfo *t, TransData *td, float vec[3], float *angle)
431 {
432         if (!td && t->con.mode & CON_APPLY) {
433                 int mode = t->con.mode & (CON_AXIS0|CON_AXIS1|CON_AXIS2);
434
435                 switch(mode) {
436                 case CON_AXIS0:
437                 case (CON_AXIS1|CON_AXIS2):
438                         VECCOPY(vec, t->con.mtx[0]);
439                         break;
440                 case CON_AXIS1:
441                 case (CON_AXIS0|CON_AXIS2):
442                         VECCOPY(vec, t->con.mtx[1]);
443                         break;
444                 case CON_AXIS2:
445                 case (CON_AXIS0|CON_AXIS1):
446                         VECCOPY(vec, t->con.mtx[2]);
447                         break;
448                 }
449                 /* don't flip axis if asked to or if num input */
450                 if (angle && (mode & CON_NOFLIP) == 0 && hasNumInput(&t->num) == 0) {
451                         if (Inpf(vec, t->viewinv[2]) > 0.0f) {
452                                 *angle = -(*angle);
453                         }
454                 }
455         }
456 }
457
458 /*
459  * Callback for object based spacial constraints applied to rotations
460  *
461  * The rotation axis is copied into VEC.
462  *
463  * In the case of single axis constraints, the rotation axis is directly the one constrained to.
464  * For planar constraints (2 axis), the rotation axis is the normal of the plane.
465  *
466  * The following only applies when CON_NOFLIP is not set.
467  * The vector is then modified to always point away from the screen (in global space)
468  * This insures that the rotation is always logically following the mouse.
469  * (ie: not doing counterclockwise rotations when the mouse moves clockwise).
470  */
471
472 static void applyObjectConstraintRot(TransInfo *t, TransData *td, float vec[3], float *angle)
473 {
474         if (t->con.mode & CON_APPLY) {
475                 int mode = t->con.mode & (CON_AXIS0|CON_AXIS1|CON_AXIS2);
476
477                 /* on setup call, use first object */
478                 if (td == NULL) {
479                         td= t->data;
480                 }
481
482                 switch(mode) {
483                 case CON_AXIS0:
484                 case (CON_AXIS1|CON_AXIS2):
485                         VECCOPY(vec, td->axismtx[0]);
486                         break;
487                 case CON_AXIS1:
488                 case (CON_AXIS0|CON_AXIS2):
489                         VECCOPY(vec, td->axismtx[1]);
490                         break;
491                 case CON_AXIS2:
492                 case (CON_AXIS0|CON_AXIS1):
493                         VECCOPY(vec, td->axismtx[2]);
494                         break;
495                 }
496                 if (angle && (mode & CON_NOFLIP) == 0 && hasNumInput(&t->num) == 0) {
497                         if (Inpf(vec, t->viewinv[2]) > 0.0f) {
498                                 *angle = -(*angle);
499                         }
500                 }
501         }
502 }
503
504 /*--------------------- INTERNAL SETUP CALLS ------------------*/
505
506 void setConstraint(TransInfo *t, float space[3][3], int mode, const char text[]) {
507         strncpy(t->con.text + 1, text, 48);
508         Mat3CpyMat3(t->con.mtx, space);
509         t->con.mode = mode;
510         getConstraintMatrix(t);
511
512         startConstraint(t);
513
514         t->con.drawExtra = NULL;
515         t->con.applyVec = applyAxisConstraintVec;
516         t->con.applySize = applyAxisConstraintSize;
517         t->con.applyRot = applyAxisConstraintRot;
518         t->redraw = 1;
519 }
520
521 void setLocalConstraint(TransInfo *t, int mode, const char text[]) {
522         if (t->flag & T_EDIT) {
523                 float obmat[3][3];
524                 Mat3CpyMat4(obmat, t->scene->obedit->obmat);
525                 setConstraint(t, obmat, mode, text);
526         }
527         else {
528                 if (t->total == 1) {
529                         setConstraint(t, t->data->axismtx, mode, text);
530                 }
531                 else {
532                         strncpy(t->con.text + 1, text, 48);
533                         Mat3CpyMat3(t->con.mtx, t->data->axismtx);
534                         t->con.mode = mode;
535                         getConstraintMatrix(t);
536
537                         startConstraint(t);
538
539                         t->con.drawExtra = drawObjectConstraint;
540                         t->con.applyVec = applyObjectConstraintVec;
541                         t->con.applySize = applyObjectConstraintSize;
542                         t->con.applyRot = applyObjectConstraintRot;
543                         t->redraw = 1;
544                 }
545         }
546 }
547
548 /*
549         Set the constraint according to the user defined orientation
550
551         ftext is a format string passed to sprintf. It will add the name of
552         the orientation where %s is (logically).
553 */
554 void setUserConstraint(TransInfo *t, short orientation, int mode, const char ftext[]) {
555         char text[40];
556
557         switch(orientation) {
558         case V3D_MANIP_GLOBAL:
559                 {
560                         float mtx[3][3];
561                         sprintf(text, ftext, "global");
562                         Mat3One(mtx);
563                         setConstraint(t, mtx, mode, text);
564                 }
565                 break;
566         case V3D_MANIP_LOCAL:
567                 sprintf(text, ftext, "local");
568                 setLocalConstraint(t, mode, text);
569                 break;
570         case V3D_MANIP_NORMAL:
571                 sprintf(text, ftext, "normal");
572                 setConstraint(t, t->spacemtx, mode, text);
573                 break;
574         case V3D_MANIP_VIEW:
575                 sprintf(text, ftext, "view");
576                 setConstraint(t, t->spacemtx, mode, text);
577                 break;
578         case V3D_MANIP_GIMBAL:
579                 sprintf(text, ftext, "gimbal");
580                 setConstraint(t, t->spacemtx, mode, text);
581                 break;
582         default: /* V3D_MANIP_CUSTOM */
583                 sprintf(text, ftext, t->spacename);
584                 setConstraint(t, t->spacemtx, mode, text);
585                 break;
586         }
587
588         t->con.mode |= CON_USER;
589 }
590
591 /*----------------- DRAWING CONSTRAINTS -------------------*/
592
593 void drawConstraint(const struct bContext *C, TransInfo *t)
594 {
595         TransCon *tc = &(t->con);
596
597         if (!ELEM(t->spacetype, SPACE_VIEW3D, SPACE_IMAGE))
598                 return;
599         if (!(tc->mode & CON_APPLY))
600                 return;
601         if (t->flag & T_USES_MANIPULATOR)
602                 return;
603         if (t->flag & T_NO_CONSTRAINT)
604                 return;
605
606         /* nasty exception for Z constraint in camera view */
607         // TRANSFORM_FIX_ME
608 //      if((t->flag & T_OBJECT) && G.vd->camera==OBACT && G.vd->persp==V3D_CAMOB)
609 //              return;
610
611         if (tc->drawExtra) {
612                 tc->drawExtra(t);
613         }
614         else {
615                 if (tc->mode & CON_SELECT) {
616                         float vec[3];
617                         char col2[3] = {255,255,255};
618                         convertViewVec(t, vec, (short)(t->mval[0] - t->con.imval[0]), (short)(t->mval[1] - t->con.imval[1]));
619                         VecAddf(vec, vec, tc->center);
620
621                         drawLine(t, tc->center, tc->mtx[0], 'x', 0);
622                         drawLine(t, tc->center, tc->mtx[1], 'y', 0);
623                         drawLine(t, tc->center, tc->mtx[2], 'z', 0);
624
625                         glColor3ubv((GLubyte *)col2);
626
627                         glDisable(GL_DEPTH_TEST);
628                         setlinestyle(1);
629                         glBegin(GL_LINE_STRIP);
630                                 glVertex3fv(tc->center);
631                                 glVertex3fv(vec);
632                         glEnd();
633                         setlinestyle(0);
634                         // TRANSFORM_FIX_ME
635                         //if(G.vd->zbuf)
636                                 glEnable(GL_DEPTH_TEST);
637                 }
638
639                 if (tc->mode & CON_AXIS0) {
640                         drawLine(t, tc->center, tc->mtx[0], 'x', DRAWLIGHT);
641                 }
642                 if (tc->mode & CON_AXIS1) {
643                         drawLine(t, tc->center, tc->mtx[1], 'y', DRAWLIGHT);
644                 }
645                 if (tc->mode & CON_AXIS2) {
646                         drawLine(t, tc->center, tc->mtx[2], 'z', DRAWLIGHT);
647                 }
648         }
649 }
650
651 /* called from drawview.c, as an extra per-window draw option */
652 void drawPropCircle(const struct bContext *C, TransInfo *t)
653 {
654         if (t->flag & T_PROP_EDIT) {
655                 RegionView3D *rv3d = CTX_wm_region_view3d(C);
656                 float tmat[4][4], imat[4][4];
657
658                 UI_ThemeColor(TH_GRID);
659
660                 if(t->spacetype == SPACE_VIEW3D && rv3d != NULL)
661                 {
662                         Mat4CpyMat4(tmat, rv3d->viewmat);
663                         Mat4Invert(imat, tmat);
664                 }
665                 else
666                 {
667                         Mat4One(tmat);
668                         Mat4One(imat);
669                 }
670
671                 glPushMatrix();
672
673                 if((t->spacetype == SPACE_VIEW3D) && t->obedit)
674                 {
675                         glMultMatrixf(t->obedit->obmat); /* because t->center is in local space */
676                 }
677                 else if(t->spacetype == SPACE_IMAGE)
678                 {
679                         float aspx, aspy;
680
681                         ED_space_image_uv_aspect(t->sa->spacedata.first, &aspx, &aspy);
682                         glScalef(1.0f/aspx, 1.0f/aspy, 1.0);
683                 }
684
685                 set_inverted_drawing(1);
686                 drawcircball(GL_LINE_LOOP, t->center, t->prop_size, imat);
687                 set_inverted_drawing(0);
688
689                 glPopMatrix();
690         }
691 }
692
693 static void drawObjectConstraint(TransInfo *t) {
694         int i;
695         TransData * td = t->data;
696
697         /* Draw the first one lighter because that's the one who controls the others.
698            Meaning the transformation is projected on that one and just copied on the others
699            constraint space.
700            In a nutshell, the object with light axis is controlled by the user and the others follow.
701            Without drawing the first light, users have little clue what they are doing.
702          */
703         if (t->con.mode & CON_AXIS0) {
704                 drawLine(t, td->ob->obmat[3], td->axismtx[0], 'x', DRAWLIGHT);
705         }
706         if (t->con.mode & CON_AXIS1) {
707                 drawLine(t, td->ob->obmat[3], td->axismtx[1], 'y', DRAWLIGHT);
708         }
709         if (t->con.mode & CON_AXIS2) {
710                 drawLine(t, td->ob->obmat[3], td->axismtx[2], 'z', DRAWLIGHT);
711         }
712
713         td++;
714
715         for(i=1;i<t->total;i++,td++) {
716                 if (t->con.mode & CON_AXIS0) {
717                         drawLine(t, td->ob->obmat[3], td->axismtx[0], 'x', 0);
718                 }
719                 if (t->con.mode & CON_AXIS1) {
720                         drawLine(t, td->ob->obmat[3], td->axismtx[1], 'y', 0);
721                 }
722                 if (t->con.mode & CON_AXIS2) {
723                         drawLine(t, td->ob->obmat[3], td->axismtx[2], 'z', 0);
724                 }
725         }
726 }
727
728 /*--------------------- START / STOP CONSTRAINTS ---------------------- */
729
730 void startConstraint(TransInfo *t) {
731         t->con.mode |= CON_APPLY;
732         *t->con.text = ' ';
733         t->num.idx_max = MIN2(getConstraintSpaceDimension(t) - 1, t->idx_max);
734 }
735
736 void stopConstraint(TransInfo *t) {
737         t->con.mode &= ~(CON_APPLY|CON_SELECT);
738         *t->con.text = '\0';
739         t->num.idx_max = t->idx_max;
740 }
741
742 void getConstraintMatrix(TransInfo *t)
743 {
744         float mat[3][3];
745         Mat3Inv(t->con.imtx, t->con.mtx);
746         Mat3One(t->con.pmtx);
747
748         if (!(t->con.mode & CON_AXIS0)) {
749                 t->con.pmtx[0][0]               =
750                         t->con.pmtx[0][1]       =
751                         t->con.pmtx[0][2]       = 0.0f;
752         }
753
754         if (!(t->con.mode & CON_AXIS1)) {
755                 t->con.pmtx[1][0]               =
756                         t->con.pmtx[1][1]       =
757                         t->con.pmtx[1][2]       = 0.0f;
758         }
759
760         if (!(t->con.mode & CON_AXIS2)) {
761                 t->con.pmtx[2][0]               =
762                         t->con.pmtx[2][1]       =
763                         t->con.pmtx[2][2]       = 0.0f;
764         }
765
766         Mat3MulMat3(mat, t->con.pmtx, t->con.imtx);
767         Mat3MulMat3(t->con.pmtx, t->con.mtx, mat);
768 }
769
770 /*------------------------- MMB Select -------------------------------*/
771
772 void initSelectConstraint(TransInfo *t, float mtx[3][3])
773 {
774         Mat3CpyMat3(t->con.mtx, mtx);
775         t->con.mode |= CON_APPLY;
776         t->con.mode |= CON_SELECT;
777
778         setNearestAxis(t);
779         t->con.drawExtra = NULL;
780         t->con.applyVec = applyAxisConstraintVec;
781         t->con.applySize = applyAxisConstraintSize;
782         t->con.applyRot = applyAxisConstraintRot;
783 }
784
785 void selectConstraint(TransInfo *t) {
786         if (t->con.mode & CON_SELECT) {
787                 setNearestAxis(t);
788                 startConstraint(t);
789         }
790 }
791
792 void postSelectConstraint(TransInfo *t)
793 {
794         if (!(t->con.mode & CON_SELECT))
795                 return;
796
797         t->con.mode &= ~CON_AXIS0;
798         t->con.mode &= ~CON_AXIS1;
799         t->con.mode &= ~CON_AXIS2;
800         t->con.mode &= ~CON_SELECT;
801
802         setNearestAxis(t);
803
804         startConstraint(t);
805         t->redraw = 1;
806 }
807
808 static void setNearestAxis2d(TransInfo *t)
809 {
810         /* no correction needed... just use whichever one is lower */
811         if ( abs(t->mval[0]-t->con.imval[0]) < abs(t->mval[1]-t->con.imval[1]) ) {
812                 t->con.mode |= CON_AXIS1;
813                 sprintf(t->con.text, " along Y axis");
814         }
815         else {
816                 t->con.mode |= CON_AXIS0;
817                 sprintf(t->con.text, " along X axis");
818         }
819 }
820
821 static void setNearestAxis3d(TransInfo *t)
822 {
823         float zfac;
824         float mvec[3], axis[3], proj[3];
825         float len[3];
826         int i, icoord[2];
827
828         /* calculate mouse movement */
829         mvec[0] = (float)(t->mval[0] - t->con.imval[0]);
830         mvec[1] = (float)(t->mval[1] - t->con.imval[1]);
831         mvec[2] = 0.0f;
832
833         /* we need to correct axis length for the current zoomlevel of view,
834            this to prevent projected values to be clipped behind the camera
835            and to overflow the short integers.
836            The formula used is a bit stupid, just a simplification of the substraction
837            of two 2D points 30 pixels apart (that's the last factor in the formula) after
838            projecting them with window_to_3d_delta and then get the length of that vector.
839         */
840         zfac= t->persmat[0][3]*t->center[0]+ t->persmat[1][3]*t->center[1]+ t->persmat[2][3]*t->center[2]+ t->persmat[3][3];
841         zfac = VecLength(t->persinv[0]) * 2.0f/t->ar->winx * zfac * 30.0f;
842
843         for (i = 0; i<3; i++) {
844                 VECCOPY(axis, t->con.mtx[i]);
845
846                 VecMulf(axis, zfac);
847                 /* now we can project to get window coordinate */
848                 VecAddf(axis, axis, t->con.center);
849                 projectIntView(t, axis, icoord);
850
851                 axis[0] = (float)(icoord[0] - t->center2d[0]);
852                 axis[1] = (float)(icoord[1] - t->center2d[1]);
853                 axis[2] = 0.0f;
854
855                 if (Normalize(axis) != 0.0f) {
856                         Projf(proj, mvec, axis);
857                         VecSubf(axis, mvec, proj);
858                         len[i] = Normalize(axis);
859                 }
860                 else {
861                         len[i] = 10000000000.0f;
862                 }
863         }
864
865         if (len[0] <= len[1] && len[0] <= len[2]) {
866                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
867                         t->con.mode |= (CON_AXIS1|CON_AXIS2);
868                         sprintf(t->con.text, " locking %s X axis", t->spacename);
869                 }
870                 else {
871                         t->con.mode |= CON_AXIS0;
872                         sprintf(t->con.text, " along %s X axis", t->spacename);
873                 }
874         }
875         else if (len[1] <= len[0] && len[1] <= len[2]) {
876                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
877                         t->con.mode |= (CON_AXIS0|CON_AXIS2);
878                         sprintf(t->con.text, " locking %s Y axis", t->spacename);
879                 }
880                 else {
881                         t->con.mode |= CON_AXIS1;
882                         sprintf(t->con.text, " along %s Y axis", t->spacename);
883                 }
884         }
885         else if (len[2] <= len[1] && len[2] <= len[0]) {
886                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
887                         t->con.mode |= (CON_AXIS0|CON_AXIS1);
888                         sprintf(t->con.text, " locking %s Z axis", t->spacename);
889                 }
890                 else {
891                         t->con.mode |= CON_AXIS2;
892                         sprintf(t->con.text, " along %s Z axis", t->spacename);
893                 }
894         }
895 }
896
897 void setNearestAxis(TransInfo *t)
898 {
899         /* clear any prior constraint flags */
900         t->con.mode &= ~CON_AXIS0;
901         t->con.mode &= ~CON_AXIS1;
902         t->con.mode &= ~CON_AXIS2;
903
904         /* constraint setting - depends on spacetype */
905         if (t->spacetype == SPACE_VIEW3D) {
906                 /* 3d-view */
907                 setNearestAxis3d(t);
908         }
909         else {
910                 /* assume that this means a 2D-Editor */
911                 setNearestAxis2d(t);
912         }
913
914         getConstraintMatrix(t);
915 }
916
917 /*-------------- HELPER FUNCTIONS ----------------*/
918
919 char constraintModeToChar(TransInfo *t) {
920         if ((t->con.mode & CON_APPLY)==0) {
921                 return '\0';
922         }
923         switch (t->con.mode & (CON_AXIS0|CON_AXIS1|CON_AXIS2)) {
924         case (CON_AXIS0):
925         case (CON_AXIS1|CON_AXIS2):
926                 return 'X';
927         case (CON_AXIS1):
928         case (CON_AXIS0|CON_AXIS2):
929                 return 'Y';
930         case (CON_AXIS2):
931         case (CON_AXIS0|CON_AXIS1):
932                 return 'Z';
933         default:
934                 return '\0';
935         }
936 }
937
938
939 int isLockConstraint(TransInfo *t) {
940         int mode = t->con.mode;
941
942         if ( (mode & (CON_AXIS0|CON_AXIS1)) == (CON_AXIS0|CON_AXIS1))
943                 return 1;
944
945         if ( (mode & (CON_AXIS1|CON_AXIS2)) == (CON_AXIS1|CON_AXIS2))
946                 return 1;
947
948         if ( (mode & (CON_AXIS0|CON_AXIS2)) == (CON_AXIS0|CON_AXIS2))
949                 return 1;
950
951         return 0;
952 }
953
954 /*
955  * Returns the dimension of the constraint space.
956  *
957  * For that reason, the flags always needs to be set to properly evaluate here,
958  * even if they aren't actually used in the callback function. (Which could happen
959  * for weird constraints not yet designed. Along a path for example.)
960  */
961
962 int getConstraintSpaceDimension(TransInfo *t)
963 {
964         int n = 0;
965
966         if (t->con.mode & CON_AXIS0)
967                 n++;
968
969         if (t->con.mode & CON_AXIS1)
970                 n++;
971
972         if (t->con.mode & CON_AXIS2)
973                 n++;
974
975         return n;
976 /*
977   Someone willing to do it criptically could do the following instead:
978
979   return t->con & (CON_AXIS0|CON_AXIS1|CON_AXIS2);
980
981   Based on the assumptions that the axis flags are one after the other and start at 1
982 */
983 }