Cleanup: use normalize_v#_length
[blender.git] / source / blender / editors / transform / transform_constraints.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/editors/transform/transform_constraints.c
29  *  \ingroup edtransform
30  */
31
32 #include <stdlib.h>
33 #include <stdio.h>
34 #include <string.h>
35 #include <math.h>
36
37 #include "DNA_object_types.h"
38 #include "DNA_scene_types.h"
39 #include "DNA_screen_types.h"
40 #include "DNA_space_types.h"
41 #include "DNA_view3d_types.h"
42
43 #include "BIF_gl.h"
44 #include "BIF_glutil.h"
45
46 #include "BLI_math.h"
47 #include "BLI_utildefines.h"
48 #include "BLI_string.h"
49 #include "BLI_rect.h"
50
51 #include "BKE_context.h"
52
53 #include "ED_image.h"
54 #include "ED_view3d.h"
55
56 #include "BLT_translation.h"
57
58 #include "UI_resources.h"
59
60 #include "transform.h"
61
62 static void drawObjectConstraint(TransInfo *t);
63
64 /* ************************** CONSTRAINTS ************************* */
65 static void constraintAutoValues(TransInfo *t, float vec[3])
66 {
67         int mode = t->con.mode;
68         if (mode & CON_APPLY) {
69                 float nval = (t->flag & T_NULL_ONE) ? 1.0f : 0.0f;
70
71                 if ((mode & CON_AXIS0) == 0) {
72                         vec[0] = nval;
73                 }
74                 if ((mode & CON_AXIS1) == 0) {
75                         vec[1] = nval;
76                 }
77                 if ((mode & CON_AXIS2) == 0) {
78                         vec[2] = nval;
79                 }
80         }
81 }
82
83 void constraintNumInput(TransInfo *t, float vec[3])
84 {
85         int mode = t->con.mode;
86         if (mode & CON_APPLY) {
87                 float nval = (t->flag & T_NULL_ONE) ? 1.0f : 0.0f;
88
89                 const int dims = getConstraintSpaceDimension(t);
90                 if (dims == 2) {
91                         int axis = mode & (CON_AXIS0 | CON_AXIS1 | CON_AXIS2);
92                         if (axis == (CON_AXIS0 | CON_AXIS1)) {
93                                 /* vec[0] = vec[0]; */ /* same */
94                                 /* vec[1] = vec[1]; */ /* same */
95                                 vec[2] = nval;
96                         }
97                         else if (axis == (CON_AXIS1 | CON_AXIS2)) {
98                                 vec[2] = vec[1];
99                                 vec[1] = vec[0];
100                                 vec[0] = nval;
101                         }
102                         else if (axis == (CON_AXIS0 | CON_AXIS2)) {
103                                 /* vec[0] = vec[0]; */  /* same */
104                                 vec[2] = vec[1];
105                                 vec[1] = nval;
106                         }
107                 }
108                 else if (dims == 1) {
109                         if (mode & CON_AXIS0) {
110                                 /* vec[0] = vec[0]; */ /* same */
111                                 vec[1] = nval;
112                                 vec[2] = nval;
113                         }
114                         else if (mode & CON_AXIS1) {
115                                 vec[1] = vec[0];
116                                 vec[0] = nval;
117                                 vec[2] = nval;
118                         }
119                         else if (mode & CON_AXIS2) {
120                                 vec[2] = vec[0];
121                                 vec[0] = nval;
122                                 vec[1] = nval;
123                         }
124                 }
125         }
126 }
127
128 static void postConstraintChecks(TransInfo *t, float vec[3], float pvec[3])
129 {
130         int i = 0;
131
132         mul_m3_v3(t->con.imtx, vec);
133
134         snapGridIncrement(t, vec);
135
136         if (t->flag & T_NULL_ONE) {
137                 if (!(t->con.mode & CON_AXIS0))
138                         vec[0] = 1.0f;
139
140                 if (!(t->con.mode & CON_AXIS1))
141                         vec[1] = 1.0f;
142
143                 if (!(t->con.mode & CON_AXIS2))
144                         vec[2] = 1.0f;
145         }
146
147         if (applyNumInput(&t->num, vec)) {
148                 constraintNumInput(t, vec);
149                 removeAspectRatio(t, vec);
150         }
151
152         /* autovalues is operator param, use that directly but not if snapping is forced */
153         if (t->flag & T_AUTOVALUES && (t->tsnap.status & SNAP_FORCED) == 0) {
154                 copy_v3_v3(vec, t->auto_values);
155                 constraintAutoValues(t, vec);
156                 /* inverse transformation at the end */
157         }
158
159         if (t->con.mode & CON_AXIS0) {
160                 pvec[i++] = vec[0];
161         }
162         if (t->con.mode & CON_AXIS1) {
163                 pvec[i++] = vec[1];
164         }
165         if (t->con.mode & CON_AXIS2) {
166                 pvec[i++] = vec[2];
167         }
168
169         mul_m3_v3(t->con.mtx, vec);
170 }
171
172 static void viewAxisCorrectCenter(TransInfo *t, float t_con_center[3])
173 {
174         if (t->spacetype == SPACE_VIEW3D) {
175                 // View3D *v3d = t->sa->spacedata.first;
176                 const float min_dist = 1.0f;  /* v3d->near; */
177                 float dir[3];
178                 float l;
179
180                 sub_v3_v3v3(dir, t_con_center, t->viewinv[3]);
181                 if (dot_v3v3(dir, t->viewinv[2]) < 0.0f) {
182                         negate_v3(dir);
183                 }
184                 project_v3_v3v3(dir, dir, t->viewinv[2]);
185
186                 l = len_v3(dir);
187
188                 if (l < min_dist) {
189                         float diff[3];
190                         normalize_v3_v3_length(diff, t->viewinv[2], min_dist - l);
191                         sub_v3_v3(t_con_center, diff);
192                 }
193         }
194 }
195
196 static void axisProjection(TransInfo *t, const float axis[3], const float in[3], float out[3])
197 {
198         float norm[3], vec[3], factor, angle;
199         float t_con_center[3];
200
201         if (is_zero_v3(in)) {
202                 return;
203         }
204
205         copy_v3_v3(t_con_center, t->center_global);
206
207         /* checks for center being too close to the view center */
208         viewAxisCorrectCenter(t, t_con_center);
209         
210         angle = fabsf(angle_v3v3(axis, t->viewinv[2]));
211         if (angle > (float)M_PI_2) {
212                 angle = (float)M_PI - angle;
213         }
214         angle = RAD2DEGF(angle);
215
216         /* For when view is parallel to constraint... will cause NaNs otherwise
217          * So we take vertical motion in 3D space and apply it to the
218          * constraint axis. Nice for camera grab + MMB */
219         if (angle < 5.0f) {
220                 project_v3_v3v3(vec, in, t->viewinv[1]);
221                 factor = dot_v3v3(t->viewinv[1], vec) * 2.0f;
222                 /* since camera distance is quite relative, use quadratic relationship. holding shift can compensate */
223                 if (factor < 0.0f) factor *= -factor;
224                 else factor *= factor;
225
226                 /* -factor makes move down going backwards */
227                 normalize_v3_v3_length(out, axis, -factor);
228         }
229         else {
230                 float v[3], i1[3], i2[3];
231                 float v2[3], v4[3];
232                 float norm_center[3];
233                 float plane[3];
234
235                 getViewVector(t, t_con_center, norm_center);
236                 cross_v3_v3v3(plane, norm_center, axis);
237
238                 project_v3_v3v3(vec, in, plane);
239                 sub_v3_v3v3(vec, in, vec);
240                 
241                 add_v3_v3v3(v, vec, t_con_center);
242                 getViewVector(t, v, norm);
243
244                 /* give arbitrary large value if projection is impossible */
245                 factor = dot_v3v3(axis, norm);
246                 if (1.0f - fabsf(factor) < 0.0002f) {
247                         copy_v3_v3(out, axis);
248                         if (factor > 0) {
249                                 mul_v3_fl(out, 1000000000.0f);
250                         }
251                         else {
252                                 mul_v3_fl(out, -1000000000.0f);
253                         }
254                 }
255                 else {
256                         add_v3_v3v3(v2, t_con_center, axis);
257                         add_v3_v3v3(v4, v, norm);
258                         
259                         isect_line_line_v3(t_con_center, v2, v, v4, i1, i2);
260                         
261                         sub_v3_v3v3(v, i2, v);
262         
263                         sub_v3_v3v3(out, i1, t_con_center);
264
265                         /* possible some values become nan when
266                          * viewpoint and object are both zero */
267                         if (!isfinite(out[0])) out[0] = 0.0f;
268                         if (!isfinite(out[1])) out[1] = 0.0f;
269                         if (!isfinite(out[2])) out[2] = 0.0f;
270                 }
271         }
272 }
273
274 /**
275  * Return true if the 2x axis are both aligned when projected into the view.
276  * In this case, we can't usefully project the cursor onto the plane.
277  */
278 static bool isPlaneProjectionViewAligned(TransInfo *t)
279 {
280         const float eps = 0.001f;
281         const float *constraint_vector[2];
282         int n = 0;
283         for (int i = 0; i < 3; i++) {
284                 if (t->con.mode & (CON_AXIS0 << i)) {
285                         constraint_vector[n++] = t->con.mtx[i];
286                         if (n == 2) {
287                                 break;
288                         }
289                 }
290         }
291         BLI_assert(n == 2);
292
293         float view_to_plane[3], plane_normal[3];
294
295         getViewVector(t, t->center_global, view_to_plane);
296
297         cross_v3_v3v3(plane_normal, constraint_vector[0], constraint_vector[1]);
298         normalize_v3(plane_normal);
299
300         float factor = dot_v3v3(plane_normal, view_to_plane);
301         return fabsf(factor) < eps;
302 }
303
304 static void planeProjection(TransInfo *t, const float in[3], float out[3])
305 {
306         float vec[3], factor, norm[3];
307
308         add_v3_v3v3(vec, in, t->center_global);
309         getViewVector(t, vec, norm);
310
311         sub_v3_v3v3(vec, out, in);
312
313         factor = dot_v3v3(vec, norm);
314         if (fabsf(factor) <= 0.001f) {
315                 return; /* prevent divide by zero */
316         }
317         factor = dot_v3v3(vec, vec) / factor;
318
319         copy_v3_v3(vec, norm);
320         mul_v3_fl(vec, factor);
321
322         add_v3_v3v3(out, in, vec);
323 }
324
325 /*
326  * Generic callback for constant spatial constraints applied to linear motion
327  *
328  * The IN vector in projected into the constrained space and then further
329  * projected along the view vector.
330  * (in perspective mode, the view vector is relative to the position on screen)
331  *
332  */
333
334 static void applyAxisConstraintVec(TransInfo *t, TransData *td, const float in[3], float out[3], float pvec[3])
335 {
336         copy_v3_v3(out, in);
337         if (!td && t->con.mode & CON_APPLY) {
338                 mul_m3_v3(t->con.pmtx, out);
339
340                 // With snap, a projection is alright, no need to correct for view alignment
341                 if (!(!ELEM(t->tsnap.mode, SCE_SNAP_MODE_INCREMENT, SCE_SNAP_MODE_GRID) && activeSnap(t))) {
342
343                         const int dims = getConstraintSpaceDimension(t);
344                         if (dims == 2) {
345                                 if (!is_zero_v3(out)) {
346                                         if (!isPlaneProjectionViewAligned(t)) {
347                                                 planeProjection(t, in, out);
348                                         }
349                                 }
350                         }
351                         else if (dims == 1) {
352                                 float c[3];
353
354                                 if (t->con.mode & CON_AXIS0) {
355                                         copy_v3_v3(c, t->con.mtx[0]);
356                                 }
357                                 else if (t->con.mode & CON_AXIS1) {
358                                         copy_v3_v3(c, t->con.mtx[1]);
359                                 }
360                                 else if (t->con.mode & CON_AXIS2) {
361                                         copy_v3_v3(c, t->con.mtx[2]);
362                                 }
363                                 axisProjection(t, c, in, out);
364                         }
365                 }
366                 postConstraintChecks(t, out, pvec);
367         }
368 }
369
370 /*
371  * Generic callback for object based spatial constraints applied to linear motion
372  *
373  * At first, the following is applied to the first data in the array
374  * The IN vector in projected into the constrained space and then further
375  * projected along the view vector.
376  * (in perspective mode, the view vector is relative to the position on screen)
377  *
378  * Further down, that vector is mapped to each data's space.
379  */
380
381 static void applyObjectConstraintVec(TransInfo *t, TransData *td, const float in[3], float out[3], float pvec[3])
382 {
383         copy_v3_v3(out, in);
384         if (t->con.mode & CON_APPLY) {
385                 if (!td) {
386                         mul_m3_v3(t->con.pmtx, out);
387
388                         const int dims = getConstraintSpaceDimension(t);
389                         if (dims == 2) {
390                                 if (!is_zero_v3(out)) {
391                                         if (!isPlaneProjectionViewAligned(t)) {
392                                                 planeProjection(t, in, out);
393                                         }
394                                 }
395                         }
396                         else if (dims == 1) {
397                                 float c[3];
398
399                                 if (t->con.mode & CON_AXIS0) {
400                                         copy_v3_v3(c, t->con.mtx[0]);
401                                 }
402                                 else if (t->con.mode & CON_AXIS1) {
403                                         copy_v3_v3(c, t->con.mtx[1]);
404                                 }
405                                 else if (t->con.mode & CON_AXIS2) {
406                                         copy_v3_v3(c, t->con.mtx[2]);
407                                 }
408                                 axisProjection(t, c, in, out);
409                         }
410                         postConstraintChecks(t, out, pvec);
411                         copy_v3_v3(out, pvec);
412                 }
413                 else {
414                         int i = 0;
415
416                         out[0] = out[1] = out[2] = 0.0f;
417                         if (t->con.mode & CON_AXIS0) {
418                                 out[0] = in[i++];
419                         }
420                         if (t->con.mode & CON_AXIS1) {
421                                 out[1] = in[i++];
422                         }
423                         if (t->con.mode & CON_AXIS2) {
424                                 out[2] = in[i++];
425                         }
426
427                         mul_m3_v3(td->axismtx, out);
428                         if (t->flag & T_EDIT) {
429                                 mul_m3_v3(t->obedit_mat, out);
430                         }
431                 }
432         }
433 }
434
435 /*
436  * Generic callback for constant spatial constraints applied to resize motion
437  */
438
439 static void applyAxisConstraintSize(TransInfo *t, TransData *td, float smat[3][3])
440 {
441         if (!td && t->con.mode & CON_APPLY) {
442                 float tmat[3][3];
443
444                 if (!(t->con.mode & CON_AXIS0)) {
445                         smat[0][0] = 1.0f;
446                 }
447                 if (!(t->con.mode & CON_AXIS1)) {
448                         smat[1][1] = 1.0f;
449                 }
450                 if (!(t->con.mode & CON_AXIS2)) {
451                         smat[2][2] = 1.0f;
452                 }
453
454                 mul_m3_m3m3(tmat, smat, t->con.imtx);
455                 mul_m3_m3m3(smat, t->con.mtx, tmat);
456         }
457 }
458
459 /*
460  * Callback for object based spatial constraints applied to resize motion
461  */
462
463 static void applyObjectConstraintSize(TransInfo *t, TransData *td, float smat[3][3])
464 {
465         if (td && t->con.mode & CON_APPLY) {
466                 float tmat[3][3];
467                 float imat[3][3];
468
469                 invert_m3_m3(imat, td->axismtx);
470
471                 if (!(t->con.mode & CON_AXIS0)) {
472                         smat[0][0] = 1.0f;
473                 }
474                 if (!(t->con.mode & CON_AXIS1)) {
475                         smat[1][1] = 1.0f;
476                 }
477                 if (!(t->con.mode & CON_AXIS2)) {
478                         smat[2][2] = 1.0f;
479                 }
480
481                 mul_m3_m3m3(tmat, smat, imat);
482                 if (t->flag & T_EDIT) {
483                         mul_m3_m3m3(smat, t->obedit_mat, smat);
484                 }
485                 mul_m3_m3m3(smat, td->axismtx, tmat);
486         }
487 }
488
489 /*
490  * Generic callback for constant spatial constraints applied to rotations
491  *
492  * The rotation axis is copied into VEC.
493  *
494  * In the case of single axis constraints, the rotation axis is directly the one constrained to.
495  * For planar constraints (2 axis), the rotation axis is the normal of the plane.
496  *
497  * The following only applies when CON_NOFLIP is not set.
498  * The vector is then modified to always point away from the screen (in global space)
499  * This insures that the rotation is always logically following the mouse.
500  * (ie: not doing counterclockwise rotations when the mouse moves clockwise).
501  */
502
503 static void applyAxisConstraintRot(TransInfo *t, TransData *td, float vec[3], float *angle)
504 {
505         if (!td && t->con.mode & CON_APPLY) {
506                 int mode = t->con.mode & (CON_AXIS0 | CON_AXIS1 | CON_AXIS2);
507
508                 switch (mode) {
509                         case CON_AXIS0:
510                         case (CON_AXIS1 | CON_AXIS2):
511                                 copy_v3_v3(vec, t->con.mtx[0]);
512                                 break;
513                         case CON_AXIS1:
514                         case (CON_AXIS0 | CON_AXIS2):
515                                 copy_v3_v3(vec, t->con.mtx[1]);
516                                 break;
517                         case CON_AXIS2:
518                         case (CON_AXIS0 | CON_AXIS1):
519                                 copy_v3_v3(vec, t->con.mtx[2]);
520                                 break;
521                 }
522                 /* don't flip axis if asked to or if num input */
523                 if (angle && (mode & CON_NOFLIP) == 0 && hasNumInput(&t->num) == 0) {
524                         if (dot_v3v3(vec, t->viewinv[2]) > 0.0f) {
525                                 *angle = -(*angle);
526                         }
527                 }
528         }
529 }
530
531 /*
532  * Callback for object based spatial constraints applied to rotations
533  *
534  * The rotation axis is copied into VEC.
535  *
536  * In the case of single axis constraints, the rotation axis is directly the one constrained to.
537  * For planar constraints (2 axis), the rotation axis is the normal of the plane.
538  *
539  * The following only applies when CON_NOFLIP is not set.
540  * The vector is then modified to always point away from the screen (in global space)
541  * This insures that the rotation is always logically following the mouse.
542  * (ie: not doing counterclockwise rotations when the mouse moves clockwise).
543  */
544
545 static void applyObjectConstraintRot(TransInfo *t, TransData *td, float vec[3], float *angle)
546 {
547         if (t->con.mode & CON_APPLY) {
548                 int mode = t->con.mode & (CON_AXIS0 | CON_AXIS1 | CON_AXIS2);
549                 float tmp_axismtx[3][3];
550                 float (*axismtx)[3];
551
552                 /* on setup call, use first object */
553                 if (td == NULL) {
554                         td = t->data;
555                 }
556
557                 if (t->flag & T_EDIT) {
558                         mul_m3_m3m3(tmp_axismtx, t->obedit_mat, td->axismtx);
559                         axismtx = tmp_axismtx;
560                 }
561                 else {
562                         axismtx = td->axismtx;
563                 }
564
565                 switch (mode) {
566                         case CON_AXIS0:
567                         case (CON_AXIS1 | CON_AXIS2):
568                                 copy_v3_v3(vec, axismtx[0]);
569                                 break;
570                         case CON_AXIS1:
571                         case (CON_AXIS0 | CON_AXIS2):
572                                 copy_v3_v3(vec, axismtx[1]);
573                                 break;
574                         case CON_AXIS2:
575                         case (CON_AXIS0 | CON_AXIS1):
576                                 copy_v3_v3(vec, axismtx[2]);
577                                 break;
578                 }
579                 if (angle && (mode & CON_NOFLIP) == 0 && hasNumInput(&t->num) == 0) {
580                         if (dot_v3v3(vec, t->viewinv[2]) > 0.0f) {
581                                 *angle = -(*angle);
582                         }
583                 }
584         }
585 }
586
587 /*--------------------- INTERNAL SETUP CALLS ------------------*/
588
589 void setConstraint(TransInfo *t, float space[3][3], int mode, const char text[])
590 {
591         BLI_strncpy(t->con.text + 1, text, sizeof(t->con.text) - 1);
592         copy_m3_m3(t->con.mtx, space);
593         t->con.mode = mode;
594         getConstraintMatrix(t);
595
596         startConstraint(t);
597
598         t->con.drawExtra = NULL;
599         t->con.applyVec = applyAxisConstraintVec;
600         t->con.applySize = applyAxisConstraintSize;
601         t->con.applyRot = applyAxisConstraintRot;
602         t->redraw = TREDRAW_HARD;
603 }
604
605 /* applies individual td->axismtx constraints */
606 void setAxisMatrixConstraint(TransInfo *t, int mode, const char text[])
607 {
608         if (t->total == 1) {
609                 float axismtx[3][3];
610                 if (t->flag & T_EDIT) {
611                         mul_m3_m3m3(axismtx, t->obedit_mat, t->data->axismtx);
612                 }
613                 else {
614                         copy_m3_m3(axismtx, t->data->axismtx);
615                 }
616
617                 setConstraint(t, axismtx, mode, text);
618         }
619         else {
620                 BLI_strncpy(t->con.text + 1, text, sizeof(t->con.text) - 1);
621                 copy_m3_m3(t->con.mtx, t->data->axismtx);
622                 t->con.mode = mode;
623                 getConstraintMatrix(t);
624
625                 startConstraint(t);
626
627                 t->con.drawExtra = drawObjectConstraint;
628                 t->con.applyVec = applyObjectConstraintVec;
629                 t->con.applySize = applyObjectConstraintSize;
630                 t->con.applyRot = applyObjectConstraintRot;
631                 t->redraw = TREDRAW_HARD;
632         }
633 }
634
635 void setLocalConstraint(TransInfo *t, int mode, const char text[])
636 {
637         /* edit-mode now allows local transforms too */
638         if (t->flag & T_EDIT) {
639                 setConstraint(t, t->obedit_mat, mode, text);
640         }
641         else {
642                 setAxisMatrixConstraint(t, mode, text);
643         }
644 }
645
646 /*
647  * Set the constraint according to the user defined orientation
648  *
649  * ftext is a format string passed to BLI_snprintf. It will add the name of
650  * the orientation where %s is (logically).
651  */
652 void setUserConstraint(TransInfo *t, short orientation, int mode, const char ftext[])
653 {
654         char text[40];
655
656         switch (orientation) {
657                 case V3D_MANIP_GLOBAL:
658                 {
659                         float mtx[3][3];
660                         BLI_snprintf(text, sizeof(text), ftext, IFACE_("global"));
661                         unit_m3(mtx);
662                         setConstraint(t, mtx, mode, text);
663                         break;
664                 }
665                 case V3D_MANIP_LOCAL:
666                         BLI_snprintf(text, sizeof(text), ftext, IFACE_("local"));
667                         setLocalConstraint(t, mode, text);
668                         break;
669                 case V3D_MANIP_NORMAL:
670                         BLI_snprintf(text, sizeof(text), ftext, IFACE_("normal"));
671                         if (checkUseAxisMatrix(t)) {
672                                 setAxisMatrixConstraint(t, mode, text);
673                         }
674                         else {
675                                 setConstraint(t, t->spacemtx, mode, text);
676                         }
677                         break;
678                 case V3D_MANIP_VIEW:
679                         BLI_snprintf(text, sizeof(text), ftext, IFACE_("view"));
680                         setConstraint(t, t->spacemtx, mode, text);
681                         break;
682                 case V3D_MANIP_GIMBAL:
683                         BLI_snprintf(text, sizeof(text), ftext, IFACE_("gimbal"));
684                         setConstraint(t, t->spacemtx, mode, text);
685                         break;
686                 default: /* V3D_MANIP_CUSTOM */
687                         BLI_snprintf(text, sizeof(text), ftext, t->spacename);
688                         setConstraint(t, t->spacemtx, mode, text);
689                         break;
690         }
691
692         t->con.orientation = orientation;
693
694         t->con.mode |= CON_USER;
695 }
696
697 /*----------------- DRAWING CONSTRAINTS -------------------*/
698
699 void drawConstraint(TransInfo *t)
700 {
701         TransCon *tc = &(t->con);
702
703         if (!ELEM(t->spacetype, SPACE_VIEW3D, SPACE_IMAGE, SPACE_NODE))
704                 return;
705         if (!(tc->mode & CON_APPLY))
706                 return;
707         if (t->flag & T_USES_MANIPULATOR)
708                 return;
709         if (t->flag & T_NO_CONSTRAINT)
710                 return;
711
712         if (tc->drawExtra) {
713                 tc->drawExtra(t);
714         }
715         else {
716                 if (tc->mode & CON_SELECT) {
717                         float vec[3];
718                         char col2[3] = {255, 255, 255};
719                         int depth_test_enabled;
720
721                         convertViewVec(t, vec, (t->mval[0] - t->con.imval[0]), (t->mval[1] - t->con.imval[1]));
722                         add_v3_v3(vec, t->center_global);
723
724                         drawLine(t, t->center_global, tc->mtx[0], 'X', 0);
725                         drawLine(t, t->center_global, tc->mtx[1], 'Y', 0);
726                         drawLine(t, t->center_global, tc->mtx[2], 'Z', 0);
727
728                         glColor3ubv((GLubyte *)col2);
729
730                         depth_test_enabled = glIsEnabled(GL_DEPTH_TEST);
731                         if (depth_test_enabled)
732                                 glDisable(GL_DEPTH_TEST);
733
734                         setlinestyle(1);
735                         glBegin(GL_LINES);
736                         glVertex3fv(t->center_global);
737                         glVertex3fv(vec);
738                         glEnd();
739                         setlinestyle(0);
740
741                         if (depth_test_enabled)
742                                 glEnable(GL_DEPTH_TEST);
743                 }
744
745                 if (tc->mode & CON_AXIS0) {
746                         drawLine(t, t->center_global, tc->mtx[0], 'X', DRAWLIGHT);
747                 }
748                 if (tc->mode & CON_AXIS1) {
749                         drawLine(t, t->center_global, tc->mtx[1], 'Y', DRAWLIGHT);
750                 }
751                 if (tc->mode & CON_AXIS2) {
752                         drawLine(t, t->center_global, tc->mtx[2], 'Z', DRAWLIGHT);
753                 }
754         }
755 }
756
757 /* called from drawview.c, as an extra per-window draw option */
758 void drawPropCircle(const struct bContext *C, TransInfo *t)
759 {
760         if (t->flag & T_PROP_EDIT) {
761                 RegionView3D *rv3d = CTX_wm_region_view3d(C);
762                 float tmat[4][4], imat[4][4];
763                 int depth_test_enabled;
764
765                 UI_ThemeColor(TH_GRID);
766
767                 if (t->spacetype == SPACE_VIEW3D && rv3d != NULL) {
768                         copy_m4_m4(tmat, rv3d->viewmat);
769                         invert_m4_m4(imat, tmat);
770                 }
771                 else {
772                         unit_m4(tmat);
773                         unit_m4(imat);
774                 }
775
776                 glPushMatrix();
777
778                 if (t->spacetype == SPACE_VIEW3D) {
779                         /* pass */
780                 }
781                 else if (t->spacetype == SPACE_IMAGE) {
782                         glScalef(1.0f / t->aspect[0], 1.0f / t->aspect[1], 1.0f);
783                 }
784                 else if (ELEM(t->spacetype, SPACE_IPO, SPACE_ACTION)) {
785                         /* only scale y */
786                         rcti *mask = &t->ar->v2d.mask;
787                         rctf *datamask = &t->ar->v2d.cur;
788                         float xsize = BLI_rctf_size_x(datamask);
789                         float ysize = BLI_rctf_size_y(datamask);
790                         float xmask = BLI_rcti_size_x(mask);
791                         float ymask = BLI_rcti_size_y(mask);
792                         glScalef(1.0f, (ysize / xsize) * (xmask / ymask), 1.0f);
793                 }
794
795                 depth_test_enabled = glIsEnabled(GL_DEPTH_TEST);
796                 if (depth_test_enabled)
797                         glDisable(GL_DEPTH_TEST);
798
799                 set_inverted_drawing(1);
800                 drawcircball(GL_LINE_LOOP, t->center_global, t->prop_size, imat);
801                 set_inverted_drawing(0);
802
803                 if (depth_test_enabled)
804                         glEnable(GL_DEPTH_TEST);
805
806                 glPopMatrix();
807         }
808 }
809
810 static void drawObjectConstraint(TransInfo *t)
811 {
812         /* Draw the first one lighter because that's the one who controls the others.
813          * Meaning the transformation is projected on that one and just copied on the others
814          * constraint space.
815          * In a nutshell, the object with light axis is controlled by the user and the others follow.
816          * Without drawing the first light, users have little clue what they are doing.
817          */
818         short options = DRAWLIGHT;
819         TransData *td = t->data;
820         int i;
821         float tmp_axismtx[3][3];
822
823         for (i = 0; i < t->total; i++, td++) {
824                 float co[3];
825                 float (*axismtx)[3];
826
827                 if (t->flag & T_PROP_EDIT) {
828                         /* we're sorted, so skip the rest */
829                         if (td->factor == 0.0f) {
830                                 break;
831                         }
832                 }
833
834                 if (t->flag & T_OBJECT) {
835                         copy_v3_v3(co, td->ob->obmat[3]);
836                         axismtx = td->axismtx;
837                 }
838                 else if (t->flag & T_EDIT) {
839                         mul_v3_m4v3(co, t->obedit->obmat, td->center);
840
841                         mul_m3_m3m3(tmp_axismtx, t->obedit_mat, td->axismtx);
842                         axismtx = tmp_axismtx;
843                 }
844                 else if (t->flag & T_POSE) {
845                         mul_v3_m4v3(co, t->poseobj->obmat, td->center);
846                         axismtx = td->axismtx;
847                 }
848                 else {
849                         copy_v3_v3(co, td->center);
850                         axismtx = td->axismtx;
851                 }
852
853                 if (t->con.mode & CON_AXIS0) {
854                         drawLine(t, co, axismtx[0], 'X', options);
855                 }
856                 if (t->con.mode & CON_AXIS1) {
857                         drawLine(t, co, axismtx[1], 'Y', options);
858                 }
859                 if (t->con.mode & CON_AXIS2) {
860                         drawLine(t, co, axismtx[2], 'Z', options);
861                 }
862                 options &= ~DRAWLIGHT;
863         }
864 }
865
866 /*--------------------- START / STOP CONSTRAINTS ---------------------- */
867
868 void startConstraint(TransInfo *t)
869 {
870         t->con.mode |= CON_APPLY;
871         *t->con.text = ' ';
872         t->num.idx_max = min_ii(getConstraintSpaceDimension(t) - 1, t->idx_max);
873 }
874
875 void stopConstraint(TransInfo *t)
876 {
877         t->con.mode &= ~(CON_APPLY | CON_SELECT);
878         *t->con.text = '\0';
879         t->num.idx_max = t->idx_max;
880 }
881
882 void getConstraintMatrix(TransInfo *t)
883 {
884         float mat[3][3];
885         invert_m3_m3(t->con.imtx, t->con.mtx);
886         unit_m3(t->con.pmtx);
887
888         if (!(t->con.mode & CON_AXIS0)) {
889                 zero_v3(t->con.pmtx[0]);
890         }
891
892         if (!(t->con.mode & CON_AXIS1)) {
893                 zero_v3(t->con.pmtx[1]);
894         }
895
896         if (!(t->con.mode & CON_AXIS2)) {
897                 zero_v3(t->con.pmtx[2]);
898         }
899
900         mul_m3_m3m3(mat, t->con.pmtx, t->con.imtx);
901         mul_m3_m3m3(t->con.pmtx, t->con.mtx, mat);
902 }
903
904 /*------------------------- MMB Select -------------------------------*/
905
906 void initSelectConstraint(TransInfo *t, float mtx[3][3])
907 {
908         copy_m3_m3(t->con.mtx, mtx);
909         t->con.mode |= CON_APPLY;
910         t->con.mode |= CON_SELECT;
911
912         setNearestAxis(t);
913         t->con.drawExtra = NULL;
914         t->con.applyVec = applyAxisConstraintVec;
915         t->con.applySize = applyAxisConstraintSize;
916         t->con.applyRot = applyAxisConstraintRot;
917 }
918
919 void selectConstraint(TransInfo *t)
920 {
921         if (t->con.mode & CON_SELECT) {
922                 setNearestAxis(t);
923                 startConstraint(t);
924         }
925 }
926
927 void postSelectConstraint(TransInfo *t)
928 {
929         if (!(t->con.mode & CON_SELECT))
930                 return;
931
932         t->con.mode &= ~CON_AXIS0;
933         t->con.mode &= ~CON_AXIS1;
934         t->con.mode &= ~CON_AXIS2;
935         t->con.mode &= ~CON_SELECT;
936
937         setNearestAxis(t);
938
939         startConstraint(t);
940         t->redraw = TREDRAW_HARD;
941 }
942
943 static void setNearestAxis2d(TransInfo *t)
944 {
945         /* no correction needed... just use whichever one is lower */
946         if (abs(t->mval[0] - t->con.imval[0]) < abs(t->mval[1] - t->con.imval[1])) {
947                 t->con.mode |= CON_AXIS1;
948                 BLI_strncpy(t->con.text, IFACE_(" along Y axis"), sizeof(t->con.text));
949         }
950         else {
951                 t->con.mode |= CON_AXIS0;
952                 BLI_strncpy(t->con.text, IFACE_(" along X axis"), sizeof(t->con.text));
953         }
954 }
955
956 static void setNearestAxis3d(TransInfo *t)
957 {
958         float zfac;
959         float mvec[3], proj[3];
960         float len[3];
961         int i;
962
963         /* calculate mouse movement */
964         mvec[0] = (float)(t->mval[0] - t->con.imval[0]);
965         mvec[1] = (float)(t->mval[1] - t->con.imval[1]);
966         mvec[2] = 0.0f;
967
968         /* we need to correct axis length for the current zoomlevel of view,
969          * this to prevent projected values to be clipped behind the camera
970          * and to overflow the short integers.
971          * The formula used is a bit stupid, just a simplification of the subtraction
972          * of two 2D points 30 pixels apart (that's the last factor in the formula) after
973          * projecting them with ED_view3d_win_to_delta and then get the length of that vector.
974          */
975         zfac = mul_project_m4_v3_zfac(t->persmat, t->center);
976         zfac = len_v3(t->persinv[0]) * 2.0f / t->ar->winx * zfac * 30.0f;
977
978         for (i = 0; i < 3; i++) {
979                 float axis[3], axis_2d[2];
980
981                 copy_v3_v3(axis, t->con.mtx[i]);
982
983                 mul_v3_fl(axis, zfac);
984                 /* now we can project to get window coordinate */
985                 add_v3_v3(axis, t->center_global);
986                 projectFloatView(t, axis, axis_2d);
987
988                 sub_v2_v2v2(axis, axis_2d, t->center2d);
989                 axis[2] = 0.0f;
990
991                 if (normalize_v3(axis) > 1e-3f) {
992                         project_v3_v3v3(proj, mvec, axis);
993                         sub_v3_v3v3(axis, mvec, proj);
994                         len[i] = normalize_v3(axis);
995                 }
996                 else {
997                         len[i] = 1e10f;
998                 }
999         }
1000
1001         if (len[0] <= len[1] && len[0] <= len[2]) {
1002                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
1003                         t->con.mode |= (CON_AXIS1 | CON_AXIS2);
1004                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" locking %s X axis"), t->spacename);
1005                 }
1006                 else {
1007                         t->con.mode |= CON_AXIS0;
1008                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" along %s X axis"), t->spacename);
1009                 }
1010         }
1011         else if (len[1] <= len[0] && len[1] <= len[2]) {
1012                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
1013                         t->con.mode |= (CON_AXIS0 | CON_AXIS2);
1014                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" locking %s Y axis"), t->spacename);
1015                 }
1016                 else {
1017                         t->con.mode |= CON_AXIS1;
1018                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" along %s Y axis"), t->spacename);
1019                 }
1020         }
1021         else if (len[2] <= len[1] && len[2] <= len[0]) {
1022                 if (t->modifiers & MOD_CONSTRAINT_PLANE) {
1023                         t->con.mode |= (CON_AXIS0 | CON_AXIS1);
1024                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" locking %s Z axis"), t->spacename);
1025                 }
1026                 else {
1027                         t->con.mode |= CON_AXIS2;
1028                         BLI_snprintf(t->con.text, sizeof(t->con.text), IFACE_(" along %s Z axis"), t->spacename);
1029                 }
1030         }
1031 }
1032
1033 void setNearestAxis(TransInfo *t)
1034 {
1035         /* clear any prior constraint flags */
1036         t->con.mode &= ~CON_AXIS0;
1037         t->con.mode &= ~CON_AXIS1;
1038         t->con.mode &= ~CON_AXIS2;
1039
1040         /* constraint setting - depends on spacetype */
1041         if (t->spacetype == SPACE_VIEW3D) {
1042                 /* 3d-view */
1043                 setNearestAxis3d(t);
1044         }
1045         else {
1046                 /* assume that this means a 2D-Editor */
1047                 setNearestAxis2d(t);
1048         }
1049
1050         getConstraintMatrix(t);
1051 }
1052
1053 /*-------------- HELPER FUNCTIONS ----------------*/
1054
1055 char constraintModeToChar(TransInfo *t)
1056 {
1057         if ((t->con.mode & CON_APPLY) == 0) {
1058                 return '\0';
1059         }
1060         switch (t->con.mode & (CON_AXIS0 | CON_AXIS1 | CON_AXIS2)) {
1061                 case (CON_AXIS0):
1062                 case (CON_AXIS1 | CON_AXIS2):
1063                         return 'X';
1064                 case (CON_AXIS1):
1065                 case (CON_AXIS0 | CON_AXIS2):
1066                         return 'Y';
1067                 case (CON_AXIS2):
1068                 case (CON_AXIS0 | CON_AXIS1):
1069                         return 'Z';
1070                 default:
1071                         return '\0';
1072         }
1073 }
1074
1075
1076 bool isLockConstraint(TransInfo *t)
1077 {
1078         int mode = t->con.mode;
1079
1080         if ((mode & (CON_AXIS0 | CON_AXIS1)) == (CON_AXIS0 | CON_AXIS1))
1081                 return true;
1082
1083         if ((mode & (CON_AXIS1 | CON_AXIS2)) == (CON_AXIS1 | CON_AXIS2))
1084                 return true;
1085
1086         if ((mode & (CON_AXIS0 | CON_AXIS2)) == (CON_AXIS0 | CON_AXIS2))
1087                 return true;
1088
1089         return false;
1090 }
1091
1092 /*
1093  * Returns the dimension of the constraint space.
1094  *
1095  * For that reason, the flags always needs to be set to properly evaluate here,
1096  * even if they aren't actually used in the callback function. (Which could happen
1097  * for weird constraints not yet designed. Along a path for example.)
1098  */
1099
1100 int getConstraintSpaceDimension(TransInfo *t)
1101 {
1102         int n = 0;
1103
1104         if (t->con.mode & CON_AXIS0)
1105                 n++;
1106
1107         if (t->con.mode & CON_AXIS1)
1108                 n++;
1109
1110         if (t->con.mode & CON_AXIS2)
1111                 n++;
1112
1113         return n;
1114 /*
1115  * Someone willing to do it cryptically could do the following instead:
1116  *
1117  * return t->con & (CON_AXIS0|CON_AXIS1|CON_AXIS2);
1118  *
1119  * Based on the assumptions that the axis flags are one after the other and start at 1
1120  */
1121 }