Fixed Constraint projection code in perspective mode. When using a planar constraints...
[blender.git] / source / blender / src / transform_constraints.c
1 /**
2  * $Id$
3  *
4  * ***** BEGIN GPL/BL DUAL LICENSE BLOCK *****
5  *
6  * This program is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU General Public License
8  * as published by the Free Software Foundation; either version 2
9  * of the License, or (at your option) any later version. The Blender
10  * Foundation also sells licenses for use in proprietary software under
11  * the Blender License.  See http://www.blender.org/BL/ for information
12  * about this.
13  *
14  * This program is distributed in the hope that it will be useful,
15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
17  * GNU General Public License for more details.
18  *
19  * You should have received a copy of the GNU General Public License
20  * along with this program; if not, write to the Free Software Foundation,
21  * Inc., 59 Temple Place - Suite 330, Boston, MA  02111-1307, USA.
22  *
23  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
24  * All rights reserved.
25  *
26  * The Original Code is: all of this file.
27  *
28  * Contributor(s): none yet.
29  *
30  * ***** END GPL/BL DUAL LICENSE BLOCK *****
31  */
32
33 #include <stdlib.h>
34 #include <string.h>
35 #include <math.h>
36
37 #ifdef HAVE_CONFIG_H
38 #include <config.h>
39 #endif
40
41 #ifndef WIN32
42 #include <unistd.h>
43 #else
44 #include <io.h>
45 #include "BLI_winstuff.h"
46 #endif
47
48 #include "MEM_guardedalloc.h"
49
50 #include "DNA_action_types.h"
51 #include "DNA_armature_types.h"
52 #include "DNA_camera_types.h"
53 #include "DNA_curve_types.h"
54 #include "DNA_effect_types.h"
55 #include "DNA_ika_types.h"
56 #include "DNA_image_types.h"
57 #include "DNA_ipo_types.h"
58 #include "DNA_key_types.h"
59 #include "DNA_lamp_types.h"
60 #include "DNA_lattice_types.h"
61 #include "DNA_mesh_types.h"
62 #include "DNA_meshdata_types.h"
63 #include "DNA_meta_types.h"
64 #include "DNA_object_types.h"
65 #include "DNA_scene_types.h"
66 #include "DNA_screen_types.h"
67 #include "DNA_texture_types.h"
68 #include "DNA_view3d_types.h"
69 #include "DNA_world_types.h"
70 #include "DNA_userdef_types.h"
71 #include "DNA_property_types.h"
72 #include "DNA_vfont_types.h"
73 #include "DNA_constraint_types.h"
74
75 #include "BIF_screen.h"
76 #include "BIF_space.h"
77 #include "BIF_editview.h"
78 #include "BIF_resources.h"
79 #include "BIF_mywindow.h"
80 #include "BIF_gl.h"
81 #include "BIF_editlattice.h"
82 #include "BIF_editarmature.h"
83 #include "BIF_editmesh.h"
84
85 #include "BKE_global.h"
86 #include "BKE_object.h"
87 #include "BKE_utildefines.h"
88 #include "BKE_lattice.h"
89 #include "BKE_armature.h"
90 #include "BKE_curve.h"
91 #include "BKE_displist.h"
92
93 #include "BSE_view.h"
94 #include "BSE_edit.h"
95
96 #include "BLI_arithb.h"
97 #include "BLI_editVert.h"
98
99 #include "BDR_drawobject.h"
100
101 #include "blendef.h"
102
103 #include "mydevice.h"
104
105 #include "transform.h"
106 #include "transform_constraints.h"
107 #include "transform_generics.h"
108
109 extern ListBase editNurb;
110 extern ListBase editelems;
111
112 void recalcData();
113
114 /* ************************** CONSTRAINTS ************************* */
115 void getConstraintMatrix(TransInfo *t);
116
117 void getViewVector(TransInfo *t, float coord[3], float vec[3]) {
118         if (G.vd->persp)
119         {
120                 float p1[4], p2[4];
121
122                 VecAddf(p1, coord, t->con.center);
123                 p1[3] = 1.0f;
124                 VECCOPY(p2, p1);
125                 p2[3] = 1.0f;
126                 Mat4MulVec4fl(G.vd->viewmat, p2);
127
128                 p2[0] = 2.0f * p2[0];
129                 p2[1] = 2.0f * p2[1];
130                 p2[2] = 2.0f * p2[2];
131
132                 Mat4MulVec4fl(G.vd->viewinv, p2);
133
134                 VecSubf(vec, p2, p1);
135                 Normalise(vec);
136         }
137         else {
138                 VECCOPY(vec, G.vd->viewinv[2]);
139         }
140 }
141
142 void axisProjection(TransInfo *t, float axis[3], float in[3], float out[3]) {
143         float norm[3], n[3], vec[3], factor;
144
145         getViewVector(t, in, norm);
146
147         Normalise(axis);
148
149         VECCOPY(n, axis);
150         Mat4MulVecfl(G.vd->viewmat, n);
151         n[2] = G.vd->viewmat[3][2];
152         Mat4MulVecfl(G.vd->viewinv, n);
153
154         if (Inpf(axis, norm) != 1.0f) {
155                 Projf(vec, in, n);
156                 factor = Normalise(vec);
157                 factor /= Inpf(axis, vec);
158
159                 VecMulf(axis, factor);
160                 VECCOPY(out, axis);
161         }
162         else {
163                 out[0] = out[1] = out[2] = 0.0f;
164         }
165 }
166
167 void planeProjection(TransInfo *t, float in[3], float out[3]) {
168         float vec[3], factor, angle, norm[3];
169
170         getViewVector(t, in, norm);
171
172         VecSubf(vec, out, in);
173         factor = Normalise(vec);
174         angle = Inpf(vec, norm);
175
176
177         if (angle * angle >= 0.000001f) {
178                 factor /= angle;
179
180                 VECCOPY(vec, norm);
181                 VecMulf(vec, factor);
182
183                 VecAddf(out, in, vec);
184         }
185 }
186
187 void applyAxisConstraintVec(TransInfo *t, TransData *td, float in[3], float out[3])
188 {
189         VECCOPY(out, in);
190         if (!td && t->con.mode & APPLYCON) {
191                 Mat3MulVecfl(t->con.imtx, out);
192                 if (!(out[0] == out[1] == out[2] == 0.0f)) {
193                         if (getConstraintSpaceDimension(t) == 2) {
194                                 planeProjection(t, in, out);
195                         }
196                         else if (getConstraintSpaceDimension(t) == 1) {
197                                 float c[3];
198
199                                 if (t->con.mode & CONAXIS0) {
200                                         VECCOPY(c, t->con.mtx[0]);
201                                 }
202                                 else if (t->con.mode & CONAXIS1) {
203                                         VECCOPY(c, t->con.mtx[1]);
204                                 }
205                                 else if (t->con.mode & CONAXIS2) {
206                                         VECCOPY(c, t->con.mtx[2]);
207                                 }
208                                 axisProjection(t, c, in, out);
209                         }
210                 }
211                 
212                 /* THIS IS NO GOOD, only works with global axis constraint */
213                 if (t->num.flags & NULLONE && !(t->con.mode & CONAXIS0))
214                         out[0] = 1.0f;
215
216                 if (t->num.flags & NULLONE && !(t->con.mode & CONAXIS1))
217                         out[1] = 1.0f;
218
219                 if (t->num.flags & NULLONE && !(t->con.mode & CONAXIS2))
220                         out[2] = 1.0f;
221         }
222 }
223
224 /*
225  * Generic callback for constant spacial constraints applied to rotations
226  * 
227  * The rotation axis is copied into VEC.
228  *
229  * In the case of single axis constraints, the rotation axis is directly the one constrained to.
230  * For planar constraints (2 axis), the rotation axis is the normal of the plane.
231  *
232  * The vector is then modified to always point away from the screen (in global space)
233  * This insures that the rotation is always logically following the mouse.
234  * (ie: not doing counterclockwise rotations when the mouse moves clockwise).
235  */
236
237 void applyAxisConstraintRot(TransInfo *t, TransData *td, float vec[3])
238 {
239         if (!td && t->con.mode & APPLYCON) {
240                 int mode = t->con.mode & (CONAXIS0|CONAXIS1|CONAXIS2);
241
242                 switch(mode) {
243                 case CONAXIS0:
244                 case (CONAXIS1|CONAXIS2):
245                         VECCOPY(vec, t->con.mtx[0]);
246                         break;
247                 case CONAXIS1:
248                 case (CONAXIS0|CONAXIS2):
249                         VECCOPY(vec, t->con.mtx[1]);
250                         break;
251                 case CONAXIS2:
252                 case (CONAXIS0|CONAXIS1):
253                         VECCOPY(vec, t->con.mtx[2]);
254                         break;
255                 }
256                 if (Inpf(vec, G.vd->viewinv[2]) > 0.0f) {
257                         VecMulf(vec, -1.0f);
258                 }
259         }
260 }
261
262 /*
263  * Returns the dimension of the constraint space.
264  * 
265  * For that reason, the flags always needs to be set to properly evaluate here,
266  * even if they aren't actually used in the callback function. (Which could happen
267  * for weird constraints not yet designed. Along a path for example.)
268  */
269
270 int getConstraintSpaceDimension(TransInfo *t)
271 {
272         int n = 0;
273
274         if (t->con.mode & CONAXIS0)
275                 n++;
276
277         if (t->con.mode & CONAXIS1)
278                 n++;
279
280         if (t->con.mode & CONAXIS2)
281                 n++;
282
283         return n;
284 }
285
286 void BIF_setSingleAxisConstraint(float vec[3]) {
287         TransInfo *t = BIF_GetTransInfo();
288         float space[3][3], v[3];
289         VECCOPY(space[0], vec);
290
291         v[0] = vec[2];
292         v[1] = vec[0];
293         v[2] = vec[1];
294
295         Crossf(space[1], vec, v);
296         Crossf(space[2], vec, space[1]);
297
298         Mat3CpyMat3(t->con.mtx, space);
299         t->con.mode = (CONAXIS0|APPLYCON);
300         getConstraintMatrix(t);
301
302         VECCOPY(t->con.center, t->center);
303         if (G.obedit) {
304                 Mat4MulVecfl(G.obedit->obmat, t->con.center);
305         }
306
307         t->con.applyVec = applyAxisConstraintVec;
308         t->con.applyRot = applyAxisConstraintRot;
309         t->redraw = 1;
310 }
311
312 void setConstraint(TransInfo *t, float space[3][3], int mode) {
313         Mat3CpyMat3(t->con.mtx, space);
314         t->con.mode = mode;
315         getConstraintMatrix(t);
316
317         VECCOPY(t->con.center, t->center);
318         if (G.obedit) {
319                 Mat4MulVecfl(G.obedit->obmat, t->con.center);
320         }
321
322         t->con.applyVec = applyAxisConstraintVec;
323         t->con.applyRot = applyAxisConstraintRot;
324         t->redraw = 1;
325 }
326
327 void BIF_drawConstraint()
328 {
329         int i = -1;
330         TransInfo *t = BIF_GetTransInfo();
331         TransCon *tc = &(t->con);
332
333         if (tc->mode == 0)
334                 return;
335
336         if (!(tc->mode & APPLYCON)) {
337                 i = nearestAxisIndex(t);
338         }
339
340         if (tc->mode & CONAXIS0) {
341                 if (i == 0)
342                         drawLine(tc->center, tc->mtx[0], 255 - 'x');
343                 else
344                         drawLine(tc->center, tc->mtx[0], 'x');
345         }
346         if (tc->mode & CONAXIS1) {
347                 if (i == 1)
348                         drawLine(tc->center, tc->mtx[1], 255 - 'y');
349                 else
350                         drawLine(tc->center, tc->mtx[1], 'y');
351         }
352         if (tc->mode & CONAXIS2) {
353                 if (i == 2)
354                         drawLine(tc->center, tc->mtx[2], 255 - 'z');
355                 else
356                         drawLine(tc->center, tc->mtx[2], 'z');
357         }
358
359 }
360
361 /* called from drawview.c, as an extra per-window draw option */
362 void BIF_drawPropCircle()
363 {
364         TransInfo *t = BIF_GetTransInfo();
365
366         if (G.f & G_PROPORTIONAL) {
367                 float tmat[4][4], imat[4][4];
368
369                 BIF_ThemeColor(TH_GRID);
370                 
371                 /* if editmode we need to go into object space */
372                 if(G.obedit) mymultmatrix(G.obedit->obmat);
373                 
374                 mygetmatrix(tmat);
375                 Mat4Invert(imat, tmat);
376                 
377                 drawcircball(t->center, t->propsize, imat);
378                 
379                 /* if editmode we restore */
380                 if(G.obedit) myloadmatrix(G.vd->viewmat);
381         }
382 }
383
384 void getConstraintMatrix(TransInfo *t)
385 {
386         Mat3Inv(t->con.imtx, t->con.mtx);
387
388         if (!(t->con.mode & CONAXIS0)) {
389                 t->con.imtx[0][0]               =
390                         t->con.imtx[0][1]       =
391                         t->con.imtx[0][2]       = 0.0f;
392         }
393
394         if (!(t->con.mode & CONAXIS1)) {
395                 t->con.imtx[1][0]               =
396                         t->con.imtx[1][1]       =
397                         t->con.imtx[1][2]       = 0.0f;
398         }
399
400         if (!(t->con.mode & CONAXIS2)) {
401                 t->con.imtx[2][0]               =
402                         t->con.imtx[2][1]       =
403                         t->con.imtx[2][2]       = 0.0f;
404         }
405 }
406
407 void selectConstraint(TransInfo *t)
408 {
409         Mat3One(t->con.mtx);
410         Mat3One(t->con.imtx);
411         t->con.mode |= CONAXIS0;
412         t->con.mode |= CONAXIS1;
413         t->con.mode |= CONAXIS2;
414         t->con.mode &= ~APPLYCON;
415         VECCOPY(t->con.center, t->center);
416         if (G.obedit) {
417                 Mat4MulVecfl(G.obedit->obmat, t->con.center);
418         }
419 }
420
421 int nearestAxisIndex(TransInfo *t)
422 {
423         short coord[2];
424         float mvec[3], axis[3], center[3], proj[3];
425         float len[3];
426         int i;
427
428         VECCOPY(center, t->center);
429         if (G.obedit) {
430                 Mat4MulVecfl(G.obedit->obmat, center);
431         }
432
433         getmouseco_areawin(coord);
434         mvec[0] = (float)(coord[0] - t->center2d[0]);
435         mvec[1] = (float)(coord[1] - t->center2d[1]);
436         mvec[2] = 0.0f;
437
438         for (i = 0; i<3; i++) {
439                 VECCOPY(axis, t->con.mtx[i]);
440                 VecAddf(axis, axis, center);
441                 project_short_noclip(axis, coord);
442                 axis[0] = (float)(coord[0] - t->center2d[0]);
443                 axis[1] = (float)(coord[1] - t->center2d[1]);
444                 axis[2] = 0.0f;
445
446                 if (Normalise(axis) != 0.0f) {
447                         Projf(proj, mvec, axis);
448                         VecSubf(axis, mvec, proj);
449                         len[i] = Normalise(axis);
450                 }
451                 else {
452                         len[i] = 10000000000.0f;
453                 }
454         }
455
456         if (len[0] < len[1] && len[0] < len[2]) {
457                 return 0;
458         }
459         else if (len[1] < len[0] && len[1] < len[2]) {
460                 return 1;
461         }
462         else if (len[2] < len[1] && len[2] < len[0]) {
463                 return 2;
464         }
465         return -1;
466 }
467
468 void chooseConstraint(TransInfo *t)
469 {
470         t->con.mode &= ~CONAXIS0;
471         t->con.mode &= ~CONAXIS1;
472         t->con.mode &= ~CONAXIS2;
473
474         switch(nearestAxisIndex(t)) {
475         case 0:
476                 t->con.mode |= CONAXIS0;
477                 break;
478         case 1:
479                 t->con.mode |= CONAXIS1;
480                 break;
481         case 2:
482                 t->con.mode |= CONAXIS2;
483                 break;
484         }
485
486         t->con.mode |= APPLYCON;
487         VECCOPY(t->con.center, t->center);
488
489         getConstraintMatrix(t);
490         t->con.applyVec = applyAxisConstraintVec;
491         t->con.applyRot = applyAxisConstraintRot;
492         t->redraw = 1;
493 }