Fix for invalid custom data checks in armature and lattice functions.
[blender.git] / source / blender / blenkernel / intern / lattice.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/lattice.c
29  *  \ingroup bke
30  */
31
32 #include <stdio.h>
33 #include <string.h>
34 #include <math.h>
35 #include <stdlib.h>
36
37 #include "MEM_guardedalloc.h"
38
39 #include "BLI_utildefines.h"
40 #include "BLI_listbase.h"
41 #include "BLI_bitmap.h"
42 #include "BLI_math.h"
43
44 #include "DNA_mesh_types.h"
45 #include "DNA_meshdata_types.h"
46 #include "DNA_scene_types.h"
47 #include "DNA_object_types.h"
48 #include "DNA_lattice_types.h"
49 #include "DNA_curve_types.h"
50 #include "DNA_key_types.h"
51
52 #include "BKE_animsys.h"
53 #include "BKE_anim.h"
54 #include "BKE_cdderivedmesh.h"
55 #include "BKE_curve.h"
56 #include "BKE_displist.h"
57 #include "BKE_global.h"
58 #include "BKE_key.h"
59 #include "BKE_lattice.h"
60 #include "BKE_library.h"
61 #include "BKE_main.h"
62 #include "BKE_mesh.h"
63 #include "BKE_modifier.h"
64
65 #include "BKE_deform.h"
66
67 /* Workaround for cyclic depenndnecy with curves.
68  * In such case curve_cache might not be ready yet,
69  */
70 #define CYCLIC_DEPENDENCY_WORKAROUND
71
72 int BKE_lattice_index_from_uvw(Lattice *lt,
73                                const int u, const int v, const int w)
74 {
75         const int totu = lt->pntsu;
76         const int totv = lt->pntsv;
77
78         return (w * (totu * totv) + (v * totu) + u);
79 }
80
81 void BKE_lattice_index_to_uvw(Lattice *lt, const int index,
82                               int *r_u, int *r_v, int *r_w)
83 {
84         const int totu = lt->pntsu;
85         const int totv = lt->pntsv;
86
87         *r_u = (index % totu);
88         *r_v = (index / totu) % totv;
89         *r_w = (index / (totu * totv));
90 }
91
92 int BKE_lattice_index_flip(Lattice *lt, const int index,
93                            const bool flip_u, const bool flip_v, const bool flip_w)
94 {
95         int u, v, w;
96
97         BKE_lattice_index_to_uvw(lt, index, &u, &v, &w);
98
99         if (flip_u) {
100                 u = (lt->pntsu - 1) - u;
101         }
102
103         if (flip_v) {
104                 v = (lt->pntsv - 1) - v;
105         }
106
107         if (flip_w) {
108                 w = (lt->pntsw - 1) - w;
109         }
110
111         return BKE_lattice_index_from_uvw(lt, u, v, w);
112 }
113
114 void BKE_lattice_bitmap_from_flag(Lattice *lt, BLI_bitmap *bitmap, const short flag,
115                                   const bool clear, const bool respecthide)
116 {
117         const unsigned int tot = lt->pntsu * lt->pntsv * lt->pntsw;
118         unsigned int i;
119         BPoint *bp;
120
121         bp = lt->def;
122         for (i = 0; i < tot; i++, bp++) {
123                 if ((bp->f1 & flag) && (!respecthide || !bp->hide)) {
124                         BLI_BITMAP_SET(bitmap, i);
125                 }
126                 else {
127                         if (clear) {
128                                 BLI_BITMAP_CLEAR(bitmap, i);
129                         }
130                 }
131         }
132
133 }
134
135 void calc_lat_fudu(int flag, int res, float *r_fu, float *r_du)
136 {
137         if (res == 1) {
138                 *r_fu = 0.0;
139                 *r_du = 0.0;
140         }
141         else if (flag & LT_GRID) {
142                 *r_fu = -0.5f * (res - 1);
143                 *r_du = 1.0f;
144         }
145         else {
146                 *r_fu = -1.0f;
147                 *r_du = 2.0f / (res - 1);
148         }
149 }
150
151 void BKE_lattice_resize(Lattice *lt, int uNew, int vNew, int wNew, Object *ltOb)
152 {
153         BPoint *bp;
154         int i, u, v, w;
155         float fu, fv, fw, uc, vc, wc, du = 0.0, dv = 0.0, dw = 0.0;
156         float *co, (*vertexCos)[3] = NULL;
157         
158         /* vertex weight groups are just freed all for now */
159         if (lt->dvert) {
160                 BKE_defvert_array_free(lt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
161                 lt->dvert = NULL;
162         }
163         
164         while (uNew * vNew * wNew > 32000) {
165                 if (uNew >= vNew && uNew >= wNew) uNew--;
166                 else if (vNew >= uNew && vNew >= wNew) vNew--;
167                 else wNew--;
168         }
169
170         vertexCos = MEM_mallocN(sizeof(*vertexCos) * uNew * vNew * wNew, "tmp_vcos");
171
172         calc_lat_fudu(lt->flag, uNew, &fu, &du);
173         calc_lat_fudu(lt->flag, vNew, &fv, &dv);
174         calc_lat_fudu(lt->flag, wNew, &fw, &dw);
175
176         /* If old size is different then resolution changed in interface,
177          * try to do clever reinit of points. Pretty simply idea, we just
178          * deform new verts by old lattice, but scaling them to match old
179          * size first.
180          */
181         if (ltOb) {
182                 if (uNew != 1 && lt->pntsu != 1) {
183                         fu = lt->fu;
184                         du = (lt->pntsu - 1) * lt->du / (uNew - 1);
185                 }
186
187                 if (vNew != 1 && lt->pntsv != 1) {
188                         fv = lt->fv;
189                         dv = (lt->pntsv - 1) * lt->dv / (vNew - 1);
190                 }
191
192                 if (wNew != 1 && lt->pntsw != 1) {
193                         fw = lt->fw;
194                         dw = (lt->pntsw - 1) * lt->dw / (wNew - 1);
195                 }
196         }
197
198         co = vertexCos[0];
199         for (w = 0, wc = fw; w < wNew; w++, wc += dw) {
200                 for (v = 0, vc = fv; v < vNew; v++, vc += dv) {
201                         for (u = 0, uc = fu; u < uNew; u++, co += 3, uc += du) {
202                                 co[0] = uc;
203                                 co[1] = vc;
204                                 co[2] = wc;
205                         }
206                 }
207         }
208         
209         if (ltOb) {
210                 float mat[4][4];
211                 int typeu = lt->typeu, typev = lt->typev, typew = lt->typew;
212
213                 /* works best if we force to linear type (endpoints match) */
214                 lt->typeu = lt->typev = lt->typew = KEY_LINEAR;
215
216                 /* prevent using deformed locations */
217                 BKE_displist_free(&ltOb->curve_cache->disp);
218
219                 copy_m4_m4(mat, ltOb->obmat);
220                 unit_m4(ltOb->obmat);
221                 lattice_deform_verts(ltOb, NULL, NULL, vertexCos, uNew * vNew * wNew, NULL, 1.0f);
222                 copy_m4_m4(ltOb->obmat, mat);
223
224                 lt->typeu = typeu;
225                 lt->typev = typev;
226                 lt->typew = typew;
227         }
228
229         lt->fu = fu;
230         lt->fv = fv;
231         lt->fw = fw;
232         lt->du = du;
233         lt->dv = dv;
234         lt->dw = dw;
235
236         lt->pntsu = uNew;
237         lt->pntsv = vNew;
238         lt->pntsw = wNew;
239
240         lt->actbp = LT_ACTBP_NONE;
241         MEM_freeN(lt->def);
242         lt->def = MEM_callocN(lt->pntsu * lt->pntsv * lt->pntsw * sizeof(BPoint), "lattice bp");
243         
244         bp = lt->def;
245         
246         for (i = 0; i < lt->pntsu * lt->pntsv * lt->pntsw; i++, bp++) {
247                 copy_v3_v3(bp->vec, vertexCos[i]);
248         }
249
250         MEM_freeN(vertexCos);
251 }
252
253 Lattice *BKE_lattice_add(Main *bmain, const char *name)
254 {
255         Lattice *lt;
256         
257         lt = BKE_libblock_alloc(bmain, ID_LT, name);
258         
259         lt->flag = LT_GRID;
260         
261         lt->typeu = lt->typev = lt->typew = KEY_BSPLINE;
262         
263         lt->def = MEM_callocN(sizeof(BPoint), "lattvert"); /* temporary */
264         BKE_lattice_resize(lt, 2, 2, 2, NULL);  /* creates a uniform lattice */
265         lt->actbp = LT_ACTBP_NONE;
266                 
267         return lt;
268 }
269
270 Lattice *BKE_lattice_copy(Lattice *lt)
271 {
272         Lattice *ltn;
273
274         ltn = BKE_libblock_copy(&lt->id);
275         ltn->def = MEM_dupallocN(lt->def);
276
277         ltn->key = BKE_key_copy(ltn->key);
278         if (ltn->key) ltn->key->from = (ID *)ltn;
279         
280         if (lt->dvert) {
281                 int tot = lt->pntsu * lt->pntsv * lt->pntsw;
282                 ltn->dvert = MEM_mallocN(sizeof(MDeformVert) * tot, "Lattice MDeformVert");
283                 BKE_defvert_array_copy(ltn->dvert, lt->dvert, tot);
284         }
285
286         ltn->editlatt = NULL;
287
288         return ltn;
289 }
290
291 void BKE_lattice_free(Lattice *lt)
292 {
293         if (lt->def) MEM_freeN(lt->def);
294         if (lt->dvert) BKE_defvert_array_free(lt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
295         if (lt->editlatt) {
296                 Lattice *editlt = lt->editlatt->latt;
297
298                 if (editlt->def) MEM_freeN(editlt->def);
299                 if (editlt->dvert) BKE_defvert_array_free(editlt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
300
301                 MEM_freeN(editlt);
302                 MEM_freeN(lt->editlatt);
303         }
304         
305         /* free animation data */
306         if (lt->adt) {
307                 BKE_free_animdata(&lt->id);
308                 lt->adt = NULL;
309         }
310 }
311
312
313 void BKE_lattice_make_local(Lattice *lt)
314 {
315         Main *bmain = G.main;
316         Object *ob;
317         int is_local = FALSE, is_lib = FALSE;
318
319         /* - only lib users: do nothing
320          * - only local users: set flag
321          * - mixed: make copy
322          */
323         
324         if (lt->id.lib == NULL) return;
325         if (lt->id.us == 1) {
326                 id_clear_lib_data(bmain, &lt->id);
327                 return;
328         }
329         
330         for (ob = bmain->object.first; ob && ELEM(FALSE, is_lib, is_local); ob = ob->id.next) {
331                 if (ob->data == lt) {
332                         if (ob->id.lib) is_lib = TRUE;
333                         else is_local = TRUE;
334                 }
335         }
336         
337         if (is_local && is_lib == FALSE) {
338                 id_clear_lib_data(bmain, &lt->id);
339         }
340         else if (is_local && is_lib) {
341                 Lattice *lt_new = BKE_lattice_copy(lt);
342                 lt_new->id.us = 0;
343
344                 /* Remap paths of new ID using old library as base. */
345                 BKE_id_lib_local_paths(bmain, lt->id.lib, &lt_new->id);
346
347                 for (ob = bmain->object.first; ob; ob = ob->id.next) {
348                         if (ob->data == lt) {
349                                 if (ob->id.lib == NULL) {
350                                         ob->data = lt_new;
351                                         lt_new->id.us++;
352                                         lt->id.us--;
353                                 }
354                         }
355                 }
356         }
357 }
358
359 typedef struct LatticeDeformData {
360         Object *object;
361         float *latticedata;
362         float latmat[4][4];
363 } LatticeDeformData;
364
365 LatticeDeformData *init_latt_deform(Object *oblatt, Object *ob)
366 {
367         /* we make an array with all differences */
368         Lattice *lt = oblatt->data;
369         BPoint *bp;
370         DispList *dl = oblatt->curve_cache ? BKE_displist_find(&oblatt->curve_cache->disp, DL_VERTS) : NULL;
371         float *co = dl ? dl->verts : NULL;
372         float *fp, imat[4][4];
373         float fu, fv, fw;
374         int u, v, w;
375         float *latticedata;
376         float latmat[4][4];
377         LatticeDeformData *lattice_deform_data;
378
379         if (lt->editlatt) lt = lt->editlatt->latt;
380         bp = lt->def;
381         
382         fp = latticedata = MEM_mallocN(sizeof(float) * 3 * lt->pntsu * lt->pntsv * lt->pntsw, "latticedata");
383         
384         /* for example with a particle system: (ob == NULL) */
385         if (ob == NULL) {
386                 /* in deformspace, calc matrix  */
387                 invert_m4_m4(latmat, oblatt->obmat);
388         
389                 /* back: put in deform array */
390                 invert_m4_m4(imat, latmat);
391         }
392         else {
393                 /* in deformspace, calc matrix */
394                 invert_m4_m4(imat, oblatt->obmat);
395                 mul_m4_m4m4(latmat, imat, ob->obmat);
396         
397                 /* back: put in deform array */
398                 invert_m4_m4(imat, latmat);
399         }
400         
401         for (w = 0, fw = lt->fw; w < lt->pntsw; w++, fw += lt->dw) {
402                 for (v = 0, fv = lt->fv; v < lt->pntsv; v++, fv += lt->dv) {
403                         for (u = 0, fu = lt->fu; u < lt->pntsu; u++, bp++, co += 3, fp += 3, fu += lt->du) {
404                                 if (dl) {
405                                         fp[0] = co[0] - fu;
406                                         fp[1] = co[1] - fv;
407                                         fp[2] = co[2] - fw;
408                                 }
409                                 else {
410                                         fp[0] = bp->vec[0] - fu;
411                                         fp[1] = bp->vec[1] - fv;
412                                         fp[2] = bp->vec[2] - fw;
413                                 }
414
415                                 mul_mat3_m4_v3(imat, fp);
416                         }
417                 }
418         }
419
420         lattice_deform_data = MEM_mallocN(sizeof(LatticeDeformData), "Lattice Deform Data");
421         lattice_deform_data->latticedata = latticedata;
422         lattice_deform_data->object = oblatt;
423         copy_m4_m4(lattice_deform_data->latmat, latmat);
424
425         return lattice_deform_data;
426 }
427
428 void calc_latt_deform(LatticeDeformData *lattice_deform_data, float co[3], float weight)
429 {
430         Object *ob = lattice_deform_data->object;
431         Lattice *lt = ob->data;
432         float u, v, w, tu[4], tv[4], tw[4];
433         float vec[3];
434         int idx_w, idx_v, idx_u;
435         int ui, vi, wi, uu, vv, ww;
436
437         /* vgroup influence */
438         int defgrp_index = -1;
439         float co_prev[3], weight_blend = 0.0f;
440         MDeformVert *dvert = BKE_lattice_deform_verts_get(ob);
441
442
443         if (lt->editlatt) lt = lt->editlatt->latt;
444         if (lattice_deform_data->latticedata == NULL) return;
445
446         if (lt->vgroup[0] && dvert) {
447                 defgrp_index = defgroup_name_index(ob, lt->vgroup);
448                 copy_v3_v3(co_prev, co);
449         }
450
451         /* co is in local coords, treat with latmat */
452         mul_v3_m4v3(vec, lattice_deform_data->latmat, co);
453
454         /* u v w coords */
455
456         if (lt->pntsu > 1) {
457                 u = (vec[0] - lt->fu) / lt->du;
458                 ui = (int)floor(u);
459                 u -= ui;
460                 key_curve_position_weights(u, tu, lt->typeu);
461         }
462         else {
463                 tu[0] = tu[2] = tu[3] = 0.0; tu[1] = 1.0;
464                 ui = 0;
465         }
466
467         if (lt->pntsv > 1) {
468                 v = (vec[1] - lt->fv) / lt->dv;
469                 vi = (int)floor(v);
470                 v -= vi;
471                 key_curve_position_weights(v, tv, lt->typev);
472         }
473         else {
474                 tv[0] = tv[2] = tv[3] = 0.0; tv[1] = 1.0;
475                 vi = 0;
476         }
477
478         if (lt->pntsw > 1) {
479                 w = (vec[2] - lt->fw) / lt->dw;
480                 wi = (int)floor(w);
481                 w -= wi;
482                 key_curve_position_weights(w, tw, lt->typew);
483         }
484         else {
485                 tw[0] = tw[2] = tw[3] = 0.0; tw[1] = 1.0;
486                 wi = 0;
487         }
488
489         for (ww = wi - 1; ww <= wi + 2; ww++) {
490                 w = tw[ww - wi + 1];
491
492                 if (w != 0.0f) {
493                         if (ww > 0) {
494                                 if (ww < lt->pntsw) idx_w = ww * lt->pntsu * lt->pntsv;
495                                 else                idx_w = (lt->pntsw - 1) * lt->pntsu * lt->pntsv;
496                         }
497                         else {
498                                 idx_w = 0;
499                         }
500
501                         for (vv = vi - 1; vv <= vi + 2; vv++) {
502                                 v = w * tv[vv - vi + 1];
503
504                                 if (v != 0.0f) {
505                                         if (vv > 0) {
506                                                 if (vv < lt->pntsv) idx_v = idx_w + vv * lt->pntsu;
507                                                 else                idx_v = idx_w + (lt->pntsv - 1) * lt->pntsu;
508                                         }
509                                         else {
510                                                 idx_v = idx_w;
511                                         }
512
513                                         for (uu = ui - 1; uu <= ui + 2; uu++) {
514                                                 u = weight * v * tu[uu - ui + 1];
515
516                                                 if (u != 0.0f) {
517                                                         if (uu > 0) {
518                                                                 if (uu < lt->pntsu) idx_u = idx_v + uu;
519                                                                 else                idx_u = idx_v + (lt->pntsu - 1);
520                                                         }
521                                                         else {
522                                                                 idx_u = idx_v;
523                                                         }
524
525                                                         madd_v3_v3fl(co, &lattice_deform_data->latticedata[idx_u * 3], u);
526
527                                                         if (defgrp_index != -1)
528                                                                 weight_blend += (u * defvert_find_weight(dvert + idx_u, defgrp_index));
529                                                 }
530                                         }
531                                 }
532                         }
533                 }
534         }
535
536         if (defgrp_index != -1)
537                 interp_v3_v3v3(co, co_prev, co, weight_blend);
538
539 }
540
541 void end_latt_deform(LatticeDeformData *lattice_deform_data)
542 {
543         if (lattice_deform_data->latticedata)
544                 MEM_freeN(lattice_deform_data->latticedata);
545
546         MEM_freeN(lattice_deform_data);
547 }
548
549 /* calculations is in local space of deformed object
550  * so we store in latmat transform from path coord inside object
551  */
552 typedef struct {
553         float dmin[3], dmax[3];
554         float curvespace[4][4], objectspace[4][4], objectspace3[3][3];
555         int no_rot_axis;
556 } CurveDeform;
557
558 static void init_curve_deform(Object *par, Object *ob, CurveDeform *cd)
559 {
560         invert_m4_m4(ob->imat, ob->obmat);
561         mul_m4_m4m4(cd->objectspace, ob->imat, par->obmat);
562         invert_m4_m4(cd->curvespace, cd->objectspace);
563         copy_m3_m4(cd->objectspace3, cd->objectspace);
564         cd->no_rot_axis = 0;
565 }
566
567 /* this makes sure we can extend for non-cyclic.
568  *
569  * returns OK: 1/0
570  */
571 static bool where_on_path_deform(Object *ob, float ctime, float vec[4], float dir[3], float quat[4], float *radius)
572 {
573         BevList *bl;
574         float ctime1;
575         int cycl = 0;
576         
577         /* test for cyclic */
578         bl = ob->curve_cache->bev.first;
579         if (!bl->nr) return 0;
580         if (bl->poly > -1) cycl = 1;
581
582         if (cycl == 0) {
583                 ctime1 = CLAMPIS(ctime, 0.0f, 1.0f);
584         }
585         else {
586                 ctime1 = ctime;
587         }
588         
589         /* vec needs 4 items */
590         if (where_on_path(ob, ctime1, vec, dir, quat, radius, NULL)) {
591                 
592                 if (cycl == 0) {
593                         Path *path = ob->curve_cache->path;
594                         float dvec[3];
595                         
596                         if (ctime < 0.0f) {
597                                 sub_v3_v3v3(dvec, path->data[1].vec, path->data[0].vec);
598                                 mul_v3_fl(dvec, ctime * (float)path->len);
599                                 add_v3_v3(vec, dvec);
600                                 if (quat) copy_qt_qt(quat, path->data[0].quat);
601                                 if (radius) *radius = path->data[0].radius;
602                         }
603                         else if (ctime > 1.0f) {
604                                 sub_v3_v3v3(dvec, path->data[path->len - 1].vec, path->data[path->len - 2].vec);
605                                 mul_v3_fl(dvec, (ctime - 1.0f) * (float)path->len);
606                                 add_v3_v3(vec, dvec);
607                                 if (quat) copy_qt_qt(quat, path->data[path->len - 1].quat);
608                                 if (radius) *radius = path->data[path->len - 1].radius;
609                                 /* weight - not used but could be added */
610                         }
611                 }
612                 return 1;
613         }
614         return 0;
615 }
616
617 /* for each point, rotate & translate to curve */
618 /* use path, since it has constant distances */
619 /* co: local coord, result local too */
620 /* returns quaternion for rotation, using cd->no_rot_axis */
621 /* axis is using another define!!! */
622 static bool calc_curve_deform(Scene *scene, Object *par, float co[3],
623                               const short axis, CurveDeform *cd, float quat_r[4])
624 {
625         Curve *cu = par->data;
626         float fac, loc[4], dir[3], new_quat[4], radius;
627         short index;
628         const bool is_neg_axis = (axis > 2);
629
630         /* to be sure, mostly after file load */
631         if (ELEM(NULL, par->curve_cache, par->curve_cache->path)) {
632 #ifdef CYCLIC_DEPENDENCY_WORKAROUND
633                 BKE_displist_make_curveTypes(scene, par, FALSE);
634 #endif
635                 if (par->curve_cache->path == NULL) {
636                         return 0;  // happens on append and cyclic dependencies...
637                 }
638         }
639         
640         /* options */
641         if (is_neg_axis) {
642                 index = axis - 3;
643                 if (cu->flag & CU_STRETCH)
644                         fac = (-co[index] - cd->dmax[index]) / (cd->dmax[index] - cd->dmin[index]);
645                 else
646                         fac = -(co[index] - cd->dmax[index]) / (par->curve_cache->path->totdist);
647         }
648         else {
649                 index = axis;
650                 if (cu->flag & CU_STRETCH)
651                         fac = (co[index] - cd->dmin[index]) / (cd->dmax[index] - cd->dmin[index]);
652                 else
653                         fac = +(co[index] - cd->dmin[index]) / (par->curve_cache->path->totdist);
654         }
655         
656         if (where_on_path_deform(par, fac, loc, dir, new_quat, &radius)) {  /* returns OK */
657                 float quat[4], cent[3];
658
659                 if (cd->no_rot_axis) {  /* set by caller */
660
661                         /* this is not exactly the same as 2.4x, since the axis is having rotation removed rather than
662                          * changing the axis before calculating the tilt but serves much the same purpose */
663                         float dir_flat[3] = {0, 0, 0}, q[4];
664                         copy_v3_v3(dir_flat, dir);
665                         dir_flat[cd->no_rot_axis - 1] = 0.0f;
666
667                         normalize_v3(dir);
668                         normalize_v3(dir_flat);
669
670                         rotation_between_vecs_to_quat(q, dir, dir_flat); /* Could this be done faster? */
671
672                         mul_qt_qtqt(new_quat, q, new_quat);
673                 }
674
675
676                 /* Logic for 'cent' orientation *
677                  *
678                  * The way 'co' is copied to 'cent' may seem to have no meaning, but it does.
679                  *
680                  * Use a curve modifier to stretch a cube out, color each side RGB, positive side light, negative dark.
681                  * view with X up (default), from the angle that you can see 3 faces RGB colors (light), anti-clockwise
682                  * Notice X,Y,Z Up all have light colors and each ordered CCW.
683                  *
684                  * Now for Neg Up XYZ, the colors are all dark, and ordered clockwise - Campbell
685                  *
686                  * note: moved functions into quat_apply_track/vec_apply_track
687                  * */
688                 copy_qt_qt(quat, new_quat);
689                 copy_v3_v3(cent, co);
690
691                 /* zero the axis which is not used,
692                  * the big block of text above now applies to these 3 lines */
693                 quat_apply_track(quat, axis, (axis == 0 || axis == 2) ? 1 : 0); /* up flag is a dummy, set so no rotation is done */
694                 vec_apply_track(cent, axis);
695                 cent[index] = 0.0f;
696
697
698                 /* scale if enabled */
699                 if (cu->flag & CU_PATH_RADIUS)
700                         mul_v3_fl(cent, radius);
701                 
702                 /* local rotation */
703                 normalize_qt(quat);
704                 mul_qt_v3(quat, cent);
705
706                 /* translation */
707                 add_v3_v3v3(co, cent, loc);
708
709                 if (quat_r)
710                         copy_qt_qt(quat_r, quat);
711
712                 return 1;
713         }
714         return 0;
715 }
716
717 void curve_deform_verts(Scene *scene, Object *cuOb, Object *target, DerivedMesh *dm, float (*vertexCos)[3],
718                         int numVerts, const char *vgroup, short defaxis)
719 {
720         Curve *cu;
721         int a;
722         CurveDeform cd;
723         int use_vgroups;
724         const bool is_neg_axis = (defaxis > 2);
725
726         if (cuOb->type != OB_CURVE)
727                 return;
728
729         cu = cuOb->data;
730
731         init_curve_deform(cuOb, target, &cd);
732
733         /* dummy bounds, keep if CU_DEFORM_BOUNDS_OFF is set */
734         if (is_neg_axis == FALSE) {
735                 cd.dmin[0] = cd.dmin[1] = cd.dmin[2] = 0.0f;
736                 cd.dmax[0] = cd.dmax[1] = cd.dmax[2] = 1.0f;
737         }
738         else {
739                 /* negative, these bounds give a good rest position */
740                 cd.dmin[0] = cd.dmin[1] = cd.dmin[2] = -1.0f;
741                 cd.dmax[0] = cd.dmax[1] = cd.dmax[2] =  0.0f;
742         }
743         
744         /* check whether to use vertex groups (only possible if target is a Mesh)
745          * we want either a Mesh with no derived data, or derived data with
746          * deformverts
747          */
748         if (target->type == OB_MESH) {
749                 /* if there's derived data without deformverts, don't use vgroups */
750                 if (dm) {
751                         use_vgroups = (dm->getVertData(dm, 0, CD_MDEFORMVERT) != NULL);
752                 }
753                 else {
754                         Mesh *me = target->data;
755                         use_vgroups = (me->dvert != NULL);
756                 }
757         }
758         else {
759                 use_vgroups = FALSE;
760         }
761         
762         if (vgroup && vgroup[0] && use_vgroups) {
763                 Mesh *me = target->data;
764                 const int defgrp_index = defgroup_name_index(target, vgroup);
765
766                 if (defgrp_index != -1 && (me->dvert || dm)) {
767                         MDeformVert *dvert = me->dvert;
768                         float vec[3];
769                         float weight;
770         
771
772                         if (cu->flag & CU_DEFORM_BOUNDS_OFF) {
773                                 dvert = me->dvert;
774                                 for (a = 0; a < numVerts; a++, dvert++) {
775                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
776                                         weight = defvert_find_weight(dvert, defgrp_index);
777         
778                                         if (weight > 0.0f) {
779                                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
780                                                 copy_v3_v3(vec, vertexCos[a]);
781                                                 calc_curve_deform(scene, cuOb, vec, defaxis, &cd, NULL);
782                                                 interp_v3_v3v3(vertexCos[a], vertexCos[a], vec, weight);
783                                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
784                                         }
785                                 }
786                         }
787                         else {
788                                 /* set mesh min/max bounds */
789                                 INIT_MINMAX(cd.dmin, cd.dmax);
790         
791                                 for (a = 0; a < numVerts; a++, dvert++) {
792                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
793                                         
794                                         if (defvert_find_weight(dvert, defgrp_index) > 0.0f) {
795                                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
796                                                 minmax_v3v3_v3(cd.dmin, cd.dmax, vertexCos[a]);
797                                         }
798                                 }
799         
800                                 dvert = me->dvert;
801                                 for (a = 0; a < numVerts; a++, dvert++) {
802                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
803                                         
804                                         weight = defvert_find_weight(dvert, defgrp_index);
805         
806                                         if (weight > 0.0f) {
807                                                 /* already in 'cd.curvespace', prev for loop */
808                                                 copy_v3_v3(vec, vertexCos[a]);
809                                                 calc_curve_deform(scene, cuOb, vec, defaxis, &cd, NULL);
810                                                 interp_v3_v3v3(vertexCos[a], vertexCos[a], vec, weight);
811                                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
812                                         }
813                                 }
814                         }
815                 }
816         }
817         else {
818                 if (cu->flag & CU_DEFORM_BOUNDS_OFF) {
819                         for (a = 0; a < numVerts; a++) {
820                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
821                                 calc_curve_deform(scene, cuOb, vertexCos[a], defaxis, &cd, NULL);
822                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
823                         }
824                 }
825                 else {
826                         /* set mesh min max bounds */
827                         INIT_MINMAX(cd.dmin, cd.dmax);
828                                 
829                         for (a = 0; a < numVerts; a++) {
830                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
831                                 minmax_v3v3_v3(cd.dmin, cd.dmax, vertexCos[a]);
832                         }
833         
834                         for (a = 0; a < numVerts; a++) {
835                                 /* already in 'cd.curvespace', prev for loop */
836                                 calc_curve_deform(scene, cuOb, vertexCos[a], defaxis, &cd, NULL);
837                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
838                         }
839                 }
840         }
841 }
842
843 /* input vec and orco = local coord in armature space */
844 /* orco is original not-animated or deformed reference point */
845 /* result written in vec and mat */
846 void curve_deform_vector(Scene *scene, Object *cuOb, Object *target,
847                          float orco[3], float vec[3], float mat[3][3], int no_rot_axis)
848 {
849         CurveDeform cd;
850         float quat[4];
851         
852         if (cuOb->type != OB_CURVE) {
853                 unit_m3(mat);
854                 return;
855         }
856
857         init_curve_deform(cuOb, target, &cd);
858         cd.no_rot_axis = no_rot_axis;                /* option to only rotate for XY, for example */
859         
860         copy_v3_v3(cd.dmin, orco);
861         copy_v3_v3(cd.dmax, orco);
862
863         mul_m4_v3(cd.curvespace, vec);
864         
865         if (calc_curve_deform(scene, cuOb, vec, target->trackflag, &cd, quat)) {
866                 float qmat[3][3];
867                 
868                 quat_to_mat3(qmat, quat);
869                 mul_m3_m3m3(mat, qmat, cd.objectspace3);
870         }
871         else
872                 unit_m3(mat);
873         
874         mul_m4_v3(cd.objectspace, vec);
875
876 }
877
878 void lattice_deform_verts(Object *laOb, Object *target, DerivedMesh *dm,
879                           float (*vertexCos)[3], int numVerts, const char *vgroup, float fac)
880 {
881         LatticeDeformData *lattice_deform_data;
882         int a;
883         int use_vgroups;
884
885         if (laOb->type != OB_LATTICE)
886                 return;
887
888         lattice_deform_data = init_latt_deform(laOb, target);
889
890         /* check whether to use vertex groups (only possible if target is a Mesh)
891          * we want either a Mesh with no derived data, or derived data with
892          * deformverts
893          */
894         if (target && target->type == OB_MESH) {
895                 /* if there's derived data without deformverts, don't use vgroups */
896                 if (dm) {
897                         use_vgroups = (dm->getVertDataArray(dm, CD_MDEFORMVERT) != NULL);
898                 }
899                 else {
900                         Mesh *me = target->data;
901                         use_vgroups = (me->dvert != NULL);
902                 }
903         }
904         else {
905                 use_vgroups = FALSE;
906         }
907         
908         if (vgroup && vgroup[0] && use_vgroups) {
909                 Mesh *me = target->data;
910                 const int defgrp_index = defgroup_name_index(target, vgroup);
911                 float weight;
912
913                 if (defgrp_index >= 0 && (me->dvert || dm)) {
914                         MDeformVert *dvert = me->dvert;
915                         
916                         for (a = 0; a < numVerts; a++, dvert++) {
917                                 if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
918
919                                 weight = defvert_find_weight(dvert, defgrp_index);
920
921                                 if (weight > 0.0f)
922                                         calc_latt_deform(lattice_deform_data, vertexCos[a], weight * fac);
923                         }
924                 }
925         }
926         else {
927                 for (a = 0; a < numVerts; a++) {
928                         calc_latt_deform(lattice_deform_data, vertexCos[a], fac);
929                 }
930         }
931         end_latt_deform(lattice_deform_data);
932 }
933
934 bool object_deform_mball(Object *ob, ListBase *dispbase)
935 {
936         if (ob->parent && ob->parent->type == OB_LATTICE && ob->partype == PARSKEL) {
937                 DispList *dl;
938
939                 for (dl = dispbase->first; dl; dl = dl->next) {
940                         lattice_deform_verts(ob->parent, ob, NULL,
941                                              (float(*)[3])dl->verts, dl->nr, NULL, 1.0f);
942                 }
943
944                 return 1;
945         }
946         else {
947                 return 0;
948         }
949 }
950
951 static BPoint *latt_bp(Lattice *lt, int u, int v, int w)
952 {
953         return &lt->def[BKE_lattice_index_from_uvw(lt, u, v, w)];
954 }
955
956 void outside_lattice(Lattice *lt)
957 {
958         BPoint *bp, *bp1, *bp2;
959         int u, v, w;
960         float fac1, du = 0.0, dv = 0.0, dw = 0.0;
961
962         if (lt->flag & LT_OUTSIDE) {
963                 bp = lt->def;
964
965                 if (lt->pntsu > 1) du = 1.0f / ((float)lt->pntsu - 1);
966                 if (lt->pntsv > 1) dv = 1.0f / ((float)lt->pntsv - 1);
967                 if (lt->pntsw > 1) dw = 1.0f / ((float)lt->pntsw - 1);
968                         
969                 for (w = 0; w < lt->pntsw; w++) {
970                         
971                         for (v = 0; v < lt->pntsv; v++) {
972                         
973                                 for (u = 0; u < lt->pntsu; u++, bp++) {
974                                         if (u == 0 || v == 0 || w == 0 || u == lt->pntsu - 1 || v == lt->pntsv - 1 || w == lt->pntsw - 1) {
975                                                 /* pass */
976                                         }
977                                         else {
978                                                 bp->hide = 1;
979                                                 bp->f1 &= ~SELECT;
980                                                 
981                                                 /* u extrema */
982                                                 bp1 = latt_bp(lt, 0, v, w);
983                                                 bp2 = latt_bp(lt, lt->pntsu - 1, v, w);
984                                                 
985                                                 fac1 = du * u;
986                                                 bp->vec[0] = (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
987                                                 bp->vec[1] = (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
988                                                 bp->vec[2] = (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
989                                                 
990                                                 /* v extrema */
991                                                 bp1 = latt_bp(lt, u, 0, w);
992                                                 bp2 = latt_bp(lt, u, lt->pntsv - 1, w);
993                                                 
994                                                 fac1 = dv * v;
995                                                 bp->vec[0] += (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
996                                                 bp->vec[1] += (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
997                                                 bp->vec[2] += (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
998                                                 
999                                                 /* w extrema */
1000                                                 bp1 = latt_bp(lt, u, v, 0);
1001                                                 bp2 = latt_bp(lt, u, v, lt->pntsw - 1);
1002                                                 
1003                                                 fac1 = dw * w;
1004                                                 bp->vec[0] += (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
1005                                                 bp->vec[1] += (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
1006                                                 bp->vec[2] += (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
1007                                                 
1008                                                 mul_v3_fl(bp->vec, 1.0f / 3.0f);
1009                                                 
1010                                         }
1011                                 }
1012                                 
1013                         }
1014                         
1015                 }
1016         }
1017         else {
1018                 bp = lt->def;
1019
1020                 for (w = 0; w < lt->pntsw; w++)
1021                         for (v = 0; v < lt->pntsv; v++)
1022                                 for (u = 0; u < lt->pntsu; u++, bp++)
1023                                         bp->hide = 0;
1024         }
1025 }
1026
1027 float (*BKE_lattice_vertexcos_get(struct Object *ob, int *numVerts_r))[3]
1028 {
1029         Lattice *lt = ob->data;
1030         int i, numVerts;
1031         float (*vertexCos)[3];
1032
1033         if (lt->editlatt) lt = lt->editlatt->latt;
1034         numVerts = *numVerts_r = lt->pntsu * lt->pntsv * lt->pntsw;
1035         
1036         vertexCos = MEM_mallocN(sizeof(*vertexCos) * numVerts, "lt_vcos");
1037         
1038         for (i = 0; i < numVerts; i++) {
1039                 copy_v3_v3(vertexCos[i], lt->def[i].vec);
1040         }
1041
1042         return vertexCos;
1043 }
1044
1045 void BKE_lattice_vertexcos_apply(struct Object *ob, float (*vertexCos)[3])
1046 {
1047         Lattice *lt = ob->data;
1048         int i, numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1049
1050         for (i = 0; i < numVerts; i++) {
1051                 copy_v3_v3(lt->def[i].vec, vertexCos[i]);
1052         }
1053 }
1054
1055 void BKE_lattice_modifiers_calc(Scene *scene, Object *ob)
1056 {
1057         Lattice *lt = ob->data;
1058         VirtualModifierData virtualModifierData;
1059         ModifierData *md = modifiers_getVirtualModifierList(ob, &virtualModifierData);
1060         float (*vertexCos)[3] = NULL;
1061         int numVerts, editmode = (lt->editlatt != NULL);
1062
1063         if (ob->curve_cache) {
1064                 BKE_displist_free(&ob->curve_cache->disp);
1065         }
1066         else {
1067                 ob->curve_cache = MEM_callocN(sizeof(CurveCache), "CurveCache for lattice");
1068         }
1069
1070         for (; md; md = md->next) {
1071                 ModifierTypeInfo *mti = modifierType_getInfo(md->type);
1072
1073                 md->scene = scene;
1074                 
1075                 if (!(md->mode & eModifierMode_Realtime)) continue;
1076                 if (editmode && !(md->mode & eModifierMode_Editmode)) continue;
1077                 if (mti->isDisabled && mti->isDisabled(md, 0)) continue;
1078                 if (mti->type != eModifierTypeType_OnlyDeform) continue;
1079
1080                 if (!vertexCos) vertexCos = BKE_lattice_vertexcos_get(ob, &numVerts);
1081                 mti->deformVerts(md, ob, NULL, vertexCos, numVerts, 0);
1082         }
1083
1084         /* always displist to make this work like derivedmesh */
1085         if (!vertexCos) vertexCos = BKE_lattice_vertexcos_get(ob, &numVerts);
1086         
1087         {
1088                 DispList *dl = MEM_callocN(sizeof(*dl), "lt_dl");
1089                 dl->type = DL_VERTS;
1090                 dl->parts = 1;
1091                 dl->nr = numVerts;
1092                 dl->verts = (float *) vertexCos;
1093                 
1094                 BLI_addtail(&ob->curve_cache->disp, dl);
1095         }
1096 }
1097
1098 struct MDeformVert *BKE_lattice_deform_verts_get(struct Object *oblatt)
1099 {
1100         Lattice *lt = (Lattice *)oblatt->data;
1101         BLI_assert(oblatt->type == OB_LATTICE);
1102         if (lt->editlatt) lt = lt->editlatt->latt;
1103         return lt->dvert;
1104 }
1105
1106 struct BPoint *BKE_lattice_active_point_get(Lattice *lt)
1107 {
1108         BLI_assert(GS(lt->id.name) == ID_LT);
1109
1110         if (lt->editlatt) {
1111                 lt = lt->editlatt->latt;
1112         }
1113
1114         BLI_assert(lt->actbp < lt->pntsu * lt->pntsv * lt->pntsw);
1115
1116         if ((lt->actbp != LT_ACTBP_NONE) && (lt->actbp < lt->pntsu * lt->pntsv * lt->pntsw)) {
1117                 return &lt->def[lt->actbp];
1118         }
1119         else {
1120                 return NULL;
1121         }
1122 }
1123
1124 void BKE_lattice_center_median(Lattice *lt, float cent[3])
1125 {
1126         int i, numVerts;
1127
1128         if (lt->editlatt) lt = lt->editlatt->latt;
1129         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1130
1131         zero_v3(cent);
1132
1133         for (i = 0; i < numVerts; i++)
1134                 add_v3_v3(cent, lt->def[i].vec);
1135
1136         mul_v3_fl(cent, 1.0f / (float)numVerts);
1137 }
1138
1139 void BKE_lattice_minmax(Lattice *lt, float min[3], float max[3])
1140 {
1141         int i, numVerts;
1142
1143         if (lt->editlatt) lt = lt->editlatt->latt;
1144         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1145
1146         for (i = 0; i < numVerts; i++)
1147                 minmax_v3v3_v3(min, max, lt->def[i].vec);
1148 }
1149
1150 void BKE_lattice_center_bounds(Lattice *lt, float cent[3])
1151 {
1152         float min[3], max[3];
1153
1154         INIT_MINMAX(min, max);
1155
1156         BKE_lattice_minmax(lt, min, max);
1157         mid_v3_v3v3(cent, min, max);
1158 }
1159
1160 void BKE_lattice_translate(Lattice *lt, float offset[3], bool do_keys)
1161 {
1162         int i, numVerts;
1163
1164         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1165
1166         if (lt->def)
1167                 for (i = 0; i < numVerts; i++)
1168                         add_v3_v3(lt->def[i].vec, offset);
1169
1170         if (lt->editlatt)
1171                 for (i = 0; i < numVerts; i++)
1172                         add_v3_v3(lt->editlatt->latt->def[i].vec, offset);
1173
1174         if (do_keys && lt->key) {
1175                 KeyBlock *kb;
1176
1177                 for (kb = lt->key->block.first; kb; kb = kb->next) {
1178                         float *fp = kb->data;
1179                         for (i = kb->totelem; i--; fp += 3) {
1180                                 add_v3_v3(fp, offset);
1181                         }
1182                 }
1183         }
1184 }
1185