05d7933e1b5bbc97a6ff4773d0011aef9f59f221
[blender.git] / source / blender / blenkernel / intern / lattice.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/lattice.c
29  *  \ingroup bke
30  */
31
32 #include <stdio.h>
33 #include <string.h>
34 #include <math.h>
35 #include <stdlib.h>
36
37 #include "MEM_guardedalloc.h"
38
39 #include "BLI_blenlib.h"
40 #include "BLI_math.h"
41 #include "BLI_utildefines.h"
42
43 #include "DNA_mesh_types.h"
44 #include "DNA_meshdata_types.h"
45 #include "DNA_scene_types.h"
46 #include "DNA_object_types.h"
47 #include "DNA_lattice_types.h"
48 #include "DNA_curve_types.h"
49 #include "DNA_key_types.h"
50
51 #include "BKE_animsys.h"
52 #include "BKE_anim.h"
53 #include "BKE_cdderivedmesh.h"
54 #include "BKE_displist.h"
55 #include "BKE_global.h"
56 #include "BKE_key.h"
57 #include "BKE_lattice.h"
58 #include "BKE_library.h"
59 #include "BKE_main.h"
60 #include "BKE_mesh.h"
61 #include "BKE_modifier.h"
62
63 #include "BKE_deform.h"
64
65
66 void calc_lat_fudu(int flag, int res, float *r_fu, float *r_du)
67 {
68         if (res == 1) {
69                 *r_fu = 0.0;
70                 *r_du = 0.0;
71         }
72         else if (flag & LT_GRID) {
73                 *r_fu = -0.5f * (res - 1);
74                 *r_du = 1.0f;
75         }
76         else {
77                 *r_fu = -1.0f;
78                 *r_du = 2.0f / (res - 1);
79         }
80 }
81
82 void BKE_lattice_resize(Lattice *lt, int uNew, int vNew, int wNew, Object *ltOb)
83 {
84         BPoint *bp;
85         int i, u, v, w;
86         float fu, fv, fw, uc, vc, wc, du = 0.0, dv = 0.0, dw = 0.0;
87         float *co, (*vertexCos)[3] = NULL;
88         
89         /* vertex weight groups are just freed all for now */
90         if (lt->dvert) {
91                 BKE_defvert_array_free(lt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
92                 lt->dvert = NULL;
93         }
94         
95         while (uNew * vNew * wNew > 32000) {
96                 if (uNew >= vNew && uNew >= wNew) uNew--;
97                 else if (vNew >= uNew && vNew >= wNew) vNew--;
98                 else wNew--;
99         }
100
101         vertexCos = MEM_mallocN(sizeof(*vertexCos) * uNew * vNew * wNew, "tmp_vcos");
102
103         calc_lat_fudu(lt->flag, uNew, &fu, &du);
104         calc_lat_fudu(lt->flag, vNew, &fv, &dv);
105         calc_lat_fudu(lt->flag, wNew, &fw, &dw);
106
107         /* If old size is different then resolution changed in interface,
108          * try to do clever reinit of points. Pretty simply idea, we just
109          * deform new verts by old lattice, but scaling them to match old
110          * size first.
111          */
112         if (ltOb) {
113                 if (uNew != 1 && lt->pntsu != 1) {
114                         fu = lt->fu;
115                         du = (lt->pntsu - 1) * lt->du / (uNew - 1);
116                 }
117
118                 if (vNew != 1 && lt->pntsv != 1) {
119                         fv = lt->fv;
120                         dv = (lt->pntsv - 1) * lt->dv / (vNew - 1);
121                 }
122
123                 if (wNew != 1 && lt->pntsw != 1) {
124                         fw = lt->fw;
125                         dw = (lt->pntsw - 1) * lt->dw / (wNew - 1);
126                 }
127         }
128
129         co = vertexCos[0];
130         for (w = 0, wc = fw; w < wNew; w++, wc += dw) {
131                 for (v = 0, vc = fv; v < vNew; v++, vc += dv) {
132                         for (u = 0, uc = fu; u < uNew; u++, co += 3, uc += du) {
133                                 co[0] = uc;
134                                 co[1] = vc;
135                                 co[2] = wc;
136                         }
137                 }
138         }
139         
140         if (ltOb) {
141                 float mat[4][4];
142                 int typeu = lt->typeu, typev = lt->typev, typew = lt->typew;
143
144                 /* works best if we force to linear type (endpoints match) */
145                 lt->typeu = lt->typev = lt->typew = KEY_LINEAR;
146
147                 /* prevent using deformed locations */
148                 BKE_displist_free(&ltOb->disp);
149
150                 copy_m4_m4(mat, ltOb->obmat);
151                 unit_m4(ltOb->obmat);
152                 lattice_deform_verts(ltOb, NULL, NULL, vertexCos, uNew * vNew * wNew, NULL, 1.0f);
153                 copy_m4_m4(ltOb->obmat, mat);
154
155                 lt->typeu = typeu;
156                 lt->typev = typev;
157                 lt->typew = typew;
158         }
159
160         lt->fu = fu;
161         lt->fv = fv;
162         lt->fw = fw;
163         lt->du = du;
164         lt->dv = dv;
165         lt->dw = dw;
166
167         lt->pntsu = uNew;
168         lt->pntsv = vNew;
169         lt->pntsw = wNew;
170
171         MEM_freeN(lt->def);
172         lt->def = MEM_callocN(lt->pntsu * lt->pntsv * lt->pntsw * sizeof(BPoint), "lattice bp");
173         
174         bp = lt->def;
175         
176         for (i = 0; i < lt->pntsu * lt->pntsv * lt->pntsw; i++, bp++) {
177                 copy_v3_v3(bp->vec, vertexCos[i]);
178         }
179
180         MEM_freeN(vertexCos);
181 }
182
183 Lattice *BKE_lattice_add(const char *name)
184 {
185         Lattice *lt;
186         
187         lt = BKE_libblock_alloc(&G.main->latt, ID_LT, name);
188         
189         lt->flag = LT_GRID;
190         
191         lt->typeu = lt->typev = lt->typew = KEY_BSPLINE;
192         
193         lt->def = MEM_callocN(sizeof(BPoint), "lattvert"); /* temporary */
194         BKE_lattice_resize(lt, 2, 2, 2, NULL);  /* creates a uniform lattice */
195                 
196         return lt;
197 }
198
199 Lattice *BKE_lattice_copy(Lattice *lt)
200 {
201         Lattice *ltn;
202
203         ltn = BKE_libblock_copy(&lt->id);
204         ltn->def = MEM_dupallocN(lt->def);
205
206         ltn->key = BKE_key_copy(ltn->key);
207         if (ltn->key) ltn->key->from = (ID *)ltn;
208         
209         if (lt->dvert) {
210                 int tot = lt->pntsu * lt->pntsv * lt->pntsw;
211                 ltn->dvert = MEM_mallocN(sizeof(MDeformVert) * tot, "Lattice MDeformVert");
212                 BKE_defvert_array_copy(ltn->dvert, lt->dvert, tot);
213         }
214
215         ltn->editlatt = NULL;
216
217         return ltn;
218 }
219
220 void BKE_lattice_free(Lattice *lt)
221 {
222         if (lt->def) MEM_freeN(lt->def);
223         if (lt->dvert) BKE_defvert_array_free(lt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
224         if (lt->editlatt) {
225                 Lattice *editlt = lt->editlatt->latt;
226
227                 if (editlt->def) MEM_freeN(editlt->def);
228                 if (editlt->dvert) BKE_defvert_array_free(editlt->dvert, lt->pntsu * lt->pntsv * lt->pntsw);
229
230                 MEM_freeN(editlt);
231                 MEM_freeN(lt->editlatt);
232         }
233         
234         /* free animation data */
235         if (lt->adt) {
236                 BKE_free_animdata(&lt->id);
237                 lt->adt = NULL;
238         }
239 }
240
241
242 void BKE_lattice_make_local(Lattice *lt)
243 {
244         Main *bmain = G.main;
245         Object *ob;
246         int is_local = FALSE, is_lib = FALSE;
247
248         /* - only lib users: do nothing
249          * - only local users: set flag
250          * - mixed: make copy
251          */
252         
253         if (lt->id.lib == NULL) return;
254         if (lt->id.us == 1) {
255                 id_clear_lib_data(bmain, &lt->id);
256                 return;
257         }
258         
259         for (ob = bmain->object.first; ob && ELEM(FALSE, is_lib, is_local); ob = ob->id.next) {
260                 if (ob->data == lt) {
261                         if (ob->id.lib) is_lib = TRUE;
262                         else is_local = TRUE;
263                 }
264         }
265         
266         if (is_local && is_lib == FALSE) {
267                 id_clear_lib_data(bmain, &lt->id);
268         }
269         else if (is_local && is_lib) {
270                 Lattice *lt_new = BKE_lattice_copy(lt);
271                 lt_new->id.us = 0;
272
273                 /* Remap paths of new ID using old library as base. */
274                 BKE_id_lib_local_paths(bmain, lt->id.lib, &lt_new->id);
275
276                 for (ob = bmain->object.first; ob; ob = ob->id.next) {
277                         if (ob->data == lt) {
278                                 if (ob->id.lib == NULL) {
279                                         ob->data = lt_new;
280                                         lt_new->id.us++;
281                                         lt->id.us--;
282                                 }
283                         }
284                 }
285         }
286 }
287
288 void init_latt_deform(Object *oblatt, Object *ob)
289 {
290         /* we make an array with all differences */
291         Lattice *lt = oblatt->data;
292         BPoint *bp;
293         DispList *dl = BKE_displist_find(&oblatt->disp, DL_VERTS);
294         float *co = dl ? dl->verts : NULL;
295         float *fp, imat[4][4];
296         float fu, fv, fw;
297         int u, v, w;
298
299         if (lt->editlatt) lt = lt->editlatt->latt;
300         bp = lt->def;
301         
302         fp = lt->latticedata = MEM_mallocN(sizeof(float) * 3 * lt->pntsu * lt->pntsv * lt->pntsw, "latticedata");
303         
304         /* for example with a particle system: (ob == NULL) */
305         if (ob == NULL) {
306                 /* in deformspace, calc matrix  */
307                 invert_m4_m4(lt->latmat, oblatt->obmat);
308         
309                 /* back: put in deform array */
310                 invert_m4_m4(imat, lt->latmat);
311         }
312         else {
313                 /* in deformspace, calc matrix */
314                 invert_m4_m4(imat, oblatt->obmat);
315                 mult_m4_m4m4(lt->latmat, imat, ob->obmat);
316         
317                 /* back: put in deform array */
318                 invert_m4_m4(imat, lt->latmat);
319         }
320         
321         for (w = 0, fw = lt->fw; w < lt->pntsw; w++, fw += lt->dw) {
322                 for (v = 0, fv = lt->fv; v < lt->pntsv; v++, fv += lt->dv) {
323                         for (u = 0, fu = lt->fu; u < lt->pntsu; u++, bp++, co += 3, fp += 3, fu += lt->du) {
324                                 if (dl) {
325                                         fp[0] = co[0] - fu;
326                                         fp[1] = co[1] - fv;
327                                         fp[2] = co[2] - fw;
328                                 }
329                                 else {
330                                         fp[0] = bp->vec[0] - fu;
331                                         fp[1] = bp->vec[1] - fv;
332                                         fp[2] = bp->vec[2] - fw;
333                                 }
334
335                                 mul_mat3_m4_v3(imat, fp);
336                         }
337                 }
338         }
339 }
340
341 void calc_latt_deform(Object *ob, float co[3], float weight)
342 {
343         Lattice *lt = ob->data;
344         float u, v, w, tu[4], tv[4], tw[4];
345         float vec[3];
346         int idx_w, idx_v, idx_u;
347         int ui, vi, wi, uu, vv, ww;
348
349         /* vgroup influence */
350         int defgrp_index = -1;
351         float co_prev[3], weight_blend = 0.0f;
352         MDeformVert *dvert = BKE_lattice_deform_verts_get(ob);
353
354
355         if (lt->editlatt) lt = lt->editlatt->latt;
356         if (lt->latticedata == NULL) return;
357
358         if (lt->vgroup[0] && dvert) {
359                 defgrp_index = defgroup_name_index(ob, lt->vgroup);
360                 copy_v3_v3(co_prev, co);
361         }
362
363         /* co is in local coords, treat with latmat */
364         mul_v3_m4v3(vec, lt->latmat, co);
365
366         /* u v w coords */
367
368         if (lt->pntsu > 1) {
369                 u = (vec[0] - lt->fu) / lt->du;
370                 ui = (int)floor(u);
371                 u -= ui;
372                 key_curve_position_weights(u, tu, lt->typeu);
373         }
374         else {
375                 tu[0] = tu[2] = tu[3] = 0.0; tu[1] = 1.0;
376                 ui = 0;
377         }
378
379         if (lt->pntsv > 1) {
380                 v = (vec[1] - lt->fv) / lt->dv;
381                 vi = (int)floor(v);
382                 v -= vi;
383                 key_curve_position_weights(v, tv, lt->typev);
384         }
385         else {
386                 tv[0] = tv[2] = tv[3] = 0.0; tv[1] = 1.0;
387                 vi = 0;
388         }
389
390         if (lt->pntsw > 1) {
391                 w = (vec[2] - lt->fw) / lt->dw;
392                 wi = (int)floor(w);
393                 w -= wi;
394                 key_curve_position_weights(w, tw, lt->typew);
395         }
396         else {
397                 tw[0] = tw[2] = tw[3] = 0.0; tw[1] = 1.0;
398                 wi = 0;
399         }
400
401         for (ww = wi - 1; ww <= wi + 2; ww++) {
402                 w = tw[ww - wi + 1];
403
404                 if (w != 0.0f) {
405                         if (ww > 0) {
406                                 if (ww < lt->pntsw) idx_w = ww * lt->pntsu * lt->pntsv;
407                                 else idx_w = (lt->pntsw - 1) * lt->pntsu * lt->pntsv;
408                         }
409                         else idx_w = 0;
410
411                         for (vv = vi - 1; vv <= vi + 2; vv++) {
412                                 v = w * tv[vv - vi + 1];
413
414                                 if (v != 0.0f) {
415                                         if (vv > 0) {
416                                                 if (vv < lt->pntsv) idx_v = idx_w + vv * lt->pntsu;
417                                                 else idx_v = idx_w + (lt->pntsv - 1) * lt->pntsu;
418                                         }
419                                         else idx_v = idx_w;
420
421                                         for (uu = ui - 1; uu <= ui + 2; uu++) {
422                                                 u = weight * v * tu[uu - ui + 1];
423
424                                                 if (u != 0.0f) {
425                                                         if (uu > 0) {
426                                                                 if (uu < lt->pntsu) idx_u = idx_v + uu;
427                                                                 else idx_u = idx_v + (lt->pntsu - 1);
428                                                         }
429                                                         else idx_u = idx_v;
430
431                                                         madd_v3_v3fl(co, &lt->latticedata[idx_u * 3], u);
432
433                                                         if (defgrp_index != -1)
434                                                                 weight_blend += (u * defvert_find_weight(dvert + idx_u, defgrp_index));
435                                                 }
436                                         }
437                                 }
438                         }
439                 }
440         }
441
442         if (defgrp_index != -1)
443                 interp_v3_v3v3(co, co_prev, co, weight_blend);
444
445 }
446
447 void end_latt_deform(Object *ob)
448 {
449         Lattice *lt = ob->data;
450         
451         if (lt->editlatt) lt = lt->editlatt->latt;
452         
453         if (lt->latticedata)
454                 MEM_freeN(lt->latticedata);
455         lt->latticedata = NULL;
456 }
457
458 /* calculations is in local space of deformed object
459  * so we store in latmat transform from path coord inside object
460  */
461 typedef struct {
462         float dmin[3], dmax[3];
463         float curvespace[4][4], objectspace[4][4], objectspace3[3][3];
464         int no_rot_axis;
465 } CurveDeform;
466
467 static void init_curve_deform(Object *par, Object *ob, CurveDeform *cd)
468 {
469         invert_m4_m4(ob->imat, ob->obmat);
470         mult_m4_m4m4(cd->objectspace, ob->imat, par->obmat);
471         invert_m4_m4(cd->curvespace, cd->objectspace);
472         copy_m3_m4(cd->objectspace3, cd->objectspace);
473         cd->no_rot_axis = 0;
474 }
475
476 /* this makes sure we can extend for non-cyclic.
477  *
478  * returns OK: 1/0
479  */
480 static int where_on_path_deform(Object *ob, float ctime, float vec[4], float dir[3], float quat[4], float *radius)
481 {
482         Curve *cu = ob->data;
483         BevList *bl;
484         float ctime1;
485         int cycl = 0;
486         
487         /* test for cyclic */
488         bl = cu->bev.first;
489         if (!bl->nr) return 0;
490         if (bl->poly > -1) cycl = 1;
491
492         if (cycl == 0) {
493                 ctime1 = CLAMPIS(ctime, 0.0f, 1.0f);
494         }
495         else ctime1 = ctime;
496         
497         /* vec needs 4 items */
498         if (where_on_path(ob, ctime1, vec, dir, quat, radius, NULL)) {
499                 
500                 if (cycl == 0) {
501                         Path *path = cu->path;
502                         float dvec[3];
503                         
504                         if (ctime < 0.0f) {
505                                 sub_v3_v3v3(dvec, path->data[1].vec, path->data[0].vec);
506                                 mul_v3_fl(dvec, ctime * (float)path->len);
507                                 add_v3_v3(vec, dvec);
508                                 if (quat) copy_qt_qt(quat, path->data[0].quat);
509                                 if (radius) *radius = path->data[0].radius;
510                         }
511                         else if (ctime > 1.0f) {
512                                 sub_v3_v3v3(dvec, path->data[path->len - 1].vec, path->data[path->len - 2].vec);
513                                 mul_v3_fl(dvec, (ctime - 1.0f) * (float)path->len);
514                                 add_v3_v3(vec, dvec);
515                                 if (quat) copy_qt_qt(quat, path->data[path->len - 1].quat);
516                                 if (radius) *radius = path->data[path->len - 1].radius;
517                                 /* weight - not used but could be added */
518                         }
519                 }
520                 return 1;
521         }
522         return 0;
523 }
524
525 /* for each point, rotate & translate to curve */
526 /* use path, since it has constant distances */
527 /* co: local coord, result local too */
528 /* returns quaternion for rotation, using cd->no_rot_axis */
529 /* axis is using another define!!! */
530 static int calc_curve_deform(Scene *scene, Object *par, float co[3],
531                              const short axis, CurveDeform *cd, float quat_r[4])
532 {
533         Curve *cu = par->data;
534         float fac, loc[4], dir[3], new_quat[4], radius;
535         short index;
536         const int is_neg_axis = (axis > 2);
537
538         /* to be sure, mostly after file load */
539         if (cu->path == NULL) {
540                 BKE_displist_make_curveTypes(scene, par, 0);
541                 if (cu->path == NULL) return 0;  // happens on append...
542         }
543         
544         /* options */
545         if (is_neg_axis) {
546                 index = axis - 3;
547                 if (cu->flag & CU_STRETCH)
548                         fac = (-co[index] - cd->dmax[index]) / (cd->dmax[index] - cd->dmin[index]);
549                 else
550                         fac = -(co[index] - cd->dmax[index]) / (cu->path->totdist);
551         }
552         else {
553                 index = axis;
554                 if (cu->flag & CU_STRETCH)
555                         fac = (co[index] - cd->dmin[index]) / (cd->dmax[index] - cd->dmin[index]);
556                 else
557                         fac = +(co[index] - cd->dmin[index]) / (cu->path->totdist);
558         }
559         
560         if (where_on_path_deform(par, fac, loc, dir, new_quat, &radius)) {  /* returns OK */
561                 float quat[4], cent[3];
562
563                 if (cd->no_rot_axis) {  /* set by caller */
564
565                         /* this is not exactly the same as 2.4x, since the axis is having rotation removed rather than
566                          * changing the axis before calculating the tilt but serves much the same purpose */
567                         float dir_flat[3] = {0, 0, 0}, q[4];
568                         copy_v3_v3(dir_flat, dir);
569                         dir_flat[cd->no_rot_axis - 1] = 0.0f;
570
571                         normalize_v3(dir);
572                         normalize_v3(dir_flat);
573
574                         rotation_between_vecs_to_quat(q, dir, dir_flat); /* Could this be done faster? */
575
576                         mul_qt_qtqt(new_quat, q, new_quat);
577                 }
578
579
580                 /* Logic for 'cent' orientation *
581                  *
582                  * The way 'co' is copied to 'cent' may seem to have no meaning, but it does.
583                  *
584                  * Use a curve modifier to stretch a cube out, color each side RGB, positive side light, negative dark.
585                  * view with X up (default), from the angle that you can see 3 faces RGB colors (light), anti-clockwise
586                  * Notice X,Y,Z Up all have light colors and each ordered CCW.
587                  *
588                  * Now for Neg Up XYZ, the colors are all dark, and ordered clockwise - Campbell
589                  *
590                  * note: moved functions into quat_apply_track/vec_apply_track
591                  * */
592                 copy_qt_qt(quat, new_quat);
593                 copy_v3_v3(cent, co);
594
595                 /* zero the axis which is not used,
596                  * the big block of text above now applies to these 3 lines */
597                 quat_apply_track(quat, axis, (axis == 0 || axis == 2) ? 1 : 0); /* up flag is a dummy, set so no rotation is done */
598                 vec_apply_track(cent, axis);
599                 cent[index] = 0.0f;
600
601
602                 /* scale if enabled */
603                 if (cu->flag & CU_PATH_RADIUS)
604                         mul_v3_fl(cent, radius);
605                 
606                 /* local rotation */
607                 normalize_qt(quat);
608                 mul_qt_v3(quat, cent);
609
610                 /* translation */
611                 add_v3_v3v3(co, cent, loc);
612
613                 if (quat_r)
614                         copy_qt_qt(quat_r, quat);
615
616                 return 1;
617         }
618         return 0;
619 }
620
621 void curve_deform_verts(Scene *scene, Object *cuOb, Object *target,
622                         DerivedMesh *dm, float (*vertexCos)[3],
623                         int numVerts, const char *vgroup, short defaxis)
624 {
625         Curve *cu;
626         int a, flag;
627         CurveDeform cd;
628         int use_vgroups;
629         const int is_neg_axis = (defaxis > 2);
630
631         if (cuOb->type != OB_CURVE)
632                 return;
633
634         cu = cuOb->data;
635         flag = cu->flag;
636         cu->flag |= (CU_PATH | CU_FOLLOW); // needed for path & bevlist
637
638         init_curve_deform(cuOb, target, &cd);
639
640         /* dummy bounds, keep if CU_DEFORM_BOUNDS_OFF is set */
641         if (is_neg_axis == FALSE) {
642                 cd.dmin[0] = cd.dmin[1] = cd.dmin[2] = 0.0f;
643                 cd.dmax[0] = cd.dmax[1] = cd.dmax[2] = 1.0f;
644         }
645         else {
646                 /* negative, these bounds give a good rest position */
647                 cd.dmin[0] = cd.dmin[1] = cd.dmin[2] = -1.0f;
648                 cd.dmax[0] = cd.dmax[1] = cd.dmax[2] =  0.0f;
649         }
650         
651         /* check whether to use vertex groups (only possible if target is a Mesh)
652          * we want either a Mesh with no derived data, or derived data with
653          * deformverts
654          */
655         if (target && target->type == OB_MESH) {
656                 /* if there's derived data without deformverts, don't use vgroups */
657                 if (dm) {
658                         use_vgroups = (dm->getVertData(dm, 0, CD_MDEFORMVERT) != NULL);
659                 }
660                 else {
661                         Mesh *me = target->data;
662                         use_vgroups = (me->dvert != NULL);
663                 }
664         }
665         else {
666                 use_vgroups = FALSE;
667         }
668         
669         if (vgroup && vgroup[0] && use_vgroups) {
670                 Mesh *me = target->data;
671                 const int defgrp_index = defgroup_name_index(target, vgroup);
672
673                 if (defgrp_index != -1 && (me->dvert || dm)) {
674                         MDeformVert *dvert = me->dvert;
675                         float vec[3];
676                         float weight;
677         
678
679                         if (cu->flag & CU_DEFORM_BOUNDS_OFF) {
680                                 dvert = me->dvert;
681                                 for (a = 0; a < numVerts; a++, dvert++) {
682                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
683                                         weight = defvert_find_weight(dvert, defgrp_index);
684         
685                                         if (weight > 0.0f) {
686                                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
687                                                 copy_v3_v3(vec, vertexCos[a]);
688                                                 calc_curve_deform(scene, cuOb, vec, defaxis, &cd, NULL);
689                                                 interp_v3_v3v3(vertexCos[a], vertexCos[a], vec, weight);
690                                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
691                                         }
692                                 }
693                         }
694                         else {
695                                 /* set mesh min/max bounds */
696                                 INIT_MINMAX(cd.dmin, cd.dmax);
697         
698                                 for (a = 0; a < numVerts; a++, dvert++) {
699                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
700                                         
701                                         if (defvert_find_weight(dvert, defgrp_index) > 0.0f) {
702                                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
703                                                 minmax_v3v3_v3(cd.dmin, cd.dmax, vertexCos[a]);
704                                         }
705                                 }
706         
707                                 dvert = me->dvert;
708                                 for (a = 0; a < numVerts; a++, dvert++) {
709                                         if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
710                                         
711                                         weight = defvert_find_weight(dvert, defgrp_index);
712         
713                                         if (weight > 0.0f) {
714                                                 /* already in 'cd.curvespace', prev for loop */
715                                                 copy_v3_v3(vec, vertexCos[a]);
716                                                 calc_curve_deform(scene, cuOb, vec, defaxis, &cd, NULL);
717                                                 interp_v3_v3v3(vertexCos[a], vertexCos[a], vec, weight);
718                                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
719                                         }
720                                 }
721                         }
722                 }
723         }
724         else {
725                 if (cu->flag & CU_DEFORM_BOUNDS_OFF) {
726                         for (a = 0; a < numVerts; a++) {
727                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
728                                 calc_curve_deform(scene, cuOb, vertexCos[a], defaxis, &cd, NULL);
729                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
730                         }
731                 }
732                 else {
733                         /* set mesh min max bounds */
734                         INIT_MINMAX(cd.dmin, cd.dmax);
735                                 
736                         for (a = 0; a < numVerts; a++) {
737                                 mul_m4_v3(cd.curvespace, vertexCos[a]);
738                                 minmax_v3v3_v3(cd.dmin, cd.dmax, vertexCos[a]);
739                         }
740         
741                         for (a = 0; a < numVerts; a++) {
742                                 /* already in 'cd.curvespace', prev for loop */
743                                 calc_curve_deform(scene, cuOb, vertexCos[a], defaxis, &cd, NULL);
744                                 mul_m4_v3(cd.objectspace, vertexCos[a]);
745                         }
746                 }
747         }
748         cu->flag = flag;
749 }
750
751 /* input vec and orco = local coord in armature space */
752 /* orco is original not-animated or deformed reference point */
753 /* result written in vec and mat */
754 void curve_deform_vector(Scene *scene, Object *cuOb, Object *target,
755                          float orco[3], float vec[3], float mat[3][3], int no_rot_axis)
756 {
757         CurveDeform cd;
758         float quat[4];
759         
760         if (cuOb->type != OB_CURVE) {
761                 unit_m3(mat);
762                 return;
763         }
764
765         init_curve_deform(cuOb, target, &cd);
766         cd.no_rot_axis = no_rot_axis;                /* option to only rotate for XY, for example */
767         
768         copy_v3_v3(cd.dmin, orco);
769         copy_v3_v3(cd.dmax, orco);
770
771         mul_m4_v3(cd.curvespace, vec);
772         
773         if (calc_curve_deform(scene, cuOb, vec, target->trackflag, &cd, quat)) {
774                 float qmat[3][3];
775                 
776                 quat_to_mat3(qmat, quat);
777                 mul_m3_m3m3(mat, qmat, cd.objectspace3);
778         }
779         else
780                 unit_m3(mat);
781         
782         mul_m4_v3(cd.objectspace, vec);
783
784 }
785
786 void lattice_deform_verts(Object *laOb, Object *target, DerivedMesh *dm,
787                           float (*vertexCos)[3], int numVerts, const char *vgroup, float fac)
788 {
789         int a;
790         int use_vgroups;
791
792         if (laOb->type != OB_LATTICE)
793                 return;
794
795         init_latt_deform(laOb, target);
796
797         /* check whether to use vertex groups (only possible if target is a Mesh)
798          * we want either a Mesh with no derived data, or derived data with
799          * deformverts
800          */
801         if (target && target->type == OB_MESH) {
802                 /* if there's derived data without deformverts, don't use vgroups */
803                 if (dm) {
804                         use_vgroups = (dm->getVertData(dm, 0, CD_MDEFORMVERT) != NULL);
805                 }
806                 else {
807                         Mesh *me = target->data;
808                         use_vgroups = (me->dvert != NULL);
809                 }
810         }
811         else {
812                 use_vgroups = FALSE;
813         }
814         
815         if (vgroup && vgroup[0] && use_vgroups) {
816                 Mesh *me = target->data;
817                 const int defgrp_index = defgroup_name_index(target, vgroup);
818                 float weight;
819
820                 if (defgrp_index >= 0 && (me->dvert || dm)) {
821                         MDeformVert *dvert = me->dvert;
822                         
823                         for (a = 0; a < numVerts; a++, dvert++) {
824                                 if (dm) dvert = dm->getVertData(dm, a, CD_MDEFORMVERT);
825
826                                 weight = defvert_find_weight(dvert, defgrp_index);
827
828                                 if (weight > 0.0f)
829                                         calc_latt_deform(laOb, vertexCos[a], weight * fac);
830                         }
831                 }
832         }
833         else {
834                 for (a = 0; a < numVerts; a++) {
835                         calc_latt_deform(laOb, vertexCos[a], fac);
836                 }
837         }
838         end_latt_deform(laOb);
839 }
840
841 int object_deform_mball(Object *ob, ListBase *dispbase)
842 {
843         if (ob->parent && ob->parent->type == OB_LATTICE && ob->partype == PARSKEL) {
844                 DispList *dl;
845
846                 for (dl = dispbase->first; dl; dl = dl->next) {
847                         lattice_deform_verts(ob->parent, ob, NULL,
848                                              (float(*)[3])dl->verts, dl->nr, NULL, 1.0f);
849                 }
850
851                 return 1;
852         }
853         else {
854                 return 0;
855         }
856 }
857
858 static BPoint *latt_bp(Lattice *lt, int u, int v, int w)
859 {
860         return &lt->def[LT_INDEX(lt, u, v, w)];
861 }
862
863 void outside_lattice(Lattice *lt)
864 {
865         BPoint *bp, *bp1, *bp2;
866         int u, v, w;
867         float fac1, du = 0.0, dv = 0.0, dw = 0.0;
868
869         if (lt->flag & LT_OUTSIDE) {
870                 bp = lt->def;
871
872                 if (lt->pntsu > 1) du = 1.0f / ((float)lt->pntsu - 1);
873                 if (lt->pntsv > 1) dv = 1.0f / ((float)lt->pntsv - 1);
874                 if (lt->pntsw > 1) dw = 1.0f / ((float)lt->pntsw - 1);
875                         
876                 for (w = 0; w < lt->pntsw; w++) {
877                         
878                         for (v = 0; v < lt->pntsv; v++) {
879                         
880                                 for (u = 0; u < lt->pntsu; u++, bp++) {
881                                         if (u == 0 || v == 0 || w == 0 || u == lt->pntsu - 1 || v == lt->pntsv - 1 || w == lt->pntsw - 1) {
882                                                 /* pass */
883                                         }
884                                         else {
885                                                 bp->hide = 1;
886                                                 bp->f1 &= ~SELECT;
887                                                 
888                                                 /* u extrema */
889                                                 bp1 = latt_bp(lt, 0, v, w);
890                                                 bp2 = latt_bp(lt, lt->pntsu - 1, v, w);
891                                                 
892                                                 fac1 = du * u;
893                                                 bp->vec[0] = (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
894                                                 bp->vec[1] = (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
895                                                 bp->vec[2] = (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
896                                                 
897                                                 /* v extrema */
898                                                 bp1 = latt_bp(lt, u, 0, w);
899                                                 bp2 = latt_bp(lt, u, lt->pntsv - 1, w);
900                                                 
901                                                 fac1 = dv * v;
902                                                 bp->vec[0] += (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
903                                                 bp->vec[1] += (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
904                                                 bp->vec[2] += (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
905                                                 
906                                                 /* w extrema */
907                                                 bp1 = latt_bp(lt, u, v, 0);
908                                                 bp2 = latt_bp(lt, u, v, lt->pntsw - 1);
909                                                 
910                                                 fac1 = dw * w;
911                                                 bp->vec[0] += (1.0f - fac1) * bp1->vec[0] + fac1 * bp2->vec[0];
912                                                 bp->vec[1] += (1.0f - fac1) * bp1->vec[1] + fac1 * bp2->vec[1];
913                                                 bp->vec[2] += (1.0f - fac1) * bp1->vec[2] + fac1 * bp2->vec[2];
914                                                 
915                                                 mul_v3_fl(bp->vec, 0.3333333f);
916                                                 
917                                         }
918                                 }
919                                 
920                         }
921                         
922                 }
923         }
924         else {
925                 bp = lt->def;
926
927                 for (w = 0; w < lt->pntsw; w++)
928                         for (v = 0; v < lt->pntsv; v++)
929                                 for (u = 0; u < lt->pntsu; u++, bp++)
930                                         bp->hide = 0;
931         }
932 }
933
934 float (*BKE_lattice_vertexcos_get(struct Object *ob, int *numVerts_r))[3]
935 {
936         Lattice *lt = ob->data;
937         int i, numVerts;
938         float (*vertexCos)[3];
939
940         if (lt->editlatt) lt = lt->editlatt->latt;
941         numVerts = *numVerts_r = lt->pntsu * lt->pntsv * lt->pntsw;
942         
943         vertexCos = MEM_mallocN(sizeof(*vertexCos) * numVerts, "lt_vcos");
944         
945         for (i = 0; i < numVerts; i++) {
946                 copy_v3_v3(vertexCos[i], lt->def[i].vec);
947         }
948
949         return vertexCos;
950 }
951
952 void BKE_lattice_vertexcos_apply(struct Object *ob, float (*vertexCos)[3])
953 {
954         Lattice *lt = ob->data;
955         int i, numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
956
957         for (i = 0; i < numVerts; i++) {
958                 copy_v3_v3(lt->def[i].vec, vertexCos[i]);
959         }
960 }
961
962 void BKE_lattice_modifiers_calc(Scene *scene, Object *ob)
963 {
964         Lattice *lt = ob->data;
965         ModifierData *md = modifiers_getVirtualModifierList(ob);
966         float (*vertexCos)[3] = NULL;
967         int numVerts, editmode = (lt->editlatt != NULL);
968
969         BKE_displist_free(&ob->disp);
970
971         for (; md; md = md->next) {
972                 ModifierTypeInfo *mti = modifierType_getInfo(md->type);
973
974                 md->scene = scene;
975                 
976                 if (!(md->mode & eModifierMode_Realtime)) continue;
977                 if (editmode && !(md->mode & eModifierMode_Editmode)) continue;
978                 if (mti->isDisabled && mti->isDisabled(md, 0)) continue;
979                 if (mti->type != eModifierTypeType_OnlyDeform) continue;
980
981                 if (!vertexCos) vertexCos = BKE_lattice_vertexcos_get(ob, &numVerts);
982                 mti->deformVerts(md, ob, NULL, vertexCos, numVerts, 0);
983         }
984
985         /* always displist to make this work like derivedmesh */
986         if (!vertexCos) vertexCos = BKE_lattice_vertexcos_get(ob, &numVerts);
987         
988         {
989                 DispList *dl = MEM_callocN(sizeof(*dl), "lt_dl");
990                 dl->type = DL_VERTS;
991                 dl->parts = 1;
992                 dl->nr = numVerts;
993                 dl->verts = (float *) vertexCos;
994                 
995                 BLI_addtail(&ob->disp, dl);
996         }
997 }
998
999 struct MDeformVert *BKE_lattice_deform_verts_get(struct Object *oblatt)
1000 {
1001         Lattice *lt = (Lattice *)oblatt->data;
1002         BLI_assert(oblatt->type == OB_LATTICE);
1003         if (lt->editlatt) lt = lt->editlatt->latt;
1004         return lt->dvert;
1005 }
1006
1007 void BKE_lattice_center_median(struct Lattice *lt, float cent[3])
1008 {
1009         int i, numVerts;
1010
1011         if (lt->editlatt) lt = lt->editlatt->latt;
1012         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1013
1014         zero_v3(cent);
1015
1016         for (i = 0; i < numVerts; i++)
1017                 add_v3_v3(cent, lt->def[i].vec);
1018
1019         mul_v3_fl(cent, 1.0f / (float)numVerts);
1020 }
1021
1022 void BKE_lattice_minmax(struct Lattice *lt, float min[3], float max[3])
1023 {
1024         int i, numVerts;
1025
1026         if (lt->editlatt) lt = lt->editlatt->latt;
1027         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1028
1029         for (i = 0; i < numVerts; i++)
1030                 minmax_v3v3_v3(min, max, lt->def[i].vec);
1031 }
1032
1033 void BKE_lattice_center_bounds(struct Lattice *lt, float cent[3])
1034 {
1035         float min[3], max[3];
1036
1037         INIT_MINMAX(min, max);
1038
1039         BKE_lattice_minmax(lt, min, max);
1040         mid_v3_v3v3(cent, min, max);
1041 }
1042
1043 void BKE_lattice_translate(Lattice *lt, float offset[3], int do_keys)
1044 {
1045         int i, numVerts;
1046
1047         numVerts = lt->pntsu * lt->pntsv * lt->pntsw;
1048
1049         if (lt->def)
1050                 for (i = 0; i < numVerts; i++)
1051                         add_v3_v3(lt->def[i].vec, offset);
1052
1053         if (lt->editlatt)
1054                 for (i = 0; i < numVerts; i++)
1055                         add_v3_v3(lt->editlatt->latt->def[i].vec, offset);
1056
1057         if (do_keys && lt->key) {
1058                 KeyBlock *kb;
1059
1060                 for (kb = lt->key->block.first; kb; kb = kb->next) {
1061                         float *fp = kb->data;
1062                         for (i = kb->totelem; i--; fp += 3) {
1063                                 add_v3_v3(fp, offset);
1064                         }
1065                 }
1066         }
1067 }
1068