Merging r46111 through r46136 from trunk into soc-2011-tomato
[blender-staging.git] / source / blender / nodes / composite / nodes / node_composite_chromaMatte.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2006 Blender Foundation.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/nodes/composite/nodes/node_composite_chromaMatte.c
29 *  \ingroup cmpnodes
30 */
31
32
33 #include "node_composite_util.h"
34
35 /* ******************* Chroma Key ********************************************************** */
36 static bNodeSocketTemplate cmp_node_chroma_in[]={
37         {SOCK_RGBA, 1, "Image", 1.0f, 1.0f, 1.0f, 1.0f},
38         {SOCK_RGBA, 1, "Key Color", 1.0f, 1.0f, 1.0f, 1.0f},
39         {-1, 0, ""}
40 };
41
42 static bNodeSocketTemplate cmp_node_chroma_out[]={
43         {SOCK_RGBA, 0, "Image"},
44         {SOCK_FLOAT, 0, "Matte"},
45         {-1, 0, ""}
46 };
47
48 static void do_rgba_to_ycca_normalized(bNode *UNUSED(node), float *out, float *in)
49 {
50         rgb_to_ycc(in[0], in[1], in[2], &out[0], &out[1], &out[2], BLI_YCC_ITU_BT601);
51
52         //normalize to 0..1.0
53         out[0]=out[0]/255.0f;
54         out[1]=out[1]/255.0f;
55         out[2]=out[2]/255.0f;
56
57         //rescale to -1.0..1.0
58         out[0]=(out[0]*2.0f)-1.0f;
59         out[1]=(out[1]*2.0f)-1.0f;
60         out[2]=(out[2]*2.0f)-1.0f;
61
62         //      out[0]=((out[0])-16)/255.0;
63         //      out[1]=((out[1])-128)/255.0;
64         //      out[2]=((out[2])-128)/255.0;
65         out[3]=in[3];
66 }
67
68 static void do_ycca_to_rgba_normalized(bNode *UNUSED(node), float *out, float *in)
69 {
70         /*un-normalize the normalize from above */
71         in[0]=(in[0]+1.0f)/2.0f;
72         in[1]=(in[1]+1.0f)/2.0f;
73         in[2]=(in[2]+1.0f)/2.0f;
74
75         in[0]=(in[0]*255.0f);
76         in[1]=(in[1]*255.0f);
77         in[2]=(in[2]*255.0f);
78
79         //      in[0]=(in[0]*255.0)+16;
80         //      in[1]=(in[1]*255.0)+128;
81         //      in[2]=(in[2]*255.0)+128;
82         ycc_to_rgb(in[0], in[1], in[2], &out[0], &out[1], &out[2], BLI_YCC_ITU_BT601);
83         out[3]=in[3];
84 }
85
86 static void do_chroma_key(bNode *node, float *out, float *in)
87 {
88         NodeChroma *c;
89         float x, z, alpha;
90         float theta, beta, angle, angle2;
91         float kfg;
92
93         c=node->storage;
94
95         /* Algorithm from book "Video Demistified," does not include the spill reduction part */
96
97         /* find theta, the angle that the color space should be rotated based on key chroma values*/
98         theta=atan2(c->key[2], c->key[1]);
99
100         /*rotate the cb and cr into x/z space */
101         x=in[1]*cosf(theta)+in[2]*sinf(theta);
102         z=in[2]*cosf(theta)-in[1]*sinf(theta);
103
104         /*if within the acceptance angle */
105         angle=c->t1; /* t1 is radians. */
106
107         /* if kfg is <0 then the pixel is outside of the key color */
108         kfg= x-(fabsf(z)/tanf(angle/2.0f));
109
110         copy_v3_v3(out, in);
111
112         if (kfg>0.0f) {  /* found a pixel that is within key color */
113                 beta=atan2(z, x);
114                 angle2=c->t2; /* t2 is radians. */
115
116                 /* if beta is within the cutoff angle */
117                 if (fabsf(beta) < (angle2/2.0f)) {
118                         alpha=0.0;
119                 }
120                 else {
121                         alpha=1.0f-(kfg/c->fstrength);
122                 }
123
124                 /* don't make something that was more transparent less transparent */
125                 if (alpha<in[3]) {
126                         out[3]=alpha;
127                 }
128                 else {
129                         out[3]=in[3];
130                 }
131         }
132         else { /* make pixel just as transparent as it was before */
133                 out[3]=in[3];
134         }
135 }
136
137 static void node_composit_exec_chroma_matte(void *data, bNode *node, bNodeStack **in, bNodeStack **out)
138 {
139         CompBuf *cbuf;
140         CompBuf *chromabuf;
141         NodeChroma *c;
142
143         if (in[0]->hasinput==0) return;
144         if (in[0]->data==NULL) return;
145         if (out[0]->hasoutput==0 && out[1]->hasoutput==0) return;
146
147         cbuf= typecheck_compbuf(in[0]->data, CB_RGBA);
148
149         chromabuf= dupalloc_compbuf(cbuf);
150
151         c=node->storage;
152
153         /*convert rgbbuf to normalized chroma space*/
154         composit1_pixel_processor(node, chromabuf, cbuf, in[0]->vec, do_rgba_to_ycca_normalized, CB_RGBA);
155         /*convert key to normalized chroma color space */
156         do_rgba_to_ycca_normalized(node, c->key, in[1]->vec);
157
158         /*per pixel chroma key*/
159         composit1_pixel_processor(node, chromabuf, chromabuf, in[0]->vec, do_chroma_key, CB_RGBA);
160
161         /*convert back*/
162         composit1_pixel_processor(node, chromabuf, chromabuf, in[0]->vec, do_ycca_to_rgba_normalized, CB_RGBA);
163
164         out[0]->data= chromabuf;
165         if (out[1]->hasoutput)
166                 out[1]->data= valbuf_from_rgbabuf(chromabuf, CHAN_A);
167
168         generate_preview(data, node, chromabuf);
169
170         if (cbuf!=in[0]->data)
171                 free_compbuf(cbuf);
172 }
173
174
175 static void node_composit_init_chroma_matte(bNodeTree *UNUSED(ntree), bNode* node, bNodeTemplate *UNUSED(ntemp))
176 {
177         NodeChroma *c= MEM_callocN(sizeof(NodeChroma), "node chroma");
178         node->storage= c;
179         c->t1= DEG2RADF(30.0f);
180         c->t2= DEG2RADF(10.0f);
181         c->t3= 0.0f;
182         c->fsize= 0.0f;
183         c->fstrength= 1.0f;
184 }
185
186 void register_node_type_cmp_chroma_matte(bNodeTreeType *ttype)
187 {
188         static bNodeType ntype;
189
190         node_type_base(ttype, &ntype, CMP_NODE_CHROMA_MATTE, "Chroma Key", NODE_CLASS_MATTE, NODE_PREVIEW|NODE_OPTIONS);
191         node_type_socket_templates(&ntype, cmp_node_chroma_in, cmp_node_chroma_out);
192         node_type_size(&ntype, 200, 80, 300);
193         node_type_init(&ntype, node_composit_init_chroma_matte);
194         node_type_storage(&ntype, "NodeChroma", node_free_standard_storage, node_copy_standard_storage);
195         node_type_exec(&ntype, node_composit_exec_chroma_matte);
196
197         nodeRegisterType(ttype, &ntype);
198 }