Fix buffer overflows in TIFF, PNG, IRIS, DPX, HDR and AVI loading.
[blender.git] / source / blender / avi / intern / avi_rgb32.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  *
27  */
28
29 /** \file blender/avi/intern/avi_rgb32.c
30  *  \ingroup avi
31  *
32  * This is external code. Converts between rgb32 and avi.
33  */
34
35 #include <stdlib.h>
36 #include <string.h>
37
38 #include "MEM_guardedalloc.h"
39
40 #include "IMB_imbuf.h"
41
42 #include "AVI_avi.h"
43 #include "avi_rgb32.h"
44
45 void *avi_converter_from_rgb32(AviMovie *movie, int stream, unsigned char *buffer, size_t *size)
46 {
47         unsigned char *buf;
48
49         (void)stream; /* unused */
50
51         *size = (size_t)movie->header->Height * (size_t)movie->header->Width * 3;
52         buf = imb_alloc_pixels(movie->header->Height, movie->header->Width, 3, sizeof(unsigned char), "fromrgb32buf");
53         if (!buf) {
54                 return NULL;
55         }
56
57         size_t rowstridea = movie->header->Width * 3;
58         size_t rowstrideb = movie->header->Width * 4;
59
60         for (size_t y = 0; y < movie->header->Height; y++) {
61                 for (size_t x = 0; x < movie->header->Width; x++) {
62                         buf[y * rowstridea + x * 3 + 0] = buffer[y * rowstrideb + x * 4 + 3];
63                         buf[y * rowstridea + x * 3 + 1] = buffer[y * rowstrideb + x * 4 + 2];
64                         buf[y * rowstridea + x * 3 + 2] = buffer[y * rowstrideb + x * 4 + 1];
65                 }
66         }
67
68         MEM_freeN(buffer);
69
70         return buf;
71 }
72
73 void *avi_converter_to_rgb32(AviMovie *movie, int stream, unsigned char *buffer, size_t *size)
74 {
75         unsigned char *buf;
76         unsigned char *to, *from;
77
78         (void)stream; /* unused */
79
80         *size = (size_t)movie->header->Height * (size_t)movie->header->Width * 4;
81         buf = imb_alloc_pixels(movie->header->Height, movie->header->Width, 3, sizeof(unsigned char), "torgb32buf");
82         if (!buf) {
83                 return NULL;
84         }
85
86         memset(buf, 255, *size);
87
88         to = buf; from = buffer;
89         size_t i = (size_t)movie->header->Height * (size_t)movie->header->Width;
90         
91         while (i--) {
92                 memcpy(to, from, 3);
93                 to += 4; from += 3;
94         }
95
96         MEM_freeN(buffer);
97
98         return buf;
99 }