code cleanup: favor braces when blocks have mixed brace use.
[blender.git] / source / blender / blenkernel / intern / text.c
1 /*
2  * ***** BEGIN GPL LICENSE BLOCK *****
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU General Public License
6  * as published by the Free Software Foundation; either version 2
7  * of the License, or (at your option) any later version.
8  *
9  * This program is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
12  * GNU General Public License for more details.
13  *
14  * You should have received a copy of the GNU General Public License
15  * along with this program; if not, write to the Free Software Foundation,
16  * Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301, USA.
17  *
18  * The Original Code is Copyright (C) 2001-2002 by NaN Holding BV.
19  * All rights reserved.
20  *
21  * The Original Code is: all of this file.
22  *
23  * Contributor(s): none yet.
24  *
25  * ***** END GPL LICENSE BLOCK *****
26  */
27
28 /** \file blender/blenkernel/intern/text.c
29  *  \ingroup bke
30  */
31
32 #include <stdlib.h> /* abort */
33 #include <string.h> /* strstr */
34 #include <sys/types.h>
35 #include <sys/stat.h>
36 #include <wchar.h>
37 #include <wctype.h>
38
39 #include "MEM_guardedalloc.h"
40
41 #include "BLI_utildefines.h"
42 #include "BLI_path_util.h"
43 #include "BLI_string.h"
44 #include "BLI_string_cursor_utf8.h"
45 #include "BLI_string_utf8.h"
46 #include "BLI_listbase.h"
47 #include "BLI_fileops.h"
48
49 #include "DNA_constraint_types.h"
50 #include "DNA_controller_types.h"
51 #include "DNA_actuator_types.h"
52 #include "DNA_scene_types.h"
53 #include "DNA_screen_types.h"
54 #include "DNA_space_types.h"
55 #include "DNA_text_types.h"
56 #include "DNA_userdef_types.h"
57 #include "DNA_object_types.h"
58 #include "DNA_node_types.h"
59 #include "DNA_material_types.h"
60
61 #include "BKE_depsgraph.h"
62 #include "BKE_global.h"
63 #include "BKE_library.h"
64 #include "BKE_main.h"
65 #include "BKE_text.h"
66 #include "BKE_node.h"
67
68
69 #ifdef WITH_PYTHON
70 #include "BPY_extern.h"
71 #endif
72
73 /*
74  * How Texts should work
75  * --
76  * A text should relate to a file as follows -
77  * (Text *)->name should be the place where the
78  *     file will or has been saved.
79  *
80  * (Text *)->flags has the following bits
81  *     TXT_ISDIRTY - should always be set if the file in mem. differs from
82  *                     the file on disk, or if there is no file on disk.
83  *     TXT_ISMEM - should always be set if the Text has not been mapped to
84  *                     a file, in which case (Text *)->name may be NULL or garbage.
85  *     TXT_ISEXT - should always be set if the Text is not to be written into
86  *                     the .blend
87  *     TXT_ISSCRIPT - should be set if the user has designated the text
88  *                     as a script. (NEW: this was unused, but now it is needed by
89  *                     space handler script links (see header_view3d.c, for example)
90  *
91  * ->>> see also: /makesdna/DNA_text_types.h
92  *
93  * Display
94  * --
95  * The st->top determines at what line the top of the text is displayed.
96  * If the user moves the cursor the st containing that cursor should
97  * be popped ... other st's retain their own top location.
98  *
99  * Undo
100  * --
101  * Undo/Redo works by storing
102  * events in a queue, and a pointer
103  * to the current position in the
104  * queue...
105  *
106  * Events are stored using an
107  * arbitrary op-code system
108  * to keep track of
109  * a) the two cursors (normal and selected)
110  * b) input (visible and control (ie backspace))
111  *
112  * input data is stored as its
113  * ASCII value, the opcodes are
114  * then selected to not conflict.
115  *
116  * opcodes with data in between are
117  * written at the beginning and end
118  * of the data to allow undo and redo
119  * to simply check the code at the current
120  * undo position
121  *
122  */
123
124 /***/
125
126 static void txt_pop_first(Text *text);
127 static void txt_pop_last(Text *text);
128 static void txt_undo_add_blockop(Text *text, int op, const char *buf);
129 static void txt_delete_line(Text *text, TextLine *line);
130 static void txt_delete_sel(Text *text);
131 static void txt_make_dirty(Text *text);
132
133 /***/
134
135 static unsigned char undoing;
136
137 /* allow to switch off undoing externally */
138 void txt_set_undostate(int u)
139 {
140         undoing = u;
141 }
142
143 int txt_get_undostate(void)
144 {
145         return undoing;
146 }
147
148 static void init_undo_text(Text *text)
149 {
150         text->undo_pos = -1;
151         text->undo_len = TXT_INIT_UNDO;
152         text->undo_buf = MEM_mallocN(text->undo_len, "undo buf");
153 }
154
155 void BKE_text_free(Text *text)
156 {
157         TextLine *tmp;
158
159         for (tmp = text->lines.first; tmp; tmp = tmp->next) {
160                 MEM_freeN(tmp->line);
161                 if (tmp->format)
162                         MEM_freeN(tmp->format);
163         }
164         
165         BLI_freelistN(&text->lines);
166
167         if (text->name) MEM_freeN(text->name);
168         MEM_freeN(text->undo_buf);
169 #ifdef WITH_PYTHON
170         if (text->compiled) BPY_text_free_code(text);
171 #endif
172 }
173
174 Text *BKE_text_add(Main *bmain, const char *name) 
175 {
176         Text *ta;
177         TextLine *tmp;
178         
179         ta = BKE_libblock_alloc(&bmain->text, ID_TXT, name);
180         ta->id.us = 1;
181         
182         ta->name = NULL;
183
184         init_undo_text(ta);
185
186         ta->nlines = 1;
187         ta->flags = TXT_ISDIRTY | TXT_ISMEM;
188         if ((U.flag & USER_TXT_TABSTOSPACES_DISABLE) == 0)
189                 ta->flags |= TXT_TABSTOSPACES;
190
191         ta->lines.first = ta->lines.last = NULL;
192
193         tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
194         tmp->line = (char *) MEM_mallocN(1, "textline_string");
195         tmp->format = NULL;
196         
197         tmp->line[0] = 0;
198         tmp->len = 0;
199                                 
200         tmp->next = NULL;
201         tmp->prev = NULL;
202                                 
203         BLI_addhead(&ta->lines, tmp);
204         
205         ta->curl = ta->lines.first;
206         ta->curc = 0;
207         ta->sell = ta->lines.first;
208         ta->selc = 0;
209
210         return ta;
211 }
212
213 /* this function replaces extended ascii characters */
214 /* to a valid utf-8 sequences */
215 int txt_extended_ascii_as_utf8(char **str)
216 {
217         int bad_char, added = 0, i = 0;
218         int length = strlen(*str);
219
220         while ((*str)[i]) {
221                 if ((bad_char = BLI_utf8_invalid_byte(*str + i, length - i)) == -1)
222                         break;
223
224                 added++;
225                 i += bad_char + 1;
226         }
227         
228         if (added != 0) {
229                 char *newstr = MEM_mallocN(length + added + 1, "text_line");
230                 int mi = 0;
231                 i = 0;
232                 
233                 while ((*str)[i]) {
234                         if ((bad_char = BLI_utf8_invalid_byte((*str) + i, length - i)) == -1) {
235                                 memcpy(newstr + mi, (*str) + i, length - i + 1);
236                                 break;
237                         }
238                         
239                         memcpy(newstr + mi, (*str) + i, bad_char);
240
241                         BLI_str_utf8_from_unicode((*str)[i + bad_char], newstr + mi + bad_char);
242                         i += bad_char + 1;
243                         mi += bad_char + 2;
244                 }
245                 newstr[length + added] = '\0';
246                 MEM_freeN(*str);
247                 *str = newstr;
248         }
249         
250         return added;
251 }
252
253 // this function removes any control characters from
254 // a textline and fixes invalid utf-8 sequences
255
256 static void cleanup_textline(TextLine *tl)
257 {
258         int i;
259
260         for (i = 0; i < tl->len; i++) {
261                 if (tl->line[i] < ' ' && tl->line[i] != '\t') {
262                         memmove(tl->line + i, tl->line + i + 1, tl->len - i);
263                         tl->len--;
264                         i--;
265                 }
266         }
267         tl->len += txt_extended_ascii_as_utf8(&tl->line);
268 }
269
270 int BKE_text_reload(Text *text)
271 {
272         FILE *fp;
273         int i, llen, len;
274         unsigned char *buffer;
275         TextLine *tmp;
276         char str[FILE_MAX];
277         struct stat st;
278
279         if (!text || !text->name) return 0;
280         
281         BLI_strncpy(str, text->name, FILE_MAX);
282         BLI_path_abs(str, G.main->name);
283         
284         fp = BLI_fopen(str, "r");
285         if (fp == NULL) return 0;
286
287         /* free memory: */
288
289         for (tmp = text->lines.first; tmp; tmp = tmp->next) {
290                 MEM_freeN(tmp->line);
291                 if (tmp->format) MEM_freeN(tmp->format);
292         }
293         
294         BLI_freelistN(&text->lines);
295
296         text->lines.first = text->lines.last = NULL;
297         text->curl = text->sell = NULL;
298
299         /* clear undo buffer */
300         MEM_freeN(text->undo_buf);
301         init_undo_text(text);
302         
303         fseek(fp, 0L, SEEK_END);
304         len = ftell(fp);
305         fseek(fp, 0L, SEEK_SET);
306
307         text->undo_pos = -1;
308         
309         buffer = MEM_mallocN(len, "text_buffer");
310         // under windows fread can return less then len bytes because
311         // of CR stripping
312         len = fread(buffer, 1, len, fp);
313
314         fclose(fp);
315
316         stat(str, &st);
317         text->mtime = st.st_mtime;
318         
319         text->nlines = 0;
320         llen = 0;
321         for (i = 0; i < len; i++) {
322                 if (buffer[i] == '\n') {
323                         tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
324                         tmp->line = (char *) MEM_mallocN(llen + 1, "textline_string");
325                         tmp->format = NULL;
326
327                         if (llen) memcpy(tmp->line, &buffer[i - llen], llen);
328                         tmp->line[llen] = 0;
329                         tmp->len = llen;
330                                 
331                         cleanup_textline(tmp);
332
333                         BLI_addtail(&text->lines, tmp);
334                         text->nlines++;
335                                 
336                         llen = 0;
337                         continue;
338                 }
339                 llen++;
340         }
341
342         if (llen != 0 || text->nlines == 0) {
343                 tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
344                 tmp->line = (char *) MEM_mallocN(llen + 1, "textline_string");
345                 tmp->format = NULL;
346                 
347                 if (llen) memcpy(tmp->line, &buffer[i - llen], llen);
348
349                 tmp->line[llen] = 0;
350                 tmp->len = llen;
351                 
352                 cleanup_textline(tmp);
353
354                 BLI_addtail(&text->lines, tmp);
355                 text->nlines++;
356         }
357         
358         text->curl = text->sell = text->lines.first;
359         text->curc = text->selc = 0;
360         
361         MEM_freeN(buffer);
362         return 1;
363 }
364
365 Text *BKE_text_load(Main *bmain, const char *file, const char *relpath)
366 {
367         FILE *fp;
368         int i, llen, len;
369         unsigned char *buffer;
370         TextLine *tmp;
371         Text *ta;
372         char str[FILE_MAX];
373         struct stat st;
374
375         BLI_strncpy(str, file, FILE_MAX);
376         if (relpath) /* can be NULL (bg mode) */
377                 BLI_path_abs(str, relpath);
378         
379         fp = BLI_fopen(str, "r");
380         if (fp == NULL) return NULL;
381         
382         ta = BKE_libblock_alloc(&bmain->text, ID_TXT, BLI_path_basename(str));
383         ta->id.us = 1;
384
385         ta->lines.first = ta->lines.last = NULL;
386         ta->curl = ta->sell = NULL;
387
388         if ((U.flag & USER_TXT_TABSTOSPACES_DISABLE) == 0)
389                 ta->flags = TXT_TABSTOSPACES;
390
391         fseek(fp, 0L, SEEK_END);
392         len = ftell(fp);
393         fseek(fp, 0L, SEEK_SET);
394
395         ta->name = MEM_mallocN(strlen(file) + 1, "text_name");
396         strcpy(ta->name, file);
397
398         init_undo_text(ta);
399         
400         buffer = MEM_mallocN(len, "text_buffer");
401         // under windows fread can return less then len bytes because
402         // of CR stripping
403         len = fread(buffer, 1, len, fp);
404
405         fclose(fp);
406
407         stat(str, &st);
408         ta->mtime = st.st_mtime;
409         
410         ta->nlines = 0;
411         llen = 0;
412         for (i = 0; i < len; i++) {
413                 if (buffer[i] == '\n') {
414                         tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
415                         tmp->line = (char *) MEM_mallocN(llen + 1, "textline_string");
416                         tmp->format = NULL;
417
418                         if (llen) memcpy(tmp->line, &buffer[i - llen], llen);
419                         tmp->line[llen] = 0;
420                         tmp->len = llen;
421                         
422                         cleanup_textline(tmp);
423
424                         BLI_addtail(&ta->lines, tmp);
425                         ta->nlines++;
426                                 
427                         llen = 0;
428                         continue;
429                 }
430                 llen++;
431         }
432
433         /* create new line in cases:
434          * - rest of line (if last line in file hasn't got \n terminator).
435          *   in this case content of such line would be used to fill text line buffer
436          * - file is empty. in this case new line is needed to start editing from.
437          * - last characted in buffer is \n. in this case new line is needed to
438          *   deal with newline at end of file. (see [#28087]) (sergey) */
439         if (llen != 0 || ta->nlines == 0 || buffer[len - 1] == '\n') {
440                 tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
441                 tmp->line = (char *) MEM_mallocN(llen + 1, "textline_string");
442                 tmp->format = NULL;
443                 
444                 if (llen) memcpy(tmp->line, &buffer[i - llen], llen);
445
446                 tmp->line[llen] = 0;
447                 tmp->len = llen;
448                 
449                 cleanup_textline(tmp);
450
451                 BLI_addtail(&ta->lines, tmp);
452                 ta->nlines++;
453         }
454         
455         ta->curl = ta->sell = ta->lines.first;
456         ta->curc = ta->selc = 0;
457         
458         MEM_freeN(buffer);
459
460         return ta;
461 }
462
463 Text *BKE_text_copy(Text *ta)
464 {
465         Text *tan;
466         TextLine *line, *tmp;
467         
468         tan = BKE_libblock_copy(&ta->id);
469         
470         /* file name can be NULL */
471         if (ta->name) {
472                 tan->name = MEM_mallocN(strlen(ta->name) + 1, "text_name");
473                 strcpy(tan->name, ta->name);
474         }
475         else {
476                 tan->name = NULL;
477         }
478
479         tan->flags = ta->flags | TXT_ISDIRTY;
480         
481         tan->lines.first = tan->lines.last = NULL;
482         tan->curl = tan->sell = NULL;
483         
484         tan->nlines = ta->nlines;
485
486         line = ta->lines.first;
487         /* Walk down, reconstructing */
488         while (line) {
489                 tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
490                 tmp->line = MEM_mallocN(line->len + 1, "textline_string");
491                 tmp->format = NULL;
492                 
493                 strcpy(tmp->line, line->line);
494
495                 tmp->len = line->len;
496                 
497                 BLI_addtail(&tan->lines, tmp);
498                 
499                 line = line->next;
500         }
501
502         tan->curl = tan->sell = tan->lines.first;
503         tan->curc = tan->selc = 0;
504
505         init_undo_text(tan);
506
507         return tan;
508 }
509
510 void BKE_text_unlink(Main *bmain, Text *text)
511 {
512         bScreen *scr;
513         ScrArea *area;
514         SpaceLink *sl;
515         Object *ob;
516         bController *cont;
517         bActuator *act;
518         bConstraint *con;
519         bNodeTree *ntree;
520         bNode *node;
521         Material *mat;
522         short update;
523
524         for (ob = bmain->object.first; ob; ob = ob->id.next) {
525                 /* game controllers */
526                 for (cont = ob->controllers.first; cont; cont = cont->next) {
527                         if (cont->type == CONT_PYTHON) {
528                                 bPythonCont *pc;
529                                 
530                                 pc = cont->data;
531                                 if (pc->text == text) pc->text = NULL;
532                         }
533                 }
534                 /* game actuators */
535                 for (act = ob->actuators.first; act; act = act->next) {
536                         if (act->type == ACT_2DFILTER) {
537                                 bTwoDFilterActuator *tfa;
538                                 
539                                 tfa = act->data;
540                                 if (tfa->text == text) tfa->text = NULL;
541                         }
542                 }
543
544                 /* pyconstraints */
545                 update = 0;
546
547                 if (ob->type == OB_ARMATURE && ob->pose) {
548                         bPoseChannel *pchan;
549                         for (pchan = ob->pose->chanbase.first; pchan; pchan = pchan->next) {
550                                 for (con = pchan->constraints.first; con; con = con->next) {
551                                         if (con->type == CONSTRAINT_TYPE_PYTHON) {
552                                                 bPythonConstraint *data = con->data;
553                                                 if (data->text == text) data->text = NULL;
554                                                 update = 1;
555                                                 
556                                         }
557                                 }
558                         }
559                 }
560
561                 for (con = ob->constraints.first; con; con = con->next) {
562                         if (con->type == CONSTRAINT_TYPE_PYTHON) {
563                                 bPythonConstraint *data = con->data;
564                                 if (data->text == text) data->text = NULL;
565                                 update = 1;
566                         }
567                 }
568                 
569                 if (update)
570                         DAG_id_tag_update(&ob->id, OB_RECALC_DATA);
571         }
572         
573         /* nodes */
574         for (mat = bmain->mat.first; mat; mat = mat->id.next) {
575                 ntree = mat->nodetree;
576                 if (!ntree)
577                         continue;
578                 for (node = ntree->nodes.first; node; node = node->next) {
579                         if (node->type == SH_NODE_SCRIPT) {
580                                 Text *ntext = (Text *)node->id;
581                                 if (ntext == text) node->id = NULL;
582                         }
583                 }
584         }
585         
586         for (ntree = bmain->nodetree.first; ntree; ntree = ntree->id.next) {
587                 for (node = ntree->nodes.first; node; node = node->next) {
588                         if (node->type == SH_NODE_SCRIPT) {
589                                 Text *ntext = (Text *)node->id;
590                                 if (ntext == text) node->id = NULL;
591                         }
592                 }
593         }
594         
595         /* text space */
596         for (scr = bmain->screen.first; scr; scr = scr->id.next) {
597                 for (area = scr->areabase.first; area; area = area->next) {
598                         for (sl = area->spacedata.first; sl; sl = sl->next) {
599                                 if (sl->spacetype == SPACE_TEXT) {
600                                         SpaceText *st = (SpaceText *) sl;
601
602                                         if (st->text == text) {
603                                                 st->text = NULL;
604                                                 st->top = 0;
605                                         }
606                                 }
607                         }
608                 }
609         }
610
611         text->id.us = 0;
612 }
613
614 void BKE_text_clear(Text *text) /* called directly from rna */
615 {
616         int oldstate;
617
618         oldstate = txt_get_undostate(  );
619         txt_set_undostate(1);
620         txt_sel_all(text);
621         txt_delete_sel(text);
622         txt_set_undostate(oldstate);
623
624         txt_make_dirty(text);
625 }
626
627 void BKE_text_write(Text *text, const char *str) /* called directly from rna */
628 {
629         int oldstate;
630
631         oldstate = txt_get_undostate();
632         txt_insert_buf(text, str);
633         txt_move_eof(text, 0);
634         txt_set_undostate(oldstate);
635
636         txt_make_dirty(text);
637 }
638
639 /*****************************/
640 /* Editing utility functions */
641 /*****************************/
642
643 static void make_new_line(TextLine *line, char *newline)
644 {
645         if (line->line) MEM_freeN(line->line);
646         if (line->format) MEM_freeN(line->format);
647         
648         line->line = newline;
649         line->len = strlen(newline);
650         line->format = NULL;
651 }
652
653 static TextLine *txt_new_line(const char *str)
654 {
655         TextLine *tmp;
656
657         if (!str) str = "";
658         
659         tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
660         tmp->line = MEM_mallocN(strlen(str) + 1, "textline_string");
661         tmp->format = NULL;
662         
663         strcpy(tmp->line, str);
664         
665         tmp->len = strlen(str);
666         tmp->next = tmp->prev = NULL;
667         
668         return tmp;
669 }
670
671 static TextLine *txt_new_linen(const char *str, int n)
672 {
673         TextLine *tmp;
674
675         tmp = (TextLine *) MEM_mallocN(sizeof(TextLine), "textline");
676         tmp->line = MEM_mallocN(n + 1, "textline_string");
677         tmp->format = NULL;
678         
679         BLI_strncpy(tmp->line, (str) ? str : "", n + 1);
680         
681         tmp->len = strlen(tmp->line);
682         tmp->next = tmp->prev = NULL;
683         
684         return tmp;
685 }
686
687 void txt_clean_text(Text *text)
688 {       
689         TextLine **top, **bot;
690         
691         if (!text) return;
692         
693         if (!text->lines.first) {
694                 if (text->lines.last) text->lines.first = text->lines.last;
695                 else text->lines.first = text->lines.last = txt_new_line(NULL);
696         }
697         
698         if (!text->lines.last) text->lines.last = text->lines.first;
699
700         top = (TextLine **) &text->lines.first;
701         bot = (TextLine **) &text->lines.last;
702         
703         while ((*top)->prev) *top = (*top)->prev;
704         while ((*bot)->next) *bot = (*bot)->next;
705
706         if (!text->curl) {
707                 if (text->sell) text->curl = text->sell;
708                 else text->curl = text->lines.first;
709                 text->curc = 0;
710         }
711
712         if (!text->sell) {
713                 text->sell = text->curl;
714                 text->selc = 0;
715         }
716 }
717
718 int txt_get_span(TextLine *from, TextLine *to)
719 {
720         int ret = 0;
721         TextLine *tmp = from;
722
723         if (!to || !from) return 0;
724         if (from == to) return 0;
725
726         /* Look forwards */
727         while (tmp) {
728                 if (tmp == to) return ret;
729                 ret++;
730                 tmp = tmp->next;
731         }
732
733         /* Look backwards */
734         if (!tmp) {
735                 tmp = from;
736                 ret = 0;
737                 while (tmp) {
738                         if (tmp == to) break;
739                         ret--;
740                         tmp = tmp->prev;
741                 }
742                 if (!tmp) ret = 0;
743         }
744
745         return ret;
746 }
747
748 static void txt_make_dirty(Text *text)
749 {
750         text->flags |= TXT_ISDIRTY;
751 #ifdef WITH_PYTHON
752         if (text->compiled) BPY_text_free_code(text);
753 #endif
754 }
755
756 /****************************/
757 /* Cursor utility functions */
758 /****************************/
759
760 static void txt_curs_cur(Text *text, TextLine ***linep, int **charp)
761 {
762         *linep = &text->curl; *charp = &text->curc;
763 }
764
765 static void txt_curs_sel(Text *text, TextLine ***linep, int **charp)
766 {
767         *linep = &text->sell; *charp = &text->selc;
768 }
769
770 /*****************************/
771 /* Cursor movement functions */
772 /*****************************/
773
774 int txt_utf8_offset_to_index(const char *str, int offset)
775 {
776         int index = 0, pos = 0;
777         while (pos != offset) {
778                 pos += BLI_str_utf8_size(str + pos);
779                 index++;
780         }
781         return index;
782 }
783
784 int txt_utf8_index_to_offset(const char *str, int index)
785 {
786         int offset = 0, pos = 0;
787         while (pos != index) {
788                 offset += BLI_str_utf8_size(str + offset);
789                 pos++;
790         }
791         return offset;
792 }
793
794 /* returns the real number of characters in string */
795 /* not the same as BLI_strlen_utf8, which returns length for wide characters */
796 static int txt_utf8_len(const char *src)
797 {
798         int len;
799
800         for (len = 0; *src; len++) {
801                 src += BLI_str_utf8_size(src);
802         }
803
804         return len;
805 }
806
807 void txt_move_up(Text *text, short sel)
808 {
809         TextLine **linep;
810         int *charp;
811         
812         if (!text) return;
813         if (sel) txt_curs_sel(text, &linep, &charp);
814         else { txt_pop_first(text); txt_curs_cur(text, &linep, &charp); }
815         if (!*linep) return;
816
817         if ((*linep)->prev) {
818                 int index = txt_utf8_offset_to_index((*linep)->line, *charp);
819                 *linep = (*linep)->prev;
820                 if (index > txt_utf8_len((*linep)->line)) *charp = (*linep)->len;
821                 else *charp = txt_utf8_index_to_offset((*linep)->line, index);
822                 
823         }
824         else {
825                 txt_move_bol(text, sel);
826         }
827
828         if (!sel) txt_pop_sel(text);
829 }
830
831 void txt_move_down(Text *text, short sel) 
832 {
833         TextLine **linep;
834         int *charp;
835         
836         if (!text) return;
837         if (sel) txt_curs_sel(text, &linep, &charp);
838         else { txt_pop_last(text); txt_curs_cur(text, &linep, &charp); }
839         if (!*linep) return;
840
841         if ((*linep)->next) {
842                 int index = txt_utf8_offset_to_index((*linep)->line, *charp);
843                 *linep = (*linep)->next;
844                 if (index > txt_utf8_len((*linep)->line)) *charp = (*linep)->len;
845                 else *charp = txt_utf8_index_to_offset((*linep)->line, index);
846         }
847         else {
848                 txt_move_eol(text, sel);
849         }
850
851         if (!sel) txt_pop_sel(text);
852 }
853
854 void txt_move_left(Text *text, short sel) 
855 {
856         TextLine **linep;
857         int *charp;
858         int tabsize = 0, i = 0;
859         
860         if (!text) return;
861         if (sel) txt_curs_sel(text, &linep, &charp);
862         else { txt_pop_first(text); txt_curs_cur(text, &linep, &charp); }
863         if (!*linep) return;
864
865         if (*charp == 0) {
866                 if ((*linep)->prev) {
867                         txt_move_up(text, sel);
868                         *charp = (*linep)->len;
869                 }
870         }
871         else {
872                 // do nice left only if there are only spaces
873                 // TXT_TABSIZE hardcoded in DNA_text_types.h
874                 if (text->flags & TXT_TABSTOSPACES) {
875                         tabsize = (*charp < TXT_TABSIZE) ? *charp : TXT_TABSIZE;
876                         
877                         for (i = 0; i < (*charp); i++)
878                                 if ((*linep)->line[i] != ' ') {
879                                         tabsize = 0;
880                                         break;
881                                 }
882                         
883                         // if in the middle of the space-tab
884                         if (tabsize && (*charp) % TXT_TABSIZE != 0)
885                                 tabsize = ((*charp) % TXT_TABSIZE);
886                 }
887                 
888                 if (tabsize)
889                         (*charp) -= tabsize;
890                 else {
891                         const char *prev = BLI_str_prev_char_utf8((*linep)->line + *charp);
892                         *charp = prev - (*linep)->line;
893                 }
894         }
895
896         if (!sel) txt_pop_sel(text);
897 }
898
899 void txt_move_right(Text *text, short sel) 
900 {
901         TextLine **linep;
902         int *charp, do_tab = FALSE, i;
903         
904         if (!text) return;
905         if (sel) txt_curs_sel(text, &linep, &charp);
906         else { txt_pop_last(text); txt_curs_cur(text, &linep, &charp); }
907         if (!*linep) return;
908
909         if (*charp == (*linep)->len) {
910                 if ((*linep)->next) {
911                         txt_move_down(text, sel);
912                         *charp = 0;
913                 }
914         }
915         else {
916                 // do nice right only if there are only spaces
917                 // spaces hardcoded in DNA_text_types.h
918                 if (text->flags & TXT_TABSTOSPACES && (*linep)->line[*charp] == ' ') {
919                         do_tab = TRUE;
920                         for (i = 0; i < *charp; i++)
921                                 if ((*linep)->line[i] != ' ') {
922                                         do_tab = FALSE;
923                                         break;
924                                 }
925                 }
926                 
927                 if (do_tab) {
928                         int tabsize = (*charp) % TXT_TABSIZE + 1;
929                         for (i = *charp + 1; (*linep)->line[i] == ' ' && tabsize < TXT_TABSIZE; i++)
930                                 tabsize++;
931                         (*charp) = i;
932                 }
933                 else {
934                         (*charp) += BLI_str_utf8_size((*linep)->line + *charp);
935                 }
936         }
937         
938         if (!sel) txt_pop_sel(text);
939 }
940
941 void txt_jump_left(Text *text, bool sel, bool use_init_step)
942 {
943         TextLine **linep;
944         int *charp;
945         
946         if (!text) return;
947         if (sel) txt_curs_sel(text, &linep, &charp);
948         else { txt_pop_first(text); txt_curs_cur(text, &linep, &charp); }
949         if (!*linep) return;
950
951         BLI_str_cursor_step_utf8((*linep)->line, (*linep)->len,
952                                  charp, STRCUR_DIR_PREV,
953                                  STRCUR_JUMP_DELIM, use_init_step);
954         
955         if (!sel) txt_pop_sel(text);
956 }
957
958 void txt_jump_right(Text *text, bool sel, bool use_init_step)
959 {
960         TextLine **linep;
961         int *charp;
962         
963         if (!text) return;
964         if (sel) txt_curs_sel(text, &linep, &charp);
965         else { txt_pop_last(text); txt_curs_cur(text, &linep, &charp); }
966         if (!*linep) return;
967         
968         BLI_str_cursor_step_utf8((*linep)->line, (*linep)->len,
969                                  charp, STRCUR_DIR_NEXT,
970                                  STRCUR_JUMP_DELIM, use_init_step);
971         
972         if (!sel) txt_pop_sel(text);
973 }
974
975 void txt_move_bol(Text *text, short sel)
976 {
977         TextLine **linep;
978         int *charp;
979         
980         if (!text) return;
981         if (sel) txt_curs_sel(text, &linep, &charp);
982         else txt_curs_cur(text, &linep, &charp);
983         if (!*linep) return;
984         
985         *charp = 0;
986
987         if (!sel) txt_pop_sel(text);
988 }
989
990 void txt_move_eol(Text *text, short sel)
991 {
992         TextLine **linep;
993         int *charp;
994         
995         if (!text) return;
996         if (sel) txt_curs_sel(text, &linep, &charp);
997         else txt_curs_cur(text, &linep, &charp);
998         if (!*linep) return;
999
1000         *charp = (*linep)->len;
1001
1002         if (!sel) txt_pop_sel(text);
1003 }
1004
1005 void txt_move_bof(Text *text, short sel)
1006 {
1007         TextLine **linep;
1008         int *charp;
1009         
1010         if (!text) return;
1011         if (sel) txt_curs_sel(text, &linep, &charp);
1012         else txt_curs_cur(text, &linep, &charp);
1013         if (!*linep) return;
1014
1015         *linep = text->lines.first;
1016         *charp = 0;
1017
1018         if (!sel) txt_pop_sel(text);
1019 }
1020
1021 void txt_move_eof(Text *text, short sel)
1022 {
1023         TextLine **linep;
1024         int *charp;
1025         
1026         if (!text) return;
1027         if (sel) txt_curs_sel(text, &linep, &charp);
1028         else txt_curs_cur(text, &linep, &charp);
1029         if (!*linep) return;
1030
1031         *linep = text->lines.last;
1032         *charp = (*linep)->len;
1033
1034         if (!sel) txt_pop_sel(text);
1035 }
1036
1037 void txt_move_toline(Text *text, unsigned int line, short sel)
1038 {
1039         txt_move_to(text, line, 0, sel);
1040 }
1041
1042 /* Moves to a certain byte in a line, not a certain utf8-character! */
1043 void txt_move_to(Text *text, unsigned int line, unsigned int ch, short sel)
1044 {
1045         TextLine **linep;
1046         int *charp;
1047         unsigned int i;
1048         
1049         if (!text) return;
1050         if (sel) txt_curs_sel(text, &linep, &charp);
1051         else txt_curs_cur(text, &linep, &charp);
1052         if (!*linep) return;
1053         
1054         *linep = text->lines.first;
1055         for (i = 0; i < line; i++) {
1056                 if ((*linep)->next) *linep = (*linep)->next;
1057                 else break;
1058         }
1059         if (ch > (unsigned int)((*linep)->len))
1060                 ch = (unsigned int)((*linep)->len);
1061         *charp = ch;
1062         
1063         if (!sel) txt_pop_sel(text);
1064 }
1065
1066 /****************************/
1067 /* Text selection functions */
1068 /****************************/
1069
1070 static void txt_curs_swap(Text *text)
1071 {
1072         TextLine *tmpl;
1073         int tmpc;
1074                 
1075         tmpl = text->curl;
1076         text->curl = text->sell;
1077         text->sell = tmpl;
1078
1079         tmpc = text->curc;
1080         text->curc = text->selc;
1081         text->selc = tmpc;
1082 }
1083
1084 static void txt_pop_first(Text *text)
1085 {
1086                         
1087         if (txt_get_span(text->curl, text->sell) < 0 ||
1088             (text->curl == text->sell && text->curc > text->selc))
1089         {
1090                 txt_curs_swap(text);
1091         }
1092         
1093         txt_pop_sel(text);
1094 }
1095
1096 static void txt_pop_last(Text *text)
1097 {
1098         if (txt_get_span(text->curl, text->sell) > 0 ||
1099             (text->curl == text->sell && text->curc < text->selc))
1100         {
1101                 txt_curs_swap(text);
1102         }
1103         
1104         txt_pop_sel(text);
1105 }
1106
1107 /* never used: CVS 1.19 */
1108 /*  static void txt_pop_selr (Text *text) */
1109
1110 void txt_pop_sel(Text *text)
1111 {
1112         text->sell = text->curl;
1113         text->selc = text->curc;
1114 }
1115
1116 void txt_order_cursors(Text *text)
1117 {
1118         if (!text) return;
1119         if (!text->curl) return;
1120         if (!text->sell) return;
1121         
1122         /* Flip so text->curl is before text->sell */
1123         if ((txt_get_span(text->curl, text->sell) < 0) ||
1124             (text->curl == text->sell && text->curc > text->selc))
1125         {
1126                 txt_curs_swap(text);
1127         }
1128 }
1129
1130 int txt_has_sel(Text *text)
1131 {
1132         return ((text->curl != text->sell) || (text->curc != text->selc));
1133 }
1134
1135 static void txt_delete_sel(Text *text)
1136 {
1137         TextLine *tmpl;
1138         char *buf;
1139         
1140         if (!text) return;
1141         if (!text->curl) return;
1142         if (!text->sell) return;
1143
1144         if (!txt_has_sel(text)) return;
1145         
1146         txt_order_cursors(text);
1147
1148         if (!undoing) {
1149                 buf = txt_sel_to_buf(text);
1150                 txt_undo_add_blockop(text, UNDO_DBLOCK, buf);
1151                 MEM_freeN(buf);
1152         }
1153
1154         buf = MEM_mallocN(text->curc + (text->sell->len - text->selc) + 1, "textline_string");
1155
1156         strncpy(buf, text->curl->line, text->curc);
1157         strcpy(buf + text->curc, text->sell->line + text->selc);
1158         buf[text->curc + (text->sell->len - text->selc)] = 0;
1159
1160         make_new_line(text->curl, buf);
1161         
1162         tmpl = text->sell;
1163         while (tmpl != text->curl) {
1164                 tmpl = tmpl->prev;
1165                 if (!tmpl) break;
1166                 
1167                 txt_delete_line(text, tmpl->next);
1168         }
1169         
1170         text->sell = text->curl;
1171         text->selc = text->curc;
1172 }
1173
1174 void txt_sel_all(Text *text)
1175 {
1176         if (!text) return;
1177
1178         text->curl = text->lines.first;
1179         text->curc = 0;
1180         
1181         text->sell = text->lines.last;
1182         text->selc = text->sell->len;
1183 }
1184
1185 void txt_sel_line(Text *text)
1186 {
1187         if (!text) return;
1188         if (!text->curl) return;
1189         
1190         text->curc = 0;
1191         text->sell = text->curl;
1192         text->selc = text->sell->len;
1193 }
1194
1195 /***************************/
1196 /* Cut and paste functions */
1197 /***************************/
1198
1199 char *txt_to_buf(Text *text)
1200 {
1201         int length;
1202         TextLine *tmp, *linef, *linel;
1203         int charf, charl;
1204         char *buf;
1205         
1206         if (!text) return NULL;
1207         if (!text->curl) return NULL;
1208         if (!text->sell) return NULL;
1209         if (!text->lines.first) return NULL;
1210
1211         linef = text->lines.first;
1212         charf = 0;
1213                 
1214         linel = text->lines.last;
1215         charl = linel->len;
1216
1217         if (linef == text->lines.last) {
1218                 length = charl - charf;
1219
1220                 buf = MEM_mallocN(length + 2, "text buffer");
1221                 
1222                 BLI_strncpy(buf, linef->line + charf, length + 1);
1223                 buf[length] = 0;
1224         }
1225         else {
1226                 length = linef->len - charf;
1227                 length += charl;
1228                 length += 2; /* For the 2 '\n' */
1229                 
1230                 tmp = linef->next;
1231                 while (tmp && tmp != linel) {
1232                         length += tmp->len + 1;
1233                         tmp = tmp->next;
1234                 }
1235                 
1236                 buf = MEM_mallocN(length + 1, "cut buffer");
1237
1238                 strncpy(buf, linef->line + charf, linef->len - charf);
1239                 length = linef->len - charf;
1240                 
1241                 buf[length++] = '\n';
1242                 
1243                 tmp = linef->next;
1244                 while (tmp && tmp != linel) {
1245                         strncpy(buf + length, tmp->line, tmp->len);
1246                         length += tmp->len;
1247                         
1248                         buf[length++] = '\n';
1249                         
1250                         tmp = tmp->next;
1251                 }
1252                 strncpy(buf + length, linel->line, charl);
1253                 length += charl;
1254                 
1255                 /* python compiler wants an empty end line */
1256                 buf[length++] = '\n';
1257                 buf[length] = 0;
1258         }
1259         
1260         return buf;
1261 }
1262
1263 int txt_find_string(Text *text, const char *findstr, int wrap, int match_case)
1264 {
1265         TextLine *tl, *startl;
1266         char *s = NULL;
1267
1268         if (!text || !text->curl || !text->sell) return 0;
1269         
1270         txt_order_cursors(text);
1271
1272         tl = startl = text->sell;
1273         
1274         if (match_case) s = strstr(&tl->line[text->selc], findstr);
1275         else s = BLI_strcasestr(&tl->line[text->selc], findstr);
1276         while (!s) {
1277                 tl = tl->next;
1278                 if (!tl) {
1279                         if (wrap)
1280                                 tl = text->lines.first;
1281                         else
1282                                 break;
1283                 }
1284
1285                 if (match_case) s = strstr(tl->line, findstr);
1286                 else s = BLI_strcasestr(tl->line, findstr);
1287                 if (tl == startl)
1288                         break;
1289         }
1290         
1291         if (s) {
1292                 int newl = txt_get_span(text->lines.first, tl);
1293                 int newc = (int)(s - tl->line);
1294                 txt_move_to(text, newl, newc, 0);
1295                 txt_move_to(text, newl, newc + strlen(findstr), 1);
1296                 return 1;
1297         }
1298         else
1299                 return 0;
1300 }
1301
1302 char *txt_sel_to_buf(Text *text)
1303 {
1304         char *buf;
1305         int length = 0;
1306         TextLine *tmp, *linef, *linel;
1307         int charf, charl;
1308         
1309         if (!text) return NULL;
1310         if (!text->curl) return NULL;
1311         if (!text->sell) return NULL;
1312         
1313         if (text->curl == text->sell) {
1314                 linef = linel = text->curl;
1315                 
1316                 if (text->curc < text->selc) {
1317                         charf = text->curc;
1318                         charl = text->selc;
1319                 }
1320                 else {
1321                         charf = text->selc;
1322                         charl = text->curc;
1323                 }
1324         }
1325         else if (txt_get_span(text->curl, text->sell) < 0) {
1326                 linef = text->sell;
1327                 linel = text->curl;
1328
1329                 charf = text->selc;
1330                 charl = text->curc;
1331         }
1332         else {
1333                 linef = text->curl;
1334                 linel = text->sell;
1335                 
1336                 charf = text->curc;
1337                 charl = text->selc;
1338         }
1339
1340         if (linef == linel) {
1341                 length = charl - charf;
1342
1343                 buf = MEM_mallocN(length + 1, "sel buffer");
1344                 
1345                 BLI_strncpy(buf, linef->line + charf, length + 1);
1346         }
1347         else {
1348                 length += linef->len - charf;
1349                 length += charl;
1350                 length++; /* For the '\n' */
1351                 
1352                 tmp = linef->next;
1353                 while (tmp && tmp != linel) {
1354                         length += tmp->len + 1;
1355                         tmp = tmp->next;
1356                 }
1357                 
1358                 buf = MEM_mallocN(length + 1, "sel buffer");
1359                 
1360                 strncpy(buf, linef->line + charf, linef->len - charf);
1361                 length = linef->len - charf;
1362                 
1363                 buf[length++] = '\n';
1364                 
1365                 tmp = linef->next;
1366                 while (tmp && tmp != linel) {
1367                         strncpy(buf + length, tmp->line, tmp->len);
1368                         length += tmp->len;
1369                         
1370                         buf[length++] = '\n';
1371                         
1372                         tmp = tmp->next;
1373                 }
1374                 strncpy(buf + length, linel->line, charl);
1375                 length += charl;
1376                 
1377                 buf[length] = 0;
1378         }
1379
1380         return buf;
1381 }
1382
1383 void txt_insert_buf(Text *text, const char *in_buffer)
1384 {
1385         int l = 0, u, len;
1386         size_t i = 0, j;
1387         TextLine *add;
1388         char *buffer;
1389
1390         if (!text) return;
1391         if (!in_buffer) return;
1392
1393         txt_delete_sel(text);
1394         
1395         len = strlen(in_buffer);
1396         buffer = BLI_strdupn(in_buffer, len);
1397         len += txt_extended_ascii_as_utf8(&buffer);
1398         
1399         if (!undoing) txt_undo_add_blockop(text, UNDO_IBLOCK, buffer);
1400
1401         u = undoing;
1402         undoing = 1;
1403
1404         /* Read the first line (or as close as possible */
1405         while (buffer[i] && buffer[i] != '\n')
1406                 txt_add_raw_char(text, BLI_str_utf8_as_unicode_step(buffer, &i));
1407         
1408         if (buffer[i] == '\n') txt_split_curline(text);
1409         else { undoing = u; MEM_freeN(buffer); return; }
1410         i++;
1411
1412         while (i < len) {
1413                 l = 0;
1414
1415                 while (buffer[i] && buffer[i] != '\n') {
1416                         i++; l++;
1417                 }
1418         
1419                 if (buffer[i] == '\n') {
1420                         add = txt_new_linen(buffer + (i - l), l);
1421                         BLI_insertlinkbefore(&text->lines, text->curl, add);
1422                         i++;
1423                 }
1424                 else {
1425                         for (j = i - l; j < i && j < len; )
1426                                 txt_add_raw_char(text, BLI_str_utf8_as_unicode_step(buffer, &j));
1427                         break;
1428                 }
1429         }
1430         
1431         MEM_freeN(buffer);
1432
1433         undoing = u;
1434 }
1435
1436 /******************/
1437 /* Undo functions */
1438 /******************/
1439
1440 static int max_undo_test(Text *text, int x)
1441 {
1442         while (text->undo_pos + x >= text->undo_len) {
1443                 if (text->undo_len * 2 > TXT_MAX_UNDO) {
1444                         /* XXX error("Undo limit reached, buffer cleared\n"); */
1445                         MEM_freeN(text->undo_buf);
1446                         init_undo_text(text);
1447                         return 0;
1448                 }
1449                 else {
1450                         void *tmp = text->undo_buf;
1451                         text->undo_buf = MEM_callocN(text->undo_len * 2, "undo buf");
1452                         memcpy(text->undo_buf, tmp, text->undo_len);
1453                         text->undo_len *= 2;
1454                         MEM_freeN(tmp);
1455                 }
1456         }
1457
1458         return 1;
1459 }
1460
1461 static void dump_buffer(Text *text) 
1462 {
1463         int i = 0;
1464         
1465         while (i++ < text->undo_pos) printf("%d: %d %c\n", i, text->undo_buf[i], text->undo_buf[i]);
1466 }
1467
1468 /* Note: this function is outdated and must be updated if needed for future use */
1469 void txt_print_undo(Text *text)
1470 {
1471         int i = 0;
1472         int op;
1473         const char *ops;
1474         int linep, charp;
1475         
1476         dump_buffer(text);
1477         
1478         printf("---< Undo Buffer >---\n");
1479         
1480         printf("UndoPosition is %d\n", text->undo_pos);
1481         
1482         while (i <= text->undo_pos) {
1483                 op = text->undo_buf[i];
1484                 
1485                 if (op == UNDO_INSERT_1) {
1486                         ops = "Insert ascii ";
1487                 }
1488                 else if (op == UNDO_INSERT_2) {
1489                         ops = "Insert 2 bytes ";
1490                 }
1491                 else if (op == UNDO_INSERT_3) {
1492                         ops = "Insert 3 bytes ";
1493                 }
1494                 else if (op == UNDO_INSERT_4) {
1495                         ops = "Insert unicode ";
1496                 }
1497                 else if (op == UNDO_BS_1) {
1498                         ops = "Backspace for ascii ";
1499                 }
1500                 else if (op == UNDO_BS_2) {
1501                         ops = "Backspace for 2 bytes ";
1502                 }
1503                 else if (op == UNDO_BS_3) {
1504                         ops = "Backspace for 3 bytes ";
1505                 }
1506                 else if (op == UNDO_BS_4) {
1507                         ops = "Backspace for unicode ";
1508                 }
1509                 else if (op == UNDO_DEL_1) {
1510                         ops = "Delete ascii ";
1511                 }
1512                 else if (op == UNDO_DEL_2) {
1513                         ops = "Delete 2 bytes ";
1514                 }
1515                 else if (op == UNDO_DEL_3) {
1516                         ops = "Delete 3 bytes ";
1517                 }
1518                 else if (op == UNDO_DEL_4) {
1519                         ops = "Delete unicode ";
1520                 }
1521                 else if (op == UNDO_DBLOCK) {
1522                         ops = "Delete text block";
1523                 }
1524                 else if (op == UNDO_IBLOCK) {
1525                         ops = "Insert text block";
1526                 }
1527                 else if (op == UNDO_INDENT) {
1528                         ops = "Indent ";
1529                 }
1530                 else if (op == UNDO_UNINDENT) {
1531                         ops = "Unindent ";
1532                 }
1533                 else if (op == UNDO_COMMENT) {
1534                         ops = "Comment ";
1535                 }
1536                 else if (op == UNDO_UNCOMMENT) {
1537                         ops = "Uncomment ";
1538                 }
1539                 else {
1540                         ops = "Unknown";
1541                 }
1542                 
1543                 printf("Op (%o) at %d = %s", op, i, ops);
1544                 if (op >= UNDO_INSERT_1 && op <= UNDO_DEL_4) {
1545                         i++;
1546                         printf(" - Char is ");
1547                         switch (op) {
1548                                 case UNDO_INSERT_1: case UNDO_BS_1: case UNDO_DEL_1:
1549                                         printf("%c", text->undo_buf[i]);
1550                                         i++;
1551                                         break;
1552                                 case UNDO_INSERT_2: case UNDO_BS_2: case UNDO_DEL_2:
1553                                         printf("%c%c", text->undo_buf[i], text->undo_buf[i + 1]);
1554                                         i += 2;
1555                                         break;
1556                                 case UNDO_INSERT_3: case UNDO_BS_3: case UNDO_DEL_3:
1557                                         printf("%c%c%c", text->undo_buf[i], text->undo_buf[i + 1], text->undo_buf[i + 2]);
1558                                         i += 3;
1559                                         break;
1560                                 case UNDO_INSERT_4: case UNDO_BS_4: case UNDO_DEL_4:
1561                                 {
1562                                         unsigned int uc;
1563                                         char c[BLI_UTF8_MAX + 1];
1564                                         size_t c_len;
1565                                         uc = text->undo_buf[i]; i++;
1566                                         uc = uc + (text->undo_buf[i] << 8); i++;
1567                                         uc = uc + (text->undo_buf[i] << 16); i++;
1568                                         uc = uc + (text->undo_buf[i] << 24); i++;
1569                                         c_len = BLI_str_utf8_from_unicode(uc, c);
1570                                         c[c_len] = '\0';
1571                                         puts(c);
1572                                 }
1573                         }
1574                 }
1575                 else if (op == UNDO_DBLOCK || op == UNDO_IBLOCK) {
1576                         i++;
1577
1578                         linep = text->undo_buf[i]; i++;
1579                         linep = linep + (text->undo_buf[i] << 8); i++;
1580                         linep = linep + (text->undo_buf[i] << 16); i++;
1581                         linep = linep + (text->undo_buf[i] << 24); i++;
1582                         
1583                         printf(" (length %d) <", linep);
1584                         
1585                         while (linep > 0) {
1586                                 putchar(text->undo_buf[i]);
1587                                 linep--; i++;
1588                         }
1589                         
1590                         linep = text->undo_buf[i]; i++;
1591                         linep = linep + (text->undo_buf[i] << 8); i++;
1592                         linep = linep + (text->undo_buf[i] << 16); i++;
1593                         linep = linep + (text->undo_buf[i] << 24); i++;
1594                         printf("> (%d)", linep);
1595                 }
1596                 else if (op == UNDO_INDENT || op == UNDO_UNINDENT) {
1597                         i++;
1598
1599                         charp = text->undo_buf[i]; i++;
1600                         charp = charp + (text->undo_buf[i] << 8); i++;
1601
1602                         linep = text->undo_buf[i]; i++;
1603                         linep = linep + (text->undo_buf[i] << 8); i++;
1604                         linep = linep + (text->undo_buf[i] << 16); i++;
1605                         linep = linep + (text->undo_buf[i] << 24); i++;
1606                         
1607                         printf("to <%d, %d> ", linep, charp);
1608
1609                         charp = text->undo_buf[i]; i++;
1610                         charp = charp + (text->undo_buf[i] << 8); i++;
1611
1612                         linep = text->undo_buf[i]; i++;
1613                         linep = linep + (text->undo_buf[i] << 8); i++;
1614                         linep = linep + (text->undo_buf[i] << 16); i++;
1615                         linep = linep + (text->undo_buf[i] << 24); i++;
1616                         
1617                         printf("from <%d, %d>", linep, charp);
1618                 }
1619                 
1620                 printf(" %d\n",  i);
1621                 i++;
1622         }
1623 }
1624
1625 static void txt_undo_store_uint16(char *undo_buf, int *undo_pos, unsigned short value) 
1626 {
1627         undo_buf[*undo_pos] = (value) & 0xff;
1628         (*undo_pos)++;
1629         undo_buf[*undo_pos] = (value >> 8) & 0xff;
1630         (*undo_pos)++;
1631 }
1632
1633 static void txt_undo_store_uint32(char *undo_buf, int *undo_pos, unsigned int value) 
1634 {
1635         undo_buf[*undo_pos] = (value) & 0xff;
1636         (*undo_pos)++;
1637         undo_buf[*undo_pos] = (value >> 8) & 0xff;
1638         (*undo_pos)++;
1639         undo_buf[*undo_pos] = (value >> 16) & 0xff;
1640         (*undo_pos)++;
1641         undo_buf[*undo_pos] = (value >> 24) & 0xff;
1642         (*undo_pos)++;
1643 }
1644
1645 /* store the cur cursor to the undo buffer */
1646 static void txt_undo_store_cur(Text *text)
1647 {
1648         txt_undo_store_uint16(text->undo_buf, &text->undo_pos, text->curc);
1649         txt_undo_store_uint32(text->undo_buf, &text->undo_pos, txt_get_span(text->lines.first, text->curl));
1650 }
1651
1652 /* store the sel cursor to the undo buffer */
1653 static void txt_undo_store_sel(Text *text)
1654 {
1655         txt_undo_store_uint16(text->undo_buf, &text->undo_pos, text->selc);
1656         txt_undo_store_uint32(text->undo_buf, &text->undo_pos, txt_get_span(text->lines.first, text->sell));
1657 }
1658
1659 /* store both cursors to the undo buffer */
1660 static void txt_undo_store_cursors(Text *text)
1661 {
1662         txt_undo_store_cur(text);
1663         txt_undo_store_sel(text);
1664 }
1665
1666 /* store an operator along with a block of data */
1667 static void txt_undo_add_blockop(Text *text, int op, const char *buf)
1668 {
1669         unsigned int length = strlen(buf);
1670         
1671         if (!max_undo_test(text, length + 11 + 12))
1672                 return;
1673
1674         text->undo_pos++;
1675         text->undo_buf[text->undo_pos] = op;
1676         text->undo_pos++;
1677         
1678         txt_undo_store_cursors(text);
1679
1680         txt_undo_store_uint32(text->undo_buf, &text->undo_pos, length);
1681         
1682         strncpy(text->undo_buf + text->undo_pos, buf, length);
1683         text->undo_pos += length;
1684
1685         txt_undo_store_uint32(text->undo_buf, &text->undo_pos, length);
1686         text->undo_buf[text->undo_pos] = op;
1687         
1688         text->undo_buf[text->undo_pos + 1] = 0;
1689 }
1690
1691 /* store a regular operator */
1692 void txt_undo_add_op(Text *text, int op)
1693 {
1694         if (!max_undo_test(text, 15))
1695                 return;
1696
1697         text->undo_pos++;
1698         text->undo_buf[text->undo_pos] = op;
1699
1700         text->undo_pos++;
1701         
1702         txt_undo_store_cursors(text);
1703                 
1704         text->undo_buf[text->undo_pos] = op;
1705         text->undo_buf[text->undo_pos + 1] = 0;
1706 }
1707
1708 /* store an operator for a single character */
1709 static void txt_undo_add_charop(Text *text, int op_start, unsigned int c)
1710 {
1711         char utf8[BLI_UTF8_MAX];
1712         size_t i, utf8_size = BLI_str_utf8_from_unicode(c, utf8);
1713         
1714         if (!max_undo_test(text, 3 + utf8_size + 12))
1715                 return;
1716         
1717         text->undo_pos++;
1718         
1719         if (utf8_size < 4) {
1720                 text->undo_buf[text->undo_pos] = op_start + utf8_size - 1;
1721                 text->undo_pos++;
1722                 
1723                 txt_undo_store_cur(text);
1724
1725                 for (i = 0; i < utf8_size; i++) {
1726                         text->undo_buf[text->undo_pos] = utf8[i];
1727                         text->undo_pos++;
1728                 }
1729                 
1730                 text->undo_buf[text->undo_pos] = op_start + utf8_size - 1;
1731         }
1732         else {
1733                 text->undo_buf[text->undo_pos] = op_start + 3;
1734                 text->undo_pos++;
1735
1736                 txt_undo_store_cursors(text);
1737
1738                 txt_undo_store_uint32(text->undo_buf, &text->undo_pos, c);
1739                 text->undo_buf[text->undo_pos] = op_start + 3;
1740         }
1741         
1742         text->undo_buf[text->undo_pos + 1] = 0;
1743 }
1744
1745 static unsigned short txt_undo_read_uint16(const char *undo_buf, int *undo_pos)
1746 {
1747         unsigned short val;
1748         val = undo_buf[*undo_pos]; (*undo_pos)--;
1749         val = (val << 8) + undo_buf[*undo_pos]; (*undo_pos)--;
1750         return val;
1751 }
1752
1753 static unsigned int txt_undo_read_uint32(const char *undo_buf, int *undo_pos)
1754 {
1755         unsigned int val;
1756         val = undo_buf[*undo_pos]; (*undo_pos)--;
1757         val = (val << 8) + undo_buf[*undo_pos]; (*undo_pos)--;
1758         val = (val << 8) + undo_buf[*undo_pos]; (*undo_pos)--;
1759         val = (val << 8) + undo_buf[*undo_pos]; (*undo_pos)--;
1760         return val;
1761 }
1762
1763 /* read the cur cursor from the undo buffer */
1764 static void txt_undo_read_cur(const char *undo_buf, int *undo_pos, unsigned int *curln, unsigned short *curc)
1765 {
1766         *curln = txt_undo_read_uint32(undo_buf, undo_pos);
1767         *curc  = txt_undo_read_uint16(undo_buf, undo_pos);
1768 }
1769
1770 /* read the sel cursor from the undo buffer */
1771 static void txt_undo_read_sel(const char *undo_buf, int *undo_pos, unsigned int *selln, unsigned short *selc)
1772 {
1773         *selln = txt_undo_read_uint32(undo_buf, undo_pos);
1774         *selc  = txt_undo_read_uint16(undo_buf, undo_pos);
1775 }
1776
1777 /* read both cursors from the undo buffer */
1778 static void txt_undo_read_cursors(const char *undo_buf, int *undo_pos,
1779                                   unsigned int *curln, unsigned short *curc,
1780                                   unsigned int *selln, unsigned short *selc)
1781 {
1782         txt_undo_read_sel(undo_buf, undo_pos, selln, selc);
1783         txt_undo_read_cur(undo_buf, undo_pos, curln, curc);
1784 }
1785
1786 static unsigned int txt_undo_read_unicode(const char *undo_buf, int *undo_pos, short bytes)
1787 {
1788         unsigned int unicode;
1789         char utf8[BLI_UTF8_MAX + 1];
1790         
1791         switch (bytes) {
1792                 case 1: /* ascii */
1793                         unicode = undo_buf[*undo_pos]; (*undo_pos)--; 
1794                         break;
1795                 case 2: /* 2-byte symbol */
1796                         utf8[2] = '\0';
1797                         utf8[1] = undo_buf[*undo_pos]; (*undo_pos)--;
1798                         utf8[0] = undo_buf[*undo_pos]; (*undo_pos)--;
1799                         unicode = BLI_str_utf8_as_unicode(utf8);
1800                         break;
1801                 case 3: /* 3-byte symbol */
1802                         utf8[3] = '\0';
1803                         utf8[2] = undo_buf[*undo_pos]; (*undo_pos)--;
1804                         utf8[1] = undo_buf[*undo_pos]; (*undo_pos)--;
1805                         utf8[0] = undo_buf[*undo_pos]; (*undo_pos)--;
1806                         unicode = BLI_str_utf8_as_unicode(utf8);
1807                         break;
1808                 case 4: /* 32-bit unicode symbol */
1809                         unicode = txt_undo_read_uint32(undo_buf, undo_pos);
1810                         break;
1811                 default:
1812                         /* should never happen */
1813                         BLI_assert(0);
1814                         unicode = 0;
1815         }
1816         
1817         return unicode;
1818 }
1819
1820 static unsigned short txt_redo_read_uint16(const char *undo_buf, int *undo_pos)
1821 {
1822         unsigned short val;
1823         val = undo_buf[*undo_pos]; (*undo_pos)++;
1824         val = val + (undo_buf[*undo_pos] << 8); (*undo_pos)++;
1825         return val;
1826 }
1827
1828 static unsigned int txt_redo_read_uint32(const char *undo_buf, int *undo_pos)
1829 {
1830         unsigned int val;
1831         val = undo_buf[*undo_pos]; (*undo_pos)++;
1832         val = val + (undo_buf[*undo_pos] << 8); (*undo_pos)++;
1833         val = val + (undo_buf[*undo_pos] << 16); (*undo_pos)++;
1834         val = val + (undo_buf[*undo_pos] << 24); (*undo_pos)++;
1835         return val;
1836 }
1837
1838 /* redo read cur cursor from the undo buffer */
1839 static void txt_redo_read_cur(const char *undo_buf, int *undo_pos, unsigned int *curln, unsigned short *curc)
1840 {
1841         *curc  = txt_redo_read_uint16(undo_buf, undo_pos);
1842         *curln = txt_redo_read_uint32(undo_buf, undo_pos);
1843 }
1844
1845 /* redo read sel cursor from the undo buffer */
1846 static void txt_redo_read_sel(const char *undo_buf, int *undo_pos, unsigned int *selln, unsigned short *selc)
1847 {
1848         *selc  = txt_redo_read_uint16(undo_buf, undo_pos);
1849         *selln = txt_redo_read_uint32(undo_buf, undo_pos);
1850 }
1851
1852 /* redo read both cursors from the undo buffer */
1853 static void txt_redo_read_cursors(const char *undo_buf, int *undo_pos,
1854                                   unsigned int *curln, unsigned short *curc,
1855                                   unsigned int *selln, unsigned short *selc)
1856 {
1857         txt_redo_read_cur(undo_buf, undo_pos, curln, curc);
1858         txt_redo_read_sel(undo_buf, undo_pos, selln, selc);
1859 }
1860
1861 static unsigned int txt_redo_read_unicode(const char *undo_buf, int *undo_pos, short bytes)
1862 {
1863         unsigned int unicode;
1864         char utf8[BLI_UTF8_MAX + 1];
1865         
1866         switch (bytes) {
1867                 case 1: /* ascii */
1868                         unicode = undo_buf[*undo_pos]; (*undo_pos)++; 
1869                         break;
1870                 case 2: /* 2-byte symbol */
1871                         utf8[0] = undo_buf[*undo_pos]; (*undo_pos)++;
1872                         utf8[1] = undo_buf[*undo_pos]; (*undo_pos)++;
1873                         utf8[2] = '\0';
1874                         unicode = BLI_str_utf8_as_unicode(utf8);
1875                         break;
1876                 case 3: /* 3-byte symbol */
1877                         utf8[0] = undo_buf[*undo_pos]; (*undo_pos)++;
1878                         utf8[1] = undo_buf[*undo_pos]; (*undo_pos)++;
1879                         utf8[2] = undo_buf[*undo_pos]; (*undo_pos)++;
1880                         utf8[3] = '\0';
1881                         unicode = BLI_str_utf8_as_unicode(utf8);
1882                         break;
1883                 case 4: /* 32-bit unicode symbol */
1884                         unicode = txt_undo_read_uint32(undo_buf, undo_pos);
1885                         break;
1886                 default:
1887                         /* should never happen */
1888                         BLI_assert(0);
1889                         unicode = 0;
1890         }
1891         
1892         return unicode;
1893 }
1894
1895 void txt_do_undo(Text *text)
1896 {
1897         int op = text->undo_buf[text->undo_pos];
1898         unsigned int linep, i;
1899         unsigned int uchar;
1900         unsigned int curln, selln;
1901         unsigned short curc, selc;
1902         unsigned short charp;
1903         char *buf;
1904         
1905         if (text->undo_pos < 0) {
1906                 return;
1907         }
1908
1909         text->undo_pos--;
1910
1911         undoing = 1;
1912         
1913         switch (op) {
1914                 case UNDO_INSERT_1:
1915                 case UNDO_INSERT_2:
1916                 case UNDO_INSERT_3:
1917                 case UNDO_INSERT_4:
1918                         text->undo_pos -= op - UNDO_INSERT_1 + 1;
1919                         
1920                         /* get and restore the cursors */
1921                         txt_undo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
1922                         txt_move_to(text, curln, curc, 0);
1923                         txt_move_to(text, curln, curc, 1);
1924                         
1925                         txt_delete_char(text);
1926                         
1927                         text->undo_pos--;
1928                         break;
1929
1930                 case UNDO_BS_1:
1931                 case UNDO_BS_2:
1932                 case UNDO_BS_3:
1933                 case UNDO_BS_4:
1934                         charp = op - UNDO_BS_1 + 1;
1935                         uchar = txt_undo_read_unicode(text->undo_buf, &text->undo_pos, charp);
1936                         
1937                         /* get and restore the cursors */
1938                         txt_undo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
1939                         txt_move_to(text, curln, curc, 0);
1940                         txt_move_to(text, curln, curc, 1);
1941                         
1942                         txt_add_char(text, uchar);
1943
1944                         text->undo_pos--;
1945                         break;
1946
1947                 case UNDO_DEL_1:
1948                 case UNDO_DEL_2:
1949                 case UNDO_DEL_3:
1950                 case UNDO_DEL_4:
1951                         charp = op - UNDO_DEL_1 + 1;
1952                         uchar = txt_undo_read_unicode(text->undo_buf, &text->undo_pos, charp);
1953
1954                         /* get and restore the cursors */
1955                         txt_undo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
1956                         txt_move_to(text, curln, curc, 0);
1957                         txt_move_to(text, curln, curc, 1);
1958
1959                         txt_add_char(text, uchar);
1960
1961                         txt_move_left(text, 0);
1962
1963                         text->undo_pos--;
1964                         break;
1965
1966                 case UNDO_DBLOCK:
1967                         /* length of the string in the buffer */
1968                         linep = txt_undo_read_uint32(text->undo_buf, &text->undo_pos);
1969
1970                         buf = MEM_mallocN(linep + 1, "dblock buffer");
1971                         for (i = 0; i < linep; i++) {
1972                                 buf[(linep - 1) - i] = text->undo_buf[text->undo_pos];
1973                                 text->undo_pos--;
1974                         }
1975                         buf[i] = 0;
1976
1977                         /* skip over the length that was stored again */
1978                         text->undo_pos--;
1979                         text->undo_pos--;
1980                         text->undo_pos--; 
1981                         text->undo_pos--;
1982
1983                         /* Get the cursor positions */
1984                         txt_undo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
1985
1986                         /* move cur to location that needs buff inserted */
1987                         txt_move_to(text, curln, curc, 0);
1988                         
1989                         txt_insert_buf(text, buf);
1990                         MEM_freeN(buf);
1991
1992                         /* restore the cursors */
1993                         txt_move_to(text, curln, curc, 0);
1994                         txt_move_to(text, selln, selc, 1);
1995
1996                         text->undo_pos--;
1997                         
1998                         break;
1999
2000                 case UNDO_IBLOCK:
2001                         /* length of the string in the buffer */
2002                         linep = txt_undo_read_uint32(text->undo_buf, &text->undo_pos);
2003                         
2004                         /* txt_backspace_char removes utf8-characters, not bytes */
2005                         buf = MEM_mallocN(linep + 1, "iblock buffer");
2006                         for (i = 0; i < linep; i++) {
2007                                 buf[(linep - 1) - i] = text->undo_buf[text->undo_pos];
2008                                 text->undo_pos--;
2009                         }
2010                         buf[i] = 0;
2011                         linep = txt_utf8_len(buf);
2012                         MEM_freeN(buf);
2013                         
2014                         /* skip over the length that was stored again */
2015                         text->undo_pos--;
2016                         text->undo_pos--;
2017                         text->undo_pos--;
2018                         text->undo_pos--;
2019
2020                         /* get and restore the cursors */
2021                         txt_undo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
2022                         
2023                         txt_move_to(text, curln, curc, 0);
2024                         txt_move_to(text, selln, selc, 1);
2025                         
2026                         if ((curln == selln) && (curc == selc)) {
2027                                 for (i = 0; i < linep; i++)
2028                                         txt_move_right(text, 1);
2029                         }
2030                         
2031                         txt_delete_selected(text);
2032                         
2033                         text->undo_pos--;
2034                         break;
2035                 case UNDO_INDENT:
2036                 case UNDO_UNINDENT:
2037                 case UNDO_COMMENT:
2038                 case UNDO_UNCOMMENT:
2039                 case UNDO_DUPLICATE:
2040                 case UNDO_MOVE_LINES_UP:
2041                 case UNDO_MOVE_LINES_DOWN:
2042                         /* get and restore the cursors */
2043                         txt_undo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
2044                         txt_move_to(text, curln, curc, 0);
2045                         txt_move_to(text, selln, selc, 1);
2046                         
2047                         if (op == UNDO_INDENT) {
2048                                 txt_unindent(text);
2049                         }
2050                         else if (op == UNDO_UNINDENT) {
2051                                 txt_indent(text);
2052                         }
2053                         else if (op == UNDO_COMMENT) {
2054                                 txt_uncomment(text);
2055                         }
2056                         else if (op == UNDO_UNCOMMENT) {
2057                                 txt_comment(text);
2058                         }
2059                         else if (op == UNDO_DUPLICATE) {
2060                                 txt_delete_line(text, text->curl->next);
2061                         }
2062                         else if (op == UNDO_MOVE_LINES_UP) {
2063                                 txt_move_lines(text, TXT_MOVE_LINE_DOWN);
2064                         }
2065                         else if (op == UNDO_MOVE_LINES_DOWN) {
2066                                 txt_move_lines(text, TXT_MOVE_LINE_UP);
2067                         }
2068                         
2069                         text->undo_pos--;
2070                         break;
2071                 default:
2072                         //XXX error("Undo buffer error - resetting");
2073                         text->undo_pos = -1;
2074                         
2075                         break;
2076         }
2077         
2078         undoing = 0;
2079 }
2080
2081 void txt_do_redo(Text *text)
2082 {
2083         char op;
2084         char *buf;
2085         unsigned int linep;
2086         unsigned short charp;
2087         unsigned int uchar;
2088         unsigned int curln, selln;
2089         unsigned short curc, selc;
2090         
2091         text->undo_pos++;
2092         op = text->undo_buf[text->undo_pos];
2093         
2094         if (!op) {
2095                 text->undo_pos--;
2096                 return;
2097         }
2098         
2099         undoing = 1;
2100
2101         switch (op) {
2102                 case UNDO_INSERT_1:
2103                 case UNDO_INSERT_2:
2104                 case UNDO_INSERT_3:
2105                 case UNDO_INSERT_4:
2106                         text->undo_pos++;
2107                         
2108                         /* get and restore the cursors */
2109                         txt_redo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
2110                         txt_move_to(text, curln, curc, 0);
2111                         txt_move_to(text, curln, curc, 1);
2112                         
2113                         charp = op - UNDO_INSERT_1 + 1;
2114                         uchar = txt_redo_read_unicode(text->undo_buf, &text->undo_pos, charp);
2115
2116                         txt_add_char(text, uchar);
2117                         break;
2118
2119                 case UNDO_BS_1:
2120                 case UNDO_BS_2:
2121                 case UNDO_BS_3:
2122                 case UNDO_BS_4:
2123                         text->undo_pos++;
2124
2125                         /* get and restore the cursors */
2126                         txt_redo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
2127                         txt_move_to(text, curln, curc, 0);
2128                         txt_move_to(text, curln, curc, 1);
2129
2130                         text->undo_pos += op - UNDO_BS_1 + 1;
2131                         
2132                         /* move right so we backspace the correct char */
2133                         txt_move_right(text, 0);
2134                         txt_backspace_char(text);
2135
2136                         break;
2137
2138                 case UNDO_DEL_1:
2139                 case UNDO_DEL_2:
2140                 case UNDO_DEL_3:
2141                 case UNDO_DEL_4:
2142                         text->undo_pos++;
2143
2144                         /* get and restore the cursors */
2145                         txt_redo_read_cur(text->undo_buf, &text->undo_pos, &curln, &curc);
2146                         txt_move_to(text, curln, curc, 0);
2147                         txt_move_to(text, curln, curc, 1);
2148                         
2149                         text->undo_pos += op - UNDO_DEL_1 + 1;
2150
2151                         txt_delete_char(text);
2152
2153                         break;
2154
2155                 case UNDO_DBLOCK:
2156                         text->undo_pos++;
2157
2158                         /* get and restore the cursors */
2159                         txt_redo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
2160                         txt_move_to(text, curln, curc, 0);
2161                         txt_move_to(text, selln, selc, 1);
2162
2163                         /* length of the block */
2164                         linep = txt_redo_read_uint32(text->undo_buf, &text->undo_pos);
2165                         
2166                         text->undo_pos += linep;
2167
2168                         /* skip over the length that was stored again */
2169                         text->undo_pos++;
2170                         text->undo_pos++;
2171                         text->undo_pos++; 
2172                         text->undo_pos++;
2173                         
2174                         txt_delete_sel(text);
2175
2176                         break;
2177
2178                 case UNDO_IBLOCK:
2179                         text->undo_pos++;
2180
2181                         /* get and restore the cursors */
2182                         txt_redo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
2183                         txt_move_to(text, curln, curc, 0);
2184                         txt_move_to(text, curln, curc, 1);
2185
2186                         /* length of the block */
2187                         linep = txt_redo_read_uint32(text->undo_buf, &text->undo_pos);
2188
2189                         buf = MEM_mallocN(linep + 1, "iblock buffer");
2190                         memcpy(buf, &text->undo_buf[text->undo_pos], linep);
2191                         text->undo_pos += linep;
2192                         buf[linep] = 0;
2193                         
2194                         txt_insert_buf(text, buf);
2195                         MEM_freeN(buf);
2196
2197                         /* skip over the length that was stored again */
2198                         text->undo_pos++;
2199                         text->undo_pos++;
2200                         text->undo_pos++; 
2201                         text->undo_pos++;
2202
2203                         break;
2204                         
2205                 case UNDO_INDENT:
2206                 case UNDO_UNINDENT:
2207                 case UNDO_COMMENT:
2208                 case UNDO_UNCOMMENT:
2209                 case UNDO_DUPLICATE:
2210                 case UNDO_MOVE_LINES_UP:
2211                 case UNDO_MOVE_LINES_DOWN:
2212                         text->undo_pos++;
2213
2214                         /* get and restore the cursors */
2215                         txt_redo_read_cursors(text->undo_buf, &text->undo_pos, &curln, &curc, &selln, &selc);
2216                         txt_move_to(text, curln, curc, 0);
2217                         txt_move_to(text, selln, selc, 1);
2218
2219                         if (op == UNDO_INDENT) {
2220                                 txt_indent(text);
2221                         }
2222                         else if (op == UNDO_UNINDENT) {
2223                                 txt_unindent(text);
2224                         }
2225                         else if (op == UNDO_COMMENT) {
2226                                 txt_comment(text);
2227                         }
2228                         else if (op == UNDO_UNCOMMENT) {
2229                                 txt_uncomment(text);
2230                         }
2231                         else if (op == UNDO_DUPLICATE) {
2232                                 txt_duplicate_line(text);
2233                         }
2234                         else if (op == UNDO_MOVE_LINES_UP) {
2235                                 /* offset the cursor by + 1 */
2236                                 txt_move_to(text, curln + 1, curc, 0);
2237                                 txt_move_to(text, selln + 1, selc, 1);
2238
2239                                 txt_move_lines(text, TXT_MOVE_LINE_UP);
2240                         }
2241                         else if (op == UNDO_MOVE_LINES_DOWN) {
2242                                 /* offset the cursor by - 1 */
2243                                 txt_move_to(text, curln - 1, curc, 0);
2244                                 txt_move_to(text, selln - 1, selc, 1);
2245
2246                                 txt_move_lines(text, TXT_MOVE_LINE_DOWN);
2247                         }
2248
2249                         /* re-restore the cursors since they got moved when redoing */
2250                         txt_move_to(text, curln, curc, 0);
2251                         txt_move_to(text, selln, selc, 1);
2252
2253                         break;
2254                 default:
2255                         //XXX error("Undo buffer error - resetting");
2256                         text->undo_pos = -1;
2257                         
2258                         break;
2259         }
2260         
2261         undoing = 0;
2262 }
2263
2264 /**************************/
2265 /* Line editing functions */ 
2266 /**************************/
2267
2268 void txt_split_curline(Text *text)
2269 {
2270         TextLine *ins;
2271         char *left, *right;
2272         
2273         if (!text) return;
2274         if (!text->curl) return;
2275
2276         txt_delete_sel(text);
2277
2278         if (!undoing) txt_undo_add_charop(text, UNDO_INSERT_1, '\n');
2279         
2280         /* Make the two half strings */
2281
2282         left = MEM_mallocN(text->curc + 1, "textline_string");
2283         if (text->curc) memcpy(left, text->curl->line, text->curc);
2284         left[text->curc] = 0;
2285         
2286         right = MEM_mallocN(text->curl->len - text->curc + 1, "textline_string");
2287         memcpy(right, text->curl->line + text->curc, text->curl->len - text->curc + 1);
2288
2289         MEM_freeN(text->curl->line);
2290         if (text->curl->format) MEM_freeN(text->curl->format);
2291
2292         /* Make the new TextLine */
2293         
2294         ins = MEM_mallocN(sizeof(TextLine), "textline");
2295         ins->line = left;
2296         ins->format = NULL;
2297         ins->len = text->curc;
2298
2299         text->curl->line = right;
2300         text->curl->format = NULL;
2301         text->curl->len = text->curl->len - text->curc;
2302         
2303         BLI_insertlinkbefore(&text->lines, text->curl, ins);
2304         
2305         text->curc = 0;
2306         
2307         txt_make_dirty(text);
2308         txt_clean_text(text);
2309         
2310         txt_pop_sel(text);
2311 }
2312
2313 static void txt_delete_line(Text *text, TextLine *line)
2314 {
2315         if (!text) return;
2316         if (!text->curl) return;
2317
2318         BLI_remlink(&text->lines, line);
2319         
2320         if (line->line) MEM_freeN(line->line);
2321         if (line->format) MEM_freeN(line->format);
2322
2323         MEM_freeN(line);
2324
2325         txt_make_dirty(text);
2326         txt_clean_text(text);
2327 }
2328
2329 static void txt_combine_lines(Text *text, TextLine *linea, TextLine *lineb)
2330 {
2331         char *tmp;
2332
2333         if (!text) return;
2334         
2335         if (!linea || !lineb) return;
2336
2337
2338         tmp = MEM_mallocN(linea->len + lineb->len + 1, "textline_string");
2339         
2340         strcpy(tmp, linea->line);
2341         strcat(tmp, lineb->line);
2342
2343         make_new_line(linea, tmp);
2344         
2345         txt_delete_line(text, lineb);
2346         
2347         txt_make_dirty(text);
2348         txt_clean_text(text);
2349 }
2350
2351 void txt_duplicate_line(Text *text)
2352 {
2353         TextLine *textline;
2354         
2355         if (!text || !text->curl) return;
2356         
2357         if (text->curl == text->sell) {
2358                 textline = txt_new_line(text->curl->line);
2359                 BLI_insertlinkafter(&text->lines, text->curl, textline);
2360                 
2361                 txt_make_dirty(text);
2362                 txt_clean_text(text);
2363                 
2364                 if (!undoing) txt_undo_add_op(text, UNDO_DUPLICATE);
2365         }
2366 }
2367
2368 void txt_delete_char(Text *text) 
2369 {
2370         unsigned int c = '\n';
2371         
2372         if (!text) return;
2373         if (!text->curl) return;
2374
2375         if (txt_has_sel(text)) { /* deleting a selection */
2376                 txt_delete_sel(text);
2377                 txt_make_dirty(text);
2378                 return;
2379         }
2380         else if (text->curc == text->curl->len) { /* Appending two lines */
2381                 if (text->curl->next) {
2382                         txt_combine_lines(text, text->curl, text->curl->next);
2383                         txt_pop_sel(text);
2384                 }
2385                 else
2386                         return;
2387         }
2388         else { /* Just deleting a char */
2389                 size_t c_len = 0;
2390                 c = BLI_str_utf8_as_unicode_and_size(text->curl->line + text->curc, &c_len);
2391                 
2392                 memmove(text->curl->line + text->curc, text->curl->line + text->curc + c_len, text->curl->len - text->curc - c_len + 1);
2393
2394                 text->curl->len -= c_len;
2395
2396                 txt_pop_sel(text);
2397         }
2398
2399         txt_make_dirty(text);
2400         txt_clean_text(text);
2401         
2402         if (!undoing) txt_undo_add_charop(text, UNDO_DEL_1, c);
2403 }
2404
2405 void txt_delete_word(Text *text)
2406 {
2407         txt_jump_right(text, true, true);
2408         txt_delete_sel(text);
2409 }
2410
2411 void txt_backspace_char(Text *text)
2412 {
2413         unsigned int c = '\n';
2414         
2415         if (!text) return;
2416         if (!text->curl) return;
2417         
2418         if (txt_has_sel(text)) { /* deleting a selection */
2419                 txt_delete_sel(text);
2420                 txt_make_dirty(text);
2421                 return;
2422         }
2423         else if (text->curc == 0) { /* Appending two lines */
2424                 if (!text->curl->prev) return;
2425                 
2426                 text->curl = text->curl->prev;
2427                 text->curc = text->curl->len;
2428                 
2429                 txt_combine_lines(text, text->curl, text->curl->next);
2430                 txt_pop_sel(text);
2431         }
2432         else { /* Just backspacing a char */
2433                 size_t c_len = 0;
2434                 char *prev = BLI_str_prev_char_utf8(text->curl->line + text->curc);
2435                 c = BLI_str_utf8_as_unicode_and_size(prev, &c_len);
2436                 
2437                 /* source and destination overlap, don't use memcpy() */
2438                 memmove(text->curl->line + text->curc - c_len,
2439                         text->curl->line + text->curc,
2440                         text->curl->len  - text->curc + 1);
2441
2442                 text->curl->len -= c_len;
2443                 text->curc -= c_len;
2444
2445                 txt_pop_sel(text);
2446         }
2447
2448         txt_make_dirty(text);
2449         txt_clean_text(text);
2450         
2451         if (!undoing) txt_undo_add_charop(text, UNDO_BS_1, c);
2452 }
2453
2454 void txt_backspace_word(Text *text)
2455 {
2456         txt_jump_left(text, true, true);
2457         txt_delete_sel(text);
2458 }
2459
2460 /* Max spaces to replace a tab with, currently hardcoded to TXT_TABSIZE = 4.
2461  * Used by txt_convert_tab_to_spaces, indent and unindent.
2462  * Remember to change this string according to max tab size */
2463 static char tab_to_spaces[] = "    ";
2464
2465 static void txt_convert_tab_to_spaces(Text *text)
2466 {
2467         /* sb aims to pad adjust the tab-width needed so that the right number of spaces
2468          * is added so that the indention of the line is the right width (i.e. aligned
2469          * to multiples of TXT_TABSIZE)
2470          */
2471         char *sb = &tab_to_spaces[text->curc % TXT_TABSIZE];
2472         txt_insert_buf(text, sb);
2473 }
2474
2475 static int txt_add_char_intern(Text *text, unsigned int add, int replace_tabs)
2476 {
2477         char *tmp, ch[BLI_UTF8_MAX];
2478         size_t add_len;
2479         
2480         if (!text) return 0;
2481         if (!text->curl) return 0;
2482
2483         if (add == '\n') {
2484                 txt_split_curline(text);
2485                 return 1;
2486         }
2487         
2488         /* insert spaces rather than tabs */
2489         if (add == '\t' && replace_tabs) {
2490                 txt_convert_tab_to_spaces(text);
2491                 return 1;
2492         }
2493
2494         txt_delete_sel(text);
2495         
2496         if (!undoing) txt_undo_add_charop(text, UNDO_INSERT_1, add);
2497
2498         add_len = BLI_str_utf8_from_unicode(add, ch);
2499         
2500         tmp = MEM_mallocN(text->curl->len + add_len + 1, "textline_string");
2501         
2502         memcpy(tmp, text->curl->line, text->curc);
2503         memcpy(tmp + text->curc, ch, add_len);
2504         memcpy(tmp + text->curc + add_len, text->curl->line + text->curc, text->curl->len - text->curc + 1);
2505
2506         make_new_line(text->curl, tmp);
2507                 
2508         text->curc += add_len;
2509
2510         txt_pop_sel(text);
2511         
2512         txt_make_dirty(text);
2513         txt_clean_text(text);
2514
2515         return 1;
2516 }
2517
2518 int txt_add_char(Text *text, unsigned int add)
2519 {
2520         return txt_add_char_intern(text, add, text->flags & TXT_TABSTOSPACES);
2521 }
2522
2523 int txt_add_raw_char(Text *text, unsigned int add)
2524 {
2525         return txt_add_char_intern(text, add, 0);
2526 }
2527
2528 void txt_delete_selected(Text *text)
2529 {
2530         txt_delete_sel(text);
2531         txt_make_dirty(text);
2532 }
2533
2534 int txt_replace_char(Text *text, unsigned int add)
2535 {
2536         unsigned int del;
2537         size_t del_size = 0, add_size;
2538         char ch[BLI_UTF8_MAX];
2539         
2540         if (!text) return 0;
2541         if (!text->curl) return 0;
2542
2543         /* If text is selected or we're at the end of the line just use txt_add_char */
2544         if (text->curc == text->curl->len || txt_has_sel(text) || add == '\n') {
2545                 return txt_add_char(text, add);
2546         }
2547         
2548         del = BLI_str_utf8_as_unicode_and_size(text->curl->line + text->curc, &del_size);
2549         add_size = BLI_str_utf8_from_unicode(add, ch);
2550         
2551         if (add_size > del_size) {
2552                 char *tmp = MEM_mallocN(text->curl->len + add_size - del_size + 1, "textline_string");
2553                 memcpy(tmp, text->curl->line, text->curc);
2554                 memcpy(tmp + text->curc + add_size, text->curl->line + text->curc + del_size, text->curl->len - text->curc - del_size + 1);
2555                 MEM_freeN(text->curl->line);
2556                 text->curl->line = tmp;
2557         }
2558         else if (add_size < del_size) {
2559                 char *tmp = text->curl->line;
2560                 memmove(tmp + text->curc + add_size, tmp + text->curc + del_size, text->curl->len - text->curc - del_size + 1);
2561         }
2562         
2563         memcpy(text->curl->line + text->curc, ch, add_size);
2564         text->curc += add_size;
2565         text->curl->len += add_size - del_size;
2566         
2567         txt_pop_sel(text);
2568         txt_make_dirty(text);
2569         txt_clean_text(text);
2570
2571         /* Should probably create a new op for this */
2572         if (!undoing) {
2573                 txt_undo_add_charop(text, UNDO_INSERT_1, add);
2574                 txt_undo_add_charop(text, UNDO_DEL_1, del);
2575         }
2576         return 1;
2577 }
2578
2579 void txt_indent(Text *text)
2580 {
2581         int len, num, curc_old;
2582         char *tmp;
2583
2584         const char *add = "\t";
2585         int indentlen = 1;
2586         
2587         /* hardcoded: TXT_TABSIZE = 4 spaces: */
2588         int spaceslen = TXT_TABSIZE;
2589
2590         if (ELEM3(NULL, text, text->curl, text->sell)) {
2591                 return;
2592         }
2593
2594         if (!text) return;
2595         if (!text->curl) return;
2596         if (!text->sell) return;
2597
2598         /* insert spaces rather than tabs */
2599         if (text->flags & TXT_TABSTOSPACES) {
2600                 add = tab_to_spaces;
2601                 indentlen = spaceslen;
2602         }
2603
2604         curc_old = text->curc;
2605
2606         num = 0;
2607         while (TRUE) {
2608                 tmp = MEM_mallocN(text->curl->len + indentlen + 1, "textline_string");
2609                 
2610                 text->curc = 0; 
2611                 if (text->curc) memcpy(tmp, text->curl->line, text->curc);  /* XXX never true, check prev line */
2612                 memcpy(tmp + text->curc, add, indentlen);
2613                 
2614                 len = text->curl->len - text->curc;
2615                 if (len > 0) memcpy(tmp + text->curc + indentlen, text->curl->line + text->curc, len);
2616                 tmp[text->curl->len + indentlen] = 0;
2617
2618                 make_new_line(text->curl, tmp);
2619                         
2620                 text->curc += indentlen;
2621                 
2622                 txt_make_dirty(text);
2623                 txt_clean_text(text);
2624                 
2625                 if (text->curl == text->sell) {
2626                         text->selc += indentlen;
2627                         break;
2628                 }
2629                 else {
2630                         text->curl = text->curl->next;
2631                         num++;
2632                 }
2633         }
2634         if (!curc_old) text->curc = 0;
2635         else text->curc = curc_old + indentlen;
2636
2637         while (num > 0) {
2638                 text->curl = text->curl->prev;
2639                 num--;
2640         }
2641         
2642         if (!undoing) {
2643                 txt_undo_add_op(text, UNDO_INDENT);
2644         }
2645 }
2646
2647 void txt_unindent(Text *text)
2648 {
2649         int num = 0;
2650         const char *remove = "\t";
2651         int indentlen = 1;
2652         int unindented_first = FALSE;
2653         
2654         /* hardcoded: TXT_TABSIZE = 4 spaces: */
2655         int spaceslen = TXT_TABSIZE;
2656
2657         if (!text) return;
2658         if (!text->curl) return;
2659         if (!text->sell) return;
2660
2661         /* insert spaces rather than tabs */
2662         if (text->flags & TXT_TABSTOSPACES) {
2663                 remove = tab_to_spaces;
2664                 indentlen = spaceslen;
2665         }
2666
2667         while (TRUE) {
2668                 int i = 0;
2669                 
2670                 if (BLI_strncasecmp(text->curl->line, remove, indentlen) == 0) {
2671                         if (num == 0) unindented_first = TRUE;
2672                         while (i < text->curl->len) {
2673                                 text->curl->line[i] = text->curl->line[i + indentlen];
2674                                 i++;
2675                         }
2676                         text->curl->len -= indentlen;
2677                 }
2678         
2679                 txt_make_dirty(text);
2680                 txt_clean_text(text);
2681                 
2682                 if (text->curl == text->sell) {
2683                         if (i > 0) text->selc = MAX2(text->selc - indentlen, 0);
2684                         break;
2685                 }
2686                 else {
2687                         text->curl = text->curl->next;
2688                         num++;
2689                 }
2690                 
2691         }
2692
2693         if (unindented_first) text->curc = MAX2(text->curc - indentlen, 0);
2694
2695         while (num > 0) {
2696                 text->curl = text->curl->prev;
2697                 num--;
2698         }
2699         
2700         if (!undoing) {
2701                 txt_undo_add_op(text, UNDO_UNINDENT);
2702         }
2703 }
2704
2705 void txt_comment(Text *text)
2706 {
2707         int len, num;
2708         char *tmp;
2709         char add = '#';
2710         
2711         if (!text) return;
2712         if (!text->curl) return;
2713         if (!text->sell) return;  // Need to change this need to check if only one line is selected to more then one
2714
2715         num = 0;
2716         while (TRUE) {
2717                 tmp = MEM_mallocN(text->curl->len + 2, "textline_string");
2718                 
2719                 text->curc = 0; 
2720                 if (text->curc) memcpy(tmp, text->curl->line, text->curc);
2721                 tmp[text->curc] = add;
2722                 
2723                 len = text->curl->len - text->curc;
2724                 if (len > 0) memcpy(tmp + text->curc + 1, text->curl->line + text->curc, len);
2725                 tmp[text->curl->len + 1] = 0;
2726
2727                 make_new_line(text->curl, tmp);
2728                         
2729                 text->curc++;
2730                 
2731                 txt_make_dirty(text);
2732                 txt_clean_text(text);
2733                 
2734                 if (text->curl == text->sell) {
2735                         text->selc = text->sell->len;
2736                         break;
2737                 }
2738                 else {
2739                         text->curl = text->curl->next;
2740                         num++;
2741                 }
2742         }
2743         text->curc = 0;
2744         while (num > 0) {
2745                 text->curl = text->curl->prev;
2746                 num--;
2747         }
2748         
2749         if (!undoing) {
2750                 txt_undo_add_op(text, UNDO_COMMENT);
2751         }
2752 }
2753
2754 void txt_uncomment(Text *text)
2755 {
2756         int num = 0;
2757         char remove = '#';
2758         
2759         if (!text) return;
2760         if (!text->curl) return;
2761         if (!text->sell) return;
2762
2763         while (TRUE) {
2764                 int i = 0;
2765                 
2766                 if (text->curl->line[i] == remove) {
2767                         while (i < text->curl->len) {
2768                                 text->curl->line[i] = text->curl->line[i + 1];
2769                                 i++;
2770                         }
2771                         text->curl->len--;
2772                 }
2773                          
2774         
2775                 txt_make_dirty(text);
2776                 txt_clean_text(text);
2777                 
2778                 if (text->curl == text->sell) {
2779                         text->selc = text->sell->len;
2780                         break;
2781                 }
2782                 else {
2783                         text->curl = text->curl->next;
2784                         num++;
2785                 }
2786                 
2787         }
2788         text->curc = 0;
2789         while (num > 0) {
2790                 text->curl = text->curl->prev;
2791                 num--;
2792         }
2793         
2794         if (!undoing) {
2795                 txt_undo_add_op(text, UNDO_UNCOMMENT);
2796         }
2797 }
2798
2799 void txt_move_lines(struct Text *text, const int direction)
2800 {
2801         TextLine *line_other;
2802
2803         BLI_assert(ELEM(direction, TXT_MOVE_LINE_UP, TXT_MOVE_LINE_DOWN));
2804
2805         if (!text || !text->curl || !text->sell) return;
2806         
2807         txt_order_cursors(text);
2808
2809         line_other =  (direction == TXT_MOVE_LINE_DOWN) ? text->sell->next : text->curl->prev;
2810         
2811         if (!line_other) return;
2812                 
2813         BLI_remlink(&text->lines, line_other);
2814
2815         if (direction == TXT_MOVE_LINE_DOWN) {
2816                 BLI_insertlinkbefore(&text->lines, text->curl, line_other);
2817         }
2818         else {
2819                 BLI_insertlinkafter(&text->lines, text->sell, line_other);
2820         }
2821
2822         txt_make_dirty(text);
2823         txt_clean_text(text);
2824         
2825         if (!undoing) {
2826                 txt_undo_add_op(text, (direction == TXT_MOVE_LINE_DOWN) ? UNDO_MOVE_LINES_DOWN : UNDO_MOVE_LINES_UP);
2827         }
2828 }
2829
2830 int setcurr_tab_spaces(Text *text, int space)
2831 {
2832         int i = 0;
2833         int test = 0;
2834         const char *word = ":";
2835         const char *comm = "#";
2836         const char indent = (text->flags & TXT_TABSTOSPACES) ? ' ' : '\t';
2837         static const char *back_words[] = {"return", "break", "continue", "pass", "yield", NULL};
2838         if (!text->curl) return 0;
2839
2840         while (text->curl->line[i] == indent) {
2841                 //we only count those tabs/spaces that are before any text or before the curs;
2842                 if (i == text->curc) {
2843                         return i;
2844                 }
2845                 else {
2846                         i++;
2847                 }
2848         }
2849         if (strstr(text->curl->line, word)) {
2850                 /* if we find a ':' on this line, then add a tab but not if it is:
2851                  *  1) in a comment
2852                  *  2) within an identifier
2853                  *      3) after the cursor (text->curc), i.e. when creating space before a function def [#25414] 
2854                  */
2855                 int a, is_indent = 0;
2856                 for (a = 0; (a < text->curc) && (text->curl->line[a] != '\0'); a++) {
2857                         char ch = text->curl->line[a];
2858                         if (ch == '#') {
2859                                 break;
2860                         }
2861                         else if (ch == ':') {
2862                                 is_indent = 1;
2863                         }
2864                         else if (ch != ' ' && ch != '\t') {
2865                                 is_indent = 0;
2866                         }
2867                 }
2868                 if (is_indent) {
2869                         i += space;
2870                 }
2871         }
2872
2873         for (test = 0; back_words[test]; test++) {
2874                 /* if there are these key words then remove a tab because we are done with the block */
2875                 if (strstr(text->curl->line, back_words[test]) && i > 0) {
2876                         if (strcspn(text->curl->line, back_words[test]) < strcspn(text->curl->line, comm)) {
2877                                 i -= space;
2878                         }
2879                 }
2880         }
2881         return i;
2882 }
2883
2884 /*******************************/
2885 /* Character utility functions */
2886 /*******************************/
2887
2888 int text_check_bracket(const char ch)
2889 {
2890         int a;
2891         char opens[] = "([{";
2892         char close[] = ")]}";
2893
2894         for (a = 0; a < (sizeof(opens) - 1); a++) {
2895                 if (ch == opens[a])
2896                         return a + 1;
2897                 else if (ch == close[a])
2898                         return -(a + 1);
2899         }
2900         return 0;
2901 }
2902
2903 /* TODO, have a function for operators - http://docs.python.org/py3k/reference/lexical_analysis.html#operators */
2904 int text_check_delim(const char ch)
2905 {
2906         int a;
2907         char delims[] = "():\"\' ~!%^&*-+=[]{};/<>|.#\t,@";
2908
2909         for (a = 0; a < (sizeof(delims) - 1); a++) {
2910                 if (ch == delims[a])
2911                         return 1;
2912         }
2913         return 0;
2914 }
2915
2916 int text_check_digit(const char ch)
2917 {
2918         if (ch < '0') return 0;
2919         if (ch <= '9') return 1;
2920         return 0;
2921 }
2922
2923 int text_check_identifier(const char ch)
2924 {
2925         if (ch < '0') return 0;
2926         if (ch <= '9') return 1;
2927         if (ch < 'A') return 0;
2928         if (ch <= 'Z' || ch == '_') return 1;
2929         if (ch < 'a') return 0;
2930         if (ch <= 'z') return 1;
2931         return 0;
2932 }
2933
2934 int text_check_identifier_nodigit(const char ch)
2935 {
2936         if (ch <= '9') return 0;
2937         if (ch < 'A') return 0;
2938         if (ch <= 'Z' || ch == '_') return 1;
2939         if (ch < 'a') return 0;
2940         if (ch <= 'z') return 1;
2941         return 0;
2942 }
2943
2944 #ifndef WITH_PYTHON
2945 int text_check_identifier_unicode(const unsigned int ch)
2946 {
2947         return (ch < 255 && text_check_identifier((char)ch));
2948 }
2949
2950 int text_check_identifier_nodigit_unicode(const unsigned int ch)
2951 {
2952         return (ch < 255 && text_check_identifier_nodigit((char)ch));
2953 }
2954 #endif  /* WITH_PYTHON */
2955
2956 int text_check_whitespace(const char ch)
2957 {
2958         if (ch == ' ' || ch == '\t' || ch == '\r' || ch == '\n')
2959                 return 1;
2960         return 0;
2961 }
2962
2963 int text_find_identifier_start(const char *str, int i)
2964 {
2965         if (UNLIKELY(i <= 0)) {
2966                 return 0;
2967         }
2968
2969         while (i--) {
2970                 if (!text_check_identifier(str[i])) {
2971                         break;
2972                 }
2973         }
2974         i++;
2975         return i;
2976 }