Branch data Line data Source code
1 : : /* SPDX-License-Identifier: LGPL-2.1+ */
2 : :
3 : : #include "alloc-util.h"
4 : : #include "string-util.h"
5 : : #include "strv.h"
6 : : #include "utf8.h"
7 : : #include "util.h"
8 : :
9 : 4 : static void test_utf8_is_printable(void) {
10 [ + - ]: 4 : log_info("/* %s */", __func__);
11 : :
12 [ - + ]: 4 : assert_se(utf8_is_printable("ascii is valid\tunicode", 22));
13 [ - + ]: 4 : assert_se(utf8_is_printable("\342\204\242", 3));
14 [ - + ]: 4 : assert_se(!utf8_is_printable("\341\204", 2));
15 [ - + ]: 4 : assert_se(utf8_is_printable("ąę", 4));
16 : 4 : }
17 : :
18 : 4 : static void test_utf8_is_valid(void) {
19 [ + - ]: 4 : log_info("/* %s */", __func__);
20 : :
21 [ - + ]: 4 : assert_se(utf8_is_valid("ascii is valid unicode"));
22 [ - + ]: 4 : assert_se(utf8_is_valid("\342\204\242"));
23 [ - + ]: 4 : assert_se(!utf8_is_valid("\341\204"));
24 : 4 : }
25 : :
26 : 4 : static void test_ascii_is_valid(void) {
27 [ + - ]: 4 : log_info("/* %s */", __func__);
28 : :
29 [ - + ]: 4 : assert_se( ascii_is_valid("alsdjf\t\vbarr\nba z"));
30 [ - + ]: 4 : assert_se(!ascii_is_valid("\342\204\242"));
31 [ - + ]: 4 : assert_se(!ascii_is_valid("\341\204"));
32 : 4 : }
33 : :
34 : 4 : static void test_ascii_is_valid_n(void) {
35 [ + - ]: 4 : log_info("/* %s */", __func__);
36 : :
37 [ - + ]: 4 : assert_se( ascii_is_valid_n("alsdjf\t\vbarr\nba z", 17));
38 [ - + ]: 4 : assert_se( ascii_is_valid_n("alsdjf\t\vbarr\nba z", 16));
39 [ - + ]: 4 : assert_se(!ascii_is_valid_n("alsdjf\t\vbarr\nba z", 18));
40 [ - + ]: 4 : assert_se(!ascii_is_valid_n("\342\204\242", 3));
41 [ - + ]: 4 : assert_se(!ascii_is_valid_n("\342\204\242", 2));
42 [ - + ]: 4 : assert_se(!ascii_is_valid_n("\342\204\242", 1));
43 [ - + ]: 4 : assert_se( ascii_is_valid_n("\342\204\242", 0));
44 : 4 : }
45 : :
46 : 4 : static void test_utf8_encoded_valid_unichar(void) {
47 [ + - ]: 4 : log_info("/* %s */", __func__);
48 : :
49 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\342\204\242", 1) == -EINVAL); /* truncated */
50 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\342\204\242", 2) == -EINVAL); /* truncated */
51 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\342\204\242", 3) == 3);
52 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\342\204\242", 4) == 3);
53 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\302\256", 1) == -EINVAL); /* truncated */
54 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\302\256", 2) == 2);
55 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\302\256", 3) == 2);
56 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\302\256", (size_t) -1) == 2);
57 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("a", 1) == 1);
58 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("a", 2) == 1);
59 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\341\204", 1) == -EINVAL); /* truncated, potentially valid */
60 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\341\204", 2) == -EINVAL); /* truncated, potentially valid */
61 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\341\204", 3) == -EINVAL);
62 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\341\204\341\204", 4) == -EINVAL);
63 [ - + ]: 4 : assert_se(utf8_encoded_valid_unichar("\341\204\341\204", 5) == -EINVAL);
64 : 4 : }
65 : :
66 : 4 : static void test_utf8_escape_invalid(void) {
67 : 4 : _cleanup_free_ char *p1, *p2, *p3;
68 : :
69 [ + - ]: 4 : log_info("/* %s */", __func__);
70 : :
71 : 4 : p1 = utf8_escape_invalid("goo goo goo");
72 : 4 : puts(p1);
73 [ - + ]: 4 : assert_se(utf8_is_valid(p1));
74 : :
75 : 4 : p2 = utf8_escape_invalid("\341\204\341\204");
76 : 4 : puts(p2);
77 [ - + ]: 4 : assert_se(utf8_is_valid(p2));
78 : :
79 : 4 : p3 = utf8_escape_invalid("\341\204");
80 : 4 : puts(p3);
81 [ - + ]: 4 : assert_se(utf8_is_valid(p3));
82 : 4 : }
83 : :
84 : 4 : static void test_utf8_escape_non_printable(void) {
85 : 4 : _cleanup_free_ char *p1, *p2, *p3, *p4, *p5, *p6;
86 : :
87 [ + - ]: 4 : log_info("/* %s */", __func__);
88 : :
89 : 4 : p1 = utf8_escape_non_printable("goo goo goo");
90 : 4 : puts(p1);
91 [ - + ]: 4 : assert_se(utf8_is_valid(p1));
92 : :
93 : 4 : p2 = utf8_escape_non_printable("\341\204\341\204");
94 : 4 : puts(p2);
95 [ - + ]: 4 : assert_se(utf8_is_valid(p2));
96 : :
97 : 4 : p3 = utf8_escape_non_printable("\341\204");
98 : 4 : puts(p3);
99 [ - + ]: 4 : assert_se(utf8_is_valid(p3));
100 : :
101 : 4 : p4 = utf8_escape_non_printable("ąę\n가너도루\n1234\n\341\204\341\204\n\001 \019\20\a");
102 : 4 : puts(p4);
103 [ - + ]: 4 : assert_se(utf8_is_valid(p4));
104 : :
105 : 4 : p5 = utf8_escape_non_printable("\001 \019\20\a");
106 : 4 : puts(p5);
107 [ - + ]: 4 : assert_se(utf8_is_valid(p5));
108 : :
109 : 4 : p6 = utf8_escape_non_printable("\xef\xbf\x30\x13");
110 : 4 : puts(p6);
111 [ - + ]: 4 : assert_se(utf8_is_valid(p6));
112 : 4 : }
113 : :
114 : 4 : static void test_utf8_escape_non_printable_full(void) {
115 [ + - ]: 4 : log_info("/* %s */", __func__);
116 : :
117 [ + + ]: 84 : for (size_t i = 0; i < 20; i++) {
118 : 80 : _cleanup_free_ char *p;
119 : :
120 : 80 : p = utf8_escape_non_printable_full("goo goo goo", i);
121 : 80 : puts(p);
122 [ - + ]: 80 : assert_se(utf8_is_valid(p));
123 [ - + ]: 80 : assert_se(utf8_console_width(p) <= i);
124 : : }
125 : :
126 [ + + ]: 84 : for (size_t i = 0; i < 20; i++) {
127 : 80 : _cleanup_free_ char *p;
128 : :
129 : 80 : p = utf8_escape_non_printable_full("\001 \019\20\a", i);
130 : 80 : puts(p);
131 [ - + ]: 80 : assert_se(utf8_is_valid(p));
132 [ - + ]: 80 : assert_se(utf8_console_width(p) <= i);
133 : : }
134 : :
135 [ + + ]: 84 : for (size_t i = 0; i < 20; i++) {
136 : 80 : _cleanup_free_ char *p;
137 : :
138 : 80 : p = utf8_escape_non_printable_full("\xef\xbf\x30\x13", i);
139 : 80 : puts(p);
140 [ - + ]: 80 : assert_se(utf8_is_valid(p));
141 [ - + ]: 80 : assert_se(utf8_console_width(p) <= i);
142 : : }
143 : 4 : }
144 : :
145 : 4 : static void test_utf16_to_utf8(void) {
146 : 4 : const char16_t utf16[] = { htole16('a'), htole16(0xd800), htole16('b'), htole16(0xdc00), htole16('c'), htole16(0xd801), htole16(0xdc37) };
147 : : static const char utf8[] = { 'a', 'b', 'c', 0xf0, 0x90, 0x90, 0xb7 };
148 : 4 : _cleanup_free_ char16_t *b = NULL;
149 : 4 : _cleanup_free_ char *a = NULL;
150 : :
151 [ + - ]: 4 : log_info("/* %s */", __func__);
152 : :
153 : : /* Convert UTF-16 to UTF-8, filtering embedded bad chars */
154 : 4 : a = utf16_to_utf8(utf16, sizeof(utf16));
155 [ - + ]: 4 : assert_se(a);
156 [ - + ]: 4 : assert_se(memcmp(a, utf8, sizeof(utf8)) == 0);
157 : :
158 : : /* Convert UTF-8 to UTF-16, and back */
159 : 4 : b = utf8_to_utf16(utf8, sizeof(utf8));
160 [ - + ]: 4 : assert_se(b);
161 : :
162 : 4 : free(a);
163 : 4 : a = utf16_to_utf8(b, char16_strlen(b) * 2);
164 [ - + ]: 4 : assert_se(a);
165 [ - + ]: 4 : assert_se(strlen(a) == sizeof(utf8));
166 [ - + ]: 4 : assert_se(memcmp(a, utf8, sizeof(utf8)) == 0);
167 : 4 : }
168 : :
169 : 4 : static void test_utf8_n_codepoints(void) {
170 [ + - ]: 4 : log_info("/* %s */", __func__);
171 : :
172 [ - + ]: 4 : assert_se(utf8_n_codepoints("abc") == 3);
173 [ - + ]: 4 : assert_se(utf8_n_codepoints("zażółcić gęślą jaźń") == 19);
174 [ - + ]: 4 : assert_se(utf8_n_codepoints("串") == 1);
175 [ - + ]: 4 : assert_se(utf8_n_codepoints("") == 0);
176 [ - + ]: 4 : assert_se(utf8_n_codepoints("…👊🔪💐…") == 5);
177 [ - + ]: 4 : assert_se(utf8_n_codepoints("\xF1") == (size_t) -1);
178 : 4 : }
179 : :
180 : 4 : static void test_utf8_console_width(void) {
181 [ + - ]: 4 : log_info("/* %s */", __func__);
182 : :
183 [ - + ]: 4 : assert_se(utf8_console_width("abc") == 3);
184 [ - + ]: 4 : assert_se(utf8_console_width("zażółcić gęślą jaźń") == 19);
185 [ - + ]: 4 : assert_se(utf8_console_width("串") == 2);
186 [ - + ]: 4 : assert_se(utf8_console_width("") == 0);
187 [ - + ]: 4 : assert_se(utf8_console_width("…👊🔪💐…") == 8);
188 [ - + ]: 4 : assert_se(utf8_console_width("\xF1") == (size_t) -1);
189 : 4 : }
190 : :
191 : 4 : static void test_utf8_to_utf16(void) {
192 : : const char *p;
193 : :
194 [ + - ]: 4 : log_info("/* %s */", __func__);
195 : :
196 [ + + ]: 24 : FOREACH_STRING(p,
197 : : "abc",
198 : : "zażółcić gęślą jaźń",
199 : : "串",
200 : : "",
201 : : "…👊🔪💐…") {
202 : :
203 : 20 : _cleanup_free_ char16_t *a = NULL;
204 : 20 : _cleanup_free_ char *b = NULL;
205 : :
206 : 20 : a = utf8_to_utf16(p, strlen(p));
207 [ - + ]: 20 : assert_se(a);
208 : :
209 : 20 : b = utf16_to_utf8(a, char16_strlen(a) * 2);
210 [ - + ]: 20 : assert_se(b);
211 [ - + ]: 20 : assert_se(streq(p, b));
212 : : }
213 : 4 : }
214 : :
215 : 4 : int main(int argc, char *argv[]) {
216 : 4 : test_utf8_is_valid();
217 : 4 : test_utf8_is_printable();
218 : 4 : test_ascii_is_valid();
219 : 4 : test_ascii_is_valid_n();
220 : 4 : test_utf8_encoded_valid_unichar();
221 : 4 : test_utf8_escape_invalid();
222 : 4 : test_utf8_escape_non_printable();
223 : 4 : test_utf8_escape_non_printable_full();
224 : 4 : test_utf16_to_utf8();
225 : 4 : test_utf8_n_codepoints();
226 : 4 : test_utf8_console_width();
227 : 4 : test_utf8_to_utf16();
228 : :
229 : 4 : return 0;
230 : : }
|
