Absolute File Name: | /home/opencoverage/opencoverage/guest-scripts/libressl/src/crypto/rsa/rsa_ameth.c |
Switch to Source code | Preprocessed file |
Line | Source | Count | ||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | - | |||||||||||||
2 | - | |||||||||||||
3 | - | |||||||||||||
4 | - | |||||||||||||
5 | - | |||||||||||||
6 | - | |||||||||||||
7 | static int | - | ||||||||||||
8 | rsa_pub_encode(X509_PUBKEY *pk, const EVP_PKEY *pkey) | - | ||||||||||||
9 | { | - | ||||||||||||
10 | unsigned char *penc = | - | ||||||||||||
11 | ((void *)0) | - | ||||||||||||
12 | ; | - | ||||||||||||
13 | int penclen; | - | ||||||||||||
14 | - | |||||||||||||
15 | penclen = i2d_RSAPublicKey(pkey->pkey.rsa, &penc); | - | ||||||||||||
16 | if (penclen <= 0
| 0-2 | ||||||||||||
17 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
18 | if (X509_PUBKEY_set0_param(pk, OBJ_nid2obj(6),
| 0-2 | ||||||||||||
19 | 5,
| 0-2 | ||||||||||||
20 | ((void *)0)
| 0-2 | ||||||||||||
21 | , penc, penclen)
| 0-2 | ||||||||||||
22 | return executed 2 times by 1 test: 1;return 1; Executed by:
executed 2 times by 1 test: return 1; Executed by:
| 2 | ||||||||||||
23 | - | |||||||||||||
24 | free(penc); | - | ||||||||||||
25 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
26 | } | - | ||||||||||||
27 | - | |||||||||||||
28 | static int | - | ||||||||||||
29 | rsa_pub_decode(EVP_PKEY *pkey, X509_PUBKEY *pubkey) | - | ||||||||||||
30 | { | - | ||||||||||||
31 | const unsigned char *p; | - | ||||||||||||
32 | int pklen; | - | ||||||||||||
33 | RSA *rsa = | - | ||||||||||||
34 | ((void *)0) | - | ||||||||||||
35 | ; | - | ||||||||||||
36 | - | |||||||||||||
37 | if (!X509_PUBKEY_get0_param(
| 0-187 | ||||||||||||
38 | ((void *)0)
| 0-187 | ||||||||||||
39 | , &p, &pklen,
| 0-187 | ||||||||||||
40 | ((void *)0)
| 0-187 | ||||||||||||
41 | , pubkey)
| 0-187 | ||||||||||||
42 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
43 | if (!(rsa = d2i_RSAPublicKey(
| 0-187 | ||||||||||||
44 | ((void *)0)
| 0-187 | ||||||||||||
45 | , &p, pklen))
| 0-187 | ||||||||||||
46 | ERR_put_error(4,(0xfff),(4),__FILE__,99); | - | ||||||||||||
47 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
48 | } | - | ||||||||||||
49 | EVP_PKEY_assign((pkey),6, (char *)(rsa)); | - | ||||||||||||
50 | return executed 187 times by 5 tests: 1;return 1; Executed by:
executed 187 times by 5 tests: return 1; Executed by:
| 187 | ||||||||||||
51 | } | - | ||||||||||||
52 | - | |||||||||||||
53 | static int | - | ||||||||||||
54 | rsa_pub_cmp(const EVP_PKEY *a, const EVP_PKEY *b) | - | ||||||||||||
55 | { | - | ||||||||||||
56 | if (BN_cmp(b->pkey.rsa->n, a->pkey.rsa->n) != 0
| 0-70 | ||||||||||||
57 | BN_cmp(b->pkey.rsa->e, a->pkey.rsa->e) != 0
| 0-70 | ||||||||||||
58 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
59 | return executed 70 times by 4 tests: 1;return 1; Executed by:
executed 70 times by 4 tests: return 1; Executed by:
| 70 | ||||||||||||
60 | } | - | ||||||||||||
61 | - | |||||||||||||
62 | static int | - | ||||||||||||
63 | old_rsa_priv_decode(EVP_PKEY *pkey, const unsigned char **pder, int derlen) | - | ||||||||||||
64 | { | - | ||||||||||||
65 | RSA *rsa; | - | ||||||||||||
66 | - | |||||||||||||
67 | if (!(rsa = d2i_RSAPrivateKey (
| 0-65 | ||||||||||||
68 | ((void *)0)
| 0-65 | ||||||||||||
69 | , pder, derlen))
| 0-65 | ||||||||||||
70 | ERR_put_error(4,(0xfff),(4),__FILE__,121); | - | ||||||||||||
71 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
72 | } | - | ||||||||||||
73 | EVP_PKEY_assign((pkey),6, (char *)(rsa)); | - | ||||||||||||
74 | return executed 65 times by 5 tests: 1;return 1; Executed by:
executed 65 times by 5 tests: return 1; Executed by:
| 65 | ||||||||||||
75 | } | - | ||||||||||||
76 | - | |||||||||||||
77 | static int | - | ||||||||||||
78 | old_rsa_priv_encode(const EVP_PKEY *pkey, unsigned char **pder) | - | ||||||||||||
79 | { | - | ||||||||||||
80 | return never executed: i2d_RSAPrivateKey(pkey->pkey.rsa, pder);return i2d_RSAPrivateKey(pkey->pkey.rsa, pder); never executed: return i2d_RSAPrivateKey(pkey->pkey.rsa, pder); | 0 | ||||||||||||
81 | } | - | ||||||||||||
82 | - | |||||||||||||
83 | static int | - | ||||||||||||
84 | rsa_priv_encode(PKCS8_PRIV_KEY_INFO *p8, const EVP_PKEY *pkey) | - | ||||||||||||
85 | { | - | ||||||||||||
86 | unsigned char *rk = | - | ||||||||||||
87 | ((void *)0) | - | ||||||||||||
88 | ; | - | ||||||||||||
89 | int rklen; | - | ||||||||||||
90 | - | |||||||||||||
91 | rklen = i2d_RSAPrivateKey(pkey->pkey.rsa, &rk); | - | ||||||||||||
92 | - | |||||||||||||
93 | if (rklen <= 0
| 0 | ||||||||||||
94 | ERR_put_error(4,(0xfff),((1|64)),__FILE__,143); | - | ||||||||||||
95 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
96 | } | - | ||||||||||||
97 | - | |||||||||||||
98 | if (!PKCS8_pkey_set0(p8, OBJ_nid2obj(6), 0,
| 0 | ||||||||||||
99 | 5,
| 0 | ||||||||||||
100 | ((void *)0)
| 0 | ||||||||||||
101 | , rk, rklen)
| 0 | ||||||||||||
102 | ERR_put_error(4,(0xfff),((1|64)),__FILE__,149); | - | ||||||||||||
103 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
104 | } | - | ||||||||||||
105 | - | |||||||||||||
106 | return never executed: 1;return 1; never executed: return 1; | 0 | ||||||||||||
107 | } | - | ||||||||||||
108 | - | |||||||||||||
109 | static int | - | ||||||||||||
110 | rsa_priv_decode(EVP_PKEY *pkey, const PKCS8_PRIV_KEY_INFO *p8) | - | ||||||||||||
111 | { | - | ||||||||||||
112 | const unsigned char *p; | - | ||||||||||||
113 | int pklen; | - | ||||||||||||
114 | - | |||||||||||||
115 | if (!PKCS8_pkey_get0(
| 0 | ||||||||||||
116 | ((void *)0)
| 0 | ||||||||||||
117 | , &p, &pklen,
| 0 | ||||||||||||
118 | ((void *)0)
| 0 | ||||||||||||
119 | , p8)
| 0 | ||||||||||||
120 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
121 | return never executed: old_rsa_priv_decode(pkey, &p, pklen);return old_rsa_priv_decode(pkey, &p, pklen); never executed: return old_rsa_priv_decode(pkey, &p, pklen); | 0 | ||||||||||||
122 | } | - | ||||||||||||
123 | - | |||||||||||||
124 | static int | - | ||||||||||||
125 | int_rsa_size(const EVP_PKEY *pkey) | - | ||||||||||||
126 | { | - | ||||||||||||
127 | return executed 230 times by 5 tests: RSA_size(pkey->pkey.rsa);return RSA_size(pkey->pkey.rsa); Executed by:
executed 230 times by 5 tests: return RSA_size(pkey->pkey.rsa); Executed by:
| 230 | ||||||||||||
128 | } | - | ||||||||||||
129 | - | |||||||||||||
130 | static int | - | ||||||||||||
131 | rsa_bits(const EVP_PKEY *pkey) | - | ||||||||||||
132 | { | - | ||||||||||||
133 | return executed 2 times by 1 test: BN_num_bits(pkey->pkey.rsa->n);return BN_num_bits(pkey->pkey.rsa->n); Executed by:
executed 2 times by 1 test: return BN_num_bits(pkey->pkey.rsa->n); Executed by:
| 2 | ||||||||||||
134 | } | - | ||||||||||||
135 | - | |||||||||||||
136 | static void | - | ||||||||||||
137 | int_rsa_free(EVP_PKEY *pkey) | - | ||||||||||||
138 | { | - | ||||||||||||
139 | RSA_free(pkey->pkey.rsa); | - | ||||||||||||
140 | } executed 250 times by 4 tests: end of block Executed by:
| 250 | ||||||||||||
141 | - | |||||||||||||
142 | static void | - | ||||||||||||
143 | update_buflen(const BIGNUM *b, size_t *pbuflen) | - | ||||||||||||
144 | { | - | ||||||||||||
145 | size_t i; | - | ||||||||||||
146 | - | |||||||||||||
147 | if (!b
| 0-4 | ||||||||||||
148 | return; never executed: return; | 0 | ||||||||||||
149 | if (*
| 2 | ||||||||||||
150 | * executed 2 times by 1 test: pbuflen = i;*pbuflen = i; Executed by:
executed 2 times by 1 test: *pbuflen = i; Executed by:
| 2 | ||||||||||||
151 | } executed 4 times by 1 test: end of block Executed by:
| 4 | ||||||||||||
152 | - | |||||||||||||
153 | static int | - | ||||||||||||
154 | do_rsa_print(BIO *bp, const RSA *x, int off, int priv) | - | ||||||||||||
155 | { | - | ||||||||||||
156 | char *str; | - | ||||||||||||
157 | const char *s; | - | ||||||||||||
158 | unsigned char *m = | - | ||||||||||||
159 | ((void *)0) | - | ||||||||||||
160 | ; | - | ||||||||||||
161 | int ret = 0, mod_len = 0; | - | ||||||||||||
162 | size_t buf_len = 0; | - | ||||||||||||
163 | - | |||||||||||||
164 | update_buflen(x->n, &buf_len); | - | ||||||||||||
165 | update_buflen(x->e, &buf_len); | - | ||||||||||||
166 | - | |||||||||||||
167 | if (priv
| 0-2 | ||||||||||||
168 | update_buflen(x->d, &buf_len); | - | ||||||||||||
169 | update_buflen(x->p, &buf_len); | - | ||||||||||||
170 | update_buflen(x->q, &buf_len); | - | ||||||||||||
171 | update_buflen(x->dmp1, &buf_len); | - | ||||||||||||
172 | update_buflen(x->dmq1, &buf_len); | - | ||||||||||||
173 | update_buflen(x->iqmp, &buf_len); | - | ||||||||||||
174 | } never executed: end of block | 0 | ||||||||||||
175 | - | |||||||||||||
176 | m = malloc(buf_len + 10); | - | ||||||||||||
177 | if (m ==
| 0-2 | ||||||||||||
178 | ((void *)0)
| 0-2 | ||||||||||||
179 | ) { | - | ||||||||||||
180 | ERR_put_error(4,(0xfff),((1|64)),__FILE__,219); | - | ||||||||||||
181 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
182 | } | - | ||||||||||||
183 | - | |||||||||||||
184 | if (x->n !=
| 0-2 | ||||||||||||
185 | ((void *)0)
| 0-2 | ||||||||||||
186 | ) | - | ||||||||||||
187 | mod_len = BN_num_bits(x->n); executed 2 times by 1 test: mod_len = BN_num_bits(x->n); Executed by:
| 2 | ||||||||||||
188 | - | |||||||||||||
189 | if (!BIO_indent(bp, off, 128)
| 0-2 | ||||||||||||
190 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
191 | - | |||||||||||||
192 | if (priv
| 0-2 | ||||||||||||
193 | if (BIO_printf(bp, "Private-Key: (%d bit)\n", mod_len) <= 0
| 0 | ||||||||||||
194 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
195 | str = "modulus:"; | - | ||||||||||||
196 | s = "publicExponent:"; | - | ||||||||||||
197 | } never executed: else {end of block | 0 | ||||||||||||
198 | if (BIO_printf(bp, "Public-Key: (%d bit)\n", mod_len) <= 0
| 0-2 | ||||||||||||
199 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
200 | str = "Modulus:"; | - | ||||||||||||
201 | s= "Exponent:"; | - | ||||||||||||
202 | } executed 2 times by 1 test: end of block Executed by:
| 2 | ||||||||||||
203 | if (!ASN1_bn_print(bp, str, x->n, m, off)
| 0-2 | ||||||||||||
204 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
205 | if (!ASN1_bn_print(bp, s, x->e, m, off)
| 0-2 | ||||||||||||
206 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
207 | if (priv
| 0-2 | ||||||||||||
208 | if (!ASN1_bn_print(bp, "privateExponent:", x->d,m, off)
| 0 | ||||||||||||
209 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
210 | if (!ASN1_bn_print(bp, "prime1:", x->p, m, off)
| 0 | ||||||||||||
211 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
212 | if (!ASN1_bn_print(bp, "prime2:", x->q, m, off)
| 0 | ||||||||||||
213 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
214 | if (!ASN1_bn_print(bp, "exponent1:", x->dmp1, m, off)
| 0 | ||||||||||||
215 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
216 | if (!ASN1_bn_print(bp, "exponent2:", x->dmq1, m, off)
| 0 | ||||||||||||
217 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
218 | if (!ASN1_bn_print(bp, "coefficient:", x->iqmp, m, off)
| 0 | ||||||||||||
219 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
220 | } never executed: end of block | 0 | ||||||||||||
221 | ret = 1; | - | ||||||||||||
222 | err: code before this statement executed 2 times by 1 test: err: Executed by:
| 2 | ||||||||||||
223 | free(m); | - | ||||||||||||
224 | return executed 2 times by 1 test: (ret);return (ret); Executed by:
executed 2 times by 1 test: return (ret); Executed by:
| 2 | ||||||||||||
225 | } | - | ||||||||||||
226 | - | |||||||||||||
227 | static int | - | ||||||||||||
228 | rsa_pub_print(BIO *bp, const EVP_PKEY *pkey, int indent, ASN1_PCTX *ctx) | - | ||||||||||||
229 | { | - | ||||||||||||
230 | return executed 2 times by 1 test: do_rsa_print(bp, pkey->pkey.rsa, indent, 0);return do_rsa_print(bp, pkey->pkey.rsa, indent, 0); Executed by:
executed 2 times by 1 test: return do_rsa_print(bp, pkey->pkey.rsa, indent, 0); Executed by:
| 2 | ||||||||||||
231 | } | - | ||||||||||||
232 | - | |||||||||||||
233 | static int | - | ||||||||||||
234 | rsa_priv_print(BIO *bp, const EVP_PKEY *pkey, int indent, ASN1_PCTX *ctx) | - | ||||||||||||
235 | { | - | ||||||||||||
236 | return never executed: do_rsa_print(bp, pkey->pkey.rsa, indent, 1);return do_rsa_print(bp, pkey->pkey.rsa, indent, 1); never executed: return do_rsa_print(bp, pkey->pkey.rsa, indent, 1); | 0 | ||||||||||||
237 | } | - | ||||||||||||
238 | - | |||||||||||||
239 | static RSA_PSS_PARAMS * | - | ||||||||||||
240 | rsa_pss_decode(const X509_ALGOR *alg, X509_ALGOR **pmaskHash) | - | ||||||||||||
241 | { | - | ||||||||||||
242 | const unsigned char *p; | - | ||||||||||||
243 | int plen; | - | ||||||||||||
244 | RSA_PSS_PARAMS *pss; | - | ||||||||||||
245 | - | |||||||||||||
246 | *pmaskHash = | - | ||||||||||||
247 | ((void *)0) | - | ||||||||||||
248 | ; | - | ||||||||||||
249 | - | |||||||||||||
250 | if (!alg->parameter
| 0 | ||||||||||||
251 | return never executed: return ((void *)0) ; never executed: return ((void *)0) ; | 0 | ||||||||||||
252 | ((void *)0) never executed: return ((void *)0) ; | 0 | ||||||||||||
253 | ; never executed: return ((void *)0) ; | 0 | ||||||||||||
254 | - | |||||||||||||
255 | p = alg->parameter->value.sequence->data; | - | ||||||||||||
256 | plen = alg->parameter->value.sequence->length; | - | ||||||||||||
257 | pss = d2i_RSA_PSS_PARAMS( | - | ||||||||||||
258 | ((void *)0) | - | ||||||||||||
259 | , &p, plen); | - | ||||||||||||
260 | - | |||||||||||||
261 | if (!pss
| 0 | ||||||||||||
262 | return never executed: return ((void *)0) ; never executed: return ((void *)0) ; | 0 | ||||||||||||
263 | ((void *)0) never executed: return ((void *)0) ; | 0 | ||||||||||||
264 | ; never executed: return ((void *)0) ; | 0 | ||||||||||||
265 | - | |||||||||||||
266 | if (pss->maskGenAlgorithm
| 0 | ||||||||||||
267 | ASN1_TYPE *param = pss->maskGenAlgorithm->parameter; | - | ||||||||||||
268 | if (OBJ_obj2nid(pss->maskGenAlgorithm->algorithm) == 911
| 0 | ||||||||||||
269 | param
| 0 | ||||||||||||
270 | p = param->value.sequence->data; | - | ||||||||||||
271 | plen = param->value.sequence->length; | - | ||||||||||||
272 | *pmaskHash = d2i_X509_ALGOR( | - | ||||||||||||
273 | ((void *)0) | - | ||||||||||||
274 | , &p, plen); | - | ||||||||||||
275 | } never executed: end of block | 0 | ||||||||||||
276 | } never executed: end of block | 0 | ||||||||||||
277 | - | |||||||||||||
278 | return never executed: pss;return pss; never executed: return pss; | 0 | ||||||||||||
279 | } | - | ||||||||||||
280 | - | |||||||||||||
281 | static int | - | ||||||||||||
282 | rsa_pss_param_print(BIO *bp, RSA_PSS_PARAMS *pss, X509_ALGOR *maskHash, | - | ||||||||||||
283 | int indent) | - | ||||||||||||
284 | { | - | ||||||||||||
285 | int rv = 0; | - | ||||||||||||
286 | - | |||||||||||||
287 | if (!pss
| 0 | ||||||||||||
288 | if (BIO_puts(bp, " (INVALID PSS PARAMETERS)\n") <= 0
| 0 | ||||||||||||
289 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
290 | return never executed: 1;return 1; never executed: return 1; | 0 | ||||||||||||
291 | } | - | ||||||||||||
292 | if (BIO_puts(bp, "\n") <= 0
| 0 | ||||||||||||
293 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
294 | if (!BIO_indent(bp, indent, 128)
| 0 | ||||||||||||
295 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
296 | if (BIO_puts(bp, "Hash Algorithm: ") <= 0
| 0 | ||||||||||||
297 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
298 | - | |||||||||||||
299 | if (pss->hashAlgorithm
| 0 | ||||||||||||
300 | if (i2a_ASN1_OBJECT(bp, pss->hashAlgorithm->algorithm) <= 0
| 0 | ||||||||||||
301 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
302 | } never executed: else if (BIO_puts(bp, "sha1 (default)") <= 0end of block
| 0 | ||||||||||||
303 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
304 | - | |||||||||||||
305 | if (BIO_puts(bp, "\n") <= 0
| 0 | ||||||||||||
306 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
307 | - | |||||||||||||
308 | if (!BIO_indent(bp, indent, 128)
| 0 | ||||||||||||
309 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
310 | - | |||||||||||||
311 | if (BIO_puts(bp, "Mask Algorithm: ") <= 0
| 0 | ||||||||||||
312 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
313 | if (pss->maskGenAlgorithm
| 0 | ||||||||||||
314 | if (i2a_ASN1_OBJECT(bp, pss->maskGenAlgorithm->algorithm) <= 0
| 0 | ||||||||||||
315 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
316 | if (BIO_puts(bp, " with ") <= 0
| 0 | ||||||||||||
317 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
318 | if (maskHash
| 0 | ||||||||||||
319 | if (i2a_ASN1_OBJECT(bp, maskHash->algorithm) <= 0
| 0 | ||||||||||||
320 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
321 | } never executed: else if (BIO_puts(bp, "INVALID") <= 0end of block
| 0 | ||||||||||||
322 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
323 | } never executed: else if (BIO_puts(bp, "mgf1 with sha1 (default)") <= 0end of block
| 0 | ||||||||||||
324 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
325 | BIO_puts(bp, "\n"); | - | ||||||||||||
326 | - | |||||||||||||
327 | if (!BIO_indent(bp, indent, 128)
| 0 | ||||||||||||
328 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
329 | if (BIO_puts(bp, "Salt Length: 0x") <= 0
| 0 | ||||||||||||
330 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
331 | if (pss->saltLength
| 0 | ||||||||||||
332 | if (i2a_ASN1_INTEGER(bp, pss->saltLength) <= 0
| 0 | ||||||||||||
333 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
334 | } never executed: else if (BIO_puts(bp, "14 (default)") <= 0end of block
| 0 | ||||||||||||
335 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
336 | BIO_puts(bp, "\n"); | - | ||||||||||||
337 | - | |||||||||||||
338 | if (!BIO_indent(bp, indent, 128)
| 0 | ||||||||||||
339 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
340 | if (BIO_puts(bp, "Trailer Field: 0x") <= 0
| 0 | ||||||||||||
341 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
342 | if (pss->trailerField
| 0 | ||||||||||||
343 | if (i2a_ASN1_INTEGER(bp, pss->trailerField) <= 0
| 0 | ||||||||||||
344 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
345 | } never executed: else if (BIO_puts(bp, "BC (default)") <= 0end of block
| 0 | ||||||||||||
346 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
347 | BIO_puts(bp, "\n"); | - | ||||||||||||
348 | - | |||||||||||||
349 | rv = 1; | - | ||||||||||||
350 | - | |||||||||||||
351 | err: code before this statement never executed: err: | 0 | ||||||||||||
352 | return never executed: rv;return rv; never executed: return rv; | 0 | ||||||||||||
353 | } | - | ||||||||||||
354 | - | |||||||||||||
355 | static int | - | ||||||||||||
356 | rsa_sig_print(BIO *bp, const X509_ALGOR *sigalg, const ASN1_STRING *sig, | - | ||||||||||||
357 | int indent, ASN1_PCTX *pctx) | - | ||||||||||||
358 | { | - | ||||||||||||
359 | if (OBJ_obj2nid(sigalg->algorithm) == 912
| 0-4 | ||||||||||||
360 | int rv; | - | ||||||||||||
361 | RSA_PSS_PARAMS *pss; | - | ||||||||||||
362 | X509_ALGOR *maskHash; | - | ||||||||||||
363 | pss = rsa_pss_decode(sigalg, &maskHash); | - | ||||||||||||
364 | rv = rsa_pss_param_print(bp, pss, maskHash, indent); | - | ||||||||||||
365 | if (pss
| 0 | ||||||||||||
366 | RSA_PSS_PARAMS_free(pss); never executed: RSA_PSS_PARAMS_free(pss); | 0 | ||||||||||||
367 | if (maskHash
| 0 | ||||||||||||
368 | X509_ALGOR_free(maskHash); never executed: X509_ALGOR_free(maskHash); | 0 | ||||||||||||
369 | if (!rv
| 0 | ||||||||||||
370 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
371 | } never executed: else if (!sigend of block
| 0-2 | ||||||||||||
372 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
373 | if (sig
| 2 | ||||||||||||
374 | return executed 2 times by 1 test: X509_signature_dump(bp, sig, indent);return X509_signature_dump(bp, sig, indent); Executed by:
executed 2 times by 1 test: return X509_signature_dump(bp, sig, indent); Executed by:
| 2 | ||||||||||||
375 | return executed 2 times by 1 test: 1;return 1; Executed by:
executed 2 times by 1 test: return 1; Executed by:
| 2 | ||||||||||||
376 | } | - | ||||||||||||
377 | - | |||||||||||||
378 | static int | - | ||||||||||||
379 | rsa_pkey_ctrl(EVP_PKEY *pkey, int op, long arg1, void *arg2) | - | ||||||||||||
380 | { | - | ||||||||||||
381 | X509_ALGOR *alg = | - | ||||||||||||
382 | ((void *)0) | - | ||||||||||||
383 | ; | - | ||||||||||||
384 | - | |||||||||||||
385 | switch (op) { | - | ||||||||||||
386 | case executed 2 times by 1 test: 0x1:case 0x1: Executed by:
executed 2 times by 1 test: case 0x1: Executed by:
| 2 | ||||||||||||
387 | if (arg1 == 0
| 0-2 | ||||||||||||
388 | PKCS7_SIGNER_INFO_get0_algs(arg2, executed 2 times by 1 test: PKCS7_SIGNER_INFO_get0_algs(arg2, ((void *)0) , ((void *)0) , &alg); Executed by:
| 2 | ||||||||||||
389 | ((void *)0) executed 2 times by 1 test: PKCS7_SIGNER_INFO_get0_algs(arg2, ((void *)0) , ((void *)0) , &alg); Executed by:
| 2 | ||||||||||||
390 | , executed 2 times by 1 test: PKCS7_SIGNER_INFO_get0_algs(arg2, ((void *)0) , ((void *)0) , &alg); Executed by:
| 2 | ||||||||||||
391 | ((void *)0) executed 2 times by 1 test: PKCS7_SIGNER_INFO_get0_algs(arg2, ((void *)0) , ((void *)0) , &alg); Executed by:
| 2 | ||||||||||||
392 | , &alg); executed 2 times by 1 test: PKCS7_SIGNER_INFO_get0_algs(arg2, ((void *)0) , ((void *)0) , &alg); Executed by:
| 2 | ||||||||||||
393 | break; executed 2 times by 1 test: break; Executed by:
| 2 | ||||||||||||
394 | - | |||||||||||||
395 | case executed 1 time by 1 test: 0x2:case 0x2: Executed by:
executed 1 time by 1 test: case 0x2: Executed by:
| 1 | ||||||||||||
396 | if (arg1 == 0
| 0-1 | ||||||||||||
397 | PKCS7_RECIP_INFO_get0_alg(arg2, &alg); executed 1 time by 1 test: PKCS7_RECIP_INFO_get0_alg(arg2, &alg); Executed by:
| 1 | ||||||||||||
398 | break; executed 1 time by 1 test: break; Executed by:
| 1 | ||||||||||||
399 | - | |||||||||||||
400 | case executed 2 times by 1 test: 0x3:case 0x3: Executed by:
executed 2 times by 1 test: case 0x3: Executed by:
| 2 | ||||||||||||
401 | *(int *)arg2 = 64; | - | ||||||||||||
402 | return executed 2 times by 1 test: 1;return 1; Executed by:
executed 2 times by 1 test: return 1; Executed by:
| 2 | ||||||||||||
403 | - | |||||||||||||
404 | default never executed: :default: never executed: default: | 0 | ||||||||||||
405 | return never executed: -2;return -2; never executed: return -2; | 0 | ||||||||||||
406 | } | - | ||||||||||||
407 | - | |||||||||||||
408 | if (alg
| 0-3 | ||||||||||||
409 | X509_ALGOR_set0(alg, OBJ_nid2obj(6), executed 3 times by 1 test: X509_ALGOR_set0(alg, OBJ_nid2obj(6), 5, 0); Executed by:
| 3 | ||||||||||||
410 | 5, 0); executed 3 times by 1 test: X509_ALGOR_set0(alg, OBJ_nid2obj(6), 5, 0); Executed by:
| 3 | ||||||||||||
411 | - | |||||||||||||
412 | return executed 3 times by 1 test: 1;return 1; Executed by:
executed 3 times by 1 test: return 1; Executed by:
| 3 | ||||||||||||
413 | } | - | ||||||||||||
414 | - | |||||||||||||
415 | - | |||||||||||||
416 | - | |||||||||||||
417 | - | |||||||||||||
418 | - | |||||||||||||
419 | static int | - | ||||||||||||
420 | rsa_item_verify(EVP_MD_CTX *ctx, const ASN1_ITEM *it, void *asn, | - | ||||||||||||
421 | X509_ALGOR *sigalg, ASN1_BIT_STRING *sig, EVP_PKEY *pkey) | - | ||||||||||||
422 | { | - | ||||||||||||
423 | int rv = -1; | - | ||||||||||||
424 | int saltlen; | - | ||||||||||||
425 | const EVP_MD *mgf1md = | - | ||||||||||||
426 | ((void *)0) | - | ||||||||||||
427 | , *md = | - | ||||||||||||
428 | ((void *)0) | - | ||||||||||||
429 | ; | - | ||||||||||||
430 | RSA_PSS_PARAMS *pss; | - | ||||||||||||
431 | X509_ALGOR *maskHash; | - | ||||||||||||
432 | EVP_PKEY_CTX *pkctx; | - | ||||||||||||
433 | - | |||||||||||||
434 | - | |||||||||||||
435 | if (OBJ_obj2nid(sigalg->algorithm) != 912
| 0 | ||||||||||||
436 | ERR_put_error(4,(0xfff),(155),__FILE__,453); | - | ||||||||||||
437 | return never executed: -1;return -1; never executed: return -1; | 0 | ||||||||||||
438 | } | - | ||||||||||||
439 | - | |||||||||||||
440 | - | |||||||||||||
441 | pss = rsa_pss_decode(sigalg, &maskHash); | - | ||||||||||||
442 | - | |||||||||||||
443 | if (pss ==
| 0 | ||||||||||||
444 | ((void *)0)
| 0 | ||||||||||||
445 | ) { | - | ||||||||||||
446 | ERR_put_error(4,(0xfff),(149),__FILE__,461); | - | ||||||||||||
447 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
448 | } | - | ||||||||||||
449 | - | |||||||||||||
450 | if (pss->maskGenAlgorithm
| 0 | ||||||||||||
451 | if (OBJ_obj2nid(pss->maskGenAlgorithm->algorithm) != 911
| 0 | ||||||||||||
452 | ERR_put_error(4,(0xfff),(153),__FILE__,467); | - | ||||||||||||
453 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
454 | } | - | ||||||||||||
455 | if (!maskHash
| 0 | ||||||||||||
456 | ERR_put_error(4,(0xfff),(154),__FILE__,471); | - | ||||||||||||
457 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
458 | } | - | ||||||||||||
459 | mgf1md = EVP_get_digestbyname(OBJ_nid2sn(OBJ_obj2nid(maskHash->algorithm))); | - | ||||||||||||
460 | if (mgf1md ==
| 0 | ||||||||||||
461 | ((void *)0)
| 0 | ||||||||||||
462 | ) { | - | ||||||||||||
463 | ERR_put_error(4,(0xfff),(151),__FILE__,476); | - | ||||||||||||
464 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
465 | } | - | ||||||||||||
466 | } never executed: elseend of block | 0 | ||||||||||||
467 | mgf1md = EVP_sha1(); never executed: mgf1md = EVP_sha1(); | 0 | ||||||||||||
468 | - | |||||||||||||
469 | if (pss->hashAlgorithm
| 0 | ||||||||||||
470 | md = EVP_get_digestbyname(OBJ_nid2sn(OBJ_obj2nid(pss->hashAlgorithm->algorithm))); | - | ||||||||||||
471 | if (md ==
| 0 | ||||||||||||
472 | ((void *)0)
| 0 | ||||||||||||
473 | ) { | - | ||||||||||||
474 | ERR_put_error(4,(0xfff),(152),__FILE__,485); | - | ||||||||||||
475 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
476 | } | - | ||||||||||||
477 | } never executed: elseend of block | 0 | ||||||||||||
478 | md = EVP_sha1(); never executed: md = EVP_sha1(); | 0 | ||||||||||||
479 | - | |||||||||||||
480 | if (pss->saltLength
| 0 | ||||||||||||
481 | saltlen = ASN1_INTEGER_get(pss->saltLength); | - | ||||||||||||
482 | - | |||||||||||||
483 | - | |||||||||||||
484 | - | |||||||||||||
485 | - | |||||||||||||
486 | if (saltlen < 0
| 0 | ||||||||||||
487 | ERR_put_error(4,(0xfff),(150),__FILE__,498); | - | ||||||||||||
488 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
489 | } | - | ||||||||||||
490 | } never executed: elseend of block | 0 | ||||||||||||
491 | saltlen = 20; never executed: saltlen = 20; | 0 | ||||||||||||
492 | - | |||||||||||||
493 | - | |||||||||||||
494 | - | |||||||||||||
495 | - | |||||||||||||
496 | if (pss->trailerField
| 0 | ||||||||||||
497 | ERR_put_error(4,(0xfff),(139),__FILE__,508); | - | ||||||||||||
498 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
499 | } | - | ||||||||||||
500 | - | |||||||||||||
501 | - | |||||||||||||
502 | - | |||||||||||||
503 | if (!EVP_DigestVerifyInit(ctx, &pkctx, md,
| 0 | ||||||||||||
504 | ((void *)0)
| 0 | ||||||||||||
505 | , pkey)
| 0 | ||||||||||||
506 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
507 | - | |||||||||||||
508 | if (EVP_PKEY_CTX_ctrl(pkctx, 6, -1, (0x1000 + 1), 6,
| 0 | ||||||||||||
509 | ((void *)0)
| 0 | ||||||||||||
510 | ) <= 0
| 0 | ||||||||||||
511 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
512 | - | |||||||||||||
513 | if (EVP_PKEY_CTX_ctrl(pkctx, 6, ((1<<3)|(1<<4)), (0x1000 + 2), saltlen,
| 0 | ||||||||||||
514 | ((void *)0)
| 0 | ||||||||||||
515 | ) <= 0
| 0 | ||||||||||||
516 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
517 | - | |||||||||||||
518 | if (EVP_PKEY_CTX_ctrl(pkctx, 6, ((1<<3) | (1<<4) | (1<<5) | (1<<6) | (1<<7)), (0x1000 + 5), 0, (void *)mgf1md) <= 0
| 0 | ||||||||||||
519 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
520 | - | |||||||||||||
521 | rv = 2; | - | ||||||||||||
522 | - | |||||||||||||
523 | err: code before this statement never executed: err: | 0 | ||||||||||||
524 | RSA_PSS_PARAMS_free(pss); | - | ||||||||||||
525 | if (maskHash
| 0 | ||||||||||||
526 | X509_ALGOR_free(maskHash); never executed: X509_ALGOR_free(maskHash); | 0 | ||||||||||||
527 | return never executed: rv;return rv; never executed: return rv; | 0 | ||||||||||||
528 | } | - | ||||||||||||
529 | - | |||||||||||||
530 | static int | - | ||||||||||||
531 | rsa_item_sign(EVP_MD_CTX *ctx, const ASN1_ITEM *it, void *asn, | - | ||||||||||||
532 | X509_ALGOR *alg1, X509_ALGOR *alg2, ASN1_BIT_STRING *sig) | - | ||||||||||||
533 | { | - | ||||||||||||
534 | int pad_mode; | - | ||||||||||||
535 | EVP_PKEY_CTX *pkctx = ctx->pctx; | - | ||||||||||||
536 | - | |||||||||||||
537 | if (EVP_PKEY_CTX_ctrl(pkctx, 6, -1, (0x1000 + 6), 0, &pad_mode) <= 0
| 0-1 | ||||||||||||
538 | return never executed: 0;return 0; never executed: return 0; | 0 | ||||||||||||
539 | if (pad_mode == 1
| 0-1 | ||||||||||||
540 | return executed 1 time by 1 test: 2;return 2; Executed by:
executed 1 time by 1 test: return 2; Executed by:
| 1 | ||||||||||||
541 | if (pad_mode == 6
| 0 | ||||||||||||
542 | const EVP_MD *sigmd, *mgf1md; | - | ||||||||||||
543 | RSA_PSS_PARAMS *pss = | - | ||||||||||||
544 | ((void *)0) | - | ||||||||||||
545 | ; | - | ||||||||||||
546 | X509_ALGOR *mgf1alg = | - | ||||||||||||
547 | ((void *)0) | - | ||||||||||||
548 | ; | - | ||||||||||||
549 | ASN1_STRING *os1 = | - | ||||||||||||
550 | ((void *)0) | - | ||||||||||||
551 | , *os2 = | - | ||||||||||||
552 | ((void *)0) | - | ||||||||||||
553 | ; | - | ||||||||||||
554 | EVP_PKEY *pk = EVP_PKEY_CTX_get0_pkey(pkctx); | - | ||||||||||||
555 | int saltlen, rv = 0; | - | ||||||||||||
556 | - | |||||||||||||
557 | sigmd = EVP_MD_CTX_md(ctx); | - | ||||||||||||
558 | if (EVP_PKEY_CTX_ctrl(pkctx, 6, ((1<<3) | (1<<4) | (1<<5) | (1<<6) | (1<<7)), (0x1000 + 8), 0, (void *)&mgf1md) <= 0
| 0 | ||||||||||||
559 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
560 | if (!EVP_PKEY_CTX_ctrl(pkctx, 6, ((1<<3)|(1<<4)), (0x1000 + 7), 0, &saltlen)
| 0 | ||||||||||||
561 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
562 | if (saltlen == -1
| 0 | ||||||||||||
563 | saltlen = EVP_MD_size(sigmd); never executed: saltlen = EVP_MD_size(sigmd); | 0 | ||||||||||||
564 | else if (saltlen == -2
| 0 | ||||||||||||
565 | saltlen = EVP_PKEY_size(pk) - EVP_MD_size(sigmd) - 2; | - | ||||||||||||
566 | if (((
| 0 | ||||||||||||
567 | saltlen--; never executed: saltlen--; | 0 | ||||||||||||
568 | } never executed: end of block | 0 | ||||||||||||
569 | pss = RSA_PSS_PARAMS_new(); | - | ||||||||||||
570 | if (!pss
| 0 | ||||||||||||
571 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
572 | if (saltlen != 20
| 0 | ||||||||||||
573 | pss->saltLength = ASN1_INTEGER_new(); | - | ||||||||||||
574 | if (!pss->saltLength
| 0 | ||||||||||||
575 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
576 | if (!ASN1_INTEGER_set(pss->saltLength, saltlen)
| 0 | ||||||||||||
577 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
578 | } never executed: end of block | 0 | ||||||||||||
579 | if (EVP_MD_type(sigmd) != 64
| 0 | ||||||||||||
580 | pss->hashAlgorithm = X509_ALGOR_new(); | - | ||||||||||||
581 | if (!pss->hashAlgorithm
| 0 | ||||||||||||
582 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
583 | X509_ALGOR_set_md(pss->hashAlgorithm, sigmd); | - | ||||||||||||
584 | } never executed: end of block | 0 | ||||||||||||
585 | if (EVP_MD_type(mgf1md) != 64
| 0 | ||||||||||||
586 | ASN1_STRING *stmp = | - | ||||||||||||
587 | ((void *)0) | - | ||||||||||||
588 | ; | - | ||||||||||||
589 | - | |||||||||||||
590 | mgf1alg = X509_ALGOR_new(); | - | ||||||||||||
591 | X509_ALGOR_set_md(mgf1alg, mgf1md); | - | ||||||||||||
592 | if (!ASN1_item_pack(mgf1alg, &X509_ALGOR_it,
| 0 | ||||||||||||
593 | &stmp)
| 0 | ||||||||||||
594 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
595 | pss->maskGenAlgorithm = X509_ALGOR_new(); | - | ||||||||||||
596 | if (!pss->maskGenAlgorithm
| 0 | ||||||||||||
597 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
598 | X509_ALGOR_set0(pss->maskGenAlgorithm, | - | ||||||||||||
599 | OBJ_nid2obj(911), 16, stmp); | - | ||||||||||||
600 | } never executed: end of block | 0 | ||||||||||||
601 | - | |||||||||||||
602 | if (!ASN1_item_pack(pss, &RSA_PSS_PARAMS_it, &os1)
| 0 | ||||||||||||
603 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
604 | if (alg2
| 0 | ||||||||||||
605 | os2 = ASN1_STRING_dup(os1); | - | ||||||||||||
606 | if (!os2
| 0 | ||||||||||||
607 | goto never executed: err;goto err; never executed: goto err; | 0 | ||||||||||||
608 | X509_ALGOR_set0(alg2, OBJ_nid2obj(912), | - | ||||||||||||
609 | 16, os2); | - | ||||||||||||
610 | } never executed: end of block | 0 | ||||||||||||
611 | X509_ALGOR_set0(alg1, OBJ_nid2obj(912), | - | ||||||||||||
612 | 16, os1); | - | ||||||||||||
613 | os1 = os2 = | - | ||||||||||||
614 | ((void *)0) | - | ||||||||||||
615 | ; | - | ||||||||||||
616 | rv = 3; | - | ||||||||||||
617 | err: code before this statement never executed: err: | 0 | ||||||||||||
618 | if (mgf1alg
| 0 | ||||||||||||
619 | X509_ALGOR_free(mgf1alg); never executed: X509_ALGOR_free(mgf1alg); | 0 | ||||||||||||
620 | if (pss
| 0 | ||||||||||||
621 | RSA_PSS_PARAMS_free(pss); never executed: RSA_PSS_PARAMS_free(pss); | 0 | ||||||||||||
622 | ASN1_STRING_free(os1); | - | ||||||||||||
623 | return never executed: rv;return rv; never executed: return rv; | 0 | ||||||||||||
624 | } | - | ||||||||||||
625 | return never executed: 2;return 2; never executed: return 2; | 0 | ||||||||||||
626 | } | - | ||||||||||||
627 | - | |||||||||||||
628 | const EVP_PKEY_ASN1_METHOD rsa_asn1_meths[] = { | - | ||||||||||||
629 | { | - | ||||||||||||
630 | .pkey_id = 6, | - | ||||||||||||
631 | .pkey_base_id = 6, | - | ||||||||||||
632 | .pkey_flags = 0x4, | - | ||||||||||||
633 | - | |||||||||||||
634 | .pem_str = "RSA", | - | ||||||||||||
635 | .info = "OpenSSL RSA method", | - | ||||||||||||
636 | - | |||||||||||||
637 | .pub_decode = rsa_pub_decode, | - | ||||||||||||
638 | .pub_encode = rsa_pub_encode, | - | ||||||||||||
639 | .pub_cmp = rsa_pub_cmp, | - | ||||||||||||
640 | .pub_print = rsa_pub_print, | - | ||||||||||||
641 | - | |||||||||||||
642 | .priv_decode = rsa_priv_decode, | - | ||||||||||||
643 | .priv_encode = rsa_priv_encode, | - | ||||||||||||
644 | .priv_print = rsa_priv_print, | - | ||||||||||||
645 | - | |||||||||||||
646 | .pkey_size = int_rsa_size, | - | ||||||||||||
647 | .pkey_bits = rsa_bits, | - | ||||||||||||
648 | - | |||||||||||||
649 | .sig_print = rsa_sig_print, | - | ||||||||||||
650 | - | |||||||||||||
651 | .pkey_free = int_rsa_free, | - | ||||||||||||
652 | .pkey_ctrl = rsa_pkey_ctrl, | - | ||||||||||||
653 | .old_priv_decode = old_rsa_priv_decode, | - | ||||||||||||
654 | .old_priv_encode = old_rsa_priv_encode, | - | ||||||||||||
655 | .item_verify = rsa_item_verify, | - | ||||||||||||
656 | .item_sign = rsa_item_sign | - | ||||||||||||
657 | }, | - | ||||||||||||
658 | - | |||||||||||||
659 | { | - | ||||||||||||
660 | .pkey_id = 19, | - | ||||||||||||
661 | .pkey_base_id = 6, | - | ||||||||||||
662 | .pkey_flags = 0x1 | - | ||||||||||||
663 | } | - | ||||||||||||
664 | }; | - | ||||||||||||
Switch to Source code | Preprocessed file |