xref: /freebsd/crypto/openssl/crypto/rsa/rsa_meth.c (revision b077aed33b7b6aefca7b17ddb250cf521f938613)
1e71b7053SJung-uk Kim /*
2*b077aed3SPierre Pronchery  * Copyright 2016-2020 The OpenSSL Project Authors. All Rights Reserved.
3e71b7053SJung-uk Kim  *
4*b077aed3SPierre Pronchery  * Licensed under the Apache License 2.0 (the "License").  You may not use
5e71b7053SJung-uk Kim  * this file except in compliance with the License.  You can obtain a copy
6e71b7053SJung-uk Kim  * in the file LICENSE in the source distribution or at
7e71b7053SJung-uk Kim  * https://www.openssl.org/source/license.html
8e71b7053SJung-uk Kim  */
9e71b7053SJung-uk Kim 
10*b077aed3SPierre Pronchery /*
11*b077aed3SPierre Pronchery  * RSA low level APIs are deprecated for public use, but still ok for
12*b077aed3SPierre Pronchery  * internal use.
13*b077aed3SPierre Pronchery  */
14*b077aed3SPierre Pronchery #include "internal/deprecated.h"
15*b077aed3SPierre Pronchery 
16e71b7053SJung-uk Kim #include <string.h>
1717f01e99SJung-uk Kim #include "rsa_local.h"
18e71b7053SJung-uk Kim #include <openssl/err.h>
19e71b7053SJung-uk Kim 
RSA_meth_new(const char * name,int flags)20e71b7053SJung-uk Kim RSA_METHOD *RSA_meth_new(const char *name, int flags)
21e71b7053SJung-uk Kim {
22e71b7053SJung-uk Kim     RSA_METHOD *meth = OPENSSL_zalloc(sizeof(*meth));
23e71b7053SJung-uk Kim 
24e71b7053SJung-uk Kim     if (meth != NULL) {
25e71b7053SJung-uk Kim         meth->flags = flags;
26e71b7053SJung-uk Kim 
27e71b7053SJung-uk Kim         meth->name = OPENSSL_strdup(name);
28e71b7053SJung-uk Kim         if (meth->name != NULL)
29e71b7053SJung-uk Kim             return meth;
30e71b7053SJung-uk Kim 
31e71b7053SJung-uk Kim         OPENSSL_free(meth);
32e71b7053SJung-uk Kim     }
33e71b7053SJung-uk Kim 
34*b077aed3SPierre Pronchery     ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
35e71b7053SJung-uk Kim     return NULL;
36e71b7053SJung-uk Kim }
37e71b7053SJung-uk Kim 
RSA_meth_free(RSA_METHOD * meth)38e71b7053SJung-uk Kim void RSA_meth_free(RSA_METHOD *meth)
39e71b7053SJung-uk Kim {
40e71b7053SJung-uk Kim     if (meth != NULL) {
41e71b7053SJung-uk Kim         OPENSSL_free(meth->name);
42e71b7053SJung-uk Kim         OPENSSL_free(meth);
43e71b7053SJung-uk Kim     }
44e71b7053SJung-uk Kim }
45e71b7053SJung-uk Kim 
RSA_meth_dup(const RSA_METHOD * meth)46e71b7053SJung-uk Kim RSA_METHOD *RSA_meth_dup(const RSA_METHOD *meth)
47e71b7053SJung-uk Kim {
48e71b7053SJung-uk Kim     RSA_METHOD *ret = OPENSSL_malloc(sizeof(*ret));
49e71b7053SJung-uk Kim 
50e71b7053SJung-uk Kim     if (ret != NULL) {
51e71b7053SJung-uk Kim         memcpy(ret, meth, sizeof(*meth));
52e71b7053SJung-uk Kim 
53e71b7053SJung-uk Kim         ret->name = OPENSSL_strdup(meth->name);
54e71b7053SJung-uk Kim         if (ret->name != NULL)
55e71b7053SJung-uk Kim             return ret;
56e71b7053SJung-uk Kim 
57e71b7053SJung-uk Kim         OPENSSL_free(ret);
58e71b7053SJung-uk Kim     }
59e71b7053SJung-uk Kim 
60*b077aed3SPierre Pronchery     ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
61e71b7053SJung-uk Kim     return NULL;
62e71b7053SJung-uk Kim }
63e71b7053SJung-uk Kim 
RSA_meth_get0_name(const RSA_METHOD * meth)64e71b7053SJung-uk Kim const char *RSA_meth_get0_name(const RSA_METHOD *meth)
65e71b7053SJung-uk Kim {
66e71b7053SJung-uk Kim     return meth->name;
67e71b7053SJung-uk Kim }
68e71b7053SJung-uk Kim 
RSA_meth_set1_name(RSA_METHOD * meth,const char * name)69e71b7053SJung-uk Kim int RSA_meth_set1_name(RSA_METHOD *meth, const char *name)
70e71b7053SJung-uk Kim {
71e71b7053SJung-uk Kim     char *tmpname = OPENSSL_strdup(name);
72e71b7053SJung-uk Kim 
73e71b7053SJung-uk Kim     if (tmpname == NULL) {
74*b077aed3SPierre Pronchery         ERR_raise(ERR_LIB_RSA, ERR_R_MALLOC_FAILURE);
75e71b7053SJung-uk Kim         return 0;
76e71b7053SJung-uk Kim     }
77e71b7053SJung-uk Kim 
78e71b7053SJung-uk Kim     OPENSSL_free(meth->name);
79e71b7053SJung-uk Kim     meth->name = tmpname;
80e71b7053SJung-uk Kim 
81e71b7053SJung-uk Kim     return 1;
82e71b7053SJung-uk Kim }
83e71b7053SJung-uk Kim 
RSA_meth_get_flags(const RSA_METHOD * meth)84e71b7053SJung-uk Kim int RSA_meth_get_flags(const RSA_METHOD *meth)
85e71b7053SJung-uk Kim {
86e71b7053SJung-uk Kim     return meth->flags;
87e71b7053SJung-uk Kim }
88e71b7053SJung-uk Kim 
RSA_meth_set_flags(RSA_METHOD * meth,int flags)89e71b7053SJung-uk Kim int RSA_meth_set_flags(RSA_METHOD *meth, int flags)
90e71b7053SJung-uk Kim {
91e71b7053SJung-uk Kim     meth->flags = flags;
92e71b7053SJung-uk Kim     return 1;
93e71b7053SJung-uk Kim }
94e71b7053SJung-uk Kim 
RSA_meth_get0_app_data(const RSA_METHOD * meth)95e71b7053SJung-uk Kim void *RSA_meth_get0_app_data(const RSA_METHOD *meth)
96e71b7053SJung-uk Kim {
97e71b7053SJung-uk Kim     return meth->app_data;
98e71b7053SJung-uk Kim }
99e71b7053SJung-uk Kim 
RSA_meth_set0_app_data(RSA_METHOD * meth,void * app_data)100e71b7053SJung-uk Kim int RSA_meth_set0_app_data(RSA_METHOD *meth, void *app_data)
101e71b7053SJung-uk Kim {
102e71b7053SJung-uk Kim     meth->app_data = app_data;
103e71b7053SJung-uk Kim     return 1;
104e71b7053SJung-uk Kim }
105e71b7053SJung-uk Kim 
RSA_meth_get_pub_enc(const RSA_METHOD * meth)106e71b7053SJung-uk Kim int (*RSA_meth_get_pub_enc(const RSA_METHOD *meth))
107e71b7053SJung-uk Kim     (int flen, const unsigned char *from,
108e71b7053SJung-uk Kim      unsigned char *to, RSA *rsa, int padding)
109e71b7053SJung-uk Kim {
110e71b7053SJung-uk Kim     return meth->rsa_pub_enc;
111e71b7053SJung-uk Kim }
112e71b7053SJung-uk Kim 
RSA_meth_set_pub_enc(RSA_METHOD * meth,int (* pub_enc)(int flen,const unsigned char * from,unsigned char * to,RSA * rsa,int padding))113e71b7053SJung-uk Kim int RSA_meth_set_pub_enc(RSA_METHOD *meth,
114e71b7053SJung-uk Kim                          int (*pub_enc) (int flen, const unsigned char *from,
115e71b7053SJung-uk Kim                                          unsigned char *to, RSA *rsa,
116e71b7053SJung-uk Kim                                          int padding))
117e71b7053SJung-uk Kim {
118e71b7053SJung-uk Kim     meth->rsa_pub_enc = pub_enc;
119e71b7053SJung-uk Kim     return 1;
120e71b7053SJung-uk Kim }
121e71b7053SJung-uk Kim 
RSA_meth_get_pub_dec(const RSA_METHOD * meth)122e71b7053SJung-uk Kim int (*RSA_meth_get_pub_dec(const RSA_METHOD *meth))
123e71b7053SJung-uk Kim     (int flen, const unsigned char *from,
124e71b7053SJung-uk Kim      unsigned char *to, RSA *rsa, int padding)
125e71b7053SJung-uk Kim {
126e71b7053SJung-uk Kim     return meth->rsa_pub_dec;
127e71b7053SJung-uk Kim }
128e71b7053SJung-uk Kim 
RSA_meth_set_pub_dec(RSA_METHOD * meth,int (* pub_dec)(int flen,const unsigned char * from,unsigned char * to,RSA * rsa,int padding))129e71b7053SJung-uk Kim int RSA_meth_set_pub_dec(RSA_METHOD *meth,
130e71b7053SJung-uk Kim                          int (*pub_dec) (int flen, const unsigned char *from,
131e71b7053SJung-uk Kim                                          unsigned char *to, RSA *rsa,
132e71b7053SJung-uk Kim                                          int padding))
133e71b7053SJung-uk Kim {
134e71b7053SJung-uk Kim     meth->rsa_pub_dec = pub_dec;
135e71b7053SJung-uk Kim     return 1;
136e71b7053SJung-uk Kim }
137e71b7053SJung-uk Kim 
RSA_meth_get_priv_enc(const RSA_METHOD * meth)138e71b7053SJung-uk Kim int (*RSA_meth_get_priv_enc(const RSA_METHOD *meth))
139e71b7053SJung-uk Kim     (int flen, const unsigned char *from,
140e71b7053SJung-uk Kim      unsigned char *to, RSA *rsa, int padding)
141e71b7053SJung-uk Kim {
142e71b7053SJung-uk Kim     return meth->rsa_priv_enc;
143e71b7053SJung-uk Kim }
144e71b7053SJung-uk Kim 
RSA_meth_set_priv_enc(RSA_METHOD * meth,int (* priv_enc)(int flen,const unsigned char * from,unsigned char * to,RSA * rsa,int padding))145e71b7053SJung-uk Kim int RSA_meth_set_priv_enc(RSA_METHOD *meth,
146e71b7053SJung-uk Kim                           int (*priv_enc) (int flen, const unsigned char *from,
147e71b7053SJung-uk Kim                                            unsigned char *to, RSA *rsa,
148e71b7053SJung-uk Kim                                            int padding))
149e71b7053SJung-uk Kim {
150e71b7053SJung-uk Kim     meth->rsa_priv_enc = priv_enc;
151e71b7053SJung-uk Kim     return 1;
152e71b7053SJung-uk Kim }
153e71b7053SJung-uk Kim 
RSA_meth_get_priv_dec(const RSA_METHOD * meth)154e71b7053SJung-uk Kim int (*RSA_meth_get_priv_dec(const RSA_METHOD *meth))
155e71b7053SJung-uk Kim     (int flen, const unsigned char *from,
156e71b7053SJung-uk Kim      unsigned char *to, RSA *rsa, int padding)
157e71b7053SJung-uk Kim {
158e71b7053SJung-uk Kim     return meth->rsa_priv_dec;
159e71b7053SJung-uk Kim }
160e71b7053SJung-uk Kim 
RSA_meth_set_priv_dec(RSA_METHOD * meth,int (* priv_dec)(int flen,const unsigned char * from,unsigned char * to,RSA * rsa,int padding))161e71b7053SJung-uk Kim int RSA_meth_set_priv_dec(RSA_METHOD *meth,
162e71b7053SJung-uk Kim                           int (*priv_dec) (int flen, const unsigned char *from,
163e71b7053SJung-uk Kim                                            unsigned char *to, RSA *rsa,
164e71b7053SJung-uk Kim                                            int padding))
165e71b7053SJung-uk Kim {
166e71b7053SJung-uk Kim     meth->rsa_priv_dec = priv_dec;
167e71b7053SJung-uk Kim     return 1;
168e71b7053SJung-uk Kim }
169e71b7053SJung-uk Kim 
170e71b7053SJung-uk Kim     /* Can be null */
RSA_meth_get_mod_exp(const RSA_METHOD * meth)171e71b7053SJung-uk Kim int (*RSA_meth_get_mod_exp(const RSA_METHOD *meth))
172c9cf7b5cSJung-uk Kim     (BIGNUM *r0, const BIGNUM *i, RSA *rsa, BN_CTX *ctx)
173e71b7053SJung-uk Kim {
174e71b7053SJung-uk Kim     return meth->rsa_mod_exp;
175e71b7053SJung-uk Kim }
176e71b7053SJung-uk Kim 
RSA_meth_set_mod_exp(RSA_METHOD * meth,int (* mod_exp)(BIGNUM * r0,const BIGNUM * i,RSA * rsa,BN_CTX * ctx))177e71b7053SJung-uk Kim int RSA_meth_set_mod_exp(RSA_METHOD *meth,
178c9cf7b5cSJung-uk Kim                          int (*mod_exp) (BIGNUM *r0, const BIGNUM *i, RSA *rsa,
179e71b7053SJung-uk Kim                                          BN_CTX *ctx))
180e71b7053SJung-uk Kim {
181e71b7053SJung-uk Kim     meth->rsa_mod_exp = mod_exp;
182e71b7053SJung-uk Kim     return 1;
183e71b7053SJung-uk Kim }
184e71b7053SJung-uk Kim 
185e71b7053SJung-uk Kim     /* Can be null */
RSA_meth_get_bn_mod_exp(const RSA_METHOD * meth)186e71b7053SJung-uk Kim int (*RSA_meth_get_bn_mod_exp(const RSA_METHOD *meth))
187e71b7053SJung-uk Kim     (BIGNUM *r, const BIGNUM *a, const BIGNUM *p,
188e71b7053SJung-uk Kim      const BIGNUM *m, BN_CTX *ctx, BN_MONT_CTX *m_ctx)
189e71b7053SJung-uk Kim {
190e71b7053SJung-uk Kim     return meth->bn_mod_exp;
191e71b7053SJung-uk Kim }
192e71b7053SJung-uk Kim 
RSA_meth_set_bn_mod_exp(RSA_METHOD * meth,int (* bn_mod_exp)(BIGNUM * r,const BIGNUM * a,const BIGNUM * p,const BIGNUM * m,BN_CTX * ctx,BN_MONT_CTX * m_ctx))193e71b7053SJung-uk Kim int RSA_meth_set_bn_mod_exp(RSA_METHOD *meth,
194e71b7053SJung-uk Kim                             int (*bn_mod_exp) (BIGNUM *r,
195e71b7053SJung-uk Kim                                                const BIGNUM *a,
196e71b7053SJung-uk Kim                                                const BIGNUM *p,
197e71b7053SJung-uk Kim                                                const BIGNUM *m,
198e71b7053SJung-uk Kim                                                BN_CTX *ctx,
199e71b7053SJung-uk Kim                                                BN_MONT_CTX *m_ctx))
200e71b7053SJung-uk Kim {
201e71b7053SJung-uk Kim     meth->bn_mod_exp = bn_mod_exp;
202e71b7053SJung-uk Kim     return 1;
203e71b7053SJung-uk Kim }
204e71b7053SJung-uk Kim 
205e71b7053SJung-uk Kim     /* called at new */
RSA_meth_get_init(const RSA_METHOD * meth)206e71b7053SJung-uk Kim int (*RSA_meth_get_init(const RSA_METHOD *meth)) (RSA *rsa)
207e71b7053SJung-uk Kim {
208e71b7053SJung-uk Kim     return meth->init;
209e71b7053SJung-uk Kim }
210e71b7053SJung-uk Kim 
RSA_meth_set_init(RSA_METHOD * meth,int (* init)(RSA * rsa))211e71b7053SJung-uk Kim int RSA_meth_set_init(RSA_METHOD *meth, int (*init) (RSA *rsa))
212e71b7053SJung-uk Kim {
213e71b7053SJung-uk Kim     meth->init = init;
214e71b7053SJung-uk Kim     return 1;
215e71b7053SJung-uk Kim }
216e71b7053SJung-uk Kim 
217e71b7053SJung-uk Kim     /* called at free */
RSA_meth_get_finish(const RSA_METHOD * meth)218e71b7053SJung-uk Kim int (*RSA_meth_get_finish(const RSA_METHOD *meth)) (RSA *rsa)
219e71b7053SJung-uk Kim {
220e71b7053SJung-uk Kim     return meth->finish;
221e71b7053SJung-uk Kim }
222e71b7053SJung-uk Kim 
RSA_meth_set_finish(RSA_METHOD * meth,int (* finish)(RSA * rsa))223e71b7053SJung-uk Kim int RSA_meth_set_finish(RSA_METHOD *meth, int (*finish) (RSA *rsa))
224e71b7053SJung-uk Kim {
225e71b7053SJung-uk Kim     meth->finish = finish;
226e71b7053SJung-uk Kim     return 1;
227e71b7053SJung-uk Kim }
228e71b7053SJung-uk Kim 
RSA_meth_get_sign(const RSA_METHOD * meth)229e71b7053SJung-uk Kim int (*RSA_meth_get_sign(const RSA_METHOD *meth))
230e71b7053SJung-uk Kim     (int type,
231e71b7053SJung-uk Kim      const unsigned char *m, unsigned int m_length,
232e71b7053SJung-uk Kim      unsigned char *sigret, unsigned int *siglen,
233e71b7053SJung-uk Kim      const RSA *rsa)
234e71b7053SJung-uk Kim {
235e71b7053SJung-uk Kim     return meth->rsa_sign;
236e71b7053SJung-uk Kim }
237e71b7053SJung-uk Kim 
RSA_meth_set_sign(RSA_METHOD * meth,int (* sign)(int type,const unsigned char * m,unsigned int m_length,unsigned char * sigret,unsigned int * siglen,const RSA * rsa))238e71b7053SJung-uk Kim int RSA_meth_set_sign(RSA_METHOD *meth,
239e71b7053SJung-uk Kim                       int (*sign) (int type, const unsigned char *m,
240e71b7053SJung-uk Kim                                    unsigned int m_length,
241e71b7053SJung-uk Kim                                    unsigned char *sigret, unsigned int *siglen,
242e71b7053SJung-uk Kim                                    const RSA *rsa))
243e71b7053SJung-uk Kim {
244e71b7053SJung-uk Kim     meth->rsa_sign = sign;
245e71b7053SJung-uk Kim     return 1;
246e71b7053SJung-uk Kim }
247e71b7053SJung-uk Kim 
RSA_meth_get_verify(const RSA_METHOD * meth)248e71b7053SJung-uk Kim int (*RSA_meth_get_verify(const RSA_METHOD *meth))
249e71b7053SJung-uk Kim     (int dtype, const unsigned char *m,
250e71b7053SJung-uk Kim      unsigned int m_length, const unsigned char *sigbuf,
251e71b7053SJung-uk Kim      unsigned int siglen, const RSA *rsa)
252e71b7053SJung-uk Kim {
253e71b7053SJung-uk Kim     return meth->rsa_verify;
254e71b7053SJung-uk Kim }
255e71b7053SJung-uk Kim 
RSA_meth_set_verify(RSA_METHOD * meth,int (* verify)(int dtype,const unsigned char * m,unsigned int m_length,const unsigned char * sigbuf,unsigned int siglen,const RSA * rsa))256e71b7053SJung-uk Kim int RSA_meth_set_verify(RSA_METHOD *meth,
257e71b7053SJung-uk Kim                         int (*verify) (int dtype, const unsigned char *m,
258e71b7053SJung-uk Kim                                        unsigned int m_length,
259e71b7053SJung-uk Kim                                        const unsigned char *sigbuf,
260e71b7053SJung-uk Kim                                        unsigned int siglen, const RSA *rsa))
261e71b7053SJung-uk Kim {
262e71b7053SJung-uk Kim     meth->rsa_verify = verify;
263e71b7053SJung-uk Kim     return 1;
264e71b7053SJung-uk Kim }
265e71b7053SJung-uk Kim 
RSA_meth_get_keygen(const RSA_METHOD * meth)266e71b7053SJung-uk Kim int (*RSA_meth_get_keygen(const RSA_METHOD *meth))
267e71b7053SJung-uk Kim     (RSA *rsa, int bits, BIGNUM *e, BN_GENCB *cb)
268e71b7053SJung-uk Kim {
269e71b7053SJung-uk Kim     return meth->rsa_keygen;
270e71b7053SJung-uk Kim }
271e71b7053SJung-uk Kim 
RSA_meth_set_keygen(RSA_METHOD * meth,int (* keygen)(RSA * rsa,int bits,BIGNUM * e,BN_GENCB * cb))272e71b7053SJung-uk Kim int RSA_meth_set_keygen(RSA_METHOD *meth,
273e71b7053SJung-uk Kim                         int (*keygen) (RSA *rsa, int bits, BIGNUM *e,
274e71b7053SJung-uk Kim                                        BN_GENCB *cb))
275e71b7053SJung-uk Kim {
276e71b7053SJung-uk Kim     meth->rsa_keygen = keygen;
277e71b7053SJung-uk Kim     return 1;
278e71b7053SJung-uk Kim }
279e71b7053SJung-uk Kim 
RSA_meth_get_multi_prime_keygen(const RSA_METHOD * meth)280e71b7053SJung-uk Kim int (*RSA_meth_get_multi_prime_keygen(const RSA_METHOD *meth))
281e71b7053SJung-uk Kim     (RSA *rsa, int bits, int primes, BIGNUM *e, BN_GENCB *cb)
282e71b7053SJung-uk Kim {
283e71b7053SJung-uk Kim     return meth->rsa_multi_prime_keygen;
284e71b7053SJung-uk Kim }
285e71b7053SJung-uk Kim 
RSA_meth_set_multi_prime_keygen(RSA_METHOD * meth,int (* keygen)(RSA * rsa,int bits,int primes,BIGNUM * e,BN_GENCB * cb))286e71b7053SJung-uk Kim int RSA_meth_set_multi_prime_keygen(RSA_METHOD *meth,
287e71b7053SJung-uk Kim                                     int (*keygen) (RSA *rsa, int bits,
288e71b7053SJung-uk Kim                                                    int primes, BIGNUM *e,
289e71b7053SJung-uk Kim                                                    BN_GENCB *cb))
290e71b7053SJung-uk Kim {
291e71b7053SJung-uk Kim     meth->rsa_multi_prime_keygen = keygen;
292e71b7053SJung-uk Kim     return 1;
293e71b7053SJung-uk Kim }
294