xref: /freebsd/contrib/unbound/validator/val_secalgo.c (revision 3005e0a300309ec169f8e42181b39865e910da6c)
18ed2b524SDag-Erling Smørgrav /*
28ed2b524SDag-Erling Smørgrav  * validator/val_secalgo.c - validator security algorithm functions.
38ed2b524SDag-Erling Smørgrav  *
48ed2b524SDag-Erling Smørgrav  * Copyright (c) 2012, NLnet Labs. All rights reserved.
58ed2b524SDag-Erling Smørgrav  *
68ed2b524SDag-Erling Smørgrav  * This software is open source.
78ed2b524SDag-Erling Smørgrav  *
88ed2b524SDag-Erling Smørgrav  * Redistribution and use in source and binary forms, with or without
98ed2b524SDag-Erling Smørgrav  * modification, are permitted provided that the following conditions
108ed2b524SDag-Erling Smørgrav  * are met:
118ed2b524SDag-Erling Smørgrav  *
128ed2b524SDag-Erling Smørgrav  * Redistributions of source code must retain the above copyright notice,
138ed2b524SDag-Erling Smørgrav  * this list of conditions and the following disclaimer.
148ed2b524SDag-Erling Smørgrav  *
158ed2b524SDag-Erling Smørgrav  * Redistributions in binary form must reproduce the above copyright notice,
168ed2b524SDag-Erling Smørgrav  * this list of conditions and the following disclaimer in the documentation
178ed2b524SDag-Erling Smørgrav  * and/or other materials provided with the distribution.
188ed2b524SDag-Erling Smørgrav  *
198ed2b524SDag-Erling Smørgrav  * Neither the name of the NLNET LABS nor the names of its contributors may
208ed2b524SDag-Erling Smørgrav  * be used to endorse or promote products derived from this software without
218ed2b524SDag-Erling Smørgrav  * specific prior written permission.
228ed2b524SDag-Erling Smørgrav  *
238ed2b524SDag-Erling Smørgrav  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS
2417d15b25SDag-Erling Smørgrav  * "AS IS" AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT
2517d15b25SDag-Erling Smørgrav  * LIMITED TO, THE IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR
2617d15b25SDag-Erling Smørgrav  * A PARTICULAR PURPOSE ARE DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT
2717d15b25SDag-Erling Smørgrav  * HOLDER OR CONTRIBUTORS BE LIABLE FOR ANY DIRECT, INDIRECT, INCIDENTAL,
2817d15b25SDag-Erling Smørgrav  * SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING, BUT NOT LIMITED
2917d15b25SDag-Erling Smørgrav  * TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE, DATA, OR
3017d15b25SDag-Erling Smørgrav  * PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
3117d15b25SDag-Erling Smørgrav  * LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING
3217d15b25SDag-Erling Smørgrav  * NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS
3317d15b25SDag-Erling Smørgrav  * SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
348ed2b524SDag-Erling Smørgrav  */
358ed2b524SDag-Erling Smørgrav 
368ed2b524SDag-Erling Smørgrav /**
378ed2b524SDag-Erling Smørgrav  * \file
388ed2b524SDag-Erling Smørgrav  *
398ed2b524SDag-Erling Smørgrav  * This file contains helper functions for the validator module.
408ed2b524SDag-Erling Smørgrav  * These functions take raw data buffers, formatted for crypto verification,
418ed2b524SDag-Erling Smørgrav  * and do the library calls (for the crypto library in use).
428ed2b524SDag-Erling Smørgrav  */
438ed2b524SDag-Erling Smørgrav #include "config.h"
446480faa8SDag-Erling Smørgrav /* packed_rrset on top to define enum types (forced by c99 standard) */
458ed2b524SDag-Erling Smørgrav #include "util/data/packed_rrset.h"
466480faa8SDag-Erling Smørgrav #include "validator/val_secalgo.h"
4705ab2901SDag-Erling Smørgrav #include "validator/val_nsec3.h"
488ed2b524SDag-Erling Smørgrav #include "util/log.h"
4909a3aaf3SDag-Erling Smørgrav #include "sldns/rrdef.h"
5009a3aaf3SDag-Erling Smørgrav #include "sldns/keyraw.h"
5109a3aaf3SDag-Erling Smørgrav #include "sldns/sbuffer.h"
528ed2b524SDag-Erling Smørgrav 
5305ab2901SDag-Erling Smørgrav #if !defined(HAVE_SSL) && !defined(HAVE_NSS) && !defined(HAVE_NETTLE)
548ed2b524SDag-Erling Smørgrav #error "Need crypto library to do digital signature cryptography"
558ed2b524SDag-Erling Smørgrav #endif
568ed2b524SDag-Erling Smørgrav 
578ed2b524SDag-Erling Smørgrav /* OpenSSL implementation */
588ed2b524SDag-Erling Smørgrav #ifdef HAVE_SSL
598ed2b524SDag-Erling Smørgrav #ifdef HAVE_OPENSSL_ERR_H
608ed2b524SDag-Erling Smørgrav #include <openssl/err.h>
618ed2b524SDag-Erling Smørgrav #endif
628ed2b524SDag-Erling Smørgrav 
638ed2b524SDag-Erling Smørgrav #ifdef HAVE_OPENSSL_RAND_H
648ed2b524SDag-Erling Smørgrav #include <openssl/rand.h>
658ed2b524SDag-Erling Smørgrav #endif
668ed2b524SDag-Erling Smørgrav 
678ed2b524SDag-Erling Smørgrav #ifdef HAVE_OPENSSL_CONF_H
688ed2b524SDag-Erling Smørgrav #include <openssl/conf.h>
698ed2b524SDag-Erling Smørgrav #endif
708ed2b524SDag-Erling Smørgrav 
718ed2b524SDag-Erling Smørgrav #ifdef HAVE_OPENSSL_ENGINE_H
728ed2b524SDag-Erling Smørgrav #include <openssl/engine.h>
738ed2b524SDag-Erling Smørgrav #endif
748ed2b524SDag-Erling Smørgrav 
75bc892140SDag-Erling Smørgrav /** fake DSA support for unit tests */
76bc892140SDag-Erling Smørgrav int fake_dsa = 0;
77bc892140SDag-Erling Smørgrav 
7805ab2901SDag-Erling Smørgrav /* return size of digest if supported, or 0 otherwise */
7905ab2901SDag-Erling Smørgrav size_t
8005ab2901SDag-Erling Smørgrav nsec3_hash_algo_size_supported(int id)
8105ab2901SDag-Erling Smørgrav {
8205ab2901SDag-Erling Smørgrav 	switch(id) {
8305ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
8405ab2901SDag-Erling Smørgrav 		return SHA_DIGEST_LENGTH;
8505ab2901SDag-Erling Smørgrav 	default:
8605ab2901SDag-Erling Smørgrav 		return 0;
8705ab2901SDag-Erling Smørgrav 	}
8805ab2901SDag-Erling Smørgrav }
8905ab2901SDag-Erling Smørgrav 
9005ab2901SDag-Erling Smørgrav /* perform nsec3 hash. return false on failure */
9105ab2901SDag-Erling Smørgrav int
9205ab2901SDag-Erling Smørgrav secalgo_nsec3_hash(int algo, unsigned char* buf, size_t len,
9305ab2901SDag-Erling Smørgrav         unsigned char* res)
9405ab2901SDag-Erling Smørgrav {
9505ab2901SDag-Erling Smørgrav 	switch(algo) {
9605ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
9705ab2901SDag-Erling Smørgrav 		(void)SHA1(buf, len, res);
9805ab2901SDag-Erling Smørgrav 		return 1;
9905ab2901SDag-Erling Smørgrav 	default:
10005ab2901SDag-Erling Smørgrav 		return 0;
10105ab2901SDag-Erling Smørgrav 	}
10205ab2901SDag-Erling Smørgrav }
10305ab2901SDag-Erling Smørgrav 
104e2d15004SDag-Erling Smørgrav void
105e2d15004SDag-Erling Smørgrav secalgo_hash_sha256(unsigned char* buf, size_t len, unsigned char* res)
106e2d15004SDag-Erling Smørgrav {
107e2d15004SDag-Erling Smørgrav 	(void)SHA256(buf, len, res);
108e2d15004SDag-Erling Smørgrav }
109e2d15004SDag-Erling Smørgrav 
1108ed2b524SDag-Erling Smørgrav /**
1118ed2b524SDag-Erling Smørgrav  * Return size of DS digest according to its hash algorithm.
1128ed2b524SDag-Erling Smørgrav  * @param algo: DS digest algo.
1138ed2b524SDag-Erling Smørgrav  * @return size in bytes of digest, or 0 if not supported.
1148ed2b524SDag-Erling Smørgrav  */
1158ed2b524SDag-Erling Smørgrav size_t
1168ed2b524SDag-Erling Smørgrav ds_digest_size_supported(int algo)
1178ed2b524SDag-Erling Smørgrav {
1188ed2b524SDag-Erling Smørgrav 	switch(algo) {
1198ed2b524SDag-Erling Smørgrav #ifdef HAVE_EVP_SHA1
1208ed2b524SDag-Erling Smørgrav 		case LDNS_SHA1:
1218ed2b524SDag-Erling Smørgrav 			return SHA_DIGEST_LENGTH;
1228ed2b524SDag-Erling Smørgrav #endif
1238ed2b524SDag-Erling Smørgrav #ifdef HAVE_EVP_SHA256
1248ed2b524SDag-Erling Smørgrav 		case LDNS_SHA256:
1258ed2b524SDag-Erling Smørgrav 			return SHA256_DIGEST_LENGTH;
1268ed2b524SDag-Erling Smørgrav #endif
1278ed2b524SDag-Erling Smørgrav #ifdef USE_GOST
1288ed2b524SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
129f61ef7f6SDag-Erling Smørgrav 			/* we support GOST if it can be loaded */
130f61ef7f6SDag-Erling Smørgrav 			(void)sldns_key_EVP_load_gost_id();
1318ed2b524SDag-Erling Smørgrav 			if(EVP_get_digestbyname("md_gost94"))
1328ed2b524SDag-Erling Smørgrav 				return 32;
1338ed2b524SDag-Erling Smørgrav 			else	return 0;
1348ed2b524SDag-Erling Smørgrav #endif
1358ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
1368ed2b524SDag-Erling Smørgrav 		case LDNS_SHA384:
1378ed2b524SDag-Erling Smørgrav 			return SHA384_DIGEST_LENGTH;
1388ed2b524SDag-Erling Smørgrav #endif
1398ed2b524SDag-Erling Smørgrav 		default: break;
1408ed2b524SDag-Erling Smørgrav 	}
1418ed2b524SDag-Erling Smørgrav 	return 0;
1428ed2b524SDag-Erling Smørgrav }
1438ed2b524SDag-Erling Smørgrav 
1448ed2b524SDag-Erling Smørgrav #ifdef USE_GOST
1458ed2b524SDag-Erling Smørgrav /** Perform GOST hash */
1468ed2b524SDag-Erling Smørgrav static int
1478ed2b524SDag-Erling Smørgrav do_gost94(unsigned char* data, size_t len, unsigned char* dest)
1488ed2b524SDag-Erling Smørgrav {
1498ed2b524SDag-Erling Smørgrav 	const EVP_MD* md = EVP_get_digestbyname("md_gost94");
1508ed2b524SDag-Erling Smørgrav 	if(!md)
1518ed2b524SDag-Erling Smørgrav 		return 0;
15217d15b25SDag-Erling Smørgrav 	return sldns_digest_evp(data, (unsigned int)len, dest, md);
1538ed2b524SDag-Erling Smørgrav }
1548ed2b524SDag-Erling Smørgrav #endif
1558ed2b524SDag-Erling Smørgrav 
1568ed2b524SDag-Erling Smørgrav int
1578ed2b524SDag-Erling Smørgrav secalgo_ds_digest(int algo, unsigned char* buf, size_t len,
1588ed2b524SDag-Erling Smørgrav 	unsigned char* res)
1598ed2b524SDag-Erling Smørgrav {
1608ed2b524SDag-Erling Smørgrav 	switch(algo) {
1618ed2b524SDag-Erling Smørgrav #ifdef HAVE_EVP_SHA1
1628ed2b524SDag-Erling Smørgrav 		case LDNS_SHA1:
1638ed2b524SDag-Erling Smørgrav 			(void)SHA1(buf, len, res);
1648ed2b524SDag-Erling Smørgrav 			return 1;
1658ed2b524SDag-Erling Smørgrav #endif
1668ed2b524SDag-Erling Smørgrav #ifdef HAVE_EVP_SHA256
1678ed2b524SDag-Erling Smørgrav 		case LDNS_SHA256:
1688ed2b524SDag-Erling Smørgrav 			(void)SHA256(buf, len, res);
1698ed2b524SDag-Erling Smørgrav 			return 1;
1708ed2b524SDag-Erling Smørgrav #endif
1718ed2b524SDag-Erling Smørgrav #ifdef USE_GOST
1728ed2b524SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
1738ed2b524SDag-Erling Smørgrav 			if(do_gost94(buf, len, res))
1748ed2b524SDag-Erling Smørgrav 				return 1;
1758ed2b524SDag-Erling Smørgrav 			break;
1768ed2b524SDag-Erling Smørgrav #endif
1778ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
1788ed2b524SDag-Erling Smørgrav 		case LDNS_SHA384:
1798ed2b524SDag-Erling Smørgrav 			(void)SHA384(buf, len, res);
1808ed2b524SDag-Erling Smørgrav 			return 1;
1818ed2b524SDag-Erling Smørgrav #endif
1828ed2b524SDag-Erling Smørgrav 		default:
1838ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "unknown DS digest algorithm %d",
1848ed2b524SDag-Erling Smørgrav 				algo);
1858ed2b524SDag-Erling Smørgrav 			break;
1868ed2b524SDag-Erling Smørgrav 	}
1878ed2b524SDag-Erling Smørgrav 	return 0;
1888ed2b524SDag-Erling Smørgrav }
1898ed2b524SDag-Erling Smørgrav 
1908ed2b524SDag-Erling Smørgrav /** return true if DNSKEY algorithm id is supported */
1918ed2b524SDag-Erling Smørgrav int
1928ed2b524SDag-Erling Smørgrav dnskey_algo_id_is_supported(int id)
1938ed2b524SDag-Erling Smørgrav {
1948ed2b524SDag-Erling Smørgrav 	switch(id) {
1958ed2b524SDag-Erling Smørgrav 	case LDNS_RSAMD5:
1968ed2b524SDag-Erling Smørgrav 		/* RFC 6725 deprecates RSAMD5 */
1978ed2b524SDag-Erling Smørgrav 		return 0;
1988ed2b524SDag-Erling Smørgrav 	case LDNS_DSA:
1998ed2b524SDag-Erling Smørgrav 	case LDNS_DSA_NSEC3:
200bc892140SDag-Erling Smørgrav #ifdef USE_DSA
201bc892140SDag-Erling Smørgrav 		return 1;
202bc892140SDag-Erling Smørgrav #else
203bc892140SDag-Erling Smørgrav 		if(fake_dsa) return 1;
204bc892140SDag-Erling Smørgrav 		return 0;
205e2d15004SDag-Erling Smørgrav #endif
2068ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA1:
2078ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA1_NSEC3:
2088ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA256) && defined(USE_SHA2)
2098ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA256:
2108ed2b524SDag-Erling Smørgrav #endif
2118ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA512) && defined(USE_SHA2)
2128ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA512:
2138ed2b524SDag-Erling Smørgrav #endif
2148ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
2158ed2b524SDag-Erling Smørgrav 	case LDNS_ECDSAP256SHA256:
2168ed2b524SDag-Erling Smørgrav 	case LDNS_ECDSAP384SHA384:
2178ed2b524SDag-Erling Smørgrav #endif
2188ed2b524SDag-Erling Smørgrav 		return 1;
2198ed2b524SDag-Erling Smørgrav #ifdef USE_GOST
2208ed2b524SDag-Erling Smørgrav 	case LDNS_ECC_GOST:
2218ed2b524SDag-Erling Smørgrav 		/* we support GOST if it can be loaded */
22217d15b25SDag-Erling Smørgrav 		return sldns_key_EVP_load_gost_id();
2238ed2b524SDag-Erling Smørgrav #endif
2248ed2b524SDag-Erling Smørgrav 	default:
2258ed2b524SDag-Erling Smørgrav 		return 0;
2268ed2b524SDag-Erling Smørgrav 	}
2278ed2b524SDag-Erling Smørgrav }
2288ed2b524SDag-Erling Smørgrav 
2298ed2b524SDag-Erling Smørgrav /**
2308ed2b524SDag-Erling Smørgrav  * Output a libcrypto openssl error to the logfile.
2318ed2b524SDag-Erling Smørgrav  * @param str: string to add to it.
2328ed2b524SDag-Erling Smørgrav  * @param e: the error to output, error number from ERR_get_error().
2338ed2b524SDag-Erling Smørgrav  */
2348ed2b524SDag-Erling Smørgrav static void
2358ed2b524SDag-Erling Smørgrav log_crypto_error(const char* str, unsigned long e)
2368ed2b524SDag-Erling Smørgrav {
2378ed2b524SDag-Erling Smørgrav 	char buf[128];
2388ed2b524SDag-Erling Smørgrav 	/* or use ERR_error_string if ERR_error_string_n is not avail TODO */
2398ed2b524SDag-Erling Smørgrav 	ERR_error_string_n(e, buf, sizeof(buf));
2408ed2b524SDag-Erling Smørgrav 	/* buf now contains */
2418ed2b524SDag-Erling Smørgrav 	/* error:[error code]:[library name]:[function name]:[reason string] */
2428ed2b524SDag-Erling Smørgrav 	log_err("%s crypto %s", str, buf);
2438ed2b524SDag-Erling Smørgrav }
2448ed2b524SDag-Erling Smørgrav 
245e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
2468ed2b524SDag-Erling Smørgrav /**
2478ed2b524SDag-Erling Smørgrav  * Setup DSA key digest in DER encoding ...
2488ed2b524SDag-Erling Smørgrav  * @param sig: input is signature output alloced ptr (unless failure).
2498ed2b524SDag-Erling Smørgrav  * 	caller must free alloced ptr if this routine returns true.
2508ed2b524SDag-Erling Smørgrav  * @param len: input is initial siglen, output is output len.
2518ed2b524SDag-Erling Smørgrav  * @return false on failure.
2528ed2b524SDag-Erling Smørgrav  */
2538ed2b524SDag-Erling Smørgrav static int
2548ed2b524SDag-Erling Smørgrav setup_dsa_sig(unsigned char** sig, unsigned int* len)
2558ed2b524SDag-Erling Smørgrav {
2568ed2b524SDag-Erling Smørgrav 	unsigned char* orig = *sig;
2578ed2b524SDag-Erling Smørgrav 	unsigned int origlen = *len;
2588ed2b524SDag-Erling Smørgrav 	int newlen;
2598ed2b524SDag-Erling Smørgrav 	BIGNUM *R, *S;
2608ed2b524SDag-Erling Smørgrav 	DSA_SIG *dsasig;
2618ed2b524SDag-Erling Smørgrav 
2628ed2b524SDag-Erling Smørgrav 	/* extract the R and S field from the sig buffer */
2638ed2b524SDag-Erling Smørgrav 	if(origlen < 1 + 2*SHA_DIGEST_LENGTH)
2648ed2b524SDag-Erling Smørgrav 		return 0;
2658ed2b524SDag-Erling Smørgrav 	R = BN_new();
2668ed2b524SDag-Erling Smørgrav 	if(!R) return 0;
2678ed2b524SDag-Erling Smørgrav 	(void) BN_bin2bn(orig + 1, SHA_DIGEST_LENGTH, R);
2688ed2b524SDag-Erling Smørgrav 	S = BN_new();
2698ed2b524SDag-Erling Smørgrav 	if(!S) return 0;
2708ed2b524SDag-Erling Smørgrav 	(void) BN_bin2bn(orig + 21, SHA_DIGEST_LENGTH, S);
2718ed2b524SDag-Erling Smørgrav 	dsasig = DSA_SIG_new();
2728ed2b524SDag-Erling Smørgrav 	if(!dsasig) return 0;
2738ed2b524SDag-Erling Smørgrav 
274bc892140SDag-Erling Smørgrav #ifdef HAVE_DSA_SIG_SET0
275bc892140SDag-Erling Smørgrav 	if(!DSA_SIG_set0(dsasig, R, S)) return 0;
276bc892140SDag-Erling Smørgrav #else
2778ed2b524SDag-Erling Smørgrav 	dsasig->r = R;
2788ed2b524SDag-Erling Smørgrav 	dsasig->s = S;
279bc892140SDag-Erling Smørgrav #endif
2808ed2b524SDag-Erling Smørgrav 	*sig = NULL;
2818ed2b524SDag-Erling Smørgrav 	newlen = i2d_DSA_SIG(dsasig, sig);
2828ed2b524SDag-Erling Smørgrav 	if(newlen < 0) {
2838ed2b524SDag-Erling Smørgrav 		DSA_SIG_free(dsasig);
2848ed2b524SDag-Erling Smørgrav 		free(*sig);
2858ed2b524SDag-Erling Smørgrav 		return 0;
2868ed2b524SDag-Erling Smørgrav 	}
2878ed2b524SDag-Erling Smørgrav 	*len = (unsigned int)newlen;
2888ed2b524SDag-Erling Smørgrav 	DSA_SIG_free(dsasig);
2898ed2b524SDag-Erling Smørgrav 	return 1;
2908ed2b524SDag-Erling Smørgrav }
291e2d15004SDag-Erling Smørgrav #endif /* USE_DSA */
2928ed2b524SDag-Erling Smørgrav 
2938ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
2948ed2b524SDag-Erling Smørgrav /**
2958ed2b524SDag-Erling Smørgrav  * Setup the ECDSA signature in its encoding that the library wants.
2968ed2b524SDag-Erling Smørgrav  * Converts from plain numbers to ASN formatted.
2978ed2b524SDag-Erling Smørgrav  * @param sig: input is signature, output alloced ptr (unless failure).
2988ed2b524SDag-Erling Smørgrav  * 	caller must free alloced ptr if this routine returns true.
2998ed2b524SDag-Erling Smørgrav  * @param len: input is initial siglen, output is output len.
3008ed2b524SDag-Erling Smørgrav  * @return false on failure.
3018ed2b524SDag-Erling Smørgrav  */
3028ed2b524SDag-Erling Smørgrav static int
3038ed2b524SDag-Erling Smørgrav setup_ecdsa_sig(unsigned char** sig, unsigned int* len)
3048ed2b524SDag-Erling Smørgrav {
305e2d15004SDag-Erling Smørgrav         /* convert from two BIGNUMs in the rdata buffer, to ASN notation.
306e2d15004SDag-Erling Smørgrav 	 * ASN preable:  30440220 <R 32bytefor256> 0220 <S 32bytefor256>
307e2d15004SDag-Erling Smørgrav 	 * the '20' is the length of that field (=bnsize).
308e2d15004SDag-Erling Smørgrav i	 * the '44' is the total remaining length.
309e2d15004SDag-Erling Smørgrav 	 * if negative, start with leading zero.
310e2d15004SDag-Erling Smørgrav 	 * if starts with 00s, remove them from the number.
311e2d15004SDag-Erling Smørgrav 	 */
312e2d15004SDag-Erling Smørgrav         uint8_t pre[] = {0x30, 0x44, 0x02, 0x20};
313e2d15004SDag-Erling Smørgrav         int pre_len = 4;
314e2d15004SDag-Erling Smørgrav         uint8_t mid[] = {0x02, 0x20};
315e2d15004SDag-Erling Smørgrav         int mid_len = 2;
316e2d15004SDag-Erling Smørgrav         int raw_sig_len, r_high, s_high, r_rem=0, s_rem=0;
3178ed2b524SDag-Erling Smørgrav 	int bnsize = (int)((*len)/2);
318e2d15004SDag-Erling Smørgrav         unsigned char* d = *sig;
319e2d15004SDag-Erling Smørgrav 	uint8_t* p;
3208ed2b524SDag-Erling Smørgrav 	/* if too short or not even length, fails */
3218ed2b524SDag-Erling Smørgrav 	if(*len < 16 || bnsize*2 != (int)*len)
3228ed2b524SDag-Erling Smørgrav 		return 0;
3238ed2b524SDag-Erling Smørgrav 
324e2d15004SDag-Erling Smørgrav         /* strip leading zeroes from r (but not last one) */
325e2d15004SDag-Erling Smørgrav         while(r_rem < bnsize-1 && d[r_rem] == 0)
326e2d15004SDag-Erling Smørgrav                 r_rem++;
327e2d15004SDag-Erling Smørgrav         /* strip leading zeroes from s (but not last one) */
328e2d15004SDag-Erling Smørgrav         while(s_rem < bnsize-1 && d[bnsize+s_rem] == 0)
329e2d15004SDag-Erling Smørgrav                 s_rem++;
330e2d15004SDag-Erling Smørgrav 
331e2d15004SDag-Erling Smørgrav         r_high = ((d[0+r_rem]&0x80)?1:0);
332e2d15004SDag-Erling Smørgrav         s_high = ((d[bnsize+s_rem]&0x80)?1:0);
333e2d15004SDag-Erling Smørgrav         raw_sig_len = pre_len + r_high + bnsize - r_rem + mid_len +
334e2d15004SDag-Erling Smørgrav                 s_high + bnsize - s_rem;
335e2d15004SDag-Erling Smørgrav 	*sig = (unsigned char*)malloc((size_t)raw_sig_len);
336e2d15004SDag-Erling Smørgrav 	if(!*sig)
3378ed2b524SDag-Erling Smørgrav 		return 0;
338e2d15004SDag-Erling Smørgrav 	p = (uint8_t*)*sig;
339e2d15004SDag-Erling Smørgrav 	p[0] = pre[0];
340e2d15004SDag-Erling Smørgrav 	p[1] = (uint8_t)(raw_sig_len-2);
341e2d15004SDag-Erling Smørgrav 	p[2] = pre[2];
342e2d15004SDag-Erling Smørgrav 	p[3] = (uint8_t)(bnsize + r_high - r_rem);
343e2d15004SDag-Erling Smørgrav 	p += 4;
344e2d15004SDag-Erling Smørgrav 	if(r_high) {
345e2d15004SDag-Erling Smørgrav 		*p = 0;
346e2d15004SDag-Erling Smørgrav 		p += 1;
3478ed2b524SDag-Erling Smørgrav 	}
348e2d15004SDag-Erling Smørgrav 	memmove(p, d+r_rem, (size_t)bnsize-r_rem);
349e2d15004SDag-Erling Smørgrav 	p += bnsize-r_rem;
350e2d15004SDag-Erling Smørgrav 	memmove(p, mid, (size_t)mid_len-1);
351e2d15004SDag-Erling Smørgrav 	p += mid_len-1;
352e2d15004SDag-Erling Smørgrav 	*p = (uint8_t)(bnsize + s_high - s_rem);
353e2d15004SDag-Erling Smørgrav 	p += 1;
354e2d15004SDag-Erling Smørgrav         if(s_high) {
355e2d15004SDag-Erling Smørgrav 		*p = 0;
356e2d15004SDag-Erling Smørgrav 		p += 1;
357e2d15004SDag-Erling Smørgrav 	}
358e2d15004SDag-Erling Smørgrav 	memmove(p, d+bnsize+s_rem, (size_t)bnsize-s_rem);
359e2d15004SDag-Erling Smørgrav 	*len = (unsigned int)raw_sig_len;
3608ed2b524SDag-Erling Smørgrav 	return 1;
3618ed2b524SDag-Erling Smørgrav }
3628ed2b524SDag-Erling Smørgrav #endif /* USE_ECDSA */
3638ed2b524SDag-Erling Smørgrav 
364b5663de9SDag-Erling Smørgrav #ifdef USE_ECDSA_EVP_WORKAROUND
365b5663de9SDag-Erling Smørgrav static EVP_MD ecdsa_evp_256_md;
366b5663de9SDag-Erling Smørgrav static EVP_MD ecdsa_evp_384_md;
367b5663de9SDag-Erling Smørgrav void ecdsa_evp_workaround_init(void)
368b5663de9SDag-Erling Smørgrav {
369b5663de9SDag-Erling Smørgrav 	/* openssl before 1.0.0 fixes RSA with the SHA256
370b5663de9SDag-Erling Smørgrav 	 * hash in EVP.  We create one for ecdsa_sha256 */
371b5663de9SDag-Erling Smørgrav 	ecdsa_evp_256_md = *EVP_sha256();
372b5663de9SDag-Erling Smørgrav 	ecdsa_evp_256_md.required_pkey_type[0] = EVP_PKEY_EC;
373b5663de9SDag-Erling Smørgrav 	ecdsa_evp_256_md.verify = (void*)ECDSA_verify;
374b5663de9SDag-Erling Smørgrav 
375b5663de9SDag-Erling Smørgrav 	ecdsa_evp_384_md = *EVP_sha384();
376b5663de9SDag-Erling Smørgrav 	ecdsa_evp_384_md.required_pkey_type[0] = EVP_PKEY_EC;
377b5663de9SDag-Erling Smørgrav 	ecdsa_evp_384_md.verify = (void*)ECDSA_verify;
378b5663de9SDag-Erling Smørgrav }
379b5663de9SDag-Erling Smørgrav #endif /* USE_ECDSA_EVP_WORKAROUND */
380b5663de9SDag-Erling Smørgrav 
3818ed2b524SDag-Erling Smørgrav /**
3828ed2b524SDag-Erling Smørgrav  * Setup key and digest for verification. Adjust sig if necessary.
3838ed2b524SDag-Erling Smørgrav  *
3848ed2b524SDag-Erling Smørgrav  * @param algo: key algorithm
3858ed2b524SDag-Erling Smørgrav  * @param evp_key: EVP PKEY public key to create.
3868ed2b524SDag-Erling Smørgrav  * @param digest_type: digest type to use
3878ed2b524SDag-Erling Smørgrav  * @param key: key to setup for.
3888ed2b524SDag-Erling Smørgrav  * @param keylen: length of key.
3898ed2b524SDag-Erling Smørgrav  * @return false on failure.
3908ed2b524SDag-Erling Smørgrav  */
3918ed2b524SDag-Erling Smørgrav static int
3928ed2b524SDag-Erling Smørgrav setup_key_digest(int algo, EVP_PKEY** evp_key, const EVP_MD** digest_type,
3938ed2b524SDag-Erling Smørgrav 	unsigned char* key, size_t keylen)
3948ed2b524SDag-Erling Smørgrav {
395e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
3968ed2b524SDag-Erling Smørgrav 	DSA* dsa;
397e2d15004SDag-Erling Smørgrav #endif
3988ed2b524SDag-Erling Smørgrav 	RSA* rsa;
3998ed2b524SDag-Erling Smørgrav 
4008ed2b524SDag-Erling Smørgrav 	switch(algo) {
401e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
4028ed2b524SDag-Erling Smørgrav 		case LDNS_DSA:
4038ed2b524SDag-Erling Smørgrav 		case LDNS_DSA_NSEC3:
4048ed2b524SDag-Erling Smørgrav 			*evp_key = EVP_PKEY_new();
4058ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
4068ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
4078ed2b524SDag-Erling Smørgrav 				return 0;
4088ed2b524SDag-Erling Smørgrav 			}
40917d15b25SDag-Erling Smørgrav 			dsa = sldns_key_buf2dsa_raw(key, keylen);
4108ed2b524SDag-Erling Smørgrav 			if(!dsa) {
4118ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
41217d15b25SDag-Erling Smørgrav 					"sldns_key_buf2dsa_raw failed");
4138ed2b524SDag-Erling Smørgrav 				return 0;
4148ed2b524SDag-Erling Smørgrav 			}
4158ed2b524SDag-Erling Smørgrav 			if(EVP_PKEY_assign_DSA(*evp_key, dsa) == 0) {
4168ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
4178ed2b524SDag-Erling Smørgrav 					"EVP_PKEY_assign_DSA failed");
4188ed2b524SDag-Erling Smørgrav 				return 0;
4198ed2b524SDag-Erling Smørgrav 			}
420bc892140SDag-Erling Smørgrav #ifdef HAVE_EVP_DSS1
4218ed2b524SDag-Erling Smørgrav 			*digest_type = EVP_dss1();
422bc892140SDag-Erling Smørgrav #else
423bc892140SDag-Erling Smørgrav 			*digest_type = EVP_sha1();
424bc892140SDag-Erling Smørgrav #endif
4258ed2b524SDag-Erling Smørgrav 
4268ed2b524SDag-Erling Smørgrav 			break;
427e2d15004SDag-Erling Smørgrav #endif /* USE_DSA */
4288ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA1:
4298ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA1_NSEC3:
4308ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA256) && defined(USE_SHA2)
4318ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA256:
4328ed2b524SDag-Erling Smørgrav #endif
4338ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA512) && defined(USE_SHA2)
4348ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA512:
4358ed2b524SDag-Erling Smørgrav #endif
4368ed2b524SDag-Erling Smørgrav 			*evp_key = EVP_PKEY_new();
4378ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
4388ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
4398ed2b524SDag-Erling Smørgrav 				return 0;
4408ed2b524SDag-Erling Smørgrav 			}
44117d15b25SDag-Erling Smørgrav 			rsa = sldns_key_buf2rsa_raw(key, keylen);
4428ed2b524SDag-Erling Smørgrav 			if(!rsa) {
4438ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
44417d15b25SDag-Erling Smørgrav 					"sldns_key_buf2rsa_raw SHA failed");
4458ed2b524SDag-Erling Smørgrav 				return 0;
4468ed2b524SDag-Erling Smørgrav 			}
4478ed2b524SDag-Erling Smørgrav 			if(EVP_PKEY_assign_RSA(*evp_key, rsa) == 0) {
4488ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
4498ed2b524SDag-Erling Smørgrav 					"EVP_PKEY_assign_RSA SHA failed");
4508ed2b524SDag-Erling Smørgrav 				return 0;
4518ed2b524SDag-Erling Smørgrav 			}
4528ed2b524SDag-Erling Smørgrav 
4538ed2b524SDag-Erling Smørgrav 			/* select SHA version */
4548ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA256) && defined(USE_SHA2)
4558ed2b524SDag-Erling Smørgrav 			if(algo == LDNS_RSASHA256)
4568ed2b524SDag-Erling Smørgrav 				*digest_type = EVP_sha256();
4578ed2b524SDag-Erling Smørgrav 			else
4588ed2b524SDag-Erling Smørgrav #endif
4598ed2b524SDag-Erling Smørgrav #if defined(HAVE_EVP_SHA512) && defined(USE_SHA2)
4608ed2b524SDag-Erling Smørgrav 				if(algo == LDNS_RSASHA512)
4618ed2b524SDag-Erling Smørgrav 				*digest_type = EVP_sha512();
4628ed2b524SDag-Erling Smørgrav 			else
4638ed2b524SDag-Erling Smørgrav #endif
4648ed2b524SDag-Erling Smørgrav 				*digest_type = EVP_sha1();
4658ed2b524SDag-Erling Smørgrav 
4668ed2b524SDag-Erling Smørgrav 			break;
4678ed2b524SDag-Erling Smørgrav 		case LDNS_RSAMD5:
4688ed2b524SDag-Erling Smørgrav 			*evp_key = EVP_PKEY_new();
4698ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
4708ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
4718ed2b524SDag-Erling Smørgrav 				return 0;
4728ed2b524SDag-Erling Smørgrav 			}
47317d15b25SDag-Erling Smørgrav 			rsa = sldns_key_buf2rsa_raw(key, keylen);
4748ed2b524SDag-Erling Smørgrav 			if(!rsa) {
4758ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
47617d15b25SDag-Erling Smørgrav 					"sldns_key_buf2rsa_raw MD5 failed");
4778ed2b524SDag-Erling Smørgrav 				return 0;
4788ed2b524SDag-Erling Smørgrav 			}
4798ed2b524SDag-Erling Smørgrav 			if(EVP_PKEY_assign_RSA(*evp_key, rsa) == 0) {
4808ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
4818ed2b524SDag-Erling Smørgrav 					"EVP_PKEY_assign_RSA MD5 failed");
4828ed2b524SDag-Erling Smørgrav 				return 0;
4838ed2b524SDag-Erling Smørgrav 			}
4848ed2b524SDag-Erling Smørgrav 			*digest_type = EVP_md5();
4858ed2b524SDag-Erling Smørgrav 
4868ed2b524SDag-Erling Smørgrav 			break;
4878ed2b524SDag-Erling Smørgrav #ifdef USE_GOST
4888ed2b524SDag-Erling Smørgrav 		case LDNS_ECC_GOST:
48917d15b25SDag-Erling Smørgrav 			*evp_key = sldns_gost2pkey_raw(key, keylen);
4908ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
4918ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
49217d15b25SDag-Erling Smørgrav 					"sldns_gost2pkey_raw failed");
4938ed2b524SDag-Erling Smørgrav 				return 0;
4948ed2b524SDag-Erling Smørgrav 			}
4958ed2b524SDag-Erling Smørgrav 			*digest_type = EVP_get_digestbyname("md_gost94");
4968ed2b524SDag-Erling Smørgrav 			if(!*digest_type) {
4978ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
4988ed2b524SDag-Erling Smørgrav 					"EVP_getdigest md_gost94 failed");
4998ed2b524SDag-Erling Smørgrav 				return 0;
5008ed2b524SDag-Erling Smørgrav 			}
5018ed2b524SDag-Erling Smørgrav 			break;
5028ed2b524SDag-Erling Smørgrav #endif
5038ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
5048ed2b524SDag-Erling Smørgrav 		case LDNS_ECDSAP256SHA256:
50517d15b25SDag-Erling Smørgrav 			*evp_key = sldns_ecdsa2pkey_raw(key, keylen,
5068ed2b524SDag-Erling Smørgrav 				LDNS_ECDSAP256SHA256);
5078ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
5088ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
50917d15b25SDag-Erling Smørgrav 					"sldns_ecdsa2pkey_raw failed");
5108ed2b524SDag-Erling Smørgrav 				return 0;
5118ed2b524SDag-Erling Smørgrav 			}
5128ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA_EVP_WORKAROUND
513b5663de9SDag-Erling Smørgrav 			*digest_type = &ecdsa_evp_256_md;
5148ed2b524SDag-Erling Smørgrav #else
5158ed2b524SDag-Erling Smørgrav 			*digest_type = EVP_sha256();
5168ed2b524SDag-Erling Smørgrav #endif
5178ed2b524SDag-Erling Smørgrav 			break;
5188ed2b524SDag-Erling Smørgrav 		case LDNS_ECDSAP384SHA384:
51917d15b25SDag-Erling Smørgrav 			*evp_key = sldns_ecdsa2pkey_raw(key, keylen,
5208ed2b524SDag-Erling Smørgrav 				LDNS_ECDSAP384SHA384);
5218ed2b524SDag-Erling Smørgrav 			if(!*evp_key) {
5228ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: "
52317d15b25SDag-Erling Smørgrav 					"sldns_ecdsa2pkey_raw failed");
5248ed2b524SDag-Erling Smørgrav 				return 0;
5258ed2b524SDag-Erling Smørgrav 			}
5268ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA_EVP_WORKAROUND
527b5663de9SDag-Erling Smørgrav 			*digest_type = &ecdsa_evp_384_md;
5288ed2b524SDag-Erling Smørgrav #else
5298ed2b524SDag-Erling Smørgrav 			*digest_type = EVP_sha384();
5308ed2b524SDag-Erling Smørgrav #endif
5318ed2b524SDag-Erling Smørgrav 			break;
5328ed2b524SDag-Erling Smørgrav #endif /* USE_ECDSA */
5338ed2b524SDag-Erling Smørgrav 		default:
5348ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "verify: unknown algorithm %d",
5358ed2b524SDag-Erling Smørgrav 				algo);
5368ed2b524SDag-Erling Smørgrav 			return 0;
5378ed2b524SDag-Erling Smørgrav 	}
5388ed2b524SDag-Erling Smørgrav 	return 1;
5398ed2b524SDag-Erling Smørgrav }
5408ed2b524SDag-Erling Smørgrav 
5418ed2b524SDag-Erling Smørgrav /**
5428ed2b524SDag-Erling Smørgrav  * Check a canonical sig+rrset and signature against a dnskey
5438ed2b524SDag-Erling Smørgrav  * @param buf: buffer with data to verify, the first rrsig part and the
5448ed2b524SDag-Erling Smørgrav  *	canonicalized rrset.
5458ed2b524SDag-Erling Smørgrav  * @param algo: DNSKEY algorithm.
5468ed2b524SDag-Erling Smørgrav  * @param sigblock: signature rdata field from RRSIG
5478ed2b524SDag-Erling Smørgrav  * @param sigblock_len: length of sigblock data.
5488ed2b524SDag-Erling Smørgrav  * @param key: public key data from DNSKEY RR.
5498ed2b524SDag-Erling Smørgrav  * @param keylen: length of keydata.
5508ed2b524SDag-Erling Smørgrav  * @param reason: bogus reason in more detail.
5518ed2b524SDag-Erling Smørgrav  * @return secure if verification succeeded, bogus on crypto failure,
5528ed2b524SDag-Erling Smørgrav  *	unchecked on format errors and alloc failures.
5538ed2b524SDag-Erling Smørgrav  */
5548ed2b524SDag-Erling Smørgrav enum sec_status
55517d15b25SDag-Erling Smørgrav verify_canonrrset(sldns_buffer* buf, int algo, unsigned char* sigblock,
5568ed2b524SDag-Erling Smørgrav 	unsigned int sigblock_len, unsigned char* key, unsigned int keylen,
5578ed2b524SDag-Erling Smørgrav 	char** reason)
5588ed2b524SDag-Erling Smørgrav {
5598ed2b524SDag-Erling Smørgrav 	const EVP_MD *digest_type;
560e2d15004SDag-Erling Smørgrav 	EVP_MD_CTX* ctx;
561e2d15004SDag-Erling Smørgrav 	int res, dofree = 0, docrypto_free = 0;
5628ed2b524SDag-Erling Smørgrav 	EVP_PKEY *evp_key = NULL;
5638ed2b524SDag-Erling Smørgrav 
564bc892140SDag-Erling Smørgrav #ifndef USE_DSA
565bc892140SDag-Erling Smørgrav 	if((algo == LDNS_DSA || algo == LDNS_DSA_NSEC3) && fake_dsa)
566bc892140SDag-Erling Smørgrav 		return sec_status_secure;
567bc892140SDag-Erling Smørgrav #endif
568bc892140SDag-Erling Smørgrav 
5698ed2b524SDag-Erling Smørgrav 	if(!setup_key_digest(algo, &evp_key, &digest_type, key, keylen)) {
5708ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: failed to setup key");
5718ed2b524SDag-Erling Smørgrav 		*reason = "use of key for crypto failed";
5728ed2b524SDag-Erling Smørgrav 		EVP_PKEY_free(evp_key);
5738ed2b524SDag-Erling Smørgrav 		return sec_status_bogus;
5748ed2b524SDag-Erling Smørgrav 	}
575e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
5768ed2b524SDag-Erling Smørgrav 	/* if it is a DSA signature in bind format, convert to DER format */
5778ed2b524SDag-Erling Smørgrav 	if((algo == LDNS_DSA || algo == LDNS_DSA_NSEC3) &&
5788ed2b524SDag-Erling Smørgrav 		sigblock_len == 1+2*SHA_DIGEST_LENGTH) {
5798ed2b524SDag-Erling Smørgrav 		if(!setup_dsa_sig(&sigblock, &sigblock_len)) {
5808ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "verify: failed to setup DSA sig");
5818ed2b524SDag-Erling Smørgrav 			*reason = "use of key for DSA crypto failed";
5828ed2b524SDag-Erling Smørgrav 			EVP_PKEY_free(evp_key);
5838ed2b524SDag-Erling Smørgrav 			return sec_status_bogus;
5848ed2b524SDag-Erling Smørgrav 		}
585e2d15004SDag-Erling Smørgrav 		docrypto_free = 1;
5868ed2b524SDag-Erling Smørgrav 	}
587e2d15004SDag-Erling Smørgrav #endif
588e2d15004SDag-Erling Smørgrav #if defined(USE_ECDSA) && defined(USE_DSA)
589e2d15004SDag-Erling Smørgrav 	else
590e2d15004SDag-Erling Smørgrav #endif
5918ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
592e2d15004SDag-Erling Smørgrav 	if(algo == LDNS_ECDSAP256SHA256 || algo == LDNS_ECDSAP384SHA384) {
5938ed2b524SDag-Erling Smørgrav 		/* EVP uses ASN prefix on sig, which is not in the wire data */
5948ed2b524SDag-Erling Smørgrav 		if(!setup_ecdsa_sig(&sigblock, &sigblock_len)) {
5958ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "verify: failed to setup ECDSA sig");
5968ed2b524SDag-Erling Smørgrav 			*reason = "use of signature for ECDSA crypto failed";
5978ed2b524SDag-Erling Smørgrav 			EVP_PKEY_free(evp_key);
5988ed2b524SDag-Erling Smørgrav 			return sec_status_bogus;
5998ed2b524SDag-Erling Smørgrav 		}
6008ed2b524SDag-Erling Smørgrav 		dofree = 1;
6018ed2b524SDag-Erling Smørgrav 	}
6028ed2b524SDag-Erling Smørgrav #endif /* USE_ECDSA */
6038ed2b524SDag-Erling Smørgrav 
6048ed2b524SDag-Erling Smørgrav 	/* do the signature cryptography work */
605e2d15004SDag-Erling Smørgrav #ifdef HAVE_EVP_MD_CTX_NEW
606e2d15004SDag-Erling Smørgrav 	ctx = EVP_MD_CTX_new();
607e2d15004SDag-Erling Smørgrav #else
608e2d15004SDag-Erling Smørgrav 	ctx = (EVP_MD_CTX*)malloc(sizeof(*ctx));
609e2d15004SDag-Erling Smørgrav 	if(ctx) EVP_MD_CTX_init(ctx);
610e2d15004SDag-Erling Smørgrav #endif
611e2d15004SDag-Erling Smørgrav 	if(!ctx) {
612e2d15004SDag-Erling Smørgrav 		log_err("EVP_MD_CTX_new: malloc failure");
6138ed2b524SDag-Erling Smørgrav 		EVP_PKEY_free(evp_key);
6148ed2b524SDag-Erling Smørgrav 		if(dofree) free(sigblock);
615b5663de9SDag-Erling Smørgrav 		else if(docrypto_free) OPENSSL_free(sigblock);
6168ed2b524SDag-Erling Smørgrav 		return sec_status_unchecked;
6178ed2b524SDag-Erling Smørgrav 	}
618e2d15004SDag-Erling Smørgrav 	if(EVP_VerifyInit(ctx, digest_type) == 0) {
619e2d15004SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: EVP_VerifyInit failed");
620e2d15004SDag-Erling Smørgrav 		EVP_MD_CTX_destroy(ctx);
621e2d15004SDag-Erling Smørgrav 		EVP_PKEY_free(evp_key);
622e2d15004SDag-Erling Smørgrav 		if(dofree) free(sigblock);
623b5663de9SDag-Erling Smørgrav 		else if(docrypto_free) OPENSSL_free(sigblock);
624e2d15004SDag-Erling Smørgrav 		return sec_status_unchecked;
625e2d15004SDag-Erling Smørgrav 	}
626e2d15004SDag-Erling Smørgrav 	if(EVP_VerifyUpdate(ctx, (unsigned char*)sldns_buffer_begin(buf),
62717d15b25SDag-Erling Smørgrav 		(unsigned int)sldns_buffer_limit(buf)) == 0) {
6288ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: EVP_VerifyUpdate failed");
629e2d15004SDag-Erling Smørgrav 		EVP_MD_CTX_destroy(ctx);
6308ed2b524SDag-Erling Smørgrav 		EVP_PKEY_free(evp_key);
6318ed2b524SDag-Erling Smørgrav 		if(dofree) free(sigblock);
632b5663de9SDag-Erling Smørgrav 		else if(docrypto_free) OPENSSL_free(sigblock);
6338ed2b524SDag-Erling Smørgrav 		return sec_status_unchecked;
6348ed2b524SDag-Erling Smørgrav 	}
6358ed2b524SDag-Erling Smørgrav 
636e2d15004SDag-Erling Smørgrav 	res = EVP_VerifyFinal(ctx, sigblock, sigblock_len, evp_key);
637e2d15004SDag-Erling Smørgrav #ifdef HAVE_EVP_MD_CTX_NEW
638e2d15004SDag-Erling Smørgrav 	EVP_MD_CTX_destroy(ctx);
639e2d15004SDag-Erling Smørgrav #else
640e2d15004SDag-Erling Smørgrav 	EVP_MD_CTX_cleanup(ctx);
641e2d15004SDag-Erling Smørgrav 	free(ctx);
642e2d15004SDag-Erling Smørgrav #endif
6438ed2b524SDag-Erling Smørgrav 	EVP_PKEY_free(evp_key);
6448ed2b524SDag-Erling Smørgrav 
645e2d15004SDag-Erling Smørgrav 	if(dofree) free(sigblock);
646b5663de9SDag-Erling Smørgrav 	else if(docrypto_free) OPENSSL_free(sigblock);
6478ed2b524SDag-Erling Smørgrav 
6488ed2b524SDag-Erling Smørgrav 	if(res == 1) {
6498ed2b524SDag-Erling Smørgrav 		return sec_status_secure;
6508ed2b524SDag-Erling Smørgrav 	} else if(res == 0) {
6518ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: signature mismatch");
6528ed2b524SDag-Erling Smørgrav 		*reason = "signature crypto failed";
6538ed2b524SDag-Erling Smørgrav 		return sec_status_bogus;
6548ed2b524SDag-Erling Smørgrav 	}
6558ed2b524SDag-Erling Smørgrav 
6568ed2b524SDag-Erling Smørgrav 	log_crypto_error("verify:", ERR_get_error());
6578ed2b524SDag-Erling Smørgrav 	return sec_status_unchecked;
6588ed2b524SDag-Erling Smørgrav }
6598ed2b524SDag-Erling Smørgrav 
6608ed2b524SDag-Erling Smørgrav /**************************************************/
6618ed2b524SDag-Erling Smørgrav #elif defined(HAVE_NSS)
6628ed2b524SDag-Erling Smørgrav /* libnss implementation */
6638ed2b524SDag-Erling Smørgrav /* nss3 */
6648ed2b524SDag-Erling Smørgrav #include "sechash.h"
6658ed2b524SDag-Erling Smørgrav #include "pk11pub.h"
6668ed2b524SDag-Erling Smørgrav #include "keyhi.h"
6678ed2b524SDag-Erling Smørgrav #include "secerr.h"
6688ed2b524SDag-Erling Smørgrav #include "cryptohi.h"
6698ed2b524SDag-Erling Smørgrav /* nspr4 */
6708ed2b524SDag-Erling Smørgrav #include "prerror.h"
6718ed2b524SDag-Erling Smørgrav 
67205ab2901SDag-Erling Smørgrav /* return size of digest if supported, or 0 otherwise */
67305ab2901SDag-Erling Smørgrav size_t
67405ab2901SDag-Erling Smørgrav nsec3_hash_algo_size_supported(int id)
67505ab2901SDag-Erling Smørgrav {
67605ab2901SDag-Erling Smørgrav 	switch(id) {
67705ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
67805ab2901SDag-Erling Smørgrav 		return SHA1_LENGTH;
67905ab2901SDag-Erling Smørgrav 	default:
68005ab2901SDag-Erling Smørgrav 		return 0;
68105ab2901SDag-Erling Smørgrav 	}
68205ab2901SDag-Erling Smørgrav }
68305ab2901SDag-Erling Smørgrav 
68405ab2901SDag-Erling Smørgrav /* perform nsec3 hash. return false on failure */
68505ab2901SDag-Erling Smørgrav int
68605ab2901SDag-Erling Smørgrav secalgo_nsec3_hash(int algo, unsigned char* buf, size_t len,
68705ab2901SDag-Erling Smørgrav         unsigned char* res)
68805ab2901SDag-Erling Smørgrav {
68905ab2901SDag-Erling Smørgrav 	switch(algo) {
69005ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
69105ab2901SDag-Erling Smørgrav 		(void)HASH_HashBuf(HASH_AlgSHA1, res, buf, (unsigned long)len);
69205ab2901SDag-Erling Smørgrav 		return 1;
69305ab2901SDag-Erling Smørgrav 	default:
69405ab2901SDag-Erling Smørgrav 		return 0;
69505ab2901SDag-Erling Smørgrav 	}
69605ab2901SDag-Erling Smørgrav }
69705ab2901SDag-Erling Smørgrav 
698e2d15004SDag-Erling Smørgrav void
699e2d15004SDag-Erling Smørgrav secalgo_hash_sha256(unsigned char* buf, size_t len, unsigned char* res)
700e2d15004SDag-Erling Smørgrav {
701e2d15004SDag-Erling Smørgrav 	(void)HASH_HashBuf(HASH_AlgSHA256, res, buf, (unsigned long)len);
702e2d15004SDag-Erling Smørgrav }
703e2d15004SDag-Erling Smørgrav 
7048ed2b524SDag-Erling Smørgrav size_t
7058ed2b524SDag-Erling Smørgrav ds_digest_size_supported(int algo)
7068ed2b524SDag-Erling Smørgrav {
7078ed2b524SDag-Erling Smørgrav 	/* uses libNSS */
7088ed2b524SDag-Erling Smørgrav 	switch(algo) {
7098ed2b524SDag-Erling Smørgrav 		case LDNS_SHA1:
7108ed2b524SDag-Erling Smørgrav 			return SHA1_LENGTH;
7118ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
7128ed2b524SDag-Erling Smørgrav 		case LDNS_SHA256:
7138ed2b524SDag-Erling Smørgrav 			return SHA256_LENGTH;
7148ed2b524SDag-Erling Smørgrav #endif
7158ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
7168ed2b524SDag-Erling Smørgrav 		case LDNS_SHA384:
7178ed2b524SDag-Erling Smørgrav 			return SHA384_LENGTH;
7188ed2b524SDag-Erling Smørgrav #endif
7198ed2b524SDag-Erling Smørgrav 		/* GOST not supported in NSS */
7208ed2b524SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
7218ed2b524SDag-Erling Smørgrav 		default: break;
7228ed2b524SDag-Erling Smørgrav 	}
7238ed2b524SDag-Erling Smørgrav 	return 0;
7248ed2b524SDag-Erling Smørgrav }
7258ed2b524SDag-Erling Smørgrav 
7268ed2b524SDag-Erling Smørgrav int
7278ed2b524SDag-Erling Smørgrav secalgo_ds_digest(int algo, unsigned char* buf, size_t len,
7288ed2b524SDag-Erling Smørgrav 	unsigned char* res)
7298ed2b524SDag-Erling Smørgrav {
7308ed2b524SDag-Erling Smørgrav 	/* uses libNSS */
7318ed2b524SDag-Erling Smørgrav 	switch(algo) {
7328ed2b524SDag-Erling Smørgrav 		case LDNS_SHA1:
7338ed2b524SDag-Erling Smørgrav 			return HASH_HashBuf(HASH_AlgSHA1, res, buf, len)
7348ed2b524SDag-Erling Smørgrav 				== SECSuccess;
7358ed2b524SDag-Erling Smørgrav #if defined(USE_SHA2)
7368ed2b524SDag-Erling Smørgrav 		case LDNS_SHA256:
7378ed2b524SDag-Erling Smørgrav 			return HASH_HashBuf(HASH_AlgSHA256, res, buf, len)
7388ed2b524SDag-Erling Smørgrav 				== SECSuccess;
7398ed2b524SDag-Erling Smørgrav #endif
7408ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
7418ed2b524SDag-Erling Smørgrav 		case LDNS_SHA384:
7428ed2b524SDag-Erling Smørgrav 			return HASH_HashBuf(HASH_AlgSHA384, res, buf, len)
7438ed2b524SDag-Erling Smørgrav 				== SECSuccess;
7448ed2b524SDag-Erling Smørgrav #endif
7458ed2b524SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
7468ed2b524SDag-Erling Smørgrav 		default:
7478ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "unknown DS digest algorithm %d",
7488ed2b524SDag-Erling Smørgrav 				algo);
7498ed2b524SDag-Erling Smørgrav 			break;
7508ed2b524SDag-Erling Smørgrav 	}
7518ed2b524SDag-Erling Smørgrav 	return 0;
7528ed2b524SDag-Erling Smørgrav }
7538ed2b524SDag-Erling Smørgrav 
7548ed2b524SDag-Erling Smørgrav int
7558ed2b524SDag-Erling Smørgrav dnskey_algo_id_is_supported(int id)
7568ed2b524SDag-Erling Smørgrav {
7578ed2b524SDag-Erling Smørgrav 	/* uses libNSS */
7588ed2b524SDag-Erling Smørgrav 	switch(id) {
7598ed2b524SDag-Erling Smørgrav 	case LDNS_RSAMD5:
7608ed2b524SDag-Erling Smørgrav 		/* RFC 6725 deprecates RSAMD5 */
7618ed2b524SDag-Erling Smørgrav 		return 0;
762e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
7638ed2b524SDag-Erling Smørgrav 	case LDNS_DSA:
7648ed2b524SDag-Erling Smørgrav 	case LDNS_DSA_NSEC3:
765e2d15004SDag-Erling Smørgrav #endif
7668ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA1:
7678ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA1_NSEC3:
7688ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
7698ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA256:
7708ed2b524SDag-Erling Smørgrav #endif
7718ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
7728ed2b524SDag-Erling Smørgrav 	case LDNS_RSASHA512:
7738ed2b524SDag-Erling Smørgrav #endif
7748ed2b524SDag-Erling Smørgrav 		return 1;
7758ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
7768ed2b524SDag-Erling Smørgrav 	case LDNS_ECDSAP256SHA256:
7778ed2b524SDag-Erling Smørgrav 	case LDNS_ECDSAP384SHA384:
7788ed2b524SDag-Erling Smørgrav 		return PK11_TokenExists(CKM_ECDSA);
7798ed2b524SDag-Erling Smørgrav #endif
7808ed2b524SDag-Erling Smørgrav 	case LDNS_ECC_GOST:
7818ed2b524SDag-Erling Smørgrav 	default:
7828ed2b524SDag-Erling Smørgrav 		return 0;
7838ed2b524SDag-Erling Smørgrav 	}
7848ed2b524SDag-Erling Smørgrav }
7858ed2b524SDag-Erling Smørgrav 
7868ed2b524SDag-Erling Smørgrav /* return a new public key for NSS */
7878ed2b524SDag-Erling Smørgrav static SECKEYPublicKey* nss_key_create(KeyType ktype)
7888ed2b524SDag-Erling Smørgrav {
7898ed2b524SDag-Erling Smørgrav 	SECKEYPublicKey* key;
7908ed2b524SDag-Erling Smørgrav 	PLArenaPool* arena = PORT_NewArena(DER_DEFAULT_CHUNKSIZE);
7918ed2b524SDag-Erling Smørgrav 	if(!arena) {
7928ed2b524SDag-Erling Smørgrav 		log_err("out of memory, PORT_NewArena failed");
7938ed2b524SDag-Erling Smørgrav 		return NULL;
7948ed2b524SDag-Erling Smørgrav 	}
7958ed2b524SDag-Erling Smørgrav 	key = PORT_ArenaZNew(arena, SECKEYPublicKey);
7968ed2b524SDag-Erling Smørgrav 	if(!key) {
7978ed2b524SDag-Erling Smørgrav 		log_err("out of memory, PORT_ArenaZNew failed");
7988ed2b524SDag-Erling Smørgrav 		PORT_FreeArena(arena, PR_FALSE);
7998ed2b524SDag-Erling Smørgrav 		return NULL;
8008ed2b524SDag-Erling Smørgrav 	}
8018ed2b524SDag-Erling Smørgrav 	key->arena = arena;
8028ed2b524SDag-Erling Smørgrav 	key->keyType = ktype;
8038ed2b524SDag-Erling Smørgrav 	key->pkcs11Slot = NULL;
8048ed2b524SDag-Erling Smørgrav 	key->pkcs11ID = CK_INVALID_HANDLE;
8058ed2b524SDag-Erling Smørgrav 	return key;
8068ed2b524SDag-Erling Smørgrav }
8078ed2b524SDag-Erling Smørgrav 
8088ed2b524SDag-Erling Smørgrav static SECKEYPublicKey* nss_buf2ecdsa(unsigned char* key, size_t len, int algo)
8098ed2b524SDag-Erling Smørgrav {
8108ed2b524SDag-Erling Smørgrav 	SECKEYPublicKey* pk;
8118ed2b524SDag-Erling Smørgrav 	SECItem pub = {siBuffer, NULL, 0};
8128ed2b524SDag-Erling Smørgrav 	SECItem params = {siBuffer, NULL, 0};
81317d15b25SDag-Erling Smørgrav 	static unsigned char param256[] = {
8148ed2b524SDag-Erling Smørgrav 		/* OBJECTIDENTIFIER 1.2.840.10045.3.1.7 (P-256)
8158ed2b524SDag-Erling Smørgrav 		 * {iso(1) member-body(2) us(840) ansi-x962(10045) curves(3) prime(1) prime256v1(7)} */
8168ed2b524SDag-Erling Smørgrav 		0x06, 0x08, 0x2a, 0x86, 0x48, 0xce, 0x3d, 0x03, 0x01, 0x07
8178ed2b524SDag-Erling Smørgrav 	};
81817d15b25SDag-Erling Smørgrav 	static unsigned char param384[] = {
8198ed2b524SDag-Erling Smørgrav 		/* OBJECTIDENTIFIER 1.3.132.0.34 (P-384)
8208ed2b524SDag-Erling Smørgrav 		 * {iso(1) identified-organization(3) certicom(132) curve(0) ansip384r1(34)} */
8218ed2b524SDag-Erling Smørgrav 		0x06, 0x05, 0x2b, 0x81, 0x04, 0x00, 0x22
8228ed2b524SDag-Erling Smørgrav 	};
8238ed2b524SDag-Erling Smørgrav 	unsigned char buf[256+2]; /* sufficient for 2*384/8+1 */
8248ed2b524SDag-Erling Smørgrav 
8258ed2b524SDag-Erling Smørgrav 	/* check length, which uncompressed must be 2 bignums */
8268ed2b524SDag-Erling Smørgrav 	if(algo == LDNS_ECDSAP256SHA256) {
8278ed2b524SDag-Erling Smørgrav 		if(len != 2*256/8) return NULL;
8288ed2b524SDag-Erling Smørgrav 		/* ECCurve_X9_62_PRIME_256V1 */
8298ed2b524SDag-Erling Smørgrav 	} else if(algo == LDNS_ECDSAP384SHA384) {
8308ed2b524SDag-Erling Smørgrav 		if(len != 2*384/8) return NULL;
8318ed2b524SDag-Erling Smørgrav 		/* ECCurve_X9_62_PRIME_384R1 */
8328ed2b524SDag-Erling Smørgrav 	} else    return NULL;
8338ed2b524SDag-Erling Smørgrav 
8348ed2b524SDag-Erling Smørgrav 	buf[0] = 0x04; /* POINT_FORM_UNCOMPRESSED */
8358ed2b524SDag-Erling Smørgrav 	memmove(buf+1, key, len);
8368ed2b524SDag-Erling Smørgrav 	pub.data = buf;
8378ed2b524SDag-Erling Smørgrav 	pub.len = len+1;
8388ed2b524SDag-Erling Smørgrav 	if(algo == LDNS_ECDSAP256SHA256) {
8398ed2b524SDag-Erling Smørgrav 		params.data = param256;
8408ed2b524SDag-Erling Smørgrav 		params.len = sizeof(param256);
8418ed2b524SDag-Erling Smørgrav 	} else {
8428ed2b524SDag-Erling Smørgrav 		params.data = param384;
8438ed2b524SDag-Erling Smørgrav 		params.len = sizeof(param384);
8448ed2b524SDag-Erling Smørgrav 	}
8458ed2b524SDag-Erling Smørgrav 
8468ed2b524SDag-Erling Smørgrav 	pk = nss_key_create(ecKey);
8478ed2b524SDag-Erling Smørgrav 	if(!pk)
8488ed2b524SDag-Erling Smørgrav 		return NULL;
8498ed2b524SDag-Erling Smørgrav 	pk->u.ec.size = (len/2)*8;
8508ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.ec.publicValue, &pub)) {
8518ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
8528ed2b524SDag-Erling Smørgrav 		return NULL;
8538ed2b524SDag-Erling Smørgrav 	}
8548ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.ec.DEREncodedParams, &params)) {
8558ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
8568ed2b524SDag-Erling Smørgrav 		return NULL;
8578ed2b524SDag-Erling Smørgrav 	}
8588ed2b524SDag-Erling Smørgrav 
8598ed2b524SDag-Erling Smørgrav 	return pk;
8608ed2b524SDag-Erling Smørgrav }
8618ed2b524SDag-Erling Smørgrav 
8628ed2b524SDag-Erling Smørgrav static SECKEYPublicKey* nss_buf2dsa(unsigned char* key, size_t len)
8638ed2b524SDag-Erling Smørgrav {
8648ed2b524SDag-Erling Smørgrav 	SECKEYPublicKey* pk;
8658ed2b524SDag-Erling Smørgrav 	uint8_t T;
8668ed2b524SDag-Erling Smørgrav 	uint16_t length;
8678ed2b524SDag-Erling Smørgrav 	uint16_t offset;
8688ed2b524SDag-Erling Smørgrav 	SECItem Q = {siBuffer, NULL, 0};
8698ed2b524SDag-Erling Smørgrav 	SECItem P = {siBuffer, NULL, 0};
8708ed2b524SDag-Erling Smørgrav 	SECItem G = {siBuffer, NULL, 0};
8718ed2b524SDag-Erling Smørgrav 	SECItem Y = {siBuffer, NULL, 0};
8728ed2b524SDag-Erling Smørgrav 
8738ed2b524SDag-Erling Smørgrav 	if(len == 0)
8748ed2b524SDag-Erling Smørgrav 		return NULL;
8758ed2b524SDag-Erling Smørgrav 	T = (uint8_t)key[0];
8768ed2b524SDag-Erling Smørgrav 	length = (64 + T * 8);
8778ed2b524SDag-Erling Smørgrav 	offset = 1;
8788ed2b524SDag-Erling Smørgrav 
8798ed2b524SDag-Erling Smørgrav 	if (T > 8) {
8808ed2b524SDag-Erling Smørgrav 		return NULL;
8818ed2b524SDag-Erling Smørgrav 	}
8828ed2b524SDag-Erling Smørgrav 	if(len < (size_t)1 + SHA1_LENGTH + 3*length)
8838ed2b524SDag-Erling Smørgrav 		return NULL;
8848ed2b524SDag-Erling Smørgrav 
8858ed2b524SDag-Erling Smørgrav 	Q.data = key+offset;
8868ed2b524SDag-Erling Smørgrav 	Q.len = SHA1_LENGTH;
8878ed2b524SDag-Erling Smørgrav 	offset += SHA1_LENGTH;
8888ed2b524SDag-Erling Smørgrav 
8898ed2b524SDag-Erling Smørgrav 	P.data = key+offset;
8908ed2b524SDag-Erling Smørgrav 	P.len = length;
8918ed2b524SDag-Erling Smørgrav 	offset += length;
8928ed2b524SDag-Erling Smørgrav 
8938ed2b524SDag-Erling Smørgrav 	G.data = key+offset;
8948ed2b524SDag-Erling Smørgrav 	G.len = length;
8958ed2b524SDag-Erling Smørgrav 	offset += length;
8968ed2b524SDag-Erling Smørgrav 
8978ed2b524SDag-Erling Smørgrav 	Y.data = key+offset;
8988ed2b524SDag-Erling Smørgrav 	Y.len = length;
8998ed2b524SDag-Erling Smørgrav 	offset += length;
9008ed2b524SDag-Erling Smørgrav 
9018ed2b524SDag-Erling Smørgrav 	pk = nss_key_create(dsaKey);
9028ed2b524SDag-Erling Smørgrav 	if(!pk)
9038ed2b524SDag-Erling Smørgrav 		return NULL;
9048ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.dsa.params.prime, &P)) {
9058ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9068ed2b524SDag-Erling Smørgrav 		return NULL;
9078ed2b524SDag-Erling Smørgrav 	}
9088ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.dsa.params.subPrime, &Q)) {
9098ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9108ed2b524SDag-Erling Smørgrav 		return NULL;
9118ed2b524SDag-Erling Smørgrav 	}
9128ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.dsa.params.base, &G)) {
9138ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9148ed2b524SDag-Erling Smørgrav 		return NULL;
9158ed2b524SDag-Erling Smørgrav 	}
9168ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.dsa.publicValue, &Y)) {
9178ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9188ed2b524SDag-Erling Smørgrav 		return NULL;
9198ed2b524SDag-Erling Smørgrav 	}
9208ed2b524SDag-Erling Smørgrav 	return pk;
9218ed2b524SDag-Erling Smørgrav }
9228ed2b524SDag-Erling Smørgrav 
9238ed2b524SDag-Erling Smørgrav static SECKEYPublicKey* nss_buf2rsa(unsigned char* key, size_t len)
9248ed2b524SDag-Erling Smørgrav {
9258ed2b524SDag-Erling Smørgrav 	SECKEYPublicKey* pk;
9268ed2b524SDag-Erling Smørgrav 	uint16_t exp;
9278ed2b524SDag-Erling Smørgrav 	uint16_t offset;
9288ed2b524SDag-Erling Smørgrav 	uint16_t int16;
9298ed2b524SDag-Erling Smørgrav 	SECItem modulus = {siBuffer, NULL, 0};
9308ed2b524SDag-Erling Smørgrav 	SECItem exponent = {siBuffer, NULL, 0};
9318ed2b524SDag-Erling Smørgrav 	if(len == 0)
9328ed2b524SDag-Erling Smørgrav 		return NULL;
9338ed2b524SDag-Erling Smørgrav 	if(key[0] == 0) {
9348ed2b524SDag-Erling Smørgrav 		if(len < 3)
9358ed2b524SDag-Erling Smørgrav 			return NULL;
9368ed2b524SDag-Erling Smørgrav 		/* the exponent is too large so it's places further */
9378ed2b524SDag-Erling Smørgrav 		memmove(&int16, key+1, 2);
9388ed2b524SDag-Erling Smørgrav 		exp = ntohs(int16);
9398ed2b524SDag-Erling Smørgrav 		offset = 3;
9408ed2b524SDag-Erling Smørgrav 	} else {
9418ed2b524SDag-Erling Smørgrav 		exp = key[0];
9428ed2b524SDag-Erling Smørgrav 		offset = 1;
9438ed2b524SDag-Erling Smørgrav 	}
9448ed2b524SDag-Erling Smørgrav 
9458ed2b524SDag-Erling Smørgrav 	/* key length at least one */
9468ed2b524SDag-Erling Smørgrav 	if(len < (size_t)offset + exp + 1)
9478ed2b524SDag-Erling Smørgrav 		return NULL;
9488ed2b524SDag-Erling Smørgrav 
9498ed2b524SDag-Erling Smørgrav 	exponent.data = key+offset;
9508ed2b524SDag-Erling Smørgrav 	exponent.len = exp;
9518ed2b524SDag-Erling Smørgrav 	offset += exp;
9528ed2b524SDag-Erling Smørgrav 	modulus.data = key+offset;
9538ed2b524SDag-Erling Smørgrav 	modulus.len = (len - offset);
9548ed2b524SDag-Erling Smørgrav 
9558ed2b524SDag-Erling Smørgrav 	pk = nss_key_create(rsaKey);
9568ed2b524SDag-Erling Smørgrav 	if(!pk)
9578ed2b524SDag-Erling Smørgrav 		return NULL;
9588ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.rsa.modulus, &modulus)) {
9598ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9608ed2b524SDag-Erling Smørgrav 		return NULL;
9618ed2b524SDag-Erling Smørgrav 	}
9628ed2b524SDag-Erling Smørgrav 	if(SECITEM_CopyItem(pk->arena, &pk->u.rsa.publicExponent, &exponent)) {
9638ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pk);
9648ed2b524SDag-Erling Smørgrav 		return NULL;
9658ed2b524SDag-Erling Smørgrav 	}
9668ed2b524SDag-Erling Smørgrav 	return pk;
9678ed2b524SDag-Erling Smørgrav }
9688ed2b524SDag-Erling Smørgrav 
9698ed2b524SDag-Erling Smørgrav /**
9708ed2b524SDag-Erling Smørgrav  * Setup key and digest for verification. Adjust sig if necessary.
9718ed2b524SDag-Erling Smørgrav  *
9728ed2b524SDag-Erling Smørgrav  * @param algo: key algorithm
9738ed2b524SDag-Erling Smørgrav  * @param evp_key: EVP PKEY public key to create.
9748ed2b524SDag-Erling Smørgrav  * @param digest_type: digest type to use
9758ed2b524SDag-Erling Smørgrav  * @param key: key to setup for.
9768ed2b524SDag-Erling Smørgrav  * @param keylen: length of key.
9778ed2b524SDag-Erling Smørgrav  * @param prefix: if returned, the ASN prefix for the hashblob.
9788ed2b524SDag-Erling Smørgrav  * @param prefixlen: length of the prefix.
9798ed2b524SDag-Erling Smørgrav  * @return false on failure.
9808ed2b524SDag-Erling Smørgrav  */
9818ed2b524SDag-Erling Smørgrav static int
9828ed2b524SDag-Erling Smørgrav nss_setup_key_digest(int algo, SECKEYPublicKey** pubkey, HASH_HashType* htype,
9838ed2b524SDag-Erling Smørgrav 	unsigned char* key, size_t keylen, unsigned char** prefix,
9848ed2b524SDag-Erling Smørgrav 	size_t* prefixlen)
9858ed2b524SDag-Erling Smørgrav {
9868ed2b524SDag-Erling Smørgrav 	/* uses libNSS */
9878ed2b524SDag-Erling Smørgrav 
9888ed2b524SDag-Erling Smørgrav 	/* hash prefix for md5, RFC2537 */
98917d15b25SDag-Erling Smørgrav 	static unsigned char p_md5[] = {0x30, 0x20, 0x30, 0x0c, 0x06, 0x08, 0x2a,
9908ed2b524SDag-Erling Smørgrav 	0x86, 0x48, 0x86, 0xf7, 0x0d, 0x02, 0x05, 0x05, 0x00, 0x04, 0x10};
9918ed2b524SDag-Erling Smørgrav 	/* hash prefix to prepend to hash output, from RFC3110 */
99217d15b25SDag-Erling Smørgrav 	static unsigned char p_sha1[] = {0x30, 0x21, 0x30, 0x09, 0x06, 0x05, 0x2B,
9938ed2b524SDag-Erling Smørgrav 		0x0E, 0x03, 0x02, 0x1A, 0x05, 0x00, 0x04, 0x14};
9948ed2b524SDag-Erling Smørgrav 	/* from RFC5702 */
99517d15b25SDag-Erling Smørgrav 	static unsigned char p_sha256[] = {0x30, 0x31, 0x30, 0x0d, 0x06, 0x09, 0x60,
9968ed2b524SDag-Erling Smørgrav 	0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x01, 0x05, 0x00, 0x04, 0x20};
99717d15b25SDag-Erling Smørgrav 	static unsigned char p_sha512[] = {0x30, 0x51, 0x30, 0x0d, 0x06, 0x09, 0x60,
9988ed2b524SDag-Erling Smørgrav 	0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x03, 0x05, 0x00, 0x04, 0x40};
9998ed2b524SDag-Erling Smørgrav 	/* from RFC6234 */
10008ed2b524SDag-Erling Smørgrav 	/* for future RSASHA384 ..
100117d15b25SDag-Erling Smørgrav 	static unsigned char p_sha384[] = {0x30, 0x51, 0x30, 0x0d, 0x06, 0x09, 0x60,
10028ed2b524SDag-Erling Smørgrav 	0x86, 0x48, 0x01, 0x65, 0x03, 0x04, 0x02, 0x02, 0x05, 0x00, 0x04, 0x30};
10038ed2b524SDag-Erling Smørgrav 	*/
10048ed2b524SDag-Erling Smørgrav 
10058ed2b524SDag-Erling Smørgrav 	switch(algo) {
1006e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
10078ed2b524SDag-Erling Smørgrav 		case LDNS_DSA:
10088ed2b524SDag-Erling Smørgrav 		case LDNS_DSA_NSEC3:
10098ed2b524SDag-Erling Smørgrav 			*pubkey = nss_buf2dsa(key, keylen);
10108ed2b524SDag-Erling Smørgrav 			if(!*pubkey) {
10118ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
10128ed2b524SDag-Erling Smørgrav 				return 0;
10138ed2b524SDag-Erling Smørgrav 			}
10148ed2b524SDag-Erling Smørgrav 			*htype = HASH_AlgSHA1;
10158ed2b524SDag-Erling Smørgrav 			/* no prefix for DSA verification */
10168ed2b524SDag-Erling Smørgrav 			break;
1017e2d15004SDag-Erling Smørgrav #endif
10188ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA1:
10198ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA1_NSEC3:
10208ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
10218ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA256:
10228ed2b524SDag-Erling Smørgrav #endif
10238ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
10248ed2b524SDag-Erling Smørgrav 		case LDNS_RSASHA512:
10258ed2b524SDag-Erling Smørgrav #endif
10268ed2b524SDag-Erling Smørgrav 			*pubkey = nss_buf2rsa(key, keylen);
10278ed2b524SDag-Erling Smørgrav 			if(!*pubkey) {
10288ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
10298ed2b524SDag-Erling Smørgrav 				return 0;
10308ed2b524SDag-Erling Smørgrav 			}
10318ed2b524SDag-Erling Smørgrav 			/* select SHA version */
10328ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
10338ed2b524SDag-Erling Smørgrav 			if(algo == LDNS_RSASHA256) {
10348ed2b524SDag-Erling Smørgrav 				*htype = HASH_AlgSHA256;
10358ed2b524SDag-Erling Smørgrav 				*prefix = p_sha256;
10368ed2b524SDag-Erling Smørgrav 				*prefixlen = sizeof(p_sha256);
10378ed2b524SDag-Erling Smørgrav 			} else
10388ed2b524SDag-Erling Smørgrav #endif
10398ed2b524SDag-Erling Smørgrav #ifdef USE_SHA2
10408ed2b524SDag-Erling Smørgrav 				if(algo == LDNS_RSASHA512) {
10418ed2b524SDag-Erling Smørgrav 				*htype = HASH_AlgSHA512;
10428ed2b524SDag-Erling Smørgrav 				*prefix = p_sha512;
10438ed2b524SDag-Erling Smørgrav 				*prefixlen = sizeof(p_sha512);
10448ed2b524SDag-Erling Smørgrav 			} else
10458ed2b524SDag-Erling Smørgrav #endif
10468ed2b524SDag-Erling Smørgrav 			{
10478ed2b524SDag-Erling Smørgrav 				*htype = HASH_AlgSHA1;
10488ed2b524SDag-Erling Smørgrav 				*prefix = p_sha1;
10498ed2b524SDag-Erling Smørgrav 				*prefixlen = sizeof(p_sha1);
10508ed2b524SDag-Erling Smørgrav 			}
10518ed2b524SDag-Erling Smørgrav 
10528ed2b524SDag-Erling Smørgrav 			break;
10538ed2b524SDag-Erling Smørgrav 		case LDNS_RSAMD5:
10548ed2b524SDag-Erling Smørgrav 			*pubkey = nss_buf2rsa(key, keylen);
10558ed2b524SDag-Erling Smørgrav 			if(!*pubkey) {
10568ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
10578ed2b524SDag-Erling Smørgrav 				return 0;
10588ed2b524SDag-Erling Smørgrav 			}
10598ed2b524SDag-Erling Smørgrav 			*htype = HASH_AlgMD5;
10608ed2b524SDag-Erling Smørgrav 			*prefix = p_md5;
10618ed2b524SDag-Erling Smørgrav 			*prefixlen = sizeof(p_md5);
10628ed2b524SDag-Erling Smørgrav 
10638ed2b524SDag-Erling Smørgrav 			break;
10648ed2b524SDag-Erling Smørgrav #ifdef USE_ECDSA
10658ed2b524SDag-Erling Smørgrav 		case LDNS_ECDSAP256SHA256:
10668ed2b524SDag-Erling Smørgrav 			*pubkey = nss_buf2ecdsa(key, keylen,
10678ed2b524SDag-Erling Smørgrav 				LDNS_ECDSAP256SHA256);
10688ed2b524SDag-Erling Smørgrav 			if(!*pubkey) {
10698ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
10708ed2b524SDag-Erling Smørgrav 				return 0;
10718ed2b524SDag-Erling Smørgrav 			}
10728ed2b524SDag-Erling Smørgrav 			*htype = HASH_AlgSHA256;
10738ed2b524SDag-Erling Smørgrav 			/* no prefix for DSA verification */
10748ed2b524SDag-Erling Smørgrav 			break;
10758ed2b524SDag-Erling Smørgrav 		case LDNS_ECDSAP384SHA384:
10768ed2b524SDag-Erling Smørgrav 			*pubkey = nss_buf2ecdsa(key, keylen,
10778ed2b524SDag-Erling Smørgrav 				LDNS_ECDSAP384SHA384);
10788ed2b524SDag-Erling Smørgrav 			if(!*pubkey) {
10798ed2b524SDag-Erling Smørgrav 				log_err("verify: malloc failure in crypto");
10808ed2b524SDag-Erling Smørgrav 				return 0;
10818ed2b524SDag-Erling Smørgrav 			}
10828ed2b524SDag-Erling Smørgrav 			*htype = HASH_AlgSHA384;
10838ed2b524SDag-Erling Smørgrav 			/* no prefix for DSA verification */
10848ed2b524SDag-Erling Smørgrav 			break;
10858ed2b524SDag-Erling Smørgrav #endif /* USE_ECDSA */
10868ed2b524SDag-Erling Smørgrav 		case LDNS_ECC_GOST:
10878ed2b524SDag-Erling Smørgrav 		default:
10888ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "verify: unknown algorithm %d",
10898ed2b524SDag-Erling Smørgrav 				algo);
10908ed2b524SDag-Erling Smørgrav 			return 0;
10918ed2b524SDag-Erling Smørgrav 	}
10928ed2b524SDag-Erling Smørgrav 	return 1;
10938ed2b524SDag-Erling Smørgrav }
10948ed2b524SDag-Erling Smørgrav 
10958ed2b524SDag-Erling Smørgrav /**
10968ed2b524SDag-Erling Smørgrav  * Check a canonical sig+rrset and signature against a dnskey
10978ed2b524SDag-Erling Smørgrav  * @param buf: buffer with data to verify, the first rrsig part and the
10988ed2b524SDag-Erling Smørgrav  *	canonicalized rrset.
10998ed2b524SDag-Erling Smørgrav  * @param algo: DNSKEY algorithm.
11008ed2b524SDag-Erling Smørgrav  * @param sigblock: signature rdata field from RRSIG
11018ed2b524SDag-Erling Smørgrav  * @param sigblock_len: length of sigblock data.
11028ed2b524SDag-Erling Smørgrav  * @param key: public key data from DNSKEY RR.
11038ed2b524SDag-Erling Smørgrav  * @param keylen: length of keydata.
11048ed2b524SDag-Erling Smørgrav  * @param reason: bogus reason in more detail.
11058ed2b524SDag-Erling Smørgrav  * @return secure if verification succeeded, bogus on crypto failure,
11068ed2b524SDag-Erling Smørgrav  *	unchecked on format errors and alloc failures.
11078ed2b524SDag-Erling Smørgrav  */
11088ed2b524SDag-Erling Smørgrav enum sec_status
110917d15b25SDag-Erling Smørgrav verify_canonrrset(sldns_buffer* buf, int algo, unsigned char* sigblock,
11108ed2b524SDag-Erling Smørgrav 	unsigned int sigblock_len, unsigned char* key, unsigned int keylen,
11118ed2b524SDag-Erling Smørgrav 	char** reason)
11128ed2b524SDag-Erling Smørgrav {
11138ed2b524SDag-Erling Smørgrav 	/* uses libNSS */
11148ed2b524SDag-Erling Smørgrav 	/* large enough for the different hashes */
11158ed2b524SDag-Erling Smørgrav 	unsigned char hash[HASH_LENGTH_MAX];
11168ed2b524SDag-Erling Smørgrav 	unsigned char hash2[HASH_LENGTH_MAX*2];
11178ed2b524SDag-Erling Smørgrav 	HASH_HashType htype = 0;
11188ed2b524SDag-Erling Smørgrav 	SECKEYPublicKey* pubkey = NULL;
11198ed2b524SDag-Erling Smørgrav 	SECItem secsig = {siBuffer, sigblock, sigblock_len};
11208ed2b524SDag-Erling Smørgrav 	SECItem sechash = {siBuffer, hash, 0};
11218ed2b524SDag-Erling Smørgrav 	SECStatus res;
11228ed2b524SDag-Erling Smørgrav 	unsigned char* prefix = NULL; /* prefix for hash, RFC3110, RFC5702 */
11238ed2b524SDag-Erling Smørgrav 	size_t prefixlen = 0;
11248ed2b524SDag-Erling Smørgrav 	int err;
11258ed2b524SDag-Erling Smørgrav 
11268ed2b524SDag-Erling Smørgrav 	if(!nss_setup_key_digest(algo, &pubkey, &htype, key, keylen,
11278ed2b524SDag-Erling Smørgrav 		&prefix, &prefixlen)) {
11288ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: failed to setup key");
11298ed2b524SDag-Erling Smørgrav 		*reason = "use of key for crypto failed";
11308ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pubkey);
11318ed2b524SDag-Erling Smørgrav 		return sec_status_bogus;
11328ed2b524SDag-Erling Smørgrav 	}
11338ed2b524SDag-Erling Smørgrav 
1134e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
11358ed2b524SDag-Erling Smørgrav 	/* need to convert DSA, ECDSA signatures? */
11368ed2b524SDag-Erling Smørgrav 	if((algo == LDNS_DSA || algo == LDNS_DSA_NSEC3)) {
11378ed2b524SDag-Erling Smørgrav 		if(sigblock_len == 1+2*SHA1_LENGTH) {
11388ed2b524SDag-Erling Smørgrav 			secsig.data ++;
11398ed2b524SDag-Erling Smørgrav 			secsig.len --;
11408ed2b524SDag-Erling Smørgrav 		} else {
11418ed2b524SDag-Erling Smørgrav 			SECItem* p = DSAU_DecodeDerSig(&secsig);
11428ed2b524SDag-Erling Smørgrav 			if(!p) {
11438ed2b524SDag-Erling Smørgrav 				verbose(VERB_QUERY, "verify: failed DER decode");
11448ed2b524SDag-Erling Smørgrav 				*reason = "signature DER decode failed";
11458ed2b524SDag-Erling Smørgrav 				SECKEY_DestroyPublicKey(pubkey);
11468ed2b524SDag-Erling Smørgrav 				return sec_status_bogus;
11478ed2b524SDag-Erling Smørgrav 			}
11488ed2b524SDag-Erling Smørgrav 			if(SECITEM_CopyItem(pubkey->arena, &secsig, p)) {
11498ed2b524SDag-Erling Smørgrav 				log_err("alloc failure in DER decode");
11508ed2b524SDag-Erling Smørgrav 				SECKEY_DestroyPublicKey(pubkey);
11518ed2b524SDag-Erling Smørgrav 				SECITEM_FreeItem(p, PR_TRUE);
11528ed2b524SDag-Erling Smørgrav 				return sec_status_unchecked;
11538ed2b524SDag-Erling Smørgrav 			}
11548ed2b524SDag-Erling Smørgrav 			SECITEM_FreeItem(p, PR_TRUE);
11558ed2b524SDag-Erling Smørgrav 		}
11568ed2b524SDag-Erling Smørgrav 	}
1157e2d15004SDag-Erling Smørgrav #endif /* USE_DSA */
11588ed2b524SDag-Erling Smørgrav 
11598ed2b524SDag-Erling Smørgrav 	/* do the signature cryptography work */
11608ed2b524SDag-Erling Smørgrav 	/* hash the data */
11618ed2b524SDag-Erling Smørgrav 	sechash.len = HASH_ResultLen(htype);
11628ed2b524SDag-Erling Smørgrav 	if(sechash.len > sizeof(hash)) {
11638ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: hash too large for buffer");
11648ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pubkey);
11658ed2b524SDag-Erling Smørgrav 		return sec_status_unchecked;
11668ed2b524SDag-Erling Smørgrav 	}
116717d15b25SDag-Erling Smørgrav 	if(HASH_HashBuf(htype, hash, (unsigned char*)sldns_buffer_begin(buf),
116817d15b25SDag-Erling Smørgrav 		(unsigned int)sldns_buffer_limit(buf)) != SECSuccess) {
11698ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: HASH_HashBuf failed");
11708ed2b524SDag-Erling Smørgrav 		SECKEY_DestroyPublicKey(pubkey);
11718ed2b524SDag-Erling Smørgrav 		return sec_status_unchecked;
11728ed2b524SDag-Erling Smørgrav 	}
11738ed2b524SDag-Erling Smørgrav 	if(prefix) {
11748ed2b524SDag-Erling Smørgrav 		int hashlen = sechash.len;
11758ed2b524SDag-Erling Smørgrav 		if(prefixlen+hashlen > sizeof(hash2)) {
11768ed2b524SDag-Erling Smørgrav 			verbose(VERB_QUERY, "verify: hashprefix too large");
11778ed2b524SDag-Erling Smørgrav 			SECKEY_DestroyPublicKey(pubkey);
11788ed2b524SDag-Erling Smørgrav 			return sec_status_unchecked;
11798ed2b524SDag-Erling Smørgrav 		}
11808ed2b524SDag-Erling Smørgrav 		sechash.data = hash2;
11818ed2b524SDag-Erling Smørgrav 		sechash.len = prefixlen+hashlen;
11828ed2b524SDag-Erling Smørgrav 		memcpy(sechash.data, prefix, prefixlen);
11838ed2b524SDag-Erling Smørgrav 		memmove(sechash.data+prefixlen, hash, hashlen);
11848ed2b524SDag-Erling Smørgrav 	}
11858ed2b524SDag-Erling Smørgrav 
11868ed2b524SDag-Erling Smørgrav 	/* verify the signature */
11878ed2b524SDag-Erling Smørgrav 	res = PK11_Verify(pubkey, &secsig, &sechash, NULL /*wincx*/);
11888ed2b524SDag-Erling Smørgrav 	SECKEY_DestroyPublicKey(pubkey);
11898ed2b524SDag-Erling Smørgrav 
11908ed2b524SDag-Erling Smørgrav 	if(res == SECSuccess) {
11918ed2b524SDag-Erling Smørgrav 		return sec_status_secure;
11928ed2b524SDag-Erling Smørgrav 	}
11938ed2b524SDag-Erling Smørgrav 	err = PORT_GetError();
11948ed2b524SDag-Erling Smørgrav 	if(err != SEC_ERROR_BAD_SIGNATURE) {
11958ed2b524SDag-Erling Smørgrav 		/* failed to verify */
11968ed2b524SDag-Erling Smørgrav 		verbose(VERB_QUERY, "verify: PK11_Verify failed: %s",
11978ed2b524SDag-Erling Smørgrav 			PORT_ErrorToString(err));
11988ed2b524SDag-Erling Smørgrav 		/* if it is not supported, like ECC is removed, we get,
11998ed2b524SDag-Erling Smørgrav 		 * SEC_ERROR_NO_MODULE */
12008ed2b524SDag-Erling Smørgrav 		if(err == SEC_ERROR_NO_MODULE)
12018ed2b524SDag-Erling Smørgrav 			return sec_status_unchecked;
12028ed2b524SDag-Erling Smørgrav 		/* but other errors are commonly returned
12038ed2b524SDag-Erling Smørgrav 		 * for a bad signature from NSS.  Thus we return bogus,
12048ed2b524SDag-Erling Smørgrav 		 * not unchecked */
12058ed2b524SDag-Erling Smørgrav 		*reason = "signature crypto failed";
12068ed2b524SDag-Erling Smørgrav 		return sec_status_bogus;
12078ed2b524SDag-Erling Smørgrav 	}
12088ed2b524SDag-Erling Smørgrav 	verbose(VERB_QUERY, "verify: signature mismatch: %s",
12098ed2b524SDag-Erling Smørgrav 		PORT_ErrorToString(err));
12108ed2b524SDag-Erling Smørgrav 	*reason = "signature crypto failed";
12118ed2b524SDag-Erling Smørgrav 	return sec_status_bogus;
12128ed2b524SDag-Erling Smørgrav }
12138ed2b524SDag-Erling Smørgrav 
121405ab2901SDag-Erling Smørgrav #elif defined(HAVE_NETTLE)
12158ed2b524SDag-Erling Smørgrav 
121605ab2901SDag-Erling Smørgrav #include "sha.h"
121705ab2901SDag-Erling Smørgrav #include "bignum.h"
121805ab2901SDag-Erling Smørgrav #include "macros.h"
121905ab2901SDag-Erling Smørgrav #include "rsa.h"
122005ab2901SDag-Erling Smørgrav #include "dsa.h"
1221b5663de9SDag-Erling Smørgrav #ifdef HAVE_NETTLE_DSA_COMPAT_H
1222b5663de9SDag-Erling Smørgrav #include "dsa-compat.h"
1223b5663de9SDag-Erling Smørgrav #endif
122405ab2901SDag-Erling Smørgrav #include "asn1.h"
122505ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
122605ab2901SDag-Erling Smørgrav #include "ecdsa.h"
122705ab2901SDag-Erling Smørgrav #include "ecc-curve.h"
122805ab2901SDag-Erling Smørgrav #endif
122905ab2901SDag-Erling Smørgrav 
123005ab2901SDag-Erling Smørgrav static int
123105ab2901SDag-Erling Smørgrav _digest_nettle(int algo, uint8_t* buf, size_t len,
123205ab2901SDag-Erling Smørgrav 	unsigned char* res)
123305ab2901SDag-Erling Smørgrav {
123405ab2901SDag-Erling Smørgrav 	switch(algo) {
123505ab2901SDag-Erling Smørgrav 		case SHA1_DIGEST_SIZE:
123605ab2901SDag-Erling Smørgrav 		{
123705ab2901SDag-Erling Smørgrav 			struct sha1_ctx ctx;
123805ab2901SDag-Erling Smørgrav 			sha1_init(&ctx);
123905ab2901SDag-Erling Smørgrav 			sha1_update(&ctx, len, buf);
124005ab2901SDag-Erling Smørgrav 			sha1_digest(&ctx, SHA1_DIGEST_SIZE, res);
124105ab2901SDag-Erling Smørgrav 			return 1;
124205ab2901SDag-Erling Smørgrav 		}
124305ab2901SDag-Erling Smørgrav 		case SHA256_DIGEST_SIZE:
124405ab2901SDag-Erling Smørgrav 		{
124505ab2901SDag-Erling Smørgrav 			struct sha256_ctx ctx;
124605ab2901SDag-Erling Smørgrav 			sha256_init(&ctx);
124705ab2901SDag-Erling Smørgrav 			sha256_update(&ctx, len, buf);
124805ab2901SDag-Erling Smørgrav 			sha256_digest(&ctx, SHA256_DIGEST_SIZE, res);
124905ab2901SDag-Erling Smørgrav 			return 1;
125005ab2901SDag-Erling Smørgrav 		}
125105ab2901SDag-Erling Smørgrav 		case SHA384_DIGEST_SIZE:
125205ab2901SDag-Erling Smørgrav 		{
125305ab2901SDag-Erling Smørgrav 			struct sha384_ctx ctx;
125405ab2901SDag-Erling Smørgrav 			sha384_init(&ctx);
125505ab2901SDag-Erling Smørgrav 			sha384_update(&ctx, len, buf);
125605ab2901SDag-Erling Smørgrav 			sha384_digest(&ctx, SHA384_DIGEST_SIZE, res);
125705ab2901SDag-Erling Smørgrav 			return 1;
125805ab2901SDag-Erling Smørgrav 		}
125905ab2901SDag-Erling Smørgrav 		case SHA512_DIGEST_SIZE:
126005ab2901SDag-Erling Smørgrav 		{
126105ab2901SDag-Erling Smørgrav 			struct sha512_ctx ctx;
126205ab2901SDag-Erling Smørgrav 			sha512_init(&ctx);
126305ab2901SDag-Erling Smørgrav 			sha512_update(&ctx, len, buf);
126405ab2901SDag-Erling Smørgrav 			sha512_digest(&ctx, SHA512_DIGEST_SIZE, res);
126505ab2901SDag-Erling Smørgrav 			return 1;
126605ab2901SDag-Erling Smørgrav 		}
126705ab2901SDag-Erling Smørgrav 		default:
126805ab2901SDag-Erling Smørgrav 			break;
126905ab2901SDag-Erling Smørgrav 	}
127005ab2901SDag-Erling Smørgrav 	return 0;
127105ab2901SDag-Erling Smørgrav }
127205ab2901SDag-Erling Smørgrav 
127305ab2901SDag-Erling Smørgrav /* return size of digest if supported, or 0 otherwise */
127405ab2901SDag-Erling Smørgrav size_t
127505ab2901SDag-Erling Smørgrav nsec3_hash_algo_size_supported(int id)
127605ab2901SDag-Erling Smørgrav {
127705ab2901SDag-Erling Smørgrav 	switch(id) {
127805ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
127905ab2901SDag-Erling Smørgrav 		return SHA1_DIGEST_SIZE;
128005ab2901SDag-Erling Smørgrav 	default:
128105ab2901SDag-Erling Smørgrav 		return 0;
128205ab2901SDag-Erling Smørgrav 	}
128305ab2901SDag-Erling Smørgrav }
128405ab2901SDag-Erling Smørgrav 
128505ab2901SDag-Erling Smørgrav /* perform nsec3 hash. return false on failure */
128605ab2901SDag-Erling Smørgrav int
128705ab2901SDag-Erling Smørgrav secalgo_nsec3_hash(int algo, unsigned char* buf, size_t len,
128805ab2901SDag-Erling Smørgrav         unsigned char* res)
128905ab2901SDag-Erling Smørgrav {
129005ab2901SDag-Erling Smørgrav 	switch(algo) {
129105ab2901SDag-Erling Smørgrav 	case NSEC3_HASH_SHA1:
129205ab2901SDag-Erling Smørgrav 		return _digest_nettle(SHA1_DIGEST_SIZE, (uint8_t*)buf, len,
129305ab2901SDag-Erling Smørgrav 			res);
129405ab2901SDag-Erling Smørgrav 	default:
129505ab2901SDag-Erling Smørgrav 		return 0;
129605ab2901SDag-Erling Smørgrav 	}
129705ab2901SDag-Erling Smørgrav }
129805ab2901SDag-Erling Smørgrav 
1299e2d15004SDag-Erling Smørgrav void
1300e2d15004SDag-Erling Smørgrav secalgo_hash_sha256(unsigned char* buf, size_t len, unsigned char* res)
1301e2d15004SDag-Erling Smørgrav {
1302e2d15004SDag-Erling Smørgrav 	_digest_nettle(SHA256_DIGEST_SIZE, (uint8_t*)buf, len, res);
1303e2d15004SDag-Erling Smørgrav }
1304e2d15004SDag-Erling Smørgrav 
130505ab2901SDag-Erling Smørgrav /**
130605ab2901SDag-Erling Smørgrav  * Return size of DS digest according to its hash algorithm.
130705ab2901SDag-Erling Smørgrav  * @param algo: DS digest algo.
130805ab2901SDag-Erling Smørgrav  * @return size in bytes of digest, or 0 if not supported.
130905ab2901SDag-Erling Smørgrav  */
131005ab2901SDag-Erling Smørgrav size_t
131105ab2901SDag-Erling Smørgrav ds_digest_size_supported(int algo)
131205ab2901SDag-Erling Smørgrav {
131305ab2901SDag-Erling Smørgrav 	switch(algo) {
131405ab2901SDag-Erling Smørgrav 		case LDNS_SHA1:
131505ab2901SDag-Erling Smørgrav 			return SHA1_DIGEST_SIZE;
131605ab2901SDag-Erling Smørgrav #ifdef USE_SHA2
131705ab2901SDag-Erling Smørgrav 		case LDNS_SHA256:
131805ab2901SDag-Erling Smørgrav 			return SHA256_DIGEST_SIZE;
131905ab2901SDag-Erling Smørgrav #endif
132005ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
132105ab2901SDag-Erling Smørgrav 		case LDNS_SHA384:
132205ab2901SDag-Erling Smørgrav 			return SHA384_DIGEST_SIZE;
132305ab2901SDag-Erling Smørgrav #endif
132405ab2901SDag-Erling Smørgrav 		/* GOST not supported */
132505ab2901SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
132605ab2901SDag-Erling Smørgrav 		default:
132705ab2901SDag-Erling Smørgrav 			break;
132805ab2901SDag-Erling Smørgrav 	}
132905ab2901SDag-Erling Smørgrav 	return 0;
133005ab2901SDag-Erling Smørgrav }
133105ab2901SDag-Erling Smørgrav 
133205ab2901SDag-Erling Smørgrav int
133305ab2901SDag-Erling Smørgrav secalgo_ds_digest(int algo, unsigned char* buf, size_t len,
133405ab2901SDag-Erling Smørgrav 	unsigned char* res)
133505ab2901SDag-Erling Smørgrav {
133605ab2901SDag-Erling Smørgrav 	switch(algo) {
133705ab2901SDag-Erling Smørgrav 		case LDNS_SHA1:
133805ab2901SDag-Erling Smørgrav 			return _digest_nettle(SHA1_DIGEST_SIZE, buf, len, res);
133905ab2901SDag-Erling Smørgrav #if defined(USE_SHA2)
134005ab2901SDag-Erling Smørgrav 		case LDNS_SHA256:
134105ab2901SDag-Erling Smørgrav 			return _digest_nettle(SHA256_DIGEST_SIZE, buf, len, res);
134205ab2901SDag-Erling Smørgrav #endif
134305ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
134405ab2901SDag-Erling Smørgrav 		case LDNS_SHA384:
134505ab2901SDag-Erling Smørgrav 			return _digest_nettle(SHA384_DIGEST_SIZE, buf, len, res);
134605ab2901SDag-Erling Smørgrav 
134705ab2901SDag-Erling Smørgrav #endif
134805ab2901SDag-Erling Smørgrav 		case LDNS_HASH_GOST:
134905ab2901SDag-Erling Smørgrav 		default:
135005ab2901SDag-Erling Smørgrav 			verbose(VERB_QUERY, "unknown DS digest algorithm %d",
135105ab2901SDag-Erling Smørgrav 				algo);
135205ab2901SDag-Erling Smørgrav 			break;
135305ab2901SDag-Erling Smørgrav 	}
135405ab2901SDag-Erling Smørgrav 	return 0;
135505ab2901SDag-Erling Smørgrav }
135605ab2901SDag-Erling Smørgrav 
135705ab2901SDag-Erling Smørgrav int
135805ab2901SDag-Erling Smørgrav dnskey_algo_id_is_supported(int id)
135905ab2901SDag-Erling Smørgrav {
136005ab2901SDag-Erling Smørgrav 	/* uses libnettle */
136105ab2901SDag-Erling Smørgrav 	switch(id) {
1362e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
136305ab2901SDag-Erling Smørgrav 	case LDNS_DSA:
136405ab2901SDag-Erling Smørgrav 	case LDNS_DSA_NSEC3:
1365e2d15004SDag-Erling Smørgrav #endif
136605ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA1:
136705ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA1_NSEC3:
136805ab2901SDag-Erling Smørgrav #ifdef USE_SHA2
136905ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA256:
137005ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA512:
137105ab2901SDag-Erling Smørgrav #endif
137205ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
137305ab2901SDag-Erling Smørgrav 	case LDNS_ECDSAP256SHA256:
137405ab2901SDag-Erling Smørgrav 	case LDNS_ECDSAP384SHA384:
137505ab2901SDag-Erling Smørgrav #endif
137605ab2901SDag-Erling Smørgrav 		return 1;
137705ab2901SDag-Erling Smørgrav 	case LDNS_RSAMD5: /* RFC 6725 deprecates RSAMD5 */
137805ab2901SDag-Erling Smørgrav 	case LDNS_ECC_GOST:
137905ab2901SDag-Erling Smørgrav 	default:
138005ab2901SDag-Erling Smørgrav 		return 0;
138105ab2901SDag-Erling Smørgrav 	}
138205ab2901SDag-Erling Smørgrav }
138305ab2901SDag-Erling Smørgrav 
1384b5663de9SDag-Erling Smørgrav #ifdef USE_DSA
138505ab2901SDag-Erling Smørgrav static char *
138605ab2901SDag-Erling Smørgrav _verify_nettle_dsa(sldns_buffer* buf, unsigned char* sigblock,
138705ab2901SDag-Erling Smørgrav 	unsigned int sigblock_len, unsigned char* key, unsigned int keylen)
138805ab2901SDag-Erling Smørgrav {
138905ab2901SDag-Erling Smørgrav 	uint8_t digest[SHA1_DIGEST_SIZE];
1390*3005e0a3SDag-Erling Smørgrav 	uint8_t key_t_value;
139105ab2901SDag-Erling Smørgrav 	int res = 0;
139205ab2901SDag-Erling Smørgrav 	size_t offset;
139305ab2901SDag-Erling Smørgrav 	struct dsa_public_key pubkey;
139405ab2901SDag-Erling Smørgrav 	struct dsa_signature signature;
139505ab2901SDag-Erling Smørgrav 	unsigned int expected_len;
139605ab2901SDag-Erling Smørgrav 
139705ab2901SDag-Erling Smørgrav 	/* Extract DSA signature from the record */
139805ab2901SDag-Erling Smørgrav 	nettle_dsa_signature_init(&signature);
139905ab2901SDag-Erling Smørgrav 	/* Signature length: 41 bytes - RFC 2536 sec. 3 */
140005ab2901SDag-Erling Smørgrav 	if(sigblock_len == 41) {
140105ab2901SDag-Erling Smørgrav 		if(key[0] != sigblock[0])
140205ab2901SDag-Erling Smørgrav 			return "invalid T value in DSA signature or pubkey";
140305ab2901SDag-Erling Smørgrav 		nettle_mpz_set_str_256_u(signature.r, 20, sigblock+1);
140405ab2901SDag-Erling Smørgrav 		nettle_mpz_set_str_256_u(signature.s, 20, sigblock+1+20);
140505ab2901SDag-Erling Smørgrav 	} else {
140605ab2901SDag-Erling Smørgrav 		/* DER encoded, decode the ASN1 notated R and S bignums */
140705ab2901SDag-Erling Smørgrav 		/* SEQUENCE { r INTEGER, s INTEGER } */
140805ab2901SDag-Erling Smørgrav 		struct asn1_der_iterator i, seq;
140905ab2901SDag-Erling Smørgrav 		if(asn1_der_iterator_first(&i, sigblock_len,
141005ab2901SDag-Erling Smørgrav 			(uint8_t*)sigblock) != ASN1_ITERATOR_CONSTRUCTED
141105ab2901SDag-Erling Smørgrav 			|| i.type != ASN1_SEQUENCE)
141205ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
141305ab2901SDag-Erling Smørgrav 		/* decode this element of i using the seq iterator */
141405ab2901SDag-Erling Smørgrav 		if(asn1_der_decode_constructed(&i, &seq) !=
141505ab2901SDag-Erling Smørgrav 			ASN1_ITERATOR_PRIMITIVE || seq.type != ASN1_INTEGER)
141605ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
141705ab2901SDag-Erling Smørgrav 		if(!asn1_der_get_bignum(&seq, signature.r, 20*8))
141805ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
141905ab2901SDag-Erling Smørgrav 		if(asn1_der_iterator_next(&seq) != ASN1_ITERATOR_PRIMITIVE
142005ab2901SDag-Erling Smørgrav 			|| seq.type != ASN1_INTEGER)
142105ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
142205ab2901SDag-Erling Smørgrav 		if(!asn1_der_get_bignum(&seq, signature.s, 20*8))
142305ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
142405ab2901SDag-Erling Smørgrav 		if(asn1_der_iterator_next(&i) != ASN1_ITERATOR_END)
142505ab2901SDag-Erling Smørgrav 			return "malformed DER encoded DSA signature";
142605ab2901SDag-Erling Smørgrav 	}
142705ab2901SDag-Erling Smørgrav 
142805ab2901SDag-Erling Smørgrav 	/* Validate T values constraints - RFC 2536 sec. 2 & sec. 3 */
1429*3005e0a3SDag-Erling Smørgrav 	key_t_value = key[0];
1430*3005e0a3SDag-Erling Smørgrav 	if (key_t_value > 8) {
143105ab2901SDag-Erling Smørgrav 		return "invalid T value in DSA pubkey";
143205ab2901SDag-Erling Smørgrav 	}
143305ab2901SDag-Erling Smørgrav 
143405ab2901SDag-Erling Smørgrav 	/* Pubkey minimum length: 21 bytes - RFC 2536 sec. 2 */
143505ab2901SDag-Erling Smørgrav 	if (keylen < 21) {
143605ab2901SDag-Erling Smørgrav 		return "DSA pubkey too short";
143705ab2901SDag-Erling Smørgrav 	}
143805ab2901SDag-Erling Smørgrav 
143905ab2901SDag-Erling Smørgrav 	expected_len =   1 +		/* T */
144005ab2901SDag-Erling Smørgrav 		        20 +		/* Q */
1441*3005e0a3SDag-Erling Smørgrav 		       (64 + key_t_value*8) +	/* P */
1442*3005e0a3SDag-Erling Smørgrav 		       (64 + key_t_value*8) +	/* G */
1443*3005e0a3SDag-Erling Smørgrav 		       (64 + key_t_value*8);	/* Y */
144405ab2901SDag-Erling Smørgrav 	if (keylen != expected_len ) {
144505ab2901SDag-Erling Smørgrav 		return "invalid DSA pubkey length";
144605ab2901SDag-Erling Smørgrav 	}
144705ab2901SDag-Erling Smørgrav 
144805ab2901SDag-Erling Smørgrav 	/* Extract DSA pubkey from the record */
144905ab2901SDag-Erling Smørgrav 	nettle_dsa_public_key_init(&pubkey);
145005ab2901SDag-Erling Smørgrav 	offset = 1;
145105ab2901SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.q, 20, key+offset);
145205ab2901SDag-Erling Smørgrav 	offset += 20;
1453*3005e0a3SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.p, (64 + key_t_value*8), key+offset);
1454*3005e0a3SDag-Erling Smørgrav 	offset += (64 + key_t_value*8);
1455*3005e0a3SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.g, (64 + key_t_value*8), key+offset);
1456*3005e0a3SDag-Erling Smørgrav 	offset += (64 + key_t_value*8);
1457*3005e0a3SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.y, (64 + key_t_value*8), key+offset);
145805ab2901SDag-Erling Smørgrav 
145905ab2901SDag-Erling Smørgrav 	/* Digest content of "buf" and verify its DSA signature in "sigblock"*/
146005ab2901SDag-Erling Smørgrav 	res = _digest_nettle(SHA1_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
146105ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
146205ab2901SDag-Erling Smørgrav 	res &= dsa_sha1_verify_digest(&pubkey, digest, &signature);
146305ab2901SDag-Erling Smørgrav 
146405ab2901SDag-Erling Smørgrav 	/* Clear and return */
146505ab2901SDag-Erling Smørgrav 	nettle_dsa_signature_clear(&signature);
146605ab2901SDag-Erling Smørgrav 	nettle_dsa_public_key_clear(&pubkey);
146705ab2901SDag-Erling Smørgrav 	if (!res)
146805ab2901SDag-Erling Smørgrav 		return "DSA signature verification failed";
146905ab2901SDag-Erling Smørgrav 	else
147005ab2901SDag-Erling Smørgrav 		return NULL;
147105ab2901SDag-Erling Smørgrav }
1472b5663de9SDag-Erling Smørgrav #endif /* USE_DSA */
147305ab2901SDag-Erling Smørgrav 
147405ab2901SDag-Erling Smørgrav static char *
147505ab2901SDag-Erling Smørgrav _verify_nettle_rsa(sldns_buffer* buf, unsigned int digest_size, char* sigblock,
147605ab2901SDag-Erling Smørgrav 	unsigned int sigblock_len, uint8_t* key, unsigned int keylen)
147705ab2901SDag-Erling Smørgrav {
147805ab2901SDag-Erling Smørgrav 	uint16_t exp_len = 0;
147905ab2901SDag-Erling Smørgrav 	size_t exp_offset = 0, mod_offset = 0;
148005ab2901SDag-Erling Smørgrav 	struct rsa_public_key pubkey;
148105ab2901SDag-Erling Smørgrav 	mpz_t signature;
148205ab2901SDag-Erling Smørgrav 	int res = 0;
148305ab2901SDag-Erling Smørgrav 
148405ab2901SDag-Erling Smørgrav 	/* RSA pubkey parsing as per RFC 3110 sec. 2 */
148505ab2901SDag-Erling Smørgrav 	if( keylen <= 1) {
148605ab2901SDag-Erling Smørgrav 		return "null RSA key";
148705ab2901SDag-Erling Smørgrav 	}
148805ab2901SDag-Erling Smørgrav 	if (key[0] != 0) {
148905ab2901SDag-Erling Smørgrav 		/* 1-byte length */
149005ab2901SDag-Erling Smørgrav 		exp_len = key[0];
149105ab2901SDag-Erling Smørgrav 		exp_offset = 1;
149205ab2901SDag-Erling Smørgrav 	} else {
149305ab2901SDag-Erling Smørgrav 		/* 1-byte NUL + 2-bytes exponent length */
149405ab2901SDag-Erling Smørgrav 		if (keylen < 3) {
149505ab2901SDag-Erling Smørgrav 			return "incorrect RSA key length";
149605ab2901SDag-Erling Smørgrav 		}
149705ab2901SDag-Erling Smørgrav 		exp_len = READ_UINT16(key+1);
149805ab2901SDag-Erling Smørgrav 		if (exp_len == 0)
149905ab2901SDag-Erling Smørgrav 			return "null RSA exponent length";
150005ab2901SDag-Erling Smørgrav 		exp_offset = 3;
150105ab2901SDag-Erling Smørgrav 	}
150205ab2901SDag-Erling Smørgrav 	/* Check that we are not over-running input length */
150305ab2901SDag-Erling Smørgrav 	if (keylen < exp_offset + exp_len + 1) {
150405ab2901SDag-Erling Smørgrav 		return "RSA key content shorter than expected";
150505ab2901SDag-Erling Smørgrav 	}
150605ab2901SDag-Erling Smørgrav 	mod_offset = exp_offset + exp_len;
150705ab2901SDag-Erling Smørgrav 	nettle_rsa_public_key_init(&pubkey);
150805ab2901SDag-Erling Smørgrav 	pubkey.size = keylen - mod_offset;
150905ab2901SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.e, exp_len, &key[exp_offset]);
151005ab2901SDag-Erling Smørgrav 	nettle_mpz_set_str_256_u(pubkey.n, pubkey.size, &key[mod_offset]);
151105ab2901SDag-Erling Smørgrav 
151205ab2901SDag-Erling Smørgrav 	/* Digest content of "buf" and verify its RSA signature in "sigblock"*/
151305ab2901SDag-Erling Smørgrav 	nettle_mpz_init_set_str_256_u(signature, sigblock_len, (uint8_t*)sigblock);
151405ab2901SDag-Erling Smørgrav 	switch (digest_size) {
151505ab2901SDag-Erling Smørgrav 		case SHA1_DIGEST_SIZE:
151605ab2901SDag-Erling Smørgrav 		{
151705ab2901SDag-Erling Smørgrav 			uint8_t digest[SHA1_DIGEST_SIZE];
151805ab2901SDag-Erling Smørgrav 			res = _digest_nettle(SHA1_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
151905ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
152005ab2901SDag-Erling Smørgrav 			res &= rsa_sha1_verify_digest(&pubkey, digest, signature);
152105ab2901SDag-Erling Smørgrav 			break;
152205ab2901SDag-Erling Smørgrav 		}
152305ab2901SDag-Erling Smørgrav 		case SHA256_DIGEST_SIZE:
152405ab2901SDag-Erling Smørgrav 		{
152505ab2901SDag-Erling Smørgrav 			uint8_t digest[SHA256_DIGEST_SIZE];
152605ab2901SDag-Erling Smørgrav 			res = _digest_nettle(SHA256_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
152705ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
152805ab2901SDag-Erling Smørgrav 			res &= rsa_sha256_verify_digest(&pubkey, digest, signature);
152905ab2901SDag-Erling Smørgrav 			break;
153005ab2901SDag-Erling Smørgrav 		}
153105ab2901SDag-Erling Smørgrav 		case SHA512_DIGEST_SIZE:
153205ab2901SDag-Erling Smørgrav 		{
153305ab2901SDag-Erling Smørgrav 			uint8_t digest[SHA512_DIGEST_SIZE];
153405ab2901SDag-Erling Smørgrav 			res = _digest_nettle(SHA512_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
153505ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
153605ab2901SDag-Erling Smørgrav 			res &= rsa_sha512_verify_digest(&pubkey, digest, signature);
153705ab2901SDag-Erling Smørgrav 			break;
153805ab2901SDag-Erling Smørgrav 		}
153905ab2901SDag-Erling Smørgrav 		default:
154005ab2901SDag-Erling Smørgrav 			break;
154105ab2901SDag-Erling Smørgrav 	}
154205ab2901SDag-Erling Smørgrav 
154305ab2901SDag-Erling Smørgrav 	/* Clear and return */
154405ab2901SDag-Erling Smørgrav 	nettle_rsa_public_key_clear(&pubkey);
154505ab2901SDag-Erling Smørgrav 	mpz_clear(signature);
154605ab2901SDag-Erling Smørgrav 	if (!res) {
154705ab2901SDag-Erling Smørgrav 		return "RSA signature verification failed";
154805ab2901SDag-Erling Smørgrav 	} else {
154905ab2901SDag-Erling Smørgrav 		return NULL;
155005ab2901SDag-Erling Smørgrav 	}
155105ab2901SDag-Erling Smørgrav }
155205ab2901SDag-Erling Smørgrav 
155305ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
155405ab2901SDag-Erling Smørgrav static char *
155505ab2901SDag-Erling Smørgrav _verify_nettle_ecdsa(sldns_buffer* buf, unsigned int digest_size, unsigned char* sigblock,
155605ab2901SDag-Erling Smørgrav 	unsigned int sigblock_len, unsigned char* key, unsigned int keylen)
155705ab2901SDag-Erling Smørgrav {
155805ab2901SDag-Erling Smørgrav 	int res = 0;
155905ab2901SDag-Erling Smørgrav 	struct ecc_point pubkey;
156005ab2901SDag-Erling Smørgrav 	struct dsa_signature signature;
156105ab2901SDag-Erling Smørgrav 
156205ab2901SDag-Erling Smørgrav 	/* Always matched strength, as per RFC 6605 sec. 1 */
156305ab2901SDag-Erling Smørgrav 	if (sigblock_len != 2*digest_size || keylen != 2*digest_size) {
156405ab2901SDag-Erling Smørgrav 		return "wrong ECDSA signature length";
156505ab2901SDag-Erling Smørgrav 	}
156605ab2901SDag-Erling Smørgrav 
156705ab2901SDag-Erling Smørgrav 	/* Parse ECDSA signature as per RFC 6605 sec. 4 */
156805ab2901SDag-Erling Smørgrav 	nettle_dsa_signature_init(&signature);
156905ab2901SDag-Erling Smørgrav 	switch (digest_size) {
157005ab2901SDag-Erling Smørgrav 		case SHA256_DIGEST_SIZE:
157105ab2901SDag-Erling Smørgrav 		{
157205ab2901SDag-Erling Smørgrav 			uint8_t digest[SHA256_DIGEST_SIZE];
157305ab2901SDag-Erling Smørgrav 			mpz_t x, y;
157405ab2901SDag-Erling Smørgrav 			nettle_ecc_point_init(&pubkey, &nettle_secp_256r1);
157505ab2901SDag-Erling Smørgrav 			nettle_mpz_init_set_str_256_u(x, SHA256_DIGEST_SIZE, key);
157605ab2901SDag-Erling Smørgrav 			nettle_mpz_init_set_str_256_u(y, SHA256_DIGEST_SIZE, key+SHA256_DIGEST_SIZE);
157705ab2901SDag-Erling Smørgrav 			nettle_mpz_set_str_256_u(signature.r, SHA256_DIGEST_SIZE, sigblock);
157805ab2901SDag-Erling Smørgrav 			nettle_mpz_set_str_256_u(signature.s, SHA256_DIGEST_SIZE, sigblock+SHA256_DIGEST_SIZE);
157905ab2901SDag-Erling Smørgrav 			res = _digest_nettle(SHA256_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
158005ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
158105ab2901SDag-Erling Smørgrav 			res &= nettle_ecc_point_set(&pubkey, x, y);
158205ab2901SDag-Erling Smørgrav 			res &= nettle_ecdsa_verify (&pubkey, SHA256_DIGEST_SIZE, digest, &signature);
158305ab2901SDag-Erling Smørgrav 			mpz_clear(x);
158405ab2901SDag-Erling Smørgrav 			mpz_clear(y);
158505ab2901SDag-Erling Smørgrav 			break;
158605ab2901SDag-Erling Smørgrav 		}
158705ab2901SDag-Erling Smørgrav 		case SHA384_DIGEST_SIZE:
158805ab2901SDag-Erling Smørgrav 		{
158905ab2901SDag-Erling Smørgrav 			uint8_t digest[SHA384_DIGEST_SIZE];
159005ab2901SDag-Erling Smørgrav 			mpz_t x, y;
159105ab2901SDag-Erling Smørgrav 			nettle_ecc_point_init(&pubkey, &nettle_secp_384r1);
159205ab2901SDag-Erling Smørgrav 			nettle_mpz_init_set_str_256_u(x, SHA384_DIGEST_SIZE, key);
159305ab2901SDag-Erling Smørgrav 			nettle_mpz_init_set_str_256_u(y, SHA384_DIGEST_SIZE, key+SHA384_DIGEST_SIZE);
159405ab2901SDag-Erling Smørgrav 			nettle_mpz_set_str_256_u(signature.r, SHA384_DIGEST_SIZE, sigblock);
159505ab2901SDag-Erling Smørgrav 			nettle_mpz_set_str_256_u(signature.s, SHA384_DIGEST_SIZE, sigblock+SHA384_DIGEST_SIZE);
159605ab2901SDag-Erling Smørgrav 			res = _digest_nettle(SHA384_DIGEST_SIZE, (unsigned char*)sldns_buffer_begin(buf),
159705ab2901SDag-Erling Smørgrav 						(unsigned int)sldns_buffer_limit(buf), (unsigned char*)digest);
159805ab2901SDag-Erling Smørgrav 			res &= nettle_ecc_point_set(&pubkey, x, y);
159905ab2901SDag-Erling Smørgrav 			res &= nettle_ecdsa_verify (&pubkey, SHA384_DIGEST_SIZE, digest, &signature);
160005ab2901SDag-Erling Smørgrav 			mpz_clear(x);
160105ab2901SDag-Erling Smørgrav 			mpz_clear(y);
160205ab2901SDag-Erling Smørgrav 			nettle_ecc_point_clear(&pubkey);
160305ab2901SDag-Erling Smørgrav 			break;
160405ab2901SDag-Erling Smørgrav 		}
160505ab2901SDag-Erling Smørgrav 		default:
160605ab2901SDag-Erling Smørgrav 			return "unknown ECDSA algorithm";
160705ab2901SDag-Erling Smørgrav 	}
160805ab2901SDag-Erling Smørgrav 
160905ab2901SDag-Erling Smørgrav 	/* Clear and return */
161005ab2901SDag-Erling Smørgrav 	nettle_dsa_signature_clear(&signature);
161105ab2901SDag-Erling Smørgrav 	if (!res)
161205ab2901SDag-Erling Smørgrav 		return "ECDSA signature verification failed";
161305ab2901SDag-Erling Smørgrav 	else
161405ab2901SDag-Erling Smørgrav 		return NULL;
161505ab2901SDag-Erling Smørgrav }
161605ab2901SDag-Erling Smørgrav #endif
161705ab2901SDag-Erling Smørgrav 
161805ab2901SDag-Erling Smørgrav /**
161905ab2901SDag-Erling Smørgrav  * Check a canonical sig+rrset and signature against a dnskey
162005ab2901SDag-Erling Smørgrav  * @param buf: buffer with data to verify, the first rrsig part and the
162105ab2901SDag-Erling Smørgrav  *	canonicalized rrset.
162205ab2901SDag-Erling Smørgrav  * @param algo: DNSKEY algorithm.
162305ab2901SDag-Erling Smørgrav  * @param sigblock: signature rdata field from RRSIG
162405ab2901SDag-Erling Smørgrav  * @param sigblock_len: length of sigblock data.
162505ab2901SDag-Erling Smørgrav  * @param key: public key data from DNSKEY RR.
162605ab2901SDag-Erling Smørgrav  * @param keylen: length of keydata.
162705ab2901SDag-Erling Smørgrav  * @param reason: bogus reason in more detail.
162805ab2901SDag-Erling Smørgrav  * @return secure if verification succeeded, bogus on crypto failure,
162905ab2901SDag-Erling Smørgrav  *	unchecked on format errors and alloc failures.
163005ab2901SDag-Erling Smørgrav  */
163105ab2901SDag-Erling Smørgrav enum sec_status
163205ab2901SDag-Erling Smørgrav verify_canonrrset(sldns_buffer* buf, int algo, unsigned char* sigblock,
163305ab2901SDag-Erling Smørgrav 	unsigned int sigblock_len, unsigned char* key, unsigned int keylen,
163405ab2901SDag-Erling Smørgrav 	char** reason)
163505ab2901SDag-Erling Smørgrav {
163605ab2901SDag-Erling Smørgrav 	unsigned int digest_size = 0;
163705ab2901SDag-Erling Smørgrav 
163805ab2901SDag-Erling Smørgrav 	if (sigblock_len == 0 || keylen == 0) {
163905ab2901SDag-Erling Smørgrav 		*reason = "null signature";
164005ab2901SDag-Erling Smørgrav 		return sec_status_bogus;
164105ab2901SDag-Erling Smørgrav 	}
164205ab2901SDag-Erling Smørgrav 
164305ab2901SDag-Erling Smørgrav 	switch(algo) {
1644e2d15004SDag-Erling Smørgrav #ifdef USE_DSA
164505ab2901SDag-Erling Smørgrav 	case LDNS_DSA:
164605ab2901SDag-Erling Smørgrav 	case LDNS_DSA_NSEC3:
164705ab2901SDag-Erling Smørgrav 		*reason = _verify_nettle_dsa(buf, sigblock, sigblock_len, key, keylen);
164805ab2901SDag-Erling Smørgrav 		if (*reason != NULL)
164905ab2901SDag-Erling Smørgrav 			return sec_status_bogus;
165005ab2901SDag-Erling Smørgrav 		else
165105ab2901SDag-Erling Smørgrav 			return sec_status_secure;
1652e2d15004SDag-Erling Smørgrav #endif /* USE_DSA */
165305ab2901SDag-Erling Smørgrav 
165405ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA1:
165505ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA1_NSEC3:
165605ab2901SDag-Erling Smørgrav 		digest_size = (digest_size ? digest_size : SHA1_DIGEST_SIZE);
165705ab2901SDag-Erling Smørgrav #ifdef USE_SHA2
165805ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA256:
165905ab2901SDag-Erling Smørgrav 		digest_size = (digest_size ? digest_size : SHA256_DIGEST_SIZE);
166005ab2901SDag-Erling Smørgrav 	case LDNS_RSASHA512:
166105ab2901SDag-Erling Smørgrav 		digest_size = (digest_size ? digest_size : SHA512_DIGEST_SIZE);
166205ab2901SDag-Erling Smørgrav 
166305ab2901SDag-Erling Smørgrav #endif
166405ab2901SDag-Erling Smørgrav 		*reason = _verify_nettle_rsa(buf, digest_size, (char*)sigblock,
166505ab2901SDag-Erling Smørgrav 						sigblock_len, key, keylen);
166605ab2901SDag-Erling Smørgrav 		if (*reason != NULL)
166705ab2901SDag-Erling Smørgrav 			return sec_status_bogus;
166805ab2901SDag-Erling Smørgrav 		else
166905ab2901SDag-Erling Smørgrav 			return sec_status_secure;
167005ab2901SDag-Erling Smørgrav 
167105ab2901SDag-Erling Smørgrav #ifdef USE_ECDSA
167205ab2901SDag-Erling Smørgrav 	case LDNS_ECDSAP256SHA256:
167305ab2901SDag-Erling Smørgrav 		digest_size = (digest_size ? digest_size : SHA256_DIGEST_SIZE);
167405ab2901SDag-Erling Smørgrav 	case LDNS_ECDSAP384SHA384:
167505ab2901SDag-Erling Smørgrav 		digest_size = (digest_size ? digest_size : SHA384_DIGEST_SIZE);
167605ab2901SDag-Erling Smørgrav 		*reason = _verify_nettle_ecdsa(buf, digest_size, sigblock,
167705ab2901SDag-Erling Smørgrav 						sigblock_len, key, keylen);
167805ab2901SDag-Erling Smørgrav 		if (*reason != NULL)
167905ab2901SDag-Erling Smørgrav 			return sec_status_bogus;
168005ab2901SDag-Erling Smørgrav 		else
168105ab2901SDag-Erling Smørgrav 			return sec_status_secure;
168205ab2901SDag-Erling Smørgrav #endif
168305ab2901SDag-Erling Smørgrav 	case LDNS_RSAMD5:
168405ab2901SDag-Erling Smørgrav 	case LDNS_ECC_GOST:
168505ab2901SDag-Erling Smørgrav 	default:
168605ab2901SDag-Erling Smørgrav 		*reason = "unable to verify signature, unknown algorithm";
168705ab2901SDag-Erling Smørgrav 		return sec_status_bogus;
168805ab2901SDag-Erling Smørgrav 	}
168905ab2901SDag-Erling Smørgrav }
169005ab2901SDag-Erling Smørgrav 
169105ab2901SDag-Erling Smørgrav #endif /* HAVE_SSL or HAVE_NSS or HAVE_NETTLE */
1692