xref: /illumos-gate/usr/src/cmd/ipf/lib/genmask.c (revision f3ac678143127d4c6c1793fadabb5ded04e127b6)
1*f3ac6781SToomas Soome /*
2*f3ac6781SToomas Soome  * Copyright (C) 1993-2001 by Darren Reed.
3*f3ac6781SToomas Soome  *
4*f3ac6781SToomas Soome  * See the IPFILTER.LICENCE file for details on licencing.
5*f3ac6781SToomas Soome  *
6*f3ac6781SToomas Soome  * $Id: genmask.c,v 1.7 2003/11/11 13:40:15 darrenr Exp $
7*f3ac6781SToomas Soome  */
8*f3ac6781SToomas Soome 
9*f3ac6781SToomas Soome #include "ipf.h"
10*f3ac6781SToomas Soome 
11*f3ac6781SToomas Soome 
genmask(msk,mskp)12*f3ac6781SToomas Soome int genmask(msk, mskp)
13*f3ac6781SToomas Soome char *msk;
14*f3ac6781SToomas Soome u_32_t *mskp;
15*f3ac6781SToomas Soome {
16*f3ac6781SToomas Soome 	char *endptr = 0L;
17*f3ac6781SToomas Soome 	int bits;
18*f3ac6781SToomas Soome 
19*f3ac6781SToomas Soome 	if (strchr(msk, '.') || strchr(msk, 'x') || strchr(msk, ':')) {
20*f3ac6781SToomas Soome 		/* possibly of the form xxx.xxx.xxx.xxx
21*f3ac6781SToomas Soome 		 * or 0xYYYYYYYY */
22*f3ac6781SToomas Soome #ifdef	USE_INET6
23*f3ac6781SToomas Soome 		if (use_inet6) {
24*f3ac6781SToomas Soome 			if (inet_pton(AF_INET6, msk, mskp) != 1)
25*f3ac6781SToomas Soome 				return -1;
26*f3ac6781SToomas Soome 		} else
27*f3ac6781SToomas Soome #endif
28*f3ac6781SToomas Soome 		if (inet_aton(msk, (struct in_addr *)mskp) == 0)
29*f3ac6781SToomas Soome 			return -1;
30*f3ac6781SToomas Soome 	} else {
31*f3ac6781SToomas Soome 		/*
32*f3ac6781SToomas Soome 		 * set x most significant bits
33*f3ac6781SToomas Soome 		 */
34*f3ac6781SToomas Soome 		bits = (int)strtol(msk, &endptr, 0);
35*f3ac6781SToomas Soome #ifdef	USE_INET6
36*f3ac6781SToomas Soome 		if ((*endptr != '\0') ||
37*f3ac6781SToomas Soome 		    ((bits > 32) && !use_inet6) || (bits < 0) ||
38*f3ac6781SToomas Soome 		    ((bits > 128) && use_inet6))
39*f3ac6781SToomas Soome #else
40*f3ac6781SToomas Soome 		if (*endptr != '\0' || bits > 32 || bits < 0)
41*f3ac6781SToomas Soome #endif
42*f3ac6781SToomas Soome 			return -1;
43*f3ac6781SToomas Soome #ifdef	USE_INET6
44*f3ac6781SToomas Soome 		if (use_inet6)
45*f3ac6781SToomas Soome 			fill6bits(bits, mskp);
46*f3ac6781SToomas Soome 		else
47*f3ac6781SToomas Soome #endif
48*f3ac6781SToomas Soome 		if (bits == 0)
49*f3ac6781SToomas Soome 			*mskp = 0;
50*f3ac6781SToomas Soome 		else
51*f3ac6781SToomas Soome 			*mskp = htonl(0xffffffff << (32 - bits));
52*f3ac6781SToomas Soome 	}
53*f3ac6781SToomas Soome 	return 0;
54*f3ac6781SToomas Soome }
55