xref: /freebsd/usr.bin/enigma/enigma.c (revision 13e21a9da4e11ed8f4410d6375a2eb47de10206f)
113e21a9dSJoerg Wunsch /*
213e21a9dSJoerg Wunsch  *	"enigma.c" is in file cbw.tar from
313e21a9dSJoerg Wunsch  *	anonymous FTP host watmsg.waterloo.edu: pub/crypt/cbw.tar.Z
413e21a9dSJoerg Wunsch  *
513e21a9dSJoerg Wunsch  *	A one-rotor machine designed along the lines of Enigma
613e21a9dSJoerg Wunsch  *	but considerably trivialized.
713e21a9dSJoerg Wunsch  *
813e21a9dSJoerg Wunsch  *	A public-domain replacement for the UNIX "crypt" command.
913e21a9dSJoerg Wunsch  *
1013e21a9dSJoerg Wunsch  *	Upgraded to function properly on 64-bit machines.
1113e21a9dSJoerg Wunsch  */
1213e21a9dSJoerg Wunsch 
1313e21a9dSJoerg Wunsch #define ECHO 010
1413e21a9dSJoerg Wunsch #include <stdio.h>
1513e21a9dSJoerg Wunsch #define ROTORSZ 256
1613e21a9dSJoerg Wunsch #define MASK 0377
1713e21a9dSJoerg Wunsch char	t1[ROTORSZ];
1813e21a9dSJoerg Wunsch char	t2[ROTORSZ];
1913e21a9dSJoerg Wunsch char	t3[ROTORSZ];
2013e21a9dSJoerg Wunsch char	deck[ROTORSZ];
2113e21a9dSJoerg Wunsch char	*getpass();
2213e21a9dSJoerg Wunsch char	buf[13];
2313e21a9dSJoerg Wunsch 
2413e21a9dSJoerg Wunsch void	shuffle();
2513e21a9dSJoerg Wunsch void	puth();
2613e21a9dSJoerg Wunsch 
2713e21a9dSJoerg Wunsch void
2813e21a9dSJoerg Wunsch setup(pw)
2913e21a9dSJoerg Wunsch char *pw;
3013e21a9dSJoerg Wunsch {
3113e21a9dSJoerg Wunsch 	int ic, i, k, temp, pf[2], pid;
3213e21a9dSJoerg Wunsch 	unsigned random;
3313e21a9dSJoerg Wunsch 	long seed;
3413e21a9dSJoerg Wunsch 
3513e21a9dSJoerg Wunsch 	strncpy(buf, pw, 8);
3613e21a9dSJoerg Wunsch 	while (*pw)
3713e21a9dSJoerg Wunsch 		*pw++ = '\0';
3813e21a9dSJoerg Wunsch 	buf[8] = buf[0];
3913e21a9dSJoerg Wunsch 	buf[9] = buf[1];
4013e21a9dSJoerg Wunsch 	pipe(pf);
4113e21a9dSJoerg Wunsch 	if ((pid=fork())==0) {
4213e21a9dSJoerg Wunsch 		close(0);
4313e21a9dSJoerg Wunsch 		close(1);
4413e21a9dSJoerg Wunsch 		dup(pf[0]);
4513e21a9dSJoerg Wunsch 		dup(pf[1]);
4613e21a9dSJoerg Wunsch 		execlp("makekey", "-", 0);
4713e21a9dSJoerg Wunsch 		execl("/usr/libexec/makekey", "-", 0);	/* BSDI */
4813e21a9dSJoerg Wunsch 		execl("/usr/lib/makekey", "-", 0);
4913e21a9dSJoerg Wunsch 		execl("/usr/bin/makekey", "-", 0);	/* IBM */
5013e21a9dSJoerg Wunsch 		execl("/lib/makekey", "-", 0);
5113e21a9dSJoerg Wunsch 		perror("makekey");
5213e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: cannot execute 'makekey', aborting\n");
5313e21a9dSJoerg Wunsch 		exit(1);
5413e21a9dSJoerg Wunsch 	}
5513e21a9dSJoerg Wunsch 	write(pf[1], buf, 10);
5613e21a9dSJoerg Wunsch 	close(pf[1]);
5713e21a9dSJoerg Wunsch 	i=wait((int *)NULL);
5813e21a9dSJoerg Wunsch 	if (i<0) perror("enigma: wait");
5913e21a9dSJoerg Wunsch 	if (i!=pid) {
6013e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: expected pid %d, got pid %d\n", pid, i);
6113e21a9dSJoerg Wunsch 		exit(1);
6213e21a9dSJoerg Wunsch 	}
6313e21a9dSJoerg Wunsch 	if ((i=read(pf[0], buf, 13)) != 13) {
6413e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: cannot generate key, read %d\n",i);
6513e21a9dSJoerg Wunsch 		exit(1);
6613e21a9dSJoerg Wunsch 	}
6713e21a9dSJoerg Wunsch 	seed = 123;
6813e21a9dSJoerg Wunsch 	for (i=0; i<13; i++)
6913e21a9dSJoerg Wunsch 		seed = seed*buf[i] + i;
7013e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
7113e21a9dSJoerg Wunsch 		t1[i] = i;
7213e21a9dSJoerg Wunsch 		deck[i] = i;
7313e21a9dSJoerg Wunsch 	}
7413e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
7513e21a9dSJoerg Wunsch 		seed = 5*seed + buf[i%13];
7613e21a9dSJoerg Wunsch 		if( sizeof(long) > 4 )  {
7713e21a9dSJoerg Wunsch 			/* Force seed to stay in 32-bit signed math */
7813e21a9dSJoerg Wunsch 			if( seed & 0x80000000 )
7913e21a9dSJoerg Wunsch 				seed = seed | (-1L & ~0xFFFFFFFFL);
8013e21a9dSJoerg Wunsch 			else
8113e21a9dSJoerg Wunsch 				seed &= 0x7FFFFFFF;
8213e21a9dSJoerg Wunsch 		}
8313e21a9dSJoerg Wunsch 		random = seed % 65521;
8413e21a9dSJoerg Wunsch 		k = ROTORSZ-1 - i;
8513e21a9dSJoerg Wunsch 		ic = (random&MASK)%(k+1);
8613e21a9dSJoerg Wunsch 		random >>= 8;
8713e21a9dSJoerg Wunsch 		temp = t1[k];
8813e21a9dSJoerg Wunsch 		t1[k] = t1[ic];
8913e21a9dSJoerg Wunsch 		t1[ic] = temp;
9013e21a9dSJoerg Wunsch 		if(t3[k]!=0) continue;
9113e21a9dSJoerg Wunsch 		ic = (random&MASK) % k;
9213e21a9dSJoerg Wunsch 		while(t3[ic]!=0) ic = (ic+1) % k;
9313e21a9dSJoerg Wunsch 		t3[k] = ic;
9413e21a9dSJoerg Wunsch 		t3[ic] = k;
9513e21a9dSJoerg Wunsch 	}
9613e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++)
9713e21a9dSJoerg Wunsch 		t2[t1[i]&MASK] = i;
9813e21a9dSJoerg Wunsch }
9913e21a9dSJoerg Wunsch 
10013e21a9dSJoerg Wunsch main(argc, argv)
10113e21a9dSJoerg Wunsch char *argv[];
10213e21a9dSJoerg Wunsch {
10313e21a9dSJoerg Wunsch 	register int i, n1, n2, nr1, nr2;
10413e21a9dSJoerg Wunsch 	int secureflg = 0;
10513e21a9dSJoerg Wunsch 
10613e21a9dSJoerg Wunsch 	if (argc > 1 && argv[1][0] == '-' && argv[1][1] == 's') {
10713e21a9dSJoerg Wunsch 		argc--;
10813e21a9dSJoerg Wunsch 		argv++;
10913e21a9dSJoerg Wunsch 		secureflg = 1;
11013e21a9dSJoerg Wunsch 	}
11113e21a9dSJoerg Wunsch 	if (argc != 2){
11213e21a9dSJoerg Wunsch 		setup(getpass("Enter key:"));
11313e21a9dSJoerg Wunsch 	}
11413e21a9dSJoerg Wunsch 	else
11513e21a9dSJoerg Wunsch 		setup(argv[1]);
11613e21a9dSJoerg Wunsch 	n1 = 0;
11713e21a9dSJoerg Wunsch 	n2 = 0;
11813e21a9dSJoerg Wunsch 	nr2 = 0;
11913e21a9dSJoerg Wunsch 
12013e21a9dSJoerg Wunsch 	while((i=getchar()) >=0) {
12113e21a9dSJoerg Wunsch 		if (secureflg) {
12213e21a9dSJoerg Wunsch 			nr1 = deck[n1]&MASK;
12313e21a9dSJoerg Wunsch 			nr2 = deck[nr1]&MASK;
12413e21a9dSJoerg Wunsch 		} else {
12513e21a9dSJoerg Wunsch 			nr1 = n1;
12613e21a9dSJoerg Wunsch 		}
12713e21a9dSJoerg Wunsch 		i = t2[(t3[(t1[(i+nr1)&MASK]+nr2)&MASK]-nr2)&MASK]-nr1;
12813e21a9dSJoerg Wunsch 		putchar(i);
12913e21a9dSJoerg Wunsch 		n1++;
13013e21a9dSJoerg Wunsch 		if(n1==ROTORSZ) {
13113e21a9dSJoerg Wunsch 			n1 = 0;
13213e21a9dSJoerg Wunsch 			n2++;
13313e21a9dSJoerg Wunsch 			if(n2==ROTORSZ) n2 = 0;
13413e21a9dSJoerg Wunsch 			if (secureflg) {
13513e21a9dSJoerg Wunsch 				shuffle(deck);
13613e21a9dSJoerg Wunsch 			} else {
13713e21a9dSJoerg Wunsch 				nr2 = n2;
13813e21a9dSJoerg Wunsch 			}
13913e21a9dSJoerg Wunsch 		}
14013e21a9dSJoerg Wunsch 	}
14113e21a9dSJoerg Wunsch }
14213e21a9dSJoerg Wunsch 
14313e21a9dSJoerg Wunsch void
14413e21a9dSJoerg Wunsch shuffle(deck)
14513e21a9dSJoerg Wunsch 	char deck[];
14613e21a9dSJoerg Wunsch {
14713e21a9dSJoerg Wunsch 	int i, ic, k, temp;
14813e21a9dSJoerg Wunsch 	unsigned random;
14913e21a9dSJoerg Wunsch 	static long seed = 123;
15013e21a9dSJoerg Wunsch 
15113e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
15213e21a9dSJoerg Wunsch 		seed = 5*seed + buf[i%13];
15313e21a9dSJoerg Wunsch 		random = seed % 65521;
15413e21a9dSJoerg Wunsch 		k = ROTORSZ-1 - i;
15513e21a9dSJoerg Wunsch 		ic = (random&MASK)%(k+1);
15613e21a9dSJoerg Wunsch 		temp = deck[k];
15713e21a9dSJoerg Wunsch 		deck[k] = deck[ic];
15813e21a9dSJoerg Wunsch 		deck[ic] = temp;
15913e21a9dSJoerg Wunsch 	}
16013e21a9dSJoerg Wunsch }
16113e21a9dSJoerg Wunsch 
16213e21a9dSJoerg Wunsch void
16313e21a9dSJoerg Wunsch puth( title, cp, len )
16413e21a9dSJoerg Wunsch char	*title;
16513e21a9dSJoerg Wunsch char	*cp;
16613e21a9dSJoerg Wunsch int	len;
16713e21a9dSJoerg Wunsch {
16813e21a9dSJoerg Wunsch 	fprintf( stderr, "%s = ", title);
16913e21a9dSJoerg Wunsch 	while( len-- > 0 )  {
17013e21a9dSJoerg Wunsch 		fprintf(stderr, "%2.2x ", (*cp++) & 0xFF );
17113e21a9dSJoerg Wunsch 	}
17213e21a9dSJoerg Wunsch 	fprintf(stderr,"\n");
17313e21a9dSJoerg Wunsch }
174