xref: /freebsd/usr.bin/enigma/enigma.c (revision f4ac32def255b5968bdd8150057b9c0d14595689)
113e21a9dSJoerg Wunsch /*
213e21a9dSJoerg Wunsch  *	"enigma.c" is in file cbw.tar from
313e21a9dSJoerg Wunsch  *	anonymous FTP host watmsg.waterloo.edu: pub/crypt/cbw.tar.Z
413e21a9dSJoerg Wunsch  *
513e21a9dSJoerg Wunsch  *	A one-rotor machine designed along the lines of Enigma
613e21a9dSJoerg Wunsch  *	but considerably trivialized.
713e21a9dSJoerg Wunsch  *
813e21a9dSJoerg Wunsch  *	A public-domain replacement for the UNIX "crypt" command.
913e21a9dSJoerg Wunsch  *
1013e21a9dSJoerg Wunsch  *	Upgraded to function properly on 64-bit machines.
1113e21a9dSJoerg Wunsch  */
1213e21a9dSJoerg Wunsch 
13e026a48cSDavid E. O'Brien #include <sys/cdefs.h>
14e026a48cSDavid E. O'Brien __FBSDID("$FreeBSD$");
15a70bac9dSEric Melville 
165dc67cd7SJoerg Wunsch #include <sys/types.h>
175dc67cd7SJoerg Wunsch #include <sys/wait.h>
185dc67cd7SJoerg Wunsch 
1913e21a9dSJoerg Wunsch #include <stdio.h>
205dc67cd7SJoerg Wunsch #include <stdlib.h>
215dc67cd7SJoerg Wunsch #include <string.h>
225dc67cd7SJoerg Wunsch #include <unistd.h>
235dc67cd7SJoerg Wunsch 
245dc67cd7SJoerg Wunsch #define MINUSKVAR "CrYpTkEy"
255dc67cd7SJoerg Wunsch 
265dc67cd7SJoerg Wunsch #define ECHO 010
2713e21a9dSJoerg Wunsch #define ROTORSZ 256
2813e21a9dSJoerg Wunsch #define MASK 0377
2913e21a9dSJoerg Wunsch char	t1[ROTORSZ];
3013e21a9dSJoerg Wunsch char	t2[ROTORSZ];
3113e21a9dSJoerg Wunsch char	t3[ROTORSZ];
3213e21a9dSJoerg Wunsch char	deck[ROTORSZ];
3313e21a9dSJoerg Wunsch char	buf[13];
3413e21a9dSJoerg Wunsch 
355dc67cd7SJoerg Wunsch void	shuffle(char *);
36461ce74aSDima Dorfman void	setup(char *);
3713e21a9dSJoerg Wunsch 
3813e21a9dSJoerg Wunsch void
39f4ac32deSDavid Malone setup(char *pw)
4013e21a9dSJoerg Wunsch {
4113e21a9dSJoerg Wunsch 	int ic, i, k, temp, pf[2], pid;
42461ce74aSDima Dorfman 	unsigned rnd;
4313e21a9dSJoerg Wunsch 	long seed;
4413e21a9dSJoerg Wunsch 
4513e21a9dSJoerg Wunsch 	strncpy(buf, pw, 8);
4613e21a9dSJoerg Wunsch 	while (*pw)
4713e21a9dSJoerg Wunsch 		*pw++ = '\0';
4813e21a9dSJoerg Wunsch 	buf[8] = buf[0];
4913e21a9dSJoerg Wunsch 	buf[9] = buf[1];
5013e21a9dSJoerg Wunsch 	pipe(pf);
5113e21a9dSJoerg Wunsch 	if ((pid=fork())==0) {
5213e21a9dSJoerg Wunsch 		close(0);
5313e21a9dSJoerg Wunsch 		close(1);
5413e21a9dSJoerg Wunsch 		dup(pf[0]);
5513e21a9dSJoerg Wunsch 		dup(pf[1]);
567bc6d015SBrian Somers 		execlp("makekey", "-", (char *)0);
577bc6d015SBrian Somers 		execl("/usr/libexec/makekey", "-", (char *)0);	/* BSDI */
587bc6d015SBrian Somers 		execl("/usr/lib/makekey", "-", (char *)0);
597bc6d015SBrian Somers 		execl("/usr/bin/makekey", "-", (char *)0);	/* IBM */
607bc6d015SBrian Somers 		execl("/lib/makekey", "-", (char *)0);
6113e21a9dSJoerg Wunsch 		perror("makekey");
6213e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: cannot execute 'makekey', aborting\n");
6313e21a9dSJoerg Wunsch 		exit(1);
6413e21a9dSJoerg Wunsch 	}
6513e21a9dSJoerg Wunsch 	write(pf[1], buf, 10);
6613e21a9dSJoerg Wunsch 	close(pf[1]);
6713e21a9dSJoerg Wunsch 	i=wait((int *)NULL);
6813e21a9dSJoerg Wunsch 	if (i<0) perror("enigma: wait");
6913e21a9dSJoerg Wunsch 	if (i!=pid) {
7013e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: expected pid %d, got pid %d\n", pid, i);
7113e21a9dSJoerg Wunsch 		exit(1);
7213e21a9dSJoerg Wunsch 	}
7313e21a9dSJoerg Wunsch 	if ((i=read(pf[0], buf, 13)) != 13) {
7413e21a9dSJoerg Wunsch 		fprintf(stderr, "enigma: cannot generate key, read %d\n",i);
7513e21a9dSJoerg Wunsch 		exit(1);
7613e21a9dSJoerg Wunsch 	}
7713e21a9dSJoerg Wunsch 	seed = 123;
7813e21a9dSJoerg Wunsch 	for (i=0; i<13; i++)
7913e21a9dSJoerg Wunsch 		seed = seed*buf[i] + i;
8013e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
8113e21a9dSJoerg Wunsch 		t1[i] = i;
8213e21a9dSJoerg Wunsch 		deck[i] = i;
8313e21a9dSJoerg Wunsch 	}
8413e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
8513e21a9dSJoerg Wunsch 		seed = 5*seed + buf[i%13];
8613e21a9dSJoerg Wunsch 		if( sizeof(long) > 4 )  {
8713e21a9dSJoerg Wunsch 			/* Force seed to stay in 32-bit signed math */
8813e21a9dSJoerg Wunsch 			if( seed & 0x80000000 )
8913e21a9dSJoerg Wunsch 				seed = seed | (-1L & ~0xFFFFFFFFL);
9013e21a9dSJoerg Wunsch 			else
9113e21a9dSJoerg Wunsch 				seed &= 0x7FFFFFFF;
9213e21a9dSJoerg Wunsch 		}
93461ce74aSDima Dorfman 		rnd = seed % 65521;
9413e21a9dSJoerg Wunsch 		k = ROTORSZ-1 - i;
95461ce74aSDima Dorfman 		ic = (rnd&MASK)%(k+1);
96461ce74aSDima Dorfman 		rnd >>= 8;
9713e21a9dSJoerg Wunsch 		temp = t1[k];
9813e21a9dSJoerg Wunsch 		t1[k] = t1[ic];
9913e21a9dSJoerg Wunsch 		t1[ic] = temp;
10013e21a9dSJoerg Wunsch 		if(t3[k]!=0) continue;
101461ce74aSDima Dorfman 		ic = (rnd&MASK) % k;
10213e21a9dSJoerg Wunsch 		while(t3[ic]!=0) ic = (ic+1) % k;
10313e21a9dSJoerg Wunsch 		t3[k] = ic;
10413e21a9dSJoerg Wunsch 		t3[ic] = k;
10513e21a9dSJoerg Wunsch 	}
10613e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++)
10713e21a9dSJoerg Wunsch 		t2[t1[i]&MASK] = i;
10813e21a9dSJoerg Wunsch }
10913e21a9dSJoerg Wunsch 
1105dc67cd7SJoerg Wunsch int
111f4ac32deSDavid Malone main(int argc, char *argv[])
11213e21a9dSJoerg Wunsch {
113f4ac32deSDavid Malone 	int i, n1, n2, nr1, nr2;
1145dc67cd7SJoerg Wunsch 	int secureflg = 0, kflag = 0;
1155dc67cd7SJoerg Wunsch 	char *cp;
11613e21a9dSJoerg Wunsch 
1175dc67cd7SJoerg Wunsch 	if (argc > 1 && argv[1][0] == '-') {
1185dc67cd7SJoerg Wunsch 		if (argv[1][1] == 's') {
11913e21a9dSJoerg Wunsch 			argc--;
12013e21a9dSJoerg Wunsch 			argv++;
12113e21a9dSJoerg Wunsch 			secureflg = 1;
1225dc67cd7SJoerg Wunsch 		} else if (argv[1][1] == 'k') {
1235dc67cd7SJoerg Wunsch 			argc--;
1245dc67cd7SJoerg Wunsch 			argv++;
1255dc67cd7SJoerg Wunsch 			kflag = 1;
12613e21a9dSJoerg Wunsch 		}
1275dc67cd7SJoerg Wunsch 	}
1285dc67cd7SJoerg Wunsch 	if (kflag) {
1295dc67cd7SJoerg Wunsch 		if ((cp = getenv(MINUSKVAR)) == NULL) {
1305dc67cd7SJoerg Wunsch 			fprintf(stderr, "%s not set\n", MINUSKVAR);
1315dc67cd7SJoerg Wunsch 			exit(1);
1325dc67cd7SJoerg Wunsch 		}
1335dc67cd7SJoerg Wunsch 		setup(cp);
1345dc67cd7SJoerg Wunsch 	} else if (argc != 2) {
13513e21a9dSJoerg Wunsch 		setup(getpass("Enter key:"));
13613e21a9dSJoerg Wunsch 	}
13713e21a9dSJoerg Wunsch 	else
13813e21a9dSJoerg Wunsch 		setup(argv[1]);
13913e21a9dSJoerg Wunsch 	n1 = 0;
14013e21a9dSJoerg Wunsch 	n2 = 0;
14113e21a9dSJoerg Wunsch 	nr2 = 0;
14213e21a9dSJoerg Wunsch 
1435dc67cd7SJoerg Wunsch 	while((i=getchar()) != -1) {
14413e21a9dSJoerg Wunsch 		if (secureflg) {
14513e21a9dSJoerg Wunsch 			nr1 = deck[n1]&MASK;
14613e21a9dSJoerg Wunsch 			nr2 = deck[nr1]&MASK;
14713e21a9dSJoerg Wunsch 		} else {
14813e21a9dSJoerg Wunsch 			nr1 = n1;
14913e21a9dSJoerg Wunsch 		}
15013e21a9dSJoerg Wunsch 		i = t2[(t3[(t1[(i+nr1)&MASK]+nr2)&MASK]-nr2)&MASK]-nr1;
15113e21a9dSJoerg Wunsch 		putchar(i);
15213e21a9dSJoerg Wunsch 		n1++;
15313e21a9dSJoerg Wunsch 		if(n1==ROTORSZ) {
15413e21a9dSJoerg Wunsch 			n1 = 0;
15513e21a9dSJoerg Wunsch 			n2++;
15613e21a9dSJoerg Wunsch 			if(n2==ROTORSZ) n2 = 0;
15713e21a9dSJoerg Wunsch 			if (secureflg) {
15813e21a9dSJoerg Wunsch 				shuffle(deck);
15913e21a9dSJoerg Wunsch 			} else {
16013e21a9dSJoerg Wunsch 				nr2 = n2;
16113e21a9dSJoerg Wunsch 			}
16213e21a9dSJoerg Wunsch 		}
16313e21a9dSJoerg Wunsch 	}
1645dc67cd7SJoerg Wunsch 
1655dc67cd7SJoerg Wunsch 	return 0;
16613e21a9dSJoerg Wunsch }
16713e21a9dSJoerg Wunsch 
16813e21a9dSJoerg Wunsch void
169f4ac32deSDavid Malone shuffle(char deckary[])
17013e21a9dSJoerg Wunsch {
17113e21a9dSJoerg Wunsch 	int i, ic, k, temp;
172461ce74aSDima Dorfman 	unsigned rnd;
17313e21a9dSJoerg Wunsch 	static long seed = 123;
17413e21a9dSJoerg Wunsch 
17513e21a9dSJoerg Wunsch 	for(i=0;i<ROTORSZ;i++) {
17613e21a9dSJoerg Wunsch 		seed = 5*seed + buf[i%13];
177461ce74aSDima Dorfman 		rnd = seed % 65521;
17813e21a9dSJoerg Wunsch 		k = ROTORSZ-1 - i;
179461ce74aSDima Dorfman 		ic = (rnd&MASK)%(k+1);
180461ce74aSDima Dorfman 		temp = deckary[k];
181461ce74aSDima Dorfman 		deckary[k] = deckary[ic];
182461ce74aSDima Dorfman 		deckary[ic] = temp;
18313e21a9dSJoerg Wunsch 	}
18413e21a9dSJoerg Wunsch }
185