xref: /titanic_51/usr/src/lib/libast/common/comp/setsid.c (revision 3e14f97f673e8a630f076077de35afdd43dc1587)
1da2e3ebdSchin /***********************************************************************
2da2e3ebdSchin *                                                                      *
3da2e3ebdSchin *               This software is part of the ast package               *
4*3e14f97fSRoger A. Faulkner *          Copyright (c) 1985-2010 AT&T Intellectual Property          *
5da2e3ebdSchin *                      and is licensed under the                       *
6da2e3ebdSchin *                  Common Public License, Version 1.0                  *
77c2fbfb3SApril Chin *                    by AT&T Intellectual Property                     *
8da2e3ebdSchin *                                                                      *
9da2e3ebdSchin *                A copy of the License is available at                 *
10da2e3ebdSchin *            http://www.opensource.org/licenses/cpl1.0.txt             *
11da2e3ebdSchin *         (with md5 checksum 059e8cd6165cb4c31e351f2b69388fd9)         *
12da2e3ebdSchin *                                                                      *
13da2e3ebdSchin *              Information and Software Systems Research               *
14da2e3ebdSchin *                            AT&T Research                             *
15da2e3ebdSchin *                           Florham Park NJ                            *
16da2e3ebdSchin *                                                                      *
17da2e3ebdSchin *                 Glenn Fowler <gsf@research.att.com>                  *
18da2e3ebdSchin *                  David Korn <dgk@research.att.com>                   *
19da2e3ebdSchin *                   Phong Vo <kpv@research.att.com>                    *
20da2e3ebdSchin *                                                                      *
21da2e3ebdSchin ***********************************************************************/
22da2e3ebdSchin #pragma prototyped
23da2e3ebdSchin 
24da2e3ebdSchin #include <ast.h>
25da2e3ebdSchin 
26da2e3ebdSchin #if _lib_setsid
27da2e3ebdSchin 
28da2e3ebdSchin NoN(setsid)
29da2e3ebdSchin 
30da2e3ebdSchin #else
31da2e3ebdSchin 
32da2e3ebdSchin #include <ast_tty.h>
33da2e3ebdSchin #include <error.h>
34da2e3ebdSchin 
35da2e3ebdSchin /*
36da2e3ebdSchin  * become new process group leader and drop control tty
37da2e3ebdSchin  */
38da2e3ebdSchin 
39da2e3ebdSchin pid_t
40da2e3ebdSchin setsid(void)
41da2e3ebdSchin {
42da2e3ebdSchin 	int	pg;
43da2e3ebdSchin #ifdef TIOCNOTTY
44da2e3ebdSchin 	int	fd;
45da2e3ebdSchin #endif
46da2e3ebdSchin 
47da2e3ebdSchin 	/*
48da2e3ebdSchin 	 * become a new process group leader
49da2e3ebdSchin 	 */
50da2e3ebdSchin 
51da2e3ebdSchin 	if ((pg = getpid()) == getpgrp())
52da2e3ebdSchin 	{
53da2e3ebdSchin 		errno = EPERM;
54da2e3ebdSchin 		return(-1);
55da2e3ebdSchin 	}
56da2e3ebdSchin 	setpgid(pg, pg);
57da2e3ebdSchin #ifdef TIOCNOTTY
58da2e3ebdSchin 
59da2e3ebdSchin 	/*
60da2e3ebdSchin 	 * drop the control tty
61da2e3ebdSchin 	 */
62da2e3ebdSchin 
63da2e3ebdSchin 	if ((fd = open("/dev/tty", O_RDONLY)) >= 0)
64da2e3ebdSchin 	{
65da2e3ebdSchin 		ioctl(fd, TIOCNOTTY, 0);
66da2e3ebdSchin 		close(fd);
67da2e3ebdSchin 	}
68da2e3ebdSchin #else
69da2e3ebdSchin 
70da2e3ebdSchin 	/*
71da2e3ebdSchin 	 * second child in s5 to avoid reacquiring the control tty
72da2e3ebdSchin 	 */
73da2e3ebdSchin 
74da2e3ebdSchin #if _lib_fork && HUH920711 /* some s5's botch this */
75da2e3ebdSchin 	switch (fork())
76da2e3ebdSchin 	{
77da2e3ebdSchin 	case -1:
78da2e3ebdSchin 		exit(1);
79da2e3ebdSchin 	case 0:
80da2e3ebdSchin 		break;
81da2e3ebdSchin 	default:
82da2e3ebdSchin 		exit(0);
83da2e3ebdSchin 	}
84da2e3ebdSchin #endif
85da2e3ebdSchin 
86da2e3ebdSchin #endif
87da2e3ebdSchin 	return(pg);
88da2e3ebdSchin }
89da2e3ebdSchin 
90da2e3ebdSchin #endif
91