xref: /freebsd/lib/libc/gen/tls.c (revision ccd13c49b55616e3f92a3cf37512dc24aeb41e0a)
10e1c7d0fSDoug Rabson /*-
20e1c7d0fSDoug Rabson  * Copyright (c) 2004 Doug Rabson
30e1c7d0fSDoug Rabson  * All rights reserved.
40e1c7d0fSDoug Rabson  *
50e1c7d0fSDoug Rabson  * Redistribution and use in source and binary forms, with or without
60e1c7d0fSDoug Rabson  * modification, are permitted provided that the following conditions
70e1c7d0fSDoug Rabson  * are met:
80e1c7d0fSDoug Rabson  * 1. Redistributions of source code must retain the above copyright
90e1c7d0fSDoug Rabson  *    notice, this list of conditions and the following disclaimer.
100e1c7d0fSDoug Rabson  * 2. Redistributions in binary form must reproduce the above copyright
110e1c7d0fSDoug Rabson  *    notice, this list of conditions and the following disclaimer in the
120e1c7d0fSDoug Rabson  *    documentation and/or other materials provided with the distribution.
130e1c7d0fSDoug Rabson  *
140e1c7d0fSDoug Rabson  * THIS SOFTWARE IS PROVIDED BY THE AUTHOR AND CONTRIBUTORS ``AS IS'' AND
150e1c7d0fSDoug Rabson  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
160e1c7d0fSDoug Rabson  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
170e1c7d0fSDoug Rabson  * ARE DISCLAIMED.  IN NO EVENT SHALL THE AUTHOR OR CONTRIBUTORS BE LIABLE
180e1c7d0fSDoug Rabson  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
190e1c7d0fSDoug Rabson  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
200e1c7d0fSDoug Rabson  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
210e1c7d0fSDoug Rabson  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
220e1c7d0fSDoug Rabson  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
230e1c7d0fSDoug Rabson  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
240e1c7d0fSDoug Rabson  * SUCH DAMAGE.
250e1c7d0fSDoug Rabson  *
260e1c7d0fSDoug Rabson  *	$FreeBSD$
270e1c7d0fSDoug Rabson  */
280e1c7d0fSDoug Rabson 
290e1c7d0fSDoug Rabson /*
300e1c7d0fSDoug Rabson  * Define stubs for TLS internals so that programs and libraries can
310e1c7d0fSDoug Rabson  * link. These functions will be replaced by functional versions at
320e1c7d0fSDoug Rabson  * runtime from ld-elf.so.1.
330e1c7d0fSDoug Rabson  */
340e1c7d0fSDoug Rabson 
35ccd13c49SDoug Rabson #include <stdlib.h>
36ccd13c49SDoug Rabson #include <string.h>
37ccd13c49SDoug Rabson #include <elf.h>
38ccd13c49SDoug Rabson #include <assert.h>
39ccd13c49SDoug Rabson #include "libc_private.h"
40ccd13c49SDoug Rabson 
41ccd13c49SDoug Rabson /* XXX not sure what variants to use for arm. */
42ccd13c49SDoug Rabson 
43ccd13c49SDoug Rabson #if defined(__ia64__) || defined(__alpha__) || defined(__powerpc__)
44ccd13c49SDoug Rabson #define TLS_VARIANT_I
45ccd13c49SDoug Rabson #endif
46ccd13c49SDoug Rabson #if defined(__i386__) || defined(__amd64__) || defined(__sparc64__)
47ccd13c49SDoug Rabson #define TLS_VARIANT_II
48ccd13c49SDoug Rabson #endif
49ccd13c49SDoug Rabson 
50ccd13c49SDoug Rabson #ifndef PIC
51ccd13c49SDoug Rabson 
52ccd13c49SDoug Rabson #define round(size, align) \
53ccd13c49SDoug Rabson 	(((size) + (align) - 1) & ~((align) - 1))
54ccd13c49SDoug Rabson 
55ccd13c49SDoug Rabson static size_t tls_static_space;
56ccd13c49SDoug Rabson static size_t tls_init_size;
57ccd13c49SDoug Rabson #ifdef TLS_VARIANT_I
58ccd13c49SDoug Rabson static size_t tls_init_offset;
59ccd13c49SDoug Rabson #endif
60ccd13c49SDoug Rabson static void *tls_init;
61ccd13c49SDoug Rabson 
62ccd13c49SDoug Rabson void _rtld_free_tls(void *tcb, size_t tcbsize, size_t tcbalign);
63ccd13c49SDoug Rabson #endif
640e1c7d0fSDoug Rabson 
650e1c7d0fSDoug Rabson #ifdef __i386__
660e1c7d0fSDoug Rabson 
670e1c7d0fSDoug Rabson extern void *___tls_get_addr(void *ti) __attribute__((__regparm__(1)));
680e1c7d0fSDoug Rabson 
690e1c7d0fSDoug Rabson #pragma weak ___tls_get_addr
700e1c7d0fSDoug Rabson __attribute__((__regparm__(1)))
710e1c7d0fSDoug Rabson void *
720e1c7d0fSDoug Rabson ___tls_get_addr(void *ti)
730e1c7d0fSDoug Rabson {
740e1c7d0fSDoug Rabson 	return (0);
750e1c7d0fSDoug Rabson }
760e1c7d0fSDoug Rabson 
770e1c7d0fSDoug Rabson #endif
780e1c7d0fSDoug Rabson 
790e1c7d0fSDoug Rabson #pragma weak __tls_get_addr
800e1c7d0fSDoug Rabson void *
810e1c7d0fSDoug Rabson __tls_get_addr()
820e1c7d0fSDoug Rabson {
830e1c7d0fSDoug Rabson 	return (0);
840e1c7d0fSDoug Rabson }
850e1c7d0fSDoug Rabson 
86ccd13c49SDoug Rabson #ifdef TLS_VARIANT_I
87ccd13c49SDoug Rabson 
88ccd13c49SDoug Rabson void
89ccd13c49SDoug Rabson _rtld_free_tls(void *tls, size_t tcbsize, size_t tcbalign)
90ccd13c49SDoug Rabson {
91ccd13c49SDoug Rabson #ifndef PIC
92ccd13c49SDoug Rabson 	Elf_Addr* dtv;
93ccd13c49SDoug Rabson 
94ccd13c49SDoug Rabson 	dtv = ((Elf_Addr**)tls)[0];
95ccd13c49SDoug Rabson 	free(tls);
96ccd13c49SDoug Rabson 	free(dtv);
97ccd13c49SDoug Rabson #endif
98ccd13c49SDoug Rabson }
99ccd13c49SDoug Rabson 
100ccd13c49SDoug Rabson /*
101ccd13c49SDoug Rabson  * Allocate Static TLS using the Variant I method.
102ccd13c49SDoug Rabson  */
1030e1c7d0fSDoug Rabson void *
1040e1c7d0fSDoug Rabson _rtld_allocate_tls(void *oldtls, size_t tcbsize, size_t tcbalign)
1050e1c7d0fSDoug Rabson {
106ccd13c49SDoug Rabson #ifndef PIC
107ccd13c49SDoug Rabson 	size_t size;
108ccd13c49SDoug Rabson 	char *tls;
109ccd13c49SDoug Rabson 	Elf_Addr *dtv;
110ccd13c49SDoug Rabson 
111ccd13c49SDoug Rabson 	size = tls_static_space;
112ccd13c49SDoug Rabson 
113ccd13c49SDoug Rabson 	tls = malloc(size);
114ccd13c49SDoug Rabson 	dtv = malloc(3 * sizeof(Elf_Addr));
115ccd13c49SDoug Rabson 
116ccd13c49SDoug Rabson 	*(Elf_Addr**) tls = dtv;
117ccd13c49SDoug Rabson 
118ccd13c49SDoug Rabson 	dtv[0] = 1;
119ccd13c49SDoug Rabson 	dtv[1] = 1;
120ccd13c49SDoug Rabson 	dtv[2] = (Elf_Addr)(tls + tls_init_offset);
121ccd13c49SDoug Rabson 	if (oldtls) {
122ccd13c49SDoug Rabson 		/*
123ccd13c49SDoug Rabson 		 * Copy the static TLS block over whole.
124ccd13c49SDoug Rabson 		 */
125ccd13c49SDoug Rabson 		memcpy(tls + tls_init_offset,
126ccd13c49SDoug Rabson 		    (char*) oldtls + tls_init_offset,
127ccd13c49SDoug Rabson 		    tls_static_space - tls_init_offset);
128ccd13c49SDoug Rabson 
129ccd13c49SDoug Rabson 		/*
130ccd13c49SDoug Rabson 		 * We assume that this block was the one we created with
131ccd13c49SDoug Rabson 		 * allocate_initial_tls().
132ccd13c49SDoug Rabson 		 */
133ccd13c49SDoug Rabson 		_rtld_free_tls(oldtls, 2*sizeof(Elf_Addr), sizeof(Elf_Addr));
134ccd13c49SDoug Rabson 	} else {
135ccd13c49SDoug Rabson 		memcpy(tls + tls_init_offset, tls_init, tls_init_size);
136ccd13c49SDoug Rabson 		memset(tls + tls_init_offset + tls_init_size,
137ccd13c49SDoug Rabson 		    0, tls_static_space - tls_init_size);
1380e1c7d0fSDoug Rabson 	}
1390e1c7d0fSDoug Rabson 
140ccd13c49SDoug Rabson 	return tls;
141ccd13c49SDoug Rabson #else
142ccd13c49SDoug Rabson 	return (0);
143ccd13c49SDoug Rabson #endif
144ccd13c49SDoug Rabson }
145ccd13c49SDoug Rabson 
146ccd13c49SDoug Rabson #endif
147ccd13c49SDoug Rabson 
148ccd13c49SDoug Rabson #ifdef TLS_VARIANT_II
149ccd13c49SDoug Rabson 
150ccd13c49SDoug Rabson /*
151ccd13c49SDoug Rabson  * Free Static TLS using the Variant II method.
152ccd13c49SDoug Rabson  */
1530e1c7d0fSDoug Rabson #pragma weak _rtld_free_tls
1540e1c7d0fSDoug Rabson void
1550e1c7d0fSDoug Rabson _rtld_free_tls(void *tcb, size_t tcbsize, size_t tcbalign)
1560e1c7d0fSDoug Rabson {
157ccd13c49SDoug Rabson #ifndef PIC
158ccd13c49SDoug Rabson 	size_t size;
159ccd13c49SDoug Rabson 	Elf_Addr* dtv;
160ccd13c49SDoug Rabson 	Elf_Addr tlsstart, tlsend;
161ccd13c49SDoug Rabson 
162ccd13c49SDoug Rabson 	/*
163ccd13c49SDoug Rabson 	 * Figure out the size of the initial TLS block so that we can
164ccd13c49SDoug Rabson 	 * find stuff which ___tls_get_addr() allocated dynamically.
165ccd13c49SDoug Rabson 	 */
166ccd13c49SDoug Rabson 	size = round(tls_static_space, tcbalign);
167ccd13c49SDoug Rabson 
168ccd13c49SDoug Rabson 	dtv = ((Elf_Addr**)tcb)[1];
169ccd13c49SDoug Rabson 	tlsend = (Elf_Addr) tcb;
170ccd13c49SDoug Rabson 	tlsstart = tlsend - size;
171ccd13c49SDoug Rabson 	free((void*) tlsstart);
172ccd13c49SDoug Rabson 	free(dtv);
173ccd13c49SDoug Rabson #endif
174ccd13c49SDoug Rabson }
175ccd13c49SDoug Rabson 
176ccd13c49SDoug Rabson #pragma weak _rtld_allocate_tls
177ccd13c49SDoug Rabson /*
178ccd13c49SDoug Rabson  * Allocate Static TLS using the Variant II method.
179ccd13c49SDoug Rabson  */
180ccd13c49SDoug Rabson void *
181ccd13c49SDoug Rabson _rtld_allocate_tls(void *oldtls, size_t tcbsize, size_t tcbalign)
182ccd13c49SDoug Rabson {
183ccd13c49SDoug Rabson #ifndef PIC
184ccd13c49SDoug Rabson 	size_t size;
185ccd13c49SDoug Rabson 	char *tls;
186ccd13c49SDoug Rabson 	Elf_Addr *dtv;
187ccd13c49SDoug Rabson 	Elf_Addr segbase, oldsegbase;
188ccd13c49SDoug Rabson 
189ccd13c49SDoug Rabson 	size = round(tls_static_space, tcbalign);
190ccd13c49SDoug Rabson 
191ccd13c49SDoug Rabson 	assert(tcbsize >= 2*sizeof(Elf_Addr));
192ccd13c49SDoug Rabson 	tls = malloc(size + tcbsize);
193ccd13c49SDoug Rabson 	dtv = malloc(3 * sizeof(Elf_Addr));
194ccd13c49SDoug Rabson 
195ccd13c49SDoug Rabson 	segbase = (Elf_Addr)(tls + size);
196ccd13c49SDoug Rabson 	((Elf_Addr*)segbase)[0] = segbase;
197ccd13c49SDoug Rabson 	((Elf_Addr*)segbase)[1] = (Elf_Addr) dtv;
198ccd13c49SDoug Rabson 
199ccd13c49SDoug Rabson 	dtv[0] = 1;
200ccd13c49SDoug Rabson 	dtv[1] = 1;
201ccd13c49SDoug Rabson 	dtv[2] = segbase - tls_static_space;
202ccd13c49SDoug Rabson 
203ccd13c49SDoug Rabson 	if (oldtls) {
204ccd13c49SDoug Rabson 		/*
205ccd13c49SDoug Rabson 		 * Copy the static TLS block over whole.
206ccd13c49SDoug Rabson 		 */
207ccd13c49SDoug Rabson 		oldsegbase = (Elf_Addr) oldtls;
208ccd13c49SDoug Rabson 		memcpy((void *)(segbase - tls_static_space),
209ccd13c49SDoug Rabson 		    (const void *)(oldsegbase - tls_static_space),
210ccd13c49SDoug Rabson 		    tls_static_space);
211ccd13c49SDoug Rabson 
212ccd13c49SDoug Rabson 		/*
213ccd13c49SDoug Rabson 		 * We assume that this block was the one we created with
214ccd13c49SDoug Rabson 		 * allocate_initial_tls().
215ccd13c49SDoug Rabson 		 */
216ccd13c49SDoug Rabson 		_rtld_free_tls(oldtls, 2*sizeof(Elf_Addr), sizeof(Elf_Addr));
217ccd13c49SDoug Rabson 	} else {
218ccd13c49SDoug Rabson 		memcpy((void *)(segbase - tls_static_space),
219ccd13c49SDoug Rabson 		    tls_init, tls_init_size);
220ccd13c49SDoug Rabson 		memset((void *)(segbase - tls_static_space + tls_init_size),
221ccd13c49SDoug Rabson 		    0, tls_static_space - tls_init_size);
222ccd13c49SDoug Rabson 	}
223ccd13c49SDoug Rabson 
224ccd13c49SDoug Rabson 	return (void*) segbase;
225ccd13c49SDoug Rabson #else
226ccd13c49SDoug Rabson 	return (0);
227ccd13c49SDoug Rabson #endif
228ccd13c49SDoug Rabson }
229ccd13c49SDoug Rabson 
230ccd13c49SDoug Rabson #endif
231ccd13c49SDoug Rabson 
232ccd13c49SDoug Rabson void
233ccd13c49SDoug Rabson _init_tls()
234ccd13c49SDoug Rabson {
235ccd13c49SDoug Rabson #ifndef PIC
236ccd13c49SDoug Rabson 	extern char **environ;
237ccd13c49SDoug Rabson 	Elf_Addr *sp;
238ccd13c49SDoug Rabson 	Elf_Auxinfo *aux, *auxp;
239ccd13c49SDoug Rabson 	Elf_Phdr *phdr;
240ccd13c49SDoug Rabson 	size_t phent, phnum;
241ccd13c49SDoug Rabson 	int i;
242ccd13c49SDoug Rabson 
243ccd13c49SDoug Rabson 	sp = (Elf_Addr *) environ;
244ccd13c49SDoug Rabson 	while (*sp++ != 0)
245ccd13c49SDoug Rabson 		;
246ccd13c49SDoug Rabson 	aux = (Elf_Auxinfo *) sp;
247ccd13c49SDoug Rabson 	phdr = 0;
248ccd13c49SDoug Rabson 	phent = phnum = 0;
249ccd13c49SDoug Rabson 	for (auxp = aux; auxp->a_type != AT_NULL; auxp++) {
250ccd13c49SDoug Rabson 		switch (auxp->a_type) {
251ccd13c49SDoug Rabson 		case AT_PHDR:
252ccd13c49SDoug Rabson 			phdr = auxp->a_un.a_ptr;
253ccd13c49SDoug Rabson 			break;
254ccd13c49SDoug Rabson 
255ccd13c49SDoug Rabson 		case AT_PHENT:
256ccd13c49SDoug Rabson 			phent = auxp->a_un.a_val;
257ccd13c49SDoug Rabson 			break;
258ccd13c49SDoug Rabson 
259ccd13c49SDoug Rabson 		case AT_PHNUM:
260ccd13c49SDoug Rabson 			phnum = auxp->a_un.a_val;
261ccd13c49SDoug Rabson 			break;
262ccd13c49SDoug Rabson 		}
263ccd13c49SDoug Rabson 	}
264ccd13c49SDoug Rabson 	if (phdr == 0 || phent != sizeof(Elf_Phdr) || phnum == 0)
265ccd13c49SDoug Rabson 		return;
266ccd13c49SDoug Rabson 
267ccd13c49SDoug Rabson 	for (i = 0; i < phnum; i++) {
268ccd13c49SDoug Rabson 		if (phdr[i].p_type == PT_TLS) {
269ccd13c49SDoug Rabson #ifdef TLS_VARIANT_I
270ccd13c49SDoug Rabson 			tls_static_space = round(2*sizeof(Elf_Addr),
271ccd13c49SDoug Rabson 			    phdr[i].p_align) + phdr[i].p_memsz;
272ccd13c49SDoug Rabson 			tls_init_offset = round(2*sizeof(Elf_Addr),
273ccd13c49SDoug Rabson 			    phdr[i].p_align);
274ccd13c49SDoug Rabson #else
275ccd13c49SDoug Rabson 			tls_static_space = round(phdr[i].p_memsz,
276ccd13c49SDoug Rabson 			    phdr[i].p_align);
277ccd13c49SDoug Rabson #endif
278ccd13c49SDoug Rabson 			tls_init_size = phdr[i].p_filesz;
279ccd13c49SDoug Rabson 			tls_init = (void*) phdr[i].p_vaddr;
280ccd13c49SDoug Rabson 		}
281ccd13c49SDoug Rabson 	}
282ccd13c49SDoug Rabson 
283ccd13c49SDoug Rabson 	if (tls_static_space > 0) {
284ccd13c49SDoug Rabson 		void* tls;
285ccd13c49SDoug Rabson 
286ccd13c49SDoug Rabson 		tls = _rtld_allocate_tls(NULL, 2*sizeof(Elf_Addr),
287ccd13c49SDoug Rabson 		    sizeof(Elf_Addr));
288ccd13c49SDoug Rabson 
289ccd13c49SDoug Rabson 		_set_tp(tls);
290ccd13c49SDoug Rabson 	}
291ccd13c49SDoug Rabson #endif
2920e1c7d0fSDoug Rabson }
293