xref: /titanic_51/usr/src/lib/libzpool/common/kernel.c (revision 0689f76c08c5e553ff25ac43a852b56c430bb61e)
1fa9e4066Sahrens /*
2fa9e4066Sahrens  * CDDL HEADER START
3fa9e4066Sahrens  *
4fa9e4066Sahrens  * The contents of this file are subject to the terms of the
5ea8dc4b6Seschrock  * Common Development and Distribution License (the "License").
6ea8dc4b6Seschrock  * You may not use this file except in compliance with the License.
7fa9e4066Sahrens  *
8fa9e4066Sahrens  * You can obtain a copy of the license at usr/src/OPENSOLARIS.LICENSE
9fa9e4066Sahrens  * or http://www.opensolaris.org/os/licensing.
10fa9e4066Sahrens  * See the License for the specific language governing permissions
11fa9e4066Sahrens  * and limitations under the License.
12fa9e4066Sahrens  *
13fa9e4066Sahrens  * When distributing Covered Code, include this CDDL HEADER in each
14fa9e4066Sahrens  * file and include the License file at usr/src/OPENSOLARIS.LICENSE.
15fa9e4066Sahrens  * If applicable, add the following below this CDDL HEADER, with the
16fa9e4066Sahrens  * fields enclosed by brackets "[]" replaced with your own identifying
17fa9e4066Sahrens  * information: Portions Copyright [yyyy] [name of copyright owner]
18fa9e4066Sahrens  *
19fa9e4066Sahrens  * CDDL HEADER END
20fa9e4066Sahrens  */
21fa9e4066Sahrens /*
22c99e4bdcSChris Kirby  * Copyright (c) 2005, 2010, Oracle and/or its affiliates. All rights reserved.
2394dd93aeSGeorge Wilson  * Copyright (c) 2012 by Delphix. All rights reserved.
24fa9e4066Sahrens  */
25fa9e4066Sahrens 
26fa9e4066Sahrens #include <assert.h>
27c9431fa1Sahl #include <fcntl.h>
28fa9e4066Sahrens #include <poll.h>
29fa9e4066Sahrens #include <stdio.h>
30fa9e4066Sahrens #include <stdlib.h>
31c9431fa1Sahl #include <string.h>
32c9431fa1Sahl #include <zlib.h>
33fa9e4066Sahrens #include <sys/spa.h>
34c9431fa1Sahl #include <sys/stat.h>
35fa9e4066Sahrens #include <sys/processor.h>
36c9431fa1Sahl #include <sys/zfs_context.h>
373b2aab18SMatthew Ahrens #include <sys/rrwlock.h>
38c9431fa1Sahl #include <sys/zmod.h>
3995173954Sek110237 #include <sys/utsname.h>
405679c89fSjv227347 #include <sys/systeminfo.h>
415ad82045Snd150628 
42fa9e4066Sahrens /*
43fa9e4066Sahrens  * Emulation of kernel services in userland.
44fa9e4066Sahrens  */
45fa9e4066Sahrens 
46feef89cfSVictor Latushkin int aok;
47fa9e4066Sahrens uint64_t physmem;
48fa9e4066Sahrens vnode_t *rootdir = (vnode_t *)0xabcd1234;
495679c89fSjv227347 char hw_serial[HW_HOSTID_LEN];
50283b8460SGeorge.Wilson kmutex_t cpu_lock;
5194dd93aeSGeorge Wilson vmem_t *zio_arena = NULL;
5295173954Sek110237 
5395173954Sek110237 struct utsname utsname = {
5495173954Sek110237 	"userland", "libzpool", "1", "1", "na"
5595173954Sek110237 };
56fa9e4066Sahrens 
5735a5a358SJonathan Adams /* this only exists to have its address taken */
5835a5a358SJonathan Adams struct proc p0;
5935a5a358SJonathan Adams 
60fa9e4066Sahrens /*
61fa9e4066Sahrens  * =========================================================================
62fa9e4066Sahrens  * threads
63fa9e4066Sahrens  * =========================================================================
64fa9e4066Sahrens  */
65fa9e4066Sahrens /*ARGSUSED*/
66fa9e4066Sahrens kthread_t *
67fa9e4066Sahrens zk_thread_create(void (*func)(), void *arg)
68fa9e4066Sahrens {
69fa9e4066Sahrens 	thread_t tid;
70fa9e4066Sahrens 
71fa9e4066Sahrens 	VERIFY(thr_create(0, 0, (void *(*)(void *))func, arg, THR_DETACHED,
72fa9e4066Sahrens 	    &tid) == 0);
73fa9e4066Sahrens 
74fa9e4066Sahrens 	return ((void *)(uintptr_t)tid);
75fa9e4066Sahrens }
76fa9e4066Sahrens 
77fa9e4066Sahrens /*
78fa9e4066Sahrens  * =========================================================================
7944cb6abcSbmc  * kstats
8044cb6abcSbmc  * =========================================================================
8144cb6abcSbmc  */
8244cb6abcSbmc /*ARGSUSED*/
8344cb6abcSbmc kstat_t *
84c3a66015SMatthew Ahrens kstat_create(const char *module, int instance, const char *name,
85c3a66015SMatthew Ahrens     const char *class, uchar_t type, ulong_t ndata, uchar_t ks_flag)
8644cb6abcSbmc {
8744cb6abcSbmc 	return (NULL);
8844cb6abcSbmc }
8944cb6abcSbmc 
9044cb6abcSbmc /*ARGSUSED*/
9144cb6abcSbmc void
9244cb6abcSbmc kstat_install(kstat_t *ksp)
9344cb6abcSbmc {}
9444cb6abcSbmc 
9544cb6abcSbmc /*ARGSUSED*/
9644cb6abcSbmc void
9744cb6abcSbmc kstat_delete(kstat_t *ksp)
9844cb6abcSbmc {}
9944cb6abcSbmc 
100c3a66015SMatthew Ahrens /*ARGSUSED*/
101c3a66015SMatthew Ahrens void
102c3a66015SMatthew Ahrens kstat_waitq_enter(kstat_io_t *kiop)
103c3a66015SMatthew Ahrens {}
104c3a66015SMatthew Ahrens 
105c3a66015SMatthew Ahrens /*ARGSUSED*/
106c3a66015SMatthew Ahrens void
107c3a66015SMatthew Ahrens kstat_waitq_exit(kstat_io_t *kiop)
108c3a66015SMatthew Ahrens {}
109c3a66015SMatthew Ahrens 
110c3a66015SMatthew Ahrens /*ARGSUSED*/
111c3a66015SMatthew Ahrens void
112c3a66015SMatthew Ahrens kstat_runq_enter(kstat_io_t *kiop)
113c3a66015SMatthew Ahrens {}
114c3a66015SMatthew Ahrens 
115c3a66015SMatthew Ahrens /*ARGSUSED*/
116c3a66015SMatthew Ahrens void
117c3a66015SMatthew Ahrens kstat_runq_exit(kstat_io_t *kiop)
118c3a66015SMatthew Ahrens {}
119c3a66015SMatthew Ahrens 
120c3a66015SMatthew Ahrens /*ARGSUSED*/
121c3a66015SMatthew Ahrens void
122c3a66015SMatthew Ahrens kstat_waitq_to_runq(kstat_io_t *kiop)
123c3a66015SMatthew Ahrens {}
124c3a66015SMatthew Ahrens 
125c3a66015SMatthew Ahrens /*ARGSUSED*/
126c3a66015SMatthew Ahrens void
127c3a66015SMatthew Ahrens kstat_runq_back_to_waitq(kstat_io_t *kiop)
128c3a66015SMatthew Ahrens {}
129c3a66015SMatthew Ahrens 
13044cb6abcSbmc /*
13144cb6abcSbmc  * =========================================================================
132fa9e4066Sahrens  * mutexes
133fa9e4066Sahrens  * =========================================================================
134fa9e4066Sahrens  */
135fa9e4066Sahrens void
136fa9e4066Sahrens zmutex_init(kmutex_t *mp)
137fa9e4066Sahrens {
138fa9e4066Sahrens 	mp->m_owner = NULL;
139c25056deSgw25295 	mp->initialized = B_TRUE;
140fa9e4066Sahrens 	(void) _mutex_init(&mp->m_lock, USYNC_THREAD, NULL);
141fa9e4066Sahrens }
142fa9e4066Sahrens 
143fa9e4066Sahrens void
144fa9e4066Sahrens zmutex_destroy(kmutex_t *mp)
145fa9e4066Sahrens {
146c25056deSgw25295 	ASSERT(mp->initialized == B_TRUE);
147fa9e4066Sahrens 	ASSERT(mp->m_owner == NULL);
148fa9e4066Sahrens 	(void) _mutex_destroy(&(mp)->m_lock);
149fa9e4066Sahrens 	mp->m_owner = (void *)-1UL;
150c25056deSgw25295 	mp->initialized = B_FALSE;
151fa9e4066Sahrens }
152fa9e4066Sahrens 
153fa9e4066Sahrens void
154fa9e4066Sahrens mutex_enter(kmutex_t *mp)
155fa9e4066Sahrens {
156c25056deSgw25295 	ASSERT(mp->initialized == B_TRUE);
157fa9e4066Sahrens 	ASSERT(mp->m_owner != (void *)-1UL);
158fa9e4066Sahrens 	ASSERT(mp->m_owner != curthread);
1595ad82045Snd150628 	VERIFY(mutex_lock(&mp->m_lock) == 0);
160fa9e4066Sahrens 	ASSERT(mp->m_owner == NULL);
161fa9e4066Sahrens 	mp->m_owner = curthread;
162fa9e4066Sahrens }
163fa9e4066Sahrens 
164fa9e4066Sahrens int
165fa9e4066Sahrens mutex_tryenter(kmutex_t *mp)
166fa9e4066Sahrens {
167c25056deSgw25295 	ASSERT(mp->initialized == B_TRUE);
168fa9e4066Sahrens 	ASSERT(mp->m_owner != (void *)-1UL);
169fa9e4066Sahrens 	if (0 == mutex_trylock(&mp->m_lock)) {
170fa9e4066Sahrens 		ASSERT(mp->m_owner == NULL);
171fa9e4066Sahrens 		mp->m_owner = curthread;
172fa9e4066Sahrens 		return (1);
173fa9e4066Sahrens 	} else {
174fa9e4066Sahrens 		return (0);
175fa9e4066Sahrens 	}
176fa9e4066Sahrens }
177fa9e4066Sahrens 
178fa9e4066Sahrens void
179fa9e4066Sahrens mutex_exit(kmutex_t *mp)
180fa9e4066Sahrens {
181c25056deSgw25295 	ASSERT(mp->initialized == B_TRUE);
182fa9e4066Sahrens 	ASSERT(mutex_owner(mp) == curthread);
183fa9e4066Sahrens 	mp->m_owner = NULL;
1845ad82045Snd150628 	VERIFY(mutex_unlock(&mp->m_lock) == 0);
185fa9e4066Sahrens }
186fa9e4066Sahrens 
187fa9e4066Sahrens void *
188fa9e4066Sahrens mutex_owner(kmutex_t *mp)
189fa9e4066Sahrens {
190c25056deSgw25295 	ASSERT(mp->initialized == B_TRUE);
191fa9e4066Sahrens 	return (mp->m_owner);
192fa9e4066Sahrens }
193fa9e4066Sahrens 
194fa9e4066Sahrens /*
195fa9e4066Sahrens  * =========================================================================
196fa9e4066Sahrens  * rwlocks
197fa9e4066Sahrens  * =========================================================================
198fa9e4066Sahrens  */
199fa9e4066Sahrens /*ARGSUSED*/
200fa9e4066Sahrens void
201fa9e4066Sahrens rw_init(krwlock_t *rwlp, char *name, int type, void *arg)
202fa9e4066Sahrens {
203fa9e4066Sahrens 	rwlock_init(&rwlp->rw_lock, USYNC_THREAD, NULL);
204fa9e4066Sahrens 	rwlp->rw_owner = NULL;
205c25056deSgw25295 	rwlp->initialized = B_TRUE;
206fa9e4066Sahrens }
207fa9e4066Sahrens 
208fa9e4066Sahrens void
209fa9e4066Sahrens rw_destroy(krwlock_t *rwlp)
210fa9e4066Sahrens {
211fa9e4066Sahrens 	rwlock_destroy(&rwlp->rw_lock);
212fa9e4066Sahrens 	rwlp->rw_owner = (void *)-1UL;
213c25056deSgw25295 	rwlp->initialized = B_FALSE;
214fa9e4066Sahrens }
215fa9e4066Sahrens 
216fa9e4066Sahrens void
217fa9e4066Sahrens rw_enter(krwlock_t *rwlp, krw_t rw)
218fa9e4066Sahrens {
219fa9e4066Sahrens 	ASSERT(!RW_LOCK_HELD(rwlp));
220c25056deSgw25295 	ASSERT(rwlp->initialized == B_TRUE);
221fa9e4066Sahrens 	ASSERT(rwlp->rw_owner != (void *)-1UL);
222fa9e4066Sahrens 	ASSERT(rwlp->rw_owner != curthread);
223fa9e4066Sahrens 
224fa9e4066Sahrens 	if (rw == RW_READER)
225745cd3c5Smaybee 		VERIFY(rw_rdlock(&rwlp->rw_lock) == 0);
226fa9e4066Sahrens 	else
227745cd3c5Smaybee 		VERIFY(rw_wrlock(&rwlp->rw_lock) == 0);
228fa9e4066Sahrens 
229fa9e4066Sahrens 	rwlp->rw_owner = curthread;
230fa9e4066Sahrens }
231fa9e4066Sahrens 
232fa9e4066Sahrens void
233fa9e4066Sahrens rw_exit(krwlock_t *rwlp)
234fa9e4066Sahrens {
235c25056deSgw25295 	ASSERT(rwlp->initialized == B_TRUE);
236fa9e4066Sahrens 	ASSERT(rwlp->rw_owner != (void *)-1UL);
237fa9e4066Sahrens 
238fa9e4066Sahrens 	rwlp->rw_owner = NULL;
239745cd3c5Smaybee 	VERIFY(rw_unlock(&rwlp->rw_lock) == 0);
240fa9e4066Sahrens }
241fa9e4066Sahrens 
242fa9e4066Sahrens int
243fa9e4066Sahrens rw_tryenter(krwlock_t *rwlp, krw_t rw)
244fa9e4066Sahrens {
245fa9e4066Sahrens 	int rv;
246fa9e4066Sahrens 
247c25056deSgw25295 	ASSERT(rwlp->initialized == B_TRUE);
248fa9e4066Sahrens 	ASSERT(rwlp->rw_owner != (void *)-1UL);
249fa9e4066Sahrens 
250fa9e4066Sahrens 	if (rw == RW_READER)
251fa9e4066Sahrens 		rv = rw_tryrdlock(&rwlp->rw_lock);
252fa9e4066Sahrens 	else
253fa9e4066Sahrens 		rv = rw_trywrlock(&rwlp->rw_lock);
254fa9e4066Sahrens 
255fa9e4066Sahrens 	if (rv == 0) {
256fa9e4066Sahrens 		rwlp->rw_owner = curthread;
257fa9e4066Sahrens 		return (1);
258fa9e4066Sahrens 	}
259fa9e4066Sahrens 
260fa9e4066Sahrens 	return (0);
261fa9e4066Sahrens }
262fa9e4066Sahrens 
263fa9e4066Sahrens /*ARGSUSED*/
264fa9e4066Sahrens int
265fa9e4066Sahrens rw_tryupgrade(krwlock_t *rwlp)
266fa9e4066Sahrens {
267c25056deSgw25295 	ASSERT(rwlp->initialized == B_TRUE);
268fa9e4066Sahrens 	ASSERT(rwlp->rw_owner != (void *)-1UL);
269fa9e4066Sahrens 
270fa9e4066Sahrens 	return (0);
271fa9e4066Sahrens }
272fa9e4066Sahrens 
273fa9e4066Sahrens /*
274fa9e4066Sahrens  * =========================================================================
275fa9e4066Sahrens  * condition variables
276fa9e4066Sahrens  * =========================================================================
277fa9e4066Sahrens  */
278fa9e4066Sahrens /*ARGSUSED*/
279fa9e4066Sahrens void
280fa9e4066Sahrens cv_init(kcondvar_t *cv, char *name, int type, void *arg)
281fa9e4066Sahrens {
2825ad82045Snd150628 	VERIFY(cond_init(cv, type, NULL) == 0);
283fa9e4066Sahrens }
284fa9e4066Sahrens 
285fa9e4066Sahrens void
286fa9e4066Sahrens cv_destroy(kcondvar_t *cv)
287fa9e4066Sahrens {
2885ad82045Snd150628 	VERIFY(cond_destroy(cv) == 0);
289fa9e4066Sahrens }
290fa9e4066Sahrens 
291fa9e4066Sahrens void
292fa9e4066Sahrens cv_wait(kcondvar_t *cv, kmutex_t *mp)
293fa9e4066Sahrens {
294fa9e4066Sahrens 	ASSERT(mutex_owner(mp) == curthread);
295fa9e4066Sahrens 	mp->m_owner = NULL;
2965ad82045Snd150628 	int ret = cond_wait(cv, &mp->m_lock);
2975ad82045Snd150628 	VERIFY(ret == 0 || ret == EINTR);
298fa9e4066Sahrens 	mp->m_owner = curthread;
299fa9e4066Sahrens }
300fa9e4066Sahrens 
301fa9e4066Sahrens clock_t
302fa9e4066Sahrens cv_timedwait(kcondvar_t *cv, kmutex_t *mp, clock_t abstime)
303fa9e4066Sahrens {
304fa9e4066Sahrens 	int error;
305fa9e4066Sahrens 	timestruc_t ts;
306fa9e4066Sahrens 	clock_t delta;
307fa9e4066Sahrens 
308fa9e4066Sahrens top:
309d3d50737SRafael Vanoni 	delta = abstime - ddi_get_lbolt();
310fa9e4066Sahrens 	if (delta <= 0)
311fa9e4066Sahrens 		return (-1);
312fa9e4066Sahrens 
313fa9e4066Sahrens 	ts.tv_sec = delta / hz;
314fa9e4066Sahrens 	ts.tv_nsec = (delta % hz) * (NANOSEC / hz);
315fa9e4066Sahrens 
316fa9e4066Sahrens 	ASSERT(mutex_owner(mp) == curthread);
317fa9e4066Sahrens 	mp->m_owner = NULL;
318fa9e4066Sahrens 	error = cond_reltimedwait(cv, &mp->m_lock, &ts);
319fa9e4066Sahrens 	mp->m_owner = curthread;
320fa9e4066Sahrens 
321fa9e4066Sahrens 	if (error == ETIME)
322fa9e4066Sahrens 		return (-1);
323fa9e4066Sahrens 
324fa9e4066Sahrens 	if (error == EINTR)
325fa9e4066Sahrens 		goto top;
326fa9e4066Sahrens 
327fa9e4066Sahrens 	ASSERT(error == 0);
328fa9e4066Sahrens 
329fa9e4066Sahrens 	return (1);
330fa9e4066Sahrens }
331fa9e4066Sahrens 
332*0689f76cSAdam Leventhal /*ARGSUSED*/
333*0689f76cSAdam Leventhal clock_t
334*0689f76cSAdam Leventhal cv_timedwait_hires(kcondvar_t *cv, kmutex_t *mp, hrtime_t tim, hrtime_t res,
335*0689f76cSAdam Leventhal     int flag)
336*0689f76cSAdam Leventhal {
337*0689f76cSAdam Leventhal 	int error;
338*0689f76cSAdam Leventhal 	timestruc_t ts;
339*0689f76cSAdam Leventhal 	hrtime_t delta;
340*0689f76cSAdam Leventhal 
341*0689f76cSAdam Leventhal 	ASSERT(flag == 0);
342*0689f76cSAdam Leventhal 
343*0689f76cSAdam Leventhal top:
344*0689f76cSAdam Leventhal 	delta = tim - gethrtime();
345*0689f76cSAdam Leventhal 	if (delta <= 0)
346*0689f76cSAdam Leventhal 		return (-1);
347*0689f76cSAdam Leventhal 
348*0689f76cSAdam Leventhal 	ts.tv_sec = delta / NANOSEC;
349*0689f76cSAdam Leventhal 	ts.tv_nsec = delta % NANOSEC;
350*0689f76cSAdam Leventhal 
351*0689f76cSAdam Leventhal 	ASSERT(mutex_owner(mp) == curthread);
352*0689f76cSAdam Leventhal 	mp->m_owner = NULL;
353*0689f76cSAdam Leventhal 	error = cond_reltimedwait(cv, &mp->m_lock, &ts);
354*0689f76cSAdam Leventhal 	mp->m_owner = curthread;
355*0689f76cSAdam Leventhal 
356*0689f76cSAdam Leventhal 	if (error == ETIME)
357*0689f76cSAdam Leventhal 		return (-1);
358*0689f76cSAdam Leventhal 
359*0689f76cSAdam Leventhal 	if (error == EINTR)
360*0689f76cSAdam Leventhal 		goto top;
361*0689f76cSAdam Leventhal 
362*0689f76cSAdam Leventhal 	ASSERT(error == 0);
363*0689f76cSAdam Leventhal 
364*0689f76cSAdam Leventhal 	return (1);
365*0689f76cSAdam Leventhal }
366*0689f76cSAdam Leventhal 
367fa9e4066Sahrens void
368fa9e4066Sahrens cv_signal(kcondvar_t *cv)
369fa9e4066Sahrens {
3705ad82045Snd150628 	VERIFY(cond_signal(cv) == 0);
371fa9e4066Sahrens }
372fa9e4066Sahrens 
373fa9e4066Sahrens void
374fa9e4066Sahrens cv_broadcast(kcondvar_t *cv)
375fa9e4066Sahrens {
3765ad82045Snd150628 	VERIFY(cond_broadcast(cv) == 0);
377fa9e4066Sahrens }
378fa9e4066Sahrens 
379fa9e4066Sahrens /*
380fa9e4066Sahrens  * =========================================================================
381fa9e4066Sahrens  * vnode operations
382fa9e4066Sahrens  * =========================================================================
383fa9e4066Sahrens  */
384fa9e4066Sahrens /*
385fa9e4066Sahrens  * Note: for the xxxat() versions of these functions, we assume that the
386fa9e4066Sahrens  * starting vp is always rootdir (which is true for spa_directory.c, the only
387fa9e4066Sahrens  * ZFS consumer of these interfaces).  We assert this is true, and then emulate
388fa9e4066Sahrens  * them by adding '/' in front of the path.
389fa9e4066Sahrens  */
390fa9e4066Sahrens 
391fa9e4066Sahrens /*ARGSUSED*/
392fa9e4066Sahrens int
393fa9e4066Sahrens vn_open(char *path, int x1, int flags, int mode, vnode_t **vpp, int x2, int x3)
394fa9e4066Sahrens {
395fa9e4066Sahrens 	int fd;
396fa9e4066Sahrens 	vnode_t *vp;
397fa9e4066Sahrens 	int old_umask;
398fa9e4066Sahrens 	char realpath[MAXPATHLEN];
399fa9e4066Sahrens 	struct stat64 st;
400fa9e4066Sahrens 
401fa9e4066Sahrens 	/*
402fa9e4066Sahrens 	 * If we're accessing a real disk from userland, we need to use
403fa9e4066Sahrens 	 * the character interface to avoid caching.  This is particularly
404fa9e4066Sahrens 	 * important if we're trying to look at a real in-kernel storage
405fa9e4066Sahrens 	 * pool from userland, e.g. via zdb, because otherwise we won't
406fa9e4066Sahrens 	 * see the changes occurring under the segmap cache.
407fa9e4066Sahrens 	 * On the other hand, the stupid character device returns zero
408fa9e4066Sahrens 	 * for its size.  So -- gag -- we open the block device to get
409fa9e4066Sahrens 	 * its size, and remember it for subsequent VOP_GETATTR().
410fa9e4066Sahrens 	 */
411fa9e4066Sahrens 	if (strncmp(path, "/dev/", 5) == 0) {
412fa9e4066Sahrens 		char *dsk;
413fa9e4066Sahrens 		fd = open64(path, O_RDONLY);
414fa9e4066Sahrens 		if (fd == -1)
415fa9e4066Sahrens 			return (errno);
416fa9e4066Sahrens 		if (fstat64(fd, &st) == -1) {
417fa9e4066Sahrens 			close(fd);
418fa9e4066Sahrens 			return (errno);
419fa9e4066Sahrens 		}
420fa9e4066Sahrens 		close(fd);
421fa9e4066Sahrens 		(void) sprintf(realpath, "%s", path);
422fa9e4066Sahrens 		dsk = strstr(path, "/dsk/");
423fa9e4066Sahrens 		if (dsk != NULL)
424fa9e4066Sahrens 			(void) sprintf(realpath + (dsk - path) + 1, "r%s",
425fa9e4066Sahrens 			    dsk + 1);
426fa9e4066Sahrens 	} else {
427fa9e4066Sahrens 		(void) sprintf(realpath, "%s", path);
428fa9e4066Sahrens 		if (!(flags & FCREAT) && stat64(realpath, &st) == -1)
429fa9e4066Sahrens 			return (errno);
430fa9e4066Sahrens 	}
431fa9e4066Sahrens 
432fa9e4066Sahrens 	if (flags & FCREAT)
433fa9e4066Sahrens 		old_umask = umask(0);
434fa9e4066Sahrens 
435fa9e4066Sahrens 	/*
436fa9e4066Sahrens 	 * The construct 'flags - FREAD' conveniently maps combinations of
437fa9e4066Sahrens 	 * FREAD and FWRITE to the corresponding O_RDONLY, O_WRONLY, and O_RDWR.
438fa9e4066Sahrens 	 */
439fa9e4066Sahrens 	fd = open64(realpath, flags - FREAD, mode);
440fa9e4066Sahrens 
441fa9e4066Sahrens 	if (flags & FCREAT)
442fa9e4066Sahrens 		(void) umask(old_umask);
443fa9e4066Sahrens 
444fa9e4066Sahrens 	if (fd == -1)
445fa9e4066Sahrens 		return (errno);
446fa9e4066Sahrens 
447fa9e4066Sahrens 	if (fstat64(fd, &st) == -1) {
448fa9e4066Sahrens 		close(fd);
449fa9e4066Sahrens 		return (errno);
450fa9e4066Sahrens 	}
451fa9e4066Sahrens 
452fa9e4066Sahrens 	(void) fcntl(fd, F_SETFD, FD_CLOEXEC);
453fa9e4066Sahrens 
454fa9e4066Sahrens 	*vpp = vp = umem_zalloc(sizeof (vnode_t), UMEM_NOFAIL);
455fa9e4066Sahrens 
456fa9e4066Sahrens 	vp->v_fd = fd;
457fa9e4066Sahrens 	vp->v_size = st.st_size;
458fa9e4066Sahrens 	vp->v_path = spa_strdup(path);
459fa9e4066Sahrens 
460fa9e4066Sahrens 	return (0);
461fa9e4066Sahrens }
462fa9e4066Sahrens 
463da6c28aaSamw /*ARGSUSED*/
464fa9e4066Sahrens int
465fa9e4066Sahrens vn_openat(char *path, int x1, int flags, int mode, vnode_t **vpp, int x2,
466da6c28aaSamw     int x3, vnode_t *startvp, int fd)
467fa9e4066Sahrens {
468fa9e4066Sahrens 	char *realpath = umem_alloc(strlen(path) + 2, UMEM_NOFAIL);
469fa9e4066Sahrens 	int ret;
470fa9e4066Sahrens 
471fa9e4066Sahrens 	ASSERT(startvp == rootdir);
472fa9e4066Sahrens 	(void) sprintf(realpath, "/%s", path);
473fa9e4066Sahrens 
474da6c28aaSamw 	/* fd ignored for now, need if want to simulate nbmand support */
475fa9e4066Sahrens 	ret = vn_open(realpath, x1, flags, mode, vpp, x2, x3);
476fa9e4066Sahrens 
477fa9e4066Sahrens 	umem_free(realpath, strlen(path) + 2);
478fa9e4066Sahrens 
479fa9e4066Sahrens 	return (ret);
480fa9e4066Sahrens }
481fa9e4066Sahrens 
482fa9e4066Sahrens /*ARGSUSED*/
483fa9e4066Sahrens int
484fa9e4066Sahrens vn_rdwr(int uio, vnode_t *vp, void *addr, ssize_t len, offset_t offset,
485fa9e4066Sahrens 	int x1, int x2, rlim64_t x3, void *x4, ssize_t *residp)
486fa9e4066Sahrens {
487fa9e4066Sahrens 	ssize_t iolen, split;
488fa9e4066Sahrens 
489fa9e4066Sahrens 	if (uio == UIO_READ) {
490fa9e4066Sahrens 		iolen = pread64(vp->v_fd, addr, len, offset);
491fa9e4066Sahrens 	} else {
492fa9e4066Sahrens 		/*
493fa9e4066Sahrens 		 * To simulate partial disk writes, we split writes into two
494fa9e4066Sahrens 		 * system calls so that the process can be killed in between.
495fa9e4066Sahrens 		 */
496ad135b5dSChristopher Siden 		int sectors = len >> SPA_MINBLOCKSHIFT;
497ad135b5dSChristopher Siden 		split = (sectors > 0 ? rand() % sectors : 0) <<
498ad135b5dSChristopher Siden 		    SPA_MINBLOCKSHIFT;
499fa9e4066Sahrens 		iolen = pwrite64(vp->v_fd, addr, split, offset);
500fa9e4066Sahrens 		iolen += pwrite64(vp->v_fd, (char *)addr + split,
501fa9e4066Sahrens 		    len - split, offset + split);
502fa9e4066Sahrens 	}
503fa9e4066Sahrens 
504fa9e4066Sahrens 	if (iolen == -1)
505fa9e4066Sahrens 		return (errno);
506fa9e4066Sahrens 	if (residp)
507fa9e4066Sahrens 		*residp = len - iolen;
508fa9e4066Sahrens 	else if (iolen != len)
509fa9e4066Sahrens 		return (EIO);
510fa9e4066Sahrens 	return (0);
511fa9e4066Sahrens }
512fa9e4066Sahrens 
513fa9e4066Sahrens void
514fa9e4066Sahrens vn_close(vnode_t *vp)
515fa9e4066Sahrens {
516fa9e4066Sahrens 	close(vp->v_fd);
517fa9e4066Sahrens 	spa_strfree(vp->v_path);
518fa9e4066Sahrens 	umem_free(vp, sizeof (vnode_t));
519fa9e4066Sahrens }
520fa9e4066Sahrens 
521095bcd66SGeorge Wilson /*
522095bcd66SGeorge Wilson  * At a minimum we need to update the size since vdev_reopen()
523095bcd66SGeorge Wilson  * will no longer call vn_openat().
524095bcd66SGeorge Wilson  */
525095bcd66SGeorge Wilson int
526095bcd66SGeorge Wilson fop_getattr(vnode_t *vp, vattr_t *vap)
527095bcd66SGeorge Wilson {
528095bcd66SGeorge Wilson 	struct stat64 st;
529095bcd66SGeorge Wilson 
530095bcd66SGeorge Wilson 	if (fstat64(vp->v_fd, &st) == -1) {
531095bcd66SGeorge Wilson 		close(vp->v_fd);
532095bcd66SGeorge Wilson 		return (errno);
533095bcd66SGeorge Wilson 	}
534095bcd66SGeorge Wilson 
535095bcd66SGeorge Wilson 	vap->va_size = st.st_size;
536095bcd66SGeorge Wilson 	return (0);
537095bcd66SGeorge Wilson }
538095bcd66SGeorge Wilson 
539fa9e4066Sahrens #ifdef ZFS_DEBUG
540fa9e4066Sahrens 
541fa9e4066Sahrens /*
542fa9e4066Sahrens  * =========================================================================
543fa9e4066Sahrens  * Figure out which debugging statements to print
544fa9e4066Sahrens  * =========================================================================
545fa9e4066Sahrens  */
546fa9e4066Sahrens 
547fa9e4066Sahrens static char *dprintf_string;
548fa9e4066Sahrens static int dprintf_print_all;
549fa9e4066Sahrens 
550fa9e4066Sahrens int
551fa9e4066Sahrens dprintf_find_string(const char *string)
552fa9e4066Sahrens {
553fa9e4066Sahrens 	char *tmp_str = dprintf_string;
554fa9e4066Sahrens 	int len = strlen(string);
555fa9e4066Sahrens 
556fa9e4066Sahrens 	/*
557fa9e4066Sahrens 	 * Find out if this is a string we want to print.
558fa9e4066Sahrens 	 * String format: file1.c,function_name1,file2.c,file3.c
559fa9e4066Sahrens 	 */
560fa9e4066Sahrens 
561fa9e4066Sahrens 	while (tmp_str != NULL) {
562fa9e4066Sahrens 		if (strncmp(tmp_str, string, len) == 0 &&
563fa9e4066Sahrens 		    (tmp_str[len] == ',' || tmp_str[len] == '\0'))
564fa9e4066Sahrens 			return (1);
565fa9e4066Sahrens 		tmp_str = strchr(tmp_str, ',');
566fa9e4066Sahrens 		if (tmp_str != NULL)
567fa9e4066Sahrens 			tmp_str++; /* Get rid of , */
568fa9e4066Sahrens 	}
569fa9e4066Sahrens 	return (0);
570fa9e4066Sahrens }
571fa9e4066Sahrens 
572fa9e4066Sahrens void
573fa9e4066Sahrens dprintf_setup(int *argc, char **argv)
574fa9e4066Sahrens {
575fa9e4066Sahrens 	int i, j;
576fa9e4066Sahrens 
577fa9e4066Sahrens 	/*
578fa9e4066Sahrens 	 * Debugging can be specified two ways: by setting the
579fa9e4066Sahrens 	 * environment variable ZFS_DEBUG, or by including a
580fa9e4066Sahrens 	 * "debug=..."  argument on the command line.  The command
581fa9e4066Sahrens 	 * line setting overrides the environment variable.
582fa9e4066Sahrens 	 */
583fa9e4066Sahrens 
584fa9e4066Sahrens 	for (i = 1; i < *argc; i++) {
585fa9e4066Sahrens 		int len = strlen("debug=");
586fa9e4066Sahrens 		/* First look for a command line argument */
587fa9e4066Sahrens 		if (strncmp("debug=", argv[i], len) == 0) {
588fa9e4066Sahrens 			dprintf_string = argv[i] + len;
589fa9e4066Sahrens 			/* Remove from args */
590fa9e4066Sahrens 			for (j = i; j < *argc; j++)
591fa9e4066Sahrens 				argv[j] = argv[j+1];
592fa9e4066Sahrens 			argv[j] = NULL;
593fa9e4066Sahrens 			(*argc)--;
594fa9e4066Sahrens 		}
595fa9e4066Sahrens 	}
596fa9e4066Sahrens 
597fa9e4066Sahrens 	if (dprintf_string == NULL) {
598fa9e4066Sahrens 		/* Look for ZFS_DEBUG environment variable */
599fa9e4066Sahrens 		dprintf_string = getenv("ZFS_DEBUG");
600fa9e4066Sahrens 	}
601fa9e4066Sahrens 
602fa9e4066Sahrens 	/*
603fa9e4066Sahrens 	 * Are we just turning on all debugging?
604fa9e4066Sahrens 	 */
605fa9e4066Sahrens 	if (dprintf_find_string("on"))
606fa9e4066Sahrens 		dprintf_print_all = 1;
607fa9e4066Sahrens }
608fa9e4066Sahrens 
609fa9e4066Sahrens /*
610fa9e4066Sahrens  * =========================================================================
611fa9e4066Sahrens  * debug printfs
612fa9e4066Sahrens  * =========================================================================
613fa9e4066Sahrens  */
614fa9e4066Sahrens void
615fa9e4066Sahrens __dprintf(const char *file, const char *func, int line, const char *fmt, ...)
616fa9e4066Sahrens {
617fa9e4066Sahrens 	const char *newfile;
618fa9e4066Sahrens 	va_list adx;
619fa9e4066Sahrens 
620fa9e4066Sahrens 	/*
621fa9e4066Sahrens 	 * Get rid of annoying "../common/" prefix to filename.
622fa9e4066Sahrens 	 */
623fa9e4066Sahrens 	newfile = strrchr(file, '/');
624fa9e4066Sahrens 	if (newfile != NULL) {
625fa9e4066Sahrens 		newfile = newfile + 1; /* Get rid of leading / */
626fa9e4066Sahrens 	} else {
627fa9e4066Sahrens 		newfile = file;
628fa9e4066Sahrens 	}
629fa9e4066Sahrens 
630fa9e4066Sahrens 	if (dprintf_print_all ||
631fa9e4066Sahrens 	    dprintf_find_string(newfile) ||
632fa9e4066Sahrens 	    dprintf_find_string(func)) {
633fa9e4066Sahrens 		/* Print out just the function name if requested */
634fa9e4066Sahrens 		flockfile(stdout);
635fa9e4066Sahrens 		if (dprintf_find_string("pid"))
636fa9e4066Sahrens 			(void) printf("%d ", getpid());
637fa9e4066Sahrens 		if (dprintf_find_string("tid"))
638fa9e4066Sahrens 			(void) printf("%u ", thr_self());
639fa9e4066Sahrens 		if (dprintf_find_string("cpu"))
640fa9e4066Sahrens 			(void) printf("%u ", getcpuid());
641fa9e4066Sahrens 		if (dprintf_find_string("time"))
642fa9e4066Sahrens 			(void) printf("%llu ", gethrtime());
643fa9e4066Sahrens 		if (dprintf_find_string("long"))
644fa9e4066Sahrens 			(void) printf("%s, line %d: ", newfile, line);
645fa9e4066Sahrens 		(void) printf("%s: ", func);
646fa9e4066Sahrens 		va_start(adx, fmt);
647fa9e4066Sahrens 		(void) vprintf(fmt, adx);
648fa9e4066Sahrens 		va_end(adx);
649fa9e4066Sahrens 		funlockfile(stdout);
650fa9e4066Sahrens 	}
651fa9e4066Sahrens }
652fa9e4066Sahrens 
653fa9e4066Sahrens #endif /* ZFS_DEBUG */
654fa9e4066Sahrens 
655fa9e4066Sahrens /*
656fa9e4066Sahrens  * =========================================================================
657fa9e4066Sahrens  * cmn_err() and panic()
658fa9e4066Sahrens  * =========================================================================
659fa9e4066Sahrens  */
660fa9e4066Sahrens static char ce_prefix[CE_IGNORE][10] = { "", "NOTICE: ", "WARNING: ", "" };
661fa9e4066Sahrens static char ce_suffix[CE_IGNORE][2] = { "", "\n", "\n", "" };
662fa9e4066Sahrens 
663fa9e4066Sahrens void
664fa9e4066Sahrens vpanic(const char *fmt, va_list adx)
665fa9e4066Sahrens {
666fa9e4066Sahrens 	(void) fprintf(stderr, "error: ");
667fa9e4066Sahrens 	(void) vfprintf(stderr, fmt, adx);
668fa9e4066Sahrens 	(void) fprintf(stderr, "\n");
669fa9e4066Sahrens 
670fa9e4066Sahrens 	abort();	/* think of it as a "user-level crash dump" */
671fa9e4066Sahrens }
672fa9e4066Sahrens 
673fa9e4066Sahrens void
674fa9e4066Sahrens panic(const char *fmt, ...)
675fa9e4066Sahrens {
676fa9e4066Sahrens 	va_list adx;
677fa9e4066Sahrens 
678fa9e4066Sahrens 	va_start(adx, fmt);
679fa9e4066Sahrens 	vpanic(fmt, adx);
680fa9e4066Sahrens 	va_end(adx);
681fa9e4066Sahrens }
682fa9e4066Sahrens 
683fa9e4066Sahrens void
6840125049cSahrens vcmn_err(int ce, const char *fmt, va_list adx)
685fa9e4066Sahrens {
686fa9e4066Sahrens 	if (ce == CE_PANIC)
687fa9e4066Sahrens 		vpanic(fmt, adx);
688fa9e4066Sahrens 	if (ce != CE_NOTE) {	/* suppress noise in userland stress testing */
689fa9e4066Sahrens 		(void) fprintf(stderr, "%s", ce_prefix[ce]);
690fa9e4066Sahrens 		(void) vfprintf(stderr, fmt, adx);
691fa9e4066Sahrens 		(void) fprintf(stderr, "%s", ce_suffix[ce]);
692fa9e4066Sahrens 	}
6930125049cSahrens }
6940125049cSahrens 
6950125049cSahrens /*PRINTFLIKE2*/
6960125049cSahrens void
6970125049cSahrens cmn_err(int ce, const char *fmt, ...)
6980125049cSahrens {
6990125049cSahrens 	va_list adx;
7000125049cSahrens 
7010125049cSahrens 	va_start(adx, fmt);
7020125049cSahrens 	vcmn_err(ce, fmt, adx);
703fa9e4066Sahrens 	va_end(adx);
704fa9e4066Sahrens }
705fa9e4066Sahrens 
706fa9e4066Sahrens /*
707fa9e4066Sahrens  * =========================================================================
708ea8dc4b6Seschrock  * kobj interfaces
709ea8dc4b6Seschrock  * =========================================================================
710ea8dc4b6Seschrock  */
711ea8dc4b6Seschrock struct _buf *
712ea8dc4b6Seschrock kobj_open_file(char *name)
713ea8dc4b6Seschrock {
714ea8dc4b6Seschrock 	struct _buf *file;
715ea8dc4b6Seschrock 	vnode_t *vp;
716ea8dc4b6Seschrock 
717ea8dc4b6Seschrock 	/* set vp as the _fd field of the file */
718da6c28aaSamw 	if (vn_openat(name, UIO_SYSSPACE, FREAD, 0, &vp, 0, 0, rootdir,
719da6c28aaSamw 	    -1) != 0)
720ea8dc4b6Seschrock 		return ((void *)-1UL);
721ea8dc4b6Seschrock 
722ea8dc4b6Seschrock 	file = umem_zalloc(sizeof (struct _buf), UMEM_NOFAIL);
723ea8dc4b6Seschrock 	file->_fd = (intptr_t)vp;
724ea8dc4b6Seschrock 	return (file);
725ea8dc4b6Seschrock }
726ea8dc4b6Seschrock 
727ea8dc4b6Seschrock int
728ea8dc4b6Seschrock kobj_read_file(struct _buf *file, char *buf, unsigned size, unsigned off)
729ea8dc4b6Seschrock {
730ea8dc4b6Seschrock 	ssize_t resid;
731ea8dc4b6Seschrock 
732ea8dc4b6Seschrock 	vn_rdwr(UIO_READ, (vnode_t *)file->_fd, buf, size, (offset_t)off,
733ea8dc4b6Seschrock 	    UIO_SYSSPACE, 0, 0, 0, &resid);
734ea8dc4b6Seschrock 
735b1b8ab34Slling 	return (size - resid);
736ea8dc4b6Seschrock }
737ea8dc4b6Seschrock 
738ea8dc4b6Seschrock void
739ea8dc4b6Seschrock kobj_close_file(struct _buf *file)
740ea8dc4b6Seschrock {
741ea8dc4b6Seschrock 	vn_close((vnode_t *)file->_fd);
742ea8dc4b6Seschrock 	umem_free(file, sizeof (struct _buf));
743ea8dc4b6Seschrock }
744ea8dc4b6Seschrock 
745ea8dc4b6Seschrock int
746b1b8ab34Slling kobj_get_filesize(struct _buf *file, uint64_t *size)
747ea8dc4b6Seschrock {
748ea8dc4b6Seschrock 	struct stat64 st;
749b1b8ab34Slling 	vnode_t *vp = (vnode_t *)file->_fd;
750b1b8ab34Slling 
751ea8dc4b6Seschrock 	if (fstat64(vp->v_fd, &st) == -1) {
752ea8dc4b6Seschrock 		vn_close(vp);
753ea8dc4b6Seschrock 		return (errno);
754ea8dc4b6Seschrock 	}
755b1b8ab34Slling 	*size = st.st_size;
756ea8dc4b6Seschrock 	return (0);
757ea8dc4b6Seschrock }
758ea8dc4b6Seschrock 
759ea8dc4b6Seschrock /*
760ea8dc4b6Seschrock  * =========================================================================
761fa9e4066Sahrens  * misc routines
762fa9e4066Sahrens  * =========================================================================
763fa9e4066Sahrens  */
764fa9e4066Sahrens 
765fa9e4066Sahrens void
766fa9e4066Sahrens delay(clock_t ticks)
767fa9e4066Sahrens {
768fa9e4066Sahrens 	poll(0, 0, ticks * (1000 / hz));
769fa9e4066Sahrens }
770fa9e4066Sahrens 
771fa9e4066Sahrens /*
772fa9e4066Sahrens  * Find highest one bit set.
773fa9e4066Sahrens  *	Returns bit number + 1 of highest bit that is set, otherwise returns 0.
774fa9e4066Sahrens  * High order bit is 31 (or 63 in _LP64 kernel).
775fa9e4066Sahrens  */
776fa9e4066Sahrens int
777fa9e4066Sahrens highbit(ulong_t i)
778fa9e4066Sahrens {
779fa9e4066Sahrens 	register int h = 1;
780fa9e4066Sahrens 
781fa9e4066Sahrens 	if (i == 0)
782fa9e4066Sahrens 		return (0);
783fa9e4066Sahrens #ifdef _LP64
784fa9e4066Sahrens 	if (i & 0xffffffff00000000ul) {
785fa9e4066Sahrens 		h += 32; i >>= 32;
786fa9e4066Sahrens 	}
787fa9e4066Sahrens #endif
788fa9e4066Sahrens 	if (i & 0xffff0000) {
789fa9e4066Sahrens 		h += 16; i >>= 16;
790fa9e4066Sahrens 	}
791fa9e4066Sahrens 	if (i & 0xff00) {
792fa9e4066Sahrens 		h += 8; i >>= 8;
793fa9e4066Sahrens 	}
794fa9e4066Sahrens 	if (i & 0xf0) {
795fa9e4066Sahrens 		h += 4; i >>= 4;
796fa9e4066Sahrens 	}
797fa9e4066Sahrens 	if (i & 0xc) {
798fa9e4066Sahrens 		h += 2; i >>= 2;
799fa9e4066Sahrens 	}
800fa9e4066Sahrens 	if (i & 0x2) {
801fa9e4066Sahrens 		h += 1;
802fa9e4066Sahrens 	}
803fa9e4066Sahrens 	return (h);
804fa9e4066Sahrens }
805fa9e4066Sahrens 
80617f17c2dSbonwick static int random_fd = -1, urandom_fd = -1;
80717f17c2dSbonwick 
808fa9e4066Sahrens static int
80917f17c2dSbonwick random_get_bytes_common(uint8_t *ptr, size_t len, int fd)
810fa9e4066Sahrens {
811fa9e4066Sahrens 	size_t resid = len;
812fa9e4066Sahrens 	ssize_t bytes;
813fa9e4066Sahrens 
814fa9e4066Sahrens 	ASSERT(fd != -1);
815fa9e4066Sahrens 
816fa9e4066Sahrens 	while (resid != 0) {
817fa9e4066Sahrens 		bytes = read(fd, ptr, resid);
81817f17c2dSbonwick 		ASSERT3S(bytes, >=, 0);
819fa9e4066Sahrens 		ptr += bytes;
820fa9e4066Sahrens 		resid -= bytes;
821fa9e4066Sahrens 	}
822fa9e4066Sahrens 
823fa9e4066Sahrens 	return (0);
824fa9e4066Sahrens }
825fa9e4066Sahrens 
826fa9e4066Sahrens int
827fa9e4066Sahrens random_get_bytes(uint8_t *ptr, size_t len)
828fa9e4066Sahrens {
82917f17c2dSbonwick 	return (random_get_bytes_common(ptr, len, random_fd));
830fa9e4066Sahrens }
831fa9e4066Sahrens 
832fa9e4066Sahrens int
833fa9e4066Sahrens random_get_pseudo_bytes(uint8_t *ptr, size_t len)
834fa9e4066Sahrens {
83517f17c2dSbonwick 	return (random_get_bytes_common(ptr, len, urandom_fd));
836fa9e4066Sahrens }
837fa9e4066Sahrens 
83895173954Sek110237 int
83995173954Sek110237 ddi_strtoul(const char *hw_serial, char **nptr, int base, unsigned long *result)
84095173954Sek110237 {
84195173954Sek110237 	char *end;
84295173954Sek110237 
84395173954Sek110237 	*result = strtoul(hw_serial, &end, base);
84495173954Sek110237 	if (*result == 0)
84595173954Sek110237 		return (errno);
84695173954Sek110237 	return (0);
84795173954Sek110237 }
84895173954Sek110237 
8490a586ceaSMark Shellenbaum int
8500a586ceaSMark Shellenbaum ddi_strtoull(const char *str, char **nptr, int base, u_longlong_t *result)
8510a586ceaSMark Shellenbaum {
8520a586ceaSMark Shellenbaum 	char *end;
8530a586ceaSMark Shellenbaum 
8540a586ceaSMark Shellenbaum 	*result = strtoull(str, &end, base);
8550a586ceaSMark Shellenbaum 	if (*result == 0)
8560a586ceaSMark Shellenbaum 		return (errno);
8570a586ceaSMark Shellenbaum 	return (0);
8580a586ceaSMark Shellenbaum }
8590a586ceaSMark Shellenbaum 
860283b8460SGeorge.Wilson /* ARGSUSED */
861283b8460SGeorge.Wilson cyclic_id_t
862283b8460SGeorge.Wilson cyclic_add(cyc_handler_t *hdlr, cyc_time_t *when)
863283b8460SGeorge.Wilson {
864283b8460SGeorge.Wilson 	return (1);
865283b8460SGeorge.Wilson }
866283b8460SGeorge.Wilson 
867283b8460SGeorge.Wilson /* ARGSUSED */
868283b8460SGeorge.Wilson void
869283b8460SGeorge.Wilson cyclic_remove(cyclic_id_t id)
870283b8460SGeorge.Wilson {
871283b8460SGeorge.Wilson }
872283b8460SGeorge.Wilson 
873283b8460SGeorge.Wilson /* ARGSUSED */
874283b8460SGeorge.Wilson int
875283b8460SGeorge.Wilson cyclic_reprogram(cyclic_id_t id, hrtime_t expiration)
876283b8460SGeorge.Wilson {
877283b8460SGeorge.Wilson 	return (1);
878283b8460SGeorge.Wilson }
879283b8460SGeorge.Wilson 
880fa9e4066Sahrens /*
881fa9e4066Sahrens  * =========================================================================
882fa9e4066Sahrens  * kernel emulation setup & teardown
883fa9e4066Sahrens  * =========================================================================
884fa9e4066Sahrens  */
885fa9e4066Sahrens static int
886fa9e4066Sahrens umem_out_of_memory(void)
887fa9e4066Sahrens {
888fa9e4066Sahrens 	char errmsg[] = "out of memory -- generating core dump\n";
889fa9e4066Sahrens 
890fa9e4066Sahrens 	write(fileno(stderr), errmsg, sizeof (errmsg));
891fa9e4066Sahrens 	abort();
892fa9e4066Sahrens 	return (0);
893fa9e4066Sahrens }
894fa9e4066Sahrens 
895fa9e4066Sahrens void
896fa9e4066Sahrens kernel_init(int mode)
897fa9e4066Sahrens {
8983b2aab18SMatthew Ahrens 	extern uint_t rrw_tsd_key;
8993b2aab18SMatthew Ahrens 
900fa9e4066Sahrens 	umem_nofail_callback(umem_out_of_memory);
901fa9e4066Sahrens 
902fa9e4066Sahrens 	physmem = sysconf(_SC_PHYS_PAGES);
903fa9e4066Sahrens 
904fa9e4066Sahrens 	dprintf("physmem = %llu pages (%.2f GB)\n", physmem,
905fa9e4066Sahrens 	    (double)physmem * sysconf(_SC_PAGE_SIZE) / (1ULL << 30));
906fa9e4066Sahrens 
9073ad6c7f9SVictor Latushkin 	(void) snprintf(hw_serial, sizeof (hw_serial), "%ld",
9083ad6c7f9SVictor Latushkin 	    (mode & FWRITE) ? gethostid() : 0);
90995173954Sek110237 
91017f17c2dSbonwick 	VERIFY((random_fd = open("/dev/random", O_RDONLY)) != -1);
91117f17c2dSbonwick 	VERIFY((urandom_fd = open("/dev/urandom", O_RDONLY)) != -1);
91217f17c2dSbonwick 
91388b7b0f2SMatthew Ahrens 	system_taskq_init();
91488b7b0f2SMatthew Ahrens 
915283b8460SGeorge.Wilson 	mutex_init(&cpu_lock, NULL, MUTEX_DEFAULT, NULL);
916283b8460SGeorge.Wilson 
917fa9e4066Sahrens 	spa_init(mode);
9183b2aab18SMatthew Ahrens 
9193b2aab18SMatthew Ahrens 	tsd_create(&rrw_tsd_key, rrw_tsd_destroy);
920fa9e4066Sahrens }
921fa9e4066Sahrens 
922fa9e4066Sahrens void
923fa9e4066Sahrens kernel_fini(void)
924fa9e4066Sahrens {
925fa9e4066Sahrens 	spa_fini();
92617f17c2dSbonwick 
927d20e665cSRicardo M. Correia 	system_taskq_fini();
928d20e665cSRicardo M. Correia 
92917f17c2dSbonwick 	close(random_fd);
93017f17c2dSbonwick 	close(urandom_fd);
93117f17c2dSbonwick 
93217f17c2dSbonwick 	random_fd = -1;
93317f17c2dSbonwick 	urandom_fd = -1;
934fa9e4066Sahrens }
935c9431fa1Sahl 
936c9431fa1Sahl int
937c9431fa1Sahl z_uncompress(void *dst, size_t *dstlen, const void *src, size_t srclen)
938c9431fa1Sahl {
939c9431fa1Sahl 	int ret;
940c9431fa1Sahl 	uLongf len = *dstlen;
941c9431fa1Sahl 
942c9431fa1Sahl 	if ((ret = uncompress(dst, &len, src, srclen)) == Z_OK)
943c9431fa1Sahl 		*dstlen = (size_t)len;
944c9431fa1Sahl 
945c9431fa1Sahl 	return (ret);
946c9431fa1Sahl }
947c9431fa1Sahl 
948c9431fa1Sahl int
949c9431fa1Sahl z_compress_level(void *dst, size_t *dstlen, const void *src, size_t srclen,
950c9431fa1Sahl     int level)
951c9431fa1Sahl {
952c9431fa1Sahl 	int ret;
953c9431fa1Sahl 	uLongf len = *dstlen;
954c9431fa1Sahl 
955c9431fa1Sahl 	if ((ret = compress2(dst, &len, src, srclen, level)) == Z_OK)
956c9431fa1Sahl 		*dstlen = (size_t)len;
957c9431fa1Sahl 
958c9431fa1Sahl 	return (ret);
959c9431fa1Sahl }
960ecd6cf80Smarks 
961ecd6cf80Smarks uid_t
962ecd6cf80Smarks crgetuid(cred_t *cr)
963ecd6cf80Smarks {
964ecd6cf80Smarks 	return (0);
965ecd6cf80Smarks }
966ecd6cf80Smarks 
9674445fffbSMatthew Ahrens uid_t
9684445fffbSMatthew Ahrens crgetruid(cred_t *cr)
9694445fffbSMatthew Ahrens {
9704445fffbSMatthew Ahrens 	return (0);
9714445fffbSMatthew Ahrens }
9724445fffbSMatthew Ahrens 
973ecd6cf80Smarks gid_t
974ecd6cf80Smarks crgetgid(cred_t *cr)
975ecd6cf80Smarks {
976ecd6cf80Smarks 	return (0);
977ecd6cf80Smarks }
978ecd6cf80Smarks 
979ecd6cf80Smarks int
980ecd6cf80Smarks crgetngroups(cred_t *cr)
981ecd6cf80Smarks {
982ecd6cf80Smarks 	return (0);
983ecd6cf80Smarks }
984ecd6cf80Smarks 
985ecd6cf80Smarks gid_t *
986ecd6cf80Smarks crgetgroups(cred_t *cr)
987ecd6cf80Smarks {
988ecd6cf80Smarks 	return (NULL);
989ecd6cf80Smarks }
990ecd6cf80Smarks 
991ecd6cf80Smarks int
992ecd6cf80Smarks zfs_secpolicy_snapshot_perms(const char *name, cred_t *cr)
993ecd6cf80Smarks {
994ecd6cf80Smarks 	return (0);
995ecd6cf80Smarks }
996ecd6cf80Smarks 
997ecd6cf80Smarks int
998ecd6cf80Smarks zfs_secpolicy_rename_perms(const char *from, const char *to, cred_t *cr)
999ecd6cf80Smarks {
1000ecd6cf80Smarks 	return (0);
1001ecd6cf80Smarks }
1002ecd6cf80Smarks 
1003ecd6cf80Smarks int
1004ecd6cf80Smarks zfs_secpolicy_destroy_perms(const char *name, cred_t *cr)
1005ecd6cf80Smarks {
1006ecd6cf80Smarks 	return (0);
1007ecd6cf80Smarks }
1008e0d35c44Smarks 
1009e0d35c44Smarks ksiddomain_t *
1010e0d35c44Smarks ksid_lookupdomain(const char *dom)
1011e0d35c44Smarks {
1012e0d35c44Smarks 	ksiddomain_t *kd;
1013e0d35c44Smarks 
1014e0d35c44Smarks 	kd = umem_zalloc(sizeof (ksiddomain_t), UMEM_NOFAIL);
1015e0d35c44Smarks 	kd->kd_name = spa_strdup(dom);
1016e0d35c44Smarks 	return (kd);
1017e0d35c44Smarks }
1018e0d35c44Smarks 
1019e0d35c44Smarks void
1020e0d35c44Smarks ksiddomain_rele(ksiddomain_t *ksid)
1021e0d35c44Smarks {
1022e0d35c44Smarks 	spa_strfree(ksid->kd_name);
1023e0d35c44Smarks 	umem_free(ksid, sizeof (ksiddomain_t));
1024e0d35c44Smarks }
1025ae46e4c7SMatthew Ahrens 
1026ae46e4c7SMatthew Ahrens /*
1027ae46e4c7SMatthew Ahrens  * Do not change the length of the returned string; it must be freed
1028ae46e4c7SMatthew Ahrens  * with strfree().
1029ae46e4c7SMatthew Ahrens  */
1030ae46e4c7SMatthew Ahrens char *
1031ae46e4c7SMatthew Ahrens kmem_asprintf(const char *fmt, ...)
1032ae46e4c7SMatthew Ahrens {
1033ae46e4c7SMatthew Ahrens 	int size;
1034ae46e4c7SMatthew Ahrens 	va_list adx;
1035ae46e4c7SMatthew Ahrens 	char *buf;
1036ae46e4c7SMatthew Ahrens 
1037ae46e4c7SMatthew Ahrens 	va_start(adx, fmt);
1038ae46e4c7SMatthew Ahrens 	size = vsnprintf(NULL, 0, fmt, adx) + 1;
1039ae46e4c7SMatthew Ahrens 	va_end(adx);
1040ae46e4c7SMatthew Ahrens 
1041ae46e4c7SMatthew Ahrens 	buf = kmem_alloc(size, KM_SLEEP);
1042ae46e4c7SMatthew Ahrens 
1043ae46e4c7SMatthew Ahrens 	va_start(adx, fmt);
1044ae46e4c7SMatthew Ahrens 	size = vsnprintf(buf, size, fmt, adx);
1045ae46e4c7SMatthew Ahrens 	va_end(adx);
1046ae46e4c7SMatthew Ahrens 
1047ae46e4c7SMatthew Ahrens 	return (buf);
1048ae46e4c7SMatthew Ahrens }
1049c99e4bdcSChris Kirby 
1050c99e4bdcSChris Kirby /* ARGSUSED */
1051c99e4bdcSChris Kirby int
1052a7f53a56SChris Kirby zfs_onexit_fd_hold(int fd, minor_t *minorp)
1053a7f53a56SChris Kirby {
1054a7f53a56SChris Kirby 	*minorp = 0;
1055a7f53a56SChris Kirby 	return (0);
1056a7f53a56SChris Kirby }
1057a7f53a56SChris Kirby 
1058a7f53a56SChris Kirby /* ARGSUSED */
1059a7f53a56SChris Kirby void
1060a7f53a56SChris Kirby zfs_onexit_fd_rele(int fd)
1061a7f53a56SChris Kirby {
1062a7f53a56SChris Kirby }
1063a7f53a56SChris Kirby 
1064a7f53a56SChris Kirby /* ARGSUSED */
1065a7f53a56SChris Kirby int
1066a7f53a56SChris Kirby zfs_onexit_add_cb(minor_t minor, void (*func)(void *), void *data,
1067c99e4bdcSChris Kirby     uint64_t *action_handle)
1068c99e4bdcSChris Kirby {
1069c99e4bdcSChris Kirby 	return (0);
1070c99e4bdcSChris Kirby }
1071c99e4bdcSChris Kirby 
1072c99e4bdcSChris Kirby /* ARGSUSED */
1073c99e4bdcSChris Kirby int
1074a7f53a56SChris Kirby zfs_onexit_del_cb(minor_t minor, uint64_t action_handle, boolean_t fire)
1075c99e4bdcSChris Kirby {
1076c99e4bdcSChris Kirby 	return (0);
1077c99e4bdcSChris Kirby }
1078c99e4bdcSChris Kirby 
1079c99e4bdcSChris Kirby /* ARGSUSED */
1080c99e4bdcSChris Kirby int
1081a7f53a56SChris Kirby zfs_onexit_cb_data(minor_t minor, uint64_t action_handle, void **data)
1082c99e4bdcSChris Kirby {
1083c99e4bdcSChris Kirby 	return (0);
1084c99e4bdcSChris Kirby }
108531d7e8faSGeorge Wilson 
108631d7e8faSGeorge Wilson void
108731d7e8faSGeorge Wilson bioinit(buf_t *bp)
108831d7e8faSGeorge Wilson {
108931d7e8faSGeorge Wilson 	bzero(bp, sizeof (buf_t));
109031d7e8faSGeorge Wilson }
109131d7e8faSGeorge Wilson 
109231d7e8faSGeorge Wilson void
109331d7e8faSGeorge Wilson biodone(buf_t *bp)
109431d7e8faSGeorge Wilson {
109531d7e8faSGeorge Wilson 	if (bp->b_iodone != NULL) {
109631d7e8faSGeorge Wilson 		(*(bp->b_iodone))(bp);
109731d7e8faSGeorge Wilson 		return;
109831d7e8faSGeorge Wilson 	}
109931d7e8faSGeorge Wilson 	ASSERT((bp->b_flags & B_DONE) == 0);
110031d7e8faSGeorge Wilson 	bp->b_flags |= B_DONE;
110131d7e8faSGeorge Wilson }
110231d7e8faSGeorge Wilson 
110331d7e8faSGeorge Wilson void
110431d7e8faSGeorge Wilson bioerror(buf_t *bp, int error)
110531d7e8faSGeorge Wilson {
110631d7e8faSGeorge Wilson 	ASSERT(bp != NULL);
110731d7e8faSGeorge Wilson 	ASSERT(error >= 0);
110831d7e8faSGeorge Wilson 
110931d7e8faSGeorge Wilson 	if (error != 0) {
111031d7e8faSGeorge Wilson 		bp->b_flags |= B_ERROR;
111131d7e8faSGeorge Wilson 	} else {
111231d7e8faSGeorge Wilson 		bp->b_flags &= ~B_ERROR;
111331d7e8faSGeorge Wilson 	}
111431d7e8faSGeorge Wilson 	bp->b_error = error;
111531d7e8faSGeorge Wilson }
111631d7e8faSGeorge Wilson 
111731d7e8faSGeorge Wilson 
111831d7e8faSGeorge Wilson int
111931d7e8faSGeorge Wilson geterror(struct buf *bp)
112031d7e8faSGeorge Wilson {
112131d7e8faSGeorge Wilson 	int error = 0;
112231d7e8faSGeorge Wilson 
112331d7e8faSGeorge Wilson 	if (bp->b_flags & B_ERROR) {
112431d7e8faSGeorge Wilson 		error = bp->b_error;
112531d7e8faSGeorge Wilson 		if (!error)
112631d7e8faSGeorge Wilson 			error = EIO;
112731d7e8faSGeorge Wilson 	}
112831d7e8faSGeorge Wilson 	return (error);
112931d7e8faSGeorge Wilson }
1130