1268 	ddi_acc_impl_t *hp;  in impl_acc_hdl_alloc()  local
1277 	if ((hp = kmem_zalloc(sizeof (ddi_acc_impl_t), sleepflag)) == NULL)  in impl_acc_hdl_alloc()
1279 	if ((hp->ahi_err = (ndi_err_t *)kmem_zalloc(  in impl_acc_hdl_alloc()
1281 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_alloc()
1286 		kmem_free(hp->ahi_err, sizeof (ndi_err_t));  in impl_acc_hdl_alloc()
1287 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_alloc()
1290 	hp->ahi_err->err_ontrap = otp;  in impl_acc_hdl_alloc()
1291 	hp->ahi_common.ah_platform_private = (void *)hp;  in impl_acc_hdl_alloc()
1293 	return ((ddi_acc_handle_t)hp);  in impl_acc_hdl_alloc()
1304 	ddi_acc_impl_t *hp;  in impl_acc_hdl_free()  local
1310 	hp = (ddi_acc_impl_t *)handle;  in impl_acc_hdl_free()
1311 	if (hp) {  in impl_acc_hdl_free()
1312 		kmem_free(hp->ahi_err->err_ontrap, sizeof (on_trap_data_t));  in impl_acc_hdl_free()
1313 		kmem_free(hp->ahi_err, sizeof (ndi_err_t));  in impl_acc_hdl_free()
1314 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_free()
1361 	ddi_acc_hdl_t *hp;  in impl_acc_check()  local
1363 	hp = impl_acc_hdl_get((ddi_acc_handle_t)handle);  in impl_acc_check()
1365 	ASSERT(hp);  in impl_acc_check()
1368 		pfn = hp->ah_pfn;  in impl_acc_check()
1370 		if (fault_pfn >= pfn && fault_pfn < (pfn + hp->ah_pnum))  in impl_acc_check()
1382 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handlep;  in impl_acc_err_init()  local
1396 			errp = hp->ahi_err;  in impl_acc_err_init()
1398 			otp->ot_handle = (void *)(hp);  in impl_acc_err_init()
1417 	ddi_acc_impl_t *hp;  in impl_acc_hdl_init()  local
1421 	hp = (ddi_acc_impl_t *)handlep;  in impl_acc_hdl_init()
1426 	hp->ahi_get8 = i_ddi_get8;  in impl_acc_hdl_init()
1427 	hp->ahi_put8 = i_ddi_put8;  in impl_acc_hdl_init()
1428 	hp->ahi_rep_get8 = i_ddi_rep_get8;  in impl_acc_hdl_init()
1429 	hp->ahi_rep_put8 = i_ddi_rep_put8;  in impl_acc_hdl_init()
1431 		hp->ahi_get16 = i_ddi_swap_get16;  in impl_acc_hdl_init()
1432 		hp->ahi_get32 = i_ddi_swap_get32;  in impl_acc_hdl_init()
1433 		hp->ahi_get64 = i_ddi_swap_get64;  in impl_acc_hdl_init()
1434 		hp->ahi_put16 = i_ddi_swap_put16;  in impl_acc_hdl_init()
1435 		hp->ahi_put32 = i_ddi_swap_put32;  in impl_acc_hdl_init()
1436 		hp->ahi_put64 = i_ddi_swap_put64;  in impl_acc_hdl_init()
1437 		hp->ahi_rep_get16 = i_ddi_swap_rep_get16;  in impl_acc_hdl_init()
1438 		hp->ahi_rep_get32 = i_ddi_swap_rep_get32;  in impl_acc_hdl_init()
1439 		hp->ahi_rep_get64 = i_ddi_swap_rep_get64;  in impl_acc_hdl_init()
1440 		hp->ahi_rep_put16 = i_ddi_swap_rep_put16;  in impl_acc_hdl_init()
1441 		hp->ahi_rep_put32 = i_ddi_swap_rep_put32;  in impl_acc_hdl_init()
1442 		hp->ahi_rep_put64 = i_ddi_swap_rep_put64;  in impl_acc_hdl_init()
1444 		hp->ahi_get16 = i_ddi_get16;  in impl_acc_hdl_init()
1445 		hp->ahi_get32 = i_ddi_get32;  in impl_acc_hdl_init()
1446 		hp->ahi_get64 = i_ddi_get64;  in impl_acc_hdl_init()
1447 		hp->ahi_put16 = i_ddi_put16;  in impl_acc_hdl_init()
1448 		hp->ahi_put32 = i_ddi_put32;  in impl_acc_hdl_init()
1449 		hp->ahi_put64 = i_ddi_put64;  in impl_acc_hdl_init()
1450 		hp->ahi_rep_get16 = i_ddi_rep_get16;  in impl_acc_hdl_init()
1451 		hp->ahi_rep_get32 = i_ddi_rep_get32;  in impl_acc_hdl_init()
1452 		hp->ahi_rep_get64 = i_ddi_rep_get64;  in impl_acc_hdl_init()
1453 		hp->ahi_rep_put16 = i_ddi_rep_put16;  in impl_acc_hdl_init()
1454 		hp->ahi_rep_put32 = i_ddi_rep_put32;  in impl_acc_hdl_init()
1455 		hp->ahi_rep_put64 = i_ddi_rep_put64;  in impl_acc_hdl_init()
1459 	hp->ahi_fault_check = i_ddi_acc_fault_check;  in impl_acc_hdl_init()
1460 	hp->ahi_fault_notify = i_ddi_acc_fault_notify;  in impl_acc_hdl_init()
1461 	hp->ahi_fault = 0;  in impl_acc_hdl_init()
1468 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handle;  in i_ddi_acc_set_fault()  local
1470 	if (!hp->ahi_fault) {  in i_ddi_acc_set_fault()
1471 		hp->ahi_fault = 1;  in i_ddi_acc_set_fault()
1472 			(*hp->ahi_fault_notify)(hp);  in i_ddi_acc_set_fault()
1479 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handle;  in i_ddi_acc_clr_fault()  local
1481 	if (hp->ahi_fault) {  in i_ddi_acc_clr_fault()
1482 		hp->ahi_fault = 0;  in i_ddi_acc_clr_fault()
1483 			(*hp->ahi_fault_notify)(hp);  in i_ddi_acc_clr_fault()
1489 i_ddi_acc_fault_notify(ddi_acc_impl_t *hp)  in i_ddi_acc_fault_notify()  argument
1762     ddi_acc_impl_t *hp, uint64_t host_addr, uint64_t dev_addr, size_t size,  in i_ddi_caut_getput_ctlops()  argument
1770 	cautacc_ctlops_arg.handle = (ddi_acc_handle_t)hp;  in i_ddi_caut_getput_ctlops()
1774 	(void) ddi_ctlops(hp->ahi_common.ah_dip, hp->ahi_common.ah_dip, cmd,  in i_ddi_caut_getput_ctlops()
1779 i_ddi_caut_get8(ddi_acc_impl_t *hp, uint8_t *addr)  in i_ddi_caut_get8()  argument
1782 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get8()
1789 i_ddi_caut_get16(ddi_acc_impl_t *hp, uint16_t *addr)  in i_ddi_caut_get16()  argument
1792 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get16()
1799 i_ddi_caut_get32(ddi_acc_impl_t *hp, uint32_t *addr)  in i_ddi_caut_get32()  argument
1802 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get32()
1809 i_ddi_caut_get64(ddi_acc_impl_t *hp, uint64_t *addr)  in i_ddi_caut_get64()  argument
1812 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get64()
1819 i_ddi_caut_put8(ddi_acc_impl_t *hp, uint8_t *addr, uint8_t value)  in i_ddi_caut_put8()  argument
1821 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put8()
1826 i_ddi_caut_put16(ddi_acc_impl_t *hp, uint16_t *addr, uint16_t value)  in i_ddi_caut_put16()  argument
1828 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put16()
1833 i_ddi_caut_put32(ddi_acc_impl_t *hp, uint32_t *addr, uint32_t value)  in i_ddi_caut_put32()  argument
1835 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put32()
1840 i_ddi_caut_put64(ddi_acc_impl_t *hp, uint64_t *addr, uint64_t value)  in i_ddi_caut_put64()  argument
1842 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put64()
1847 i_ddi_caut_rep_get8(ddi_acc_impl_t *hp, uint8_t *host_addr, uint8_t *dev_addr,  in i_ddi_caut_rep_get8()  argument
1850 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get8()
1855 i_ddi_caut_rep_get16(ddi_acc_impl_t *hp, uint16_t *host_addr,  in i_ddi_caut_rep_get16()  argument
1858 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get16()
1863 i_ddi_caut_rep_get32(ddi_acc_impl_t *hp, uint32_t *host_addr,  in i_ddi_caut_rep_get32()  argument
1866 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get32()
1871 i_ddi_caut_rep_get64(ddi_acc_impl_t *hp, uint64_t *host_addr,  in i_ddi_caut_rep_get64()  argument
1874 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get64()
1879 i_ddi_caut_rep_put8(ddi_acc_impl_t *hp, uint8_t *host_addr, uint8_t *dev_addr,  in i_ddi_caut_rep_put8()  argument
1882 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put8()
1887 i_ddi_caut_rep_put16(ddi_acc_impl_t *hp, uint16_t *host_addr,  in i_ddi_caut_rep_put16()  argument
1890 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put16()
1895 i_ddi_caut_rep_put32(ddi_acc_impl_t *hp, uint32_t *host_addr,  in i_ddi_caut_rep_put32()  argument
1898 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put32()
1903 i_ddi_caut_rep_put64(ddi_acc_impl_t *hp, uint64_t *host_addr,  in i_ddi_caut_rep_put64()  argument
1906 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put64()