1267 	ddi_acc_impl_t *hp;  in impl_acc_hdl_alloc()  local
1276 	if ((hp = kmem_zalloc(sizeof (ddi_acc_impl_t), sleepflag)) == NULL)  in impl_acc_hdl_alloc()
1278 	if ((hp->ahi_err = (ndi_err_t *)kmem_zalloc(  in impl_acc_hdl_alloc()
1280 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_alloc()
1285 		kmem_free(hp->ahi_err, sizeof (ndi_err_t));  in impl_acc_hdl_alloc()
1286 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_alloc()
1289 	hp->ahi_err->err_ontrap = otp;  in impl_acc_hdl_alloc()
1290 	hp->ahi_common.ah_platform_private = (void *)hp;  in impl_acc_hdl_alloc()
1292 	return ((ddi_acc_handle_t)hp);  in impl_acc_hdl_alloc()
1303 	ddi_acc_impl_t *hp;  in impl_acc_hdl_free()  local
1309 	hp = (ddi_acc_impl_t *)handle;  in impl_acc_hdl_free()
1310 	if (hp) {  in impl_acc_hdl_free()
1311 		kmem_free(hp->ahi_err->err_ontrap, sizeof (on_trap_data_t));  in impl_acc_hdl_free()
1312 		kmem_free(hp->ahi_err, sizeof (ndi_err_t));  in impl_acc_hdl_free()
1313 		kmem_free(hp, sizeof (ddi_acc_impl_t));  in impl_acc_hdl_free()
1360 	ddi_acc_hdl_t *hp;  in impl_acc_check()  local
1362 	hp = impl_acc_hdl_get((ddi_acc_handle_t)handle);  in impl_acc_check()
1364 	ASSERT(hp);  in impl_acc_check()
1367 		pfn = hp->ah_pfn;  in impl_acc_check()
1369 		if (fault_pfn >= pfn && fault_pfn < (pfn + hp->ah_pnum))  in impl_acc_check()
1381 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handlep;  in impl_acc_err_init()  local
1395 			errp = hp->ahi_err;  in impl_acc_err_init()
1397 			otp->ot_handle = (void *)(hp);  in impl_acc_err_init()
1416 	ddi_acc_impl_t *hp;  in impl_acc_hdl_init()  local
1420 	hp = (ddi_acc_impl_t *)handlep;  in impl_acc_hdl_init()
1425 	hp->ahi_get8 = i_ddi_get8;  in impl_acc_hdl_init()
1426 	hp->ahi_put8 = i_ddi_put8;  in impl_acc_hdl_init()
1427 	hp->ahi_rep_get8 = i_ddi_rep_get8;  in impl_acc_hdl_init()
1428 	hp->ahi_rep_put8 = i_ddi_rep_put8;  in impl_acc_hdl_init()
1430 		hp->ahi_get16 = i_ddi_swap_get16;  in impl_acc_hdl_init()
1431 		hp->ahi_get32 = i_ddi_swap_get32;  in impl_acc_hdl_init()
1432 		hp->ahi_get64 = i_ddi_swap_get64;  in impl_acc_hdl_init()
1433 		hp->ahi_put16 = i_ddi_swap_put16;  in impl_acc_hdl_init()
1434 		hp->ahi_put32 = i_ddi_swap_put32;  in impl_acc_hdl_init()
1435 		hp->ahi_put64 = i_ddi_swap_put64;  in impl_acc_hdl_init()
1436 		hp->ahi_rep_get16 = i_ddi_swap_rep_get16;  in impl_acc_hdl_init()
1437 		hp->ahi_rep_get32 = i_ddi_swap_rep_get32;  in impl_acc_hdl_init()
1438 		hp->ahi_rep_get64 = i_ddi_swap_rep_get64;  in impl_acc_hdl_init()
1439 		hp->ahi_rep_put16 = i_ddi_swap_rep_put16;  in impl_acc_hdl_init()
1440 		hp->ahi_rep_put32 = i_ddi_swap_rep_put32;  in impl_acc_hdl_init()
1441 		hp->ahi_rep_put64 = i_ddi_swap_rep_put64;  in impl_acc_hdl_init()
1443 		hp->ahi_get16 = i_ddi_get16;  in impl_acc_hdl_init()
1444 		hp->ahi_get32 = i_ddi_get32;  in impl_acc_hdl_init()
1445 		hp->ahi_get64 = i_ddi_get64;  in impl_acc_hdl_init()
1446 		hp->ahi_put16 = i_ddi_put16;  in impl_acc_hdl_init()
1447 		hp->ahi_put32 = i_ddi_put32;  in impl_acc_hdl_init()
1448 		hp->ahi_put64 = i_ddi_put64;  in impl_acc_hdl_init()
1449 		hp->ahi_rep_get16 = i_ddi_rep_get16;  in impl_acc_hdl_init()
1450 		hp->ahi_rep_get32 = i_ddi_rep_get32;  in impl_acc_hdl_init()
1451 		hp->ahi_rep_get64 = i_ddi_rep_get64;  in impl_acc_hdl_init()
1452 		hp->ahi_rep_put16 = i_ddi_rep_put16;  in impl_acc_hdl_init()
1453 		hp->ahi_rep_put32 = i_ddi_rep_put32;  in impl_acc_hdl_init()
1454 		hp->ahi_rep_put64 = i_ddi_rep_put64;  in impl_acc_hdl_init()
1458 	hp->ahi_fault_check = i_ddi_acc_fault_check;  in impl_acc_hdl_init()
1459 	hp->ahi_fault_notify = i_ddi_acc_fault_notify;  in impl_acc_hdl_init()
1460 	hp->ahi_fault = 0;  in impl_acc_hdl_init()
1467 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handle;  in i_ddi_acc_set_fault()  local
1469 	if (!hp->ahi_fault) {  in i_ddi_acc_set_fault()
1470 		hp->ahi_fault = 1;  in i_ddi_acc_set_fault()
1471 			(*hp->ahi_fault_notify)(hp);  in i_ddi_acc_set_fault()
1478 	ddi_acc_impl_t *hp = (ddi_acc_impl_t *)handle;  in i_ddi_acc_clr_fault()  local
1480 	if (hp->ahi_fault) {  in i_ddi_acc_clr_fault()
1481 		hp->ahi_fault = 0;  in i_ddi_acc_clr_fault()
1482 			(*hp->ahi_fault_notify)(hp);  in i_ddi_acc_clr_fault()
1488 i_ddi_acc_fault_notify(ddi_acc_impl_t *hp)  in i_ddi_acc_fault_notify()  argument
1761     ddi_acc_impl_t *hp, uint64_t host_addr, uint64_t dev_addr, size_t size,  in i_ddi_caut_getput_ctlops()  argument
1769 	cautacc_ctlops_arg.handle = (ddi_acc_handle_t)hp;  in i_ddi_caut_getput_ctlops()
1773 	(void) ddi_ctlops(hp->ahi_common.ah_dip, hp->ahi_common.ah_dip, cmd,  in i_ddi_caut_getput_ctlops()
1778 i_ddi_caut_get8(ddi_acc_impl_t *hp, uint8_t *addr)  in i_ddi_caut_get8()  argument
1781 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get8()
1788 i_ddi_caut_get16(ddi_acc_impl_t *hp, uint16_t *addr)  in i_ddi_caut_get16()  argument
1791 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get16()
1798 i_ddi_caut_get32(ddi_acc_impl_t *hp, uint32_t *addr)  in i_ddi_caut_get32()  argument
1801 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get32()
1808 i_ddi_caut_get64(ddi_acc_impl_t *hp, uint64_t *addr)  in i_ddi_caut_get64()  argument
1811 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_get64()
1818 i_ddi_caut_put8(ddi_acc_impl_t *hp, uint8_t *addr, uint8_t value)  in i_ddi_caut_put8()  argument
1820 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put8()
1825 i_ddi_caut_put16(ddi_acc_impl_t *hp, uint16_t *addr, uint16_t value)  in i_ddi_caut_put16()  argument
1827 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put16()
1832 i_ddi_caut_put32(ddi_acc_impl_t *hp, uint32_t *addr, uint32_t value)  in i_ddi_caut_put32()  argument
1834 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put32()
1839 i_ddi_caut_put64(ddi_acc_impl_t *hp, uint64_t *addr, uint64_t value)  in i_ddi_caut_put64()  argument
1841 	i_ddi_caut_getput_ctlops(hp, (uint64_t)&value, (uint64_t)addr,  in i_ddi_caut_put64()
1846 i_ddi_caut_rep_get8(ddi_acc_impl_t *hp, uint8_t *host_addr, uint8_t *dev_addr,  in i_ddi_caut_rep_get8()  argument
1849 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get8()
1854 i_ddi_caut_rep_get16(ddi_acc_impl_t *hp, uint16_t *host_addr,  in i_ddi_caut_rep_get16()  argument
1857 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get16()
1862 i_ddi_caut_rep_get32(ddi_acc_impl_t *hp, uint32_t *host_addr,  in i_ddi_caut_rep_get32()  argument
1865 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get32()
1870 i_ddi_caut_rep_get64(ddi_acc_impl_t *hp, uint64_t *host_addr,  in i_ddi_caut_rep_get64()  argument
1873 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_get64()
1878 i_ddi_caut_rep_put8(ddi_acc_impl_t *hp, uint8_t *host_addr, uint8_t *dev_addr,  in i_ddi_caut_rep_put8()  argument
1881 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put8()
1886 i_ddi_caut_rep_put16(ddi_acc_impl_t *hp, uint16_t *host_addr,  in i_ddi_caut_rep_put16()  argument
1889 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put16()
1894 i_ddi_caut_rep_put32(ddi_acc_impl_t *hp, uint32_t *host_addr,  in i_ddi_caut_rep_put32()  argument
1897 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put32()
1902 i_ddi_caut_rep_put64(ddi_acc_impl_t *hp, uint64_t *host_addr,  in i_ddi_caut_rep_put64()  argument
1905 	i_ddi_caut_getput_ctlops(hp, (uint64_t)host_addr, (uint64_t)dev_addr,  in i_ddi_caut_rep_put64()