Lines Matching refs:zio_t

174 static inline void __zio_execute(zio_t *zio);
176 static void zio_taskq_dispatch(zio_t *, zio_taskq_type_t, boolean_t);
202 sizeof (zio_t), 0, NULL, NULL, NULL, NULL, NULL, 0); in zio_init()
502 zio_push_transform(zio_t *zio, abd_t *data, uint64_t size, uint64_t bufsize, in zio_push_transform()
520 zio_pop_transforms(zio_t *zio) in zio_pop_transforms()
546 zio_subblock(zio_t *zio, abd_t *data, uint64_t size) in zio_subblock()
555 zio_decompress(zio_t *zio, abd_t *data, uint64_t size) in zio_decompress()
571 zio_decrypt(zio_t *zio, abd_t *data, uint64_t size) in zio_decrypt()
709 zio_t *
710 zio_walk_parents(zio_t *cio, zio_link_t **zl) in zio_walk_parents()
722 zio_t *
723 zio_walk_children(zio_t *pio, zio_link_t **zl) in zio_walk_children()
737 zio_t *
738 zio_unique_parent(zio_t *cio) in zio_unique_parent()
741 zio_t *pio = zio_walk_parents(cio, &zl); in zio_unique_parent()
748 zio_add_child_impl(zio_t *pio, zio_t *cio, boolean_t first) in zio_add_child_impl()
790 zio_add_child(zio_t *pio, zio_t *cio) in zio_add_child()
796 zio_add_child_first(zio_t *pio, zio_t *cio) in zio_add_child_first()
802 zio_remove_child(zio_t *pio, zio_t *cio, zio_link_t *zl) in zio_remove_child()
819 zio_wait_for_children(zio_t *zio, uint8_t childbits, enum zio_wait_type wait) in zio_wait_for_children()
844 zio_notify_parent(zio_t *pio, zio_t *zio, enum zio_wait_type wait, in zio_notify_parent()
845 zio_t **next_to_executep) in zio_notify_parent()
908 zio_inherit_child_errors(zio_t *zio, enum zio_child c) in zio_inherit_child_errors()
917 const zio_t *z1 = x1; in zio_bookmark_compare()
918 const zio_t *z2 = x2; in zio_bookmark_compare()
953 static zio_t *
954 zio_create(zio_t *pio, spa_t *spa, uint64_t txg, const blkptr_t *bp, in zio_create()
961 zio_t *zio; in zio_create()
974 memset(zio, 0, sizeof (zio_t)); in zio_create()
1052 zio_destroy(zio_t *zio) in zio_destroy()
1066 zio_t *
1067 zio_null(zio_t *pio, spa_t *spa, vdev_t *vd, zio_done_func_t *done, in zio_null()
1070 zio_t *zio; in zio_null()
1085 zio_t *
1088 zio_t *zio; in zio_root()
1336 zio_t *
1337 zio_read(zio_t *pio, spa_t *spa, const blkptr_t *bp, in zio_read()
1341 zio_t *zio; in zio_read()
1352 zio_t *
1353 zio_write(zio_t *pio, spa_t *spa, uint64_t txg, blkptr_t *bp, in zio_write()
1359 zio_t *zio; in zio_write()
1389 zio_t *
1390 zio_rewrite(zio_t *pio, spa_t *spa, uint64_t txg, blkptr_t *bp, abd_t *data, in zio_rewrite()
1394 zio_t *zio; in zio_rewrite()
1404 zio_write_override(zio_t *zio, blkptr_t *bp, int copies, int gang_copies, in zio_write_override()
1468 zio_t *
1469 zio_free_sync(zio_t *pio, spa_t *spa, uint64_t txg, const blkptr_t *bp, in zio_free_sync()
1503 zio_t *
1504 zio_claim(zio_t *pio, spa_t *spa, uint64_t txg, const blkptr_t *bp, in zio_claim()
1507 zio_t *zio; in zio_claim()
1540 zio_t *
1541 zio_trim(zio_t *pio, vdev_t *vd, uint64_t offset, uint64_t size, in zio_trim()
1545 zio_t *zio; in zio_trim()
1560 zio_t *
1561 zio_read_phys(zio_t *pio, vdev_t *vd, uint64_t offset, uint64_t size, in zio_read_phys()
1565 zio_t *zio; in zio_read_phys()
1581 zio_t *
1582 zio_write_phys(zio_t *pio, vdev_t *vd, uint64_t offset, uint64_t size, in zio_write_phys()
1586 zio_t *zio; in zio_write_phys()
1618 zio_t *
1619 zio_vdev_child_io(zio_t *pio, blkptr_t *bp, vdev_t *vd, uint64_t offset, in zio_vdev_child_io()
1624 zio_t *zio; in zio_vdev_child_io()
1709 zio_t *
1714 zio_t *zio; in zio_vdev_delegated_io()
1734 zio_flush(zio_t *pio, vdev_t *vd) in zio_flush()
1753 zio_shrink(zio_t *zio, uint64_t size) in zio_shrink()
1811 static zio_t *
1812 zio_read_bp_init(zio_t *zio) in zio_read_bp_init()
1851 static zio_t *
1852 zio_write_bp_init(zio_t *zio) in zio_write_bp_init()
1915 static zio_t *
1916 zio_write_compress(zio_t *zio) in zio_write_compress()
2136 static zio_t *
2137 zio_free_bp_init(zio_t *zio) in zio_free_bp_init()
2158 zio_taskq_dispatch(zio_t *zio, zio_taskq_type_t q, boolean_t cutinline) in zio_taskq_dispatch()
2194 zio_taskq_member(zio_t *zio, zio_taskq_type_t q) in zio_taskq_member()
2212 static zio_t *
2213 zio_issue_async(zio_t *zio) in zio_issue_async()
2227 zio_delay_interrupt(zio_t *zio) in zio_delay_interrupt()
2256 DTRACE_PROBE2(zio__delay__miss, zio_t *, zio, in zio_delay_interrupt()
2266 DTRACE_PROBE3(zio__delay__hit, zio_t *, zio, in zio_delay_interrupt()
2282 DTRACE_PROBE1(zio__delay__skip, zio_t *, zio); in zio_delay_interrupt()
2287 zio_deadman_impl(zio_t *pio, int ziodepth) in zio_deadman_impl()
2289 zio_t *cio, *cio_next; in zio_deadman_impl()
2345 zio_deadman(zio_t *pio, const char *tag) in zio_deadman()
2409 zio_execute_stack_check(zio_t *zio) in zio_execute_stack_check()
2432 __zio_execute(zio_t *zio) in __zio_execute()
2502 zio_wait(zio_t *zio) in zio_wait()
2551 zio_nowait(zio_t *zio) in zio_nowait()
2563 zio_t *pio; in zio_nowait()
2593 zio_t *pio = arg; in zio_reexecute()
2594 zio_t *cio, *cio_next, *gio; in zio_reexecute()
2669 zio_suspend(spa_t *spa, zio_t *zio, zio_suspend_reason_t reason) in zio_suspend()
2710 zio_t *pio; in zio_resume()
2809 zio_gang_issue_func_done(zio_t *zio) in zio_gang_issue_func_done()
2814 static zio_t *
2815 zio_read_gang(zio_t *pio, blkptr_t *bp, zio_gang_node_t *gn, abd_t *data, in zio_read_gang()
2827 static zio_t *
2828 zio_rewrite_gang(zio_t *pio, blkptr_t *bp, zio_gang_node_t *gn, abd_t *data, in zio_rewrite_gang()
2831 zio_t *zio; in zio_rewrite_gang()
2873 static zio_t *
2874 zio_free_gang(zio_t *pio, blkptr_t *bp, zio_gang_node_t *gn, abd_t *data, in zio_free_gang()
2879 zio_t *zio = zio_free_sync(pio, pio->io_spa, pio->io_txg, bp, in zio_free_gang()
2888 static zio_t *
2889 zio_claim_gang(zio_t *pio, blkptr_t *bp, zio_gang_node_t *gn, abd_t *data, in zio_claim_gang()
2906 static void zio_gang_tree_assemble_done(zio_t *zio);
2950 zio_gang_tree_assemble(zio_t *gio, blkptr_t *bp, zio_gang_node_t **gnpp) in zio_gang_tree_assemble()
2964 zio_gang_tree_assemble_done(zio_t *zio) in zio_gang_tree_assemble_done()
2966 zio_t *gio = zio->io_gang_leader; in zio_gang_tree_assemble_done()
2995 zio_gang_tree_issue(zio_t *pio, zio_gang_node_t *gn, blkptr_t *bp, abd_t *data, in zio_gang_tree_issue()
2998 zio_t *gio = pio->io_gang_leader; in zio_gang_tree_issue()
2999 zio_t *zio; in zio_gang_tree_issue()
3031 static zio_t *
3032 zio_gang_assemble(zio_t *zio) in zio_gang_assemble()
3046 static zio_t *
3047 zio_gang_issue(zio_t *zio) in zio_gang_issue()
3070 zio_gang_inherit_allocator(zio_t *pio, zio_t *cio) in zio_gang_inherit_allocator()
3076 zio_write_gang_member_ready(zio_t *zio) in zio_write_gang_member_ready()
3078 zio_t *pio = zio_unique_parent(zio); in zio_write_gang_member_ready()
3082 zio_t *gio __maybe_unused = zio->io_gang_leader; in zio_write_gang_member_ready()
3111 zio_write_gang_done(zio_t *zio) in zio_write_gang_done()
3122 static zio_t *
3123 zio_write_gang_block(zio_t *pio, metaslab_class_t *mc) in zio_write_gang_block()
3127 zio_t *gio = pio->io_gang_leader; in zio_write_gang_block()
3128 zio_t *zio; in zio_write_gang_block()
3244 zio_t *cio = zio_write(zio, spa, txg, bp, has_data ? in zio_write_gang_block()
3298 static zio_t *
3299 zio_nop_write(zio_t *zio) in zio_nop_write()
3370 static zio_t *
3371 zio_brt_free(zio_t *zio) in zio_brt_free()
3400 zio_ddt_child_read_done(zio_t *zio) in zio_ddt_child_read_done()
3405 zio_t *pio = zio_unique_parent(zio); in zio_ddt_child_read_done()
3423 static zio_t *
3424 zio_ddt_read_start(zio_t *zio) in zio_ddt_read_start()
3470 static zio_t *
3471 zio_ddt_read_done(zio_t *zio) in zio_ddt_read_done()
3510 zio_ddt_collision(zio_t *zio, ddt_t *ddt, ddt_entry_t *dde) in zio_ddt_collision()
3536 zio_t *lio = dde->dde_io->dde_lead_zio[p]; in zio_ddt_collision()
3615 zio_ddt_child_write_done(zio_t *zio) in zio_ddt_child_write_done()
3652 zio_t *pio; in zio_ddt_child_write_done()
3673 zio_ddt_child_write_ready(zio_t *zio) in zio_ddt_child_write_ready()
3701 zio_t *pio; in zio_ddt_child_write_ready()
3711 static zio_t *
3712 zio_ddt_write(zio_t *zio) in zio_ddt_write()
3945 zio_t *pio = in zio_ddt_write()
3984 zio_t *cio = zio_write(zio, spa, txg, bp, zio->io_orig_abd, in zio_ddt_write()
4021 static zio_t *
4022 zio_ddt_free(zio_t *zio) in zio_ddt_free()
4060 static zio_t *
4063 zio_t *zio; in zio_io_to_allocate()
4093 static zio_t *
4094 zio_dva_throttle(zio_t *zio) in zio_dva_throttle()
4097 zio_t *nio; in zio_dva_throttle()
4134 zio_t *zio; in zio_allocate_dispatch()
4150 static zio_t *
4151 zio_dva_allocate(zio_t *zio) in zio_dva_allocate()
4299 static zio_t *
4300 zio_dva_free(zio_t *zio) in zio_dva_free()
4307 static zio_t *
4308 zio_dva_claim(zio_t *zio) in zio_dva_claim()
4325 zio_dva_unallocate(zio_t *zio, zio_gang_node_t *gn, blkptr_t *bp) in zio_dva_unallocate()
4444 static zio_t *
4445 zio_vdev_io_start(zio_t *zio) in zio_vdev_io_start()
4601 static zio_t *
4602 zio_vdev_io_done(zio_t *zio) in zio_vdev_io_done()
4658 zio_change_priority(zio_t *pio, zio_priority_t priority) in zio_change_priority()
4660 zio_t *cio, *cio_next; in zio_change_priority()
4692 zio_vsd_default_cksum_report(zio_t *zio, zio_cksum_report_t *zcr) in zio_vsd_default_cksum_report()
4704 static zio_t *
4705 zio_vdev_io_assess(zio_t *zio) in zio_vdev_io_assess()
4794 zio_vdev_io_reissue(zio_t *zio) in zio_vdev_io_reissue()
4803 zio_vdev_io_redone(zio_t *zio) in zio_vdev_io_redone()
4811 zio_vdev_io_bypass(zio_t *zio) in zio_vdev_io_bypass()
4832 static zio_t *
4833 zio_encrypt(zio_t *zio) in zio_encrypt()
4983 static zio_t *
4984 zio_checksum_generate(zio_t *zio) in zio_checksum_generate()
5014 static zio_t *
5015 zio_checksum_verify(zio_t *zio) in zio_checksum_verify()
5044 zio_t *pio = zio_unique_parent(zio); in zio_checksum_verify()
5074 static zio_t *
5075 zio_dio_checksum_verify(zio_t *zio) in zio_dio_checksum_verify()
5077 zio_t *pio = zio_unique_parent(zio); in zio_dio_checksum_verify()
5107 zio_checksum_verified(zio_t *zio) in zio_checksum_verified()
5116 zio_dio_chksum_verify_error_report(zio_t *zio) in zio_dio_chksum_verify_error_report()
5176 static zio_t *
5177 zio_ready(zio_t *zio) in zio_ready()
5180 zio_t *pio, *pio_next; in zio_ready()
5261 zio_dva_throttle_done(zio_t *zio) in zio_dva_throttle_done()
5263 zio_t *pio = zio_unique_parent(zio); in zio_dva_throttle_done()
5306 static zio_t *
5307 zio_done(zio_t *zio) in zio_done()
5314 zio_t *pio, *pio_next; in zio_done()
5647 zio_t *next_to_execute = NULL; in zio_done()