| /linux/kernel/bpf/preload/iterators/ |
| H A D | iterators.bpf.c | 40 struct bpf_prog_aux { struct
50 struct bpf_prog_aux *aux; argument
104 struct bpf_prog_aux *aux; in dump_bpf_prog()
|
| /linux/kernel/sched/ext/ |
| H A D | idle.c | 1029 __bpf_kfunc s32 scx_bpf_cpu_node(s32 cpu, const struct bpf_prog_aux *aux) in scx_bpf_cpu_node()
1059 const struct bpf_prog_aux *aux) in scx_bpf_select_cpu_dfl()
1114 const struct bpf_prog_aux *aux) in __scx_bpf_select_cpu_and()
1175 scx_bpf_get_idle_cpumask_node(s32 node, const struct bpf_prog_aux *aux) in scx_bpf_get_idle_cpumask_node()
1200 __bpf_kfunc const struct cpumask *scx_bpf_get_idle_cpumask(const struct bpf_prog_aux *aux) in scx_bpf_get_idle_cpumask()
1233 scx_bpf_get_idle_smtmask_node(s32 node, const struct bpf_prog_aux *aux) in scx_bpf_get_idle_smtmask_node()
1262 __bpf_kfunc const struct cpumask *scx_bpf_get_idle_smtmask(const struct bpf_prog_aux *aux) in scx_bpf_get_idle_smtmask()
1312 __bpf_kfunc bool scx_bpf_test_and_clear_cpu_idle(s32 cpu, const struct bpf_prog_aux *aux) in scx_bpf_test_and_clear_cpu_idle()
1353 const struct bpf_prog_aux *aux) in scx_bpf_pick_idle_cpu_node()
1394 u64 flags, const struct bpf_prog_aux *aux) in scx_bpf_pick_idle_cpu()
[all …]
|
| H A D | sub.c | 2221 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs
2230 __bpf_kfunc bool scx_bpf_sub_dispatch(u64 cgroup_id, const struct bpf_prog_aux *aux) in scx_bpf_sub_dispatch()
2264 static s32 sub_cap_preamble(u64 cgroup_id, u64 caps, const struct bpf_prog_aux *aux, in sub_cap_preamble()
2319 const struct bpf_prog_aux *aux) in scx_bpf_sub_grant()
2438 const struct bpf_prog_aux *aux) in scx_bpf_sub_revoke()
2531 const struct bpf_prog_aux *aux) in scx_bpf_sub_caps()
2605 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs
2622 const struct bpf_prog_aux *aux) in scx_bpf_sub_kill_bstr()
2660 const struct bpf_prog_aux *aux) in scx_bpf_sub_grant()
2667 const struct bpf_prog_aux *au in scx_bpf_sub_revoke()
[all...] |
| H A D | ext.c | 8893 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs in scx_bpf_dsq_insert___v2()
8929 const struct bpf_prog_aux *aux)
8951 const struct bpf_prog_aux *aux)
8983 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs in scx_bpf_dsq_insert_vtime()
9009 const struct bpf_prog_aux *aux)
9183 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs
9187 __bpf_kfunc u32 scx_bpf_dispatch_nr_slots(const struct bpf_prog_aux *aux)
9202 * @aux: implicit BPF argument to access bpf_prog_aux hidden from BPF progs in scx_bpf_dsq_move_to_local___v2()
9207 __bpf_kfunc void scx_bpf_dispatch_cancel(const struct bpf_prog_aux *aux) in scx_bpf_dsq_move_to_local___v2()
9229 * @aux: implicit BPF argument to access bpf_prog_aux hidde in scx_bpf_dsq_move_to_local___v2()
[all...] |
| H A D | cid.c | 469 const struct bpf_prog_aux *aux) in scx_bpf_cid_override()
631 __bpf_kfunc s32 scx_bpf_cid_to_cpu(s32 cid, const struct bpf_prog_aux *aux) in scx_bpf_cid_to_cpu()
653 __bpf_kfunc s32 scx_bpf_cpu_to_cid(s32 cpu, const struct bpf_prog_aux *aux) in scx_bpf_cpu_to_cid()
924 const struct bpf_prog_aux *aux) in scx_bpf_cid_topo()
|
| H A D | sub.h | 27 bool scx_bpf_sub_dispatch(u64 cgroup_id, const struct bpf_prog_aux *aux);
|
| H A D | internal.h | 2454 static inline struct scx_sched *scx_prog_sched(const struct bpf_prog_aux *aux) in scx_parent()
2523 static inline struct scx_sched *scx_prog_sched(const struct bpf_prog_aux *aux)
|
| /linux/include/linux/ |
| H A D | bpf.h | 44 struct bpf_prog_aux;
137 int (*map_poke_track)(struct bpf_map *map, struct bpf_prog_aux *aux);
138 void (*map_poke_untrack)(struct bpf_map *map, struct bpf_prog_aux *aux);
1742 struct bpf_prog_aux { argument
1798 struct bpf_prog_aux *main_prog_aux; argument
1897 struct bpf_prog_aux *aux; /* Auxiliary fields */
2250 void *bpf_prog_get_assoc_struct_ops(const struct bpf_prog_aux *aux);
2308 static inline void *bpf_prog_get_assoc_struct_ops(const struct bpf_prog_aux *aux) in bpf_prog_get_assoc_struct_ops()
3594 void __bpf_free_used_maps(struct bpf_prog_aux *aux,
3629 struct bpf_prog_aux *prog_au
1741 struct bpf_prog_aux { global() struct
1743 used_map_cntbpf_prog_aux global() argument
1744 used_btf_cntbpf_prog_aux global() argument
1745 max_ctx_offsetbpf_prog_aux global() argument
1746 max_pkt_offsetbpf_prog_aux global() argument
1747 max_tp_accessbpf_prog_aux global() argument
1748 stack_depthbpf_prog_aux global() argument
1749 idbpf_prog_aux global() argument
1750 func_cntbpf_prog_aux global() argument
1751 real_func_cntbpf_prog_aux global() argument
1752 func_idxbpf_prog_aux global() argument
1753 attach_btf_idbpf_prog_aux global() argument
1754 attach_st_ops_member_offbpf_prog_aux global() argument
1755 ctx_arg_info_sizebpf_prog_aux global() argument
1756 max_rdonly_accessbpf_prog_aux global() argument
1757 max_rdwr_accessbpf_prog_aux global() argument
1758 subprog_startbpf_prog_aux global() argument
1759 attach_btfbpf_prog_aux global() argument
1760 ctx_arg_infobpf_prog_aux global() argument
1761 priv_stack_ptrbpf_prog_aux global() argument
1762 dst_mutexbpf_prog_aux global() argument
1763 dst_progbpf_prog_aux global() argument
1764 dst_trampolinebpf_prog_aux global() argument
1765 saved_dst_prog_typebpf_prog_aux global() argument
1766 saved_dst_attach_typebpf_prog_aux global() argument
1767 verifier_zextbpf_prog_aux global() argument
1768 dev_boundbpf_prog_aux global() argument
1769 offload_requestedbpf_prog_aux global() argument
1770 attach_btf_tracebpf_prog_aux global() argument
1771 attach_tracing_progbpf_prog_aux global() argument
1772 func_proto_unreliablebpf_prog_aux global() argument
1773 tail_call_reachablebpf_prog_aux global() argument
1797 main_prog_auxbpf_prog_aux global() argument
1799 poke_tabbpf_prog_aux global() argument
1800 kfunc_tabbpf_prog_aux global() argument
1801 kfunc_btf_tabbpf_prog_aux global() argument
1802 size_poke_tabbpf_prog_aux global() argument
1804 ksym_prefixbpf_prog_aux global() argument
1806 ksymbpf_prog_aux global() argument
1807 opsbpf_prog_aux global() argument
1808 st_opsbpf_prog_aux global() argument
1809 used_mapsbpf_prog_aux global() argument
1810 used_maps_mutexbpf_prog_aux global() argument
1811 used_btfsbpf_prog_aux global() argument
1812 progbpf_prog_aux global() argument
1813 userbpf_prog_aux global() argument
1814 load_timebpf_prog_aux global() argument
1815 verified_insnsbpf_prog_aux global() argument
1816 cgroup_atypebpf_prog_aux global() argument
1817 cgroup_storagebpf_prog_aux global() argument
1818 namebpf_prog_aux global() argument
1819 bpf_exception_cbbpf_prog_aux global() argument
1820 stack_arg_sp_adjustbpf_prog_aux global() argument
1822 securitybpf_prog_aux global() argument
1824 tokenbpf_prog_aux global() argument
1825 offloadbpf_prog_aux global() argument
1826 btfbpf_prog_aux global() argument
1827 func_infobpf_prog_aux global() argument
1828 func_info_auxbpf_prog_aux global() argument
1835 linfobpf_prog_aux global() argument
1843 jited_linfobpf_prog_aux global() argument
1844 func_info_cntbpf_prog_aux global() argument
1845 nr_linfobpf_prog_aux global() argument
1850 linfo_idxbpf_prog_aux global() argument
1851 modbpf_prog_aux global() argument
1852 num_exentriesbpf_prog_aux global() argument
1853 extablebpf_prog_aux global() argument
1854 __anone9e50916130abpf_prog_aux global() argument
1858 streambpf_prog_aux global() argument
1859 st_ops_assoc_mutexbpf_prog_aux global() argument
1860 st_ops_assocbpf_prog_aux global() argument
[all...] |
| H A D | filter.h | 35 struct bpf_prog_aux;
|
| /linux/tools/testing/selftests/bpf/test_kmods/ |
| H A D | bpf_testmod.c | 1450 __bpf_kfunc int bpf_kfunc_multi_st_ops_test_1_assoc(struct st_ops_args *args, struct bpf_prog_aux *…
1452 __bpf_kfunc int bpf_kfunc_implicit_arg(int a, struct bpf_prog_aux *aux);
1453 __bpf_kfunc int bpf_kfunc_implicit_arg_legacy(int a, int b, struct bpf_prog_aux *aux);
1454 __bpf_kfunc int bpf_kfunc_implicit_arg_legacy_impl(int a, int b, struct bpf_prog_aux *aux);
2024 int bpf_kfunc_multi_st_ops_test_1_assoc(struct st_ops_args *args, struct bpf_prog_aux *aux) in bpf_kfunc_multi_st_ops_test_1_assoc()
2036 int bpf_kfunc_implicit_arg(int a, struct bpf_prog_aux *aux) in bpf_kfunc_implicit_arg()
2043 int bpf_kfunc_implicit_arg_legacy(int a, int b, struct bpf_prog_aux *aux) in bpf_kfunc_implicit_arg_legacy()
2050 int bpf_kfunc_implicit_arg_legacy_impl(int a, int b, struct bpf_prog_aux *aux) in bpf_kfunc_implicit_arg_legacy_impl()
|
| /linux/kernel/bpf/ |
| H A D | core.c | 104 struct bpf_prog_aux *aux; in bpf_prog_alloc_no_stats()
765 container_of(ksym, struct bpf_prog_aux, ksym)->prog : in bpf_prog_ksym_find()
2510 struct bpf_prog_aux *aux = fp->aux; in __bpf_prog_map_compatible()
2587 struct bpf_prog_aux *aux = fp->aux; in bpf_check_tail_call()
3025 void __bpf_free_used_maps(struct bpf_prog_aux *aux, in __bpf_free_used_maps()
3043 static void bpf_free_used_maps(struct bpf_prog_aux *aux) in __bpf_free_used_btfs()
3064 static void bpf_free_used_btfs(struct bpf_prog_aux *aux) in bpf_prog_free_deferred()
3072 struct bpf_prog_aux *aux; in bpf_prog_free_deferred()
3075 aux = container_of(work, struct bpf_prog_aux, work); in bpf_prog_free_deferred()
3113 struct bpf_prog_aux *au
[all...] |
| H A D | arraymap.c | 1108 struct bpf_prog_aux *aux;
1112 struct bpf_prog_aux *prog_aux) in prog_array_map_poke_track()
1145 struct bpf_prog_aux *prog_aux) in prog_array_map_poke_untrack()
|
| H A D | helpers.c | 1502 struct bpf_prog_aux *, aux) in BPF_CALL_3() argument
3358 struct bpf_prog_aux *aux;
3450 struct bpf_prog_aux *aux) in bpf_wq_set_callback()
4601 struct bpf_prog_aux *aux, enum task_work_notify_mode mode) in bpf_task_work_schedule()
4650 * @aux: pointer to bpf_prog_aux of the caller BPF program, implicitly set by the verifier
4656 struct bpf_prog_aux *aux) in bpf_task_work_schedule_signal()
4668 * @aux: pointer to bpf_prog_aux of the caller BPF program, implicitly set by the verifier
4674 struct bpf_prog_aux *aux) in bpf_task_work_schedule_resume()
|
| H A D | local_storage.c | 475 int bpf_cgroup_storage_assign(struct bpf_prog_aux *aux, struct bpf_map *_map) in bpf_cgroup_storage_assign()
|
| H A D | syscall.c | 2442 struct bpf_prog_aux *aux = container_of(rcu, struct bpf_prog_aux, rcu); in __bpf_prog_put_rcu()
2475 struct bpf_prog_aux *aux; in bpf_prog_put_deferred()
2478 aux = container_of(work, struct bpf_prog_aux, work); in bpf_prog_put_deferred()
2488 struct bpf_prog_aux *aux = prog->aux; in __bpf_prog_put()
|
| H A D | bpf_struct_ops.c | 1549 void *bpf_prog_get_assoc_struct_ops(const struct bpf_prog_aux *aux) in bpf_prog_get_assoc_struct_ops()
|
| H A D | trampoline.c | 848 struct bpf_prog_aux *aux = tgt_prog->aux; in bpf_freplace_check_tgt_prog()
|
| H A D | verifier.c | 2417 struct bpf_prog_aux *aux = env->prog->aux; in bpf_find_exception_callback_insn_off()
2810 struct bpf_prog_aux *prog_aux; in bpf_add_kfunc_call()
11524 BTF_ID(struct, bpf_prog_aux) in is_kfunc_arg_list_head()
12720 /* Reject repeated use bpf_prog_aux */ in check_kfunc_args()
17263 struct bpf_prog_aux *aux = env->prog->aux; in may_access_skb()
17960 struct bpf_prog_aux *aux = env->prog->aux; in bpf_clear_singular_ids()
19487 struct bpf_prog_aux *aux = env->prog->aux; in do_check_common()
19673 struct bpf_prog_aux *aux = env->prog->aux; in print_verification_stats()
20143 struct bpf_prog_aux *aux = tgt_prog->aux; in bpf_check_attach_target()
21475 /* if program passed verifier, update used_btfs in bpf_prog_aux */
[all...] |
| H A D | fixups.c | 416 struct bpf_prog_aux *aux = env->prog->aux; in adjust_subprog_starts_after_remove()
|
| /linux/Documentation/bpf/ |
| H A D | kfuncs.rst | 465 Currently only ``struct bpf_prog_aux *`` type is supported.
480 struct bpf_prog_aux *aux) { ... }
|
| H A D | signing.rst | 219 keyring fields live in ``struct bpf_prog_aux``, so a BPF LSM program can read
|
| /linux/arch/parisc/net/ |
| H A D | bpf_jit_comp64.c | 599 struct bpf_prog_aux *aux = ctx->prog->aux; in bpf_jit_emit_insn()
|
| /linux/arch/riscv/net/ |
| H A D | bpf_jit_comp64.c | 1367 struct bpf_prog_aux *aux = ctx->prog->aux; in bpf_jit_emit_insn()
|
| /linux/arch/arm64/net/ |
| H A D | bpf_jit_comp.c | 460 struct bpf_prog_aux *aux = ctx->prog->aux; in pop_callee_regs()
|
| /linux/net/core/ |
| H A D | filter.c | 1663 struct bpf_prog_aux *aux = container_of(rcu, struct bpf_prog_aux, rcu); in sk_reuseport_prog_free_rcu()
|