Home
last modified time | relevance | path

Searched defs:netmem (Results 1 – 21 of 21) sorted by relevance

/linux/include/net/
H A Dnetmem.h105 * __netmem_to_page - unsafely get pointer to the &page backing @netmem in __netmem_to_page() argument
113 * Return: pointer to the &page (garbage if @netmem is not page-backed). in netmem_to_page() argument
89 netmem_is_net_iov(const netmem_ref netmem) netmem_is_net_iov() argument
121 netmem_to_net_iov(netmem_ref netmem) netmem_to_net_iov() argument
152 netmem_ref_count(netmem_ref netmem) netmem_ref_count() argument
163 netmem_pfn_trace(netmem_ref netmem) netmem_pfn_trace() argument
171 __netmem_clear_lsb(netmem_ref netmem) __netmem_clear_lsb() argument
187 __netmem_get_pp(netmem_ref netmem) __netmem_get_pp() argument
192 netmem_get_pp(netmem_ref netmem) netmem_get_pp() argument
197 netmem_get_pp_ref_count_ref(netmem_ref netmem) netmem_get_pp_ref_count_ref() argument
202 netmem_is_pref_nid(netmem_ref netmem,int pref_nid) netmem_is_pref_nid() argument
214 netmem_compound_head(netmem_ref netmem) netmem_compound_head() argument
234 __netmem_address(netmem_ref netmem) __netmem_address() argument
239 netmem_address(netmem_ref netmem) netmem_address() argument
254 netmem_is_pfmemalloc(netmem_ref netmem) netmem_is_pfmemalloc() argument
262 netmem_get_dma_addr(netmem_ref netmem) netmem_get_dma_addr() argument
[all...]
H A Dxdp.h190 static inline bool __xdp_buff_add_frag(struct xdp_buff *xdp, netmem_ref netmem, in __xdp_buff_add_frag() argument
244 static inline bool xdp_buff_add_frag(struct xdp_buff *xdp, netmem_ref netmem, in xdp_buff_add_frag() argument
[all...]
/linux/net/core/
H A Dpage_pool.c379 netmem_ref netmem; in page_pool_refill_alloc_cache() local
431 netmem_ref netmem; in __page_pool_get_cached() local
446 netmem_ref netmem, in __page_pool_dma_sync_for_device()
460 netmem_ref netmem, in page_pool_dma_sync_for_device()
473 static bool page_pool_dma_map(struct page_pool *pool, netmem_ref netmem, gfp_t gfp) in page_pool_dma_map()
553 netmem_ref netmem; in __page_pool_alloc_pages_slow() local
607 netmem_ref netmem; in page_pool_alloc_netmems() local
654 void page_pool_set_pp_info(struct page_pool *pool, netmem_ref netmem) in page_pool_set_pp_info()
670 void page_pool_clear_pp_info(netmem_ref netmem) in page_pool_clear_pp_info()
677 netmem_ref netmem) in __page_pool_release_page_dma()
[all …]
H A Dnetmem_priv.h6 static inline unsigned long netmem_get_pp_magic(netmem_ref netmem) in netmem_get_pp_magic() argument
11 static inline void netmem_or_pp_magic(netmem_ref netmem, unsigned long pp_magic) in netmem_or_pp_magic() argument
16 static inline void netmem_clear_pp_magic(netmem_ref netmem) in netmem_clear_pp_magic() argument
21 netmem_set_pp(netmem_ref netmem,struct page_pool * pool) netmem_set_pp() argument
26 netmem_set_dma_addr(netmem_ref netmem,unsigned long dma_addr) netmem_set_dma_addr() argument
[all...]
H A Dpage_pool_priv.h19 page_pool_set_dma_addr_netmem(netmem_ref netmem, dma_addr_t addr) in page_pool_set_dma_addr_netmem()
47 netmem_ref netmem) in page_pool_set_pp_info()
50 static inline void page_pool_clear_pp_info(netmem_ref netmem) in page_pool_clear_pp_info()
H A Dmp_dmabuf_devmem.h38 mp_dmabuf_devmem_release_page(struct page_pool *pool, netmem_ref netmem) in mp_dmabuf_devmem_release_page()
H A Ddevmem.c419 netmem_ref netmem; in mp_dmabuf_devmem_alloc_netmems() local
441 bool mp_dmabuf_devmem_release_page(struct page_pool *pool, netmem_ref netmem) in mp_dmabuf_devmem_release_page()
H A Dxdp.c432 __xdp_return(netmem_ref netmem,enum xdp_mem_type mem_type,bool napi_direct,struct xdp_buff * xdp) __xdp_return() argument
542 xdp_return_frag(netmem_ref netmem,const struct xdp_buff * xdp) xdp_return_frag() argument
702 netmem_ref netmem; xdp_copy_frags_from_zc() local
[all...]
H A Dskbuff.c853 void skb_add_rx_frag_netmem(struct sk_buff *skb, int i, netmem_ref netmem, in skb_add_rx_frag_netmem()
991 bool napi_pp_put_page(netmem_ref netmem) in napi_pp_put_page()
7347 void get_netmem(netmem_ref netmem) in get_netmem()
7361 void put_netmem(netmem_ref netmem) in put_netmem()
H A Dsock.c1113 netmem_ref netmem = (__force netmem_ref)__xa_erase( in sock_devmem_dontneed() local
/linux/include/net/page_pool/
H A Dhelpers.h123 netmem_ref netmem; in page_pool_alloc_netmem() local
230 static inline void page_pool_fragment_netmem(netmem_ref netmem, long nr) in page_pool_fragment_netmem() argument
258 static inline long page_pool_unref_netmem(netmem_ref netmem, long nr) in page_pool_unref_netmem() argument
308 static inline void page_pool_ref_netmem(netmem_ref netmem) in page_pool_ref_netmem() argument
318 page_pool_unref_and_test(netmem_ref netmem) page_pool_unref_and_test() argument
325 page_pool_put_netmem(struct page_pool * pool,netmem_ref netmem,unsigned int dma_sync_size,bool allow_direct) page_pool_put_netmem() argument
363 page_pool_put_full_netmem(struct page_pool * pool,netmem_ref netmem,bool allow_direct) page_pool_put_full_netmem() argument
415 page_pool_get_dma_addr_netmem(netmem_ref netmem) page_pool_get_dma_addr_netmem() argument
473 page_pool_dma_sync_netmem_for_cpu(const struct page_pool * pool,const netmem_ref netmem,u32 offset,u32 dma_sync_size) page_pool_dma_sync_netmem_for_cpu() argument
[all...]
H A Dmemory_provider.h46 netmem_ref netmem) in net_mp_netmem_place_in_cache()
/linux/drivers/net/ethernet/google/gve/
H A Dgve_buffer_mgmt_dqo.c209 netmem_ref netmem = buf_state->page_info.netmem; in gve_free_to_page_pool() local
221 netmem_ref netmem; in gve_alloc_from_page_pool() local
H A Dgve.h115 netmem_ref netmem; member
/linux/io_uring/
H A Dzcrx.c210 netmem_ref netmem = net_iov_to_netmem(&area->nia.niovs[i]); in io_zcrx_unmap_umem() local
677 netmem_ref netmem = net_iov_to_netmem(niov); in io_zcrx_return_niov() local
742 netmem_ref netmem; in io_zcrx_ring_refill() local
798 netmem_ref netmem = net_iov_to_netmem(niov); in io_zcrx_refill_slow() local
826 static bool io_pp_zc_release_netmem(struct page_pool *pp, netmem_ref netmem) in io_pp_zc_release_netmem()
/linux/include/linux/
H A Dskbuff_ref.h37 static inline void skb_page_unref(netmem_ref netmem, bool recycle) in skb_page_unref() argument
H A Dskbuff.h363 netmem_ref netmem; global() member
2503 skb_frag_fill_netmem_desc(skb_frag_t * frag,netmem_ref netmem,int off,int size) skb_frag_fill_netmem_desc() argument
2519 __skb_fill_netmem_desc_noacc(struct skb_shared_info * shinfo,int i,netmem_ref netmem,int off,int size) __skb_fill_netmem_desc_noacc() argument
2561 __skb_fill_netmem_desc(struct sk_buff * skb,int i,netmem_ref netmem,int off,int size) __skb_fill_netmem_desc() argument
2590 skb_fill_netmem_desc(struct sk_buff * skb,int i,netmem_ref netmem,int off,int size) skb_fill_netmem_desc() argument
[all...]
/linux/net/bpf/
H A Dtest_run.c130 static void xdp_test_run_init_page(netmem_ref netmem, void *arg) in xdp_test_run_init_page() argument
/linux/drivers/net/ethernet/broadcom/bnxt/
H A Dbnxt.c926 netmem_ref netmem; in __bnxt_alloc_rx_netmem() local
1025 netmem_ref netmem; in bnxt_alloc_rx_netmem() local
1085 netmem_ref netmem; in bnxt_reuse_rx_agg_bufs() local
1261 netmem_ref netmem; in __bnxt_rx_agg_netmems() local
3486 netmem_ref netmem = rx_agg_buf->netmem; in bnxt_free_one_rx_agg_ring() local
H A Dbnxt.h906 netmem_ref netmem; member
/linux/net/ipv4/
H A Dtcp_ipv4.c2534 void *netmem; global() local