Searched defs:netmem (Results 1 – 13 of 13) sorted by relevance
/linux/include/net/ |
H A D | netmem.h | 70 static inline bool netmem_is_net_iov(const netmem_ref netmem) in netmem_is_net_iov() 78 static inline struct page *netmem_to_page(netmem_ref netmem) in netmem_to_page() 86 static inline struct net_iov *netmem_to_net_iov(netmem_ref netmem) in netmem_to_net_iov() 106 static inline int netmem_ref_count(netmem_ref netmem) in netmem_ref_count() 117 static inline unsigned long netmem_pfn_trace(netmem_ref netmem) in netmem_pfn_trace() 125 static inline struct net_iov *__netmem_clear_lsb(netmem_ref netmem) in __netmem_clear_lsb() 130 static inline struct page_pool *netmem_get_pp(netmem_ref netmem) in netmem_get_pp() 135 static inline atomic_long_t *netmem_get_pp_ref_count_ref(netmem_ref netmem) in netmem_get_pp_ref_count_ref() 140 static inline bool netmem_is_pref_nid(netmem_ref netmem, int pref_nid) in netmem_is_pref_nid() 152 static inline netmem_ref netmem_compound_head(netmem_ref netmem) in netmem_compound_head() [all …]
|
/linux/net/core/ |
H A D | page_pool.c | 373 netmem_ref netmem; in page_pool_refill_alloc_cache() local 425 netmem_ref netmem; in __page_pool_get_cached() local 440 netmem_ref netmem, in __page_pool_dma_sync_for_device() 454 netmem_ref netmem, in page_pool_dma_sync_for_device() 461 static bool page_pool_dma_map(struct page_pool *pool, netmem_ref netmem) in page_pool_dma_map() 524 netmem_ref netmem; in __page_pool_alloc_pages_slow() local 579 netmem_ref netmem; in page_pool_alloc_netmem() local 626 void page_pool_set_pp_info(struct page_pool *pool, netmem_ref netmem) in page_pool_set_pp_info() 642 void page_pool_clear_pp_info(netmem_ref netmem) in page_pool_clear_pp_info() 649 netmem_ref netmem) in __page_pool_release_page_dma() [all …]
|
H A D | netmem_priv.h | 6 static inline unsigned long netmem_get_pp_magic(netmem_ref netmem) in netmem_get_pp_magic() 11 static inline void netmem_or_pp_magic(netmem_ref netmem, unsigned long pp_magic) in netmem_or_pp_magic() 16 static inline void netmem_clear_pp_magic(netmem_ref netmem) in netmem_clear_pp_magic() 21 static inline void netmem_set_pp(netmem_ref netmem, struct page_pool *pool) in netmem_set_pp() 26 static inline void netmem_set_dma_addr(netmem_ref netmem, in netmem_set_dma_addr()
|
H A D | page_pool_priv.h | 17 page_pool_set_dma_addr_netmem(netmem_ref netmem, dma_addr_t addr) in page_pool_set_dma_addr_netmem() 45 netmem_ref netmem) in page_pool_set_pp_info() 48 static inline void page_pool_clear_pp_info(netmem_ref netmem) in page_pool_clear_pp_info()
|
H A D | devmem.c | 351 netmem_ref netmem; in mp_dmabuf_devmem_alloc_netmems() local 373 bool mp_dmabuf_devmem_release_page(struct page_pool *pool, netmem_ref netmem) in mp_dmabuf_devmem_release_page()
|
H A D | mp_dmabuf_devmem.h | 38 mp_dmabuf_devmem_release_page(struct page_pool *pool, netmem_ref netmem) in mp_dmabuf_devmem_release_page()
|
H A D | skbuff.c | 879 void skb_add_rx_frag_netmem(struct sk_buff *skb, int i, netmem_ref netmem, in skb_add_rx_frag_netmem() 924 static bool is_pp_netmem(netmem_ref netmem) in is_pp_netmem() 1022 bool napi_pp_put_page(netmem_ref netmem) in napi_pp_put_page()
|
H A D | sock.c | 1089 netmem_ref netmem = (__force netmem_ref)__xa_erase( in sock_devmem_dontneed() local
|
/linux/include/net/page_pool/ |
H A D | helpers.h | 217 static inline void page_pool_fragment_netmem(netmem_ref netmem, long nr) in page_pool_fragment_netmem() 245 static inline long page_pool_unref_netmem(netmem_ref netmem, long nr) in page_pool_unref_netmem() 295 static inline void page_pool_ref_netmem(netmem_ref netmem) in page_pool_ref_netmem() 305 static inline bool page_pool_is_last_ref(netmem_ref netmem) in page_pool_is_last_ref() 312 netmem_ref netmem, in page_pool_put_netmem() 350 netmem_ref netmem, in page_pool_put_full_netmem() 402 static inline dma_addr_t page_pool_get_dma_addr_netmem(netmem_ref netmem) in page_pool_get_dma_addr_netmem()
|
/linux/include/linux/ |
H A D | skbuff_ref.h | 37 static inline void skb_page_unref(netmem_ref netmem, bool recycle) in skb_page_unref()
|
H A D | skbuff.h | 363 netmem_ref netmem; member 2492 netmem_ref netmem, int off, in skb_frag_fill_netmem_desc() 2508 int i, netmem_ref netmem, in __skb_fill_netmem_desc_noacc() 2550 netmem_ref netmem, int off, int size) in __skb_fill_netmem_desc() 2579 netmem_ref netmem, int off, int size) in skb_fill_netmem_desc()
|
/linux/net/bpf/ |
H A D | test_run.c | 130 static void xdp_test_run_init_page(netmem_ref netmem, void *arg) in xdp_test_run_init_page()
|
/linux/net/ipv4/ |
H A D | tcp_ipv4.c | 2521 void *netmem; local
|