Lines Matching refs:netmem
123 netmem_ref netmem; in page_pool_alloc_netmem() local
131 netmem = page_pool_alloc_frag_netmem(pool, offset, *size, gfp); in page_pool_alloc_netmem()
132 if (unlikely(!netmem)) in page_pool_alloc_netmem()
144 return netmem; in page_pool_alloc_netmem()
230 static inline void page_pool_fragment_netmem(netmem_ref netmem, long nr) in page_pool_fragment_netmem() argument
232 atomic_long_set(netmem_get_pp_ref_count_ref(netmem), nr); in page_pool_fragment_netmem()
258 static inline long page_pool_unref_netmem(netmem_ref netmem, long nr) in page_pool_unref_netmem() argument
260 atomic_long_t *pp_ref_count = netmem_get_pp_ref_count_ref(netmem); in page_pool_unref_netmem()
308 static inline void page_pool_ref_netmem(netmem_ref netmem) in page_pool_ref_netmem() argument
310 atomic_long_inc(netmem_get_pp_ref_count_ref(netmem)); in page_pool_ref_netmem()
318 static inline bool page_pool_unref_and_test(netmem_ref netmem) in page_pool_unref_and_test() argument
321 return page_pool_unref_netmem(netmem, 1) == 0; in page_pool_unref_and_test()
325 netmem_ref netmem, in page_pool_put_netmem() argument
333 if (!page_pool_unref_and_test(netmem)) in page_pool_put_netmem()
336 page_pool_put_unrefed_netmem(pool, netmem, dma_sync_size, allow_direct); in page_pool_put_netmem()
363 netmem_ref netmem, in page_pool_put_full_netmem() argument
366 page_pool_put_netmem(pool, netmem, -1, allow_direct); in page_pool_put_full_netmem()
415 static inline dma_addr_t page_pool_get_dma_addr_netmem(netmem_ref netmem) in page_pool_get_dma_addr_netmem() argument
417 dma_addr_t ret = netmem_get_dma_addr(netmem); in page_pool_get_dma_addr_netmem()
473 const netmem_ref netmem, u32 offset, in page_pool_dma_sync_netmem_for_cpu() argument
480 page_pool_get_dma_addr_netmem(netmem), in page_pool_dma_sync_netmem_for_cpu()