Lines Matching refs:netmem

123 	netmem_ref netmem;  in page_pool_alloc_netmem()  local
131 netmem = page_pool_alloc_frag_netmem(pool, offset, *size, gfp); in page_pool_alloc_netmem()
132 if (unlikely(!netmem)) in page_pool_alloc_netmem()
144 return netmem; in page_pool_alloc_netmem()
237 static inline void page_pool_fragment_netmem(netmem_ref netmem, long nr) in page_pool_fragment_netmem() argument
239 atomic_long_set(netmem_get_pp_ref_count_ref(netmem), nr); in page_pool_fragment_netmem()
265 static inline long page_pool_unref_netmem(netmem_ref netmem, long nr) in page_pool_unref_netmem() argument
267 atomic_long_t *pp_ref_count = netmem_get_pp_ref_count_ref(netmem); in page_pool_unref_netmem()
315 static inline void page_pool_ref_netmem(netmem_ref netmem) in page_pool_ref_netmem() argument
317 atomic_long_inc(netmem_get_pp_ref_count_ref(netmem)); in page_pool_ref_netmem()
325 static inline bool page_pool_unref_and_test(netmem_ref netmem) in page_pool_unref_and_test() argument
328 return page_pool_unref_netmem(netmem, 1) == 0; in page_pool_unref_and_test()
332 netmem_ref netmem, in page_pool_put_netmem() argument
340 if (!page_pool_unref_and_test(netmem)) in page_pool_put_netmem()
343 page_pool_put_unrefed_netmem(pool, netmem, dma_sync_size, allow_direct); in page_pool_put_netmem()
370 netmem_ref netmem, in page_pool_put_full_netmem() argument
373 page_pool_put_netmem(pool, netmem, -1, allow_direct); in page_pool_put_full_netmem()
406 netmem_ref netmem) in page_pool_recycle_direct_netmem() argument
408 page_pool_put_full_netmem(pool, netmem, true); in page_pool_recycle_direct_netmem()
428 static inline dma_addr_t page_pool_get_dma_addr_netmem(netmem_ref netmem) in page_pool_get_dma_addr_netmem() argument
430 dma_addr_t ret = netmem_get_dma_addr(netmem); in page_pool_get_dma_addr_netmem()
481 const netmem_ref netmem, u32 offset, in page_pool_dma_sync_netmem_for_cpu() argument
488 page_pool_get_dma_addr_netmem(netmem), in page_pool_dma_sync_netmem_for_cpu()