Lines Matching refs:src_folio

1083 	struct folio *src_folio = *first_src_folio;  in move_present_ptes()  local
1097 if (folio_test_large(src_folio) || in move_present_ptes()
1098 folio_maybe_dma_pinned(src_folio) || in move_present_ptes()
1099 !PageAnonExclusive(&src_folio->page)) { in move_present_ptes()
1111 if (folio_maybe_dma_pinned(src_folio)) { in move_present_ptes()
1117 folio_move_anon_rmap(src_folio, dst_vma); in move_present_ptes()
1118 src_folio->index = linear_page_index(dst_vma, dst_addr); in move_present_ptes()
1120 orig_dst_pte = folio_mk_pte(src_folio, dst_vma->vm_page_prot); in move_present_ptes()
1136 folio_unlock(src_folio); in move_present_ptes()
1137 src_folio = check_ptes_for_batched_move(src_vma, src_addr, in move_present_ptes()
1139 if (!src_folio) in move_present_ptes()
1147 if (src_folio) in move_present_ptes()
1148 folio_unlock(src_folio); in move_present_ptes()
1160 struct folio *src_folio, in move_swap_pte() argument
1168 if (src_folio && unlikely(!folio_test_swapcache(src_folio) || in move_swap_pte()
1169 entry.val != src_folio->swap.val)) in move_swap_pte()
1185 if (src_folio) { in move_swap_pte()
1186 folio_move_anon_rmap(src_folio, dst_vma); in move_swap_pte()
1187 src_folio->index = linear_page_index(dst_vma, dst_addr); in move_swap_pte()
1265 struct folio *src_folio = NULL; in move_pages_ptes() local
1334 if (src_folio && unlikely(!pte_same(src_folio_pte, orig_src_pte))) { in move_pages_ptes()
1353 if (!src_folio) { in move_pages_ptes()
1390 src_folio = folio; in move_pages_ptes()
1399 folio_lock(src_folio); in move_pages_ptes()
1403 if (WARN_ON_ONCE(!folio_test_anon(src_folio))) { in move_pages_ptes()
1410 if (folio_test_large(src_folio)) { in move_pages_ptes()
1415 ret = split_folio(src_folio); in move_pages_ptes()
1419 folio_unlock(src_folio); in move_pages_ptes()
1420 folio_put(src_folio); in move_pages_ptes()
1421 src_folio = NULL; in move_pages_ptes()
1428 dst_pmdval, dst_ptl, src_ptl, &src_folio, in move_pages_ptes()
1469 if (!src_folio) in move_pages_ptes()
1477 src_folio = folio; in move_pages_ptes()
1479 if (!folio_trylock(src_folio)) { in move_pages_ptes()
1486 folio_lock(src_folio); in move_pages_ptes()
1492 dst_ptl, src_ptl, src_folio, si, entry); in move_pages_ptes()
1496 if (src_folio) { in move_pages_ptes()
1497 folio_unlock(src_folio); in move_pages_ptes()
1498 folio_put(src_folio); in move_pages_ptes()