Lines Matching refs:isScalableVector
213 assert(VT.isScalableVector() && (VT.getVectorElementType() == MVT::i1) && in getPromotedVTForPredicate()
2143 if (VT.isScalableVector()) in getSetCCResultType()
4273 if (VT.isScalableVector()) in LowerFP_EXTEND()
4286 if (VT.isScalableVector()) in LowerFP_ROUND()
4375 if (VT.isScalableVector()) { in LowerVectorFP_TO_INT()
4505 if (DstVT.isScalableVector()) in LowerVectorFP_TO_INT_SAT()
4655 if (VT.isScalableVector()) { in LowerVectorINT_TO_FP()
4914 if (OpVT.isScalableVector()) { in LowerBITCAST()
5282 if (VT.isScalableVector() || useSVEForFixedLengthVectorVT(VT, OverrideNEON)) in LowerMUL()
5410 assert(VT.isScalableVector() && DAG.getTargetLoweringInfo().isTypeLegal(VT) && in getSVEPredicateBitCast()
5411 InVT.isScalableVector() && in getSVEPredicateBitCast()
6033 if (VT.isScalableVector()) in LowerINTRINSIC_WO_CHAIN()
6112 if (!ExtVT.isScalableVector() && !Subtarget->useSVEForFixedLengthVectors()) in isVectorLoadExtDesirable()
6124 if (!ExtVT.isScalableVector()) in isVectorLoadExtDesirable()
7253 (VT.isFloatingPoint() && !VT.isScalableVector()); in isPassedInFPR()
7272 if (any_of(Outs, [](ISD::OutputArg &Out){ return Out.VT.isScalableVector(); })) in LowerFormalArguments()
7364 else if (RegVT.isScalableVector() && in LowerFormalArguments()
7371 } else if (RegVT.isScalableVector()) { in LowerFormalArguments()
7476 assert((VA.getValVT().isScalableVector() || in LowerFormalArguments()
7519 if (PartLoad.isScalableVector()) { in LowerFormalArguments()
8092 A.getValVT().isScalableVector() || in isEligibleForTailCallOptimization()
8282 if (!Outs[i].IsFixed && Outs[i].VT.isScalableVector()) in LowerCall()
9955 if (VT.isScalableVector()) in LowerFCOPYSIGN()
9971 if (VT.isScalableVector()) in LowerFCOPYSIGN()
10038 if (VT.isScalableVector() || in LowerCTPOP_PARITY()
10139 assert(VT.isScalableVector() || in LowerCTTZ()
10172 if (VT.isScalableVector() || in LowerMinMax()
10199 if (VT.isScalableVector() || in LowerBitreverse()
10658 assert(Ty.isScalableVector() && in LowerVECTOR_SPLICE()
10669 if (Ty.isScalableVector() && IdxVal < 0 && in LowerVECTOR_SPLICE()
10719 if (Ty.isScalableVector()) { in LowerSELECT()
11095 if (VT.isScalableVector()) in LowerVAARG()
11484 (!VT.isScalableVector() || VT.getVectorElementType() != MVT::i1)) in getPredicateRegisterClass()
11673 if (VT.isScalableVector()) in getRegForInlineAsmConstraint()
11683 if (VT.isScalableVector()) { in getRegForInlineAsmConstraint()
11706 if (VT.isScalableVector()) in getRegForInlineAsmConstraint()
11714 if (VT.isScalableVector()) in getRegForInlineAsmConstraint()
11957 assert(!VT.isScalableVector() && in ReconstructShuffleWithRuntimeMask()
12050 assert(!VT.isScalableVector() && in ReconstructShuffle()
12085 V.getOperand(0).getValueType().isScalableVector()) { in ReconstructShuffle()
13320 assert(VT.isScalableVector() && VT.getVectorElementType() == MVT::i1 && in LowerSPLAT_VECTOR()
13349 if (!isTypeLegal(VT) || !VT.isScalableVector()) in LowerDUPQLane()
13799 if (VT.isScalableVector()) in LowerVectorOR()
14392 assert(Op.getValueType().isScalableVector() && in LowerCONCAT_VECTORS()
14535 if (InVT.isScalableVector() || in LowerEXTRACT_SUBVECTOR()
14554 assert(InVT.isScalableVector() && "Unexpected vector type!"); in LowerEXTRACT_SUBVECTOR()
14565 assert(Op.getValueType().isScalableVector() && in LowerINSERT_SUBVECTOR()
14576 if (InVT.isScalableVector()) { in LowerINSERT_SUBVECTOR()
14690 assert(VT.isScalableVector() && "Expected a scalable vector."); in LowerDIV()
14834 if (!VT.isVector() || VT.isScalableVector()) in LowerTRUNCATE()
14901 if (VT.isScalableVector() || in LowerVectorSRA_SRL_SHL()
14914 if (VT.isScalableVector() && in LowerVectorSRA_SRL_SHL()
14925 if (VT.isScalableVector() || in LowerVectorSRA_SRL_SHL()
15072 if (Op.getValueType().isScalableVector()) in LowerVSETCC()
15281 if (SrcVT.isScalableVector() || in LowerVECREDUCE()
15713 if (Mem->getMemoryVT().isScalableVector()) in shouldReduceLoadWidth()
17468 return (OptLevel >= CodeGenOptLevel::Aggressive) && !VT.isScalableVector() && in generateFMAsInMachineCombiner()
17567 return VT.isScalableVector() && isTypeLegal(VT); in shouldFoldSelectWithIdentityConstant()
17948 if (VT.isScalableVector() || in BuildSDIVPow2()
17978 if (VT.isScalableVector() || Subtarget->useSVEForFixedLengthVectors()) in BuildSREMPow2()
18660 if (VT.isScalableVector() && !Subtarget.hasSVE2()) in tryCombineToBSL()
19052 if (VT.isScalableVector()) in performANDCombine()
19182 if (!VT.isScalableVector() || VT.getVectorElementType() != MVT::i1 || in performFirstTrueTestVectorCombine()
19212 if (!OpVT.isScalableVector() || OpVT.getVectorElementType() != MVT::i1) in performLastTrueTestVectorCombine()
19312 if (VT.isScalableVector()) in performConcatVectorsCombine()
19538 if (!VT.isScalableVector() || VT.getVectorElementType() != MVT::i1) in performExtractSubvectorCombine()
19705 if (N.getOperand(0).getValueType().isScalableVector()) in isEssentiallyExtractHighSubvector()
20455 if (!ScalableVT.isScalableVector()) in performSVEMulAddSubCombine()
20972 assert(VT.isScalableVector() && "Expected a scalable vector."); in LowerSVEIntrinsicEXT()
21062 assert(Op.getValueType().isScalableVector() && in getPTest()
21820 if (VT.isScalableVector()) in replaceZeroVectorStore()
22122 if (!VT.isScalableVector() || !Subtarget->hasSVE2()) in trySimplifySrlAddToRshrnb()
22655 if (MemVT.isScalableVector() || MemVT.getSizeInBits() <= 256 || in performLOADCombine()
24169 if (!NTy.isScalableVector()) in trySwapVSelectOperands()
24459 assert(Offset.getValueType().isScalableVector() && in getScaledOffsetForBitWidth()
24507 assert(SrcVT.isScalableVector() && in performScatterStoreCombine()
24619 assert(RetVT.isScalableVector() && in performGatherLoadCombine()
25008 if (!VT.isScalableVector() || Subtarget->hasSVE2() || Subtarget->hasSME()) in performBSPExpandForSVE()
25688 if (ValOnlyUser && ValOnlyUser->getValueType(0).isScalableVector() && in getIndexedAddressParts()
25821 if (VT.isScalableVector() && !isTypeLegal(VT) && isTypeLegal(SrcVT)) { in ReplaceBITCASTResults()
25919 if (!InVT.isScalableVector() || !InVT.isInteger()) in ReplaceExtractSubVectorResults()
27190 assert(VT.isScalableVector() && DAG.getTargetLoweringInfo().isTypeLegal(VT) && in getPredicateForScalableVector()
27205 assert(VT.isScalableVector() && in convertToScalableVector()
27218 assert(V.getValueType().isScalableVector() && in convertFromScalableVector()
27593 assert(VT.isScalableVector() && "Only expect to lower scalable vector op!"); in LowerToPredicatedOp()
27598 V.getValueType().isScalableVector()) && in LowerToPredicatedOp()
27676 if (!OpVT.isScalableVector() || OpVT.getVectorElementType() != MVT::i1) in LowerPredReductionToSVE()
27941 assert(OpVT.isScalableVector() && in LowerVECTOR_DEINTERLEAVE()
27954 assert(OpVT.isScalableVector() && in LowerVECTOR_INTERLEAVE()
28340 assert(VT.isScalableVector() && isTypeLegal(VT) && in getSVESafeBitCast()
28341 InVT.isScalableVector() && isTypeLegal(InVT) && in getSVESafeBitCast()