| /freebsd/contrib/llvm-project/llvm/include/llvm/CodeGen/ |
| H A D | ValueTypes.h | 174 bool isScalableVector() const { in isScalableVector() function 175 return isSimple() ? V.isScalableVector() : isExtendedScalableVector(); in isScalableVector() 188 return isScalableVector() || isScalableTargetExtVT(); in isScalableVT() 244 if (isScalableVector()) in isRound() 281 assert(isScalableVector() == VT.isScalableVector() && in bitsGT() 289 assert(isScalableVector() == VT.isScalableVector() && in bitsGE() 297 assert(isScalableVector() == VT.isScalableVector() && in bitsLT() 305 assert(isScalableVector() == VT.isScalableVector() && in bitsLE() 334 if (isScalableVector()) in getVectorNumElements()
|
| /freebsd/contrib/llvm-project/llvm/include/llvm/CodeGenTypes/ |
| H A D | MachineValueType.h | 114 bool isScalableVector() const { in isScalableVector() function 133 return isScalableVector() || isScalableTargetExtVT(); in isScalableVT() 292 return ElementCount::get(getVectorMinNumElements(), isScalableVector()); in getVectorElementCount() 296 if (isScalableVector()) in getVectorNumElements() 407 assert(isScalableVector() == VT.isScalableVector() && in bitsGT() 414 assert(isScalableVector() == VT.isScalableVector() && in bitsGE() 421 assert(isScalableVector() == VT.isScalableVector() && in bitsLT() 428 assert(isScalableVector() == VT.isScalableVector() && in bitsLE()
|
| H A D | LowLevelType.h | 182 constexpr bool isScalableVector() const { return isVector() && isScalable(); } in isScalableVector() function
|
| /freebsd/contrib/llvm-project/llvm/lib/Target/RISCV/ |
| H A D | RISCVSelectionDAGInfo.cpp | 33 assert(VT.isScalableVector() && VT.getVectorElementType() == MVT::i32 && in verifyTargetNode() 40 assert(MaskVT.isScalableVector() && in verifyTargetNode()
|
| H A D | RISCVCallingConv.cpp | 570 } else if (ValVT.isScalableVector()) { in CC_RISCV() 717 if (LocVT.isScalableVector() || in CC_RISCV_FastCC()
|
| H A D | RISCVTargetTransformInfo.h | 292 if (DataTypeVT.isScalableVector() && in isLegalMaskedGatherScatter()
|
| H A D | RISCVISelLowering.cpp | 1694 (VT.isScalableVector() || Subtarget.useRVVForFixedLengthVectors())) in getSetCCResultType() 2350 if (ResVT.isScalableVector() || SrcVT.isScalableVector()) in isExtractSubvectorCheap() 2537 assert(VT.isScalableVector() && "Expecting a scalable vector type"); in getLMUL() 2668 assert(SubVecVT.isScalableVector() && in decomposeSubvectorInsertExtractToSubRegs() 2871 assert(VT.isScalableVector() && in convertToScalableVector() 2884 assert(V.getValueType().isScalableVector() && in convertFromScalableVector() 2910 assert(VecVT.isScalableVector() && "Expecting a scalable vector"); in getDefaultScalableVLOps() 2919 assert(ContainerVT.isScalableVector() && "Expecting scalable container type"); in getDefaultVLOps() 2935 assert(ContainerVT.isScalableVector() && "Expecting scalable container type"); in getDefaultVLOps() 2941 assert(VecVT.isScalableVector() && "Expected scalable vector"); in computeVLMax() [all …]
|
| /freebsd/contrib/llvm-project/llvm/lib/Target/AArch64/ |
| H A D | AArch64CallingConvention.cpp | 46 if (LocVT.isScalableVector()) { in finishStackBlock() 153 else if (LocVT.isScalableVector()) { in CC_AArch64_Custom_Block() 205 if (!LocVT.isScalableVector()) { in CC_AArch64_Custom_Block()
|
| H A D | AArch64ISelLowering.cpp | 219 assert(VT.isScalableVector() && (VT.getVectorElementType() == MVT::i1) && in getPromotedVTForPredicate() 2380 if (VT.isScalableVector()) in getSetCCResultType() 2716 if (VT.isScalableVector()) { in allowsMisalignedMemoryAccesses() 4309 if (VT.isScalableVector()) { in LowerFP_EXTEND() 4359 if (VT.isScalableVector()) { in LowerFP_ROUND() 4503 assert(!(IsStrict && VT.isScalableVector()) && in LowerVectorFP_TO_INT() 4522 if (VT.isScalableVector()) { in LowerVectorFP_TO_INT() 4645 if (DstVT.isScalableVector()) in LowerVectorFP_TO_INT_SAT() 4821 assert(!(IsStrict && VT.isScalableVector()) && in LowerVectorINT_TO_FP() 4825 if (VT.isScalableVector() && InVT.getVectorElementType() == MVT::i1) { in LowerVectorINT_TO_FP() [all …]
|
| H A D | AArch64ISelDAGToDAG.cpp | 1827 if (!VT.isScalableVector()) in SelectOpcodeFromVT() 4532 if (VT.isFixedLengthVector() || InVT.isScalableVector()) in trySelectCastFixedLengthToScalableVector() 4561 if (VT.isScalableVector() || InVT.isFixedLengthVector()) in trySelectCastScalableToFixedLengthVector() 4598 if (VT.isScalableVector() && in trySelectXAR() 4684 if ((!SVT.isScalableVector() && !Subtarget->hasSHA3()) || in trySelectXAR() 4685 (SVT.isScalableVector() && !Subtarget->hasSVE2())) in trySelectXAR() 4729 if (SVT.isScalableVector() && VT.is64BitVector()) { in trySelectXAR() 4746 (SVT.isScalableVector() ? AArch64::zsub : AArch64::dsub), DL, MVT::i32); in trySelectXAR() 4752 if (SVT.isScalableVector() || R2.getValueType() != SVT) in trySelectXAR() 4761 if (SVT.isScalableVector()) { in trySelectXAR() [all …]
|
| /freebsd/contrib/llvm-project/llvm/lib/CodeGenTypes/ |
| H A D | LowLevelType.cpp | 21 bool asVector = VT.getVectorMinNumElements() > 1 || VT.isScalableVector(); in LLT()
|
| /freebsd/contrib/llvm-project/llvm/lib/CodeGen/SelectionDAG/ |
| H A D | LegalizeVectorTypes.cpp | 1412 if (MemVT.isScalableVector()) { in IncrementPointer() 1590 if (LoVT.isScalableVector()) { in SplitVecRes_BITCAST() 1687 if (VecVT.isScalableVector() == SubVecVT.isScalableVector() && in SplitVecRes_INSERT_SUBVECTOR() 1996 } else if (!Vec.getValueType().isScalableVector()) { in SplitVecRes_INSERT_VECTOR_ELT() 2060 assert(N->getValueType(0).isScalableVector() && in SplitVecRes_STEP_VECTOR() 2205 if (LoMemVT.isScalableVector()) in SplitVecRes_VP_LOAD() 2286 if (LoMemVT.isScalableVector()) in SplitVecRes_VP_STRIDED_LOAD() 2369 if (LoMemVT.isScalableVector()) in SplitVecRes_MLOAD() 3751 if (ResVT.isScalableVector()) { in SplitVecOp_BITCAST() 3809 } else if (SubVT.isScalableVector() == in SplitVecOp_EXTRACT_SUBVECTOR() [all …]
|
| H A D | SelectionDAG.cpp | 1712 if (VT.isScalableVector() || in getConstant() 2123 if (ResVT.isScalableVector()) in getStepVector() 2965 assert(VT.isVector() && !VT.isScalableVector() && "Only for fixed vectors!"); in computeVectorKnownZeroElements() 2991 assert((!VT.isScalableVector() || DemandedElts.getBitWidth() == 1) && in isSplatValue() 3043 if (VT.isScalableVector()) in isSplatValue() 3109 if (Src.getValueType().isScalableVector()) in isSplatValue() 3127 if (Src.getValueType().isScalableVector()) in isSplatValue() 3186 = APInt::getAllOnes(VT.isScalableVector() ? 1 : VT.getVectorNumElements()); in isSplatValue() 3203 = APInt::getAllOnes(VT.isScalableVector() ? 1 : VT.getVectorNumElements()); in getSplatSourceVector() 3206 if (VT.isScalableVector()) { in getSplatSourceVector() [all …]
|
| H A D | LegalizeVectorOps.cpp | 1001 if (Node->getValueType(0).isScalableVector()) { in Expand() 1190 if (Node->getValueType(0).isScalableVector()) { in Expand() 1506 if (VT.isScalableVector()) in ExpandBSWAP() 1538 if (VT.isScalableVector()) in ExpandBITREVERSE() 1940 !VT.isScalableVector()) in ExpandFNEG() 1960 !VT.isScalableVector()) in ExpandFABS() 1982 !VT.isScalableVector()) in ExpandFCOPYSIGN()
|
| H A D | TargetLowering.cpp | 720 if (VT.isScalableVector()) in SimplifyMultipleUseDemandedBits() 904 if (VT.isScalableVector()) in SimplifyMultipleUseDemandedBits() 920 if (VT.isScalableVector()) in SimplifyMultipleUseDemandedBits() 933 if (VT.isScalableVector()) in SimplifyMultipleUseDemandedBits() 947 assert(!VT.isScalableVector()); in SimplifyMultipleUseDemandedBits() 973 if (VT.isScalableVector()) in SimplifyMultipleUseDemandedBits() 1220 if (VT.isScalableVector()) in SimplifyDemandedBits() 1271 if (VT.isScalableVector()) in SimplifyDemandedBits() 1309 if (VT.isScalableVector()) in SimplifyDemandedBits() 1354 if (VT.isScalableVector()) in SimplifyDemandedBits() [all …]
|
| /freebsd/contrib/llvm-project/llvm/lib/CodeGen/GlobalISel/ |
| H A D | Utils.cpp | 1197 assert(((OrigTy.isScalableVector() && !TargetTy.isFixedVector()) || in getLCMType() 1198 (OrigTy.isFixedVector() && !TargetTy.isScalableVector())) && in getLCMType() 1252 if ((OrigTy.isScalableVector() && TargetTy.isFixedVector()) || in getCoverTy() 1253 (OrigTy.isFixedVector() && TargetTy.isScalableVector())) in getCoverTy() 1284 assert(((OrigTy.isScalableVector() && !TargetTy.isFixedVector()) || in getGCDType() 1285 (OrigTy.isFixedVector() && !TargetTy.isScalableVector())) && in getGCDType() 1771 if (Ty.isScalableVector()) in shiftAmountKnownInRange()
|
| H A D | GISelValueTracking.cpp | 678 if (MRI.getType(MI.getOperand(0).getReg()).isScalableVector()) in computeKnownBitsImpl() 1620 if (VecTy.isScalableVector()) in computeKnownFPClass() 1659 if (DstTy.isScalableVector()) { in computeKnownFPClass() 1964 if (MRI.getType(MI.getOperand(0).getReg()).isScalableVector()) in computeNumSignBits()
|
| /freebsd/contrib/llvm-project/llvm/lib/CodeGen/ |
| H A D | ValueTypes.cpp | 172 return (isScalableVector() ? "nxv" : "v") + in getEVTString()
|
| H A D | TargetLoweringBase.cpp | 1174 if (VT.isScalableVector() && !isPowerOf2_32(EC.getKnownMinValue())) in getVectorTypeBreakdownMVT() 1485 bool IsScalable = VT.isScalableVector(); in computeRegisterProperties() 1520 SVT.isScalableVector() == IsScalable && in computeRegisterProperties()
|
| H A D | MachineVerifier.cpp | 1515 SrcTy.isScalableVector() != DstTy.isScalableVector() || in verifyPreISelGenericInstruction() 1767 if (!DstTy.isScalableVector()) { in verifyPreISelGenericInstruction() 1955 if (!DstTy.isScalableVector()) { in verifyPreISelGenericInstruction() 2702 if (RegBank && Ty.isValid() && !Ty.isScalableVector() && in visitMachineOperand()
|
| /freebsd/contrib/llvm-project/clang/utils/TableGen/ |
| H A D | SveEmitter.cpp | 95 bool isScalableVector() const { return isVector() && IsScalable; } in isScalableVector() function in __anone51b860d0111::SVEType 505 if (isScalableVector()) in builtin_str() 570 else if (isScalableVector()) in str()
|
| /freebsd/contrib/llvm-project/llvm/lib/Target/AArch64/GISel/ |
| H A D | AArch64PostLegalizerCombiner.cpp | 312 if (ValTy.isScalableVector()) in matchSplitStoreZero128() 832 LdSt && MRI.getType(LdSt->getOperand(0).getReg()).isScalableVector()) in optimizeConsecutiveMemOpAddressing()
|
| /freebsd/contrib/llvm-project/llvm/include/llvm/CodeGen/GlobalISel/ |
| H A D | LegalizerInfo.h | 1286 assert((!MinTy.isScalableVector() && !MaxTy.isScalableVector()) && in clampNumElements()
|
| /freebsd/contrib/llvm-project/llvm/utils/TableGen/Common/ |
| H A D | CodeGenDAGPatterns.cpp | 537 auto ASize = std::tuple(A.isScalableVector(), A.getScalarSizeInBits(), in EnforceSmallerThan() 539 auto BSize = std::tuple(B.isScalableVector(), B.getScalarSizeInBits(), in EnforceSmallerThan() 547 if (std::tuple(A.isVector(), A.isScalableVector()) != in EnforceSmallerThan() 548 std::tuple(B.isVector(), B.isScalableVector())) in EnforceSmallerThan() 661 if (B.isScalableVector() != P.isScalableVector()) in EnforceVectorSubVectorTypeIs()
|
| /freebsd/contrib/llvm-project/llvm/utils/TableGen/ |
| H A D | DAGISelMatcherGen.cpp | 285 StringRef Name = VT.isScalableVector() ? "splat_vector" : "build_vector"; in EmitLeafMatchCode()
|