Lines Matching refs:crypto_int32_x
581 void crypto_int32_store(unsigned char *crypto_int32_s,crypto_int32 crypto_int32_x) { in crypto_int32_store() argument
582 *crypto_int32_s++ = crypto_int32_x >> 0; in crypto_int32_store()
583 *crypto_int32_s++ = crypto_int32_x >> 8; in crypto_int32_store()
584 *crypto_int32_s++ = crypto_int32_x >> 16; in crypto_int32_store()
585 *crypto_int32_s++ = crypto_int32_x >> 24; in crypto_int32_store()
590 crypto_int32 crypto_int32_negative_mask(crypto_int32 crypto_int32_x) { in crypto_int32_negative_mask() argument
592 __asm__ ("sarl $31,%0" : "+r"(crypto_int32_x) : : "cc"); in crypto_int32_negative_mask()
593 return crypto_int32_x; in crypto_int32_negative_mask()
596 __asm__ ("asr %w0,%w1,31" : "=r"(crypto_int32_y) : "r"(crypto_int32_x) : ); in crypto_int32_negative_mask()
599 crypto_int32_x >>= 32-6; in crypto_int32_negative_mask()
600 crypto_int32_x ^= crypto_int32_optblocker; in crypto_int32_negative_mask()
601 crypto_int32_x >>= 5; in crypto_int32_negative_mask()
602 return crypto_int32_x; in crypto_int32_negative_mask()
608 crypto_int32_unsigned crypto_int32_unsigned_topbit_01(crypto_int32_unsigned crypto_int32_x) { in crypto_int32_unsigned_topbit_01() argument
610 __asm__ ("shrl $31,%0" : "+r"(crypto_int32_x) : : "cc"); in crypto_int32_unsigned_topbit_01()
611 return crypto_int32_x; in crypto_int32_unsigned_topbit_01()
614 __asm__ ("lsr %w0,%w1,31" : "=r"(crypto_int32_y) : "r"(crypto_int32_x) : ); in crypto_int32_unsigned_topbit_01()
617 crypto_int32_x >>= 32-6; in crypto_int32_unsigned_topbit_01()
618 crypto_int32_x ^= crypto_int32_optblocker; in crypto_int32_unsigned_topbit_01()
619 crypto_int32_x >>= 5; in crypto_int32_unsigned_topbit_01()
620 return crypto_int32_x; in crypto_int32_unsigned_topbit_01()
626 crypto_int32 crypto_int32_negative_01(crypto_int32 crypto_int32_x) { in crypto_int32_negative_01() argument
627 return crypto_int32_unsigned_topbit_01(crypto_int32_x); in crypto_int32_negative_01()
632 crypto_int32 crypto_int32_topbit_mask(crypto_int32 crypto_int32_x) { in crypto_int32_topbit_mask() argument
633 return crypto_int32_negative_mask(crypto_int32_x); in crypto_int32_topbit_mask()
638 crypto_int32 crypto_int32_topbit_01(crypto_int32 crypto_int32_x) { in crypto_int32_topbit_01() argument
639 return crypto_int32_unsigned_topbit_01(crypto_int32_x); in crypto_int32_topbit_01()
644 crypto_int32 crypto_int32_bottombit_mask(crypto_int32 crypto_int32_x) { in crypto_int32_bottombit_mask() argument
646 __asm__ ("andl $1,%0" : "+r"(crypto_int32_x) : : "cc"); in crypto_int32_bottombit_mask()
647 return -crypto_int32_x; in crypto_int32_bottombit_mask()
650 __asm__ ("sbfx %w0,%w1,0,1" : "=r"(crypto_int32_y) : "r"(crypto_int32_x) : ); in crypto_int32_bottombit_mask()
653 crypto_int32_x &= 1 ^ crypto_int32_optblocker; in crypto_int32_bottombit_mask()
654 return -crypto_int32_x; in crypto_int32_bottombit_mask()
660 crypto_int32 crypto_int32_bottombit_01(crypto_int32 crypto_int32_x) { in crypto_int32_bottombit_01() argument
662 __asm__ ("andl $1,%0" : "+r"(crypto_int32_x) : : "cc"); in crypto_int32_bottombit_01()
663 return crypto_int32_x; in crypto_int32_bottombit_01()
666 __asm__ ("ubfx %w0,%w1,0,1" : "=r"(crypto_int32_y) : "r"(crypto_int32_x) : ); in crypto_int32_bottombit_01()
669 crypto_int32_x &= 1 ^ crypto_int32_optblocker; in crypto_int32_bottombit_01()
670 return crypto_int32_x; in crypto_int32_bottombit_01()
676 crypto_int32 crypto_int32_bitinrangepublicpos_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_… in crypto_int32_bitinrangepublicpos_mask() argument
678 __asm__ ("sarl %%cl,%0" : "+r"(crypto_int32_x) : "c"(crypto_int32_s) : "cc"); in crypto_int32_bitinrangepublicpos_mask()
680 __asm__ ("asr %w0,%w0,%w1" : "+r"(crypto_int32_x) : "r"(crypto_int32_s) : ); in crypto_int32_bitinrangepublicpos_mask()
682 crypto_int32_x >>= crypto_int32_s ^ crypto_int32_optblocker; in crypto_int32_bitinrangepublicpos_mask()
684 return crypto_int32_bottombit_mask(crypto_int32_x); in crypto_int32_bitinrangepublicpos_mask()
689 crypto_int32 crypto_int32_bitinrangepublicpos_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_in… in crypto_int32_bitinrangepublicpos_01() argument
691 __asm__ ("sarl %%cl,%0" : "+r"(crypto_int32_x) : "c"(crypto_int32_s) : "cc"); in crypto_int32_bitinrangepublicpos_01()
693 __asm__ ("asr %w0,%w0,%w1" : "+r"(crypto_int32_x) : "r"(crypto_int32_s) : ); in crypto_int32_bitinrangepublicpos_01()
695 crypto_int32_x >>= crypto_int32_s ^ crypto_int32_optblocker; in crypto_int32_bitinrangepublicpos_01()
697 return crypto_int32_bottombit_01(crypto_int32_x); in crypto_int32_bitinrangepublicpos_01()
702 crypto_int32 crypto_int32_shlmod(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_s) { in crypto_int32_shlmod() argument
704 __asm__ ("shll %%cl,%0" : "+r"(crypto_int32_x) : "c"(crypto_int32_s) : "cc"); in crypto_int32_shlmod()
706 __asm__ ("lsl %w0,%w0,%w1" : "+r"(crypto_int32_x) : "r"(crypto_int32_s) : ); in crypto_int32_shlmod()
710 …crypto_int32_x ^= (crypto_int32_x ^ (crypto_int32_x << crypto_int32_k)) & crypto_int32_bitinrangep… in crypto_int32_shlmod()
712 return crypto_int32_x; in crypto_int32_shlmod()
717 crypto_int32 crypto_int32_shrmod(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_s) { in crypto_int32_shrmod() argument
719 __asm__ ("sarl %%cl,%0" : "+r"(crypto_int32_x) : "c"(crypto_int32_s) : "cc"); in crypto_int32_shrmod()
721 __asm__ ("asr %w0,%w0,%w1" : "+r"(crypto_int32_x) : "r"(crypto_int32_s) : ); in crypto_int32_shrmod()
725 …crypto_int32_x ^= (crypto_int32_x ^ (crypto_int32_x >> crypto_int32_k)) & crypto_int32_bitinrangep… in crypto_int32_shrmod()
727 return crypto_int32_x; in crypto_int32_shrmod()
732 crypto_int32 crypto_int32_bitmod_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_s) { in crypto_int32_bitmod_mask() argument
733 crypto_int32_x = crypto_int32_shrmod(crypto_int32_x,crypto_int32_s); in crypto_int32_bitmod_mask()
734 return crypto_int32_bottombit_mask(crypto_int32_x); in crypto_int32_bitmod_mask()
739 crypto_int32 crypto_int32_bitmod_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_s) { in crypto_int32_bitmod_01() argument
740 crypto_int32_x = crypto_int32_shrmod(crypto_int32_x,crypto_int32_s); in crypto_int32_bitmod_01()
741 return crypto_int32_bottombit_01(crypto_int32_x); in crypto_int32_bitmod_01()
746 crypto_int32 crypto_int32_nonzero_mask(crypto_int32 crypto_int32_x) { in crypto_int32_nonzero_mask() argument
749 …2,%2\n cmovnel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_nonzero_mask()
753 __asm__ ("cmp %w1,0\n csetm %w0,ne" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_nonzero_mask()
756 crypto_int32_x |= -crypto_int32_x; in crypto_int32_nonzero_mask()
757 return crypto_int32_negative_mask(crypto_int32_x); in crypto_int32_nonzero_mask()
763 crypto_int32 crypto_int32_nonzero_01(crypto_int32 crypto_int32_x) { in crypto_int32_nonzero_01() argument
766 …2,%2\n cmovnel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_nonzero_01()
770 __asm__ ("cmp %w1,0\n cset %w0,ne" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_nonzero_01()
773 crypto_int32_x |= -crypto_int32_x; in crypto_int32_nonzero_01()
774 return crypto_int32_unsigned_topbit_01(crypto_int32_x); in crypto_int32_nonzero_01()
780 crypto_int32 crypto_int32_positive_mask(crypto_int32 crypto_int32_x) { in crypto_int32_positive_mask() argument
783 …%2,%2\n cmovgl %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_positive_mask()
787 __asm__ ("cmp %w1,0\n csetm %w0,gt" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_positive_mask()
790 crypto_int32 crypto_int32_z = -crypto_int32_x; in crypto_int32_positive_mask()
791 crypto_int32_z ^= crypto_int32_x & crypto_int32_z; in crypto_int32_positive_mask()
798 crypto_int32 crypto_int32_positive_01(crypto_int32 crypto_int32_x) { in crypto_int32_positive_01() argument
801 …%2,%2\n cmovgl %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_positive_01()
805 __asm__ ("cmp %w1,0\n cset %w0,gt" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_positive_01()
808 crypto_int32 crypto_int32_z = -crypto_int32_x; in crypto_int32_positive_01()
809 crypto_int32_z ^= crypto_int32_x & crypto_int32_z; in crypto_int32_positive_01()
816 crypto_int32 crypto_int32_zero_mask(crypto_int32 crypto_int32_x) { in crypto_int32_zero_mask() argument
819 …%2,%2\n cmovel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_zero_mask()
823 __asm__ ("cmp %w1,0\n csetm %w0,eq" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_zero_mask()
826 return ~crypto_int32_nonzero_mask(crypto_int32_x); in crypto_int32_zero_mask()
832 crypto_int32 crypto_int32_zero_01(crypto_int32 crypto_int32_x) { in crypto_int32_zero_01() argument
835 …%2,%2\n cmovel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x) : "cc"); in crypto_int32_zero_01()
839 __asm__ ("cmp %w1,0\n cset %w0,eq" : "=r"(crypto_int32_z) : "r"(crypto_int32_x) : "cc"); in crypto_int32_zero_01()
842 return 1-crypto_int32_nonzero_01(crypto_int32_x); in crypto_int32_zero_01()
848 crypto_int32 crypto_int32_unequal_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_unequal_mask() argument
851 … cmovnel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_unequal_mask()
855 …__asm__ ("cmp %w1,%w2\n csetm %w0,ne" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int… in crypto_int32_unequal_mask()
858 return crypto_int32_nonzero_mask(crypto_int32_x ^ crypto_int32_y); in crypto_int32_unequal_mask()
864 crypto_int32 crypto_int32_unequal_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_unequal_01() argument
867 … cmovnel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_unequal_01()
871 …__asm__ ("cmp %w1,%w2\n cset %w0,ne" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int3… in crypto_int32_unequal_01()
874 return crypto_int32_nonzero_01(crypto_int32_x ^ crypto_int32_y); in crypto_int32_unequal_01()
880 crypto_int32 crypto_int32_equal_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_equal_mask() argument
883 …n cmovel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_equal_mask()
887 …__asm__ ("cmp %w1,%w2\n csetm %w0,eq" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int… in crypto_int32_equal_mask()
890 return ~crypto_int32_unequal_mask(crypto_int32_x,crypto_int32_y); in crypto_int32_equal_mask()
896 crypto_int32 crypto_int32_equal_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_equal_01() argument
899 …n cmovel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_equal_01()
903 …__asm__ ("cmp %w1,%w2\n cset %w0,eq" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int3… in crypto_int32_equal_01()
906 return 1-crypto_int32_unequal_01(crypto_int32_x,crypto_int32_y); in crypto_int32_equal_01()
912 crypto_int32 crypto_int32_min(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_min() argument
914 __asm__ ("cmpl %1,%0\n cmovgl %1,%0" : "+r"(crypto_int32_x) : "r"(crypto_int32_y) : "cc"); in crypto_int32_min()
915 return crypto_int32_x; in crypto_int32_min()
917 __asm__ ("cmp %w0,%w1\n csel %w0,%w0,%w1,lt" : "+r"(crypto_int32_x) : "r"(crypto_int32_y) : "cc"); in crypto_int32_min()
918 return crypto_int32_x; in crypto_int32_min()
920 crypto_int64 crypto_int32_r = (crypto_int64)crypto_int32_y ^ (crypto_int64)crypto_int32_x; in crypto_int32_min()
921 crypto_int64 crypto_int32_z = (crypto_int64)crypto_int32_y - (crypto_int64)crypto_int32_x; in crypto_int32_min()
925 return crypto_int32_x ^ crypto_int32_z; in crypto_int32_min()
931 crypto_int32 crypto_int32_max(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_max() argument
933 __asm__ ("cmpl %1,%0\n cmovll %1,%0" : "+r"(crypto_int32_x) : "r"(crypto_int32_y) : "cc"); in crypto_int32_max()
934 return crypto_int32_x; in crypto_int32_max()
936 __asm__ ("cmp %w0,%w1\n csel %w0,%w1,%w0,lt" : "+r"(crypto_int32_x) : "r"(crypto_int32_y) : "cc"); in crypto_int32_max()
937 return crypto_int32_x; in crypto_int32_max()
939 crypto_int64 crypto_int32_r = (crypto_int64)crypto_int32_y ^ (crypto_int64)crypto_int32_x; in crypto_int32_max()
940 crypto_int64 crypto_int32_z = (crypto_int64)crypto_int32_y - (crypto_int64)crypto_int32_x; in crypto_int32_max()
951 crypto_int32 crypto_int32_x = *crypto_int32_p; in crypto_int32_minmax() local
955 … %1,%0\n cmovgl %2,%1\n cmovgl %0,%2" : "=&r"(crypto_int32_z), "+&r"(crypto_int32_x), "+r"(crypto_… in crypto_int32_minmax()
956 *crypto_int32_p = crypto_int32_x; in crypto_int32_minmax()
960 … %w1,%w3,%w2,lt" : "=&r"(crypto_int32_r), "=r"(crypto_int32_s) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_minmax()
964 crypto_int64 crypto_int32_r = (crypto_int64)crypto_int32_y ^ (crypto_int64)crypto_int32_x; in crypto_int32_minmax()
965 crypto_int64 crypto_int32_z = (crypto_int64)crypto_int32_y - (crypto_int64)crypto_int32_x; in crypto_int32_minmax()
969 crypto_int32_x ^= crypto_int32_z; in crypto_int32_minmax()
971 *crypto_int32_p = crypto_int32_x; in crypto_int32_minmax()
978 crypto_int32 crypto_int32_smaller_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_smaller_mask() argument
981 …n cmovll %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_smaller_mask()
985 …__asm__ ("cmp %w1,%w2\n csetm %w0,lt" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int… in crypto_int32_smaller_mask()
988 crypto_int32 crypto_int32_r = crypto_int32_x ^ crypto_int32_y; in crypto_int32_smaller_mask()
989 crypto_int32 crypto_int32_z = crypto_int32_x - crypto_int32_y; in crypto_int32_smaller_mask()
990 crypto_int32_z ^= crypto_int32_r & (crypto_int32_z ^ crypto_int32_x); in crypto_int32_smaller_mask()
997 crypto_int32 crypto_int32_smaller_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_smaller_01() argument
1000 …n cmovll %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_smaller_01()
1004 …__asm__ ("cmp %w1,%w2\n cset %w0,lt" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int3… in crypto_int32_smaller_01()
1007 crypto_int32 crypto_int32_r = crypto_int32_x ^ crypto_int32_y; in crypto_int32_smaller_01()
1008 crypto_int32 crypto_int32_z = crypto_int32_x - crypto_int32_y; in crypto_int32_smaller_01()
1009 crypto_int32_z ^= crypto_int32_r & (crypto_int32_z ^ crypto_int32_x); in crypto_int32_smaller_01()
1016 crypto_int32 crypto_int32_leq_mask(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_leq_mask() argument
1019 … cmovlel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_leq_mask()
1023 …__asm__ ("cmp %w1,%w2\n csetm %w0,le" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int… in crypto_int32_leq_mask()
1026 return ~crypto_int32_smaller_mask(crypto_int32_y,crypto_int32_x); in crypto_int32_leq_mask()
1032 crypto_int32 crypto_int32_leq_01(crypto_int32 crypto_int32_x,crypto_int32 crypto_int32_y) { in crypto_int32_leq_01() argument
1035 … cmovlel %1,%0" : "=&r"(crypto_int32_z), "=&r"(crypto_int32_q) : "r"(crypto_int32_x), "r"(crypto_i… in crypto_int32_leq_01()
1039 …__asm__ ("cmp %w1,%w2\n cset %w0,le" : "=r"(crypto_int32_z) : "r"(crypto_int32_x), "r"(crypto_int3… in crypto_int32_leq_01()
1042 return 1-crypto_int32_smaller_01(crypto_int32_y,crypto_int32_x); in crypto_int32_leq_01()
1048 int crypto_int32_ones_num(crypto_int32 crypto_int32_x) { in crypto_int32_ones_num() argument
1049 crypto_int32_unsigned crypto_int32_y = crypto_int32_x; in crypto_int32_ones_num()
1063 int crypto_int32_bottomzeros_num(crypto_int32 crypto_int32_x) { in crypto_int32_bottomzeros_num() argument
1066 __asm__ ("bsfl %0,%0\n cmovel %1,%0" : "+&r"(crypto_int32_x) : "r"(fallback) : "cc"); in crypto_int32_bottomzeros_num()
1067 return crypto_int32_x; in crypto_int32_bottomzeros_num()
1070 __asm__ ("rbit %w0,%w1\n clz %w0,%w0" : "=r"(crypto_int32_y) : "r"(crypto_int32_x) : ); in crypto_int32_bottomzeros_num()
1073 crypto_int32 crypto_int32_y = crypto_int32_x ^ (crypto_int32_x-1); in crypto_int32_bottomzeros_num()
1075 crypto_int32_y &= ~(crypto_int32_x & (((crypto_int32) 1) << (32-1))); in crypto_int32_bottomzeros_num()