xref: /freebsd/lib/msun/src/e_rem_pio2.c (revision 07cc7ea7386c5428cef9e8f06d4ebd8144dec311)
13f708241SDavid Schultz 
23a8617a8SJordan K. Hubbard /*
33a8617a8SJordan K. Hubbard  * ====================================================
43a8617a8SJordan K. Hubbard  * Copyright (C) 1993 by Sun Microsystems, Inc. All rights reserved.
53a8617a8SJordan K. Hubbard  *
63f708241SDavid Schultz  * Developed at SunSoft, a Sun Microsystems, Inc. business.
73a8617a8SJordan K. Hubbard  * Permission to use, copy, modify, and distribute this
83a8617a8SJordan K. Hubbard  * software is freely granted, provided that this notice
93a8617a8SJordan K. Hubbard  * is preserved.
103a8617a8SJordan K. Hubbard  * ====================================================
113f708241SDavid Schultz  *
1260a50c25SBruce Evans  * Optimized by Bruce D. Evans.
133a8617a8SJordan K. Hubbard  */
143a8617a8SJordan K. Hubbard 
153a8617a8SJordan K. Hubbard /* __ieee754_rem_pio2(x,y)
163a8617a8SJordan K. Hubbard  *
173a8617a8SJordan K. Hubbard  * return the remainder of x rem pi/2 in y[0]+y[1]
183a8617a8SJordan K. Hubbard  * use __kernel_rem_pio2()
193a8617a8SJordan K. Hubbard  */
203a8617a8SJordan K. Hubbard 
2143590b15SBruce Evans #include <float.h>
2243590b15SBruce Evans 
233a8617a8SJordan K. Hubbard #include "math.h"
243a8617a8SJordan K. Hubbard #include "math_private.h"
253a8617a8SJordan K. Hubbard 
263a8617a8SJordan K. Hubbard /*
273a8617a8SJordan K. Hubbard  * invpio2:  53 bits of 2/pi
283a8617a8SJordan K. Hubbard  * pio2_1:   first  33 bit of pi/2
293a8617a8SJordan K. Hubbard  * pio2_1t:  pi/2 - pio2_1
303a8617a8SJordan K. Hubbard  * pio2_2:   second 33 bit of pi/2
313a8617a8SJordan K. Hubbard  * pio2_2t:  pi/2 - (pio2_1+pio2_2)
323a8617a8SJordan K. Hubbard  * pio2_3:   third  33 bit of pi/2
333a8617a8SJordan K. Hubbard  * pio2_3t:  pi/2 - (pio2_1+pio2_2+pio2_3)
343a8617a8SJordan K. Hubbard  */
353a8617a8SJordan K. Hubbard 
363a8617a8SJordan K. Hubbard static const double
373a8617a8SJordan K. Hubbard zero =  0.00000000000000000000e+00, /* 0x00000000, 0x00000000 */
383a8617a8SJordan K. Hubbard two24 =  1.67772160000000000000e+07, /* 0x41700000, 0x00000000 */
393a8617a8SJordan K. Hubbard invpio2 =  6.36619772367581382433e-01, /* 0x3FE45F30, 0x6DC9C883 */
403a8617a8SJordan K. Hubbard pio2_1  =  1.57079632673412561417e+00, /* 0x3FF921FB, 0x54400000 */
413a8617a8SJordan K. Hubbard pio2_1t =  6.07710050650619224932e-11, /* 0x3DD0B461, 0x1A626331 */
423a8617a8SJordan K. Hubbard pio2_2  =  6.07710050630396597660e-11, /* 0x3DD0B461, 0x1A600000 */
433a8617a8SJordan K. Hubbard pio2_2t =  2.02226624879595063154e-21, /* 0x3BA3198A, 0x2E037073 */
443a8617a8SJordan K. Hubbard pio2_3  =  2.02226624871116645580e-21, /* 0x3BA3198A, 0x2E000000 */
453a8617a8SJordan K. Hubbard pio2_3t =  8.47842766036889956997e-32; /* 0x397B839A, 0x252049C1 */
463a8617a8SJordan K. Hubbard 
472b795b29SDimitry Andric #ifdef INLINE_REM_PIO2
48*07cc7ea7SRyan Libby static __always_inline
4938662c96SBruce Evans #endif
502b795b29SDimitry Andric int
5138662c96SBruce Evans __ieee754_rem_pio2(double x, double *y)
523a8617a8SJordan K. Hubbard {
533a8617a8SJordan K. Hubbard 	double z,w,t,r,fn;
54c32951b1SBruce Evans 	double tx[3],ty[2];
553a8617a8SJordan K. Hubbard 	int32_t e0,i,j,nx,n,ix,hx;
563a8617a8SJordan K. Hubbard 	u_int32_t low;
573a8617a8SJordan K. Hubbard 
583a8617a8SJordan K. Hubbard 	GET_HIGH_WORD(hx,x);		/* high word of x */
593a8617a8SJordan K. Hubbard 	ix = hx&0x7fffffff;
609e9d3bc9SBruce Evans #if 0 /* Must be handled in caller. */
613a8617a8SJordan K. Hubbard 	if(ix<=0x3fe921fb)   /* |x| ~<= pi/4 , no need for reduction */
623a8617a8SJordan K. Hubbard 	    {y[0] = x; y[1] = 0; return 0;}
639e9d3bc9SBruce Evans #endif
649e9d3bc9SBruce Evans 	if (ix <= 0x400f6a7a) {		/* |x| ~<= 5pi/4 */
659e9d3bc9SBruce Evans 	    if ((ix & 0xfffff) == 0x921fb)  /* |x| ~= pi/2 or 2pi/2 */
669e9d3bc9SBruce Evans 		goto medium;		/* cancellation -- use medium case */
679e9d3bc9SBruce Evans 	    if (ix <= 0x4002d97c) {	/* |x| ~<= 3pi/4 */
689f747fa2SBruce Evans 		if (hx > 0) {
699e9d3bc9SBruce Evans 		    z = x - pio2_1;	/* one round good to 85 bits */
709f747fa2SBruce Evans 		    y[0] = z - pio2_1t;
719f747fa2SBruce Evans 		    y[1] = (z-y[0])-pio2_1t;
729f747fa2SBruce Evans 		    return 1;
739e9d3bc9SBruce Evans 		} else {
749f747fa2SBruce Evans 		    z = x + pio2_1;
759f747fa2SBruce Evans 		    y[0] = z + pio2_1t;
769f747fa2SBruce Evans 		    y[1] = (z-y[0])+pio2_1t;
779f747fa2SBruce Evans 		    return -1;
789f747fa2SBruce Evans 		}
799e9d3bc9SBruce Evans 	    } else {
809e9d3bc9SBruce Evans 		if (hx > 0) {
819e9d3bc9SBruce Evans 		    z = x - 2*pio2_1;
829e9d3bc9SBruce Evans 		    y[0] = z - 2*pio2_1t;
839e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-2*pio2_1t;
849e9d3bc9SBruce Evans 		    return 2;
859e9d3bc9SBruce Evans 		} else {
869e9d3bc9SBruce Evans 		    z = x + 2*pio2_1;
879e9d3bc9SBruce Evans 		    y[0] = z + 2*pio2_1t;
889e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+2*pio2_1t;
899e9d3bc9SBruce Evans 		    return -2;
909e9d3bc9SBruce Evans 		}
919e9d3bc9SBruce Evans 	    }
929e9d3bc9SBruce Evans 	}
939e9d3bc9SBruce Evans 	if (ix <= 0x401c463b) {		/* |x| ~<= 9pi/4 */
949e9d3bc9SBruce Evans 	    if (ix <= 0x4015fdbc) {	/* |x| ~<= 7pi/4 */
959e9d3bc9SBruce Evans 		if (ix == 0x4012d97c)	/* |x| ~= 3pi/2 */
969e9d3bc9SBruce Evans 		    goto medium;
979e9d3bc9SBruce Evans 		if (hx > 0) {
989e9d3bc9SBruce Evans 		    z = x - 3*pio2_1;
999e9d3bc9SBruce Evans 		    y[0] = z - 3*pio2_1t;
1009e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-3*pio2_1t;
1019e9d3bc9SBruce Evans 		    return 3;
1029e9d3bc9SBruce Evans 		} else {
1039e9d3bc9SBruce Evans 		    z = x + 3*pio2_1;
1049e9d3bc9SBruce Evans 		    y[0] = z + 3*pio2_1t;
1059e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+3*pio2_1t;
1069e9d3bc9SBruce Evans 		    return -3;
1079e9d3bc9SBruce Evans 		}
1089e9d3bc9SBruce Evans 	    } else {
1099e9d3bc9SBruce Evans 		if (ix == 0x401921fb)	/* |x| ~= 4pi/2 */
1109e9d3bc9SBruce Evans 		    goto medium;
1119e9d3bc9SBruce Evans 		if (hx > 0) {
1129e9d3bc9SBruce Evans 		    z = x - 4*pio2_1;
1139e9d3bc9SBruce Evans 		    y[0] = z - 4*pio2_1t;
1149e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-4*pio2_1t;
1159e9d3bc9SBruce Evans 		    return 4;
1169e9d3bc9SBruce Evans 		} else {
1179e9d3bc9SBruce Evans 		    z = x + 4*pio2_1;
1189e9d3bc9SBruce Evans 		    y[0] = z + 4*pio2_1t;
1199e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+4*pio2_1t;
1209e9d3bc9SBruce Evans 		    return -4;
1219e9d3bc9SBruce Evans 		}
1229e9d3bc9SBruce Evans 	    }
1239f747fa2SBruce Evans 	}
124a278d990SBruce Evans 	if(ix<0x413921fb) {	/* |x| ~< 2^20*(pi/2), medium size */
1259e9d3bc9SBruce Evans medium:
12627aa8442SBruce Evans 	    fn = rnint((double_t)x*invpio2);
12743590b15SBruce Evans 	    n  = irint(fn);
12860a50c25SBruce Evans 	    r  = x-fn*pio2_1;
1293a8617a8SJordan K. Hubbard 	    w  = fn*pio2_1t;	/* 1st round good to 85 bit */
1307c1b5e79SBruce Evans 	    {
1313a8617a8SJordan K. Hubbard 	        u_int32_t high;
1323a8617a8SJordan K. Hubbard 	        j  = ix>>20;
1333a8617a8SJordan K. Hubbard 	        y[0] = r-w;
1343a8617a8SJordan K. Hubbard 		GET_HIGH_WORD(high,y[0]);
1353a8617a8SJordan K. Hubbard 	        i = j-((high>>20)&0x7ff);
1363a8617a8SJordan K. Hubbard 	        if(i>16) {  /* 2nd iteration needed, good to 118 */
1373a8617a8SJordan K. Hubbard 		    t  = r;
1383a8617a8SJordan K. Hubbard 		    w  = fn*pio2_2;
1393a8617a8SJordan K. Hubbard 		    r  = t-w;
1403a8617a8SJordan K. Hubbard 		    w  = fn*pio2_2t-((t-r)-w);
1413a8617a8SJordan K. Hubbard 		    y[0] = r-w;
1423a8617a8SJordan K. Hubbard 		    GET_HIGH_WORD(high,y[0]);
1433a8617a8SJordan K. Hubbard 		    i = j-((high>>20)&0x7ff);
1443a8617a8SJordan K. Hubbard 		    if(i>49)  {	/* 3rd iteration need, 151 bits acc */
1453a8617a8SJordan K. Hubbard 		    	t  = r;	/* will cover all possible cases */
1463a8617a8SJordan K. Hubbard 		    	w  = fn*pio2_3;
1473a8617a8SJordan K. Hubbard 		    	r  = t-w;
1483a8617a8SJordan K. Hubbard 		    	w  = fn*pio2_3t-((t-r)-w);
1493a8617a8SJordan K. Hubbard 		    	y[0] = r-w;
1503a8617a8SJordan K. Hubbard 		    }
1513a8617a8SJordan K. Hubbard 		}
1523a8617a8SJordan K. Hubbard 	    }
1533a8617a8SJordan K. Hubbard 	    y[1] = (r-y[0])-w;
15460a50c25SBruce Evans 	    return n;
1553a8617a8SJordan K. Hubbard 	}
1563a8617a8SJordan K. Hubbard     /*
1573a8617a8SJordan K. Hubbard      * all other (large) arguments
1583a8617a8SJordan K. Hubbard      */
1593a8617a8SJordan K. Hubbard 	if(ix>=0x7ff00000) {		/* x is inf or NaN */
1603a8617a8SJordan K. Hubbard 	    y[0]=y[1]=x-x; return 0;
1613a8617a8SJordan K. Hubbard 	}
1623a8617a8SJordan K. Hubbard     /* set z = scalbn(|x|,ilogb(x)-23) */
1633a8617a8SJordan K. Hubbard 	GET_LOW_WORD(low,x);
1643a8617a8SJordan K. Hubbard 	e0 	= (ix>>20)-1046;	/* e0 = ilogb(z)-23; */
165e75a1bbcSKarl Tomlinson 	INSERT_WORDS(z, ix - ((int32_t)((u_int32_t)e0<<20)), low);
1663a8617a8SJordan K. Hubbard 	for(i=0;i<2;i++) {
1673a8617a8SJordan K. Hubbard 		tx[i] = (double)((int32_t)(z));
1683a8617a8SJordan K. Hubbard 		z     = (z-tx[i])*two24;
1693a8617a8SJordan K. Hubbard 	}
1703a8617a8SJordan K. Hubbard 	tx[2] = z;
1713a8617a8SJordan K. Hubbard 	nx = 3;
1723a8617a8SJordan K. Hubbard 	while(tx[nx-1]==zero) nx--;	/* skip zero term */
173c32951b1SBruce Evans 	n  =  __kernel_rem_pio2(tx,ty,e0,nx,1);
174c32951b1SBruce Evans 	if(hx<0) {y[0] = -ty[0]; y[1] = -ty[1]; return -n;}
175c32951b1SBruce Evans 	y[0] = ty[0]; y[1] = ty[1]; return n;
1763a8617a8SJordan K. Hubbard }
177