xref: /freebsd/lib/msun/src/e_rem_pio2.c (revision 7c1b5e7953bbfb8e6b55f176b3ccaaf92d0c52fb)
13f708241SDavid Schultz 
23f708241SDavid Schultz /* @(#)e_rem_pio2.c 1.4 95/01/18 */
33a8617a8SJordan K. Hubbard /*
43a8617a8SJordan K. Hubbard  * ====================================================
53a8617a8SJordan K. Hubbard  * Copyright (C) 1993 by Sun Microsystems, Inc. All rights reserved.
63a8617a8SJordan K. Hubbard  *
73f708241SDavid Schultz  * Developed at SunSoft, a Sun Microsystems, Inc. business.
83a8617a8SJordan K. Hubbard  * Permission to use, copy, modify, and distribute this
93a8617a8SJordan K. Hubbard  * software is freely granted, provided that this notice
103a8617a8SJordan K. Hubbard  * is preserved.
113a8617a8SJordan K. Hubbard  * ====================================================
123f708241SDavid Schultz  *
133a8617a8SJordan K. Hubbard  */
143a8617a8SJordan K. Hubbard 
1538662c96SBruce Evans #include <sys/cdefs.h>
1638662c96SBruce Evans __FBSDID("$FreeBSD$");
173a8617a8SJordan K. Hubbard 
183a8617a8SJordan K. Hubbard /* __ieee754_rem_pio2(x,y)
193a8617a8SJordan K. Hubbard  *
203a8617a8SJordan K. Hubbard  * return the remainder of x rem pi/2 in y[0]+y[1]
213a8617a8SJordan K. Hubbard  * use __kernel_rem_pio2()
223a8617a8SJordan K. Hubbard  */
233a8617a8SJordan K. Hubbard 
2443590b15SBruce Evans #include <float.h>
2543590b15SBruce Evans 
263a8617a8SJordan K. Hubbard #include "math.h"
273a8617a8SJordan K. Hubbard #include "math_private.h"
283a8617a8SJordan K. Hubbard 
293a8617a8SJordan K. Hubbard /*
303a8617a8SJordan K. Hubbard  * invpio2:  53 bits of 2/pi
313a8617a8SJordan K. Hubbard  * pio2_1:   first  33 bit of pi/2
323a8617a8SJordan K. Hubbard  * pio2_1t:  pi/2 - pio2_1
333a8617a8SJordan K. Hubbard  * pio2_2:   second 33 bit of pi/2
343a8617a8SJordan K. Hubbard  * pio2_2t:  pi/2 - (pio2_1+pio2_2)
353a8617a8SJordan K. Hubbard  * pio2_3:   third  33 bit of pi/2
363a8617a8SJordan K. Hubbard  * pio2_3t:  pi/2 - (pio2_1+pio2_2+pio2_3)
373a8617a8SJordan K. Hubbard  */
383a8617a8SJordan K. Hubbard 
393a8617a8SJordan K. Hubbard static const double
403a8617a8SJordan K. Hubbard zero =  0.00000000000000000000e+00, /* 0x00000000, 0x00000000 */
413a8617a8SJordan K. Hubbard half =  5.00000000000000000000e-01, /* 0x3FE00000, 0x00000000 */
423a8617a8SJordan K. Hubbard two24 =  1.67772160000000000000e+07, /* 0x41700000, 0x00000000 */
433a8617a8SJordan K. Hubbard invpio2 =  6.36619772367581382433e-01, /* 0x3FE45F30, 0x6DC9C883 */
443a8617a8SJordan K. Hubbard pio2_1  =  1.57079632673412561417e+00, /* 0x3FF921FB, 0x54400000 */
453a8617a8SJordan K. Hubbard pio2_1t =  6.07710050650619224932e-11, /* 0x3DD0B461, 0x1A626331 */
463a8617a8SJordan K. Hubbard pio2_2  =  6.07710050630396597660e-11, /* 0x3DD0B461, 0x1A600000 */
473a8617a8SJordan K. Hubbard pio2_2t =  2.02226624879595063154e-21, /* 0x3BA3198A, 0x2E037073 */
483a8617a8SJordan K. Hubbard pio2_3  =  2.02226624871116645580e-21, /* 0x3BA3198A, 0x2E000000 */
493a8617a8SJordan K. Hubbard pio2_3t =  8.47842766036889956997e-32; /* 0x397B839A, 0x252049C1 */
503a8617a8SJordan K. Hubbard 
5138662c96SBruce Evans #ifdef INLINE_REM_PIO2
5238662c96SBruce Evans extern inline
5338662c96SBruce Evans #endif
5438662c96SBruce Evans int
5538662c96SBruce Evans __ieee754_rem_pio2(double x, double *y)
563a8617a8SJordan K. Hubbard {
573a8617a8SJordan K. Hubbard 	double z,w,t,r,fn;
583a8617a8SJordan K. Hubbard 	double tx[3];
593a8617a8SJordan K. Hubbard 	int32_t e0,i,j,nx,n,ix,hx;
603a8617a8SJordan K. Hubbard 	u_int32_t low;
613a8617a8SJordan K. Hubbard 
623a8617a8SJordan K. Hubbard 	GET_HIGH_WORD(hx,x);		/* high word of x */
633a8617a8SJordan K. Hubbard 	ix = hx&0x7fffffff;
649e9d3bc9SBruce Evans #if 0 /* Must be handled in caller. */
653a8617a8SJordan K. Hubbard 	if(ix<=0x3fe921fb)   /* |x| ~<= pi/4 , no need for reduction */
663a8617a8SJordan K. Hubbard 	    {y[0] = x; y[1] = 0; return 0;}
679e9d3bc9SBruce Evans #endif
689e9d3bc9SBruce Evans 	if (ix <= 0x400f6a7a) {		/* |x| ~<= 5pi/4 */
699e9d3bc9SBruce Evans 	    if ((ix & 0xfffff) == 0x921fb)  /* |x| ~= pi/2 or 2pi/2 */
709e9d3bc9SBruce Evans 		goto medium;		/* cancellation -- use medium case */
719e9d3bc9SBruce Evans 	    if (ix <= 0x4002d97c) {	/* |x| ~<= 3pi/4 */
729f747fa2SBruce Evans 		if (hx > 0) {
739e9d3bc9SBruce Evans 		    z = x - pio2_1;	/* one round good to 85 bits */
749f747fa2SBruce Evans 		    y[0] = z - pio2_1t;
759f747fa2SBruce Evans 		    y[1] = (z-y[0])-pio2_1t;
769f747fa2SBruce Evans 		    return 1;
779e9d3bc9SBruce Evans 		} else {
789f747fa2SBruce Evans 		    z = x + pio2_1;
799f747fa2SBruce Evans 		    y[0] = z + pio2_1t;
809f747fa2SBruce Evans 		    y[1] = (z-y[0])+pio2_1t;
819f747fa2SBruce Evans 		    return -1;
829f747fa2SBruce Evans 		}
839e9d3bc9SBruce Evans 	    } else {
849e9d3bc9SBruce Evans 		if (hx > 0) {
859e9d3bc9SBruce Evans 		    z = x - 2*pio2_1;
869e9d3bc9SBruce Evans 		    y[0] = z - 2*pio2_1t;
879e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-2*pio2_1t;
889e9d3bc9SBruce Evans 		    return 2;
899e9d3bc9SBruce Evans 		} else {
909e9d3bc9SBruce Evans 		    z = x + 2*pio2_1;
919e9d3bc9SBruce Evans 		    y[0] = z + 2*pio2_1t;
929e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+2*pio2_1t;
939e9d3bc9SBruce Evans 		    return -2;
949e9d3bc9SBruce Evans 		}
959e9d3bc9SBruce Evans 	    }
969e9d3bc9SBruce Evans 	}
979e9d3bc9SBruce Evans 	if (ix <= 0x401c463b) {		/* |x| ~<= 9pi/4 */
989e9d3bc9SBruce Evans 	    if (ix <= 0x4015fdbc) {	/* |x| ~<= 7pi/4 */
999e9d3bc9SBruce Evans 		if (ix == 0x4012d97c)	/* |x| ~= 3pi/2 */
1009e9d3bc9SBruce Evans 		    goto medium;
1019e9d3bc9SBruce Evans 		if (hx > 0) {
1029e9d3bc9SBruce Evans 		    z = x - 3*pio2_1;
1039e9d3bc9SBruce Evans 		    y[0] = z - 3*pio2_1t;
1049e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-3*pio2_1t;
1059e9d3bc9SBruce Evans 		    return 3;
1069e9d3bc9SBruce Evans 		} else {
1079e9d3bc9SBruce Evans 		    z = x + 3*pio2_1;
1089e9d3bc9SBruce Evans 		    y[0] = z + 3*pio2_1t;
1099e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+3*pio2_1t;
1109e9d3bc9SBruce Evans 		    return -3;
1119e9d3bc9SBruce Evans 		}
1129e9d3bc9SBruce Evans 	    } else {
1139e9d3bc9SBruce Evans 		if (ix == 0x401921fb)	/* |x| ~= 4pi/2 */
1149e9d3bc9SBruce Evans 		    goto medium;
1159e9d3bc9SBruce Evans 		if (hx > 0) {
1169e9d3bc9SBruce Evans 		    z = x - 4*pio2_1;
1179e9d3bc9SBruce Evans 		    y[0] = z - 4*pio2_1t;
1189e9d3bc9SBruce Evans 		    y[1] = (z-y[0])-4*pio2_1t;
1199e9d3bc9SBruce Evans 		    return 4;
1209e9d3bc9SBruce Evans 		} else {
1219e9d3bc9SBruce Evans 		    z = x + 4*pio2_1;
1229e9d3bc9SBruce Evans 		    y[0] = z + 4*pio2_1t;
1239e9d3bc9SBruce Evans 		    y[1] = (z-y[0])+4*pio2_1t;
1249e9d3bc9SBruce Evans 		    return -4;
1259e9d3bc9SBruce Evans 		}
1269e9d3bc9SBruce Evans 	    }
1279f747fa2SBruce Evans 	}
1283a8617a8SJordan K. Hubbard 	if(ix<=0x413921fb) { /* |x| ~<= 2^19*(pi/2), medium size */
1299e9d3bc9SBruce Evans medium:
1303a8617a8SJordan K. Hubbard 	    t  = fabs(x);
13143590b15SBruce Evans #ifdef HAVE_EFFICIENT_IRINT
13243590b15SBruce Evans 	    /* Use a specialized rint() to get fn.  Assume round-to-nearest. */
13343590b15SBruce Evans 	    STRICT_ASSIGN(double,fn,t*invpio2+0x1.8p52);
13443590b15SBruce Evans 	    fn = fn-0x1.8p52;
13543590b15SBruce Evans 	    n  = irint(fn);
13643590b15SBruce Evans #else
1373a8617a8SJordan K. Hubbard 	    n  = (int32_t) (t*invpio2+half);
1383a8617a8SJordan K. Hubbard 	    fn = (double)n;
13943590b15SBruce Evans #endif
1403a8617a8SJordan K. Hubbard 	    r  = t-fn*pio2_1;
1413a8617a8SJordan K. Hubbard 	    w  = fn*pio2_1t;	/* 1st round good to 85 bit */
1427c1b5e79SBruce Evans 	    {
1433a8617a8SJordan K. Hubbard 	        u_int32_t high;
1443a8617a8SJordan K. Hubbard 	        j  = ix>>20;
1453a8617a8SJordan K. Hubbard 	        y[0] = r-w;
1463a8617a8SJordan K. Hubbard 		GET_HIGH_WORD(high,y[0]);
1473a8617a8SJordan K. Hubbard 	        i = j-((high>>20)&0x7ff);
1483a8617a8SJordan K. Hubbard 	        if(i>16) {  /* 2nd iteration needed, good to 118 */
1493a8617a8SJordan K. Hubbard 		    t  = r;
1503a8617a8SJordan K. Hubbard 		    w  = fn*pio2_2;
1513a8617a8SJordan K. Hubbard 		    r  = t-w;
1523a8617a8SJordan K. Hubbard 		    w  = fn*pio2_2t-((t-r)-w);
1533a8617a8SJordan K. Hubbard 		    y[0] = r-w;
1543a8617a8SJordan K. Hubbard 		    GET_HIGH_WORD(high,y[0]);
1553a8617a8SJordan K. Hubbard 		    i = j-((high>>20)&0x7ff);
1563a8617a8SJordan K. Hubbard 		    if(i>49)  {	/* 3rd iteration need, 151 bits acc */
1573a8617a8SJordan K. Hubbard 		    	t  = r;	/* will cover all possible cases */
1583a8617a8SJordan K. Hubbard 		    	w  = fn*pio2_3;
1593a8617a8SJordan K. Hubbard 		    	r  = t-w;
1603a8617a8SJordan K. Hubbard 		    	w  = fn*pio2_3t-((t-r)-w);
1613a8617a8SJordan K. Hubbard 		    	y[0] = r-w;
1623a8617a8SJordan K. Hubbard 		    }
1633a8617a8SJordan K. Hubbard 		}
1643a8617a8SJordan K. Hubbard 	    }
1653a8617a8SJordan K. Hubbard 	    y[1] = (r-y[0])-w;
1663a8617a8SJordan K. Hubbard 	    if(hx<0) 	{y[0] = -y[0]; y[1] = -y[1]; return -n;}
1673a8617a8SJordan K. Hubbard 	    else	 return n;
1683a8617a8SJordan K. Hubbard 	}
1693a8617a8SJordan K. Hubbard     /*
1703a8617a8SJordan K. Hubbard      * all other (large) arguments
1713a8617a8SJordan K. Hubbard      */
1723a8617a8SJordan K. Hubbard 	if(ix>=0x7ff00000) {		/* x is inf or NaN */
1733a8617a8SJordan K. Hubbard 	    y[0]=y[1]=x-x; return 0;
1743a8617a8SJordan K. Hubbard 	}
1753a8617a8SJordan K. Hubbard     /* set z = scalbn(|x|,ilogb(x)-23) */
1763a8617a8SJordan K. Hubbard 	GET_LOW_WORD(low,x);
1773a8617a8SJordan K. Hubbard 	SET_LOW_WORD(z,low);
1783a8617a8SJordan K. Hubbard 	e0 	= (ix>>20)-1046;	/* e0 = ilogb(z)-23; */
1793a8617a8SJordan K. Hubbard 	SET_HIGH_WORD(z, ix - ((int32_t)(e0<<20)));
1803a8617a8SJordan K. Hubbard 	for(i=0;i<2;i++) {
1813a8617a8SJordan K. Hubbard 		tx[i] = (double)((int32_t)(z));
1823a8617a8SJordan K. Hubbard 		z     = (z-tx[i])*two24;
1833a8617a8SJordan K. Hubbard 	}
1843a8617a8SJordan K. Hubbard 	tx[2] = z;
1853a8617a8SJordan K. Hubbard 	nx = 3;
1863a8617a8SJordan K. Hubbard 	while(tx[nx-1]==zero) nx--;	/* skip zero term */
187079299f7SDavid Schultz 	n  =  __kernel_rem_pio2(tx,y,e0,nx,2);
1883a8617a8SJordan K. Hubbard 	if(hx<0) {y[0] = -y[0]; y[1] = -y[1]; return -n;}
1893a8617a8SJordan K. Hubbard 	return n;
1903a8617a8SJordan K. Hubbard }
191