xref: /titanic_41/usr/src/lib/libm/common/R/rintf.c (revision a9d3dcd5820128b4f34bf38f447e47aa95c004e8)
15b2ba9d3SPiotr Jasiukajtis /*
25b2ba9d3SPiotr Jasiukajtis  * CDDL HEADER START
35b2ba9d3SPiotr Jasiukajtis  *
45b2ba9d3SPiotr Jasiukajtis  * The contents of this file are subject to the terms of the
55b2ba9d3SPiotr Jasiukajtis  * Common Development and Distribution License (the "License").
65b2ba9d3SPiotr Jasiukajtis  * You may not use this file except in compliance with the License.
75b2ba9d3SPiotr Jasiukajtis  *
85b2ba9d3SPiotr Jasiukajtis  * You can obtain a copy of the license at usr/src/OPENSOLARIS.LICENSE
95b2ba9d3SPiotr Jasiukajtis  * or http://www.opensolaris.org/os/licensing.
105b2ba9d3SPiotr Jasiukajtis  * See the License for the specific language governing permissions
115b2ba9d3SPiotr Jasiukajtis  * and limitations under the License.
125b2ba9d3SPiotr Jasiukajtis  *
135b2ba9d3SPiotr Jasiukajtis  * When distributing Covered Code, include this CDDL HEADER in each
145b2ba9d3SPiotr Jasiukajtis  * file and include the License file at usr/src/OPENSOLARIS.LICENSE.
155b2ba9d3SPiotr Jasiukajtis  * If applicable, add the following below this CDDL HEADER, with the
165b2ba9d3SPiotr Jasiukajtis  * fields enclosed by brackets "[]" replaced with your own identifying
175b2ba9d3SPiotr Jasiukajtis  * information: Portions Copyright [yyyy] [name of copyright owner]
185b2ba9d3SPiotr Jasiukajtis  *
195b2ba9d3SPiotr Jasiukajtis  * CDDL HEADER END
205b2ba9d3SPiotr Jasiukajtis  */
215b2ba9d3SPiotr Jasiukajtis 
225b2ba9d3SPiotr Jasiukajtis /*
235b2ba9d3SPiotr Jasiukajtis  * Copyright 2011 Nexenta Systems, Inc.  All rights reserved.
245b2ba9d3SPiotr Jasiukajtis  */
255b2ba9d3SPiotr Jasiukajtis /*
265b2ba9d3SPiotr Jasiukajtis  * Copyright 2006 Sun Microsystems, Inc.  All rights reserved.
275b2ba9d3SPiotr Jasiukajtis  * Use is subject to license terms.
285b2ba9d3SPiotr Jasiukajtis  */
295b2ba9d3SPiotr Jasiukajtis 
30*a9d3dcd5SRichard Lowe #pragma weak __rintf = rintf
315b2ba9d3SPiotr Jasiukajtis 
325b2ba9d3SPiotr Jasiukajtis /* INDENT OFF */
335b2ba9d3SPiotr Jasiukajtis /*
345b2ba9d3SPiotr Jasiukajtis  * aintf(x)	return x chopped to integral value
355b2ba9d3SPiotr Jasiukajtis  * anintf(x)	return sign(x)*(|x|+0.5) chopped to integral value
365b2ba9d3SPiotr Jasiukajtis  * irintf(x)	return rint(x) in integer format
375b2ba9d3SPiotr Jasiukajtis  * nintf(x)	return anint(x) in integer format
385b2ba9d3SPiotr Jasiukajtis  * rintf(x)	return x rounded to integral according to the rounding direction
395b2ba9d3SPiotr Jasiukajtis  *
405b2ba9d3SPiotr Jasiukajtis  * NOTE: rintf(x), aintf(x) and anintf(x) return results with the same sign as
415b2ba9d3SPiotr Jasiukajtis  * x's,  including 0.0.
425b2ba9d3SPiotr Jasiukajtis  */
435b2ba9d3SPiotr Jasiukajtis 
445b2ba9d3SPiotr Jasiukajtis #include "libm.h"
455b2ba9d3SPiotr Jasiukajtis 
465b2ba9d3SPiotr Jasiukajtis static const float xf[] = {
475b2ba9d3SPiotr Jasiukajtis /* ZEROF */	0.0f,
485b2ba9d3SPiotr Jasiukajtis /* TWO_23F */	8.3886080000e6f,
495b2ba9d3SPiotr Jasiukajtis /* MTWO_23F */	-8.3886080000e6f,
505b2ba9d3SPiotr Jasiukajtis /* ONEF */	1.0f,
515b2ba9d3SPiotr Jasiukajtis /* MONEF */	-1.0f,
525b2ba9d3SPiotr Jasiukajtis /* HALFF */	0.5f,
535b2ba9d3SPiotr Jasiukajtis /* MHALFF */	-0.5f,
545b2ba9d3SPiotr Jasiukajtis /* HUGEF */	1.0e30f,
555b2ba9d3SPiotr Jasiukajtis };
565b2ba9d3SPiotr Jasiukajtis 
575b2ba9d3SPiotr Jasiukajtis #define	ZEROF		xf[0]
585b2ba9d3SPiotr Jasiukajtis #define	TWO_23F		xf[1]
595b2ba9d3SPiotr Jasiukajtis #define	MTWO_23F	xf[2]
605b2ba9d3SPiotr Jasiukajtis #define	ONEF		xf[3]
615b2ba9d3SPiotr Jasiukajtis #define	MONEF		xf[4]
625b2ba9d3SPiotr Jasiukajtis #define	HALFF		xf[5]
635b2ba9d3SPiotr Jasiukajtis #define	MHALFF		xf[6]
645b2ba9d3SPiotr Jasiukajtis #define	HUGEF		xf[7]
655b2ba9d3SPiotr Jasiukajtis /* INDENT ON */
665b2ba9d3SPiotr Jasiukajtis 
675b2ba9d3SPiotr Jasiukajtis float
aintf(float x)685b2ba9d3SPiotr Jasiukajtis aintf(float x) {
695b2ba9d3SPiotr Jasiukajtis 	int hx, k;
705b2ba9d3SPiotr Jasiukajtis 	float y;
715b2ba9d3SPiotr Jasiukajtis 
725b2ba9d3SPiotr Jasiukajtis 	hx = *(int *) &x;
735b2ba9d3SPiotr Jasiukajtis 	k = (hx & ~0x80000000) >> 23;
745b2ba9d3SPiotr Jasiukajtis 	if (k < 150) {
755b2ba9d3SPiotr Jasiukajtis 		y = (float) ((int) x);
765b2ba9d3SPiotr Jasiukajtis 		/*
775b2ba9d3SPiotr Jasiukajtis 		 * make sure y has the same sign of x when |x|<0.5
785b2ba9d3SPiotr Jasiukajtis 		 * (i.e., y=0.0)
795b2ba9d3SPiotr Jasiukajtis 		 */
805b2ba9d3SPiotr Jasiukajtis 		return (((k - 127) & hx) < 0 ? -y : y);
815b2ba9d3SPiotr Jasiukajtis 	} else
825b2ba9d3SPiotr Jasiukajtis 		/* signal invalid if x is a SNaN */
835b2ba9d3SPiotr Jasiukajtis 		return (x * ONEF);		/* +0 -> *1 for Cheetah */
845b2ba9d3SPiotr Jasiukajtis }
855b2ba9d3SPiotr Jasiukajtis 
865b2ba9d3SPiotr Jasiukajtis float
anintf(float x)875b2ba9d3SPiotr Jasiukajtis anintf(float x) {
885b2ba9d3SPiotr Jasiukajtis 	volatile float dummy;
895b2ba9d3SPiotr Jasiukajtis 	int hx, k, j, ix;
905b2ba9d3SPiotr Jasiukajtis 
915b2ba9d3SPiotr Jasiukajtis 	hx = *(int *) &x;
925b2ba9d3SPiotr Jasiukajtis 	ix = hx & ~0x80000000;
935b2ba9d3SPiotr Jasiukajtis 	k = ix >> 23;
945b2ba9d3SPiotr Jasiukajtis 	if (((k - 127) ^ (k - 150)) < 0) {
955b2ba9d3SPiotr Jasiukajtis 		j = 1 << (149 - k);
965b2ba9d3SPiotr Jasiukajtis 		k = j + j - 1;
975b2ba9d3SPiotr Jasiukajtis 		if ((k & hx) != 0)
985b2ba9d3SPiotr Jasiukajtis 			dummy = HUGEF + x;	/* raise inexact */
995b2ba9d3SPiotr Jasiukajtis 		*(int *) &x = (hx + j) & ~k;
1005b2ba9d3SPiotr Jasiukajtis 		return (x);
1015b2ba9d3SPiotr Jasiukajtis 	} else if (k <= 126) {
1025b2ba9d3SPiotr Jasiukajtis 		dummy = HUGEF + x;
1035b2ba9d3SPiotr Jasiukajtis 		*(int *) &x = (0x3f800000 & ((125 - k) >> 31)) |
1045b2ba9d3SPiotr Jasiukajtis 			(0x80000000 & hx);
1055b2ba9d3SPiotr Jasiukajtis 		return (x);
1065b2ba9d3SPiotr Jasiukajtis 	} else
1075b2ba9d3SPiotr Jasiukajtis 		/* signal invalid if x is a SNaN */
1085b2ba9d3SPiotr Jasiukajtis 		return (x * ONEF);		/* +0 -> *1 for Cheetah */
1095b2ba9d3SPiotr Jasiukajtis }
1105b2ba9d3SPiotr Jasiukajtis 
1115b2ba9d3SPiotr Jasiukajtis int
irintf(float x)1125b2ba9d3SPiotr Jasiukajtis irintf(float x) {
1135b2ba9d3SPiotr Jasiukajtis 	float v;
1145b2ba9d3SPiotr Jasiukajtis 	int hx, k;
1155b2ba9d3SPiotr Jasiukajtis 
1165b2ba9d3SPiotr Jasiukajtis 	hx = *(int *) &x;
1175b2ba9d3SPiotr Jasiukajtis 	k = (hx & ~0x80000000) >> 23;
1185b2ba9d3SPiotr Jasiukajtis 	v = xf[((k - 150) >> 31) & (1 - (hx >> 31))];
1195b2ba9d3SPiotr Jasiukajtis 	return ((int) ((float) (x + v) - v));
1205b2ba9d3SPiotr Jasiukajtis }
1215b2ba9d3SPiotr Jasiukajtis 
1225b2ba9d3SPiotr Jasiukajtis int
nintf(float x)1235b2ba9d3SPiotr Jasiukajtis nintf(float x) {
1245b2ba9d3SPiotr Jasiukajtis 	int hx, ix, k, j, m;
1255b2ba9d3SPiotr Jasiukajtis 	volatile float dummy;
1265b2ba9d3SPiotr Jasiukajtis 
1275b2ba9d3SPiotr Jasiukajtis 	hx = *(int *) &x;
1285b2ba9d3SPiotr Jasiukajtis 	k = (hx & ~0x80000000) >> 23;
1295b2ba9d3SPiotr Jasiukajtis 	if (((k - 126) ^ (k - 150)) < 0) {
1305b2ba9d3SPiotr Jasiukajtis 		ix = (hx & 0x00ffffff) | 0x800000;
1315b2ba9d3SPiotr Jasiukajtis 		m = 149 - k;
1325b2ba9d3SPiotr Jasiukajtis 		j = 1 << m;
1335b2ba9d3SPiotr Jasiukajtis 		if ((ix & (j + j - 1)) != 0)
1345b2ba9d3SPiotr Jasiukajtis 			dummy = HUGEF + x;
1355b2ba9d3SPiotr Jasiukajtis 		hx = hx >> 31;
1365b2ba9d3SPiotr Jasiukajtis 		return ((((ix + j) >> (m + 1)) ^ hx) - hx);
1375b2ba9d3SPiotr Jasiukajtis 	} else
1385b2ba9d3SPiotr Jasiukajtis 		return ((int) x);
1395b2ba9d3SPiotr Jasiukajtis }
1405b2ba9d3SPiotr Jasiukajtis 
1415b2ba9d3SPiotr Jasiukajtis float
rintf(float x)1425b2ba9d3SPiotr Jasiukajtis rintf(float x) {
1435b2ba9d3SPiotr Jasiukajtis 	float w, v;
1445b2ba9d3SPiotr Jasiukajtis 	int hx, k;
1455b2ba9d3SPiotr Jasiukajtis 
1465b2ba9d3SPiotr Jasiukajtis 	hx = *(int *) &x;
1475b2ba9d3SPiotr Jasiukajtis 	k = (hx & ~0x80000000) >> 23;
1485b2ba9d3SPiotr Jasiukajtis #if defined(FPADD_TRAPS_INCOMPLETE_ON_NAN)
1495b2ba9d3SPiotr Jasiukajtis 	if (k >= 150)
1505b2ba9d3SPiotr Jasiukajtis 		return (x * ONEF);
1515b2ba9d3SPiotr Jasiukajtis 	v = xf[1 - (hx >> 31)];
1525b2ba9d3SPiotr Jasiukajtis #else
1535b2ba9d3SPiotr Jasiukajtis 	v = xf[((k - 150) >> 31) & (1 - (hx >> 31))];
1545b2ba9d3SPiotr Jasiukajtis #endif
1555b2ba9d3SPiotr Jasiukajtis 	w = (float) (x + v);
1565b2ba9d3SPiotr Jasiukajtis 	if (k < 127 && w == v)
1575b2ba9d3SPiotr Jasiukajtis 		return (ZEROF * x);
1585b2ba9d3SPiotr Jasiukajtis 	else
1595b2ba9d3SPiotr Jasiukajtis 		return (w - v);
1605b2ba9d3SPiotr Jasiukajtis }
161