libm/math: Make yx functions set errno=ERANGE for x=0
The y0, y1 and yn functions need separate conditions when x is zero as that returns ERANGE instead of EDOM. Also stop adjusting the return value from the __ieee754_y* functions as that is already correct and we were just breaking it. Signed-off-by: Keith Packard <keithp@keithp.com>
This commit is contained in:
		
							parent
							
								
									905aa4c013
								
							
						
					
					
						commit
						2eafcc78df
					
				|  | @ -128,17 +128,19 @@ None of the Bessel functions are in ANSI C. | |||
| 	double z; | ||||
| 	z = __ieee754_y0(x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= 0.0){ | ||||
| 	    /* y0(0) = -inf or y0(x<0) = NaN */ | ||||
|         if(x < 0.0){ | ||||
| 	    /* y0(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VAL; | ||||
|         } | ||||
|         if(x == 0.0){ | ||||
| 	    /* y0(0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
|         } | ||||
| 	if(x>X_TLOSS) { | ||||
| 	    /* y0(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
|  | @ -55,17 +55,19 @@ | |||
| 	double z; | ||||
| 	z = __ieee754_y1(x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= 0.0){ | ||||
| 	    /* y1(0) = -inf  or y1(x<0) = NaN */ | ||||
|         if(x < 0.0){ | ||||
| 	    /* y1(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VAL; | ||||
|         } | ||||
|         if(x == 0.0){ | ||||
| 	    /* y1(0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
|         } | ||||
| 	if(x>X_TLOSS) { | ||||
| 	    /* y1(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
|  | @ -77,17 +77,19 @@ | |||
| 	double z; | ||||
| 	z = __ieee754_yn(n,x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= 0.0){ | ||||
| 	    /* yn(n,0) = -inf or yn(x<0) = NaN */ | ||||
|         if(x < 0.0){ | ||||
| 	    /* yn(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VAL; | ||||
|         } | ||||
|         if(x == 0.0){ | ||||
| 	    /* yn(0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
|         } | ||||
| 	if(x>X_TLOSS) { | ||||
| 	    /* yn(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
|  | @ -35,9 +35,8 @@ | |||
| 	if(fabsf(x)>(float)X_TLOSS) { | ||||
| 	    /* j0f(|x|>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0f; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  | @ -54,17 +53,19 @@ | |||
| 	float z; | ||||
| 	z = __ieee754_y0f(x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= (float)0.0){ | ||||
| 	    /* y0f(0) = -inf  or y0f(x<0) = NaN */ | ||||
|         if(x < 0.0f){ | ||||
| 	    /* y0f(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VALF; | ||||
|         } | ||||
| 	if (x == 0.0f){ | ||||
| 	    /* y0f(n,0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
| 	} | ||||
| 	if(x>(float)X_TLOSS) { | ||||
| 	    /* y0f(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0f; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
|  | @ -56,17 +56,19 @@ | |||
| 	float z; | ||||
| 	z = __ieee754_y1f(x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= 0.0f){ | ||||
| 	    /* y1f(0) = -inf or y1f(x<0) = NaN */ | ||||
|         if(x < 0.0f){ | ||||
| 	    /* y1f(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VALF; | ||||
|         } | ||||
| 	if (x == 0.0f){ | ||||
| 	    /* y1f(n,0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
| 	} | ||||
| 	if(x>(float)X_TLOSS) { | ||||
| 	    /* y1f(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0f; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
|  | @ -33,9 +33,8 @@ | |||
| 	if(fabsf(x)>(float)X_TLOSS) { | ||||
| 	    /* jnf(|x|>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0f; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  | @ -52,17 +51,19 @@ | |||
| 	float z; | ||||
| 	z = __ieee754_ynf(n,x); | ||||
| 	if(_LIB_VERSION == _IEEE_ || isnan(x) ) return z; | ||||
|         if(x <= 0.0f){ | ||||
| 	    /* ynf(n,0) = -inf or ynf(x<0) = NaN */ | ||||
|         if(x < 0.0f){ | ||||
| 	    /* ynf(x<0) = NaN */ | ||||
| 	    errno = EDOM; | ||||
| 	    return -HUGE_VALF; | ||||
|         } | ||||
| 	if (x == 0.0f){ | ||||
| 	    /* ynf(n,0) = -inf */ | ||||
| 	    errno = ERANGE; | ||||
| 	} | ||||
| 	if(x>(float)X_TLOSS) { | ||||
| 	    /* ynf(x>X_TLOSS) */ | ||||
| 	    errno = ERANGE; | ||||
| 	    return 0.0f; | ||||
| 	} else | ||||
| 	    return z; | ||||
| 	} | ||||
| 	return z; | ||||
| #endif | ||||
| } | ||||
| 
 | ||||
|  |  | |||
		Loading…
	
		Reference in New Issue