Go：如何检查将 float64 转换为 float32 时的精度损失-Golang-PHP中文网

Go：如何检查将 float64 转换为 float32 时的精度损失

WBOY

发布： 2024-02-09 09:10:20

转载

621人浏览过

go：如何检查将 float64 转换为 float32 时的精度损失

php小编百草今天为大家介绍一种常见问题的解决方法：如何检查将 float64 转换为 float32 时可能出现的精度损失。在进行浮点数转换时，由于两种数据类型的位数不同，可能会导致精度损失的问题。本文将详细介绍如何通过比较转换前后的数值来判断是否有损失，并提供了一种可行的解决方案，以帮助开发者更好地处理这一问题。

问题内容

我有一个场景，我收到一个 float64 值，但必须将其作为 float32 值通过线路发送到另一个服务。我们知道接收到的值应该始终适合 float32。但是，为了安全起见，我想记录我们通过转换为 float32 丢失数据的情况。

此代码块无法编译，因为您无法直接比较 float32 与 float64。

func convert(input float64) (output float32, err error) {
    const tolerance = 0.001
    output = float32(input)
    if output > input+tolerance || output < input-tolerance {
        return 0, errors.New("lost too much precision")
    }
    return output, nil
}

登录后复制

是否有一种简单的方法来检查我是否遇到了这种情况？此检查会频繁发生，因此我想避免进行字符串转换。

解决方法

您可以将 float32 值转换回 float64，仅用于验证。

要检查转换后的值是否表示相同的值，只需将其与原始值（输入）进行比较即可。仅返回 ok bool 信息（而不是 error）也足够/惯用了：

func convert(input float64) (output float32, ok bool) {
    output = float32(input)
    ok = float64(output) == input
    return
}

登录后复制

（注意：不会检查像 nan 这样的边缘情况。）

测试它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

登录后复制

输出（在 go playground 上尝试一下）：

1 true
1.5 true
0.12345679 false
3.4028235e+38 true

登录后复制

请注意，这通常会给出 ok = false 结果，因为 float32 的精度小于 float64，即使转换后的值可能非常接近输入。

因此在实践中检查转换值的差异会更有用。您提出的解决方案检查绝对差值，这不是很有用：例如 1000000.1 和 1000000 是非常接近的数字，即使差异是 0.1。 0.0001 和 0.00011 的差异要小得多：0.00001，但与数字相比差异要大得多。

所以你应该检查相对差异，例如：

func convert(input float64) (output float32, ok bool) {
    const maxreldiff = 1e-8

    output = float32(input)
    diff := math.abs(float64(output) - input)
    ok = diff <= math.abs(input)*maxreldiff

    return
}

登录后复制

测试它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

登录后复制

输出（在 go playground 上尝试一下）：

1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true

登录后复制

以上就是Go：如何检查将 float64 转换为 float32 时的精度损失的详细内容，更多请关注php中文网其它相关文章！