NumPy vectorize 导致数值“舍入”为最近整数：原因及解决方案

本文探讨了在使用 NumPy 的 vectorize 函数时，由于数据类型导致计算结果意外变为 0 或 1 的问题。通过分析问题代码，解释了整数溢出的原因，并提供了两种解决方案：将整数常量转换为浮点数，以及使用 NumPy 提供的向量化函数替代 np.vectorize。

在使用 NumPy 进行数值计算时，有时会遇到一些意想不到的结果。一个常见的问题是，np.vectorize 函数似乎会将浮点数“舍入”为最近的整数，导致计算结果要么是 0，要么是 1。 这种现象往往是由于数据类型不匹配或整数溢出造成的。下面我们将深入分析这个问题，并提供解决方案。

问题分析

原始代码中，perrMaxFunc 函数的计算依赖于 epsilon 和 pPsi 函数，而这两个函数都涉及到 2**n 的计算。当 n 较大时，2**n 的结果可能会超出 int32 数据类型的表示范围，导致整数溢出。

例如，2**np.array(32) 的结果是 0，而 2**np.array(32.0) 的结果是 4294967296.0。 这是因为在第一种情况下，np.array(32) 创建了一个 int32 类型的数组，当 2**32 的结果超出 int32 的最大值时，就会发生溢出，结果被截断为 0。

解决方案

为了避免整数溢出，可以采取以下两种方法：

1. 将整数常量转换为浮点数

最简单的解决方法是将代码中的整数常量 2 替换为浮点数 2.0。 这样，所有的计算都将以浮点数进行，避免了整数溢出的问题。

修改后的代码如下：

import numpy as np

def epsilon(n):
    return 1.6952445781450207*2.0**(-1.028148909051717*n)

def pPsi(n):
    return 1.0577183294485202*2.0**(-1.028620169094481*n)

def perrMaxFunc(n):
    res=epsilon(n)/(2.0*np.abs(1/2.0**n-pPsi(n)))
    return min([1,res])

vectorized_perr=np.vectorize(perrMaxFunc)

nmax=500;

perrMax=vectorized_perr([i for i in range(nmax)])
print(perrMax)
print(perrMaxFunc(500))

通过将 2 替换为 2.0，可以确保所有计算都以浮点数进行，从而避免整数溢出。

知我AI·PC客户端

离线运行 AI 大模型，构建你的私有个人知识库，对话式提取文件知识，保证个人文件数据安全

35

查看详情

2. 使用 NumPy 提供的向量化函数

np.vectorize 函数本质上是一个循环，效率并不高。 NumPy 提供了许多内置的向量化函数，可以直接应用于数组，而无需使用 np.vectorize。

在本例中，可以使用 np.minimum 函数代替 min 函数，从而避免使用 np.vectorize。

修改后的代码如下：

import numpy as np

def epsilon(n):
    return 1.6952445781450207*2.**(-1.028148909051717*n)

def pPsi(n):
    return 1.0577183294485202*2.**(-1.028620169094481*n)

def perrMaxFunc(n):
    res = epsilon(n)/(2.*np.abs(1/2.**n-pPsi(n)))
    return np.minimum(1,res)


nmax= 500;

perrMax=perrMaxFunc(np.arange(nmax))
print(perrMax)
print(perrMaxFunc(500))

在这个修改后的代码中，np.minimum(1, res) 会对数组 res 中的每个元素，取其与 1 之间的最小值，从而实现向量化操作。同时，将 nmax 修改为 500。

注意： np.arange(nmax) 会生成一个包含 0 到 nmax-1 的 NumPy 数组，然后将其作为 perrMaxFunc 函数的输入。这样可以避免使用 np.vectorize，提高代码的效率。

总结

在使用 NumPy 进行数值计算时，需要注意数据类型和潜在的整数溢出问题。通过将整数常量转换为浮点数，或使用 NumPy 提供的向量化函数，可以有效地避免这些问题，并提高代码的效率和准确性。同时，也要注意 np.vectorize 函数的效率问题，尽量使用 NumPy 内置的向量化函数来替代。

以上就是NumPy vectorize 导致数值“舍入”为最近整数：原因及解决方案的详细内容，更多请关注php中文网其它相关文章！