0

0

在Pandas中精确比较带NaN的浮点数列并统计差异

心靈之曲

心靈之曲

发布时间:2025-10-08 14:04:01

|

736人浏览过

|

来源于php中文网

原创

在Pandas中精确比较带NaN的浮点数列并统计差异

本教程详细介绍了如何在Pandas DataFrame中准确比较包含浮点数和NaN值的列,并统计其差异行数。针对浮点数精度问题,我们采用 round() 方法进行标准化;对于NaN值的特殊处理,则利用 compare() 函数的特性,确保 NaN 对 NaN 不被视为差异。通过结合这两种方法,用户可以有效避免常见比较陷阱,实现可靠的数据差异分析。

挑战分析:浮点数精度与NaN值比较

在数据处理和分析中,比较两个dataframe中特定列的差异是一项常见任务。然而,当这些列包含浮点数和缺失值(nan)时,简单的相等性比较可能会导致不准确的结果。

  1. 浮点数精度问题: 浮点数在计算机内部的表示方式决定了它们可能存在微小的精度误差。例如,0.1 + 0.2 可能不严格等于 0.3。因此,直接使用 == 运算符比较两个浮点数可能会将实际上相同的值误判为不同。
  2. NaN值处理: 在Pandas中,NaN(Not a Number)代表缺失数据。根据IEEE 754浮点数标准,NaN 与任何值(包括 NaN 自身)的比较结果都是 False。这意味着,如果两列中对应位置都是 NaN,直接比较会认为它们是不同的,这与我们通常希望 NaN 对 NaN 不计入差异的业务逻辑相悖。

为了解决这些挑战,我们需要一种更健壮的方法来执行比较。

解决方案:结合 round() 与 compare()

Pandas库提供了强大的工具来处理这些复杂场景。我们可以结合使用 round() 方法来标准化浮点数精度,以及 compare() 方法来智能地识别差异并处理NaN值。

1. 处理浮点数精度:round() 方法

在进行浮点数比较之前,通过 round() 方法将浮点数四舍五入到指定的精度,可以有效消除因精度误差导致的误判。选择合适的精度至关重要,它应基于数据的实际需求和可接受的误差范围。

import pandas as pd

# 示例数据
d1 = {"col": [7.1, 2.0, 3.0, 4.0, None, 1.9, 1.3]}
d2 = {"col": [7.1, 2.5, 3.0, 4.0, None, 1.2, None]}

df1 = pd.DataFrame(d1)
df2 = pd.DataFrame(d2)

# 将目标列的浮点数四舍五入到指定的小数位数,例如4位
df1["col"] = df1["col"].round(4)
df2["col"] = df2["col"].round(4)

print("处理精度后的df1:\n", df1)
print("\n处理精度后的df2:\n", df2)

通过 round() 操作,我们确保了在后续比较中,只有在指定精度范围外存在差异的浮点数才会被识别。

2. 识别差异并处理NaN:compare() 方法

Pandas的 DataFrame.compare() 方法是专门设计用于比较两个DataFrame并突出显示差异的工具。它能够智能地处理NaN值:当两个DataFrame在相同位置都包含 NaN 时,compare() 方法不会将其视为差异并包含在结果中,这完美符合我们“NaN 对 NaN 不计入差异”的需求。

compare() 方法会返回一个新的DataFrame,其中只包含两个原始DataFrame中不同的行和列。对于每个不同的单元格,它会创建两列:self(来自调用compare()的DataFrame)和 other(来自作为参数传入的DataFrame)。

晓象AI资讯阅读神器
晓象AI资讯阅读神器

晓象-AI时代的资讯阅读神器

下载
# 使用compare方法比较处理过精度的DataFrame
comparison = df1.compare(df2)

print("\n差异比较结果:\n", comparison)

输出解释:comparison DataFrame的列是多级索引,外层索引是原始列名(例如 col),内层索引是 self 和 other,分别表示 df1 和 df2 中对应位置的值。例如,在索引为1的行中,df1['col'] 的值为 2.0,而 df2['col'] 的值为 2.5,因此这一行被 compare 识别为差异。 值得注意的是,原始数据中索引为4的行,df1['col'] 和 df2['col'] 都为 None(即 NaN)。由于 compare() 的默认行为,这一对 NaN 值并未出现在 comparison 结果中,表明它们没有被视为差异。

统计差异行数

一旦 compare() 方法返回了差异DataFrame,统计不同行的数量就非常简单了。只需获取 comparison DataFrame的行数即可。

# 统计差异行数
different_rows_count = len(comparison)

print("\n不同行数:", different_rows_count)

结合上述步骤,完整的实现代码如下:

import pandas as pd

# 原始数据
d1 = {"col": [7.1, 2.0, 3.0, 4.0, None, 1.9, 1.3]}
d2 = {"col": [7.1, 2.5, 3.0, 4.0, None, 1.2, None]}

df1 = pd.DataFrame(d1)
df2 = pd.DataFrame(d2)

print("原始df1:\n", df1)
print("\n原始df2:\n", df2)

# 步骤1: 处理浮点数精度,例如四舍五入到4位小数
df1["col"] = df1["col"].round(4)
df2["col"] = df2["col"].round(4)

print("\n处理精度后的df1:\n", df1)
print("\n处理精度后的df2:\n", df2)

# 步骤2: 使用compare方法识别差异
# compare方法会自动处理NaN对NaN的情况,不将其计入差异
comparison = df1.compare(df2)

print("\n差异比较结果 (compare方法输出):\n", comparison)

# 步骤3: 统计差异行数
different_rows_count = len(comparison)

print("\n不同行数:", different_rows_count)

运行结果示例:

原始df1:
    col
0  7.1
1  2.0
2  3.0
3  4.0
4  NaN
5  1.9
6  1.3

原始df2:
    col
0  7.1
1  2.5
2  3.0
3  4.0
4  NaN
5  1.2
6  NaN

处理精度后的df1:
    col
0  7.1
1  2.0
2  3.0
3  4.0
4  NaN
5  1.9
6  1.3

处理精度后的df2:
    col
0  7.1
1  2.5
2  3.0
3  4.0
4  NaN
5  1.2
6  NaN

差异比较结果 (compare方法输出):
    col      
   self other
1   2.0   2.5
5   1.9   1.2
6   1.3   NaN

不同行数: 3

从结果可以看出,索引为1、5、6的行被识别为差异。索引为4的行,由于两DataFrame的col列都为NaN,因此未被计入差异,符合预期。

注意事项

  • 选择合适的精度: round() 方法的精度参数 (decimals) 应根据数据的特性和业务需求仔细选择。过高的精度可能无法解决浮点数误差,过低的精度则可能掩盖实际的微小差异。
  • compare() 方法的灵活性: compare() 方法还有其他参数,例如 align_axis 可以控制比较时是否对齐索引和列,keep_shape 可以返回与原始DataFrame形状相同的DataFrame(用 NaN 填充非差异部分),这些在特定场景下可能有用。
  • 性能考量: 对于非常大的DataFrame,compare() 方法可能会占用较多内存。在极端情况下,可以考虑分块处理或使用其他更底层的优化方法。
  • 多列比较: 如果需要比较多列,可以对所有相关列应用 round(),然后直接使用 compare() 方法比较整个DataFrame,它会自动识别所有列中的差异。
  • 非数值列: 本教程主要针对浮点数列。对于字符串或其他类型列的差异比较,compare() 方法同样适用,但无需进行 round() 操作。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

51

2025.12.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1463

2023.10.24

Go语言中的运算符有哪些
Go语言中的运算符有哪些

Go语言中的运算符有:1、加法运算符;2、减法运算符;3、乘法运算符;4、除法运算符;5、取余运算符;6、比较运算符;7、位运算符;8、按位与运算符;9、按位或运算符;10、按位异或运算符等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

228

2024.02.23

php三元运算符用法
php三元运算符用法

本专题整合了php三元运算符相关教程,阅读专题下面的文章了解更多详细内容。

85

2025.10.17

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

254

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

206

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

1463

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

617

2023.11.24

PHP 表单处理与文件上传安全实战
PHP 表单处理与文件上传安全实战

本专题聚焦 PHP 在表单处理与文件上传场景中的实战与安全问题,系统讲解表单数据获取与校验、XSS 与 CSRF 防护、文件类型与大小限制、上传目录安全配置、恶意文件识别以及常见安全漏洞的防范策略。通过贴近真实业务的案例,帮助学习者掌握 安全、规范地处理用户输入与文件上传的完整开发流程。

1

2026.01.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
SciPy 教程
SciPy 教程

共10课时 | 1.1万人学习

R 教程
R 教程

共45课时 | 4.9万人学习

SQL 教程
SQL 教程

共61课时 | 3.4万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号