
本文将介绍如何基于包含缺失值(NaN)的DataFrame,根据特定ID生成规则,构建多个只包含特定列的DataFrame。核心思想是根据某一列的非缺失值来确定ID,然后基于此ID列,分别提取其他列的非缺失值,最终生成多个目标DataFrame。
问题描述
假设我们有一个DataFrame,其中包含多个NaN值。我们的目标是基于该DataFrame构建三个不同的DataFrame,每个DataFrame包含一个ID列和一个原始DataFrame中的列。ID的生成规则是:从某一列(例如'a'列)的非NaN单元格开始,到下一个非NaN单元格为止,这些行都具有相同的ID。
解决方案
以下是使用pandas实现此目标的步骤:
- 创建ID列: 基于DataFrame的'a'列的非NaN值生成ID列。使用notna().cumsum()方法可以实现此目的。notna()返回一个布尔Series,指示每个值是否为非NaN。cumsum()计算累积和,每当遇到非NaN值时,累积和就会增加,从而为每个连续的非NaN值块分配唯一的ID。
- 创建目标DataFrame: 对于每个要提取的列('a','b','c'),创建一个新的DataFrame,其中包含'id'列和目标列。使用dropna()方法删除包含NaN值的行。
import pandas as pd
import numpy as np
# 示例DataFrame
df = pd.DataFrame({'a':[10, np.nan, np.nan, 22, np.nan], 'b':[23, 12, 7, 4, np.nan], 'c':[13, np.nan, np.nan, np.nan, 65]})
# 创建ID列
df['id'] = df['a'].notna().cumsum()
# 创建目标DataFrame
df_a = df[['id','a']].dropna()
df_b = df[['id','b']].dropna()
df_c = df[['id','c']].dropna()
print("df_a:\n", df_a)
print("\ndf_b:\n", df_b)
print("\ndf_c:\n", df_c)代码解释:
- df['a'].notna(): 创建一个布尔Series,如果'a'列中的值不是NaN,则为True,否则为False。
- cumsum(): 计算上述布尔Series的累积和。每当遇到True(非NaN值)时,累积和就会增加。
- df[['id','a']]: 创建一个新的DataFrame,其中包含'id'列和'a'列。
- dropna(): 删除新DataFrame中包含NaN值的行。
结果
运行上述代码将生成三个DataFrame:df_a,df_b和df_c,它们分别包含'id'列和'a','b'和'c'列的非NaN值。
KGOGOMall 是一套采用 Php + MySql 开发的基于 WEB 应用的 B/S 架构的B2C网上商店系统。具有完善的商品管理、订单管理、销售统计、新闻管理、结算系统、税率系统、模板系统、搜索引擎优化,数据备份恢复,会员积分折扣功能,不同的会员有不同的折扣,支持多语言,模板和代码分离等,轻松创建属于自己的个性化用户界面。主要面向企业和大中型网商提供最佳保障,最大化满足客户目前及今后的独立
重置索引 (可选)
如果需要,可以使用reset_index(drop=True)方法重置结果DataFrame的索引,使其从0开始连续编号。
df_a = df[['id','a']].dropna().reset_index(drop=True)
df_b = df[['id','b']].dropna().reset_index(drop=True)
df_c = df[['id','c']].dropna().reset_index(drop=True)
print("df_a with reset index:\n", df_a)drop=True参数防止将旧索引添加到DataFrame中作为新列。
总结
本教程演示了如何基于包含缺失值的DataFrame,根据特定ID生成规则,构建多个不同的DataFrame。关键步骤包括创建ID列和使用dropna()方法删除包含NaN值的行。此方法可以灵活地应用于各种数据处理场景,以提取和组织所需的数据子集。









