
在数据分析的初期阶段,了解数据集的结构至关重要。特别是对于拥有大量列的dataframe,手动检查每一列的数据类型和唯一值既耗时又容易出错。一个自动化的方法能够生成一个汇总表格,清晰地列出每列的名称、数据类型、所有唯一值以及唯一值的数量,将极大提升数据探索的效率。
例如,对于以下DataFrame:
import pandas as pd
df = pd.DataFrame({
'letter': ['a','b','c','a','b','c'],
'state': ['CA','FL','CA','FL','CA','FL'],
'scores': [11.6,12.8,13.9,14.2,15.8,16.2],
'age': [12,28,19,14,12,28]})
print(df)期望的输出是一个新的DataFrame,其结构如下:
| columns_names | Dtype | Unique_values | Unique_count |
|---|---|---|---|
| letter | object | a, b, c | 3 |
| state | object | CA, FL | 2 |
| scores | float64 | 11.6, 12.8, 13.9, 14.2, 15.8, 16.2 | 6 |
| age | int64 | 12, 28, 19, 14 | 4 |
实现上述需求的核心思路是遍历DataFrame的每一列,并针对每列提取所需的信息(列名、数据类型、唯一值列表及数量),然后将这些信息汇总到一个新的DataFrame中。
以下是实现上述功能的完整Python代码:
立即学习“Python免费学习笔记(深入)”;
import pandas as pd
# 示例 DataFrame
df = pd.DataFrame({
'letter': ['a','b','c','a','b','c'],
'state': ['CA','FL','CA','FL','CA','FL'],
'scores': [11.6,12.8,13.9,14.2,15.8,16.2],
'age': [12,28,19,14,12,28]})
# 用于存储每列信息的列表
column_names = []
data_types = []
unique_values_str = []
unique_counts = []
# 遍历 DataFrame 的每一列
for col in df.columns:
# 收集列名
column_names.append(col)
# 收集数据类型,转换为字符串表示
data_types.append(str(df[col].dtype))
# 获取唯一值数组
unique_vals = df[col].unique()
# 将唯一值数组中的每个元素转换为字符串,然后用 ', ' 连接
# 确保所有类型的值都能正确转换为字符串并拼接
formatted_unique_vals = [str(x) for x in unique_vals]
unique_values_str.append(', '.join(formatted_unique_vals))
# 统计唯一值数量
unique_counts.append(len(unique_vals))
# 构建结果 DataFrame
summary_df = pd.DataFrame({
'columns_names': column_names,
'Dtype': data_types,
'Unique_values': unique_values_str,
'Unique_count': unique_counts
})
print(summary_df)输出结果:
columns_names Dtype Unique_values Unique_count 0 letter object a, b, c 3 1 state object CA, FL 2 2 scores float64 11.6, 12.8, 13.9, 14.2, 15.8, 16.2 6 3 age int64 12, 28, 19, 14 4
为了提高代码的复用性和可维护性,特别是当需要对多个DataFrame执行相同操作时,可以将上述逻辑封装成一个函数:
import pandas as pd
def generate_dataframe_summary(df: pd.DataFrame) -> pd.DataFrame:
"""
为给定的 Pandas DataFrame 生成一个包含列名、数据类型、唯一值列表和唯一值数量的汇总表。
Args:
df (pd.DataFrame): 需要分析的 DataFrame。
Returns:
pd.DataFrame: 包含每列概览信息的新 DataFrame。
"""
column_names = []
data_types = []
unique_values_str = []
unique_counts = []
for col in df.columns:
column_names.append(col)
data_types.append(str(df[col].dtype))
unique_vals = df[col].unique()
formatted_unique_vals = [str(x) for x in unique_vals]
unique_values_str.append(', '.join(formatted_unique_vals))
unique_counts.append(len(unique_vals))
summary_df = pd.DataFrame({
'columns_names': column_names,
'Dtype': data_types,
'Unique_values': unique_values_str,
'Unique_count': unique_counts
})
return summary_df
# 示例使用
df_large = pd.DataFrame({
f'col_{i}': [i % 5, (i + 1) % 3, (i + 2) % 7] * 100 for i in range(70)
})
df_large['text_col'] = ['apple', 'banana', 'orange'] * 70
df_large['float_col'] = [float(x) / 10 for x in range(210)]
summary_of_large_df = generate_dataframe_summary(df_large)
print(summary_of_large_df.head()) # 打印前几行,因为列数较多通过本文介绍的方法,我们可以轻松地为任何Pandas DataFrame生成一份详细的列信息概览表。这份汇总表不仅包含了每列的数据类型和唯一值数量,还以清晰的格式展示了具体的唯一值列表,这对于数据探索、验证数据质量以及规划后续的数据清洗和特征工程步骤都非常有帮助。将此功能封装为函数,进一步提升了其在实际项目中的可用性和效率。
以上就是Python Pandas DataFrame列信息概览:数据类型与唯一值统计的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号