0

0

如何基于模糊匹配合并多个包含公司名称的 DataFrame

心靈之曲

心靈之曲

发布时间:2026-01-20 19:10:14

|

461人浏览过

|

来源于php中文网

原创

如何基于模糊匹配合并多个包含公司名称的 DataFrame

本文介绍一种高效、简洁的方法,使用 pandas 的 `concat` 与分组聚合实现多表按公司名称(支持近似匹配)智能拼接,并自动处理列冲突(如重复值存为元组)。

在实际数据分析中,我们常需整合来自不同来源的公司数据表——这些表共享“Company Name”列,但名称存在拼写差异(如 "A corp" vs "A Corporation")、大小写不一致或空格冗余;同时各表字段不完全重叠(如有的含 Value 和 Currency,有的含 HQ 和 Website)。直接使用 pd.merge 或 pd.concat 无法解决模糊匹配问题,而手动遍历 + fuzzywuzzy 易出错、性能差且逻辑复杂。

更优解是先标准化名称,再借助索引对齐与分组聚合完成智能合并。核心思路如下:

  1. 统一标准化公司名:对每张表的 'Company Name' 列执行清洗(小写、去空格、去 NaN),并基于此构建唯一键;
  2. 引入辅助索引:使用 groupby('Company Name').cumcount() 为同名公司生成序号(如 "D corp" 出现两次 → 索引 (D corp, 0) 和 (D corp, 1)),避免合并时行错位;
  3. 水平拼接(axis=1):将所有表设为 MultiIndex(['Company Name', cumcount])后拼接,使相同公司+序号的行对齐;
  4. 按公司名聚合:对每个列应用自定义聚合函数:保留非空值,若多个则转为 tuple,若唯一则取该值,全空则返回 NaN。

以下是完整可运行示例代码:

import pandas as pd
import numpy as np

# 示例数据(对应问题中的四张表)
df1 = pd.DataFrame({'Company Name': ['A corp', 'B corp'], 'Value': ['Cell 2', 'Cell 4']})
df2 = pd.DataFrame({
    'Company Name': ['A corp', 'C corp'],
    'Date': ['Cell 2', 'Cell 4'],
    'Leadership': ['Cell 1', 'Cell 1'],
    'Net Profit': ['Cell 2', 'Cell 2']
})
df3 = pd.DataFrame({'Company Name': ['A corp', 'B corp', 'C corp'], 'Value': ['Cell 2', 'Cell 4', 'Cell 4']})
df4 = pd.DataFrame({
    'Company Name': ['D corp', 'D corp'],
    'Percentage': ['Cell 2', 'Cell 4'],
    'Comment': ['Cell 2', 'Cell 4'],
    'HQ': ['Cell 2', 'Cell 4'],
    'Website': ['Cell 2', 'Cell 4']
})

dfs = [df1, df2, df3, df4]

def aggregate_nonnull(s):
    s_clean = s.dropna()
    if len(s_clean) > 1:
        return tuple(s_clean.unique())  # 去重后转元组,避免重复项
    elif len(s_clean) == 1:
        return s_clean.iloc[0]
    else:
        return np.nan

# 关键步骤:设置双层索引 + 水平拼接 + 分组聚合
combined = (
    pd.concat([
        d.set_index(['Company Name', d.groupby('Company Name').cumcount()]) 
        for d in dfs
    ], axis=1)
    .T.groupby(level=0).agg(aggregate_nonnull).T
    .reset_index('Company Name')
)

print(combined)

输出说明

MagicArena
MagicArena

字节跳动推出的视觉大模型对战平台

下载
  • 每行代表一个“公司名-序号”组合(如 D corp 有两行,因原始表中出现两次);
  • 共享列(如 Value)自动合并:A corp 的 Value 同时来自 df1 和 df3 → (Cell 2, Cell 2);
  • 独有列(如 Website)仅在对应表存在的行填充,其余为 NaN;
  • 所有列均保留,无信息丢失。

⚠️ 注意事项

  • 此方法不依赖 fuzzywuzzy,而是假设输入表已通过预处理(如 fuzzywuzzy 或 rapidfuzz)完成了名称归一化(例如将 "A Corporation" 统一映射为 "A corp"),否则需在 set_index 前添加标准化步骤;
  • 若需真正模糊匹配(而非预对齐),建议先用 rapidfuzz.process.extractOne 批量标准化所有表的 'Company Name' 列,再执行上述流程;
  • tuple 类型字段在后续分析中不可直接参与数值计算,如需展开可使用 pd.Series.explode();
  • 对超大表,pd.concat(..., axis=1) 可能内存压力较大,可改用 dask 或分块处理。

该方案兼顾简洁性、可读性与工程鲁棒性,是处理多源异构公司数据融合的推荐实践。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

52

2025.12.04

数据分析的方法
数据分析的方法

数据分析的方法有:对比分析法,分组分析法,预测分析法,漏斗分析法,AB测试分析法,象限分析法,公式拆解法,可行域分析法,二八分析法,假设性分析法。php中文网为大家带来了数据分析的相关知识、以及相关文章等内容。

466

2023.07.04

数据分析方法有哪几种
数据分析方法有哪几种

数据分析方法有:1、描述性统计分析;2、探索性数据分析;3、假设检验;4、回归分析;5、聚类分析。本专题为大家提供数据分析方法的相关的文章、下载、课程内容,供大家免费下载体验。

279

2023.08.07

网站建设功能有哪些
网站建设功能有哪些

网站建设功能包括信息发布、内容管理、用户管理、搜索引擎优化、网站安全、数据分析、网站推广、响应式设计、社交媒体整合和电子商务等功能。这些功能可以帮助网站管理员创建一个具有吸引力、可用性和商业价值的网站,实现网站的目标。

729

2023.10.16

数据分析网站推荐
数据分析网站推荐

数据分析网站推荐:1、商业数据分析论坛;2、人大经济论坛-计量经济学与统计区;3、中国统计论坛;4、数据挖掘学习交流论坛;5、数据分析论坛;6、网站数据分析;7、数据分析;8、数据挖掘研究院;9、S-PLUS、R统计论坛。想了解更多数据分析的相关内容,可以阅读本专题下面的文章。

508

2024.03.13

Python 数据分析处理
Python 数据分析处理

本专题聚焦 Python 在数据分析领域的应用,系统讲解 Pandas、NumPy 的数据清洗、处理、分析与统计方法,并结合数据可视化、销售分析、科研数据处理等实战案例,帮助学员掌握使用 Python 高效进行数据分析与决策支持的核心技能。

71

2025.09.08

Python 数据分析与可视化
Python 数据分析与可视化

本专题聚焦 Python 在数据分析与可视化领域的核心应用,系统讲解数据清洗、数据统计、Pandas 数据操作、NumPy 数组处理、Matplotlib 与 Seaborn 可视化技巧等内容。通过实战案例(如销售数据分析、用户行为可视化、趋势图与热力图绘制),帮助学习者掌握 从原始数据到可视化报告的完整分析能力。

55

2025.10.14

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

4

2026.01.20

PS使用蒙版相关教程
PS使用蒙版相关教程

本专题整合了ps使用蒙版相关教程,阅读专题下面的文章了解更多详细内容。

55

2026.01.19

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Excel 教程
Excel 教程

共162课时 | 12.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.2万人学习

NumPy 教程
NumPy 教程

共44课时 | 2.9万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号