Python数据整合:基于键值匹配高效合并字典列表

聖光之護
发布: 2025-07-02 21:42:02
原创
957人浏览过

python数据整合:基于键值匹配高效合并字典列表

本教程详细阐述了如何在Python中高效地将多个字典列表进行合并与数据补充。通过匹配特定键的值,我们可以将来自不同源列表(如listA和listB)的额外信息(如original_name和original_address)整合到主数据列表(dataList)的每个字典条目中,从而构建一个包含所有所需字段的全新字典列表。本文将提供实用的代码示例和最佳实践,帮助读者掌握此类数据整合技巧。

在数据处理过程中,我们经常会遇到需要从多个数据源整合信息以构建一个更完整数据集的场景。例如,你可能有一个包含核心记录的列表,以及其他包含补充属性的辅助列表。目标是根据共同的标识符(如名称或地址)将这些补充属性添加到核心记录中。

场景描述与挑战

假设我们有以下三个字典列表:

  • listA:包含 name 和 original_name,用于提供原始名称信息。
  • listB:包含 address 和 original_address,用于提供原始地址信息。
  • dataList:主数据列表,包含 id, created_at, name, address 等核心信息。

我们的任务是创建一个新的列表 finalList,它基于 dataList,但同时从 listA 中匹配 name 字段,并添加 original_name;从 listB 中匹配 address 字段,并添加 original_address。

原始数据示例如下:

立即学习Python免费学习笔记(深入)”;

listA = [
  {
    "name": "name sample 1",
    "original_name" : "original name sample 1",
  },
  {
    "name": "name sample 2",
    "original_name" : "original name sample 2",
  }
]

listB = [
  {
    "address": "address sample 1",
    "original_address" : "original address sample 1",
  },
  {
    "address": "address sample 2",
    "original_address" : "original address sample 2",
  }
]

dataList = [
  {
    "id": "1",
    "created_at": "date 1",
    "name": "name sample 1",
    "address": "address sample 1",
  },
  {
    "id": "2",
    "created_at": "date 2",
    "name": "name sample 2",
    "address": "address sample 2",
  }
]
登录后复制

期望的 finalList 结构应为:

finalList = [
  {
    "id": "1",
    "created_at": "date 1",
    "name": "name sample 1",
    "original_name" : "original name sample 1",
    "address": "address sample 1",
    "original_address" : "original address sample 1",
  },
  {
    "id": "2",
    "created_at": "date 2",
    "name": "name sample 2",
    "original_name" : "original name sample 2",
    "address": "address sample 2",
    "original_address" : "original address sample 2",
  }
]
登录后复制

解决方案:基于嵌套循环的匹配与更新

一种直观且有效的方法是利用 Python 的循环结构,遍历辅助列表,并在主列表中查找匹配项进行更新。为了避免修改原始 dataList,我们首先创建一个它的深拷贝。

核心思路

  1. 复制主列表:使用 copy 模块的 deepcopy 函数创建 dataList 的一个独立副本,作为我们最终操作的 finalList。
  2. 合并辅助列表:将 listA 和 listB 合并成一个迭代器(通过 listA + listB),这样可以一次性处理所有补充数据。
  3. 遍历并匹配更新
    • 对于合并后的每个辅助字典条目 (entry):
    • 判断 entry 中包含的是 name 还是 address 键,以确定其来源。
    • 根据判断结果,遍历 finalList 中的每个字典 (data)。
    • 如果 data 中相应的匹配键值与 entry 中的键值匹配,则将 entry 中对应的 original_ 字段添加到 data 中。

示例代码

from copy import deepcopy

# 原始数据定义 (与上述场景描述一致)
listA = [
  {"name": "name sample 1", "original_name" : "original name sample 1"},
  {"name": "name sample 2", "original_name" : "original name sample 2"}
]

listB = [
  {"address": "address sample 1", "original_address" : "original address sample 1"},
  {"address": "address sample 2", "original_address" : "original address sample 2"}
]

dataList = [
  {"id": "1", "created_at": "date 1", "name": "name sample 1", "address": "address sample 1"},
  {"id": "2", "created_at": "date 2", "name": "name sample 2", "address": "address sample 2"}
]

# 1. 创建dataList的深拷贝,避免修改原始数据
finalList = deepcopy(dataList)

# 2. 遍历listA和listB的合并结果
# 这种方式巧妙地将两个不同类型的补充数据统一处理
for entry in listA + listB:
    # 3. 根据entry中存在的键(name或address)进行判断
    if "name" in entry:
        # 如果是来自listA的条目,则匹配name并添加original_name
        for data in finalList:
            if data['name'] == entry['name']:
                data['original_name'] = entry['original_name']
    elif "address" in entry:
        # 如果是来自listB的条目,则匹配address并添加original_address
        for data in finalList:
            if data['address'] == entry['address']:
                data['original_address'] = entry['original_address']

# 打印结果,验证原始dataList未被修改,且finalList已包含所需信息
print("原始dataList (未修改):")
print(dataList)
print("\n合并后的finalList:")
print(finalList)
登录后复制

运行结果

原始dataList (未修改):
[{'id': '1', 'created_at': 'date 1', 'name': 'name sample 1', 'address': 'address sample 1'}, {'id': '2', 'created_at': 'date 2', 'name': 'name sample 2', 'address': 'address sample 2'}]

合并后的finalList:
[{'id': '1', 'created_at': 'date 1', 'name': 'name sample 1', 'address': 'address sample 1', 'original_name': 'original name sample 1', 'original_address': 'original address sample 1'}, {'id': '2', 'created_at': 'date 2', 'name': 'name sample 2', 'address': 'address sample 2', 'original_name': 'original name sample 2', 'original_address': 'original address sample 2'}]
登录后复制

注意事项与性能优化

上述方法对于小规模数据是有效且易于理解的。然而,当列表规模非常大时,嵌套循环的性能会成为瓶颈。其时间复杂度为 O(M * N),其中 M 是 listA + listB 的总长度,N 是 finalList 的长度。对于大型数据集,可以考虑以下优化策略:

1. 使用字典进行预处理(哈希映射)

将辅助列表转换为字典(哈希映射),以实现 O(1) 的平均查找时间。这将把整体时间复杂度降低到 O(M + N),因为预处理和最终遍历

以上就是Python数据整合:基于键值匹配高效合并字典列表的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号