0

0

利用Pandas与NumPy高效构建坐标DataFrame

聖光之護

聖光之護

发布时间:2025-11-10 11:16:41

|

421人浏览过

|

来源于php中文网

原创

利用pandas与numpy高效构建坐标dataframe

本文旨在指导读者如何基于现有DataFrame和索引列表,高效地构建一个新的坐标DataFrame。我们将探讨两种主要方法:基于循环和字典的迭代方法,以及利用NumPy高级索引和向量化操作的更优方法,旨在提高数据处理的效率和代码简洁性,为后续数据可视化(如路线绘制)奠定基础。

在数据分析和处理中,我们经常需要从一个大型数据集中根据特定的索引或规则提取子集,并将其组织成新的结构。本教程将以一个具体场景为例,演示如何从一个包含节点信息的Pandas DataFrame中,根据一个索引列表(tours)提取对应的X和Y坐标,并构建一个新的DataFrame。

场景描述

假设我们拥有以下两个核心数据结构:

  1. 一个名为 tours 的列表,其中每个子列表包含两个整数,分别代表X坐标和Y坐标在原始DataFrame df 中的行索引。例如,[0, 4] 表示从 df 的第0行获取X值,从 df 的第4行获取Y值。

    tours = [[0, 4], [0, 5], [0, 6], [1, 13], [2, 0], [3, 8], [4, 9], [5, 10],
             [6, 7], [7, 1], [8, 2], [9, 3], [10, 11], [11, 14], [12, 0], [13, 12], [14, 0]]
  2. 一个名为 df 的Pandas DataFrame,包含了多个节点的详细信息,其中包括 X 和 Y 坐标。

    import pandas as pd
    import numpy as np
    
    data = {
        'Node': [2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16],
        'X': [5.7735, 2.8867, -2.8868, -5.7735, -2.8867, 2.8868, 8.6603, 0.0000, -8.6603, -8.6603, 0.0000, 8.6603, 5.3405, 3.3198, 6.4952],
        'Y': [0.00, 5.00, 5.00, 0.00, -5.00, -5.00, 5.00, 10.00, 5.00, -5.00, -10.00, -5.00, 0.75, 4.25, -1.25],
        'Demand': [40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 40.0, 10.0, 10.0, 10.0],
        'Profit': [16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 16.0, 24.0, 24.0, 24.0, 24.0, 10.0, 10.0, 11.0]
    }
    df = pd.DataFrame(data)
    # 调整DataFrame的索引以匹配问题描述中的iloc行为
    # 原始df的索引是1-15,但iloc[0]会访问到Node=2的行。
    # 为了使iloc[0]访问到Node=2的行,我们需要确保df的默认整数索引是0开始的。
    # 示例数据中已经确保了这一点。

我们的目标是创建一个新的DataFrame coord,其中包含 tours 中每个索引对对应的 X 和 Y 坐标。

方法一:迭代与字典转换

这种方法通过循环遍历 tours 列表,在每次迭代中根据索引从 df 中提取 X 和 Y 值,并将这些值存储在一个字典中。最后,将字典转换为DataFrame。

实现步骤:

  1. 初始化一个空字典 d。
  2. 遍历 tours 列表,使用 enumerate 获取当前元素的索引 t 和子列表 tour。
  3. 从 tour 中提取 xi (X的索引) 和 yi (Y的索引)。
  4. 使用 df["X"].iloc[xi] 和 df["Y"].iloc[yi] 从 df 中获取对应的X和Y值。
  5. 将获取到的 (X, Y) 对作为值,t 作为键存入字典 d。
  6. 使用 pd.DataFrame.from_dict() 方法,指定 orient='index' 和 columns=['X', 'Y'] 将字典转换为DataFrame。orient='index' 确保字典的键成为DataFrame的索引,值成为行数据。

示例代码:

d = {}
for t, tour in enumerate(tours):
    xi = tour[0]
    yi = tour[1]
    # 注意:df.iloc[index] 是基于位置的索引,与问题描述中的预期行为一致
    d[t] = df["X"].iloc[xi], df["Y"].iloc[yi]

coord_iterative = pd.DataFrame.from_dict(d, orient='index', columns=['X', 'Y'])
print("--- 方法一:迭代与字典转换 ---")
print(coord_iterative)

优点:

  • 逻辑清晰,易于理解,尤其适合初学者。
  • 对于小型数据集,性能影响不明显。

缺点:

Revid AI
Revid AI

AI短视频生成平台

下载
  • 涉及显式循环,对于大型数据集效率较低。Python的循环通常比向量化操作慢。

方法二:向量化操作与NumPy高级索引

为了提高效率,特别是处理大数据时,推荐使用Pandas和NumPy提供的向量化操作。这种方法避免了显式Python循环,转而利用底层C实现的优化操作。

实现步骤:

  1. 将 tours 列表转换为NumPy数组。这使得我们可以利用NumPy的强大索引功能。
  2. 从原始DataFrame df 中提取 X 和 Y 列,并将其转换为NumPy数组 arr。这样做可以避免在循环中反复进行Pandas Series的索引操作。
  3. 利用NumPy的高级索引功能,一步到位地从 arr 中提取所有需要的X和Y值。
    • tours[:, 0] 提取 tours 数组中所有子列表的第一个元素(即X的索引列表)。
    • tours[:, 1] 提取 tours 数组中所有子列表的第二个元素(即Y的索引列表)。
    • arr[tours[:, 0], 0] 表示使用X的索引列表去 arr 的第0列(即X值)中查找对应的值。
    • arr[tours[:, 1], 1] 表示使用Y的索引列表去 arr 的第1列(即Y值)中查找对应的值。
  4. 将这些提取出的X和Y值直接构建成一个新的Pandas DataFrame。

示例代码:

# 将tours转换为NumPy数组,方便进行高级索引
tours_np = np.array(tours)

# 提取df的X和Y列并转换为NumPy数组
# 注意:这里假设df的索引是0-based的整数索引,与iloc行为一致
arr = df[["X", "Y"]].to_numpy()

# 使用NumPy高级索引直接获取X和Y坐标
# tours_np[:, 0] 得到所有X的索引
# tours_np[:, 1] 得到所有Y的索引
# arr[row_indices, column_index]
# arr[tours_np[:, 0], 0] 从arr的第0列(X值)中,按照tours_np[:, 0]提供的行索引提取值
# arr[tours_np[:, 1], 1] 从arr的第1列(Y值)中,按照tours_np[:, 1]提供的行索引提取值
coord_vectorized = pd.DataFrame({
    "X": arr[tours_np[:, 0], 0],
    "Y": arr[tours_np[:, 1], 1]
})

print("\n--- 方法二:向量化操作与NumPy高级索引 ---")
print(coord_vectorized)

优点:

  • 高效性: 充分利用了NumPy的底层优化,执行速度远快于Python循环,尤其适用于大数据集。
  • 简洁性: 代码更为紧凑和优雅。
  • Pandas/NumPy生态系统优势: 与Pandas和NumPy的数据结构无缝集成。

缺点:

  • 对于初学者来说,NumPy的高级索引可能需要一些时间来理解。

性能比较与选择

在实际应用中,对于数据量较小(例如几百到几千行)的场景,两种方法在性能上的差异可能不明显,此时选择可读性更好的迭代方法也无妨。然而,当处理的数据量达到数万、数十万甚至更高时,向量化操作的性能优势将变得极其显著,能够大幅缩短程序运行时间。

因此,推荐在大多数情况下优先使用方法二(向量化操作与NumPy高级索引),因为它代表了Pandas和NumPy处理数据的最佳实践。

总结与注意事项

通过本教程,我们学习了两种从现有DataFrame中提取指定坐标并构建新DataFrame的方法。

  1. 迭代方法:通过循环和字典辅助构建,易于理解,但效率相对较低。
  2. 向量化方法:利用NumPy的高级索引,代码简洁且性能卓越,是处理大量数据的首选。

在实践中,选择哪种方法取决于具体的数据规模和对性能的要求。对于最终目标是绘制路线图的场景,生成的 coord DataFrame将直接作为绘图库(如Matplotlib, Seaborn, Plotly等)的输入,其准确性和高效生成是至关重要的。

注意事项:

  • 索引范围:确保 tours 列表中的索引值不会超出 df DataFrame的有效行索引范围,否则会导致 IndexError。
  • 数据类型:在将数据转换为NumPy数组时,确保数据类型兼容,以避免潜在的类型转换问题。
  • 可读性与性能平衡:虽然向量化操作更高效,但在某些极端复杂的逻辑中,如果过度追求单行代码而牺牲可读性,可能会增加维护成本。始终在性能和代码可读性之间找到最佳平衡点。

相关专题

更多
python开发工具
python开发工具

php中文网为大家提供各种python开发工具,好的开发工具,可帮助开发者攻克编程学习中的基础障碍,理解每一行源代码在程序执行时在计算机中的过程。php中文网还为大家带来python相关课程以及相关文章等内容,供大家免费下载使用。

716

2023.06.15

python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

626

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

739

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

617

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

1236

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

547

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

575

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

699

2023.08.11

php源码安装教程大全
php源码安装教程大全

本专题整合了php源码安装教程,阅读专题下面的文章了解更多详细内容。

7

2025.12.31

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
最新Python教程 从入门到精通
最新Python教程 从入门到精通

共4课时 | 0.6万人学习

Django 教程
Django 教程

共28课时 | 2.6万人学习

SciPy 教程
SciPy 教程

共10课时 | 1.0万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号