0

0

Polars 中使用 pivot 实现行转列的稀疏数据重塑

聖光之護

聖光之護

发布时间:2026-01-06 13:34:02

|

282人浏览过

|

来源于php中文网

原创

Polars 中使用 pivot 实现行转列的稀疏数据重塑

本文介绍如何使用 polars 的 pivot 方法,将长格式(key-value)稀疏数据高效转换为宽格式(列式)表示,适用于大规模稀疏特征场景。

在处理稀疏数据(如用户行为日志、特征向量、配置映射等)时,常以“ID-键-值”三元组形式存储(即长格式),以节省空间并提升写入/追加效率。但在后续分析或模型训练阶段,往往需要将其展开为列式结构(即宽格式),其中每个唯一 key 成为一列,每个 ID 对应一行,缺失值自动填充为 null。

Polars 提供了原生、高性能的 pivot 操作,专为此类行转列(reshape)任务设计。其核心语法简洁直观:

import polars as pl

df = pl.from_repr("""
┌─────┬─────┬───────┐
│ id  ┆ key ┆ value │
│ --- ┆ --- ┆ ---   │
│ str ┆ str ┆ i64   │
╞═════╪═════╪═══════╡
│ a   ┆ m1  ┆ 1     │
│ a   ┆ m2  ┆ 2     │
│ a   ┆ m3  ┆ 1     │
│ b   ┆ m2  ┆ 4     │
│ c   ┆ m1  ┆ 2     │
│ c   ┆ m3  ┆ 6     │
│ d   ┆ m4  ┆ 4     │
│ e   ┆ m2  ┆ 1     │
└─────┴─────┴───────┘
""")

# 执行 pivot:以 'key' 列值为新列名,'id' 为索引,'value' 为填充值
result = df.pivot(
    on="key",        # 要展开为列的字段(即 key 列)
    index="id",      # 作为行索引的字段(即分组依据)
    values="value"   # 用于填充新列的值字段(默认为 value 列)
)

print(result)

输出结果即为目标宽格式 DataFrame:

Opus
Opus

AI生成视频工具

下载
shape: (5, 5)
┌─────┬──────┬──────┬──────┬──────┐
│ id  ┆ m1   ┆ m2   ┆ m3   ┆ m4   │
│ --- ┆ ---  ┆ ---  ┆ ---  ┆ ---  │
│ str ┆ i64  ┆ i64  ┆ i64  ┆ i64  │
╞═════╪══════╪══════╪══════╪══════╡
│ a   ┆ 1    ┆ 2    ┆ 1    ┆ null │
│ b   ┆ null ┆ 4    ┆ null ┆ null │
│ c   ┆ 2    ┆ null ┆ 6    ┆ null │
│ d   ┆ null ┆ null ┆ null ┆ 4    │
│ e   ┆ null ┆ 1    ┆ null ┆ null │
└─────┴──────┴──────┴──────┴──────┘

关键说明与注意事项

  • pivot() 仅在 eager 模式下可用(即直接对 DataFrame 调用);若在 lazy pipeline 中需 pivot,可先用 .collect() 触发计算,或采用替代方案(如 group_by().agg() + struct 展开,详见 Polars Pivot 文档)。
  • 若 key 列存在重复组合(如同一 id + key 多次出现),需指定 aggregate_function(如 pl.first(), pl.sum())来聚合冲突值,否则会报错。
  • 新列名自动取自 on 列的唯一值;若需重命名或控制列顺序,可在 pivot 后使用 .select() 或 .rename()。
  • 对于超大规模稀疏数据,pivot 后的内存占用可能显著增加(因引入大量 null),建议结合 pl.datatypes.Null 或后续 fill_null()/drop_nulls() 按需优化。

该方法相比手动构造字典再拼接(如 Pandas 示例),不仅代码更简洁,且底层由 Rust 高效实现,兼具可读性与性能优势,是 Polars 稀疏数据工程中的标准实践。

相关专题

更多
C++系统编程内存管理_C++系统编程怎么与Rust竞争内存安全
C++系统编程内存管理_C++系统编程怎么与Rust竞争内存安全

C++系统编程中的内存管理是指 对程序运行时内存的申请、使用和释放进行精细控制的机制,涵盖了栈、堆、静态区等不同区域,开发者需要通过new/delete、智能指针或内存池等方式管理动态内存,以避免内存泄漏、野指针等问题,确保程序高效稳定运行。它核心在于开发者对低层内存有完全控制权,带来灵活性,但也伴随高责任,是C++性能优化的关键。

10

2025.12.22

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

51

2025.12.04

c语言中null和NULL的区别
c语言中null和NULL的区别

c语言中null和NULL的区别是:null是C语言中的一个宏定义,通常用来表示一个空指针,可以用于初始化指针变量,或者在条件语句中判断指针是否为空;NULL是C语言中的一个预定义常量,通常用来表示一个空值,用于表示一个空的指针、空的指针数组或者空的结构体指针。

231

2023.09.22

java中null的用法
java中null的用法

在Java中,null表示一个引用类型的变量不指向任何对象。可以将null赋值给任何引用类型的变量,包括类、接口、数组、字符串等。想了解更多null的相关内容,可以阅读本专题下面的文章。

435

2024.03.01

PPT动态图表制作教程大全
PPT动态图表制作教程大全

本专题整合了PPT动态图表制作相关教程,阅读专题下面的文章了解更多详细内容。

13

2026.01.07

c++ Libcurl用法详解
c++ Libcurl用法详解

本专题整合了c++ Libcurl用法详解,阅读专题下面的文章了解更多详细内容。

0

2026.01.07

c++ Libcurl用法大全
c++ Libcurl用法大全

本专题整合了c++ Libcurl用法详解,阅读专题下面的文章了解更多详细内容。

0

2026.01.07

C++ vector用法汇总
C++ vector用法汇总

本专题整合了C++中vector的用法大全,阅读专题下面的文章了解更多详细内容。

2

2026.01.07

C++ vector用法大全
C++ vector用法大全

本专题整合了C++中vector的用法大全,阅读专题下面的文章了解更多详细内容。

0

2026.01.07

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
CSS3 教程
CSS3 教程

共18课时 | 4.3万人学习

Git 教程
Git 教程

共21课时 | 2.5万人学习

麻省理工大佬Python课程
麻省理工大佬Python课程

共34课时 | 5万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号