
tabula-py 是一个 python 封装库,用于调用 tabula java 库来从 pdf 文件中提取表格数据。它对于处理结构化和非结构化 pdf 中的表格非常有用。
最简单的表格提取代码如下所示。tabula.read_pdf 函数是核心,它会尝试自动检测并提取 PDF 中的表格。
import tabula
import pandas as pd
# 指定 PDF 文件路径
pdf_path = "your_document.pdf" # 请替换为你的PDF文件路径
# 使用 tabula.read_pdf 进行基础提取
# pages='all' 表示提取所有页面的表格
# multiple_tables=True 允许从每页提取多个表格
tables = tabula.read_pdf(pdf_path, pages='all', multiple_tables=True)
# 打印每个提取到的表格
if tables:
for i, table_df in enumerate(tables):
print(f"提取到的表格 {i + 1}:\n")
print(table_df)
print("\n" + "="*50 + "\n")
else:
print("未在 PDF 中检测到表格。")尽管 tabula-py 的默认 auto 模式在很多情况下表现良好,但对于一些复杂的表格布局,特别是那些具有合并单元格、不规则边框或内容紧密排列的表格,默认提取结果可能不尽如人意。例如,它可能无法正确识别所有列,导致数据缺失或格式混乱。
当 PDF 中的表格具有清晰的网格线(即表格的行和列都有明确的边框)时,使用 lattice=True 参数可以显著提高提取的准确性。lattice 模式会利用这些网格线来精确识别表格的结构。
lattice 模式指示 Tabula 算法寻找 PDF 中明确的线条来确定表格的边界和单元格。这对于扫描件或那些看起来像电子表格的表格特别有效。
import tabula
import pandas as pd
pdf_path = "your_document.pdf" # 请替换为你的PDF文件路径
# 在 read_pdf 中添加 lattice=True 参数
tables_lattice = tabula.read_pdf(pdf_path, pages='all', multiple_tables=True, lattice=True)
# 打印使用 lattice 模式提取的表格
if tables_lattice:
for i, table_df in enumerate(tables_lattice):
print(f"使用 lattice 模式提取的表格 {i + 1}:\n")
print(table_df)
print("\n" + "="*50 + "\n")
else:
print("使用 lattice 模式未检测到表格。")通过启用 lattice=True,你通常会发现表格的列和行能够更准确地对齐,减少了数据错位或合并的问题。
除了 lattice 模式,tabula-py 还提供了 stream 模式(通过 stream=True 启用)。理解这两种模式的区别至关重要:
在实际应用中,如果表格有清晰的边框,优先尝试 lattice=True。如果表格是“无框”的,或者 lattice 模式效果不佳,则可以尝试 stream=True。通常,这两种模式是互斥的,不能同时设置为 True。
即使使用了 lattice=True,有时提取结果中仍可能出现一些不必要的列,例如 Unnamed: 0、Unnamed: 1 或完全为空的列。这通常是因为 Tabula 算法在处理表格边缘或特定空白区域时,将其误识别为独立的列。
由于 tabula.read_pdf 返回的是 Pandas DataFrame 对象的列表,我们可以利用 Pandas 的强大功能进行数据清洗。
import tabula
import pandas as pd
pdf_path = "your_document.pdf" # 请替换为你的PDF文件路径
tables_processed = tabula.read_pdf(pdf_path, pages='all', multiple_tables=True, lattice=True)
cleaned_tables = []
if tables_processed:
for i, table_df in enumerate(tables_processed):
print(f"处理前表格 {i + 1}:\n")
print(table_df)
# 1. 移除所有完全为空的列
# axis=1 表示操作列,how='all' 表示只有当所有值为NaN时才移除
table_df_cleaned = table_df.dropna(axis=1, how='all')
# 2. 移除特定名称的冗余列(例如 'Unnamed: 0')
# 检查列名是否存在,然后移除
columns_to_drop = [col for col in table_df_cleaned.columns if 'Unnamed:' in str(col)]
if columns_to_drop:
table_df_cleaned = table_df_cleaned.drop(columns=columns_to_drop)
# 3. 进一步清理:如果第一行是表头,但被错误识别为数据,可能需要特殊处理
# 例如,如果第一行数据看起来更像是列名,可以将其提升为新的列名
# if table_df_cleaned.iloc[0].isnull().sum() < len(table_df_cleaned.columns) / 2: # 简单的启发式判断
# table_df_cleaned.columns = table_df_cleaned.iloc[0]
# table_df_cleaned = table_df_cleaned[1:].reset_index(drop=True)
cleaned_tables.append(table_df_cleaned)
print(f"\n处理后表格 {i + 1}:\n")
print(table_df_cleaned)
print("\n" + "="*50 + "\n")
else:
print("未检测到表格进行后处理。")
注意事项:
如果表格位于 PDF 页面的特定区域,并且你希望避免提取到表格周围的无关内容或误识别的列,可以使用 area 参数来精确指定提取范围。
area 参数接受一个列表,包含 [top, left, bottom, right] 四个浮点数,代表表格在页面上的边界坐标(以点为单位,原点在左上角)。
如何获取 area 坐标?
import tabula
import pandas as pd
pdf_path = "your_document.pdf" # 请替换为你的PDF文件路径
# 假设表格位于页面的特定区域
# 这里的坐标是示例,你需要根据你的PDF实际情况获取
# 格式: [top, left, bottom, right]
specific_area = [100.0, 50.0, 700.0, 550.0] # 示例坐标,请替换
# 使用 area 参数进行精确提取
tables_area = tabula.read_pdf(
pdf_path,
pages='1', # 如果表格只在一页,可以指定页码
multiple_tables=False, # 如果确定区域内只有一个表格,可以设为False
lattice=True, # 结合 lattice 模式效果更佳
area=specific_area
)
if tables_area:
for i, table_df in enumerate(tables_area):
print(f"使用 area 参数提取的表格 {i + 1}:\n")
print(table_df)
print("\n" + "="*50 + "\n")
else:
print("使用 area 参数未检测到表格。")优点: area 参数可以极大地减少无关数据的提取,从而避免了许多冗余列的问题,并提高了提取效率。
如果一个表格跨越了多个页面,tabula-py 默认会将每个页面上的部分识别为独立的表格。你需要:
在实际应用中,PDF 文件可能不包含表格,或者提取过程可能失败。始终检查 tabula.read_pdf 的返回值:
try:
tables = tabula.read_pdf(pdf_path, pages='all')
if tables:
# 处理表格
pass
else:
print(f"PDF 文件 '{pdf_path}' 中未找到表格。")
except tabula.errors.TabulaException as e:
print(f"提取表格时发生错误: {e}")
except FileNotFoundError:
print(f"文件 '{pdf_path}' 未找到。")提取并清洗后的数据通常需要保存。Pandas DataFrame 提供了多种导出选项:
# 假设 cleaned_tables 是一个包含处理后DataFrame的列表
for i, df in enumerate(cleaned_tables):
# 导出为 CSV 文件
df.to_csv(f"extracted_table_{i+1}.csv", index=False, encoding='utf-8')
# 导出为 Excel 文件
df.to_excel(f"extracted_table_{i+1}.xlsx", index=False)tabula-py 是一个强大的 PDF 表格提取工具,但其效果很大程度上取决于对参数的正确使用和适当的后处理。
通过迭代尝试不同的参数组合和后处理步骤,您将能够高效、准确地从各种 PDF 文件中提取所需的表格数据。
以上就是优化 Tabula-py 表格提取:解决不完整数据与冗余列的实践指南的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号