Python如何读取CSV文件?数据处理必备技能

絕刀狂花
发布: 2025-08-04 14:52:01
原创
876人浏览过

1.使用csv模块读取csv文件,通过csv.reader()处理逗号分隔,注意异常处理和编码设置。2.处理大型csv文件应使用pandas的chunksize参数分块读取,降低内存占用。3.解决编码问题可尝试不同encoding参数或用chardet库自动检测编码。4.跳过错误行可在读取时用try-except捕获异常或检查行长度。5.转换csv数据为字典格式使用csv.dictreader,方便通过字段名访问数据。

Python如何读取CSV文件?数据处理必备技能

Python读取CSV文件,其实核心就是利用

csv
登录后复制
模块,简单易用,是数据分析的入门必备技能。

Python如何读取CSV文件?数据处理必备技能
import csv

def read_csv_file(file_path):
    """
    读取CSV文件并返回数据列表。

    Args:
        file_path (str): CSV文件路径。

    Returns:
        list: CSV文件中的数据,每一行是一个列表。
    """
    data = []
    try:
        with open(file_path, 'r', encoding='utf-8') as file:
            csv_reader = csv.reader(file)
            header = next(csv_reader) # 读取标题行
            for row in csv_reader:
                data.append(row)
    except FileNotFoundError:
        print(f"错误:文件 '{file_path}' 未找到。")
        return None
    except Exception as e:
        print(f"读取文件时发生错误:{e}")
        return None
    return data

# 示例用法
if __name__ == "__main__":
    file_path = 'example.csv' # 替换为你的CSV文件路径
    csv_data = read_csv_file(file_path)
    if csv_data:
        for row in csv_data:
            print(row)
登录后复制

这段代码的核心在于

csv.reader()
登录后复制
,它能帮你把CSV文件按行读取,并自动处理逗号分隔的问题。 记得处理异常,比如文件不存在的情况。
encoding='utf-8'
登录后复制
也很重要,防止中文乱码

如何处理大型CSV文件,避免内存溢出?

大型CSV文件一次性加载到内存可能会导致溢出。 解决方法是使用

pandas
登录后复制
库的
chunksize
登录后复制
参数,分块读取文件。 这样可以控制每次读取的数据量,有效降低内存占用。

立即学习Python免费学习笔记(深入)”;

Python如何读取CSV文件?数据处理必备技能
import pandas as pd

def read_large_csv(file_path, chunk_size=1000):
    """
    分块读取大型CSV文件。

    Args:
        file_path (str): CSV文件路径。
        chunk_size (int): 每个数据块的大小。

    Yields:
        DataFrame: CSV文件的一个数据块。
    """
    try:
        for chunk in pd.read_csv(file_path, chunksize=chunk_size):
            yield chunk
    except FileNotFoundError:
        print(f"错误:文件 '{file_path}' 未找到。")
    except Exception as e:
        print(f"读取文件时发生错误:{e}")

# 示例用法
if __name__ == "__main__":
    file_path = 'large_example.csv' # 替换为你的大型CSV文件路径
    for chunk in read_large_csv(file_path, chunk_size=5000):
        # 在这里处理每个数据块
        print(chunk.head()) # 打印每个数据块的前几行
登录后复制

pd.read_csv(file_path, chunksize=chunk_size)
登录后复制
会返回一个迭代器,每次迭代返回一个DataFrame。 你可以在循环中处理每个DataFrame,而不用一次性加载整个文件。

CSV文件常见的编码问题及解决方案?

CSV文件编码问题是新手常遇到的坑。 常见的编码格式有UTF-8、GBK、Latin-1等。 如果编码不匹配,读取时会出现乱码。

Python如何读取CSV文件?数据处理必备技能

解决方案:

  1. 尝试不同的编码格式:
    open()
    登录后复制
    函数中指定
    encoding
    登录后复制
    参数,例如
    encoding='gbk'
    登录后复制
    encoding='latin-1'
    登录后复制
  2. 使用
    chardet
    登录后复制
    库自动检测编码:
    chardet
    登录后复制
    可以检测文件的编码格式,然后使用检测到的编码来读取文件。
import chardet

def detect_encoding(file_path):
    """
    检测文件的编码格式。

    Args:
        file_path (str): 文件路径。

    Returns:
        str: 文件的编码格式。
    """
    with open(file_path, 'rb') as file:
        raw_data = file.read()
        result = chardet.detect(raw_data)
        return result['encoding']

def read_csv_with_detected_encoding(file_path):
    """
    使用检测到的编码读取CSV文件。

    Args:
        file_path (str): CSV文件路径。

    Returns:
        list: CSV文件中的数据,每一行是一个列表。
    """
    encoding = detect_encoding(file_path)
    if not encoding:
        print("无法检测到文件编码。")
        return None

    data = []
    try:
        with open(file_path, 'r', encoding=encoding) as file:
            csv_reader = csv.reader(file)
            header = next(csv_reader)
            for row in csv_reader:
                data.append(row)
    except Exception as e:
        print(f"读取文件时发生错误:{e}")
        return None
    return data

# 示例用法
if __name__ == "__main__":
    file_path = 'encoded_example.csv' # 替换为你的CSV文件路径
    csv_data = read_csv_with_detected_encoding(file_path)
    if csv_data:
        for row in csv_data:
            print(row)
登录后复制

先用

chardet.detect()
登录后复制
检测编码,再用检测到的编码打开文件,可以有效解决编码问题。
chardet
登录后复制
需要单独安装:
pip install chardet
登录后复制

小绿鲸英文文献阅读器
小绿鲸英文文献阅读器

英文文献阅读器,专注提高SCI阅读效率

小绿鲸英文文献阅读器 199
查看详情 小绿鲸英文文献阅读器

如何跳过CSV文件中的错误行或不规范数据?

有时候CSV文件里会有一些格式不规范的行,比如缺少字段、字段数量不对等等,直接读取会报错。

解决方案:

  1. 使用
    try-except
    登录后复制
    捕获异常:
    在循环中读取每一行时,用
    try-except
    登录后复制
    捕获可能出现的异常,跳过错误行。
  2. 使用
    csv.reader
    登录后复制
    strict
    登录后复制
    模式:
    strict=False
    登录后复制
    可以允许行长度不一致,但需要自己处理这些不规范的行。
import csv

def read_csv_skip_errors(file_path):
    """
    跳过错误行读取CSV文件。

    Args:
        file_path (str): CSV文件路径。

    Returns:
        list: CSV文件中的数据,跳过错误行。
    """
    data = []
    try:
        with open(file_path, 'r', encoding='utf-8') as file:
            csv_reader = csv.reader(file, strict=False)
            header = next(csv_reader)
            for row in csv_reader:
                try:
                    # 尝试处理每一行,如果出现错误则跳过
                    if len(row) == len(header):  # 检查行长度是否正确
                        data.append(row)
                    else:
                        print(f"跳过不规范的行:{row}")
                except Exception as e:
                    print(f"处理行时发生错误:{e}")
                    continue
    except FileNotFoundError:
        print(f"错误:文件 '{file_path}' 未找到。")
        return None
    except Exception as e:
        print(f"读取文件时发生错误:{e}")
        return None
    return data

# 示例用法
if __name__ == "__main__":
    file_path = 'error_example.csv' # 替换为你的CSV文件路径
    csv_data = read_csv_skip_errors(file_path)
    if csv_data:
        for row in csv_data:
            print(row)
登录后复制

这段代码会在遇到行长度不一致的情况时,打印错误信息并跳过该行。 可以根据实际情况调整错误处理逻辑。

如何将读取的CSV数据转换为字典格式?

有时候我们需要把CSV数据转换成字典格式,方便按字段名访问数据。

解决方案:

使用

csv.DictReader
登录后复制
。 它会自动把CSV文件的第一行作为字典的键,后面的每一行作为字典的值。

import csv

def read_csv_to_dict(file_path):
    """
    读取CSV文件并转换为字典列表。

    Args:
        file_path (str): CSV文件路径。

    Returns:
        list: CSV文件中的数据,每个元素是一个字典。
    """
    data = []
    try:
        with open(file_path, 'r', encoding='utf-8') as file:
            csv_reader = csv.DictReader(file)
            for row in csv_reader:
                data.append(row)
    except FileNotFoundError:
        print(f"错误:文件 '{file_path}' 未找到。")
        return None
    except Exception as e:
        print(f"读取文件时发生错误:{e}")
        return None
    return data

# 示例用法
if __name__ == "__main__":
    file_path = 'example.csv' # 替换为你的CSV文件路径
    csv_data = read_csv_to_dict(file_path)
    if csv_data:
        for row in csv_data:
            print(row['name'], row['age']) # 假设CSV文件有'name'和'age'字段
登录后复制

csv.DictReader
登录后复制
非常方便,可以直接通过字段名访问数据,避免了使用索引的麻烦。

以上就是Python如何读取CSV文件?数据处理必备技能的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号