下面由golang教程栏目给大家介绍golang高效处理大文件_使用Pandas分块处理大文件，希望对需要的朋友有所帮助！
使用Pandas分块处理大文件
问题：今天在处理快手的用户数据时，遇到了一个差不多600m的txt文本，用sublime打开都蹦了，我用pandas.read_table()去读，差不多花了近2分钟，最后打开发现差不多3千万行数据。这仅仅是打开，如果要处理不知得多费劲。
解决：我翻了一下文档，这一类读取文件的函数有两个参数：chunksize、iterator
原理就是不一次性把文件数据读入内存中，而是分多次。
1、指定chunksize分块读取文件
read_csv 和 read_table 有一个 chunksize 参数，用以指定一个块大小(每次读取多少行)，返回一个可迭代的 TextFileReader 对象。
table=pd.read_table(path+'kuaishou.txt',sep='t',chunksize=1000000)
for df in table:
对df处理
#如df.drop(columns=['page','video_id'],axis=1,inplace=True)
#print(type(df),df.shape)打印看一下信息我这里又对文件进行了划分，分成若干个子文件分别处理（没错，to_csv也同样有chunksize参数）
EnableDTS公文传输管理系统3.0
下载
公文是政府与企事业单位处理公务和行政管理工作的重要工具，在各级行政单位中，`办公`的一个重要内容就是办理和制发文件，即`办文`，办文是每个行政管理单位大量日常的工作。借助新的网络信息技术对公文进行高效有序的电子化处理，是办公自动化建设的重要组成部分，也是关系到电子化办公系统建设全局的基础性工程。
立即学习“go语言免费学习笔记（深入）”；
2、指定iterator=True
iterator=True同样返回的是TextFileReader对象
reader = pd.read_table('tmp.sv', sep='t', iterator=True)
df=reader.get_chunk(10000)
#通过get_chunk(size)，返回一个size行的块
#接着同样可以对df处理直接看看pandas文档在这一方面的内容吧。
