文件大概有80个G大小,想用多线程,我知道可以用f.seek()去设置偏移,以达到从不同的位置开始读入的效果
可是应该如何给每个线程分配一个合适偏移?
with open(r'file.txt', 'rb') as f:
for line in f:
dosomething(line)
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号
可以现分割大文件,然后多线程处理被分割的各个小文件:http://www.jb51.net/article/5...
用 mmap 模块,像访问内存一样读写文件。