优先使用 bufio.Reader/Writer 替代原生 os.File 读写以减少系统调用;合理设置缓冲区大小;避免同一文件复用多个 bufio 实例;高频小文件拷贝宜用 sync.Pool 复用缓冲区;大文件读写需权衡内存与性能。

用 bufio.Reader 和 bufio.Writer 替代原生 os.File 读写
直接对 *os.File 调用 Read 或 Write 会频繁触发系统调用,尤其小数据量时性能极差。缓冲区能批量处理底层 I/O,显著降低 syscall 次数。
实操建议:
立即学习“go语言免费学习笔记(深入)”;
- 读取文本行、JSON、日志等流式内容,优先用
bufio.NewReader+ReadString/Scan - 写入日志、CSV、配置文件等,用
bufio.NewWriter,记得在关闭前调用Flush - 缓冲区大小按场景调整:默认 4KB 够用;若处理大块二进制(如图片分片),可设为 64KB 或 128KB
- 不要对同一个
*os.File同时套多个bufio实例——会造成读写错位或丢数据
批量读写时避免 io.Copy 的隐式内存分配
io.Copy 内部使用 32KB 临时缓冲区,看似省心,但在高频小文件拷贝(如微服务间文件中转)中,反复分配/释放会抬高 GC 压力。
实操建议:
立即学习“go语言免费学习笔记(深入)”;
- 固定场景下(如只传 1MB 以内文件),复用一个全局
[]byte缓冲池:var bufPool = sync.Pool{ New: func() interface{} { return make([]byte, 0, 32*1024) } } - 用
io.CopyBuffer(dst, src, bufPool.Get().([]byte))替代裸io.Copy - 拷贝结束后立即归还:
buf := bufPool.Get().([]byte) io.CopyBuffer(dst, src, buf[:0]) bufPool.Put(buf)
- 注意:若
dst是网络连接(net.Conn),某些实现(如 TLS 连接)可能不支持部分写,此时强制大缓冲反而触发多次Write,需实测验证
文件打开模式与 os.OpenFile 参数要精确控制
用 os.ReadFile 读小文件方便,但超过几 MB 就容易爆内存;而盲目加 O_SYNC 或 O_DIRECT 又会拖慢吞吐——关键在匹配实际需求。
实操建议:
立即学习“go语言免费学习笔记(深入)”;
- 读配置、模板等小文件(os.ReadFile,简单安全
- 读大文件做流式处理:必须用
os.OpenFile(path, os.O_RDONLY, 0)+bufio,禁用O_APPEND等无关 flag - 写日志且要求不丢数据:用
O_WRONLY | O_CREATE | O_APPEND+os.Chmod设置权限,**不要加O_SYNC**——它会让每次Write等磁盘落盘,吞吐暴跌;改用定期fsync或日志轮转时 flush - Linux 下需绕过页缓存(如视频转码中间文件):可尝试
O_DIRECT,但要求 buffer 地址和长度均对齐 512 字节,否则syscall.EINVAL
并发 I/O 要警惕文件描述符耗尽和锁竞争
Golang 协程轻量,但每个 *os.File 占一个 fd,Linux 默认每进程 1024 个;同时多 goroutine 写同一文件还会因内核级锁导致串行化。
实操建议:
立即学习“go语言免费学习笔记(深入)”;
- 限制并发数:用带缓冲的 channel 或
semaphore控制同时打开的文件数,例如sem := make(chan struct{}, 10) // 最多 10 个并发文件操作 - 避免多 goroutine 写同一文件:改用单 writer goroutine + channel 收集写请求,或用
sync.Mutex包裹Write调用(仅当写入频率低时) - 长期运行服务务必检查 fd 使用量:
lsof -p $(pidof yourapp) | wc -l,超 800 就该排查是否漏关Close - 用
defer f.Close()不保险——若函数提前 return,defer 可能没执行;更稳妥的是在 error 分支显式关,并用if f != nil { f.Close() }防空指针
真正卡住性能的往往不是单次 read/write 多慢,而是缓冲区大小、fd 复用方式、以及是否在不该同步的地方强求同步。这些点不压测就很难暴露。











