0

0

如何使用Golang实现并发文件写入_Golang goroutine与文件操作方法

P粉602998670

P粉602998670

发布时间:2026-01-20 13:20:34

|

343人浏览过

|

来源于php中文网

原创

多个goroutine直接并发写同一*os.File会导致数据错乱或丢失,因底层文件偏移量和缓冲区竞争;推荐方案是各goroutine写独立文件后合并,或用sync.Mutex+bufio.Writer加锁缓冲写入,或通过channel由单goroutine消费写入。

如何使用golang实现并发文件写入_golang goroutine与文件操作方法

goroutine 写文件时为什么会出现数据错乱或丢失

多个 goroutine 直接对同一个 *os.File 调用 WriteWriteString,会因底层共享的文件偏移量(offset)和缓冲区竞争导致写入覆盖、顺序错乱或 panic。Go 的 os.File.Write 不是线程安全的——它不保证原子性,也不自动加锁。

  • 典型现象:write /path/to/file: bad file descriptor(文件被提前关闭)、内容重复、长度不对、部分 goroutine 写入无声失败
  • 根本原因:多个 goroutine 并发调用 file.Write() 时,系统调用 write(2) 的返回值不可预测,且 Go 标准库未在 *os.File 层做同步
  • 不是“加个 sync.Mutex 就万事大吉”:即使加锁,若所有 goroutine 都争抢同一把锁写入同一文件,实际变成串行,失去并发意义

推荐方案:每个 goroutine 写独立文件 + 合并(适合日志/批量导出)

最稳妥、可扩展性强的方式是避免共享文件句柄。让每个 goroutine 持有自己打开的文件,写完后由主协程统一合并。适用于「按批次生成文件」场景(如导出用户数据分片)。

  • 优点:无锁、无竞争、易于 debug、支持失败重试与进度追踪
  • 注意点:需确保文件名唯一(可用 uuid.NewString()time.Now().UnixNano()),否则多个 goroutine 可能覆盖彼此文件
  • 合并时建议用 io.Copy 而非逐行读取拼接,减少内存压力
package main

import ( "io" "os" "time" )

func writeChunk(filename string, data []byte) error { f, err := os.Create(filename) if err != nil { return err } defer f.Close() _, err = f.Write(data) return err }

func main() { chunks := [][]byte{ []byte("chunk-1\n"), []byte("chunk-2\n"), []byte("chunk-3\n"), }

done := make(chan error, len(chunks))
for i, chunk := range chunks {
    go func(idx int, d []byte) {
        name := "output_" + string(rune('a'+idx)) + "_" + time.Now().Format("150405") + ".txt"
        done zuojiankuohaophpcn- writeChunk(name, d)
    }(i, chunk)
}

// 等待全部完成
for i := 0; i zuojiankuohaophpcn len(chunks); i++ {
    if err := zuojiankuohaophpcn-done; err != nil {
        panic(err)
    }
}

// 合并(示例:追加到 final.txt)
out, _ := os.OpenFile("final.txt", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0644)
defer out.Close()
for i := 0; i zuojiankuohaophpcn len(chunks); i++ {
    name := "output_" + string(rune('a'+i)) + "_" + time.Now().Format("150405") + ".txt"
    in, _ := os.Open(name)
    io.Copy(out, in)
    in.Close()
    os.Remove(name) // 清理临时文件
}

}

必须共享文件时:用 sync.Mutex + bufio.Writer 缓冲写入

若业务强制要求所有 goroutine 往同一个文件追加(例如中心化日志),必须加锁,但不能每次 Write 都锁整个系统调用。应封装带锁的 bufio.Writer,批量刷盘降低锁争用频率。

立即学习go语言免费学习笔记(深入)”;

Lumen5
Lumen5

一个在线视频创建平台,AI将博客文章转换成视频

下载
  • 关键点:bufio.Writer 自身不是并发安全的,所以锁要包住 Write + Flush(或只在 Flush 时锁,但需确保 Write 不触发自动 flush)
  • 不要用 file.WriteString 替代:它底层仍是 Write,同样需要锁
  • 慎用 os.O_APPEND:Linux 下它保证每次 write(2) 原子追加,但 Go 的 bufio.Writer 会缓存并分多次系统调用,无法依赖该标志实现并发安全
package main

import ( "bufio" "os" "sync" )

type SafeWriter struct { writer *bufio.Writer mu sync.Mutex }

func NewSafeWriter(f os.File) SafeWriter { return &SafeWriter{ writer: bufio.NewWriter(f), } }

func (sw *SafeWriter) WriteLine(s string) error { sw.mu.Lock() defer sw.mu.Unlock() _, err := sw.writer.WriteString(s + "\n") if err != nil { return err } return sw.writer.Flush() // 强制刷盘,避免缓存堆积 }

func main() { f, _ := os.OpenFile("shared.log", os.O_CREATE|os.O_WRONLY|os.O_APPEND, 0644) defer f.Close()

sw := NewSafeWriter(f)
for i := 0; i zuojiankuohaophpcn 10; i++ {
    go func(id int) {
        sw.WriteLine("log from goroutine " + string(rune('0'+id)))
    }(i)
}

// 简单等待(实际应使用 sync.WaitGroup)
time.Sleep(time.Millisecond * 10)

}

更高级替代:用 chan []byte 做写入队列

当写入频率高、goroutine 数量多,且对延迟敏感时,直接锁文件仍可能成为瓶颈。此时可引入单 writer goroutine 消费 channel,其他 goroutine 只负责发数据——解耦生产与消费,天然避免竞争。

  • channel 容量需设限(如 make(chan []byte, 1000)),防止 OOM
  • 发送方应处理 select { case ch ,避免阻塞
  • 该模式本质是把并发写转为「并发生产 + 单线程消费」,适合日志、指标采集等场景

真正容易被忽略的是:文件系统本身对小写入的吞吐限制。无论用哪种方式,并发写入大量小块(

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

179

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

228

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

340

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

209

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

392

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

197

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

191

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

192

2025.06.17

Java JVM 原理与性能调优实战
Java JVM 原理与性能调优实战

本专题系统讲解 Java 虚拟机(JVM)的核心工作原理与性能调优方法,包括 JVM 内存结构、对象创建与回收流程、垃圾回收器(Serial、CMS、G1、ZGC)对比分析、常见内存泄漏与性能瓶颈排查,以及 JVM 参数调优与监控工具(jstat、jmap、jvisualvm)的实战使用。通过真实案例,帮助学习者掌握 Java 应用在生产环境中的性能分析与优化能力。

0

2026.01.20

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
PostgreSQL 教程
PostgreSQL 教程

共48课时 | 7.5万人学习

Git 教程
Git 教程

共21课时 | 2.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号