0

0

Golang并发下载任务的实现方案

P粉602998670

P粉602998670

发布时间:2026-01-05 15:25:22

|

268人浏览过

|

来源于php中文网

原创

sync.WaitGroup 是控制并发下载生命周期最直接轻量的方式,需在启动 goroutine 前调用 wg.Add(1),wg.Done() 放 defer 中,主 goroutine 调用 wg.Wait() 阻塞等待;限流用带缓冲 channel,失败重试需区分错误类型并归集,文件写入须各 goroutine 独立操作。

golang并发下载任务的实现方案

sync.WaitGroup 控制并发下载的生命周期

并发下载的核心不是“开很多 goroutine”,而是“等所有下载完成再退出”。sync.WaitGroup 是最直接、最轻量的方式,避免用 time.Sleep 硬等或手动计数出错。

  • 必须在启动 goroutine 前调用 wg.Add(1),不能在 goroutine 内部调用——否则可能因竞态导致计数漏加
  • wg.Done() 一定要放在 defer 中,确保无论成功失败都执行
  • 主 goroutine 调用 wg.Wait() 会阻塞,适合命令行工具等简单场景;若需超时控制,改用 sync.WaitGroup 配合 context.WithTimeout
for _, url := range urls {
    wg.Add(1)
    go func(u string) {
        defer wg.Done()
        resp, err := http.Get(u)
        if err != nil {
            log.Printf("fail to fetch %s: %v", u, err)
            return
        }
        defer resp.Body.Close()
        // ... save body
    }(url)
}
wg.Wait()

限制并发数:用带缓冲的 chan struct{} 控制 goroutine 数量

不加限制地为每个 URL 启动 goroutine,容易打爆内存或触发服务端限流。用容量固定的 channel 做信号量是最 Go 风格的限流方式,比 semaphore 包更直观、无额外依赖。

  • channel 容量即最大并发数,例如 make(chan struct{}, 5) 表示最多 5 个下载同时进行
  • 每次启动 goroutine 前写入 sem ,完成后从 channel 读出(),顺序不重要但必须成对
  • 不要用 close(sem)——它会导致后续写入 panic,且无法重用
sem := make(chan struct{}, 5)
for _, url := range urls {
    sem <- struct{}{} // acquire
    go func(u string) {
        defer func() { <-sem }() // release
        // ... download logic
    }(url)
}
// wait for all
for i := 0; i < len(urls); i++ {
    <-sem // drain semaphore
}

下载失败时如何重试与错误归集

HTTP 下载常因网络抖动失败,但盲目重试可能加剧问题。应区分错误类型,并统一收集失败项供后续处理,而不是让单个失败中断整个流程。

  • errors.Is(err, context.DeadlineExceeded) 或检查 url.Error().Error() 是否含 "timeout" 来识别可重试错误
  • 非重试错误(如 404、证书错误)应立即记录并跳过
  • 建议把失败的 url 和错误一起 append 到切片,而不是打印后丢弃——下游可能要重试或告警
var failed []struct{ URL string; Err error }
for _, url := range urls {
    resp, err := http.DefaultClient.Do(req)
    if err != nil {
        if isTemporaryError(err) {
            // retry once with backoff
        } else {
            failed = append(failed, struct{ URL string; Err error }{url, err})
        }
    }
}

文件写入竞争:每个下载任务独立打开文件,别共用 *os.File

多个 goroutine 同时往同一个 *os.File 写内容,即使加锁也容易错乱(seek 位置不可控、write 返回值难校验)。正确做法是每个下载 goroutine 自己调用 os.Createioutil.WriteFile,互不影响。

mallcloud商城
mallcloud商城

mallcloud商城基于SpringBoot2.x、SpringCloud和SpringCloudAlibaba并采用前后端分离vue的企业级微服务敏捷开发系统架构。并引入组件化的思想实现高内聚低耦合,项目代码简洁注释丰富上手容易,适合学习和企业中使用。真正实现了基于RBAC、jwt和oauth2的无状态统一权限认证的解决方案,面向互联网设计同时适合B端和C端用户,支持CI/CD多环境部署,并提

下载

立即学习go语言免费学习笔记(深入)”;

  • 避免用 os.OpenFile(..., os.O_WRONLY|os.O_APPEND) 多 goroutine 共享——APPEND 模式不保证原子性,尤其在 NFS 或某些文件系统上
  • 若需按顺序写入单个文件(如拼接分片),改用 io.MultiWriter + 单独 goroutine 接收 channel 数据,主下载 goroutine 只负责获取字节
  • 临时文件建议用 os.CreateTemp,下载完成再 os.Rename,防止部分写入被误读

并发下载真正麻烦的从来不是“怎么发请求”,而是错误传播路径、资源释放时机、以及写磁盘时的隐式依赖。哪怕只加一行 defer resp.Body.Close() 漏掉,都可能让几千次下载慢慢耗尽文件描述符。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

177

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

226

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

336

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

208

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

388

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

194

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

189

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

191

2025.06.17

PPT动态图表制作教程大全
PPT动态图表制作教程大全

本专题整合了PPT动态图表制作相关教程,阅读专题下面的文章了解更多详细内容。

13

2026.01.07

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 3.5万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号