使用channel信号量控制并发数,如3个任务并行;通过rate.Limiter实现每秒2次的QPS限流;对大量任务采用worker pool调度。

在Go语言中实现并发任务的限流,核心思路是控制同时运行的协程数量或单位时间内的任务执行频率。常用方法包括使用带缓冲的channel、sync.WaitGroup配合信号量、以及第三方库如golang.org/x/time/rate。下面介绍几种实用且易于理解的实现方式。
使用带缓冲的channel进行并发控制
这是最常见也最直观的限流方式。通过一个固定容量的channel作为信号量,控制最大并发数。
示例代码:假设我们最多允许3个任务同时运行:
func main() {
tasks := []string{"task1", "task2", "task3", "task4", "task5"}
concurrencyLimit := 3
sem := make(chan struct{}, concurrencyLimit)
var wg sync.WaitGroup
for _, task := range tasks {
wg.Add(1)
sem <- struct{}{} // 获取信号量
go func(t string) {
defer wg.Done()
defer func() { <-sem }() // 释放信号量
fmt.Printf("处理任务: %s\n", t)
time.Sleep(1 * time.Second) // 模拟耗时操作
}(task)
}
wg.Wait()}
这里的sem是一个容量为3的channel,相当于一个计数信号量。每当启动一个goroutine前先写入channel,任务结束时再读出,从而保证最多只有3个任务在运行。
立即学习“go语言免费学习笔记(深入)”;
使用golang.org/x/time/rate进行速率限制
如果需要按QPS(每秒请求数)限流,比如每秒最多处理2个任务,可以使用rate.Limiter。
示例代码:import "golang.org/x/time/rate"
func main() {
limiter := rate.NewLimiter(2, 1) // 每秒2个token,初始1个
tasks := []string{"task1", "task2", "task3", "task4", "task5"}
var wg sync.WaitGroup
for _, task := range tasks {
wg.Add(1)
go func(t string) {
defer wg.Done()
limiter.Wait(context.Background()) // 等待获取token
fmt.Printf("执行任务: %s\n", t)
}(task)
}
wg.Wait()}
这种方式适合对外部服务调用限流,防止请求过载。还可以结合context设置超时,避免无限等待。
自定义并发池管理批量任务
对于大量任务需要稳定调度的场景,可以封装一个简单的worker pool。
基本结构:
- 创建固定数量的工作协程
- 任务通过channel分发给空闲worker
- 主协程发送所有任务后关闭channel,等待完成
这种方式资源利用率高,适合长时间运行的服务。
基本上就这些。选择哪种方式取决于你的需求:控制并发数用channel信号量,控制QPS用rate.Limiter,大批量任务调度考虑worker pool。关键是根据实际负载合理设置阈值,避免系统过载。










