0

0

Golang微服务如何实现限流 令牌桶与漏桶算法应用

P粉602998670

P粉602998670

发布时间:2025-08-06 10:04:01

|

511人浏览过

|

来源于php中文网

原创

令牌桶算法是一种限流策略,其核心思想是系统以固定速率向桶中添加令牌,请求需获取令牌才能被处理;它允许令牌积累,从而支持突发流量。漏桶算法则是按固定速率处理请求,无论输入如何波动,输出始终平稳。实现上,令牌桶可使用golang.org/x/time/rate包,设置填充速率和容量,如每秒100个请求、突发200;漏桶可通过channel或自定义结构体实现,保持稳定输出。选择时,令牌桶适合前端应对突发流量,漏桶适合后端平滑处理;分布式场景下可用redis+lua全局计数器、滑动窗口算法或服务网格工具如istio实现跨节点限流。

Golang微服务如何实现限流 令牌桶与漏桶算法应用

在Go语言构建的微服务中,限流是保障系统稳定性的重要手段。令牌桶和漏桶算法是最常见的两种限流策略,它们通过控制请求处理的速度,防止系统被突发流量压垮。这两种算法虽然原理不同,但在实际应用中都十分有效。

Golang微服务如何实现限流 令牌桶与漏桶算法应用

什么是令牌桶算法?

令牌桶算法的核心思想是:系统以固定速率往桶里“添加令牌”,每个请求需要获取一个令牌才能被处理。如果桶满了,多余的令牌不会被保存;如果没有请求使用,令牌可以积累起来,用于应对短时间内的流量高峰。

Golang微服务如何实现限流 令牌桶与漏桶算法应用

这种方式更适合应对突发流量,因为只要桶中有足够的令牌,多个请求可以在短时间内被同时处理。

立即学习go语言免费学习笔记(深入)”;

实现建议:

  • 使用
    golang.org/x/time/rate
    包中的
    Limiter
    类型,它本质上就是一个令牌桶实现。
  • 设置合适的填充速率(burst)和初始容量(rate),比如每秒允许处理100个请求,但允许最多200个请求的突发流量。
  • 在HTTP中间件中加入限流逻辑,对所有入口请求进行统一限制。
limiter := rate.NewLimiter(rate.Every(time.Second/100), 200)

func limit(next http.HandlerFunc) http.HandlerFunc {
    return func(w http.ResponseWriter, r *http.Request) {
        if !limiter.Allow() {
            http.Error(w, "Too many requests", http.StatusTooManyRequests)
            return
        }
        next(w, r)
    }
}

漏桶算法的基本思路

漏桶算法则是将请求放入一个“桶”中,然后按照固定的速率从桶中取出处理。无论请求是否连续到达,系统的处理速度始终保持一致。当桶满时,新的请求会被丢弃或排队等待。

Golang微服务如何实现限流 令牌桶与漏桶算法应用

这种机制更适合平滑流量输出,避免后端服务受到波动影响。

Pixlr
Pixlr

Pixlr是一款2008年推出的在线图片编辑和AI图片处理工具,目前已推出AI 图像生成器、AI 生成填充、AI 删除背景、AI 删除对象和 AI 图像扩展等现代 AI 工具。

下载

应用建议:

  • 漏桶算法适合做接口调用频率控制,比如对外部API的访问。
  • 可以自己实现一个基于channel的简单漏桶模型。
  • 如果使用第三方库,可以选择类似
    github.com/ulule/limiter
    这样的包,支持多种限流策略。
type LeakyBucket struct {
    rate       float64 // 每秒出水速率
    capacity   float64 // 桶容量
    water      float64 // 当前水量
    lastLeakMs int64   // 上次漏水时间戳
}

func (b *LeakyBucket) Allow() bool {
    now := time.Now().UnixNano() / int64(time.Millisecond)
    delta := (now - b.lastLeakMs) * int64(b.rate) / 1000
    if delta > 0 {
        b.water = max(0, b.water-delta)
        b.lastLeakMs = now
    }

    if b.water+1 <= b.capacity {
        b.water += 1
        return true
    } else {
        return false
    }
}

如何选择令牌桶还是漏桶?

两者各有适用场景:

  • 令牌桶更灵活,支持突发流量,适用于前端接收用户请求的场景。
  • 漏桶更稳定,输出流量更均匀,适用于后端任务调度、数据库连接池等场景。

有时候也可以结合使用,比如外层用漏桶控制整体吞吐量,内层用令牌桶处理局部突发请求。

分布式限流需要注意什么?

在单机部署的场景下,使用上述算法已经足够。但如果是在分布式微服务架构中,还需要考虑跨节点的一致性问题。

常见做法包括:

  • 使用Redis + Lua脚本实现全局计数器限流。
  • 使用滑动窗口算法替代固定窗口,提高精度。
  • 集成服务网格如Istio,在Envoy层面做限流控制。

例如,使用Redis记录某个用户的请求次数,并设置过期时间:

key := "rate_limit:user_123"
count, _ := redis.Int(conn.Do("GET", key))
if count >= MaxRequests {
    return false
}
conn.Do("INCR", key)
conn.Do("EXPIRE", key, 60) // 一分钟过期
return true

当然,这种方式会有网络开销,适合对一致性要求较高的场景。


基本上就这些。限流本身不复杂,但要根据业务需求选择合适的算法和实现方式,否则容易出现误拦或放行过多的问题。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

173

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

224

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

334

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

204

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

387

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

193

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

184

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

191

2025.06.17

苹果官网入口直接访问
苹果官网入口直接访问

苹果官网直接访问入口是https://www.apple.com/cn/,该页面具备0.8秒首屏渲染、HTTP/3与Brotli加速、WebP+AVIF双格式图片、免登录浏览全参数等特性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

10

2025.12.24

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
进程与SOCKET
进程与SOCKET

共6课时 | 0.3万人学习

Redis+MySQL数据库面试教程
Redis+MySQL数据库面试教程

共72课时 | 6.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号