Golang如何实现并发任务的限流

使用channel信号量控制并发数,如3个任务并行;通过rate.Limiter实现每秒2次的QPS限流;对大量任务采用worker pool调度。

Golang如何实现并发任务的限流

go语言中实现并发任务的限流,核心思路是控制同时运行的协程数量或单位时间内的任务执行频率。常用方法包括使用带缓冲的channel、sync.WaitGroup配合信号量、以及第三方库如golang.org/x/time/rate。下面介绍几种实用且易于理解的实现方式。

使用带缓冲的channel进行并发控制

这是最常见也最直观的限流方式。通过一个固定容量的channel作为信号量,控制最大并发数。

示例代码:

假设我们最多允许3个任务同时运行:

func main() {     tasks := []string{"task1", "task2", "task3", "task4", "task5"}     concurrencyLimit := 3     sem := make(chan struct{}, concurrencyLimit) <pre class="brush:php;toolbar:false;"><pre class="brush:php;toolbar:false;">var wg sync.WaitGroup  for _, task := range tasks {     wg.Add(1)     sem <- struct{}{} // 获取信号量     go func(t string) {         defer wg.Done()         defer func() { <-sem }() // 释放信号量          fmt.Printf("处理任务: %sn", t)         time.Sleep(1 * time.Second) // 模拟耗时操作     }(task) }  wg.Wait()

}

这里的sem是一个容量为3的channel,相当于一个计数信号量。每当启动一个goroutine前先写入channel,任务结束时再读出,从而保证最多只有3个任务在运行。

立即学习go语言免费学习笔记(深入)”;

使用golang.org/x/time/rate进行速率限制

如果需要按QPS(每秒请求数)限流,比如每秒最多处理2个任务,可以使用rate.Limiter

Golang如何实现并发任务的限流

ViiTor实时翻译

AI实时多语言翻译专家!强大的语音识别、AR翻译功能。

Golang如何实现并发任务的限流116

查看详情 Golang如何实现并发任务的限流

示例代码:

import "golang.org/x/time/rate" <p>func main() { limiter := rate.NewLimiter(2, 1) // 每秒2个token,初始1个 tasks := []string{"task1", "task2", "task3", "task4", "task5"}</p><pre class="brush:php;toolbar:false;"><pre class="brush:php;toolbar:false;">var wg sync.WaitGroup for _, task := range tasks {     wg.Add(1)     go func(t string) {         defer wg.Done()          limiter.Wait(context.Background()) // 等待获取token         fmt.Printf("执行任务: %sn", t)     }(task) } wg.Wait()

}

这种方式适合对外部服务调用限流,防止请求过载。还可以结合context设置超时,避免无限等待。

自定义并发池管理批量任务

对于大量任务需要稳定调度的场景,可以封装一个简单的worker pool。

基本结构:

  • 创建固定数量的工作协程
  • 任务通过channel分发给空闲worker
  • 主协程发送所有任务后关闭channel,等待完成

这种方式资源利用率高,适合长时间运行的服务。

基本上就这些。选择哪种方式取决于你的需求:控制并发数用channel信号量,控制QPS用rate.Limiter,大批量任务调度考虑worker pool。关键是根据实际负载合理设置阈值,避免系统过载。

go golang go语言 ai golang 封装 Go语言 并发 channel

上一篇
下一篇
text=ZqhQzanResources