使用channel信号量控制并发数,如3个任务并行;通过rate.Limiter实现每秒2次的QPS限流;对大量任务采用worker pool调度。

在go语言中实现并发任务的限流,核心思路是控制同时运行的协程数量或单位时间内的任务执行频率。常用方法包括使用带缓冲的channel、sync.WaitGroup配合信号量、以及第三方库如golang.org/x/time/rate。下面介绍几种实用且易于理解的实现方式。
使用带缓冲的channel进行并发控制
这是最常见也最直观的限流方式。通过一个固定容量的channel作为信号量,控制最大并发数。
示例代码:
假设我们最多允许3个任务同时运行:
func main() { tasks := []string{"task1", "task2", "task3", "task4", "task5"} concurrencyLimit := 3 sem := make(chan struct{}, concurrencyLimit) <pre class="brush:php;toolbar:false;"><pre class="brush:php;toolbar:false;">var wg sync.WaitGroup for _, task := range tasks { wg.Add(1) sem <- struct{}{} // 获取信号量 go func(t string) { defer wg.Done() defer func() { <-sem }() // 释放信号量 fmt.Printf("处理任务: %sn", t) time.Sleep(1 * time.Second) // 模拟耗时操作 }(task) } wg.Wait()
}
这里的sem是一个容量为3的channel,相当于一个计数信号量。每当启动一个goroutine前先写入channel,任务结束时再读出,从而保证最多只有3个任务在运行。
立即学习“go语言免费学习笔记(深入)”;
使用golang.org/x/time/rate进行速率限制
如果需要按QPS(每秒请求数)限流,比如每秒最多处理2个任务,可以使用rate.Limiter。
示例代码:
import "golang.org/x/time/rate" <p>func main() { limiter := rate.NewLimiter(2, 1) // 每秒2个token,初始1个 tasks := []string{"task1", "task2", "task3", "task4", "task5"}</p><pre class="brush:php;toolbar:false;"><pre class="brush:php;toolbar:false;">var wg sync.WaitGroup for _, task := range tasks { wg.Add(1) go func(t string) { defer wg.Done() limiter.Wait(context.Background()) // 等待获取token fmt.Printf("执行任务: %sn", t) }(task) } wg.Wait()
}
这种方式适合对外部服务调用限流,防止请求过载。还可以结合context设置超时,避免无限等待。
自定义并发池管理批量任务
对于大量任务需要稳定调度的场景,可以封装一个简单的worker pool。
基本结构:
- 创建固定数量的工作协程
- 任务通过channel分发给空闲worker
- 主协程发送所有任务后关闭channel,等待完成
这种方式资源利用率高,适合长时间运行的服务。
基本上就这些。选择哪种方式取决于你的需求:控制并发数用channel信号量,控制QPS用rate.Limiter,大批量任务调度考虑worker pool。关键是根据实际负载合理设置阈值,避免系统过载。


