使用Worker Pool模式通过goroutine和channel实现多协程任务分发,定义Task结构体及处理方法,创建任务与结果通道,启动固定数量worker协程从任务通道读取并执行任务,将结果写入结果通道,有效控制并发、避免资源竞争和协程泄漏。

在golang中实现多协程任务分发,核心是利用goroutine和channel进行并发控制与任务调度。关键在于合理设计任务池、工作协程和任务分发机制,避免资源竞争和goroutine泄漏。
使用Worker Pool模式分发任务
最常见的做法是构建一个Worker Pool(工作池),由固定数量的worker协程从同一个任务channel中读取任务并执行。
这种方式能有效控制并发数量,复用goroutine,避免创建过多协程导致系统负载过高。
说明:定义任务类型和结果处理方式,例如:
type Task struct { ID int Data string } <p>func (t Task) Process() string { return "processed: " + t.Data }
创建任务队列和结果通道:
立即学习“go语言免费学习笔记(深入)”;
taskCh := make(chan Task, 100) resultCh := make(chan string, 100)
启动多个worker协程:
- 每个worker监听任务channel
- 获取任务后执行处理逻辑
- 将结果写入结果channel
示例代码:
for i := 0; i < 5; i++ { // 启动5个worker go func() { for task := range taskCh { result := task.Process() resultCh <- result } }() }
安全关闭任务分发系统
当所有任务提交完成后,需要关闭任务channel以通知worker退出,防止goroutine阻塞。
常见做法是在发送端完成任务发送后关闭channel:
go func() { for i := 0; i < 10; i++ { taskCh <- Task{ID: i, Data: fmt.Sprintf("data-%d", i)} } close(taskCh) // 关闭后,worker的range会自动结束 }()
等待所有结果返回或使用sync.WaitGroup管理生命周期:
- 提前知道任务数量时,可用WaitGroup等待worker完成
- 通过resultCh接收所有输出,直到其被关闭
动态扩展与错误处理
实际应用中需考虑异常情况,比如某个worker出错退出,应确保不影响整体流程。
建议每个worker内部捕获panic:
go func() { defer func() { if r := recover(); r != nil { log.Println("worker panicked:", r) } }() for task := range taskCh { resultCh <- task.Process() } }()
如需动态调整worker数量,可通过控制channel发送信号来增减goroutine。
基本上就这些。只要设计好任务结构、控制好并发数、妥善关闭channel,就能稳定实现多协程任务分发。不复杂但容易忽略细节,比如忘记close channel或未处理阻塞问题。}


