首页 后端开发 Golang Go 中的并发模式;工作池和扇出/扇入

Go 中的并发模式;工作池和扇出/扇入

Oct 07, 2024 pm 10:11 PM

Concurrency patterns in Go; worker pools and fan-out/fan-in

Go 以其卓越的并发模型而闻名,但许多开发人员只关注 goroutine 和通道。然而,工作池和扇出/扇入等并发模式提供了真正的效率。

本文将介绍这些高级概念,帮助您最大限度地提高 Go 应用程序的吞吐量。

为什么并发很重要

并发允许程序高效地执行任务,特别是在处理 I/O 操作、Web 请求或后台处理等任务时。在 Go 中,goroutines 提供了一种轻量级的方法来管理数千个并发任务,但如果没有结构,您可能会遇到瓶颈。这就是工作池和扇出/扇入模式发挥作用的地方。

工人池

工作池允许您通过将任务分配给固定的“工作人员”来限制 goroutine 的数量。这可以防止超额订阅,减少资源消耗,并使任务执行易于管理。


package main

import (
    "fmt"
    "sync"
    "time"
)

func worker(id int, jobs <-chan int, results chan<- int, wg *sync.WaitGroup) {
    defer wg.Done()
    for j := range jobs {
        fmt.Printf("Worker %d started job %d\n", id, j)
        time.Sleep(time.Second) // Simulate work
        fmt.Printf("Worker %d finished job %d\n", id, j)
        results <- j * 2
    }
}

func main() {
    jobs := make(chan int, 100)
    results := make(chan int, 100)
    var wg sync.WaitGroup

    // Start 3 workers
    for w := 1; w <= 3; w++ {
        wg.Add(1)
        go worker(w, jobs, results, &wg)
    }

    // Send jobs
    for j := 1; j <= 5; j++ {
        jobs <- j
    }
    close(jobs)

    // Wait for workers to finish
    wg.Wait()
    close(results)

    for result := range results {
        fmt.Println("Result:", result)
    }
}


在此示例中:

  • 我们有三名工人同时处理作业。
  • 每个作业都会通过渠道传递给工人,并收集结果进行处理。

扇出/扇入模式

扇出/扇入模式允许多个 goroutine 处理同一任务,而扇入则将结果收集回单个输出。这对于划分任务然后聚合结果非常有用。


package main

import (
    "fmt"
    "sync"
    "time"
)

func workerFanOut(id int, tasks <-chan int, wg *sync.WaitGroup) {
    defer wg.Done()
    for task := range tasks {
        fmt.Printf("Worker %d processing task %d\n", id, task)
        time.Sleep(time.Second) // Simulate work
    }
}

func main() {
    var wg sync.WaitGroup
    tasks := make(chan int, 10)

    // Fan-out: Launch multiple workers
    for i := 1; i <= 3; i++ {
        wg.Add(1)
        go workerFanOut(i, tasks, &wg)
    }

    // Send tasks
    for i := 1; i <= 9; i++ {
        tasks <- i
    }
    close(tasks)

    // Wait for workers to finish
    wg.Wait()

    fmt.Println("All tasks are processed.")
}


在上面的代码中:

  • 扇出:我们创建多个并行处理任务的 goroutine(工作者)。
  • Fan-In:处理后,可以聚合所有worker的结果以进行进一步处理。

并发模式可用于优化 Web 服务器、批处理系统或 I/O 密集型应用程序。使用工作池和扇出/扇入等模式可确保最佳的资源利用率,而不会压垮系统容量。

增加知识的后续步骤:

  • 探索如何将这些模式扩展到其他并发挑战。
  • 使用管理请求的工作池构建实时 Web 服务。

Go 并发成功的关键是结构。掌握这些并发模式将提高您的 Go 技能并帮助您编写高性能应用程序。

请继续关注下一篇文章,了解更多关于 Go 的见解!

你可以给我买一本书来支持我:)

以上是Go 中的并发模式;工作池和扇出/扇入的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

您如何与Golang的环境变量合作? 您如何与Golang的环境变量合作? Aug 19, 2025 pm 02:06 PM

Goprovidesbuilt-insupportforhandlingenvironmentvariablesviatheospackage,enablingdeveloperstoread,set,andmanageenvironmentdatasecurelyandefficiently.Toreadavariable,useos.Getenv("KEY"),whichreturnsanemptystringifthekeyisnotset,orcombineos.Lo

以示例运行子过程 以示例运行子过程 Aug 06, 2025 am 09:05 AM

使用os/exec包运行子进程,通过exec.Command创建命令但不立即执行;2.使用.Output()运行命令并捕获stdout,若退出码非零则返回exec.ExitError;3.使用.Start()非阻塞启动进程,结合.StdoutPipe()实时流式输出;4.通过.StdinPipe()向进程输入数据,写入后需关闭管道并调用.Wait()等待结束;5.必须处理exec.ExitError以获取失败命令的退出码和stderr,避免僵尸进程。

Golang的标准库记录的替代方案是什么? Golang的标准库记录的替代方案是什么? Aug 05, 2025 pm 08:36 PM

forNewgo1.21项目,使用logforofficial loggingsupport; 2. forhigh-performanceProductionservices,selectzaporzerologduetototheirspeedandlowallowallowallowallocations; 3.ForeaseofusofusofuseanDrichEandrichIntRichIntrationsLikEsentryHooksEntryHooksEntryHooksEntryHooksEntryHooksEntryhooksEnderGrusIsIdeAdeSiteSiteSiteSitePitElowerPertermesterpersemperance; 4

如何在GO中实现通用LRU缓存 如何在GO中实现通用LRU缓存 Aug 18, 2025 am 08:31 AM

使用Go泛型和container/list可实现线程安全的LRU缓存;2.核心组件包括map、双向链表和互斥锁;3.Get和Add操作均通过锁保证并发安全,时间复杂度为O(1);4.当缓存满时自动淘汰最久未使用的条目;5.示例中容量为3的缓存添加4个元素后成功淘汰最久未使用的"b"。该实现完整支持泛型、高效且可扩展。

Golang服务中API版本的最佳实践是什么? Golang服务中API版本的最佳实践是什么? Aug 04, 2025 pm 04:50 PM

UseURLpathversioninglike/api/v1forclear,routable,anddeveloper-friendlyversioning.2.Applysemanticversioningwithmajorversions(v1,v2)only,avoidingmicro-versionslikev1.1topreventroutingcomplexity.3.OptionallysupportcontentnegotiationviaAcceptheadersifalr

如何在GO中创建和使用自定义错误类型 如何在GO中创建和使用自定义错误类型 Aug 11, 2025 pm 11:08 PM

在Go中,创建和使用自定义错误类型能提升错误处理的表达力和可调试性,答案是通过定义实现Error()方法的结构体来创建自定义错误,例如ValidationError包含Field和Message字段并返回格式化错误信息,随后可在函数中返回该错误,通过类型断言或errors.As检测具体错误类型以执行不同逻辑,还可为自定义错误添加行为方法如IsCritical,适用于需结构化数据、差异化处理、库导出或API集成的场景,而简单情况可用errors.New,预定义错误如ErrNotFound可用于可比

您如何处理GO应用程序中的信号? 您如何处理GO应用程序中的信号? Aug 11, 2025 pm 08:01 PM

Go应用中处理信号的正确方式是使用os/signal包监听信号并执行优雅关闭,1.使用signal.Notify将SIGINT、SIGTERM等信号发送到通道;2.在goroutine中运行主服务并阻塞等待信号;3.收到信号后通过context.WithTimeout执行带超时的优雅关闭;4.清理资源如关闭数据库连接、停止后台goroutine;5.必要时用signal.Reset恢复默认信号行为,确保程序在Kubernetes等环境中能可靠终止。

登录的一些最佳实践是什么? 登录的一些最佳实践是什么? Aug 04, 2025 pm 04:48 PM

使用结构化日志记录、添加上下文、控制日志级别、避免记录敏感数据、使用一致的字段名、正确记录错误、考虑性能、集中监控日志并统一初始化配置,是Go中实现高效日志的最佳实践。首先,采用JSON格式的结构化日志(如使用uber-go/zap或rs/zerolog)便于机器解析和集成ELK、Datadog等工具;其次,通过请求ID、用户ID等上下文信息增强日志可追踪性,可通过context.Context或HTTP中间件注入;第三,合理使用Debug、Info、Warn、Error等级别,并通过环境变量动

See all articles