展开菜单
首页 精品内容 本月促销 装机必备 Windows macOS软件 IOS软件 Android AI PDF教程 专题
全部分类

当前位置:

首页 > 编程开发 > Go协程与系统线程:GOMAXPROCS深度解析

Go协程与系统线程:GOMAXPROCS深度解析

本文深入探讨Go语言中Goroutine与操作系统线程的关系。阐明Goroutine如何多路复用到少量OS线程上,并详细解释GOMAXPROCS参数如何控制并发执行的Go代码所使用的最大线程数。同时,揭示了在特定阻塞场景下(如系统调用或C函数调用),即使GOMAXPROCS设置较低,Go运行时仍可能创建额外OS线程的机制,以及通道操作、网络I/O等不导致新线程创建的特殊情况。

Go Goroutines与操作系统线程:深度解析GOMAXPROCS与线程创建机制

本文深入探讨Go语言中Goroutine与操作系统线程的关系。阐明Goroutine如何多路复用到少量OS线程上,并详细解释GOMAXPROCS参数如何控制并发执行的Go代码所使用的最大线程数。同时,揭示了在特定阻塞场景下(如系统调用或C函数调用),即使GOMAXPROCS设置较低,Go运行时仍可能创建额外OS线程的机制,以及通道操作、网络I/O等不导致新线程创建的特殊情况。

Go语言通过其轻量级的并发原语Goroutine,实现了高效的并发编程。Goroutine并非直接映射到操作系统线程,而是由Go运行时(runtime)调度器进行管理,将大量的Goroutine多路复用(Multiplexing)到少量底层操作系统(OS)线程上。这种M:N的调度模型使得Go程序能够以极低的开销创建数以万计的并发任务。然而,理解Goroutine如何与OS线程交互,以及何时会创建新的OS线程,对于编写高性能、高并发的Go应用至关重要。

GOMAXPROCS:控制并行度而非线程数

GOMAXPROCS是一个环境变量或通过runtime.GOMAXPROCS()函数设置的参数,它决定了Go程序同时可以并行执行Go代码的OS线程的最大数量。更准确地说,它控制了Go调度器可以同时使用的P(Processor,逻辑处理器)的数量。每个P绑定一个M(Machine,OS线程),而M负责执行G(Goroutine)。

例如,如果GOMAXPROCS设置为1,即使系统有多个CPU核心,Go调度器也只会在一个OS线程上运行Go代码。这意味着,如果一个Goroutine正在执行CPU密集型任务,其他Go代码(包括其他Goroutine)将不得不等待该线程空闲。增加GOMAXPROCS的值可以提高Go程序的并行度,使其能够充分利用多核CPU资源。通常,GOMAXPROCS的默认值等于机器的CPU核心数,这在大多数情况下是最佳实践。

需要强调的是,GOMAXPROCS仅限制了Go调度器用于执行Go代码的线程数量,它并不限制Go程序可以创建的OS线程总数。Go程序在特定情况下,即使GOMAXPROCS设置为1,也可能创建超出此限制的OS线程。

导致额外OS线程创建的阻塞操作

尽管Go调度器能够高效地管理Goroutine,但在某些特定情况下,当一个Goroutine执行阻塞操作时,它会阻塞其所绑定的OS线程。为了不影响其他可运行的Goroutine的执行,Go运行时会采取措施,包括但不限于创建新的OS线程或从线程池中获取空闲线程,以确保GOMAXPROCS所设定的并行度得以维持。这些导致额外OS线程创建的主要场景是:

  1. 系统调用(System Calls): 当Goroutine执行阻塞的系统调用时,例如文件I/O(os.ReadFile)、网络I/O(非Go运行时管理的底层网络操作)、进程创建与等待(exec.Command().Wait())等,底层的OS线程会被操作系统挂起。此时,Go运行时会从该阻塞的OS线程上“解绑”该Goroutine,并将其标记为“系统调用阻塞”。为了继续执行其他可运行的Goroutine,Go调度器可能会启动一个新的OS线程,或者从已有的空闲线程池中选择一个线程,以保持GOMAXPROCS设定的并行度。
  2. C语言函数调用(CGO Calls): 当Go代码通过CGO调用C语言函数,并且该C函数是阻塞的(例如,执行长时间计算或阻塞I/O),Go运行时也会将当前Goroutine从其OS线程上分离,并可能创建或使用新的OS线程来运行其他Go代码。

示例:阻塞系统调用导致的线程增加

以下代码演示了当多个Goroutine同时执行阻塞文件读取(系统调用)时,即使GOMAXPROCS设置为1,也可能观察到OS线程数量的增加:

package main

import (
    "fmt"
    "io/ioutil"
    "os"
    "runtime"
    "sync"
    "time"
)

func main() {
    // 将GOMAXPROCS设置为1,以凸显系统调用对线程数的影响
    runtime.GOMAXPROCS(1)
    fmt.Printf("GOMAXPROCS 已设置为: %d\n", runtime.GOMAXPROCS(-1))

    var wg sync.WaitGroup
    numGoroutines := 10 // 创建10个Goroutine

    fmt.Println("启动执行阻塞文件读取的Goroutine...")

    for i := 0; i < numGoroutines; i++ {
        wg.Add(1)
        go func(id int) {
            defer wg.Done()
            fileName := fmt.Sprintf("temp_file_%d.txt", id)
            // 创建一个临时文件供读取
            err := ioutil.WriteFile(fileName, []byte(fmt.Sprintf("Hello from goroutine %d", id)), 0644)
            if err != nil {
                fmt.Printf("Goroutine %d: 写入文件错误: %v\n", id, err)
                return
            }
            defer os.Remove(fileName) // 确保文件被清理

            fmt.Printf("Goroutine %d: 尝试读取文件 %s\n", id, fileName)
            // ioutil.ReadFile 是一个阻塞的系统调用
            _, err = ioutil.ReadFile(fileName) 
            if err != nil {
                fmt.Printf("Goroutine %d: 读取文件错误: %v\n", id, err)
            } else {
                fmt.Printf("Goroutine %d: 完成读取文件 %s\n", id, fileName)
            }
            // 稍作延迟,给其他Goroutine执行的机会
            time.Sleep(100 * time.Millisecond) 
        }(i)
    }

    // 给予Goroutine启动并可能创建线程的时间
    time.Sleep(2 * time.Second)
    fmt.Println("--------------------------------------------------")
    fmt.Println("请在此处使用 'ps -efL | grep <你的进程名>' 或 'htop -t' 观察OS线程数量。")
    fmt.Println("--------------------------------------------------")

    wg.Wait()
    fmt.Println("所有Goroutine执行完毕。")
}

运行上述代码,并在程序输出提示时,打开另一个终端窗口执行 ps -efL | grep your_go_program_name (Linux/macOS) 或使用 htop -t,你将观察到即使GOMAXPROCS设置为1,Go进程的OS线程数也可能远超1个,因为多个Goroutine同时阻塞在ioutil.ReadFile这个系统调用上。

不会导致额外OS线程创建的阻塞操作

并非所有阻塞操作都会导致Go运行时创建新的OS线程。Go运行时对一些常见的阻塞原语进行了特殊优化,这些操作在Goroutine阻塞时不会阻塞其底层的OS线程,而是由Go调度器进行异步处理:

  1. 通道操作(Channel Operations): 当Goroutine在通道上发送或接收数据时,如果通道操作是阻塞的(例如,无缓冲通道等待另一端,或有缓冲通道已满/空),Go调度器会将该Goroutine置于等待状态,但会立即将底层的OS线程释放,使其可以执行其他可运行的Goroutine。
  2. 网络操作(Network Operations): Go语言内置的网络库(net包)使用了非阻塞I/O和网络轮询器(netpoller,如Linux上的epoll,macOS/BSD上的kqueue)。当Goroutine等待网络数据时,它不会阻塞OS线程;而是由网络轮询器负责监听I/O事件,并在事件就绪时唤醒相应的Goroutine。
  3. 睡眠(Sleeping): time.Sleep()函数由Go调度器管理。当Goroutine调用time.Sleep()时,它会被调度器挂起,但其绑定的OS线程会立即释放,用于执行其他Goroutine。
  4. sync 包中的并发原语: sync包中的所有同步原语,如sync.Mutex、sync.WaitGroup、sync.Cond等,都是由Go调度器内部实现的。当Goroutine因这些原语而阻塞时,它们不会导致底层OS线程的阻塞,而是由调度器进行高效的Goroutine上下文切换。

示例:Go运行时管理的阻塞操作

原始问题中提供的Vector.DoSome函数是一个很好的例子:

type Vector []float64

// Apply the operation to n elements of v starting at i.
func (v Vector) DoSome(i, n int, u Vector, c chan int) {
    for ; i < n; i++ {
        v[i] += u.Op(v[i]) // CPU密集型计算
    }
    c <- 1;    // signal that this piece is done (通道操作)
}

在这个函数中,v[i] += u.Op(v[i]) 是一个CPU密集型操作。当多个Goroutine执行此操作时,GOMAXPROCS将直接决定并行执行的Goroutine数量。而c <- 1是一个通道发送操作。如果通道是无缓冲的且没有接收者,或者是有缓冲通道已满,发送操作会阻塞当前Goroutine。但此时,Go调度器会将该Goroutine挂起,并立即将底层的OS线程释放,用于执行其他Goroutine,而不会创建新的OS线程。

总结与注意事项

  • Goroutine与OS线程的关系: Goroutine是Go运行时管理的轻量级并发单元,它们多路复用到少数OS线程上执行。
  • GOMAXPROCS的作用: 它控制了Go程序可以并行执行Go代码的OS线程(即逻辑处理器P)的最大数量,主要影响CPU密集型任务的并行度。
  • 额外线程的创建: 当Goroutine执行阻塞的系统调用(如文件I/O、exec)或CGO调用时,即使GOMAXPROCS设置较低,Go运行时为了维持并行度,也可能创建额外的OS线程。
  • 不创建额外线程的阻塞: Go运行时对通道操作、网络I/O、time.Sleep以及sync包中的同步原语进行了优化,这些操作在阻塞时不会导致新的OS线程被创建,而是由Go调度器进行高效的Goroutine调度。

在设计高并发Go应用时,理解这些机制至关重要。尽量利用Go运行时优化的并发原语,避免在Goroutine中直接执行大量阻塞的系统调用,尤其是在GOMAXPROCS设置较低的情况下,以防止创建过多OS线程,从而增加上下文切换开销,影响程序性能。如果必须进行阻塞系统调用,应合理设计并发模型,例如使用有限的Goroutine池来执行这些操作,以控制OS线程的数量。

本文内容来源于互联网,如有侵权请联系删除。
作者最新文章
编程开发
相关文章 更多
精品专题 更多
本月促销

正软商城本月促销专区,汇集办公、设计、安全、影音、系统工具及AI软件等正版软件优惠活动,提供限时折扣、特价授权和优惠购买信息,活动库存及价格以页面实时展示为准。

装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

Mac软件 更多
灵活计算器
灵活计算器

灵活计算器是一款笔记式算数应用,支持实时计算、动态关联和云端同步功能。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

赤友清理大师
赤友清理大师

赤友清理大师是一款为 Mac 设计的智能清理优化工具,可精准扫描垃圾、大文件、重复文件等,释放磁盘空间。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

图几
图几

图几是一款适用于 macOS 的截图、标注与美化工具,支持离线操作保障隐私。界面整理和高频系统操作被放到一起考虑,桌面或窗口内容一多时,管理起来会更省心。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Menuist
Menuist

Menuist 是一款面向 macOS 的 Finder 右键菜单增强工具,主要用来补充新建文件、快捷导航等常用操作,让日常文件管理和访问路径时更高效、更顺手。

Mole
Mole

Mole 是一款专为 Mac 设计的深度清理优化工具,涵盖缓存清理、应用管理及实时状态监控等功能。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

WINDOWS 更多
Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。

PinStack
PinStack

PinStack是一款轻量级的Windows平台剪贴板管理工具,优化您的剪贴板使用体验。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

Mountain Duck
Mountain Duck

Mountain Duck 是一款能将多个网盘挂载到本地的工具,像本地磁盘一样使用网盘。清理链路的完整性会更好一些,做应用卸载、残留处理和空间整理时,通常能少走很多手动排查步骤。

Seer
Seer

Seer是一款在Win平台下的空格键功能增强效率工具,只需轻敲空格键,就能预览几乎任何格式的文件。它更适合把零散的小功能集中起来使用,处理高频琐碎任务时会更省事。