展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 编程开发 > 从零实现一个轻量级C++线程池

从零实现一个轻量级C++线程池

一、引言 今天,我们来动手实现一个目标:一个轻量、可用且具备良好扩展性的C++线程池。这不仅是理解并发编程核心思想的绝佳实践,也能为你的项目带来实实在在的性能提升。 实现过程将围绕几个关键技术点展开: std::thread:线程的创建与管理。 std::mutex / std::unique_lo

本文目录

    一、引言

    今天,我们来动手实现一个目标:一个轻量、可用且具备良好扩展性的C++线程池。这不仅是理解并发编程核心思想的绝佳实践,也能为你的项目带来实实在在的性能提升。

    实现过程将围绕几个关键技术点展开:

    1. std::thread:线程的创建与管理。
    2. std::mutex / std::unique_lock:保护共享资源,防止数据竞争。
    3. std::condition_variable:线程间的同步与高效等待。
    4. std::function / future / packaged_task / bind:实现灵活的任务封装与结果获取。

    二、什么是线程池

    简单来说,线程池是一种用于管理和复用线程的并发编程模型。它的核心思想非常直观:与其在每次需要处理任务时都临时创建新线程,不如预先创建好一组工作线程,把它们放在一个“池子”里统一管理。当有新任务到来时,直接从池子里分配一个空闲线程去执行即可。

    从零实现一个轻量级C++线程池

    三、为什么需要线程池

    频繁地创建和销毁线程可不是没有代价的。每一次操作都伴随着内存分配、内核态切换等系统开销。线程池通过复用线程,巧妙地绕过了这个问题,并带来了三重好处:

    • 降低资源开销:线程复用避免了反复创建和销毁的开销,系统性能自然得到提升。
    • 提高响应速度:任务提交后,无需等待漫长的线程创建过程,可以立即被分配给池中“待命”的线程执行。
    • 提高线程的可管理性:线程是系统级的稀缺资源。无限制地创建线程会迅速消耗大量内存,甚至导致程序崩溃。线程池则提供了统一的入口,让你能对线程数量进行精细的分配、调优和监控。

    四、线程池的核心组成

    一个典型的线程池,通常由以下几个核心部件构成:

    1. 工作线程集合 (Worker Threads):池中预先创建好的一组线程。它们会持续运行,不断从任务队列中“领取”并执行任务。
    2. 任务队列 (Task Queue):一个线程安全的队列,充当任务提交者和工作线程之间的缓冲区。所有待执行的任务都在这里排队等候。
    3. 同步机制 (Synchronization):
      • 互斥锁 (Mutex):用于保护任务队列,确保在多线程环境下对队列的访问是安全的,防止出现竞态条件。
      • 条件变量 (Condition Variable):这是实现高效等待的关键。当任务队列为空时,工作线程会在此处休眠等待;一旦有新任务加入,它就会被唤醒,从而避免了无意义的循环检测,节省了CPU资源。
    4. 任务接口 (Task Interface):一个对外的提交任务的方法。它需要足够灵活,能够接纳各种类型的可调用对象,比如普通函数、Lambda表达式、函数对象等。

    五、C++线程池的实现

    在深入代码之前,有必要先快速回顾一下实现中将用到的几个关键C++组件。理解了它们,后面的实现逻辑就会清晰很多。

    std::condition_variable——条件变量,它是线程间同步的“信号灯”。当任务队列为空时,工作线程会在此阻塞休眠。而当生产者(任务提交者)将新任务加入队列后,会通过同一个条件变量发出通知,唤醒正在等待的线程。这种机制的好处显而易见:它彻底避免了工作线程通过忙等待(busy-waiting)来轮询队列状态所带来的CPU空转开销。代码中主要用到它的三个接口:

    void wait (unique_lock& lck, Predicate pred);

    第一个参数是互斥锁。这个函数很聪明,它在内部会先释放锁,然后让线程休眠。这样做是为了防止线程在休眠期间还持有锁,导致其他活跃线程无法获取锁而阻塞。

    第二个参数是一个可调用对象(谓词),它必须返回true或false。这个谓词会被循环检查,直到其返回true为止。

    当谓词返回true后,线程被唤醒,并重新获取锁,然后继续执行后续代码。

    void notify_one() noexcept;

    唤醒一个在该条件变量下等待的线程。

    void notify_all() noexcept;

    唤醒所有在该条件变量下等待的线程。

    std::future,用来获取异步任务执行的结果。试想一下,如果没有它,在C++中想获取另一个线程的返回值,通常需要将结果写入一个全局变量。而全局变量作为共享资源,在多线程环境下必须加锁保护。std::future 封装了这些底层细节,提供了一种更安全、更优雅的同步获取结果的方式。

    get()方法

    调用此方法会阻塞当前线程,直到关联的异步任务完成并返回结果。所以说,它是一种“同步等待”结果的方式。

    std::function,是一个通用的函数包装器。它的重要作用在于“统一类型”。函数指针、Lambda表达式、仿函数虽然都是可调用对象,但它们的类型各不相同,无法直接放入同一个容器(比如我们的任务队列)进行管理。而经过 std::function 包装后,它们就拥有了统一的类型,管理起来就方便多了。

    std::packaged_task,可以看作是一个“任务包装器”,专门用来包装一个可调用对象,并方便地获取其异步执行的结果。它内部关联了一个 std::future 对象,任务的返回值会被自动存入这个future中。同时,它提供了 get_future() 方法来获取这个关联的future。这样一来,其他线程拿到这个future后,调用 get() 就能拿到结果了。值得一提的是,packaged_task 本身也重载了 () 运算符,可以直接像函数一样调用它来执行包装的任务。

    std::bind,用于绑定函数参数,并返回一个新的可调用对象。举个例子,函数 Add(int a, int b) 原本需要两个参数,调用形式是 Add(10, 20)。但经过 std::bind 绑定后,例如 auto func = std::bind(Add, 10, 20);,调用时就不再需要参数了,直接 func() 即可。为什么要做参数绑定?看完下面的线程池实现,你就会豁然开朗。

    #include 
    #include 
    #include 
    #include 
    #include 
    #include 
    #include 
    #include 
    #include 
    #include 
    
    class ThreadPool {
    public:
        ThreadPool(size_t thread_num = 4):
            _thread_num(thread_num),
            _start(false),
            _stop(false)
        {}
        ~ThreadPool(){
            if (_start && !_stop) stop();
        }
        ThreadPool(const ThreadPool&) = delete;
        ThreadPool& operator=(const ThreadPool&) = delete;
        ThreadPool(ThreadPool&&) = delete;
        ThreadPool& operator=(ThreadPool&&) = delete;
    
        void start() {
            std::unique_lock lock(_mutex);
            if (_start) return;
            _workers.reserve(_thread_num);
            for (size_t i = 0; i < _thread_num; i++) {
                _workers.emplace_back(std::thread([this](){
                    work_loop();
                }));
            }
            _start = true;
        }
    
        void stop() {
            {
                std::unique_lock lock(_mutex);
                if (!_start || _stop) return;
                // 在join回收线程之前,必须先将_stop置为true,
                // 否则工作线程可能会一直阻塞在条件变量上,导致无法正常退出,甚至会导致程序崩溃
                _stop = true;
            }
            _cond.notify_all();
            for (auto& worker : _workers) {
                if (worker.joinable()) worker.join();
            }
        }
    
        template
        auto submit(F&& f, Args&&... args)->std::future> {
            using return_type = std::invoke_result_t;
            // 绑定函数参数,并交给任务包装器
            auto task = std::make_shared>(
                std::bind(std::forward(f), std::forward(args)...)
            );
            // 获取关联的future
            std::future res = task->get_future();
            // 加锁+入队列
            {
                std::unique_lock lock(_mutex);
                if (_stop || !_start) throw std::runtime_error("线程池未启动!");
                _tasks.emplace([task](){(*task)();});
            }
            _cond.notify_one();
            return res;
        }
    
    private:
        void work_loop() {
            while (true) {
                std::function task;
                {
                    std::unique_lock lock(_mutex);
                    _cond.wait(lock, [this](){
                        return _stop || !_tasks.empty();
                    });
                    if (_stop && _tasks.empty()) return;
                    task = std::move(_tasks.front());
                    _tasks.pop();
                }
                task();
            }
        }
    
    private:
        std::vector _workers;
        std::queue> _tasks;
        std::mutex _mutex;
        std::condition_variable _cond;
        size_t _thread_num;
        bool _start;
        bool _stop;
    };
    
    int add(int a, int b) {
        return a + b;
    }
    
    void print() {
        std::cout << "-------------------print-------------------" << std::endl;
        std::cout << "Hello World!" << std::endl;
    }
    
    int main() {
        ThreadPool pool(4);
        pool.start();
        std::cout << "==================ThreadPoolTest==================" << std::endl;
        pool.submit([](){
            std::cout << "-------------------lambda-------------------" << std::endl;
            std::cout << "this is a lambda!" << std::endl;
        });
        std::this_thread::sleep_for(std::chrono::seconds(3));  
        auto ret1 = pool.submit(add, 10, 20);
        std::cout << "-------------------add-------------------" << std::endl;
        std::cout << "10 + 20 = " << ret1.get() << std::endl;
        std::this_thread::sleep_for(std::chrono::seconds(3));  
        pool.submit(print);
        pool.stop();
        return 0;
    }
    

    运行结果:

    从零实现一个轻量级C++线程池

    上面的实现代码用到了C++17的语法特性(如 std::invoke_result_t)。

    这里有一个关键点需要解释:我们的任务队列中存储的任务类型是 std::function,这意味着任务既没有参数,也没有返回值。那么,像 add 这样带参数和返回值的函数,是如何被成功提交并执行的呢?秘诀就在于那三步组合操作:

    1. 通过std::bind绑定函数的所有参数:这样一来,原本需要参数的函数就变成了一个“无参”的可调用对象。
    2. 通过std::packaged_task获取函数的返回值:返回值被自动存入其内部的future中,外部可以通过future来获取,因此任务本身无需返回值。
    3. 通过一层Lambda进行最终封装:不管原始函数是什么形态,最终放入队列的任务,都是一个符合 void() 签名的Lambda表达式。

    这三板斧组合在一起,就实现了强大的适配能力,无论原函数有无参数、有无返回值,都能完美适配到我们统一的任务队列中。

    另外,细心的你可能注意到了代码中的 std::forward(完美转发)。这不仅对函数参数进行了完美转发,以保持其原有的左值或右值属性;也对函数对象本身进行了完美转发。这是因为我们在调用 submit 时,可能会直接传入一个临时Lambda(右值),完美转发可以触发移动语义,避免在 std::bind 内部发生不必要的拷贝操作,提升了效率。

    至此,一个轻量级、功能完整的C++线程池就从零开始构建完成了。希望这个详细的实现过程能帮助你更深入地理解线程池的工作原理和现代C++并发工具的使用。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    Postman macOS版
    Postman macOS版

    Postman是一套面向API全生命周期的开发与测试平台,可在Mac上发送和调试多种协议请求,管理集合、环境及认证信息,并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用,提供个人免费方案。

    Docker Desktop macOS版
    Docker Desktop macOS版

    Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境,集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。

    Android Studio macOS版
    Android Studio macOS版

    Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境,基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。

    Xcode macOS版
    Xcode macOS版

    Xcode 是苹果面向 Mac 提供的官方集成开发环境,将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中,适合开发与维护 iPhone、iPad、Mac、Apple Wa

    JetBrains WebStorm macOS版
    JetBrains WebStorm macOS版

    JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境,可智能理解项目结构,提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。

    PhpStorm macOS版
    PhpStorm macOS版

    PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境,可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。

    JetBrains PyCharm macOS版
    JetBrains PyCharm macOS版

    JetBrains PyCharm 是面向 Python 开发者的集成开发环境,提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片,核心功能可免费使用。

    JetBrains IntelliJ IDEA macOS版
    JetBrains IntelliJ IDEA macOS版

    IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境,重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具,并可借助插件扩展语言和框架支持。

    Visual Studio Code macOS版
    Visual Studio Code macOS版

    Visual Studio Code 是微软提供的免费代码编辑器,支持 macOS,并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。

    REAPER macOS版
    REAPER macOS版

    REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

    Adobe Audition macOS版
    Adobe Audition macOS版

    Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站,提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具,并可与 Adobe Premiere 协同完成视频声音制作。

    Pro Tools macOS版
    Pro Tools macOS版

    Pro Tools 是 Avid 推出的专业数字音频工作站,覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。

    WINDOWS 更多
    Postman Windows版
    Postman Windows版

    Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求,并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等

    Docker Desktop Windows版
    Docker Desktop Windows版

    Docker Desktop 为 Windows 开发者提供集成式容器环境,内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件,可在本机完成镜像构建、容器运行、日志查看和资源管理。

    Android Studio Windows版
    Android Studio Windows版

    Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境,以 IntelliJ IDEA 为基础,集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具,

    JetBrains WebStorm Windows版
    JetBrains WebStorm Windows版

    WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索,并集成调试、测试、终端、Git 与常用前端工具,

    JetBrains PhpStorm Windows版
    JetBrains PhpStorm Windows版

    PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境,提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序,

    JetBrains PyCharm Windows版
    JetBrains PyCharm Windows版

    PyCharm 是 JetBrains 推出的 Python 集成开发环境,提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能,

    JetBrains IntelliJ IDEA Windows版
    JetBrains IntelliJ IDEA Windows版

    JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境,提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目,

    Visual Studio Code Windows版
    Visual Studio Code Windows版

    Visual Studio Code 是微软推出的免费代码编辑器,Windows 版集成智能补全、代码导航、调试、终端和版本控制,并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活,

    REAPER Windows版
    REAPER Windows版

    REAPER 是 Cockos 推出的数字音频工作站,适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧,支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展,并提供完整功能的 60 天免费评估期。

    Adobe Audition Windows版
    Adobe Audition Windows版

    Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站,提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理,

    Pro Tools Windows版
    Pro Tools Windows版

    Pro Tools 是 Avid 推出的专业数字音频工作站,提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用,并提供免费入门版、订阅方案及永久授权选择。

    Cubase Windows版
    Cubase Windows版

    Cubase 是 Steinberg 推出的数字音频工作站,提供 MIDI 编曲、多轨录音、音频编辑、虚拟乐器、效果处理、自动化、混音和母带输出工具。其 Pro、Artist 与 Elements 版本面向不同预算和制作规模,