展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 编程开发 > C++如何实现高效的线程安全LRU缓存系统

C++如何实现高效的线程安全LRU缓存系统

C++实现线程安全LRU缓存需区分读写锁:get用shared_lock,put用unique_lock;splice需传入链表自身;淘汰节点先擦除map再pop_back;大值建议存unique_ptr避免拷贝,且注意迭代器失效。

本文目录

    高并发下,C++线程安全LRU缓存的正确打开方式

    在现代高并发系统中,LRU缓存的线程安全实现是个经典难题。很多开发者第一反应就是用一把大锁锁住所有操作,结果性能惨不忍睹。今天我们就来聊聊几个关键点,这些都是在实际项目中踩过坑之后才真正理解的东西。

    C++如何实现高效的线程安全LRU缓存系统

    为什么说一把std::mutex锁不住整个LRU缓存

    先说结论:吞吐量会断崖式下降。所有读请求(get())和写请求(put())串行排队,哪怕并发读远远多于写,也完全无法利用多核能力。实际业务场景中,读占比经常超过90%,锁粒度太粗直接让缓存变成性能瓶颈。

    更合理的思路是区分读写场景:get() 只需要查map和移动链表节点,这个操作完全可以并发进行;put() 涉及插入、淘汰、更新,必须排他控制。C++17 引入的 std::shared_mutex 就是为了解决这类问题:

    • std::shared_lock 用于 get():多个线程可以同时持有共享锁
    • std::unique_lock 用于 put():写操作独占,自动阻塞其他读写

    有一个需要注意的细节:不要在 get() 中提前释放锁再调用 splice() 。splice() 需要同时访问链表和map,必须在锁内完成,否则在竞态条件下,迭代器可能已经被其他线程的 erase() 操作销毁。

    std::list::splice() 的参数顺序,多少人栽在这里

    一个非常常见的错误是写成 cache_list_.splice(cache_list_.begin(), it->second),这要么编译失败,要么运行时崩溃。因为 splice() 的三参数重载签名是:splice(pos, list, it),含义是把 it 指向的节点,插入到 pos 之前,而不是放到 pos 位置。

    所以要把节点移到头部,正确的写法是:

    cache_list_.splice(cache_list_.begin(), cache_list_, it->second);

    漏掉第二个参数 cache_list_,编译器会尝试匹配单链表版本(forward_list),而 std::list 不支持这个操作;写成 cache_list_.splice(cache_list_.begin(), it->second) 会匹配到错误的重载,结果就是未定义行为。

    补充一点:it->second 本身是 std::list::iterator,不是指针,不能解引用后传参 —— splice() 要的就是迭代器本身。

    淘汰尾部节点时,顺序搞反了后果很严重

    如果先 cache_list_.pop_back(),被删除节点的迭代器会立即失效,但 cache_map_[key] 还指向它。下次 get(key) 解引用这个迭代器,就是未定义行为(UB),轻则返回垃圾值,重则段错误。

    标准的做法是:

    • 先取尾部节点:auto last = cache_list_.back()
    • 从 map 中擦除:cache_map_.erase(last.first)
    • 再从 list 中移除:cache_list_.pop_back()

    这个顺序保证了 map 里永远不会存指向已销毁节点的迭代器。同理,在 put() 更新已有 key 时,也不能直接赋值 cache_map_[key] = cache_list_.begin(),这会导致 unordered_map::operator[] 默认构造旧值再赋值,异常风险很高。C++17 推荐使用 cache_map_.insert_or_assign(key, cache_list_.begin())。

    大value类型场景下,如何避免拷贝放大

    如果 V 是 std::string 或自定义大对象,直接用 emplace_front(key, value) 会触发一次拷贝(或移动),而 splice() 移动节点时又涉及一次移动,累计开销不容忽视。

    更好的方案是存储智能指针:

    • 用 std::list>> 替代 std::list>
    • map 存迭代器不变:std::unordered_map::iterator>
    • put() 时直接构造 std::make_unique(std::move(value)),零拷贝入链表

    这里有个建议:不要用 std::shared_ptr。引用计数的原子操作有额外开销,而且会破坏 splice() 的 O(1) 保证(因为需要更新控制块)。std::unique_ptr 移动无开销,与 list 完全兼容,是最合适的选择。

    最后说一个最容易忽略的点:迭代器有效性边界。只要不调用 erase() 或 clear(),std::list 的迭代器一直有效。但一旦发生淘汰或清空,所有对应 map 中的迭代器必须同步清除——这个没有编译器检查,全靠逻辑严谨性兜底。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 C++
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    Beamer 4 macOS版
    Beamer 4 macOS版

    Beamer 4是面向macOS的本地视频投屏工具,可将Mac中的影片投放到Apple TV、Chromecast及兼容设备,支持常见格式、多类字幕、环绕声、播放列表和电视遥控操作。

    Boom 3D macOS版
    Boom 3D macOS版

    Boom 3D macOS版是一款系统级音效增强工具,可为音乐、电影、游戏和流媒体提供3D虚拟环绕声、31段均衡器、音量增强及应用独立音量控制,并支持本地播放器与多种音频输出设备。

    Boris FX macOS版
    Boris FX macOS版

    Boris FX macOS版是一套面向剪辑、合成、调色及动态图形工作的专业后期工具,涵盖视觉特效、平面与三维跟踪、转描、画面修复、粒子动画和音频清理,可配合多种主流宿主软件使用。

    Capto macOS版
    Capto macOS版

    Capto 是面向 macOS 的屏幕截图、高清录屏与媒体编辑工具,支持区域及整屏捕获、网页长截图、双音轨处理、图片和视频标注、素材分类与多渠道分享,适合教师、学生、内容创作者及需要制作演示教程的用户。

    ChemDraw macOS版
    ChemDraw macOS版

    ChemDraw macOS版是一款面向化学学习、科研和制药工作的专业结构绘图工具,可创建分子、反应及生物聚合物图形,并提供结构整理、格式转换和科研成果展示能力。

    Cursor Crane macOS版
    Cursor Crane macOS版

    Cursor Crane 是一款仅面向 macOS 的键盘操控效率工具,可通过提示标签、网格、文字查找和窗口模式完成点击、滚动、定位与切换,并支持屏幕内容提取、脚本及工作流扩展。

    Deep Freeze 冰点还原 macOS版
    Deep Freeze 冰点还原 macOS版

    Deep Freeze 冰点还原 macOS版通过冻结系统配置,让受保护的Mac在重新启动后回到预设状态,并提供解冻空间、维护计划、密码保护及Apple Remote Desktop管理能力。

    Focusky macOS版
    Focusky macOS版

    Focusky macOS版是一款面向教学课件、商务汇报、产品展示和动画宣传内容的演示制作工具。它通过无限画布、路径编排、缩放旋转转场及多媒体编辑,将传统逐页幻灯片转化为更具空间感的动态演示。

    Folder Colorizer 2 macOS版
    Folder Colorizer 2 macOS版

    Folder Colorizer 2 macOS版是一款直观的文件夹外观定制工具,可更换颜色,添加表情、贴纸及图片背景,并支持批量处理、智能推荐和恢复默认样式,帮助用户更快辨认工作、学习与生活资料。

    WINDOWS 更多
    Fuzor Windows版
    Fuzor Windows版

    Fuzor Windows版是一套面向建筑、工程与施工团队的BIM/VDC平台,可汇集多来源模型和进度数据,完成实时可视化、4D施工推演、场地物流规划、问题检查、成果演示及团队协同。

    Gety Windows版
    Gety Windows版

    Gety Windows版是一款本地AI文件搜索工具,可索引电脑中的文档和图片,通过全文搜索、语义检索与OCR快速定位内容,并提供原版式预览、筛选和AI工具连接功能。

    iMazing Windows版
    iMazing Windows版

    iMazing Windows版是一款面向iPhone、iPad和iPod用户的本地设备管理工具,可在电脑上完成多版本备份、照片与音乐传输、信息导出、应用数据管理以及新旧设备迁移。

    Mercalli Windows版
    Mercalli Windows版

    Mercalli是一款面向Windows用户的专业视频稳定与画面修复工具,可分析手持、运动相机、无人机和长焦素材中的抖动,校正滚动快门及CMOS果冻效应,并提供曝光、色彩、锐度和镜头画面优化功能。

    NiceLabel Windows版
    NiceLabel Windows版

    NiceLabel是面向Windows平台的商业条码标签设计与打印工具,可制作文字、图像、条码及变量数据标签,并支持数据库连接、批量打印、打印自动化和集中管理,适用于制造、仓储、物流及零售等场景。

    pdfFactory Windows版
    pdfFactory Windows版

    pdfFactory是一款面向Windows的PDF虚拟打印机,可从支持打印的应用程序创建PDF,在保存前完成即时预览、页面排序、旋转、删除及多文档合并,并支持字体嵌入、邮件发送等办公功能。

    Polarr Windows版
    Polarr Windows版

    Polarr Windows版是一款面向摄影爱好者与内容创作者的照片编辑工具,提供曝光和色彩调整、曲线、HSL、滤镜、局部蒙版、人像修饰、叠加效果及批量导出等功能,适合日常修图、社交媒体配图和较细致的影像后期处理。

    AIDA64 Windows版
    AIDA64 Windows版

    AIDA64是一款面向Windows电脑用户的系统信息、硬件诊断与基准测试工具,可识别处理器、主板、显卡、存储设备和系统组件,并实时监控温度、电压、功耗及风扇转速,适合装机验收、性能比较和稳定性排查。

    Portraiture Windows版
    Portraiture Windows版

    Portraiture Windows版是一款面向人像摄影后期的智能润饰插件,可在Photoshop、Lightroom Classic和Affinity中完成皮肤平滑、AI区域识别、肤色统一及补光处理,

    priPrinter 7 Windows版
    priPrinter 7 Windows版

    priPrinter 7 Windows版是一款虚拟打印机与打印预览工具,可接收其他程序的打印任务,在输出前调整页面顺序、边距与版式,并添加水印、页码或批注。专业版还支持文本修正、内容脱敏、打印历史和PDF发布。

    PSD Manager Windows版
    PSD Manager Windows版

    PSD Manager是适用于Windows版Autodesk 3ds Max的渲染后期插件,可把画面、渲染元素、对象及材质蒙版整理成分层PSD或PSB文件,便于在Photoshop、Affinity Photo和After Effects

    RayFire Windows版
    RayFire Windows版

    RayFire是运行于Windows版Autodesk 3ds Max中的破碎与刚体动力学插件,集成实时Voronoi切割、交互式拆除、爆炸、裂纹、缓存和体素等工具,适合影视特效、游戏动画及建筑坍塌镜头制作。