当前位置：

首页 > 编程开发 > C++如何实现字符串的快速行级去重(Set法)

C++如何实现字符串的快速行级去重(Set法)

作者：BrightSoul 时间：2026-06-28 浏览：5

C++行级去重使用std::set会打乱原始顺序且未处理换行符残留。采用std::set与std::vector组合可实现保序去重：set用于查重，vector记录首次出现的行。超10万行时可用std::unordered_set提高性能，需注意空行与空白符的归一化处理。

本文目录

在处理大文本文件的行级去重时，很多人第一反应就是上 std::set，觉得“丢进去自动就去重了，多省事”。这种想法看起来简单，但在实践中容易踩坑——std::set 确实能去重，但它会自作主张按字典序排序，把你原来的顺序打乱得一干二净。而且如果没处理好换行残留、空行、尾随空白之类的问题，同一行文本可能会被识别成两个不同的字符串。

为什么用 `std::set` 做行级去重容易出错

直接把每行字符串往 std::set 里一塞，看起来是去重了，但实际效果跟你想的可能差了十万八千里。问题在于 std::set 只保证“集合里没有重复元素”，却不保证“输出的顺序跟输入一样”——它内部按红黑树排序，输出时自然按照字母顺序排好了。而所谓的“行级去重”，通常要求你按输入的顺序，保留第一次出现的行。

更要命的是换行符问题。用 getline 读取时，虽然它会把换行符截掉，但 Windows 文件里的有时候会残留下来，或者文件末尾的空行也可能导致逻辑上相同的行被当成两个不同的字符串。这还没算空行要不要保留、空白符要不要统一这类业务逻辑的坑。

std::set 自动排序，打乱原始行序，不能直接用于“保持首次出现顺序”的去重。
未清理的会导致 Linux 下读入的 Windows 文件中同一行被识别为两个不同字符串。
空行是否保留、空白符是否忽略，std::set 本身不帮你做这些判断。

用 `std::set` + `std::vector` 组合实现保序去重

核心思路很直接：用 std::set 做快速的查重，用 std::vector 记录首次出现的行，从而保证顺序。每次读一行，先尝试往 set 里插入，插入时会返回一个 pair，其中 bool 为 true 表示这是第一次出现的新元素——这时才把它 push 到 vector 里。

std::set seen;
std::vector unique_lines;
std::string line;
while (std::getline(std::cin, line)) {
    // 清理常见换行残留
    if (!line.empty() && line.back() == '\r') {
        line.pop_back();
    }
    auto [_, is_new] = seen.insert(line);
    if (is_new) {
        unique_lines.push_back(line);
    }
}

这里有几个细节需要注意。一是 seen.insert(line) 是 O(log n) 的查重操作，比线性遍历 vector 要快得多，几千到几万行的场景下性能完全够用。二是从 C++17 开始可以用结构化绑定 auto [_, is_new] 来解包返回值，看起来很清爽；如果是 C++11 或 C++14，需要写成 auto ret = seen.insert(...); if (ret.second) {...}。三是清理这步不能省，尤其是处理从 Windows 传来的日志文件时，少了这步可能会多出一堆“看起来一样但实际不一样”的行。

性能瓶颈在哪？什么时候该换 `std::unordered_set`

当行数超过 10 万时，std::set 的 O(log n) 累积起来确实会有点吃力，这时候 std::unordered_set 的均摊 O(1) 更占优势。但话说回来，unordered_set 也不是银弹：哈希计算有额外开销，内存占用更高，最坏情况下还会退化为 O(n)。

小数据（<10万行）时，std::set 和 unordered_set 的差距不明显，但 set 更省内存。
大数据（>100k 行）且内存充足时，优先用 std::unordered_set，记得用 seen.reserve(100000) 预留容量，避免频繁 rehash 拖慢性能。
如果字符串极长（比如每行几 KB），哈希计算本身就会成为瓶颈，这时候反而 std::set 更稳。

别忘了边界：空行、全空白行、超长行

真实日志或配置文件里，空行和仅含空格/tab 的行到底算不算“重复”？std::set 默认把空串 "" 和 " " 当成不同的字符串，但业务上可能需要统一归一化。这里才是真正的难点所在——技术实现本身很简单，但“重复”的定义得你自己想清楚。

若需忽略空白行：if (line.find_first_not_of(" \t") == std::string::npos) continue;
若需折叠空白：std::regex_replace(line, std::regex("\\s+"), " ")（注意正则替换会有额外的性能损耗）。
超长行（>1MB）可能触发 std::getline 分配失败，建议加长度检查或改用缓冲读取。

说句实在话，真正难的不是写对那几行 insert，而是搞清你的“重复”定义到底是什么——是字节完全一致，还是语义等价。这个判断一旦错，后面所有优化都是白搭。

本站声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系bd@zhengruan.com

作者最新文章

漫蛙manwa2在线阅读入口 2026-10-13 13:49

漫蛙漫画app下载安装包 2026-10-13 13:19

漫蛙MANWA2官方入口 2026-10-13 13:18

manwa漫蛙APP下载最新版本 2026-10-13 13:17

漫蛙漫画官方网页版app下载 2026-10-13 13:16

编程开发 C++

上一篇：如何使用TortoiseSVN进行项目代码的本地分支测试

下一篇：如何基于元组列表为 Pandas DataFrame 创建条件匹配新列

相关文章更多

C++动态数组初始化怎么写？常用语句与代码示例

内存管理 C++ 动态数组

09.21

C++类构造与析构函数详解

C++

08.17

C++中std::upper

C++

08.16

C++常对象与成员解析

C++

08.15

c++如何将结构体写入SQLite数据库_对象关系映射方案【进阶】

C++

07.21

什么是编程，学习编程的意义是？

Java C++ C语言

07.21

编程是门艺术_是编程艺术吗？

人工智能 Python Java C++

07.21

【编程的感受】

C++

07.21

对于懂得编程的人来说，编程对你来说有什么乐趣？编程大概是什么感觉？

Python Java C++

07.21

趣味编程：少儿编程思维的启蒙之旅

Python C++

07.21

编程如何考上名校，以及如何学习编程

C++

07.21

PHP-CPP怎么开发PHP扩展

PHP C++

07.21

热门文章更多

Photoshop蒙版换证件照背景颜色怎么改？实用操作步骤详解 AutoCAD绘制机械零件三维实体详细教程 AE教程书籍挑选指南：零基础、动效与合成方向实战标准 Photoshop图层合并快捷键是什么？合并盖印及分开图层方法 Photoshop日系调色教程：小清新风格参数与思路

精品专题更多

装机必备

正软商城装机必备专区，精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件，帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区，汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件，提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法，同时介绍常用PDF软件和工具的使用技巧。

macOS软件

正软商城macOS软件专区，精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具，提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区，精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用，提供功能介绍、适用设备、系统要求和正版获取方式等信息。

正软商城AI软件专区，汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具，提供功能介绍、适用平台、收费方式及正版购买信息。

Mac软件更多

Postman macOS版

Postman是一套面向API全生命周期的开发与测试平台，可在Mac上发送和调试多种协议请求，管理集合、环境及认证信息，并完成脚本测试、模拟服务、监控、文档发布和团队协作。它适合开发、测试及运维人员使用，提供个人免费方案。

API Postman

Docker Desktop macOS版

Docker Desktop 是 Docker 官方为 Mac 提供的容器开发环境，集成 Docker Engine、命令行工具、Compose、Build、Kubernetes 与图形化管理界面。

Desktop 开发工具

Android Studio macOS版

Android Studio 是 Google 面向安卓应用开发提供的官方集成开发环境，基于 IntelliJ IDEA 构建。它整合智能代码编辑、Gradle 构建、界面预览、设备模拟、性能分析、调试测试及 APK 分析等工具。

Xcode macOS版

Xcode 是苹果面向 Mac 提供的官方集成开发环境，将代码编辑、项目构建、SwiftUI 实时预览、设备模拟、自动化测试、断点调试、性能分析和应用分发整合在同一套工作流中，适合开发与维护 iPhone、iPad、Mac、Apple Wa

JetBrains WebStorm macOS版

JetBrains WebStorm 是面向 JavaScript、TypeScript 和现代 Web 技术的专业集成开发环境，可智能理解项目结构，提供代码补全、重构、错误检查、运行调试、测试及 Git 工具。

web开发

PhpStorm macOS版

PhpStorm 是 JetBrains 推出的专业 PHP 集成开发环境，可在 Mac 上完成代码编写、智能检查、重构、调试、测试和数据库管理。它支持主流 PHP 框架、Composer、Git、Docker 与远程解释器。

JetBrains PyCharm macOS版

JetBrains PyCharm 是面向 Python 开发者的集成开发环境，提供智能补全、代码检查、重构、调试、测试、版本控制及虚拟环境管理功能。Mac 版兼容 Intel 与 Apple 芯片，核心功能可免费使用。

Python开发

JetBrains IntelliJ IDEA macOS版

IntelliJ IDEA 是 JetBrains 推出的专业集成开发环境，重点服务于 Java、Kotlin 与 JVM 项目开发。软件集成代码补全、静态检查、重构、调试、测试、版本控制及构建工具，并可借助插件扩展语言和框架支持。

Intellij IDEA

Visual Studio Code macOS版

Visual Studio Code 是微软提供的免费代码编辑器，支持 macOS，并为 Intel 与 Apple 芯片 Mac 提供适配版本。软件集代码编辑、调试、Git 源代码管理、集成终端和扩展市场于一体。

VS Code 装机必备

REAPER macOS版

REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。

音频编辑音乐制作

Adobe Audition macOS版

Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。

音频编辑音乐制作

Pro Tools macOS版

Pro Tools 是 Avid 推出的专业数字音频工作站，覆盖多轨录音、无损剪辑、MIDI 编曲、插件处理、自动化混音及声音与画面同步等工作。它拥有 Intro、Artist、Studio 和 Ultimate 等方案。

音乐制作

WINDOWS 更多

Postman Windows版

Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等

接口开发 Postman

Docker Desktop Windows版

Docker Desktop 为 Windows 开发者提供集成式容器环境，内置 Docker Engine、命令行工具、Compose、Build 与 Kubernetes 等组件，可在本机完成镜像构建、容器运行、日志查看和资源管理。

Desktop 开发工具

Android Studio Windows版

Android Studio 是 Google 面向 Android 应用开发提供的官方集成开发环境，以 IntelliJ IDEA 为基础，集成智能代码编辑、Gradle 构建、设备模拟、界面预览、调试测试及性能分析工具，

安卓开发

JetBrains WebStorm Windows版

WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索，并集成调试、测试、终端、Git 与常用前端工具，

前端开发

JetBrains PhpStorm Windows版

PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境，提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序，

JetBrains PyCharm Windows版

PyCharm 是 JetBrains 推出的 Python 集成开发环境，提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能，

Python开发

JetBrains IntelliJ IDEA Windows版

JetBrains IntelliJ IDEA 是以 Java、Kotlin 和 JVM 项目为核心的专业集成开发环境，提供智能补全、代码检查、安全重构、调试、测试、版本控制及构建工具集成。统一发行版的核心功能可免费用于商业和非商业项目，

Java开发 Intellij IDEA

Visual Studio Code Windows版

Visual Studio Code 是微软推出的免费代码编辑器，Windows 版集成智能补全、代码导航、调试、终端和版本控制，并可通过扩展添加语言、格式化及远程开发能力。它启动较快、配置灵活，

软件开发 VS Code 代码编辑器

REAPER Windows版

REAPER 是 Cockos 推出的数字音频工作站，适用于录音、MIDI 编曲、音频编辑、混音、母带制作及声音设计。软件安装包小巧，支持多轨录制、灵活路由、自动化、第三方插件和脚本扩展，并提供完整功能的 60 天免费评估期。

音乐制作

Adobe Audition Windows版

Adobe Audition 是面向播客、影视后期、广播与音乐制作的专业音频工作站，提供波形编辑、多轨混音、频谱分析、录音、降噪修复和效果处理等功能。Windows 版通过 Adobe Creative Cloud 安装和管理，

音频编辑音乐制作

Pro Tools Windows版

Pro Tools 是 Avid 推出的专业数字音频工作站，提供多轨录音、音频剪辑、MIDI编曲、插件处理、自动化混音及影视声音制作能力。它适合音乐人、录音师、制作人和音频后期团队使用，并提供免费入门版、订阅方案及永久授权选择。

音乐制作

Cubase Windows版

Cubase 是 Steinberg 推出的数字音频工作站，提供 MIDI 编曲、多轨录音、音频编辑、虚拟乐器、效果处理、自动化、混音和母带输出工具。其 Pro、Artist 与 Elements 版本面向不同预算和制作规模，

音频编辑音乐制作

C++如何实现字符串的快速行级去重(Set法)

为什么用 std::set 做行级去重容易出错

用 std::set + std::vector 组合实现保序去重

性能瓶颈在哪？什么时候该换 std::unordered_set

别忘了边界：空行、全空白行、超长行

为什么用 `std::set` 做行级去重容易出错

用 `std::set` + `std::vector` 组合实现保序去重

性能瓶颈在哪？什么时候该换 `std::unordered_set`