Python set 去重原理与性能分析
Pythonset能去重是因为底层基于哈希表：元素插入前计算hash()值并映射到桶，相同值必有相同哈希值，重复插入时检测到等价元素即跳过；仅可哈希类型（如tuple、frozenset）可加入，list/dict不行。
Python set 能去重是因为底层基于哈希表：元素插入前计算 hash() 值并映射到桶，相同值必有相同哈希值，重复插入时检测到等价元素即跳过；仅可哈希类型（如 tuple、frozenset）可加入，list/dict 不行。
Python set 为什么能去重？底层是哈希表
Python set 去重不是靠遍历比对，而是依赖哈希（hash）机制：每个元素被插入前先计算 hash() 值，映射到内部哈希表的某个桶（bucket）。相同值的对象必然有相同哈希值（且满足 a == b → hash(a) == hash(b)），因此第二次插入时会发现桶中已有等价元素，直接跳过。
注意：只有可哈希类型才能放进 set —— 比如 list、dict 会报 TypeError: unhashable type；而 tuple（不含不可哈希项）可以。
- 自定义类若想进
set，必须正确定义__hash__和__eq__ - 哈希冲突存在，但 CPython 用开放寻址法处理，不影响正确性
None、数值、字符串、frozenset 等内置类型都已实现合理哈希
list(set(...)) 去重会丢失原始顺序，怎么办？
Python 3.7+ 的 dict 保持插入顺序，这个特性可被借用来保序去重：
list(dict.fromkeys(items))
它比 list(set(items)) 多一次哈希计算（key 插入 dict），但避免了排序或额外索引查找。如果 items 是生成器或大列表，这种写法也更省内存——dict.fromkeys 不会提前展开整个迭代器。
- 不要用
sorted(set(...))除非你真需要排序后结果 - 若需稳定去重 + 条件过滤，用
seen = set(); [x for x in items if not (x in seen or seen.add(x))]（注意add()返回None） - 第三方库如
more-itertools.unique_everseen更语义清晰，但引入依赖
大数据量下 set 去重比 list.count 或 in 慢？不，恰恰相反
对长度为 N 的列表，用 for x in lst: if x not in seen: seen.append(x) 这种方式，每次 in 是 O(N) 列表扫描，总时间复杂度是 O(N²)；而 set 的 in 平均是 O(1)，总开销接近 O(N)。
实测：10 万整数去重，set 耗时约 8ms，纯列表模拟耗时超 2s（CPython 3.11，Mac M2）。
- 小数据（<100 元素）差异不明显，不用强求
set - 内存上
set占用略高（哈希表有空桶、存储哈希值），但通常可接受 - 如果元素本身很大（如长字符串、大元组），哈希计算开销会上升，但仍是目前最通用的平衡解
嵌套结构去重只能靠 frozenset 或 tuple 化？
想对 list 列表去重？不行，因为 list 不可哈希。常见做法是转成 tuple（如果元素可哈希）：
list(set(tuple(x) for x in list_of_lists))
但如果内层含字典或集合，就得进一步转换，比如用 json.dumps(x, sort_keys=True) 生成唯一字符串再哈希——但这引入序列化开销和浮点精度、NaN 等边界问题。
frozenset可用于去重无序集合（如[{1,2}, {2,1}]→ 一个结果），但会丢失顺序和重复元素信息- 真正复杂的嵌套结构（含函数、对象引用等），
set无能为力，得用自定义缓存逻辑或id()（仅限临时内存去重） - 别忘了深拷贝风险：转
tuple是浅转换，原列表内嵌套可变对象仍共享引用
set 去重时，最易忽略的是「可哈希性」前提和「顺序丢失」副作用；一旦涉及嵌套或自定义类型，哈希逻辑就得手动接管，这时候就不是一行 set() 能解决的事了。 
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
AirBuddy 3 是面向 macOS 的蓝牙外设增强工具，可集中查看 AirPods、Beats 与苹果设备电量，提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。
AirServer macOS版可把 Mac 转换为无线投屏接收端，通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面，并支持多设备同时连接、高清镜像及会话录制，适合家庭娱乐、课堂教学、会议演示和应用展示。
火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力，依托字节自研豆包多模态大模型，凭借火山方舟一站式平台，提供模型精调、推理部署、智能应用搭建等全链路服务，结合高性能AI算力，助力各行业快速落地大模型数字化与智能化应用。
PixTV 是一款在浏览器中使用的 AI 视觉内容创作平台，提供图片、视频、音频、文字生成、AI 分镜、局部重绘、提示词反推和无限画布等工具，适合短剧、漫剧、广告及社交媒体内容制作。
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，