展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 编程开发 > 如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

针对多维数组存入Redis的需求,放弃json.Marshal的黑盒序列化,改用自定义键生成函数将数组扁平化为带前缀的key-value对。写入时通过Pipeline批量操作保证原子性与性能,读取时利用SCAN分层扫描重建结构,同时注意避免键名歧义、分层TTL一致性与内存控制。

你可能会想,直接用 json.Marshal 把多维数组序列化后扔进 Redis,不是挺省事吗?但实际跑起来问题不少。Go 的 json.Marshal 在处理 []interface{} 或嵌套 slice 时,遇到 nil 元素、混合类型(比如 []interface{}{1, "a", []int{2, 3}})或多层指针,很容易翻车。更要命的是,Redis 根本不懂 JSON 结构,你存进去的只是一串字节流,后续想按“某一层子数组”做范围查询或原子更新,根本无从下手。这里的关键不是“怎么序列化”,而是按业务语义进行可控的扁平化——把多维关系映射成一组带前缀的 key-value 对。

如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

为什么不能直接用 json.Marshal 存多维数组到 Redis

说白了,json.Marshal 的通用序列化方案,在 Redis 面前就是个“黑盒”。你存进去的是字节流,Redis 不会帮你解析 JSON 里的嵌套关系。那当你需要单独操作某个子元素,比如更新第 2 行第 3 列的值,或者查询所有第 1 列大于 100 的行,就会陷入“先全量读取、反序列化、修改、再全量写入”的尴尬循环。这不仅效率低,还容易在并发场景下出现数据不一致。所以,真正的解决方案是:放弃通用序列化,按照业务需求,把多维数组“拍平”成 Redis 能理解的 key-value 结构。

用 redis.Pipeline + 自定义键生成函数批量写入

假设你有一个 [][]string,想存成类似 user:123:tags:0、user:123:tags:0:0、user:123:tags:0:1 这样的结构。这就需要你自己拆解维度,并设计 key 的命名规则。这个环节有几个坑要避开:

  • 不要用冒号 : 做唯一分隔符。如果原始数据本身包含 :(比如时间戳或 URL),解析时就会产生歧义。建议使用不可见字符如 \x00,或者固定长度编码(如 00001 表示索引 1)。
  • 写入操作必须用 pipeline。单个 SET 命令的网络开销很大,而且无法保证原子性。redis.Pipeline 可以把多个命令合并成一次请求,失败时整批回滚,性能和安全都有保障。
  • 千万别在循环里反复调用 client.Set。每次调用都涉及建连接、发命令,性能会差一个数量级。
// 示例:扁平化 [][]string 到 redisfunc flattenAndStore(client *redis.Client, baseKey string, data [][]string) error {pipe := client.Pipeline()for i, row := range data {rowKey := fmt.Sprintf("%s:%d", baseKey, i)pipe.Set(rowKey, len(row), 0) // 存长度,方便后续读取时预分配for j, item := range row {itemKey := fmt.Sprintf("%s:%d:%d", baseKey, i, j)pipe.Set(itemKey, item, 0)}}_, err := pipe.Exec()return err}

读取时如何还原多维结构而不爆内存

读取是另一个挑战。Redis 没有类似“获取所有 user:123:tags:*:*”的原生命令。KEYS 在生产环境是被禁用的,因为它会阻塞主线程。必须用 SCAN 命令,但 SCAN 返回的 key 是无序的,你需要靠 key 的命名规则来重建索引关系。

  • 先使用 SCAN 匹配 baseKey + ":*" 获取所有行 key,再对每个行 key 扫描其下的 ":*" 子项。两层 SCAN 是安全的,但要注意游标管理,避免遗漏或重复。
  • 不要一次性 GET 所有子项。如果某行有上万列,pipe.Get(...) 会把全部值加载进内存,很容易导致 OOM。应该按需分页,或者改用 HGETALL,把每行存成 Hash(更适合列数固定的场景)。
  • 注意 TTL 的设置。如果给每个子 key 单独设过期时间,容易出现“行头存在但子项已过期”的脏数据。推荐的做法是:只给顶层 key(如 user:123:tags)设 TTL,子项共享这个过期时间。

用 redis.HSet 替代多层 key 的适用边界

如果你的多维数组本质上是“固定列名的二维表”(比如 []map[string]string),直接用 HSET user:123:profile name "Alice" age "30" 会更合适。Hash 天然支持字段级读写,不存在的字段会自动忽略,而且 HGETALL 返回有序 map,比拼接 key 省事得多。

  • 只有当需要按“某列范围”查询时(比如“所有第 2 列值 > 100 的行”),才值得用多 key 方案。否则,就是在给自己增加复杂度。
  • Hash 不支持嵌套结构。HSET user:123:tags 0 "go" 1 "rust" 可以,但 HSET user:123:nested 0:0 "a" 会被当成字符串字段名,Redis 不会解析里面的冒号。
  • 如果一定要嵌套,可以考虑用 json.RawMessage 存储最内层数组,外层用 Hash 字段控制维度。这样既兼顾了可读性,又实现了扁平化。

说到底,真正的难点从来不是“怎么存”,而是“以后怎么删其中一行”或者“怎么给第 i 行第 j 列加个过期时间”。这些操作在 key 命名方案里,全得手动推导。漏掉一个 DEL,就会留下孤儿数据,成为隐患。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
作者最新文章
编程开发 Golang
相关文章 更多
精品专题 更多
装机必备

正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

Windows

正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

PDF教程

正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

macOS软件

正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

IOS软件

正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

AI

正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

Mac软件 更多
Shapr3D macOS版
Shapr3D macOS版

Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核,支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换,并可通过账户在多台设备之间同步项目。

REAPER macOS版
REAPER macOS版

REAPER是Cockos开发的数字音频工作站,提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片,支持AU、VST、VST3、CLAP等插件格式,并提供高度可定制的工作流程。

Ableton Live macOS版
Ableton Live macOS版

Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站,提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片,并可连接音频接口、MIDI控制器和第三方插件。

Adobe After Effects macOS版
Adobe After Effects macOS版

Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具,并可与 Premiere Pro、Photoshop、Illustrator

Adobe Audition macOS版
Adobe Audition macOS版

Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站,提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具,并可与 Adobe Premiere 协同完成视频声音制作。

Adobe Bridge macOS版
Adobe Bridge macOS版

Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具,可集中预览照片、视频和 Adobe 项目文件,并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera

Adobe Illustrator macOS版
Adobe Illustrator macOS版

Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件,适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形,并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。

Adobe InDesign macOS版
Adobe InDesign macOS版

Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件,可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。

Adobe Lightroom Classic macOS版
Adobe Lightroom Classic macOS版

Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件,可将原始照片保存在本地硬盘,通过目录、关键词、评分和收藏夹高效整理图库,并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。

Adobe Media Encoder macOS版
Adobe Media Encoder macOS版

Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具,可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出,并与 Premiere Pro、After Effects 等软件紧密协作。

Adobe Photoshop macOS版
Adobe Photoshop macOS版

Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件,提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。

Adobe Premiere Pro macOS版
Adobe Premiere Pro macOS版

Adobe Premiere Pro 是面向专业视频制作的非线性剪辑软件,提供多轨时间线、调色、音频处理、字幕、代理工作流和多格式输出能力,并可与 After Effects、Audition、Photoshop 及 Frame.io 协同

WINDOWS 更多
3dmax(3ds max)
3dmax(3ds max)

Autodesk 3ds Max 是一款专业的三维建模、动画与渲染软件,广泛应用于建筑可视化、游戏开发、影视动画、广告设计和产品展示等领域。

photoshop
photoshop

Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件,支持 Windows、macOS 和 iPad 等平台,广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。

Blender
Blender

Blender 是一款免费开源、跨平台的专业 3D 创作软件,集建模、动画、渲染、视频编辑与视觉合成等功能于一体,广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎,并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统,安装包轻巧、运行流畅,依托活跃的全球开发者社区持续更新,是从初学者到专业创作者都值得选择的正版 3D 创作工具。

Windows 10
Windows 10

Windows 10 是一款微软推出的经典操作系统,拥有硬件兼容性与多任务处理能力。它更偏向把系统状态查看和常用调节动作放在一起,适合需要持续观察和微调设备状态的场景。

极度公式
极度公式

极度公式是一款跨平台专业LaTeX公式识别编辑软件,支持OCR公式识别和多平台编辑。和使用说明,避免使用,享受完整功能与稳定支持。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

密码键盘
密码键盘

密码键盘是一款兼具安全性与便捷性的高效密码管理器。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

思源笔记
思源笔记

思源笔记是一款本地笔记软件,提供所见即所得的编辑方式,为长文写作带来顺滑的体验。记录、整理和输出之间的过渡会更自然,适合长期写作、做笔记或持续沉淀个人内容。

傲梅轻松备份
傲梅轻松备份

傲梅轻松备份是一款专业易用的数据备份软件,为重要数据提供安全保障。日常使用里的持续防护和信息管理会更突出,适合把安全控制放进长期使用流程中的场景。

Office 365 简体中文
Office 365 简体中文

一款文字处理软件,一种订阅式的跨平台办公软件,基于云平台提供多种服务,通过将 Excel 和 Outlook 等应用与 OneDrive 和 Microsoft Teams 等强大的云服务相结合,Office 365 可让任何人使用任何设备随时随地创建和共享内容。

Mac
Wise Folder Hider Pro
Wise Folder Hider Pro

Wise Folder Hider Pro 是一款专业级文件和文件夹隐藏加密软件,为私密数据添加多重保护。高频操作更强调就近处理,浏览、整理和跨目录移动文件时,来回切换和重复点击都会少很多。

WALTR PRO
WALTR PRO

WALTR是一款电脑至iOS文件传输转换工具,操作简单,快速实现文件识别与传送。做扫描整理、文字提取和表格转换时,它能把识别后的处理步骤接得更顺,资料录入这类场景会省下不少时间。

CodeExpander
CodeExpander

CodeExpander 是一款快捷短语输入增强工具,通过键入缩写自动展开为自定义文段,提升工作效率。任务管理和过程控制会更完整,持续下载、批量同步或需要稳定传输流程的场景会更适合它。