展开菜单
首页 精品内容 本月促销 装机必备 Windows PDF教程 macOS软件 IOS软件 Android AI 专题
全部分类

当前位置:

首页 > 编程开发 > 如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

针对多维数组存入Redis的需求,放弃json.Marshal的黑盒序列化,改用自定义键生成函数将数组扁平化为带前缀的key-value对。写入时通过Pipeline批量操作保证原子性与性能,读取时利用SCAN分层扫描重建结构,同时注意避免键名歧义、分层TTL一致性与内存控制。

本文目录

    你可能会想,直接用 json.Marshal 把多维数组序列化后扔进 Redis,不是挺省事吗?但实际跑起来问题不少。Go 的 json.Marshal 在处理 []interface{} 或嵌套 slice 时,遇到 nil 元素、混合类型(比如 []interface{}{1, "a", []int{2, 3}})或多层指针,很容易翻车。更要命的是,Redis 根本不懂 JSON 结构,你存进去的只是一串字节流,后续想按“某一层子数组”做范围查询或原子更新,根本无从下手。这里的关键不是“怎么序列化”,而是按业务语义进行可控的扁平化——把多维关系映射成一组带前缀的 key-value 对。

    如何在Golang中通过自定义序列化函数将多维数组扁平化存入Redis

    为什么不能直接用 json.Marshal 存多维数组到 Redis

    说白了,json.Marshal 的通用序列化方案,在 Redis 面前就是个“黑盒”。你存进去的是字节流,Redis 不会帮你解析 JSON 里的嵌套关系。那当你需要单独操作某个子元素,比如更新第 2 行第 3 列的值,或者查询所有第 1 列大于 100 的行,就会陷入“先全量读取、反序列化、修改、再全量写入”的尴尬循环。这不仅效率低,还容易在并发场景下出现数据不一致。所以,真正的解决方案是:放弃通用序列化,按照业务需求,把多维数组“拍平”成 Redis 能理解的 key-value 结构。

    用 redis.Pipeline + 自定义键生成函数批量写入

    假设你有一个 [][]string,想存成类似 user:123:tags:0、user:123:tags:0:0、user:123:tags:0:1 这样的结构。这就需要你自己拆解维度,并设计 key 的命名规则。这个环节有几个坑要避开:

    • 不要用冒号 : 做唯一分隔符。如果原始数据本身包含 :(比如时间戳或 URL),解析时就会产生歧义。建议使用不可见字符如 \x00,或者固定长度编码(如 00001 表示索引 1)。
    • 写入操作必须用 pipeline。单个 SET 命令的网络开销很大,而且无法保证原子性。redis.Pipeline 可以把多个命令合并成一次请求,失败时整批回滚,性能和安全都有保障。
    • 千万别在循环里反复调用 client.Set。每次调用都涉及建连接、发命令,性能会差一个数量级。
    // 示例:扁平化 [][]string 到 redisfunc flattenAndStore(client *redis.Client, baseKey string, data [][]string) error {pipe := client.Pipeline()for i, row := range data {rowKey := fmt.Sprintf("%s:%d", baseKey, i)pipe.Set(rowKey, len(row), 0) // 存长度,方便后续读取时预分配for j, item := range row {itemKey := fmt.Sprintf("%s:%d:%d", baseKey, i, j)pipe.Set(itemKey, item, 0)}}_, err := pipe.Exec()return err}

    读取时如何还原多维结构而不爆内存

    读取是另一个挑战。Redis 没有类似“获取所有 user:123:tags:*:*”的原生命令。KEYS 在生产环境是被禁用的,因为它会阻塞主线程。必须用 SCAN 命令,但 SCAN 返回的 key 是无序的,你需要靠 key 的命名规则来重建索引关系。

    • 先使用 SCAN 匹配 baseKey + ":*" 获取所有行 key,再对每个行 key 扫描其下的 ":*" 子项。两层 SCAN 是安全的,但要注意游标管理,避免遗漏或重复。
    • 不要一次性 GET 所有子项。如果某行有上万列,pipe.Get(...) 会把全部值加载进内存,很容易导致 OOM。应该按需分页,或者改用 HGETALL,把每行存成 Hash(更适合列数固定的场景)。
    • 注意 TTL 的设置。如果给每个子 key 单独设过期时间,容易出现“行头存在但子项已过期”的脏数据。推荐的做法是:只给顶层 key(如 user:123:tags)设 TTL,子项共享这个过期时间。

    用 redis.HSet 替代多层 key 的适用边界

    如果你的多维数组本质上是“固定列名的二维表”(比如 []map[string]string),直接用 HSET user:123:profile name "Alice" age "30" 会更合适。Hash 天然支持字段级读写,不存在的字段会自动忽略,而且 HGETALL 返回有序 map,比拼接 key 省事得多。

    • 只有当需要按“某列范围”查询时(比如“所有第 2 列值 > 100 的行”),才值得用多 key 方案。否则,就是在给自己增加复杂度。
    • Hash 不支持嵌套结构。HSET user:123:tags 0 "go" 1 "rust" 可以,但 HSET user:123:nested 0:0 "a" 会被当成字符串字段名,Redis 不会解析里面的冒号。
    • 如果一定要嵌套,可以考虑用 json.RawMessage 存储最内层数组,外层用 Hash 字段控制维度。这样既兼顾了可读性,又实现了扁平化。

    说到底,真正的难点从来不是“怎么存”,而是“以后怎么删其中一行”或者“怎么给第 i 行第 j 列加个过期时间”。这些操作在 key 命名方案里,全得手动推导。漏掉一个 DEL,就会留下孤儿数据,成为隐患。

    本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系bd@zhengruan.com
    作者最新文章
    编程开发 Golang
    相关文章 更多
    精品专题 更多
    装机必备

    正软商城装机必备专区,精选办公、浏览器、安全防护、影音播放、压缩解压、设计创作和系统工具等电脑常用正版软件,帮助用户快速完成新电脑软件配置。

    Windows

    正软商城Windows软件专区,汇集适用于Windows电脑的办公、设计、安全防护、影音播放、开发工具和系统优化软件,提供软件介绍、系统要求、正版授权及购买下载服务。

    PDF教程

    正软商城PDF教程频道提供PDF编辑、转换、合并、拆分、压缩及格式处理方法,同时介绍常用PDF软件和工具的使用技巧。

    macOS软件

    正软商城macOS软件专区,精选适用于Mac电脑的办公、设计、影音、效率、开发和系统工具,提供软件功能介绍、macOS兼容版本、正版授权及购买下载服务。

    IOS软件

    正软商城iOS软件专区,精选适用于iPhone和iPad的办公、学习、影音、设计、效率及AI应用,提供功能介绍、适用设备、系统要求和正版获取方式等信息。

    AI

    正软商城AI软件专区,汇集AI写作、AI绘画、AI视频、AI办公、AI编程、AI翻译、智能客服和数据分析等人工智能工具,提供功能介绍、适用平台、收费方式及正版购买信息。

    Mac软件 更多
    Aperty macOS版
    Aperty macOS版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw macOS版
    AionClaw macOS版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy macOS版
    Loomy macOS版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirBuddy 3 macOS版
    AirBuddy 3 macOS版

    AirBuddy 3 是面向 macOS 的蓝牙外设增强工具,可集中查看 AirPods、Beats 与苹果设备电量,提供快速连接、播放控制、电量提醒、桌面小组件和多台 Mac 外设接力等功能。

    AirServer macOS版
    AirServer macOS版

    AirServer macOS版可把 Mac 转换为无线投屏接收端,通过 AirPlay 或 Google Cast 接收手机、平板和电脑画面,并支持多设备同时连接、高清镜像及会话录制,适合家庭娱乐、课堂教学、会议演示和应用展示。

    AnyDesk macOS版
    AnyDesk macOS版

    AnyDesk macOS版是一款适用于远程办公、设备维护和客户支持的远程桌面工具,可连接并操作异地计算机,支持文件传输、无人值守访问、会话权限控制及跨平台协作。

    WINDOWS 更多
    讯飞绘文 网页版
    讯飞绘文 网页版

    讯飞绘文网页版是科大讯飞推出的AI图文创作与内容运营工具,覆盖热点选题、文章生成、稿件校对、智能配图、排版发布和数据复盘等环节,适合自媒体创作者及内容团队在线使用。

    Maya(Autodesk Maya) Windows版
    Maya(Autodesk Maya) Windows版

    Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件,集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体,

    Aperty Windows版
    Aperty Windows版

    Aperty 是 Skylum 推出的 AI 人像修图软件,支持自然肤质修饰、瑕疵处理、面部与身体调整、预设及批量同步。

    火山引擎 网页版
    火山引擎 网页版

    火山引擎是字节跳动旗下企业级云与AI服务平台。聚焦大模型核心能力,依托字节自研豆包多模态大模型,凭借火山方舟一站式平台,提供模型精调、推理部署、智能应用搭建等全链路服务,结合高性能AI算力,助力各行业快速落地大模型数字化与智能化应用。

    立刻MV 网页版
    立刻MV 网页版

    立刻MV 面向音乐人、内容创作者和品牌团队,帮助用户低成本完成歌曲 MV、歌词视频、AI 分镜、图生视频与最终合成。

    蛙蛙写作 网页版
    蛙蛙写作 网页版

    蛙蛙写作 AI 创作工具,覆盖小说、剧本、文案,一键生成文稿,打通文字转视频全流程,高效解决创作难题。

    讯飞智作 网页版
    讯飞智作 网页版

    讯飞智作是一款基于语音合成技术、虚拟人驱动技术与数字人形象声音构建能力的 AI 数字人音视频创作平台。

    超级简历WonderCV 网页版
    超级简历WonderCV 网页版

    超级简历WonderCV是面向应届生和AI小白的智能求职平台,覆盖简历、面试与职业规划。

    音述AI 网页版
    音述AI 网页版

    音述AI,是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区。

    AionClaw Windows版
    AionClaw Windows版

    AionClaw 是可在桌面端运行的任务型 AI 助手,通过数字专家与技能市场组合办公、创作、数据和开发能力。

    Loomy Windows版
    Loomy Windows版

    Loomy 是科大讯飞推出的桌面 AI 助手,可通过对话、任务与工作目录协助处理办公、内容创作和资料整理。

    AirServer Windows版
    AirServer Windows版

    AirServer Windows版可把电脑变成AirPlay、Google Cast和Miracast无线投屏接收端,适合会议演示、课堂教学及家庭大屏分享。发送设备通常无需另装客户端,并可同时接收和智能排列多个镜像会话。