Pandas超宽结构重塑：JSON转多表技巧
本文详细介绍了如何使用Pandas处理由扁平化JSON数据导致的超宽DataFrame。通过melt()函数将宽格式数据转换为长格式，并结合字符串解析与pivot_table()实现数据重构，从而将嵌套结构拆分为更易于分析的规范化表格，有效解决列数过多的问题。
1. 引言：超宽DataFrame的挑战与数据重构需求
在数据处理过程中，我们经常会遇到从扁平化（flattened）的JSON或类似结构中加载数据到Pandas DataFrame的情况。当原始JSON包含多层嵌套的列表或字典，并且这些嵌套结构被展开为独立的列时，DataFrame的列数可能会急剧增加，甚至超过1024列，这不仅使得数据难以直观理解和分析，也可能导致性能问题。例如，一个包含多个员工信息（每个员工有工资、多个技能ID）的JSON，在扁平化后可能产生诸如employee_0_salary, employee_0_skills_0_id, employee_0_skills_1_id, employee_1_salary等大量列。
我们的目标是将这种超宽的DataFrame重构为更合理、更规范的格式，例如，将每个员工的信息拆分成独立的行，形成一个包含id、员工索引、工资、技能ID等列的表格，从而便于后续的数据分析和处理。
2. 核心工具：pandas.melt()实现宽到长转换
解决超宽DataFrame问题的首要步骤是将其从宽格式（wide format）转换为长格式（long format）。Pandas库中的melt()函数是实现这一转换的强大工具。melt()函数可以将DataFrame中的一列或多列“融化”为两列：一列存储原始的列名（通常命名为variable），另一列存储对应的值（通常命名为value）。
2.1 melt()函数详解
- id_vars: 一个列表，指定哪些列是标识符变量，它们在转换后会保持不变，作为新的长格式DataFrame的标识列。
- value_vars: 一个列表，指定哪些列是要被“融化”的变量。如果省略此参数，melt()将融化所有非id_vars的列。
- var_name: 一个字符串，用于指定存储原始列名的新列的名称（默认为variable）。
- value_name: 一个字符串，用于指定存储原始列值的新列的名称（默认为value）。
2.2 示例：应用melt()
假设我们有以下一个模拟的超宽DataFrame：
import pandas as pd
# 模拟超宽DataFrame
df = pd.DataFrame({
'id': [1, 2, 1],
'name': ['joe','sue', 'fred'],
'employee_0_salary': [30000, 35000, 40000],
'employee_0_skills_0_id': [101, 102, 103],
'employee_0_skills_1_id': [103, 104, 105],
'employee_1_salary': [32000, 36000, 37000],
'employee_1_skills_0_id': [105, 106, 107],
'employee_1_skills_1_id': [108, 109, 110], # 增加一个技能列以便后续演示
})
print("原始DataFrame:")
print(df)输出：
原始DataFrame: id name employee_0_salary employee_0_skills_0_id employee_0_skills_1_id employee_1_salary employee_1_skills_0_id employee_1_skills_1_id 0 1 joe 30000 101 103 32000 105 108 1 2 sue 35000 102 104 36000 106 109 2 1 fred 40000 103 105 37000 107 110
现在，我们使用melt()函数将其转换为长格式。我们将id和name作为标识符变量：
meltdf = df.melt(id_vars=['id', 'name'])
print("\n使用melt()转换后的DataFrame:")
print(meltdf.head(10)) # 只显示前10行输出：
使用melt()转换后的DataFrame: id name variable value 0 1 joe employee_0_salary 30000 1 2 sue employee_0_salary 35000 2 1 fred employee_0_salary 40000 3 1 joe employee_0_skills_0_id 101 4 2 sue employee_0_skills_0_id 102 5 1 fred employee_0_skills_0_id 103 6 1 joe employee_0_skills_1_id 103 7 2 sue employee_0_skills_1_id 104 8 1 fred employee_0_skills_1_id 105 9 1 joe employee_1_salary 32000
可以看到，原始的员工相关列被“融化”成了variable和value两列。
3. 解析variable列：提取嵌套实体信息
melt操作后，所有的关键嵌套信息（例如“哪个员工”和“哪个属性”）都被编码在variable列的字符串中。我们需要从这些字符串中提取结构化的信息，例如员工的索引（0, 1, ...）和具体的属性名称（salary, skills_0_id, skills_1_id）。
这通常可以通过字符串操作或正则表达式来完成。考虑到列名模式通常是employee_X_attribute_Y，我们可以使用正则表达式来精确提取。
# 使用正则表达式从variable列中提取员工索引和属性名称
# 模式：'employee_(\d+)_(.*)' 匹配 'employee_' 后跟数字（员工索引），再跟 '_' 后所有内容（属性名称）
extracted_data = meltdf['variable'].str.extract(r'employee_(\d+)_(.*)')
# 将提取的数据添加到meltdf中，并命名新列
meltdf['employee_idx'] = extracted_data[0].astype(int) # 员工索引
meltdf['attribute'] = extracted_data[1] # 属性名称
print("\n解析variable列后的DataFrame:")
print(meltdf.head(10))输出：
解析variable列后的DataFrame: id name variable value employee_idx attribute 0 1 joe employee_0_salary 30000 0 salary 1 2 sue employee_0_salary 35000 0 salary 2 1 fred employee_0_salary 40000 0 salary 3 1 joe employee_0_skills_0_id 101 0 skills_0_id 4 2 sue employee_0_skills_0_id 102 0 skills_0_id 5 1 fred employee_0_skills_0_id 103 0 skills_0_id 6 1 joe employee_0_skills_1_id 103 0 skills_1_id 7 2 sue employee_0_skills_1_id 104 0 skills_1_id 8 1 fred employee_0_skills_1_id 105 0 skills_1_id 9 1 joe employee_1_salary 32000 1 salary
现在，meltdf中有了id、name、employee_idx、attribute和value这些列，数据结构变得清晰。
4. 使用pivot_table()重塑数据：构建规范化表格
有了id、name、employee_idx、attribute和value这些列，我们就可以使用pivot_table()函数将数据重塑为最终的目标格式：每行代表一个员工的详细信息。
pivot_table()函数与pivot()类似，但功能更强大，可以处理重复索引，并支持聚合功能。在这里，我们希望以id、name和employee_idx作为新的行标识符，以attribute作为新的列名，并以value填充单元格。
# 使用pivot_table将数据重塑为每行一个员工的格式
# index: 定义新DataFrame的行索引
# columns: 定义新DataFrame的列名
# values: 定义填充单元格的值
normalized_df = meltdf.pivot_table(
index=['id', 'name', 'employee_idx'],
columns='attribute',
values='value'
)
# 重置索引，将id, name, employee_idx从MultiIndex转换为普通列
normalized_df = normalized_df.reset_index()
# 清理列名：pivot_table后columns会变成MultiIndex，需要扁平化
normalized_df.columns.name = None # 移除columns的名称
# 如果需要，可以进一步重命名列
# normalized_df = normalized_df.rename(columns={'skills_0_id': 'skill_id_0', 'skills_1_id': 'skill_id_1'})
print("\n最终规范化后的DataFrame:")
print(normalized_df)输出：
最终规范化后的DataFrame: id name employee_idx salary skills_0_id skills_1_id 0 1 fred 0 40000 103 105 1 1 fred 1 37000 107 110 2 1 joe 0 30000 101 103 3 1 joe 1 32000 105 108 4 2 sue 0 35000 102 104 5 2 sue 1 36000 106 109
现在，我们成功地将一个超宽的DataFrame转换成了一个更易于管理和分析的规范化表格。每一行代表一个特定的员工（由id和employee_idx共同标识），其工资和技能ID都作为独立的列呈现。
5. 注意事项与最佳实践
- 列名模式的统一性： 这种重构方法高度依赖于原始DataFrame列名的一致性和可解析性。确保所有需要重构的列都遵循相同的命名模式（如entity_index_attribute）。
- 数据类型转换： melt()操作会将value列的数据类型统一为object，因为原始列可能包含不同类型的数据。在pivot_table()之后，可能需要手动将相关列（如salary, skills_id）转换回数值类型，例如normalized_df['salary'] = pd.to_numeric(normalized_df['salary'])。
- 性能考量： 对于包含数百万行或更多数据的超大型DataFrame，melt()和pivot_table()操作可能会消耗大量内存和CPU资源。在这种情况下，可以考虑使用Dask DataFrame进行分布式计算，或者分块处理数据。
Adobe Acrobat Pro 是面向办公、法务、财务、教育及出版用户的专业PDF处理软件，可在Mac上创建、编辑、转换、合并和保护文档，并提供OCR文字识别、表单、批注、内容比较、敏感信息遮盖及电子签名功能。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Affinity Designer 的矢量设计能力现已整合进 Affinity by Canva，可在 Mac 上进行标志、图标、插画、界面原型及印刷品设计。个人用户使用免费 Canva 账户即可使用完整的矢量、像素和版面工具。
Archicad是Graphisoft推出的建筑信息模型设计软件，可在Mac上完成概念设计、参数化建模、图纸编制、工程量统计、渲染展示及团队协同。模型与平立剖面、明细表和布局保持关联，适合建筑师、室内设计师、BIM团队及相关专业学生使用。
AutoCAD LT是Autodesk推出的专业二维CAD设计与文档编制软件，Mac版本提供原生界面、多点触控及分屏查看体验。用户可精确创建和编辑DWG图形，完成图层管理、尺寸标注、表格、PDF参考、外部参照及打印输出。
AutoCAD for Mac 是 Autodesk 面向 macOS 提供的专业计算机辅助设计软件，支持精确的二维绘图、标注、布局输出以及实体、曲面和网格建模。软件采用适配 Mac 操作习惯的界面，可处理 DWG 图纸。
Autodesk Fusion 是面向产品设计与制造的一体化云连接平台，在 Mac 上提供参数化建模、自由曲面、装配、工程图、仿真、PCB 设计和 CAM 加工等工具。它适合机械工程师、工业设计师、创客及制造团队使用。
Autodesk Maya是一套面向影视动画、游戏开发和视觉特效制作的专业三维创作软件，集多边形与曲面建模、角色绑定、关键帧动画、动力学模拟、程序化特效及Arnold渲染于一体，并提供脚本、插件和开放式制作管线支持。
Blender是一款免费开源的综合三维创作软件，可在Mac上完成建模、数字雕刻、材质制作、角色绑定、动画、物理模拟、渲染、合成及视频剪辑。软件提供Cycles与Eevee渲染工具，并支持几何节点、蜡笔绘制和Python扩展。
AutoCAD 是 Autodesk 推出的专业计算机辅助设计软件，Windows 版支持精确二维绘图、三维实体与曲面建模、图纸标注、布局发布和任务自动化，并包含多套行业专业化工具组合，适用于建筑、机械、电气、工程建设及制造设计人员。
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Cinema 4D是Maxon推出的专业三维创作软件，将建模、动画、MoGraph动态图形、粒子与动力学模拟、材质灯光及Redshift渲染整合在统一工作环境中，适用于广告包装、影视特效、产品和建筑可视化、游戏素材等制作场景。
Blender 是免费开源的三维创作套件，在 Windows 上提供建模、雕刻、材质、动画、物理模拟、合成、跟踪、视频剪辑及 Cycles、EEVEE 渲染工具。它适合个人创作者、学生和小型工作室，
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
SketchUp Pro 是面向建筑、室内、景观、施工和产品设计等专业场景的三维建模工具，提供桌面建模、LayOut 二维文档、模型资源库、扩展程序及云端协作能力。其操作逻辑直观，适合从概念推敲、空间规划到图纸表达和方案汇报的完整工作流程。