字节跳动Doris湖仓分析实践分享
分享嘉宾：杜军令字节跳动大数据工程师出品平台：DataFunTalk导读：Doris是一种基于MPP架构的分析型数据库，主要用于多维分析、数据报表和用户画像分析等场景。它自带分析引擎和存储引擎，支持向量化执行引擎，无需依赖其他组件，并兼容MySQL协议。01Doris概述ApacheDoris具有以下特点：优化的架构设计，支持高并发和低延迟的查询服务，适合高吞吐量的交互式分析。多FE节点均可对外提供服务，随着并发需求增加，通过线性扩展FE和BE节点即可满足高并发查询需求。支持批量和流式数据加载，支持
分享嘉宾：杜军令 字节跳动 大数据工程师
出品平台：DataFunTalk
导读：Doris是一种基于MPP架构的分析型数据库，主要用于多维分析、数据报表和用户画像分析等场景。它自带分析引擎和存储引擎，支持向量化执行引擎，无需依赖其他组件，并兼容MySQL协议。
01
Doris概述
Apache Doris具有以下特点：
优化的架构设计，支持高并发和低延迟的查询服务，适合高吞吐量的交互式分析。多FE节点均可对外提供服务，随着并发需求增加，通过线性扩展FE和BE节点即可满足高并发查询需求。支持批量和流式数据加载，支持数据更新。支持Update/Delete语法，unique/aggregate数据模型，支持动态更新数据，实时更新聚合指标。提供高可用性、容错处理和高扩展性的企业级功能。FE Leader出现异常时，FE Follower可在几秒内切换为新Leader，继续对外提供服务。支持聚合表和物化视图。多种数据模型，支持aggregate, replace等多种数据模型，支持创建rollup表和物化视图。rollup表和物化视图支持动态更新，无需用户手动处理。兼容MySQL协议，支持直接使用MySQL客户端连接，数据应用对接非常便捷。Doris由Frontend（简称FE）和Backend（简称BE）组成，FE负责接受用户请求、编译、优化、分发执行计划、元数据管理以及BE节点的管理等功能，BE则负责执行FE下发的执行计划，存储和管理用户数据。
02
数据湖格式Hudi简介
Hudi是下一代流式数据湖平台，为数据湖提供了表格式管理能力，支持事务、ACID、MVCC、数据更新删除和增量数据读取等功能。支持Spark, Flink, Presto, Trino等多种计算引擎。
Hudi根据数据更新行为分为两种表类型：
针对Hudi的两种表格式，有三种不同的查询类型：
03
Doris分析Hudi数据的技术背景
随着业务对数据实时性要求的提高，数仓业务从T+1逐渐演变为小时级、分钟级，甚至秒级。实时数仓的应用范围也在扩大，并经历了多个发展阶段。目前有多种解决方案。
1. Lambda架构
Lambda架构将数据处理流分为在线分析和离线分析两条路径，两条路径相互独立，互不影响。
离线分析处理T+1数据，使用Hive/Spark处理大数据量，不可变数据，数据通常存储在HDFS等系统上。如果需要更新数据，必须overwrite整张表或整个分区，成本较高。
在线分析处理实时数据，使用Flink/Spark Streaming处理流式数据，分析处理秒级或分钟级流式数据，数据保存在Kafka或定期（分钟级）保存到HDFS中。
该方案存在以下缺点：
同一套指标可能需要开发两套代码分别进行在线和离线分析，维护复杂。数据应用查询指标时可能需要同时查询离线和在线数据，开发复杂。需要同时部署批处理和流式计算两套引擎，运维复杂。数据更新需要overwrite整张表或分区，成本高。2. Kappa架构
随着在线分析业务的增加，Lambda架构的缺点愈发明显，增加一个指标需要分别开发在线和离线版本，维护困难，离线指标可能与在线指标不一致，部署复杂，组件繁多。因此，Kappa架构应运而生。
Kappa架构使用一套架构处理在线和离线数据，使用同一套引擎同时处理在线和离线数据，数据存储在消息队列上。
Kappa架构也存在一些限制：
流式计算引擎的批处理能力较弱，处理大数据量性能较差。数据存储使用消息队列，消息队列对数据存储有有效性限制，无法回溯历史数据。数据时序可能乱序，可能对时序要求严格的应用造成数据错误。数据应用需要从消息队列中取数，开发复杂，需要开发适配接口。3. 基于数据湖的实时数仓
针对Lambda架构和Kappa架构的缺陷，业界基于数据湖开发了Iceberg, Hudi, DeltaLake等数据湖技术，使得数仓支持ACID, Update/Delete，数据Time Travel, Schema Evolution等特性，数仓的时效性从小时级提升到分钟级，数据更新也支持部分更新，大大提高了数据更新的性能。兼具流式计算的实时性和批计算的吞吐量，支持近实时场景。
Adobe Acrobat Pro 是面向办公、法务、财务、教育及出版用户的专业PDF处理软件，可在Mac上创建、编辑、转换、合并和保护文档，并提供OCR文字识别、表单、批注、内容比较、敏感信息遮盖及电子签名功能。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Affinity Designer 的矢量设计能力现已整合进 Affinity by Canva，可在 Mac 上进行标志、图标、插画、界面原型及印刷品设计。个人用户使用免费 Canva 账户即可使用完整的矢量、像素和版面工具。
Archicad是Graphisoft推出的建筑信息模型设计软件，可在Mac上完成概念设计、参数化建模、图纸编制、工程量统计、渲染展示及团队协同。模型与平立剖面、明细表和布局保持关联，适合建筑师、室内设计师、BIM团队及相关专业学生使用。
AutoCAD LT是Autodesk推出的专业二维CAD设计与文档编制软件，Mac版本提供原生界面、多点触控及分屏查看体验。用户可精确创建和编辑DWG图形，完成图层管理、尺寸标注、表格、PDF参考、外部参照及打印输出。
AutoCAD for Mac 是 Autodesk 面向 macOS 提供的专业计算机辅助设计软件，支持精确的二维绘图、标注、布局输出以及实体、曲面和网格建模。软件采用适配 Mac 操作习惯的界面，可处理 DWG 图纸。
Autodesk Fusion 是面向产品设计与制造的一体化云连接平台，在 Mac 上提供参数化建模、自由曲面、装配、工程图、仿真、PCB 设计和 CAM 加工等工具。它适合机械工程师、工业设计师、创客及制造团队使用。
Autodesk Maya是一套面向影视动画、游戏开发和视觉特效制作的专业三维创作软件，集多边形与曲面建模、角色绑定、关键帧动画、动力学模拟、程序化特效及Arnold渲染于一体，并提供脚本、插件和开放式制作管线支持。
Blender是一款免费开源的综合三维创作软件，可在Mac上完成建模、数字雕刻、材质制作、角色绑定、动画、物理模拟、渲染、合成及视频剪辑。软件提供Cycles与Eevee渲染工具，并支持几何节点、蜡笔绘制和Python扩展。
AutoCAD 是 Autodesk 推出的专业计算机辅助设计软件，Windows 版支持精确二维绘图、三维实体与曲面建模、图纸标注、布局发布和任务自动化，并包含多套行业专业化工具组合，适用于建筑、机械、电气、工程建设及制造设计人员。
Adobe Acrobat Pro 是面向专业 PDF 工作的综合解决方案，可在 Windows 中创建、编辑、转换、比较、整理和保护文档，并支持表单、电子签名、扫描件文字识别及敏感信息永久遮盖。订阅还包含网页、移动服务和云端协作能力，
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
Adobe InDesign 是面向印刷与数字出版的专业页面排版工具，可制作书籍、杂志、宣传册、海报、交互式 PDF 和电子书。它提供精细的文字样式、多页面管理、印前检查及多格式输出能力，并能与 Photoshop、Illustrator
Adobe Illustrator 是用于绘制矢量图形、插画、图标、徽标和版式的专业设计工具。它以路径和锚点为核心，作品放大后仍能保持清晰，并提供画板、文字、渐变、图像描摹及精确变换等功能，适合品牌视觉、印刷物料、数字界面和商业插画创作。
Figma 是面向产品设计与开发团队的云端协作平台，可在 Windows 桌面客户端中完成界面绘制、组件管理、交互原型、评论评审和开发交付。文件保存在云端，多名成员能够同步编辑并共享设计系统；官方同时提供免费 Starter 方案及按席位计
Affinity Designer 是面向矢量图形、数字插画和界面设计的专业创作工具，可在矢量、像素与导出工作区之间快速切换。它提供曲线编辑、形状构建、画板、排版、图层和专业色彩管理，并支持常见设计文件的导入及多种印刷、网页格式输出。
Cinema 4D是Maxon推出的专业三维创作软件，将建模、动画、MoGraph动态图形、粒子与动力学模拟、材质灯光及Redshift渲染整合在统一工作环境中，适用于广告包装、影视特效、产品和建筑可视化、游戏素材等制作场景。
Blender 是免费开源的三维创作套件，在 Windows 上提供建模、雕刻、材质、动画、物理模拟、合成、跟踪、视频剪辑及 Cycles、EEVEE 渲染工具。它适合个人创作者、学生和小型工作室，
Autodesk Maya 是面向影视、电视、动画和游戏行业的专业三维制作软件，集多边形与 NURBS 建模、角色绑定、关键帧和动作捕捉动画、Bifrost 特效模拟、材质开发及 Arnold 渲染于一体，
SketchUp Pro 是面向建筑、室内、景观、施工和产品设计等专业场景的三维建模工具，提供桌面建模、LayOut 二维文档、模型资源库、扩展程序及云端协作能力。其操作逻辑直观，适合从概念推敲、空间规划到图纸表达和方案汇报的完整工作流程。