在开发大规模语言模型（LLM）之前需要考虑的五个重要问题
译者|晶颜审校|重楼业务领导者一直深感压力，他们需要找到将生成式人工智能（GenAI）纳入其战略的最佳方式，以便为其组织和利益相关者带来最佳收益。根据Gartner的调查，38%的业务领导者指出，客户体验和留存率是他们投资GenAI的主要目的，这对其业务的未来至关重要。然而，尽管这看起来很诱人，但在制定人工智能战略之前，考虑LLM是否适合您的业务同样至关重要。虽然市场上的LLM选项很多且易于访问，但有效使用现成的LLM却存在诸多挑战。这些问题包括缺乏个性化的客户体验，外包嵌入模型的成本增加，以及由于与外部
译者 | 晶颜
审校 | 重楼
业务领导者一直深感压力，他们需要找到将生成式人工智能（GenAI）纳入其战略的最佳方式，以便为其组织和利益相关者带来最佳收益。根据Gartner的调查，38%的业务领导者指出，客户体验和留存率是他们投资GenAI的主要目的，这对其业务的未来至关重要。然而，尽管这看起来很诱人，但在制定人工智能战略之前，考虑LLM是否适合您的业务同样至关重要。
虽然市场上的LLM选项很多且易于访问，但有效使用现成的LLM却存在诸多挑战。这些问题包括缺乏个性化的客户体验，外包嵌入模型的成本增加，以及由于与外部共享数据而引发的隐私问题。训练内部AI模型可以直接解决这些问题，同时还可以激发团队内部的创造力和创新精神，以便将该模型用于其他项目。一旦您决定需要一个特定领域的人工智能，那么在开始创建自己的内部模型之前，您应该先问问自己以下五个关键问题。
问题1：您面临的业务问题是什么？人工智能如何解决这个问题？
在深入研究基础模型和LLM之前，首先需要明确自己要解决的问题。这一步将有助于更好地确定所需的自然语言处理任务，例如摘要生成、命名实体识别、语义文本相似性和问答系统等。确定问题的关键点有助于为研究和应用提供方向，并确保选择适合的工具和方法来解决问题。
理解下游任务（Downstream Task）和领域意识（Domain Awareness）之间的差异至关重要。虽然像GPT、Llama和PaLM这样的LLM模型在下游任务（如问答和总结）中表现出色，但它们通常需要很少的提示或微调。这些基础模型可能在广泛的上下文中表现良好，但它们缺乏运行于大多数应用程序中所需的特定行业或业务领域的专业知识。因此，在取得下游任务方面的巨大成就并不能保证其在您特定行业中具备领域意识。
问题2：是否已有特定于行业的人工智能工具可用？
作为人工智能战略研究阶段的一部分，密切评估现有工具非常重要，因为其中一些工具可能是针对特定行业的，但仍忽略了您业务的具体细微差别。当审计可用的工具时，重点是确保AI模型能够理解上下文，以及您所选语言中的单词，以最好地掌握提示并生成与用户相关的响应。
举个例子，一家公司在经过研究和测试后发现，缺乏专门针对第三方风险的强大网络安全LLM。因此，其团队便选择了一个基于BERT的模型来进行网络安全微调。此外，在构建人工智能模型时，他们注意到，当分析网络安全领域的各种文本时，结果始终落在一个特定的范围内。分析后发现其使用的基础模型将文本视为同质的，并将相似性归因于其源自同一领域。最终，他们努力为模型提供了网络安全行业的背景和细微差别，才成功解决了LLM模型缺乏领域意识的问题。
除此之外，上下文/情境也很重要，因为即使在今天，GenAI在特定问题上也会产生“幻觉”，不应该100%信任。这也是拜登-哈里斯政府发布关于安全、可靠和值得信赖的人工智能的行政命令的众多原因之一。在使用人工智能工具作为服务之前，政府机构需要确保他们使用的服务是安全和值得信赖的，这一点通常并不明显，也无法通过查看示例输出集来捕获。虽然行政命令不适用于私营企业，但这些组织如果要采取类似的政策，也应该考虑到这一点。
尽管与内部模型相关的训练和微调过程将包括彻底的测试、弱点识别和模型分析，并且相当漫长，但从长远来看，这是值得的。
问题3：您的数据准备好了吗？
在训练自己的LLM之前，组织的数据是最重要的资产。随着时间的推移，那些积累了高质量数据的公司在今天的LLM时代无疑是最幸运的，因为几乎每个过程的每一步都需要数据，包括训练、测试、再训练和beta测试。在训练LLM时，高质量的数据是成功的关键，因此考虑这真正意味着什么很重要。答案当然会根据任务和领域的不同而变化，但一般规则是，需要最少管理和更少再训练的数据。
一旦公司开始训练LLM，他们通常会发现其数据在很多方面还没有准备好。由于专家选择不佳或分配给专家的时间有限，数据可能会变得过于嘈杂，或无效标记。或者数据可能包含隐藏的重复，这些重复对训练过程提供最小（甚至没有）的价值，并且不能完全代表领域或任务，这可能导致最终的AI模型过拟合（overfit）。
数据很容易成为项目的瓶颈，这一点很重要，因为它需要花费大量的时间来组织。有时，甚至可能需要数年时间，数据才能真正为人工智能做好准备。
问题4：您有足够的专家来训练人工智能模型吗？
专家在生成数据和确定数据质量方面发挥着重要作用。因为我们仍然需要人类来生成可靠的数据，这些数据将在训练过程中使用。合成生成的数据集确实存在，但除非经过人类专家的评估和鉴定，否则这些数据集是没有用的。
在选择专家时，建议选择具有深厚行业知识的人（内部专家或外包专家）来微调您的模型。更具体地说，您将需要专家来标记数据，给出关于数据的反馈，测试数据，并根据反馈进行再训练。这是通过训练有素的人工智能模型获得准确、可靠结果的重要部分。
问题5：您的时间限制是什么？
训练内部人工智能模型是一个昂贵而漫长的过程。业务问题、现成可用数据的质量以及所涉及的专家和人工智能工程师的数量都会影响项目的长度和质量。因为这个过程依赖于试错，所以在解决方案准备好使用之前需要更长的时间。
除了可能源于数据的问题之外，在设置训练算法的超参数（hyperparameter）时还可能出现其他挑战，例如学习率、epoch数量和层数。这就是人工智能专家可能需要重新设计的地方，以解决在测试阶段明显出现的过拟合和灾难性遗忘问题，这可能会花费项目额外的时间。
尽管经过深思熟虑的过程可以减少压力，但始终存在出现新LLM解决方案淘汰旧解决方案的风险。考虑到人工智能技术的快速发展，组织需要在时机和质量之间寻求平衡。
与许多创新解决方案一样，没有“放之四海而皆准”的方法。在开始公司的人工智能之旅时，权衡适合您业务的模型是第一步。对于业务领导者来说，从头开始训练LLM可能听起来令人望而生畏，但如果您有通用LLM无法解决的特定领域的“业务问题”，那么从长远来看，这将是值得投资的选择。
原文标题：Is creating an in-house LLM right for your organization?，作者： Gokcen Tapkan
WPS Office是一款面向macOS用户的综合办公套件，将文字处理、电子表格、演示文稿、PDF工具、模板与云协作整合在同一应用中。它兼容常见Microsoft Office格式，支持Intel及Apple芯片Mac，基础功能可免费使用，
Shapr3D是一款面向工业设计、机械工程、建筑概念和三维打印工作流的CAD软件。Mac版采用Parasolid建模内核，支持草图约束、实体建模、工程图、可视化渲染及常见CAD格式交换，并可通过账户在多台设备之间同步项目。
REAPER是Cockos开发的数字音频工作站，提供多轨音频与MIDI录制、剪辑、处理、混音和母带制作工具。Mac版兼容Intel与Apple芯片，支持AU、VST、VST3、CLAP等插件格式，并提供高度可定制的工作流程。
Ableton Live 是面向音乐制作人与现场表演者的数字音频工作站，提供编曲视图、独具特色的现场视图、音频录制、MIDI创作、实时变速、乐器及效果器。Mac版原生支持Apple芯片，并可连接音频接口、MIDI控制器和第三方插件。
Adobe After Effects 是面向动态图形、影视特效与视频合成的专业创作软件。它提供关键帧动画、遮罩抠像、运动跟踪、三维空间、文字动画和表达式等工具，并可与 Premiere Pro、Photoshop、Illustrator
Adobe Audition 是面向播客、影视后期、音乐制作及内容创作者的专业音频工作站，提供波形精修、多轨录制与混音、频谱编辑、降噪修复、响度匹配和效果处理工具，并可与 Adobe Premiere 协同完成视频声音制作。
Adobe Bridge 是面向摄影师、设计师及内容团队的免费数字资产管理工具，可集中预览照片、视频和 Adobe 项目文件，并利用评级、标签、关键词、元数据、筛选与收藏集完成分类检索。它还支持批量重命名、格式导出、相机导入及 Camera
Adobe Illustrator 是 Adobe 推出的专业矢量图形设计软件，适合在 Mac 上制作标志、图标、插画、包装、信息图及印刷版面。它以路径和锚点构建可无损缩放的图形，并提供钢笔、形状、文字、图像描摹、渐变、画板及生成式功能。
Adobe InDesign 是面向印刷品与数字出版物的专业版面设计软件，可在 Mac 上制作书籍、杂志、宣传册、海报、报告及交互式文档。它提供精细的文字样式、网格、母版、长文档管理和印前输出能力。
Adobe Lightroom Classic 是面向桌面摄影工作流的照片管理与后期处理软件，可将原始照片保存在本地硬盘，通过目录、关键词、评分和收藏夹高效整理图库，并提供 RAW 冲印、蒙版、镜头校正、批量同步及多格式导出等功能。
Adobe Media Encoder 是 Adobe 推出的专业音视频编码与转码工具，可通过队列、预设和监视文件夹批量完成格式转换、代理文件创建及多平台成片输出，并与 Premiere Pro、After Effects 等软件紧密协作。
Adobe Photoshop 是面向摄影师、设计师和内容创作者的专业图像处理软件，提供图层、蒙版、选区、修复、调色、文字排版、智能对象及生成式编辑等能力。Mac 版支持 Intel 与 Apple Silicon 处理器。
Postman 是面向 API 全生命周期的开发与协作平台。Windows 桌面版可用于构建和发送 HTTP、GraphQL、gRPC、WebSocket、MQTT 等请求，并提供环境变量、集合、脚本测试、模拟服务、监控、文档及团队工作区等
Navicat Premium 是一体化数据库开发与管理工具，可在同一界面连接 MySQL、PostgreSQL、SQL Server、Oracle、SQLite、MongoDB、Redis 等数据库，
Adobe Premiere（原名 Adobe Premiere Pro）是一款面向影视、短视频、广告和网络内容制作的专业非线性编辑软件。Windows 版提供多轨剪辑、字幕转录、调色、音频处理、动态图形、格式转换与智能辅助工具，
PhpStorm 是 JetBrains 面向 PHP 与现代 Web 开发打造的专业集成开发环境，提供代码补全、静态检查、重构、调试、测试、数据库、版本控制及前端语言支持。Windows 用户可直接下载安装程序，
PyCharm 是 JetBrains 推出的 Python 集成开发环境，提供智能代码补全、错误检查、重构、调试、测试、Git、终端及 Jupyter Notebook 支持。统一版安装后可体验 30 天 Pro 功能，
WPS Office 是金山办公推出的一体化办公套件，在 Windows 上提供文字处理、电子表格、演示文稿和 PDF 工具，并支持常见 Microsoft Office 文件格式。个人用户可以免费使用基础功能，
WebStorm 是 JetBrains 面向 JavaScript、TypeScript 和现代 Web 技术打造的集成开发环境。它提供项目级代码分析、智能补全、安全重构、导航搜索，并集成调试、测试、终端、Git 与常用前端工具，
Photoshop 2026 是 Adobe 推出的专业图像处理与视觉设计软件，支持 Windows、macOS 和 iPad 等平台，广泛应用于摄影修图、电商设计、平面海报、数字绘画及视觉合成等创作场景。
Blender 是一款免费开源、跨平台的专业 3D 创作软件，集建模、动画、渲染、视频编辑与视觉合成等功能于一体，广泛应用于影视动画、游戏设计和建筑可视化等领域。软件支持 Cycles 物理渲染器与 Eevee 实时渲染引擎，并提供多边形建模、骨骼绑定、物理模拟等专业工具。Blender 兼容 Windows、macOS 和 Linux 系统，安装包轻巧、运行流畅，依托活跃的全球开发者社区持续更新，是从初学者到专业创作者都值得选择的正版 3D 创作工具。
