Oracle推出云生成式AI服务 帮助企业部署和微调语言模型

数据库巨头Oracle最近发布了Oracle Cloud Infrastructure Generative AI服务,并引入了一系列创新技术,为大型企业提供了最新的生成式AI技术成果的利用机会。

OCI Generative AI服务是一项全面管理的、云托管的产品,它利用强大的大型语言模型,如Meta Platform的开源Llama 2和Cohere的专有算法,并与现有系统集成。这样,企业能够实现对当前由人类执行的许多手动业务流程的自动化。OCI Generative AI服务通过提供自动化解决方案,帮助企业提高效率和生产力,并降低错误率。这项服务不仅能够减少人力资源的需求,还能够提供更快速、准确和一致的结果。通过与现有系统的集成,OCI Generative AI服务可以无缝地与企业的工作流程和数据进行交互,从而实现更高效的业务处理。

据Oracle介绍,OCI Generative AI服务支持100多种语言,针对GPU提供了改进的集群管理体验,以及灵活的微调选项。

Oracle表示,他们的新服务可以通过应用程序编程接口调用各种模型,用于解决文本生成、摘要和语义相似性等任务。客户可以将生成式人工智能安全地嵌入到他们现有的技术堆栈中,并且该服务遵循严格的数据安全和治理协议。

去年6月,Oracle发布了OCI Generative AI服务,它被称为微软Azure OpenAI服务的替代品。通过这项服务,客户可以使用大型语言模型,并以对话方式与其进行交互。这种模型能够根据人类的提示内容作出响应。

虽然Cohere的AI模型和Llama 2被广泛认为非常强大,但对于大多数企业而言,它们可能并不那么实用,除非能够利用内部数据来增强和完善它们的功能。为了解决这个问题,OCI Generative AI Agents服务应运而生。这项服务允许客户利用自身的数据来增强大型语言模型的能力,从而使其更加适用于企业的具体需求和场景。通过OCI Generative AI Agents服务,企业可以自主地定制和训练语言模型,以适应其特定的业务需求,并从中获得更高的价值和效益。这种基于内部数据的增强方法确保了模型的个性化和定制化,使企业能够更好地满足客户需求,并提供更优质的服务。

OCI Generative AI Agents目前已经投入Beta测试。它采用检索增强生成技术来微调生成式AI模型,以提供更有用、情境化的响应。该服务提供对RAG代理的访问,RAG代理利用OCI Open Search构建的企业搜索功能,帮助大型语言模型获取最新的信息,以提供更准确的响应和预测。通过这种方式,OCI Generative AI Agents可以提供高度个性化和实时的回答,帮助用户更好地解决问题和满足需求。

尽管初始版本通过OCI OpenSearch支持RAG,但Oracle计划在未来进一步集成更多的数据搜索和聚合工具。其中包括Oracle Database 23c with AI Vector Search和MySQL HeatWave with Vector Store。此外,Oracle还将支持Oracle软件即服务应用套件中的预构建代理操作,包括Oracle Fusion Cloud Applications Suite、Oracle NetSuite和Oracle Cerner。这些集成将为用户提供更广泛的选择和更强大的功能,以满足不同需求的数据搜索和聚合需求。

Oracle宣布OCI Generative AI服务已在Oracle Cloud的多个区域上线,并且客户可以通过Oracle OCI Dedicated Region平台在本地进行访问。此外,该服务还与Oracle基于云的业务应用组合进行了集成,包括Oracle Enterprise Resource Planning、Human Capital Management、Supply Chain Management以及Customer Experiences应用。此举进一步提高了Oracle的数据库产品组合,因为生成式AI服务将通过Oracle的Autonomous Database Select AI功能加入其中。

在相关更新中Oracle表示,将对OCI Data Science平台的功能进行扩展,将在下个月的测试版中添加新的AI Quick Actions功能,为无代码访问各种开源大型语言模型铺平道路。该功能将帮助客户从Hugging Face的Transformers或者PyTorch开源库构建、训练、部署和管理大型语言模型。

OCI人工智能和数据管理高级副总裁Greg Pavlik表示,Oracle专注于使用生成式AI来解决现实世界的各种业务用例,并为更多企业采用该技术铺平道路。他说:“为了做到这一点,我们将生成式AI集成到我们的应用和融合数据库中,并提供新的大型语言模型和托管服务,将AI嵌入技术堆栈的所有层中。我们不是提供需要组装的工具包,而是提供一套强大的预构建的生成式AI服务和功能,这些服务和功能相互之间协同工作,帮助客户更智能、更快速地解决业务问题。”

Constellation Research副总裁、首席分析师Andy Thurai认为,这项新服务提供了基于API的访问,这对一些企业来说可能是有吸引力的,因为它在云端和本地环境中都可以访问,这有点不同寻常。不过,该服务也有一些局限性,特别是它只支持Cohere和Meta Llama 2的大型语言模型,而且只针对一小部分用例,例如文本生成和总结。

Thurai表示:“就其整体的生成式AI产品而言,Oracle仍然远远落后于微软、谷歌和亚马逊,这些厂商都提供了更强大的功能和更灵活的部署选项。但是,如果价格合适,和运行在OCI上的ERP、HCM、SCM和CX应用集成的选项,可能会使该产品对于很多企业来说都是有吸引力的。但如果不是的话,AWS则可能会轻松获胜,因为AWS的生成式AI服务目前远远领先于Oracle。”

这项新服务的推出至少应该有助于Oracle成为企业进行生成式AI开发的一个选择。Oracle在努力成为基础设施方面的一个关键参与者,提供对Nvidia最强大GPU的、基于云的访问路径。