2023年,AI技术已经成为热点话题,对各行业产生了巨大影响,编程领域尤其如此。人们越来越认识到AI技术的重要性,Spring社区也不例外。

随着GenAI(General Artificial Intelligence)技术的不断进步,简化具备AI功能的应用程序的创建变得至关重要和迫切。在这个背景下,"Spring AI"应运而生,旨在简化开发AI功能应用程序的过程,使其变得简单直观,避免不必要的复杂性。通过"Spring AI",开发者可以更轻松地构建具备AI功能的应用程序,将其变得更加易于使用和操作。这不仅有助于提高开发效率,还可以加速AI技术的普及和应用。总之,"Spring AI"为AI应用程序的开发带来了新的可能性,为开发者提供了更简单、更直观的工具和框架。

本文将简要介绍Spring AI框架以及一些使用该框架的提示工程技巧。开发人员可以通过这些技巧更好地构建提示信息,充分发挥Spring AI的功能。

1 Spring AI介绍

编程新范式,当Spring Boot遇上OpenAISpring AI由M K Pavan Kumar创建和撰写

Spring AI是一个旨在简化AI应用程序开发的项目,它受到了Python项目LangChain和LlamaIndex的启发。然而,Spring AI并不是简单的复制品。它的核心理念是将生成式AI应用开放给各种编程语言的用户,而不仅仅局限于Python语言的爱好者。这意味着开发人员无需学习Python语言就可以使用他们熟悉的语言来构建AI应用程序。通过Spring AI,开发人员可以更轻松地利用AI的强大功能来解决各种问题,无论他们使用的是哪种编程语言。这将促进更广泛的AI应用程序开发,并为开发人员提供更多灵活性和选择。

Spring AI的核心目标是提供构建AI驱动应用程序的基本构建块。这些构建块具有高度的灵活性,可以轻松地交换组件,几乎不需要对代码进行任何修改。一个例子是,Spring AI引入了一个名为ChatClient接口的组件,它兼容OpenAI和Azure OpenAI的技术。这使得开发人员可以在不改变代码的情况下切换不同的AI服务提供商,从而更加方便地进行开发和集成。

Spring AI的核心是为开发基于人工智能的应用程序提供可靠的构建模块。这些模块具有弹性,使得能够平滑地交换组件,而无需对编码进行大量修改。一个示例是Spring AI引入了ChatClient接口,该接口与OpenAI和Azure OpenAI兼容,使得开发人员能够轻松地与这两个平台进行对话。这种兼容性使得开发人员能够根据实际需要选择适合的平台,而无需重新编写代码。通过Spring AI,开发人员能够更加高效地构建AI驱动的应用程序。

Spring AI不仅仅提供基本构建块,还专注于提供更高级的解决方案。例如,它可以支持“关于自己文档的问答”或“使用文档进行交互式聊天”等典型场景。而随着应用程序需求的增长,Spring AI计划与Spring生态系统的其他组件如Spring Integration,Spring Batch和Spring Data等紧密合作,以满足更复杂的业务需求。

2 创建Spring Boot项目和编写OpenAI控制器示例

先在IDE中生成Spring Boot项目,在application.properties文件中保留以下内容:

spring.ai.openai.api-key=<YOUR\_OPENAI\_API\_KEY>

下面编写名为OpenAIController.java的控制器:

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RestController;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}}

3 使用Prompt类构建提示信息

提示类是一个消息对象序列的结构化持有者,每个消息都代表提示的一部分。这些消息在提示中扮演着不同的角色和目的,内容也各不相同。包括用户问题、AI生成的响应以及相关上下文细节等等。这种设置有助于进行复杂和精细的人机交互,因为提示由多个具有特定功能的消息组成。

@GetMapping("/completion")public String completion(@RequestParam(value = "message") String message){return this.aiClient.generate(message);}

然而,aiClient的generate方法并不仅仅接受纯文本作为参数,它也可以接受Prompt类的对象作为参数,如下所示。现在,这个方法返回的是AiResponse类型的实例,不是简单的文本。

@GetMapping("/completion")public AiResponse completion(@RequestParam(value = "message") String message){ PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}"); Prompt prompt = promptTemplate.create(Map.of("query", message)); return this.aiClient.generate(prompt);}

此外,Prompt类还提供了一个重载的构造函数,可以接受不同角色和意图的Message类型实例序列作为参数。这样可以更好地组织和管理提示信息,方便后续的处理和使用。下面是一个示例代码,展示了如何使用这个重载构造函数来合并所有内容。

package com.vas.springai.controller;import org.springframework.ai.client.AiClient;import org.springframework.ai.client.Generation;import org.springframework.ai.prompt.Prompt;import org.springframework.ai.prompt.PromptTemplate;import org.springframework.ai.prompt.SystemPromptTemplate;import org.springframework.ai.prompt.messages.Message;import org.springframework.web.bind.annotation.GetMapping;import org.springframework.web.bind.annotation.RequestMapping;import org.springframework.web.bind.annotation.RequestParam;import org.springframework.web.bind.annotation.RestController;import java.util.List;import java.util.Map;@RestController@RequestMapping("/api/v1")public class OpenAIController {private final AiClient aiClient;public OpenAIController(AiClient aiClient) {this.aiClient = aiClient;}@GetMapping("/completion")public List<Generation> completion(@RequestParam(value = "message") String message) {String systemPrompt = """You are a helpful AI assistant that helps people translate given text from english to french.Your name is TranslateProYou should reply to the user's request with your name and also in the style of a professional.""";SystemPromptTemplate systemPromptTemplate = new SystemPromptTemplate(systemPrompt);Message systemMessage = systemPromptTemplate.createMessage();PromptTemplate promptTemplate = new PromptTemplate("translate the given english sentence sentence into french {query}");Message userMessage = promptTemplate.createMessage(Map.of("query", message));Prompt prompt = new Prompt(List.of(systemMessage, userMessage));return this.aiClient.generate(prompt).getGenerations();}}

4 测试应用程序

可以使用市场上任何可用的开放工具来测试应用程序,例如postman、insomnia和Httpie等等。

编程新范式,当Spring Boot遇上OpenAI 图片