SpringBoot3.x 整合 Spring AI

Spring AI 已经发布了一段时间，虽然推出的时候就被人说只是一个套了 API 的壳，但是作为 Spring 生态的一个开源项目，用它来结合到现有业务系统中还是一个比较好的方案，毕竟像笔者当初为了接入 OpenAI 的 API，还专门学了一些 Python 代码，还使用了 fastapi 框架搭建了一套接口

创建项目

填写项目名等信息，JDK版本选择使用 21

可以看到依赖库中，最下面有一个AI模块

点开后可以看到有很多不同的AI接口模块可以选择，像比较热门的 OpenAI、谷歌的Gemini等

除此以外，还可以到官方的仓库中查看最新的 starters

spring-ai/spring-ai-spring-boot-starters at main · spring-projects/spring-ai · GitHubAn Application Framework for AI Engineering. Contribute to spring-projects/spring-ai development by creating an account on GitHub.https://github.com/spring-projects/spring-ai/tree/main/spring-ai-spring-boot-starters像目前比较火热的 ollama、还有transformers框架也是有的

调整 pom 文件

从 idea 生成的版本是比较老的，我们需要更新一下组件库的版本，升级为 1.0.3 版本

    4.0.0
    
        org.springframework.boot
        spring-boot-starter-parent
        3.2.5
         
    
    org.liurb.springboot3.crud
    springboot3-ai
    0.0.1-SNAPSHOT
    springboot3-ai
    springboot3-ai
    
        21
        1.0.3
    
    
        
            org.springframework.boot
            spring-boot-starter-web
        
        
            io.springboot.ai
            spring-ai-openai-spring-boot-starter
        
        
            org.springframework.boot
            spring-boot-starter-test
            test
        
    
    
        
            
                io.springboot.ai
                spring-ai-bom
                ${spring-ai.version}
                pom
                import
            
        
    
    
        
            
                org.springframework.boot
                spring-boot-maven-plugin
            
        
    

要注意需要删除原本 pom 文件中的 repositories 标签内容，貌似从 1.x 版本后连包名都改了，像引入的两个 starter 的 groupId 也改为了 io.springboot.ai

新版的包路径

项目资源下载​​​​​​​

编写测试用例

加入 openai 配置

在 application.properties 配置文件中加入 OpenAI 的 api key，如果需要设置 base url 也可以加上

# openai 配置
spring.ai.openai.base-url=your base url
spring.ai.openai.api-key=your api key

测试用例代码

我们只要简单的设置一个使用模型和提问，就可以实现与 openai 的接口调用

@SpringBootTest
class Springboot3AiApplicationTests {
    @Resource
    OpenAiChatClient chatClient;
    @Test
    void geminiContextLoads() {
        ChatResponse response = chatClient.call(
                new Prompt(
                        "Generate the names of 5 famous pirates.",
                        OpenAiChatOptions.builder()
                                .withModel("gpt-3.5-turbo")
                                .withTemperature(0.4f)
                                .build()
                ));
        System.out.println(response);
    }
}

控制器用例

@RestController
public class ChatController {
    private final OpenAiChatClient chatClient;
    @Autowired
    public ChatController(OpenAiChatClient chatClient) {
        this.chatClient = chatClient;
    }
    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", chatClient.call(message));
    }
    
    // 流式
    @GetMapping("/ai/generateStream")
	public Flux generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return chatClient.stream(prompt);
    }
}