淘宝客怎么建网站,做自媒体有哪些素材网站,wordpress无法发送,定制网站开发与模板本篇文章会分基于DeepSeek开放平台上的API#xff0c;以及本地私有化部署DeepSeek R1模型两种方式来整合使用。 本地化私有部署可以参考这篇博文 全面认识了解DeepSeek利用ollama在本地部署、使用和体验deepseek-r1大模型
Spring版本选择
根据Spring官网的描述 Spring AI是一…本篇文章会分基于DeepSeek开放平台上的API以及本地私有化部署DeepSeek R1模型两种方式来整合使用。 本地化私有部署可以参考这篇博文 全面认识了解DeepSeek利用ollama在本地部署、使用和体验deepseek-r1大模型
Spring版本选择
根据Spring官网的描述 Spring AI是一个人工智能工程的应用框架旨在为Java开发者提供一种更简洁的方式与AI交互减轻在Java业务中接入LLM模型应用的学习成本。目前Spring AI已经上架到Spring Initializr开发者可以在https://start.spring.io/上使用并构建相关应用。
SpringAI支持接入多种AI服务如OpenAI、Ollama、Azure OpenAI、Huggingface等可以实现聊天、embedding、图片生成、语音转文字、向量数据库、function calling、prompt模板、outputparser、RAG等功能。
spring ai框架支持Spring Boot版本为 3.2.x and 3.3.x 从SpringBoot 3.x 开始依赖的JDK版本最低是JDK17所以这里演示整合的代码都是基于spring boot 3.3.8 以及 JDK17
整合DeepSeek API key
深度求索deepseek开放平台申请自己的API key新用户注册后会赠送10元余额有效期为一个月。
创建一个 API key
保存好自己的API KEY 千万别泄露喽 创建API key后我们可以开始构建SpringBoot工程了基于springboot 3.4.2版本搭建一个工程。 spring-ai-openai starter伪装成 OpenAIDeepSeek 提供了 OpenAI 兼容模式。
自动引入依赖
?xml version1.0 encodingUTF-8?
project xmlnshttp://maven.apache.org/POM/4.0.0 xmlns:xsihttp://www.w3.org/2001/XMLSchema-instancexsi:schemaLocationhttp://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsdmodelVersion4.0.0/modelVersionparentgroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-parent/artifactIdversion3.4.2/versionrelativePath/ !-- lookup parent from repository --/parentgroupIdcom.example/groupIdartifactIddemo-deepseek/artifactIdversion0.0.1-SNAPSHOT/versionnamedemo-deepseek/namedescriptiondemo-deepseek/descriptionurl/licenseslicense//licensesdevelopersdeveloper//developersscmconnection/developerConnection/tag/url//scmpropertiesjava.version17/java.versionspring-ai.version1.0.0-M5/spring-ai.version/propertiesdependenciesdependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-web/artifactId/dependencydependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-openai-spring-boot-starter/artifactId/dependencydependencygroupIdorg.projectlombok/groupIdartifactIdlombok/artifactIdoptionaltrue/optional/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-test/artifactIdscopetest/scope/dependency/dependenciesdependencyManagementdependenciesdependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-bom/artifactIdversion${spring-ai.version}/versiontypepom/typescopeimport/scope/dependency/dependencies/dependencyManagementbuildpluginsplugingroupIdorg.apache.maven.plugins/groupIdartifactIdmaven-compiler-plugin/artifactIdconfigurationannotationProcessorPathspathgroupIdorg.projectlombok/groupIdartifactIdlombok/artifactId/path/annotationProcessorPaths/configuration/pluginplugingroupIdorg.springframework.boot/groupIdartifactIdspring-boot-maven-plugin/artifactIdconfigurationexcludesexcludegroupIdorg.projectlombok/groupIdartifactIdlombok/artifactId/exclude/excludes/configuration/plugin/plugins/build/project
代码
添加了 spring-ai-openai-spring-boot-starter 依赖Spring AI 为 OpenAI Chat Client 提供了 Spring Boot 自动装配。
OpenAiAutoConfiguration配置类中自动注入了我们只需要直接注入调用即可。
DeepSeek 其实提供了 OpenAI 兼容模式只要在请求头里加个api_key就能假装自己在调 OpenAI。Spring AI 的 openai starter 本质上是通过 RestTemplate 发请求我们只需要改改 URL 和认证方式。 RestController
public class ChatController {Resourceprivate OpenAiChatModel chatModel;private final ListMessage chatHistoryList new ArrayList();PostConstructpublic void init() {chatHistoryList.add(new SystemMessage(You are a helpful assistant.));}GetMapping(/chat)public ChatResponse test(String message) {chatHistoryList.add(new UserMessage(message));Prompt prompt new Prompt(chatHistoryList);ChatResponse chatResponse chatModel.call(prompt);if (chatResponse.getResult() ! null chatResponse.getResult().getOutput() ! null) {chatHistoryList.add(chatResponse.getResult().getOutput());}return chatResponse;}}
修改配置文件
spring:ai:openai:base-url: https://api.deepseek.com/v1 # DeepSeek的OpenAI式端点api-key: sk-your-deepseek-key-herechat.options:model: deepseek-chat # 指定DeepSeek的模型名称调用接口测试
本地部署调用
如果想要把 DeepSeek 部署在内网服务器或者你想在本地跑个小模型可以采用这种方式来在本地部署一个 DeepSeek R1 蒸馏版。
spring-ai-ollama-spring-boot-starter通过 Ollama 本地部署一个 DeepSeek R1 蒸馏版。
下载并安装
从官方网站下载并安装 Ollamahttps://ollama.com
Ollama 可以让你轻松在自己的电脑上运行各种强大的 AI 模型就像运行普通软件一样简单。
ollama pull deepseek-r1:8b
ollama list deepseek更多版本可以在这里查看https://ollama.com/library/deepseek-r1
修改pom添加依赖
dependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-ollama-spring-boot-starter/artifactIdversion0.8.1/version
/dependency修改配置文件
spring:ai:ollama:base-url: http://localhost:11434chat:model: deepseek-r1:8b # 与本地模型名称对应
实现代码
RestController
RequestMapping(/ai)
public class ChatController {private final ChatClient chatClient;// 构造方法注入 ChatClient.Builder用于构建 ChatClient 实例public ChatController(ChatClient.Builder chatClient) {this.chatClient chatClient.build();}GetMapping(/chat)public ResponseEntityFluxString chat(RequestParam(value message) String message) {try {// 调用 ChatClient 生成响应并以 FluxString响应流形式返回FluxString response chatClient.prompt(message).stream().content();return ResponseEntity.ok(response);} catch (Exception e) {return ResponseEntity.badRequest().build();}}
}api-key不需要了但是也不能不填不填会启动报错模型就配置本地有的模型即可 如果想像网站那样可以一个字一个字的输出也可以调用chatModel.stream流式输出
