运行时选项
DeepSeekChatOptions提供模型配置,例如要使用的模型、温度、频率惩罚等。
在启动时,可以使用DeepSeekChatModel(api, options)构造函数或spring.ai.deepseek.chat.options.*属性配置默认选项。
在运行时,您可以通过向Prompt调用添加新的特定于请求的选项来覆盖默认选项。例如,要覆盖特定请求的默认模型和温度:
ChatResponse response = chatModel.call(new Prompt("Generate the names of 5 famous pirates. Please provide the JSON response without any code block markers such as ```json```.",DeepSeekChatOptions.builder().withModel(DeepSeekApi.ChatModel.DEEPSEEK_CHAT.getValue()).withTemperature(0.8f).build()));
除了特定于模型的DeepSeekChatOptions之外,您还可以使用一个便携式的ChatOptions实例,该实例是通过ChatOptions#builder()创建的。
样品控制器(自动配置)
创建一个新的Spring靴子项目,并将spring-ai-starter-model-deepseek添加到您的pom(或gradle)依赖项中。
在application.properties目录下添加src/main/resources文件,用于启用和配置DeepSeek Chat模型:
spring.ai.deepseek.api-key=YOUR_API_KEYspring.ai.deepseek.chat.options.model=deepseek-chatspring.ai.deepseek.chat.options.temperature=0.8
将api-key替换为您的DeepSeek凭据。
这将创建一个DeepSeekChatModel实现,您可以将其注入到类中。下面是一个简单的@Controller类的例子,它使用聊天模型来生成文本。
@RestControllerpublic class ChatController {private final DeepSeekChatModel chatModel;@Autowiredpublic ChatController(DeepSeekChatModel chatModel) {this.chatModel = chatModel;}@GetMapping("/ai/generate")public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {return Map.of("generation", chatModel.call(message));}@GetMapping("/ai/generateStream")public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {var prompt = new Prompt(new UserMessage(message));return chatModel.stream(prompt);}}
聊天前缀补全
聊天前缀补全遵循Chat Completion API,用户提供助手的前缀消息,让模型补全其余消息。
使用前缀完成时,用户必须确保消息列表中的最后一条消息是DeepSeekAssistantMessage。
以下是一个完整的Java代码示例,用于实现聊天前缀补全功能。在此示例中,我们将助手的前缀消息设置为“```python\n”,以强制模型输出Python代码,并将停止参数设置为[‘`’],以防止模型输出额外的解释。
@RestControllerpublic class CodeGenerateController {private final DeepSeekChatModel chatModel;@Autowiredpublic ChatController(DeepSeekChatModel chatModel) {this.chatModel = chatModel;}@GetMapping("/ai/generatePythonCode")public String generate(@RequestParam(value = "message", defaultValue = "Please write quick sort code") String message) {UserMessage userMessage = new UserMessage(message);Message assistantMessage = DeepSeekAssistantMessage.prefixAssistantMessage("```python\\n");Prompt prompt = new Prompt(List.of(userMessage, assistantMessage), ChatOptions.builder().stopSequences(List.of("```")).build());ChatResponse response = chatModel.call(prompt);return response.getResult().getOutput().getText();}}