spring.ai.openai.chat.enabled(已删除且不再有效) | 启用OpenAI聊天模型。 | true |
spring.ai.model.chat | | openai |
spring.ai.openai.chat.base-url | 可选覆盖 spring.ai.openai.base-url属性以提供聊天特定的URL。
| - |
spring.ai.openai.chat.completions-path | 要附加到基URL的路径。 | /v1/chat/completions
|
spring.ai.openai.chat.api-key | 可选覆盖 spring.ai.openai.api-key以提供聊天特定的API密钥。
| - |
spring.ai.openai.chat.organization-id | | - |
spring.ai.openai.chat.project-id | 可选,您可以指定将哪个项目用于API请求。 | - |
spring.ai.openai.chat.options.model | 要使用的OpenAI聊天模型的名称。您可以在型号之间进行选择,例如: gpt-4o、gpt-4o-mini、gpt-4-turbo、gpt-3.5-turbo等。
| gpt-4o-mini
|
spring.ai.openai.chat.options.temperature | 要使用的采样温度,用于控制生成的补全的明显创造性。较高的值将使输出更随机,而较低的值将使结果更集中和确定性。不建议为同一个完成请求修改 temperature和top_p,因为这两个设置的交互很难预测。
| 0.8 |
spring.ai.openai.chat.options.frequencyPenalty | 介于-2.0和2.0之间的数字。正值会根据新标记在文本中的现有频率对新标记进行惩罚,从而降低模型逐字重复同一行的可能性。 | 0.0f |
spring.ai.openai.chat.options.logitBias | 修改指定标记出现在完成中的可能性。 | - |
spring.ai.openai.chat.options.maxTokens | 聊天结束时生成的最大令牌数。输入标记和生成标记的总长度受到模型上下文长度的限制。用于非推理模型(例如,GPT-40,GPT-3.5-turbo)。不能与推理模型一起使用(例如,o1、o3、o4-迷你系列)。与maxCompletionTokens互斥-同时设置两者将导致API错误。 | - |
spring.ai.openai.chat.options.maxCompletionTokens | 可以为完成生成的标记数量的上限,包括可见输出标记和推理标记。推理模型所需的(例如,o 1、o3、o 4-迷你系列)。不能用于非推理模型(例如,GPT-40,GPT-3.5-turbo)。与maxTokens互斥-同时设置两者将导致API错误。 | - |
spring.ai.openai.chat.options.n | 为每条输入消息生成多少个聊天完成选项。请注意,您将根据所有选项中生成的代币数量进行收费。保持 n为1,以最大限度地降低成本。
| 1 |
spring.ai.openai.chat.options.store | 是否存储此聊天完成请求的输出以供我们的模型使用 | false |
spring.ai.openai.chat.options.metadata | 在聊天完成仪表板中用于过滤完成的聊天操作员定义的标记和值 | empty map |
spring.ai.openai.chat.options.output-modalities | 您希望模型为此请求生成的输出类型。大多数模型都能够生成文本,这是默认设置。 gpt-4o-audio-preview模型也可用于生成音频。要请求此模型生成文本和音频响应,您可以使用:用途:text,audio。不支持流式传输。
| - |
spring.ai.openai.chat.options.output-audio | 音频生成的音频参数。使用 output-modalities:audio请求音频输出时需要。需要gpt-4o-audio-preview型号,不支持流式完成。
| - |
spring.ai.openai.chat.options.presencePenalty | 介于-2.0和2.0之间的数字。正值会根据新标记是否出现在文本中来惩罚它们,从而增加模型讨论新主题的可能性。 | - |
spring.ai.openai.chat.options.responseFormat.type | 兼容 GPT-4o、GPT-4o mini、GPT-4 Turbo和所有比GPT-3.5 Turbo更新的gpt-3.5-turbo-1106型号。JSON_OBJECT类型启用JSON模式,这保证模型生成的消息是有效的JSON。JSON_SCHEMA类型启用结构化输出,保证模型将匹配您提供的JSON模式。JSON_SCHEMA类型也需要设置responseFormat.schema属性。
| - |
spring.ai.openai.chat.options.responseFormat.name | 响应格式架构名称。仅适用于 responseFormat.type=JSON_SCHEMA
| custom_schema |
spring.ai.openai.chat.options.responseFormat.schema | 响应格式JSON模式。仅适用于 responseFormat.type=JSON_SCHEMA
| - |
spring.ai.openai.chat.options.responseFormat.strict | 响应格式JSON模式遵守严格性。仅适用于 responseFormat.type=JSON_SCHEMA
| - |
spring.ai.openai.chat.options.seed | 此功能在Beta版中。如果指定,我们的系统将尽最大努力确定性地采样,这样具有相同种子和参数的重复请求应该返回相同的结果。 | - |
spring.ai.openai.chat.options.stop | | - |
spring.ai.openai.chat.options.topP | 温度采样的替代方案,称为核采样,其中模型考虑具有 top_p概率质量的令牌的结果。因此,0.1意味着只考虑包含前10%概率质量的令牌。我们通常建议更改此或temperature,但不是两者兼而有之。
| - |
spring.ai.openai.chat.options.tools | 模型可能调用的工具列表。目前,仅支持函数作为工具。使用它来提供模型可能为其生成JSON输入的函数列表。 | - |
spring.ai.openai.chat.options.toolChoice | 控制模型调用哪个函数(如果有)。 none表示模型不会调用函数,而是生成一条消息。auto意味着模型可以在生成消息或调用函数之间进行选择。通过{"type: "function", "function": {"name": "my_function"}}调用一个特定的函数会强制模型调用该函数。none是没有函数时的默认值。如果存在函数,则默认为auto。
| - |
spring.ai.openai.chat.options.user | 代表最终用户的唯一标识符,可以帮助OpenAI监控和检测滥用行为。 | - |
spring.ai.openai.chat.options.stream-usage | (仅适用于流式传输)设置为添加一个额外的块,其中包含整个请求的令牌使用统计信息。这个区块的 choices字段是一个空数组,所有其他区块也将包括一个使用字段,但具有空值。
| false |
spring.ai.openai.chat.options.parallel-tool-calls | | true |
spring.ai.openai.chat.options.prompt-cache-key | OpenAI使用的缓存键,用于优化类似请求的缓存命中率。改善延迟并降低成本。替换不推荐使用的 user字段用于缓存目的。了解更多详情。
| - |
spring.ai.openai.chat.options.safety-identifier | 一个稳定的标识符,帮助OpenAI检测违反使用策略的用户。应该是散列值(例如,散列的用户名或电子邮件)。替换不推荐使用的 user字段进行安全跟踪。
| - |
spring.ai.openai.chat.options.http-headers | 要添加到聊天完成请求的可选HTTP标头。要覆盖 api-key,您需要使用Authorization头键,并且必须在键值前加上Bearer前缀。
| - |
spring.ai.openai.chat.options.tool-names | 工具列表,由其名称标识,用于在单个提示请求中启用函数调用。ToolCallback注册表中必须存在具有这些名称的工具。 | - |
spring.ai.openai.chat.options.tool-callbacks | | - |
spring.ai.openai.chat.options.internal-tool-execution-enabled | 如果为false,Spring AI不会在内部处理工具调用,而是将它们代理给客户端。然后,客户端负责处理工具调用,将它们分派给适当的函数,并返回结果。如果为true(默认值),Spring AI将在内部处理函数调用。仅适用于支持函数调用的聊天模型 | true |
spring.ai.openai.chat.options.service-tier | | - |
spring.ai.openai.chat.options.extra-body | 要包含在请求中的其他参数。接受任何扁平化到JSON请求顶层的键值对。适用于OpenAI兼容服务器(vLLM、Ollama等)支持标准OpenAI API之外的参数。OpenAI官方API会忽略未知参数。有关详细信息,请参阅在OpenAI兼容的服务器上使用额外参数。 | - |