Skip to content

模型配置

模型配置用于管理系统中接入的 AI 模型及其默认使用策略。管理员可通过顶部导航栏进入模型管理 → 模型配置页面进行配置。

模型配置页面


默认模型配置

页面顶部提供六类默认模型的快捷选择,系统将在对应场景下优先调用所选模型:

模型类型说明
系统推理模型用于 AI 应用对话、工作流推理等核心场景的语言模型
Embedding 模型用于文本向量化,支持知识库检索与语义匹配
Rerank 模型用于对检索结果进行重排序,提升召回精度
语音转文本模型用于将语音输入转换为文字(Speech to Text)
文本转语音模型用于将文字内容转换为语音输出(Text to Speech)
文档解析服务用于解析 PDF、Word 等复杂格式文档的专项服务

点击对应下拉框即可切换默认模型,下拉列表会按供应商分组展示当前已接入的可用模型。

默认模型配置下拉选择


模型列表

页面中部的自定义模型标签页展示当前系统已接入的所有模型供应商,每条记录包含以下信息:

字段说明
供应商名称模型提供商,如 DeepSeek、ANTHROPIC、Azure OpenAI Service 等
模型类型标签该供应商下已接入的模型类型,如 LLM、TEXT EMBEDDING、SPEECH2TEXT、TTS、image 等
部署方式SaaS(云端调用)或私有化部署
展开模型点击可查看该供应商下的具体模型列表
操作支持对已配置的供应商进行设置删除;未配置的供应商显示添加模型

添加更多模型

点击模型列表右上角的 + 添加更多模型 按钮,弹出供应商选择面板,展示系统支持接入的所有模型供应商,包括 OpenAI、Gemini、NVIDIA、NVIDIA NIM、together.ai、Mistral AI、Groq Cloud、Replicate 等。

点击目标供应商的设置按钮,弹出对应的配置弹窗。以 OpenAI 为例:

添加模型-设置 OpenAI

配置项是否必填说明
API Key必填供应商提供的 API 密钥,保存后将使用 PKCS1_OAEP 技术加密存储
组织 ID选填OpenAI 组织 ID,适用于企业账号场景
API Base选填自定义 API 请求地址,默认为官方地址(如 https://api.openai.com),可用于代理或私有化部署场景

填写完成后点击保存完成接入,点击取消关闭弹窗。

提示: 可点击弹窗底部的从 OpenAI 获取 API Key 链接跳转至官方平台获取密钥。不同供应商的配置项可能有所差异,请按实际弹窗内容填写。