跳到主要内容
版本:1.0.0

模型接入与配置

AI 助手使用的模型统一在 设置 → AI 配置 窗口管理。窗口需要先打开一个工作空间才会解锁(菜单项在无工作空间时置灰)。配置即时生效,无需重启软件。

窗口总览​

AI 配置窗口共六个页签:

页签用途
云端模型配置管理云端模型条目:ToolBank 预置模型、或你自己添加的任何 OpenAI 兼容服务
本地模型配置检测本机 Ollama,浏览已装模型 / 官方模型库,一键拉取
ToolBank API查看 AI 能调用的全部平台能力(分类浏览 + 参数签名 + 在线试调)
技能管理 AI 技能(启用 / 停用 / 测试 / 查看渲染后 Prompt 与执行日志)
特工管理特工角色(新增 / 复制 / 删除 / 设为默认 / 调参与权限)
会话管理查看 / 清理各特工的本地会话记录

一、云端模型配置​

ToolBank 预置模型(推荐先试这个)​

新安装的 ToolBank 默认带有两条官方预置模型条目:

  • DeepSeek-V4-Pro:思考型模型,擅长复杂推理、长任务拆解、代码审查;生成前会先“想”一遍,回答质量高但稍慢。
  • DeepSeek-V4-Flash:快速模型,适合日常问答、翻译、总结,响应快。

预置条目的服务地址与密钥已由官方填好,**你只需勾选“启用”**即可使用。预置模型不可修改、删除,仅允许切换启用状态与自定义图标——这是为了避免误改导致整条服务失效;若想深度定制,可基于它添加你自己的模型条目。

添加自己的云端模型​

任何 OpenAI 兼容(Chat Completions /v1) 的大模型服务都可以接入:

  1. 云端模型配置页 → 新增。
  2. 填写条目:
字段说明
配置名显示在 AI 面板模型下拉框里的名字,如“我的 DeepSeek”
服务地址兼容服务的完整地址,通常形如 https://…/v1/chat/completions(各厂商文档会给出 OpenAI 兼容地址)
模型名该服务下的模型标识,如 deepseek-chat、gpt-4o、kimi-k2 等
API Key你的密钥,输入框默认掩码显示,可点“眼睛”查看
上下文窗口该模型最大上下文(Token)。设为 0 表示不设限
超时(秒)单次请求超时,默认 300;网络不稳或模型较慢时可调大
思考模式若模型支持推理(thinking),开启后 AI 会展示思考过程,适合复杂任务
图标内置品牌图标(DeepSeek / Kimi / OpenAI 等)或上传自定义图片,用于区分多模型
  1. 点 连接测试:会真实发起一次小请求,返回模型名与耗时;失败时给出具体原因(地址不可达 / 401 Key 无效 / 模型名不存在等)。
  2. 启用该条目,并在 AI 机器人面板的模型下拉框中选中它。

每个模型条目的启用 / 停用独立管理。多个模型可以同时启用,AI 面板中随时切换。

二、本地模型配置(Ollama)​

适合离线机房、数据不出本机、隐私敏感的场景。ToolBank 直接与本机 Ollama 对话,不需要任何云端账号。

页面会先检测 Ollama 状态:

状态显示处理方式
未安装红色提示 + “下载 Ollama”按钮打开 ollama.com 安装页
已安装但未运行提示未运行启动 Ollama 后点刷新
运行中绿色,列出已安装模型选择模型 → 启用

几个好用的能力:

  • 推荐模型清单:内置候选 minicpm-v(端侧多模态,能看图)、qwen2.5(1.5b / 3b)、phi3:mini、llama3.2(1b / 3b),并支持从 Ollama 官方模型库在线拉取候选列表。
  • 一键拉取:对未安装的模型点“拉取”,会调用 ollama pull 下载,进度可见。
  • 模型元数据:已装模型会展示家族、参数量、量化级别、文件大小、是否支持视觉、更新时间,方便你判断它能不能给视觉分析助手用。
  • 本地模型同样要走一遍 连接测试,通过后再启用。

小模型(1B~3B)能力有限,适合内网聊天、脱敏文本处理;追求推理质量建议用云端或更大的本地模型。

三、连接测试与"设为默认"​

  • 连接测试:云端与本地模型页都提供。它发一条真实请求(如“你好”),返回成功 + 模型名 + 耗时。接新模型前先测试,能排除 90% 的配置问题。
  • 设为默认:把某个模型设为打开 AI 机器人时的默认模型(新安装时默认选中本地 minicpm-1B 类条目)。在特工详情里也可以为单个特工指定固定模型。

四、配置与数据存放位置​

所有 AI 相关数据都在本机用户目录下,与主程序目录隔离:

%LOCALAPPDATA%\ToolBank\AI\
├── ai-config.json ← 模型 / 特工 / 技能 / ToolBank API 的全部配置
├── Sessions\ ← 各特工的会话记录(*.json)
├── ModelIcons\ ← 你为模型上传的自定义图标
  • 备份 / 换机:复制 ai-config.json 即可带走全部配置(API Key 也包含在内,注意保管)。
  • 清理会话:在 AI 配置 → 会话管理页签,可查看各特工的会话列表并按需清理,不影响配置。
  • 删除配置文件后,下次启动会按默认模板重新生成内置特工与预置模型。

常见问题​

连接测试一直失败,怎么排查?

按顺序检查:① 服务地址是否写完整(含 /v1/chat/completions 路径);② 模型名是否与该服务商实际模型 ID 一致(常见坑:写显示名而非 API 模型名);③ API Key 是否有效(401 多为 Key 错或没配额度);④ 本机能否访问该地址(内网环境需要代理或白名单);⑤ 超时是否太短。

想用 Ollama,但机器没装过,最快路径?

本地模型配置页点“下载 Ollama”安装 → 启动 Ollama → 在页面点“拉取”minicpm-v(能看图)→ 刷新看到已装 → 启用并连接测试。全程不用注册任何账号。

视觉分析助手说它收不到图片?

该特工绑定的是纯文本模型。请在特工详情里把模型换成支持图像输入的模型(ToolBank 云端模型或本地 minicpm-v),或在 AI 面板直接切换模型后再发图。

回复明显超出模型能力 / 频繁答非所问?

小参数本地模型(1B)只适合简单任务。复杂推理请切换到思考型云端模型(DeepSeek-V4-Pro 类);同时检查是否开了“思考模式”。