模型接入与配置
AI 助手使用的模型统一在 设置 → AI 配置 窗口管理。窗口需要先打开一个工作空间才会解锁(菜单项在无工作空间时置灰)。配置即时生效,无需重启软件。
窗口总览
AI 配置窗口共六个页签:
| 页签 | 用途 |
|---|---|
| 云端模型配置 | 管理云端模型条目:ToolBank 预置模型、或你自己添加的任何 OpenAI 兼容服务 |
| 本地模型配置 | 检测本机 Ollama,浏览已装模型 / 官方模型库,一键拉取 |
| ToolBank API | 查看 AI 能调用的全部平台能力(分类浏览 + 参数签名 + 在线试调) |
| 技能 | 管理 AI 技能(启用 / 停用 / 测试 / 查看渲染后 Prompt 与执行日志) |
| 特工 | 管理特工角色(新增 / 复制 / 删除 / 设为默认 / 调参与权限) |
| 会话管理 | 查看 / 清理各特工的本地会话记录 |
一、云端模型配置
ToolBank 预置模型(推荐先试这个)
新安装的 ToolBank 默认带有两条官方预置模型条目:
- DeepSeek-V4-Pro:思考型模型,擅长复杂推理、长任务拆解、代码审查;生成前会先“想”一遍,回答质量高但稍慢。
- DeepSeek-V4-Flash:快速模型,适合日常问答、翻译、总结,响应快。
预置条目的服务地址与密钥已由官方填好,**你只需勾选“启用”**即可使用。预置模型不可修改、删除,仅允许切换启用状态与自定义图标——这是为了避免误改导致整条服务失效;若想深度定制,可基于它添加你自己的模型条目。
添加自己的云端模型
任何 OpenAI 兼容(Chat Completions /v1) 的大模型服务都可以接入:
- 云端模型配置页 → 新增。
- 填写条目:
| 字段 | 说明 |
|---|---|
| 配置名 | 显示在 AI 面板模型下拉框里的名字,如“我的 DeepSeek” |
| 服务地址 | 兼容服务的完整地址,通常形如 https://…/v1/chat/completions(各厂商文档会给出 OpenAI 兼容地址) |
| 模型名 | 该服务下的模型标识,如 deepseek-chat、gpt-4o、kimi-k2 等 |
| API Key | 你的密钥,输入框默认掩码显示,可点“眼睛”查看 |
| 上下文窗口 | 该模型最大上下文(Token)。设为 0 表示不设限 |
| 超时(秒) | 单次请求超时,默认 300;网络不稳或模型较慢时可调大 |
| 思考模式 | 若模型支持推理(thinking),开启后 AI 会展示思考过程,适合复杂任务 |
| 图标 | 内置品牌图标(DeepSeek / Kimi / OpenAI 等)或上传自定义图片,用于区分多模型 |
- 点 连接测试:会真实发起一次小请求,返回模型名与耗时;失败时给出具体原因(地址不可达 / 401 Key 无效 / 模型名不存在等)。
- 启用该条目,并在 AI 机器人面板的模型下拉框中选中它。
每个模型条目的启用 / 停用独立管理。多个模型可以同时启用,AI 面板中随时切换。
二、本地模型配置(Ollama)
适合离线机房、数据不出本机、隐私敏感的场景。ToolBank 直接与本机 Ollama 对话,不需要任何云端账号。
页面会先检测 Ollama 状态:
| 状态 | 显示 | 处理方式 |
|---|---|---|
| 未安装 | 红色提示 + “下载 Ollama”按钮 | 打开 ollama.com 安装页 |
| 已安装但未运行 | 提示未运行 | 启动 Ollama 后点刷新 |
| 运行中 | 绿色,列出已安装模型 | 选择模型 → 启用 |
几个好用的能力:
- 推荐模型清单:内置候选 minicpm-v(端侧多模态,能看图)、qwen2.5(1.5b / 3b)、phi3:mini、llama3.2(1b / 3b),并支持从 Ollama 官方模型库在线拉取候选列表。
- 一键拉取:对未安装的模型点“拉取”,会调用
ollama pull下载,进度可见。 - 模型元数据:已装模型会展示家族、参数量、量化级别、文件大小、是否支持视觉、更新时间,方便你判断它能不能给视觉分析助手用。
- 本地模型同样要走一遍 连接测试,通过后再启用。
小模型(1B~3B)能力有限,适合内网聊天、脱敏文本处理;追求推理质量建议用云端或更大的本地模型。
三、连接测试与"设为默认"
- 连接测试:云端与本地模型页都提供。它发一条真实请求(如“你好”),返回成功 + 模型名 + 耗时。接新模型前先测试,能排除 90% 的配置问题。
- 设为默认:把某个模型设为打开 AI 机器人时的默认模型(新安装时默认选中本地 minicpm-1B 类条目)。在特工详情里也可以为单个特工指定固定模型。
四、配置与数据存放位置
所有 AI 相关数据都在本机用户目录下,与主程序目录隔离:
%LOCALAPPDATA%\ToolBank\AI\
├── ai-config.json ← 模型 / 特工 / 技能 / ToolBank API 的全部配置
├── Sessions\ ← 各特工的会话记录(*.json)
├── ModelIcons\ ← 你为模型上传的自定义图标
- 备份 / 换机:复制
ai-config.json即可带走全部配置(API Key 也包含在内,注意保管)。 - 清理会话:在 AI 配置 → 会话管理页签,可查看各特工的会话列表并按需清理,不影响配置。
- 删除配置文件后,下次启动会按默认模板重新生成内置特工与预置模型。
常见问题
连接测试一直失败,怎么排查?
按顺序检查:① 服务地址是否写完整(含 /v1/chat/completions 路径);② 模型名是否与该服务商实际模型 ID 一致(常见坑:写显示名而非 API 模型名);③ API Key 是否有效(401 多为 Key 错或没配额度);④ 本机能否访问该地址(内网环境需要代理或白名单);⑤ 超时是否太短。
想用 Ollama,但机器没装过,最快路径?
本地模型配置页点“下载 Ollama”安装 → 启动 Ollama → 在页面点“拉取”minicpm-v(能看图)→ 刷新看到已装 → 启用并连接测试。全程不用注册任何账号。
视觉分析助手说它收不到图片?
该特工绑定的是纯文本模型。请在特工详情里把模型换成支持图像输入的模型(ToolBank 云端模型或本地 minicpm-v),或在 AI 面板直接切换模型后再发图。
回复明显超出模型能力 / 频繁答非所问?
小参数本地模型(1B)只适合简单任务。复杂推理请切换到思考型云端模型(DeepSeek-V4-Pro 类);同时检查是否开了“思考模式”。