WorkBuddy 部署本地模型要分清两层:软件本身是本地客户端,零部署装好即用,不提供下载模型权重的入口;要用本机模型,个人版在自定义模型里填本机推理服务的接口地址,企业版可整体私有化部署到内网。 结论:软件零部署,模型靠接,不自带权重
WorkBuddy 对个人用户是零部署的桌面客户端,从 www.workbuddy.cn 下载安装就能用,不存在你自己去部署软件这一步。对本地模型这件事,WorkBuddy 不提供下载或加载模型权重的入口,它只存模型的接口地址和 Key,配置落在本机。
要用本机跑的大模型,走的不是让 WorkBuddy 去下载权重,而是你先在本地把推理服务跑起来,再把它的接口地址填进 WorkBuddy 的自定义模型。企业版则多一层:整套 WorkBuddy 可以私有化部署到内网,由管理员统一配模型端点。
先分清部署指的是哪一层
搜这个词的人,脑子里通常是三件不同的事混在一起。第一件是把 WorkBuddy 软件装到本机,这件事个人版已经零部署解决;第二件是让 WorkBuddy 调本机模型,靠自定义接口实现;第三件是把整套 WorkBuddy 连同模型一起放进企业内网,那是企业版私有化。
这三件里只有第二件和第三件真正和模型有关,而且路径完全不同。把软件的零部署误解成不能用本地模型,或者反过来以为 WorkBuddy 会替你拉权重,都会走偏。下面分两路把边界说清。
个人版怎么接本机已跑的模型
个人版用本地模型,入口在设置里的自定义模型。先在本地把推理服务启动并暴露接口,再到自定义模型里填接口地址,模型名和本机实际加载的模型保持一致。配置只存在本机 models.json,不上传云端,换机器要重填。
模型指向本机服务时不需要 Key,留空或填任意串都能通。只有接云端模型时才必须填正确的 Key。没填全的模型在选择器里会置灰,补全保存即生效,不用重启。这一步和软件本身的安装门槛是两件事,别混。
本机推理服务是独立在本地跑的程序,负责把模型权重拉下来并加载,再通过本地接口对外提供服务。WorkBuddy 只和它对话,不碰权重文件。服务没起来就去填地址,只会拿到缺配置的报错,排查时要先确认服务本身在不在运行。
本机服务要不要填 Key
很多人卡在这一步,以为接模型就必须有 Key。对接本机服务时,Key 不是必填项,因为本地推理服务默认不校验 Key。填不填都能跑,区别只在你愿不愿意写那一栏。
真正要求 Key 的是云端模型,那一步 Key 错了会直接连不上。把本机服务和无 Key 这一条对应上,能少绕很多弯。下面这张表把个人版和企业版在本地模型上的两条路并排看,差异一目了然。
企业版私有化部署长什么样
企业版在个人版之外多一层。官方描述里写的是支持私有化部署、SSO 和数据审计,管理端单独开了模型部署管理、IP 白名单、日志管理几页,这些是部署前要逐项落实的前置条件,不是可选项。
接入路径分两条。一条是专有云私有化,服务端在自己机房,模型怎么放、网关怎么走由管理员定;另一条是 SaaS 接入,客户端连官方服务,企业侧配 SSO 和审计。走哪条决定要准备什么,这件事装客户端的人定不了,得先找腾讯云 CodeBuddy 团队商务谈定版本。装完发现登录页多了 SSO、模型列表和官网截图不同,那不是装错,是管理员下发了企业配置。
本地安全沙盒不等于本地模型权重
WorkBuddy 主张本地安全沙盒,指的是代码、文件、工具调用的执行环境在本地,和数据驻留有关:本地模式数据不离开用户终端。这个概念常被误读成 WorkBuddy 在本地跑模型权重,其实两件事在不同层。
执行环境在本地,解决的是文件读写和工具调用安不安全;模型权重由推理服务负责,解决的是推理在哪里算。把这两层分开,就不会以为开了本地沙盒就自动有了本地模型,也不会反过来觉得必须上云才有模型可用。下面把三对常被混为一谈的说法拆开看。
常见问题
Q:WorkBuddy 能直接下载并运行本地模型权重吗?
A:不能。WorkBuddy 是 AI Agent 桌面工作台,自定义模型只存接口地址和 Key 在本地,不提供拉取或加载模型权重的入口,权重由你本机推理服务负责。
Q:个人版怎么让 WorkBuddy 用上本机模型?
A:先在本地把推理服务跑起来并暴露接口,再到设置里的自定义模型填接口地址,模型名和本机实际加载的保持一致。
Q:填本机地址需要填 API Key 吗?
A:不需要。模型指向本机服务时可以不填 Key,留空或填任意串都能通,只有接云端模型才必须填正确的 Key。
Q:企业版怎么部署本地模型?
A:企业版支持私有化部署,把 WorkBuddy 整体部署到企业内网专有云,管理员在模型部署管理页配置模型端点,并可开启 SSO 和数据审计。
Q:本地安全沙盒是不是就等于本地跑模型?
A:不是。本地安全沙盒管的是代码、文件、工具调用的执行环境;模型权重仍由推理服务负责,两者是不同层。
Q:换电脑之后本地模型配置要重填吗?
A:要。自定义模型的接口地址和 Key 只存在本机,不上传云端,换机器或重装都要重新填。
Q:公司网络有出口限制还能接本机模型吗?
A:能。本机推理服务在本地回环地址上,不依赖外网出口,反而是公司网限制外网时的替代方案,但企业私有化部署的规划仍要走 IT 和商务。
Q:自定义模型缺配置时报什么错?
A:报 4100,提示自定义模型缺接口地址或 Key,点前往配置补全后立即生效,不用重启。
Q:WorkBuddy 本身需要我自己部署吗?
A:个人版不需要,下载安装即本地客户端,零部署开箱即用。只有企业版才有私有化部署这一层,且要找腾讯云 CodeBuddy 团队商务谈定版本。
动手前先核这九件事
1. 分清两层:软件零部署说的是安装形态,模型部署说的是推理服务,别把两者当成一件事。
2. 个人版不下载权重:WorkBuddy 只存模型配置,权重由你本机推理服务负责拉取。
3. 先跑服务再填地址:本机推理服务没起来就去填接口地址,只会拿到 4100 报错。
4. 本机服务可不填 Key:指向本地回环地址时留空 Key 即可,别硬编码云端 Key。
5. 换机重填:配置只在本机,换电脑或重装要重新填接口地址和 Key。
6. 企业版找商务:私有化部署、SSO、审计要找腾讯云 CodeBuddy 团队商务谈定版本,装客户端的人定不了。
7. 沙盒不等于权重:本地安全沙盒管执行环境,模型权重是另一层,别混为一谈。
8. 公司网限制:本机模型不依赖外网出口,适合有外网限制的环境,但规划仍要走 IT。
9. 看登录页判断:装完发现多了 SSO、模型列表和官网截图不同,那是管理员下发了企业配置,不是装错。
回到 WorkBuddy 部署本地模型 这件事,结论落在两层:软件本身对个人用户是零部署的本地客户端,对企业用户可私有化进内网;模型层面,WorkBuddy 不下载权重,个人靠自定义接口接本机推理服务,企业由管理员在模型部署管理统一配。把执行环境的本地沙盒和模型权重分开看,部署边界就清楚了。