腾讯WorkBuddy agent的本地模型竟然使用千问3.6模型
使用 WorkBuddy,后台翻设置,看见模型菜单里有个“本地模型”的选项,能下载、能管理,而且,并不是外部模型的填API和秘钥的那种。点下载,装完一看,16.9G。
外加一个 0.9G 的 mmproj 文件,那是视觉投影,说明它还能看图。
文件躺在~/.workbuddy/local-models/files/里,名字就叫local_model.gguf。
连个正经名字都不给,打开本地模型那个窗口,问是什么模型?
从提问到出字,三分十秒。
先说自己“是 WorkBuddy AI,基于本地模型运行的助手”,能力涵盖研究写作、数据分析、编程开发,就是不说是谁家的模型。
另开一个窗口,让 DeepSeek Flash 去机器上查后台到底跑着什么。它一开始在~/.workbuddy-ai/里翻配置,翻出来一堆沙盒规则、locale 设置,一个跟模型有关的字都没有。
折腾了几轮,最后是用find找 5G 以上的大文件,查到 llama.cpp 的 llama-server,构建 b10537,Metal 版,端口 52741,每次启动还随机换。
然后它读 GGUF 文件头,查到架构字段写着qwen35moe。
看到qwen35moe再多问了几句,原来还真是qwen3.6, general.name文件里写着:Qwen36_35B A3B REAP 0.25 V2 Agentic...
就是Qwen3.6 的 35B-A3B,REAP 剪枝,比例 0.25。
原始 35B,REAP 剪掉 25% 的专家,专家数从 256 降到 192,实存 27.2B。
每处理一个 token 只激活 8 个,上下文开了 128K。41 层里每 4 层才有一个 full attention,其余是状态空间那套,为的是省显存。
128K 上下文,还能看图,装在 32G 的 Mac 上跑得动。免费,不联网,这些是云端模型给不了的。
当然qwen模型一直是开源模型,腾讯workbuddy拿来用没毛病,但显然腾讯不想让用户自己不行,因为众所周知,麻花腾一直抄袭为主,从不研发,所以就藏着掖着。
页:
[1]