7月31日消息,Mira Murati 创办的 Thinking Machines Lab 发布 Inkling-Small 并同步开放完整权重。这是该公司两周内的第二个模型:MoE 架构,2760 亿总参数、120 亿激活参数,第三方测评机构 Artificial Analysis 的智能指数给出 40 分,仅落后自家 9750 亿参数旗舰 Inkling 1 分;官方自报的编程与智能体基准则直接反超旗舰。
蒸馏出的小旗舰:编程反超,知识腰斩
Inkling-Small 是 7月15日发布的旗舰 Inkling 的蒸馏版。官方称其后训练分为两步:先以 Inkling 为教师做 on-policy distillation(同策略蒸馏),再追加两周智能体编码方向的强化学习。这条路线的效果在官方对照表里很直接:SWE-bench Verified 80.2% 对旗舰的 77.6%,Terminal-Bench 2.1 为 64.7% 对 63.8%,ARC-AGI-2 为 40.1% 对 36.5%,HLE 纯文本为 31.6% 对 29.7%。代价同样直接:SimpleQA 事实性问答 20.6%,旗舰为 43.9%。
第三方验证目前只有一处:Artificial Analysis 智能指数 Inkling-Small 40 分、Inkling 41 分,该机构称同尺寸或更小的开放权重模型中没有更高分。模型以 Apache 2.0 许可证开放权重,允许商用、修改和再分发,但模型卡另附一份单独的可接受使用政策,合规责任在使用方。
当天全渠道上线,但"Small"跑不进消费级硬件
发布当天,Inkling-Small 的权重已上架 Hugging Face,并同步接入公司自有微调平台 Tinker、Vercel AI Gateway、Baseten 等渠道,SGLang、vLLM、llama.cpp 均有官方推理方案。Tinker 给出限时五折:64K 上下文版本预填充每百万 token 0.58 美元、采样 1.44 美元,推理价格约为旗舰的四分之一到三分之一。
两个使用边界需要注意。其一,"Small"只是相对旗舰而言:BF16 权重需要至少 600GB 显存,官方建议 4 张 B300 或 8 张 H200;NVFP4 量化版约 180GB,也要单张 B300 起步。120 亿激活参数意味着每 token 的计算量接近小模型,但 2760 亿总参数必须完整装进显存。其二,1M token 上下文仅限自托管权重,Tinker API 实际提供的是 64K 和 256K 两档。
与 DeepSeek V4 Flash 在同一个尺寸档相遇
Inkling-Small 落进的正是开放权重竞争最密集的档位。DeepSeek 今年4月发布的 V4 Flash 为 2840 亿总参数、130 亿激活,MIT 许可证,官方 SWE-bench Verified 79.0%,Artificial Analysis 指数同为 40 分——两者参数规模几乎相同,第三方分数打平,许可证一个 Apache 2.0 一个 MIT。再往下,阿里 Qwen3.5-397B(170 亿激活)官方 SWE-bench 76.4%,英伟达 Nemotron 3 Ultra(550 亿激活)为 70.7%。
上方也并非空位:DeepSeek 旗舰 V4-Pro 官方 SWE-bench 80.6%,仍压过 Inkling-Small 的 80.2%。而 Thinking Machines 自己的姿态放得很低——7月15日发布 Inkling 时,官方明确表示它"并非当前最强模型,无论开源还是闭源"。当时的媒体定性是,这是美国开放权重阵营对中国开源模型的首次有力回应;Inkling-Small 把这个回应推进到了中国厂商最强势的尺寸档。
例行化的发布,回答了两个质疑
这次发布有一个值得记录的注脚:研究员 Horace He 评价 Inkling-Small 的发布"流程化、例行化"。对一家成立一年半的公司来说,例行化恰恰是稀缺的。Thinking Machines 去年7月以 20 亿美元种子轮、120 亿美元估值刷新纪录时,"高估值但没有产品"是最常见的质疑;此后六位联合创始人走了四位,最新一位 Lilian Weng 今年7月离职,彭博又报道其正寻求约 500 亿美元估值的新一轮融资。在这样的叙事里,两周两个模型、发布当天全渠道可用、价格直接给到五折,是用产品节奏回应动荡叙事的方式。
对需要私有化部署的企业,Inkling-Small 是实际的好消息:Apache 2.0 许可证、第一梯队的编程基准、远低于旗舰的推理价格。对中国开源阵营,这是直接竞争——美国阵营第一次在同一参数档拿出分数打平、许可证同等级开放的模型。但对知识密集型场景,SimpleQA 20.6% 的成绩意味着它现阶段并不适用,官方自己也把知识覆盖列为明显短板。