- Ling 3.0 Tiny 是 InclusionAI 推出的 MoE 推理模型,激活参数约 1.3B,主打快速与低成本推理。
- 当前可免费使用:OpenRouter 提供 inclusionai/ling-3.0-tiny:free 免费档,Novita AI 与 Vercel AI Gateway 也有渠道(Vercel 8月14日前免费,之后约 0.06 美元输入、0.18 美元输出每百万 token)。
- 模型权重目前未开源(proprietary),Hugging Face 尚无仓库,本地部署与微调暂时不可行;InclusionAI 表示未来会开源,但无时间表。
- 同系列的 Ling-3.0-Flash(124B 总参/5.1B 激活)已于 8月5日以 MIT 许可开源,可在 Hugging Face 与 ModelScope 获取并部署。
- 适合场景:免费试玩、快速原型、对延迟敏感的低成本推理;对数据主权有要求的选择开源替代。
Ling 3.0 Tiny 是什么
Ling 3.0 Tiny 是 InclusionAI 推出的 MoE(混合专家)推理模型,激活参数约 1.3B,定位是快速、低成本、可免费试用的推理入口。它比同系列的大模型更小,牺牲部分能力换取速度与成本,适合原型验证与高频调用场景。
模型的特殊之处在于"免费可及":当前通过 OpenRouter 的 :free 后缀即可直接调用,无需付费,这让开发者可以用极低成本评估 MoE 推理模型的表现。需要说明的是,它是推理型模型,适合代码、数学与结构化任务,多模态能力不是它的定位。
怎么免费调用
最简单的入口是 OpenRouter:在模型列表中选择 inclusionai/ling-3.0-tiny:free,按 OpenRouter 的标准 API 格式调用即可,免费档无需付费。其他渠道包括 Novita AI(当前输入输出均为 0 美元)与 Vercel AI Gateway(8月14日前免费促销,之后约 0.06 美元输入、0.18 美元输出每百万 token)。
调用时注意两点:免费档可能有速率限制与排队,生产环境建议用付费渠道保证稳定性;不同渠道的上下文长度与并发策略不同,批量接入前先读各平台文档。免费档适合验证效果,稳定接入再切付费档。
与 Ling-3.0-Flash 的关系
Ling 3.0 Tiny 与同系列的 Ling-3.0-Flash 是不同定位的产品。Ling-3.0-Flash 更大(124B 总参数、5.1B 激活),已于 8月5日以 MIT 许可开源,权重在 Hugging Face 与 ModelScope 上,支持量化版本,可用 SGLang 或 vLLM 部署。
相比之下,Tiny 目前仍走 API 路线。两者可以这样分工:需要自托管、微调或数据不出内网,选开源可部署的 Ling-3.0-Flash;需要快速免费评估、低延迟原型,直接用 Ling 3.0 Tiny 的 API。
能不能本地部署
目前不能。Ling 3.0 Tiny 的权重尚未公开,Hugging Face 上没有对应仓库,也没有许可证声明,本地部署与微调暂时不可行。InclusionAI 官方表示模型权重"之后将开源",但没有给出时间表或仓库地址。
如果你需要本地部署的 MoE 推理模型,现阶段可选的替代是已开源的 Ling-3.0-Flash,或其他开源 MoE 模型。等 Tiny 权重发布后再评估是否切换,关注官方仓库与 Hugging Face 动态即可。
常见问题
Ling 3.0 Tiny 免费吗?
OpenRouter 与 Novita 提供免费档,Vercel 8月14日前免费,之后按量计费。
Ling 3.0 Tiny 能本地部署吗?
暂时不能,权重未开源;等 InclusionAI 发布后可以。
Ling 3.0 Tiny 和 Flash 有什么区别?
Tiny 更小更快、API 免费可试;Flash 更大且已 MIT 开源、可自部署,适合数据主权场景。