5月27日消息,加州理工背景的AI初创公司PrismML发布Bonsai Image 4B,将基于FLUX.2 Klein 4B架构的扩散Transformer分别压缩至1-bit和Ternary(三值)权重表示,模型体积从原版的7.75GB压缩到0.93GB(压缩8.3倍),首次实现4B参数级图像生成模型在iPhone上的原生运行,同时支持WebGPU浏览器端100%本地推理。这是低比特量化技术从语言模型扩展到扩散模型的一次系统性尝试。
两种比特方案:极致压缩 vs 质量保留
Bonsai Image 4B采用双轨发布策略,针对不同部署场景给出两个变体。1-bit版本使用{-1, +1}二值权重配合FP16分组缩放,实际有效约1.125 bits/weight;Ternary版本采用{-1, 0, +1}三值权重,多出的"0"状态允许网络表达"无连接"语义,实际有效约1.71 bits/weight。
体积层面,1-bit版本将Diffusion Transformer部分从7.75GB压缩至0.93GB,Ternary版本压缩至1.21GB(压缩6.4倍)。算上压缩后的文本编码器和FP16 VAE,完整部署包大小分别为3.42GB和3.88GB——相较原版FLUX.2 Klein 4B约16GB的完整部署体积,整体压缩约4-5倍。生成512x512图像时,1-bit版本活跃内存仅约1.5GB,已具备在4GB-8GB内存设备上稳定推理的条件。
质量保留方面,PrismML官方基准显示Ternary版本保留了原模型约95%的能力,1-bit版本保留约88%。在GenEval(物体组成)、HPSv3(人类偏好与美学)、DPG-Bench(密集提示遵循)等图像生成评测上,两个变体均优于同参数甚至更大尺寸的SDXL、Stable Diffusion 1.5。
性能数据:iPhone 17 Pro Max 9.4秒出图,浏览器WebGPU可跑
性能侧的关键数据集中在端侧推理。Mac M4 Pro上生成512x512图像约6秒,iPhone 17 Pro Max约9.4秒,相较原全精度pipeline最高加速5.6倍。这一性能曲线意味着AI图像生成首次具备了消费级移动设备上的实时可用性,而非过去依赖云端推理的产品形态。
更具突破意义的是浏览器端运行能力。Bonsai Image 4B通过WebGPU实现100%本地推理,无需任何后端服务器调用,是目前已知首个在浏览器中达到此质量级别的扩散模型。这对隐私敏感场景(医疗影像辅助、内部设计稿生成、个人内容创作)具有结构性价值——用户的图像生成请求不再需要离开本地设备。
部署侧,模型支持iPhone/iPad/Mac(通过Apple Silicon的MLX框架)、CUDA GPU(通过Gemlite)以及浏览器(WebGPU)三条路径,覆盖了消费端的主要硬件形态。PrismML同步推出iOS应用Bonsai Studio,允许普通用户直接在iPhone上体验。
与FLUX.2 Klein原版及主流量化方案的横向对比
将Bonsai Image 4B放入扩散模型本地化的竞争坐标系,差异化定位较为清晰。FLUX.2 Klein 4B原版需要约13GB VRAM,主要面向RTX 3090/4070及以上的消费级显卡;Pruna的FP8量化方案虽可实现2-3倍加速,但依赖H100等支持FP8的现代GPU;社区流传的GGUF量化版本(8-bit级别)仍需独立显卡运行,无法触达手机端。
Bonsai Image 4B的独特价值在于把可运行硬件门槛从"消费级显卡"下探到"手机",同时质量损失控制在Ternary 5%、1-bit 12%的可接受区间。这并非简单的后量化(post-training quantization)方案,而是PrismML延续其在语言模型领域的低比特原生架构思路——在1.58-bit Ternary Bonsai语言模型族基础上,将相同方法论迁移到Diffusion Transformer。
技术系谱上,PrismML在2026年3月31日从隐身模式出现,发布世界首个商业可行的1-bit大语言模型族;4月16日推出Ternary Bonsai 8B/4B/1.7B语言模型族;本次Bonsai Image 4B是其首次进入图像生成领域。公司基于加州理工Caltech的专有知识产权,由Khosla Ventures、Cerberus Ventures以及Google和Caltech的算力资助支持。
局限性与待验证项
需要冷静看待的局限有四处。其一,质量损失虽可控但客观存在:1-bit版本12%的质量缺口在专业创作场景下可能显著感知,需要用户在"压缩比"与"输出质量"之间做权衡。其二,PrismML的基准测试主要由官方提供,第三方独立评测(特别是在复杂提示遵循、长尾物体生成、文字渲染等难点上)尚未规模化展开。
其三,WebGPU浏览器运行虽然技术上可行,但对浏览器版本、GPU硬件和驱动有相当要求,并非所有用户开箱即用。其四,Bonsai Image 4B目前仅支持文生图能力,原版FLUX.2 Klein具备的单参考图像编辑、多参考图像融合等能力暂未在低比特版本上得到验证。
此外,Bonsai Image 4B基于FLUX.2 Klein 4B架构,未来若原版升级到更大参数或改变架构,低比特版本的迭代节奏将受制于上游模型的发布周期。Apache 2.0开源协议虽然允许商业使用,但相关上游许可证的连带条款仍需开发者自行核验。
写在最后
Bonsai Image 4B的核心意义不在于"又一个开源图像模型",而在于把扩散模型的部署门槛从云端GPU服务器一路压到了手机口袋里。当一个4B参数的高质量图像生成模型可以在iPhone上9秒出图、在浏览器中无需联网运行时,整个AI图像生成的产品形态可能被重新定义——从SaaS订阅、API调用走向真正的端侧化、隐私化、本地化。
短期看,Bonsai Image 4B的实际影响范围取决于开发者社区的接入速度,特别是MLX生态、WebGPU应用、移动端创作工具能否快速整合这一模型。中期看,1-bit和Ternary扩散模型的方法论一旦被验证可大规模复用,将对当前以云端推理为核心商业模式的图像生成服务(Midjourney、Ideogram等)构成结构性挑战。低比特量化从语言模型扩展到扩散模型,可能只是PrismML的开始——视频生成、3D生成、多模态模型是否能复用同一套压缩范式,是更值得长期跟踪的命题。