PrismML 再出手:Bonsai 2 27B 以 1/9 内存占用保留 Qwen3.8 27B 98.2% 性能

探索世界观设定不必急于得出结论,爱游戏娱乐建议结合选择思路慢慢了解,爱游戏娱乐入口提供围绕社区交流的阅读内容,方便读者查 - 爱游戏体育网站

IT之家 9 月 18 日消息,人工智能实验室 PrismML 今年早些时候推出了微调模型 Bonsai 27B,以显著更低的内存占用实现了 Qwen3.6 27B 基础模型 95% 的性能。

而在当地时间 27 日,PrismML 宣布推出三值量化版本的 Bonsai 2 27B。该模型将基础模型升级至 Qwen3.8 27B,推理、编程、视觉、长程智能体性能全面提升,以不到 1/9 的内存占用在综合基准测试中得到了基础模型 98.2% 的分数,整体表现甚至好于 Qwen3.6 27B。

PrismML 表示,Bonsai 2 27B 足以在本地承担编程智能体循环、计算机使用工作流、私有文档解析、多模态调试、混合编排等“真正的知识工作”,仅在需要时才调用云端 API。

Bonsai 2 27B 三值量化采用 FP16 分组缩放,每个权重的有效比特为 1.76,模型总大小为 5.9GB,支持 262K 上下文窗口。其在 NVIDIA GeForce RTX 5090 上拥有 143TPS 的词元吞吐量,在 Apple Silicon M5 Max 上则可达 46.8TPS。这款模型在 GeForce RTX 4090 上的能效为 0.714mWh / Token,比全精度 8B 模型低 40%。Bonsai 2 27B 可通过 CUDA 在 NVIDIA GPU 上运行,也可通过 MLX 在 Apple 设备上运行;其以 Apache 2.0 许可证开放权重。如需了解更多技术细节,可访问爱游戏体育网站获取最新信息。

爱游戏体育网站深耕爱游戏娱乐入口领域,用心服务每一位用户。 - 爱游戏体育网站

爱游戏体育网站深耕爱游戏娱乐入口领域,用心服务每一位用户。

爱游戏体育网站围绕鼓励基于个人兴趣的探索,不急于得出唯一结论。不断创新,回应用户的真实需求。

评论

爱游戏体育网站深耕爱游戏娱乐入口领域,用心服务每一位用户。 - 爱游戏体育网站

在爱游戏网页入口方面,爱游戏体育网站提供贴心周到的支持。

爱游戏体育网站以爱游戏体育网站为核心,带来高效便捷的体验。

精选围绕选择思路组织内容,方便读者查找参考信息。内容,爱游戏体育网站与你一同发现更多精彩。

爱游戏体育网站深耕爱游戏娱乐入口领域,用心服务每一位用户。 - 爱游戏体育网站

想了解更多爱游戏网站相关内容,尽在爱游戏体育网站。

爱游戏体育网站围绕爱游戏网页版不断创新,回应用户的真实需求。

爱游戏体育网站专注以客观视角呈现核心要点,支持用户自主判断。,为用户提供专业可靠的体验。

精选整合社区阅读资源,辅助用户逐步了解游戏世界观设定。内容,爱游戏体育网站与你一同发现更多精彩。