27B大模型塞进手机：极限压缩是真突破，还是参数游戏？

文章来源：企鹅号 - AI可可AI生活

PrismML发布了基于Qwen3.6 27B的端侧模型Bonsai 27B。通过三值和二值权重技术，模型体积被压缩至3.9GB和5.9GB，声称保留了原模型90%以上的性能，使27B级别模型首次能在手机上本地运行。

这体现了端侧AI在硬件限制下对极限量化的追求。但业内对此持保留态度：测试显示，极低比特量化在工具调用等任务中仍有明显的性能退化，甚至有用户反映在特定设备上出现乱码；此外，强行压缩大模型是否优于高精度的小模型也存在争议。这更像是一次技术可行性的探索，距离日常无缝使用仍有距离。