BitCPM-CANN:开源 1.58-bit 三元量化模型在华为昇腾 NPU 上原生训练
OpenBMB发布BitCPM-CANN,首次在华为昇腾NPU上实现端到端1.58-bit训练。训练吞吐仅降低4.5%,推理内存降低8倍。0.5B~8B四个规模,8B模型用8T数据表现比肩Qwen3-8B。地址:https://github.com/OpenBMB/MiniCPM[5]
本期亮点包括BitCPM-CANN实现1.58-bit模型在华为昇腾NPU上的原生训练,以及社区分享的fork conversations技巧和Cloudflare托管小网站的解决方案,同时有多个实用的开发者新工具发布。