llama.cpp b9966修复sm-tensor重复编译问题
llama.cpp版本b9966修复了sm-tensor模式下每次解码重复编译29次正则的问题,显著提升生产环境性能。来源:https://www.reddit.com/r/LocalLLaMA/comments/1utyzbl/llamacpp_b9966_for_smtensor/[3]
本期热点包括英伟达RTX Spark真机亮相可跑120B模型、DeepSeek自研AI芯片、llama.cpp性能修复、低成本部署方案及多个实用工具与技巧。