Ornith-1.0-35B GGUF更新:原生MTP投机解码,单GPU推理速度提升30-35%
Ornith-1.0-35B模型GGUF版本更新,实现原生MTP投机解码,单GPU推理速度提升至【1.3-1.35倍】,对本地推理优化有重要参考。项目地址:https://www.reddit.com/r/LocalLLaMA/comments/1ui4yn6/ornith1035b_gguf_update_native_mtp/[4]
本期亮点:OpenAI Codex桌面应用【使用量增长6倍】周活超500万,显示AI编程工具普及加速;LangChain发布Fleet agents企业集成新方案,支持Slack/Teams渠道;本地推理社区Ornith-1.0-35B迎来原生MTP投机解码优化,单GPU推理速度提升。