Qwen3.8-Flash-Next NVFP4已支持4张V100运行
RadixArk的NVFP4版本获得SGLang-V100支持,可在4张V100 32GB上运行完整上下文,延长老GPU生命周期。详情:https://www.reddit.com/r/LocalLLaMA/comments/1w29ukk/qwen38flashnext_nvfp4_day3_support_for_4xv100/[2]
本期重点集中在本地大模型硬件与推理优化:社区正推动老旧GPU、Mac和超大内存设备运行更大模型,同时Gemini CLI发布新夜间版本。