张量级量化分配让Gemma 4 E4B推理性能提升140%
社区实验称,在相同3.3GB显存下,张量级量化分配将Gemma 4 E4B指标从28.9提升至69.5。结果仍待复现。链接:https://www.reddit.com/r/LocalLLaMA/comments/1vp2x49/gemma_4_e4b_iq2_xxs_14054_reasoning_performance/[1]
本期重点集中在本地模型优化与Qwen3.8实际体验:社区展示了量化分配带来的显著推理提升,也暴露出新模型的过度思考问题。