本期关注多款本地AI工具发布和Qwen模型实测经验,包括Logue开源隐私笔记、Hydra模型路由、Karpathy疑似离开Anthropic等动态。

模型动态

Qwen3.6-27B量化与旧硬件实测

用户测试发现Qwen3.6-27B的F16在复杂编码任务显著优于低量化;在GTX 1080 Ti+P100上实测性能数据。Reddit讨论地址:https://www.reddit.com/r/LocalLLaMA/comments/1v6q6z5/ 和 https://www.reddit.com/r/LocalLLaMA/comments/1v6llio/[4][5]

微调Qwen3-8B的陷阱:思考模式丢失但指标正常

在微调Qwen3-8B时,一个构建意外丢失了思考模式,但训练指标(loss等)未察觉,揭示了评估盲点。讨论地址:https://www.reddit.com/r/LocalLLaMA/comments/1v6p04v/[6]

产品工具

JumpKey:键盘驱动的自托管浏览器起始页

JumpKey是一个自托管的浏览器起始页,主打键盘操作,可快速启动各种服务。项目地址:https://t.co/zEpNB9VG05[1]

Logue:完全本地运行的macOS会议笔记应用

开源Logue(MIT许可),基于MLXApple Silicon,隐私优先的会议笔记+写作应用,完全离线运行。项目地址:https://www.reddit.com/r/LocalLLaMA/comments/1v6q0d4/[2]

Hydra:本地模型路由工具

Hydra自动扫描机器上的所有模型,根据任务置信度路由到【最便宜】的模型,支持Ollama等。项目地址:https://www.reddit.com/r/LocalLLaMA/comments/1v6sxey/[3]

Codex和Gemini CLI发布新版本

Codex发布rust-v0.146.0-alpha.10.1,Gemini CLI发布v0.54.0-nightly。Codex:https://github.com/openai/codex/releases/tag/rust-v0.146.0-alpha.10.1,Gemini CLI:https://github.com/google-gemini/gemini-cli/releases/tag/v0.54.0-nightly.20260726.g3818efbbf[9][10]

硬件动态

AMD MI50 GPU功耗曲线测试数据

用户实测MI50GPU在不同负载下的功耗曲线,提供了实际功耗和生成速度数据,对硬件选型有参考。测试地址:https://www.reddit.com/r/LocalLLaMA/comments/1v6ns73/[8]

行业资讯

Andrej Karpathy疑似离开Anthropic

网友发现Karpathy在X资料中移除了Anthropic信息,可能已离开公司,引发行业关注。来源:https://www.reddit.com/r/LocalLLaMA/comments/1v6pkji/[7]