本期亮点包括Gemma-4-12B-coder无审查模型登顶Hugging Face,sqlite-utils 4.0发布数据库迁移功能,以及多个实用开源工具和本地LLM优化指南

模型动态

Gemma-4-12B-coder无审查模型登顶Hugging Face

基于Gemma-4-12B-coder的无审查模型发布,仅9/100次拒绝,KLD 0.0467,在Hugging Face上【排名第一】,提供Safetensors和GGUF格式。[3]

产品工具

sqlite-utils 4.0rc1发布,新增迁移和嵌套事务

sqlite-utils 4.0rc1发布,新增数据库迁移和嵌套事务支持,作为Python库和CLI工具,提升SQLite操作效率。详情:https://simonwillison.net/2026/Jun/21/sqlite-utils-40rc1/[1][2]

开源本地优先MCP网关,让代理按需加载工具

开源【MCP网关】实现本地优先,允许AI代理只加载必需工具,提高效率,兼容LM Studio、Cline等。项目地址:https://www.reddit.com/r/LocalLLaMA/comments/1uc52eh/[6]

开源本地AI翻译应用,支持流式输出

基于FastAPI的【本地AI翻译】Web应用开源,支持流式输出,可完全本地部署和定制改进。项目地址:https://github.com/TOTO-sys28/FreeTranslate[8][9]

Browser Harness云版本beta上线,提供云中浏览器自动化

Browser Use推出Browser Harness云版本beta,基于Browsercode和AWS AgentCore,提供【云中浏览器自动化】功能。[10]

技巧教程

完整本地LLM推理优化指南发布

一年经验总结的实用llama.cpp优化指南,涵盖VRAM适配、KV缓存、MoE部署等主题,帮助开发者最大化本地推理性能。[4]

移除GGML_CUDA_ALLREDUCE实现MTP性能显著提升

通过移除GGML_CUDA_ALLREDUCE环境变量,成功发挥Multi-Token Prediction优势,分享具体优化经验和效果。[5]

在4B模型上本地运行Pi,实现无API密钥web搜索

4B模型上完全本地运行Pi,无需任何API密钥即可实现Web搜索功能,展示本地AI代理能力。[7]