个人开发者低于150美元训练1.57B世界模型
开发者从零训练1.57B参数Dreamer 4世界模型，成本低于150美元，并针对动作控制改进架构。详情：https://www.reddit.com/r/LocalLLaMA/comments/1vwrc6i/i_trained_a_157bparameter_dreamer_4_world_model/[3]
大黑AI速报
本期重点集中在推理成本下降、本地模型工具链与AI搜索机制变化。社区还展示了低成本训练世界模型和通过虚拟化优化多GPU推理的新实践。
模型动态
产品工具
ConvRot量化方法集成进llama-cpp-turboquant
ConvRot量化已集成llama-cpp-turboquant，Q6效果接近Q8，并加入MoE缓存优化。项目讨论：https://www.reddit.com/r/LocalLLaMA/comments/1vwoseh/convrot_quant_method_now_in_llamacppturboquant/[4]
LifeOS推出完全本地运行的语音个人组织工具
LifeOS可在本地模型上把语音转换为任务、日程和日志，支持自托管与隐私优先的个人信息管理。详情：https://www.reddit.com/r/LocalLLaMA/comments/1vwoaop/lifeos_is_here_a_selfhosted_voicedriven_organiser/[5]
硬件动态
拆分GPU到多个虚拟机后Ollama推理速度提升约3倍
用户将多张GPU拆分至两个虚拟机，称【Ollama推理速度提升约3倍】，但该结果依赖特殊硬件与调度配置，仍需复现。详情：https://www.reddit.com/r/LocalLLaMA/comments/1vwiyce/split_my_gpus_across_vms_and_gained_a_3x/[6]
行业资讯
OpenAI Sol降价与网关折扣推动模型使用增长
Vercel称OpenAI Sol降价及AI Gateway折扣使其成为增长最快的前沿模型，凸显推理成本下降与模型网关调度价值。[1]
MrBeast据称重新使用AI生成视频缩略图
MrBeast据称重新采用AI缩略图，并按观众国家和语言调整元素，显示生成内容正与个性化分发结合。[2]
ChatGPT Search疑似大幅增加定点抓取特定网站
监测显示ChatGPT的site:查询占比从0.368%升至16.78%，约增【45.5倍】；网站需强化可抓取、可核验的一手内容。详情：https://t.co/YJNqtkcrHI[7]