本期焦点是低成本模型与本地推理及Agent生产化。从100M参数文生图到语音Agent评测,社区实践和平台升级都在推动AI更低成本、更可落地。

模型动态

RetroChimera用预测模型加速化学合成路线设计

Nature论文介绍RetroChimera,用预测模型加速化学合成路线设计,服务药物、材料与农业研发。[1]

100M参数Supra2-IMG开放发布,主打低成本高质量文生图

Supra2-IMG仅约1亿参数,作者称单张H100训练不足10小时并达较高画质,已【开放发布】。项目:https://www.reddit.com/r/LocalLLaMA/comments/1wmftr3/massive_release_supra2img_a_tiny_100m_texttoimage/[2]

产品工具

Hugging Face发布tokenizers v1,升级Rust基础设施

Hugging Face推出tokenizers v1,引入多语言、多线程与Rust架构升级,影响训练和推理预处理。讨论:https://www.reddit.com/r/LocalLLaMA/comments/1wmfj04/tokenizers_v1_rust/[4]

Python Workers正式GA,Cloudflare扩大边缘Python应用支持

Cloudflare宣布Python Workers正式GA,可在Workers部署Python应用,扩大边缘计算与AI开发选择。详情:https://blog.cloudflare.com/python-workers-ga/[7]

技巧教程

Splash Engine让Qwen3.8-27B在Apple Silicon原生8-bit运行

社区实测Qwen3.8-27B在Apple Silicon原生8-bit可达37–55 tok/s,并扩展至256k上下文。实践:https://www.reddit.com/r/LocalLLaMA/comments/1wmbbf9/splash_engine_qwen3827b_in_native_8bit_at_3755/[3]

提示词把问题放在上下文前,决策准确率从89%升至100%

将问题放在上下文前,本地Qwen决策准确率由89%升至100%,延迟约从400ms降至80ms。实践:https://www.reddit.com/r/LocalLLaMA/comments/1wmd3xx/putting_the_question_before_the_context_took_my/[5]

语音Agent进入生产后,评测重点转向体验与业务结果

LangChain建议语音Agent生产评测从“完成指令”扩展到用户体验与业务结果,强化测试与监控。[6]

行业资讯

a16z数据显示2022年创办的创业公司四年收入中位数显著提升

a16z数据显示,2022年创办的创业公司四年后收入中位数更高,生成式AI可能加快部分公司的商业化。[8]