本期聚焦推理基础设施开放潮:DeepInfer、TorchTPU与llm-d 1.0相继开源。Google同时加码主权AI及政府智能体方案。

模型动态

Claude未发布新模型被曝强化根因级代码修复

曝光称Claude新模型可【跳出既有思路】,从根因层面修复Bug。型号与评测尚待官方确认:https://www.qbitai.com/2026/10/504314.html[18]

产品工具

DeepSeek开源生产级推理框架DeepInfer及配套组件

DeepInfer以Apache-2.0开源,覆盖分布式推理、推测解码等。配套deepseek-recipe同步开放:https://t.co/JGAik1kgk0 https://t.co/PPwwcwaNS9[1][2][3][4][5][6][7][8][9][10][11]

Google开源TorchTPU支持原生PyTorch运行于TPU

TorchTPU正式【开源】,降低PyTorch模型在Google TPU上训练和推理的门槛。详情:https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus/[12]

llm-d 1.0提供面向Kubernetes的开放分布式推理栈

llm-d 1.0支持在TPU与GPU部署大模型及智能体,已有逾500名贡献者。详情:https://cloud.google.com/blog/topics/ai-infrastructure/llm-d-1-0-an-open-source-stack-for-distributed-inference/[13]

PyTorch 2.15更新Apple MPS本地模型支持

PyTorch 2.15调整Apple MPS支持,为Mac及Apple Silicon本地开发与推理提供参考。详情:https://huggingface.co/blog/mps-pytorch-2-15[14]

Google扩展隔离环境中的主权AI与托管RAG搜索

Google Distributed Cloud新增主权AI能力,并在受控边界内提供Gemini多模态RAG搜索。详情:https://cloud.google.com/blog/topics/hybrid-cloud/new-innovations-in-google-distributed-cloud/ https://cloud.google.com/blog/topics/hybrid-cloud/managed-rag-search-inside-the-sovereign-perimeter-gemini-on-gdc-enterprise-search/[15][16]

Google推出面向政府服务的Gemini解决方案

Gemini for government面向公共部门,可自主规划、执行知识工作、生成媒体及运行代码。详情:https://cloud.google.com/blog/products/ai-machine-learning/gemini-for-government-services/[17]