本周社区出现多个实用分享:微信读书自定义Skill教程、开源桌面AI工具AIPointer接入Ollama、vLLM在混合GPU集群中【显著领先】其他推理引擎,同时前OpenAI机器人专家谈【AI向物理世界转移】趋势。

模型动态

vLLM 在混合Blackwell/Ada集群上大幅领先SGLang和llama.cpp

Reddit用户实测显示,在混合GPU集群(RTX PRO 6000/5090/4090)上,vLLM的预填速度比llama.cpp快4-6倍,而SGLang在纯Blackwell上表现接近但混合时崩溃。vLLM支持手动分区消除瓶颈。[3]

产品工具

开源桌面AI助手AIPointer寻求Ollama集成测试者

开发者正在为开源项目AIPointer添加Ollama本地模型支持,实现光标附近快速问答。需要M系列Mac、RTX 3090/4090等用户帮助测试TTFT和工具调用性能。项目地址:https://github.com/gonemedia/aipointer[2]

技巧教程

姚老师分享微信读书自定义Skill,用于分析个人读书数据

姚老师制作了一个微信读书Skill,可自动分析用户的读书数据,展示效果很棒。这是一种自定义Skill的实用案例,用户可根据自身需求编写。[1]

行业资讯

前OpenAI机器人专家:未来两年战争领域变化将超过消费电子

在Lenny Rachitsky播客中,前OpenAI硬件负责人Caitlin Kalinowski表示AI前沿正从数字转向物理,VR技术已成为现代战争基础,并警告内存价格冲击,建议初创企业提前囤货。详细视频:https://www.youtube.com/watch?v=G5WTgB87rYQ[4]

观点:长期使用GPT的年轻人通识知识或超越老一辈

Marc Andreessen转发观点称,每天使用GPT 8小时、持续3年的Z世代,其【通识知识水平】可能超过99%的婴儿潮一代一生所学。这一观点引发对AI作为终身学习工具潜力的讨论。[5]