美团发布MoE大模型LongCat-Flash-Thinking-2601
模型架构:560B参数的MoE模型,每次仅激活12个专家,激活参数约27B,激活比例1:20.7。 技术特点:支持983K长上下文,采用MLA注意力与DeepSeek YaRN位置编码,并具备Heavy Thinking Mode并行推理模式。 训练方法:通过规模化环境训练与噪声鲁棒训练提升Agent能力,部分训练环境已开源。
美团发布高效MoE模型,在长上下文与推理效率上取得进展。AI开发工具正朝着更直观的“所指即所得”交互演进。OpenAI揭示了其以算力驱动增长的飞轮效应,并正将商业模式从技术服务拓展至成果分成。