阿里发布Marco-Mini-Instruct模型,展示小模型魔改MoE新路径
阿里国际数字商业团队发布Marco-Mini-Instruct,总参17.3B,激活仅0.86B。该模型通过upcycling技术将Qwen3-0.6B-Base改造成MoE架构,性能超越多个Dense模型,为低成本训练MoE提供了新思路。[1]
本期重点包括阿里发布Marco-Mini-Instruct模型,展示了一种将小模型魔改为MoE的新路径;同时,社区涌现出实用的【网页设计Skill】工具和【本地高性能推理】配置分享。