封面新闻记者 欧阳宏宇
4月29日凌晨,阿里巴巴开源新一代通义千问模型Qwen3(简称千问3)。据介绍,该通用大模型参数量仅为DeepSeek-R1的1/3,成本大幅下降,性能全面超越R1、OpenAI-o1等。
公开资料显示,千问3是国内首个“混合推理模型”,“快思考”与“慢思考”集成进同一个模型,大大节省了算力消耗。
据了解,千问3采用混合专家(MoE)架构,总参数量235B,激活仅需22B,预训练数据量达36T tokens,并在后训练阶段经过多轮强化学习,将非思考模式无缝整合到思考模型中。在推理、指令遵循、工具调用、多语言能力等方面均大幅增强。
目前,千问3模型版本包含2款30B、235B的MoE模型,以及0.6B、1.7B、4B、8B、14B、32B等6款密集模型。
值得注意的是,性能提升的同时,千问3的部署成本还大幅下降,仅需4张H20即可部署千问3满血版,显存占用仅为性能相近模型的三分之一。
更新时间:2025-05-04
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2020-=date("Y",time());?> All Rights Reserved. Powered By 71396.com 闽ICP备11008920号
闽公网安备35020302034903号