2025-03-06 09:12:39 科技
3 月 6 日消息,研究表明,强化学习可以显著提高模型的推理能力,例如 DeepSeek-R1 通过整合冷启动数据和多阶段训练,实现了最先进的(de)性(xìng)能(néng),使(shǐ)其(qí)能够进行深度思考和复杂推理。
阿里云通义千问官方宣布推出最新的推理模型 QwQ-32B。这是一款拥有 320 亿参数的模型,其性能可与具备(bèi) 6710 亿(yì)参(cān)数(shù)(其(qí)中(zhōng) 370 亿(yì)被(bèi)激(jī)活(huó))的(de) DeepSeek-R1 媲(pì)美(měi)。
这(zhè)一(yī)成(chéng)果(guǒ)凸(tū)显(xiǎn)了(le)将(jiāng)强(qiáng)化(huà)学(xué)习(xí)应(yīng)用(yòng)于(yú)经(jīng)过(guò)大(dà)规(guī)模(mó)预(yù)训(xun)练(liàn)的(de)强(qiáng)大(dà)基础模型的有效性。此外,我们还在推理模型中集成了与 Agent 相关的能力,使其能够在使用工具的同时进行批判性思考,并根据环境反馈调整推理过程。
目前,QwQ-32B 已在Hugging Face(https://huggingface.co/Qwen/QwQ-32B)和ModelScope(https://modelscope.cn/models/Qwen/QwQ-32B)开源,并采用了 Apache 2.0 开源协议。IT之家提醒,用户也可以通过Qwen Chat(https://chat.qwen.ai/?models=Qwen2.5-Plus)直接进行体验。

性能方面,阿里云对 QwQ-32B 测试了数学推理、编程能力和通用能力,并展示了 QwQ-32B 与其他领先模型的性能对比,包括DeepSeek-R1-Distilled-Qwen-32B、DeepSeek-R1-Distilled-Llama-70B、o1-mini 以及原始的 DeepSeek-R1。
在测试数学能力的 AIME24 评测集上,以及评估代码能力的 LiveCodeBench 中,千问 QwQ-32B 表现与 DeepSeek-R1 相当,远胜于 o1-mini 及相同尺寸的 R1 蒸馏模型;在由 Meta 首席科学家杨立昆领衔的“最难 LLMs 评测榜” LiveBench、谷歌等提出的指令遵循能力 IFEval 评测集、由加州大学伯克利分校等提出的评估准确调用函数或工具方面的 BFCL 测试中,千问 QwQ-32B 的得分均超越了 DeepSeek- R1。
阿里云表示,这是 Qwen 在大规模强化学习(RL)以增强推理能力方面的第一步。通过这一旅程,不仅见证了扩展 RL 的巨大潜力,还认识到预训练语言模型中尚未开发的可能性。
在致力于开发下一代 Qwen 的过程中,阿里云计划将更强大的基础模型与依托规模化计算资源的 RL 相结合,从而使其更接近实现人工通用智能(AGI)。此(cǐ)外(wài),阿(ā)里云正积极探索将智能体与 RL 集成,以实现长时推理,目标是通过推理时(shí)间(jiān)扩(kuò)展(zhǎn)来(lái)释(shì)放(fàng)更(gèng)高的智能,敬请期待。
电话:0755-80653329
传真:021-53298820
商务合作:@hanhaogt.com
廉洁邮箱:AI_AC@hanhaogt.com
电话:0755-80653329
传真:021-53298820
商务合作:@hanhaogt.com
廉洁邮箱:AI_AC@hanhaogt.com
© 2025 科技(中国)有限公司 - 版权所有 不得转载
【鲁ICP备19026331号】
网站地图