(资料图片仅供参考)
IT之家 9 月 8 日消息,在 2023 外滩大会上,蚂蚁集团宣布发布金融大模型,并开源生成式 AI 编程平台 CodeFuse。
蚂蚁集团首席技术官、平台技术事业群总裁何征宇在接受采访时介绍,蚂蚁大模型走纯自研的技术路线,以全栈布局、长线发展为原则,以创造产业价值为目标。为此,蚂蚁坚决投入大模型底层基础设施,目前已建成万卡 AI 集群,训练效率领先行业,为大模型产业化应用提供有力支撑。
何征宇介绍,蚂蚁一直以来坚持核心技术自主创新,2022 年底正式立项大模型研发,目前已形成从基础大模型到行业大模型以及产业应用的全栈布局。
今天发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。何征宇介绍,蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 MFU 可达到 40%,集群有效训练时长占比 90% 以上,RLHF 训练在同等模型效果下训练吞吐性能相较于业界方案提升 3.59 倍,推理性能相较于业界方案提升约 2 倍,处于业界先进水平。
何征宇表示,未来蚂蚁将持续探索和精进大模型的五大能力方向,IT之家总结如下: