蚂蚁集团cto何征宇:坚决投入大模型底层基础设施,已建成万卡ai集群-米乐app官网登录
米乐m6苹果米乐m6苹果官网下载官网下载首页 新闻 国内 聚焦 教育 关注 热点 要闻 民生 国际

蚂蚁集团cto何征宇:坚决投入大模型底层基础设施,已建成万卡ai集群-米乐app官网登录

来源:it之家    发布时间:2023-09-09 12:15:27  阅读量:5117   

9 月 8 日下午消息,在 2023 外滩大会上,蚂蚁集团宣布发布金融大模型,并开源生成式 ai 编程平台 codefuse。

蚂蚁集团首席技术官、平台技术事业群总裁何征宇在接受采访时介绍,蚂蚁大模型走纯自研的技术路线,以全栈布局、长线发展为原则,以创造产业价值为目标。为此,蚂蚁坚决投入大模型底层基础设施,目前已建成万卡 ai 集群,训练效率领先行业,为大模型产业化应用提供有力支撑。

何征宇介绍,蚂蚁一直以来坚持核心技术自主创新,2022 年底正式立项大模型研发,目前已形成从基础大模型到行业大模型以及产业应用的全栈布局。

今天发布的蚂蚁金融大模型基于蚂蚁基础大模型,针对金融产业深度定制。何征宇介绍,蚂蚁基础大模型平台具备万卡异构集群,其中千卡规模训练 mfu 可达到 40%,集群有效训练时长占比 90% 以上,rlhf 训练在同等模型效果下训练吞吐性能相较于业界方案提升 3.59 倍,推理性能相较于业界方案提升约 2 倍,处于业界先进水平。

何征宇表示,未来蚂蚁将持续探索和精进大模型的五大能力方向。一是,建设高质量的数据标注团队,沉淀高质量数据体系;二是,攻坚基础大模型算法,以及高效绿色工程能力,提升模型逻辑推理等能力;三是,从通用语言大模型到通用多模态大模型,从一般通识走向全面专业;四是,建设高效的大模型评测标准和评测体系,加快大模型迭代速度;五是,建设大模型安全能力,保障大模型健康可持续发展。

广告声明:文内含有的对外跳转链接,用于传递更多信息,节省甄选时间,结果仅供参考,it之家所有文章均包含本声明。

声明:本网转发此文章,旨在为读者提供更多信息资讯,所涉内容不构成投资、消费建议。文章事实如有疑问,请与有关方核实,文章观点非本网观点,仅供读者参考。

关于米乐app官网登录 | 米乐app官网登录的版权声明 | 客服中心 | 广告服务 | 网站地图

米乐app官网登录 copyright @2008- 中国经贸网 米乐app官网登录的版权所有
本站点信息未经允许不得复制或镜像
营业执照公示信息



 
网站地图