兼容国产算力 大模型服务平台AI Max发布

兼容国产算力 大模型服务平台AI Max发布
2024年06月28日 19:14 北京日报

伴随大模型落地从通用技术进步逐步迈向行业可用,6月28日,蚂蚁数科发布大模型服务平台AI Max,其兼容适配主流开源大模型、国产算力,向企业提供进行模型训练、部署、评估、优化等一站式模型工作台,并实现可视化研发、管理多种具备行业知识库的Agent(智能体)应用,助力企业跑完企业AI应用业务落地的最后一公里。

“大模型的高速发展使得AI不得不面临算力管理复杂、训练推理成本高、任务调度难等多方面发展瓶颈,云原生凭借其高可用、弹性、可扩展等优势成为突破AI困境的关键。”中国信息通信研究院云大所副所长栗蔚认为,云原生PaaS平台的大模型产品工具链不断完善,将加速大模型技术在行业应用中落地。

蚂蚁数科云原生产品资深总监马振雄介绍,对企业来说,大模型训练耗时耗力耗资源,AI Max不仅支持主流开源大模型的一键微调训练,还提供三步即完成的零代码模型开发环境,把原先耗费至少3天的训练缩短至1小时。蚂蚁自研的预训练模型与先进的多模态算法,仅需小量数据即可进行训练,进一步提升数据的利用率和模型训练的效率。

据了解,AI Max支持多种国产GPU算力平台部署,企业可以按需灵活使用资源,使得有限的GPU资源可以被高效利用,并降低服务器使用成本。

自3月份独立化运营以来,蚂蚁数科悄然推进AI(人工智能) toB(企业级)战略,SOFAStack、蚁盾等多个代表性产品均发布了大模型相关服务,借助AI技术助力产业智能化升级。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部