腾讯云升级 AI 全家桶,混元对标 GPT-4o

腾讯云升级 AI 全家桶,混元对标 GPT-4o
2024年09月06日 17:15 极客公园

9 月 5 日,2024 腾讯全球数字生态大会在深圳国际会展中心举行。

在大会上,腾讯集团高级执行副总裁、云与智慧产业事业群 CEO 汤道生披露了腾讯云过去一年的成绩:与伙伴共同服务的客户数超过 200 万家,百万级订单的合作伙伴数量实现两位数增长,众多 SaaS 伙伴收入翻倍,国际业务增速也保持在两位数以上。

此外,在 AI 方面,腾讯云这次也公布了一系列进展。首先是发布了新一代大模型「混元 Turbo」,相较前代,混元 Turbo 性能大幅提升:训练效率提高 108%,推理效率提升 100%,推理成本降低 50%,目前,混元 Turbo 已在腾讯云上线,提供多个版本供企业和开发者使用。

同时,在大会上,腾讯云还发布了 AI infra 品牌「腾讯云智算」,一个集计算、存储、网络为一体的高性能智能计算平台,提供了领先的 AI 计算能力;并推出了 RAG 解决方案,支持企业用多种技术「量身定制」AI 大模型应用,进一步拓展了 AI 应用的灵活性和适用范围。

而面对国内企业所面临的更普遍的「内卷式竞争」的困境,汤道生在会上还提出了「破局增长」的三个方向:以数提效、顺势而为、扬帆出海,建议企业应聚焦核心场景提升效率、抓住新产业机会、开拓全球市场,探索产业新的发展机遇。

01 对标 GPT-4o,腾讯混元再升级

在这次大会上,腾讯发布了新一代大模型「混元 Turbo」,相较前代,混元 Turbo 性能大幅提升:训练效率提高 108%,推理效率提升 100%,推理成本降低 50%。效果在多个基准测试上对标 GPT-4o,且第三方测评居国内第一。

目前,混元 Turbo 已在腾讯云上线,提供 Turbo、Pro、Standard、Lite 等多个版本,企业和开发者可以直接在云上接入使用,输入和输出价格仅为前代模型的一半。混元 Turbo 还开放了代码生成、角色扮演、Functioncall 等功能,企业可通过腾讯云 TI 平台对模型进行精细调整,实现定制化应用。

汤道生表示,随着大模型与生成式 AI 的技术突破,图片、视频、语言的理解与生成已经有很大进步,人与人的沟通、人与系统的交互方式,都可能会被重塑。最近半年,产业界的关注点也从模型技术的本身转向了智能应用的落地。

据了解,腾讯已经构建起了全链路的大模型产品矩阵,包括基础设施、专属模型训练平台 TI、行业大模型解决方案、自研混元大模型,以及一系列基于大模型的智能应用。

会上,腾讯 AI 应用「元宝」品牌智能体专区正式上线,首批邀请 11 家合作伙伴入驻,涵盖工作提效和生活娱乐等多个场景,用户可在「腾讯元宝」APP 上直接进行体验。

「面向场景创造价值才是大模型发展的意义。」腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声表示,大模型已经在全球发展了两年,一方面,模型性能不断提升,围绕着模型的产品使用门槛变得更低、更加易用;另一方面,企业积极探索大模型与自身业务场景的结合,大模型的落地场景变得更丰富、更纵深。

目前,腾讯已经有 700 多款产品接入混元大模型,包含腾讯元宝、腾讯云、QQ、微信读书、腾讯新闻、腾讯客服等。此前,腾讯旗下协作 SaaS(软件即服务)产品已全面接入腾讯混元大模型。

同时,腾讯全矩阵的大模型产品目前已经在知识管理、智能客服、研发提效、智能营销、内容生成、办公协同、风险管控等落地。

02 新发布 AI infra 品牌「腾讯云智算」和 RAG 解决方案

在大会上,腾讯云还发布了 AI infra 品牌「腾讯云智算」,并推出了 RAG 解决方案,进一步展示了其在 AI 计算基础设施和大模型应用定制上的能力。

「腾讯云智算」是腾讯云打造的集计算、存储、网络为一体的高性能智能计算平台。该平台整合了腾讯云高性能计算 HCC、高性能网络 IHN 星脉、高性能云存储、加速框架、容器、向量数据库等多项腾讯云的优势产品,提供了性能领先、多芯兼容、灵活部署的 AI 计算能力。

在稳定性和性能上,腾讯云的集群千卡单日故障数已经刷新到 0.16,是行业水平的 1/3;1 分钟就能完成万卡 checkpoint 写入,数据读写效率是业界 10 倍;千卡集群的通信时间缩短到 6%,是业界一半。

同时,通过整合软硬件技术能力,腾讯云智算集群从机器上架到开始训练可以做到只需 1 天,相比业界以月为单位也大为缩短。

腾讯云智算的灵活性也体现在其支持多种云部署方式,包括公有云、私有云和分布式云,使其成为国内大模型厂商的优选解决方案,同时也帮助大量 IDC 厂商向 AIDC 转型。

除了「腾讯云智算」,腾讯云这次还发布了 RAG 解决方案,支持企业用多种技术「量身定制」AI 大模型应用。

该方案包括兼容 Elastic 开源生态的腾讯云智能搜索(腾讯云 Elasticsearch Service)以及腾讯云自研的向量数据库,帮助企业根据架构、数据类型和技术生态灵活选择合适的组件。

腾讯云智能搜索提供了从模型管理、向量生成、向量存储、混合搜索、结果重排到大模型集成的全链路 RAG 能力。企业仅需使用 Elastic 的技术栈,就能快速搭建 AI 应用。

该技术已经成功支持了微信读书的「AI 问书」功能,为亿级用户提供毫秒级的检索服务,同时相比传统解决方案大幅降低了 90% 的机器成本。

针对数据规模大、数据类型多样的企业,腾讯云的向量数据库提供 2 倍于行业平均水平的吞吐能力和毫秒级响应延迟,支持千亿级的单表存储规模,为企业构建强大的 AI 数据中台,打造 RAG 应用基础设施。

03 汤道生:如何打破企业内卷

汤道生在会上指出,目前国内企业面临着内外部多重挑战,甚至陷入「内卷式竞争」的困境,但如果蛋糕不增长,结果就是「零和」游戏。

他认为,企业要想实现增长,关键在于打破常规,探索产业的新发展。

为此,他提出了企业破局增长的三个方向:以数提效、顺势而为、扬帆出海。

具体来说,第一个增长方法是以数提效,聚焦核心场景。汤道生强调,指望大模型在短期内给企业带来巨大变革并不现实,企业更应该借助 AI 在现有业务场景中提升效率、降低成本,这种稳健的路径更能够为企业带来长远的竞争力。

目前,腾讯的混元大模型已经落地到腾讯 700 多个业务场景中,同时,根据国内大模型评测机构 SuperCLUE 前天发布的最新报告,腾讯混元 Turbo 总分位列国内第一,在 11 个能力项测评中,8 项核心任务排名国内第一,中文场景效果对标 GPT-4o。

第二个增长思路是顺势而为,抓住新产业机会。汤道生提到,国家正大力推动新质生产力的发展,新能源、电动车、消费电子等新兴产业蓬勃兴起。在数字产业领域,国产软件企业也迎来了前所未有的发展机遇。

腾讯云积极响应国家政策,深耕基础软件、云计算、大数据、人工智能等核心技术领域,助力国产软件产业崛起,为企业增长开拓新的机会。

第三个增长机会是扬帆出海,开拓全球市场。当前,越来越多的中国企业将海外市场列为战略重点。相关机构调研显示,90% 的企业有意拓展国际业务,四分之一的企业计划在未来 1 到 3 年内优先布局海外市场。谈及企业出海的新机遇,汤道生表示,以「云」为载体的中国产业经验和科技优势,正在成为企业出海开拓全球市场的有力支撑。

汤道生指出,当前,企业出海模式已经发生转变,从原来「产品出海」发展到「平台出海」,供应链和商业模式向海外迁移,需要考虑系统、产品、数据和服务的打通,实现「全球一盘棋」管理,这对数字化基础设施和管理手段有很高的要求。

自 2016 年开始,腾讯云开展海外业务,也始终重视技术研发领域投入,自 2018 年至今 6 年多研发投入累计超过 3000 亿元,截至目前,腾讯云已经打造了遍布全球的云基础设施,覆盖五大洲 21 个地区,运营着 58 个可用区、3200 多个全球加速节点。

目前,腾讯云已经成功服务 10000 多家海外客户,国际业务连续三年保持双位数高速增长。截至目前,腾讯云在全球范围内拥有超过 11000 家合作伙伴,这些伙伴贡献了国际业务 80% 的收入。

*头图来源:腾讯云

本文为极客公园原创文章,转载请联系极客君微信 geekparkGO

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部