论道智算 | 生态破局企业 AI 落地难题

青云科技 2024 AI 算力发布会成功举办，以 “无界算力，共创数智未来” 为主题，全面展示了青云在 AI 算力领域的产品创新、生态建设及场景落地成果。

青云科技副总裁沈鸥与中科曙光智能计算产品事业部副总经理胡晓东、中关村科服副总经理陈俊豪、智谱 VP 闻剑辉、升哲科技首席架构师张国栋等合作伙伴代表，就“智算生态协同创新，构建企业数智未来”坐而论道，展开深入交流。

企业应用 AI 的挑战与困难

主持人：2023 年常被视作 AIGC 元年，2024 年则被称为 AIGC 的应用之年。当前，企业对于使用 AI、引入 AI 的意愿极为强烈，但实际上，在这个过程中企业会面临诸多挑战与困难。下面请各位嘉宾来依次谈谈如何看待企业应用 AI 时所遇到的挑战和困难。

张国栋：升哲科技基于算力底座以物联网和人工智能为依托，提供城市级的数据服务，因此我们会做大规模城市治理等相关应用的开发。目前，我们已在平台中引入多模态大模型，对业务流程进行改造。当前面临的最大挑战在于，多模态、大模型的使用方式与传统模型差异显著，整个用户逻辑、界面交互流程以及使用方法都与以往大不相同。我们仍在摸索当中，同时也在与各地用户共同打磨、尝试，以期找到更好的逻辑，充分发挥多模态、大模型的强大威力。此外，我们发现目前市面上熟悉多模态、包括大语言模型的产品经理，以及懂得如何运用的工程师较为稀缺。

闻剑辉：就人工智能应用而言，智谱观察到，当前客户面临的最大挑战或许在于自我革命。如今，真正在人工智能应用方面推广力度较大的往往是超大规模企业，因为他们资金充裕且有长远规划。还有一些技术、市场驱动的企业，他们积极主动拥抱未来，希望借此提升自身生产力。然而，对于一些中型企业或传统行业来说，相对而言包袱较重。一方面，他们需要看清大模型的发展路径，另一方面，颠覆自身所有业务模式以及 IT 构建模式对他们而言难度颇大。从这个角度来看，无论是大模型的生态建设，包括底层算力和上层应用，大家都只有不断创新，真正向客户展现出应用价值和未来创新价值，才能将大模型真正应用于千行百业。

胡晓东：中科曙光聚焦于算力底座这一层，从与各行业的合作沟通经验来看，我们认为，对于企业而言，关键在于如何充分挖掘自身的场景价值和数据价值。此前我们谈到 2023 年是 AIGC 元年，实际上在 2023 年，新的大模型持续发布，趋势十分明显。而到了 2024 年，大家都在致力于实现自身行业的垂直落地，大模型的发布节奏反而会稍缓一些。对于企业来说，AI 的几大要素包括算力、算法和数据。算力无疑是非常重要且热门的，在算法方面，大家都在积极发展大模型，国内外在算法上处于互相追赶的状态。实际上，在企业应用上，更为重要的是数据。我们常说 AI 赋能千行百业，专有的数据和场景才是千行百业的特征所在。企业不可能完全依赖一个第三方来发展 AI，必须联合起来，既有外部的算力专家和算法专家，同时也有了解企业内部场景和应用数据的人员，共同进行抽象和挖掘，提炼出特有的行业属性，才能促进企业的深层应用，推动垂类 AI 场景实现更好的发展。

陈俊豪：中关村科服有几个方面的认识：其一，作为北京市属国企，除了我们这类服务科技创新的企业，还有很多是服务民生及基础设施建设运营的企业，第一个问题便是如何将自身的服务产品与客户数据和模型相结合，获得高质量、可用于训练和推理的数据，这个事颇具难度，是当下传统行业以及国央企要积极拥抱人工智能但又有实现障碍的原因之一。

其二，中关村在北京有十几个园区，在北京之外还有几十个园区，园区里汇聚了相当数量的科技企业。如何让这些企业用上更便宜的算力，是一个关键问题。正如青云科技分享了许多关于多卡、异构、国产算力与进口算力的适配等情况，对用户来说还有很多障碍。我们也在思考究竟是投入算力基础设施建设，还是与青云这样的生态伙伴共同打造一个智算服务平台。

其三，我们特别希望能够扶持国内的国产算力企业，包括芯片企业。我兼任中关村芯园的董事长，芯园为一大批芯片设计企业提供流片等服务，我们同样希望能够早日用上我们自己的国产算力。

沈鸥：我想表达两点：第一， AI 对于传统的 IT 基础架构、传统应用而言都是颠覆性的。正如刚才闻总所说，对于算力建设者来说，这种颠覆性意味着他们需要理解大模型建设背后的深层次技术能力是如何达成的，他们首先要在自身的组织架构以及知识体系上进行一些重构。

第二，评估以何种方式去构建与大模型相关的应用系统和系统架构，这对于大多数企业而言都是一个新的课题，这也正是为什么刚才花费了较多时间来介绍青云在各个行业和场景中的挑战和 AI 建设场景。我们遇到了不少客户，他们提出的问题仍然是基于传统的 CPU 理念的，我们希望通过这样的场景介绍，为那些希望使用大模型应用的客户指出一条路，让他们知道起点在哪里，如何逐步走好建设大模型的道路。

生态合作才能更好实现 AI 落地

主持人：从今年人工智能产业的发展情况来看，所有企业都在谈论生态。在当前行业状态下，各位嘉宾是如何看待通过生态合作来实现更好的客户成就，或者帮助企业获得更好的产品或服务的？正好前面陈总谈到关于生态合作的一些想法，那这个问题先请陈总回答。

陈俊豪：先分享一个消息，中关村科服多次承办由北京市国资委主办的科创企业与北京市属国有企业应用场景发布对接会。最近一次预计在 12 月初，可能由京津冀三地国资委共同举办，欢迎今天在座的生态伙伴前来参与。

从我们自身的角度来看，如果大家现在都去建设算力基础设施，短期内可能会出现过剩的情况，最科学的方法是根据企业的实际需求提供全栈式解决方案。而这个全栈式解决方案从理论上讲不应该由一家企业来提供，也不可能形成一家独大的市场格局。我们作为第三方专业科技服务机构，希望在市里、区里相关政策的支持以及行业生态伙伴的合作下，以最少的成本为企业提供最好的服务，让大家在赚钱的前提下共同做好这件事，使所有相关产业链中的客户和服务者都能获得自己的应有收益。

我们期望这个生态更开放、更共享。我们后续还将进行一个开源社区的建设落地工作，包括与青云科技一起，针对某些应用场景，如数字医疗等场景进行生态开发，非常欢迎大家共同合作。

张国栋：升哲自身积累了物联网和人工智能方面的能力，拥有相关的软硬件资源。然而，在 IaaS 和 PaaS 部分，当一个城市接入成千上万个摄像头时，底层平台所承受的压力是巨大的。所以在这方面，我们每个算力中心基本上都是与青云合作，由青云为我们提供 IaaS 和 PaaS 的能力，这样我们便可以专心致志地做好应用服务工作。

闻剑辉：大模型技术从本质上来说是对传统人工智能的更新与迭代。大模型技术在应用侧，更为关键的是降低了应用开发厂商进入人工智能技术领域的门槛。所以实际上，大模型本身就是从根本上拥抱生态的产物。从整个生态建设的角度来看，最需要的是良好的土壤和空气。在这一点上，我们确实坚定不移地期望国家和政府能够给予相应的产业扶持，从而带动上下游企业共同发展。最后，我还是想强调，生态建设不光是我们同业之间的合作，更多的是需要涵盖我们的客户。只有将大家真正的场景落地，才能真正让这个生态进入正循环。

胡晓东：刚才沈总分享里 AI 架构图中，底层是算力底座，中间涵盖平台层、模型层以及一些行业应用，最上层则是用户。结合这张图来看，曙光作为底层算力底座，在推动我们的产品和方案时，要做的事情是从底座直接贯穿至上层用户场景。这样的业务特征决定了我们在生态中具有一项优势，即拉通作用。我们可以与客户共同分析业务需求，明确需要什么样的功能，如何对行业进行场景化分析，以及需要什么样的 ISV 等等。

即便我们的某个伙伴专注于某个层面，因为毕竟整个链条很长，我们可以并且愿意将分析出来的需求共享，以硬件为载体，与整个上下游拉通，形成整体解决方案。这是我们愿意提供的价值，并且我们希望以曙光的硬件作为载体，以场景作为切入点，将整个链条所需的厂商聚集在一起，共同推进，让千行百业的场景得以落地。

沈鸥：建设生态是青云在整个智算建设过程中最为看重的一点，对于主持人的问题，我稍作延展。在整个生态合作当中，如何让生态合作伙伴建立起更好的互信，从而使这个生态真正落地，我认为是关键所在，这并非仅仅依靠一个纸面签字或者单纯进行技术对接就能实现的。

我们希望能够从客户的实际业务场景出发，共同规划和验证，和方案落地实施。只有当各方的解决方案合作起来，真正解决客户的痛点和难点，让客户觉得物有所值时，客户才会买单。只有当多方合作形成的方案被复制，被更大客户所应用，才能带来更好的经济效益，推动大家继续前行。因此，我们需要先彼此达成共识，明确目标，为商业合作的达成共同努力。

企业 AI 投资的 ROI 如何保障

主持人：在近两年的访谈当中，我们发现，企业常常在大模型投入方面表现得特别迟疑或者担忧。他们尤其担心自身的资源投入与回报周期不匹配，大家都在思索投资回报率（ROI）究竟如何，都期望找到良好的解决方案来推进这件事。关于这个问题，我想先请从事大模型相关工作的闻总谈谈看法。

闻剑辉：这确实是一个颇为难答的问题。但有一点是明确的，大模型的未来或者说人工智能的未来是不可逆转的。正如我一开始所说，很多客户要么具备规划能力，要么有着进行变革、创新的紧迫需求，所以往往会更快地接触这些新技术。对于很多中型企业或者有一定资金能力但目前仍在迟疑的客户，我个人的建议是，大家可以跨过浅水区，直接进入深水区。如果一项技术能够给企业带来革新，尤其是对核心应用的革新，相信每个企业都会进行资金投入的尝试。

但如果大家认为大模型目前只能解决一些浅显的问题，那么确实可能会迟疑。但大模型技术的更新迭代非常快，我们今天的投入可能在三个月、六个月内看不到结果，但三个月、六个月之后的大模型技术或许真的能够让他们获得一些成果。所以，我觉得那些迟疑的企业可以跨过浅层应用，直接到深水区进行尝试。

胡晓东：这个问题归根结底是要解决投入与产出之间如何匹配的问题。首先是选择适合自身的投入方式。实际上，企业的定位各不相同，如果让每个企业购买千张卡去构建自己的大模型，这肯定不现实，也无法获得回报。企业需要考量自身的需求体量、业务特征以及此前的工作模式。比如，企业可以根据自身情况选择构建自己的集群进行微调，打造具有行业属性的模型。如果体量再小一些，可以考虑采用一体机或者利用线上资源池。总之，企业要选择与自身情况相匹配的投入方式。

其次是产出要有逐步的预期。不能期望立即产生回报、立即改变生产模式并实现降本增效。而是从改变某些局部业务场景开始，逐步深化到企业的更多层面。企业还是要先入场，只有先入场，才能在快速变化的环境中找到适合自己的模式。如果行动越来越慢，可能就更跟不上时代的潮流了。

陈俊豪：我们需要跳出来审视这个问题。从产品可复制、算力可复制以及能够无限获取边际收益的角度来看，我认为人工智能是一个永远不可逆的潮流。大家在与人工智能相关的所有事情上的投入，终将把人解放出来，最终可能只需要便宜的能源。而在这件事情上，政府和大型国央企或许会找到更好的解决方式。就大模型而言，边际收益一定是正的，并且一定是能够无限放大的。

沈鸥：在过去的三年多时间里，北美有几家公司从事无人卡车业务，从明星公司最高市值 120 亿美元，到现在基本上都黄了。为什么呢？看到一个观点，任何大模型、AI 智能要在场景落地时，一定要回到这个场景最本质的地方去理解整个业务的链路，以及与业务相关联的各个利益方到底是如何考虑和参与的。只有找准了真正能解决痛点、带来现金流的场景时，无论是用户方还是技术方，大家都会非常愿意投入。

所以说，大模型相关的投资回报率（ROI）到底是高还是低呢？我认为有两个维度：第一个维度，大模型对于整个产业来说是革命性的变革，如果现在不投入，可能就会落后。这也是为什么这两年大家拼命投入智算中心，不计成本地进行 AI 应用开发，就怕晚了一步。第二个维度，选择真正能通过 AI 工具带来质变的场景和应用。当成功做出一个案例时，后续就很容易迭代和快速复制，到那时 ROI 这件事就会变得相对容易。这就要看企业思考哪个维度优先，不同的企业会有不同的选择。

如何看待开放与标准化

主持人：我们今年看到“人工智能+”成为非常重要的战略，大家也在探讨算力中心的互联互通、大模型的标准以及操作性。从技术开放、开源、标准化的角度来讲，对 AI 生态有哪些助力？

沈鸥：在过去的一年里，青云积极参与到国家的一些标准建设当中，包括参加了许多信通院的标准制定工作。在国家算力互联互通的测试验证中，青云也是第一批完成相关技术验证工作的企业。

刚才介绍时提到，青云在构建生态时有一个重要利器，那就是云原生平台，这是基于我们的开源社区所打造的非常强大的产品，现在 K8s 是智算相关技术依赖的的一个重要基础，无论从事存储、网络还是其他方面的工作，包括像英伟达所提供的产品服务 NIM，都是基于云原生 Kubernetes。大家相互之间使用同一种技术，同一个技术平台进行沟通，会变得非常方便。国家层面正在建立互联互通标准，而我们则建立企业与企业之间在技术对接平台的标准。这些标准结合在一起，会对 AI 产业的发展起到非常大的推动作用。

陈俊豪：中关村科服对政府部门的一些相关政策和支持会更为了解，包括市经信局、市科委、市发改委、市国资委在冗余资源的组织、公共服务能力方面，甚至是对企业的投入补贴、使用推广以及相应的对客户的补贴等方面，我们可以进行一些对接。

胡晓东：首先，开放无疑是当前行业中不可回避的问题，更是主旋律。在传统观念中，企业有上下游的概念，但在人工智能领域，可能并非传统的上下游概念。智算中心更像是一个全连接的存在，只有这样才能屏蔽一些困难。比如，不同行业的场景提供商无需关心底层云平台采用何种调度策略，而对于同样的行业厂商来说，他们关心的是将软件层对接好，无需理会底层的硬件是何种芯片或服务器。这样的模式决定了不同的合作方向。只有实现全面连接，才能推动这个行业快速发展。如果选择一条封闭的道路，很快就会与大的发展趋势脱节。

另一点是标准化。我们需要建立一个统一标准，曙光也同样参与了一些信通院的标准制定工作，包括如何进行平台适配、调度、切分以及接口设计等。这样能够形成行业的高效合作，减少沟通时间，让各家更加专注于自己的领域，做好迭代，促进一个更加完整的产业链良性发展。

闻剑辉：如今可以说我们处于一个万众创新的时代。我们的同业与我们的客户共同摸索创新，最终目的是为了百花齐放。既然国家制定了发展新质生产力的大战略，我们期望在大战略的引领下，大家能够将各自的优势发挥得更加淋漓尽致，只有这样，我们的未来才可能相对更加便捷，也能够让我们更加快速地看到成果。

张国栋：从实际应用的角度来说，国家制定标准是一件好事。我们现在使用过很多开源或者闭源的大模型，目前大家基本对 OpenAI 的协议都是兼容的，都可以进行调用。但是，在一些特别的功能上，比如对一些图片进行检测或者分割的时候，每家的语法还是不太一样，这一方面的统一标准很难制定出来，相信标准的制定出来会对行业有更多推动作用。

对行业的期待

主持人：最后我想请各位专家、嘉宾用一句话说一下自己，对 AI、对算力行业的期待。

张国栋：人工智能已经在悄悄改变我们的工作和生活。

闻剑辉：分享智谱坚信的一句话：让机器像人一样思考。

胡晓东：希望和大家一起携手创新，开放共赢。

陈俊豪：祝愿每一家企业都能用算力助力自己发展。

沈鸥：我来收尾，要求一个“特权”，说两句话。第一句是代表公司，我们希望整个 AI 的发展越来越好，能真正渗透到千行百业，为企业的发展助力。第二句是代表个人，我希望像具身机器人这些新的 AI 技术，能解决越来越多的现实生活问题，比如养老。