探访数云原力大会:如何推动AI大模型应用落地?丨数字中国行

探访数云原力大会:如何推动AI大模型应用落地?丨数字中国行
2024年05月17日 14:36 一财网

当前,企业的AI变革面临价值、技术、路径等多个层面的复杂问题需要解决。

2024年被认为是AI大模型落地应用的元年。

由于此前有chatGPT这一现象级应用的出现,所有人都意识到AI大模型技术将给各行各业带来爆炸性、颠覆性的影响。许多企业对大模型一边充满期待,一边又十分焦虑,希望能够尽快应用起来,但却不太清楚如何使用。目前大模型技术的能力与行业的应用落地间还存在哪些差距,如何推动AI大模型应用着陆?

日前,在由神州控股(00861.HK)、神州信息(000555.SZ)、神州数码集团(000034.SZ)联合举办的数云原力大会2024上,神州数码副总裁、CTO李刚表示,当“致广大”已被充分表达,坚定以客户为中心的“尽精微”,才是真正实现AI着陆的当务之急。

AI Agent重塑企业运营方式

想象一下,在企业运营中,每个决策都能基于深入的数据分析,客户服务能够个性化到满足每个用户的需求,而内部流程自动化到几乎不需要人工监督。这不是未来的幻想,而是AIAgent正在引领的企业革命。

“Agent”,中文意思是代理人。那么,AI Agent是什么?简单来说,一个由AI技术加持的代理人,它变得更聪明了,可以感知周围的环境,并且能够独立地思考和行动。

AI正在从简单的工具(Tool),进化为复杂的助手(Copilot)乃至代理(Agent)。这一转变的拐点在于AI技术在深度学习和自主决策能力的突破。

那么,以大模型为“大脑”的AI Agent(人工智能体)是如何帮助企业解决问题?主要分为以下步骤:

任务理解:AI Agent首先需要理解任务的背景和目标,包括任务的输入、输出和约束条件。它可能需要分析任务描述、问题陈述或用户指令等。

数据收集和预处理:AI Agent需要收集相关的数据,这些数据可以是结构化数据(如数据库、表格等)或非结构化数据(如文本、图像、音频等)。同时,它可能需要对数据进行预处理,如数据清洗、特征提取、降噪等,以便后续的分析和建模。

特征提取和表示学习:AI Agent可能会使用机器学习技术来提取数据的有用特征。这可以涉及到从原始数据中提取特征,或者使用深度学习技术进行端到端的表示学习。

模型选择和训练:AI Agent需要选择适当的模型来解决任务。这可能包括传统的机器学习算法或深度学习模型。然后,它会使用已收集和预处理的数据来训练选定的模型。

模型评估和调优:AI Agent需要评估训练好的模型的性能。它可能使用一些评估指标(如准确率、召回率等)来衡量模型的质量。如果模型的性能不够好,AI Agent可能需要调整模型的超参数、改进数据预处理方法或选择其他模型。

解决方案生成和输出:最后,AI Agent根据训练好的模型和输入的任务需求,生成最合适的解决方案并输出。这可以是一个预测、分类、推荐、优化等,具体取决于任务的要求。

李刚表示,在传统的数字化应用场景,比如说做个ERP系统,业务人员一旦提出需求,解决方案的供应商就有一个完全成熟的标准化体系,帮它分解成为一个应用软件。但大模型不一样,大模型是个全新的技术范式,它需要一种新的思路。怎么去设计Agent,怎么在一个Agent里面,把规划、执行等步骤分配到不同的模型上去实现,大家都在摸索这套新的范式,尤其对于企业来说,它很难快速掌握这一套范式。

工程化的Agent开发使得传统AI开发中的繁琐与低效被彻底颠覆。李刚表示,神州问学的Agent工程平台就是帮助企业简化其中的技术难点,让企业能够快速利用这个平台搭建自己的大模型应用。该平台提供一套标准化流程和最佳实践模板,使得Agent的创建不再是孤立的、一次性的任务,而是能够遵循明确的步骤不断迭代优化,形成工程化的工作流。通过智能插件集成、知识挂载、多轮对话支持等功能,Agent不仅能够精准执行任务,还能自我学习、自我调整,实现与用户意图的深度匹配。

在2024数云原力大会现场,李刚销售场景的应用为例,从分析客户信息、合作机会,到结合公司内部CRM系统以及外部招标网站、新闻网站的信息,最后给出信息汇总和具体的客户拜访提示,演示AI Agent如何帮助销售人员实现销售效率的提升。

可以看出,仅销售这一个应用场景,背后就会涉及到多个企业的IT信息系统、多个外部信息源的对接、多个子任务的规划、多个知识源的治理对接,还有多次模型的微调,而这些都必须在企业的私域场景去完成。李刚表示,企业的AI原生创新需要一个平台来持续赋能和加速。

“我们通过从类似销售这一类的小场景入手,为企业创造价值,同时帮助企业在神州问学平台上积累数据和经验,持续深化知识治理,通过成功验证的小Agent编排组装成能够执行更复杂任务的大型Agent。企业在神州问学上完成的工作越多,积累的Agent的能力就会越强,企业的模型也会越来越大。”李刚表示。

一旦AI Agent能够准确理解复杂的任务需求、自主选择最合适的解决方案,并有效控制任务进度,就能帮助企业实现智能化转型,推动生产力的指数级增长。

AI应用落地需与行业Know-How深度融合

在推动大模型行业应用的过程中,需要将行业知识内化到大模型的参数中,提升大模型理解行业特定术语和正确应用行业知识的能力,从而更好地适应行业内的多样化场景,提供更加贴合实际需求的解决方案。

然而,搭建行业或企业知识库体系也面临一些难点和挑战。首先,知识库体系需要收集和整理大量的数据和知识资源,而这些资源可能来自不同的部门、系统和格式,需要进行数据清洗、整合和标准化等工作,这是一个复杂且耗时的过程;其次,知识库体系需要建立有效的数据存储、检索机制和治理体系,以便实现知识资源的高效利用和转化;此外,知识库体系还需要考虑数据的隐私和安全问题,保护敏感信息不被泄露或滥用。

在知识治理方面,神州问学引入了自动化标注模型,极大简化了数据和知识资源的整理与应用。针对如医药行业客户所面临的海量医疗文档治理挑战,平台的文档布局拆解工具和专业训练模型将人工干预的文档量从46万份减少至1000份以内,实现了知识治理的自动化飞跃。这一转变不仅提升了数据处理效率,更为企业构建了一个精准、高效的知识检索体系,为AI应用的深度学习和决策支持打下了坚实的基础。

李刚表示,在神州问学AI原生赋能平台支持下,神州数码已经完成在HR、法务、财务等通用知识密集型领域的AI应用着陆。除此以外,通过与企业或者政府机构合作,专注于一些专业领域,比如金融科技、汽车、政务、供应链,将AI技术、云原生、数字孪生技术跟相关的业务Know-How进行更为深入的融合,进一步重构、创新一些新的业务模式。

据悉,在金融科技领域,神州信息九天揽月云原生金融PaaS平台融合“AI+”,从软件建模、代码生成、智能运维等场景,实现AI技术的落地,大大提升了金融软件的研发质效,帮助金融机构实现创新的降本增效和提质增速。

在供应链场景下,神州控股供应链解决方案总监田联平在接受第一财经采访时表示,神州控股通过搭建数智供应链决策平台,在把采购需求、生产及物流数据集成到数据模型的基础上,搭建供应链数字孪生环境,结合规则和业务模型、以及智能优化决策算法,实现AI对供应链场景的赋能。

在助力地方产业发展方面,神州控股解决方案中心总经理崔学文表示,神州控股以城市CTO模式与政府合作,以仿真模型+知识图谱+人工智能为核心,构建“算力、算据、算法”一体化算力中心架构,赋能B端客户推动当地产业发展。以长春新区为例,依托吉林当地中药材库数据、药企研发资源以及深厚的传统中医药文化背景,神州控股开发中药材大模型,赋能药企、中医院及整个中药开发产业链,提升中国在中药材领域的定标定质话语权,推动中药市场的健康发展。

AI生态完善有助企业AI变革

当前,企业的AI变革面临着许多复杂的问题需要迎头解决。在价值层面,企业需要明确AI在业务中的实际应用价值,以确保投资和资源的有效利用。技术层面上,企业需要寻找适合自身需求的AI技术,以及解决数据质量、算法选择和模型训练等技术挑战。在路径层面上,企业需要制定明确的AI发展战略和实施计划,以确保实际落地的顺利推进。

与此同时,许多AI产品和技术厂商也在推动AI的落地应用,但也面临着一些客观的挑战。首先,客户需求不明确是一个重要问题。由于AI技术的复杂性,许多企业并不清楚如何应用AI来解决实际业务问题。其次,交付能力不足也是一个挑战,虽然有许多AI产品和技术可供选择,但很多企业缺乏实际的技术实施和项目管理能力,导致无法顺利将AI落地应用到业务中。

另外,AI人才的短缺是一个巨大的问题。由于AI领域的迅速发展和需求的增加,市场上缺乏足够的具备AI专业知识和实践经验的人才。这使得企业在招聘和培养AI人才方面遇到了困难,影响了企业实施AI战略和推动AI变革的能力。

李刚表示,当一个全新的技术进入到企业中,往往面临认知的挑战。与此前几次技术革命不同,本次AI浪潮下,因为有了ChatGPT这样的超级应用出现,每个人似乎都提前摸到了这个新技术,但由于认知往往是碎片化的,需要将企业对AI的认知从碎片化变成体系化、系统化,这样才能避免企业在AI落地应用过程中遇到一些问题或踩一些坑。

本次数云原力大会上,神州数码也正式启动“DC·AI生态创新中心”。未来三年,神州数码将聚合全球顶尖科技力量,联合多维度生态伙伴,围绕方案共建、人才培训、市场牵引三个维度,构建AI生态加速引擎,持续推动AI着陆加速。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部