为什么说边缘计算有望成就高通的“算力梦”

为什么说边缘计算有望成就高通的“算力梦”
2023年06月02日 16:25 选股宝APP

国盛证券表示,当前市场普遍聚焦于云端算力发展,忽视了边缘算力在AI乃至社会数字化发展中的重要地位。高通有望凭借其手机芯片,物联网芯片、通信芯片三大能力,成为边缘算力的“英伟达”

6月2日,边缘计算概念股持续活跃,美格智能强势涨停。

此前高通公司高级副总裁表示,高通正在从一家通信公司过渡到一家边缘计算公司。

国盛证券指出,与英伟达在计算能力相对应,高通在全球通信领域处于霸主地位,无论是从决定无线通信能力的基带产品,亦或是决定手机性能的手机芯片,高通都拥有绝对的全球领先地位。而随着“算力”成为AI时代的最宝贵资源,高通不满足于“通信”能力的领先,而是希望依靠通信能力和终端设备布局,从边缘侧进军被英伟达覆盖的算力领域。

国盛证券认为,随着AI刺激下,算力加速走向“泛在”,高通有望凭借其手机芯片,物联网芯片、通信芯片三大能力,成为边缘算力的“英伟达”。

国信证券还提到,目前具备运行优化模型能力的终端仅限头部品牌旗舰手机,随着AI大模型在边缘端落地,有望推动新一轮换机潮。

边缘算力优势

边缘算力,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的算力,边缘算力相较于云端算力,拥有低成本、低时延、高隐私三大特性。

1)低成本:当前主流的边缘算力平台主要采用高通主导下的ARM架构,相比于英伟达的复杂架构,ARM架构在小算力时拥有极低的单位成本,是降低开发与用户成本的必然选择。

2)低时延:边缘算力一般搭载在本地,无需将数据发送至云端并等待回传的时间,可以满足如自动驾驶,快速对话等对时延要求高的场景。

3)高隐私:边缘算力依靠设备本身搭载的算力或在用户自有服务器上的算力进行推理,可以实现数据不出用户管辖范围,对隐私的保护更好。

当下边缘算力主要有两种存在模式,一种是设备本身搭载的算力,这类算力通常依托边缘处理芯片存在,边缘处理芯片包括了手机终端上的骁龙与苹果M平台,面向IOT设备的如高通8155芯片或者专为AI优化的QCM8550芯片。通常,大单品采用直采芯片+定制PCB的形式进行开发,而中小厂商与细分垂直领域往往采购模组来满足算力需求。

第二种算力存在形式是边缘资源池,通常由离用户较近的核心城市内的数据中心构成,或者由厂区,道路旁的小机柜、算力盒子提供算力。

AI生态中最重要的组成部分之一

国盛证券指出,当前市场普遍聚焦于云端算力发展,忽视了边缘算力在AI乃至社会数字化发展中的重要地位。随着AI大模型应用逐渐渗透进入千行百业和各类垂直细分场景,单纯的大规模计算中心提供的算力将不能满足多样化的AI运算需求,其认为边缘算力具备不可或缺性:

第一,未来随着计算芯片加速发展,单位算力成本中,电费与土地费用占比将愈发提升,算力成本将取决于智算中心的地理位置,以我国举例,未来算力成本较低的西部将是云端算力主要部署地。因此,大算力与低时延需求将出现错配。

第二,AI模型推理Token费用较贵,如果需要成熟商用,边缘预处理将是必须选项。通过边缘部署的算力,将用户的多样化需求进行本地的预处理,简单的需求直接利用本地模型和算力推理,复杂需求通过边缘算力预处理后,精简成最少的TOKEN发送至云端,从而能够最低成本的实现应用功能,加速商业化。

最后,无论是对用户个人敏感数据进行推理,还是推理设计商业敏感数据,完全与云端隔绝的边缘算力,能为用户提供最好的数据安全保护。

国盛证券表示,在生成式AI爆发前,边缘算力已经逐渐渗透进了部分商用场景,如手机云游戏、无人设备驾驶、自动视频识别等。如今随着MLC-LLM,谷歌模型体系等软件基建加速,特斯拉机器人为具身智能完成物理基建,在终端设备上推理生成式模型,甚至让智能设备同物理世界自主交互的条件已经具备,未来随着应用加速渗透、预处理模型需求爆发,以及边缘小模型推理,智能设备物理交互需求爆发。

边缘端落地有望推动新一轮换机潮

国信证券还提到,AI部署本地化具有必要性,优势包括更低的延迟、更小的带宽、提高数据安全、保护数据隐私、高可靠性等。完整的大模型仅参数权重就占满一张80G的GPU,但是通过量化、知识蒸馏、剪枝等优化,大模型可以在手机本地实现推理。

其指出,不过目前具备运行优化模型能力的终端仅限头部品牌旗舰手机。

根据目前各家公司对于边缘端部署的情况推测,即使经过量化、剪枝、蒸馏等方式优化大模型后,仍然需要旗舰版的手机芯片可以勉强承载运行。

假设旗舰机型主处理器频率应在2.8GHz以上,或是价格在1000美金以上,根据IDC数据,1Q23全球手机销量中主处理器频率超过2.8GHz的占比36%,销售价格在1000美金以上的手机销量占比13%。

国信证券,随着AI大模型在边缘端落地,有望推动新一轮换机潮。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部