Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

在上海与深圳两地举办的 Arm Create 活动中,众多开发者围绕基础设施搭建、模型挑选、部署策略、性能调优及验证流程等环节的关键抉择展开了深入交流,共同探寻将 AI 模型成功转化为实际应用软件的最优路径。

拥有一个性能卓越的模型仅仅意味着开端。要打造人工智能(AI)应用,开发者还需围绕模型架构做出众多关键决策。当延迟、成本、隐私保护、功耗以及具体部署场景等因素开始对设计产生影响时,这些决策往往直接左右着应用最终的表现水准。

在 2026 年 Arm Create 上海站和深圳站的活动现场,参与者通过聆听主题演讲、合作伙伴的经验分享、深度的技术解析,并亲身参与动手实验环节,围绕云端、边缘计算、移动终端、图形处理以及物理 AI 等多个领域,对这些设计决策进行了全面探讨。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图示:Arm 开发者关系副总裁 Shantu Roy 在 Arm Create 活动现场进行主题演讲。

Arm 近期公布的一系列软硬件成果同样成为讨论的焦点。Arm AGI CPU 与全新的 Neoverse CSS N4 为云基础设施带来了更多可选方案;Arm 第二代移动终端计算子系统(CSS for Mobile 2)则为移动端提供了全新的端侧 AI 体验;而 Arm Mali G2-Ultra NX 将神经处理能力引入了移动平台。此外,新推出的 Arm AI Portal 能够协助开发者发现那些已经过验证且针对 Arm 平台进行过优化的模型,了解它们与目标平台的兼容程度,并获取相关的代码与部署工作流。

然而,对开发者来说,重点并非各个平台或工具具备哪些功能特性,而是它们能否真正帮助开发者做出明智决策、开展实验与测试,并持续不断地优化软件。

在 Arm Create 上海站的主题演讲中,Arm 针对这一行业挑战提出了四个关键问题:

· 何种智能能力最契合对应的任务需求?

· 工作负载应部署于何处最为合适?

· 各组件之间如何实现系统级的协同运作?

· 应用在真实目标硬件上能否达到预期的性能表现?

随后,通过技术分享与实操实验,进一步总结出开发者在构建和部署 AI 过程中需要牢记的五大关键启示。

一、明确智能体应用所需的基础设施

当应用具备智能体能力后,模型仅仅是整个挑战中的一部分。智能体能够动态生成代码、调用外部工具并执行具体动作,因此对底层基础设施提出了全新的要求。

在 Arm Create 上海站活动中,腾讯云开源 AI Agent 安全沙箱 Cube Sandbox 展示了真实的应用案例。现场围绕隔离性、并发处理、安全性、状态管理、资源分配以及成本等关键议题展开了讨论,并探讨了如何在平台层面实现不同工作负载的合理调度,从而帮助开发者将更多精力投入到应用创新本身。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图示:腾讯云在 Arm Create 上海站介绍了开源 AI Agent 安全沙箱 Cube Sandbox,以及支撑智能体应用所需的基础设施方案。

开发者由此获得的启示是:智能体应用需要在模型之外构建一个受控的执行环境,以便随着应用规模的不断增长,对工具调用、操作执行、状态信息以及计算资源进行持续且一致的管理。

二、根据工作负载匹配恰当的模型

模型的选择应当以工作负载为出发点,而不能仅仅依据模型的规模大小。移动应用中的即时响应功能、能够对海量文档进行云端推理的智能体,以及边缘视觉工作负载,这些不同的场景都可能将模型选型引向截然不同的方向。

在 Arm Create 深圳站活动中,来自阿里巴巴通义千问、面壁智能、腾讯混元以及 Ultralytics 的嘉宾共同参与了专题讨论。讨论的重点不再局限于模型之间的性能对比,而是更关注应用适配性:工作负载的具体需求、部署运行的位置,以及部署之后实际表现如何。核心原则十分明确:让模型匹配任务,让任务运行在最合适的位置。

Arm AI Portal 正是为了满足这一需求而打造。它能够帮助开发者发现那些经过验证并针对 Arm 平台优化的模型,评估模型与目标硬件的适配程度,并提供代码和部署信息,从而大幅缩短从模型评估到实际落地的周期。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图示:开发者可以利用 Arm AI Portal,基于性能数据评估模型在特定 Arm 平台上的兼容性,从而为模型选型和部署决策提供有力参考。

三、评估并优化整个应用系统

当 AI 应用出现响应延迟、效率低下等问题时,模型并不是唯一的排查方向。运行时环境、数据传输、预处理流程、应用逻辑或底层计算,同样可能消耗大量时间和资源。例如,语音助手的性能瓶颈可能出现在音频预处理环节;而移动端 AI 功能持续运行时,则可能触及内存上限或散热限制。

因此,覆盖整个系统的性能分析与优化已成为开发流程中不可或缺的一部分。Arm 提供了多款工具和技术来支撑这一流程:Arm Performix 和 Arm Performance Studio 能够帮助开发者了解工作负载在何处消耗了时间和资源;第二代 Arm 可伸缩矩阵扩展技术(SME2)以及神经图形工具则提供了在基于 Arm 架构平台上提升性能的不同途径。真正有效的优化应建立在工作负载分析所得出的数据基础之上,并围绕最关键的约束条件展开,包括响应时延、功耗、成本以及持续性能等方面。

对于云端工作负载而言,优化可能是定位 CPU 或内存热点,从而提升工作负载对现有计算资源的利用效率;对于移动 AI,这意味着在响应速度与功耗之间找到平衡点;而对于图形工作负载,则需要在保持图像质量的同时兼顾画面流畅度和热裕量。

四、确定每项工作负载的最佳运行位置

并非所有 AI 应用组件都应该部署在同一个位置。开发者需要仔细判断:哪些工作负载应当放在设备本地运行;哪些适合依托就近的边缘基础设施;哪些又需要借助云端的规模化能力和共享服务。

算力水平决定了某项任务在技术上能放在哪里,而业务需求则指明了它应当放在哪里。响应速度、数据安全、离线可用性、本地掌控、成本开销以及现有算力资源,都会左右最终的部署决策。一个应用完全可以将不同部分分散到多个环境执行。关键不是给整个应用挑一个固定位置,而是依据每个功能模块的具体诉求,把它放到最恰当的地方。

Arm 的计算架构广泛覆盖云端、边缘、移动端及图形处理等各类部署环境,Arm AI Portal 则为开发者搭建起模型选择与具体 Arm 目标平台和部署路径之间的桥梁。

五、确保工作流可移植,并在真实目标平台上进行验证

AI 应用很少会一直停留在一个固定环境里。团队往往先在本地做原型,再到云端测试,随后把一部分负载挪到设备端,接着针对移动、边缘、图形或物理 AI 场景做调优。假如模型、运行时、工具链以及性能工作流每次都要推倒重来,那么这种跨环境的迁移只会带来沉重的额外负担。

在 Arm Create 上海站的对谈中,阿斯顿·马丁沙特阿美 F1 车队的 Eric Ernst 与宇树科技的陈小立,借助 F1 赛车和人形机器人的案例,剖析了一个工程难题:软件、硬件、数据、传感器及控制系统必须在一个复杂的真实物理环境里协同运作,而这类环境中的变量往往难以精准预判。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图:Arm、阿斯顿・马丁沙特阿美 F1 车队以及宇树科技,共同探讨复杂物理场景下软件与硬件如何实现协同运行。

正因为如此,可移植性与验证变成了彼此交织的课题。如果模型、运行时、工具链和性能工作流频繁变动,那么任何一次在云端、边缘、移动端、图形或物理 AI 之间的切换都会引入新的复杂度。因此,开发者应当尽可能采用那些能随应用一起迁移而保持稳定的工具、模型、库文件以及工作流程。与此同时,无论前期的模拟和测试做得多细致,最终验证仍必须在产品实际运行的硬件环境中完成。Arm Create 的物理 AI 动手实践课程进一步深化了这一思路,围绕从仿真到机器人的工作流、应用部署、信任机制、遥测能力、设备发现等内容开展了实操训练。

在此过程中,SME2、KleidiAI、Arm Performix、Arm 模型上下文协议(MCP)服务器、神经图形工具、Arm Device Connect 以及 Arm AI Portal 各自承担了工作流中的不同职责,帮助开发者完成从模型发现、负载优化、性能评估,到智能软件与设备对接等一系列关键任务。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图:在 Arm Create 现场,Arm Device Connect 展示了用于连接 AI 智能体与物理设备的开放层。

说到底,最核心的实践心得就是:尽早把可移植性纳入考量;当部署选项发生变动时,尽量维持工作流的一致性;并且在最终的目标平台上针对完整系统做验证。

打造下一代创新

展示 AI 开发的实际方法和优秀范例,正是 Arm Create 活动举办的初衷。在上海与深圳的两场活动中,开发者从主题演讲中获取灵感,进一步投入到技术深度解析、现场演示、动手实践以及与 Arm 工程师和生态伙伴的面对面交流环节。这种沉浸式的实践体验为开发者后续的研发工作指明了清晰的路径。根据 Arm Create 上海站的活动调查,97% 的受访者反馈,这场活动让他们对在 Arm 平台上构建、优化和部署 AI 应用有了更深的认识。

Arm Create 精华回顾:开发者构建与部署 AI 的五大关键启示

图:Arm Create 活动中,在 Arm 平台优化代码的演示,吸引开发者驻足

随着 AI 应用覆盖的目标场景愈发多样,开发者的关注重点已不再局限于针对单一平台做优化,而是要在不同部署环境之间维持代码、技能、工具和性能工作流的连贯性。开发者真正需要的是能随应用一同迁移的工作流,而不是每换一个部署场景就得从零开始。统一的 Arm 架构和软件基础,正在帮助开发者把已有的成果平滑地延伸到云端、边缘、移动设备、图形计算和物理 AI 等各个部署领域。


© 版权声明
THE END
欢迎随手分享,喜欢就支持一下吧
点赞11 分享
评论 抢沙发

    暂无评论内容