部署AI应用也需要“去中心化”丨ToB行业观察

IDC 的《进化边缘：推动从核心到边缘的成功》研究报告指出，79% 的受访公司认为生成式人工智能已经或将会在未来 18 个月内对其业务产生颠覆性影响，这一数字高于亚太地区平均水平 12 个百分点。此外，37% 的受访公司在生产中拥有生成式人工智能应用程序，另有 61% 的公司处于技术测试和概念验证阶段。这意味着企业的AI实施过程已经从“PPT阶段”进入“真实阶段”。回顾生成式人工智能的发展历史，2023年至2024年最热门的关键词是“大规模模型参数竞争”。当时，公司正在寻找“数千亿个参数”和“多模式功能”。但到 2025 年，关键词将变为“实现场景”。对于企业来说，主要的吸引力在于人工智能如何真正解决业务问题。一路走来，亚太地区（亚太地区）企业逐渐意识到，仅靠集中式云架构无法满足其对规模、速度和合规性日益增长的需求。为了保持竞争力、满足合规性要求并为现实世界的人工智能部署做好准备，公司必须重新思考和改进其基础设施战略，以纳入尖端服务。 “未来，企业迫切需要构建‘云、核、边计算’融合的现代化数字化基础设施，部署更贴近用户和应用的智能服务。”随着人工智能技术的快速发展，Akamai亚太及全球云架构团队总监李文涛对下一代数字基础设施的演进方向进行了定义：人工智能将重建数字基础“企业的数字基础将决定人工智能采用的速度，但现有架构面临瓶颈。”李文涛指出。报告数据显示，中国企业其特点是依赖公共云。它表明你携带着一个标志。这意味着多个业务环节都在使用公有云来运行生产应用，而GenAI的崛起暴露了这种模式的缺陷。在此背景下，企业面临的第一个挑战就是延误。在 37% 部署 GenAI 的公司中，超过 60% 的公司表示“实时交互式应用程序的响应延迟比预期要长”。以电商虚拟试衣间为例。上传图像后，用户必须等待中央云完成推理。AI公司。单次交互的延迟通常为2-3秒，转化率比预期低40%。除了在企业级AI实施过程中困扰大多数企业的延迟挑战之外，成本也是让很多企业对AI应用“犹豫不决”的关键因素。 AI推理产生的大量数据被发送到中央云，导致带宽成本飙升。此外，在境外开展跨境业务的过程中，72%的外资企业因“数据出口”合规要求而被迫放弃核心的云密集处理模式。 GenAI相关的用户隐私数据成为监管重点。这也是AI应用过程中的一大挑战。 “公有云不是不够好”，而是“还不够接近”，李文涛总结道。 “生成式AI需要协同的‘云端核心训练+边缘推理’模型。核心云负责大规模处理和模型训练，边缘负责实时推理和用户交互。这是未来必然的架构。”边缘计算的兴起正是基于此。显然，单纯依靠公有云的传统模式已经不能满足所有企业部署人工智能的需求。企业级AI进程中部署的同时，企业也迫切需要重建数字化基础。对此，李文涛表示，要全面释放生成式人工智能（GenAI），企业迫切需要打造“数字化基础”。集成边缘计算和云的现代技术。部署服务更贴近用户和应用场景。面对用户对新一代数字基础的需求，边缘计算再次站在了技术舞台的中央，成为企业构建新一代数字基础的核心技术之一。边缘计算已成为下一代数字创新的前沿，推动“边缘演进”趋势，打造弹性、面向未来的数字生态系统。 “边缘计算可以通过一定的方式实现分布式基础设施部署。这不仅可以降低实时应用延迟，缓解网络不稳定带来的问题，还可以让企业更快地响应问题。”咨询发布的《2025-2031年中国边缘云产业市场状况投资机会研究报告与分析》显示，2024年全球市场规模将达到1851亿元，其中中国占比约70%。预计2029年市场规模将达到370亿元，复合年增长率为22.9%。此外，边缘进化：驾驶 从核心到边缘的成功预测，到2027年，边缘IT将成为大多数中国企业IT支出最大的增长领域。同时，IDC预测，到2027年，80%的亚太区CIO将依赖边缘服务来支持他们的AI工作负载。以AI推理为例，AI对于电商核心云处理推荐的平均延迟约为200~300ms，而边缘节点处理延迟可降低至20ms 至 50 毫秒。从带宽成本的角度来看，在边缘源处理数据可以减少带宽成本ud 核心传输率提高 70%。根据一家制造商的计算，这种限制每年可以节省近 100 万美元的带宽成本。对此，李文涛表示：“中国企业的数字基础设施和人工智能创新能力已经处于世界第一阶段。”边缘计算将是将技术优势转化为商业成功的关键。到2027年，80%的CIO计划使用边缘服务取代部分传统云功能。这不是一种选择，而是一种必然。 “企业现在正在加速采用边缘计算，以支持数字化运营，并在与核心和云资源断开连接时确保业务连续性。在op中，李文涛表示，这一现象凸显了企业对边缘基础设施的日益依赖，以实现多样化运营环境中的功能无缝交付和业务弹性。报告预测，未来边缘IT投资将增加4%18个月，表明单向回归。即支持人工智能、物联网、智能监控系统等数字化运营。与核心或云一起的资源断开连接时的安全预防措施。支持远程位置的业务运营。降低连接成本。数据来源：IDC 同时，多种边缘应用场景正在推动AI加速的生成计算资源（例如GPU）的部署，以支持高性能应用并确保可扩展性。集成生成式人工智能和边缘计算弥合集中式云资源和分布式边缘环境之间的差距，同时确保可扩展性和性能。 “构建人工智能基础设施的六大核心” 报告中提出的“面向未来的数字基础设施的六大核心”被业界高度评价为生成式人工智能时代基础设施建设的指导方针。这六大支柱并不是独立存在的，而是形成完整的“战略-技术-运营”闭环。其核心逻辑是“从核心到边缘”的全面协作。第一支柱：AI就绪：效率和体验双重提升。人工智能准备的核心是“基础设施”。让架构适应人工智能，而不是相反。对此，企业必须在两个方面取得进展。一是硬件层推理的优化。通过边缘节点部署轻量级GPU模块，将AI推理效率提升3~5倍。二是应用层的定制支持。例如，零售公司使用尖端的人工智能来实时分析用户行为并生成个性化的产品推荐。与传统模型相比，这使得转化率提高了 58%。 “AI成熟度不是由技术的积累决定的，而是由业务场景的精心结合决定的。”李文涛强调。支柱 2：GenAI 实施：从“大型报告指出，GenAI 的实施正在从“参数缩放搜索”转向“前​​沿适应”。 61%的测试阶段企业认识到千亿参数的大型模型无法直接部署在边缘场景，必须通过模型压缩、量化等技术来适应边缘计算的强大能力。硬件投资是一项关键进步。对此，李文涛建议企业重点部署三类资源：一是边缘级GPU，满足轻量级推理需求。第二个是异类 适应多模态人工智能任务的计算芯片。三是支持边缘数据实时处理的分布式存储节点。支柱三：现代边缘IT：从数据源中提取价值“数据在创建的那一刻就过时了”——这句工业互联网领域的名言在GenAI中变得越来越突出时代。现代IT的核心是“在数据源头完整地提取价值”。其关键技术路径包括： 边缘推理优先：90%的实时AI任务在边缘完成，仅将结果数据发送到中央云端。它将完成。边缘分层存储：活动数据本地存储，非活动数据加密上传，降低存储成本。边缘计算协作：相邻边缘节点形成“微集群”，应对突发的计算能力需求。例如，汽车制造商在车辆边缘设备上处理实时交通视频数据，仅将异常情况（例如事故、交通拥堵）的分析结果上传到云端，从而减少92%的数据通信，同时实现自动驾驶系统的毫秒级响应。支柱四：边缘优化架构：分布式场景的“协作中心”解决核心问题边缘优化架构的目标re 是“统一分布式资源调度”。报告指出，因此，企业经常发现自己陷入“边缘岛”困境。这意味着不同区域的边缘节点无法独立运行并形成全球计算网络。从这个意义上来说，IDC提出了三层架构的解决方案。接入层支持5G、Wi-Fi6等多种网络接入，实现终端设备的无缝连接。在算力层，创建“边缘节点、区域中心、云核心”三级算力池，动态分配资源。在管理层面，通过集成平台实现边缘设备、算力和数据的可视化管理和控制。支柱五：从云到边缘：公有云投资“延伸价值”“企业在公有云上投入了大量资源，边缘部署不应该‘从头开始’。”李文涛强调，云到边缘的核心是“重新部署”报告数据显示，83%的企业希望将现有的公有云服务延伸到边缘，而互联互通是实现这一目标的关键。在技术层面，需要解决两个主要障碍，一是API标准化，为多云平台和边缘节点之间提供统一的接口。二是数据一致性，利用边缘保证云端和边缘核心数据的同步。 缓存、增量同步等技术。基于此，Akamai 与主要供应商云服务（例如 AWS 和 Azure）的密切合作支持了这条道路。公司可以与 Akamai 边缘节点无缝同步支持您的核心数据和云模型，而无需重建现有 IT 架构。支柱六：自主运营：AI“自动化运维” 随着边缘节点规模达到 几千甚至几万，传统的手工操作d 维护模式变得不可持续。自主运营的核心是利用AI来管理AI基础设施。其主要特点包括： 智能监控。通过边缘AI实时监控节点算力、带宽、温度等指标，异常预警准确率高达95%。自动编程。根据业务负载动态调整核心云和边缘云之间的资源分配，资源利用率提升30%。周边节点故障时自动修复并自动更换为备份节点，将业务中断时间控制在秒级。 （文|Leo张ToB各种，作者|张申宇，编辑|盖本田）
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）由我们上传发布网易号的用户，一个仅提供信息存储服务的社交媒体平台。