IT时报记者 林斐
企业引入AI的热潮正在进入一个更现实的阶段。
当企业的经营决策者还在讨论“应该选择哪个模型”时,另一组问题已经摆到了企业的IT和安全团队面前:模型真正进入生产环境后,算力放在哪里?如何控制不断增加的推理成本?当AI Agent开始自主调用API、数据库和其他工具,安全边界又该如何划定?
在近日举行的Akamai亚太媒体交流会中,Akamai的三位高管从不同角度谈到了这一变化。Akamai亚太区高级销售副总裁兼区域总经理李昇观察到,企业对AI的关注已经从“是否投资”转向“如何让AI投入实际运营”;Akamai云计算首席技术官Jay Jenkins则认为,传统云基础设施并不是为今天的AI工作负载设计的;而Akamai亚太地区及日本安全技术与战略总监Reuben Koh提醒,AI从“回答问题”走向“执行行动”后,安全风险也随之放大。
“过去,许多客户会问:‘我们是否应该投资AI?应该在业务的哪个部分进行投资?’但现在,他们提出的是一个更加困难的问题:‘我们如何以安全、可靠的方式,让AI投入实际运营,并实现更大规模的应用?’”李昇用这句话概括了企业AI需求的变化。
Akamai亚太区高级销售副总裁兼区域总经理 李昇
Akamai调研发现,亚太市场正在从AI实验阶段逐渐进入部署阶段,但不同市场的节奏并不一致。日本、澳大利亚等市场更多由基础设施和治理能力成熟的大型企业推动,而中国、印度等市场则出现了数字化和AI原生企业快速从试验走向规模化的情况。真正拉开差距的,不再是谁开始使用AI,而是谁具备安全、可靠并规模化实施AI的能力。
这种变化也意味着,AI预算开始进入企业更大的IT账本。
李昇提到,随着AI从试点进入更广泛的部署,企业投入的范围已经从AI模型扩展到基础设施、数据、安全、应用以及人才。企业需要重新审视原有IT支出,将资源向能够带来可衡量业务价值的AI项目倾斜。
这也是为什么“成本”开始成为AI进入生产后的核心问题。
在被《IT时报》记者问及企业如何控制不断上涨的Token成本时,李昇并没有把答案归结为想办法降低模型调用价格。他提到,企业能通过自行管理模型、部署定制化开源模型以及加强AI使用治理等方式控制成本。
换句话说,企业开始计算的已经不只是“一个Token多少钱”,而是整个AI工作流到底需要多少成本。
成本只是问题的一部分。当AI开始真正参与业务,已经延用多年云计算的架构也开始暴露出某些局限。
Akamai云计算首席技术官 Jay Jenkins
“我们发现企业已经逐渐认识到实际运营AI与训练模型是两件完全不同的事情。”Jay Jenkins说。他的判断并不是说传统云已经失效,而是AI的运行方式正在发生变化。
传统云计算将计算和数据集中起来,形成了所谓的“数据引力”。但对于实时AI而言,用户、设备和数据本身可能分布在不同地点。如果AI每一次推理都需要绕回中心云,网络距离就会逐渐成为影响体验和成本的因素。
Jay Jenkins把这种变化概括为一个颇有意思的转向:“我们如何扭转‘数据引力’的概念,转而更多地考虑‘客户引力’?”
最初的传统AI交互可能只是一次请求、一次回答,但如今的多智能体系统会把一个任务拆成多个步骤,由不同模型、API和工具反复协作。Jay Jenkins举例称,单次AI请求40至100毫秒或许可以接受,但进入多智能体系统后,一项任务可能产生数百次请求,延迟可能从40毫秒不断累积到4秒,甚至40秒。
因此,“靠近用户”不再只是云计算中用CDN技术改善网页加载速度的问题,而开始影响AI能否提供实时体验。
“实时AI确实依赖于‘邻近性’。”Jay Jenkins说。但“靠近用户”并不意味着一切都搬到边缘。
这里,Jay Jenkins又给出了一个重要的限制条件:边缘不是答案本身,灵活调度才是。
“我们并不是说所有东西都必须转移到边缘。我们的目标,是让客户能够灵活选择在哪里运行AI。” Jay Jenkins提到。
他向《IT时报》记者解释道,如果延迟非常重要,可以将推理放在边缘;如果需要大规模计算资源,则可以使用核心云;如果数据受到监管限制,则需要结合数据所在位置和合规要求进行选择。同时,成本和可持续性也可能影响AI工作负载的部署位置。
这意味着,AI基础设施并不会简单地从“中心云”走向“边缘”,而更可能形成一种混合架构:不同类型的计算任务,在核心云、区域节点和边缘之间流动。
真正困难的部分,就从“建多少GPU”变成了“如何调度GPU、CPU以及其他资源”。
Jay Jenkins表示Akamai希望通过AI Grid建立AI编排层,根据延迟、可用性、资源类型、地理边界等条件,将工作负载路由到更适合的位置,而不是完全依靠人工调度。
在这一架构中,Akamai的优势并不是简单增加新的数据中心,而是利用已有的分布式基础设施。
Akamai近30年持续建设分布式基础设施,从CDN、安全、无服务器计算到云,再到今天的AI。“现在,我们正在让AI智能也更加靠近客户,这也是Akamai与NVIDIA合作推进AI Grid的基础。” 李昇补充说。
Akamai目前正尝试利用全球既有基础设施调用不同位置的计算资源,并将模型分发到更适合运行的位置,同时在Akamai Cloud提供NVIDIA Blackwell GPU。相比单纯增加算力,这种方式试图解决的是另一道题:如何让算力更有效地被使用。
GoVeda(GoVeda Pte. Ltd.)是一家总部位于新加坡的AI原生知识产权(IP)、专利智能平台公司。此前在业务发展初期,Akamai评估后认为CPU同样能够完成工作,因此没有直接继续增加GPU,而是先使用CPU,等业务规模扩大后再切换GPU,并进一步进行分布式部署。
“我们并非只关注成本和效率,而是确保为他们提供真正的价值。”Jay Jenkins说。按照Akamai提供的数据,该方案在早期阶段将性能提升了30%,成本降低了20%。
印度的企业级通信与AI技术公司SARV按照Akamai建议迁移AI工作负载后,运营成本显著下降,同时保持了快速、可靠的服务。
但Jay Jenkins也强调,这些案例的意义并不在于证明某一种计算资源永远比另一种更好,而是说明企业AI基础设施正在进入精细化运营阶段。
AI业务初期,也许不需要昂贵的GPU;业务扩大后,GPU的价值才开始体现;当用户进一步分布到不同区域,又需要重新考虑计算位置。因此,AI基础设施的“可扩展性”也不再只是增加服务器数量,而是让企业可以随着业务变化调整计算资源和运行位置。
从这个角度看,Akamai试图利用其分布式网络和AI Grid提供的能力,实际上是在解决一个更具体的问题:让企业不必预先押注某一种固定的AI基础设施架构,而可以根据工作负载变化进行调度。
如果说成本和架构解决的是“AI如何跑”,那么Reuben Koh关注的则是:AI跑起来以后,企业如何保证它不会跑出边界。
Akamai亚太地区及日本安全技术与战略总监Reuben Koh
他认为,亚太企业同样正在从AI试验走向生产,而技术从试验进入企业之后,风险也会随之进入基础设施。
“AI与以往技术的不同之处在于,它不只是一个系统或应用程序,而是一个由软件、硬件、人员、身份、工作负载等要素组成的生态系统。”Reuben Koh说,“其中,Agent带来的变化尤其明显。谈到智能体AI,其真正影响在于:人们不再只是使用AI获取答案,而是开始使用AI执行行动。”
在Reuben Koh看来,一旦AI获得了访问企业系统、数据库和其他资源的权限,风险就不再局限于模型回答是否准确。错误的指令可以通过Agent访问更多资源,并被层层放大。
这也让“影子AI”变得更加复杂。
过去的影子IT可能是员工私自安装软件;现在,开发者可能直接把企业源代码复制到AI工具中,或者下载未经验证的开源组件,再将其接入真实运行的应用程序。
Reuben Koh提到,有不少企业的IT和安全团队已经看到GitHub上暴露的MCP服务器、恶意软件污染的软件包以及被投毒的npm软件包等问题。“影子AI是一个非常综合的问题。”他认为,企业需要在AI生态系统的每一个层面提供可见性和治理能力。
这也意味着,AI安全不能再简单理解为“给模型加一层防火墙”,但Reuben Koh并没有把“禁止使用AI工具”视为解决方案。
Akamai的思路是允许员工继续使用自己选择的AI工具,同时对用户进入这些工具后执行的操作进行控制,例如提示信息、文件上传、复制粘贴以及AI Agent行为,并在发现风险时进行警告、删除或阻止。
这背后的逻辑与AI基础设施的变化其实相通:企业既希望扩大AI使用,又不能放弃治理。
因此,Reuben Koh强调,“如果从风险角度全面审视AI,就会发现没有任何一种产品或技术能够独自解决所有问题。”
在他看来,AI安全需要纵深防御,从AI基础设施到AI交互,再到API、身份、工作负载和数据等多个层面进行保护。
Akamai则试图将自身原有的应用安全、API安全、网络安全以及分布式基础设施能力延伸到AI场景。其安全业务目前也在利用AI持续测试自身基础设施,并将AI能力嵌入安全产品,用于识别客户API或网络中的安全缺口。Reuben Koh称,这种检查不是每月进行几天,而是希望由AI持续进行。
Akamai并没有试图给出一个简单的答案,比如“AI应该全部部署在云端”,或者“AI应该全部部署到边缘”。
对于企业而言,AI基础设施真正的挑战已经不是“有没有GPU”,而是如何在业务规模不断扩大、AI调用越来越复杂的情况下,让每一份算力投入都得到更有效的利用,让每一次数据和模型调用都处于可控范围,同时保证用户能够获得足够快的响应。
AI进入生产之后,企业需要重新回答的,也许已经不是“用哪个模型”,而是一个更加基础的问题:AI究竟应该在哪里运行,以及企业能否让它长期、安全、可持续地运行下去。