姚欣选择分布式推理并非偶然，而是基于他多年对整个行业的深入理解。

根据TIRIAS research的研究，随着AI的快速发展，未来算力需求的构成将发生重大变化，95%的算力需求来自推理，训练算力仅占5%。推理将逐渐成为AI计算的核心。

姚欣看准了AI时代算力结构转型的机遇，将重心放在推理侧。

推理计算的核心在于实时处理用户请求，低延迟和高效率是它的生命线。

而分布式技术，恰恰是实现这一需求的不二之选——

通过将推理计算分布到全球多个节点，PPIO能够最大限度地减少到用户的时延;

同时根据不同区域的需求波动智能调度算力资源，确保全局计算效率始终保持最佳状态。

分布式推理不仅是一次技术创新，更是一种新的商业模式，让中小企业和开发者不再为算力门槛所困，让他们也能走进AI世界。

相比之下，传统的大型数据中心虽然具备强大的处理能力，但其成本高昂，不仅包括硬件设备的购置和系统维护，还包括高度集中带来的大量散热能耗的需求。

分布式云通过调度分布在全国各地的中小型数据中心或边缘计算节点，充分利用当地高性价比能源和算力资源，降低总体运营成本。

当然，姚欣还提出了“三年内降本1000倍”的期望，要想成功实现，除了庞大的分布式算力网络，还要有更多创新技术的支撑。

为此，姚欣给出了他的答案——Serverless弹性调度和推理加速优化。

其中，Serverless架构被用来解决跨区域服务过程中节点数量庞大、用户请求复杂的问题。

该架构通过智能整合分布式算力，自动实现弹性伸缩与按需付费。

用户可将自有镜像或模型托管到该平台，不用再担心海量用户的并发响应问题，亦无需亲自管理和维护大量算力服务器。

△派欧算力云Serverless产品自动弹性触发时延和单实例冷启动速度

除此之外，PPIO还通过算法、系统和硬件的协同创新，推出了针对大语言模型特点的推理加速引擎。

借助全链路FP8量化、KV Cache稀疏压缩算法，以及投机采样等技术，显著提升了推理的加速性能，打破了显存、算力和带宽的限制，释放了大模型推理的更大潜能。

此次的分布式云计算论坛，标志着姚欣的第二次创业取得了阶段性的成功。

这背后除了有姚欣自己对行业的独到见解，还有分布式云自身与云服务发展形势的契合。

分布式云的天时地利

在国内的云服务领域，有很多我们耳熟能详的选手，华为、百度、腾讯、阿里等众多互联网大厂，都拥有自己的云服务产品。

但这些云服务无一例外都采用了集中式的方式，更加衬托出了姚欣做的分布式云系统的别具一格。

不过，姚欣强调，分布式与集中式并非对立的选择，而是相互补充的合作模式。

技术上看，PPIO采用了集中式云服务也在用的基于K8S技术的云原生架构，能够与集中式云进行标准的互联互通;

商业模式上看，用户也不会过度关注自己的产品究竟运行在哪种云，他们更在意的，是最终的运行效果。

归根结底，究竟应该采用哪种运算方式，取决于具体的应用场景。