郭勇

ChatGPT引爆算力需求

作为人工智能三大核心要素之一，算力也被誉为人工智能“发动机”。

ChatGPT用户数快速增长，需求量火爆引发宕机。ChatGPT自发布以来用户数量快速增长。在庞大用户群涌入的情况下，ChatGPT服务器2天宕机5次，火爆程度引人注目的同时也催生了对算力基础设施建设更高的要求。以ChatGPT为例，其在模型训练阶段每次升级需要投入约3422万元，该笔投入相较于运营阶段来说规模较小。在模型上线运营阶段，机构测算每亿活跃用户将带来13.5EFlops的算力需求，需要6.9万台NVIDIADGXA10080G服务器支撑。

根据中国信通院数据，2021年全球计算设备算力总规模达到615EFlops，其中超算算力规模为14EFlops。换而言之，在每个用户每天收到1500字回答的情况下，以2021年全球超算算力的规模，仅能支撑ChatGPT最多拥有1亿日均上线人数。假设全球6家科技巨头能够在未来3年内各自拥有一款活跃人数2亿的ChatGPT类应用，则有望带来162EFlops超算算力需求，超算算力需求较目前提升空间超过10倍。

打破算力瓶颈的CPO技术

不同服务器之间需要频繁的大量数据交换，数据互联的带宽往往会限制整体任务的性能，这成为数据中心引入超高带宽基于硅光子的数据互联的主要理由。而CPO共同封装光子是业界公认未来高速率产品形态，是未来解决高速光电子的散热和功耗问题的最优解决方案之一。

共封装光学CPO（co-packagedoptics），指的是将光引擎和交换芯片共同封装在一起的光电共封装。较之传统方案中（实现光电转换功能的）可插拔光模块插在交换机前面板的形式，CPO方案显著缩短了交换芯片和（实现光电转换功能的）光引擎之间的距离，使得损耗减少，高速电信号能够高质量地在两者之间传输，同时提升了集成度并能够降低功耗，整体优势显著。……