A look at several typical high-speed internet scenarios from Credo

AWS 核心供應商 Credo 發佈新季度業績，當季與展望大超預期，數據中心互聯進入高速以太網建設的加速期。

1. 什麼是 AEC？主動電子線纜（Active Electrical Cable, AEC）是通過在傳統銅纜中嵌入電子元件（如信號放大器和均衡器）實現高性能數據傳輸的解決方案。

核心價值：提供高帶寬和低延遲的傳輸能力。相較於光纖，AEC 在短距離傳輸中更具成本效益，且更高效和可靠。特別適用於數據中心、AI 集羣和高性能計算（HPC）中的短距離高密度連接。

2. AEC 產業鏈主要環節

（1）上游：原材料和電子組件供應

• 高質量銅纜：用於傳輸數據的物理介質。

• 半導體芯片：包括嵌入式信號放大器、均衡器和 SerDes 芯片。

• 連接器和封裝：支持線纜的結構化和標準化接口。

核心參與者：

• 半導體廠商：如博通（Broadcom）、Marvell 等提供芯片技術支持。

• 銅纜供應商：如 Prysmian Group、Belden 等。

• 連接器製造商：如 Amphenol、Molex 等。

競爭壁壘：高純度銅材和高性能芯片技術是關鍵壁壘，要求高度專業化的製造能力和研發投入。

（2）中游：AEC 產品設計與製造

主要功能：在短距離傳輸中，通過嵌入芯片實現信號的放大、均衡和糾錯功能，確保數據完整性。提供即插即用的模塊化設計，便於客户快速部署。

核心參與者：

• Credo Technology：市場領導者，擁有 “ZeroFlap” 等創新技術。

• Broadcom：通過成熟的 SerDes 技術切入市場。

• Spectra7 Microsystems：專注於消費級和數據中心級 AEC 解決方案。

• 其他新興廠商：參與者包括中國的硅谷數模等初創企業。

競爭壁壘：技術壁壘：AEC 的設計需要高度優化的信號處理技術，涉及硬件和軟件的協同開發。廠商需要深度參與客户設計流程，為特定場景提供定製化解決方案。

（3）下游：應用與部署，主要應用場景，包括數據中心、AI 集羣、高性能計算 HPC 等

• 支持規模化的並行計算需求。

• 支持高密度 AI 訓練和推理場景，降低網絡延遲。

• 連接 GPU 到 GPU 之間的高速通信。

• GPU 到交換機的短距離互連。

• 消費電子（較少）：如超高清顯示和虛擬現實設備。

• 核心參與者：超大規模雲服務提供商（如亞馬遜 AWS、微軟 Azure、Google Cloud）。AI 初創企業（如 xAI）。網絡設備製造商（如 Cisco、Arista）。

• 競爭壁壘：成本與性能：AEC 在短距離部署中需要對比光纖表現出顯著的成本和性能優勢。網絡集成：客户需要高度兼容其現有的網絡架構，任何性能或質量問題都會影響採用率。

3. AEC 行業實現的核心功能

• 信號完整性：嵌入信號放大和均衡技術，確保高速傳輸中信號不衰減。

• 低功耗：相比光纖解決方案，AEC 功耗更低，適合高密度部署。

• 高可靠性：如 Credo 的 “ZeroFlap” 技術，可避免短距離連接中常見的 “鏈路斷裂” 問題。

• 成本優勢：銅纜本身成本低且易於維護，在短距離傳輸中具有顯著經濟性。

4. 各環節根據競爭壁壘的確定性排序

中游環節具有最高的競爭壁壘，Credo 等企業憑藉強大的研發能力和客户協作優勢，在設計與製造端佔據主導地位。

上游環節因原材料和標準化供應商較多，進入壁壘較低，但核心芯片製造仍需要高度專業化的能力。

下游環節的競爭壁壘主要體現在客户粘性和網絡集成需求，成功切入超大規模客户的供應鏈是關鍵。

5. AEC 行業核心參與者競爭力比較

6. 未來發展趨勢與機遇

技術趨勢：高速（800G 及以上）和低功耗設計是未來發展重點。短距離網絡中，銅纜與光纖的混合應用將持續，但 AEC 的可靠性優勢可能促使其在更多場景中替代光纖。

市場機遇：隨着 AI 集羣和高密度數據中心建設的加速，AEC 市場需求將顯著增長。新興 AI 企業的興起為 AEC 提供了更大的市場滲透機會。

AEC 行業依託於數據中心和 AI 網絡的發展，Credo 等領先企業在中游環節的技術積累和客户合作深度是其成功的關鍵。隨着市場需求的增長，AEC 有望在短距離高性能網絡中佔據更大的市場份額，同時也需要應對技術創新和行業競爭的雙重挑戰。

高速互聯是數據中心和 AI 集羣的基礎，其主要目的是支持高帶寬、低延遲和高可靠性的數據傳輸。在數據中心、AI 集羣和高性能計算（HPC）中，互聯場景可以分為GPU 互聯、GPU 與交換機互聯、交換機互聯、以及存儲節點互聯。以下是對這些典型互聯場景及其主要工具和參與角色的深度分析。

1. GPU 互聯（GPU-to-GPU）

• GPU 互聯主要發生在單個計算節點內或者節點之間的 GPU 協同通信。

• 在 AI 訓練和高性能計算中，GPU 需要共享大規模數據並進行高速通信，互聯的性能直接影響計算效率。

主要互聯工具

1. NVLink（NVIDIA 專屬技術）：

   • 高速互聯總線，提供高帶寬和低延遲支持。

   • 第四代 NVLink 帶寬高達 900GB/s（跨多 GPU 通信）。

   • 用於 NVIDIA GPU 之間的直接連接，構成單節點的計算單元。

2. PCIe（Peripheral Component Interconnect Express）：

   • 高速接口標準，支持 GPU 與 CPU、GPU 與 GPU 之間的通信。

   • 最新一代 PCIe Gen 5/Gen 6 支持 128GB/s 帶寬，適合短距離互聯。

   • 廣泛應用於多廠商 GPU 解決方案中。

3. InfiniBand：

   • 網絡協議和硬件標準，提供超低延遲的 GPU 互聯解決方案。

   • 常用於跨節點的 GPU 互聯，在 AI 訓練集羣中廣泛採用。

4. Credo 的 AEC：

   • 提供短距離高密度 GPU 互聯，支持 800G 及更高帶寬。

   • 功耗低、信號完整性高，適合節點內的 GPU 互聯需求。

主要參與角色

• NVIDIA：提供 GPU 硬件（如 H100）及專屬互聯技術（NVLink）。

• AMD：通過 Infinity Fabric 和 PCIe 技術支持 GPU 互聯。

• Credo：為多 GPU 互聯場景提供高性能線纜解決方案。

• Mellanox（現為 NVIDIA 子公司）：InfiniBand 網絡解決方案的核心供應商。

2. GPU 與交換機互聯（GPU-to-TOR Switch）

• 單個機架內的 GPU 節點與頂層交換機（Top-of-Rack, TOR）的連接，是 AI 集羣和數據中心通信的關鍵。

• 此類連接需支持高密度部署、低功耗和低延遲。

主要互聯工具

1. 主動電子線纜（AEC）：

典型代表：Credo 的 800G ZeroFlap AEC。功耗低、可靠性高，相比傳統光纖更適合短距離高密度連接。

1. DAC（Direct Attach Copper, 直連銅纜）：成本低，但受限於信號完整性，傳輸距離通常不超過 5 米。用於對功耗敏感的小型部署場景。

2. 光模塊（Optical Transceivers）：用於更長距離的機架間連接（>5 米）。典型速率支持 400G/800G。

主要參與角色

• Credo：通過 AEC 產品為 GPU 到交換機的短距離互聯提供高可靠性解決方案。

• Broadcom：光模塊和以太網交換芯片的主要供應商。

• Arista Networks：TOR 交換機的核心供應商，提供高密度以太網解決方案。

• Cisco：頂層網絡設備提供商，為 GPU 到 TOR 連接提供全面支持。

• 安費諾：DAC 主要供應商之一。

3. 交換機互聯（Switch-to-Switch）

• 交換機互聯發生在 TOR 和 Spine 交換機之間或 Spine 交換機之間。

• Spine-Leaf 架構是現代數據中心的核心，支持大規模橫向擴展。

主要互聯工具

1. 光模塊（光纖連接）：用於中長距離（10 米至幾公里）的交換機互聯。主流速率支持 400G、800G 和 1.6Tbps。

2. DAC：用於機架內或機架間的短距離互聯（通常<5 米）。成本低，但易受距離限制。

3. AEC：在短距離應用中逐漸取代 DAC 和光纖，提供更高信號完整性和更低功耗的解決方案。

主要參與角色

• Cisco、Arista Networks、Juniper Networks：提供核心交換機解決方案，支持多種互聯方式。

• Credo：通過高帶寬 AEC 解決方案優化短距離交換機互聯。

• Broadcom、Marvell：供應高性能光模塊和交換芯片。

4. 存儲節點互聯（GPU-to-Storage）

• GPU 需要快速訪問分佈式存儲，尤其在 AI 訓練中，需要實時處理大規模數據集。

• 存儲節點與 GPU 通過高速互聯實現數據的快速傳輸。

主要互聯工具

1. NVMe-oF（NVMe over Fabrics）：通過以太網或 InfiniBand 實現高性能存儲訪問。支持低延遲和高帶寬傳輸。

2. InfiniBand：提供 GPU 到存儲的超低延遲互聯。廣泛應用於高性能計算和 AI 集羣中。

3. 光模塊：用於長距離連接，支持分佈式存儲和雲存儲的高速訪問。

主要參與角色

• NetApp、Pure Storage：分佈式存儲系統提供商。

• NVIDIA：通過 InfiniBand 優化 GPU 到存儲的連接。

• Credo、Broadcom：通過高速互聯解決方案支持數據傳輸需求。

互聯架構的核心功能與技術趨勢

核心功能

• 高帶寬：支持 AI 和 HPC 對數據吞吐量的極高要求。

• 低延遲：優化實時計算和訓練的效率。

• 高可靠性：確保長時間運行的穩定性，減少鏈路波動或斷裂。

• 成本效益：在高密度部署中降低互聯設備成本和功耗。

技術趨勢

1. 更高速率：從 800G 向 1.6Tbps 邁進。

2. 低功耗設計：特別是在高密度短距離連接中，功耗優化成為關鍵。

3. 模塊化與兼容性：支持不同設備和協議的互聯，提升系統靈活性。

• 典型互聯場景分析表明，Credo 等領先公司在GPU 互聯和GPU 到交換機連接中佔據重要地位，尤其通過 AEC 產品提供了短距離互聯的最佳解決方案。

• 主要參與角色覆蓋從硬件供應商（如 Broadcom、Credo）到系統集成商（如 NVIDIA、Cisco），構成了一個高效協同的產業鏈。

• 未來方向將集中在更高速率、低功耗的技術突破，以及更高效的分佈式互聯架構上，推動數據中心和 AI 集羣的持續升級。

文章來源：貝葉斯之美，原文標題：《從 Credo 看幾個典型的高速互聯場景》