輝達報捷 最強 AI 推論機櫃 Groq 3 LPX 量產 鴻海進補

輝達美國時間24日宣布，搭載旗下最強AI推論晶片Groq 3 LPX的機櫃已進入全面量產階段，效能可達到業界顛峰。這意味最新Vera Rubin平台達成另一個里程碑，法人看好，鴻海（2317）是相關機櫃最大組裝廠，出貨跟著衝鋒。

輝達是在「Hot Chips 2026大會」釋出相關消息。輝達去年取得Groq推論技術授權，並延攬其核心團隊，今年3月發表Groq 3 LPU推論晶片，最新宣布搭載256顆Groq 3 LPU晶片的Groq 3 LPX機櫃全面量產。該機櫃將搭配Vera CPU與Rubin GPU，部署於雲端業者Nebius，預計今年稍晚啟用。

輝達執行長黃仁勳表示，Vera Rubin透過專為代理型AI時代設計、針對工作負載進行最佳化的AI工廠配置，拓展相關願景，並藉由LPX的超高速詞元（Token）生成，進一步推進效能前沿。這將改變智慧的產生方式，在全球AI運算需求加速成長之際，再次大幅提升AI的輸送量、效率與回應速度。

Groq 3 LPX機櫃是專為強化Vera Rubin平台的互動效能而設計，讓AI代理更快回應並完成複雜任務。輝達積極推動這款產品量產並提供給客戶，凸顯低延遲推論的重要性。

輝達指出，Groq 3 LPX針對程式設計等AI代理工作，低延遲工作負載表現出色，其回應速度最高達到最近競爭平台的四倍。

Groq 3 LPX全面量產，並非為了採用推論晶片來取代GPU，而是為了補充Vera Rubin傳統GPU架構，在低延遲Token生成方面的能力。

Groq 3 LPX作為Vera Rubin平台的關鍵元件，輝達也端出數據向業界證明「這是最強AI推論晶片」。在Artificial Analysis測試中，搭載Gemma 4 31B模型、10萬個Token上下文時，Groq 3 LPX實現每秒可處理3,400個Token，為該模型創下最高紀錄。

輝達表示，Groq晶片內建500MB SRAM，以減少記憶體造成的運算瓶頸，該SRAM由三星生產，GPU則由台積電（2330）代工。

輝達強調，AI代理面臨兩大計算挑戰，一方面必須有效處理日益龐大的上下文，另一方面必須持續以極低延遲產生Token。Vera Rubin NVL72負責更廣泛的訓練、推論與上下文處理，Groq 3 LPX則優化交互速度，提升Token生成速度。