NVIDIA為了抗衡專為推論設計的AI ASIC，於2025年底戰略投資Groq，並延攬Groq創辦人加入NVIDIA，而在2026年GTC大會，將Groq LPU納入Vera Rubin生態系，在將LPX機架搭配Vera Rubin NVL72加速推論過程可實現驚人的Token輸出。不過現在傳出Groq考慮在下一代LPU改採用具有容量優勢的3D堆疊DRAM。
透過堆疊DRAM在容量與性能取得平衡
NVIDIA Vera Rubin系統所搭配的Groq 3 LPU達1.2 FFLOPS FP8性能最大的特色是整合500MB的SRAM，使記憶體頻寬達到150TB/s，單一LPX機構配置256個Groq 3 LPU，則可實現128GB記憶體容量與640TB/s頻寬。
然而即便AI模型正持續提升效率，但在相同世代下，更高參數的模型仍仍優於較小參數的模型，以至於對記憶體容量的需求凌駕於追求極致傳輸頻寬，許多專為推論開發的產品也透露這樣的跡象；根據ZDNet Korea報導，Groq為了因應容量需求，正評估使用堆疊式DRAM取代SRAM，透過具有單位容量優勢的DRAM為基礎，並結合堆疊方式提升頻寬，滿足下一代AI推論對於容量的需求。
不過據稱Groq並非完全放棄SRAM，而是透過擴充搭配堆疊式DRAM的產品增加產品供應的靈活性，仍會持續開發搭載SRAM的LPU滿足傳輸性能優先的應用。
