Dion Harris, pengarah kanan di NVIDIA, berkata bahawa rak Groq 3 LPX yang pertama akan dikerahkan di platform penyedia perkhidmatan awan Nebius. Digabungkan dengan CPU Vera dan GPU Rubin, mereka akan membentuk kluster pengkomputeran heterogen lengkap yang dijadualkan untuk mula menawarkan perkhidmatan pada separuh kedua tahun 2026.
Setiap rak LPX mengintegrasikan 256 Unit Pemprosesan Bahasa Groq 3, atau LPU. Sistem ini menggunakan sejumlah besar SRAM di dalam cip untuk mengurangkan overhead yang berkaitan dengan akses memori luaran dan dioptimumkan untuk beban kerja inferens yang memerlukan tingkap konteks yang panjang dan masa tindak balas yang pantas, termasuk agen AI dan pengaturcaraan yang dibantu AI. Menurut hasil penanda aras rasmi, rak ini memberikan 3,400 token output per saat apabila menjalankan model Gemma 4 31B dengan tingkap konteks 100,000 token, memberikan kelebihan prestasi yang jelas dalam beban kerja sensitif latensi.
NVIDIA dan Groq mencapai perjanjian bernilai $20 bilion pada bulan Disember 2025. Di bawah transaksi tersebut, NVIDIA mendapatkan lesen untuk teknologi seni bina cip Groq dan membawa pasukan pengasas Groq serta kakitangan kejuruteraan teras ke dalam syarikat. Ia adalah transaksi teknologi terbesar dalam sejarah NVIDIA. Groq kekal sebagai syarikat yang bebas, dan perniagaan awan sedia ada terus beroperasi. Sebelum perjanjian tersebut, Groq telah mendapat perhatian yang ketara dalam industri untuk teknologi inferens LPU latensi rendahnya yang digunakan dengan model bahasa besar sumber terbuka.
Platform Vera Rubin menggunakan seni bina inferens heterogen yang tidak diasingkan. GPU Rubin menangani operasi pengisian awal model dan pemprosesan konteks berskala besar, manakala sistem Groq 3 LPX memberi tumpuan kepada penjanaan token berkelajuan tinggi semasa tahap pengekodan. CPU Vera melaksanakan beban kerja tujuan umum seperti panggilan alat dan pelaksanaan kod. Pembahagian beban kerja ini membolehkan pemproses yang berbeza menyokong aliran kerja agen AI yang lengkap mengikut kekuatan masing-masing.
Susunan pembuatan cip juga mencerminkan perbezaan di seluruh rantau bekalan. LPU siri Groq dihasilkan oleh Samsung, manakala GPU arus perdana NVIDIA dihasilkan menggunakan kapasiti pembuatan TSMC.