Pembuat cip AI Cerebras Systems telah memperkenalkan CS-4, satu sistem AI skala rak baharu yang menyasarkan pasaran pelayan GPU Nvidia dan beban kerja inferens model bahasa besar. Menurut syarikat itu, CS-4 dapat menghasilkan token pada kadar sehingga 30 kali ganda berbanding pelayan GPU konvensional apabila semua sumber sistem diperuntukkan kepada satu pengguna.
Tidak dapat dinafikan, angka itu berdasarkan ujian dalaman Cerebras dan mengukur kelajuan penjanaan teks apabila satu pengguna mempunyai akses eksklusif kepada sumber pengkomputeran sistem. Ia tidak mewakili throughput agregat sistem ketika melayani beberapa pengguna secara serentak.
Pada satu acara di San Francisco, Cerebras berkata CS-4 menyertakan tiga pemproses wafer-skala WSE-3 Turbo. Menurut syarikat itu, setiap pemproses mengintegrasi kira-kira 4 trilion transistor, menjadikannya salah satu pemproses AI yang paling besar yang diumumkan secara awam setakat ini. Tidak seperti seni bina berbilang cip yang biasa digunakan oleh Nvidia dan AMD, Cerebras menggunakan reka bentuk monolitik, penuh wafer yang memendekkan laluan pemindahan data di dalam cip.
CS-4 direka untuk inferens AI dan bukannya latihan model. Arkitektur memorinya menggunakan memori akses rawak statik, atau SRAM, daripada memori akses rawak dinamik, atau DRAM, yang biasa digunakan di seluruh industri. SRAM menyediakan kelajuan baca dan tulis yang jauh lebih pantas berbanding DRAM, tetapi struktur yang lebih kompleks dan kos yang lebih tinggi per unit kapasiti biasanya menyukarkan integrasi ke dalam pemproses dengan kawasan die terhad. WSE-3 Turbo adalah kira-kira saiz pinggan makan, memberikan ruang fizikal yang cukup untuk menggabungkan SRAM terus pada pemproses.
Cerebras sedang meletakkan penjanaan teks yang pantas sebagai kelebihan kompetitif utama CS-4. Syarikat itu berkata pemproses wafer-skala mereka dapat menyimpan semua nilai parameter yang diperlukan oleh model AI secara terus di dalam cip, menghapuskan keperluan untuk mengambil data dari cip memori luaran dan mengurangkan latensi yang berkaitan dengan pemindahan data.
Menurut Cerebras, sampel CS-4 kini tersedia untuk bilangan pelanggan yang terhad, dengan ketersediaan yang lebih luas dirancang untuk kemudian dalam suku ketiga tahun ini.