CEO NVIDIA, Jensen Huang, baru saja memberikan kejutan besar bagi industri semikonduktor dengan mengumumkan kesepakatan strategis bersama Groq, perusahaan rintisan yang dikenal dengan arsitektur chip AI khusus. Meskipun laporan awal sempat menyebutkan adanya akuisisi senilai USD 20 miliar (sekitar Rp300 triliun), kedua perusahaan mengklarifikasi bahwa kesepakatan tersebut merupakan perjanjian lisensi non-eksklusif.
Langkah ini dianggap sebagai "masterclass" taktik bisnis, di mana NVIDIA berhasil mengamankan teknologi inferensi tercepat di dunia tanpa harus melalui proses akuisisi perusahaan secara utuh yang biasanya memakan waktu lama dan terhambat regulasi.
Strategi Reverse Acqui-hire untuk Hindari Radar Antitrust
NVIDIA tampak mengadopsi taktik "Reverse Acqui-hire" yang sebelumnya dipopulerkan oleh Microsoft. Melalui skema ini, NVIDIA merekrut talenta inti Groq, termasuk sang pendiri Jonathan Ross yang merupakan arsitek utama TPU Google, serta Presiden Groq, Sunny Madra.
Dengan memboyong para jenius di balik teknologi tersebut namun membiarkan entitas korporat Groq tetap berdiri secara independen di bawah CEO baru Simon Edwards, NVIDIA secara cerdik menghindari investigasi ketat dari otoritas persaingan usaha (FTC). Strategi ini memungkinkan transaksi selesai dalam hitungan hari, tepat sebelum memasuki tahun fiskal 2026.
Selama ini, NVIDIA dikenal sebagai raja dalam tahap pelatihan (training) model AI, namun tantangan baru muncul di sisi inferensi, yang merupakan fase di mana model AI menjawab kueri pengguna secara langsung. Dengan mengintegrasikan teknologi Groq ke dalam arsitektur "NVIDIA AI Factory", Jensen Huang berambisi menguasai beban kerja real-time yang membutuhkan latensi super rendah.
Kesepakatan ini memberikan NVIDIA akses ke IP (Kekayaan Intelektual) yang mampu memproses token bahasa dengan kecepatan yang jauh melampaui kartu grafis (GPU) tradisional, memantapkan posisi mereka di mata raksasa penyedia layanan cloud global.
Inti dari kehebatan Groq terletak pada LPU (Language Processing Unit) yang menggunakan memori SRAM (Static RAM) langsung pada chip, bukan HBM (High Bandwidth Memory) yang biasa digunakan NVIDIA. Penggunaan SRAM memungkinkan bandwidth internal hingga 80 TB/s, yang secara drastis mengurangi latensi saat proses decoding teks.
Dalam dunia AI, latensi adalah musuh utama; dengan teknologi ini, respons dari model bahasa besar (LLM) dapat dihasilkan hampir seketika. Integrasi LPU ke dalam ekosistem NVIDIA akan menutup celah performa yang selama ini coba dimanfaatkan oleh pesaing seperti Google dengan TPU Ironwood mereka.
Selain kecepatan, LPU Groq menawarkan eksekusi deterministik, yang berarti setiap siklus komputasi dapat diprediksi secara akurat oleh compiler perangkat lunak. Hal ini mengeliminasi kebutuhan akan manajemen memori yang kompleks dan dinamis yang sering menjadi beban pada arsitektur GPU konvensional.
Hasilnya adalah efisiensi energi yang jauh lebih baik per token yang dihasilkan. Bagi para penyedia pusat data, efisiensi ini berarti penghematan biaya operasional jutaan dolar, menjadikannya senjata mematikan bagi NVIDIA untuk mengunci pasar inferensi berskala besar di masa depan.
Melengkapi Portofolio dengan Rubin CPX dan LPU
Langkah ini juga melengkapi peta jalan perangkat keras NVIDIA yang sebelumnya telah memperkenalkan Rubin CPX untuk penanganan konteks panjang (long-context). Dengan adanya LPU, NVIDIA kini memiliki solusi lengkap: GPU untuk pelatihan, Rubin CPX untuk pemrosesan konteks masif, dan teknologi Groq untuk kecepatan decoding token akhir.
Kombinasi heterogen ini menciptakan platform komputasi AI yang nyaris mustahil untuk direplikasi oleh kompetitor mana pun dalam waktu dekat. Para analis menyebutnya sebagai "Inference Play of the Decade" yang akan mendefinisikan standar baru industri mulai tahun 2026.
Meskipun talenta utamanya berpindah ke NVIDIA, Groq menyatakan bahwa layanan GroqCloud akan tetap beroperasi tanpa gangguan. Perusahaan tersebut akan terus melayani kontrak yang sudah ada, termasuk kemitraan strategis bernilai miliaran dolar di Timur Tengah. Namun, dengan akses teknologi yang kini juga dimiliki oleh NVIDIA, industri melihat bahwa standar LPU akan segera menjadi fitur default dalam sistem rak server NVIDIA.
Hal ini menandai pergeseran besar di mana teknologi yang tadinya bersifat eksperimental kini telah diadopsi secara resmi oleh pemimpin pasar untuk digunakan oleh jutaan pengembang di seluruh dunia.
