Secara teknis, arsitektur GPU memiliki kelemahan struktural saat menghadapi beban kerja ini. Dalam proses inference, terutama saat decode (menghasilkan token satu per satu), data harus dipindahkan secara berulang melalui memori, menjadikan memory bandwidth sebagai faktor pembatas utama, bukan daya hitung murni. Fenomena inilah yang disebut sebagai “memory wall” — di mana selama dekade terakhir, daya hitung melonjak 1000 kali lipat, namun bandwidth memori hanya meningkat 10 kali.
Persaingan kini juga semakin panas karena sejumlah raksasa teknologi seperti Google, Amazon, Meta, hingga Microsoft mulai mengembangkan chip ASIC mereka sendiri.
Antrean Panjang Pembeli hingga 2027, Kerja Sama Strategis
Permintaan terhadap layanan AI Cerebras dilaporkan melonjak tajam. CFO Cerebras, Bob Komin, mengatakan kapasitas perusahaan saat ini sudah habis terjual hingga tahun 2027. “Untuk produk inference cepat kami, permintaannya sangat tinggi hingga tantangan terbesar kami justru bagaimana memenuhi pasokannya,” kata Komin.
Baca Juga:Galaxy S27 Ultra Bakal Hadir dengan Teknologi Kamera Mirip DSLR?Lebih Stylish! Honda PCX 160 2026 Andalkan Warna Segar dan Teknologi RoadSync
Percaya diri dengan produknya, Cerebras bahkan tidak hanya menjual chip, tetapi juga mengoperasikan pusat data berbasis cloud sendiri untuk layanan AI, berhadapan langsung dengan pemain besar seperti Microsoft, Google, dan Oracle. Amazon Web Services pun mulai menggunakan chip Cerebras di pusat datanya sejak Maret lalu. Perusahaan ini sebelumnya juga mengumumkan kerja sama cloud AI senilai US$20 miliar dengan OpenAI yang berlaku hingga 2028.
Groq hingga Huawei, “Pemberontak” Lain Ikut Mengancam
Selain Cerebras, sejumlah perusahaan lain seperti Groq, SambaNova Systems, hingga D-Matrix juga mulai memanfaatkan lonjakan permintaan chip AI global. Groq, melalui teknologi Language Processing Unit (LPU), bahkan menarik perhatian Nvidia sendiri hingga terjadi kesepakatan lisensi senilai US$17 miliar. Nvidia diperkirakan akan mengintegrasikan LPU buatan Groq ke dalam platform Vera Rubin mereka, sebuah pengakuan bahwa GPU murni tidak lagi cukup.
Sementara itu, di kawasan Asia, pasar raksasa China justru menjadi titik terang bagi para pesaing lokal setelah regulasi ekspor AS memukul Nvidia. CEO Jensen Huang mengakui bahwa pangsa pasar Nvidia di China kini telah merosot hingga hampir 0 persen, dari sebelumnya sekitar 66 persen pada 2024. Raksasa teknologi China seperti Huawei, Cambricon, dan Moore Threads kini mengisi kekosongan, dengan Huawei diprediksi akan menguasai hingga 60 persen pasar chip AI di China pada akhir tahun 2026.