KOMPAS.com - Setahun belakangan, dunia menghadapi krisis memori. Harga memori, terutama jenis DRAM seperti DDR4 dan DDR5, melonjak pesat karena mengalami kelangkaan pasokan akibat diprioritaskan untuk memenuhi kebutuhan pengembangan Artificial Intelligence (AI).

Namun, ada sepercik harapan dari Google di tengah krisis memori ini. Raksasa teknologi tersebut dikabarkan tengah mengembangkan teknologi AI yang lebih hemat RAM. Gebrakan ini bikin penimbun RAM panik sehingga kelangkaan berkurang dan harga memori bisa turun.

Baca juga: Saat AI Bikin Orang Makin Susah buat Beli HP Baru Murah…

TurboQuant bikin AI jadi enam kali lipat hemat memori

Teknologi AI Google yang bisa menjadi solusi krisis memori itu bernama TurboQuant. Teknologi ini pada dasarnya adalah algoritma kompresi memori berbasis AI. TurboQuant bisa membuat penggunaan memori pada AI menjadi jauh lebih hemat.

TurboQuant dikembangkan oleh divisi riset perusahaan, Google Research, dengan fokus utama pada efisiensi penggunaan memori saat proses inferensi, yakni saat model AI dijalankan, bukan dilatih.

Teknologi ini menargetkan salah satu bottleneck (kendala) utama dalam sistem AI modern, yaitu keterbatasan “working memory”, khususnya pada komponen yang disebut KV cache, yakni memori sementara yang digunakan model untuk memproses dan mengingat konteks data.

Baca juga: Perusahaan Bimbel Online Bangkrut gara-gara ChatGPT

Cara kerja TurboQuant bertumpu pada teknik yang disebut vector quantization, yaitu metode penyederhanaan representasi data numerik dalam bentuk vektor agar lebih ringkas tanpa menghilangkan informasi penting.

Dengan pendekatan ini, data yang sebelumnya membutuhkan ruang besar dapat dikompresi secara signifikan, tetapi tetap mempertahankan akurasi model AI.

Secara teknis, TurboQuant mengandalkan dua metode utama, yakni PolarQuant dan Quantization-aware Joint Learning (QJL).

Baca juga: AWS Umumkan Chip Generative AI Trainium3

PolarQuant berfungsi mengubah cara data direpresentasikan sehingga menjadi lebih efisien saat disimpan di memori, tanpa mengorbankan kualitas hasil komputasi.

Sementara itu, QJL melatih model AI agar “sadar” bahwa data yang diproses akan dikompresi, sehingga model dapat beradaptasi dan tetap menghasilkan output yang akurat meski bekerja dengan data yang telah dipadatkan.

Dengan kombinasi dua teknik tersebut, peneliti mengklaim TurboQuant mampu menghemat penggunaan memori hingga enam kali lipat dibanding metode konvensional.

Baca juga: AWS Umumkan Amazon Nova, AI "Multimodal" Pesaing Google Gemini dan GPT-4V

Artinya, model AI dapat “mengingat” lebih banyak informasi dalam ruang yang jauh lebih kecil, sekaligus mengurangi hambatan kinerja akibat keterbatasan memori.

Solusi krisis memori global

Kemampuan inilah yang membuat TurboQuant dipandang sebagai solusi potensial terhadap krisis RAM yang saat ini terjadi.

Dalam beberapa waktu terakhir, harga memori, terutama DDR5, melonjak tajam karena tingginya permintaan dari industri AI.

Baca juga: China Cuci Gudang RAM DDR5 di Tengah Krisis Memori Global

Produsen memori lebih memprioritaskan pasokan untuk pusat data skala besar (hyperscaler), sehingga ketersediaan untuk pasar konsumen seperti PC dan laptop menjadi terbatas.

Akibatnya, harga RAM di pasar global melonjak hingga empat sampai lima kali lipat dibanding kondisi normal sebelumnya.

Meski sempat menunjukkan penurunan di beberapa wilayah seperti China pada akhir April, harga tersebut masih tergolong tinggi dan fluktuatif.

Baca juga: AWS Luncurkan Server Virtual Baru, "Pelatih" AI yang Lebih Tangguh

Dalam konteks ini, TurboQuant menawarkan pendekatan berbeda. Alih-alih menambah pasokan memori, teknologi ini justru menekan kebutuhan memori itu sendiri.

Jika AI bisa berjalan dengan RAM yang lebih kecil, maka tekanan permintaan terhadap memori berpotensi menurun, yang pada akhirnya bisa membantu menstabilkan harga di pasar.

Namun demikian, TurboQuant masih berada di tahap riset dan belum digunakan secara luas di industri.

Baca juga: Ironis, Sanksi AS ke China Justru Lahirkan AI DeepSeek "Pembunuh" ChatGPT

Selain itu, teknologi ini hanya menyasar efisiensi saat inferensi, bukan saat pelatihan model AI yang justru menjadi fase paling boros sumber daya.

Artinya, meskipun menjanjikan, TurboQuant belum bisa sepenuhnya menyelesaikan persoalan kelangkaan dan mahalnya RAM dalam ekosistem AI, sebagaimana KompasTekno rangkum dari Tech Crunch.

Bikin panik penimbun RAM

Meski belum dirilis secara komersial, dampak psikologis dari kemunculan teknologi ini sudah mulai terasa di pasar.

Baca juga: 6 Teknologi AI China yang Tantang Dominasi AS

Salah satu indikasinya terlihat dari perilaku distributor memori, khususnya di China, yang sebelumnya menimbun stok dalam jumlah besar saat harga sedang tinggi.

Setelah pengumuman TurboQuant, para penimbun ini dilaporkan mulai melakukan “cuci gudang” atau melepas stok RAM mereka ke pasar.

Kekhawatiran utama mereka adalah potensi penurunan permintaan dari hyperscaler jika teknologi kompresi seperti TurboQuant benar-benar diadopsi secara luas, yang bisa membuat harga memori anjlok.

Baca juga: Diblokir AS, China Sukses Bikin Chip 5nm Pakai Cara Tak Biasa

Langkah tersebut ikut berkontribusi pada penurunan harga RAM di beberapa wilayah, meskipun belum merata secara global.

Fenomena ini menunjukkan bahwa bahkan pada tahap awal pengembangan, inovasi seperti TurboQuant sudah mampu memengaruhi dinamika pasar komponen teknologi.

Jika berhasil diimplementasikan secara luas di masa depan, TurboQuant tidak hanya berpotensi menekan biaya operasional AI, tetapi juga membuka jalan bagi pengembangan sistem yang lebih efisien dan hemat sumber daya.

Dalam jangka panjang, teknologi ini bisa menjadi salah satu kunci untuk membuat AI lebih terjangkau dan berkelanjutan, sekaligus meredakan tekanan pada industri memori global.

Baca juga: Peringatan Keras untuk Pasar Ponsel Global, Dampak Krisis Memori Makin Terasa di Awal Tahun

Dapatkan update berita teknologi dan gadget pilihan setiap hari. Mari bergabung di Kanal WhatsApp KompasTekno. Caranya klik link https://whatsapp.com/channel/0029VaCVYKk89ine5YSjZh1a. Anda harus install aplikasi WhatsApp terlebih dulu di ponsel.

KOMPAS.com berkomitmen memberikan fakta jernih, tepercaya, dan berimbang. Dukung keberlanjutan jurnalisme jernih dan nikmati kenyamanan baca tanpa iklan melalui Membership. Gabung KOMPAS.com Plus sekarang