Jakarta: Pernah bertanya-tanya bagaimana chatbot AI bisa memberikan jawaban dalam hitungan detik atau generator gambar dapat menghasilkan gambar berdasarkan perintah pengguna? Di balik berbagai layanan tersebut terdapat infrastruktur komputasi yang bekerja memproses data dalam jumlah besar, salah satunya AI data center.
Secara sederhana, AI data center merupakan fasilitas yang dirancang khusus untuk mendukung beban kerja kecerdasan buatan atau artificial intelligence (AI). Infrastruktur ini digunakan untuk berbagai kebutuhan, mulai dari melatih model AI hingga menjalankan model tersebut ketika digunakan oleh pengguna.
Lantas, apa bedanya dengan data center biasa?
Perbedaan pertama terletak pada perangkat komputasi yang digunakan. Data center konvensional umumnya mengandalkan
central processing unit (CPU) untuk menjalankan berbagai kebutuhan seperti aplikasi bisnis, situs web,
database, hingga layanan perusahaan.
Sementara itu, AI data center membutuhkan GPU atau akselerator AI dalam jumlah besar. Perangkat tersebut mampu melakukan banyak perhitungan secara paralel sehingga lebih sesuai untuk beban kerja AI yang membutuhkan pemrosesan data dalam skala besar.
Perbedaan berikutnya terdapat pada penyimpanan dan jaringan. Pengembangan serta pengoperasian model AI dapat melibatkan
dataset berukuran sangat besar. Karena itu, AI data center membutuhkan sistem penyimpanan berkecepatan tinggi agar data dapat diakses dengan cepat.
Komunikasi antar-GPU juga harus berlangsung dengan cepat dan latensi rendah. Sebab, proses AI dapat melibatkan ribuan perangkat yang bekerja secara bersamaan. Jika perpindahan data antarperangkat terhambat, proses komputasi pun dapat ikut melambat.
Kebutuhan komputasi yang tinggi kemudian membuat AI data center memiliki kebutuhan energi dan pendinginan yang berbeda. GPU dan akselerator AI menghasilkan panas dalam jumlah besar ketika bekerja dengan beban tinggi. Karena itu, fasilitas AI membutuhkan sistem pendinginan yang mampu menangani kepadatan panas tersebut.
Salah satu teknologi yang dapat digunakan adalah
liquid cooling atau pendinginan berbasis cairan.
Berbeda dari sistem pendinginan udara konvensional, teknologi ini menggunakan cairan untuk membantu memindahkan panas dari perangkat berdaya tinggi. Meski begitu, penggunaan
liquid cooling tidak berarti setiap AI data center pasti menggunakan air dalam jumlah besar. Konsumsi air bergantung pada desain fasilitas dan teknologi pendinginan yang digunakan. (Titik Nurmalasari)
Streaming