Ramaphosa Desak BRICS Bentuk Mekanisme Pengawasan Independen terhadap AI

New Delhi: Presiden Afrika Selatan Cyril Ramaphosa mendesak BRICS membentuk mekanisme internasional untuk melakukan evaluasi ilmiah secara independen terhadap kecerdasan buatan atau artificial intelligence (AI).

Ramaphosa memperingatkan bahwa perkembangan kemampuan teknologi tidak boleh melampaui kemampuan manusia untuk memahami, mengawasi, dan mengendalikannya.

Seruan tersebut disampaikan Ramaphosa dalam KTT BRICS di New Delhi, India, Minggu, 13 September 2026.

Menurut Ramaphosa, kemampuan model AI semakin kuat dan dengan cepat mengubah hampir seluruh aspek kehidupan ekonomi dan sosial.

"Kapabilitas model kecerdasan buatan semakin kuat dan dengan cepat membentuk kembali hampir setiap bidang kehidupan ekonomi dan sosial," kata Ramaphosa, seperti dilansir dari Anadolu Agency.

Dia mengakui bahwa penggunaan AI secara efektif dan bertanggung jawab dapat membuka era baru produktivitas dan kemajuan manusia.

AI, menurut dia, berpotensi membantu mengurangi ketimpangan, kemiskinan, dan keterbelakangan. Teknologi tersebut juga dapat mengubah sektor kesehatan, pendidikan, penemuan ilmiah, hingga produktivitas pertanian.

Namun, Ramaphosa memperingatkan bahwa perkembangan AI juga membawa risiko serius. Ia meminta pemerintah memperhatikan peringatan yang disampaikan para pengembang sistem AI paling canggih di dunia.

Sejumlah risiko yang disoroti mencakup operasi siber tingkat lanjut, bantuan dalam pengembangan senjata biologis, tindakan otonom oleh sistem AI, manipulasi, pengawasan massal, hingga dampaknya terhadap lapangan pekerjaan.

Ramaphosa juga memperingatkan kemungkinan munculnya sistem AI dengan kemampuan yang semakin sulit dikendalikan manusia. "Kita tidak boleh takut terhadap AI dan juga tidak boleh menghadapinya secara ceroboh," ujarnya.

"Tanggung jawab kita adalah memastikan tata kelola oleh manusia berkembang secepat kecerdasan buatan itu sendiri," lanjut Ramaphosa.

Dorong Audit dan Pengawasan Eksternal

Ramaphosa secara khusus mendukung seruan CEO Anthropic Dario Amodei agar perusahaan pengembang AI berada di bawah pengawasan eksternal yang lebih kuat.

"Kami setuju dengan mereka di industri AI, seperti Dario Amodei, CEO Anthropic, yang berpendapat bahwa perusahaan AI harus tunduk pada pemeriksaan eksternal formal, audit, dan kewenangan pemerintah," kata Ramaphosa.

Menurut dia, mekanisme pengawasan semacam itu bukan sesuatu yang asing. Sejumlah industri yang memiliki dampak besar terhadap keselamatan dan kesejahteraan manusia telah lama menerapkan pengawasan serupa.

Ramaphosa mencontohkan sektor penerbangan, farmasi, tenaga nuklir, dan lembaga keuangan. Ia menegaskan pengawasan terhadap AI perlu diperkuat seiring dengan meningkatnya kemampuan teknologi tersebut.

"Kita tidak boleh sampai pada situasi ketika kemampuan teknologi telah melampaui kapasitas kita untuk memahaminya, mengawasi, dan mengendalikannya," katanya.

Ramaphosa kemudian mengusulkan BRICS membentuk mekanisme internasional untuk evaluasi ilmiah AI yang independen.

Mekanisme tersebut, menurut dia, harus didukung prinsip kendali manusia yang bermakna atau meaningful human control, serta kewajiban melaporkan insiden AI yang serius.

Ia juga menyerukan penerapan perlindungan yang semakin kuat seiring meningkatnya kemampuan AI.

Selain itu, negara-negara berkembang perlu meningkatkan investasi untuk membangun kapasitas AI yang berdaulat agar tidak sepenuhnya bergantung pada kemampuan teknologi negara maju.

Dukung Ekosistem AI BRICS

Dalam kesempatan tersebut, Ramaphosa menyambut proposal Presiden Tiongkok Xi Jinping untuk membangun ekosistem AI bagi negara-negara BRICS. Afrika Selatan, kata Ramaphosa, mendukung inisiatif tersebut.

Usulan itu muncul ketika BRICS berupaya memperluas kerja sama teknologi di antara negara anggota dan negara mitranya.

Bagi Ramaphosa, pengembangan AI harus berjalan beriringan dengan penguatan tata kelola. Teknologi tersebut tidak hanya perlu dikembangkan untuk meningkatkan produktivitas, tetapi juga harus memastikan risiko terhadap masyarakat dapat dipantau dan dikendalikan.

Seruan Afrika Selatan tersebut menempatkan tata kelola AI sebagai salah satu agenda penting dalam kerja sama BRICS, terutama ketika negara-negara berkembang berupaya memperbesar kapasitas teknologi mereka sekaligus menghadapi risiko dari perkembangan AI yang semakin cepat.

Baca juga: Presiden Mesir Dorong BRICS Perkuat Ketahanan Ekonomi dan Rantai Pasok Global