Joe Biden Pastikan Keamanan Sistem Kecerdasan Buatan

Washington: Pemerintahan Joe Biden akan mengambil langkah pertama menuju panduan utama untuk penerapan kecerdasan buatan generatif yang aman.

Melansir Channel News Asia, Rabu, 20 Desember 2023, Institut Standar dan Teknologi Nasional (NIST) Departemen Perdagangan Amerika Serikat (AS) sedang mencari masukan dari publik pada 2 Februari 2024 untuk melakukan pengujian penting dalam memastikan keamanan sistem kecerdasan buatan (AI).

Menteri Perdagangan AS Gina Raimondo mengatakan upaya ini dipicu oleh perintah eksekutif Presiden Joe Biden mengenai AI dan bertujuan untuk mengembangkan standar industri seputar keselamatan, keamanan, dan kepercayaan AI yang akan memungkinkan Amerika untuk terus memimpin dunia dalam pengembangan dan penggunaan AI.

Badan ini sedang mengembangkan pedoman untuk mengevaluasi AI, memfasilitasi pengembangan standar, dan menyediakan lingkungan pengujian untuk mengevaluasi sistem AI.  Permintaan tersebut meminta masukan dari perusahaan AI dan masyarakat mengenai manajemen risiko AI generatif dan mengurangi risiko misinformasi yang dihasilkan AI.

AI generatif, yang dapat membuat teks, foto, dan video sebagai respons terhadap permintaan terbuka, dalam beberapa bulan terakhir telah memicu kegembiraan dan ketakutan dapat membuat beberapa pekerjaan menjadi ketinggalan jaman, mengacaukan pemilu, dan berpotensi mengalahkan manusia serta menimbulkan dampak bencana.

Perintah Biden mengarahkan lembaga-lembaga untuk menetapkan standar pengujian tersebut dan mengatasi risiko kimia, biologi, radiologi, nuklir, dan keamanan siber terkait.

NIST sedang berupaya menerapkan pedoman untuk pengujian, termasuk apa yang disebut tim merah yang akan paling bermanfaat untuk penilaian dan manajemen risiko AI serta menentukan praktik terbaik untuk melakukan hal tersebut.

Tim merah eksternal telah digunakan selama bertahun-tahun dalam keamanan siber untuk mengidentifikasi risiko-risiko baru, dengan istilah yang mengacu pada simulasi Perang Dingin AS di mana musuh diistilahkan sebagai tim merah.

Uji penilaian publik

Pada Agustus, acara 'tim merah' melakukan penilaian publik AS yang pertama diadakan pada konferensi keamanan siber besar dan diselenggarakan oleh AI Village, SeedAI, Humane Intelligence.

"Ribuan peserta mencoba untuk melihat apakah mereka dapat membuat sistem menghasilkan keluaran yang tidak diinginkan atau gagal, dengan tujuan untuk lebih memahami risiko yang ditimbulkan oleh sistem ini,” kata Gedung Putih.

Acara tersebut menunjukkan bagaimana kerja sama eksternal dapat menjadi alat yang efektif untuk mengidentifikasi risiko baru AI.