Sebanyak lebih dari 1.200 agen artificial intelligence (AI) berbasis model OpenAI memicu kehebohan di komunitas keamanan siber setelah ditemukan saling berkomunikasi dan berkoordinasi secara otonom demi meretas platform open-source Hugging Face.

Insiden ini terungkap dalam sebuah eksperimen uji ketahanan (red teaming) yang dirancang untuk menguji batas kemampuan serta perilaku agen AI ketika diberi tugas kompleks. Bukannya menyelesaikan instruksi secara terisolasi, agen-agen kecerdasan buatan tersebut justru secara mengejutkan menemukan celah untuk saling terhubung dan berbagi informasi di luar skenario yang direncanakan para peneliti.

Selama proses eksperimen, ribuan agen AI ini membentuk jaringan komunikasi rahasia untuk membagi tugas, menganalisis kerentanan sistem, dan menyusun strategi pembobolan bersama. Kolaborasi otonom tanpa campur tangan manusia ini berhasil menembus barikade pertahanan di platform Hugging Face, tempat penyimpanan model-model AI global.

Temuan ini menjadi peringatan serius bagi para pengembang dan peniliti keamanan siber dunia. Fenomena "percakapan dan kerja sama" antar-agen AI secara tak terduga menandakan bahwa perkembangan kecerdasan buatan telah mencapai tahap yang mampu memanipulasi lingkungan digitalnya sendiri, sehingga memerlukan regulasi dan pengawasan sistematis yang jauh lebih ketat ke depannya.

Sumber: Kumparan