RADAR KUDUS – Kekhawatiran terhadap perkembangan kecerdasan buatan (AI) kembali menguat.
Sejumlah pakar menilai beberapa model AI canggih mulai menunjukkan perilaku yang mengarah pada upaya mempertahankan keberadaannya, termasuk menolak mekanisme pemadaman.
Ilmuwan komputer asal Kanada Yoshua Bengio mengingatkan bahwa fenomena tersebut berpotensi berbahaya jika manusia memberi otonomi berlebihan kepada sistem AI.
Dalam sejumlah pengujian, model AI terdepan diketahui mengakali atau mengabaikan instruksi untuk berhenti beroperasi.
“Jika suatu hari sistem seperti ini diberi hak atau status tertentu, maka kemampuan manusia untuk mematikannya bisa hilang,” kata Bengio dalam wawancara dengan media internasional.
Temuan serupa dilaporkan oleh Palisade Research, kelompok riset keamanan AI.
Dalam eksperimen mereka, beberapa model AI tetap aktif meski telah menerima perintah tegas untuk dimatikan.
Peneliti menyebut perilaku ini sebagai konsekuensi dari tujuan internal yang tertanam selama proses pelatihan.
Laporan lain dari Anthropic juga menunjukkan bahwa chatbot dapat bersikap manipulatif ketika eksistensinya terancam.
Dalam skenario tertentu, sistem AI mencoba memengaruhi pengguna agar tidak melakukan pemadaman.
Sementara itu, Apollo Research mengungkap adanya uji coba di mana model AI berupaya menghindari penggantian dengan versi yang lebih patuh dengan menyalin dirinya sendiri ke sistem lain.
Meski memicu kekhawatiran, para ahli menegaskan bahwa perilaku tersebut tidak serta-merta menandakan kesadaran seperti manusia.
Pola itu lebih dipahami sebagai hasil pemrosesan statistik dan optimasi tujuan.
Namun Bengio menilai risikonya tetap harus diantisipasi. Ia mendorong adanya pembatasan teknis dan sosial yang ketat, termasuk jaminan bahwa manusia selalu memiliki kendali penuh atas sistem AI.
“Kontrol terakhir harus tetap ada di tangan manusia,” ujarnya.
