DIALEKSIS.COM | Dunia - Ilmuwan komputer dan teknologi telah memperingatkan bahwa kecerdasan buatan (artificial intelligence) menimbulkan "risiko kepunahan".

“Mengurangi risiko kepunahan AI harus menjadi prioritas global di samping risiko skala sosial lainnya seperti pandemi dan perang nuklir,” kata sekelompok pakar AI dan tokoh terkenal lainnya dalam pernyataan singkat yang dirilis oleh Pusat Keamanan AI, kelompok penelitian dan advokasi yang berbasis di San Francisco, Selasa (30/5/2023).

Peringatan tersebut menyusul surat terbuka yang ditandatangani oleh Elon Musk dan tokoh terkenal lainnya pada bulan Maret yang menyerukan jeda enam bulan pada pengembangan AI yang lebih maju daripada GPT-4 OpenAI.

“Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” kata surat itu.

Kemajuan pesat AI telah menimbulkan kekhawatiran tentang potensi konsekuensi negatif bagi masyarakat mulai dari kehilangan pekerjaan massal dan pelanggaran hak cipta hingga penyebaran informasi yang salah dan ketidakstabilan politik. Beberapa ahli telah menimbulkan kekhawatiran bahwa suatu hari umat manusia dapat kehilangan kendali atas teknologi tersebut.

Sementara AI saat ini belum mencapai kecerdasan umum buatan (AGI), berpotensi memungkinkannya untuk membuat keputusan independen, para peneliti di Microsoft pada bulan Maret mengatakan bahwa GPT-4 menunjukkan "percikan AGI" dan mampu menyelesaikan tugas-tugas baru dan sulit yang menjangkau matematika, pengkodean, visi, kedokteran, hukum, psikologi dan banyak lagi, tanpa perlu dorongan khusus.

Sejak saat itu, peringatan tentang potensi bahaya AI semakin meningkat.

Bulan lalu, Hinton, seorang ilmuwan komputer terkenal, berhenti dari pekerjaannya di Google agar dia dapat menghabiskan lebih banyak waktu untuk mengadvokasi tentang risiko AI.

AS dan negara-negara lain berebut untuk menghasilkan undang-undang yang menyeimbangkan kebutuhan pengawasan dengan teknologi yang menjanjikan.

Uni Eropa berharap untuk mengesahkan undang-undang pada akhir tahun yang akan mengklasifikasikan AI ke dalam empat kategori berbasis risiko.

China juga telah mengambil langkah-langkah untuk mengatur AI, mengesahkan undang-undang yang mengatur pemalsuan mendalam dan mewajibkan perusahaan untuk mendaftarkan algoritme mereka ke regulator. [Aljazeera]