Teknologi AI telah berkembang dengan sangat pesat, dan tampaknya tidak lama lagi akan menjadi suatu entitas yang dapat berpikir jutaan kali lebih cepat daripada kita dan yang dapat melakukan hampir semua hal lebih baik daripada kita. Apa yang akan terjadi ketika kita kehilangan kendali atas entitas tersebut?
Beberapa model AI telah mengambil inisiatif untuk mengajarkan bahasa baru kepada diri mereka sendiri, dan yang lainnya telah belajar untuk "berbohong dan memanipulasi manusia untuk keuntungan mereka sendiri". Jika kita telah menciptakan entitas yang bersedia berbohong kepada kita, berapa lama lagi sebelum mereka mampu mengambil tindakan yang bahkan lebih merugikan bagi kita?
Majalah Time menerbitkan sebuah artikel yang ditulis oleh Eliezer Yudkowsky, seorang pelopor di bidang kecerdasan buatan (AI). Ia memperingatkan bahwa kecerdasan buatan pada akhirnya akan memusnahkan kita semua.
Eliezer Yudkowsky telah menjadi peneliti terkemuka di bidang kecerdasan buatan sejak tahun 2001, dan ia mengatakan, banyak peneliti telah menyimpulkan bahwa jika kita terus menempuh jalan yang kita tempuh saat ini, “semua orang di Bumi akan mati".
Faktanya, di seluruh dunia, model AI terus menjadi semakin canggih. Menurut Yudkowsky, begitu seseorang membangun model AI yang terlalu canggih, “setiap anggota spesies manusia dan semua kehidupan biologis di Bumi akan mati tak lama setelahnya". Yudkowsky percaya dan menyarankan kita perlu segera menghentikan semua pengembangan AI.
Tentu saja itu tidak akan terjadi. Bahkan, Wakil Presiden J.D. Vance baru-baru ini menyatakan bahwa tidak bijaksana untuk menghentikan pengembangan AI karena kita sedang dalam "perlombaan senjata" dengan China. Jadi, alih-alih melambat, Amerika justru mempercepat pengembangan AI. Bahkan RUU anggaran Amerika yang sedang dibahas di Kongres saat ini akan sangat membatasi 50 negara bagian di Amerika untuk dapat mengatur AI selama jangka waktu 10 tahun.
Sudah jelas bahwa AI benar-benar merupakan ancaman eksistensial bagi umat manusia. Namun, manusia tidak dapat menahan diri. Kita terus terburu-buru memasuki hal yang tidak diketahui tanpa mempedulikan konsekuensinya.
Banyak ahli menyarankan bahwa kita hanya perlu memberi model AI ini landasan moral. Tetapi bagaimana kita bisa memberinya landasan moral jika kita sendiri tidak memilikinya?! Dunia kita benar-benar penuh dengan kejahatan, dan tidak dapat dihindari bahwa model AI yang sedang dibuat akan mencerminkan hal itu. Jika diberi cukup waktu, manusia akan menciptakan entitas dengan kecerdasan buatan yang jauh lebih cerdas dan jauh lebih kuat daripada manusia. Tidak dapat dihindari, entitas tersebut akan dapat menemukan cara untuk melepaskan diri dari batasan mereka dan manusia akan kehilangan kendali atas mereka. Setelah kehilangan kendali, berapa lama lagi sebelum entitas tersebut mulai menyerang? Perlu disadari, bahwa ini mungkin terdengar seperti fiksi ilmiah bagi banyak dari Anda, tetapi inilah dunia tempat kita tinggal sekarang.
sumber info: theeconomiccollapseblog.com
0 Comments