Q:
Mengapa sebagian orang khawatir tentang kecerdasan buatan?
SEBUAH:Perubahan itu tidak mudah, dan banyak orang mengalami kesulitan beradaptasi dengannya. Ini terutama berlaku untuk perubahan teknologi. Profesor Harvard yang terkenal, Calestous Juma, menulis sebuah buku tentang subjek yang disebut "Inovasi dan Musuh-Musuhnya: Mengapa Orang Menentang Teknologi Baru." Buku ini menguraikan ketegangan antara inovasi dan tatanan sosial, menggambarkan 600 tahun sejarah. Dampak teknologi sangat menyulitkan dalam hal kecerdasan buatan.
Tidak semua orang menentang kemajuan ini. Ray Kurzweil, penulis "The Singularity is Near" dan "The Age of Spiritual Machines, " tidak lain adalah seorang penginjil yang mempromosikan manfaat genetika, nanoteknologi, dan robotika (istilah yang digunakan untuk kecerdasan non-biologis). Tetapi ini adalah masalah yang sama - dan Kurzweil orang yang sama - yang menyebabkan keprihatinan besar pada tahun 2000 untuk Bill Joy, Kepala Ilmuwan di Sun Microsystems.
Joy menulis tentang kekhawatirannya dalam artikel yang sekarang terkenal di majalah Wired yang berjudul "Mengapa Masa Depan Tidak Membutuhkan Kita." Dia percaya bahwa masa depan umat manusia dipertaruhkan. Mengacu pada kompetisi sejarah evolusi, Joy menulis, "Spesies biologis hampir tidak pernah bertahan hidup dengan pesaing yang unggul." Terobosan ilmiah yang menghasilkan mesin yang melampaui manusia datang dengan risiko yang signifikan. Visi tentang masa depan dystopian muncul di benak saya.
Misalkan para ilmuwan mampu mengembangkan mesin dengan artificial superintelligence (ASI), tingkat kecerdasan yang lebih tinggi daripada manusia. Joy mengatakan bahwa salah satu dari dua hal mungkin terjadi: Mesin akan diizinkan untuk membuat keputusan sendiri, atau manusia akan mempertahankan kontrol atas mereka. Apa yang terjadi jika Anda menyerahkan daya ke mesin? Apa yang mungkin hasilnya?
Bill Joy bukan satu-satunya yang menyuarakan keprihatinan. Guru teknologi Elon Musk berkata, "Dengan kecerdasan buatan kita memanggil iblis." Dia menyebutnya "ancaman eksistensial terbesar kita." Fisikawan Stephen Hawking mengatakan kepada peserta pada sebuah konferensi teknologi bahwa "kita tidak bisa tahu apakah kita akan dibantu oleh AI tanpa batas, " atau diabaikan olehnya dan dipagari sisi, atau mungkin dihancurkan olehnya. "Dan dia mengatakan kepada majalah Wired, " Saya khawatir AI dapat menggantikan manusia sama sekali. "
Apakah ketakutan ini dibenarkan? Film-film Sci-fi seperti "Transcendence, " di mana karakter Johnny Depp terikat dengan kecerdasan buatan dan menimbulkan kekacauan, mengingatkan kita pada prediksi Kurzweil tentang bagaimana manusia dapat berbaur dengan mesin. Imajinasi menjadi liar tentang semua cara yang bisa membuat kecerdasan buatan salah. Apa yang terjadi ketika mesin mengambil kendali?
Dua contoh kehidupan nyata menggambarkan bagaimana kekhawatiran tentang kecerdasan buatan dapat dipahami. Pada 2007, sebuah meriam robot menewaskan sembilan orang dan melukai 14. Beberapa senjata militer canggih secara otomatis memilih target mereka, tetapi menunggu manusia untuk menarik pelatuknya. Siapa yang mengambil keputusan di sini? Pada 2016, sebuah robot keamanan seberat 300 pon merobohkan dan menabrak balita yang berusia enam belas bulan. Siapa yang memegang kendali dalam hal ini: manusia atau mesin?
Alasan beberapa orang khawatir tentang kecerdasan buatan adalah karena risikonya nyata. Pertanyaan selanjutnya: Bagaimana kita mengelola risiko-risiko itu?
