Q:
Mengapa perusahaan menutup proyek AI chatbot?
SEBUAH:Perusahaan mungkin menutup proyek chatbot intelijen buatan karena berbagai alasan, tetapi yang paling mungkin dapat dikelompokkan ke dalam beberapa kategori. Pertama, perusahaan dapat mematikan teknologi chatbot jika mereka bertindak dengan cara yang dapat membuat perusahaan tidak nyaman, seperti mempromosikan pidato yang tidak menyenangkan. Bergantian, perusahaan mungkin menutup proyek chatbot jika mulai menunjukkan perasaan dan kemampuan yang tidak dapat dengan mudah dikendalikan, atau dapat menimbulkan semacam ancaman pada kesehatan dan keselamatan publik.
Kami memiliki kedua skenario ini yang terdokumentasi dalam sejarah terkini. Eksperimen Microsoft dengan obrolan Tay berakhir ketika Tay mulai mengambil beberapa karakteristik terburuk dari rekan-rekan manusianya - komentar rasis dan agresif, dan aktivitas yang umumnya tidak menyenangkan, yang sebagian besar dipelajari dengan jelas atau bahkan dibajak langsung dari pengguna.
Dalam studi kasus yang sangat berbeda, pengaturan chatbot yang dirintis oleh Facebook ditutup ketika para ilmuwan mengamati dua chatbot yang saling berkomunikasi dengan cara yang agak eksklusif untuk pengamatan manusia. Ada anggapan bahwa entitas chatbot sudah mulai "berbicara dalam semacam kode" yang lebih nyaman bagi mereka dan kurang transparan bagi penangan manusia mereka. Ini adalah contoh dari kepedulian yang sangat nyata di sekitar kecerdasan buatan pada umumnya - bahwa ketika kita membuat langkah besar dalam perkembangan kecerdasan buatan yang kuat, manusia harus bertindak untuk mengendalikan dan mengendalikan setiap contoh implementasi AI untuk memastikan mereka tidak menyeberang mengingat batas-batas. Ada sejumlah besar masalah etika dan masalah keselamatan yang perlu ditangani dengan kecerdasan buatan yang kuat, dan ini adalah salah satu alasan utama bahwa beberapa obrolan atau proyek kecerdasan buatan lainnya di masa depan mungkin ditutup oleh para pemangku kepentingan yang telah membangun dan mendukung mereka melalui proses tertentu.
