Q:
Mengapa beberapa perusahaan mempertimbangkan untuk menambahkan "kontrol umpan balik manusia" ke sistem AI modern?
SEBUAH:Beberapa perusahaan yang bekerja dengan teknologi AI mutakhir sedang bekerja untuk melembagakan kontrol manusia untuk sistem ini, memberikan alat pembelajaran dan alat pembelajaran yang dalam beberapa pengawasan langsung manusia. Perusahaan-perusahaan ini juga bukan pemain kecil - Google DeepMind dan OpenAI Elon Musk adalah dua contoh perusahaan besar yang terlibat langsung tentang kemajuan kecerdasan buatan. Dengan pemikiran itu, hasilnya berbeda - misalnya, DeepMind telah menjadi subyek kontroversi karena keengganannya yang dirasakan untuk memberikan data kunci kepada publik, sementara OpenAI jauh lebih baik, terbuka tentang pekerjaannya dalam mengendalikan kecerdasan buatan.
Bahkan tokoh-tokoh terkemuka seperti Bill Gates telah mempertimbangkan masalah ini, Gates mengatakan bahwa ia adalah salah satu dari banyak orang yang khawatir tentang kemunculan kecerdasan super buatan yang mungkin dalam beberapa hal bergerak di luar kendali manusia. Musk, pada bagiannya, juga telah mengajukan beberapa bahasa yang mengkhawatirkan tentang kemungkinan "AI nakal."
Itu mungkin alasan paling mendesak bahwa perusahaan bekerja untuk menerapkan kontrol manusia ke AI - gagasan bahwa beberapa teknologi akan menghasilkan teknologi makhluk super kuat yang manusia tidak bisa mengendalikan lagi. Sejak awal ambisi manusia, kami telah menempatkan alat-alat untuk memastikan bahwa kami dapat mengendalikan kekuatan yang kami miliki - apakah itu kuda dengan tali kekang dan tali kekang, listrik dalam kabel terisolasi, atau jenis mekanisme kontrol lainnya, memiliki kontrol adalah fungsi bawaan manusia dan karenanya masuk akal di dunia bahwa ketika kecerdasan buatan mendekati fungsi nyata, manusia menerapkan kontrol langsung mereka sendiri untuk menjaga kekuatan itu tetap terkendali.
Namun, ketakutan terhadap robot super-cerdas bukan satu-satunya alasan perusahaan menerapkan kontrol manusia untuk pembelajaran mesin dan proyek AI. Alasan utama lainnya adalah bias mesin - ini adalah gagasan bahwa sistem kecerdasan buatan sering terbatas dalam cara mereka mengevaluasi data yang dipermasalahkan - sehingga mereka memperbesar bias yang melekat dalam sistem. Sebagian besar profesional yang berurusan dengan pembelajaran mesin dapat menceritakan kisah-kisah horor tentang sistem TI yang tidak mampu memperlakukan kelompok pengguna manusia sama - apakah itu perbedaan gender atau etnis, atau kegagalan sistem lainnya untuk benar-benar memahami nuansa masyarakat manusia kita dan bagaimana kita berinteraksi dengan orang-orang.
Dalam arti tertentu, kita mungkin menempatkan kontrol manusia pada sistem karena kita takut mereka mungkin terlalu kuat - atau secara bergantian, karena kita takut mereka mungkin tidak cukup kuat. Kontrol manusia membantu menargetkan set data pembelajaran alat berat untuk memberikan lebih banyak presisi. Mereka membantu memperkuat gagasan bahwa komputer tidak bisa belajar sendiri, baik karena modelnya tidak cukup canggih, karena AI belum maju cukup jauh, atau karena beberapa hal hanya terletak di provinsi kognisi manusia. Kecerdasan buatan bagus untuk beberapa hal - misalnya, sistem berbasis penghargaan dan skor memungkinkan kecerdasan buatan mengalahkan pemain manusia di permainan papan yang sangat kompleks "Go" - tetapi untuk hal-hal lain, sistem berbasis insentif ini adalah sepenuhnya tidak memadai.
Singkatnya, ada banyak alasan kuat untuk membuat pengguna manusia terlibat langsung dalam cara kerja proyek kecerdasan buatan. Bahkan teknologi kecerdasan buatan terbaik dapat melakukan banyak pemikiran sendiri - tetapi tanpa otak manusia biologis yang sebenarnya yang dapat memproses hal-hal seperti emosi dan kebiasaan sosial, mereka tidak dapat melihat gambaran besar secara manusia.
Perusahaan pembelajaran mesin yang terampil dapat membantu mencapai keseimbangan ini dengan campuran pakar bisnis dan subjek dan pengembang pembelajaran mesin dengan keterampilan untuk memecahkan masalah bisnis besar.
