Bisakah Anda mempercayai AI? Haruskah Anda menerima temuannya secara objektif valid tanpa pertanyaan? Masalahnya adalah bahwa bahkan mempertanyakan AI itu sendiri tidak akan menghasilkan jawaban yang jelas.
Sistem AI umumnya beroperasi seperti kotak hitam: Data adalah input, dan data adalah output, tetapi proses yang mengubah data itu adalah sebuah misteri. Itu menciptakan dua masalah. Salah satunya adalah tidak jelas kinerja algoritma mana yang paling dapat diandalkan. Yang lain adalah bahwa hasil yang tampaknya objektif dapat condong oleh nilai-nilai dan bias dari manusia yang memprogram sistem. Inilah sebabnya mengapa ada kebutuhan akan transparansi untuk proses pemikiran virtual yang digunakan sistem tersebut, atau "AI yang dapat dijelaskan."
Keharusan etis telah menjadi sesuatu yang legal bagi siapa saja yang tunduk pada GDPR, yang berdampak tidak hanya pada bisnis yang berbasis di UE tetapi juga yang berhubungan dengan orang atau organisasi di sana. Ini berisi sejumlah ketentuan tentang perlindungan data yang meluas ke warga negara Uni Eropa "hak untuk tidak menjadi subyek pengambilan keputusan otomatis, kecuali dalam situasi tertentu" dan "hak untuk diberikan informasi yang bermakna tentang logika yang terlibat dalam keputusan tersebut. "
