“Melakukan kesalahan adalah manusia; untuk benar-benar melakukan kesalahan memerlukan komputer. ”William E. Vaughan membuat pengamatan ini kembali pada tahun 1969. Memberi kendali pada sistem otomatis membawa potensi bagi sistem untuk serba salah dan menyebabkan kerusakan serius sebelum diperiksa.
Otomasi bukan hal baru, tetapi menjadi jauh lebih luas berkat integrasi sistem digital dan fisik. Kelebihan otomatisasi pada skala adalah efisiensi yang luar biasa. Tetapi kelemahan dari mengandalkan sistem set-it-and-forget-it adalah seseorang mungkin gagal untuk mengaturnya dengan benar.
Dengan sistem yang hanya mengikuti tanpa intervensi dan tidak ada cara menghentikan mesin, Anda dapat memiliki efek destruktif. Dengan demikian, teknologi dapat menciptakan jenis situasi yang digambarkan dalam "The Sorcerer's Apprentice, " ketika apa yang tampaknya membuat hidup lebih mudah sebenarnya tidak terkendali.
