„Да се заблуждаваме е човек; Уилям Е. Вейън прави това наблюдение през 1969 г. Предоставянето на контрол върху автоматизирана система носи потенциал системата да се заблуди и да причини сериозни вреди, преди да бъде проверена.
Автоматизацията не е нещо ново, но става много по-широко разпространено благодарение на интеграцията на цифрови и физически системи. Напредъкът на автоматизацията в мащаба е голяма ефективност. Недостатъкът на разчитането на системата за настройка и забравяне е, че някой може да не успее да го настрои правилно.
Със система, която просто следва без намеса и никакъв начин да спрете машината, можете да имате разрушителни ефекти. Съответно, технологията може да създаде типа ситуация, изобразена в „Ученичката на магьосника“, когато това, което изглежда улеснява живота, всъщност изтича извън контрол.
