Можете ли да се доверите на AI? Трябва ли да приемете нейните констатации като обективно валидни без въпрос? Проблемът е, че дори самото разпитване на AI не би дало ясни отговори.
AI системите обикновено работят като черна кутия: Данните се въвеждат и се извеждат данни, но процесите, които трансформират тези данни, са загадка. Това създава двоен проблем. Едното е, че не е ясно кои са алгоритмите, които са най-надеждни. Другото е, че на пръв поглед обективни резултати могат да бъдат изкривени от ценностите и пристрастията на хората, които програмират системите. Ето защо е необходима прозрачност за виртуалните мисловни процеси, които такива системи използват, или „обясним ИИ“.
Етичният императив стана легален за всеки, който е обект на GDPR, който засяга не само бизнеса със седалище в ЕС, но и всеки, който има сделки с хора или организации там. Той съдържа редица разпоредби относно защитата на данните, които обхващат гражданите на ЕС „правото да не се подчинява единствено на автоматизирано вземане на решения, освен в определени ситуации“ и „правото да бъде предоставена съдържателна информация за логиката, включена в решението . "
