Q:
Какви са етичните проблеми относно машинното обучение?
A:Етичните проблеми, свързани с машинното обучение, включват не толкова самите алгоритми за машинно обучение, колкото начина, по който се използват данните.
Скандалът Cambridge Analytica с Facebook, при който политическа консултантска фирма използва данни от социалната мрежа без знание или съгласие на потребителите, илюстрира много проблеми, свързани със събирането и използването на потребителски данни. Въпреки че много лицензионни споразумения за крайни потребители определят как могат да се използват данните на потребителите, много потребители на социални медии може да не прочетат финия шрифт.
| Безплатно изтегляне: Машинното обучение и защо има значение |
Друг проблем е, че тези алгоритми за машинно обучение може да са „черни кутии“, където е невъзможно да се види как работят в действителност. Може да е невъзможно да се знае защо алгоритъмът за машинно обучение е взел решение.
Една област от машинното обучение е поставянето на медицински диагнози. Алгоритъм може да разгледа рентгенови лъчи, за да открие рак. Човешки лекар може да обясни защо са поставили диагноза, но може би не знаем как алгоритъмът за машинно обучение определя дали пациентът има рак или не.
Пускането на програми за машинно обучение под лицензи с отворен код е едно решение. Когато хората могат да разгледат изходния код на дадена програма, те могат да видят как тя взема решения.
Друг проблем е използването на данни за машинно обучение и възможни предубеждения. Има няколко случая на расови и други предубеждения, превръщащи ги в програми за машинно обучение неволно. Един алгоритъм идентифицира черните като горили, а друг променя чертите на лицето на цветните хора, за да изглеждат по-„европейски“, докато претендира да ги разкраси.
Един от начините да се противодейства на това е да има повече хора от различни среди в областта на ИИ.
Друг проблем е безопасното използване на машинно обучение и изкуствен интелект. ИИ и програмите за машинно обучение могат да развият поведение, което хората не биха искали от тях, като например да не позволяват на хората да ги изключват.
