Q:
Защо някои хора се притесняват от изкуствения интелект?
A:Промяната не е лесна и много хора имат трудности да се адаптират към нея. Това важи особено за технологичните промени. Изтъкнатият професор от Харвард Calestous Juma написа книга по темата, наречена „Иновации и нейните врагове: защо хората се съпротивляват на новите технологии.“ Книгата очертава напрежението между иновациите и социалния ред, опирайки се на 600-годишната история. Въздействието на технологиите е особено обезпокоително, когато става дума за изкуствен интелект.
Не всеки е вреден за този напредък. Рей Курцвайл, автор на „Сингулярността е близо“ и „Епохата на духовните машини“, не е нищо повече от евангелист, насърчаващ ползите от генетиката, нанотехнологиите и роботиката (термин, използван за небиологична интелигентност). Но това са едни и същи проблеми - и Курцвайл един и същи човек - които предизвикаха голяма тревога през 2000 г. за Бил Джой, главен учен в Sun Microsystems.
Джой пише за притесненията си в вече известна статия в списание Wired, наречена „Защо бъдещето не се нуждае от нас.“ Той вярваше, че самото бъдеще на човешката раса е поставено на риск. Позовавайки се на конкуренцията на еволюционната история, Джой пише: „Биологичните видове почти никога не оцеляват при срещи с превъзходни конкуренти.“ Научните пробиви, в резултат на които машините надминават хората, носят значителни рискове. Визиите за дистопично бъдеще идват на ум.
Да предположим, че учените са в състояние да разработят машини с изкуствен свръх интелект (ASI), ниво на интелигентност, по-високо от хората. Джой казва, че може да се случи едно от двете неща: или на машините ще им бъде позволено да взимат свои собствени решения, или хората ще поддържат контрол над тях. Какво се случва, ако предадете захранването на машините? Какви могат да бъдат резултатите?
Бил Джой не е единственият, който изказва опасения. Техническият гуру Елон Мъск каза: „С изкуствен интелект призоваваме демона. Той го нарече„ най-голямата ни екзистенциална заплаха. “Физикът Стивън Хокинг каза на присъстващите на технологична конференция, че„ не можем да знаем дали ще ни помогне безкрайно AI, или пренебрегван от нея и подплатена или възможно разрушена от нея. ”И той каза пред списание Wired:“ Страхувам се, че AI може да замести хората напълно ”.
Оправдани ли са тези страхове? Научнофантастични филми като „Трансцендентност“, където персонажът на Джони Деп се свързва с изкуствен интелект и разрушава, напомнят прогнозите на Курцвайл за това как хората биха могли да се смесят с машини. Въображенията се развихрят по всички начини, по които изкуственият интелект може да се обърка. Какво се случва, когато машините поемат контрол?
Два примера от реалния живот илюстрират как притеснението от изкуствения интелект може да бъде разбираемо. През 2007 г. оръдие за робот уби девет души и рани 14. Някои напреднали военни оръжия автоматично избират целите си, но изчакайте човек да дръпне спусъка. Кой взимаше решенията тук? През 2016 г. 300-килограмов робот за сигурност събори и се натъкна на шестнайсет месечно малко дете. Кой контролираше в този случай: човек или машина?
Причината някои хора да се притесняват от изкуствения интелект е, че рисковете са реални. Следващият въпрос: Как ще управляваме тези рискове?
