Q:
Защо някои компании обмислят да добавят „контрол на човешката обратна връзка“ към съвременните системи за ИИ?
A:Някои компании, работещи с авангардна AI технология, работят за въвеждането на човешки контрол върху тези системи, давайки на инструментите за машинно обучение и задълбочено обучение някои преки човешки надзор. Тези компании също не са малки играчи - DeepMind на Google и OpenAI на Елон Мъск са два примера за големи компании, които се опитват да постигнат напредък в изкуствения интелект. Като се има предвид това, резултатите се различават - например DeepMind беше обект на спор заради възприетото си нежелание да предоставя ключови данни на обществеността, докато OpenAI е много повече, добре, отворен за работата си по контрола на изкуствения интелект.
Дори такива забележителни, като Бил Гейтс, обръщат внимание на въпроса, Гейтс казва, че той е един от многото, които са загрижени за появата на изкуствено свръхразузнаване, което по някакъв начин може да излезе извън човешкия контрол. Мъск от своя страна също е изказал тревожен език за възможността за „измамник ИИ“.
Това е може би най-неотложната причина, поради която компаниите работят за прилагане на човешки контрол върху ИИ - идеята, че някаква технологична особеност ще доведе до свръхмощна разумна технология, която хората просто не могат да контролират вече. Още от зората на човешките амбиции сме поставили инструменти, за да сме сигурни, че можем да контролираме силите, които владеем - независимо дали става въпрос за коне с юзди и сбруи, електричество в изолирани проводници или някакъв друг механизъм за управление, като имаме контролът е съкровено човешка функция и затова има смисъл в света, тъй като изкуственият интелект се доближава до реалната функционалност, хората прилагат собствените си директни контроли, за да поддържат тази сила под контрол.
Въпреки това, страхът от супер интелигентните роботи не е единствената причина компаниите да прилагат човешки контрол върху машинното обучение и AI проектите. Друга основна причина е машинното пристрастие - това е идеята, че системите за изкуствен интелект често са ограничени в начина, по който оценяват въпросните данни, така че да усилват всякакви пристрастия, присъщи на системата. Повечето професионалисти, които се занимават с машинно обучение, могат да разказват ужасни истории за ИТ системи, които не са били в състояние да третират човешки групи потребители - независимо дали е било полово или етническо несъответствие или някакъв друг провал на системата да разбере наистина нюансите на нашите човешки общества и как взаимодействаме с хората.
В известен смисъл можем да поставим човешки контрол върху системите, защото се страхуваме, че може да са твърде мощни - или алтернативно, защото се страхуваме, че може да не са достатъчно мощни. Човешките контроли помагат да се насочат към набори от данни за машинно обучение, за да се осигури по-голяма точност. Те помагат да се затвърдят идеите, които компютърът просто не може да научи самостоятелно, било защото моделът не е достатъчно сложен, защото AI не е напреднал достатъчно далеч, или защото някои неща просто се намират в провинцията на човешкото познание. Изкуственият интелект е чудесен за някои неща - например система, базирана на награди и оценки, позволи на изкуствения интелект да победи човешки играч при изключително сложната настолна игра „Върви“ - но за други неща тази система, базирана на стимули, е напълно неадекватен.
С две думи, съществуват множество убедителни причини, поради които хората да участват пряко в начина на работа на проектите за изкуствен интелект. Дори най-добрите технологии за изкуствен интелект могат много да мислят сами, но без действителен биологичен човешки мозък, който може да обработва неща като емоции и социални нрави, те просто не могат да видят голямата картина по човешки начин.
Квалифицирана компания за машинно обучение може да помогне за постигането на този баланс с комбинация от експерти по бизнес и теми и разработчиците на машинно обучение с умения за решаване на големи проблеми в бизнеса.
