Q:
Как роботът "София" на Саудитска Арабия повдига плашещи нови въпроси за киберсигурност?
A:Една от най-горещите нови технологии за изкуствен интелект е робот в натурален размер, създаден да изглежда и да действа като жена.
Името й е Sophia и е произведено от Hanson Robotics, хонконгска компания. Защо е роботът на Саудитска Арабия? Защото тази държава в Персийския залив даде на София ключово човешко право: правото на гражданство.
Това прави много заглавия и предизвиква всевъзможни дебати за това колко бързо върви изкуственият интелект и защо трябва да ни интересува. Един от големите проблеми е киберсигурността - как полето на киберсигурността ще се адаптира към тези видове нови технологии?
София и подобни технологии повдигат ключови проблеми в киберсигурността, които не сме решавали преди. Ето някои от нещата, над които професионалистите и експертите трябва да мислят, докато въвеждат роботи, които изглеждат, говорят и действат като нас.
Като цяло новият реален роботизиран интерфейс е по-сложен от този, с който бяхме свикнали в миналото и това означава редица нови проблеми в киберсигурността. В технологичния свят хората говорят за това, че има „тънка атакова повърхност“, например, в настройка на хипервизор или вградена в защитата от страна на сървъра. Ходещият, говорещ робот, от друга страна, е много дебела атакова повърхност - тъй като интерфейсите са сложни, има много начини хакерите и лошите участници да използват уязвимостите.
Един много специфичен тип проблем с киберсигурността е някак смесен с различни социални проблеми - бихте могли да го наречете „синдром на самозванеца“, въпреки че този термин е използван популярно за описване на променливата работа на нелегитимни учени с данни.
Каквото и да го наречете, проблемът е, че тъй като изкуственият интелект имитира конкретни хора с по-голяма степен на успех, ще стане по-трудно да се уверим, че не сме подложени на изключително сложни измами, които ни карат да поставяме под въпрос истината. Вече можете да видите примери за хора, които използват чисто нови технологии, за да имитират известни политици, както в това видео на Барак Обама с участието на комика Джордан Пийл. Проблемът с измамниците само ще се разраства и разширява, тъй като изкуственият интелект ни дава нови прозорци в обратното инженерство на човешките мисли и поведения.
Освен това като цяло тези нови интерфейси и възможности ще ескалират вече продължаващата надпревара във въоръжаването между специалисти по сигурността и хакери. Джеймс Мод пише за това в статия за Xconomy, наричайки AI „меч с две остриета“ за киберсеквата и изтъква, че като цяло нападението е по-малко скъпо, отколкото защитаването и отбелязването на опасения относно неприкосновеността на личния живот и сигурността. Екстраполирайте някои от тези аргументи на AI робота и можете да видите как със сила и способности идва опасност и нужда от дисциплина.
Друг голям нов проблем със Sophia и мобилните роботи е, че те са в движение.
Свикнали сме с технологии като Уотсън на IBM, които вършат изключително когнитивна работа на високо ниво, докато остават седнали в център за данни или в някаква неподвижна хардуерна структура. За това сме свикнали - от най-ранните мейнфрейми до днешните лаптопи, всички използваме стационарен хардуер. Сега имаме мобилни телефони, но те по същество са джобни компютри. Сентиентираните роботизирани компютри са поразително различни. Те са автономни движещи се парчета, които могат да бъдат въоръжени от злонамерени страни. Статия на Reuters, разглеждаща скоростта на справяне с проблемите с киберсигурността на робота, показва как, например, роботите могат да бъдат накарани да се „присмиват“ или да се движат бързо и неуместно, за да причинят вреда.
В крайна сметка София и роботи като нея повдигат редица проблеми с киберсигурността и други проблеми. Как ще разграничим легитимната дейност от измамна и нелегитимна дейност, когато интерфейсът не е цифрова свързана мрежа, а мобилен хардуер, който може да ни подмами да мислим, че действа по човешки начин? Преминаването през този мост ще изисква огромно количество технологична и етична работа, за да сме сигурни, че хората пазят юздите и че използваме тези много мощни технологии за гражданско благо.
