Q:
Защо една компания може да спре AI проект за чат?
A:Компаниите могат да изключат проектите за чат с изкуствен интелект по много причини, но най-вероятните могат да бъдат групирани в няколко категории. Първо, компаниите могат да прекратят технологиите за чатбот, ако действат по начини, които биха могли да направят компанията неудобна, като например насърчаване на нежелателна реч. Алтернативно, компаниите могат да прекратят проект за чат, ако той започне да демонстрира чувство и способност, които или не могат да бъдат лесно контролирани, или могат да представляват някаква евентуална заплаха за общественото здраве и безопасност.
И двата сценария сме документирани в най-новата история. Експериментът на Microsoft с чатбота Tay приключи, когато Тей започна да възприема някои от най-лошите характеристики на човешките си колеги - расистки и агресивни коментари и като цяло нежелателна дейност, голяма част от която беше ясно научена или дори изпарирана директно от потребителите.
В много различно казус, създаването на чатбот, създадено от Facebook, беше изключено, когато учените наблюдават два чатбота, общуващи помежду си по начин, който е донякъде изключителен за човешкото наблюдение. Съществуваше твърдение, че чатботните субекти са започнали да „говорят с един вид код“, който е по-удобен за тях и по-малко прозрачен за хората им. Това е пример за онази наистина реална загриженост около изкуствения интелект като цяло - че докато постигаме големи крачки в развитието на силния изкуствен интелект, хората трябва да действат, за да съдържат и контролират всички примери за прилагане на ИИ, за да се уверят, че не се пресичат граници. Има огромен брой етични проблеми и проблеми на безопасността, които трябва да бъдат решени със силен изкуствен интелект и това е една от основните причини някои чатботи или други проекти за изкуствен интелект в бъдеще да бъдат закрити от изградените заинтересовани страни. и ги поддържа чрез определен процес.
