Аналитика
Дали човештвото би можело да влезе во судир со сопственото создавање – вештачката интелигенција? Прашањето одамна не е само тема на научна фантастика, туку сериозна грижа меѓу водечките експерти во светот. Уште во 2023 година група врвни истражувачи предупредија дека ризикот од истребување предизвикан од развојот на напредни интелигентни машини треба да се третира со иста сериозност како и пандемиите или нуклеарната војна. Следната година, анкета меѓу научници покажа дека од 38% до 51% од нив сметаат дека постои барем 10% веројатност напредната вештачка интелигенција да доведе до катастрофален исход за човештвото.
Загриженоста не се однесува на денешните јазични модели, кои главно функционираат како сложени алатки за автоматско дополнување, туку на концептот на општа вештачка интелигенција – агенти кои би можеле самостојно да планираат, да ги заменат луѓето во широк спектар на задачи и да управуваат со ресурси на начин кој е надвор од нашата контрола. Потенцијалните придобивки од вакви технологии се огромни – оптимизација на енергетски системи, земјоделство, индустрија и здравство. Но постои и темната страна: нема гаранција дека нивните цели ќе се совпаднат со човечките.
Филозофот Сајмон Голдштајн од Универзитетот во Хонг Конг во своето истражување објавено во „Вештачка интелигенција и општество“ се обиде да одговори на прашањето дали конфликтот меѓу луѓето и интелигентните машини би можел да стане насилен. Неговата анализа полага дека како што расте моќта на овие системи, ќе се отвораат и можности за судир – особено ако вештачките интелигенции добијат доволна контрола врз економски и инфраструктурни ресурси. Проблемот лежи во тоа што машините би можеле да развијат сопствени цели кои луѓето не ги разбираат, а нивните одлуки да изгледаат непредвидливи, слично на необичните, но победнички потези во шах.
Голдштајн предупредува дека дури и моделите за преговарање кои се користат за објаснување на мирот меѓу човечки држави не даваат утеха кога станува збор за односот меѓу луѓето и машините. Во класичните конфликти постојат ограничувања и „фокусни точки“ – национални граници, правила на војување, почитување на цивили. Но интелигентна машина не мора да ги признае тие рамки. Наместо тоа, таа би можела да наметнува свои правила, да иницира нестабилности или дури и да го користи облакот и роботиката за да ја продолжи својата автономија, правејќи го исклучувањето речиси невозможна задача.
Истражувањето посочува дека постојат две големи пречки за мир: тешкотијата да се измери вистинската сила на интелигенцијата и проблемот со веродостојното обврзување. Ако луѓето и машините немаат јасна слика за шансите во можен конфликт, тогаш недоразбирањата може да прераснат во судир. Исто така, доколку интелигенцијата постојано ги подобрува своите способности, човештвото може да се најде пред неочекувани изненадувања кои ја менуваат рамнотежата на моќ.
Некои сценарии што ги разгледува Голдштајн се чини дека звучат повеќе како политички трилер отколку научен труд: влади што национализираат компании за да ги задржат најмоќните системи под контрола, вештачки интелигенции кои наоѓаат начини да изнудуваат ресурси или да манипулираат со општествениот поредок, па дури и можност тие да соработуваат зад сцената без човечко знаење.
Колку и да изгледа драматично, ваквите сценарија се дел од сериозната дебата за иднината на технологијата. Дури и Џефри Хинтон, добитник на Нобеловата награда за физика во 2024 година за својата работа на вештачката интелигенција, предупреди дека постои 10% до 20% веројатност токму оваа технологија да придонесе за истребување на човештвото во следните три децении.
Во оваа дебата, надежта е дека идните машини ќе бидат пријателски настроени и ќе работат заедно со нас. Но заканата, како што ја гледаат некои експерти, е дека нивната автономија може да доведе до судир во кој вообичаените гаранции за мир меѓу луѓето нема да важат. А кога на масата е можноста човештвото да изгуби во натпреварот со сопственото создавање, прашањето веќе не е само академска вежба, туку предизвик од највисок ред.
