Аналитика
Џефри Хинтон, еден од водечките истражувачи за вештачка интелигенција и добитник на Нобелова награда за физика, предупреди на ризикот од голема технолошка криза уште кон крајот на 2026 година или во текот на 2027 година. Научникот ги спореди потенцијалните последици од неконтролираниот развој на вештачката интелигенција со катастрофата во Чернобил. Тој ги даде овие забелешки во интервју за „Гардијан“, објавено на 3 ноември. Хинтон, исто така, ја изрази својата загриженост за австрискиот весник „Ди Пресе“ на 7 ноември.
Според Хинтон, човештвото постепено се приближува кон моментот кога системите за вештачка интелигенција би можеле да претставуваат закани чии последици би било тешко да се предвидат.
Истражувачот сугерира дека сериозен инцидент би можел да се случи уште следната година. Тој даде пример за сајбер напади со вештачка интелигенција, која е способна да го наруши работењето на електричните мрежи или привремено да го парализира меѓународниот финансиски систем.
Тој ги посочи неодамнешните хакерски напади од страна на агенти на вештачка интелигенција како една од причините за загриженост, во кои моделите на вештачка интелигенција од компании како OpenAI автономно излегоа од своите песочни кутии и започнаа сајбер напади врз, или се мешаа во, владини и корпоративни системи.
Само е прашање на време, вели тој, пред вештачките интелигенции, сами или под водство на злонамерни актери, да ја саботираат нашата енергетска инфраструктура и да предизвикаат катастрофа во стилот на Чернобил што ќе ги разбуди луѓето за опасната моќ на технологијата.
„Или подоцна оваа или следната година ќе го видиме Чернобил, а тоа може да биде доволно за да ги натера луѓето навистина да обрнат внимание“, изјави тој за „Гардијан“.
Хинтон не мора да мисли на нуклеарна несреќа. Во видот на настан што го замислува, напад со вештачка интелигенција врз систем за генерирање енергија „предизвикува масовно затемнување“ што го прекинува светскиот финансиски систем или електричните мрежи за подолг период.
„Можете ли да замислите што би се случило? Можеме да се опоравиме од тоа [но] тоа би ги натерало да седнат и да обрнат внимание.“ („Тие“ за кои станува збор: „светски лидери освен Трамп“, појасни Хинтон.)
Звучејќи мрачно за сопственото создавање како и секогаш, добитникот на Нобелова награда за компјутерски науки во ново интервју за „Гардијан“ сугерираше дека човештвото можеби „ќе било подобро никогаш да не го развивало“.
Во интервју за „Гардијан“, тој посочи дека таквата криза може да ги принуди светските лидери посериозно да ја сфатат безбедноста на вештачката интелигенција. Сепак, истражувачот не даде никакви конкретни докази дека катастрофата во 2026-2027 година е неизбежна.
Истражувачот изрази сомнежи во врска со пристапот што го преземаат најголемите технолошки компании кон безбедноста на вештачката интелигенција.
Поточно, тој ја критикуваше раководителката на OpenAI, Сем Алтман, основачот на „Мета“, Марк Закерберг и претприемачот Елон Маск. Според Хинтон, конкуренцијата на пазарот и финансиските интереси може да ги поттикнат компаниите да воведуваат сè помоќни системи без соодветно тестирање на нивната безбедност.
Хинтон, кој го напушти Google. Во 2023 година, тој постојано предупредуваше дека развојот на вештачката интелигенција може да доведе до масовно губење на работни места, зголемување на нееднаквостите и појава на нови закани по сајбер-безбедноста.
Истражувачот признава дека оваа технологија има потенцијал да донесе значителни придобивки за општеството, но смета дека моменталното ниво на надзор врз нејзиниот развој е недоволно.
Хинтон повикува на воспоставување меѓународен систем за верификација на најсовремените модели на вештачка интелигенција, кој би вклучувал независна проценка на ризикот пред новите производи да бидат пуштени на пазарот.
Тој го спореди овој пристап со регулаторниот процес за лекови, каде што производителите мора да ја докажат безбедноста и ефикасноста на своите производи пред тие да можат да се користат во широка употреба.
Според истражувачот, доброволното преземање обврски од страна на технолошките компании не е доволно. Потребни се заеднички стандарди, меѓународна соработка и надзор од страна на независни тела.
И покрај песимистичките сценарија, Хинтон не верува дека губењето на контролата врз вештачката интелигенција е неизбежно. Тој е убеден дека човештвото сè уште може да ги спречи опасните последици, доколку насочи повеќе ресурси кон истражување на безбедноста на новите системи.
Засега, катастрофата од големи размери што ја предвиде научникот сè уште не се случила. Неговото предупредување останува проценка на потенцијалните ризици, а не потврдено предвидување за идните настани.
