Аналитика
Вештачката интелигенција Mythos на Anthropic предизвика глобална тревога во врска со сајбер безбедноста и концентрацијата на моќ.
Новиот модел на вештачка интелигенција развиен од Anthropic брзо станува едно од најконтроверзните технолошки изданија во последниве години, предизвикувајќи итни дискусии меѓу владите, финансиските институции и експертите за сајбер безбедност ширум светот.
Моделот, познат како Claude Mythos, не е објавен во јавноста. Наместо тоа, тој е строго контролиран според иницијативата за ограничен пристап, што го одразува она што неговите креатори го опишуваат како „невидени“ ризици поврзани со неговите можности.
МОДЕЛ ПОДОБАР ОД ЧОВЕКОТ?
Самиот Anthropic призна дека Mythos претставува пресвртница во можностите за вештачка интелигенција, особено во доменот на безбедноста на софтверот. Anthropic вели дека за време на тестовите откриле дека моделот е многу вешт во задачи за сајбер безбедност и хакирање, надминувајќи ги луѓето.
„Mythos Preview веќе пронајде илјадници ранливости со голема сериозност, вклучувајќи некои во секој поголем оперативен систем и веб прелистувач“, тврдеше Anthropic на 7 април.
„Со оглед на брзината на напредокот на вештачката интелигенција, нема да помине долго време пред таквите можности да се пролиферираат, потенцијално над актерите кои се посветени на нивно безбедно распоредување.“
Се вели дека може да лоцира – без многу надзор – критични грешки на кои им е потребна итна акција во старите системи, вклучувајќи една ранливост која била присутна во системот 27 години, и да предложи начини за нивно искористување.
Системот може автономно да детектира, анализира и во некои случаи да ги искористи ранливостите во широко користените оперативни системи и апликации – честопати на ниво што ги надминува човечките експерти.
Токму оваа можност е причината зошто компанијата го ограничила пристапот. Само на одредена група големи технолошки фирми и институции моментално им е дозволено да го користат Mythos во рамките на програма позната како Project Glasswing, наменета за зајакнување на глобалната одбрана од сајбер безбедноста.
ЗАГРИЖЕНОСТ ВО ГЛОБАЛНИОТ ФИНАНСИСКИ СЕКТОР
Одлуката за ограничување на пристапот предизвика дебата во технолошкиот и финансискиот сектор. Критичарите се прашуваат дали Anthropic дејствува чисто од претпазливост – или стратешки се позиционира како чувар на високо вредна технологија.
Некои експерти тврдат дека веќе постојат системи со вештачка интелигенција способни да идентификуваат ранливости, што сугерира дека Mythos можеби не е толку уникатно опасен како што е прикажан. Други посочуваат на финансиските стимулации: контролата на пристапот до толку моќна алатка би можела да им даде на Anthropic и на неговите партнери значителна конкурентска предност во сајбер безбедноста и пошироко.
Некои министри за финансии, централни банкари и финансиери оттогаш изразија сериозна загриженост во врска со тоа, стравувајќи дека моделот би можел да ја поткопа безбедноста на финансиските системи.
Канадскиот министер за финансии Франсоа-Филип Шампањ изјави за Би-Би-Си дека „Митос“ бил дискутиран на состанокот на Меѓународниот монетарен фонд (ММФ) во Вашингтон оваа недела.
„Секако дека е доволно сериозен за да го привлече вниманието на сите министри за финансии“, рече тој, опишувајќи ја технологијата како „непозната непозната“.
Шефот на Банката на Англија, Ендру Бејли, изјави за Би-Би-Си „сега мора многу внимателно да разгледаме што би можел да значи овој најнов развој на вештачката интелигенција за ризикот од сајбер криминал“.
Во меѓувреме, ЕУ изјави дека е во разговори и со „Антропик“ за своите загрижености околу „Митос“.
Во исто време, загриженоста за нееднаков пристап расте. Големите банки и корпорации на кои им е одобрен пристап до системот може да добијат одбранбена предност, додека други остануваат изложени, покренувајќи прашања за праведноста и системскиот ризик.
КОЛКУ Е ВЕРОЈАТНА ЗЛОУПОТРЕБАТА НА МИТОС?
Најнепосредниот страв околу Mythos е неговата потенцијална злоупотреба. Специјалистите за сајбер безбедност предупредуваат дека истите можности што ѝ овозможуваат на вештачката интелигенција да идентификува ранливости би можеле да им овозможат на злонамерните актери да ги искористат побрзо отколку што можат да бидат поправени.
Ова создава опасна асиметрија: нападите управувани од вештачка интелигенција би можеле брзо да се зголемат, таргетирајќи ја критичната инфраструктура како што се банкарските системи, енергетските мрежи и владините мрежи. Во екстремни сценарија, аналитичарите предупредуваат на „системско нарушување на финансискиот пазар“ ако клучните системи се компромитирани.
Банкарскиот сектор се чини особено изложен. Раководителите предупредија дека наследените системи – сè уште широко користени во глобалните финансии – може да бидат особено ранливи на испитување и експлоатација управувана од вештачка интелигенција.
МОЖЕ ЛИ ВИ ДА ОСТАНЕ ПОЛИТИЧКИ НЕУТРАЛНА?
Појавата на Mythos привлече внимание на највисоките нивоа на владата. Американските претставници наводно одржале брифинзи со големите банки и започнале дискусии со раководството на Anthropic, додека регулаторите во Европа и Азија ги проценуваат потенцијалните закани.
Моделот, исто така, се заплетка во политичка контроверзност. И покрај тензиите меѓу Anthropic и одбранбените власти, извештаите сугерираат дека разузнавачките агенции го истражуваат или веќе го користат системот за цели на сајбер безбедност, истакнувајќи ја неговата стратешка вредност.
Надвор од непосредните ризици, Mythos интензивираше поголема дебата за траекторијата на вештачката интелигенција. Експертите сè повеќе предупредуваат дека системите со вештачка интелигенција се приближуваат до праг каде што можат значително да ги надминат човечките способности во специјализирани домени како што се кодирањето и сајбер безбедноста.
Самиот Anthropic го претстави Mythos како „пресвртница“, сугерирајќи дека дури и неекспертите би можеле потенцијално да ги искористат ваквите алатки за да откријат критични недостатоци во дигиталната инфраструктура.
Ова покренува фундаментални прашања за контролата, надзорот и темпото на технолошкиот напредок. Доколку се развиваат сè помоќни системи побрзо отколку што можат да се имплементираат заштитни мерки, рамнотежата помеѓу иновациите и ризикот може да стане потешка за одржување.
Дали Mythos претставува непосредна закана или претскажување на неизбежна технолошка промена останува оспорено. Некои аналитичари го сметаат алармот за оправдан, со оглед на обемот и брзината со која вештачката интелигенција може да идентификува ранливости. Други го гледаат како дел од поширок модел во кој развивачите на вештачка интелигенција ги нагласуваат ризиците, а истовремено ја унапредуваат својата стратешка позиција.
(Илустрација: Mohamedgu123 – Own work, CC BY-SA 4.0)
