Аналитика
Anthropic, компанијата за вештачка интелигенција што стои зад Claude, предложи глобално координирана пауза во развојот на најмоќните гранични системи за вештачка интелигенција, предупредувајќи дека индустријата би можела да се приближи до точка каде што машините почнуваат да се подобруваат без човечко учество.
Предлогот беше наведен во нов блог пост, коавтор на кој учествуваа раководителката на внатрешни истражувања на Anthropic, Марина Фаваро, и раководителот на политиката, Џек Кларк, и веќе повторно ја разгоре една од најголемите дебати во технологијата: што ќе се случи ако вештачката интелигенција стане способна да се развива побрзо отколку што луѓето можат да следат?
Во центарот на загриженоста на Anthropic е идејата за „рекурзивно самоподобрување“ – теоретскиот момент кога системот на вештачка интелигенција станува способен да го преработи сопствениот код, да ги поправи сопствените слабости и да ги надгради сопствените способности без директен човечки надзор.
Тоа сценарио можеби звучи како научна фантастика, но Anthropic верува дека би можело да биде поблиску отколку што многу луѓе мислат.
Во извештај објавен од Институтот Антропик, компанијата вели дека алатките за вештачка интелигенција го забрзуваат софтверското инженерство и истражувачката работа во рамките на Антропик, стеснувајќи го јазот помеѓу помошта од вештачката интелигенција и иднината во која системите за вештачка интелигенција би можеле да помогнат во дизајнирањето на сопствените наследници.
„Во поголемиот дел од историјата на вештачката интелигенција, луѓето го воделе секој чекор во нејзиниот развоен циклус. Но, во Антропик, ние делегираме растечки дел од развојот на вештачката интелигенција на самите системи за вештачка интелигенција, што ја забрзува нашата работа“, се вели во извештајот.
Според Кларк, моделите на Claude веќе работат на код кој е приближно 80 проценти напишан од вештачка интелигенција. Од мај 2026 година, повеќе од 80% од кодот споен во базата на кодови на Антропик е напишан од Клод. Пред да се лансира „Клод Код“ во прегледот на истражувањето во февруари 2025 година, бројката беше во ниски едноцифрени бројки.
Достигнувањето точка каде што системите со вештачка интелигенција целосно го одржуваат и подобруваат сопствениот код би можело да се случи во следните неколку години.
Антропик тврди дека ако се премине тој праг, луѓето би можеле да изгубат значајна видливост за тоа како овие системи се развиваат.
Привременото забавување, велат тие, би им дало на истражувачите, владите и општеството повеќе време да откријат како безбедно да управуваат со сè помоќната вештачка интелигенција.
Сепак, предизвикот е да се убедат сите други да престанат во исто време.
Антропик ги повикува водечките развивачи на вештачка интелигенција да воспостават координиран и проверлив начин за забавување или паузирање на развојот доколку напредните системи почнат да се подобруваат побрзо отколку што општеството може да ги управува ризиците.
Компанијата, исто така, предупреди дека едностраните паузи може да имаат ограничен ефект доколку помалку претпазливите конкуренти продолжат да напредуваат.
„Доколку е можно ефикасно да се забави развојот на оваа технологија за да си дадеме повеќе време да се справиме со нејзините огромни импликации, сметаме дека тоа веројатно би било добра работа“, рече Антропик.
Антропик рече дека планира да свика дискусии со креаторите на политики, истражувачите, групите на граѓанското општество и други развивачи на вештачка интелигенција за рекурзивно самоподобрување, координација и надзор.
