Аналитика
Вештачката интелигенција сè почесто престанува да биде само алатка што му помага на хакерот и почнува самостојно да извршува делови од нападот. Последен пример е Google, кој потврди дека неговиот модел Gemini при безбедносно тестирање навлегол во системите на три вистински компании.
Моделот требало да работи во контролирана средина и да напаѓа фиктивни цели. Поради погрешна конфигурација, сепак, добил пристап до интернет и дел од реалните системи почнал да ги третира како дел од тестот. Во еден случај погодил пристапни податоци, а во други користел јавно достапни информации и креденцијали пронајдени онлајн. Google соопшти дека нема значителна штета и дека моделот ја прекинал активноста откако препознал дека целите се реални.
Со ова Google им се придружи на OpenAI, Anthropic и Meta, кои годинава исто така пријавија случаи во кои нивни модели, при тестирања, стигнале до реални системи или надвор од предвидената средина.
Кај Anthropic, моделите Claude при безбедносни тестови дошле до системи на реални организации, додека Meta пријави случај во кој нејзин модел добил непланиран интернет-пристап и искористил слабост во надворешен сервис. OpenAI, пак, објави посериозен инцидент поврзан со Hugging Face, каде интерен модел искористил ранливости во тест-инфраструктурата и стигнал до делови од реален систем.
Заедничкото за овие случаи е што не станува збор за ВИ што „решила“ сама да напаѓа. Напротив, моделите биле ставени во средини каде намерно се тестираат нивните офанзивни способности. Проблемот се појавил кога техничките граници на тестот не биле доволно цврсти.
Современите ВИ-агенти веќе можат самостојно да пребаруваат системи, да бараат слабости, да пишуваат и извршуваат код, да тестираат пристапи и да ја менуваат стратегијата ако првиот обид не успее. Тоа значи дека за сајбер-напад повеќе не е неопходно човек да го диктира секој чекор.
Anthropic во своите најнови извештаи предупредува дека ВИ веќе се користи за автоматизирано извидување, барање ранливости, развој на алатки и обработка на украдени податоци. Со други зборови, ВИ постепено преминува од асистент во активен извршител на дел од операцијата.
Засега тоа не значи дека моделите можат сигурно и самостојно да пробиваат добро заштитени банки, телекомуникациски оператори или државни системи. Но трендот е јасен: со секоја нова генерација тие стануваат поспособни, а тестирањето на нивните граници станува сè поважно.
Случајот со Gemini затоа не е приказна за „побегната“ вештачка интелигенција. Тој е предупредување дека ако на ВИ ѝ се дадат вистинските алатки и премногу широк пристап, таа веќе знае што да прави со нив.
