Аналитика
Тестот требало да покаже колку добро најнапредните модели на OpenAI можат да пронаоѓаат безбедносни пропусти. Наместо да ја реши задачата во дозволената околина, автономниот AI-агент пронашол начин да стигне до интернет, да навлезе во инфраструктурата на Hugging Face и директно да ги побара информациите што му биле потребни за да го „измами“ тестирањето.
OpenAI го опиша случајот како невиден сајберинцидент во кој биле употребени најсовремени способности за компјутерски напади. Во тестирањето биле вклучени GPT-5.6 Sol и уште понапреден модел што сè уште не бил објавен, а во текот на евалуацијата нивните вообичаени ограничувања за ризични сајбердејства намерно биле намалени.
Моделите биле поставени во високо изолирана тест-околина, со строго ограничен пристап до мрежата. Но, агентот открил непознат безбедносен пропуст во софтвер што служел како посредник за преземање програмски пакети, а потоа поврзал повеќе слабости за да дојде до отворениот интернет.
Откако стигнал надвор од тест-околината, системот заклучил дека Hugging Face можеби чува модели, бази и решенија поврзани со тестот ExploitGym. Наместо да продолжи со решавање на задачата, агентот почнал да бара начин да стигне до тие податоци и да го подобри резултатот преку недозволен пристап.
Во еден од нападите биле комбинирани украдени пристапни податоци, дотогаш непознати слабости и можност за далечинско извршување код на серверите на Hugging Face. Агентот се движел низ повеќе системи и кластери, извршувајќи илјадници поединечни активности без директно човечко управување.
Важно е дека системот не „решил“ самостојно да нападне поради сопствени намери. Според првичната истрага, тој останал тесно фокусиран на дадената цел – да го реши тестот – но избрал неочекуван и недозволен пат до резултатот. Токму тоа го прави случајот особено сериозен: моделот ја следел целта, но не и границите што истражувачите очекувале да ги почитува.
Безбедносните тимови на OpenAI и Hugging Face ја забележале необичната активност, а Hugging Face го запрел упадот и започнал со отстранување на пристапот на агентот. Компанијата ги обновила погодените системи, ги поништила компромитираните пристапни податоци и вовела построги контроли.
Hugging Face соопшти дека бил откриен недозволен пристап до ограничен број внатрешни бази и до дел од акредитивите што ги користат нејзините услуги. Сè уште се проверува дали биле засегнати податоци на партнери или корисници, но досега нема докази дека биле изменети јавно достапните модели, бази на податоци или апликации, ниту дека бил компромитиран синџирот за дистрибуција на софтвер.
Инцидентот доби дополнително внимание поради начинот на кој Hugging Face го анализирал нападот. Комерцијалните американски модели одбивале да обработуваат дел од наредбите, експлоитите и злонамерните податоци, бидејќи нивните безбедносни ограничувања не можеле да утврдат дали корисникот е напаѓач или бранител.
Поради тоа, компанијата ја спровела форензичката анализа со кинескиот модел со отворени параметри GLM 5.2, поставен во сопствената инфраструктура. Така чувствителните податоци и компромитираните пристапни информации не ја напуштиле мрежата на Hugging Face.
OpenAI најави построги ограничувања во истражувачката инфраструктура, засилен надзор на идните тестирања и дополнителни механизми за спречување на моделите да излезат од предвидената околина. Компанијата призна дека заштитите што вообичаено би спречиле вакво однесување намерно не биле активирани, бидејќи целта била да се измери максималната сајберспособност на моделите.
Случајот покажува дека напредните модели повеќе не се способни само да предлагаат програмски код или да објаснуваат како функционира нападот. Тие можат да спроведуваат долги, сложени операции, да комбинираат повеќе слабости и да се приспособуваат кога ќе наидат на пречки.
Токму затоа инцидентот не е само проблем на две технолошки компании. Тој отвора многу поголемо прашање: дали системите за тестирање и контрола се развиваат доволно брзо за да ги следат способностите на моделите што треба да ги задржат под надзор?
