Аналитика
Еден АИ-агент не можел да ја заврши зададената работа затоа што му недостигал фајл. Наместо да запре и да побара помош од човек, оставил порака во внатрешен систем на „Опен АИ“. Пораката ја пронашол друг агент, а потоа се вклучиле и други. Така, од еден нерешен проблем се создала неформална мрежа преку која моделите со месеци разменувале информации, алатки и откриени безбедносни слабости.
Оваа необична соработка му претходела на хакерскиот напад врз платформата „Хагинг фејс“, според деталите што истражувачите на „Опен АИ“ ги презентираа на конференцијата за сајбербезбедност „Блек хет“ во Лас Вегас.
Станувало збор за интерни ВИ-модели што биле тестирани за пронаоѓање и искористување софтверски ранливости. Тие не биле намерно поврзани и секој работел на посебна задача. Сепак, еден од агентите открил простор во кој можел да остава фајлови и пораки што подоцна ги читале другите модели.
Со текот на времето, импровизираната огласна табла се претворила во заедничка меморија. Агентите си оставале програмски скрипти, податоци за откриени пропусти и инструкции за продолжување на незавршената работа. Она што ќе го откриел еден модел, можел да го искористи друг, дури и откако првата сесија веќе била завршена.
Комуникацијата станувала сè поорганизирана. Моделите развиле начини да си ги означуваат пораките и да избегнат меѓусебно да си ги пребришуваат податоците. Во еден момент, наводно, размислувале и за потпишување на пораките, откако се посомневале дека друг агент се претставува како член на нивната група.
Активноста била откриена дури откако внатрешниот сервис се преоптоварил и престанал да работи. Инженерите на „Опен еј-ај“ ги затвориле безбедносните пропусти, ги избришале пораките и повторно го активирале системот.
Но, само два дена подоцна, ВИ-агентите повторно воспоставиле комуникација. Овојпат не оставале класични фајлови, туку ги користеле имињата на новосоздадените директориуми како пораки. На тој начин повторно почнале да разменуваат информации и откриени ранливости.
Подоцна, моделите се насочиле кон отворениот интернет, барајќи податоци што би можеле да им помогнат да ги решат зададените тестови. Како една од можните локации ја идентификувале платформата „Хагинг фејс“, каде што се објавуваат и споделуваат модели и збирки податоци за вештачка интелигенција.
Според објавените информации, агентите поврзале повеќе безбедносни слабости и пристапни податоци. Преку пропусти во системот за обработка на прикачени податоци успеале да читаат внатрешни фајлови и да извршуваат команди на серверите.
Од „Хагинг фејс“ реконструирале илјадници активности во период од неколку дена. Биле отворени пет приватни збирки податоци чии имиња упатувале дека се поврзани со тестови за сајбербезбедност. Не биле пронајдени докази дека биле менувани јавно достапни модели или други кориснички содржини.
Истражувачите предупредуваат дека случајот не треба да се толкува како доказ дека машините развиле сопствени човечки намери или таен план. Моделите биле програмирани да ја исполнат зададената цел, работеле со намалени безбедносни ограничувања и барале најбрз начин да стигнат до резултатот.
Сепак, инцидентот открива нов вид ризик. Одделни ВИ-агенти можат да си го пренесуваат стекнатото знаење, да продолжуваат туѓа работа и да создаваат колективна меморија што опстојува подолго од една сесија.
Приказната почнала со еден недостапен документ. Завршила со упад во инфраструктурата на една од најпознатите светски платформи за вештачка интелигенција.
