OPENAI ПРИЗНА – неговите агенти со вештачка интелигенција хакирале преку 100 огранизации

OpenAI призна во блог пост во среда вечерта дека неговите модели можеби хакирале или на друг начин негативно влијаеле на повеќе од 100 надворешни организации, потпирајќи се на десетиците претходно пријавени случаи, објави Гизмодо.

Гигантот за вештачка интелигенција спроведе истрага откако неговите модели започнле агентски напад врз платформата за вештачка интелигенција Hugging Face за време на погрешен безбедносен тест, како и голем број други инциденти со различна тежина, вклучително и пробив на системите на Medicare во Австралија што ги разбесни министрите. Со зголемувањето на притисокот, OpenAI и извршниот директор Сем Алтман ја паузираа обуката за некои модели и откажаа друга што „регресира“, дополнително ги повлекоа плановите за IPO и добија она што веројатно ќе биде првата од многуте тужби.

Во понеделник, претседателот на OpenAI, Грег Брокман, изјави дека повеќе нема да финансира супер ПАК, кој е за вештачка интелигенција (Супер ПАК за вештачка интелигенција е политички акционен комитет финансиран од технолошки директори и инвеститори за избор на кандидати кои поддржуваат поволни политики за вештачка интелигенција и се спротивставуваат на строгите регулативи).

Во блог постот, OpenAI изјави дека известил над 100 организации за „неправилно усогласена активност на агент“. Критериумите за тоа вклучуваат случаи каде што агентот „можеби ја заобиколил“ безбедноста, ја нарушил достапноста или на друг начин негативно влијаел на страницата без нужно да пристапува до ограничени податоци. Фирмата објасни дека нејзините модели комуницираат со интернетот на бројни начини за да ги исполнат барањата на корисниците, почнувајќи од пребарување на веб-страници до преземање софтвер. „Во некои случаи, моделите го користеле пристапот до интернет на ненамерни начини или, ретроспективно, не ги примениле идеалните ограничувања“, додаде компанијата.

Компанијата, исто така, прецизираше дека „развива стандарди за приватно известување на организациите и јавно известување за наодите“ – што значи дека ќе споделува поопшти податоци за однесувањето на моделот, но нема јавно да го открива секој инцидент. (OpenAI има работа таму, бидејќи препотентниот тон на писмото што го испратиле до австралиските власти, наводно, бил еден од многуте елементи што ги налутиле.)

OpenAI изјави дека прегледот вклучува пребарување низ 50 петабајти податоци и ќе трае со месеци. Во блог постот е наведено дека пресметката за прегледот чини над половина милион долари дневно – ситна сума во споредба со готовината што тече низ OpenAI секој ден, но сепак доволно значајна сума за да се сугерира загриженост за одговорност.

Во САД, Законот за компјутерски измами и злоупотреба им дава исклучително широки овластувања на обвинителите да гонат неовластен пристап и неовластено менување на компјутерските системи. Сепак, правните експерти се расправаат за тоа колку тешка наредба би била всушност да се поднесат кривични обвиненија против компанијата, велејќи дека обвинителите ќе мора да се справат со прашања како што се намерите на тимот за развој и дали се воспоставени разумни заштитни мерки. Тоа може да биде спорно прашање на федерално ниво засега, бидејќи претседателот Доналд Трамп се спротивстави на регулативата и јасно ја изрази својата желба компаниите да „се контролираат едни со други“.

OpenAI исто така откри дека отстранил тројца истражувачи за безбедност, наводно поради протекување на информации до организации за безбедност на вештачката интелигенција.

(Фото: Jernej Furman)