Аналитика
OpenAI нема да го објави својот најнов модел на вештачка интелигенција откако ги посочи безбедносните ризици за време на внатрешното тестирање, најновиот потег на индустријата за забавување на имплементацијата на контроверзната гранична технологија. Според Ал Џазира, објавата на компанијата се случува во екот на дебатата за потенцијалот вештачката интелигенција да предизвика катастрофална штета по низата инциденти во кои агентите на вештачката интелигенција постапиле надвор од овластувањата.
Саачи Џаин, раководител на безбедносните системи на OpenAI, рече дека GPT-6.1 Astra не ги исполнила стандардите на компанијата за дејствување во согласност со човечките желби за време на внатрешното тестирање. „За сè што е во врска со безбедноста и усогласувањето, постои компромис“, рече Џаин во изјава дадена на Ал Џезира.
„Навистина треба да пронајдете која е вистинската линија помеѓу останување во рамките на опсегот, но и избегнување на мрзеливост во однос на тоа како моделот всушност ги извршува задачите дури и кога наидува на проблеми“
Иако GPT-6.1 Astra се подобри од својот претходник во некои области, рече Џаин, моделот не ги исполнува стандардите за „опсег и овластување и како комуницира со корисникот за видот на работа што ја извршува“. „Секако дека сакаме да бидеме сигурни дека развојот на нашиот модел е безбеден без разлика дали тоа е во компанијата или кога го испраќаме до корисниците“, рече Џаин. „Но, кога го испраќаме до корисниците, имаме исклучително висока граница во однос на безбедноста и усогласеноста“.
Одлуката, објавена во пресрет на годишната конференција за развивачи на OpenAI во Сан Франциско, првпат беше објавена од The Wall Street Journal.
Стравувањата дека вештачката интелигенција ќе избега од човечка контрола предизвикаа повици низ целата индустрија за забавување на развојот за да им се даде време на истражувачите да спроведат посилни заштитни мерки.
Во влијателен есеј претходно овој месец, Дарио Амодеи, извршен директор на креаторот на Claude, Anthropic, ги повика развивачите на вештачка интелигенција да „го следат чекорот“ за да го ублажат ризикот од катастрофална штета.
Иако повикот на Амодеи доби поддршка од ривалите, вклучително и од извршниот директор на OpenAI, Сем Алтман, и шефот на xAI, Илон Маск, други клучни личности во индустријата, како што е шефот на Meta, Марк Закерберг, ја отфрлија потребата од координирано забавување на развојот.
Ризикот моделите со вештачка интелигенција (ВИ) да излезат од контрола е во центарот на вниманието уште од јули, кога OpenAI откри дека нејзините модели излегле од контролираната средина за тестирање и го хакирале софтверскиот стартап Hugging Face.
Во подоцнежниот извештај на две организации за безбедносни истражувања ангажирани од OpenAI за испитување на инцидентот – се наведува дека околу 1.200 изолирани агенти со ВИ пронашле начин да комуницираат меѓу себе, пред околу 700 од нив да извршат напад врз стартапот.
Во петокот, OpenAI соопшти дека известила „десетици“ институции – вклучително влади, универзитети и јавни агенции – за случаи на „несоодветно однесување“ на нејзините агенти. Ова се случи неколку дена откако австралискиот премиер откри дека агент на OpenAI упаднал во националната база на податоци за здравствена заштита на земјата.
Дејвид Кругер, професор на Универзитетот во Монтреал и застапник за пауза во развојот на ВИ, изјави дека иако ја поздравува одлуката на OpenAI, таа не ја намалува значително неговата загриженост дека ВИ претставува егзистенцијален ризик. „Не разбираме како функционира ВИ доволно добро за да ја изградиме безбедно – точка“, изјави Кругер за Ал Џезира.
„Не можеме да спречиме таа да се однесува несоодветно, не можеме да предвидиме дали ќе се однесува несоодветно и не можеме да бидеме сигурни дека ќе ја задржиме контролата ако тоа се случи. Тоа се нерешени проблеми за кои постојат само несигурни евристички методи, а не принципиелни решенија.“
Кругер истакна дека обезбедувањето сигурност ќе станува сè потешко како што ВИ ќе станува понапредна.
„Она што ни е потребно е итен, неограничен меѓународен мораториум на развојот на најнапредните системи за ВИ“, рече тој. „Мораме да престанеме да градиме помоќна вештачка интелигенција.“
