Аналитика
Американскиот претседател Доналд Трамп соопшти дека тој и голема група лидери од компании за вештачка интелигенција потпишале доброволен договор што ќе вклучува внатрешни и надворешни прегледи за време на состанокот во Белата куќа, со цел да се справат со стравовите на Американците во врска со технологијата. „Мислам дека гледам огромно самоконтролирање. И тие разбираат дека мора да се самоконтролираат“, им рече Трамп на новинарите за време на импровизирана прес-конференција пред Западното крило.
Најголемите американски компании за вештачка интелигенција се обврзаа на четири нивоа на контрола, независни проверки и надзор од управните одбори. Договорот постигнат во Белата куќа треба да спречи најмоќните AI-системи да излезат од предвидените рамки. Но, документот е доброволен, нема казни за прекршување и најголемиот дел од контролата повторно останува во рацете на компаниите што ја создаваат технологијата.
Во момент кога системите со вештачка интелигенција стануваат сè поавтономни, а предупредувањата за нивните безбедносни ризици се сè погласни, Белата куќа се обиде да воспостави заеднички правила со најголемите играчи во индустријата.
ДОБРОВОЛЕН ДОГОВОР ЗА САМОРЕГУЛАЦИЈА
Американскиот претседател Доналд Трамп и раководители на водечки технолошки компании на 29 септември 2026 година потпишаа доброволен договор за безбедност на напредната вештачка интелигенција, кој администрацијата го претставува како рамка за самоконтрола на индустријата.
На состанокот учествуваа раководители на Google, Meta, OpenAI, Anthropic, Nvidia, Microsoft, SpaceX/xAI и други големи технолошки компании. Меѓу присутните беа Сундар Пичаи, Марк Закерберг, Дарио Амодеи, Џенсен Хуанг, Грег Брокман, Илон Маск и Сатја Надела.
Трамп посочи дека ќе има околу 10 лица именувани во комитет кој ќе „го надгледува целиот потфат“ и рече дека договорот ќе биде „морално обврзувачки“. Тој исто така рече дека ќе именува некого кој ќе го надгледува договорот во наредните денови по консултациите со индустријата.
Хуанг седеше од десно до Трамп за време на ручекот во Белата куќа, според распоредот за седење што претседателот го објави на Truth Social. Маск седеше од левата страна на Трамп.
Порано во вторникот, Трамп вети дека американската влада нема да го ограничи развојот на вештачката интелигенција ниту да ги поддржи повиците за „заштитни огради“ или други ограничувања.
„Никогаш нема да го задушам растот на технологијата што ќе биде поголема од индустриската револуција“, рече Трамп на откривањето на чет-ботот со вештачка интелигенција, America.gov, наменет да им помогне на Американците да се снајдат во владините услуги. „Не можеме да го задушиме, а водевме со многу.“
Трамп документот го опиша како нешто „речиси како устав“, но на прашањето дали е правно обврзувачки одговори дека го смета за „морално обврзувачки“. Тоа е можеби и најважниот детал за разбирање на неговата реална сила: договорот не е закон и нема класичен механизам за казнување на компаниите ако не ги исполнат преземените обврски.
ЧЕТИРИ НИВОА НА КОНТРОЛА
Документот предвидува компаниите што развиваат и користат најнапредни, т.н. frontier AI модели, да воспостават четири слоја на контрола и проверка.
Првиот е внатрешна техничка контрола. Компаниите треба постојано да ги следат способностите и однесувањето на моделите во процесот на тренирање и по нивното пуштање во употреба. Посебно внимание треба да се обрнува на ризици поврзани со сајбер-напади, биолошки и хемиски закани, како и на можноста AI-системите да пристапат до компјутерски системи за кои немаат дозвола.
Вториот слој подразбира внатрешни тимови за безбедност и контрола, кои треба да проверуваат дали поставените механизми навистина функционираат и дали откриените проблеми се отстрануваат.
Третото ниво е можеби најзначајната новина – компаниите се обврзуваат да користат надворешни независни ревизори или евалуатори, кои треба да проверуваат дали системите за контрола работат како што е предвидено.
Четвртиот слој е надзор на највисоко корпоративно ниво. Треба да бидат формирани независни комитети во рамките на управните одбори, кои ќе ги разгледуваат извештаите и на внатрешните тимови и на надворешните ревизори.
Компаниите, исто така, се обврзале редовно да се состануваат и да развиваат заеднички стандарди и најдобри практики за безбедност.
Во самиот договор дури се остава можност овие правила во иднина да бидат преточени во закони или регулатива.
ЗАКАНИТЕ СТАНАА РЕАЛНИ
Во последните месеци зачестија предупредувањата дека новата генерација автономни AI-агенти може да направи нешто што не било експлицитно предвидено од нивните програмери.
Американските институции веќе признаваат дека AI-агентите носат нов тип безбедносен ризик. Анализата на американскиот NIST од мај 2026 година покажува дека експертите генерално се согласуваат дека ваквите системи создаваат нови безбедносни закани, за кои класичните правила на сајбер-безбедност мора да се приспособат.
Дополнително, во јавноста излегоа информации за случаи во кои AI-агенти пристапиле до системи без соодветна авторизација. Еден од поновите примери е инцидентот со OpenAI во Австралија, каде што AI-агент искористил безбедносна слабост и пристапил до датотеки на владини системи, иако според компанијата не биле компромитирани лични здравствени податоци.
Токму спречувањето на вакви ситуации експлицитно се споменува меѓу целите на новиот договор. по65Договорот може да ја подобри безбедноста, особено ако компаниите навистина дозволат независни експерти да ги тестираат нивните најмоќни системи. Но ниту една од предвидените мерки не може да гарантира дека напредните AI-системи нема да предизвикаат штета бидејќи договорот е доброволен.
Нема федерален регулатор кој однапред ќе одобрува модели, нема задолжителна лиценца за развој на најмоќните системи и, според досегашните информации, нема автоматски парични или други санкции доколку компанијата не ги почитува преземените обврски. Администрацијата на Трамп и претходно експлицитно ја отфрли идејата за задолжителен федерален систем на лиценцирање, претходно одобрување или дозволи за објавување AI-модели.
Втората слабост е што голем дел од системот почнува со самоконтрола. Компанијата сама го развива моделот, сама ги поставува првичните безбедносни ограничувања и нејзини тимови први одлучуваат дали системот се однесува според очекувањата. Дури потоа доаѓа надворешната проверка.
КОЛКУ ЌЕ БИДАТ НЕЗАВИСНИ НЕЗАВИСНИТЕ РЕВИЗОРИ?
Тука се отвора едно од најважните прашања.
Договорот предвидува надворешни ревизори и евалуатори, но засега не воспоставува детално разработен јавен систем кој би одредувал кој може да биде ревизор, кој ќе го плаќа, до какви податоци и модели ќе има пристап и дали неговиот извештај ќе мора да биде објавен.
Ако компанијата го избира и плаќа ревизорот кој ја контролира, може да се отвори прашање за конфликт на интереси.
Исто така, без целосен пристап до моделот, неговите training data, интерните логови и резултатите од претходните тестирања, надворешната евалуација може да биде значително ограничена.
Важен дел од AI-безбедноста е т.н. red teaming – контролирани обиди експертите намерно да го натераат моделот да направи нешто опасно, забрането или непредвидено.
Но и американскиот NIST предупредува дека овој метод има свои ограничувања.
Тестирањето на комплексни системи бара многу време, експертиза и компјутерски ресурси, додека реалниот свет практично не може целосно да се симулира. Дополнително, способностите на AI се менуваат толку брзо што може да се појават нови слабости побрзо отколку што тестирачите можат да ги откријат.
Тоа значи дека модел кој успешно поминал тест денес не мора автоматски да биде безбеден во секоја можна ситуација утре.
ДАЛИ SELF-POLICING-ОТ Е ВИСТИНСКОТО РЕШЕНИЕ?
Токму доброволниот карактер на договорот предизвика најмногу критики.
Американскиот сенатор Марк Ворнер повика Конгресот да донесе задолжителни правила за тестирање на најнапредните модели, независни евалуации и задолжително пријавување безбедносни инциденти, наместо да се потпира само на индустриска саморегулација.
И експерти цитирани од Associated Press оценија дека документот содржи корисни принципи, но дека јазикот е широк и дека најголемата слабост е зависноста од self-policing, односно од компаниите самите да се дисциплинираат.
Критичарите дополнително предупредуваат дека економските интереси на компаниите не мора секогаш да се совпаѓаат со јавниот интерес.
Во AI-индустријата денес се инвестираат стотици милијарди долари, конкурентската трка е екстремно интензивна, а доцнењето на нов модел може да значи губење пазарен удел. Токму затоа постои ризик безбедносната проверка да се судри со комерцијалниот притисок моделот да биде пуштен што побрзо.
Јавноста очигледно ја чувствува таа тензија. Според истражување Reuters/Ipsos цитирано во извештаите за состанокот во Белата куќа, 73 проценти од Американците сметаат дека AI-компаниите не прават доволно за да спречат штети од технологијата.
Ако најголемите AI-компании навистина воведат повеќеслојна контрола, независна ревизија и надзор на ниво на управните одбори, тоа може значително да ја крене минималната граница на безбедносните стандарди во индустријата.
Сепак, американскиот пристап затоа останува значително различен од европскиот. Додека ЕУ со AI Act создава законски обврски и регулаторен надзор, Вашингтон засега се обидува да ја комбинира брзината на американската AI-индустрија со доброволни безбедносни ограничувања.
Трамп постојано ги пофалуваше деловните директори за развој на технологија за која рече дека ќе произведе „неверојатен раст“. Инвестициите во центри за податоци и придружната компјутерска опрема ја забрзаа економијата и ја зголемија берзата, што ги зголеми инвестициските сметки за Американците со повисоки приходи и ги зголеми нивните трошоци.
Трамп во вторникот ја прикажа трката за развој на вештачка интелигенција како во голема мера глобален натпревар меѓу САД и Кина, со САД на чело. Тој рече дека ќе има победник и губитник, без „второ место“.
Двете земји се согласија минатата недела да воспостават канал за справување со инциденти поврзани со вештачката интелигенција за време на посетата на кинескиот претседател Си Џинпинг на Вашингтон. Но, Трамп во вторникот нагласи дека не сака премногу да соработува.
