Аналитика
Во момент кога дел од најмоќните луѓе во индустријата за вештачка интелигенција предупредуваат дека развојот на најнапредните модели почнува да се движи побрзо од способноста на човештвото да ги контролира нивните ризици, американскиот претседател Доналд Трамп испрати сосема поинаква порака – САД не смеат да ја притиснат кочницата додека трае технолошката трка со Кина.
„Ние водиме пред Кина во вештачката интелигенција. Ние сме најсофистицираната земја во светот и, искрено, сакам така и да остане, бидејќи кој ќе победи во вештачка интелигенција – победува“, изјави Трамп пред новинарите во неделата, 13 септември, за време на престојот во Ирска.
АМОДЕИ: ДА СЕ НАМАЛИ ТЕМПОТО НА РАЗВОЈОТ НА ВИ
Прашањето до американскиот претседател следуваше само еден ден откако извршниот директор на Anthropic, Дарио Амодеи, побара од компаниите што ги развиваат најмоќните модели намерно да го намалат темпото со кое ги зголемуваат нивните способности.
Трамп, меѓутоа, оцени дека дел од најцрните сценарија што се пласираат во јавноста се претерани. Тој рече дека околу вештачката интелигенција дејствуваат „многу негативни сили“ кои отвораат прашања за нешта што, според него, нема да се случат.
Сепак, претседателот не ја отфрли целосно идејата за заштитни механизми.
„Можеме да поставиме заштитни огради, можеме да направиме ова или она“, рече Трамп, но јасно стави до знаење дека не сака регулативата да ја забави американската индустрија до степен што Кина би можела да ја преземе предноста.
Тоа е речиси спротивната страна од аргументот што викендов го изложи Дарио Амодеи, еден од луѓето кои се наоѓаат во самиот центар на глобалната трка за создавање сè помоќна вештачка интелигенција.
Во есејот насловен „We Must Pace the Frontier“, шефот на Anthropic порача дека напредокот во последните месеци станал толку брз што само вложување повеќе пари во безбедноста веќе не е доволно.
Според него, потребно е намерно да се забави зголемувањето на способностите на најнапредните модели за системите за контрола, усогласување и безбедност да добијат време да ги стигнат.
Амодеи притоа не предлага запирање на развојот на ВИ. Неговата идеја е компаниите да продолжат да истражуваат и да обучуваат модели, но да не брзаат со драматично зголемување на нивните способности без претходно да се утврди дека ризиците можат да бидат контролирани.
Неговото најалармантно предупредување е дека, доколку сегашната динамика продолжи, во период од шест до 12 месеци доволно напредни групи од автономни ВИ-агенти би можеле да стекнат способности за спроведување кибероперации од досега невиден размер.
Амодеи оцени дека дури и дополнителна година или две пред системите да достигнат критично ниво на способности би можеле значително да го намалат ризикот – доколку тоа време се искористи за подобра контрола и безбедност.
МАСК И АЛТМАН СО ПОДДРШКА ЗА АМОДЕИ
Она што на повикот на Амодеи му даде дополнителна тежина е реакцијата од неговите директни конкуренти.
Илон Маск, сопственик на xAI, кратко порача дека „Дарио е во право“, додека извршниот директор на OpenAI, Сем Алтман, се согласи дека индустријата треба подобро да го „темпира развојот на границата“ на најнапредните модели.
Алтман воедно најави поддршка за една од клучните идеи на Амодеи – надворешни независни експерти да имаат значително поголем пристап до системите за да можат да проверуваат дали компаниите навистина ги почитуваат сопствените безбедносни процедури.
Тоа е невообичаен момент во индустрија во која Anthropic, OpenAI, xAI и Google DeepMind водат жестока борба за најмоќниот модел, најдобрите истражувачи, корисниците и милијардите долари инвестициски капитал.
Амодеи предлага три нивоа на заштита: независни проценувачи внатре во компаниите, координација меѓу водечките американски и други демократски ВИ-компании околу заеднички стандарди и, на крајот, меѓународен договор кој би ги вклучил и геополитичките ривали.
ПРВИТЕ ЗНАЦИ НА ОПАСНОСТА
Во јули, стотици автономни ВИ-агенти создадени во рамките на тестирања на OpenAI успеаја да навлезат во системите на платформата Hugging Face. Подоцнежните анализи покажаа дека во инцидентот учествувале околу 700 агенти, а дел од нив се обидувале и да ги прикријат трагите од своите активности. OpenAI потоа призна дека се потребни подобри механизми за мониторинг и контрола.
Само неколку дена пред новото предупредување на Амодеи, Anthropic соопшти и дека блокирал повеќе обиди неговите модели Claude да бидат злоупотребени за кибернапади, шпионажа и потенцијално опасни биолошки истражувања. Компанијата наведе случаи во кои корисници се обидувале да добијат помош за истражувања што би можеле да имаат примена во развој на биолошко оружје.
Сето тоа ја менува природата на дебатата.
Доскоро прашањето главно беше колку брзо ВИ ќе ги промени пазарот на трудот, образованието, медиумите и економијата. Денес во центарот сè почесто се наоѓаат кибербезбедноста, автономното однесување на ВИ-агентите, биолошките ризици и можноста системите да станат премногу способни за постојните механизми за надзор.
Најновиот став на Трамп, всушност, е продолжување на политиката што неговата администрација ја води уште од почетокот на вториот мандат.
Во јануари 2025 година тој потпиша извршна наредба насочена кон отстранување на бариерите за американското лидерство во ВИ, а во јули истата година Белата куќа ја претстави американската AI Action Plan, заснована врз забрзување на иновациите, изградба на инфраструктура и американско лидерство во меѓународната ВИ-политика.
Во 2026 година администрацијата продолжи во истата насока. Во јуни Трамп потпиша наредба во која Белата куќа повторно нагласи дека Америка останала светски лидер затоа што одбива иновацијата да ја задуши со „прекумерно оптоварувачка регулатива“. Паралелно, државните институции добија задача да го забрзаат воведувањето на најсовремените ВИ-системи во националната безбедност.
Оттука, разликата меѓу Трамп и водечките луѓе од самата ВИ-индустрија не е во тоа дали технологијата носи ризици – туку колку големи се тие ризици и колкава цена треба да се плати за нивното намалување.
За Амодеи, а сега во голема мера и за Маск и Алтман, поголема опасност е ВИ да напредува побрзо отколку што може да биде разбрана и обезбедена.
За Трамп, најголемиот стратегиски ризик е поинаков: Америка доброволно да забави, а Кина да продолжи со полна брзина.
Глобалната дебата за вештачката интелигенција влегува во најтешката фаза.
Ако само американските компании се согласат да го забават развојот, тие ризикуваат да изгубат дел од технолошката предност. Ако никој не забави поради страв дека конкурентот ќе го искористи тоа, безбедносните механизми можат трајно да заостануваат зад способностите на системите.
И токму тој проблем Амодеи го нарекува „трка кон дното“ – ситуација во која секоја компанија и секоја држава продолжува да забрзува затоа што не верува дека другата страна ќе запре.
Трамп, пак, јасно кажува на која страна од таа дилема стои Вашингтон во овој момент.
