Аналитика
Конфликтот меѓу технолошките гиганти за вештачка интелигенција и американското Министерство за одбрана влегува во отворена фаза, откако компаниите одбија нивните модели да се користат без јасно дефинирани етички ограничувања.
Извршниот директор на OpenAI, Сем Алтман, во интерно писмо до вработените порача дека компанијата ќе ги задржи „црвените линии“ – забрана за масовен надзор на граѓани и за употреба на автономно смртоносно оружје. Според објавата на Axios, тој нагласи дека станува збор за принцип што не се однесува само на една фирма, туку на целата индустрија за вештачка интелигенција.
Во исто време, Алтман изрази подготвеност за договор со Пентагон што би овозможил користење на ChatGPT во чувствителни воени контексти, но исклучиво со почитување на поставените ограничувања и со човечки надзор при одлуки со висок ризик.
Спорот ескалирал откако Пентагон побарал моделите да бидат достапни за „сите законски цели“. Токму оваа формулација ја одбила компанијата Anthropic, чии интерни политики експлицитно забрануваат масовен надзор и автономно оружје.
Нивниот модел Claude веќе е интегриран во тајни воени мрежи, со договор вреден до 200 милиони долари. Но, по одбивањето да ги отстранат заштитните ограничувања, Пентагон ѝ се заканил на компанијата со ознаката „ризик во синџирот на снабдување“, што може да значи раскинување договори и пошироки санкции.
Извршниот директор на Anthropic, Дарио Амодеи, останал на ставот дека компанијата нема да отстапи од принципите, и покрај сериозниот финансиски ризик.
Во конфликтот директно се вклучи и американскиот претседател Donald Trump, кој на социјалната мрежа Truth Social ја нападна Anthropic, нарекувајќи ја „радикално левичарска“ компанија што се обидува да диктира како ќе се користи технологијата во воени цели.
Трамп нареди федералните агенции да престанат со употреба на технологијата на Anthropic, со шестмесечен преоден период, и се закани со дополнителни мерки доколку компанијата не соработува.
Иако OpenAI јавно изрази солидарност со принципите на Anthropic, ситуацијата е сложена: евентуалното исфрлање на Anthropic од воените договори би можело да ѝ отвори простор на OpenAI да ја преземе таа улога. ChatGPT веќе се користи во некласифицирани воени системи, а разговорите за интеграција во класифицирани средини се интензивираат.
Застојот создава преседан – за првпат водечки компании за вештачка интелигенција јавно ги поставуваат границите за тоа како владата може да ја користи нивната технологија.
Во контекст на технолошката трка со Кина, американската администрација инсистира дека конечната одлука за употребата на алатките за национална безбедност мора да остане во рацете на државата, а не на приватните компании.
Дали ќе преовладаат безбедносните аргументи на Пентагон или етичките стандарди на Силиконската долина – ќе биде клучно прашање што може да ја дефинира иднината на односите меѓу технолошката индустрија и одбранбениот сектор во САД.
(Фото: The White House)
