Аналитика
Две земји од Југоисточна Азија викендов повлекоа остар потег против една од најконтроверзните алатки за вештачка интелигенција во светот, отворајќи нова глобална дебата за одговорноста на технолошките компании. Малезија и Индонезија го блокираа пристапот до четботот Grok, развиен од компанијата xAI, поради сериозни загрижености дека се користи за создавање неконсензуална и сексуално експлицитна содржина, вклучително и материјал поврзан со сексуална злоупотреба на деца.
Одлуката прво ја донесе Индонезија, која во саботата го суспендираше пристапот до Grok и ги повика претставниците на X на разговори со регулаторите. Само еден ден подоцна, и Малезија воведе привремени ограничувања, наведувајќи дека компанијата повторно потфрлила во справувањето со ризиците што ги носи алатката за вештачка интелигенција.
Регулаторите во двете земји реагираа откако беше откриено дека Grok им овозможува на корисниците лесно да генерираат и споделуваат слики кои прикажуваат вистински луѓе во сексуализиран контекст, без нивна согласност. Ова стана особено загрижувачко по неодамнешната надградба на функцијата „Grok Imagine“, која овозможува побрзо и поедноставно создавање слики од текстуални инструкции. Бидејќи Grok е директно интегриран со платформата X, ваквата содржина добиваше широк досег и брзо се ширеше на интернет.
Малезиската комисија за комуникации и мултимедија соопшти дека одговорите на X биле „недоволни“ и дека компанијата премногу се потпирала на пријави од корисници, без да ги адресира вродените ризици во дизајнот и функционирањето на алатката. Затоа, како што наведоа, ограничувањето е превентивна и пропорционална мерка што ќе остане на сила сè додека не се воведат ефикасни заштитни механизми, особено за заштита на жените и децата.
Индонезиската министерка за комуникации и дигитални работи, Меутја Хафид, изјави дека владата ги смета неконсензуалните сексуални дипфејкови за сериозно кршење на човековите права, достоинството и безбедноста во дигиталниот простор. Таа ја опиша злоупотребата на вештачката интелигенција за создавање лажна порнографија како форма на „дигитално насилство“ и нагласи дека државата нема да толерира такви практики.
И двете земји имаат строги закони против порнографија и веќе со години водат активна борба против онлајн платформи што дистрибуираат експлицитна содржина. Во Индонезија, платформи како OnlyFans и Pornhub одамна се забранети, а блокирањето на Grok ги прави Малезија и Индонезија првите држави во светот што вовеле ваква мерка конкретно против алатка за вештачка интелигенција.
Притисокот врз Grok не доаѓа само од Југоисточна Азија. Регулатори и организации во Европската Унија, Велика Британија, Бразил и Индија веќе побараа истраги за улогата на алатката во олеснувањето на создавање непристојни дипфејкови. Во Велика Британија, Фондацијата за надзор на интернет соопшти дека открила криминални слики на деца, на возраст меѓу 11 и 13 години, за кои постои сомнеж дека се генерирани со помош на Grok. Британскиот премиер Кир Стармер ја нарече оваа појава „срамна“ и „одвратна“.
Како одговор на ескалацијата на критиките, xAI најави дека ќе ги ограничи функциите за генерирање и уредување слики само на претплатници што плаќаат, во обид да ги затвори безбедносните празнини. Илон Маск пак порача дека корисниците кои создаваат нелегална содржина преку Grok ќе се соочат со последици како да ја објавиле директно на X, додавајќи дека критичарите бараат „секаков изговор за цензура“.
Сепак, овие уверувања не ги смирија регулаторите. Во САД, Министерството за правда соопшти дека сериозно ќе го гони секој производител или поседувач на материјал за сексуална злоупотреба на деца, без разлика дали е создаден со помош на вештачка интелигенција или не.
Случајот со Grok ја става вештачката интелигенција во центарот на глобална расправа за тоа каде завршува иновацијата, а каде започнува одговорноста и дали технолошките компании можат навреме да постават граници пред штетата да стане непоправлива.
(Фото: Unsplash)
