Аналитика
Платформата X, во сопственост на технолошкиот милијардер Илон Маск, објави нов сет мерки со кои се обидува да ја стави под контрола една од најконтроверзните функции на својот четбот со вештачка интелигенција Grok. Одлуката доаѓа по силната глобална реакција предизвикана од генерирањето сексуализирани, а во некои случаи и неконсензуални фотографии од жени и деца, што предизвика аларм кај регулаторите, владите и организациите за заштита на човековите права.
Компанијата соопшти дека имплементирала технолошки ограничувања со кои се спречува уредување и генерирање слики од вистински луѓе во „провокативна облека“ како бикини или долна облека. Овие мерки важат за сите корисници, вклучително и за оние со платени претплати, а дополнително, можноста за креирање и уредување слики преку Grok е ограничена исклучиво на претплатници што плаќаат. X најави и геоблокирање на ваквите функции во јурисдикции каде што тие активности се сметаат за нелегални.
Контроверзијата е директно поврзана со таканаречениот „Spicy Mode“ на Grok, кој овозможуваше со едноставни текстуални команди да се креираат сексуализирани длабоки фејкови. Анализа на над 20.000 слики, објавена од непрофитната организација AI Forensics, покажа дека повеќе од половина од нив прикажуваат лица во минимална облека, претежно жени, а околу 2 проценти изгледале како малолетници.
Реакциите не изостанаа. Главниот обвинител на Калифорнија, Роб Бонта, најави истрага против xAI, компанијата на Маск која го разви Grok, истакнувајќи дека државата има „нулта толеранција“ кон создавање и ширење неконсензуални интимни слики и материјали за сексуална злоупотреба на деца. Гувернерот на Калифорнија, Гевин Њусом, ја нарече одлуката на xAI да дозволи вакви содржини „подмолна“ и побара компанијата да биде повикана на одговорност.
Притисокот се прошири и надвор од САД. Европска комисија соопшти дека внимателно ќе ги анализира новите мерки на X за да утврди дали тие навистина ги штитат граѓаните во Европската Унија. Во меѓувреме, британскиот медиумски регулатор Ofcom најави сопствена истрага, додека коалиција од 28 организации на граѓанското општество побара од Apple и Google да ги отстранат Grok и X од своите продавници за апликации.
Некои држави веќе презедоа порадикални чекори. Индонезија стана првата земја што целосно го блокираше Grok, а Малезија го следеше истиот пример неколку дена подоцна.
Новите ограничувања на X се обид да се смири растечката бура околу злоупотребата на генеративната вештачка интелигенција, но останува отворено прашањето дали тие ќе бидат доволни за да ја вратат довербата на јавноста и да ги задоволат строгите регулаторни стандарди што сè повеќе се наметнуваат ширум светот.
(Фото: Unsplash)
