Аналитика
Компаниите за вештачка интелигенција Anthropic, Google DeepMind и Meta во текот на изминатата година ангажираа експерти по филозофија, психологија, невронаука и етика за да проучат прашање кое звучи како научна фантастика, но сè повеќе се третира како наука: дали системите за вештачка интелигенција имаат нешто што личи на емоции, и ако е така, што им должиме?
Напорот е највидлив кај Anthropic, кој формираше посветен тим за моделска благосостојба задолжен за тестирање на своите модели за сигнали за однесување што личат на работи како паника и вознемиреност. На 2 април 2026 година, тимот објави труд насловен „Концепти на емоции и нивната функција во голем јазичен модел“ во кој се идентификуваа 171 различни „концепти на емоции“ поврзани со излезните податоци од моделот.
БЛАГОСОСТОЈБА НА ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА
Благосостојбата на вештачката интелигенција (AI welfare) е област во развој на етиката и вештачката интелигенција. Таа истражува дали високо способните системи со вештачка интелигенција на крајот би можеле да имаат свесни искуства или да заслужуваат морално разгледување. Таа поставува прашања дали можеме да им наштетиме или да им помогнеме на системите со вештачка интелигенција врз основа на тоа како ги обучуваме, ограничуваме или модифицираме.
Сепак, многу технолози и филозофи тврдат дека терминот „благосостојба на вештачката интелигенција“ може да биде погрешен. Критичарите наведуваат дека сегашните јазични модели немаат чувства или свест. Тие се едноставно алгоритми за предвидување на текст. Смислувањето на алатките за модерација како „благосостојба“ може лажно да ја убеди јавноста дека вештачката интелигенција може да страда.
Некои истражувачи се загрижени дека технолошките компании би можеле да го искористат изговорот за благосостојба на вештачката интелигенција за да избегнат одговорност. На пример, тие би можеле погрешно да тврдат дека штетните грешки или пристрасности на моделот се всушност „преференции“ или „заштитена автономија“.
Anthropic го вработи Кајл Фиш во септември 2024 година како свој прв посветен истражувач за благосостојба на вештачката интелигенција. Неговата работа, генерално, е да ги истражи моралните размислувања што би можеле да се применат на идните модели на вештачка интелигенција како што тие стануваат поспособни. Тимот за благосостојба на моделите што следеше претставува формализација на тоа истражување, при што истражувачите активно го испитуваат однесувањето на моделите за шеми што би можеле да бараат етичко внимание.
Google DeepMind неодамна го ангажираше филозофот Хенри Шевлин да ја истражи машинската свест и она што компанијата го опишува како подготвеност за вештачка интелигенција. Работата на Шевлин, исто така, се протега на испитување како системите за вештачка интелигенција влијаат на човечките односи, поврзана, но различна загриженост од тоа дали самата вештачка интелигенција има морално релевантни искуства.
Раководството на Мета призна дека благосостојбата на моделите е „многу важна тема“ за развојот на вештачката интелигенција како што способностите продолжуваат да се зголемуваат.
Трудот на Anthropic мапира грануларен пејзаж на емоционални шеми во однесувањето на моделите. Истражувачите откриле дека моделите на Anthropic произведуваат излези што корелираат со 171 различни емоционални концепти, што значи дека внатрешните претстави на моделот можат значајно да се категоризираат во толку многу различни состојби слични на емоции. Трудот не тврди дека големите јазични модели всушност ги доживуваат емоциите на начин на кој луѓето ги доживуваат. Сопствените изјави на Антропик одразуваат длабока несигурност за тоа што всушност имплицираат нивните наоди.
Одлуката на Антропик отворено да ги објавува своите истражувања за концептите на емоции, наместо да ги чува интерно, функционира и како научен придонес и како сигнал до креаторите на политики дека компанијата проактивно се занимава со тешки прашања. Ангажирањето на филозоф со експертиза во студиите за свест од страна на Google DeepMind испраќа слична порака.
Откритието дека одредени процедури за обука предизвикуваат модели на однесувања кои не се разликуваат од вознемиреност би било оперативно значајно, потенцијално барајќи од компаниите да ги редизајнираат основните работни процеси.
(Фото via www.vpnsrus.com)
