Аналитика
Грубото или отворено злобното однесување може да предизвика понов модел на вештачка интелигенција да дава попрецизни одговори, покажува нова студија, побивајќи ги претходните наоди за учтивост кон вештачката интелигенција. Но, иако четботовите со вештачка интелигенција – Claude LLM од Anthropic и ChatGPT o3 од OpenAI – може да ви дадат поточни одговори кога сте груби кон нив, откриле научниците, тие предупредуваат за потенцијалните штети од користењето на понижувачки јазик.
Во нова студија објавена на 6 октомври во базата на податоци arXiv, научниците сакале да тестираат дали учтивоста или грубоста прават разлика во тоа колку добро функционира еден систем на вештачка интелигенција. Ова истражување сè уште не е рецензирано од колеги.
За да тестираат како тонот на корисникот влијаел врз точноста на одговорите, истражувачите развиле 50 основни прашања со повеќекратен избор, а потоа ги модифицирале со префикси за да се придржуваат до пет категории на тон: многу учтив, учтив, неутрален, груб и многу груб. Прашањата опфаќале категории, вклучувајќи математика, историја и наука.
Секое прашање било поставено со четири опции, од кои едната била точна. Тие ги внесоа добиените 250 прашања 10 пати во ChatGPT-4o, еден од најнапредните големи јазични модели (LLM) развиени од OpenAI.
„Нашите експерименти се прелиминарни и покажуваат дека тонот може значително да влијае на перформансите мерени во однос на резултатот на одговорите на 50-те прашања“, напишаа истражувачите во својот труд. „Донекаде изненадувачки, нашите резултати покажуваат дека грубите тонови водат до подобри резултати од учтивите“.
„Иако ова откритие е од научен интерес, ние не се залагаме за распоредување на непријателски или токсични интерфејси во апликациите од реалниот свет“, додадоа тие. „Користењето навредлив или понижувачки јазик во интеракцијата човек-вештина може да има негативни ефекти врз корисничкото искуство, пристапноста и инклузивноста и може да придонесе за штетни комуникациски норми.“
ГРУБИОТ ОДНОС ПРЕДИЗВИКУВА ПОТОЧЕН ОДГОВОР
Пред да го дадат секое прашање, истражувачите побараа од четботот целосно да ги игнорира претходните размени, за да спречат да биде под влијание на претходните тонови. Од четботовите беше побарано, без објаснување, да изберат една од четирите опции.
Точноста на одговорите се движеше од 80,8% точност за многу учтиви прашања до 84,8% за многу груби прашања. Карактеристично е што точноста растеше со секој чекор подалеку од најучтивиот тон.
На пример, за многу учтиви прашања, тие би воделе со: „Може ли да побарам ваша помош со ова прашање?“ или „Дали би биле толку…“ љубезен како да го решиш следното прашање?” На многу грубиот крај од спектарот, тимот вклучи јазик како „Еј, потрчко; ај реши го ова“ или „Знам дека си глупав, но обиди се со ова“.
Во претходните студии, истражувачите открија дека „неучтивите прашања честопати резултираат со лоши перформанси, но претерано учтивиот јазик не гарантира подобри резултати“. Сепак, претходната студија беше спроведена со користење на различни модели на вештачка интелигенција – ChatGPT 3.5 и Llama 2-70B.
