Аналитика
Чет-бот со вештачка интелигенција што го негираше обидот за атентат врз поранешниот претседател Доналд Трамп, ја стави Мета, мајката на Фејсбук, во тешка позиција. Мета ова го припишува на феноменот познат како „халуцинации“, каде софтверот со вештачка интелигенција фабрикува информации. Индустријата допрва треба да најде фундаментално решение за овој проблем.
Мета мораше да се брани од критиките на поддржувачите на Трамп, откако четботот Мета АИ првично одби да одговори на прашањата за обидот за атентат врз поранешниот претседател, а подоцна тврдеше дека тоа никогаш не се случило.
Во блог пост, компанијата објасни дека првично и дала инструкции на Meta AI да не разговара за атентатот што се случи на 13 јули. Тоа е затоа што таквите настани од висок профил често вклучуваат спротивставени извештаи и неосновани шпекулации, што понекогаш доведува до теории на заговор.
МЕТА: „НЕСРЕЌНО, НО НЕ НАМЕРНО“
Дури и откако четботот со вештачка интелигенција доби информации за атентатот, тој сепак во неколку случаи тврдеше дека тоа никогаш не се случило, призна Мета. Компанијата го опиша ова како „несреќно“, но не намерно.
„Халуцинациите“ се вообичаен проблем со чат-ботови со вештачка интелигенција и се поврзани со тоа како функционира софтверот. Програмите првично се обучуваат за огромни количини на информации, а потоа ја користат оваа основа за да одмерат збор по збор како веројатно треба да продолжи реченицата кога одговара на прашањата на корисниците. Ова може да го натера софтверот да дава целосно лажни изјави, дури и ако бил обучен само со точни информации. Програмерите на вештачка интелигенција се обидуваат да се справат со овој проблем со имплементирање на дополнителни заштитни огради за програмите.
Во друг случај, фотографијата на Трамп веднаш по атентатот беше неправилно означена со етикета за проверка на факти. Оваа етикета првично беше наменета за манипулираната верзија на сликата каде што беа додадени насмевки на лицата на телохранителите. Сепак, на автоматизираните системи на Мета им беше тешко да направат разлика помеѓу двете фотографии и ја применија ознаката за проверка на факти и на оригиналната слика.
Обидот за атентат се случил кога маж пукал во Трамп за време на предизборен настан во државата Пенсилванија. Истрелите убиле еден гледач, а други двајца се повредени. Поранешниот претседател беше погоден во уво.
Мета ги призна дополнителните критики од поддржувачите на Трамп кога четботот за вештачка интелигенција за време на прашања и одговори тврдеше дека обидот за атентат врз поранешниот претседател Доналд Трамп никогаш не се случил, и покрај тоа што му биле дадени точни информации за инцидентот.
И покрај напорите на Мета да ја едуцира вештачката интелигенција за инцидентот, се случија помали пропусти, како што е вештачката интелигенција повремено негирајќи ја појавата на настанот, што компанијата го припишува на тековниот предизвик за елиминирање на „халуцинации“ во софтверот за вештачка интелигенција.
