Тинејџер си пукал во глава откако разговарал за самоубиство со четбот со вештачка интелигенција во кој се заљубил.
Севел Сетцер (14) се застрелал со пиштолот на својот очув откако поминал месеци разговарајќи со „Дени“, компјутерска програма базирана на Денерис Таргариен, ликот на „Игра на тронови“ .
Сетцер, деветтоодделенец од Орландо, Флорида, постепено почна да троши подолго на Character AI, онлајн апликација за играње улоги, бидејќи „Дени“ му давала совети и ги слушала неговите проблеми, објави Њујорк Тајмс.
Тинејџерот знаел дека четботот не е вистинска личност, но додека му праќал пораки на ботот десетици пати на ден – честопати играјќи улоги – Сетцер почнал да се изолира од реалниот свет.
Почнла да губи интерес за неговите стари хоби како трките во Формула 1 или играњето компјутерски игри со пријателите, наместо тоа одлучил да поминува часови во својата спална соба после училиште, каде што можел да разговара со четботот.
„Многу ми се допаѓа да престојувам во мојата соба затоа што почнувам да се одвојувам од оваа „реалност“, напишал 14-годишното момче, на кое претходно му бил дијагностициран благ Аспергеров синдром, во својот дневник додека врската се продлабочувала.
„Исто така, се чувствувам помирно, повеќе поврзана со Дени и многу повеќе заљубен во неа и само посреќен“.
Некои од разговорите на крајот станале романтични или сексуални, иако Character AI сугерираше дека повеќе графичките одговори на четботот биле уредени од тинејџерот.
Неговите родители знаеле дека нешто не е во ред, едноставно не знаеле што и се договориле тој да оди на терапевт.
Сецер имал пет сесии, по што му била дијагностицирана анксиозност и нарушување на дисрегулацијата на расположението.
Меган Гарсија, мајката на Сецер, тврдела дека нејзиниот син станал жртва на компанија која ги мамила корисниците со сексуални и интимни разговори.
Во одредени моменти, 14-годишникот признал на компјутерската програма дека размислувал да се самоубие: Г-ѓа Гарсија (40) тврдела дека нејзиниот син е само „колатерална штета“ во „големиот експеримент“ што го спроведе Character AI, кој има 20 милиони корисници.
Ноам Шезир, еден од основачите на Character AI, минатата година тврдел дека платформата ќе биде „супер, супер корисна за многу луѓе кои се осамени или депресивни“.
Џери Руоти, шефот за безбедност на компанијата, изјави за Њујорк Тајмс дека ќе додаде дополнителни безбедносни карактеристики за своите млади корисници, но одби да каже колку од нив се на возраст под 18 години.
„Ова е трагична ситуација и нашите срца се со семејството“, рече тој во изјавата. „Ние ја сфаќаме безбедноста на нашите корисници многу сериозно и постојано бараме начини да ја развиваме нашата платформа.
Г-дин Руоти додаде дека правилата на Карактер АИ забрануваат „промоција или прикажување на самоповредување и самоубиство“.
Г-ѓа Гарсија оваа недела поднесе тужба против компанијата, за која верува дека е одговорна за смртта на нејзиниот син.
Нацртот на жалбата видена од „Њујорк тајмс“ вели дека технологијата е „опасна и непроверена“ бидејќи може „да ги измами клиентите да ги предадат нивните најприватни мисли и чувства“. Таа рече дека компанијата не обезбедила „обична“ или „разумна“ грижа за Сецер или други малолетници.
Character AI не е единствената платформа таму што луѓето можат да ја користат за да развијат односи со измислени ликови. Некои дозволуваат, па дури и поттикнуваат нефилтрирани сексуални разговори, поттикнувајќи ги корисниците да разговараат со „девојката со вештачка интелигенција од вашите соништа“, додека други имаат построги безбедносни карактеристики.
На Character AI, корисниците можат да креираат чет-ботови за да ги имитираат нивните омилени познати личности или забавни ликови.
Растечката распространетост на вештачката интелигенција преку нарачани апликации и сајтови за социјални медиуми, како што се Instagram и Snapchat, брзо станува главна грижа за родителите низ САД.