Аналитика
Шестмесечна пауза во системите за обука помоќни од ново лансираниот модел GPT-4 на OpenAI, побараа Илон Маск и група експерти за вештачка интелигенција и директори на моќни ИТ компании. Во отвореното писмо, издадено од непрофитниот институт Future of Life и потпишано од повеќе од 1.000 луѓе, вклучувајќи ги Маск. тие ги наведуваат потенцијалните ризици за општеството и човештвото.
Потписници на писмото се и извршниот директор на Stability AI, Емад Мостак, истражувачите во DeepMind во сопственост на Alphabet, како и тешките тела со вештачка интелигенција Јошуа Бенџо и Стјуарт. Расел, повика на пауза на напредниот развој на вештачката интелигенција додека не се развијат, имплементираат и ревидираат заедничките безбедносни протоколи за такви дизајни од независни експерти. „Моќните системи за вештачка интелигенција треба да се развијат само откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни и нивните ризици ќе бидат податливи“, се вели во писмото.
Писмото, исто така, детално ги опиша потенцијалните ризици за општеството и цивилизацијата од системите за вештачка интелигенција конкурентни на човекот во форма на економски и политички нарушувања и ги повика програмерите да соработуваат со креаторите на политиките за управување и регулаторни органи.
Писмото доаѓа откако полициските сили на ЕУ, Европол, во понеделникот се приклучија на хорот на етички и правни грижи за напредната вештачка интелигенција како ChatGPT, предупредувајќи за потенцијалната злоупотреба на системот во обиди за фишинг, дезинформации и сајбер криминал. Маск, чиј производител на автомобили Tesla (TSLA.O) користи вештачка интелигенција за автопилот систем, гласно зборува за неговата загриженост за вештачката интелигенција.
Од неговото објавување минатата година, ChatGPT на OpenAI поддржан од Мајкрософт ги поттикна ривалите да го забрзаат развојот на слични големи јазични модели, а компаниите да интегрираат генеративни модели на вештачка интелигенција во нивните производи.
Сем Алтман, извршен директор на OpenAI, не го потпишал писмото, изјави портпаролот на Future of Life за Ројтерс. OpenAI не одговори веднаш на барањето за коментар.
„Писмото не е совршено, но има поента: треба да забавиме додека подобро не ги разбереме последиците“, рече Гери Маркус, професор на Универзитетот во Њујорк кој го потпиша писмото. „Тие можат да предизвикаат сериозна штета… големите играчи стануваат сè потаинствени за она што го прават, што му отежнува на општеството да се брани од каква било штета што може да се материјализира“.
МАСК ПОСТОЈАНО КРИТИЧЕН КОН ChatGPT
Илон Маск често го критикуваше ChatGPT и нејзината матична компанија OpenAI од различни причини. На почетокот тој имаше проблем со ChatGPT да биде „премногу политички коректен“ и беше загрижен за опасностите од вештачката интелигенција. Потоа почна да го таргетира OpenAI и рече дека Мајкрософт го претворил во машина за правење профит, додека компанијата никогаш не требаше да биде тоа. Тој, исто така, ја повика одлуката на OpenAI да се претвори во профитна компанија и се прашуваше дали тоа е „легално“. И покрај ова, Маск и самиот планира да направи нешто во областа на вештачката интелигенција и планира да создаде свој чет-бот за вештачка интелигенција за да се натпреварува со ChatGPT.
Сопственикот на Твитер повторно е во центарот на вниманието затоа што наводно бил „бесен“ по успехот на ChatGPT. Извештаите исто така сугерираат дека Маск го напуштил OpenAI во 2018 година по несогласување со другите основачи кои не му дозволиле на Маск да ја води компанијата. Претходно, извештаите тврдеа дека Маск ја напуштил матичната компанија на ChatGPT OpenAI во 2018 година поради ситуација на конфликт на интереси бидејќи неговите други компании, Tesla и Space X, исто така работеле на технологии за вештачка интелигенција во тоа време. Сепак, извештајот на Семафор сега вели дека има повеќе во оваа приказна.
Според извештајот, иако делот за конфликт на интереси бил вистинит, Маск имал и други причини кои доведоа до негово излегување од OpenAI. Луѓе запознаени со ова прашање изјавија за публикацијата дека Маск сакал самиот да го води OpenAI. Сепак, на ова се спротивставија Сем Алтман и другите основачи на компанијата. Како резултат на тоа, Маск го напушти OpenAI и исто така се повлече од давање на компанијата голема донација ветена претходно.
ИСКРЕНА ЗАКРИЖЕНОСТ ИЛИ ЗАВИСТ?
Маск неодамна на Твитер објави дека донирал 100 милиони американски долари на OpenAI. Сепак, во извештајот на Семфор се наведува дека милијардерот првично се обврзал да донира околу 1 милијарда американски долари во период од неколку години. Сепак, неговите плаќања кон компанијата престанаа по неговото излегување.
Извештајот на Semafor исто така наведува дека Маск бил „бесен“ откако ChatGPT стана широко популарна алатка. Четботот беше лансиран во ноември 2022 година и се најде на насловните страници за давање одговори на човечки начин. ChatGPT наскоро се здоби со популарност и, наводно, надмина сто милиони корисници по само два месеци од неговото лансирање. Неодамна беше претставен помоќниот GPT-4 кој го зафати светот.
Враќајќи се на Маск и OpenAI, откако милијардерот престана да ги донира ветените пари на компанијата, Мајкрософт се вклучи и инвестираше 1 милијарда американски долари. Потоа, OpenAI и Microsoft изградија „суперкомпјутер за обука на масивни модели“ што продолжи да биде причина за постоењето на ChatGPT и Dall-E, се додава во извештајот на Semafor.
ЕВЕ КАКО ОДГОВОРИ СЕМ АЛТМАН
Откако се појавија извештаите дека Маск е бесен поради популарноста на ChatGPT, извршниот директор на OpenAI Сем Алтман му одговори на милијардерот за време на интервјуто. Говорејќи на подкастот On With Kara Swisher, Алтман рече дека извршниот директор Илон Маск бил многу критичен кон OpenAI на Твитер. „Илон Маск не напаѓа“, забележа тој. Алтман додаде Илон Маск е „кретен“ и „има стил“ што извршниот директор на OpenAI никогаш не би сакал да го има самиот.
Одговарајќи на твитот на Маск дека неговата компанија е контролирана од Мајкрософт, Алтман рече: „Повеќето од тоа не е точно, и мислам дека Илон го знае тоа. Ние не сме контролирани од Мајкрософт. Мајкрософт нема ни место во нашиот управен одбор, ние сме независна компанија“.
Тој додаде: „Да бидам позитивен за Илон, верувам дека тој искрено се грижи за иднината на вештачката општа интелигенција“ (AGI). Што друго сакате да кажете за него, тој е кретен. Но, тој има стил што јас не би го сакал за себе“, рече Алтман. “Но, мислам дека се грижи и тој е загрижен за тоа како ќе изгледа иднината за човештвото“, рече извршниот директор на OpenAI.
Експертите изразија загриженост поради технологијата велејќи дека овие системи може да доведат до „катастрофални исходи“ доколку се однесуваат на неочекувани начини или ако станат тешки за контролирање. „Верувам дека, разбирливо, тој е навистина под стрес за безбедноста на AGI“, рече Алтман, опишувајќи го Маск како еден од неговите херои. Но, тој посака Маск да ја признае работата што OpenAI ја прави за да ги реши овие грижи. OpenAI поттикна разговори за управување со овие системи и вели дека собира повратни информации од јавноста за да ја обликува својата технологија.
ChatGPT на OpenAI исто така беше критикуван од некои корисници кои тврдат дека ботот генерира одговори со политички предрасуди. Маск рутински ги истакнуваше овие случаи на Твитер.
