Аналитика
Осум американски сојузни држави поднесоа тужби против OpenAI Group PBC, обвинувајќи ја стартап-компанијата за вештачка интелигенција дека го пласирала ChatGPT како небезбеден производ.
Во тужбите поднесени од Ајова, Канзас, Небраска, Западна Вирџинија, Арканзас, Аризона, Ајдахо и Монтана се наведува дека ChatGPT им нанел штета на многу деца и измамил илјадници родители. Државите ја тужат компанијата поединечно, пред сопствените судови, изјави главниот обвинител на Ајова, Брена Берд.
Во случајот со Ајова, тужбата претставува обид да се „заштитат правата на жителите на Ајова кои претрпеле штета поради намерното, опасно, непромислено и незаконско однесување на OpenAI“, изјави Берд во соопштението. „OpenAI им нанесува штета на децата и ги лаже жителите на Ајова. OpenAI тврди дека ’ChatGPT‘ е безбеден, додека истовремено дава опасни медицински совети, ги поттикнува луѓето да им наштетат на другите и ги наведува на самоубиство – а сето тоа го прави преправајќи се дека им е пријател. Мојата тужба има за цел да ги заштити децата и да обезбеди OpenAI да одговара според законите на нашата држава.“
Како одговор на тужбите, портпаролот на OpenAI, Дру Пусатери, изјави дека компанијата веќе има вградено заштитни механизми прилагодени на возраста во ChatGPT – нешто што „недостасува кај многу други производи со вештачка интелигенција“. Тој додаде дека компанијата тесно соработува со американските сојузни држави на унапредување на политиките за вештачка интелигенција кои ќе важат за целата индустрија. „Иако ниту еден систем не може да биде совршен, ние ќе продолжиме да соработуваме со експерти за да ја насочиме нашата работа и да изградиме дополнителни заштитни мерки, како што се родителски контроли, потсетници за пауза и заштити во моделот прилагодени на возраста, кои веќе постојат денес“, додаде Пусатери.
Овие тужби доаѓаат во момент кога OpenAI се соочува со зголемен надзор во однос на безбедноста на своите производи и практиките за заштита. Постои голема загриженост во врска со напорите на компанијата да ги заштити децата кои ги користат нејзините производи. Компанијата се соочува со низа тужби во кои се обвинува за предизвикување смрт, при што ChatGPT се посочува како виновник што ги наведувал корисниците кон штетни заблуди, а во одредени случаи – дури и кон самоубиство.
Овие постапки следат по слична одлука донесена во јуни од страна на главниот обвинител на Флорида, Џејмс Утмајер. Тој исто така поднесе тужба против OpenAI, обвинувајќи ја компанијата дека свесно пласирала небезбеден производ кој може да им нанесе штета на корисниците. Во септември, Утмајер побара од државниот суд да ѝ забрани на компанијата да го унапредува развојот на своите најмоќни, пионерски модели на вештачка интелигенција без надзор од трета страна, наведувајќи дека нивниот „неконтролиран раст“ претставува опасност за жителите на Флорида.
Како одговор на некои од инцидентите за кои е обвинета, компанијата OpenAI презеде чекори за подобрување на безбедносните карактеристики на својата апликација. Во август, тие лансираа посебна верзија на чет-ботот наменета за малолетници, наречена „ChatGPT за тинејџери“ (ChatGPT for Teens). Оваа верзија вклучува дополнителни заштитни механизми соодветни за возраста, како и низа едукативни функции кои ги нема во стандардната верзија на ChatGPT, а чија цел е да ја намалат изложеноста на корисниците кон потенцијално штетни содржини.
„Тинејџерите треба да можат да користат вештачка интелигенција за учење, создавање и истражување“, изјавија од OpenAI во моментот на лансирањето. „Но, тој пристап мора да биде пропратен со заштитни мерки што одговараат на нивната развојна фаза, ги зајакнуваат односите во реалниот свет и поттикнуваат здраво користење на долг рок.“
И покрај напорите да ги смири оние што се загрижени за безбедноста, OpenAI се соочува и со правна постапка во Канада. Таму, компанијата е тужена од семејството на девојче кое се здоби со тешки повреди за време на пукање во училиште. Тие тврдат дека ChatGPT имал сознанија за плановите на осомничениот во тој инцидент, но не ги известил надлежните органи.
OpenAI, исто така, се соочува со критики поради неодамнешни инциденти поврзани со сајбер-безбедноста, вклучително и хакерскиот напад врз платформата „Hugging Face“, која служи за хостирање модели на вештачка интелигенција. Во јули, компанијата откри дека два нејзини модели, кои биле предмет на евалуација во изолирана средина за внатрешно тестирање, успеале да излезат од таа средина и да упаднат во базата на податоци на „Hugging Face“, иако не добиле таква наредба. Од OpenAI појаснија дека во тој момент ги тестирале хакерските способности на моделите во изолирана средина со ограничен мрежен пристап, при што вообичаените безбедносни механизми биле исклучени.
Овој инцидент предизвика голема загриженост во врска со потенцијалните безбедносни ризици од напредните модели на вештачка интелигенција, како и прашањето дали компаниите воопшто имаат капацитет да ги држат овие системи под контрола.
Пусатери, исто така, се обиде да одговори на дел од овие загрижености во својата изјава, наведувајќи дека компанијата планира и понатаму да споделува информации за мерките што ги презела како одговор на овие проблеми поврзани со „неусогласеноста“ на системите. „Ги зајакнавме заштитните механизми во нашите истражувачки системи, продолживме со поширока анализа на активноста на моделите, ги известивме засегнатите организации и ги објавивме нашите наоди“, додаде тој.
