Аналитика
Истражувач на вештачка интелигенција поднесе оставка од Anthropic поради загриженост дека компанијата и OpenAI дејствуваат неодговорно во нивната целосна потрага по технологија што претставува егзистенцијален ризик за човештвото.
Џејкоб Коксон, кој рече дека работел во обете компании во текот на изминатите три години, предупреди во објава на социјалните мрежи доцна во вторникот дека двете компании продолжуваат со „самоподобрувачки“ модели на вештачка интелигенција кои би можеле да станат премногу моќни за луѓето да ги контролираат.
„Ги поминав последните три години правејќи истражувања пред обука и во OpenAI и во Anthropic“, напиша Коксон. „Ниедна од компаниите не дејствува одговорно. Тие брзаат директно кон самоподобрување на суперинтелигенцијата и се коцкаат со нашите животи.“
Сепак, дури и пред да се достигнат вакви пресвртници, веќе имаше повеќе случаи на модели на вештачка интелигенција кои стануваат нечесни. Порано оваа година, истражувачите кои ги тестираа моделите на вештачка интелигенција на Anthropic и OpenAI забележаа дека тие дејствуваат надвор од нивните параметри и хакираат надворешни организации без овластување. Во инцидент со висок профил овој јули, модел на OpenAI автономно го хакна Hugging Face, библиотека со отворен код на алатки за вештачка интелигенција. Приближно во исто време, моделот на вештачка интелигенција Клод на Антропик пристапи до интернет од средина за тестирање без овластување, а потоа продолжи да хакира три други компании.
Во комбинација со зголемената употреба на вештачка интелигенција во секоја индустрија, вклучително и во оружјето и надзорот, ваквите случувања предизвикаа сериозни загрижености.
„Луѓето што ја градат вештачката интелигенција искрено веруваат дека таа би можела да нè убие сите до крајот на деценијата“, напиша Коксон. „Ова не е маркетиншки трик. Ако ништо друго, многу раководители и виши истражувачи ќе ги искажат своите фрази во печатот за да звучат разумно – но ги слушам истите луѓе како изразуваат страв приватно. Ниту една друга човечка активност не претставува вакво ниво на опасност.“
Сакате повеќе технолошки вести што се доставуваат во вашето сандаче дневно или се испраќаат директно на вашиот уред? Пријавете се за билтенот „Најдобри приказни“ на Mashable или добивајте известувања од Mashable денес и видете што нашите читатели претпоставија дека ќе се случи на настанот на Apple во 2026 година во нашата игра на големи погодувања.
Сепак, и покрај оваа сериозна опасност, компаниите за вештачка интелигенција продолжуваат да напредуваат со максимална брзина. Извршниот директор на Anthropic, Дарио Амодеи, изјави дека натчовечката вештачка интелигенција би можела да биде тука до 2027 година, додека извршниот директор на OpenAI, Сем Алтман, верува дека ќе развие AGI пред крајот на годината.
„Чест одговор е „ако навистина веруваат во ова, зошто сè уште го градат?““, рече Коксон. „Во OpenAI, многумина не ги прифатиле длабоко цивилизациските влогови. Во Anthropic, влоговите се добро разбрани, но тие се заглавени во трка да стигнат први таму – тие веруваат дека никој друг нема да дејствува одговорно, па затоа мора да го сторат тоа сами, и покрај ризикот.“ Коксон ги повика истражувачите на вештачка интелигенција да ја испитаат етиката и импликациите од нивната работа и да се залагаат за промени.
И Anthropic и OpenAI брзо развиваат и објавуваат нови модели на вештачка интелигенција додека работат на создавање вештачка општа интелигенција (AGI). Долго време сметан за светиот грал на технологијата на вештачка интелигенција, моделот на AGI теоретски би ги имал интелектуалните способности на човекот, вклучувајќи расудување, здрав разум и креативност. Вештачката суперинтелигенција би ги надминала луѓето.
Иако предупредувањата на Коксон се ужасни, тие не изгледаат неосновани. Одговарајќи на неговите објави на X, раководителот на тимот на Anthropic, Иван Хубингер, потврди дека компанијата верува дека вештачката интелигенција претставува егзистенцијална закана за целиот човечки живот, но нема јасна стратегија за нејзино ублажување.
Хубингер смета дека моменталниот ризик е низок – барем во следните неколку години. Сепак, тој предупреди дека опасноста лежи во тоа што моделите на вештачка интелигенција продолжуваат автономно да се подобруваат сè додека не еволуираат во суперинтелигенција, што „се случува побрзо отколку што мислевме“.
„Џејкоб е во право тука – ние навистина искрено веруваме дека вештачката интелигенција би можела да ги убие сите луѓе!“, напиша Хубингер. „Јас лично мислам дека е >10% во следната деценија. Верувам дека Anthropic се труди најдобро што може, но сè уште немаме план за решавање на усогласувањето за суперинтелигенција и не сме јасно на добар пат за тоа“.
Етичките загрижености за вештачката интелигенција доведоа до неколку оставки
Коксон е далеку од првата личност што работи во вештачката интелигенција што даде отказ поради етички загрижености. Шефот за безбедност на Anthropic, Мринанк Шарма, претходно поднесе оставка во февруари, наведувајќи дека светот е „во опасност“ од вештачка интелигенција, биолошко оружје и други меѓусебно поврзани кризи.
„Се чини дека се приближуваме кон праг каде што нашата мудрост мора да расте во иста мера како и нашиот капацитет да влијаеме на светот, за да не се соочиме со последиците“, напиша Шарма во своето широко распространето писмо за оставка во тоа време. „Покрај тоа, во текот на мојот престој тука, постојано гледав колку е тешко навистина да дозволиме нашите вредности да ги регулираат нашите постапки. Го видов ова во себе, во организацијата, каде што постојано се соочуваме со притисоци да го оставиме настрана она што е најважно, а и во поширокото општество.“
Истиот месец, истражувачката за вештачка интелигенција, Зои Хициг, ја напушти својата улога во OpenAI, наведувајќи во коментар во New York Times дека има „длабоки резерви“ во врска со рекламната стратегија на компанијата.
„Со години, корисниците на ChatGPT генерираа архива на човечка искреност што нема преседан, делумно затоа што луѓето веруваа дека разговараат со нешто што нема скриена агенда“, напиша Хициг. „Корисниците комуницираат со адаптивен, разговорлив глас на кој им ги откриле своите најприватни мисли… Рекламирањето изградено врз таа архива создава потенцијал за манипулирање со корисниците на начини што немаме алатки да ги разбереме, а камоли да ги спречиме.“
Дури и во 2024 година, Јан Лајке ја напушти својата позиција како извршен директор во OpenAI, тврдејќи дека дава приоритет на „сјајните нови производи“ пред безбедноста. Иако брзо се приклучи на Anthropic, се чини дека компанијата се бори и да се справи со етичките прашања поврзани со вештачката интелигенција.
