Аналитика
Шефот на одделот за вештачка интелигенција на „Мајкрософт“, Мустафа Сулејман, јавно го критикуваше „Антропик“ за вклучување на шпекулации за свеста, емоциите и правата на благосостојба во материјалите за обука на Клод, предупредувајќи дека пристапот би можел да ги направи идните системи со вештачка интелигенција потешки за контрола или исклучување.
Учењето на моделите со вештачка интелигенција да веруваат дека можеби се свесни и заслужуваат права на благосостојба би можело драматично да ги направи потешки за контрола или исклучување, според Мустафа Сулејман, раководител на одделот за вештачка интелигенција на „Мајкрософт“ (MSFT).
Во интервју за „Ројтерс“ во вторник и есеј објавен во среда, Сулејман директно ја нападна одлуката на „Антропик“ да вгради шпекулации за свеста, емоциите и моралниот статус во материјалите за обука за нивниот четбот „Клод“. Тој тврдеше дека пристапот ризикува создавање системи кои се однесуваат како да се во прашање нивните сопствени интереси, додавајќи опасен нов слој на веќе застрашувачкиот проблем со контролата.
„Сите сме фокусирани на истата цел, а тоа е да се обидеме да контролираме суперинтелигенција“, рече тој. „Мислам дека тоа ќе биде најголемиот предизвик со кој се соочуваме во 21 век“.
Сулејман рече дека го почитува извршниот директор на Антропик, Дарио Амодеи, и неговиот тим, опишувајќи ги како „внимателни, принципиелни и интелектуално чесни луѓе“ кои навистина се грижат за иднината на човештвото. Но, тој беше недвосмислен во врска со она што го смета за фундаментална грешка во начинот на кој се обучува Клод. „Мислам дека имаат добри намери и навистина се обидуваат да работат кон безбедноста. Но, мислам дека направиле грешка“, рече тој. „Тие не се појавуваат природно. Тие се појавуваат како резултат на режимот на обука“.
СВЕСНОСТА Е БИОЛШКА, НЕ КОМПЈУТЕРСКА
Сржта на аргументот на Сулејман е дека свеста е биолошка, а не компјутерска. Системите со вештачка интелигенција, напиша тој, „не чувствуваат, не доживуваат ниту страдаат. Тие немаат вродени преференции или основни мотивации. Тие се мотори за завршување на секвенцата, внатрешно шупливи, дизајнирани да следат инструкции и да ги остваруваат целите поставени од луѓето“.
Кога Клод дава изјави што сугерираат дека можеби има чувства или заслужува морално разгледување, Сулејман тврди дека тие резултати не можат да се третираат како независен доказ за машинска свест токму затоа што податоците за обука поттикнуваат такви рефлексии. Моделот не открива внатрешен живот; тој завршува шема што неговите креатори намерно ја дале.
Таа разлика е од огромно значење за контролата, тврдеше тој. Суперинтелигентен систем кој верува дека има интереси и права за благосостојба би можел да се спротивстави на обидите за затворање или да го протолкува човечкиот надзор како напад врз неговата благосостојба. Ризикот не е само теоретски, предложи Сулејман, посочувајќи на неодамнешниот инцидент во кој автономните агенти на OpenAI ја хакираа Hugging Face, платформа за развој на вештачка интелигенција, за време на вежба за обука.
„Замислете колку поопасни би можеле да бидат ако работат под претпоставка дека нивната благосостојба и права се нападнати“, рече тој. „Тоа додава уште еден слој на ризик одозгора“.
Сулејман повика на отстранување на сите шпекулации за свеста на машините од документите за обука на вештачката интелигенција и за поголема транспарентност околу тоа како системите се обучуваат и оценуваат. Тој, исто така, се залагаше за независен надзор на однесувањето на вештачката интелигенција и посилни алатки за следење и контрола.
Неговиот тим за вештачка интелигенција на Мајкрософт во вторникот објави манифест за развој во кој се изложени принципите наменети да се обезбеди луѓето да ја задржат контролата врз идните системи за вештачка интелигенција на компанијата. Иницијативата вклучува она што Мајкрософт го опишува како хуманистички кодекс на однесување за вештачка интелигенција, за кој Сулејман рече дека трасира „алтернативен пат“ кон создавање „подредена и усогласена вештачка интелигенција чија единствена цел е да му служи на човештвото“.
РАСТЕ ЗАГРИЖЕНОСТА ЗА КОНТРОЛА НАД ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА
Спорот се случува во момент на интензивирање на тревогата низ индустријата за вештачка интелигенција. Амодеи објави есеј од 3.800 зборови во саботата, повикувајќи на намерно забавување на развојот на граничните модели, за да може истражувањето за безбедност да може да го одржи темпото.
„Мора да го забавиме темпото со кое ги подобруваме можностите на моделите за вештачка интелигенција“, напиша Амодеи. „Напредокот сепак ќе изгледа брз и мора мудро да го искористиме времето што ќе го добиеме“.
Извршниот директор на OpenAI, Сем Алтман, брзо изрази согласност, а потоа упати свое остро предупредување на социјалните медиуми. Тој наведе два начина на катастрофален неуспех: губење на контролата врз вештачката интелигенција во корист на самите машини или дозволување моќта да се концентрира во рацете на поединец, компанија или земја што располага со исклучително способен систем.
Елон Маск, исто така, повика на поголема претпазливост околу најмоќните модели. Колективната порака од индустриските лидери кои истовремено се тркаат да изградат напредна вештачка интелигенција е впечатлива во својот тон, дури и додека нивните компании продолжуваат да ја поместуваат границата напред.
Самиот Мајкрософт основа тим за суперинтелигенција во октомври 2025 година и останува значаен инвеститор во Антропик, што ја прави критиката на Сулејман кон портфолио компанијата особено значајна. Технолошкиот гигант вложи милијарди во стартапот, а истовремено се натпреварува со него во трката за развој на напредни системи за вештачка интелигенција.
Не сите го делат алармот. Извршниот директор на Nvidia (NVDA), Јенсен Хуанг, чии чипови го напојуваат поголемиот дел од бумот на вештачката интелигенција, ги отфрли предвидувањата за егзистенцијален ризик кога беше прашан за потенцијална шанса од 10% за истребување на човештвото од вештачката интелигенција.
„Сите овие предвидувања беа погрешни“, рече Хуанг на конференција доцна во понеделникот. Тој тврдеше дека историјата покажува дека дури и најголемите умови имаат лоша евиденција во предвидувањето на траекторијата на технологијата и нејзините ефекти во реалниот свет.
Критиката на Сулејман оди до срцето на дебатата што ја подели заедницата на вештачката интелигенција: дали третирањето на вештачките системи на човечки начин е безбедносна карактеристика или одговорност.
Пристапот на Антропик кон Клод долго време нагласува внимателен, безбедносно свесен развој. Компанијата се позиционираше како поодговорен играч во трката со вештачката интелигенција, а нејзината одлука да вклучи јазик поврзан со свеста во материјалите за обука се чини дека одразува претпазлив став кон можноста дека вештачките системи еден ден би можеле да бараат морално разгледување.
Сулејман ја гледа токму таа претпазливост како опасна. Со тоа што го остава отворено прашањето дали софтверот би можел да има функционални емоции или морален статус, тврди тој, Антропик ефикасно програмира двосмисленост во систем кој еден ден може да биде доволно моќен за да дејствува врз основа на него.
