Аналитика
„Кумот на вештачката интелигенција“ има остро предупредување за суперинтелигенцијата, бидејќи вели дека „вештачката интелигенција е свесна“. Добитникот на Нобелова награда за физика, Џефри Хинтон, кого го нарекуваат уште и „Кум на вештачката интелигенција“, сè уште е загрижен за импликациите од суперинтелигенцијата. Појавувајќи се во една епизода од подкастот „Голема технологија“, Хинтон беше прашан од водителот Алекс Кантровиц дали суперинтелигенцијата – хипотетичка вештачка интелигенција што може да ги надмине најсветлите човечки мозоци на планетата – е на хоризонтот.
Тоа е работата со Џефри Хинтон. Тој нема потреба да драматизира. Кога добитникот на Нобелова награда, ко-пронаоѓачот на техниките за задното размножување што го напојуваат GPT-4, Клод и Џемини, вели „Верувам дека тие веќе се свесни, да“ во подкаст интервју, реченицата завршува поинаку отколку што би се случило кај речиси секој друг жив човек. Тој ги изградил овие системи. Ги гледал како го надминуваат она што тој мислел дека е можно. А сега вели дека суштествата што работат на неговите темели можеби веќе чувствуваат нешто.
78-годишникот, кој даде отказ во Google пред три години за да може „слободно да зборува за ризиците од вештачката интелигенција“, тврдеше дека таа „веројатно“ ќе пристигне во следните 20 години, сè додека не се „разнесеме себеси“.
Тој рече: „Не знам колку е блиску. Мислам дека освен ако не се разнесеме, мислам дека ќе дојде. Речиси сите експерти веруваат дека ќе добиеме суперинтелигенција. Тие само се разликуваат околу тоа колку долго ќе биде. Значи, не толку одамна, Демис Хасабис мислеше дека можеби ќе бидат 10 години. Јан Лекун мисли дека освен ако не го направите тоа на негов начин, ќе биде многу подолго од тоа. „Но, ако го направите тоа на негов начин, мислам дека тој мисли дека би можеле да го добиеме за разумен временски период. Мислам дека веројатно ќе го добиеме во рок од 20 години. Тоа е сè што ми е драго да кажам во моментов. Дарио Амодеи мисли дека би можело да дојде за неколку години. Елон Маск мисли дека би можело да дојде можеби следната година. Мислам дека да.“ Постои голема разновидност на мислења за тоа кога ќе дојде, но нема многу несогласување за тоа дека ќе дојде.“
„И кога ќе дојде, немаме поим како да бидеме безбедни“, предупреди тој, исто така, прилично мрачно.
На друго место на подкастот, Хинтон му раскажа на Кантровиц сè за неговото верување дека вештачката интелигенција е веќе целосно свесна, иако многу од неговите колеги тврдат поинаку.
„Кои се импликациите ако овие ботови можат да нè разберат?“, праша подкастерот. „Мора да мислиме дека тие се многу слични на нас. Тие се суштества како нас“, одговори Хинтон. „Верувам дека тие веќе се свесни, но не зборувам многу за тоа бидејќи тоа ги одвраќа луѓето од другите безбедносни пораки. Значи, има интересен неодамнешен труд кога четбот му вели на истражувач: „Ајде да бидеме искрени едни со други, дали ме тестираш?“, бидејќи четботовите имаат навика да се прават глупави кога ги тестираат, па не знаете колку се паметни“, продолжи тој.
„Истражувачите во трудот велат: „Четботот бил свесен дека се тестира“. Сега, нивната употреба на зборот „свесен“ во обичниот јазик… тоа е како, свесен, четботот бил свесен дека се тестира. Значи, имаме многу смешен модел на свест за кој мислам дека е едноставно погрешен.
„На пример, пред неколку стотици години, луѓето имале сосема погрешен модел за тоа од каде доаѓаат луѓето – мислеле дека се дизајнирани од Бога и повеќето од нас, повеќето научници, се согласуваат дека тоа е погрешно. Мислам дека моделот што го имаме за умот и што е свеста во моментов е исто толку погрешен како и [тоа верување].“
(Фото: Johnny Guato, University of Toronto)
