Аналитика
И поранешниот извршен директор на Google, Ерик Шмит, се вклучи во дебатата за безбедноста на вештачката интелигенција, изразувајќи го своето стравување дека идните системи на вештачката интелигенција ќе бидат толку сложени што луѓето повеќе нема да можат да разберат како функционираат тие системи.
Поранешниот извршен директор на Google наведе три напредоци кои веќе ја менуваат вештачката интелигенција: многу подолги контекстуални прозорци, агенти на вештачката интелигенција и системи што можат да ги претворат едноставните текстуални инструкции во функционален софтвер. Заедно, тој верува дека тие би можеле да ја однесат вештачката интелигенција многу подалеку од одговарање на прашања и да ѝ дозволат да работи со екстремно сложени задачи.
Во следните пет години, Шмит очекува дека системите на вештачка интелигенција потенцијално би можеле да се справат со рецепти од 1.000 чекори за решавање проблеми во области како што се науката, медицината, материјалите и истражувањето на климата. „Во рок од 5 години, вештачката интелигенција би можела да се справи со бесконечен контекст, размислување со синџир на мисли за решенија од 1000 чекори и милиони агенти што работат заедно. На крајот, тие ќе развијат свој јазик… а ние нема да разбираме што прават“, рече тој.
Според Шмит, овие случувања би можеле да им овозможат на системите со вештачка интелигенција да работат преку сè подолги и покомплицирани синџири на размислување. Тој рече дека вештачката интелигенција на крајот би можела да произведе решенија што вклучуваат дури 1.000 чекори за проблеми во области како што се науката, медицината, материјалите и истражувањето на климата.
Шмит ја искористи идејата за рецепт за да опише како би можеле да функционираат ваквите системи. Вештачката интелигенција би можела да заврши една фаза од задачата, да го користи резултатот како влез за следната фаза и да го продолжи процесот низ стотици чекори.
Шмит, исто така, укажа на растечката улога на агентите со вештачка интелигенција, опишувајќи ги како системи што можат да учат за одредена област и да работат на идеи во неа. Тој ја даде хемијата како пример, сугерирајќи дека агентот би можел да го научи предметот, да развие хипотези, да спроведе тестови и да ги вклучи резултатите во своето знаење.
Тој очекува бројот на такви специјализирани агенти на крајот да достигне милиони, со платформи што ќе им овозможат на различни агенти достапни за специфични намени.
Третиот развој што го истакна Шмит е она што тој го нарекува „текстуална акција“, каде што корисниците можат да го опишат софтверот што го сакаат, а системите со вештачка интелигенција го произведуваат. Тој рече дека вештачката интелигенција веќе е способна да пишува софтвер на јазици како што е Пајтон и сугерираше дека овие системи на крајот би можеле да продолжат да работат на програмски задачи подолг период.
Шмит рече дека комбинацијата од долги контекстуални прозорци, агенти и програмирање управувано од вештачка интелигенција на крајот би можела да им овозможи на системите со вештачка интелигенција да работат едни со други. Потоа се префрли на пошпекулативно сценарио во кое агентите би можеле да развијат свој јазик.
Неговата загриженост е дека таков развој би можел да го отежни разбирањето на однесувањето на вештачката интелигенција за луѓето. „Знаете што треба да направиме? Исклучете го“, рече Шмит.
Предупредувањето доаѓа во услови на поширока дебата во индустријата за вештачка интелигенција околу темпото на развој. Извршниот директор на „Антропик“ (Anthropic), Дарио Амодеи, неодамна повика компаниите да го забават темпото на усовршување на моделите на вештачка интелигенција, истакнувајќи дека на безбедносните мерки им е потребно повеќе време за да го следат чекорот со брзиот развој на можностите. Според неговиот предложен пристап, независните оценители на безбедноста би добиле подлабок пристап до системите за вештачка интелигенција, додека водечките компании во оваа област би соработувале околу безбедносните стандарди. Амодеи нагласи дека целта е да се регулира темпото на развој, а не целосно да се запре напредокот на вештачката интелигенција.
