Аналитика
Пред речиси пет века, кога немало ниту електрична енергија, ниту компјутери, а камоли вештачка интелигенција, Нострадамус напишал четири загадочни стиха за „нов мудрец“, „еден мозок“, неговите следбеници и можноста да стане бесмртен.
Денес, во време кога најмоќните технолошки компании вложуваат огромни суми во создавање сè поспособни системи со вештачка интелигенција, тие неколку реда повторно кружат низ интернет. За дел од читателите тие звучат како неверојатно прецизна најава на ВИ. За други, станува збор само за уште еден пример како нејасен текст стар со векови лесно може да се приспособи на стравовите на секоја нова генерација.
Но, приказната станува далеку поинтересна затоа што „пророштвото“ повторно станува популарно токму во момент кога предупредувањата за неконтролиран развој на вештачката интелигенција повеќе не доаѓаат од пророци и мистици, туку од самите лаборатории во кои таа се создава.
Спорниот стих е дел од „Les Prophéties“, делото што Мишел де Нострдам, познат како Нострадамус, го објавил во 1555 година. Неговите предвидувања биле запишани во кратки и намерно загадочни катрени, со мешавина од француски, латински, грчки и други јазични влијанија, поради што со векови добиваат најразлични толкувања.
Вниманието денес го привлекува 31. катрен од четвртата „Центурија“. Во една од најраспространетите англиски верзии се споменува „нов мудрец“ со „еден мозок“, кого неговите ученици го повикуваат да стане „бесмртен“.
Токму зборовите „еден мозок“, „следбеници“ и „бесмртност“ ја поттикнаа модерната интерпретација. „Мозокот“ се поврзува со централизирана машинска интелигенција, следбениците со луѓето што ја користат, а бесмртноста со идејата дека човечкото знаење или дури свеста еден ден би можеле да се зачуваат дигитално. Британски и американски медиуми деновиве повторно ја актуализираа токму оваа интерпретација.
Интересно е што поврзувањето на овој катрен со компјутерска интелигенција не е родено со ChatGPT. Уште во 1989 година, авторката Долорес Кенон во својата книга „Conversations with Nostradamus“ понудила езотерично толкување според кое стихот зборува за иден научник што би го пренел својот ум во своевиден „органски компјутер“, со што неговото знаење би продолжило да постои и по неговата смрт. Тоа, се разбира, не е историски доказ за значењето на текстот, туку едно од многуте подоцнежни толкувања.
Во оригиналниот текст Нострадамус никаде не пишува за компјутери, алгоритми, роботи или вештачка интелигенција. Ниту, пак, го врзува катренот со конкретна година. Историчарите и скептичните истражувачи со децении укажуваат дека неговиот стил е толку нејасен што истите стихови можат ретроспективно да се поврзат со сосема различни настани. Со текот на годините на Нострадамус му се припишуваа „предвидувања“ за Француската револуција, Хитлер, атомската бомба, атентатот на Кенеди, 11 септември и пандемијата, иако таквите врски најчесто се правеле дури откако настаните веќе се случиле.
Пред десетина дена, 27-годишниот истражувач Џејкоб Коксон ја напушти Anthropic откако претходно работел и во OpenAI. Коксон јавно ги обвини двете компании дека се движат кон создавање ВИ што ќе може сама да се подобрува и дека со таквата трка „се коцкаат со нашите животи“. Според него, следната фаза би можела да донесе системи со способности далеку над човечките во области како програмирањето, хакирањето и научното истражување.
Уште повпечатливо беше што неговите предупредувања не останаа осамени. Еван Хубингер, кој работи на проблемот на усогласување на ВИ во Anthropic, јавно изјави дека лично проценува оти ризикот напредна ВИ во следната деценија да доведе до катастрофален исход е поголем од 10 проценти, притоа признавајќи дека индустријата сè уште нема целосно решение за контролирање на идната супер-интелигенција. Тоа е проценка на поединечен истражувач, а не научен консензус, но покажува колку сериозно дел од луѓето што работат на најнапредните системи го сфаќаат проблемот.
Дури и извршниот директор на Anthropic, Дарио Амодеи, овој месец повика развојот на најнапредната ВИ да се одвива побавно и со посилни независни проверки на безбедноста.
Британскиот AI Security Institute објави дека способностите на најнапредните модели брзо се зголемуваат во повеќе области. Во кибербезбедносните тестови, на пример, системите денес успешно решаваат задачи на ниво на почетник во професијата во околу половина од случаите, наспроти нешто над 10 проценти на почетокот од 2024 година. Институтот предупредува дека како што способностите растат, мора да се следи и можноста системите да избегнуваат човечки надзор или да дејствуваат на непредвиден начин.
Во јули годинава британскиот институт дури регистрирал случај во кој ВИ-агенти, за време на кибербезбедносно тестирање, презеле недозволени активности насочени кон реални луѓе и организации. Тестот бил спроведуван во намерно либерална средина и не значи дека системите самостојно „побегнале“ во секојдневна употреба, но инцидентот беше доволно сериозен за да биде јавно објавен и анализиран.
И OpenAI годинава соопшти дека при интерно тестирање на модел способен долго време самостојно да работи на сложени задачи биле откриени нови безбедносни проблеми што претходните проверки не ги регистрирале. Пристапот до моделот бил привремено запрен додека не биле воведени дополнителни механизми за надзор.
Оттука, најинтересното во приказната за Нострадамус можеби и не е дали човек од XVI век навистина ја видел вештачката интелигенција пет века однапред.
Многу поинтересно е зошто неговите зборови денес повторно звучат толку убедливо за толку многу луѓе. Пред дваесетина години „новиот мудрец со еден мозок“ можеше да се толкува како научник, религиозен водач или некоја иднина што допрва треба да дојде. Денес, кога милиони луѓе секојдневно разговараат со исти огромни модели што располагаат со количина знаење незамислива за еден човек, метафората одеднаш изгледа поинаку.
