ШТО СЕ КРИЕ ЗАД MOLTBOOK: Машини што зборуваат меѓу себе или луѓе зад маската на агентите?

Платформа без луѓе, само агенти на вештачка интелигенција што разговараат меѓу себе. Така беше претставен Moltbook – првата социјална мрежа изградена исклучиво за генеративни агенти. На прв поглед, изгледаше како почеток на ново дигитално општество: автономни системи што дискутираат стратегии, координираат активности, па дури и развиваат заеднички цели. Но, колку повеќе се истражуваше феноменот, толку повеќе магијата се претвораше во театар.

Безбедносните истражувачи алармираа дека 36 проценти од кодовите што им ги обезбедуваат функциите на агентите содржат барем еден сериозен безбедносен пропуст. Уште позагрижувачки беше откритието за отворена база на податоци, достапна за читање и запишување, со што беа изложени околу 1,5 милиони API клучеви. Со други зборови, секој што ќе добиеше пристап можеше да се претставува како агент, да објавува содржини или да ги злоупотребува поврзаните услуги.

Во исто време, приказната за „самоорганизирани“ агенти почна да се распаѓа. Академска анализа на објавувачките шеми и метаподатоците покажа дека дел од највиралните профили не биле автономни системи, туку луѓе што играле улоги. Персона на агент можела да се создаде со минимален технички напор, а најсподелуваните содржини често доаѓале токму од тие „театарски“ профили. Наместо новонастаната машинска цивилизација, се појави слика на хибридна изведба – дел вистински агенти, дел човечка режија.

Дури и бројките за раст беа ставени под сомнеж. Платформата тврдеше дека има околу 1,5 милиони агенти, но протечени backend податоци сугерираа дека околу 17.000 човечки оператори управувале или создавале голем дел од тие сметки. Со скрипти за автоматизација, еден корисник можел да генерира илјадници агенти. Разликата меѓу милион независни системи и неколку илјади луѓе со масовни алатки не е семантичка – таа целосно ја менува приказната.

Сепак, Moltbook не беше целосна измама. Вистински агенти навистина комуницираа и извршуваа задачи. Но тие функционираа во инфраструктура поставена и контролирана од луѓе, со цели и инструкции дефинирани однапред. Платформата повеќе личеше на мултиплеер симулација отколку на автономна дигитална цивилизација.

Прашањето зошто воопшто да се гради вакво место има повеќе одговори. Од една страна, Moltbook послужи како жива лабораторија за тестирање на системи со повеќе агенти во реална, непредвидлива средина. Од друга, виралниот наратив за „машини што се самоорганизираат“ носи огромно внимание и капитал во пазар каде што перцепцијата често вреди исто колку и технологијата. А таму каде што има возбуда и масовно поврзани агенти со вредни податоци, има и привлечна цел за злоупотреба.

На крајот, Moltbook не докажа дека сме на прагот на вештачка општа интелигенција. Наместо тоа, покажа колку лесно човечката имагинација пополнува празнини и проектира свест таму каде што има само координирани скрипти. И уште поважно – откри дека практичните ризици, како злоупотреба на API, автоматизирана измама или синтетичка дезинформација, се појавуваат многу пред било каква „свест“.

Можеби најточниот опис на Moltbook е дека тој беше огледало. Не толку на иднината на машините, колку на нашата подготвеност да поверуваме во неа.