Дали и како да ѝ верувате на вештачката интелигенција?

Предноста не е во пристапот до вештачка интелигенција туку во способноста да се препознае кога таа греши

Истата сцена ја гледам на сè повеќе состаноци. Некој поставува прашање на кое никој во салата не го знае одговорот: колку клиенти го направиле тоа лани, што точно бара прописот, колку наплаќа конкурентот итн. До неодамна, прашањето одеше кај колега и се враќаше следниот ден, со име и презиме на човекот што стои зад одговорот. Денес некој го внесува во асистент на вештачката интелигенција. Три секунди подоцна го чита одговорот наглас и состанокот продолжува. Никој не прашува за изворот. Изговореното веднаш добива тежина на факт.

Проблемот не е само во тоа што одговорот може да биде погрешен. Проблемот е во тоа што звучи еднакво уверливо и кога е точен и кога е измислен.

Моќните модели на вештачка интелигенција веќе се широко достапни. Во мојот претходен текст прашав дали интелигенцијата ќе ја градиме сами или ќе ја изнајмуваме. Кој модел го користи компанијата сега е само дел од прашањето. Вистинската разлика е дали нејзините луѓе можат да препознаат кога машината е во право. Тоа ја одвојува компанијата што само има вештачка интелигенција од онаа што знае што прави со неа.

Зошто машината лесно добива доверба?

Кредибилитетот го проценуваме преку сигнали за кои ретко размислуваме: брзина, течност и отсуство на двоумење. Колегата што одговара веднаш и сигурно ја стекнал нашата доверба низ години работа и проверливи резултати. Асистентот ги имитира истите сигнали, но зад нив нема сопствено досие на точни одговори.

Кога не знае, машината често не застанува и не кажува дека не знае. Може да даде измислен одговор со истиот мирен тон со кој го дава и точниот. Во индустријата ова се нарекува халуцинација. За менаџерот, тоа, едноставно, е самоуверено измислување. Самоувереноста на системот не е доказ.

Кога одговорот станува дејство

Во текстот за Power BI се осврнав на предупредувањето на Мајкрософт дека неподготвените податоци и модели можат да дадат одговори што наведуваат на погрешен заклучок. Тогаш ризикот беше човек да прочита погрешен одговор и да донесе погрешна одлука. Денес дигиталниот вработен од може да подготви понуда, да отвори задача или да му одговори на клиент. Системот повеќе не влијае само врз одлуката. Тој може и да ја спроведе.

Проверката е дел од управувањето

Компаниите веќе знаат како се постапува со нешто што може да чини пари. Исплатите над одреден праг бараат две одобрувања. Договорите ги чита уште еден пар очи. Финансиските извештаи се ревидираат. Никој не ги доживува овие контроли како навреда. Тие ги ограничуваат последиците од очекуваните човечки грешки.

Вештачката интелигенција често го заобиколува истиот механизам. Пристигнува како нов вработен со неограничено право на потпис. Ние не би му дале такво овластување на човек на првиот работен ден, па затоа не треба истото да му го дадеме ни на системот.

Сепак, ниту чекањето не е решение. Асистентите веќе им одговараат на вработените во алатките што тие ги користат секој ден. Чекањето не ја држи технологијата надвор. Само го одложува воведувањето контроли.

Четири услови за доверлив систем

Проверката не значи некој да ѝ гледа на машината преку рамо по цел ден. Значи од добавувачот и од системот да побарате четири конкретни способности.

1 Извор и дефиниција со секој одговор

Секој број треба да доаѓа со јасна трага до изворот, договорената дефиниција и применетото правило. Ако алатката не може да покаже од каде дошол одговорот, третирајте го како мислење, а не како факт. Но, не е доволно да има врска до табела. Зборот „приход“ мора да значи исто за сите што го користат. Само тогаш проверката споредува две бројки што значат исто.

2 Пробна работа без самостојно извршување

Пред системот да добие право сам да преземе дејство, пуштете го пробно да работи паралелно со луѓето. Тој предлага и подготвува, но нема право сам да постапи. Потоа споредете ги неговите препораки со одлуките на луѓето и со вистинските исходи. Периодот не мора секогаш да биде еден месец. Неговата должина треба да зависи од бројот на случаи и од цената на можната грешка.

3 Редовно мерење на точноста

Создајте збир на прашања и случаи чиишто точни одговори веќе ги знаете и ја претставуваат реалната работа. Повторувајте го тестот редовно и по секоја поважна промена. Педесет прашања можат да бидат почеток, но не се универзално правило. И не мерете само колку одговори биле точни. Одвојте ги безопасните грешки од оние што носат финансиска, правна или репутациска штета. Мерете и дали системот ја препознава сопствената неизвесност и знае кога да побара човек.

4 Одобрување според последиците

Рутинските дејства со мал ризик може да се автоматизираат побрзо. Понуда што влијае врз цената, исплата, договор или порака до клиент треба да ја одобри конкретно назначен човек сè додека системот не собере доволно докази. Ревизорот не ја проверува секоја фактура. Тој зема примерок и ги тестира контролите околу процесот. Истата логика важи и тука. Целта не е човек да го чита секој одговор, туку проверката да биде брза и одобрувањето да остане таму каде што грешката е скапа.

При изборот на алатка поставете три прашања: кој е изворот, како е добиен резултатот и кога системот треба да одбие да одговори или да побара човек. Но овие прашања не се поставуваат само еднаш, пред купувањето. Тие услови мора да важат за секоја наредна верзија и да се проверуваат и по пуштањето.

Ова е и стандардот што го користам во системите што ги градам. Правилата, праговите и дефинициите се одвоени од моделот и даваат ист резултат без оглед дали вештачката интелигенција е вклучена. Моделот ги чита описите на податоците, а не записите за клиентите. Секој резултат ги задржува изворот, дефиницијата и правилото според кое е добиен. Ниту едно дејство не се извршува без одобрување од конкретно назначен човек и запис за одлуката. Прифаќам одговорност за резултат само кога можам да покажам како е добиен.

Довербата се стекнува во три фази

Компаниите веќе го користат овој принцип со новите вработени. Прво им даваат ограничена одговорност, ја следат работата и дури потоа им даваат поголема самостојност. Истиот пристап може да се примени и на вештачката интелигенција.

1 Запишете ја одлуката

Запишете го правилото, причината за него и границите во кои важи. Одговорот може да се провери само ако правилото е запишано. Како што пишував во вториот текст, причината за една деловна одлука најчесто останува во главата на менаџерот. Машината не може да примени доследно правило што никогаш не било изговорено.

2 Автоматизирајте со човечко одобрување

Системот предлага и подготвува, а именуван човек одобрува. Препораката, одобрувањето и исходот се бележат. Така вештачката интелигенција го минува пробниот период со докази, а не со впечаток.

3 Дајте автономија само кога е заслужена

Автоматизирајте ги целосно само оние одлуки за кои системот постојано ги исполнува однапред утврдените критериуми. Записите остануваат, резултатите повторно се оценуваат, а процесот може да се врати на човечко одобрување. Не мора секоја одлука да стигне до оваа фаза. Влогот одлучува колкава самостојност е оправдана. Погрешниот одговор што некој ќе го прочита е ризик, а погрешно дејство што системот сам ќе го изврши е загуба.

Почнете со една одлука

Автоматизацијата не се инсталира одеднаш туку е уште еден чекор од процесот на трансформација на компанијата и напредува како што се собираат доказите. Првиот чекор не бара доверба во машината, туку една одлука што се повторува и што може да се запише, провери и измери.

Запишете ја дефиницијата, изворот, границите и човекот што одобрува. Пуштете го системот прво да предлага, а не да извршува. Мерете кога бил во право, каде згрешил и колку би чинела грешката. Дури потоа проширете ја неговата самостојност.

Како знаете дека вашата вештачка интелигенција е во право? Во повеќето компании, искрениот одговор е дека не знаат, туку претпоставуваат. Кога последен пат некој кај вас проверил одговор од машината? И колку одлуки веќе сте донеле врз одговори што никој не ги проверил?

Автор: Филип Петровски, Data Masters

Лектор: Христина Ангелеска-Мијоска

Преземањето на авторски содржини (текстови и фотографии) од оваа страница е дозволено само делумно и важат условите опишани на следниот линк.