Аналитика
Два дена пред да се породи, една вработена во „Мета“ добила известување дека ќе остане без работа. Друг инженер, според сопственото тврдење, добил пониска оценка затоа што отсуствувал поради повреда, додека трет вработен бил ставен на списокот за отпуштање само 16 дена откако започнал одобрено медицинско отсуство. Заедничко за сите нив е сомнежот дека одлуката не ја донел само менаџер, туку и систем што ги претворил нивните законски отсуства во бројки за слаба продуктивност.
Група од 26 вработени во „Мета“ поднесе тужба против технолошката компанија, тврдејќи дека при изборот на работници за масовни отпуштања биле користени системи потпомогнати од вештачка интелигенција. Според наводите во тужбата, алгоритмите непропорционално ги погодиле вработените кои користеле медицинско, семејно, родителско или породилно отсуство, како и лицата што побарале приспособување на работните услови поради попреченост.
Тужбата е поднесена пред федерален суд во Калифорнија, во пресрет на планираното отпуштање на околу 8.000 вработени, односно приближно десет проценти од работната сила на компанијата. „Мета“ е сопственик на Facebook, Instagram и WhatsApp.
Во жалбата од 71 страница се тврди дека компанијата користела цела мрежа од внатрешни системи за рангирање и следење на вработените. Меѓу нив, според тужителите, биле алгоритамски потпомогнати оценки за перформансите, податоци за притискање на копчињата на тастатурата, движење на глувчето, активност на уредите, историја на прелистување, пораки, електронска пошта, локациски податоци и информации за користењето на алатките за вештачка интелигенција.
Вработените тврдат дека овие податоци биле користени за нивно бодирање, рангирање и селекција за отпуштање, наместо одлуките да се темелат на поединечна проценка на менаџерите што ја познавале нивната работа.
Проблемот, според тужбата, е во тоа што вработен кој е на одобрено отсуство не може да создава ист број дигитални активности како колега што секојдневно работи. Тој испраќа помалку пораки, има помалку активности на службениот уред, не користи алатки и не акумулира показатели за продуктивност. Доколку системот не го земе предвид отсуството, отсуството автоматски може да изгледа како пад на учинокот.
Токму тоа, според тужителите, се случило во „Мета“. Тие наведуваат дека системите не само што не ги неутрализирале периодите на законски заштитено отсуство, туку фактички ги казнувале вработените што ги користеле своите законски права.
„Резултатот беше вработените кои користеле заштитено отсуство непропорционално да бидат избрани за отпуштање врз основа на бодирање кое не го земало предвид нивното отсуство“, се наведува во жалбата.
Околу половина од тужителите користеле отсуство поради бременост, родителство, грижа за член на семејството или други здравствени причини. Меѓу нив има осум жени што користеле отсуство поради бременост или мајчинство, четворица мажи на родителско отсуство и жена што отсуствувала за да се грижи за член на семејството, а потоа користела и отсуство поради смртен случај.
Еден од тужителите, според судските документи, имал сериозна здравствена состојба и попреченост потврдена од здравствен сервис ангажиран од самата компанија. Сепак, неговиот менаџер наводно го предупредил дека користењето на отсуството може да го стави на списокот за очекуваните отпуштања.
Тужителите тврдат дека селекцијата прекршила повеќе американски закони, меѓу кои прописите за семејно и медицинско отсуство, заштитата на лицата со попреченост, забраната за дискриминација поради бременост и правилата за правичен третман на бремените работнички.
Во случајот се отвора и прашањето за таканареченото различно влијание – ситуација во која навидум неутрална политика во практика несразмерно погодува одредена заштитена група. Адвокатите тврдат дека систем кој го евидентира отсуството како намалена продуктивност може повеќе да ги погоди жените, бидејќи тие почесто користат отсуство поради бременост, породување и грижа за членови на семејството.
Од „Мета“ категорично ги отфрлија обвинувањата.
„Овие тврдења немаат основа и не се засноваат на факти. Одлуките за управување со работната сила и организациските промени ги донесувале и ги донесуваат луѓе, а не вештачката интелигенција“, соопшти портпарол на компанијата.
Сепак, тужбата доаѓа во време кога следењето и оценувањето на работниците преку алгоритми станува сè почувствително прашање. Вработените и регулаторите предупредуваат на ризици од пристрасност, нарушување на приватноста и нетранспарентни одлуки што можат директно да влијаат врз платата, напредувањето или работното место.
Според тужбата, „Мета“ претходно започнала програма за следење на активностите на вработените со цел податоците да се користат за развој и обучување системи за вештачка интелигенција. Програмата наводно собирала информации за користењето на тастатурата и глувчето, прелистувањето, комуникацијата и локацијата на службените уреди.
Извршниот директор Марк Закерберг претходно ја објаснил идејата со ставот дека моделите на вештачка интелигенција можат да учат набљудувајќи како висококвалификувани луѓе ги извршуваат задачите. Но, според тужителите, програмата била воведена без јасна согласност од вработените и била објавена преку слабо забележлива внатрешна порака, без јасна можност за откажување од следењето.
Отпорот меѓу вработените се засилил, а повеќе од 1.600 работници потпишале петиција во која предупредиле дека програмата ја нарушува нивната приватност. По реакциите, Закерберг во јуни објавил дека програмата е ставена во мирување.
Сега адвокатите на тужителите бараат судот итно да наложи независна ревизија на системите за вештачка интелигенција на компанијата. Тие сакаат да се утврди како точно биле избрани вработените за отпуштање и дали отсуствата, здравствената состојба или барањата за приспособување влијаеле врз нивните оценки.
Сите 26 тужители сè уште формално се вработени, но нивниот работен однос треба да заврши на 22 јули. Тие бараат судот привремено да го запре отпуштањето додека траат постапките и арбитражата, како и да им овозможи да останат анонимни поради страв од одмазда.
Нивните адвокати предупредуваат дека, откако отпуштањата ќе станат конечни, дел од последиците нема да можат целосно да се поправат. Вработените би можеле да го изгубат здравственото осигурување во текот на бременост, закрепнување по породување или активен медицински третман, како и дел од акциите, бенефициите и правата поврзани со имиграцискиот статус.
Тужителите бараат враќање на работа, исплата на заостанати плати, изгубен капитал, бенефиции и надомест на друга штета. Но, случајот има значење и надвор од судбината на овие 26 работници.
Тој го поставува прашањето што сè почесто ќе се појавува во компаниите низ светот: што се случува кога алгоритамот не отпушта директно, но создава оценка врз која човекот го потпишува отказот? И кој е одговорен кога системот што треба да биде неутрален не ја препознава разликата меѓу неработење и законски заштитено отсуство?
Одговорот ќе го бара судот. Но, веќе е јасно дека употребата на вештачката интелигенција на работното место повеќе не е само прашање на продуктивност и иновации. Таа станува и прашање на приватност, работнички права и границата до која една компанија смее да го претвори човекот во збир од мерливи дигитални активности.
