Аналитика
Потрошувачката на електрична енергија на системите за вештачка интелигенција вртоглаво порасна. Новиот извештај откри дека годишното количество електрична енергија неопходна за ChatGPT, еден од најголемите таканаречени јазични модели, може да наплаќа 95% од електричните возила во Соединетите држави или да ги напојува Финска или Белгија за цел ден, пишува Балкан Енерџи Нуз.
Од неговото лансирање пред речиси две години, ChatGPT на OpenAI брзо го привлече вниманието на јавноста, собирајќи околу 100 милиони месечни корисници за само два месеци. Сепак, иако неговите способности, од изготвување есеи до решавање сложени математички задачи и пишување код, се импресивни, тие доаѓаат со големи трошоци за енергија, напиша BestBrokers во новиот извештај.
Секое барање за ChatGPT троши околу 2,9 Wh електрична енергија, речиси десет пати повеќе од стандардното пребарување на Google.
Поднесувањето барање до модел со вештачка интелигенција како ChatGPT е познато како заклучок. Потрошувачката на енергија зависи од многу променливи како што се должината на барањето, бројот на корисници и колку ефикасно работи моделот.
Тимот на фирмата грубо ја пресмета вкупната годишна потрошувачка на електрична енергија само за генерирање одговори. ChatGPT троши 226,8 GWh секоја година за да обработи 78 милијарди барања. Доволно е целосно да се наполнат околу 3,13 милиони електрични возила, секое со просечен капацитет на батеријата од 72,4 kWh, според презентацијата. Тоа би било 95% од електричните автомобили на патиштата во САД на крајот на 2023 година.
Со други зборови, толку многу електрична енергија, за справување со барањата, може да напојува 21.602 домови во земјата за цела година или 0,02% од вкупниот број. Цената на годишната потрошувачка изнесува 29,7 милиони УСД или нешто под 0,04 центи по барање.
Секое барање за ChatGPT троши околу 2,9 Wh електрична енергија, речиси десет пати повеќе од стандардното пребарување на Google
Енергијата што ChatGPT ја користи за една година за да одговори на прашања може да полни 47,9 милиони iPhone 15 секој ден во текот на цела година, секој со капацитет на батерија од 13 Wh.
Според пресметките, споменатиот голем јазичен модел користи 621,4 MWh електрична енергија секој ден за да се справи со преку 200 милиони кориснички барања. Да се стави во перспектива, троши повеќе од 21 илјада пати повеќе од дневната енергија од просечно американско домаќинство.
Годишната потрошувачка на енергија на ChatGPT за ракување со известувања може да ја напојува цела Финска или Белгија за еден ден или да ја одржи Ирска да работи повеќе од два дена, велат авторите.
Обуката за големи јазични модели или LLM е исто така многу енергетски интензивен процес. Моделот со вештачка интелигенција учи со анализа на големи количини на податоци и примери. Тоа може да потрае од неколку минути до неколку месеци. За време на обуката, процесорите и графичките процесори, електронските чипови дизајнирани да обработуваат големи збирки на податоци, работат без престан, трошат значителни количини на енергија.
На пример, обуката на GPT-3 на OpenAI, со неговите 175 милијарди параметри, траеше околу 34 дена и користеше приближно 1,3 GWh електрична енергија.
Но, како што моделите се развиваат и стануваат посложени, нивната побарувачка за енергија исто така се зголемува. Тренингот на моделот GPT-4, со над трилион параметри, потроши околу 62,3 GWh електрична енергија во текот на 100 дена.
