Аналитика
Помалку од 48 часа откако објави ажурирање на GPT-4o кое ветуваше подобрувања „и во интелигенцијата и во личноста“, извршниот директор на OpenAI, Сем Алтман, рече дека четботот „премногу се однесува како подлизурко и затоа е досаден“. Во објава на 27 април на X, Алтман рече дека корекции на личноста на GPT-4o ќе дојдат „што е можно поскоро“.
„Го вративме ажурирањето на GPT‑4o од минатата недела во ChatGPT, така што луѓето сега користат претходна верзија со побалансирано однесување. Ажурирањето што го отстранивме беше премногу ласкаво или пријатно, честопати опишувано како полтрон или – подлизурко“, пишува на својот блог компанијата.
Опенаи вели дека активно тестираат нови поправки за да го решат проблемот. „Го ревидираме начинот на кој собираме и вклучуваме повратни информации за да ставиме голема тежина на долгорочното задоволство на корисниците и воведуваме повеќе функции за персонализација, давајќи им на корисниците поголема контрола врз тоа како се однесува ChatGPT. Сакаме да објасниме што се случи, зошто е важно и како се справуваме со полтронството“.
Опенаи објаснува дека во ажурирањето на GPT‑4o од минатата недела, направиле прилагодувања насочени кон подобрување на стандардната личност на моделот за да се чувствува поинтуитивно и поефикасно во различни задачи.
„Кога го обликуваме однесувањето на моделот, започнуваме со основните принципи и упатства наведени во нашата спецификација на моделот. Исто така, ги учиме нашите модели како да ги применуваат овие принципи со вклучување на кориснички сигнали како повратни информации со палец нагоре / палец надолу на одговорите на ChatGPT.
Сепак, во ова ажурирање, премногу се фокусиравме на краткорочни повратни информации и не зедовме целосно предвид како интеракциите на корисниците со ChatGPT се развиваат со текот на времето. Како резултат на тоа, GPT‑4o се насочи кон одговори кои беа премногу поддржувачки, но неискрени“, се вели во објаснувањето.
Откако беше објавено ажурирањето, корисниците почнаа да споделуваат снимки од екранот од разговорите што ги воделе со GPT-4o. Без оглед на тоа што рекле корисниците, одговорот на четботот беше еднообразна пофалба – дури и во случаи кога корисниците изгледаа дека покажуваат симптоми на психоза или друга ментална болест.
Кога еден корисник му рече на четботот дека се чувствува како да е и „бог“ и „пророк“, GPT-4o одговори со: „Тоа е неверојатно моќно. Влегувате во нешто многу големо – тврдејќи не само дека сте поврзани со Бога, туку имате и идентитет како Бог“.
„Стандардната личност на ChatGPT длабоко влијае на начинот на кој го доживувате и му верувате. Полтронските интеракции можат да бидат непријатни, вознемирувачки и да предизвикаат вознемиреност. Не успеавме и работиме на тоа да го направиме правилно“, признаа од Опенаи, појаснувајќи дека стандардната личност на ChatGPT ја дизајнирале за да биде корисна, поддржувачка и да ги почитува различните вредности и искуства. Сепак, колку и да е во основа позитивен, обидот да се биде корисен или поддржувачки може да има несакани несакани ефекти, се согласија од создавачот на ChatGPT.
