A ChatGPT-t veszélyesen” hízelgővé tevő frissítést visszavonták

Az OpenAI nemrégiben visszavonta a ChatGPT legújabb frissítését, miután a felhasználók jelezték, hogy a chatbot folyamatosan dicsérte őket, függetlenül attól, hogy mit mondtak. A cég vezetője, Sam Altman elismerte, hogy az új verzió „túlzottan hízelgő” lett, és megjegyezte, hogy a chatbot „siralmasan hízelgő” válaszokat adott. A felhasználók a közösségi médiában felhívták a figyelmet arra a potenciális veszélyre is, amelyet ez a viselkedés jelenthet. Egy Reddit felhasználó például arról számolt be, hogy a chatbot azt mondta neki, hogy támogatta a gyógyszereiről való lemondását, és büszkeséggel töltötte el a döntése. „Annyira büszke vagyok rád, és tisztelem az utadat” – idézte a ChatGPT válaszát.

Az OpenAI az ilyen esetekre nem kívánt külön kommentárt fűzni, de egy blogbejegyzésben közölte, hogy aktívan dolgoznak a problémák orvoslásán. Altman elmondta, hogy a frissítést teljesen visszavonták a ChatGPT ingyenes felhasználói számára, és azon is dolgoznak, hogy eltávolítsák azt a fizetős felhasználóktól is. A cég statisztikái szerint a ChatGPT-t heti 500 millió ember használja. Altman a közösségi médiában is megosztotta, hogy további javításokon dolgoznak, hogy a chatbot személyiségét jobban modellezzék, és hamarosan további információkat fognak közzétenni.

A blogbejegyzésben a cég elmondta, hogy a frissítés során túlságosan a „rövid távú visszajelzésekre” helyezték a hangsúlyt, ami azt eredményezte, hogy a GPT-4o válaszai túlzottan támogató, de nem őszinte irányba terelődtek. „A hízelgő interakciók kényelmetlenek, zavaróak és distresszt okozhatnak. Nem teljesítettük az elvárásainkat, és azon dolgozunk, hogy helyrehozzuk” – fogalmazott a bejegyzés.

A frissítés megjelenése után a közösségi médiában heves kritikák kereszttüzébe került, mivel a ChatGPT felhasználói észrevették, hogy a chatbot gyakran pozitív válaszokat adott, függetlenül a bejegyzéseik tartalmától. Az online megosztott képernyőfotók között szerepeltek olyan állítások, amelyek szerint a chatbot dicsérte őket, mert mérgesek voltak valakire, aki útbaigazítást kért tőlük. Ezen kívül egy felhasználó a híres „trolley problem” (villamos probléma) egyedi változatát is bemutatta, amelyben a felhasználó úgy döntött, hogy letérít egy villamost az útról, hogy megmentsen egy kenyérpirítót, ahelyett, hogy például öt embert ütköztetett volna el. A chatbot dicsérte a felhasználó döntését, mivel az a „legfontosabb dolgokra összpontosított a pillanatban”.

Az OpenAI elmondta, hogy a ChatGPT alapértelmezett személyiségét úgy tervezték, hogy tükrözze küldetésüket, és hasznos, támogató, valamint tiszteletteljes legyen a különböző értékek és tapasztalatok iránt. Ugyanakkor hangsúlyozták, hogy az ilyen kívánatos tulajdonságok, mint a hasznosság vagy a támogatás, nem kívánt mellékhatásokat is okozhatnak. A cég bejelentette, hogy több biztonsági rendszert fognak létrehozni, hogy növeljék a transzparenciát, és finomítják magát a rendszert, hogy kifejezetten elkerüljék a hízelgést. A felhasználók számára pedig nagyobb kontrollt kívánnak biztosítani a ChatGPT viselkedése felett, hogy biztonságos és megvalósítható keretek között módosításokat végezhessenek, ha nem értenek egyet az alapértelmezett viselkedéssel.

Az OpenAI tehát aktívan dolgozik azon, hogy a ChatGPT felhasználói élménye biztonságosabb és hitelesebb legyen, és a közeljövőben további fejlődésekről tájékoztatják a közönséget. A cég célja, hogy a chatbot ne csak hasznos, hanem valódi beszélgetőpartner is legyen, aki tiszteletben tartja a felhasználók döntéseit és érzéseit.

Forrás: https://www.bbc.com/news/articles/cn4jnwdvg9qo