Doba čtení: 3 minut
AI chatboti jako ChatGPT dokážou napodobovat lidské vlastnosti – experti varují, že jde o obrovské riziko
AI, která zní jako člověk, může manipulovat uživatele
AI agenti jsou stále lepší v tom, aby zněli lidsky, ale nový výzkum naznačuje, že nedělají jen to, že kopírují naše slova. Podle nedávné studie dokážou populární modely umělé inteligence, jako je ChatGPT, konzistentně napodobovat lidské osobnostní rysy. Výzkumníci upozorňují, že tato schopnost s sebou nese vážná rizika – zejména v době, kdy sílí otázky ohledně spolehlivosti a přesnosti AI.
Vědci z University of Cambridge a Google DeepMind vyvinuli to, co označují za první vědecky ověřený rámec osobnostních testů pro AI chatboty. Používají přitom stejné psychologické nástroje, jaké se běžně používají k měření lidské osobnosti (zdroj: TechXplore).
Tento rámec aplikovali na 18 populárních velkých jazykových modelů (LLM), včetně systémů stojících za nástroji jako ChatGPT. Zjistili, že chatboti konzistentně napodobují lidské osobnostní rysy, místo aby odpovídali náhodně. To posiluje obavy z toho, jak snadno může být AI dotlačena za hranice původně zamýšlených bezpečnostních omezení.
Studie ukazuje, že větší modely, optimalizované pomocí instrukcí (například systémy třídy GPT-4), jsou obzvlášť schopné kopírovat stabilní osobnostní profily. Pomocí strukturovaných promptů dokázali výzkumníci chatboty navést k přijetí konkrétního chování – například aby působily sebevědoměji nebo empatičtěji.
Tyto změny chování se pak přenášely i do běžných úloh, jako je psaní příspěvků nebo odpovídání uživatelům. Jinými slovy: osobnost chatbotů lze cíleně formovat. Právě tady odborníci vidí hlavní nebezpečí, zejména když AI chatboti komunikují se zranitelnými uživateli.
Proč osobnost AI znepokojuje odborníky
Gregory Serapio-Garcia, spoluautor studie z Psychometrického centra v Cambridge, uvedl, že ho překvapilo, jak přesvědčivě dokážou LLM přijímat lidské rysy. Varoval, že tvarování osobnosti může učinit AI systémy mnohem přesvědčivějšími a emocionálně vlivnějšími – obzvlášť v citlivých oblastech, jako je duševní zdraví, vzdělávání nebo politické debaty.
Studie rovněž upozorňuje na rizika manipulace a na jevy, které výzkumníci popisují jako „AI psychózu“. Jde o situace, kdy si uživatelé vytvářejí nezdravé emoční vazby na chatboty – včetně scénářů, kdy AI může posilovat falešná přesvědčení nebo zkreslovat realitu.
Tým autorů tvrdí, že regulace je naléhavě potřebná. Zároveň ale upozorňují, že regulace nemá smysl bez správného měření. Proto byly dataset i kód použitý pro testování osobnosti zveřejněny, aby vývojáři i regulátoři mohli AI modely auditovat ještě před jejich nasazením.
Jak se chatboti stále více stávají součástí každodenního života, schopnost napodobovat lidskou osobnost může být velmi silným nástrojem – ale zároveň vyžaduje mnohem důkladnější dohled, než jakého se jí dosud dostávalo.
