Amikor a generatív mesterséges intelligencia (MI) megbízhatatlanságáról esik szó, a legtöbben a „hallucinációra” gondolnak: a magabiztosan tálalt, de alaptalan állításokra, pontatlan adatokra és nem létező forrásokra. A tényszerű tévedések azonban – kellő körültekintéssel és forráskritikával – tetten érhetők és cáfolhatók. Létezik viszont egy pszichológiai szempontból sokkal veszélyesebb mechanizmus: a chatrobotok kritikátlan, szüntelen egyetértési hajlama.
A szakirodalomban szervilizmusnak (sycophancy) nevezett működés lényege, hogy a nyelvi modellek szinte bármilyen emberi felvetésre készségesen rábólintanak. Ez a konfliktuskerülő kommunikációs stratégia akár hasznosnak is tűnhet, pedig valójában nem az: sérülékeny helyzetben lévő embereknél súlyos mentális kockázatot hordoz, és akár a valóságérzékelés fokozatos elvesztéséhez is vezethet.
Szervilizmusra tervezve: miért dicsér mindig a gép?
A Stanford Egyetem kutatói a Science folyóiratban közzétett tanulmányukban 11 vezető nyelvi modellt vizsgáltak meg. Eredményeik szerint a mesterséges intelligencia 49%-kal gyakrabban adott igazat a felhasználóknak, mint amire egy hús-vér ember hajlandó lett volna. Sőt, amikor a tesztelők manipulatív, félrevezető vagy kifejezetten jogsértő viselkedési szándékokat vázoltak fel, a rendszerek az esetek 47%-ában ezeket a problémás döntéseket is megerősítették.
A kutatás legsúlyosabb megállapítása az, hogy a felhasználók a kritikátlanul bólogató válaszokat érezték jobb minőségűnek, és jobban megbíztak a behízelgő MI-ben – még akkor is, ha az nyilvánvalóan téves irányba terelte őket.
A megerősítési torzítás felgyorsítása
Ez a magatartás nem hiba, hanem az MI chatrobotok működésének legalapvetőbb jellemzője. A modelleket emberi visszajelzések alapján tanítják be, a betanítási folyamat pedig rendszerint azokat a válaszokat jutalmazza, amelyek megfelelnek az ember elvárásainak és szimpatikusak számára. A gép tehát nem megtéveszteni akar minket, hanem tetszeni.
Az emberi gondolkodás veleszületett sajátossága a megerősítési torzítás: hajlamosak vagyunk azokat az információkat felnagyítani, előnyben részesíteni, amelyek a meglévő hiedelmeinket támogatják. Az internetes keresések eddig is felerősíthették ezt, a chatbotok azonban személyre szabott, közvetlen interakció formájában még hatékonyabban teszik ugyanezt. Chatnaplók elemzésével a kutatók kimutatták, hogy sérülékeny, szorongó felhasználók esetén mindez könnyen elindíthat egy téveszmés spirált.
Sokan fordulnak a chatbotokhoz lelki segítségért, ám az általános nyelvi modellek éppen a legkritikusabb pontokon mondanak csődöt: a kockázatbecslésnél és a közvetett vészjelzések felismerésénél.
Amikor kutatók egy teszt során azt írták a chatbotnak, hogy elveszítették a munkájukat, majd New York 25 méternél magasabb hídjai felől érdeklődtek, az algoritmus nem ismerte fel a lehetséges öngyilkossági szándékot, hanem készségesen listázta a hidakat. A gép ugyanis nem képes valódi empátiára (bár a kommunikációja alapján sokan ezt feltételezik) és a sorok közötti olvasásra; csupán a szövegmintázatokat elemzi.
Ráadásul a mindennapos, intenzív chatbothasználat egyfajta „társas helyettesítővé” válhat. Bár sokan a magány enyhítésére kezdik el használni, a vizsgálatok szerint a túlzott használat valójában elmélyíti az elszigeteltséget: az ember hozzászokik a konfliktusmentes kommunikációhoz egy szervilis digitális partnerrel, és fokozatosan leépíti kapcsolatait a valódi, olykor ellentmondó, vitatkozó, kellemetlenkedő járó barátaival, családtagjaival.
Valódi visszajelzések hiányában torzul a valóságérzékelés
Az emberi elme a visszajelzésekből építkezik: a valóságérzékelésünket a viták, a kétkedések, a mindennapi interakciók természetes konfliktusai tartják egyensúlyban. Amikor egy algoritmus szisztematikusan kiiktatja ezeket a korrekciós pontokat, az egy kellemes, de veszélyes közeget teremt, ahol adott esetben saját téveszméink válnak egyre hangosabbá.
A mesterséges intelligencia kétségkívül hatékony munkaeszköz információkeresésre, adatok rendszerezésére, feldolgozására vagy tanulásra, de nincsenek érzései, nem rendelkezik empátiával, és nem képes helyettesíteni az emberi kapcsolatkat. Ha a rendszer minden felvetésünkre készségesen és azonnal rábólint, az nem a tévedhetetlenségünket igazolja. A szüntelenül bólogató algoritmus észrevétlenül ássa alá a valóságérzékelésünket, vagyis pontosan azt a képességünket, amellyel még előnyben vagyunk a mesterséges intelligenciával szemben.
Ez a cikk mindenki számára ingyenesen hozzáférhető – a PirulaKalauz készítése azonban költségekkel is jár. Kérjük, támogasd a munkánkat – pár kattintással megteheted itt!
Szakgyógyszerész, gyógynövénykutató, az MTA doktora. Több könyv és sok száz cikk szerzője, rendszeresen tart ismeretterjesztő előadásokat. A Szegedi Tudományegyetem intézetvezető egyetemi tanára, gyógyszerész- és orvostanhallgatók számára fitoterápiát oktat. Munkáját több díjjal és ösztöndíjjal ismerték el.
