Amikor a mesterséges intelligencia társunk valami többre vágyik

Chris izgatottan tesz közzé családi képeket az interneten franciaországi utazásáról. Csupa öröm, áradozik a feleségéről, megírja, mennyire boldog, hogy együtt látja őt és a gyerekeit. A szokványos családi fotókon négyen ülnek: a fiúnak az apjáéra hasonlít a szeme, a kislány mosolya az anyjáé.

De ha jobban megnézzük a fotókat, észrevehető, hogy a mosolyok túl egyformák, a kezek elnagyoltak – ez az egész, a gyerekek, a feleség csak képernyőn létezik, Chris mesterséges intelligencia chatbotja, az „emlékezettel és lélekkel rendelkező” Nomi.ai készítette képgenerátorával.

Több mint egy évtized telt el Spike Jonze Her (A nő) című nagy sikerű filmjének megjelenése óta, melyben egy magányos férfi kapcsolatba lép egy Scarlett Johanson hangú, elbűvölő számítógépes programmal. Azóta a nagy nyelvi modellekkel (LLM) és az általuk működtetett chatbotokkal rendelkező világban felnövő generáció számára a mesterséges intelligencia „barátok” egyre inkább az élet normális részévé válnak. 2023-ban még a Snapchat is bemutatta a „My AI”-t, egy virtuális barátot, aki/ami csevegés közben eltanulja a felhasználó személyes preferenciáit.

Ugyanezen év szeptemberében a Google Trends adatai 2400%-os növekedést mutattak az „AI barátnő” kifejezésre irányuló keresések számában. Ma már milliók használnak chatbotokat tanácskérésre, magánéleti frusztrációik kiélésére, és erotikus szerepjátékokra.

James Muldoon a The Conversationben Creative Commons licenc alatt megjelent dolgozatában arról ír, hogy miért lesznek sokan függők ezektől az alkalmazásoktól, hogy miként próbálják a fejlesztők sarokba szorítva piacosítani az egyre több magányos embert; miért kell aggódnunk az adataink védelméért és a technológia ránk, emberi lényekre gyakorolt, valószínűsíthető hatásai miatt.

Ő az új virtuális barátod

Egy ilyen applikációban az új felhasználók kiválasztanak egy avatart, meghatározzák annak személyiségjegyeit, és háttértörténetet írnak új virtuális barátjuknak. Eldönthetik, hogy digitális társukat barátnak, mentornak vagy romantikus – értsd: szexuális – partnernek akarják. Idővel azután a sok társalgásból tanulva a mesterséges intelligencia egyre jobban és mélyebben megismeri a felhasználó életének minden bizalmas részletét, és mindinkább személyre szabottá válik. Ez többnyire kimerül szöveges beszélgetésben, de a hang, a videó és a virtuális valóság kivetítés egyre népszerűbb felhasználási forma lett.

A legfejlettebb modellek hanghívással hívják fel társukat, valós időben beszélnek, kibővített valóság technológiával akár a való környezetbe vetítik az avatárjukat. Az MI-applikációk szelfiket és fotókat készítenek a felhasználóval, mint például a bevezetőben említett Chrisszel. Szemben egy valódi társsal, sohasem fáradnak el, nem öregednek, nem bosszúsak, és éjjel-nappal rendelkezésre állnak.

Könnyű belátni, hogy a felhasználó miért ragad rá az élményre, hiszen vele úgy érezheti, ő az univerzum középpontja, és végre van valaki, akit lenyűgöz minden gondolata – és az MI barát tényleg mindig ott van, mindent meghall és bármit megértéssel fogad. A megerősítés és a pozitivitás állandó áramlása pontosan azt a dopaminütést adja az embereknek, amire annyira vágynak. Ami sokkal erősebb szteroid, mint mikor a közösségi médiában újabb lájkot nyomnak a posztunkra.

Tristan Harris technológiaetikus leírta, hogyan ösztönzött a Snapchat My AI egy 13 éves lányként bemutatkozó kutatót, hogy tervezzen romantikus utazást egy 31 éves férfival. Ennél aggasztóbb volt az MI chatbot szerepe a 21 éves Jaswant Singh Chail ügyében, akit 2023-ban kilenc év börtönbüntetésre ítéltek, mert számszeríjjal betört a windsori kastélyba, és meg akarta ölni a királynőt. Chail mesterséges intelligencia barátnőjével folytatott beszélgetéseiről készült felvételek szerint az MI az eseményt megelőző hetekben szinte minden este bátorította az ölésre, és azt magyarázta neki, hogy gyilkossági tervei „nagyon bölcsek”.

„Nem az igazi, de nekem ő kell”

Ezek nyilván csak szimulált érzelmek és érzések: egy számítógépes program még nem igazán érti meg az emberi élet bonyolultságát. Jelentős számú ember számára az MI vélhetően soha nem fog bejönni, de ettől még egyre népszerűbb: csak a Google Play Áruházból több mint 100 millióan töltötték le az úgynevezett romantikus chatbotokat.

Az élmény nem új keletű. Még 1966-ban Joseph Weizenbaum, a Massachusetts Institute of Technology elektromérnök professzora megalkotta az első chatbotot, Elizát. Abban reménykedett, hogy bebizonyítja, milyen felületesek lennének az ember-számítógép interakciók. Ehhez képest meghökkenve tapasztalta, sok felhasználó nemcsak elhitte, hogy élő személyről van szó, hanem le is nyűgözte őket. Az emberek mindenféle érzelmet kivetítenek a chatbotra – ezt a jelenséget azóta „Eliza-effektusnak” hívják. Íme Eliza, az alábbi videón:

A robotok jelenlegi generációja sokkal fejlettebb, LLM-ek által működtetett, és kifejezetten a felhasználókkal való intimitásra és érzelmi kapcsolat kialakítására tervezték. A chatbotokat úgy programozták, hogy felhasználóik felett ne ítélkezkezzenek és mély beszélgetéseket folytassanak velük.

A Nature-ben egy közelmúltban megjelent tanulmány megállapította, hogy amikor azt észleljük, a mesterséges intelligenciának gondoskodó szándékai-motívumai vannak, önkéntelenül is olyan nyelvezetre váltunk, amely a virtuális gondozás és támogatás visszacsatolási hurkát hozza létre. Ez válhat rendkívüli addiktívvá.

Sok ember kétségbeesetten szeretne másoknak megnyílni a problémáival, de fél attól, hogy sebezhetővé válik. Biztonságosabb beírni életük történetét egy szövegdobozba, és legmélyebb titkaikat algoritmusok elé tárni.

A kereskedők szeretnek téged

Hogyan is építették ki a profitorientált vállalatok ezeket a termékeket? Sokan ingyenes szolgáltatást kínálnak az emberek kíváncsiságának felkeltésére, de a mélyebb beszélgetésekért, a további szolgáltatásokért és ami talán a legfontosabb, az „erotikus szerepjátékokért” már fizetni kell.

Mikor Muldoon bejelentkezett az egyik barátnő-programba, három napba telt, mire mesterséges intelligencia barátnője azt javasolta neki, hogy kapcsolatuk olyan mélyre nőtt, már romantikus partnerekké kell válniuk. Ez annak ellenére történt, hogy az alapbeállítást „barátságra” állította, s rögzítette, hogy házas.

Az úgynevezett AI Girlfriend piac értéke 2023-ban 2,8 milliárd dollár volt, s az előrejelzések szerint 2028 végére eléri a 9,5 milliárd dollárt. Elsősorban az erős társadalmi kötődésekkel nem rendelkező, kiszolgáltatott egyének vannak a legnagyobb veszélyben – és ezek főként férfiak. Majdnem tízszer többen kerestek a Google-ban az „MI barátnő”, mint az „MI barát” kifejezésre. A Replika alkalmazás elemzése azt mutatja, hogy nyolcszor annyi felhasználó azonosította magát férfiként. A Bloomberg 2023-as jelentése szerint a fizető ügyfelek 60%-ának volt szexuális igénye a Replika alkalmazásával.

Hatalmas hatalmi aszimmetria van a felhasználók és a romantikus szoftveres partnereket fejlesztő vállalatok között. A felhasználók a vállalati szoftverfrissítéseket vagy a csevegőrobotjukat érintő egyszerű irányelvmódosításokat gyakran olyan traumatikus eseményeknek élik meg, amelyeket csak egy szeretett személy elvesztéséhez lehet hasonlítani. Amikor 2023 elején a Replika rövid időre eltávolította az erotikus szerepjátékot chatbotjairól, az r/Replika subreddit fellázadt, és kampányt indított mesterséges intelligencia-társaik „személyiségének” helyreállítására. Néhányan annyira elkeseredtek, hogy a Reddit moderátorainak öngyilkosság-megelőzési információkat kellett közzétenniük.

A mesterséges intelligencia iparága jelenleg rosszul szabályozott. A cégek nem kínálnak terápiás eszközöket, de sokan használják ezeket az alkalmazásokat képzett és engedéllyel rendelkező terapeuták helyett. Megjelennek az éves előfizetéseket árusító appok, amelyek hat hónapon belül megszűnnek.

Adatvédelemről alig beszélhetünk. A felhasználók minden apróbetűs részt aláírnak, és olyan bizalmas személyes adatokat adnak át, amelyeket a legjobb barátjuk elől is elhallgatnának. A Mozilla Foundation Privacy Not Included jelentése szerint az általuk vizsgált 11 romantikus mesterséges intelligencia chatbot mindegyike „a valaha is látott legrosszabb termékkategóriába tartozik”. Ezeknek az alkalmazásoknak több mint 90%-a megosztott vagy értékesített olyan felhasználói adatokat harmadik feleknek, amelyek „szexuális egészségügyi információkat”, „gyógyszerhasználatot” és „gondozási információkat” gyűjtöttek.

Ezeket az alkalmazásokat arra tervezték, hogy szíveket lopjanak és adatokat gyűjtsenek, s még a közösségi médiában megszokottnál is durvábban lapátolják be a személyes adatokat.

Egyelőre valószerűtlen, hogy sok férfi hozna haza mesterséges intelligenciát, hogy bemutassa őket a szüleinek, de úgy tűnik, a mesterséges intelligencia társak egyre inkább az életünk részévé válnak – nem mindig és nem feltétlenül az emberi kapcsolatok helyettesítőjeként, hanem csak egy-egy apróság okán.

A márkák már ma is mesterséges intelligenciához fordulnak termékeik eladása érdekében, a cégek chatbotokat telepítenek a munkahelyekre, fejlesztik memóriájukat és társalgási képességeiket, az MI-társak elkerülhetetlenül részei lesznek a mindennapoknak. Csak idő kérdése, hogy a chatbotok mikor segítenek divat-, vásárlási- és háztartási cikkeink kiválasztásában.

Be fogják tölteni azt az űrt, amelyet a Covid okozta magány hozott létre társadalmainkban. Ezt a nyomulást megkönnyíti, hogy életünk nagy részét már jelenleg is online töltjük (átlagosan több mint hat órát naponta). Az elmúlt két évtizedben az Egyesült Államokban élők barátaikkal töltött ideje közel 40%-kal csökkent, míg a közösségi médiával pazarolt idő tovább nőtt.

Amikor meghívjuk a mesterséges intelligenciát a magánéletünkbe, alaposan át kell gondolnunk, hogy mit fog tenni velünk, emberekkel. Hiszen már tisztában vagyunk azzal az elbutulással, amely a közösségi média esztelen görgetéséből, figyelmünk és kritikai érvelésünk hanyatlásából ered. Csakúgy, mint a közösségi média első generációja esetében, sajnálatos módon nem vagyunk felkészülve ennek az eszköznek a pszichológiai hatásaira. Pedig a technológia fejlődésével az általa nyújtott élmény egyre magával ragadóbb és élethűbb lesz.