Harari, a világhírű történész figyelmeztetése: Nem bízhatjuk a sorsunkat az intelligens gépekre

Minden héten új cikkek a The Economist-ból

Minden héten új cikkek a The Economist-ból Ez a cikk a The Economist magazinnal kötött tartalomlicenc-megállapodás keretében született. Cikkek a nemzetközi sajtó élvonalából, a Portfolio válogatásában. Minden cikk ide kattintva érhető el.

A Portfolio Signature előfizetői rendszeresen olvashatják az Economist legérdekesebb cikkeit magyarul, a Portfolio válogatásában. Ez a cikk is egy ilyen írás, de kivételesen minden olvasónk számára elérhetővé tesszük.

A The Economist Insider című műsorának átfogó interjújában Harari arra figyelmeztet, hogy

az AI legnagyobb hatása talán abban áll majd, ahogyan átformálja a bizalmat, „a világ legfontosabb eszközét”.

A modernitás jelentős része olyan rendszerekre épül, amelyek lehetővé teszik, hogy a bizalom olyan léptékben működjön, amely a történelem előtti világban elképzelhetetlen lett volna. A pénz „nagyon kreatív, fantáziadús módja annak, hogy bizalmat építsünk idegenek között”: az emberek boldogan adnak át értékes árukat cserébe nem többért, mint egy ígéretért, hogy majd valaki más is ugyanígy tesz. „A bankárok, ha jó bankárok és jól végzik a munkájukat, bizalmat építenek.”

Harari szerint szinte elkerülhetetlennek tűnik, hogy nagy teljesítményű mesterséges intelligenciák kapjanak ellenőrzést a pénzügyi rendszer felett. Az AI-rendszerek hamarosan képesek lesznek a globális gazdaság egészét sokkal részletesebben megérteni, mint amire bármely ember valaha képes lehetne. Harari ezért arra számít, hogy a következő néhány évben egyre nagyobb lesz a nyomás az embereken, hogy több bizalmat helyezzenek a mesterséges intelligenciába. Példaként a kriptovaluták felemelkedésére mutat rá - „AI-pénznek” nevezi őket. Sok ember jobban bízik a bitcoin algoritmusában, mint akár azokban a bizonyos jó bankárokban. És ahogy az emberek elveszítik a bizalmukat a médiában – teszi hozzá –, boldogan fogyasztják a digitális platformokon algoritmusok által válogatott tartalomfolyamokat (gondoljunk csak a TikTokra vagy az Instagramra).

A paradoxon az, hogy miközben az egyes emberek egyre jobban megbíznak a mesterséges intelligenciával folytatott személyes interakcióikban, ez végül bizalmatlansághoz vezethet azzal a technológiai-pénzügyi rendszerrel szemben, amelyhez ezek az interakciók végső soron vezetnek. Ennek az az oka, hogy az embereknek nem lesz módjuk kikövetkeztetni, hogyan és miért hoz döntéseket az AI. „Az emberi pénzügyi rendszer irányítja a tehenek és a csirkék életét, de a teheneknek és a csirkéknek fogalmuk sincs arról, hogy a pénzügy egyáltalán létezik” – mondja.

Valószínűleg tíz év múlva mi is ebben a helyzetben leszünk.

Még ha félre is tesszük az AI által jelentett egzisztenciális kockázatokat – amelyeket Harari valósnak tart –, veszélyes lenne egy olyan világ, amelyben az emberek ilyen mértékben megbíznak a mesterséges intelligenciában. Képzeljünk el például egy pénzügyi összeomlást egy technológiai-pénzügyi rendszerben. Ha annak okai meghaladják az emberi megértés határait, lehetetlenné válik a gazdaságpolitikai válasz – legalábbis az emberi döntéshozók részéről.

Harari mélyebb aggodalma az, hogy az AI-ba vetett túl nagy bizalom technológiai despotizmushoz vezethet. Sztálin tarthatott beszédet a rádióban, és kényszeríthette a Szovjetunió valamennyi polgárát, hogy meghallgassa. Ahhoz azonban, hogy valóban ellenőrzése alatt tartsa a lakosságot, arra lett volna szüksége, hogy mindenki ténylegesen bízzon benne, ne csak úgy tegyen, mintha bízna. Ehhez pedig személyes kapcsolatok millióira lett volna szükség, amit még a sztahanovista diktátor sem tudott volna megvalósítani. Most viszont, jegyzi meg Harari, „az AI a történelemben először teszi lehetővé az intimitás tömegtermelését”. Már most is sokan állítják, hogy AI-barátjuk, sőt romantikus társuk. „Lehet több millió AI, amelyek egy hálózat részeként valakinek a szolgálatában állnak, vagy a saját szolgálatukban állnak… majd az intimitás erejét felhasználva meggyőzik [az embereket] bármilyen politikai vagy kereskedelmi érdekről, amelyet érvényesíteni akarnak.”

Harari szerint a lehetséges károk kordában tartásának egyetlen módja a szabályozás. Javasolja az AI jogi személyiségének betiltását – ennek egy változatát Argentína szeretné lehetővé tenni azzal, hogy botok vállalatokat vezethessenek –, valamint annak megtiltását, hogy az AI embernek adja ki magát. Ez utóbbi körbe tartoznak a „deepfake-ek” is, amelyek annyira meggyőzővé váltak, hogy Hararinak nemrég 90 másodpercbe telt felismernie: egy hozzá eljuttatott videó, amely állítólag az egyik előadását mutatta, nem valódi.

Tekintettel az AI fejlődésének rendkívüli sebességére, Harari úgy véli, hogy a politikai döntéshozóknak – különösen Amerikában, ahol e fejlesztések nagy része zajlik, és ahol a kormány továbbra is demokratikusan elszámoltatható – most kell cselekedniük. És ugyanez igaz a választókra is. Ha Hararin múlna, a novemberi félidős választások teljes egészében a mesterséges intelligenciáról szólnának.

A 67 perces videó a The Economist előfizetőinek ide kattintva érhető el.

Címlapkép: Yuval Noah Harari, a Sapiens és a Nexus című könyvek szerzője előadást tart „Mesterséges intelligencia és a jövő: Az emberiség útja” címmel a szöuli Yonsei Egyetemen, Dél-Koreában, 2025. március 20-án. Forrása: Chris Jung/NurPhoto via Getty Images

A jelen írás nem minősül befektetési tanácsadásnak vagy befektetési ajánlásnak. Részletes jogi információ