A mesterséges intelligencia óriási veszélyeire figyelmeztet a Nobel-díjas közgazdász

Ez itt az on the other hand, a portfolio vélemény rovata.

Ez itt az on the other hand, a portfolio vélemény rovata. A cikkek a szerzők véleményét tükrözik, amelyek nem feltétlenül esnek egybe a Portfolio szerkesztőségének álláspontjával. Ha hozzászólna a témához, küldje el cikkét a velemeny@portfolio.hu címre. A megjelent cikkek itt olvashatók.

A különböző modellek nagyon eltérő hatásokkal járnak majd.

• Az "AI, mint tanácsadó" megközelítés esetén az AI-ügynökök egyénre szabott ajánlásokat adnának az embereknek, mint döntéshozóknak, így az ember mindig a vezetőülésben maradna.
• Az "autonóm AI" modell esetében azonban az ügynökök átveszik a kormányt az embereket képviselve. Ez a különbség mélyreható és messzemenő következményekkel jár.

Az emberek naponta több száz döntést hoznak, amelyek közül néhánynak komoly következményei vannak a karrierjükre, megélhetésükre vagy boldogságukra nézve. E döntések közül sok tökéletlen vagy hiányos információn alapul, és inkább az érzelmek, intuíciók, ösztönök vagy impulzusok határozzák meg azokat. Ahogy az David Hume híres mondásában áll: „Az értelem csak a szenvedélyek rabszolgája – és annak kellene lennie." Az emberek a legtöbb döntést szisztematikus érvelés vagy a döntés teljes következményeinek kellő figyelembevétele nélkül hozhatják meg, de ahogy Hume felismerte kijelentésének "kellene" részével, ez nem teljesen rossz dolog. Ez tesz minket emberré. A szenvedély tükrözi a célt, és kulcsszerepet játszhat abban is, hogy miként boldogulunk egy összetett világban.

A személyre szabott, megbízható, a kontextusnak megfelelő, hasznos információkat nyújtó AI-tanácsadókkal számos fontos döntés javítható, de az emberi indítékok továbbra is dominánsak maradnak. De mi a rossz abban, ha az autonóm AI-megoldások döntenek a nevünkben? Nem javíthatnák tovább a döntéshozatalt, nem takaríthatnának meg időt, és nem előzhetnék meg a hibákat?

Ezzel a szemlélettel több probléma is van. Először is, az emberi cselekvőképesség kritikus fontosságú az emberi tanulás és boldogulás szempontjából. Maga a döntéshozatal és az eredmények mérlegelése – még akkor is, ha az inputok és a tanácsok nem emberi ügynököktől származnak – megerősíti saját cselekvőképességünk és célunk érzését. Az emberi tevékenység nagy része nem a számításokról vagy a bemeneti adatok összegyűjtéséről szól, hogy eldönthessük, mi az optimális cselekvés; sokkal inkább a felfedezésről szól – ez a tapasztalat egyre ritkább lesz, ha minden döntést egy AI-ügynökre bízunk.

Ráadásul, ha a technológiai ipar elsősorban az autonóm AI-ügynökökre fókuszál, akkor jelentősen megnő annak a valószínűsége, hogy több emberi munkát automatizálnak.

Ha azonban az AI elsősorban az automatizálás felgyorsításának eszközévé válik, a széles körben érvényesülő jólét reménye szertefoszlik.

Fontos kiemelni, hogy alapvető különbség van az emberek nevében eljáró AI-ügynökök és az önmagukért cselekvő emberek között. Számos olyan helyzetben, amikor emberek interakcióba lépnek egymással, vannak kooperatív és konfliktusos elemek egyaránt. Vegyük például azt az esetet, amikor az egyik vállalat inputot biztosít egy másiknak. Ha ez az input kellően értékes a vevő számára, a két vállalat közötti kereskedelem kölcsönösen előnyös (és általában a társadalom számára is).

Ahhoz azonban, hogy bármiféle csere létrejöjjön, az input árát egy eredendően konfliktusos folyamat során kell meghatározni. Minél magasabb az ár, annál nagyobb az eladó előnye a vevőhöz képest. Az ilyen alku kimenetelét gyakran a normák (például a méltányosságról szólók), az intézmények (például a szerződések, amelyek megsértése költségekkel jár) és a piaci tényezők (például az, hogy az eladónak van-e lehetősége másnak értékesíteni termékét) kombinációja határozza meg. De képzeljük el, hogy a vevőről az a hír járja, hogy teljesen kompromisszumképtelen – csak a lehető legalacsonyabb árat hajlandó elfogadni. Ha nincs más vevő, az eladó kénytelen lehet belemenni az alacsony áron való értékesítése.

Szerencsére a mindennapi ügyleteink során az ilyen kompromisszumképtelen magatartás ritka, részben azért, mert nem kifizetődő, ha az embernek rossz a híre, és ami még fontosabb, mert a legtöbb embernek sem bátorsága, sem törekvése sincs arra, hogy ilyen agresszív módon cselekedjen. De képzeljük el, hogy a vevőnek van egy autonóm AI-ügynöke, aki nem törődik az emberi finomságokkal, és nem emberi módon acélidegekkel rendelkezik. Az AI-t be lehet tanítani arra, hogy mindig ezt a fajta, kompromisszumra nem hajló álláspontot képviselje, és így a másik félnek nem lesz reménye arra, hogy rábeszélje a másikat egy kölcsönösen előnyösebb alkura.

Ezzel szemben abban a világban, ahol az AI, mint tanácsadó lép fel, ugyan mindig javasolhat kompromisszumra nem hajló álláspontot, de az ember végső soron eldönti, hogy ezt az utat választja-e.

A közeljövőben tehát az autonóm agentikus AI-ügynökök egy egyenlőtlenebb világot hozhatnak el, ahol csak néhány vállalat vagy egyén férhet hozzá a nagy képességű, hitelesen keménykezű AI-modellekhez. De még ha végül mindenki ugyanolyan eszközökhöz férne hozzá, az sem lenne jobb.

Az egész társadalmunk egy "felőrlő háborúnak" lenne kitéve, amelyben az AI-ügynökök minden konfliktushelyzetet az összeomlás szélére sodornának.

Az ilyen összecsapások eredendően kockázatosak. Mint a chicken game-ben, amikor két autó hajt gyorsan egymás felé, hogy kiderüljön, ki rántja el előbb a kormányt, mindig lehetséges, hogy egyik fél sem hátrál meg. Ha ez megtörténik, mindketten "nyernek" – és mindketten odavesznek.

Egy olyan AI-megoldás, amelyet arra képeztek ki, hogy győzzön a chicken game-ben, soha nem fogja elrántani a kormányt. Bár az AI jó tanácsadója lehet az embereknek – hasznos, megbízható és releváns információkkal látva el bennünket valós időben –, az autonóm AI-ügynökök világa valószínűleg számos új problémát fog előidézni, miközben a technológia által kínált előnyök közül sok mindent erodálhat.

Copyright: Project Syndicate, 2025.

www.project-syndicate.org

Daron Acemoglu
Az MIT (Massachusetts Institute of Technology) Nobel-díjas közgazdászprofesszora. Kutatásai többek között a politikai gazdaságtan, a gazdasági fejlődés és növekedés, a technológiai fejlődés, a jövedelmi egyenlőtlenség kérdéseire vonatkoznak. A Nobel-díjat 2024-ben kapta.

Portfolio Financial IT 2025

AI-boom, fintech innovációk, digitális transzformáció - Merre tart a bankszektor digitális fejlődése? Erről lesz szó május 27-én a Portfolio Financial IT konferenciáján! Regisztráció és részletek itt!

Információ és jelentkezés

A címlapkép illusztráció. Címlapkép forrása: Getty Images