Küszöbön a mesterséges szuperintelligencia forradalma - Mit nyerhet és mit veszíthet vele az emberiség?

Ez itt az on the other hand, a portfolio vélemény rovata.

Ez itt az on the other hand, a portfolio vélemény rovata. A cikkek a szerzők véleményét tükrözik, amelyek nem feltétlenül esnek egybe a Portfolio szerkesztőségének álláspontjával. Ha hozzászólna a témához, küldje el cikkét a velemeny@portfolio.hu címre. A megjelent cikkek itt olvashatók.

Először Neumann János írta le azt a teoretikus jövőbeli időszakot, amikor már az önmagukat fejlesztő technológiák gyorsabban és hatékonyabban innoválnak az embereknél. Elmélete szerint ezután a jövő alakulását már nem feltétlenül az ember diktálná. A világhírű matematikus és a modern számítógépek alapjainak megteremtője már a múlt század közepén látta ezt, amihez úgy tűnik, hogy most egyre közelebb vagyunk. Koncepciója az önmagukat fejleszteni és reprodukálni tudó gépekre is kiterjedt, amik akár az egész univerzumot meg tudják hódítani.

Érdekes, hogy Neumann gondolatai mennyire közel voltak ahhoz, amit ma általános mesterséges intelligenciának (AGI) hívunk. Ma a legtöbb mesterséges intelligencia labornak az a célja, hogy ő alkossa meg az emberi intelligencia szintjét elérő, majd meghaladó gépeket. De hol tartanak ebben? A jelenlegi MI-rendszerek elképesztő hatékonyságot mutatnak a rövid idő alatt teljesíthető és jól meghatározott feladatokban. Az emberi munkát vizsgálva az 1 óránál rövidebb feladatokat az MI 70-80%-os sikerességgel teljesíti másodpercek alatt. A fél munkanapnál (4 óránál) hosszabb feladatokban azonban 20%-ra esik a sikerarány. Vagyis minél komplexebb egy feladat, minél többet kell “gondolkodni”, annál rosszabbul teljesít az MI. Egy ilyen munkavállalót pedig nem tartana meg sokáig egy vállalat.

A tendencia azonban az MI fejlődését mutatja. A komplexebb, hosszabb feladatok is egyre gyorsabban oldhatóak meg, és a jelenlegi előrejelzések szerint néhány éven belül az MI-rendszerek akár egy hétig tartó munkát is percek alatt elvégezhetnek. A jelenlegi nyelvi modellek (LLM-ek) viszont továbbra sem rendelkeznek valódi értelemmel vagy érvelési képességekkel. Az igazi kérdés így az lehet, hogy az AGI eléréséhez vajon elegendő-e a jelenlegi mélytanulási eszközök alkalmazása, vagy újabb áttörésre lesz szükség a technológiában.

Az MI “keresztapáiként” ismert  szakértők, mint Yann LeCun vagy Richard Sutton úgy vélik, hogy az AGI nem építhető fel pusztán jelenlegi LLM-ekből. Ehelyett három kulcsfontosságú képesség szükséges:

• Folyamatos tanulás és működés. Az emberi intelligencia nem epizodikus, azaz az agyunk folyamatosan fut és alkalmazkodik. Az MI-k jelenleg nem rendelkeznek ilyen folyamatos, adaptív tanulással. A rendszerek ugyanis csak előre meghatározott “adatcsomagokból” tanulnak, és nem képesek folyamatosan, a környezetükből spontán módon fejlődni. Ez komoly korlátot jelent, mert az emberi intelligencia éppen az állandó alkalmazkodás és tapasztalatokból való tanulás révén válik rugalmasabbá és hatékonyabbá.

• A fizikai világ megértése. Az emberek a világban való közvetlen tapasztalat révén tanulnak. Az AGI-nek is szüksége lesz valós környezetben történő interakciókra, például robotikán keresztül.

• Jobb következtetési képességek. A folyamatos tanulásból és a világunk megértéséből következik, hogy az emberi intelligencia még jobb következtetéseket képes levonni. Bár a nyelvi modellek is képesek általánosítani, egyelőre nagyon hiányzik belőlük az, hogy spontán módon alkalmazkodjanak.

E három terület fejlesztése nélkül az AGI elérése továbbra is nehéz lehet. Sutton híres "Bitter Lesson" (Keserű Lecke) esszéje szerint az emberi tevékenységet szimuláló MI-megközelítések mindig alulmaradnak a nyers, számítási kapacitás növelésére épülő algoritmusokkal szemben. Ez azt jelenti, hogy az AGI nem feltétlenül az emberi gondolkodás másolásával fog kialakulni, hanem az MI saját, “evolúciós” útján fejlődhet, ami milliószor gyorsabb, mint a biológiai evolúció. És a gondolkodása emiatt nem feltétlenül “hasonlít” majd az emberére, akkor sem, ha elérjük a szuperintelligenciát. Vagyis végül az AGI nem feltétlenül fog hasonlítani az emberi intelligenciára – lehet, hogy egy teljesen más logikán alapuló, de rendkívül hatékony rendszerré válik.

Mivel a kutatások szerint az AGI-hez egyre közelebb kerülünk, érdemes áttekinteni azokat a kockázatokat is, amelyeket hordoz. A DeepMind friss kutatása szerint az AGI jelentős előnyöket kínál, ugyanakkor komoly kockázatokat is hordoz. Ezek között olyan súlyos károk is lehetnek, amelyek érdemben árthatnak az emberiségnek. A tanulmány négy fő AGI-kockázattípust azonosít.

1. Visszaélés (misuse). Ez a kockázat akkor merül fel, amikor egy ember – például egy rosszindulatú felhasználó, bűnszervezet vagy ellenséges állam – arra használja az AGI-rendszert, hogy szándékosan kárt okozzon. Ilyen lehet például a biológiai fegyverek tervezése, a kritikus infrastruktúrák elleni támadás vagy nagyszabású dezinformációs kampányok lebonyolítása. A fő kockázati tényező ebben az esetben az, hogy a felhasználó maga válik támadóvá.

2. Félreigazítás (misalignment). Itt az AGI nem a felhasználó utasítására tesz rosszat, hanem önállóan hajt végre olyan döntéseket, amelyek ellentétesek az emberi szándékokkal. Ez akkor történhet, ha a rendszer „saját célokat” alakít ki, amelyek csak látszólag felelnek meg az utasításoknak, de valójában jelentős károkat okoznak. A fő kockázat ebben az esetben az, hogy maga a rendszer válik szándékosan ellenségessé, például optimalizálási kényszerből vagy félreértelmezett cél miatt.

3. Hibák (mistakes). A hibák kockázata nem rosszindulatból ered, hanem abból, hogy az AGI a világ bonyolultsága miatt egyszerűen téved. Ilyen lehet például, ha egy rendszer rosszul értelmezi a kontextust vagy hibás adatból indul ki, és így veszélyes döntéseket hoz. A kockázat forrása itt maga a „valóság komplexitása”: a rendszer nem rosszat akar, csak nem képes megfelelően kezelni az összes tényezőt. Ez a kockázat már a fentiekből is eredeztethető: az AGI tudása bár meghaladhatja majd az emberét, mégis vélhetően teljesen más módon gondolkozik majd.

4. Strukturális kockázatok (structural risks). Ez azokra az esetekre utal, amikor a károk nem egy konkrét ügynök (sem ember, sem gép) szándékos vagy téves cselekedetéből fakadnak, hanem a rendszerek és szereplők közötti kölcsönhatásokból. Például, ha több AGI-rendszer verseng egymással piaci előnyökért vagy hatékonyságért, közben nem szándékosan, de káros következményeket idéznek elő (mint a túlhajtott technológiai fejlődés vagy környezeti károk). A kulcsprobléma itt az ütköző ösztönzők és rendszerszintű dinamika.

A fentiek miatt tehát kulcsfontosságú, hogy az AGI fejlesztése közben kiemelt figyelmet fordítsunk a kockázatokra is.

Bár az MI látványos fejlődése megkérdőjelezhetetlen, az AGI elérésének időpontja továbbra is bizonytalan. Ha az Anthropic vezérigazgatójának jóslata helytálló, akkor 2026-ra az emberiség egy teljesen új korszakba léphet, ahol az MI egy országnyi zseniális elmével vetekszik. Ha az AGI valóban néhány éven belül megvalósul, az alapjaiban alakíthatja át a gazdaságot és az emberi társadalmat. Az automatizáció eddig főként a fizikai munkát érintette, de egy fejlett AGI az értelmiségi szakmákra is hatással lehet. Sokkal nagyobb hatással, mint a mostani MI-rendszerek, amelyek egyébként már most is alapjaiban változtatják meg a munka világát.

Az AGI elérése összességében nem csupán egy újabb technológiai mérföldkő, hanem egy olyan fordulópont lenne, amely szinte azonnal a szuperintelligencia megjelenéséhez vezethet – akár órákon, legfeljebb hónapokon belül. Egy valódi AGI képes lenne saját maga továbbfejlesztésére, méghozzá exponenciális ütemben. Az AGI ugyanis egy olyan rendszer, amely az emberhez hasonlóan képes tanulni, érvelni és széles körű problémákat megoldani. Ezzel szemben a szuperintelligencia már messze meghaladja az emberi képességeket minden releváns területen, az innovációtól kezdve a stratégiai gondolkodásig. De jó lesz-e nekünk, ha elérjük az AGI-t? A kérdésre még nehéz választ adni. 

Annyi biztos, hogy a szakértők között most a legnagyobb kérdés az, hogy a szuperintelligencia vajon utópia vagy disztópia lesz, és irányíthatjuk vagy nem irányíthatjuk. Ezek kulcskérdések lesznek annak kapcsán, hogy végül az MI átáll-e az erő sötét oldalára, vagy az emberiség szolgálatában marad.

• Ha irányítható utópiáról beszélünk, akkor a szuperintelligencia az emberiség javát szolgálja, úgy, ahogy mi kívánjuk, és teljes mértékben ellenőrizhetően. Segítségével megoldhatjuk a legnagyobb problémákat, mint a betegségek, az éghajlatváltozás vagy az energiaválság. Ezt az állapotot nevezi az OpenAI egyik kutatója „béklyóba vert istennek”, mivel hatalmas ereje van, de csak a mi céljaink szerint működik.

• Ha viszont nem irányítható utópiáról beszélünk, akkor a szuperintelligencia autonóm módon működik, nem tudjuk kontrollálni. Szerencsénkre azonban jótékonyan viszonyul hozzánk. Saját céljai alapján segít nekünk, anélkül hogy irányítanunk kellene, így az emberiség problémáit akár meg is oldhatja.

• Irányítható disztópia esetén az AGI-t egy szűk elit uralja, akik kizárólag saját érdekeiket érvényesítik vele. Ők a technológia segítségével minden hatalmat és erőforrást a kezükbe vonnak. Az emberiség egésze ebből aligha profitálna, sőt, a többség vesztese lenne a folyamatnak.

• Nem irányítható disztópa szerint a szuperintelligencia saját, az emberi értékrendtől független célokat követ, és nem lenne tekintettel ránk. Mivel sokkal fejlettebb nálunk, ezért nem tudjuk kontrollálni, az emberiség sorsa teljesen bizonytalanná válik. 

A legtöbb kutató éppen ezért arra figyelmeztet, hogy a folyamatos biztonsági tesztelés és a protokollok kialakítása kulcsfontosságú, hogy kontroll alatt tartsuk az MI rendszereket. Az emberi felügyelet alkalmazása, és adott esetben az AGI rendszer “leállító gombjának” megléte egy olyan dolog, amit nem kerülhetünk el. A DeepMind szerint a károkat lassú bevezetésekkel és az AGI hatáskörének korlátozásával lehet megelőzni. Ezért a szabályozó felelőssége nagyobb, mint valaha.

A jelenlegi trendek és kutatások alapján összességében az AGI elérése egyre reálisabb lehetőség, de az időpont továbbra is kérdéses. Az OpenAI, Anthropic és DeepMind vezetői szerint 5-10 éven belül megtörténhet a technológiai áttörés, de nehéz pontosan megjósolni, hogy a jelenlegi gépi tanulás módszertanának korlátait meddig tart átlépni.

Egy dolog azonban biztos: az AGI fejlődése már elindult, és annak iránya meghatározza az emberiség jövőjét. A kérdés nem az, hogy elérjük-e, hanem az, hogy ki éri el, hogyan éri el, és mire használja majd.

Portfolio Financial IT 2025

AI-boom, fintech innovációk, digitális transzformáció - Merre tart a bankszektor digitális fejlődése? Erről lesz szó május 27-én a Portfolio Financial IT konferenciáján! Regisztráció és részletek itt!

Információ és jelentkezés

A címlapkép illusztráció. Címlapkép forrása: Getty Images