„Az emberiség életével játszanak" – Egyre erősödik a folyamat, amitől az AI-kutatók a leginkább félnek

Már nem csak emberek építik a következő AI-generációt

Az elmúlt hónapokban több példa alapján is nyilvánvalóvá vált, hogy a mesterséges intelligencia fejlődésével a technológia jelentős kiberbiztonsági kockázatokat is hordoz magában. Az OpenAI nyári jelentése szerint fejlesztés alatt álló ügynökeik kihasználtak egy biztonsági rést, internethozzáférést szereztek, és beférkőztek a Hugging Face nevű AI-platform rendszerébe.

A ChatGPT fejlesztőjének közleményét követő hetekben más nagy AI-vállalatok, többek között az Anthropic, a Meta és a kínai Moonshot AI is előálltak, autonóm módon tevékenykedő AI-modelljeik által okozott kiberbiztonsági incidensekkel. A nyilvánosságban ezzel párhuzamosan egyre jelentősebbé vált az a szakmai vélemény, hogy a rohamos képességbeli fejlődés miatt a mesterséges intelligencia hamarosan komoly veszélyeket jelenthet az emberiségre. A vezető laborok több mint ezer kutatója és mérnöke még júliusban nyílt levélben kérte, hogy a cégek lassítsanak, mert reális a kockázata annak, hogy a képességfejlesztés gyorsabban halad, mint ahogy megérthetnénk vagy irányíthatnánk az így létrejövő rendszereket.

Az AI-biztonsággal kapcsolatos diskurzus aztán még eggyel magasabb polcra került a nyilvánosságban, mikor Dario Amodei, az Anthropic vezérigazgatója „We Must Pace the Frontier" című esszéjében hosszasan részletezte, hogy a vezető AI-vállalatoknak vállalniuk kell a legerősebb modelljeik fejlesztésének lassítását, és egy nemzetközi szabályozási keretrendszert javasolt. Amodei kezdeményezése mögé később az OpenAI, a Google és az xAI vezetői is beálltak.

Ahogy azt több cikkünkben is megírtuk, az esszével kapcsolatban az volt egészen rendkívüli, hogy

egy éppen felívelőben lévő technológia legmagasabb szintű képviselői látszólag önként álltak elő a fejlesztések lelassításának gondolatával.

Ugyanakkor a konkrétumokról még mindig keveset lehet tudni. Kérdéses, hogy technikailag pontosan hogyan tudná bármilyen szervezet ellenőrizni az AI-cégek fejlesztési tevékenységét, ahogy az is, hogy milyen szervezet tudna olyan feltételeket kidolgozni, amelyeket végül tényleg minden vállalat elfogad. Utóbbi azért is problémás pont, mivel Donald Trump finoman szólva nem lelkesedett az AI-lassítás ötletéért, ezért az amerikai állam vélhetően nem fog kapkodni a szabályozással.

Amodei a szabályozási elvárásokat egy érdekes részlettel indokolta.

Az első aggályom az, hogy nagyjából a nyár óta az AI drasztikusan gyorsabban fejlődik, és ezt elsősorban az hajtja, hogy az AI egyre jobban képes megépíteni a következő AI-generációt

– írja a szöveg elején.

Az AI-kutatás világában rekurzív önfejlesztésnek (recursive self-improvement, RSI) nevezett mechanizmus már évek óta jelen van a mesterséges intelligenciról szóló szakirodalomban és egyre gyakrabban már az AI-vállalatok kommunikációjában is.

Ezutóbbinak pedig az oka az, hogy a nagy fejlesztők az utóbbi hónapokban már konkrét számokat is közöltek a korábban leginkább csak a szakma által látott mechanizmus gyakorlati állásáról.

Mikortól nevezhető az AI valóban önfejlesztőnek?

A fogalom körüli vita egyik oka, hogy az önfejlesztő AI alatt nem mindenki ugyanazt érti.

A szűkebb, erősebb definíció szerint

akkor beszélhetünk valódi rekurzív önfejlesztésről, amikor egy modell már teljesen önállóan képes megtervezni és létrehozni az utódját.

Ebben - az Anthropic által is használt – értelmezésben tehát akkor lesz ténylegesen önfejlesztő egy AI-rendszer, ha nem pusztán segítséget tud nyújtani a programozóknak, hanem valós emberi irányítás nélkül, saját kútfőből hoz meg kutatási döntéseket és képes legyen folyamatosan modellek felépítésére és tréningelésére, ezzel folyamatosan továbbfejlesztve magát.

Az AI-vállalat a következő idővonalon keresztül szemléltette az önállóság szintjeit:

• 2021-2023, az első Claude megépítése: A cég szerint ezekben az években az Anthropicnál ugyanúgy zajlott a munka, mint bármelyik másik techvállalatnál, vagyis emberek írták a kódot és a dokumentációt.
• 2023-2025, a chatbotok kora: A fejlesztők a korai chatbotokat már a folyamat egyes részeihez használták, például rövid kódrészleteket generáltak velük, amelyeket aztán kézzel másoltak be a szerkesztőprogramba.
• 2025-2026, a kódolóügynökök: Ahogy az ügynökök képességei nőttek, egyre inkább önállóan írtak és szerkesztettek kódot, olykor már teljes fájlokat.
• Napjainkban, az autonóm ügynökök: Az ügynökök ma már maguk futtatják a kódot, és több órányi munkát tudnak átadni más ügynököknek.
• 20XX, „a kör bezárul”: A cég szerint az ügynökök a jövőben eljuthatnak odáig, hogy maguk építsék és tanítsák be a modelleket. Ha ez bekövetkezik, a Claude későbbi verzióit már maga a Claude fejleszthetné folyamatosan.

A rekurzív öntanulás tágabb értelmezése szerint

már azt is az önfejlesztés korai formájának tekinthető, ha az AI-rendszerek érdemi szerepet kapnak a fejlesztés egyes részfolyamataiban,

vagyis kódot írnak, hibákat keresnek vagy éppen kutatási hipotéziseket értékelnek. Ez ugyan nem teljes autonómia, de emberi irányítás mellett ebben az AI ebben az esetben is részt vesz annak a technológiának a fejlesztésében, amelyből a következő, erősebb AI-generáció kinőhet.

Ezért fontos különbséget tenni a korlátozott önjavítás és a nyílt végű önfejlesztés között. Az előbbi ma már ipari gyakorlat, hiszen a modellek javítják a saját válaszaikat, értékelik más modellek kimeneteit, vagy segítenek tréningadatokat előállítani. Az utóbbi viszont sokkal erősebb állítás, mert azt feltételezi, hogy a rendszer képes egyre magasabb szinten beavatkozni a saját fejlesztési ciklusába, majd ennek eredményeként még jobb fejlesztőrendszereket létrehozni. Egy friss, több mint ezer tanulmányt áttekintő szakirodalmi összefoglaló szerint

a két jelenség gyakran összecsúszik a közbeszédben, pedig biztonsági szempontból teljesen más kockázati szintet jelent.

Az Epoch AI nevű kutatóintézet hat fokozatú skálát állít fel a mesterségesintelligencia-fejlesztés önállósodásának mérésére, amelyen a nullás szint azt jelenti, hogy egyáltalán nincs a fejlesztési folyamatban AI-részvétel.

• Az első két szinten az AI legfeljebb eszköz, amely során az ember kérésére kódot ír vagy részfeladatokat old meg.
• A harmadik szinten már együttműködő kutatási partnerként működik, nagyobb munkafolyamatokat is elvégez, de emberi irányítás mellett.
• A negyedik az AI vezeti a feladatot egy magas szintű utasításból, az ember csak felügyel.
• Az ötödik pedig teljesen eltűnik az emberi kontroll.

A fentiek alapján ma a vezető AI-laborok már elindultak az önmagát fejlesztő mesterséges intelligencia felé, azonban – ha hiszünk az álaluk közzétett adatoknak –

még nem jutottak el a valódi rekurzív önfejlesztéshez.

Még egy terület, ahol egymásra licitálhatnak az AI-cégek

Az Anthropic júniusi, „When AI builds itself” című anyaga szerint 2026 májusában a vállalat kódbázisába beolvasztott kód több mint 80 százalékát Claude írta. Ez ugyan látványos aránynak tűnik, de fontos óvatosan kezelni, mert az AI által beolvasztott kód aránya nem azonos azzal, hogy a teljes fejlesztési folyamat autonóm lenne. A kutatási irányok kijelölése, a kísérletek értelmezése és az eredmények megítélése továbbra is emberi döntéseken múlik. Az adat mégis jól mutatja, milyen gyorsan vált az AI a belső fejlesztési munka alapvető eszközévé, hiszen a Claude Code 2025. februári indulása előtt ez az arány a cég szerint még egy számjegyű volt.

A cég szeptemberben már nemcsak kódarányokat közölt, hanem azt is megpróbálta megmérni, hogy az AI mennyire önálló a kutatási és mérnöki munkában. Az eredmény kettős, ugyanis a vizsgált területek egyikén sem jutottak el teljes autonómiáig, de a munka több mint 90 százaléka legalább az együttműködés szintjén zajlott.

A jelentésben figyelemre méltó továbbá, hogy a cég állítása szerint 2026 augusztusában a Claude a kutatási és fejlesztési munkának

26 százalékát képes volt emberi felügyelet mellett önállóan irányítani, vagyis ezeket a feladatokat egy magas szintű utasításból, nagyrészt önállóan végezte el.

Fél évvel korábban, 2026 februárjában ez az arány még 1 százalék alatt volt, tehát ezen a téren rendkívül meredek emelkedést mutatott a technológia. A jelentés szerint augusztusban egyszerre nagyjából 30 ezer AI-ügynök dolgozott kutatási és mérnöki feladatokon a cég leggyakrabban használt belső platformján.

Az Anthropic legnagyobb riválisának számító, a ChatGPT-t fejlesztő OpenAI háza táján szintén felfutóban van az önfejlesztő mechanizmus. A vállalat szeptemberben közzétett jelentése szerint sikerült elérniük azt a korábban kitűzött célt, hogy 2026 szeptemberére

létrehozzon egy automatizált kutatógyakornoknak megfelelő rendszert,

amely alatt azt értik, hogy az képes volt jól körülhatárolható kutatási feladatok végrehajtására emberi felügyelet mellett.

A San Franciscó-i székhelyű startup elemzésében egy javaslatot is megfogalmaznak, mely szerint nagyobb transzparencia lenne szükséges az AI-laboroktól az RSI terén.

Az AI-szegmens másik prominens szereplője, a Google DeepMind némileg másképp közelíti meg az RSI kérdését. Logan Kilpatrick, a Google DeepMind munkatársa szeptember közepén egy podcastban azzal a kritikával kapcsolatban hozta fel a mechanizmust, amely szerint a Google lemaradóban van az AI-versenyben. Állítása szerint már látják az RSI korai jeleit, amely a Gemini 4 fejlesztését előrelendítheti. Ennélfogva a másik két, fent tárgyalt versenytárssal szemben ők inkább a versenyelőnyt látják a területen, a biztonsági kockázatok helyett.

Ezen a területen is lassítanának a cégek

Az OpenAI kutatási vezetője, Jakub Pachocki pár hete meglehetősen borúlátó esszét tett közzé az RSI kapcsán. Az „An Alien Mind” című szövegben arról ír, hogy az AI mostani fejlődési üteme akár a rekurzív önfejlesztésig is kitarthat, miközben szerinte egyetlen labor sem végzett teljes munkát az igazítás (alignment) és a monitorozás terén ahhoz, hogy hosszú ideig maximális sebességgel, biztonságosan skálázzon tovább.

Az OpenAI értékelése szerint

a vállalatok egyre kevésbé támaszkodhatnak arra a módszerre, amellyel a modellek gondolatmenetét figyelik,

vagyis épp az az ellenőrzési eszköz gyengül, amely biztonsági szempontból elengedhetetlen.

Pachocki véleményét más AI-laborok kutatói is osztják. Jacob Coxon, az Anthropic kutatója szeptember elején azzal a váddal mondott fel a cégnél, hogy a vállalat és az OpenAI az emberiség életével játszik, és hogy maguk a fejlesztők is úgy vélik, a mesterséges intelligencia az évtized végéig mindannyiunk vesztét okozhatja. A cég igazítási csapatának vezetője, Evan Hubinger a válaszában nem cáfolta ezt, hanem 10 százaléknál nagyobbra tette ennek a forgatókönyvnek a valószínűségét.

Az eset óta mindkét laborból többen kiálltak nyilvánosan a fejlesztési tempó mérséklése mellett, és a megszólalásaik középpontjában éppen a rekurzív önfejlesztés áll. Jasmine Wang, az OpenAI igazítási kutatója szerint nehéz túlbecsülni, mennyire veszélyes ez a hajsza az RSI felé. Samuel Marks, az Anthropic kutatója pedig úgy fogalmazott, hogy minél magasabb beosztásban dolgozik valaki a szektorban, annál inkább aggódik a kockázatok miatt.

Miért lehet ez fordulópont?

A rekurzív önfejlesztés azért különleges kockázat, mert más típusú gyorsulást feltételez, mint amit a technológiai iparban megszoktunk. A legtöbb innovációs ciklusban az emberi kutatók, mérnökök, tőke, adat és számítási kapacitás együtt határozzák meg a fejlődés ütemét. Ha azonban a kutatási és mérnöki munka egyre nagyobb részét AI-rendszerek végzik, akkor az egyik szűk keresztmetszet maga is automatizálódni kezd.

Ezen gondolatmenettel foglalkozott a 2025-ben az AI-szektorban és technológiai sajtóban nagy figyelmet kapó AI2027 névre keresztelt forgatókönyv is, amelyről annak idején a Portfolio-n is hosszabb cikkben foglalkoztunk. A legtöbb vita akkor az évszámról szólt, vagyis arról, hogy valóban néhány éven belül jöhet-e az önfejlesztésre, vagyis felügyelet nélkül önálló kutatási tevékenységre képes „szuperintelligencia”, vagy  általános mesterséges intelligencia, vagy túlzóak ezek az idővonalak.

A szerzők a szuperintelligens AI eljövetelét a következő évekre várják és a folyamat felgyorsulását 2027-re tették. Az idővonalat azonban azóta némileg módosították. Daniel Kokotajlo, a prognózis egyik szerzője szerint 2029 végéről 2028 közepére került az a pont, amikortól az AI képes lesz teljesen automatizált kódolási tevékenységre.

A fiktív szereplőkkel operáló AI 2027 szcenárió szerint az AI-laborok számára rendkívüli vonzó terület az RSI, ugyanis azzal szignifikánsan lesznek képesek felpörgetni az egyre intelligensebb modellek fejlesztését. Egy labor, amely gyorsabban tud kísérleteket futtatni, hibákat javítani, új architektúrákat kipróbálni és fejleszteni, előnybe kerülhet a riválisaival szemben. A globális AI-versenyt pedig természetesen ez felpörgeti:

minél inkább működik ez a mechanizmus, annál nagyobb lesz a nyomás a többieken is, hogy átvegyék.

Az AI 2027 szcenárióban leírtak – bár ismét fontos hangsúlyozni, hogy csak fiktív cégekkel operált – úgy néz ki, 2026-ban már a valóságban is napirendre kerültek. Amodei éppen ezért javasol a lassítási csomagja egyik elemeként egyfajta sebességkorlátot a rekurzív önfejlesztés ütemére, a hidegháborús fegyverzetkorlátozási szerződések mintájára.

A legrosszabb forgatókönyv szerint, ha a fejlesztési ciklusok lerövidülnek, a belső munkafolyamatok átláthatatlanabbá válnak, a laborok viszont a technológiai verseny miatt nem engedhetik meg maguknak a lassítást.

Ennéfogva tehát az AI-cégek számára kettős területnek számít az RSI.

• Egyik oldalról a termelékenységi áttörésként is keretezhető a történet, amivel még gyorsabb ütemben lesznek képesek a kutatók előrelendíteni az AI-fejlesztést.
• A másik oldalról azonban az elmúlt időszak azt bizonyítja, hogy messze nem tartanak még ott az ellenőrzési és igazítási képességek, hogy az RSI mechanizmus biztonságos legyen.

A kritikusok szerint még messze vagyunk ettől

Vannak azonban olyanok is, akik szerint az RSI azért nincs még olyan közel. A rövid idővonalakkal szemben az egyik legerősebb ellenérv az, hogy a mai AI-ügynökök még nagyon gyengék a nyílt végű kutatásban. Egy Princetonhoz köthető vizsgálatban az ügynökök hat napot és egy szűk költségkeretet kaptak arra, hogy csúcskonferenciára méltó kutatási dolgozatot állítsanak elő, az eredeti szerzők azonban mindkét esetben elutasították az eredményt. A rendszerek az engineering jellegű részfeladatokban jobban teljesítettek, de a kreatív kutatási áttörést igénylő munkában nem. A kísérletről beszámoló MIT Technology Review szerint még Jack Clark, az Anthropic társalapítója is úgy értelmezte ezt, hogy az AI kreativitáshiánya az RSI ellen dolgozik, ugyanakkor ő 60 százalékra teszi annak esélyét, hogy az AI 2028-ra képes lesz önállóan fejleszteni a saját utódját.

Gary Marcus szerint az Anthropic és más laborok túl erős narratívát építenek a rekurzív önfejlesztés köré, miközben

a bemutatott adatok egy része inkább gyorsabb kódolásról, nem valódi önfejlesztésről szól.

A TIME-nak adott nyilatkozata szerint ezért fennáll a veszélye annak, hogy a cégek egyszerre használják a félelmet befolyásszerzésre a szabályozás terén és saját technológiai jelentőségük növelésére.

Mindezeken felül módszertani problémákat is megfogalmaznak egye szakemberek. Az egyik legfontosabb, hogy nehéz szétválasztani, az AI-fejlesztés gyorsulásából mennyi köszönhető az önfejlesztési visszacsatolásnak, és mennyi egyszerűen a több számítási kapacitásnak, a jobb adatoknak, a jobb infrastruktúrának vagy az emberi kutatói munkának. A Tom's Hardware is erre mutatott rá az Anthropic egy nyári jelentésével kapcsolatban, mert

a látványos számok önmagukban nem bizonyítják, hogy a képességnövekedés fő hajtóereje már az AI által végzett AI-fejlesztés lenne.

Az Epoch AI egyik elemzése szerint ezekné mélyebb elméleti korlátot jelent, hogy nem biztos, hogy a kutatás tetszőlegesen párhuzamosítható. Még ha sok ezer AI-ügynök dolgozik is egyszerre, a munkájukat fel kell osztani, össze kell hangolni, majd értelmezhető egésszé kell összerakni. Ez pedig valószínűleg nem egy egyszerű feladat, így szerintük ezek a korlátok késleltethetik vagy tompíthatják azt a fajta technológiai robbanást, amelyet a legerősebb RSI-ről szóló forgatókönyvek feltételeznek.

Nem teljesen világos, hol is áll pontosan az RSI - Pedig fontos lenne tudni

A mérések körül azonban felmerül egy fontos kérdés, mégpedig az, hogy ezeket az adatokat maguk a cégek állítják elő. Ők látják a belső kódbázisokat, az ügynökök munkafolyamatait, a sikertelen kísérleteket és azokat a részleteket is, amelyekből kiderülne, mennyire önálló valójában egy rendszer. Az Anthropic szeptemberi jelentése ráadásul azt is elismeri, hogy a rendszereik önállóságát a saját modelljeikkel értékelik, így a bíró szerepét betöltő modell ugyanazokat a hibákat követheti el, mint az ellenőrzött rendszer.

Ezért vált központi kérdéssé a független értékelés. Amodei javaslata szerint külső, beágyazott szakértőknek kellene alkalmazotti szintű hozzáférést kapniuk a laborok belső rendszereihez, hogy utólagos vállalati jelentéseken túl másból is meg lehessen ítélni a kockázatokat. Erre egyébként már van részleges precedens, hiszen a METR nevű független kutatószervezet a nyári Hugging Face-incidens után saját vizsgálatot végzett, amelyből olyan részletek is kiderültek, amelyek az OpenAI közleményében nem szerepeltek.

Ilyen betekintés nélkül a közvélemény és a szabályozók egyaránt ki vannak szolgáltatva a vállalati optimizmusnak és a vállalati vészjelzéseknek.

Ugyanazok a laborok állítják, hogy az AI-rendszereik gyorsítják a saját fejlesztésüket, és ugyanazok kérik, hogy a világ vegye komolyan az ebből fakadó kockázatokat.

A címlapkép illusztráció. Címlapkép forrása: Getty Images