Digitális dolgozók és személyi AI-asszisztensek: így készülhetnek fel a vállalatok a mesterséges intelligencia alapú ügynökök használatára

A mesterséges intelligencia kapcsán sokat hallunk a nagy nyelvi modellekről, ugyanakkor az AI ügynök fogalma még mindig viszonylag ismeretlen sokak számára, pedig egyre inkább jelen van a mindennapjainkban. El tudná magyarázni, hogy mi is ez?

Az agentikus AI, vagy AI ügynök valójában egy olyan szoftver, amely meghatározott paraméterek alapján ad kimenetet. Ehhez a kimenethez több összetevőt használ: például olyan eszközöket, amelyek különböző rendszerekhez és adatbázisokhoz kapcsolódnak. Emellett memóriát is használ az eredmények tárolására és a következő beszélgetések kontextusának fenntartására, hiszen maga az interakció eleve párbeszédalapú. Emellett különböző adatforrásokra támaszkodik az információk lekéréséhez. Mindez végső soron az LLM-ben — a nagy nyelvi modellekben — összpontosul, amely biztosítja azt a kontextuális alapot, amely a további lépéseket meghatározza.

Ilyen értelemben az AI-ügynök tulajdonképpen az a „jármű”, amelyen keresztül az AI elérhetővé válik a felhasználók, sőt akár más gépek számára.

Ha azt nézzük, hogyan működnek ma az AI-ügynökök, több formában is megjelenhetnek.

Létezhet egy személyes ügynök, amely kifejezetten egy adott felhasználót szolgál — ilyen például a Siri-szerű asszisztens. A szervezetek ezzel szemben gyakran személyi asszisztensként működő ügynököket alkalmaznak ügyfeleik számára: a Walmart vásárlási asszisztense is egy ilyen digitális segítő, amely végigkíséri a felhasználót a vásárlási folyamaton. A spektrum másik végén pedig ott van a digitális munkavállaló, egy autonóm rendszer, amely szinte alkalmazottként működik, de kizárólag digitális formában, és önállóan végez el bizonyos rutinszerű, ismétlődő feladatokat.

Az előrejelzések szerint az agentikus AI piaca közel tízszeresére nőhet 2030-ra. Az Ön szerint mik lehetnek a fő üzleti hajtóerők a növekedés mögött, és milyen felhasználási esetek válhatnak a legelterjedtebbé?

A mi előrejelzéseink szerint ez a piac két évente duplázódik, sőt, az én elemzésem alapján ez valójában még gyorsabb ütemet mutat. Óriási hangsúly van rajta – nemcsak a hype, hanem a tényleges megvalósítás szintjén is.  

A növekedés mozgatórugói közül az egyik legfontosabb a jobb felhasználói élmény és a fogyasztói csatornák felé irányuló, súrlódásmentes szolgáltatások iránti igény, és ez az a terület, ahol jelenleg a legnagyobb lendület látható. Az iparágak közül, ahol már most erősen megjelent, a telekommunikáció, a kiskereskedelem, a pénzügyi szektor, a banki és biztosítási terület emelhető ki, de idővel pedig minden ágazatban terjedni fog. 

A vállalatok számára egyértelműen a jobb ügyfélélmény, a bevételek növelése, illetve bizonyos mértékű költségmegtakarítás a fő szempont – utóbbi esetben a digitális munkatárs szerepe válik hangsúlyossá. A helpdesk terület például tipikus esete ennek, ahol a rutinszerű feladatokat nem szükséges többé manuálisan elvégezni; ezek teljes mértékben automatizálhatók, ami jelentős megtakarítást jelent a szervezeteknek.

Emellett időnként megjelenik egy harmadik tényező is: a szabályozás. Az EIDAS bevezetésével például előtérbe került a digitális identitás, a decentralizált identitás, a digitális credenciálok és a zero-knowledge proof-ok világa. Ezek mind abba az irányba terelnek, hogy a felhasználókhoz kapcsolódó adatok ne egyetlen szereplő – sem a szervezet, sem az ügynök – kezében összpontosuljanak, hanem decentralizált módon legyenek kezelve. Mindezek együtt jelentik azokat a tényezőket, amelyek előreviszik ezt a területet. 

Ahogy az AI-ügynökök egyre több döntést és tranzakciót hajtanak végre önállóan, hogyan lehet megtalálni az egyensúlyt a felhasználói élmény, az automatizáció és a biztonság között?

Ezeket a szempontokat valóban figyelembe kell venni, amikor az AI-ügynökök éles környezetben történő bevezetéséről beszélünk.

A felhasználói élmény és a biztonság között mindig fenn kell tartani egy egyensúlyt. Ha túlságosan a felhasználói élményre helyezzük a hangsúlyt, akkor fennáll a veszélye annak, hogy a biztonság sérül, ami később reputációs kockázathoz vezethet. Ugyanakkor az sem célravezető, ha a biztonsági szempontok kerülnek túlsúlyba, mert ez jelentős felhasználói súrlódást eredményez. Véleményem szerint mindezek miatt szükség van emberi felügyeletre. 

Például egy vásárlási folyamat során — a Walmart példájánál maradva — a digitális ügynök feladata, hogy a legalacsonyabb árakat kiválassza, és ezeket a termékeket megvásárolja. Ugyanakkor nem lenne célravezető, ha az ügynök választana nagyértékű termékeket, például autókat is - itt válik kulcsfontosságúvá a humán kontroll. A mesterséges intelligenciával küszöbértékek is meghatározhatók: például, ha a tranzakció értéke 50 dollár alatt van, akkor automatikusan végrehajtható, ha azonban efölött van, akkor push értesítésre van szükség, mert emberi jóváhagyást igényel. Ez az extra biztonsági lépés rendkívül fontos. 

Egy másik fontos szempont, hogy az AI-ügynökök ne személyesíthessék meg a felhasználókat. Lehetővé kell tenni, hogy feladatokat delegáljunk nekik, de a gép ne imitálja az emberi felhasználót, ne vegye át annak digitális identitását. 

A megszemélyesítést mindenképpen érdemes elkerülni, mert kockázatos, és az elszámoltathatóságot is rendkívül megnehezíti. Ezzel szemben a delegáció azt jelenti, hogy az ügynök saját identitással rendelkezik a rendszerben, és egyértelmű kapcsolat jön létre a felhasználó és az ügynök között. Így behatárolható, hogy az AI-ügynök milyen műveleteket végezhet és nyomon követhető, hogy ki cselekszik kinek a nevében.

A piacon már rendelkezésre állnak erre szabványok, például az OAuth 2.1, amelyek segítségével definiálhatók az ügynökök által végezhető és nem végezhető műveletek körei. Ezek a jogosultsági keretek időben is korlátozhatók, így az AI-ügynökök nem válhatnak „önjáróvá”, és nem végezhetnek nem várt műveleteket.

A gyakorlatban milyen technikai és biztonsági mechanizmusok szükségesek ahhoz, hogy az AI-ügynökök működésében mindig biztosítva legyen az emberi kontroll? Hogyan lehet kezelni azt, ha egy AI-ügynök öntörvényűvé válik?

Az emberi kontroll biztosítására több megoldás is létezik. Meghatározhatjuk ezt már a regisztráció során, alkalmazhatunk push értesítést úgynevezett back-channel autentikációval (CBA), vagy definiálhatunk olyan paramétereket és küszöbértékeket, amelyeknél a humán beavatkozás szükségessé válik. Ez a beavatkozás történhet push értesítés útján, egy megjelenő prompt révén, vagy egy olyan verifikáción keresztül, amelyet a felhasználónak a hitelesítő adaton kell végrehajtania.

Az ilyen rendszerek tervezése során a jogosultsági kört a felhasználási területnek megfelelően kell kialakítani. Figyelembe kell venni, hogy milyen típusú ügynököt kívánunk létrehozni: személyi ügynököt, digitális munkavállalót vagy digitális asszisztenst. Ennek megfelelően változik a bizalmi határ, és ezzel együtt a kockázati besorolás is.

Pldául, ha digitális munkavállaló működik a rendszerben, a bizalmi határ lehet magasabb, hiszen a szervezeten belül végzi a tevékenységét. Ha viszont személyi ügynökről beszélünk, amely a felhasználó nevében jár el, a bizalmi határ és a kockázati tényezők is jelentősen módosulnak. 

A lényeg, amit ki szeretnék emelni, hogy a biztonság alapelvei mindig ugyanazok: minden esetben szükség van emberi kontrollra, az eszközök hitelesítésére és engedélyeztetésére, valamint definiálni kell azt is, hogy az AI-ügynökök milyen jogosultságokkal rendelkezhetnek. 

Az AI-ökoszisztéma gyors fejlődésével párhuzamosan új szabályozások és adatvédelmi elvárások jelennek meg világszerte. Hogyan látja az AI-ügynökökre vonatkozó szabályozási környezet alakulását?

Egyértelműen látszik, hogy a szabályozási környezet már most formálódik, és ez a következő években még tovább fog erősödni. Több ország már külön AI-törvényeket vezetett be, és kifejezetten mesterséges intelligenciáért felelős minisztériumokat hozott létre.

A Közel-Keleten például Szaúd-Arábia és az Egyesült Arab Emírségek is komoly AI-kezdeményezéseket indított, saját adatközpontokat építve, azzal a céllal, hogy regionális AI-központtá váljanak. Ez pedig szükségszerűen együtt jár azzal, hogy erős szabályozási kereteket kell kialakítaniuk.

A szabályozás egyik központi kérdése az adatvédelem, hiszen, ha egy ügynök kezeli a felhasználó összes adatát, az a legnagyobb aggregált kockázatot jelenti. Egyetlen olyan „honeypot” keletkezik, amelyet a támadók megpróbálnak kompromittálni. Ezért a szabályozások minden bizonnyal ki fognak terjedni az olyan védelmi mechanizmusokra, mint a zero-knowledge proofok vagy a nagyon finom szemcsézettségű, kontextuális és időben korlátozott hozzáférés-kezelés. Ezek képesek minimalizálni a károkat még akkor is, ha az ügynök kompromittálódik. 

A másik fontos tényező az adatrezidencia és az azzal kapcsolatos követelmények. Egyre több szervezet szeretne AI-t bevezetni úgy, hogy közben az adat mégis on-premise maradjon, akár teljesen internetmentes lezárt környezetben. Ez is jól mutatja, hogy az AI nem egyenlő a felhővel, és a felhő sem egyenlő az AI-val. A szabályozásoknak tehát alkalmazkodniuk kell ahhoz, hogy az AI-ügynökök olyan infrastruktúrákban fognak működni, amelyek teljesen eltérnek a klasszikus felhőarchitektúráktól.

Összességében a szabályozási környezet gyorsan fejlődik, és egyre inkább a biztonság, az adatvédelem, az adatrezidencia és a transzparens, auditálható AI-működés irányába mozdul el. Ezzel párhuzamosan a vállalatoknak mind technológiai, mind működési oldalról alkalmazkodniuk kell ahhoz, hogy az AI-ügynökök a jövőben kulcsszereplőkké válnak a digitális ökoszisztémában.

A cikk megjelenését a Ping Identity támogatta.

Címlapkép forrása: Stiller Ákos

A cikk elkészítésében a magyar nyelvre optimalizált Alrite online diktáló és videó feliratozó alkalmazás támogatta a munkánkat.