A mesterséges intelligencia etikája lehet a sikeres fejlesztések alapja

Néhány hónap múlva, 2025. február 2-től életbe lépnek az Európai Unió mesterséges intelligencia rendeletének (AI Act) tiltott MI alkalmazásokra irányadó szabályai. A rendelet további előírásait a következő évek előre ütemezett időpontjaitól kell alkalmazni. Természetesen nem az AI Act az egyetlen jogszabály, amelynek meg kell felelnie egy vállalatnak, ha mesterséges intelligenciát (MI) kíván alkalmazni.

Az MI, mint adatokra épülő technológia kapcsán az egyik legnagyobb kihívás a GDPR rendelkezéseinek betartása, de a szerzői jogi, termék- és kárfelelősségi előírások is kiemelt jelentőségűek. A fokozódó kiberbiztonsági kockázatok folytán alapvető fontosságú az IT-biztonsági követelmények magas szintű teljesítése is. Mindezek mellett a pénzügyi szervezeteknek arra is kiemelt figyelmet kell fordítaniuk, hogy az MI modellek alkalmazása ne veszélyeztesse a prudenciális és fogyasztóvédelmi előírások megtartását.

A Magyar Nemzeti Bank (MNB) figyelemmel kíséri a hazai pénzügyi szektor digitális átalakulását, és annak keretében az MI alkalmazását is. Emellett informatikai felügyeleti tevékenysége körében ellenőrzi, hogy a pénzügyi szervezetek az IT-biztonsági előírásokat az MI-rendszereik tekintetében megfelelően teljesítik-e. Az MNB 2024. évi Fintech és Digitalizációs jelentése szerint „a bankok (…) egy része a tájékozódás és kivárás stratégiáját választotta, míg mások már aktívan kutatják, használják és akár fejlesztik is az MI különböző formái által lehetővé tett szolgáltatásokat".

A hazai bankok kétharmada stratégiai és operatív szinten is számol az MI alkalmazási lehetőségeivel.

A biztosítók tekintetében a „termékeik és folyamataik még sok esetben elmaradottak a modern elvárások szemüvegén keresztül nézve, stratégiai és operatív szinten azonban már az intézmények fele foglalkozik a mesterséges intelligencia alapú megoldások implementálására és üzemeltetésére vonatkozó elvek, módszertanok alkalmazásával” – fogalmaz a jelentés.

Úgy tűnik, hogy a pénzügyi szektor az MI bevezetésének kezdeti szakaszában tart: a szereplői alkalmaznak ugyan MI-rendszereket, de egyelőre inkább a kísérletezés és útkeresés, további felhasználási esetek azonosítása és óvatos bevezetése jellemző. A megfelelési kérdések jellemzően az egyedi ötletekhez és projektekhez kapcsolódnak, továbbá a lehetőségek és kockázatok elemzése többnyire a kialakult irányítási és kockázatkezelési kereteken belül történik.

Az MI potenciáljának magasabb szintű kihasználása érdekében továbblépés szükséges, amit a tudatosság és stratégiai gondolkodásmód megújítása is segíthet. Lendületet adhat egy olyan szemléletváltás, amely szerint a vállalat egésze tekintetében értelmezendő az MI-megfelelés. Utóbbi pedig e felfogásban nem egy szükséges rossz, nem csupán az elvárások, követelmények teljesítése, „kipipálása”.

A megfelelés az etikus MI melletti aktív, sőt proaktív elköteleződést jelenti. A felelős MI-használat irányultsága nem a helytelentől való tartózkodás, hanem a helyes megcselekvése, a kiválóságra törekvés. A felelősség e tekintetben a tenni akarást és hatóképességet fejezi ki, nem a hibázást és hibáztatást. Végül a megfelelés az MI etikai elveinek, az egyén, a társadalom és a bolygó javának előmozdítására irányul, ami lényegesen összetettebb felelősségre hív, mint önmagában a jogszabályok, esetleg felügyeleti elvárások kényszerű szem előtt tartása. Az MI fejlesztése és alkalmazása akkor felelős, ha emberközpontú és nem technológia-központú.

Mindezek nem csupán tetszetős, hangzatos szavak, hiszen neves szakértők és tanácsadó cégek éppen arra mutatnak rá, hogy

az MI felelős vállalati alkalmazása pénzben is kifejezhető üzleti értéket képviselhet.

Már önmagában versenyelőnyt jelenthet az MI etikus alkalmazása melletti nyilvános és hiteles elköteleződés. A felelősség kinyilvánítása vonzóvá teheti a vállalatot, hiszen növeli az ügyfelek, az üzleti partnerek és a befektetők bizalmát. Az etikus működés továbbá csökkentheti az MI-projektekre jellemző kudarcok számát és mértékét, a bekerülési költségeket és a következményi károkat. Nagyobb eséllyel óvhat meg a jogi, hatósági és üzleti kockázatoktól. Segít a legjobb felhasználási esetek kiválasztásában és megvalósításában, illetve a fejlett modellek eredményes alkalmazásában. Végül növelheti a sikerességet és az üzleti célok érdemi támogatását, javíthatja a megvalósítás hatékonyságát, emelheti a megtérülést.

Joggal merülhet fel a kérdés, hogy mit jelent és hogyan valósítható meg a hétköznapok gyakorlatában az MI etikája. Az etikus MI a vállalat egészét illetően jelenti a kiválóságra törekvést, annak minden szintjét szellemiségében is áthatva. Ahogyan a fejlődés előrehaladtával az MI – különösen a generatív mesterséges intelligencia térhódításával – egyre mélyebbre hatóan átszövi a működés minden vetületét, az MI etikus alkalmazása is mind kevésbé szorítkozhat pusztán az egyes MI-projektek megfelelőségének vizsgálatára.

Stratégiai szintű előre lépéssel a vállalat teljes működése tekintetében az emberi jogok, a közösségi érdekek és a bolygónk védelmének egyidejű előmozdítására szükséges törekedni. A megvalósítás hatékony módja a szervezeti szintű MI-irányítási keretrendszer kiépítése és működtetése. Ennek természetesen előfeltétele és alapja a felsővezetői elköteleződés, majd az MI stratégia megalkotása. Mindezek megragadható kiindulópontja pedig a vállalati MI-érettség felmérése lehet.

Egy vállalat MI-érettsége azt fejezi ki, hogy mennyire áll készen az MI technológiájának alkalmazására, milyen szinten alkalmas MI-projektek eredményes megvalósítására. Egy érett vállalat képes integrálni az MI-t az alapvető üzleti folyamataiba, adatközpontú döntéshozatalt alkalmaz, és mindezt megfelelően támogatja a technológiai infrastruktúra és a vállalati kultúra. Ezzel szemben az alacsonyabb érettségi szintű vállalatok gyakran csak a technológia megértésének kezdeti fázisában járnak, vagy egyszerű kísérleti projekteket futtatnak.

Az érettség mérése éppen azokat a tényezőket vizsgálja, amelyek kritikus jelentőségűek az MI rendszerek szempontjából. Így kiemelt fókusz irányul a stratégiára, az adatvagyongazdálkodásra, a technológiára és az emberi erőforrásokra. A modell alkalmazásával a felsővezetés visszajelzést kaphat a vállalat MI szempontú működéséről, az erősségekről és gyengeségekről, majd ezek elemzésével határozhatja meg a stratégiai szintű üzleti és fejlesztési irányokat. Több MI-érettségi modell is ismert, és számos útmutató és gyakorlati módszertan segíti a felmérést.

A vállalati érettség elemzése alapján elkészített MI-stratégia jelenti az MI-irányítási keretrendszer alapdokumentumát. A stratégiai irányok részletes kimunkálásával pedig kialakítható az MI irányítás operatív szintje, amely a szerepkörök és felelősségek nevesítését, valamint a folyamatok, mechanizmusok működtetését jelenti.

Ha a pénzügyi szervezetek a fentiek szerint járnak el, magas szinten biztosíthatják MI-rendszereik tekintetében az AI Act, a GDPR és a prudenciális és fogyasztóvédelmi előírásoknak való megfelelést. Az MI etikus, emberközpontú fejlesztése és alkalmazása segíthet számukra, hogy a megfelelést ne kényszerként éljék meg, hanem kiválósági és üzleti nyereségként.

* A szerző a Magyar Nemzeti Bank vezető módszertani szakértője.

Digital Transformation 2024

Erről a témáról is szó lesz a Portfolio jövő csütörtöki Digital Transformation rendezvényén. Regisztráció és részletek itt!

Információ és jelentkezés

A címlapkép illusztráció. Címlapkép forrása: Getty Images