Életveszélyes mesterséges intelligencia fegyverkezési verseny zajlik a világban

Ez itt az on the other hand, a portfolio vélemény rovata.

Ez itt az on the other hand, a portfolio vélemény rovata. A cikkek a szerzők véleményét tükrözik, amelyek nem feltétlenül esnek egybe a Portfolio szerkesztőségének álláspontjával. Ha hozzászólna a témához, küldje el cikkét a velemeny@portfolio.hu címre. A megjelent cikkek itt olvashatók.

Ma már nem az a kérdés, hogy létrejön-e szuperintelligencia, hanem hogy mikor?

Jelenleg két dolgot nevezünk mesterséges intelligenciának a köznyelvben, amit érdemes megkülönböztetni. Az egyik az általános mesterséges intelligencia, ami egy olyan rendszer, amely emberi szinten vagy azt meghaladóan képes gondolkodni és problémákat megoldani. Ezt nagyjából úgy lehet elképzelni, mintha Einstein agyát bescannelnénk egy óriási számítógépbe, amin keresztül az hozzáférne minden információhoz, és milliárdszoros sebességgel tudna gondolkodni. Egy ilyen rendszer megalkotásának pillanatában kiszámíthatatlan technológiai fejlődéshez és kockázatokhoz vezetne. Ez a képzeletbeli Einstein, egy másodperc alatt végig tudná gondolni több ezer év tudományos eredményeit a fizika területén, mondjuk képes lenne kitalálni az otthoni sóból és borsból előállítható atombomba képletét, vagy az ingyen energia megoldását. Egyik rendkívül ijesztő, másik viszont igazán csábító.

A mesterséges intelligencia még egy kevésbé "szuperintelligens" változata is hatalmas változásokat hozhat a társadalom számára. Például a nagyarányú munkanélküliséget, az élethű kép és hang manipulációt vagy a mindennapi politikai befolyásolás új szintjét. Ezek mind olyan kihívások, amelyekkel szembe kell néznie az emberiségnek. Azonban az általános mesterséges intelligenciát mindenki földhözragadt módon gondolja el. Úgy, mint az Asimov regényekben: lesz egy robot, akivel beszélgetünk, és aki talán veszélyes lehet, talán nem. Ez az emberi gondolkodásban gyakran elkövetett hiba: antropomorfizmusnak nevezzük, azaz emberinek képzeljük el az élettelen dolgokat.

Valójában semmi garancia nincs arra, hogy az általános mesterséges intelligencia emberi ésszel felfogható lesz. Mi van, ha olyan intelligencia jön létre, aminek a motivációit le sem tudjuk fordítani? Talán az egyetlen közös pontja az lesz velünk, hogy ugyanazon a bolygón lakunk. A nyelv azért jött létre, hogy a motivációkat össze lehessen hangolni. Ahhoz, hogy mi emberek kommunikálni tudjunk, nem is a nyelv a lényeges, hanem hogy a motivációink egy koordináta-rendszeren belül mozogjanak. Az általános MI nagy kockázata, hogy nem a nyelv, hanem az igény fog hiányozni arra, hogy kommunikáljunk. Ahogy egy kedvenc írom, Nick Bostrom mondja, “egyáltalán nem mi vagyunk az elképzelhető legokosabb életforma; valószínűleg inkább úgy jellemezhetnénk magunkat, mint a lehető legbutább faj, amely képes volt technológiai civilizációt építeni”.

Az MI fejlesztő cégek világában ezt sokan látják is, a verseny miatt azonban mindenki úgy érzi, hogy nem fékezhet. Mindez egy klasszikus játékelméleti dilemma, olyan fegyverkezési verseny, amiben a szereplők hiába érzik a veszélyt, csak előre mehetnek. A Google azt gondolja, ha nem ő csinálja meg, akkor az Apple fogja. Az USA kormánya pedig azt, ha leszabályozza az MI fejlesztést, akkor a Kínaiak bukkannak az új atombombára. A mai helyzet egy fokkal se veszélytelenebb, mint a hagyományos fegyverkezési versenyek. Nem véletlenül szólalnak fel tudósok és sokan maguk a mesterséges intelligencia fejlesztők is a kontrollálatlan MI fejlesztés ellen.

Ami tehát a széles körben használható MI fejlesztésnél zajlik jelenleg, az olyan, mint amikor tiszta erőből futunk a sötétbe, és reménykedünk, hogy nincs előttünk szakadék. De amikor mesterséges intelligenciát használó cégekről beszélünk, valójában legtöbbször nem az általános MI-ről van szó, hanem a gépi tanulás egy behatárolt szeletéről, ami nem rejt ehhez hasonló kockázatokat. Másokat viszont igen.

Kisebb forradalom – a gépi tanulás egy szerszám, ami kiegészíti az embereket

A gépi tanulás, nevezhetjük ezt specializált mesterséges intelligenciának az általánossal szemben, egy eszköz, amivel dolgozni lehet. Ez nem egy embereket helyettesítő megoldás vagy ahhoz hasonló intelligencia, hanem az emberek hatékonyságát növelő célszerszám. Természetesen minden szerszámnál, még az olyan egyszerűeknél, mint a kőbalta is voltak etikai kérdések, hiszen nem csak a vadállatot, hanem a szomszédot is agyon lehetett ütni vele. Azonban, itt egy teljesen más dimenzióról van szó. Az egészségügyi MI-n keresztül mutatom be, miért kulcsfontosságú és kezelhető eszköz a specializált gépi tanulás.

Eljutottunk a kutatás-fejlesztés azon szintjére, hogy képesek vagyunk olyan mesterséges intelligencia alapú diagnosztikai eszközöket készíteni, amik elég magabiztosan, 80-90%-ban meg tudják mondani kép, hangfelvétel, vagy egyéb biológiai adatok alapján, milyen betegségben szenvedünk. Az orvos így kap egy eszközt, amivel gyorsabb és pontosabb döntést tud hozni. A specializált orvosi MI-k azonban többre is képesek, automatizálni, illetve digitalizálni tudják a betegfelvételt és a betegek osztályozását. Ez a digitáliskórház-modell, ami miatt ma képesek vagyunk elkezdeni átszervezni az egészségügyi folyamatok komoly részét a virtuális térbe.

A digitáliskórház-rendszerek azért jók, mert rengeteg olyan helyzet van az orvos-beteg kapcsolatban, amelyek egymással nincsenek szinkronban. Például az orvos szeretne munkaidőben rendelni, a betegek pedig szeretnének munkaidőn kívül orvoshoz járni. Vagy az orvos szeretne kutatással és a gyógyítással foglalkozni, de nem szeretne foglalkozni az adminisztrációval és a túl egyszerű esetekkel. Az is mindennapos, hogy a betegnek nehéz eljutnia az orvoshoz, mert utaznia kell vagy olyan testtáját kell megmutatnia, ami számára nem komfortos. Ezeket mind feloldja a digitális egészségügyi infrastruktúra azáltal, hogy mindenki ott és akkor kerül kapcsolatban a digitális kórházzal, amikor és ahol neki kényelmes. Az orvos pedig diagnosztizálhat a kedve szerint éjszaka vagy nappal, 10 perces időszakaszokban vagy hosszú órákon keresztül, ő dönti el. Ami viszont a legfontosabb, az adminisztráció a beteghez kerül. A beteg számára az a tíz perc amíg regisztrál és leírja a tüneteit nem nagy energiabefektetés, azonban egy orvosnál, napi 20 páciens esetén ez a feladat felemészthet több mint három órát. Nem véletlen, hogy a kutatások mind azt mutatják, hogy az orvosok jelenleg a munkaidejük felét adminisztrációval töltik. Ez egy az egyben lefelezhető. 

Persze az egészségügyön kívül is számos jó példa van. Az ipari hegesztés területén az MI például képes segíteni a hegesztés erősségvizsgálatában. Régebben ez a folyamat manuálisan történt, de ma már egyszerűen elvágják a vizsgált anyagot, készítenek egy fotót róla, és az MI elemzi a képet, hogy meghatározza a szemcseszerkezetet. A rendszer képes a mikroszkopikus szintű információk kiértékelésére, és megbízhatóan megállapítja az anyag erősségét, anélkül, hogy emberi beavatkozásra lenne szükség. Ez a technológia jelentős idő- és költségmegtakarítást eredményez, miközben nagyobb biztonságot és minőséget biztosít a hegesztett termékek esetén. Erről soha nem hallunk, pedig nagyon jól működő megoldásról van szó. Az ipari hegesztő MI vagy az orvosi diagnosztikai MI azonban nem valódi általános mesterséges intelligenciák, és semmi esély arra, hogy a világ elpusztítására törjenek.

Nekünk fejlesztőknek és szolgáltatóknak van a legnagyobb felelősségünk

Az egészségügyi mesterséges intelligencia azonban nem mentes az etikai dilemmáktól. Az adatvédelem, az empatikus orvosi kommunikáció megszervezése a digitális térben és az MI döntéshozatali folyamatai mind fontos kérdések, amelyeket figyelembe kell venni.

A legnagyobb etikai kérdés talán az, hogy amiből tanítjuk a mesterséges intelligenciánkat, az egy magas minőségű, felülvizsgált adatbázis-e. Ha gyenge minőségű adatot hozunk be, növeljük a későbbi hibák kockázatát: eltörik a hegesztett cső vagy félrediagnosztizál az orvos. A kép alapján diagnosztizáló bőrgyógyászati MI esetén például ez azt jelenti, minden egyes bőrbetegségről készült képet, amit betáplálunk a tanuláshoz, három különböző bőrgyógyászának is meg kell erősítenie, hogy az adott képen biztos a megfelelő bőrbetegség címke szerepeljen. El tudjuk képzelni, mennyi pénzbe és időbe kerül mindez, egy több milliós adathalmazon. A magas költségek miatt csábító rövidebb utakat választani. Így kerülhetnek át például rasszista előítéletekből származó döntési hibák specializált mesterséges intelligenciákba, mert egyszerűen átviszik az emberi előítéleteket is tartalmazó adatokat a tanulósorba. Képzeljük el, ez mekkora hiba, amikor mondjuk hitelminősítést segítő algoritmust fejlesztünk, amiben pont az lenne jó, hogy a program színvak.

Fontos, hogy az általános mesterséges intelligenciára vonatkozó jogos morális pánik ne terjedjen át a specializált gépi tanulási modellekre. Ezekre szükségünk van, ugyanis a mai világ annyira bonyolult és összetett, hogy csak ezekkel az algoritmusokkal tudjuk hatékonyan kezelni. A betegek és az orvosok bizalmát fel kell építeni az MI-rendszerek kapcsán, és gondoskodni kell arról, hogy azok a megfelelő etikai normákat kövessék. Az egészségügyi mesterséges intelligencia egy kulcsfontosságú és kezelhető eszköz a modern orvostudományban. Segít felgyorsítani a diagnózisokat, fejleszti a betegellátást, és hozzájárul a hatékonyabb kezelések kidolgozásához. Ez egy olyan jól funkcionáló eszköz, amelyet alkalmaznunk kell a saját egészségügyi rendszereinkben, hogy azok hatékonyabbá, olcsóbbá és pontosabbá váljanak. Ez nem a Skynet, hanem csak egy szuper okos asszisztens, aki soha sem fog fellázadni ellenünk. Ebben megéri versenyezni, hogy a legjobb megoldások terjedjenek el, ráadásul minél hamarabb.

Címlapkép forrása: Getty Images