Készman József, a Ludwig Múzeum kurátora
Gazdaság

Mikor veheti át a technika az uralmat? - Könnyen kicsúszhat az emberiség kezéből az irányítás

Gergely András
A digitalizáció és a mesterséges intelligencia fejlődésévél egyre közelebb kerül az emberiség ahhoz a ponthoz, amikor a gépek fölött elveszti a kontrollt, és egy teljesen újfajta ember–gép reláció jön létre. A szingularitásnak nevezett holtponti állapot utáni időkre a társadalom egyáltalán nincs felkészülve, nincs egyetértés abban sem, hogy ez hosszú távon előnyös vagy inkább hátrányos az emberi civilizáció számára. A diskurzus jóformán el sem kezdődött, a szélesebb körű párbeszéd még várat magára. A művészi kifejezés azonban alkalmas lehet arra, hogy a jelenségre szélesebb körben is felhívja a figyelmet. Ezért a budapesti Ludwig Múzeum „Nem vagyok robot. A szingularitás határán” címmel rendez nemzetközi kiállítást, amely rávilágít az emberiségre elkerülhetetlenül váró folyamatokra. Igyekszik a közbeszéd részévé tenni a szingularitás jelenségét. A szeptember 16-án nyíló kiállítás kapcsán a Portfolio Készman Józsefet, a tárlat kurátorát kérdezte a lehetséges egzisztenciális és társadalmi hatásokról és a művészi kifejezésben rejlő lehetőségekről.

A kiállítás plakátja, és a cím: „Nem vagyok robot. A szingularitás határán” sokat sejtet. A szingularitás fogalmát az információtechnikában, fizikában evidensen használják, de a köztudatban mégis kevéssé ismert fogalom. Miért vált aktuálissá az ember – gép, az emberi- és mesterséges intelligencia viszonyát vizsgáló művészeti tárlat bemutatása?

Készman József: A szingularitásnak nevezett jelenség egyaránt jelen van a számítástechnikában, az információtechnikában vagy a kultúrában. Egyfajta kritikus pontot jelöl, amikor a tudósok azt feltételezik, hogy a technológia fejlődése folyamán egyszer csak eljön egy olyan pillanat, amikor az ember, aki létrehozta a technológiát, elveszíti a kontrollját a folyamatok felett. Sajátos törvények, jelenségek alakulnak ki, amelyek korábban nem léteztek, és amelyeket sokkal kevésbé vagy egyáltalán nem ismerünk. Ennek a kritikus pontnak a társadalmi értelmezése igen szélsőséges, lehet utópisztikus, de disztópikus is.

Utópia akkor, amikor azt feltételezzük, hogy a gép sohasem fog tudni teljesen önállóan cselekedni, az ember valamiféle kontrollt mindig tud majd gyakorolni a működése fölött. Folyamatosan tökéletesíthetjük a technológiát, amelyet a saját javunkra fordítunk. Disztópia pedig akkor, amikor attól félünk, hogy a gépek „fellázadnak”, az ember teljesen elveszíti az irányítást, a technológia öntudatra ébred és kiismerhetetlenné, kontrollálhatatlanná válik.

Ez futurisztikusan hangzik, pedig a jelenség időben és térben egyaránt közel van hozzánk. Mégsem vagyunk tisztában azzal, hogy mi is történik pontosan akár a leghétköznapibb tevékenységeink közben.

Készman József, a Ludwig Múzeum kurátora
Készman József, a Ludwig Múzeum kurátora

A kiállítás előkészítése során bennünket elsősorban nem a technológia vagy a mesterséges intelligencia fejlettsége érdekelt, hanem az, hogy az emberek életére, ezen keresztül pedig a társadalomra ez milyen befolyást gyakorol, milyen változásokat indít(ott) el. Azt gondolom, hogy a művészet kifejezetten alkalmas arra, hogy erre a sokak számára ismeretlen jelenségre szemléletesen hívja fel a figyelmet. Elég sok – főként külföldi – képzőművész foglalkozik a témával, döntően az ő műveikből válogattuk a tárlatot.

A történelemben mindig voltak tendenciák, irányzatok, amelyek felé haladtak a különböző kultúrák. Ezek természetszerűen ellentétes vonulatokat is életre keltettek. Voltak olyan korszakos eszmei felismerések pl. humanizmus, reneszánsz, amelyek a társadalmi, hatalmi és persze a művészi diskurzus meghatározói lettek. Ma a digitalizációról, a mesterséges intelligenciáról, a robotizációról folyik diskurzus, amely az emberi civilizáció útkeresését, fejlődési irányait meghatározza?

Tulajdonképpen már régóta egy olyan folyamat részesei vagyunk, amely egyre közelebb visz a szingularitáshoz. Bár elméletben létezhet olyan kritikus pont, amikor az ember végleg elveszti az uralmát a gépek felett, és a technológia teljes totalitásában uralja a világot. A kérdéskörben rengeteg a feltételezés, és ugyanakkor az egyet nem értés. Ki és mikor mondja meg, hogy ez a pont mikor következik/következett be? Csak egy példát említek erre vonatkozóan: 1997-ben a Deep Blue elnevezésű számítógép legyőzte az akkori sakkvilágbajnokot, Garri Kaszparovot. Sokan ezt olyan mérföldkőnek tekintik, amely a „gépi agy” diadalát jelenti az emberi elme felett. Ugyanilyen társadalmi léptékű mérföldkőnek nevezhető az okos-telefonok elterjedése, amely teljesen megváltoztatta az idő érzékelését, az időgazdálkodását, az információhoz való viszonyt, a privát és a nyilvános határait.

Tulajdonképpen azt mondhatjuk, hogy jelen pillanatban is ennek a szingularitásnak a határán bolyongunk, még akkor is, ha erre adott esetben nem reflektálunk.

Ha nem is akarunk vagy tudunk a jelenség ellen, vagy akár a jelenségért tevékenyen tenni, akkor is hasznos, ha tisztában vagyunk azzal, hogy mi történik körülöttünk, és hogyan szeretnénk viszonyulni hozzá. Mi mindenfajta kinyilatkoztatást igyekszünk mellőzni, egyaránt tudunk pozitív és negatív példákkal is szolgálni.

A művészet egyik alapvető feladata, hogy a saját eszközeivel felhívja a figyelmet a mindenkori, aktuális társadalmi jelenségekre, hatásokra, változásokra. A szeptember közepén nyíló tárlat problémafelvető, konceptuális kiállításnak tekinthető, ahol az esztétika kevésbé hangsúlyos, inkább a tematizálás és a reflexió kerül a fókuszba. Milyen művekre számíthat majd a látogató?

Lesz például egy alkotópárosunk, akik igazi kiborgok, vagyis valamilyen mesterséges technológiát ültettek be a testükbe. Az egyikük színvaknak született, és hogy ezt a problémáját orvosolják, beépítettek egy kamerát a koponyájába, amely a színeket szinesztéziás hatással hangokká alakítja. A technológia segítségével fog zenei performanszot tartani az alkotótársával közösen, akinek érzékelők és aktuátorok veszik körbe a szívizmait, és elektronikus jelek segítségével rögtön a szívébe vezethetjük érzéseinket, gondolatainkat.

James BRIDLE: Autonóm csapda/Autonomous Trap 001, 2017
James BRIDLE: Autonóm csapda/Autonomous Trap 001, 2017 Forrás: © A művész jóvoltából

Egy másik munka, például a mesterséges intelligencia egyik legelterjedtebb vagy legalábbis a legközismertebb felhasználási módját, az önvezető technológiát „figurázza ki” művészi eszközökkel. Úgy mutatja be a rendszer „butaságát”, hogy egy önvezető autó köré sót szór, ettől az autó megbolondul, próbál kimenni ebből a körből, de nem tud, mert azt érzékeli, hogy mindenütt vége van az útnak. Mauro Martino Empatikus tükör című munkája például egy tükör elé állva real-time megmutatja, hogy milyen lennél, ha fekete lennél, roma vagy kínai. Nagyon komoly kérdés, amivel szintén foglalkozunk, hogy hogyan lehet elrejtőzni a mesterséges intelligencia mindent látó szeme elől?

Mauro MARTINO: Empatikus tükör/The Empatic Mirror/Sfumato, 2019
Mauro MARTINO: Empatikus tükör/The Empatic Mirror/Sfumato, 2019

A szingularitás problematikájában – számunka – az a legérdekesebb, hogy a technológia hogyan kúszik be akár észrevétlenül a mindennapi életünkbe. Készítünk erre egy promó videósorozatot, az első részben Barabási Albert László fizikust, hálózatkutatót szólaltatjuk meg, aki egyértelműen kijelenti, hogy folyamatosan, az élet legtöbb területén érzékeli a szingularitás közeledtét. Korábban fizikusként ilyen fázisátmeneteket vizsgált, amikor a jég megolvad, vagy a víz, gőzzé válik. Ott is szingularitások vannak, határátmenetek, egyedi törvények. A kristályrácsból valami más lesz, de még mindig nem alakult át teljesen, hanem a határán van.

Ezek nagyon izgalmasak a fizika számára, és jól látható, hogy a szingularitásban ma használt kifejezések, szemléletek is leginkább ebből a tudományágból jönnek. Ugyanakkor az is a szingularitás jelensége volt, amikor megjelent az internet, és az emberekre hirtelen hatalmas mennyiségű információ ömlött. Ez kulturális szingularitás, vagyis teljesen más összefüggések vagy törvényszerűségek jelennek meg az ember számára, mint amiket korábban ismert.

A digitalizáció, automatizáció mit vesz el az embertől, mennyire rombolja azt a humanista eszményt, amely a nyugati civilizációban uralkodónak tekinthető?

Jó esetben nem rombolja le, hanem kiegészíti az embert, a számítógép ugyanolyan eszköz számára, mint a kalapács, viszont, ha disztópikusan értelmezzük, akkor rossz esetben a döntés lehetőségétől fosztja meg.

Van, aki azt mondja, hogy az is elég, ha a technológia legalább a döntés illúzióját meghagyja az embernek.

Nagyon fontos a tudatosság és a kontroll. Az európai civilizációban az éntudat, az öntudat és a döntés lehetősége, ami a racionalizmussal, a felvilágosodással jelent meg, kijelenti, hogy nem mások és nem Isten dönt rólunk, hanem mi magunk. És mi van akkor, ha az Isten szerepét hirtelen átveszi a technika? Ezt a döntnök szerepet nem szeretnénk átengedni a gépeknek.

Akár evolucionista, akár kreacionista szemlélettel tekintünk a teremtésre, alapvetően két teremtő szereplőről gondolkodunk: Istenről és/vagy a természetről, az emberről. Ha a technológia elér egy olyan fejlettségi fokot, amikor már emberi beavatkozás vagy kontroll nélkül képes teremteni, új szereplő lép be ebbe a több ezer éve feltételezett konszenzusba. Mit tud ezzel kezdeni a világ, az emberi társadalom?

Azt gondolom, hogy kicsit távoli példával éljek, olyan ez, mint a környezetszennyezés vagy a klímavédelem. A környezet óvása minden ember egyéni felelőssége is, mégis rengeteg társadalmat ez nem érdekel, nem reflektálnak a körülöttük lévő változásokra. Amíg egy adott jelenség az egyénnek jó, vagy a hasznára van, addig nem érdekli a mögöttes tartalom, nemhogy az ezzel kapcsolatos filozófiai, biológiai vagy esetleg teológiai kérdések. Miközben a technológia kordában tartása vagy egyáltalán csak a reflexió az emberiség minden egyedének a felelőssége kellene, hogy legyen. Sajnos egyelőre nem látom, hogy erről hogyan és hol lehetne világszinten diskurálni.

Az amerikai egyetemeken például van egyfajta ki nem mondott konszenzus a tudósok között, hogy a mesterséges intelligenciától egyáltalán nem kell tartani.

Ők valószínűleg jobban látják ennek az egésznek a működését meg a határait. A laikus ember szeret fantáziálni, elszabadulnak a gondolatai, és lehet, hogy csak eltúlozza a lehetséges negatív következményeket. Azt gondolom, hogy filozófiailag mindenképpen ott van benne a pozitív és a negatív lehetőség egyaránt, és erre ráerősítenek a kulturális tartalmak, például olyan sci-fik, amelyek a disztópiát vetítik előre.

Éppen a diskurzus hiánya miatt nagyon nehéz meghatározni a potenciális döntéshozók körét. Ki vagy mi döntheti el, hogy a szingulartiás utópiává vagy disztópiává válik?

Vagy kialakulnak egyfajta döntési centrumok a nagy techcégek körül, vagy lesznek kormányzati szereplők, akik igyekeznek racionális döntéseket hozni, de egyszerűen csak eldöntheti az élet is. A filmipar szolgáltat egy jó példát: amikor a 60-as, 70-es, 80-as években készültek filmek a nagy járványokról, akkor mind azt a perspektívát igyekeztek közvetíteni, hogy összedől a világ, az emberek kivetkőznek önmagukból, ölnek, gyilkolnak, kirabolják az üzleteket és megszűnik minden addigi társadalmi konszenzus. De lám-lám, a valóságban nem ez történt. Inkább mindenki a megoldást kereste, felerősödtek a kooperációs készségek. Ez alapján bőven elképzelhető, hogy a társadalmi folyamatok vezetnek majd olyan irányba, hogy nem veszítjük el a kontrollt, és az emberek közötti együttműködésben a technológia korlátozásra kerül. Ilyen értelemben a

mesterséges intelligenciának nem a mindent eluraló jellege fog érvényesülni, hanem inkább a szabályozói vagy kiegészítő szerepe.

Készman József, a Ludwig Múzeum kurátora

Lehet ez egy spontán társadalmi folyamat is, amely majd eldönti, hogy ki határozhatja meg, hogy a technológia milyen irányba és milyen fejlettségi szintig mozoghat. Ugyanakkor azt gondolom, hogy a nagy tech-óriások már valamilyen szinten mind használják a mesterséges intelligenciát sokszor ráadásul a tudtunk és megkérdezésünk nélkül. Az okos-telefonon végzett tevékenységünk vagy az internet használati szokásaink mind nyomot hagynak, amit nem is különösebben nehéz bizonyos algoritmusokkal elemezni, következtetéseket levonni belőlük és üzleti célokra felhasználni. Hiába nem barátja ennek elvben az európai kultúrkör – mivel alig-alig van diskurzus erről a témáról – boldog tudatlanságban hagyjuk, hogy a technológia kutasson az életünkben.

Ugyanakkor nem lehet egyértelműen kijelenteni, hogy ez minden egyén vagy társdalom számára nemkívánatos folyamat. Kínában, ahol a „nagy testvér” mindig figyel, és állampolgári pontozás van, ott is van, aki azt mondja, hogy neki ez jó, mert biztonságot ad, miközben

mi itt Európában rossz szemmel nézzük, ha egy gép teljes mértékben belelát az életünkbe.

Az elmúlt évtizedekben egyértelműen infokommunikációs forradalom zajlik, az internet forradalmasította az információ-, az adat áramlásának minden formáját és eszközét. A nem is olyan távoli történelemben voltak ehhez hasonló léptékű civilizációs mérföldkövek, például az ipari forradalom, a villamos energia elterjedése vagy a mobilitás dimenzióinak gyors kitágulása. A képzőművészet mindig reflektált az adott kor kihívásaira – gondoljunk az avantgárd izmusok adott esetben provokatív megnyilvánulásaira. Milyen tanulságokat lehet levonni ezekből a korábbi sorsfordító társadalmi folyamatokból, akár a művészet vonatkozásában? Tanulhatunk belőlük valamit a szingularitás lehetséges hatásait illetően?

Annyiban lehet párhuzamot vonni, hogy azok a társadalmi ugrások is szingularitások voltak, hiszen megváltozott valami a társadalomban, a munkához való viszonyulásban, a gépekhez, a technikához való hozzáállásban, ráadásul relatíve ezek is nagyon gyorsan zajlottak le az emberek életében. Nyilván ezek is meghatározó mérföldkövek voltak. A modern művészet alapvetően partnernek képzelte el a technológiai fejlődést, amely segített neki abban, hogy meghaladjon korábbi meghatározó művészeti vonulatokat. A művészet akkor is felszabadító szerepben volt, egy eszköz volt, hogy felszabadítsa az embert, és jobbá tegye az életét.

Ez egyébként ma is igaz. A 20. század elején egyáltalán nem az volt a középpontban, hogy romboljunk le mindent, igaz a futuristák esetében ez nem ilyen egyértelműen kijelenthető. Mindennel együtt még elöttük is egy pozitívabb jövőkép lebegett, amit – meggyőződésük szerint - csak rombolással lehet elkezdeni. Napjainkban talán nincs is serre univerzális elv, senki nem tudja, és nem is feltétlenül bizakodik abban, hogy a szingularitás jó lesz-e nekünk, vagy sem.

A nyugati kultúrkörben van egy olyan konszenzus, hogy a művészet – és soroljunk ide minden művészeti ágat – a humanitás önkifejezésének a csúcsteljesítménye. Egy kiemelkedő művészeti alkotásban minden olyan lényegi dolog összpontosulhat, amely kifejezheti az embert, mint kivételes ontológiai lényt a Földön. Vannak azonban már olyan algoritmusok, amelyek élvezhető írásműveket, például krimiket írnak, de egyszerűbb újságcikkeket is tud már gép fogalmazni. Meddig tudjuk magunknak megtartani a művészeti teremtés privilégiumát?

Szerintem mindvégig. Attól, hogy a mesterséges intelligencia remekül utánozza az embert, még nem válik intelligenssé. Nagyon érdekesek a művészet–mesterséges intelligencia relációval kapcsolatos problémafelvetések is. Ma már ott tartunk, hogy kis túlzással egy mondat, egy hangsúly alapján egy gép létre tud hozni egy kortárs alkotást. Viszont éppen ezért, mert ez ennyire szokványossá, hétköznapi lehetőséggé vált, egyben

totálisan érdektelen is lett.

Ha műalkotásokat tudok létrehozni tömkelegével, akkor előbb-utóbb ezzel tökéletesen érdektelenné teszem ezeket. Nem azért, mert az ember annyival jobb, hanem mert az emberi műalkotások más módon jönnek létre, más dolgok jelennek meg benne, amiket valószínűleg nem lehet univerzalizálni és formalizálni, ahogy azt a mesterséges intelligencia teszi.

Többször is felmerült az interjú során, hogy a jelenséggel kapcsolatban az egyik legnagyobb probléma a társadalmi diskurzus, a reflexió hiánya. A szélesebb társadalmi párbeszéd megindítására a képzőművészet a legjobb kifejezőeszköz?

Nem feltétlenül gondoljuk azt, hogy a diskurzust a művészet fogja beindítani,

ugyanakkor egy olyan találkozási pont lehet, ahol az emberek más formában találkoznak ezekkel a kérdésekkel vagy problémákkal.

Másrészt a kiállítás fókuszában nem a technológia fejlődése, hanem a technológiának az emberre gyakorolt hatása áll. Márpedig ezek ott vannak az emberek mindennapjaiban. A mindennapi tapasztalatok jelennek meg a képzőművészet és a technológia által. Ezért gondolom, hogy meg tudja szólítani az embereket, hiszen a mobiltelefon, a számítógép használata és minden más életünk szerves részévé vált. Kurátortársaimmal együtt igyekszünk olyan szemléletet követni, amely a hagyományos képzőművészetnek is nagy teret enged, de biztos, hogy fel fognak tűnni képzőművészeti diszciplínákba nem besorolható eszközök, momentumok is.

Mikor értékelné sikeresnek a kiállítást, mi lenne az igazi sikertényező?

Ha akár egyetlen ember is, aki bejön a kiállításra, hirtelen másképp áll a technológia hatalmához, benne is kialakul egy kis szingularitás, és a homlokára csap, hogy ja, ez tényleg egy probléma! Ha egyetlen ilyen látogatónk lesz, akkor a kiállítás már elérte a célját.

A cikk megjelenését a Ludwig Múzeum támogatta

Címlapkép és fotók: Portfolio

peszkov
penzugyminiszterium
északi áramlat
forint készpénz bankjegy
ukrajna háború ukrán konfliktus orosz ukrán stock
vlagyimir putyin
magyarorszag vasut

Holdblog A nagy klímalottó

Ha összevetjük a fenntarthatatlan gazdasági rendszerünket a klasszikus szerencsejátékkal, a lottóval, sokatmondó...

Online előadás
Grafikonosdi és minden ami friss hír.
Díjmentes online előadás
Minden, amit a kezdéshez tudni érdemes.
Portfolio hírlevél
Ne maradjon le a friss hírekről!
Iratkozzon fel megújult, mobilbarát
hírleveleinkre és járjon mindenki előtt.

Eladó új építésű lakások

Válogass több ezer új lakóparki lakás közül Budán, Pesten, az agglomerációban, vagy vidéken.

Infostart.hu
2022. október 6.
Banking Technology 2022
2022. október 18.
Portfolio Future of Finance 2022
2022. szeptember 28.
Győr - Nyugat-magyarországi Gazdasági Fórum 2022
2022. október 19.
Budapest Economic Forum 2022
Hírek, eseményajánlók első kézből: iratkozzon fel exkluzív rendezvényértesítőnkre!
penzugyminiszterium