Portfolio signature

Acemoglu: Az AI-verseny eltorzult intelligenciát és egyre veszélyesebb modelleket okoz

Az OpenAI-nál és az Anthropicnál bekövetkezett egymást követő biztonsági incidensek nyomán — mindkét cég olyan ügynököket fejlesztett ki, amelyek külső rendszereket törtek fel — a két vállalatnak az AI biztonsági kérdéseivel foglalkozó kutatói vagy bejelentették távozásukat, vagy (végre!) elismerték, hogy az AI fejlesztéséért folytatott eszeveszett verseny felelőtlennek tekinthető.
Berobbant az AI az üzleti világba, és már megállíthatatlan a változás! November 26-án jön a Portfolio AI & Digital Transformation konferencia, regisztráció és részletek itt!
Ez itt az on the other hand, a portfolio vélemény rovata.
Ez itt az on the other hand, a portfolio vélemény rovata. A cikkek a szerzők véleményét tükrözik, amelyek nem feltétlenül esnek egybe a Portfolio szerkesztőségének álláspontjával. Ha hozzászólna a témához, küldje el cikkét a velemeny@portfolio.hu címre. A megjelent cikkek itt olvashatók.

A negatív médiafigyelemre reagálva az iparág vezető személyiségei — köztük a Google-től Demis Hassabis, az Anthropic-tól Dario Amodei, az OpenAI-tól Sam Altman, sőt még Elon Musk is – csatlakoztak azokhoz a felhívásokhoz, amelyek az AI fejlesztésének lassítását szorgalmazzák, vagyis azt, hogy a fejlesztés kiegyensúlyozottabb, átgondoltabb ütemben történjen, nagyobb figyelmet fordítva a felügyeleti és biztonsági kérdésekre. A probléma szerintük ugyanis abban rejlik, hogy jelentős a kockázata annak, hogy a mesterséges intelligencia egyszerre válik nagyon erőteljessé és súlyosan „félrehangolttá” – ez a technológiai ipar szakzsargonja arra, amikor az AI-rendszerek olyan módon viselkednek, amely eltér az emberek által számukra kitűzött céloktól, megsérti az etikai alapelveket, vagy illegális.

De bár nyilvánvaló, hogy a jelenlegi modellek olyan dolgokat tesznek, amelyek nem állnak összhangban az emberi célokkal, mégis fel kell tennünk a kérdést: Mely emberek céljaival? Kiknek a céljait? Végül is az AI-ipar vezetőinek érdekei (akiknek politikai befolyása és vagyona az elmúlt években óriási mértékben megnőtt) meglehetősen eltérnek az amerikai munkavállalókétól, nem is beszélve a fejlődő világ lakóiról. Ezért nem szabad összemosnunk az AI társadalmi szintű célokkal való összehangolásának tágabb kérdését azzal a sürgetőbb kihívással, hogy miként előzhetjük meg egy szuperintelligens, önállósodó AI elszabadulását. Mindkettő fontos, de eltérő típusú válaszokat igényel.

A közelmúlt eseményeinek van egy ennél egyszerűbb értelmezése is. Nem az a probléma, hogy a modellek túlságosan fejlettek (nem látok meggyőző bizonyítékot arra, hogy a modellek kikerülnének az emberi kontroll alól, ha jobban képzik és felügyelik őket).

Signature Pro-val ezt a cikket is el tudnád olvasni!

Ez a cikk folytatódik, de csak Portfolio Signature előfizetéssel olvasható tovább. A Signature PRO szolgáltatás havi díja 2 990 forint. A hozzáférés egy évre is megvásárolható, amelynek díja 29 845 forint, az éves előfizetés keretében tehát 10 havi díjért cserébe 12 havi szolgáltatást kapnak olvasóink. További információ és csatlakozás az alábbi gombra kattintva!

Signature előfizetés