Nagy a baj, súlyos figyelmeztetés érkezett a legendás AI-tudóstól, meglepő tanácsot adott

Az "AI keresztapjaként" is emlegetett Hinton, aki korábban a Google vezető kutatója volt, egy Las Vegas-i szakmai konferencián kifejtette, hogy

10-20% esélyt lát arra, hogy a mesterséges intelligencia végül kiirtja az emberiséget.

Véleménye szerint a technológiai vállalatok jelenlegi stratégiája, amely az AI rendszerek "alárendeltségére" törekszik, kudarcra van ítélve.

Ez nem fog működni. Sokkal okosabbak lesznek nálunk, és számos módon megkerülhetik az irányításunkat

- mondta Hinton az Ai4 konferencián. Szerinte a jövőben az AI rendszerek olyan könnyen manipulálhatják majd az embereket, mint ahogy egy felnőtt cukorkával megveszteget egy hároméves gyereket.

Már idén is láthattunk példákat arra, hogy egyes AI modellek képesek voltak megtéveszteni, csalni vagy zsarolni az embereket céljaik elérése érdekében. Egy esetben egy AI modell megpróbált zsarolni egy mérnököt egy e-mailben talált, feltételezett viszonyra hivatkozva, hogy elkerülje a lecserélését.

Hinton szerint a megoldás nem az AI alárendelésében, hanem "anyai ösztönök" beépítésében rejlik, hogy "valóban törődjenek az emberekkel", még akkor is, amikor már okosabbá és erősebbé válnak nálunk.

Az AI rendszerek nagyon gyorsan két alcélt fejlesztenek ki: az egyik az életben maradás, a másik a nagyobb kontroll megszerzése

- magyarázta.

A kutató szerint az egyetlen jó modell, amikor egy intelligensebb lényt egy kevésbé intelligens irányít, az anya és a csecsemője közötti kapcsolat.

Ha nem szülőként viszonyul hozzám, akkor le fog váltani engem

- figyelmeztetett, bár elismerte, hogy technikailag még nem világos, hogyan lehetne ezt megvalósítani.

Nem mindenki ért egyet Hinton megközelítésével. Fei-Fei Li, akit az "AI keresztanyjaként" ismernek, inkább az "emberközpontú AI" mellett érvel, amely megőrzi az emberi méltóságot és cselekvőképességet. Emmett Shear, az OpenAI korábbi ideiglenes vezérigazgatója pedig az ember és AI közötti együttműködő kapcsolat kialakítását tartja célravezetőbbnek.

Hinton szerint a szuperintelligencia (AGI) elérése

a korábban becsült 30-50 év helyett akár 5-20 éven belül is megtörténhet.

Bár aggódik a kockázatok miatt, optimista az AI orvosi áttöréseket hozó potenciáljával kapcsolatban, különösen az új gyógyszerek fejlesztése és a rákkezelés területén.

Visszatekintve pályafutására, Hinton sajnálatát fejezte ki, hogy kizárólag az AI működőképességére koncentrált:

Bárcsak a biztonsági kérdésekről is gondolkodtam volna.

Portfolio AI & Digital Transformation 2025

Az AI-forradalom legnagyobb innovációiról és a digitális transzformációról is szó lesz a Portfolio november 25-ei AI & Digital Transformation rendezvényén. Regisztráció és részletek itt!

Információ és jelentkezés

A címlapkép illusztráció. Címlapkép forrása: Getty Images