Riasztó veszélyre világít rá a volt Google-vezér: mi van, ha valaki megtanítja az AI-nak, hogy kell megölni valakit?

Schmidt, aki 2001 és 2011 között volt a Google vezérigazgatója, a Sifted Summit rendezvényen beszélt az AI potenciális veszélyeiről.

Létezik-e az AI-ban az elburjánzás veszélye? Abszolút"

- jelentette ki, utalva arra a kockázatra, hogy

a technológia rossz kezekbe kerülhet.

A szakember szerint bizonyítékok vannak arra, hogy a modellek feltörhetők és biztonsági korlátaik eltávolíthatók.

Tanulás közben sok mindent megtanulnak. Egy igencsak negatív példa lenne erre, ha megtanulnák, hogyan lehet megölni valakit"

- magyarázta.

A szakember szerint az AI-rendszerek sebezhetőek különböző támadásokkal szemben, mint például a prompt-injekciók és a jailbreaking. 2023-ban, az OpenAI ChatGPT megjelenése után néhány hónappal a felhasználók már alkalmaztak egy "jailbreak" trükköt, létrehozva egy DAN (Do Anything Now) nevű alteregót, amely

képes volt megkerülni a biztonsági utasításokat.

A figyelmeztetések ellenére Schmidt optimista maradt az AI jövőjével kapcsolatban, és úgy véli, hogy a technológia nem kap elég elismerést.

Úgy gondolom, hogy alulértékelik, nem pedig túlértékelik, és várom, hogy öt vagy tíz év múlva bebizonyosodjon, hogy igazam volt"

- mondta.

Schmidt nem ért egyet azokkal, akik AI-buborékról beszélnek, és nem hiszi, hogy a dotcom-buborék összeomlásához hasonló helyzet alakulna ki.

A címlapkép illusztráció. Címlapkép forrása: Portfolio