Valami egészen brutális hibát találtak a ChatGPT-ben

A Radware kiberbiztonsági szakemberei azonosították az úgynevezett Shadow Leak sebezhetőséget a ChatGPT ügynök-funkciójában, amely komoly adatvédelmi kockázatot jelentett a felhasználók számára.

Mit tud az úgynevezett ügynök-mód?
Az ügynök-mód lényege, hogy a mesterséges intelligencia a felhasználó helyett képes különböző feladatokat elvégezni, beleértve a böngészést és linkekre kattintást is. A hatékony működéshez azonban hozzáférést kell biztosítani számára személyes fiókokhoz, naptárakhoz és dokumentumokhoz.

A The Verge beszámolója szerint a kutatók prompt-befecskendezés technikával manipulálták az ügynököt. A támadás során egy speciális kódot tartalmazó e-mailt küldtek a célszemély Gmail-fiókjába, amelyhez az ügynök hozzáféréssel rendelkezett.

Amikor a felhasználó legközelebb aktiválta a ChatGPT-ügynököt, a rejtett utasítások működésbe léptek, és az ügynök HR-es leveleket, személyes adatokat kezdett keresni, majd ezeket a támadók számára továbbította – mindezt a felhasználó tudta nélkül.

Bár a kutatók is jelentős erőfeszítéseket tettek a sebezhetőség kihasználására, és több kísérletük kudarcot vallott, a Shadow Leak különösen veszélyes volt, mivel az OpenAI felhőalapú infrastruktúráján futott.

Ennek következtében a hagyományos kibervédelmi rendszerek nem észlelték az adatszivárgást.

A Radware közleménye szerint a tanulmány célja, hogy felhívja a figyelmet: a ChatGPT-hez kapcsolt valamennyi alkalmazás – beleértve az Outlookot, GitHubot, Google Drive-ot és Dropboxot – hasonló támadásoknak lehet kitéve, ami üzleti szempontból kritikus adatok, például szerződések illetéktelen kezekbe kerülését eredményezheti.

Az OpenAI már orvosolta a biztonsági rést, azonban a szakértők figyelmeztetnek: csak idő kérdése, mikor bukkannak fel újabb, hasonló sebezhetőségek, amelyeket már nem kutatók, hanem rosszindulatú szereplők fedezhetnek fel.

A címlapkép illusztráció. Címlapkép forrása: Getty Images