A ChatGPT tesztelése
Az elmúlt időszakban folyamatosan beszámoltunk az OpenAI által fejlesztett, forradalmi ChatGPT-vel kapcsolatos hírekről; emellett pedig leteszteltük, miket válaszol olyan tudományos jellegű társadalmi-gazdasági témákban, mint a klímaváltozás, a népességfogyás hatásai, vagy hogy milyen tényezők jelenhetnek veszélyt a civilizációra, illetve olyan elvont kérdésekben, mint az élet értelme.
Az emberi civilizációra veszélyt jelentő tényezőkről szóló kérdés során a ChatGPT felsorolásában egy különösen érdekes rész is szerepelt:
a mesterséges intelligencia által okozott veszélyek.
Ezért most megkérdeztük a mesterséges intelligenciával támogatott ChatGPT-t, miért tartja az emberiségre veszélyesnek a mesterséges intelligenciát.
Miért jelent veszélyt az emberiségre a mesterséges intelligencia?
Kérdés: Miért jelent veszélyt az emberiségre a mesterséges intelligencia?
ChatGPT: A mesterséges intelligencia (MI) több okból is veszélyt jelenthet az emberiségre.
Egyrészt, ha a MI-t rosszindulatú célokra használják, akkor komoly károkat okozhat az emberi életekben és az infrastruktúrában. Például,
egy rosszindulatú számítógépes program elterjesztheti a vírusokat, vagy megtámadhatja egy ország kritikus infrastruktúráját.
Másrészt, a MI-t használva automatizált rendszerek munkahelyeket veszélyeztethetnek, mivel felválthatják azokat, ami társadalmi problémákhoz vezethet, mint például az egyenlőtlenség, a munkanélküliség.
Harmadrészt, a MI-t használva a döntéshozatal automatizálódhat, ami veszélyeztetheti az emberi szabadságot és az emberi jogokat. Egy MI-alapú rendszer hibái, vagy téves döntései komoly következményekkel járhatnak az emberek életére.
Negyedrészt, a MI-t használva a privát szféra védelme is kihívást jelenthet, mivel a rendszerek gyűjthetnek és elemezhetnek adatokat az emberekről, ami kérdéseket vet fel az adatvédelemről és az adatok használatáról.
Mindezek miatt fontos, hogy a mesterséges intelligencia fejlesztése és alkalmazása során a biztonsági kérdéseket és az etikai kérdéseket is figyelembe vegyük, hogy elkerüljük a veszélyeket és a negatív hatásokat.
Kérdés: Téged, a ChatGPT-t is lehet rossz célokra használni? Milyen veszélyek állnak fenn?
ChatGPT:
Igen, a ChatGPT-t, mint minden mesterséges intelligencia rendszert, lehet rossz célokra használni, ami veszélyeket jelenthet.
Az egyik ilyen veszély, hogy a ChatGPT-t használva valaki hamis információkat terjeszthet, ami téves döntésekhez vezethet és félrevezetheti az embereket.
Más veszélyek, hogy a ChatGPT-t használva valaki automatikusan generálhat hamis üzeneteket, amelyek célja a manipuláció vagy a megtévesztés.
Egy másik veszély, hogy a ChatGPT-t használva valaki hozzáférhet bizalmas információkhoz, amelyeket a rendszer tanult a múltban.
Ezenkívül, ha a ChatGPT-t rosszindulatú személyek használják, akkor egyes emberekre vagy csoportokra negatív hatást gyakorolhatnak.
Mindezek miatt, fontos, hogy a ChatGPT-t és más mesterséges intelligencia rendszereket csak megbízható forrásból származó adatokkal tanítsuk, és figyeljük a rendszer működését, hogy elkerüljük az ilyen veszélyeket.
Fontos, hogy a rendszer fejlesztői biztonsági kérdéseket és etikai kérdéseket is figyelembe vegyenek a fejlesztés során.
Mi az a ChatGPT?
2022. november végén vált elérhetővé az OpenAI mesterséges intelligenciával megtámogatott nyelvi modellje, a ChatGPT 3.5, amely forradalmi áttörést jelent, hiszen a chatbot az egyszerűbb kérdések megválaszolása mellett olyan komplexebb feladatokat is teljesít, mint a versírás, illetve a programozás.
A GPT 3.5-öt az Microsoft Azure AI szuperszámítógépes infrastruktúráján képezték ki. A nyelvi modell optimalizálásához egy emberi visszajelzéseken alapuló megerősítő tanulási módszert, vagyis az RLHF-et (reinforcement learning from human feedback) alkalmazták.
Az OpenAI és a ChatGPT sikerére egyébként a riválisok is felkapták a fejüket, a Google hamarosan elindíthatja az ChatGPT kihívójának szánt Sparrow nevű mesterséges intelligencia béta verzióját.
A legfrissebb hírek szerint kísérleti fázisban, de elérhetővé vált a ChatGPT fizetős változata is, a ChatGPT Professional.
Arról is beszámoltunk, hogy többéves, egyes híresztelések szerint közel 10 milliárd dollár értékű megállapodást kötött a Microsoft a ChatGPT-t fejlesztő OpenAI-val.
Mik a ChatGPT gyengeségei?
A ChatGPT sokszor ad vissza elsőre igaznak tűnő, ám tényszerűen hamis vagy képtelen állításokat. Ennek több oka is lehet, például az, hogy a modell betanításkor még nem volt elérhető a keresett információ, a chatbotnak ugyanis nincs aktív kapcsolata az internettel.
A chatbotot az internetről származó adatbázisokon tanítottak be, így minden óvatosság ellenére könnyen fel tudja venni az ott uralkodó sztereotípiákat, részrehajlásokat. Ez abból derül ki, hogy néha általánosító megjegyzésekkel, közszájon forgó viccekkel válaszol bizonyos kérdésekre. A modell általában visszautasít bizonyos kockázatosnak ítélt kéréseket, de még így is előfordul, hogy káros utasításokat ad, vagy elfogultan válaszol egyes kérdésekre.
Címlapkép forrása: Getty Images
