mesterseges-intelligencia-mi-artificial-intelligence-ai-emberiseg-emberi-civilizacio
Short

Veszélyt jelent ránk a mesterséges intelligencia, és ezt ő is tudja

Portfolio
Az OpenAI mesterséges intelligenciával ellátott chatbotját, a ChatGPT-t több tudományos és társadalmi-gazdasági témában is leteszteltük. Az emberi civilizációra veszélyt jelentő tényezők között a nagyméretű nyelvi modell megemlítette a mesterséges intelligencia által okozott veszélyeket is. Lássuk, miért "tartja magát" veszélyesnek a ChatGPT, és mit tanácsol számunkra.
Aki kimarad, lemarad! Hogyan szerezz versenyelőnyt a mesterséges intelligencia használatával? Erről is szó lesz a Portfolio május 3-ai Digital Transformation konferenciáján!

A ChatGPT tesztelése

Az elmúlt időszakban folyamatosan beszámoltunk az OpenAI által fejlesztett, forradalmi ChatGPT-vel kapcsolatos hírekről; emellett pedig leteszteltük, miket válaszol olyan tudományos jellegű társadalmi-gazdasági témákban, mint a klímaváltozás, a népességfogyás hatásai, vagy hogy milyen tényezők jelenhetnek veszélyt a civilizációra, illetve olyan elvont kérdésekben, mint az élet értelme.

Az emberi civilizációra veszélyt jelentő tényezőkről szóló kérdés során a ChatGPT felsorolásában egy különösen érdekes rész is szerepelt:

a mesterséges intelligencia által okozott veszélyek.

Ezért most megkérdeztük a mesterséges intelligenciával támogatott ChatGPT-t, miért tartja az emberiségre veszélyesnek a mesterséges intelligenciát.

Miért jelent veszélyt az emberiségre a mesterséges intelligencia?

Kérdés: Miért jelent veszélyt az emberiségre a mesterséges intelligencia?

ChatGPT: A mesterséges intelligencia (MI) több okból is veszélyt jelenthet az emberiségre.

Egyrészt, ha a MI-t rosszindulatú célokra használják, akkor komoly károkat okozhat az emberi életekben és az infrastruktúrában. Például,

egy rosszindulatú számítógépes program elterjesztheti a vírusokat, vagy megtámadhatja egy ország kritikus infrastruktúráját.

Másrészt, a MI-t használva automatizált rendszerek munkahelyeket veszélyeztethetnek, mivel felválthatják azokat, ami társadalmi problémákhoz vezethet, mint például az egyenlőtlenség, a munkanélküliség.

Harmadrészt, a MI-t használva a döntéshozatal automatizálódhat, ami veszélyeztetheti az emberi szabadságot és az emberi jogokat. Egy MI-alapú rendszer hibái, vagy téves döntései komoly következményekkel járhatnak az emberek életére.

Negyedrészt, a MI-t használva a privát szféra védelme is kihívást jelenthet, mivel a rendszerek gyűjthetnek és elemezhetnek adatokat az emberekről, ami kérdéseket vet fel az adatvédelemről és az adatok használatáról.

Mindezek miatt fontos, hogy a mesterséges intelligencia fejlesztése és alkalmazása során a biztonsági kérdéseket és az etikai kérdéseket is figyelembe vegyük, hogy elkerüljük a veszélyeket és a negatív hatásokat.

Kép forrása: ChatGPT/Portfolio

Kérdés: Téged, a ChatGPT-t is lehet rossz célokra használni? Milyen veszélyek állnak fenn?

ChatGPT:

Igen, a ChatGPT-t, mint minden mesterséges intelligencia rendszert, lehet rossz célokra használni, ami veszélyeket jelenthet.

Az egyik ilyen veszély, hogy a ChatGPT-t használva valaki hamis információkat terjeszthet, ami téves döntésekhez vezethet és félrevezetheti az embereket.

Más veszélyek, hogy a ChatGPT-t használva valaki automatikusan generálhat hamis üzeneteket, amelyek célja a manipuláció vagy a megtévesztés.

Egy másik veszély, hogy a ChatGPT-t használva valaki hozzáférhet bizalmas információkhoz, amelyeket a rendszer tanult a múltban.

Ezenkívül, ha a ChatGPT-t rosszindulatú személyek használják, akkor egyes emberekre vagy csoportokra negatív hatást gyakorolhatnak.

Mindezek miatt, fontos, hogy a ChatGPT-t és más mesterséges intelligencia rendszereket csak megbízható forrásból származó adatokkal tanítsuk, és figyeljük a rendszer működését, hogy elkerüljük az ilyen veszélyeket.

Fontos, hogy a rendszer fejlesztői biztonsági kérdéseket és etikai kérdéseket is figyelembe vegyenek a fejlesztés során.

Kép forrása: ChatGPT/Portfolio

Mi az a ChatGPT?

2022. november végén vált elérhetővé az OpenAI mesterséges intelligenciával megtámogatott nyelvi modellje, a ChatGPT 3.5, amely forradalmi áttörést jelent, hiszen a chatbot az egyszerűbb kérdések megválaszolása mellett olyan komplexebb feladatokat is teljesít, mint a versírás, illetve a programozás.

A GPT 3.5-öt az Microsoft Azure AI szuperszámítógépes infrastruktúráján képezték ki. A nyelvi modell optimalizálásához egy emberi visszajelzéseken alapuló megerősítő tanulási módszert, vagyis az RLHF-et (reinforcement learning from human feedback) alkalmazták.

Az OpenAI és a ChatGPT sikerére egyébként a riválisok is felkapták a fejüket, a Google hamarosan elindíthatja az ChatGPT kihívójának szánt Sparrow nevű mesterséges intelligencia béta verzióját.

A legfrissebb hírek szerint kísérleti fázisban, de elérhetővé vált a ChatGPT fizetős változata is, a ChatGPT Professional.

Arról is beszámoltunk, hogy többéves, egyes híresztelések szerint közel 10 milliárd dollár értékű megállapodást kötött a Microsoft a ChatGPT-t fejlesztő OpenAI-val.

Mik a ChatGPT gyengeségei?

A ChatGPT sokszor ad vissza elsőre igaznak tűnő, ám tényszerűen hamis vagy képtelen állításokat. Ennek több oka is lehet, például az, hogy a modell betanításkor még nem volt elérhető a keresett információ, a chatbotnak ugyanis nincs aktív kapcsolata az internettel. 

A chatbotot az internetről származó adatbázisokon tanítottak be, így minden óvatosság ellenére könnyen fel tudja venni az ott uralkodó sztereotípiákat, részrehajlásokat. Ez abból derül ki, hogy néha általánosító megjegyzésekkel, közszájon forgó viccekkel válaszol bizonyos kérdésekre. A modell általában visszautasít bizonyos kockázatosnak ítélt kéréseket, de még így is előfordul, hogy káros utasításokat ad, vagy elfogultan válaszol egyes kérdésekre.

Aki kimarad, lemarad! Hogyan szerezz versenyelőnyt a mesterséges intelligencia használatával? Erről is szó lesz a Portfolio május 3-ai Digital Transformation konferenciáján!

Címlapkép forrása: Getty Images

Kína nyúl
orosz útlevél stock
koronavirus-jarvany-covid-19-vilagjarvany-koronavirus-fertozes-koronavirus-hullam-koronavirus-varians-omikron-varians
Népszerű
Portfolio hírlevél
Ne maradjon le a friss hírekről!
Iratkozzon fel megújult, mobilbarát
hírleveleinkre és járjon mindenki előtt.
Infostart.hu