"Ha rosszul promptoljuk a szervezetet, ne csodálkozzunk, ha hallucinál"

A világon a cégek kétharmada használ valamilyen AI megoldást, harmada pedig elindult a GenAI irányba – jegyezte meg Turny Ákos (BCG) moderátor 3/A szekciónk kerekasztal beszélgetésén. Szerinte ugyan évekig lehet POC-ket létrehozni, de előbb utóbb eredményt kell felmutatni.

Boda Márton (K&H bank) elmondta, a genAI alapú, belső felhasználásra fejlesztett chatbot, Kate nyár óta elérhető a bankban akollégáknak (az ügyfelek által ismert Kate chatbot még nem GenAI modellel működik). A GenAI alapú Kate a kérdések 90 százalékát megérti, és a 80%-ára van megoldása is, de kérdés, hol jön el az a pont, hogy ezt a modellt az ügyfeleknek is odaadják. A szakember leszögezte: először a prblémát kell jól felvetni, innen kell inulni, milyen valódi értéket akarunk teremteni, és azután ha az AI a válasz, akkor belefogni az AI-projektbe.

Fodor Balázs (One Solutions) elmondta, náluk a presales csapat rendelkezik egy ajánlási eszközzel, amely sok modullal rendelkezik, és egy rémálom, amíg elkészítik a kollégák az ajánlatokat az ügyfeleknek. Ezt tudták egy olyan GenAi mechanizmussal megoldani, amely sokkal gyorsabban elvégzi ezt a feladatot, és azóta ezt már a szervezet más részein is keresik, kérik. A szakember szerint ha most megkérdezünk egy CEO-t, akkor szerintük ez a következő „as a service” megoldás. Ez azonban tévedés: az AI nem egy szolgáltatás, hanem egy új architektúra, akár egy új részleg lehet a cégben. Ha csak szolgáltatásként tekintünk rá, akkor silószerűen jelenik meg az AI a vállalatban.

Horváth-Varga János (Magyar Telekom) elmondta, náluk a marketing terület képek, videók generálására, a fejlesztő kollégák kódolásra is használhatnak GenAI eszközöket. Tavaly belső fejlesztésben indult el a Pluto, egy vállalati chatplatform, amely mögött a Google Gemini modellje áll. Ennek a uniq user száma már meghaladta a 4 ezret.

Prokob Gábor (Ecofamily) elmondta, náluk a programozók és a fejlesztő csapat használ genAI eszközöket a kódoláshoz, de az üzleti oldalon is elkezdték alkalmazni. Náluk brutálisan nagy mennyiségű adat van vásárlásokról, adatstruktúrákból, ezt nagyon nehéz elemezni. A szezonelemzésre egy genAI megoldást hoztak létre, amely 99%-ban produkálta a humán elemzés által is kiemelt eredményeket, és még egy sor olyan ötletet és megállapítást is hozzátett, amit az emberek nem. Nagy lehetőség van genAI megoldásoknak a retail szektorban is – szögezte le a szakember.

Schin Lotár (Nokia) elmondta, nagyon sok idő kitakarítani, hogy mit rakunk egy AI modell mögé, milyen adatokat, ezek mennyire frissek, tiszták. A kihívások között említette, hogy a vállalati stratégiák sokszor nem úgy születnek, hogy a vezetők közel állnak a szervezethez.

Ha pedig rosszul promptolják a szervezetet, akkor ne csodálkozzunk, ha a szervezet hallucinál.