A szervezetek most próbálják kitalálni segíti-e üzleti céljaikat a generatív mesterséges intelligencia. Mielőtt energiát és pénzt szánnánk ezekre a technológiákra, érdemes tisztában lenni a annak kockázataival.
◼︎ Káros vagy hasznos a „fear of missing out” (FOMO)?
Az új buzzword a generatív mesterséges intelligencia. Annyira, hogy még a metaverzumban utazó Metát is arra késztette, hogy a párbeszéden alapuló, generatív MI felé fordítsa figyelmét. A Gartner idén májusban közzétett kutatása szerint a vezetők 45 százaléka arról számol be, hogy a ChatGPT megjelenése arra késztette őket, hogy növeljék a mesterséges intelligenciára fordított befektetéseiket. A vezetők 70 százaléka szerint a cégük jelenleg vizsgálja és feltérképezi, míg 19 százalékuk már kísérleti vagy éles üzemmódban használja a mesterséges intelligenciát.
Most találják ki az üzleti hasznát
Frances Karamouzis, a Gartner kutató alelnöke szerint a generatív MI körüli felhajtás semmi jelét sem mutatja annak, hogy csillapodna vagy megszűnne. A szervezetek most azt próbálják kitalálni, mennyi pénzt fordítsanak a generatív MI megoldásokra, milyen termékekbe érdemes befektetni, mikor induljanak el a technológia használatával, és egyáltalán milyen kockázatokat hordoz magában ez a feltörekvő technológia.
A kutatást 2544 magas beosztású vezető körében végezte a Gartner 2023 márciusa és áprilisa között. A fentebb már említett eredmények mellett a megkérdezettek 68 százaléka úgy véli, hogy a technológia jelentette előnyök túlszárnyalják annak kockázatait – csupán a megkérdezettek 5 százaléka gondolja meghatározóbbnak a kockázatokat.
Azonban ez az álláspont még finomodhat, ahogy a vezetők elkezdenek pénzt, időt és energiát fordítani a technológiára – véli a Gartner kutatója. Ahogy az eredeti lelkesedés alábbhagy, a vállalatok komolyabb kockázatfelmérések után döntik el, megéri-e foglalkozni a technológiával. Hiszen – ahogy minden más technológiának is – ennek is megvan a maga bizalmi, kockázati, biztonsági, adatvédelmi és etikai vonatkozása is.
Csak az ügyfélélményt lehetne feledni
A gazdasági helyzet ellenére érdekes, hogy a generatív MI technológiák célja a megkérdezetteknek csupán 17 százaléka szerint a költségek optimalizálása. A legtöbb válaszadó (38 százalék) az ügyfélélményt javítaná a mesterséges intelligencia segítségével, így ehhez kapcsolódó megoldásokat vásárolna.
Azonban ahogy a vállalati tapasztalat is bővül a generatív MI használatával kapcsolatban, egyre több helyen jelenhetnek meg, egyre több felhasználási forgatókönyv körvonalazódik. Például a médiatartalmak javítására vagy fejlesztői kód generálása már most is kiválóan használható, kiegészítve az emberek vagy gépek munkavégzését.
De idővel az sem kizárt, hogy független vállalkozások jöhetnek létre, amelyeket kizárólag a generatív MI felügyel és vezérel. Legalábbis a Gartner kutatója szerint a technológia fejlődésének ez a következő nagyobb fázisa, amely egy sor gazdasági, munkaerőhiánnyal kapcsolatos problémát megnyugtatóan rendez.
Legyünk tisztában a kockázatokkal!
Mielőtt azonban bárki fejest ugrana generatív MI üzleti jellegű felhasználásába, érdemes néhány, vele kapcsolatos kockázattal tisztában lenni. A Gartner másik szakembere, Avivah Litan kutatási alelnök szerint a hallucinációk és a kitalációk, illetve a ténybeli tévedések már most is komoly problémái és kockázatai a generatív MI-n alapuló chatbotoknak. Az MI okosítására szolgáló adatszettekre alapozva elfogult, a valóságtól eltérő, hamis válaszok születhetnek, amit eléggé nehezen lát meg az ember – hiszen nagyon sokan vakon megbíznak a generatív MI tudásában.
A deepfake-tartalom elkészítése eléggé könnyűvé válik generatív MI segítségével, bár a szolgáltatók tartalomkészítési elveik finomításával igyekeznek ezeket az eseteket kiszűrni. Ezeket a hamis képeket, videókat vagy hangfelvételeket félrevezető információk terjesztésére használják az emberek, vagy – ami még rosszabb – hogy hamis felhasználói fiókokat készítsenek vagy hogy betörjenek létező, legitim fiókokba.
Az elmúlt időszakban például nagy port kavart Ferenc pápa több MI generálta ábrázolása, például egy divatos, fehér puffos télikabátba vagy egy vadászgép ülésére tette az internet népe az MI segítségével. Míg ezeknek a képeknek a valóságtartalmával mindenki tisztában volt, a történtek bepillantást engedtek egy olyan jövőbe, ahol a deepfake-tartalmak komoly reputációs, politikai kockázatot jelentenek az egyének, szervezetek vagy kormányok számára. (A Pentagon-robbantás deepfake-je befolyásolta a tőzsdei árfolyamot, szerencsére csak rövid időre. – A szerk.)
Adatvédelem és kiberkockázat
A generatív MI az adatvédelem terén is komoly kockázatokat hordoz magában. Ez a chatbot-technológia végső soron emberi aggyal szinte felfoghatatlan mennyiségű adaton alapszik. A kollégák – akarva vagy akaratlanul – a vállalat szellemi tulajdonát képező titkokat, adatokat szivárogtathatnak ki ennek a technológiának. Ezek az alkalmazások az idők végezetéig tárolják ezeket az adatokat, amelyeket a felhasználók adtak meg vagy – tovább rontva a helyzetet – ezeket tovább hasznosíthatják más modellek betanításához. Vagy még rosszabb, hogy egy esetleges adatszivárgáskor az adatok bűnözők kezébe kerülhetnek. Nem meglepő, hogy sok helyen megtiltották az alkalmazottaknak a külső generatív MI-eszközök használatát.
Amikor adatokról van szó, nagyon sok esetben szerzői jogi problémák is felmerülhetnek. Amint már említettük, a mesterséges intelligencia betanításához használt adatok között lehet olyan is, mely egy adott szervezet, vállalat tulajdonát jelentik. Az MI által generált tartalom – referencia vagy transzparencia hiányában – súlyos pénzveszteséget jelentő szerzői jogi perek kockázatának teszi ki a szervezetet. Ennek a kockázatnak egyedüli lehetséges kezelési módja, ha a felhasználók alaposan átvizsgálják az adatokat, de a generált tartalmat is, hogy biztosak legyenek benne, azok nem sértenek szerzői jogokat.
Már egy gondolat erejéig érintettük, de bővebben ki kell bontanunk a kiberbiztonsági kockázatokat. A generatív MI könnyen használható fejlett adathalászati vagy social engineering támadások előkészítésére, de ugyanakkor kártékony programkód generálására is. A nagy generatív MI-megoldások gyártói azt állítják, hogy úgy tanítják be ezeket a modelleket, hogy a kiberbiztonsági kockázatot jelentő tartalmak generálását visszautasítsák.
