Az Anthropic ügyvédje kénytelen volt bocsánatot kérni, miután kiderült: a cég saját fejlesztésű MI-asszisztense, Claude, hamis jogi hivatkozást generált egy folyamatban lévő per során. A téves idézet egy nem létező cikkre utalt, ráadásul hibás szerzői nevek és cím szerepeltek benne – derült ki a kaliforniai bíróság csütörtöki beadványából, amelyet elsőként a Bloomberg ismertetett.
A botrány hátterében az áll, hogy az Universal Music Group és több más zenei kiadó pert indított az Anthropic ellen szerzői jogok megsértése miatt. A kiadók azzal vádolták a vállalat egyik szakértő tanúját, Olivia Chen-t, hogy MI-t – konkrétan Claude-ot – használt bizonyítékok alátámasztására, és így nem létező forrásokra hivatkozott tanúvallomásában. A bíróság erre válaszul utasította az Anthropicot, hogy adjon magyarázatot a történtekre.
Az Anthropic szerint „sajnálatos hibáról” van szó, nem pedig szándékos megtévesztésről. A jogászcsapat elismerte, hogy a manuális ellenőrzés során nem szúrták ki az MI által generált hibákat, amelyek között több pontatlan idézet is szerepelt.
Ez az eset csupán a legfrissebb példája annak, hogy milyen kockázatokat rejt magában a generatív mesterséges intelligencia használata a jogi szférában. Nem ez az első alkalom, hogy MI által generált hivatkozásokkal akad gond a tárgyalótermekben: korábban amerikai és ausztrál bíróságokon is előfordult már hasonló eset, ahol jogászok – ChatGPT-t vagy más modelleket használva – nem létező forrásokra támaszkodtak.
Mindez azonban nem tántorítja el a befektetőket attól, hogy dollármilliárdokat öntsenek az MI-alapú jogi eszközök fejlesztésébe. A Harvey nevű startup például – amely generatív MI-t kínál jogi munkafolyamatok támogatására – épp egy 250 millió dolláros tőkebevonási kör előtt áll, 5 milliárd dolláros cégértékelés mellett.
A kérdés csak az: hol húzzuk meg a határt az MI kreativitása és a jogi megbízhatóság között?
