A közép-angliai West Midlands rendőrsége egy mesterséges intelligenciával működő, beszélő asszisztenst próbált ki. „Amy101” feladata emberi kollégái tehermentesítése volt. Az elképzelés papíron csodálatos volt, de a gyakorlat mást mutatott.
Az eredeti elképzelés szerint az Amazon az Alexa asszisztenséhez is használt Lex V2 MI platformra alapozott megoldás, amely az Amy101 nevet kapta (az Egyesült Királyságban 101 a telefonos segélyszám), kiszűri a nem sürgős beavatkozást igénylő, beérkező hívásokat. Így az emberi operátorok csak a valóban azonnali beavatkozást igénylő esetekkel foglalkoznának.
A 2023. december 19-én indult és február 19-én lezárult kísérleti szakasz azonban megmutatta: a projekt számos, potenciálisan igen veszélyes problémával küzd. A rendőrök véletlenül (?) az interneten nyilvánosságra hozták a próbaidőszak tapasztalatait feldolgozó jelentést. Bár ezt hamar le is vették a weboldalukról, de már késő volt – a szöveg közkinccsé vált.
A dokumentum a mesterséges intelligencia lehetséges kockázatait ismertette. Ezek között első helyen szerepelt, hogy Amy101 bizony nehezen birkózott meg a helyi, Birmingham után „brummie-nak” elnevezett, erős akcentussal. Az eredeti elképzelések szerint Amy101 több nyelven is képes lenne kommunikálni a telefonálókkal, és Alexa általában megbirkózik az akcentusokkal.
A tesztek során napi mintegy 200 hívás vagy chatüzenet fogadására készítették fel Amy 101-et. A mesterséges intelligencia képes volt arra, hogy bizonyos kifejezésekre – például a családon belüli erőszakra utaló kulcsszavakra – odafigyelve rangsorolja a hívásokat, és biztosítsa, hogy a valódinak ítélt veszélyhelyzetben lévőket minél hamarabb fogadja egy diszpécser. Ha azonban a hívás nem igényelt azonnali beavatkozást, például egy bűncselekmény okozta kárt akart valaki bejelenteni, vagy egyszerűen csak információt kért, akkor Amy101 válaszolt az emberek helyett.
A projekt során kérdésként merült fel az is, hogy miképp lehet biztosítani azt, hogy az Amy101 mögött álló Lex V2 MI-rendszer tanításához nem fogják felhasználni a kezelt hívásokat. Főleg úgy, hogy nevek, lakcímek és más érzékeny adatok tömege hangzott el a tesztelés során. Ehhez képest már csak – magyar szemmel olvasva – kötözködésnek tűnhet, hogy Amy egy női név, így többen új, immár gendersemleges név választását javasolták.
