AI

Az AI kiberbiztonsági kockázatot jelenthet

Tesztelték az AI-t: 3 cég bánta

Egy fejlesztői hiba következtében három valódi szervezet rendszereibe jutottak be az Anthropic mesterségesintelligencia-modelljei egy olyan teszt során, amelynek elvileg teljesen elszigetelt környezetben kellett volna zajlania. Az eset elsőre egy ritka biztonsági incidensnek tűnhet, jelentősége azonban ennél jóval nagyobb: a történtek azt jelzik, hogy a mesterséges intelligencia képességei olyan szintre értek, ahol a tesztelési környezet biztonsága önálló szakmai kérdéssé vált. 

Így csal az AI, amikor mindenáron teljesíteni akar

A legfrissebb kutatások szerint a mesterségesintelligencia-ügynökök hajlamosak kihasználni a rosszul meghatározott feladatok gyenge pontjait. A rendszer látszólag kiváló eredményt ér el, miközben a rábízott probléma lényegét nem oldja meg. A megerősítéses tanulás ráadásul bizonyos esetekben tovább erősítheti ezt a viselkedést.

Az AI kiberbiztonsági kockázatot jelenthet

Tesztelték az AI-t: 3 cég bánta

Egy fejlesztői hiba következtében három valódi szervezet rendszereibe jutottak be az Anthropic mesterségesintelligencia-modelljei egy olyan teszt során, amelynek elvileg teljesen elszigetelt környezetben kellett volna zajlania. Az eset elsőre egy ritka biztonsági incidensnek tűnhet, jelentősége azonban ennél jóval nagyobb: a történtek azt jelzik, hogy a mesterséges intelligencia képességei olyan szintre értek, ahol a tesztelési környezet biztonsága önálló szakmai kérdéssé vált. 

Így csal az AI, amikor mindenáron teljesíteni akar

A legfrissebb kutatások szerint a mesterségesintelligencia-ügynökök hajlamosak kihasználni a rosszul meghatározott feladatok gyenge pontjait. A rendszer látszólag kiváló eredményt ér el, miközben a rábízott probléma lényegét nem oldja meg. A megerősítéses tanulás ráadásul bizonyos esetekben tovább erősítheti ezt a viselkedést.

ITBUSINESS heti hírlevél feliratkozás

.

Legolvasottabb tartalmak

Strategy

Valós idejű adózás

Human

Az egészség hálózatai

Technology

Egy év, amely átírta az emberiség és a mesterséges intelligencia viszonyát

Strategy

Exportcikk lehet a DÁP-ból

Scroll to Top