A Microsoft tavaly azt javasolta, hogy az OpenAI népszerű képgeneráló eszközét, a DALL-E-t használja fel arra, hogy segítsen a védelmi minisztériumnak a katonai műveletek végrehajtásához szükséges szoftverek létrehozásában – derült ki a The Intercept által átnézett belső prezentációs anyagokból. A leleplezés alig néhány hónappal azután történt, hogy az OpenAI csendben megszüntette a katonai munkára vonatkozó tilalmát.
A Microsoft „Generative AI with DoD Data” című prezentációs csomagja általános bontásban ismerteti, hogyan használhatja a Pentagon az OpenAI gépi tanulási eszközeit, köztük a rendkívül népszerű ChatGPT szöveggenerátort és a DALL-E képalkotót, a dokumentumelemzéstől a gépi karbantartásig terjedő feladatokra.
A Microsoft-dokumentum egy nagy mennyiségű anyagból származik, amelyet a Védelmi Minisztérium 2023 októberében Los Angelesben, az amerikai űrhadsereg által rendezett „AI-műveltség” képzési szemináriumán mutattak be. Az eseményen a gépi tanulással foglalkozó cégek – köztük a Microsoft és az OpenAI – számos előadást tartottak arról, hogy mit tudnak ajánlani a Pentagonnak.
A nyilvánosan hozzáférhető fájlokat az Alethia Labs, egy nonprofit tanácsadó cég honlapján találták, amely a szövetségi kormányzatnak segít a technológia beszerzésében, és Jack Poulson újságíró fedezte fel, aki egy szélesebb körű vizsgálatot tett közzé a prezentációs anyagokról. Az Alethia Labs szorosan együttműködött a Pentagonnal, hogy segítsen a mesterséges intelligencia eszközeinek gyors integrálásában a fegyverarzenálba, és tavaly óta szerződést kötött a Pentagon fő MI-irodájával. A cég nem reagált a megkeresésre.
A Microsoft prezentációjának egyik oldala kiemeli az OpenAI különféle „közös” szövetségi felhasználási módjait, köztük a védelmi célú felhasználást. Az egyik bullet point az „Advanced Computer Vision Training” alatt így hangzik: „Battle Management Systems: A DALL-E modellek felhasználása a harcvezetési rendszerek kiképzéséhez szükséges képek létrehozásához”.
| A Microsoft tavaly 10 milliárd dollárt fektetett be a gépi tanulással foglalkozó, feltörekvő startupba, és a két üzletág szorosan összefonódott. Februárban a The Intercept és más digitális hírportálok beperelték a Microsoftot és az OpenAI-t, amiért engedély és hitelesítés nélkül használták fel újságírói munkájukat. |
A harcvezetési rendszer egy olyan parancsnoki és irányítási szoftvercsomag, amely a katonai vezetők számára helyzetképet nyújt egy harci forgatókönyvről, lehetővé téve számukra olyan dolgok koordinálását, mint a tüzérség irányítása, a légicsapás célpontjának azonosítása és a csapatmozgások. A számítógépes látásképzésre való hivatkozás azt sugallja, hogy a DALL-E által létrehozott mesterséges képek segíthetnek a Pentagon számítógépeinek abban, hogy jobban lássák a harctéri körülményeket, ami különösen hasznos lehet a célpontok megtalálása – és megsemmisítése – szempontjából.
Egy e-mailben küldött nyilatkozatában a Microsoft azt mondta a The Interceptnek, hogy bár a Pentagonnak felajánlotta, hogy a DALL-E-t használja a harctéri szoftverek kiképzésére, de még nem kezdett hozzá. „Ez egy példa a lehetséges felhasználási esetekre, amelyet az ügyfelekkel a generatív mesterséges intelligenciával kapcsolatos, a lehetőségek művészetéről folytatott beszélgetésekből merítettünk”. A Microsoft, amely nem volt hajlandó a megjegyzést a vállalatnál bárkinek is tulajdonítani, nem magyarázta meg, hogy egy lehetséges felhasználási esetet miért jelölt meg általános felhasználásként a prezentációjában.
Liz Bourgeous, az OpenAI szóvivője elmondta, hogy az OpenAI nem vett részt a Microsoft bemutatójában, és hogy nem adott el semmilyen eszközt a védelmi minisztériumnak.
„Az OpenAI irányelvei tiltják az eszközeink használatát fegyverek kifejlesztésére vagy használatára, mások megsebesítésére vagy tulajdon megsemmisítésére. Nem vettünk részt ebben a prezentációban, és nem folytattunk beszélgetést az amerikai védelmi ügynökségekkel az abban leírt hipotetikus felhasználási esetekről”,
írta.
Bourgeous hozzátette:
„Nincs bizonyítékunk arra, hogy az OpenAI modelleket ilyen célra használták volna. Az OpenAI-nak nincs partnersége védelmi ügynökségekkel, hogy API-inkat vagy a ChatGPT-t ilyen célokra használják”.
Szerződéstől függő jogok
A bemutató idején az OpenAI irányelvei látszólag tiltották volna a DALL-E katonai felhasználását. A Microsoft azt mondta a The Interceptnek, hogy ha a Pentagon a DALL-E-t vagy bármely más OpenAI-eszközt a Microsofttal kötött szerződésen keresztül használná, akkor az utóbbi vállalat felhasználási irányelvei vonatkoznának rá. Ennek ellenére az OpenAI-technológia bármilyen felhasználása a Pentagon hatékonyabb gyilkolásához és megsemmisítéséhez drámai fordulatot jelentene a vállalat számára, amely a küldetését a biztonságra összpontosító mesterséges intelligencia fejlesztéseként írja le, amely az egész emberiség javát szolgálhatja.
„Nem lehet olyan harcirányítási rendszert építeni, amely legalább közvetve ne járulna hozzá a civil lakosságnak okozott károkhoz”,
mondta Brianna Rosen, az Oxfordi Egyetem Blavatnik School of Government technológiai etikával foglalkozó vendégkutatója.
Rosen, aki az Obama-kormányzat idején a Nemzetbiztonsági Tanácsban dolgozott, kifejtette, hogy az OpenAI technológiáit ugyanolyan könnyen lehet az emberek megsegítésére használni, mint arra, hogy kárt okozzanak nekik, és az utóbbi célú felhasználásuk bármely kormányzat részéről politikai döntés.
„Hacsak az olyan cégek, mint az OpenAI, nem rendelkeznek a kormányok írásos garanciáival arra vonatkozóan, hogy nem fogják a technológiát civilek ellen használni – ami valószínűleg még mindig nem lenne jogilag kötelező erejű –, nem látom, hogy a cégek milyen módon tudnák magabiztosan kijelenteni, hogy a technológiát nem fogják kinetikus hatású módon használni (vagy visszaélni vele)”,
mondta.
Harctéri képalkotás
A dokumentum nem tartalmaz további részleteket arról, hogyan használhatnák a harctéri irányítási rendszerek a DALL-E-t. Az ilyen rendszerek kiképzésére való utalás azonban azt sugallja, hogy a DALL-E a Pentagon számára úgynevezett „szintetikus kiképzési adatokat” szolgáltathat: mesterségesen létrehozott jeleneteket, amelyek nagyban hasonlítanak az alapvető, valós világbeli képekre. A földi ellenséges célpontok felderítésére tervezett katonai szoftvereknek például a DALL-E által generált, leszállópályákról vagy harckocsioszlopokról készült hamis légi felvételek nagy mennyiségét lehetne megmutatni, hogy jobban felismerjék az ilyen célpontokat a való világban.
Egy ilyen megközelítés hatékonysága még az etikai kifogásokat félretéve is vitatható. „Köztudott, hogy egy modell pontossága és adatfeldolgozási képessége minden alkalommal romlik, amikor mesterséges intelligencia által generált tartalmakkal képzik tovább”, mondta Heidy Khlaaf, egy gépi tanulással foglalkozó biztonsági mérnök, aki korábban az OpenAI-val szerződött.
„A Dall-E képek messze nem pontosak, és nem generálnak olyan képeket, amelyek még a fizikai valóságunkhoz közelítően is tükröződnek, még akkor sem, ha a Battlefield irányítási rendszer bemenetein finomhangolnák őket. Ezek a generatív képmodellek még a végtagok vagy az ujjak helyes számát sem képesek pontosan generálni, hogyan bízhatunk abban, hogy pontosak lesznek egy reális terepi jelenlét tekintetében?”.
A múlt hónapban a Center for Strategic and International Studies-nak adott interjújában M. Xavier Lugo kapitány, az amerikai haditengerészet munkatársa pontosan olyan szintetikus adatok katonai alkalmazását vizionálta, mint amilyeneket a DALL-E képes előállítani, és azt javasolta, hogy a hamisított képeket arra lehetne használni, hogy a drónokat arra képezzék ki, hogy jobban lássák és felismerjék az alattuk lévő világot.
Lugo, a Pentagon generatív mesterséges intelligencia munkacsoportjának parancsnoka és a Védelmi Minisztérium Digitális és Mesterséges Intelligencia Hivatalának tagja, a Microsoft prezentációs dokumentumának végén kapcsolattartóként szerepel. A prezentációt Nehemiah Kuhns, a Microsoft munkatársa, az űr- és légierőnél dolgozó „technológiai szakember” tartotta.
A Védelmi Minisztérium nem válaszolt a Microsoft bemutatójával kapcsolatos konkrét kérdésekre, de Tim Gorman szóvivő a The Interceptnek elmondta: „A Digitális és Mesterséges Intelligencia Főhivatal feladata az adatok, az analitika és a mesterséges intelligencia alkalmazásának felgyorsítása a Védelmi Minisztériumban. Ennek a küldetésnek a részeként olyan tevékenységeket vezetünk, amelyek célja a munkaerő oktatása az adat- és mesterséges intelligencia ismeretekről, valamint arról, hogyan lehet a meglévő és újonnan megjelenő kereskedelmi technológiákat alkalmazni a DoD küldetési területein”.
Miközben a Microsoft már régóta milliárdokat kaszál a védelmi szerződésekből, az OpenAI csak nemrég ismerte el, hogy elkezdett volna együttműködni a Védelmi Minisztériummal. A The Intercept januári, az OpenAI hadiipari fordulatáról szóló jelentésére reagálva a vállalat szóvivője, Niko Felix azt mondta, hogy még a lazított megfogalmazás szerint is „a politikánk nem teszi lehetővé, hogy eszközeinket emberek bántalmazására, fegyverek kifejlesztésére, kommunikációs megfigyelésre, mások megkárosítására vagy tulajdon elpusztítására használják. A lényeg az, hogy hozzájárulunk a háborús harcok előkészítéséhez”.
Eltérő stratégiák
Az OpenAI-val ellentétben a Microsoft a „felelős mesterséges intelligencia” című dokumentumában kevéssé tetteti magát a károkozásról való lemondás mellett, és nyíltan támogatja gépi tanulási eszközeinek katonai felhasználását. Az OpenAI csendben törli a ChatGPT „katonai és hadviselési célú” használatának tilalmát
Az OpenAI az irányelvek megváltoztatását követően a nyilvánosság és az üzleti sajtó előtt is gyorsan hangsúlyozta, hogy a hadsereggel való együttműködése védelmi, békés jellegű volt. Egy januári davosi interjúban a The Intercept tudósítására reagálva az OpenAI globális ügyekért felelős alelnöke, Anna Makanju biztosította a panel résztvevőit, hogy a vállalat katonai munkája olyan alkalmazásokra összpontosít, mint a kiberbiztonsági kezdeményezések és a veteránok öngyilkosságának megelőzése, és hogy a vállalat úttörő gépi tanulási eszközei továbbra sem okozhatnak kárt vagy pusztítást.
A hadvezetési rendszer fejlesztéséhez való hozzájárulás azonban az OpenAI katonai munkáját sokkal közelebb helyezné magához a hadviseléshez. Bár az OpenAI állítása a közvetlen károkozás elkerülésére technikailag igaz lehet, ha szoftverei nem működtetnek közvetlenül fegyverrendszereket, Khlaaf, a gépi tanulás biztonsági mérnöke szerint „más rendszerekben, például a katonai műveleti tervezésben vagy a harctéri értékelésekben való felhasználása végső soron hatással lenne arra, ahol fegyvereket vetnek be vagy küldetéseket hajtanak végre”.
Valóban nehéz elképzelni olyan csatát, amelynek elsődleges célja nem a testi és anyagi károk okozása. A légierő egyik márciusi sajtóközleménye például úgy írja le egy közelmúltbeli harcvezetési rendszergyakorlatot, hogy „halálos erejű, az adatok sebességével”.
(forrás)
