A Google Fotók egy olyan funkció bevezetését tervezi, amely mesterséges intelligenciával módosított vagy létrehozott képeket automatikusan felismeri és jelzi a felhasználók számára. A cél az, hogy segítsenek azonosítani a hamisított képeket, különösen a deepfake-technológiával készült médiatartalmakat, amelyek világszerte egyre nagyobb problémát jelentenek a dezinformáció és a manipuláció miatt.
A legújabb hírek szerint a Google Fotók fontolóra veszi egy olyan funkció bevezetését, amely automatikusan meghatározná a felhasználók számára, hogy az adott képet mesterségesintelligencia-technológiával hozták-e létre vagy módosították-e. A jelentések szerint a fotó- és videómegosztó szolgáltatás új stratégiát dolgoz ki, amelybe beépített metaadatok kerülnek, amelyek jelzik, hogy a médiafájlt módosították-e vagy biztonságosnak tekintik-e mesterséges intelligencia technológiák használata révén. Ennek az az oka, hogy a deepfake és a képhamisítás egyre növekvő trenddé vált.
A deepfake-technológia olyan képeket, videókat vagy hanganyagokat hoz létre, amelyeket manipuláltak annak érdekében, hogy megtévesszék az embereket vagy hamis információkat terjesszenek. Ez egyre nagyobb problémává válik, ahogy a mesterséges intelligencia eszközei egyre fejlettebbé és szélesebb körben elérhetővé válnak. Az MI-képkreditek Google Fotókba való integrálásával azt remélik, hogy csökkenthetik a deepfake-technológia által okozott veszélyeket, mivel egyértelműbbé teszik, honnan származik egy adott kép.
Az Android Authority jelentése szerint a Google Fotók alkalmazás legújabb, 7.3-as verziója olyan azonosítókat tartalmaz, amelyek az MI által generált vagy feljavított képekhez kapcsolódnak. Bár a funkció még nem éles, az alkalmazás belső kódjában olyan címkék találhatóak, mint az „ai_info” és a „digital_source_type”, amelyek feltételezhetően információkat szolgáltatnak egy kép digitális manipulációs előzményeiről.
Az „ai_info” címke várhatóan azt fogja megmutatni, hogy egy képet mesterséges intelligencia eszközzel hoztak-e létre vagy módosítottak-e, követve az átláthatósági protokollokat. Ezzel szemben a „digital_source_type” címke az adott MI-modellt azonosíthatja, például a Google Gemini-t vagy harmadik féltől származó eszközöket, mint a Midjourney. Ezek a metaadat-címkék nemcsak abban segítenek a felhasználóknak, hogy felismerjék az MI által módosított képeket, hanem fontos szerepet játszanak a félretájékoztatás elleni szélesebb körű küzdelemben is, különösen a deepfake-ek elterjedésével.
A Google Fotók potenciális MI-képjelölő funkciója nagy lépést jelent ebbe az irányba. Az MI-vel feljavított képek metaadataiba átlátható adatok beágyazásával a felhasználók ellenőrizhetik, hogy egy kép hiteles-e vagy digitálisan módosították. Ez valószínűleg csökkenteni fogja a deepfake-ek terjedését, és jobb megértést biztosít a felhasználóknak az általuk fogyasztott médiaforrások hitelességéről.
