A Microsoft „MI Hitelesítővel” küzd a hamisított tartalmak ellen

A Microsoft két új eszközt jelentette be, amelyek közös célt szolgálnak: felderíteni a digitális tartalmak (álló- és mozgóképek) eredetiségét. Az egyik rendszer a metaadatokra támaszkodik, míg a másik egy olyan „videó hitelesítő”, ami a fényképek és a mozgóképek analízise során felállít egy megbízhatósági értéket, ami elárulja, hogy a tartalmat módosította-e MI. A MS metaadat rendszere hasonlít az Adobe „Authenticity” nevűjére: a szoftvert a tartalom készítője arra használja, hogy bizonyos metaadatokat adjon a tartalomhoz, míg az ellenőrző oldalon azt vizsgálhatják meg vele, hogy manipulálták-e az anyagot.

Ennél a rendszernél sokkal érdekesebb a „Microsoft Video Authenticator”, ami az állóképek mellett a videókat is képes ellenőrizni eredetiségükre. „A Video Authenticatorral megvizsgálhatunk egy videót, vagy fényképet, majd kapunk egy százalékértéket, avagy egy megbízhatósági értéket, ami megmutatja, hogy a média fájlt módosította-e mesterséges intelligencia. Videóknál ez az értékelés valósidőben, képkockánként történik. A rendszer a színátmeneteket és a szürkeárnyalatos elemek finom halványodását figyeli, amiket az ember szabad szemmel nem vehet észre.”

A technológiát a mélyhamisítások elleni küzdelem elősegítésére tervezték: manipulált fotók és videók, amelyeket mélytanuló, MI algoritmusok hoztak létre (innen ered a kifejezés: mély hamisítás). Ezek a manipulált fájlok – amelyeket gyakran arra használnak, hogy úgy tűnjön, mintha egy prominens személy, vagy politikai szereplő mondott, vagy tett volna valamit, amit valójában nem – egyre problémásabbak, mivel az algoritmusok mindig tanulnak, egyre meggyőzőbbek és egyre nehezebb a hamisítványok leleplezése.

Ez az, amivel szemben a Video Authenticator megpróbál megvédeni; a fejlesztők a legfrissebb és legnagyobb adatállományok felhasználásával képezték ki a hamisítás észlelésére a rendszer.

Mivel ez maga is egy mesterséges intelligencia-alapú, mélytanulást alkalmazó rendszer, ezért nem adják ki a nyilvánosság részére, hiszen rossz kezekbe kerülve potenciálisan ellene lehetne fordítani a hamisító algoritmusokat. A Microsoft Video Authenticator ehelyett az AI Foundation Reality Defender 2020 (RD2020) alapítványon keresztül lesz elérhető. (Forrás: petapixel.com)

Hirdetések:
Weboldal készítés

.

Ezek is érdekelhetnek...