Az MI által létrehozott arcok már valódibbnak tűnnek, mint a valódi fotók

Ez most különösen problematikus, hogy a számítógépes rendszerek olyan emberekről is képesek valósághűnek tűnő fotókat készíteni, akik nem is léteznek.

Nemrégiben egy számítógép által generált profilképpel ellátott hamis LinkedIn-profil került be a hírekbe, mert sikeresen lépett kapcsolatba például amerikai tisztviselőkkel és más befolyásos személyekkel a hálózatépítő platformon. A kémelhárítás szakértői szerint a kémek rendszeresen készítenek ilyen képekkel ellátott fantomprofilokat, hogy a közösségi médián keresztül külföldi célpontokat célozzanak meg.

Ezek a mélyhamisítványok egyre inkább elterjednek a mindennapi kultúrában, ami azt jelenti, hogy az embereknek jobban oda kell figyelniük arra, hogyan használják fel őket a marketingben, a reklámokban és a közösségi médiában. A képeket rosszindulatú célokra is használják, például politikai propagandára, kémkedésre és információs hadviselésre.

Ezek elkészítéséhez egy úgynevezett mély neurális hálózatra van szükség, egy olyan számítógépes rendszerre, amely az agy tanulási módját utánozza. Ezt úgy "képzik ki", hogy egyre nagyobb, valódi arcokból álló adathalmazoknak teszik ki.

Valójában két mély neurális hálózatot állítanak egymással szembe, és versenyeznek a legrealisztikusabb képek előállításáért. Ennek eredményeképpen a végtermékeket GAN-képeknek nevezik, ahol a GAN a Generative Adversarial Networks (generatív ellentéthálózatok) rövidítése. A folyamat olyan újszerű képeket generál, amelyek statisztikailag megkülönböztethetetlenek a tréningképektől.

Az iScience folyóiratban közzétett tanulmányunkban kimutattuk, hogy ha ezeket a mesterséges arcokat nem tudjuk megkülönböztetni a valóságtól, az hatással van az online viselkedésünkre. Kutatásunk szerint a hamis képek alááshatják a másokba vetett bizalmunkat, és alapvetően megváltoztathatják az online kommunikációnkat.

Kollégáimmal azt találtuk, hogy az emberek a GAN-arcokat még valódibbnak érzékelték, mint a valódi emberek valódi arcáról készült valódi fotókat. Bár még nem világos, hogy ez miért van így, ez a megállapítás rávilágít a mesterséges képek létrehozására használt technológia legújabb fejlődésére.

Egy kivételével minden arcot generatív adverzális hálózattal (GAN) hoztak létre. Olvassa el a cikk végéig, hogy megtudja, melyik a valódi. NVIDIA via thispersondoesnotexist.com, ez a személy nem létezik).

És találtunk egy érdekes kapcsolatot a vonzerővel is: a kevésbé vonzónak ítélt arcokat valósabbnak is értékelték. A kevésbé vonzó arcokat tipikusabbnak tekinthetik, és a tipikus arcot használhatják referenciaként, amelyhez képest az összes arcot értékelik. Ezért ezek a GAN-arcok valóságosabbnak tűnnek, mert jobban hasonlítanak az emberek által a mindennapi életből felépített mentális sablonokhoz.

De ha ezeket a mesterséges arcokat hitelesnek tekintjük, az hatással lehet arra az általános bizalmi szintre is, amelyet ismeretlen emberek körére kiterjesztünk - ez a fogalom a "társadalmi bizalom".

Gyakran túl sokat olvasunk ki az arcokból, amelyeket látunk, és az első benyomásaink irányítják a társas interakcióinkat. Egy második kísérletben, amely a legutóbbi tanulmányunk részét képezte, azt láttuk, hogy az emberek nagyobb valószínűséggel bíznak az általuk korábban valósnak ítélt arcok által közvetített információkban, még akkor is, ha azok mesterségesen generáltak.

Nem meglepő, hogy az emberek jobban bíznak az általuk valósnak vélt arcokban. Azt tapasztaltuk azonban, hogy a bizalom elenyészett, amint az embereket tájékoztatták a mesterséges arcok lehetséges jelenlétéről az online interakciókban. Ezután összességében alacsonyabb bizalmi szintet mutattak - függetlenül attól, hogy az arcok valódiak voltak-e vagy sem.

Ez az eredmény bizonyos szempontból hasznosnak tekinthető, mivel gyanakvóbbá tette az embereket egy olyan környezetben, ahol hamis felhasználók működhetnek. Más szempontból azonban ez fokozatosan erodálhatja a kommunikációnk természetét.

Általában hajlamosak vagyunk arra az alapfeltevésre, hogy mások alapvetően igazat mondanak és megbízhatóak. A hamis profilok és más mesterséges online tartalmak terjedése felveti a kérdést, hogy jelenlétük és a róluk való tudásunk mennyire változtathatja meg ezt az "igazság alapértelmezett" állapotot, és végül erodálhatja a társadalmi bizalmat.

Az alapértelmezésünk megváltoztatása
Az olyan világra való áttérés, ahol a valóságos és a nem valóságos megkülönböztethetetlen, a kulturális tájképet is eltolhatja az elsődlegesen igazmondóról az elsődlegesen mesterséges és megtévesztőre.

Ha rendszeresen megkérdőjelezzük az online tapasztaltak valóságtartalmát, az megkövetelheti, hogy mentális erőfeszítéseinket magának az üzenetnek a feldolgozásáról a hírvivő személyazonosságának feldolgozására fordítsuk át. Más szóval, a rendkívül valósághű, mégis mesterséges online tartalmak széles körű használata másfajta gondolkodásra késztethet bennünket - olyan módon, amire nem is számítottunk.

A pszichológiában a "valóságfigyelés" kifejezést használjuk arra, hogyan azonosítjuk helyesen, hogy valami a külső világból vagy az agyunkból származik. Az olyan technológiák fejlődése, amelyek hamis, de nagyon valósághű arcokat, képeket és videohívásokat képesek előállítani, azt jelenti, hogy a valóságfigyelésnek a saját ítélőképességünkön kívül más információkon kell alapulnia. Ez egyúttal szélesebb körű vitát tesz szükségessé arról, hogy az emberiség megengedheti-e még magának, hogy az igazságot alapértelmezettnek tekintse.

Létfontosságú, hogy az emberek kritikusabbak legyenek a digitális arcok értékelésénél. Ez magában foglalhatja a fordított képkeresés használatát annak ellenőrzésére, hogy a fotók valódiak-e, óvatosnak kell lenniük a kevés személyes információval vagy nagyszámú követővel rendelkező közösségi médiaprofilokkal szemben, és tisztában kell lenniük azzal, hogy a deepfake technológiát rosszindulatú célokra is fel lehet használni.

E terület következő állomása a hamis digitális arcok felismerésére szolgáló algoritmusok tökéletesítése kell, hogy legyen. Ezeket aztán be lehetne építeni a közösségi médiaplatformokba, hogy segítsenek megkülönböztetni a valódit a hamisítványoktól, amikor új kapcsolatok arcáról van szó.

A fenti összetett képen látható egyetlen valódi arc a balról a második oszlopban, felülről a negyedik képen található.

Oszd meg ezt a cikket!