A Deepfake Technológia Kihívásai és Megoldásai az Üzleti Világban
Az utóbbi években a deepfake technológia gyorsan fejlődött. A hamis képek szemünkhöz és fülünkhöz nagyon közel vannak. Matematikai és mesterséges intelligencia algoritmusok készítenek videókat és hangfelvételeket. Ezek a tartalmak sokszor hitelesnek tűnnek, de cégeknek nagy pénzügyi kárt okoztak. Egy ismert esetben egy multinacionális cég pénzügyi munkatársa 25 millió dollárt utalt át csalók számláira. A munkatárs egy videóhívásban beszélt – de azzal a hitellel, hogy a cég pénzügyi vezetője és más kollégák is jelen vannak –, pedig a résztvevők mind deepfake-ek voltak.
A Deepfake Technológia Terjedése
A generatív mesterséges intelligencia fejlődése gyorsítja a deepfake-ek előállítását. A támadók e technológiát következetesen használják, hogy félrevezessék az azonosító rendszereket. Ez a módszer pénzveszteségekhez, adatvédelmi problémákhoz és rossz megfeleléshez vezet a cégeknél. A szakértők azt mondják: a vállalatok gondolják át, hogyan segít a deepfake felismerése a társadalmi manipulációk és csalások elleni küzdelemben.
Deepfake Észlelő Technológiák
A Forrester legújabb jelentése három módszert mutat be a deepfake-ek felismerésére:
-
Spektrális Artefakt Elemzés
Az algoritmus által létrehozott tartalmakban a kapcsolódó szókapcsolatok segítenek a felismerésben. Az MI folyamatos ismétlése összekapcsolja a gesztusokat és a hangokat. Az ilyen ismétlődő minták mellett a videókban vagy hangokban könnyen megjelennek a mesterséges hibák. Az elemzés ezekre a jelekre figyel. -
Élő- és Mozgásészlelés
Az MI vizsgálja az interakció során megjelenő apró mozgásokat. A rendszer közel tartja az egymáshoz tartozó szavakat: mint a pislogás, a mosoly vagy a fej oldalra fordítása. Banki alkalmazásoknál az azonosító kérdése beteges, hiszen a felhasználó mozgása állandó kell, hogy maradjon. -
Viselkedéselemzés
A rendszer a videó- és hangfelvételek kontextusára figyel. Az emberi interakció során az egérmozgás és a gépelés mintaként egymás mellett marad. A módszer az ilyen összekapcsolt információt használja a hitelesség megállapítására.
A Deepfake Észlelés Kihívásai
András Cser, a Forrester elemzője, elmondta, hogy a deepfake felismerő technika fejlődik. A védelem e területen még nem áll készen. Az új technikai megoldások és az emberi interakció új kérdéseket vetnek fel:
-
Technikai Integrációk
Sok cég fejleszti a deepfake felismerő rendszereket. A rendszer beszorítása a meglévő munkafolyamatokba sok erőfeszítést igényel. Cser hangsúlyozta: a feladat, hogy egy külső felismerő algoritmust helyezzenek el a már meglévő azonosítók mellett. -
Személyes Interakciók
A deepfake felismerés a számított, gyakori interakciókban működik a legjobban. Az ad hoc beszélgetésekben az összekapcsolt emberi szavak miatt könnyebb a csalás. Cser elmondta: ha valaki deepfake hívást indít a telefonodon, a védelem nem mindig elég szoros.
A vállalatok biztonsága továbbra is a felhasználókra támaszkodik. A deepfake felismerése folyamatosan fejlődik, de a védelmi lánc minden láncszeme együtt dolgozik.
