En aquest article donarem una petita introducció a què és un Deep Fake i els riscs que pot suposar.
L’acrònim de Deep Fake, sorgeix de la descomposició de “Deep Learning” i de “Fake”, copia falsa.
Un DeepFake és qualsevol vídeo en el qual la imatge o la veu de la persona, normalment una persona rellevant o una figura pública, han estat manipulades utilitzant software d’intel·ligència artificial per fer que aquell vídeo modificat sembli real. Es basa en la suplantació d’identitats mitjançant tècniques de Machine Learning.
Aquest ús de Machine Learning es pot usar tant pel bé com per a males tècniques i cibercrims. Un clar exemple d’un ús profitós seria en el món del cinema. Els Deep Fakes han aparegut des de fa ja uns anys en la indústria de Hollywood.
Aquesta tècnica s’ha usat en molts casos quan un actor no podia acabar la pel·lícula o necessitaven que aquest actor acabes una llarga saga. Un clar exemple va ser la princesa Leia a L’última pel·lícula de Star Wars. A causa de la seva mort, van haver de modificar la cara d’una altra actriu per a plasmar la cara de la princesa Leia a la d’aquesta.
També s’ha pogut crear una intel·ligència artificial com Thispersondoesnotexist.com. Una web que crea cares en altra definició de persones que realment no existeixen basades en bases de dades d’imatges.
Per altra banda, els Deep Fakes, poden tenir un ús maliciós i poden generar grans escàndols dins del món interconnectat en el qual vivim.
Qualsevol vídeo que es filtri ara d’algun personatge públic, podria afectar a l’economia del nostre món en qüestió de minuts.
Actualment, però, ja s’han donat casos d’estafes i de suplantació d’identitat amb aquesta tecnologia, com és el cas del conegut frau del CEO, que consisteix a suplantar la identitat d’un directiu d’alt càrrec d’una empresa (el CEO, el CTO, el director de finances, etc.) per enganyar a un treballador d’un càrrec més inferior perquè realitzi una acció com realitzar una transferència urgent o enviar uns documents amb informació sensible, amb la pressió que es creu que es demana per urgència en nom d’un alt directiu.
També s’han trobat casos de suplantació d’identitat de gerents de bancs per enganyar a un client perquè realitzi una transferència a una direcció que l’atacant vol.
Des de Light Eyes demanem que s’estigui alerta d’aquests perills, sobretot actualment en aquesta situació que les videotrucades s’han convertit tan essencials.
El punt més dèbil de la teva empresa
maig 28, 2021
