Nya tekniker och hur syntetisk och fake manipulerad media har påverkat samhället. Deepfake tekniker använder AI så att videor av verkliga människor ändras så att de verkar göra och säga saker som inte är verkliga och visar en förvrängd version av verkligheten.

Olika typer av deep fakes

  • Face Swap
  • Puppet master
  • Lip sync
  • Voice cloning

Termen myntades 2017 samtidigt publicerades “Generative Adversarial Networks” och många har senare sett hur man fejkat Barack Obama och Donald Trump i olika situationer.

Det första kända fallet av framgångsrika finansiella scamming via ljud deepfakes var i mars 2019 då cyberbovar kunde skapa en nästan perfekt personifiering av en VD röst-och sedan använde ljudet för att lura företaget att överföra $243 000 till sitt bankkonto.

Deepfakes tillför sofistikationsnivå till social manipulation, som det brittiska ingenjörsföretaget Arup fick erfara till sin nackdel under 2025. En grupp brottslingar använde AI-genererade kloner av företagets ledande chefer i ett videosamtal för att framgångsrikt lura en finansanställd att överföra 25 miljoner dollar.

I ett förhindrat bedrägeriförsök på Ferrari använde brottslingar den AI-genererade rösten av VD Benedetto Vigna, vilket övertygade alla utom en anställd, som klokt nog ställde en fråga som bara den riktiga VD:n kunde svara på.

Under sommaren blev Danmark det första landet i Europa att skydda en individs rätt till sitt utseende och sin röst som en del av en ändring av dess upphovsrättslagstiftning.

Metoder för att motverka ”deep fakes

  • Institutionella interventioner
  • Öka finansiering till program för att utveckla nya metoder
  • Mätning av teknikerna och hoten
  • Nya normer hur vi pratar om tekniker som utvecklas
  • Den handlar inte bara om teknik och verktyg utan också om utbildning inom AI och ge människor verktyg

Förhör i amerikanska kongressen om deep fakes.

Deepfakedetectionchallenge

Facebook, Microsoft och ett antal universitet har gått samman för att sponsra en tävling https://deepfakedetectionchallenge.ai/ som främjar forskning och utveckling för att bekämpa deepfakes, eller videor som ändras genom artificiell intelligens (AI) för att vilseleda tittarna.

Google

Google’s ”Spoofing and Countermeasures Challenge”.

Deep Fakes på Black Hat 2019

Under BlackHat 2019 mässan var ett av föredragen
Detecting Deep Fakes with Mice. Maskin vs Biologi och att försöka lära möss att avslöja deep fakes.
Ladda ner PDF

Share.

Daniel Larsson har jobbat med cybersecurity och datasäkerhet med fokus på Internet sedan 1998. Under åren har han marknadsfört scaleup cyberbolag inom områden som PKI, certifikat, digital signering, mobil säkerhet och kryptering. Han har tung erfarenhet av digital marknadsföring, webbutveckling och e-handel från några av världens största varumärken och jobbar till vardags på Expandtalk.

Leave A Reply Cancel Reply

Denna webbplats använder Akismet för att minska skräppost. Lär dig om hur din kommentarsdata bearbetas.

Exit mobile version