Deep Fake – hur ska vi skydda oss mot manipulerad videoredigering och AI

0

Nya tekniker och hur syntetisk och fake manipulerad media komer påverkar samhället. Deepfake tekniker använder AI så att videor av verkliga människor ändras så att de verkar göra och säga saker som inte är verkliga och visar en förvrängd version av verkligheten.

Olika typer av deep fakes

  • Face Swap
  • Puppet master
  • Lip sync
  • Voice cloning

Termen myntades 2017 samtidigt publicerades “Generative Adversarial Networks” och många har senare sett hur man fejkat Barack Obama och Donald Trump i olika situationer.

Det första kända fallet av framgångsrika finansiella scamming via ljud deepfakes var i mars 2019 då cyberbovar kunde skapa en nästan perfekt personifiering av en VD röst-och sedan använde ljudet för att lura företaget att överföra $243 000 till sitt bankkonto.

Metoder att motverka ”deep fakes

  • Institutionella interventioner
  • Öka finansiering till program för att utveckla nya metoder
  • Mätning av teknikerna och hoten
  • Nya normer hur vi pratar om tekniker som utvecklas
  • Den handlar inte bara om teknik och verktyg utan också om utbildning inom AI och ge människor verktyg

Förhör i amerikanska kongressen om deep fakes.

Deepfakedetectionchallenge

Facebook, Microsoft och ett antal universitet har gått samman för att sponsra en tävling https://deepfakedetectionchallenge.ai/ som främjar forskning och utveckling för att bekämpa deepfakes, eller videor som ändras genom artificiell intelligens (AI) för att vilseleda tittarna.

Google

Google’s ”Spoofing and Countermeasures Challenge”.

Deep Fakes på Black Hat 2019

Under BlackHat 2019 mässan var ett av föredragen
Detecting Deep Fakes with Mice. Maskin vs Biologi och att försöka lära möss att avslöja deep fakes.
Ladda ner PDF

Om författaren

Daniel Larsson jobbar med Cybersecurity och datasäkerhet. Under åren har han marknadsfört säkerhetsbolag inom områden som PKI, certifikat, digital signering, mobil säkerhet och kryptering. Han har tung erfarenhet av digital marknadsföring, webbutveckling och e-handel från några av världens största varumärken.

Share via
Copy link