{"id":54656,"date":"2021-04-06T10:45:01","date_gmt":"2021-04-06T08:45:01","guid":{"rendered":"https:\/\/www.pcspezialist.de\/blog\/?p=54656"},"modified":"2024-10-31T08:51:01","modified_gmt":"2024-10-31T07:51:01","slug":"deepfake","status":"publish","type":"post","link":"https:\/\/pcspezialist.de\/blog\/2021\/04\/06\/deepfake\/","title":{"rendered":"Deepfake ## Wenn KI Gesichter und Stimmen generiert"},"content":{"rendered":"

Deepfake; ein Fake, der in die Tiefe geht? In gewisser Weise stimmt das tats\u00e4chlich. Denn mit dieser Technologie generieren k\u00fcnstliche Intelligenzen eigenst\u00e4ndig Gesichter oder tauschen in existenten Fotos und Videos Gesichter und Stimmen von Personen aus.<\/strong><\/p>\n

Was Deepfakes noch alles k\u00f6nnen und welche Gefahren sich hinter ihnen verbergen, erfahren Sie hier!<\/p>\n

<\/p>\n

\n

Unser Beitrag \u00fcber Deepfakes im \u00dcberblick: <\/strong><\/p>\n

    \n
  1. Was ist ein Deepfake?<\/a><\/li>\n
  2. Deepfakes von StyleGAN<\/a><\/li>\n
  3. Faceswapping<\/a><\/li>\n
  4. Voiceswapping & Body-Puppetry<\/a><\/li>\n
  5. Gefahren durch personenbezogene Deepfakes<\/a><\/li>\n
  6. Deepfake-Angriffe<\/a><\/li>\n
  7. Deepfaking und Social Engineering<\/a><\/li>\n
  8. Wie Sie sich sch\u00fctzen k\u00f6nnen<\/a><\/li>\n<\/ol>\n<\/div>\n

    Was ist ein Deepfake?<\/h3>\n

    W\u00e4hrend der auf dem Englischen kommende Begriff Fake (f\u00fcr \u201eF\u00e4lschung\u201c) schon l\u00e4nger im deutschen Sprachraum etabliert ist, erschlie\u00dft sich doch nicht unbedingt intuitiv, was ein Deepfake sein soll. Fangen wir beim ersten Wortteil an: Der englische Begriff deep bedeutet zwar direkt \u00fcbersetzt \u201etief\u201c, verweist in dieser Verwendung aber vor allem auf Deep Learning<\/a>. Das ist eine Lernmethode, mit der eine k\u00fcnstliche Intelligenz (KI)<\/strong> komplexe Methoden selbstst\u00e4ndig verstehen kann. Und mithilfe von entsprechenden Deep-Learning-Prozessen kann KI beim Deepfaking eben genau das Faking lernen. Maschinen k\u00f6nnen konkret Gesichter und Stimmen erkennen und zuordnen<\/strong>, um sie dann im n\u00e4chsten Schritt komplett selbstst\u00e4ndig und zum Teil m\u00fchelos auszutauschen<\/strong>.<\/p>\n

    Das Beispiel des Deepfaking<\/strong> wird oft herangezogen, um zu zeigen, wie weit k\u00fcnstliche Intelligenz heute schon ist. Es zeigt uns, dass wir in mancher Hinsicht viel weiter sind, als wir oft wahrnehmen. In Form von Deepfaking kann Medienmanipulation<\/strong> so pr\u00e4zise betrieben werden, dass es keine M\u00f6glichkeit gibt, die Medien als gefaked zu entlarven.<\/p>\n

    \"Deepfake\"

    Das sind keine tats\u00e4chlichen Fotos sondern von StyleGAN generierte Deepfakes. Die Personen existieren in Wirklichkeit gar nicht. Bilder: https:\/\/thispersondoesnotexist.com\/<\/p><\/div>\n

    Deepfakes von StyleGAN<\/h3>\n

    Was komplexere fotografische Deepfakes sind, sieht man gut auf der Seite https:\/\/thispersondoesnotexist.com\/<\/a>. Besucht man sie, kann man sich einen individuellen Deepfake generieren lassen. Dieser wird vom generativen Netzwerk StyleGAN<\/strong> erzeugt. StyleGAN ist von dem Grafikkartenhersteller Nvidia entwickelt worden und arbeitet mit der Nvidia-Software CUDA, GPUs und basiert auf TensorFlow<\/a>. Auf den ausgegebenen Fotos der Website sieht man Gesichter, die von k\u00fcnstlicher Intelligenz geschaffen wurden und die es in Wahrheit also gar nicht gibt.<\/p>\n

    Auf \u00e4hnliche Weise funktioniert die Website https:\/\/generated.photos\/<\/a>. StyleGAN ist eine Datenbank mit rund drei Millionen computergenerierten Gesichtern. Basis f\u00fcr ihre Erstellung ist ein privater Datensatz. Gerichtet ist die Datenbank vor allem an Unternehmen, die Stock-Fotos ben\u00f6tigen, aber sehr individuelle Vorstellungen haben, wie die dargestellte Person aussehen sollte. Die nicht kommerzielle Nutzung der Bilder ist kostenlos.<\/p>\n

    Die University of Washington nutzt StyleGAN \u00fcbrigens f\u00fcr das Projekt Which Face Is Real<\/a>. Nutzer entscheiden in Form eines Spiels, welches von zwei Gesichtern echt ist. Eines der Gesichter wird stets mithilfe von StyleGAN, also von einer k\u00fcnstlichen Intelligenz, generiert. Heute f\u00e4llt es uns bereits erschreckend schwer, computergenerierte Gesichter von echten zu unterscheiden. Und genau das will das Projekt aufzeigen: Im Fokus steht die Sensibilisierung, wie leicht es f\u00fcr Kriminelle ist, sich als Personen auszugeben, die gar nicht existieren. Im Jahr 2019 entfernte Facebook ganze Profilnetzwerke von Spam-Bots und gab bekannt, dass es sich dabei um Profile handelte, die Deep Fakes als Fotos genutzt h\u00e4tten. Durch Deepfakes f\u00e4llt es auch Algorithmen zunehmend schwerer, Spam-Bots klar als solche zu identifizieren.<\/p>\n

    \"Deepfake

    Ein Deepfake zu erkennen, ist manchmal gar nicht so einfach. K\u00f6nnen Sie echte Gesichter von Fakes unterscheiden? Screenshot: https:\/\/www.whichfaceisreal.com\/<\/p><\/div>\n

    Faceswapping<\/h3>\n

    W\u00e4hrend StyleGAN Gesichter komplett neu zusammensetzt, wird Deepfaking meistens aber mit dem sogenannten Faceswapping<\/strong> (auch Face Swapping) in Verbindung gebracht. Hierbei wird das Gesicht einer Person in Fotos oder Filmaufnahmen<\/strong> durch das Gesicht einer anderen Person ausgetauscht. Die KI analysiert dazu m\u00f6glichst viele Daten beider Personen, um sich mit jeder Eigenheit des Gesichts vertraut zu machen. Das ist ihr meistens ein Leichtes, denn von fast jedem gibt es heute im Internet eine F\u00fclle an Videos und Fotos zu finden. Besonders dann, wenn die- oder derjenige auch Person des \u00f6ffentlichen Interesses ist. Bekannt geworden ist Faceswapping durch die sogenannte FakeApp<\/strong>.<\/p>\n

    Das erste Mal wurde ein Deepfake 2017 \u00f6ffentlich bekannt. Ein User der Social-News-Plattform Reddit lud Pornos hoch, bei denen er die Gesichter mit denen von Schauspielern und Schauspielerinnen einsetzte. Bis 2018 haben alleine in Reddit Benutzer mehr als 50.000 mit Faceswapping erstellte Deepfakes ver\u00f6ffentlicht. Auf dieser und den meisten anderen Plattformen sind solche Videos oder Bilder jetzt aber ausdr\u00fccklich verboten<\/strong>. Dennoch ist meistens gar nicht kontrollierbar, ob ein Video oder Foto echt ist oder nicht.<\/p>\n

    Voiceswapping & Body-Puppetry<\/h3>\n

    Voiceswapping <\/strong>(auch Voice Swapping) ist das Equivalent zum Faceswapping und ersetzt die Stimme einer Person mit der einer anderen. Analysen von Datens\u00e4tzen k\u00f6nnen sprachliche Eigenheiten auswerten und entsprechend lernende KI kann trainieren, sie haargenau zu imitieren. Sogenanntes Body-Puppetry<\/strong> \u00fcbertr\u00e4gt bestimmte Bewegungen auf bestehendes Videomaterial einer anderen Person. Da die KI hierbei in der Lage sein muss, den Hintergrund authentisch zu rekonstruieren, gilt diese Form des Deepfakings heute noch als am kompliziertesten.<\/p>\n

    Eines der wohl bekanntesten Beispiele f\u00fcr eine Kombination zum Faceswapping und Voiceswapping<\/strong> kommt von der US-Organisation Represent US<\/strong>. Zur vergangenen Pr\u00e4sidentschaftswahl 2020<\/strong> hat sie Deepfakes ver\u00f6ffentlicht, in denen die Gesichter und Stimmen von Darstellern mit denen von Machthabern wie Putin ersetzt wurden. Ziel der Kampagne war es, ein Bewusstsein f\u00fcr die Medienmanipulation zu schaffen, aufzuzeigen, wie professionell Fake News<\/strong> aussehen k\u00f6nnen und einen klaren Appell f\u00fcr die Teilnahme an einer jeden demokratischen Wahl auszusprechen. Auf YouTube kann man sich die entsprechenden Videos auch jetzt noch ansehen. In diesem Video sieht man eine fingierte Ansprache von Kim Jong-Un<\/strong>:<\/p>\n