Immer auf dem Laufenden!
Mit unseren News informieren wir Dich über aktuelle Online-Gefahren, Aktionen und Veranstaltungen.
Hier kannst Du Dich außerdem für unseren Newsletter anmelden.
Deepfakes – Nur lustig oder auch gefährlich?
Es kursieren immer mehr Videos im Netz, in denen berühmte Personen merkwürdige Dinge sagen oder tun, die kaum zu glauben sind. Oftmals ist dies auch gar nicht der Fall und es handelt sich um eine Täuschung, die mithilfe von Deepfake erstellt wurde.
Ein Beispiel hierfür ist das Video von Barack Obama, welches 2018 von BuzzFeedVideo auf YouTube veröffentlicht wurde. Das Video zeigt scheinbar Barack Obama, der Donald Trump als „Vollidiot“ bezeichnet. BuzzFeed klärt auf: In Wahrheit handelt es sich um den US-amerikanischen Schauspieler und Comedian Jordan Peele, der mithilfe von Deepfake dieses täuschend echte Video produziert hat. Ein weiteres Beispiel hat erst vor drei Monaten für Aufmerksamkeit in der deutschen YouTube-Community gesorgt. In einem Video sieht man den YouTuber Unge eine Bifi essen. Was man dazu wissen muss: Unge ist eigentlich Veganer und musste sich danach sehr viel Kritik von seinen Followern anhören. Dabei ist er seinem Lebensstil immer treu geblieben. Das Video war nur ein Scherz. Der YouTuber Marius Angeschrien hatte es in Absprache mit Unge erstellt.
Wie funktionieren Deepfakes?
Deepfake ist eine Methode, die seit 2017 genutzt wird, um mithilfe von künstlicher Intelligenz verblüffend echte Bilder und Videos zu erstellen. Hierfür wird eine Software verwendet, die das Gesicht einer Person analysiert und sozusagen auswendig lernt. Fast jede:r kann diese Software kostenlos aus dem Internet herunterladen. Ist solch ein Deepfake Video erst einmal erstellt und im Netz veröffentlicht, kann es zu ernsthaften Problemen führen, wie z.B. Rufschädigung, Mobbing oder auch die Beeinflussung politischer Themen und aktueller gesellschaftlicher Diskussionen.
Wo werden Deepfakes eingesetzt?
Einige der bekanntesten Anwendungsgebiete von Deepfakes sind:
- Unterhaltung: In Filmen und Videospielen werden Deepfakes eingesetzt, um Charaktere realistischer erscheinen zu lassen oder verstorbene Schauspieler digital zum Leben zu erwecken. So können beispielsweise Jugendszenen älterer Schauspieler realistisch nachgestellt oder Charaktere nahtlos in historische Filmmaterialien integriert werden.
- Soziale Medien und Werbung: Deepfakes werden genutzt, um verblüffende Inhalte für soziale Medien zu erstellen oder Werbekampagnen persönlicher und ansprechender zu gestalten. Sie ermöglichen beispielsweise, dass Prominente in verschiedenen Sprachen sprechen, ohne die Sprache wirklich zu beherrschen.
- Bildung und Forschung: Im Bildungsbereich können Deepfakes genutzt werden, um historische Persönlichkeiten in Lehrmaterialien "sprechen zu lassen", wodurch ein interaktiveres und fesselnderes Lernerlebnis geschaffen wird. In der Forschung helfen sie, die Entwicklung von KI-Technologien voranzutreiben.
- Politik und Desinformation: Leider werden Deepfakes auch für politische Kampagnen oder zur Verbreitung von Desinformation eingesetzt. Sie können genutzt werden, um falsche Äußerungen von Politiker:innen zu verbreiten, politische Gegner:innen schlecht zu machen oder Unruhen zu schüren.
- Pornografie: Eine dunkle Seite der Deepfake-Technologie ist ihre Anwendung in der Erstellung nicht einvernehmlicher pornografischer Inhalte, bei denen die Gesichter von Prominenten oder Privatpersonen ohne deren Zustimmung in pornografische Szenen eingefügt werden.
- Persönliche Sicherheit und Datenschutz: Im Bereich der persönlichen Sicherheit können Deepfakes genutzt werden, um biometrische Systeme zu täuschen, was erhebliche Datenschutz- und Sicherheitsbedenken aufwirft.
Während Deepfakes beeindruckende und unterhaltsame Inhalte ermöglichen können, bergen sie auch erhebliche Risiken für die Verbreitung von Falschinformationen, den Missbrauch von Persönlichkeitsrechten und die Beeinträchtigung der politischen und sozialen Ordnung. Es ist daher wichtig, sich der Möglichkeiten und Gefahren dieser Technologie bewusst zu sein und verantwortungsvoll mit ihr umzugehen.
Deepfakes und Pornografie
Vor allem im Bereich der Pornografie spielen Deepfakes mittlerweile eine große Rolle. Das lässt sich durch mehrere Faktoren erklären, die sowohl technische als auch gesellschaftliche Aspekte umfassen:
- Zugänglichkeit der Technologie: Mit der Weiterentwicklung und Vereinfachung von Deepfake-Technologien ist es einfacher geworden, überzeugende Fälschungen zu erstellen. Software und Anleitungen sind oft frei im Internet verfügbar, was bedeutet, dass auch Personen mit relativ wenig technischem Know-how in der Lage sind, Deepfakes zu produzieren.
- Anonymität im Internet: Das Internet bietet ein hohes Maß an Anonymität, wodurch Menschen eher bereit sind, ethische Grenzen zu überschreiten. Ersteller:innen von pornografischen Deepfakes können ihre Identität leicht verbergen, was die Hemmschwelle für solche Handlungen senkt.
- Nachfrage nach spezifischem Material: Es gibt eine beträchtliche Nachfrage nach pornografischem Material, das spezifische Fantasien oder Wünsche erfüllt, einschließlich solcher mit Prominenten oder bestimmten Personen. Deepfakes ermöglichen die Erstellung solcher Inhalte ohne Zustimmung der abgebildeten Personen.
- Gesellschaftliche Objektivierung und Missbrauch: Die Verwendung von Deepfake-Technologie zur Erstellung pornografischer Inhalte spiegelt tief verwurzelte Probleme der Objektivierung und des Missbrauchs wider, insbesondere gegenüber Frauen. Dies wird durch die Tatsache verstärkt, dass die überwiegende Mehrheit pornografischer Deepfakes ohne die Zustimmung der dargestellten Personen erstellt wird, was ihre Autonomie und Würde verletzt.
- Unzureichende rechtliche Konsequenzen: Obwohl viele Länder begonnen haben, Gesetze gegen nicht einvernehmliche pornografische Darstellungen zu erlassen, bleiben die rechtlichen Rahmenbedingungen in vielen Teilen der Welt unzureichend oder schwer durchsetzbar. Dies führt zu einer Umgebung, in der Täter oft ohne signifikante Konsequenzen agieren können.
- Sensationslust und Verbreitung: Inhalte, die schockieren oder Aufmerksamkeit erregen, verbreiten sich in sozialen Medien und auf Plattformen oft schneller und weiter. Dies gilt auch für pornografische Deepfakes, die aufgrund ihres oft kontroversen und sensationellen Charakters eine weite Verbreitung finden können.
Insgesamt ist der hohe Anteil pornografischer Deepfakes ein Symptom größerer gesellschaftlicher Probleme, einschließlich der Missachtung von Privatsphäre und Einwilligung sowie technologischer Entwicklungen, die vor ethischen Überlegungen davoneilen. Es bedarf umfassender Bemühungen, einschließlich Bildung, rechtlicher Regelungen und technologischer Lösungen, um die Erstellung und Verbreitung solcher Inhalte zu bekämpfen.
Deepfakes selbst erstellen
Deepfakes können mit verschiedenen Apps oder Softwares erstellt werden. Das zeigt, wie einfach es ist, solche gefälschten Inhalte zu erstellen. Hier ein paar Beispiele:
- FaceSwap: Eine Open-Source-Software, die es Nutzer:innen ermöglicht, Gesichter in Videos zu tauschen.
- Reface: Eine mobile App, die Gesichter in Videos und GIFs mit einer Datenbank von Clips austauscht.
- DeepFaceLab: Eine fortgeschrittene Software, die detaillierte Gesichtsaustausche ermöglicht, sie wird oft von erfahrenen Nutzer:innen verwendet.
- Zao: Eine chinesische App, die es Nutzer:innen ermöglicht, ihr Gesicht in Filmszenen einzufügen.
- Avatarify: Diese App ermöglicht es, in Echtzeit Gesichtsanimationen zu erstellen. Sie wird oft genutzt für Live-Video-Chats.
Grenzen und rechtliche Aspekte
Die Nutzung solcher Apps und Software sowie die Erstellung von Deepfakes ist nicht unproblematisch. Hier ein paar wichtige rechtliche Hinweise:
- Urheberrecht: Die Nutzung geschützter Inhalte (z.B. Filmmaterial, Bilder) ohne Erlaubnis verstößt gegen das Urheberrecht. Erstellte Deepfakes dürfen ohne Genehmigung der Rechteinhaber nicht verbreitet oder kommerziell genutzt werden.
- Persönlichkeitsrecht: Das Recht am eigenen Bild schützt Personen davor, dass ihr Bild ohne Einwilligung verwendet wird. Deepfakes, die das Gesicht einer Person verwenden, können deren Persönlichkeitsrechte verletzen, insbesondere wenn sie in kompromittierenden oder diffamierenden Kontexten genutzt werden.
- Strafrecht: Die Erstellung und Verbreitung von Deepfakes zu schädlichen Zwecken (z.B. Verleumdung, Belästigung) können strafrechtliche Konsequenzen haben. In vielen Ländern wird das Verbreiten von pornografischen Deepfakes ohne Einwilligung der abgebildeten Person strafrechtlich verfolgt.
Deepfakes können mit verschiedenen Apps und Software also leicht erstellt werden, jedoch müssen rechtliche und ethische Grenzen beachtet werden. Der Missbrauch dieser Technologie kann zu erheblichen rechtlichen Konsequenzen führen und ernsthaften Schaden für die betroffenen Personen verursachen.
Deepfakes – genial oder Gefahr?
Heutzutage können alle Nutzer:innen ihre eigenen Inhalte bei YouTube, Instagram, X & Co. veröffentlichen. Die Vielzahl an Neuigkeiten, Bildern und Videos macht es uns oft schwer, den Überblick zu behalten und Fakes von realen Inhalten zu unterscheiden. Umso wichtiger ist es, dass wir Meldungen im Netz hinterfragen und kritisch prüfen, bevor wir ihnen Glauben schenken.
Wenn Euch ein Video komisch vorkommt und ihr Euch nicht sicher seid, ob es echt ist, haben wir einige Tipps für Dich, auf die Du achten kannst:
- Von wem wurde das Video erstellt und veröffentlicht? Ist die Quelle vertrauenswürdig?
- Wo wurde das Video hochgeladen? Handelt es sich um eine seriöse Plattform?
- Wer spricht über das Video und verbreitet es weiter?
- Gibt es Anzeichen für Clickbait oder Meinungsmache, z.B. durch reißerische Überschriften?
Deepfakes: Wie wir alle manipuliert werden | MrWissen2go
Deepfake einfach selber machen - und wie man sich schützen kann | Breaking Lab
You Won’t Believe What Obama Says In This Video! 😉 | BuzzFeedVideo
Der UNGE BIFI FAKE: Hat Unge wirklich Fleisch gegessen? | Marius angeschrien
