Deepfakes sind mit KI erstellte Fälschungen, die Menschen in Situationen zeigen, die nie stattgefunden haben. Sie können Leben zerstören, die Würde von Menschen verletzen und machen Frauen zu Opfern digitaler Gewalt – ohne deren Einverständnis und Kontrolle.
Die Zahlen sind alarmierend: Während 2023 noch ein Bild pro Minute produziert wurde, werden 2025 schätzungsweise 15 Deepfake-Bilder pro Minute generiert. Die Entwicklung ist rasend schnell, die Folgen verheerend.
Es müssen rechtliche Konsequenzen bei missbräuchlicher Verwendung von Deepfakes geben. Die Rechtslage muss dringend überprüft und angepasst werden, um Täter konsequent zu bestrafen.
KI-Systeme müssen klar gekennzeichnet, Risiken müssen dokumentiert und die Datenqualität muss sichergestellt werden.
Dabei müssen auch alle Formen digitaler Gewalt ausdrücklich berücksichtigt und wirksam geregelt werden.
Sowie etwaige Anpassungen zum besseren Schutz der Betroffenen.
Damit digitale Gewalt erkannt und geahndet wird.
Betroffene brauchen schnelle Hilfe und Unterstützung.
Mithilfe von künstlicher Intelligenz kann Video- und Audiomaterial so verändert werden, dass es nicht mehr als Fälschung erkennbar ist. Deepfakes sind genau solche Fälschungen, bei denen realistisch wirkende Medieninhalte erstellt werden. Sie werden oft für Betrug, die Verbreitung von Falschinformationen und eben digitale Gewalt, wie die Erstellung pornografischer Inhalte, genutzt.
Es gibt Deepfakes in verschiedenen Medienformen und Techniken: Dazu zählen Bild-, Audio- und Video-Deepfakes.
Das Gesicht einer Person wird in einem Bild oder Video durch das Gesicht einer anderen Person ersetzt.
Die Stimme einer Person wird künstlich nachgebildet, sodass sie wie die Zielperson klingt.
Die Lippenbewegungen werden so verändert, dass sie zu einem anderen Text passen.
Mimik, Kopfbewegungen und Gestik einer Person werden in Echtzeit auf eine andere Figur oder ein generiertes Gesicht übertragen.
Es werden vollständig künstliche und oft täuschend echte Gesichter erzeugt, die nie real existiert haben.
Es werden ganze fiktive Personen mit zusammengebauten Fotos, Stimmen und Profilen erstellt.
In Österreich sind Deepfakes nicht ausdrücklich als eigener Straftatbestand verboten. Je nach Inhalt und Verwendung können sie jedoch sehr wohl rechtswidrig oder strafbar sein, beispielsweise bei sexualisierter Gewalt, Cybermobbing, sexueller Belästigung oder anderen Persönlichkeitsrechtsverletzungen. Deepfakes sind in Österreich also nicht automatisch illegal, aber häufig rechtlich angreifbar, insbesondere bei pornografischen, täuschenden oder diffamierenden Inhalten.
Aktuell gibt es einige politische Vorstöße in dem Themengebiet, die darauf abzielen, Deepfakes stärker einzuschränken und Betroffene besser zu unterstützen. Außerdem soll das Vorgehen gegen Deepfakes erleichtert werden.
Mai 2026: Die Vertreter der Mitgliedstaaten und des Europäischen Parlaments haben sich auf eine neue Version des AI Act geeinigt. In dieser sollen unter anderem Programme zur Erstellung sexualisierter Deepfakes verboten werden.
Bevor die Änderungen in Kraft treten können, muss die Einigung jedoch noch vom Plenum des EU-Parlaments und dem Rat der Regierungen der Mitgliedstaaten bestätigt werden. In der Regel gilt das als Formalie. Wenn die Reform verabschiedet wird, würde das Verbot ab dem 2. Dezember 2026 federführend vom vor zwei Jahren geschaffenen KI-Amt der EU durchgesetzt werden.
Der DSA verpflichtet Plattformen zu Meldeverfahren, Streitbeilegung und Kooperation bei Beschwerden über rechtswidrige Inhalte. Dies ist auch im Hinblick auf Deepfakes relevant.
Für KI-Inhalte sollen künftig stärkere Transparenzregeln gelten. Dazu gehören beispielsweise Wasserzeichen oder eine klare Kennzeichnung generierter Bilder und Videos.
Der Aktionsplan der Bundesregierung legt ein besonderes Augenmerk auf aktuelle Entwicklungen wie sexualisierte Deepfakes, digitalen Hass und organisierte Online-Gewalt, von denen Frauen zunehmend betroffen sind. Die Bundesregierung plant konkrete Schritte zum Schutz der Betroffenen.
Die missbräuchliche Nutzung von Deepfakes soll rechtliche Konsequenzen nach sich ziehen. Zudem sollen Lücken im Strafrecht geprüft werden. Bei schweren Fällen soll die Identifizierung der Täter über Plattformen ermöglicht werden. Geplant sind eine Prüfung der Straftatbestände im Bereich der Cyberkriminalität sowie wirksame Löschverfahren auf Plattformen.
Alle aktuellen Beschlüsse der EU sowie das EU-Recht sollen konsequent umgesetzt werden.
Geplant sind strengere Regeln für Onlineplattformen, erweiterte Befugnisse für Ermittlungen sowie eine Überarbeitung bestehender Straftatbestände, etwa im Zusammenhang mit Deepfake-Pornos. Zudem sollen die Lösch- und Meldewege verbessert werden, um digitale Gewalt wirksamer zu bekämpfen.
Ein Schwerpunkt liegt auf der Prävention im Kindes- und Jugendalter. Themen wie Gewaltschutz, Gleichstellung sowie digitale Risiken, darunter Cybergewalt, Grooming (die gezielte Kontaktaufnahme von Erwachsenen mit Minderjährigen mit dem Ziel des sexuellen Missbrauchs) und Sexting (das Versenden sexuell eindeutiger Nachrichten, Fotos oder Videos per Smartphone), sollen fest im Lehrplan verankert werden.
Journalist*innen sollen zudem neue Leitlinien erhalten, die sie bei einer verantwortungsvollen Berichterstattung unterstützen. Eine Studie zur medialen Darstellung geschlechtsspezifischer Gewalt, einschließlich jener durch Influencer*innen, ist in Vorbereitung.
Aus- und regelmäßige Fortbildungen für relevante Berufsgruppen – darunter Frauen- und Mädchenberatungsstellen sowie Gewaltschutzzentren – sowie laufende und vertiefende Basisschulungen, um Cybergewalt im Kontext häuslicher und sexualisierter Gewalt zu erkennen und entsprechend dem jeweiligen Auftrag handeln zu können. Dies erfolgt unter Berücksichtigung bestehender Schulungen.
Die Umsetzung der Maßnahmen ist für die Jahre 2026 und 2027 vorgesehen. Es handelt sich also nicht nur um eine politische Absichtserklärung, sondern um einen laufenden Umsetzungsprozess.
Auch der Wiener Gemeinderat hat dazu bereits einen entsprechenden Beschluss gefasst: Ende März wurde ein Antrag verabschiedet, mit dem sich Wien klar zum umfassenden Schutz vor Gewalt im digitalen Raum bekennt.
Erstelle sofort Screenshots von dem Deepfake, der URL und dem Profil des Verbreiters.
Wenn möglich: Sicher das Bild- oder Videomaterial selbst.
Notiere Datum und Uhrzeit, wann du den Inhalt entdeckt hast.
Wo? Das ist bei jeder Polizeistelle oder auch direkt schriftlich bei der Staatsanwaltschaft möglich.
Warum? Deepfakes können schwerwiegende Straftaten wie Cybermobbing (§107c StGB), Erpressung (§ 144 StGB) oder Sexuelle Belästigung und öffentliche geschlechtliche Handlungen (§218 StGB) erfüllen.
Das Ziel: Mit der Anzeige leitest du eine offizielle strafrechtliche Untersuchung ein, damit die Täter*innen zur Verantwortung gezogen werden können.
Auch zivilrechtlich kannst du gegen Verbreiter vorgehen (§ 78 UrhG).
Du kannst den Stopp der weiteren Verbreitung und die Löschung des Inhalts fordern.
Auch immaterieller Schadenersatz ist möglich.
Das Ziel ist es, die weitere Verbreitung im Internet so schnell wie möglich zu stoppen.
Hol die psychosoziale und juristische Unterstützung.
In Österreich haben Opfer unter bestimmten Voraussetzungen Anspruch auf kostenlose Prozessbegleitung (§ 66 StPo).
Du kannst Dich auch an spezialisierte Beratungsstellen wenden:
Gewalt gegen Frauen ist zwar kein neues Phänomen, doch die digitale Welt hat ihr eine neue, grausame Dimension hinzugefügt.
In Europa hat bereits jede dritte Frau Belästigung, Missbrauch oder sexuelle Gewalt erlebt. Digitale Gewalt verschlimmert dieses Problem enorm. Zudem wird Gewalt so auch zum Geschäftsmodell und politischen Werkzeug.
Dr. Julia Bee, Professorin für Gender Media Studies, warnt:
„Die politische Situation spiegelt sich in den großen Tech-Systemen, die hauptsächlich von Männern dominiert und finanziert werden, die wiederum ein bestimmtes Gesellschaftsbild vertreten, in dem der Stärkere gewinnen soll und Frauenrechte missachtet werden.“
Hinzu kommt, dass die entsprechenden Firmen oft Millionenumsätze mit Apps und Anwendungen für pornografische Deepfakes machen.
Digitale Gewalt wird oft verharmlost, doch sie ist real und hat gravierende Folgen. Sie verletzt die Grundrechte, die Würde sowie die Privatsphäre der Betroffenen und kann sogar zu körperlichen Verletzungen führen. Viele Betroffene fühlen sich von ihrem eigenen Körper entfremdet und leiden unter traumatischen Erfahrungen, Angst und Panikattacken.
Doch es gibt Hoffnung: Immer mehr Menschen erheben ihre Stimme. Ein Beispiel ist die deutsche Moderatorin Collien Fernandes, die mutig öffentlich machte, was Millionen Frauen täglich erleben.
Die österreichische Bundesregierung hat unter Federführung von Frauenministerin Eva-Maria Holzleitner im vergangenen Jahr einen umfassenden Nationalen Aktionsplan zur Bekämpfung von Gewalt an Frauen und Mädchen vorgelegt, der sich intensiv dem Thema digitaler Gewalt widmet. Die darin festgehaltenen Maßnahmen sollen nun rasch zur Umsetzung gebracht werden. Ein Gesetzesentwurf zur Schaffung rechtlicher Konsequenzen für die missbräuchliche Verwendung von Deepfakes wird von Justizministerin Anna Sporrer ausgearbeitet.
Wien bekennt sich mit dem Beschluss eines Antrags Ende März im Wiener Gemeinderat ganz klar zu einem umfassenden Schutz vor Gewalt im digitalen Raum und zur zielstrebigen Umsetzung des Nationalen Aktionsplans gegen Gewalt an Frauen und Mädchen sowie der darin enthaltenen Maßnahmen gegen digitale Gewalt. Wien bleibt Vorreiterin bei Maßnahmen gegen Gewalt an Frauen und wird unter anderem die Kompetenzsstelle gegen Cybergewalt ausbauen.
Auch auf EU-Ebene gibt es Fortschritte: Am 26. März 2026 hat das EU-Parlament ein wegweisendes Verbot beschlossen. Demnach sollen KI-Anwendungen verboten werden, mit deren Hilfe Nutzer:innen sexualisierte Videos und Bilder von Menschen ohne deren Einwilligung erstellen können. Plattformen sollen außerdem dazu verpflichtet werden, ohne Einverständnis erstellte Inhalte zu löschen. Das ist ein wichtiger erster Schritt. Doch Worte müssen Taten folgen. Denn ein Verbot allein reicht nicht aus.
Wir brauchen jetzt konkrete Maßnahmen.
