Es ist keineswegs neu, dass die Realität mit technischen Mitteln manipuliert wird. Schon vor über einem Jahrhundert wurden beispielsweise in Ungnade gefallene Politiker aus Fotos retuschiert. Und noch vor wenigen Jahren war der Hinweis „Photoshopped“ ein Synonym für digital veränderte Bilder.

Doch seit dem Aufkommen künstlicher Intelligenz ist es für nahezu jede und jeden möglich, schnell, einfach und kostengünstig Bilder, Videos oder sogar Stimmen anderer Menschen zu manipulieren oder vollständig nachzubilden.

Die dabei entstehenden sogenannten Deepfakes (ein Kofferwort aus „Deep Learning“ und „Fake“) können nicht nur den politischen Diskurs beeinflussen, sondern auch für einzelne Menschen schwerwiegende Folgen haben.

Sie können beispielsweise zur Täuschung über Tatsachen eingesetzt werden, Menschen beleidigen oder diffamieren und – besonders gravierend – in Form sexualisierter Deepfakes zu erheblichen psychischen und physischen Belastungen für Betroffene führen.

Angesichts der Vielzahl und Schwere der möglichen Folgen stellen wir uns in dieser Folge die Frage: Schützen uns die bestehenden Gesetze ausreichend vor Deepfakes?

Dazu haben wir mit Dr. Jessica Flint eine Expertin eingeladen, die sich intensiv mit der Verbreitung von Fake News und dem Schutz von Persönlichkeitsrechten beschäftigt. Gemeinsam mit ihr werfen wir einen Blick in das Dickicht der relevanten Vorschriften, die einen rechtlichen Schutz vor Deepfakes bieten könnten.

Dr. Jessica Flint, LL.M. (Edinburgh) ist Rechtsanwältin bei der JUN Legal GmbH und Lehrbeauftragte an der Julius-Maximilians-Universität Würzburg. In ihrer Dissertation befasste sie sich mit dem Thema „Fake News im Wahlkampf“ und untersuchte dabei die rechtlichen Herausforderungen von Desinformation in sozialen Netzwerken am Beispiel von Facebook. (LinkedIN)

Das Ergebnis fällt eher ernüchternd aus. Trotz zahlreicher rechtlicher Ansatzpunkte fehlt, zumindest nach unserer Ansicht, eine zentrale Regelung, die ein konsequentes Vorgehen gegen rechtswidrige Deepfakes erleichtern würde.

Wir bedanken uns herzlich bei Dr. Flint und wünschen euch viel Vergnügen beim Zuhören!

Wie immer freuen wir uns aber auch auf eure Meinungen zu diesem Thema. Haltet ihr Deepfakes ebenfalls für ein großes Risiko? Würdet ihr euch einen eigenen „Deepfake-Paragrafen“ wünschen, oder seid ihr der Ansicht, dass die bestehenden Gesetze ausreichen? Schreibt uns!

Zeitmarken

• 00:00:00 – Einführung & Definition von Deepfakes: Vorstellung unserer Gästin und gemeinsame Definition, was unter Deepfakes zu verstehen ist.
• 00:07:30 – Täuschungswirkung & Nachbildung der Realität: Wann werden reale Personen, Orte, Gegenstände, Ereignisse oder Einrichtungen nachgebildet – und wie wirkt die Täuschung?
• 00:14:00 – Medium & Strafbarkeit von Deepfakes: Spielt es eine Rolle, ob ein Deepfake als Bild, Audio oder Video vorliegt? Und: Sind Deepfakes strafbar?
• 00:26:00 – Kennzeichnungspflichten & rechtliche Konsequenzen: Welche Kennzeichnungspflichten bestehen für Deepfakes und welche rechtlichen Folgen drohen bei Verstößen?
• 00:29:00 – Kennzeichnungspflichten für Privatpersonen: Gilt die Pflicht zur Kennzeichnung auch für private Nutzer:innen?
• 00:34:00 – Plattformverantwortung im Digital Services Act (DSA): Welche Pflichten haben Plattformbetreiber im Umgang mit Deepfakes laut DSA?
• 00:38:00 – Kennzeichnungspflichten für KI-Anbieter: Welche Vorgaben gelten für Anbieter von KI-Systemen im Hinblick auf synthetische Inhalte?
• 00:46:00 – Anbieter vs. Betreiber von KI-Systemen: Wer gilt rechtlich als Anbieter einer KI und wer lediglich als Betreiber?
• 00:49:00 – Kennzeichnung nach der KI-Verordnung (AI Act): Wie müssen Deepfakes gemäß der EU-KI-Verordnung gekennzeichnet werden?
• 00:53:00 – Folgen bei Verstößen gegen Kennzeichnungspflichten: Was passiert, wenn gegen die Kennzeichnungspflicht von Deepfakes verstoßen wird?
• 01:00:00 – Deepfakes von Ereignissen & Gegenständen: Dürfen Produktbilder oder Ereignisdarstellungen mithilfe von Deepfakes erstellt werden?
• 01:11:00 – Deepfakes von Personen & Unterlassungsansprüche: Besonderheiten bei der Nachbildung von Personen und mögliche zivilrechtliche Ansprüche.
• 01:13:00 – Beleidigung, Verleumdung & Urheberrecht: Wie können Deepfakes Persönlichkeitsrechte verletzen oder gegen das Kunsturhebergesetz verstoßen?
• 01:15:00 – Hürden bei der Rechtsverfolgung: Welche praktischen und rechtlichen Schwierigkeiten bestehen bei der Verfolgung von Deepfakes?
• 01:20:00 – Bedarf für neue Gesetze & Plattformregulierung: Brauchen wir einen speziellen „Deepfake-Paragrafen“ oder zusätzliche Regeln für Plattformen?

Weiterführende Links

• Video zur Übergabe der von über 367.000 Menschen unterstützten WeAct-Petition an das Bundesjustizministerium – unter anderem durch Autor Marcuwe Kling und Expertin Jessica Flint –, in der ein Verbot von Deepfakes mit echten Personen gefordert wird, um Demokratie und Persönlichkeitsrechte besser vor KI-Manipulation zu schützen.
• „Vorbild Italien – Auch Deut­sch­land will Deep­fakes unter Strafe stellen“ – Leonie Schilling, 09/24, LTO.
• „Braucht es eine Strafnorm für ‚Deepfakes‘?“ – Hasso Suliak, 09/25, LTO.
• „Deepfakes: Wie Hassrede, nur schlimmer“ – Maximilian Amos, 07/2024, Beck Online, u.a. zum angesprochenem Video von Bundeskanzler a.d. Olaf Scholz.

Der Beitrag Brauchen wir ein Deepfake-Verbot? – Rechtsbelehrung 140 erschien zuerst auf Rechtsbelehrung.