Stella: Schön, dass ihr wieder eingeschaltet habt, zu einer neuen Folge von t3n Interview.

Stella: Es wird heute juristisch.

Es geht um Digitalgesetzgebung.

Stella: Und bevor ihr jetzt denkt, um Himmels Willen, macht euch keine Sorgen.

Stella: Wir werden hier keine Paragrafen runterrattern, sondern euch zeigen, Stella: warum Digitalgesetzgebung für uns wichtig ist, was sie mit Demokratie zu tun Stella: hat, warum sie gerade auch in Zukunft mit Blick auf die USA und künstliche Intelligenz Stella: eine sehr entscheidende Rolle spielen kann.

Stella: Und wenn ich sage wir, dann ist natürlich auch wieder ein Gast bei mir, Stella: diesmal digital zugeschaltet und zwar Jessica Flint, Doktorin der Rechtswissenschaften Stella: und Anwältin bei Jun Legal.

Moin Jessica.

Jessica: Hi, schön, dass ich hier sein kann.

Stella: Ich würde nochmal so eine kurze Stella: Vorstellung machen, damit man eure Kanzlei auch einmal einordnen kann, Stella: weil vielleicht bei dem einen oder der anderen hat es da schon geklingelt 2021 Stella: Facebook-Grundsatzprozess mit Renate Kühners, Stella: da wart ihr auf jeden Fall sehr bekannt beteiligt und generell seid ihr ja auf Stella: IT-Recht spezialisiert, eben rund um das Thema Hasskriminalität im Netz, Stella: was euch auch, wenn man das im Juristenkreis so sagen kann, sehr am Herzen liegt.

Stella: Und über was wir ja auch in Teilen heute sprechen wollen.

Aber ich würde erst mal so anfangen.

Stella: In den vergangenen Wochen waren ja auch die Medien sehr dominiert vom Thema Stella: Zollverhandlungen zwischen den USA und Europa.

Stella: Und ein Thema, um das es da ging, war unter anderem der Digital Markets Act.

Stella: Ihr hattet auch bei der Republika drüber gesprochen.

Stella: Wie ist das eigentlich für dich als Juristin, wenn plötzlich so ein Gesetz zur Stella: Verhandlungsmasse wird?

Jessica: Das ist für mich ein ganz trauriges Erlebnis, ein furchteinflößendes Erlebnis auch.

Jessica: Gerade in dem Bereich Digitalpolitik haben wir ganz viel Gesetzgebungsmacht Jessica: an die EU abgegeben und erwarten da entsprechend eben auch, Jessica: dass diese Gesetze durchgesetzt werden und nicht nur als Schaufensterregulierung irgendwo stehen.

Jessica: Man kann sich drüber freuen und es passiert dann nichts.

Jessica: Vor allem sehen wir die Auswirkungen davon, dass die, Jessica: EU da keinen Druck macht, die Gesetze tatsächlich auch einzuhalten.

Jessica: Es gibt ja Möglichkeiten, Bußgelder zu verhängen und so Verfahren zu führen.

Jessica: Das wird alles nicht ausreichend genutzt, sodass es den Plattformen einfach Jessica: momentan nicht genug wehtut, gegen die Gesetze zu verstoßen.

Jessica: Und wenn ich dann höre, dass die EU auch noch entweder direkt oder durch irgendwelche Jessica: Anzeichen vermittelt, hey, Jessica: vielleicht ist das doch gar nicht so wichtig, dass wir diese Gesetze durchsetzen, Jessica: Das ist wie ein Freifahrtschein für die Plattformen zu machen, was sie wollen.

Stella: Bevor wir da weiter einsteigen, auch zum Thema Freifahrtschein, Stella: finde ich es einmal wichtig zu definieren, worüber wir eigentlich reden.

Stella: Weil ich glaube, viel werden DMA, DSA und manchmal auch DSGVO munter durcheinander geschmissen.

Stella: Deswegen machen wir doch einmal quasi so eine kurze Definitionsrunde.

Stella: Ich würde anfangen mit dem DMA.

Kannst du ganz kurz und knapp definieren, Stella: worum es da eigentlich geht in diesem Digitalgesetz?

Jessica: Beim DMA geht es ganz zentral darum, dass die Plattformen, also das reicht ganz Jessica: weit, Meta, Apple, was man sich so vorstellen kann, Jessica: dass die eine Gleichberechtigung herstellen müssen, auch für andere Anbieter.

Jessica: Also ich darf zum Beispiel als Apple in meinem Store nicht meine eigenen Produkte Jessica: bevorzugen gegenüber anderen Produkten.

Jessica: Das ist so der Kern des DMA.

Stella: Und beim DSA, da geht es ja auch mehr um die Inhaltsebene, um das, Stella: was dann tatsächlich auf den Plattformen landet.

Jessica: Genau, beim DSA ist der Fokus, dass auf diesen Plattformen sind ja Inhalte von Jessica: Dritten, also von Nutzern oder von Werbetreibenden oder sowas.

Jessica: Und im DSA wird geregelt, wie die Plattformen mit diesen Inhalten umgehen müssen, Jessica: dass sie auch generell Risikobewertungen und Risikomaßnahmen ergreifen müssen, Jessica: um rechtswidrige Inhalte auf ihrer Plattform einzudämmen.

Stella: Und nur zum Abschluss, DSGVO, die Datenschutzgrundverordnung ist ja der Schutz Stella: der Nutzer in Daten, sehr kurz zusammengefasst, oder?

Jessica: Genau, die DSGVO zieht auch immer größere, immer weitere Kreise.

Jessica: So ganz trennscharf abgrenzen kann man diese Themen voneinander deshalb auch gar nicht.

Jessica: Also vieles spielt in verschiedenen Bereichen eine Rolle, aber das ist auf jeden Jessica: Fall so die Grundsatzabteilung.

Stella: Wenn ich als Nicht-Juristin das höre, dann denke ich am ersten, Stella: also im ersten Gedanken eigentlich, ja, das ist doch dann wahrscheinlich klar geregelt.

Stella: Du hast den DMA umrissen, es geht auch um Wettbewerb.

Du hast den DSA umrissen, Stella: da geht es eben darum, was wird auf den Plattformen geteilt.

Stella: Es gibt natürlich auch einfach Grenzen von dem, was auf solchen Plattformen Stella: landen kann.

Beispielsweise Hassrede hat dort nichts verloren.

Stella: Jetzt hast du aber eingangs direkt gesagt, irgendwie lässt sich das nicht so durchsetzen.

Stella: Kannst du uns einmal erklären, was da das Problem ist, weil die Gesetze sind doch da.

Jessica: Die Gesetze sind da und die Gesetze sind zumindest als Ausgangspunkt auch gar nicht so schlecht.

Jessica: Der DSA geht zum Beispiel ein ganzes Jessica: Stück weiter, als es vorher das Netzwerkdurchsetzungsgesetz getan hat.

Jessica: Das war praktisch die deutsche nationale Vorgängerregelung, die nun einen viel Jessica: kleineren Ausschnitt an rechtswidrigen Inhalten überhaupt untersagt hat, Jessica: wobei ich das gleich noch einen Schritt erklären muss.

Jessica: Beim DSA geht es vor allem darum, wenn ich als Nutzer einen rechtswidrigen Inhalt Jessica: finde auf der Plattform, kann ich ihn an die Plattform melden und die Plattform Jessica: muss ihn dann runternehmen.

Jessica: Das heißt, das, was rechtswidrig ist, das war vorher auch schon rechtswidrig, Jessica: das hat sich durch den DSA überhaupt nicht verändert.

Jessica: Da geht es um Verstöße gegen das Strafgesetz, zum Gesetzbuch zum Beispiel.

Jessica: Also an dieser Grundsatzentscheidung, was ist jetzt ein rechtswidriger Inhalt, Jessica: hat der DSA erstmal keine Veränderung gebracht, sondern es geht eigentlich mehr Jessica: darum, dass man das als Nutzer direkt den Plattformen gegenüber durchsetzen können muss.

Jessica: Also ich kann mich einfach an die wenden, kann sagen, hey, dieser Inhalt ist Jessica: rechtswidrig, nimm den raus und die Plattform muss ihn löschen.

Jessica: Eigentlich ist das die Idee.

Das heißt, ich muss nicht für jeden Inhalt vor Gericht ziehen.

Jessica: Wenn jetzt aber niemand dahinter steht, wie die Kommission das eigentlich tun Jessica: müsste und die Plattform dazu zwingt, dass sie diese Prozesse auch tatsächlich Jessica: durchzieht, dass sie tatsächlich ihre Pflichten erfüllt den Nutzern gegenüber, Jessica: dann sagt sich die Plattform natürlich irgendwann eher gut den Aufwand, Jessica: diese Nutzermeldungen zu prüfen, sorgfältig zu prüfen und dann auch wirklich Jessica: sorgfältig darauf zu reagieren, Jessica: den mache ich mir jetzt halt nicht mehr, sondern dann warte ich und reagiere Jessica: nur noch auf die Leute, die mir einen Anwalt auf den Hals jagen.

Jessica: Das funktioniert nämlich immer noch ganz gut.

Jessica: Oder im Einzelfall sogar warte Jessica: ich, bis jemand überhaupt vor Gericht geht und erst dann reagiere ich.

Stella: Das heißt, wenn ich es jetzt mal in die Praxis übersetze, ich kenne es selbst Stella: auch, bei Instagram, bei TikTok fällt mir was auf, was ich denke, Stella: das gehört hier nicht hin.

Stella: Das ist beispielsweise rechtsradikal.

Ich melde es und kriege manchmal dann Stella: eine Meldung.

Ja, hast du recht, haben wir entfernt.

Stella: Oder gibt auch häufiger die Meldung, nee, machen wir nicht.

Stella: Und an der Stelle, muss ich sagen, hört es ja dann auch bei mir auf.

Stella: Ich gebe zu, ich ziehe jetzt nicht persönlich für jeden Instagram-Beitrag oder Stella: TikTok-Beitrag vor Gericht oder schalte Anwältinnen ein.

Stella: Und das ist quasi genau dann der Punkt, den du auch kritisierst.

Stella: Es ist ja wie ein zahnloser Tiger dann eigentlich, weil es gibt ja keinen, Stella: der die Plattform in dem Sinne überprüft, ob sie denn eigentlich diese Regelung einhalten.

Jessica: Ja, diese Stellen gibt es schon.

Das wäre einmal der irische DSC, Jessica: Digital Services Coordinator, einfach eine irische Behörde, die zuständig ist Jessica: für die Plattform, weil die alle ihren Sitz in Irland haben.

Jessica: Und übergreifend für die ganz großen Plattformen ist auch die EU-Kommission zuständig.

Jessica: Und die kann genau diese Verstöße, nämlich wenn die Plattformen zum Beispiel Jessica: kein richtiges Meldesystem zur Verfügung stellen, Jessica: wenn sie auf Meldungen generell nicht richtig reagieren oder wenn sie Risiken Jessica: auf ihrer Plattform zwar kennen, aber nichts dagegen unternehmen, Jessica: Für solche Fälle hat die EU-Kommission die Möglichkeit, Bußgelder zu verhängen.

Jessica: Und es ging auch schon öfter durch die Nachrichten, dass da Verfahren laufen gegen die Plattformen.

Jessica: Diese Verfahren laufen schon sehr, sehr lang ohne Ergebnis.

Und zuletzt hat Jessica: man eben zu dem Verfahren gegen Twitter, Jessica: gegen X jetzt, gehört, dass die EU-Kommission eine Entscheidung darüber erstmal Jessica: aussetzen möchte, bis über den Zollstreit entschieden ist.

Stella: Und das ist ja dann eigentlich der Punkt, das ist nicht der DMA, Stella: sondern der DSA, der da betroffen ist, der sich dann wieder zurück in das ganze Stella: Thema USA-Zolleingangs dreht.

Stella: Das heißt, Sie haben jetzt gesagt, wir warten erstmal ab, dann könnten Sie ja Stella: jetzt eigentlich entscheiden, weil wir zeichnen jetzt, muss man vielleicht einmal sagen, am 31.

Stella: Juli auf, also das ist der Stand, wenn wir jetzt miteinander sprechen, Stella: da könnten Sie doch jetzt entscheiden, oder?

Jessica: Ja, ich hoffe, dass es jetzt sehr bald zu einem hohen Bußgeld kommen wird, Jessica: obwohl ich auch gleich dazu sagen muss, in dem Verfahren, über das wir da jetzt Jessica: reden, das entscheidungsreif ist anscheinend aus Sicht der Kommission, Jessica: da geht es um die blauen Häkchen auf X.

Jessica: Wenn man sich zurückerinnert, nachdem X übernommen wurde, wurde die Bedeutung Jessica: dieser blauen Häkchen verändert.

Jessica: Von vorher, meine Identität ist verifiziert, zu nachher, ich habe mir den Haken gekauft.

Jessica: Und die EU-Kommission hat da die Befürchtung, dass das irreführend sein könnte für die Nutzer.

Jessica: Aber ich finde jetzt nicht, dass das das größte Problem ist, Jessica: was wir auf Twitter haben.

Jessica: Ich glaube, in der Zwischenzeit hat man sich an diese Haken auch gewöhnt und Jessica: auch an die neue Bedeutung gewöhnt.

Jessica: Und es zeichnet aber so ein bisschen wieder, was das eigentlich für ein Problem Jessica: ist, wenn diese Verfahren so lange dauern und wenn sie vor allem aus politischen Jessica: Erwägungen dann auch ausgesetzt werden können.

Jessica: Also ob man die jetzt offiziell aussetzt oder ob man einfach nur das Papier Jessica: in die Ecke legt und wartet, weil es gerade irgendwie aus der politischen Situation Jessica: heraus ungünstig wäre, so eine Entscheidung zu treffen, spielt ja dann auch keine Rolle mehr.

Jessica: Sondern die Verhältnisse entwickeln sich, verändern sich.

Jessica: Dann wird eine Entscheidung getroffen, die vielleicht gar nicht mehr zeitgemäß Jessica: ist oder nicht mehr so relevant ist, wie sie mal war.

Jessica: Und das geht einfach nicht.

Also damit machen wir die ganze Wirkung dieser Gesetze zu Nichte.

Stella: Ist das denn in dem Fall, du hast jetzt X angesprochen mit den Häkchen, Stella: ist das so die Regel, dass das über Jahre dauert?

Stella: Kannst du da einmal so eine Einschätzung geben, bis wann dann mal ein finales Urteil gesprochen ist?

Jessica: Also bei einem Urteil sind wir ja noch gar nicht.

Eine wirkliche Einschätzung Jessica: gibt es dazu noch nicht, weil es diese Verordnungen ja erst seit letztem Jahr Jessica: oder sind erst seit letztem Jahr in Kraft.

Jessica: Und seitdem laufen auch einige Verfahren.

Ich hätte erwartet, Jessica: dass die deutlich schneller gehen.

Jessica: Ich meine, ich weiß, bei Behörden dauert alles seine Zeit und man muss die Fälle intensiv prüfen.

Jessica: Aber es gibt da so eklatante Verstöße gegen diese Regelungen, Jessica: dass es eigentlich nicht so lange dauern dürfte, das festzustellen.

Jessica: Meiner Meinung nach hätte man da viel schneller sein müssen, Jessica: schneller ein Signal senden müssen.

Jessica: Vor allem, weil als DSA und DMA in Kraft getreten sind, da hatte das erstmal so einen Aufschwung.

Jessica: Also der Erlass dieser Verordnung hat erstmal schon eine Wirkung gehabt, Jessica: dass die Plattformen gesagt haben, jetzt kommt die Kommission und will uns dazu Jessica: bringen, dass wir hier Regeln einhalten.

Jessica: Das wird vielleicht gefährlich für uns, da halten wir uns lieber mal dran.

Jessica: Aber wenn man dann eine Zeit lang wartet und es passiert nichts, Jessica: dann entspannen sich die Leute auch wieder.

Jessica: Also diesen Aufschwung hätte man eigentlich mitnehmen sollen und dann auch schneller Jessica: schon, meiner Meinung nach jedenfalls, dieses Verfahren abschließen sollen.

Jessica: Tatsächlich, weil du jetzt gerade gesagt hast, wir haben dann ein Urteil, Jessica: das kommt ja erst alles noch.

Jessica: Also dass diese Entscheidungen der Kommission dann noch gerichtlich überprüft werden müssen.

Jessica: Davon ist auszugehen, dass sich die Plattformen dagegen wehren, Jessica: gegen die Bußgelder, die verhängt werden und wir dann auch noch hinterher ein Jessica: Gerichtsverfahren sehen werden, Jessica: wo die Argumentation der Kommission nochmal geprüft wird auf Herz und Nieren Jessica: und dann Gerichte feststellen werden, war das jetzt richtig, Jessica: hier ein Bußgeld zu verhängen oder nicht.

Stella: Das klingt noch nach einem sehr langwierigen Prozess, auch einem, Stella: der möglicherweise, wer weiß, vielleicht gibt es dann gar nicht mehr dieses Stella: Abo-Haken-Modell, was X aktuell noch hat.

Stella: Das zeigt ja aber mal, wie du angesprochen hast, dass es natürlich wahrscheinlich Stella: wenig in Anführungszeichen angsteinflößend ist, wenn ich weiß, es gibt ein Gesetz, Stella: was über Jahre natürlich dann auch in die Länge gezogen werden kann, Stella: bis es dann mal ein Urteil gibt, eine Entscheidung gibt.

Stella: Was ich da aber noch ganz interessant finde, wir haben jetzt über Bußgelder Stella: gesprochen und das ist ja etwas, was dann eben auf Kommissionsebene etc.

Stella: Relevant wird.

Wenn ich jetzt als private Nutzer mich gegen Hass im Netz gegen Stella: mich wehren möchte, beispielsweise Facebook, etc., kann ich ja kein Bußgeld Stella: verhängen, sondern dann kann ich ja nur auf Schadensersatz klagen.

Stella: Ist das denn nicht etwas, was vielleicht auch Unternehmen abschreckt und sagt, Stella: ja, deswegen müssen wir den DSA einhalten?

Jessica: Ja, das ist der Weg, den wir momentan ziemlich viel gehen, nämlich dieser Schadensersatz, Jessica: die zivilrechtliche Möglichkeit.

Jessica: Da kann man einen Unterlassungsanspruch geltend machen gegen die Plattformen Jessica: und auch einen Schadensersatzanspruch.

Jessica: Aber das sind immer nur sehr, zum einen sind es immer nur sehr kleine Beträge, Jessica: zum anderen sind es auch Einzelfälle.

Jessica: Also das ist unter anderem ein Thema, über das wir mit Meta schon seit Jahren Jessica: eben in dem Künast-Prozess streiten, weil wir dort, Jessica: es geht in dem Prozess um ein Falschzitat, was Renate Künast untergeschoben Jessica: wurde, was auf Facebook verbreitet wurde.

Jessica: Und zwar war diese Verbreitung in der heißen Phase 2018.

Also der Prozess läuft schon relativ lang.

Jessica: Und dort streiten wir vor allem darum, ob und in welcher Höhe Meta da Schadensersatz Jessica: dafür bezahlen muss, dass sie eben nicht reagiert haben auf Meldungen und auch Jessica: auf Abmahnungen nicht rechtzeitig reagiert haben.

Jessica: Diese Schadensersatzzahlungen, da sind die deutschen Gerichte ziemlich zurückhaltend.

Jessica: Ich bin aber auch der Meinung, dass wenn man da mehr Prozesse führt, Jessica: mehr Schadensersatz einfordert, dass das mit so, wie so eine Politik der kleinen Jessica: Nadelstiche, dann auch zu einer Veränderung führt bei den Plattformen.

Jessica: Das, was ich daran schwierig finde, ist, dass man aber eine extrem große Verantwortung Jessica: auf die Nutzer überträgt und auf die Betroffenen von solchen rechtswidrigen Inhalten.

Jessica: Weil als Betroffener, wenn ich mich dagegen zur Wehr setzen muss, Jessica: dann muss ich mir einen Anwalt nehmen, ich muss einen Prozess durchstehen, Jessica: ich muss den auch finanzieren oder mir Hilfe suchen zur Finanzierung.

Jessica: Ich muss da sehr viel Zeit investieren und auch sehr viele Nerven.

Jessica: Das kann jedenfalls nicht der einzige Weg sein.

Als Betroffener von einem strafbaren Jessica: Inhalt habe ich außerdem immer noch die Möglichkeit, auch eine Strafanzeige Jessica: und einen Strafantrag zu erstatten.

Jessica: Darum kümmert sich dann die Polizei und die Staatsanwaltschaft, Jessica: wenn da wirklich eine Strafbarkeit vorhanden ist.

Jessica: Das richtet sich dann aber gegen die Nutzer, nicht gegen die Plattformen typischerweise, Jessica: und führt auch nicht automatisch dazu, dass die Inhalte entfernt werden.

Stella: Du hast gerade gesagt, das kann nicht der einzige Weg sein.

Stella: Was wäre denn dann noch ein weiterer Weg oder etwas, was du vielleicht als sinnvoll erachten würdest?

Jessica: Ich glaube, dass der Staat hier eine Schutzpflicht hat.

Jessica: Ich glaube, dass der Staat hier die Aufgabe hat, dass er seine Bürger davor Jessica: schützt, ständig mit rechtswidrigen Inhalten konfrontiert zu werden und dass Jessica: ständig rechtswidrige Inhalte auch potenziell überein verbreitet werden, Jessica: dass man das eben nicht so vor sich hin laufen lassen kann.

Jessica: Und dafür brauchen wir eben mindestens Bußgelder, Jessica: vielleicht aber auch staatliche Stellen oder private Stellen, Jessica: die da deutlich mehr unterstützen, als das momentan der Fall ist und die vielleicht Jessica: solche Verfahren dann auch eigenständig führen.

Jessica: Da kann man sich sehr viele Szenarien vorstellen.

Jessica: Wir haben da schon einige Mittel, die man erstmal nutzen könnte, Jessica: um Druck zu machen auf die Plattformen.

Und ich würde mir gerade vor allem wünschen, Jessica: dass die jetzt einfach mal durchgesetzt werden.

Stella: Was da, finde ich, ja auch nochmal ein wichtiger Punkt ist, ist der ganze Bereich Stella: Künstliche Intelligenz, der ja, ich meine, Stella: 2018 Künast, da war KI noch nicht so weit verbreitet, aber jetzt mit KI, Stella: Deepfakes als großes Thema, Stimmelklonen, vielleicht auch bald Videos immer leichter erstellen.

Stella: Da kommt ja auf uns eigentlich eine Masse an Content, der potenziell eben Hass Stella: unterstützen kann im Netz, auf uns zu, oder?

Stella: Sind die Gesetze dafür schon in Anführungszeichen fest genug oder konkret genug?

Jessica: KI wird diese ganzen Probleme, die wir haben, auf das nächste Level heben.

Jessica: Und wir sehen das gerade schon.

Jessica: Also ich bin immer wieder schockiert, was jetzt schon alles möglich ist.

Jessica: Es gibt jetzt schon riesige Scam-Vorfälle, wo Menschen imitiert werden und dann Jessica: andere dazu gebracht werden, Jessica: in Krypto zu investieren über irgendwelche betrügerischen Plattformen.

Jessica: Das ist gerade so die Art von Fällen, die mich am meisten schockiert.

Jessica: Da kriege ich Dinge erzählt, wie dass man Videotelefonie mit einer Person führt, Jessica: die aus dem Fernsehen bekannt ist, aber das ist sie gar nicht.

Jessica: Also wir sind da schon so weit damit, was KI alles kann.

Jessica: Und die Regelungen dazu gehen meiner Meinung nach nicht weit genug.

Jessica: Wir haben dafür jetzt den AI-Act.

Jessica: Im AI-Act werden bestimmte Arten von KI-Systemen verboten, allerdings nur relativ wenige.

Jessica: Und ansonsten haben wir sowohl im AI-Act als auch in anderen Gesetzen Transparenzpflichten.

Jessica: Das heißt, ich muss einen Inhalt, der KI generiert ist, markieren.

Jessica: Aber ich finde auch da, das reicht nicht, das geht nicht weit genug.

Jessica: Wir sehen, dass Deepfakes zum Beispiel in über 90 Prozent der Fällen sexualisierte Jessica: Deepfakes sind, pornografische Inhalte.

Jessica: Und da reicht das mir nicht, dass diese Inhalte dann gekennzeichnet sind, Jessica: als KI generiert, weil es verletzt trotzdem die Rechte der betroffenen Personen, Jessica: die da abgebildet werden, immens.

Jessica: Und da kann ich auch nicht erwarten, dass sich jeder Einzelne dagegen wehren muss, Jessica: statt dass das wirklich strafrechtlich eindeutig untersagt wird und dass man Jessica: auch gegen die KI-Betreiber vorgehen kann, die sowas ermöglichen.

Stella: Also strafrechtlich eindeutig untersagt wird, wäre dann beispielsweise zu verbieten, Stella: dass ohne Einstimmung von einem real existierenden Menschen seine Erscheinung, Stella: seine Stimme nicht verwendet werden darf, um Inhalte mit KI zu erstellen.

Jessica: Genau.

Stella: Und ich schließe daraus, dass es das noch nicht gibt.

Stella: Also ich weiß, in Dänemark gibt es ja einen Gesetzesvorstoß, Stella: der genau eben auch quasi das Urheberrecht auf Stimme und Aussehen schützen soll.

Stella: Ich meine, in Deutschland gibt es sowas noch nicht, oder?

Jessica: Ja, es gab einen Gesetzesvorschlag, der allerdings in eine ein bisschen andere Richtung ging als das.

Jessica: Das, was es in Dänemark gibt, gibt es hier tatsächlich noch nicht und wird auch noch nicht diskutiert.

Jessica: Wir hatten unter der letzten Regierung einen Gesetzesvorschlag, Jessica: der aus Bayern kam, aus dem Bundesrat, der Deepfakes verbieten wollte, Jessica: untersagen wollte, wenn das von echten Menschen, Jessica: also wenn echte Menschen dort abgebildet werden, ohne Einwilligung.

Jessica: Allerdings die meisten Vorschläge, es gibt auch noch ein paar andere Ideen, Jessica: aber die meisten Vorschläge setzen erst ein bisschen zu spät an, weil sie sagen, Jessica: ich muss in jedem Einzelfall prüfen, ob das wirklich eine Persönlichkeitsrechtsverletzung Jessica: ist oder ich muss in jedem Einzelfall prüfen, ob denn ein schwerer Schaden bei Jessica: dem Opfer entstanden ist.

Jessica: Und das macht es dann wieder schwierig, das macht die Beweisaufnahme schwierig.

Jessica: Wenn wir aber nichts tun, kein neues Gesetz einführen, dann haben wir momentan Jessica: viele Dinge, die irgendwie über andere Gesetze wie zufällig mit abgedeckt sind.

Jessica: Also du kannst zum Beispiel eine Verleumdung annehmen, wenn dir irgendeine Handlung Jessica: oder eine Aussage unterstellt wird, die du tatsächlich nicht getätigt hast.

Jessica: Aber das ist eigentlich nicht der Kern dessen, was durch so ein Deepfake verletzt wird.

Stella: Wenn du sagst, es ist quasi zu spät, das heißt, du würdest dann sagen, Stella: man bräuchte ein Gesetz, was verhindert, dieses Material überhaupt zu nutzen, Stella: damit es gar nicht erst entstehen kann?

Stella: Oder was meinst du mit quasi früher ansetzen?

Jessica: Ich meine mit früher Ansätzen, dass man zum einen schon bei der Herstellung Jessica: ansetzt von Deepfakes, zumindest in einem bestimmten Rahmen und zum anderen, Jessica: dass man eben nicht diese hohen Hürden an der Strafbarkeit stellt, Jessica: sondern dass man sagt, ich treffe als Gesetzgeber eine ganz klare Entscheidung, Jessica: wenn du das Aussehen einer anderen Person oder die Stimme verwendest, Jessica: ohne dass sie vorher eingewilligt hat, ohne dass sie damit einverstanden ist, Jessica: dann machst du dich damit straff.

Jessica: Das geht ziemlich weit und geht über das hinaus, was wir in den bisherigen Gesetzen drin haben.

Jessica: Aber es würde zumindest dafür sorgen, dass die Rechtsgüter, die betroffen werden Jessica: von so einem Diebfake, das allgemeine Persönlichkeitsrecht, vor allem die Menschenwürde Jessica: in Einzelfällen auch, dass das ausreichend geschützt wird.

Stella: Menschenwürde, die ja auch bei uns zum Beispiel in Deutschland im Grundgesetz Stella: direkt am Anfang festgeschrieben ist.

Stella: Was ich dabei aber auch noch vielleicht ein Aspekt, wir haben jetzt viel über Stella: Privatpersonen gesprochen, aber was ist denn mit GeschäftsführerInnen beispielsweise Stella: oder mit Menschen, die eben im Unternehmen Einfluss haben, da hängt doch auch Stella: eine wirtschaftliche Komponente dran oder ein Deepfake, Stella: wo jemand fälschliche Geschäftszahlen verkündet oder sonstige Informationen Stella: vermeintlich preisgibt, die für ein Unternehmen schädlich sind.

Stella: Und kann man sich dagegen jetzt schon schützen?

Stella: Gibt es da die passenden Gesetze oder was tut man in so einem Fall?

Jessica: In so einem Fall kann man sich auch jetzt schon wehren, aber es ist deutlich schwieriger.

Jessica: Also zum einen haben wir momentan kaum die passenden Möglichkeiten, Jessica: um die Sachen dann überhaupt aus dem Netz rauszubekommen.

Jessica: Da ist eben sehr viel Mitwirkung der Plattformen notwendig.

Jessica: Oft findet weder die Polizei noch man als Privatperson sowieso nicht die Übeltäter, Jessica: die da dahinter stecken.

Jessica: Und die wirtschaftlichen Schäden, die Rufschäden kann man halt oft auch einfach Jessica: nicht wieder gut machen.

Stella: Das klingt wenig hoffnungsvoll, ehrlich gesagt.

Stella: Also mit anderen Worten, ist das auch dann eine Klage auf Schadensersatz und dann, ja?

Jessica: Ja, kommt immer auf den Einzelfall an, aber in so einem Fall hat man, Jessica: glaube ich, nicht besonders viel mehr Möglichkeiten, als man als Privatperson hat.

Jessica: Das kommen noch ein paar andere Rechtsgüter dann in Betracht, Jessica: die noch mit reinspielen, aber es ist jetzt nicht so explizit geregelt.

Jessica: Ich will aber mal deutlich machen, es ist hier noch nicht zu spät.

Jessica: Wir sind noch am Anfang von KI.

Jessica: Wir haben jetzt noch die Möglichkeiten, da einzugreifen und wirklich Standards Jessica: zu setzen und Grenzen zu setzen, die jetzt auch noch umgesetzt werden können.

Jessica: Und gerade indem man solchen Entwicklungen Grenzen setzt, Jessica: kommt ja dann oft die Befürchtung auf, dass man Innovation einschränkt oder Jessica: ja, dass man sich nicht mehr richtig ausleben kann mit diesen Tools, Jessica: diese Tools nicht mehr richtig nutzen kann, so wie man sie gern nutzen würde.

Jessica: Aber es ist eben wichtig, dass man dabei nicht vergisst, dass man die Rechte Jessica: anderer Menschen verletzt.

Jessica: Und genau das ist jetzt noch möglich.

Wir können jetzt Grenzen setzen und dann Jessica: werden zumindest die großen Tools sich innerhalb dieser Grenzen aufhalten.

Jessica: Und die Hürde, irgendwelche rechtswidrigen Inhalte zu erstellen, Jessica: Rechte anderer Menschen oder Unternehmen zu verletzen, wird niedriger werden.

Stella: Das, was du gerade ansprichst, ist, glaube ich, gerade mit Blick auf den AI-Act, Stella: der ja auch im Stritten und viel diskutiert ist, ein wichtiger Punkt, Stella: da ja manche Unternehmen in Europa auch sagen, hey, das ist für uns ein großer Stella: Nachteil, weil in den USA ist das alles erlaubt.

Stella: Und wie du gerade den Punkt Innovation, weniger Freiheit in der Entwicklung, Stella: wenn jemand diese Punkte genau anbringt, was sagst du dann?

Stella: Ich meine, du forderst ja eindeutig mehr Regulierung in dem Bereich, Stella: als jetzt auch durch den AI-Act erfolgt das.

Jessica: Ich sage dazu, wir machen nicht Innovation um Innovation willen.

Jessica: Es gibt Bereiche, in die will man keine Innovation haben oder in der sind mir Jessica: einfach die Grundrechte und die Grundwerte unserer Gesellschaft wichtiger, Jessica: als dass man jede technische Möglichkeit ausschöpft, die es gibt.

Jessica: Und da will ich eben jetzt ansetzen und eingreifen, statt dass ich erstmal alles Jessica: erlaubt lasse, mal schaue, wie es sich entwickelt.

Das haben wir schon bei Social Media gemacht.

Jessica: Und jetzt stehen wir da und können es nur noch ganz schwer wieder einfangen, Jessica: weil man ganz viele Entwicklungen eigentlich rückgängig machen müsste, Jessica: die halt schon stattgefunden haben.

Jessica: Ich finde es wichtig, dass wir unsere Gesetze, unsere Werte nicht aufgeben, Jessica: nur weil man dann vielleicht eine Innovation nicht bekommt, die es sonst gegeben hätte.

Stella: Was du ja auch bei der Republika angesprochen hattest, war ja genau das Thema Stella: Übersetzung auch vom Grundgesetz ins Digitale.

Stella: Magst du das noch einmal ausführen?

Was meint das eigentlich, Stella: so ein Grundgesetz dann ins Digitale umzusetzen?

Stella: Das ist ja eigentlich auch sehr kompliziert, weil wir haben einmal natürlich Stella: nationale, in dem Fall deutsche Gesetzgebung und ja auch EU-Recht.

Stella: Das muss ja alles miteinander harmonieren.

Jessica: Ja, das, was ich damit meine, ist, dass wir im Grundgesetz eben unsere Grundwerte Jessica: festgeschrieben haben.

Jessica: Wir haben da festgelegt, wir wollen, dass die Menschenwürde geschützt wird, ganz am Anfang.

Jessica: Wir wollen sehr viel Freiheit jedem Menschen überlassen, aber diese Freiheit Jessica: eben auch einschränken, da wo die Freiheiten anderer Personen anfangen.

Jessica: Das sieht man zum Beispiel bei der Meinungsfreiheit, die wird ja gerne angeführt.

Jessica: Da haben wir ein anderes Verständnis in Deutschland und in Europa, als es in den USA gilt.

Jessica: In den USA darf man prinzipiell alles sagen, ziemlich grenzenlos.

Jessica: Und in Deutschland haben wir das Verständnis so, dass ich meine Meinung sagen darf.

Jessica: Aber nur bis zu der Grenze, dass ich eine andere Person damit beleidige.

Jessica: Und wenn ich Tatsachen äußere, dann muss ich sie eben im Zweifel beweisen können.

Jessica: Ansonsten darf ich sie nicht weiter verbreiten, wenn sie sich auf jemand anderen beziehen.

Jessica: Das sind Ausflüsse aus unserem Grundgesetz.

Jessica: Und diese Ausflüsse müssen auch den Plattformen gegenüber durchgesetzt werden, Jessica: um das Grundgesetz tatsächlich auch in der Praxis anwendbar zu machen.

Jessica: Wir haben dafür einfache Gesetze, wie die Beleidigungsdelikte, Verleumdungsdelikte.

Jessica: Wenn die aber auf den Plattformen keine Rolle mehr spielen, dann geben wir damit Jessica: praktisch unsere Grundwerte auf, Jessica: unsere Grundrechte auf und ordnen uns stattdessen der amerikanischen Politik Jessica: und den amerikanischen Gesetzen unter.

Jessica: Beziehungsweise, was noch schlimmer ist, wir ordnen uns den Gesetzen unter, Jessica: die die Plattformbetreiber aufstellen, weil ein Musk und ein Zuckerberg haben Jessica: sich ja auch eigene Regeln überlegt, die für ihre Plattformen gelten.

Jessica: Diese Regeln stimmen nicht unbedingt mit dem überein, was wir in unserem Grundgesetz stehen haben.

Jessica: Irgendwann muss man sich aber entscheiden, welche Regeln sollen gelten.

Jessica: Welches Wertesystem ist mir wichtiger?

Jessica: Das, was jemand aufgestellt hat, der hauptsächlich wirtschaftlichen Erfolg als Ziel hat?

Jessica: Oder das, was jemand aufgestellt hat, mit dem Ziel, eine gute Gesellschaft, Jessica: eine funktionierende Gesellschaft aufzubauen?

Stella: Was du gerade ansprichst, sind ja die Community Guidelines in der Regel, Stella: wo eben festgelegt wird, wie sich NutzerInnen auf der Plattform zu verhalten haben.

Stella: Aber ich glaube, bei der ganzen Diskussion, um was darf eigentlich im Netz gesagt Stella: werden, gibt es ja auch entsprechende Stimmen, die sagen, Moment, Stella: hier darf doch eigentlich, also es ist ja nicht in Ordnung, wenn Plattformen Stella: plötzlich Beiträge löschen.

Stella: Also auch das ist ja eben die Kehrseite, dass eben zu viel gelöscht wird.

Stella: Wie groß siehst du die Gefahr dadurch, dass eben Meinungsäußerung dann nicht möglich ist?

Jessica: Ich sehe die Gefahr dafür, dass zu viel gelöscht wird, als sehr, Jessica: sehr groß an, weil die Plattformen das aufgrund ihrer Community Guidelines ganz viel machen.

Jessica: Also die große Gefahr Overblocking, die man sehr oft hört, die wir bei jedem Jessica: neuen Gesetz hören, was sich irgendwie mit Plattformen beschäftigt, Jessica: diese Gefahr geht eigentlich von den Plattformbetreibern aus und gar nicht so Jessica: sehr vom Gesetzgeber und vom Staat.

Jessica: Natürlich will ich auch nicht, dass der Staat bei jedem Tweet, Jessica: den ich verfasse, entscheidet, ist der jetzt zulässig oder nicht, Jessica: weil so viel Kontrolle wollen wir dem Staat auch nicht geben.

Jessica: Aber momentan ist die faktische Lage so, dass das die Plattformbetreiber entscheiden.

Jessica: Und wenn jetzt ein Plattformbetreiber beispielsweise ein Problem mit Nacktheit Jessica: hat, dann löscht er eben alles, in dem Nacktheit vorkommt.

Jessica: Und zwar unabhängig davon, ob das irgendwie mit unserem Wertekompass vereinbar ist oder nicht.

Jessica: Da will ich viel lieber die Kontrolle drüber haben, was kann denn gelöscht werden Jessica: und was muss gelöscht werden und das nicht den Plattformbetreibern überlassen.

Jessica: Wenn jetzt nach dem Gesetz, was gelöscht wird, was eigentlich hätte stehen bleiben Jessica: müssen, kann ich mich dagegen auch wieder wehren.

Jessica: Also das erlaubt der DSA auch oder schreibt das auch vor, dass ich mich als Jessica: derjenige, dessen Inhalt gelöscht wird, immer auch dagegen wehren können muss Jessica: und dann diese Entscheidung erstmal von der Plattform nochmal überprüft werden muss.

Jessica: Wenn die Plattform wieder sagt, nee, ich habe das gelöscht und ich stehe dazu, Jessica: dann kann ich damit auch vor Gericht gehen oder zu einer Streitbeilegungsstelle Jessica: und kann das nochmal prüfen lassen.

Jessica: Das ist der Vorteil davon, wenn wir verbindliche Entscheidungen der Plattformen haben, Jessica: wenn wir die vorschreiben und sie auf unseren Gesetzen basieren, Jessica: statt dass sie auf irgendwelchen internen Regeln basieren, die die Plattform Jessica: so gestalten und so auslegen kann, wie sie das selbst will.

Stella: Jetzt muss ich aber sagen, als Nicht-Juristin habe ich gleich einen Knoten im Stella: Kopf, vielleicht die ZuhörerInnen auch.

Stella: Wir haben ja einen DSA, der ist jetzt auch seit mehreren Jahren gültig.

Stella: Und da hast du ja gerade ausgeführt, steht einmal drin, was eben nicht erlaubt ist.

Stella: Es steht drin, wie ich dagegen vorgehen kann.

Und es steht auch drin, Stella: was ich tun kann, wenn zu viel gelöscht wird.

Stella: Also es gibt ja auch Fälle, da werden beispielsweise nicht nur einzelne Postings Stella: gelöscht, sondern da werden auch ganze Profile geblockt.

Stella: Und gleichzeitig gibt es jetzt aber die Community-Richtlinien, Stella: die quasi, jetzt mal extrem gesprochen, gegenüber des DSA stehen, Stella: die aber von den Unternehmen eingehalten werden.

Stella: Was jetzt tun, weil im Endeffekt, wir haben ja dann, ja, also von den Unternehmen Stella: eingehalten im Sinne von, sie haben sich selbst auferlegt und handeln danach.

Stella: Das steht ja dann gegenüber.

Wie löst man denn das Ganze?

Weil der DSA ist ja schon da.

Stella: Also, was fehlt denn da?

Jessica: Das löst man, indem wir haben Rechtsprechung dazu, die sagt, Jessica: du darfst bestimmte Regeln in deine Community Guidelines nicht reinschreiben.

Jessica: Du darfst zum Beispiel da nicht reinschreiben, ich kann deinen Account einfach Jessica: sperren, wenn mir danach ist, sondern du musst da bestimmte Voraussetzungen Jessica: dran setzen, dafür aufstellen, damit du einen Account sperren darfst.

Jessica: Da greift dann der DSA wieder unterstützend ein, der sagt, immer wenn du einen Jessica: Account sperrst, egal aus welchem Grund du das tust, musst du deine Entscheidung Jessica: begründen, du musst erklären, warum wurde der Account gesperrt, Jessica: was ist da schiefgelaufen, war das ein Verstoß gegen das Gesetz, Jessica: war das ein Verstoß gegen unsere Community Guidelines.

Jessica: Also die beiden greifen schon ineinander und funktionieren eigentlich auch zusammen.

Jessica: Wichtig ist eben, dass unsere Gesetze Vorrang haben müssen vor den Community Guidelines.

Stella: Und das ist noch nicht der Fall.

Jessica: Das ist schon der Fall, aber eben nur, wenn man sich sehr dahinter klemmt, Jessica: um es auch wirklich durchzusetzen.

Jessica: Also in der Theorie ist das so, die Gesetze haben Vorrang.

Jessica: In der Praxis haben wir eben noch diese Durchsetzungsschwierigkeiten im Einzelfall.

Stella: Ein Punkt, den ich noch wichtig finde für diese Folge, wir haben ja eingangs Stella: über das ganze Thema USA-Zeug gesprochen.

Stella: Was aber in dem Kontext auch viel diskutiert worden ist, ist ja der DMA, Stella: den wir jetzt noch nicht thematisiert haben.

Stella: Was stört denn genau am DMA, dass gerade auch die US-Tech-Firmen den nicht unbedingt Stella: umsetzen und akzeptieren wollen?

Jessica: Beim DMA stört die Firmen meiner Meinung nach vor allem, dass ihnen überhaupt Jessica: Regeln gemacht werden, dass ihnen Vorgaben dazu gemacht werden, Jessica: wie darf mein Marketplace aussehen, wie darf mein Store aussehen, Jessica: was muss ich dort tun, um nicht meine eigenen Waren zu bevorzugen, anderen gegenüber.

Jessica: Aber beim DMA kommt auch noch mit rein, dass die Regeln, wie alle Gesetze am Jessica: Anfang, noch relativ abstrakt sind und man die Details erst noch aushaschen muss.

Jessica: Und ja, also im Prinzip ist das Problem immer das gleiche, nämlich die Unternehmen Jessica: wollen einfach alles tun, Jessica: was sie können, um ihren Gewinn zu maximieren und jegliche Regelungen, Jessica: die sie einhalten müssen, Jessica: bedeuten Aufwand und bedeuten eine Einschränkung dieser Gewinnmaximierung.

Stella: Aber Moment, gerade wenn du jetzt angesprochen hast, das ist noch sehr am Anfang Stella: und es kommt dann viel auf die Umsetzung in der Praxis an, dann ist das ja jetzt Stella: auch eine ganz entscheidende Phase, Stella: dieser Anfang, wo man die Weichen stellt, in welche Richtung sich das Ganze Stella: entwickelt und ob das vielleicht ein sehr schwammiges Regelwerk dann in der Stella: Umsetzung tatsächlich ist, oder?

Stella: Also gerade deshalb ist doch die Diskussion jetzt relevant, was da passiert.

Jessica: Die Diskussion ist total wichtig und gerade deshalb darf man eben auch Entscheidungen Jessica: nicht aussetzen oder die Durchsetzung generell nicht aussetzen, Jessica: sondern muss diese Kämpfe eben führen, Jessica: muss die Regelungen im Einzelfall ganz genau, ganz detailliert festlegen und den Plattformen sagen, Jessica: hey, so wie du das gemacht hast, geht das nicht.

Jessica: So bevorzugst du deine eigenen Waren gegenüber den Waren von anderen und sie Jessica: dann eben auch im Zweifel mit Bußgeldern dazu zwingen, dass sie es in Zukunft besser machen.

Stella: Kommen wir einmal langsam zum Abschluss unserer Folge.

Stella: Was mich noch so rundum interessieren würde, ist, Stella: was muss denn jetzt vielleicht zeitnah so in den nächsten Monaten passieren, Stella: damit ich als Privatperson ja im Netz auch geschützt mich bewegen kann, Stella: damit ich keine Sorge haben muss, wenn ich nichts ahnend vielleicht mit Freunden Stella: ein Urlaubsvideo auf Instagram teile, Stella: dass das eines Tages die Basis für ein Diebfake wird?

Jessica: Wir brauchen dafür ein paar nationale Gesetze, Jessica: gerade wenn du Deepfakes ansprichst, ein Straftatbestand, wo ich spätestens, Jessica: wenn es den Deepfake gibt, dann eben zur Polizei gehen kann, Jessica: der das übergeben kann und sie kümmert sich darum, dass die Verantwortlichen dafür bestraft werden.

Jessica: Dann kann ich auch zur Plattform gehen und sagen, dieser Inhalt ist eindeutig Jessica: rechtswidrig, nimm den raus.

Jessica: Und wir brauchen Gerichtsurteile in Einzelfällen, die es einfacher machen, Jessica: auch in anderen Fällen dann das Recht durchzusetzen gegenüber den Plattformen.

Jessica: Ich will nicht, dass jeder Nutzer vor Gericht ziehen muss, sondern ich will Jessica: ein paar Urteile produzieren, die sagen, liebe Plattform, wenn du einmal einen Jessica: rechtswidrigen Inhalt gemeldet hast, Jessica: musst du zukünftig selbst dafür Jessica: sorgen, dass diese Art von rechtswidrigem Inhalt nicht mehr auftaucht, Jessica: Damit andere Nutzer, die das gleiche Problem haben oder ich, Jessica: wenn ich das gleiche Problem wieder habe, wenigstens nicht wieder vor Gericht gehen muss.

Jessica: Also einfach mehr Compliance bei den Plattformen, sowohl durch einzelne Verfahren Jessica: als auch durch große Bußgelder.

Jessica: Und dass die Kommission einfach deutlich macht, wir lassen das nicht mit uns Jessica: machen, egal wie hoch die Zölle sind, die er uns androht.

Jessica: Wir stehen hinter unseren Gesetzen und wir ziehen sie auch durch.

Stella: Was du da vielleicht auch ein bisschen ansprichst, ist ja auch das Providerprivileg Stella: oder das Plattformen nicht per se für ihre Inhalte dann auch haften.

Jessica: Das Provider-Privileg ist eine ganz große Hürde in der Praxis, Jessica: weil das Provider-Privileg sagt, als Plattform muss ich die Inhalte, Jessica: die auf meiner Plattform stehen, nicht kontrollieren.

Jessica: Ich muss mir das nicht anschauen, sondern ich kann mich darauf verlassen, Jessica: solange mir niemand was erzählt von einem rechtswidrigen Inhalt, Jessica: dass da auch keine rechtswidrigen Inhalte sind.

Jessica: Also Unwissenheit schützt vor Pflicht sozusagen in dem Fall.

Jessica: Als Nutzer muss ich der Plattform Kenntnis verschaffen von einem rechtswidrigen Jessica: Inhalt, damit sie überhaupt was dagegen machen muss.

Jessica: Und wir haben Gerichtsurteile gesehen, die sagen, dass die Anforderungen an Jessica: diese Kenntnisverschaffung total hoch sind.

Jessica: Dass ich da ganz genau erklären muss, warum ist dieser Inhalt rechtswidrig?

Jessica: Gegen welche Gesetze verstößt dieser Inhalt?

Wieso summiere ich das darunter?

Jessica: Kann man das als jemand, der nicht Jura studiert hat, überhaupt erfüllen?

Jessica: In letzter Zeit haben wir vor allem gegen TikTok vom Landgericht München 1 zu Jessica: Fake-Accounts ein paar Beschlüsse erstritten, Jessica: in denen das Gericht sagt, hey, Jessica: der Nutzer hat dir gemeldet, dass das ein Fake-Account ist, dass das eine Imitation ist.

Jessica: Das reicht.

Mehr muss der Nutzer dir nicht sagen.

Damit ist eindeutig, Jessica: dass es ein rechtswidriger Inhalt ist.

Jessica: Also die Anforderungen daran, wie genau diese Kenntnis verschafft werden muss, Jessica: damit die Plattform dann tatsächlich haftet für den Inhalt, die sind von Gericht Jessica: zu Gericht noch ein bisschen unterschiedlich.

Jessica: Und da muss meiner Meinung nach einfach die Hürde niedriger liegen, Jessica: damit es für die Nutzer nicht so unmöglich ist, das zu erfüllen und dann hinterher Jessica: gerichtlich durchzusetzen, wenn es nötig wird.

Stella: Also meint es auch aus deiner Sicht eine Anpassung oder eher gesagt, Stella: dass das Providerprivileg nicht zwangsläufig für Plattformen wie Facebook, Stella: Instagram, TikTok gilt?

Jessica: Ja, das ist eine Position, die ich vertrete, die wir vertreten, dass...

Jessica: Das Provider-Privileg eigentlich für neutrale Host-Provider geschaffen wurde.

Jessica: Das wurde für so Plattformen geschaffen wie Dropbox, wo ich meine Daten drauf Jessica: speichere und die Plattform macht damit überhaupt gar nichts.

Jessica: Meiner Meinung nach sind aber soziale Netzwerke wie Meta oder wie X nicht mehr neutral.

Jessica: Die haben diese Stellung verlassen, weil sie nach ihren eigenen Regeln eine Jessica: Kuratierung der Inhalte vornehmen.

Jessica: Die entscheiden, welche Inhalte landen auf deiner Timeline, welche nicht.

Jessica: Die suchen ganz genau aus.

Jetzt neuerdings werten sie auch teilweise die Inhalte Jessica: aus oder nutzen sie, um ihre eigene KI zu trainieren.

Jessica: Das haben wir neulich erst gesehen.

Jessica: Und meiner Meinung nach geht das alles über eine neutrale Stellung hinaus, Jessica: sodass wir eigentlich auch von diesem Providerprivileg mal Abstand nehmen müssten.

Jessica: Aber das müssen die Gerichte entscheiden, weil es eine Abwendung wäre von der Jessica: bisherigen Rechtsprechung.

Jessica: Die Gesetze würden das schon zulassen, dass man mit einer anderen Auslegung Jessica: jetzt die sozialen Netzwerke dann nicht mehr drunter fasst.

Jessica: Aber wir bräuchten da gerichtliche Entscheidungen dazu.

Stella: Wir nehmen also mit, die Gesetze sind immer nur die Basis, sondern das, Stella: was dann auch in der Realität entscheidend ist, ist die Rechtsprechung, Stella: sprich, wie die Gesetze ausgelegt werden.

Gerade in diesem sich sehr schnell Stella: weiterentwickelnden Digitalbereich.

Jessica: Ja, das sehe ich ganz genauso.

Stella: Meine Frage zum Abschluss an dich.

Ich als Nutzerin, sowohl als Privatperson Stella: als auch vielleicht jemand, der Führungsverantwortung in einem Unternehmen trägt.

Stella: Welche Gesetze sollte ich denn kennen oder was sollte ich wissen, Stella: wenn ich mich im digitalen Raum bewege?

Stella: Was schützt mich?

Wir haben Deepfakes ja schon ausführlich angesprochen, Stella: aber was sollte so auf meiner Liste im Hinterkopf immer vorhanden sein, Stella: falls Fake-Profile von mir auftauchen, falls Bots über mich herfallen etc.?

Jessica: Die Gesetze, die man kennen muss, sind vor allem, wie die Plattformen reagieren müssen.

Jessica: Also das steht in Artikel 6 und 16 DSA drin.

Jessica: Da steht drin, wenn du meldest, wenn du Kenntnis verschaffst, Jessica: müssen die Plattformen reagieren, müssen sperren oder löschen.

Jessica: Das ist ganz wichtig.

Ansonsten sollte man ein Verständnis von strafbaren Inhalten haben.

Jessica: In dem Bereich spielen oft die Beleidigungsdelikte eine Rolle, Jessica: Volksverhetzung im Einzelfall und bei einem Deepfake können wir potenziell auch Jessica: zu einer Strafbarkeit über § 201a StGB kommen.

Jessica: Das ist so unerlaubte Bildnisaufnahme, das allerdings in der Praxis noch nicht getestet.

Stella: Ich merke, wir müssen da noch einiges, wenn du sagst Praxis, Stella: da hängt noch einiges dran, wie sich das in Zukunft weiterentwickelt.

Stella: Aber ich danke dir jetzt an dieser Stelle erstmal, liebe Jessica, Stella: für diesen Ausflug in allerlei Jura- und Digitalgesetzgebung.

Jessica: Ja, sehr gerne.

Hat Spaß gemacht.

Stella: Das freut mich.

Und liebe ZuhörerInnen, ich hoffe, auch euch hat es Spaß gemacht Stella: und vor allen Dingen was gebracht, damit ihr ein bisschen sattelfester seid Stella: in all den Digital-Gesetzgebungsthemen und zumindest auch eine grobe Übersicht Stella: habt, was ihr vielleicht machen könnt, Stella: wenn ihr hoffentlich nicht mal von etwas betroffen sollt oder Fälle im Umfeld habt.

Stella: Und an dieser Stelle würde ich die Folge für diese Woche beenden, Stella: aber wir melden uns natürlich bei t3n Interview mit einer neuen Folge in der nächsten Woche.

Stella: Vielen Dank fürs Einschalten und auf Wiederhören.

Bei t3n geben wir mit gutem Stella: Tech-Journalismus Orientierung.

Stella: Unabhängig, kritisch und zukunftsgewandt.

Wenn du das feierst, Stella: unterstütze uns doch mit einem Abo.

Den Link gibt's in den Shownotes.