Brauchen wir mehr Digitalgesetze?

Stella: Schön, dass ihr wieder eingeschaltet habt, zu einer neuen Folge von t3n Interview.

Stella: Es wird heute juristisch. Es geht um Digitalgesetzgebung.

Stella: Und bevor ihr jetzt denkt, um Himmels Willen, macht euch keine Sorgen.

Stella: Wir werden hier keine Paragrafen runterrattern, sondern euch zeigen,

Stella: warum Digitalgesetzgebung für uns wichtig ist, was sie mit Demokratie zu tun

Stella: hat, warum sie gerade auch in Zukunft mit Blick auf die USA und künstliche Intelligenz

Stella: eine sehr entscheidende Rolle spielen kann.

Stella: Und wenn ich sage wir, dann ist natürlich auch wieder ein Gast bei mir,

Stella: diesmal digital zugeschaltet und zwar Jessica Flint, Doktorin der Rechtswissenschaften

Stella: und Anwältin bei Jun Legal. Moin Jessica.

Jessica: Hi, schön, dass ich hier sein kann.

Stella: Ich würde nochmal so eine kurze

Stella: Vorstellung machen, damit man eure Kanzlei auch einmal einordnen kann,

Stella: weil vielleicht bei dem einen oder der anderen hat es da schon geklingelt 2021

Stella: Facebook-Grundsatzprozess mit Renate Kühners,

Stella: da wart ihr auf jeden Fall sehr bekannt beteiligt und generell seid ihr ja auf

Stella: IT-Recht spezialisiert, eben rund um das Thema Hasskriminalität im Netz,

Stella: was euch auch, wenn man das im Juristenkreis so sagen kann, sehr am Herzen liegt.

Stella: Und über was wir ja auch in Teilen heute sprechen wollen. Aber ich würde erst mal so anfangen.

Stella: In den vergangenen Wochen waren ja auch die Medien sehr dominiert vom Thema

Stella: Zollverhandlungen zwischen den USA und Europa.

Stella: Und ein Thema, um das es da ging, war unter anderem der Digital Markets Act.

Stella: Ihr hattet auch bei der Republika drüber gesprochen.

Stella: Wie ist das eigentlich für dich als Juristin, wenn plötzlich so ein Gesetz zur

Stella: Verhandlungsmasse wird?

Jessica: Das ist für mich ein ganz trauriges Erlebnis, ein furchteinflößendes Erlebnis auch.

Jessica: Gerade in dem Bereich Digitalpolitik haben wir ganz viel Gesetzgebungsmacht

Jessica: an die EU abgegeben und erwarten da entsprechend eben auch,

Jessica: dass diese Gesetze durchgesetzt werden und nicht nur als Schaufensterregulierung irgendwo stehen.

Jessica: Man kann sich drüber freuen und es passiert dann nichts.

Jessica: Vor allem sehen wir die Auswirkungen davon, dass die,

Jessica: EU da keinen Druck macht, die Gesetze tatsächlich auch einzuhalten.

Jessica: Es gibt ja Möglichkeiten, Bußgelder zu verhängen und so Verfahren zu führen.

Jessica: Das wird alles nicht ausreichend genutzt, sodass es den Plattformen einfach

Jessica: momentan nicht genug wehtut, gegen die Gesetze zu verstoßen.

Jessica: Und wenn ich dann höre, dass die EU auch noch entweder direkt oder durch irgendwelche

Jessica: Anzeichen vermittelt, hey,

Jessica: vielleicht ist das doch gar nicht so wichtig, dass wir diese Gesetze durchsetzen,

Jessica: Das ist wie ein Freifahrtschein für die Plattformen zu machen, was sie wollen.

Stella: Bevor wir da weiter einsteigen, auch zum Thema Freifahrtschein,

Stella: finde ich es einmal wichtig zu definieren, worüber wir eigentlich reden.

Stella: Weil ich glaube, viel werden DMA, DSA und manchmal auch DSGVO munter durcheinander geschmissen.

Stella: Deswegen machen wir doch einmal quasi so eine kurze Definitionsrunde.

Stella: Ich würde anfangen mit dem DMA. Kannst du ganz kurz und knapp definieren,

Stella: worum es da eigentlich geht in diesem Digitalgesetz?

Jessica: Beim DMA geht es ganz zentral darum, dass die Plattformen, also das reicht ganz

Jessica: weit, Meta, Apple, was man sich so vorstellen kann,

Jessica: dass die eine Gleichberechtigung herstellen müssen, auch für andere Anbieter.

Jessica: Also ich darf zum Beispiel als Apple in meinem Store nicht meine eigenen Produkte

Jessica: bevorzugen gegenüber anderen Produkten.

Jessica: Das ist so der Kern des DMA.

Stella: Und beim DSA, da geht es ja auch mehr um die Inhaltsebene, um das,

Stella: was dann tatsächlich auf den Plattformen landet.

Jessica: Genau, beim DSA ist der Fokus, dass auf diesen Plattformen sind ja Inhalte von

Jessica: Dritten, also von Nutzern oder von Werbetreibenden oder sowas.

Jessica: Und im DSA wird geregelt, wie die Plattformen mit diesen Inhalten umgehen müssen,

Jessica: dass sie auch generell Risikobewertungen und Risikomaßnahmen ergreifen müssen,

Jessica: um rechtswidrige Inhalte auf ihrer Plattform einzudämmen.

Stella: Und nur zum Abschluss, DSGVO, die Datenschutzgrundverordnung ist ja der Schutz

Stella: der Nutzer in Daten, sehr kurz zusammengefasst, oder?

Jessica: Genau, die DSGVO zieht auch immer größere, immer weitere Kreise.

Jessica: So ganz trennscharf abgrenzen kann man diese Themen voneinander deshalb auch gar nicht.

Jessica: Also vieles spielt in verschiedenen Bereichen eine Rolle, aber das ist auf jeden

Jessica: Fall so die Grundsatzabteilung.

Stella: Wenn ich als Nicht-Juristin das höre, dann denke ich am ersten,

Stella: also im ersten Gedanken eigentlich, ja, das ist doch dann wahrscheinlich klar geregelt.

Stella: Du hast den DMA umrissen, es geht auch um Wettbewerb. Du hast den DSA umrissen,

Stella: da geht es eben darum, was wird auf den Plattformen geteilt.

Stella: Es gibt natürlich auch einfach Grenzen von dem, was auf solchen Plattformen

Stella: landen kann. Beispielsweise Hassrede hat dort nichts verloren.

Stella: Jetzt hast du aber eingangs direkt gesagt, irgendwie lässt sich das nicht so durchsetzen.

Stella: Kannst du uns einmal erklären, was da das Problem ist, weil die Gesetze sind doch da.

Jessica: Die Gesetze sind da und die Gesetze sind zumindest als Ausgangspunkt auch gar nicht so schlecht.

Jessica: Der DSA geht zum Beispiel ein ganzes

Jessica: Stück weiter, als es vorher das Netzwerkdurchsetzungsgesetz getan hat.

Jessica: Das war praktisch die deutsche nationale Vorgängerregelung, die nun einen viel

Jessica: kleineren Ausschnitt an rechtswidrigen Inhalten überhaupt untersagt hat,

Jessica: wobei ich das gleich noch einen Schritt erklären muss.

Jessica: Beim DSA geht es vor allem darum, wenn ich als Nutzer einen rechtswidrigen Inhalt

Jessica: finde auf der Plattform, kann ich ihn an die Plattform melden und die Plattform

Jessica: muss ihn dann runternehmen.

Jessica: Das heißt, das, was rechtswidrig ist, das war vorher auch schon rechtswidrig,

Jessica: das hat sich durch den DSA überhaupt nicht verändert.

Jessica: Da geht es um Verstöße gegen das Strafgesetz, zum Gesetzbuch zum Beispiel.

Jessica: Also an dieser Grundsatzentscheidung, was ist jetzt ein rechtswidriger Inhalt,

Jessica: hat der DSA erstmal keine Veränderung gebracht, sondern es geht eigentlich mehr

Jessica: darum, dass man das als Nutzer direkt den Plattformen gegenüber durchsetzen können muss.

Jessica: Also ich kann mich einfach an die wenden, kann sagen, hey, dieser Inhalt ist

Jessica: rechtswidrig, nimm den raus und die Plattform muss ihn löschen.

Jessica: Eigentlich ist das die Idee. Das heißt, ich muss nicht für jeden Inhalt vor Gericht ziehen.

Jessica: Wenn jetzt aber niemand dahinter steht, wie die Kommission das eigentlich tun

Jessica: müsste und die Plattform dazu zwingt, dass sie diese Prozesse auch tatsächlich

Jessica: durchzieht, dass sie tatsächlich ihre Pflichten erfüllt den Nutzern gegenüber,

Jessica: dann sagt sich die Plattform natürlich irgendwann eher gut den Aufwand,

Jessica: diese Nutzermeldungen zu prüfen, sorgfältig zu prüfen und dann auch wirklich

Jessica: sorgfältig darauf zu reagieren,

Jessica: den mache ich mir jetzt halt nicht mehr, sondern dann warte ich und reagiere

Jessica: nur noch auf die Leute, die mir einen Anwalt auf den Hals jagen.

Jessica: Das funktioniert nämlich immer noch ganz gut.

Jessica: Oder im Einzelfall sogar warte

Jessica: ich, bis jemand überhaupt vor Gericht geht und erst dann reagiere ich.

Stella: Das heißt, wenn ich es jetzt mal in die Praxis übersetze, ich kenne es selbst

Stella: auch, bei Instagram, bei TikTok fällt mir was auf, was ich denke,

Stella: das gehört hier nicht hin.

Stella: Das ist beispielsweise rechtsradikal. Ich melde es und kriege manchmal dann

Stella: eine Meldung. Ja, hast du recht, haben wir entfernt.

Stella: Oder gibt auch häufiger die Meldung, nee, machen wir nicht.

Stella: Und an der Stelle, muss ich sagen, hört es ja dann auch bei mir auf.

Stella: Ich gebe zu, ich ziehe jetzt nicht persönlich für jeden Instagram-Beitrag oder

Stella: TikTok-Beitrag vor Gericht oder schalte Anwältinnen ein.

Stella: Und das ist quasi genau dann der Punkt, den du auch kritisierst.

Stella: Es ist ja wie ein zahnloser Tiger dann eigentlich, weil es gibt ja keinen,

Stella: der die Plattform in dem Sinne überprüft, ob sie denn eigentlich diese Regelung einhalten.

Jessica: Ja, diese Stellen gibt es schon. Das wäre einmal der irische DSC,

Jessica: Digital Services Coordinator, einfach eine irische Behörde, die zuständig ist

Jessica: für die Plattform, weil die alle ihren Sitz in Irland haben.

Jessica: Und übergreifend für die ganz großen Plattformen ist auch die EU-Kommission zuständig.

Jessica: Und die kann genau diese Verstöße, nämlich wenn die Plattformen zum Beispiel

Jessica: kein richtiges Meldesystem zur Verfügung stellen,

Jessica: wenn sie auf Meldungen generell nicht richtig reagieren oder wenn sie Risiken

Jessica: auf ihrer Plattform zwar kennen, aber nichts dagegen unternehmen,

Jessica: Für solche Fälle hat die EU-Kommission die Möglichkeit, Bußgelder zu verhängen.

Jessica: Und es ging auch schon öfter durch die Nachrichten, dass da Verfahren laufen gegen die Plattformen.

Jessica: Diese Verfahren laufen schon sehr, sehr lang ohne Ergebnis. Und zuletzt hat

Jessica: man eben zu dem Verfahren gegen Twitter,

Jessica: gegen X jetzt, gehört, dass die EU-Kommission eine Entscheidung darüber erstmal

Jessica: aussetzen möchte, bis über den Zollstreit entschieden ist.

Stella: Und das ist ja dann eigentlich der Punkt, das ist nicht der DMA,

Stella: sondern der DSA, der da betroffen ist, der sich dann wieder zurück in das ganze

Stella: Thema USA-Zolleingangs dreht.

Stella: Das heißt, Sie haben jetzt gesagt, wir warten erstmal ab, dann könnten Sie ja

Stella: jetzt eigentlich entscheiden, weil wir zeichnen jetzt, muss man vielleicht einmal sagen, am 31.

Stella: Juli auf, also das ist der Stand, wenn wir jetzt miteinander sprechen,

Stella: da könnten Sie doch jetzt entscheiden, oder?

Jessica: Ja, ich hoffe, dass es jetzt sehr bald zu einem hohen Bußgeld kommen wird,

Jessica: obwohl ich auch gleich dazu sagen muss, in dem Verfahren, über das wir da jetzt

Jessica: reden, das entscheidungsreif ist anscheinend aus Sicht der Kommission,

Jessica: da geht es um die blauen Häkchen auf X.

Jessica: Wenn man sich zurückerinnert, nachdem X übernommen wurde, wurde die Bedeutung

Jessica: dieser blauen Häkchen verändert.

Jessica: Von vorher, meine Identität ist verifiziert, zu nachher, ich habe mir den Haken gekauft.

Jessica: Und die EU-Kommission hat da die Befürchtung, dass das irreführend sein könnte für die Nutzer.

Jessica: Aber ich finde jetzt nicht, dass das das größte Problem ist,

Jessica: was wir auf Twitter haben.

Jessica: Ich glaube, in der Zwischenzeit hat man sich an diese Haken auch gewöhnt und

Jessica: auch an die neue Bedeutung gewöhnt.

Jessica: Und es zeichnet aber so ein bisschen wieder, was das eigentlich für ein Problem

Jessica: ist, wenn diese Verfahren so lange dauern und wenn sie vor allem aus politischen

Jessica: Erwägungen dann auch ausgesetzt werden können.

Jessica: Also ob man die jetzt offiziell aussetzt oder ob man einfach nur das Papier

Jessica: in die Ecke legt und wartet, weil es gerade irgendwie aus der politischen Situation

Jessica: heraus ungünstig wäre, so eine Entscheidung zu treffen, spielt ja dann auch keine Rolle mehr.

Jessica: Sondern die Verhältnisse entwickeln sich, verändern sich.

Jessica: Dann wird eine Entscheidung getroffen, die vielleicht gar nicht mehr zeitgemäß

Jessica: ist oder nicht mehr so relevant ist, wie sie mal war.

Jessica: Und das geht einfach nicht. Also damit machen wir die ganze Wirkung dieser Gesetze zu Nichte.

Stella: Ist das denn in dem Fall, du hast jetzt X angesprochen mit den Häkchen,

Stella: ist das so die Regel, dass das über Jahre dauert?

Stella: Kannst du da einmal so eine Einschätzung geben, bis wann dann mal ein finales Urteil gesprochen ist?

Jessica: Also bei einem Urteil sind wir ja noch gar nicht. Eine wirkliche Einschätzung

Jessica: gibt es dazu noch nicht, weil es diese Verordnungen ja erst seit letztem Jahr

Jessica: oder sind erst seit letztem Jahr in Kraft.

Jessica: Und seitdem laufen auch einige Verfahren. Ich hätte erwartet,

Jessica: dass die deutlich schneller gehen.

Jessica: Ich meine, ich weiß, bei Behörden dauert alles seine Zeit und man muss die Fälle intensiv prüfen.

Jessica: Aber es gibt da so eklatante Verstöße gegen diese Regelungen,

Jessica: dass es eigentlich nicht so lange dauern dürfte, das festzustellen.

Jessica: Meiner Meinung nach hätte man da viel schneller sein müssen,

Jessica: schneller ein Signal senden müssen.

Jessica: Vor allem, weil als DSA und DMA in Kraft getreten sind, da hatte das erstmal so einen Aufschwung.

Jessica: Also der Erlass dieser Verordnung hat erstmal schon eine Wirkung gehabt,

Jessica: dass die Plattformen gesagt haben, jetzt kommt die Kommission und will uns dazu

Jessica: bringen, dass wir hier Regeln einhalten.

Jessica: Das wird vielleicht gefährlich für uns, da halten wir uns lieber mal dran.

Jessica: Aber wenn man dann eine Zeit lang wartet und es passiert nichts,

Jessica: dann entspannen sich die Leute auch wieder.

Jessica: Also diesen Aufschwung hätte man eigentlich mitnehmen sollen und dann auch schneller

Jessica: schon, meiner Meinung nach jedenfalls, dieses Verfahren abschließen sollen.

Jessica: Tatsächlich, weil du jetzt gerade gesagt hast, wir haben dann ein Urteil,

Jessica: das kommt ja erst alles noch.

Jessica: Also dass diese Entscheidungen der Kommission dann noch gerichtlich überprüft werden müssen.

Jessica: Davon ist auszugehen, dass sich die Plattformen dagegen wehren,

Jessica: gegen die Bußgelder, die verhängt werden und wir dann auch noch hinterher ein

Jessica: Gerichtsverfahren sehen werden,

Jessica: wo die Argumentation der Kommission nochmal geprüft wird auf Herz und Nieren

Jessica: und dann Gerichte feststellen werden, war das jetzt richtig,

Jessica: hier ein Bußgeld zu verhängen oder nicht.

Stella: Das klingt noch nach einem sehr langwierigen Prozess, auch einem,

Stella: der möglicherweise, wer weiß, vielleicht gibt es dann gar nicht mehr dieses

Stella: Abo-Haken-Modell, was X aktuell noch hat.

Stella: Das zeigt ja aber mal, wie du angesprochen hast, dass es natürlich wahrscheinlich

Stella: wenig in Anführungszeichen angsteinflößend ist, wenn ich weiß, es gibt ein Gesetz,

Stella: was über Jahre natürlich dann auch in die Länge gezogen werden kann,

Stella: bis es dann mal ein Urteil gibt, eine Entscheidung gibt.

Stella: Was ich da aber noch ganz interessant finde, wir haben jetzt über Bußgelder

Stella: gesprochen und das ist ja etwas, was dann eben auf Kommissionsebene etc.

Stella: Relevant wird. Wenn ich jetzt als private Nutzer mich gegen Hass im Netz gegen

Stella: mich wehren möchte, beispielsweise Facebook, etc., kann ich ja kein Bußgeld

Stella: verhängen, sondern dann kann ich ja nur auf Schadensersatz klagen.

Stella: Ist das denn nicht etwas, was vielleicht auch Unternehmen abschreckt und sagt,

Stella: ja, deswegen müssen wir den DSA einhalten?

Jessica: Ja, das ist der Weg, den wir momentan ziemlich viel gehen, nämlich dieser Schadensersatz,

Jessica: die zivilrechtliche Möglichkeit.

Jessica: Da kann man einen Unterlassungsanspruch geltend machen gegen die Plattformen

Jessica: und auch einen Schadensersatzanspruch.

Jessica: Aber das sind immer nur sehr, zum einen sind es immer nur sehr kleine Beträge,

Jessica: zum anderen sind es auch Einzelfälle.

Jessica: Also das ist unter anderem ein Thema, über das wir mit Meta schon seit Jahren

Jessica: eben in dem Künast-Prozess streiten, weil wir dort,

Jessica: es geht in dem Prozess um ein Falschzitat, was Renate Künast untergeschoben

Jessica: wurde, was auf Facebook verbreitet wurde.

Jessica: Und zwar war diese Verbreitung in der heißen Phase 2018. Also der Prozess läuft schon relativ lang.

Jessica: Und dort streiten wir vor allem darum, ob und in welcher Höhe Meta da Schadensersatz

Jessica: dafür bezahlen muss, dass sie eben nicht reagiert haben auf Meldungen und auch

Jessica: auf Abmahnungen nicht rechtzeitig reagiert haben.

Jessica: Diese Schadensersatzzahlungen, da sind die deutschen Gerichte ziemlich zurückhaltend.

Jessica: Ich bin aber auch der Meinung, dass wenn man da mehr Prozesse führt,

Jessica: mehr Schadensersatz einfordert, dass das mit so, wie so eine Politik der kleinen

Jessica: Nadelstiche, dann auch zu einer Veränderung führt bei den Plattformen.

Jessica: Das, was ich daran schwierig finde, ist, dass man aber eine extrem große Verantwortung

Jessica: auf die Nutzer überträgt und auf die Betroffenen von solchen rechtswidrigen Inhalten.

Jessica: Weil als Betroffener, wenn ich mich dagegen zur Wehr setzen muss,

Jessica: dann muss ich mir einen Anwalt nehmen, ich muss einen Prozess durchstehen,

Jessica: ich muss den auch finanzieren oder mir Hilfe suchen zur Finanzierung.

Jessica: Ich muss da sehr viel Zeit investieren und auch sehr viele Nerven.

Jessica: Das kann jedenfalls nicht der einzige Weg sein. Als Betroffener von einem strafbaren

Jessica: Inhalt habe ich außerdem immer noch die Möglichkeit, auch eine Strafanzeige

Jessica: und einen Strafantrag zu erstatten.

Jessica: Darum kümmert sich dann die Polizei und die Staatsanwaltschaft,

Jessica: wenn da wirklich eine Strafbarkeit vorhanden ist.

Jessica: Das richtet sich dann aber gegen die Nutzer, nicht gegen die Plattformen typischerweise,

Jessica: und führt auch nicht automatisch dazu, dass die Inhalte entfernt werden.

Stella: Du hast gerade gesagt, das kann nicht der einzige Weg sein.

Stella: Was wäre denn dann noch ein weiterer Weg oder etwas, was du vielleicht als sinnvoll erachten würdest?

Jessica: Ich glaube, dass der Staat hier eine Schutzpflicht hat.

Jessica: Ich glaube, dass der Staat hier die Aufgabe hat, dass er seine Bürger davor

Jessica: schützt, ständig mit rechtswidrigen Inhalten konfrontiert zu werden und dass

Jessica: ständig rechtswidrige Inhalte auch potenziell überein verbreitet werden,

Jessica: dass man das eben nicht so vor sich hin laufen lassen kann.

Jessica: Und dafür brauchen wir eben mindestens Bußgelder,

Jessica: vielleicht aber auch staatliche Stellen oder private Stellen,

Jessica: die da deutlich mehr unterstützen, als das momentan der Fall ist und die vielleicht

Jessica: solche Verfahren dann auch eigenständig führen.

Jessica: Da kann man sich sehr viele Szenarien vorstellen.

Jessica: Wir haben da schon einige Mittel, die man erstmal nutzen könnte,

Jessica: um Druck zu machen auf die Plattformen. Und ich würde mir gerade vor allem wünschen,

Jessica: dass die jetzt einfach mal durchgesetzt werden.

Stella: Was da, finde ich, ja auch nochmal ein wichtiger Punkt ist, ist der ganze Bereich

Stella: Künstliche Intelligenz, der ja, ich meine,

Stella: 2018 Künast, da war KI noch nicht so weit verbreitet, aber jetzt mit KI,

Stella: Deepfakes als großes Thema, Stimmelklonen, vielleicht auch bald Videos immer leichter erstellen.

Stella: Da kommt ja auf uns eigentlich eine Masse an Content, der potenziell eben Hass

Stella: unterstützen kann im Netz, auf uns zu, oder?

Stella: Sind die Gesetze dafür schon in Anführungszeichen fest genug oder konkret genug?

Jessica: KI wird diese ganzen Probleme, die wir haben, auf das nächste Level heben.

Jessica: Und wir sehen das gerade schon.

Jessica: Also ich bin immer wieder schockiert, was jetzt schon alles möglich ist.

Jessica: Es gibt jetzt schon riesige Scam-Vorfälle, wo Menschen imitiert werden und dann

Jessica: andere dazu gebracht werden,

Jessica: in Krypto zu investieren über irgendwelche betrügerischen Plattformen.

Jessica: Das ist gerade so die Art von Fällen, die mich am meisten schockiert.

Jessica: Da kriege ich Dinge erzählt, wie dass man Videotelefonie mit einer Person führt,

Jessica: die aus dem Fernsehen bekannt ist, aber das ist sie gar nicht.

Jessica: Also wir sind da schon so weit damit, was KI alles kann.

Jessica: Und die Regelungen dazu gehen meiner Meinung nach nicht weit genug.

Jessica: Wir haben dafür jetzt den AI-Act.

Jessica: Im AI-Act werden bestimmte Arten von KI-Systemen verboten, allerdings nur relativ wenige.

Jessica: Und ansonsten haben wir sowohl im AI-Act als auch in anderen Gesetzen Transparenzpflichten.

Jessica: Das heißt, ich muss einen Inhalt, der KI generiert ist, markieren.

Jessica: Aber ich finde auch da, das reicht nicht, das geht nicht weit genug.

Jessica: Wir sehen, dass Deepfakes zum Beispiel in über 90 Prozent der Fällen sexualisierte

Jessica: Deepfakes sind, pornografische Inhalte.

Jessica: Und da reicht das mir nicht, dass diese Inhalte dann gekennzeichnet sind,

Jessica: als KI generiert, weil es verletzt trotzdem die Rechte der betroffenen Personen,

Jessica: die da abgebildet werden, immens.

Jessica: Und da kann ich auch nicht erwarten, dass sich jeder Einzelne dagegen wehren muss,

Jessica: statt dass das wirklich strafrechtlich eindeutig untersagt wird und dass man

Jessica: auch gegen die KI-Betreiber vorgehen kann, die sowas ermöglichen.

Stella: Also strafrechtlich eindeutig untersagt wird, wäre dann beispielsweise zu verbieten,

Stella: dass ohne Einstimmung von einem real existierenden Menschen seine Erscheinung,

Stella: seine Stimme nicht verwendet werden darf, um Inhalte mit KI zu erstellen.

Jessica: Genau.

Stella: Und ich schließe daraus, dass es das noch nicht gibt.

Stella: Also ich weiß, in Dänemark gibt es ja einen Gesetzesvorstoß,

Stella: der genau eben auch quasi das Urheberrecht auf Stimme und Aussehen schützen soll.

Stella: Ich meine, in Deutschland gibt es sowas noch nicht, oder?

Jessica: Ja, es gab einen Gesetzesvorschlag, der allerdings in eine ein bisschen andere Richtung ging als das.

Jessica: Das, was es in Dänemark gibt, gibt es hier tatsächlich noch nicht und wird auch noch nicht diskutiert.

Jessica: Wir hatten unter der letzten Regierung einen Gesetzesvorschlag,

Jessica: der aus Bayern kam, aus dem Bundesrat, der Deepfakes verbieten wollte,

Jessica: untersagen wollte, wenn das von echten Menschen,

Jessica: also wenn echte Menschen dort abgebildet werden, ohne Einwilligung.

Jessica: Allerdings die meisten Vorschläge, es gibt auch noch ein paar andere Ideen,

Jessica: aber die meisten Vorschläge setzen erst ein bisschen zu spät an, weil sie sagen,

Jessica: ich muss in jedem Einzelfall prüfen, ob das wirklich eine Persönlichkeitsrechtsverletzung

Jessica: ist oder ich muss in jedem Einzelfall prüfen, ob denn ein schwerer Schaden bei

Jessica: dem Opfer entstanden ist.

Jessica: Und das macht es dann wieder schwierig, das macht die Beweisaufnahme schwierig.

Jessica: Wenn wir aber nichts tun, kein neues Gesetz einführen, dann haben wir momentan

Jessica: viele Dinge, die irgendwie über andere Gesetze wie zufällig mit abgedeckt sind.

Jessica: Also du kannst zum Beispiel eine Verleumdung annehmen, wenn dir irgendeine Handlung

Jessica: oder eine Aussage unterstellt wird, die du tatsächlich nicht getätigt hast.

Jessica: Aber das ist eigentlich nicht der Kern dessen, was durch so ein Deepfake verletzt wird.

Stella: Wenn du sagst, es ist quasi zu spät, das heißt, du würdest dann sagen,

Stella: man bräuchte ein Gesetz, was verhindert, dieses Material überhaupt zu nutzen,

Stella: damit es gar nicht erst entstehen kann?

Stella: Oder was meinst du mit quasi früher ansetzen?

Jessica: Ich meine mit früher Ansätzen, dass man zum einen schon bei der Herstellung

Jessica: ansetzt von Deepfakes, zumindest in einem bestimmten Rahmen und zum anderen,

Jessica: dass man eben nicht diese hohen Hürden an der Strafbarkeit stellt,

Jessica: sondern dass man sagt, ich treffe als Gesetzgeber eine ganz klare Entscheidung,

Jessica: wenn du das Aussehen einer anderen Person oder die Stimme verwendest,

Jessica: ohne dass sie vorher eingewilligt hat, ohne dass sie damit einverstanden ist,

Jessica: dann machst du dich damit straff.

Jessica: Das geht ziemlich weit und geht über das hinaus, was wir in den bisherigen Gesetzen drin haben.

Jessica: Aber es würde zumindest dafür sorgen, dass die Rechtsgüter, die betroffen werden

Jessica: von so einem Diebfake, das allgemeine Persönlichkeitsrecht, vor allem die Menschenwürde

Jessica: in Einzelfällen auch, dass das ausreichend geschützt wird.

Stella: Menschenwürde, die ja auch bei uns zum Beispiel in Deutschland im Grundgesetz

Stella: direkt am Anfang festgeschrieben ist.

Stella: Was ich dabei aber auch noch vielleicht ein Aspekt, wir haben jetzt viel über

Stella: Privatpersonen gesprochen, aber was ist denn mit GeschäftsführerInnen beispielsweise

Stella: oder mit Menschen, die eben im Unternehmen Einfluss haben, da hängt doch auch

Stella: eine wirtschaftliche Komponente dran oder ein Deepfake,

Stella: wo jemand fälschliche Geschäftszahlen verkündet oder sonstige Informationen

Stella: vermeintlich preisgibt, die für ein Unternehmen schädlich sind.

Stella: Und kann man sich dagegen jetzt schon schützen?

Stella: Gibt es da die passenden Gesetze oder was tut man in so einem Fall?

Jessica: In so einem Fall kann man sich auch jetzt schon wehren, aber es ist deutlich schwieriger.

Jessica: Also zum einen haben wir momentan kaum die passenden Möglichkeiten,

Jessica: um die Sachen dann überhaupt aus dem Netz rauszubekommen.

Jessica: Da ist eben sehr viel Mitwirkung der Plattformen notwendig.

Jessica: Oft findet weder die Polizei noch man als Privatperson sowieso nicht die Übeltäter,

Jessica: die da dahinter stecken.

Jessica: Und die wirtschaftlichen Schäden, die Rufschäden kann man halt oft auch einfach

Jessica: nicht wieder gut machen.

Stella: Das klingt wenig hoffnungsvoll, ehrlich gesagt.

Stella: Also mit anderen Worten, ist das auch dann eine Klage auf Schadensersatz und dann, ja?

Jessica: Ja, kommt immer auf den Einzelfall an, aber in so einem Fall hat man,

Jessica: glaube ich, nicht besonders viel mehr Möglichkeiten, als man als Privatperson hat.

Jessica: Das kommen noch ein paar andere Rechtsgüter dann in Betracht,

Jessica: die noch mit reinspielen, aber es ist jetzt nicht so explizit geregelt.

Jessica: Ich will aber mal deutlich machen, es ist hier noch nicht zu spät.

Jessica: Wir sind noch am Anfang von KI.

Jessica: Wir haben jetzt noch die Möglichkeiten, da einzugreifen und wirklich Standards

Jessica: zu setzen und Grenzen zu setzen, die jetzt auch noch umgesetzt werden können.

Jessica: Und gerade indem man solchen Entwicklungen Grenzen setzt,

Jessica: kommt ja dann oft die Befürchtung auf, dass man Innovation einschränkt oder

Jessica: ja, dass man sich nicht mehr richtig ausleben kann mit diesen Tools,

Jessica: diese Tools nicht mehr richtig nutzen kann, so wie man sie gern nutzen würde.

Jessica: Aber es ist eben wichtig, dass man dabei nicht vergisst, dass man die Rechte

Jessica: anderer Menschen verletzt.

Jessica: Und genau das ist jetzt noch möglich. Wir können jetzt Grenzen setzen und dann

Jessica: werden zumindest die großen Tools sich innerhalb dieser Grenzen aufhalten.

Jessica: Und die Hürde, irgendwelche rechtswidrigen Inhalte zu erstellen,

Jessica: Rechte anderer Menschen oder Unternehmen zu verletzen, wird niedriger werden.

Stella: Das, was du gerade ansprichst, ist, glaube ich, gerade mit Blick auf den AI-Act,

Stella: der ja auch im Stritten und viel diskutiert ist, ein wichtiger Punkt,

Stella: da ja manche Unternehmen in Europa auch sagen, hey, das ist für uns ein großer

Stella: Nachteil, weil in den USA ist das alles erlaubt.

Stella: Und wie du gerade den Punkt Innovation, weniger Freiheit in der Entwicklung,

Stella: wenn jemand diese Punkte genau anbringt, was sagst du dann?

Stella: Ich meine, du forderst ja eindeutig mehr Regulierung in dem Bereich,

Stella: als jetzt auch durch den AI-Act erfolgt das.

Jessica: Ich sage dazu, wir machen nicht Innovation um Innovation willen.

Jessica: Es gibt Bereiche, in die will man keine Innovation haben oder in der sind mir

Jessica: einfach die Grundrechte und die Grundwerte unserer Gesellschaft wichtiger,

Jessica: als dass man jede technische Möglichkeit ausschöpft, die es gibt.

Jessica: Und da will ich eben jetzt ansetzen und eingreifen, statt dass ich erstmal alles

Jessica: erlaubt lasse, mal schaue, wie es sich entwickelt. Das haben wir schon bei Social Media gemacht.

Jessica: Und jetzt stehen wir da und können es nur noch ganz schwer wieder einfangen,

Jessica: weil man ganz viele Entwicklungen eigentlich rückgängig machen müsste,

Jessica: die halt schon stattgefunden haben.

Jessica: Ich finde es wichtig, dass wir unsere Gesetze, unsere Werte nicht aufgeben,

Jessica: nur weil man dann vielleicht eine Innovation nicht bekommt, die es sonst gegeben hätte.

Stella: Was du ja auch bei der Republika angesprochen hattest, war ja genau das Thema

Stella: Übersetzung auch vom Grundgesetz ins Digitale.

Stella: Magst du das noch einmal ausführen? Was meint das eigentlich,

Stella: so ein Grundgesetz dann ins Digitale umzusetzen?

Stella: Das ist ja eigentlich auch sehr kompliziert, weil wir haben einmal natürlich

Stella: nationale, in dem Fall deutsche Gesetzgebung und ja auch EU-Recht.

Stella: Das muss ja alles miteinander harmonieren.

Jessica: Ja, das, was ich damit meine, ist, dass wir im Grundgesetz eben unsere Grundwerte

Jessica: festgeschrieben haben.

Jessica: Wir haben da festgelegt, wir wollen, dass die Menschenwürde geschützt wird, ganz am Anfang.

Jessica: Wir wollen sehr viel Freiheit jedem Menschen überlassen, aber diese Freiheit

Jessica: eben auch einschränken, da wo die Freiheiten anderer Personen anfangen.

Jessica: Das sieht man zum Beispiel bei der Meinungsfreiheit, die wird ja gerne angeführt.

Jessica: Da haben wir ein anderes Verständnis in Deutschland und in Europa, als es in den USA gilt.

Jessica: In den USA darf man prinzipiell alles sagen, ziemlich grenzenlos.

Jessica: Und in Deutschland haben wir das Verständnis so, dass ich meine Meinung sagen darf.

Jessica: Aber nur bis zu der Grenze, dass ich eine andere Person damit beleidige.

Jessica: Und wenn ich Tatsachen äußere, dann muss ich sie eben im Zweifel beweisen können.

Jessica: Ansonsten darf ich sie nicht weiter verbreiten, wenn sie sich auf jemand anderen beziehen.

Jessica: Das sind Ausflüsse aus unserem Grundgesetz.

Jessica: Und diese Ausflüsse müssen auch den Plattformen gegenüber durchgesetzt werden,

Jessica: um das Grundgesetz tatsächlich auch in der Praxis anwendbar zu machen.

Jessica: Wir haben dafür einfache Gesetze, wie die Beleidigungsdelikte, Verleumdungsdelikte.

Jessica: Wenn die aber auf den Plattformen keine Rolle mehr spielen, dann geben wir damit

Jessica: praktisch unsere Grundwerte auf,

Jessica: unsere Grundrechte auf und ordnen uns stattdessen der amerikanischen Politik

Jessica: und den amerikanischen Gesetzen unter.

Jessica: Beziehungsweise, was noch schlimmer ist, wir ordnen uns den Gesetzen unter,

Jessica: die die Plattformbetreiber aufstellen, weil ein Musk und ein Zuckerberg haben

Jessica: sich ja auch eigene Regeln überlegt, die für ihre Plattformen gelten.

Jessica: Diese Regeln stimmen nicht unbedingt mit dem überein, was wir in unserem Grundgesetz stehen haben.

Jessica: Irgendwann muss man sich aber entscheiden, welche Regeln sollen gelten.

Jessica: Welches Wertesystem ist mir wichtiger?

Jessica: Das, was jemand aufgestellt hat, der hauptsächlich wirtschaftlichen Erfolg als Ziel hat?

Jessica: Oder das, was jemand aufgestellt hat, mit dem Ziel, eine gute Gesellschaft,

Jessica: eine funktionierende Gesellschaft aufzubauen?

Stella: Was du gerade ansprichst, sind ja die Community Guidelines in der Regel,

Stella: wo eben festgelegt wird, wie sich NutzerInnen auf der Plattform zu verhalten haben.

Stella: Aber ich glaube, bei der ganzen Diskussion, um was darf eigentlich im Netz gesagt

Stella: werden, gibt es ja auch entsprechende Stimmen, die sagen, Moment,

Stella: hier darf doch eigentlich, also es ist ja nicht in Ordnung, wenn Plattformen

Stella: plötzlich Beiträge löschen.

Stella: Also auch das ist ja eben die Kehrseite, dass eben zu viel gelöscht wird.

Stella: Wie groß siehst du die Gefahr dadurch, dass eben Meinungsäußerung dann nicht möglich ist?

Jessica: Ich sehe die Gefahr dafür, dass zu viel gelöscht wird, als sehr,

Jessica: sehr groß an, weil die Plattformen das aufgrund ihrer Community Guidelines ganz viel machen.

Jessica: Also die große Gefahr Overblocking, die man sehr oft hört, die wir bei jedem

Jessica: neuen Gesetz hören, was sich irgendwie mit Plattformen beschäftigt,

Jessica: diese Gefahr geht eigentlich von den Plattformbetreibern aus und gar nicht so

Jessica: sehr vom Gesetzgeber und vom Staat.

Jessica: Natürlich will ich auch nicht, dass der Staat bei jedem Tweet,

Jessica: den ich verfasse, entscheidet, ist der jetzt zulässig oder nicht,

Jessica: weil so viel Kontrolle wollen wir dem Staat auch nicht geben.

Jessica: Aber momentan ist die faktische Lage so, dass das die Plattformbetreiber entscheiden.

Jessica: Und wenn jetzt ein Plattformbetreiber beispielsweise ein Problem mit Nacktheit

Jessica: hat, dann löscht er eben alles, in dem Nacktheit vorkommt.

Jessica: Und zwar unabhängig davon, ob das irgendwie mit unserem Wertekompass vereinbar ist oder nicht.

Jessica: Da will ich viel lieber die Kontrolle drüber haben, was kann denn gelöscht werden

Jessica: und was muss gelöscht werden und das nicht den Plattformbetreibern überlassen.

Jessica: Wenn jetzt nach dem Gesetz, was gelöscht wird, was eigentlich hätte stehen bleiben

Jessica: müssen, kann ich mich dagegen auch wieder wehren.

Jessica: Also das erlaubt der DSA auch oder schreibt das auch vor, dass ich mich als

Jessica: derjenige, dessen Inhalt gelöscht wird, immer auch dagegen wehren können muss

Jessica: und dann diese Entscheidung erstmal von der Plattform nochmal überprüft werden muss.

Jessica: Wenn die Plattform wieder sagt, nee, ich habe das gelöscht und ich stehe dazu,

Jessica: dann kann ich damit auch vor Gericht gehen oder zu einer Streitbeilegungsstelle

Jessica: und kann das nochmal prüfen lassen.

Jessica: Das ist der Vorteil davon, wenn wir verbindliche Entscheidungen der Plattformen haben,

Jessica: wenn wir die vorschreiben und sie auf unseren Gesetzen basieren,

Jessica: statt dass sie auf irgendwelchen internen Regeln basieren, die die Plattform

Jessica: so gestalten und so auslegen kann, wie sie das selbst will.

Stella: Jetzt muss ich aber sagen, als Nicht-Juristin habe ich gleich einen Knoten im

Stella: Kopf, vielleicht die ZuhörerInnen auch.

Stella: Wir haben ja einen DSA, der ist jetzt auch seit mehreren Jahren gültig.

Stella: Und da hast du ja gerade ausgeführt, steht einmal drin, was eben nicht erlaubt ist.

Stella: Es steht drin, wie ich dagegen vorgehen kann. Und es steht auch drin,

Stella: was ich tun kann, wenn zu viel gelöscht wird.

Stella: Also es gibt ja auch Fälle, da werden beispielsweise nicht nur einzelne Postings

Stella: gelöscht, sondern da werden auch ganze Profile geblockt.

Stella: Und gleichzeitig gibt es jetzt aber die Community-Richtlinien,

Stella: die quasi, jetzt mal extrem gesprochen, gegenüber des DSA stehen,

Stella: die aber von den Unternehmen eingehalten werden.

Stella: Was jetzt tun, weil im Endeffekt, wir haben ja dann, ja, also von den Unternehmen

Stella: eingehalten im Sinne von, sie haben sich selbst auferlegt und handeln danach.

Stella: Das steht ja dann gegenüber. Wie löst man denn das Ganze? Weil der DSA ist ja schon da.

Stella: Also, was fehlt denn da?

Jessica: Das löst man, indem wir haben Rechtsprechung dazu, die sagt,

Jessica: du darfst bestimmte Regeln in deine Community Guidelines nicht reinschreiben.

Jessica: Du darfst zum Beispiel da nicht reinschreiben, ich kann deinen Account einfach

Jessica: sperren, wenn mir danach ist, sondern du musst da bestimmte Voraussetzungen

Jessica: dran setzen, dafür aufstellen, damit du einen Account sperren darfst.

Jessica: Da greift dann der DSA wieder unterstützend ein, der sagt, immer wenn du einen

Jessica: Account sperrst, egal aus welchem Grund du das tust, musst du deine Entscheidung

Jessica: begründen, du musst erklären, warum wurde der Account gesperrt,

Jessica: was ist da schiefgelaufen, war das ein Verstoß gegen das Gesetz,

Jessica: war das ein Verstoß gegen unsere Community Guidelines.

Jessica: Also die beiden greifen schon ineinander und funktionieren eigentlich auch zusammen.

Jessica: Wichtig ist eben, dass unsere Gesetze Vorrang haben müssen vor den Community Guidelines.

Stella: Und das ist noch nicht der Fall.

Jessica: Das ist schon der Fall, aber eben nur, wenn man sich sehr dahinter klemmt,

Jessica: um es auch wirklich durchzusetzen.

Jessica: Also in der Theorie ist das so, die Gesetze haben Vorrang.

Jessica: In der Praxis haben wir eben noch diese Durchsetzungsschwierigkeiten im Einzelfall.

Stella: Ein Punkt, den ich noch wichtig finde für diese Folge, wir haben ja eingangs

Stella: über das ganze Thema USA-Zeug gesprochen.

Stella: Was aber in dem Kontext auch viel diskutiert worden ist, ist ja der DMA,

Stella: den wir jetzt noch nicht thematisiert haben.

Stella: Was stört denn genau am DMA, dass gerade auch die US-Tech-Firmen den nicht unbedingt

Stella: umsetzen und akzeptieren wollen?

Jessica: Beim DMA stört die Firmen meiner Meinung nach vor allem, dass ihnen überhaupt

Jessica: Regeln gemacht werden, dass ihnen Vorgaben dazu gemacht werden,

Jessica: wie darf mein Marketplace aussehen, wie darf mein Store aussehen,

Jessica: was muss ich dort tun, um nicht meine eigenen Waren zu bevorzugen, anderen gegenüber.

Jessica: Aber beim DMA kommt auch noch mit rein, dass die Regeln, wie alle Gesetze am

Jessica: Anfang, noch relativ abstrakt sind und man die Details erst noch aushaschen muss.

Jessica: Und ja, also im Prinzip ist das Problem immer das gleiche, nämlich die Unternehmen

Jessica: wollen einfach alles tun,

Jessica: was sie können, um ihren Gewinn zu maximieren und jegliche Regelungen,

Jessica: die sie einhalten müssen,

Jessica: bedeuten Aufwand und bedeuten eine Einschränkung dieser Gewinnmaximierung.

Stella: Aber Moment, gerade wenn du jetzt angesprochen hast, das ist noch sehr am Anfang

Stella: und es kommt dann viel auf die Umsetzung in der Praxis an, dann ist das ja jetzt

Stella: auch eine ganz entscheidende Phase,

Stella: dieser Anfang, wo man die Weichen stellt, in welche Richtung sich das Ganze

Stella: entwickelt und ob das vielleicht ein sehr schwammiges Regelwerk dann in der

Stella: Umsetzung tatsächlich ist, oder?

Stella: Also gerade deshalb ist doch die Diskussion jetzt relevant, was da passiert.

Jessica: Die Diskussion ist total wichtig und gerade deshalb darf man eben auch Entscheidungen

Jessica: nicht aussetzen oder die Durchsetzung generell nicht aussetzen,

Jessica: sondern muss diese Kämpfe eben führen,

Jessica: muss die Regelungen im Einzelfall ganz genau, ganz detailliert festlegen und den Plattformen sagen,

Jessica: hey, so wie du das gemacht hast, geht das nicht.

Jessica: So bevorzugst du deine eigenen Waren gegenüber den Waren von anderen und sie

Jessica: dann eben auch im Zweifel mit Bußgeldern dazu zwingen, dass sie es in Zukunft besser machen.

Stella: Kommen wir einmal langsam zum Abschluss unserer Folge.

Stella: Was mich noch so rundum interessieren würde, ist,

Stella: was muss denn jetzt vielleicht zeitnah so in den nächsten Monaten passieren,

Stella: damit ich als Privatperson ja im Netz auch geschützt mich bewegen kann,

Stella: damit ich keine Sorge haben muss, wenn ich nichts ahnend vielleicht mit Freunden

Stella: ein Urlaubsvideo auf Instagram teile,

Stella: dass das eines Tages die Basis für ein Diebfake wird?

Jessica: Wir brauchen dafür ein paar nationale Gesetze,

Jessica: gerade wenn du Deepfakes ansprichst, ein Straftatbestand, wo ich spätestens,

Jessica: wenn es den Deepfake gibt, dann eben zur Polizei gehen kann,

Jessica: der das übergeben kann und sie kümmert sich darum, dass die Verantwortlichen dafür bestraft werden.

Jessica: Dann kann ich auch zur Plattform gehen und sagen, dieser Inhalt ist eindeutig

Jessica: rechtswidrig, nimm den raus.

Jessica: Und wir brauchen Gerichtsurteile in Einzelfällen, die es einfacher machen,

Jessica: auch in anderen Fällen dann das Recht durchzusetzen gegenüber den Plattformen.

Jessica: Ich will nicht, dass jeder Nutzer vor Gericht ziehen muss, sondern ich will

Jessica: ein paar Urteile produzieren, die sagen, liebe Plattform, wenn du einmal einen

Jessica: rechtswidrigen Inhalt gemeldet hast,

Jessica: musst du zukünftig selbst dafür

Jessica: sorgen, dass diese Art von rechtswidrigem Inhalt nicht mehr auftaucht,

Jessica: Damit andere Nutzer, die das gleiche Problem haben oder ich,

Jessica: wenn ich das gleiche Problem wieder habe, wenigstens nicht wieder vor Gericht gehen muss.

Jessica: Also einfach mehr Compliance bei den Plattformen, sowohl durch einzelne Verfahren

Jessica: als auch durch große Bußgelder.

Jessica: Und dass die Kommission einfach deutlich macht, wir lassen das nicht mit uns

Jessica: machen, egal wie hoch die Zölle sind, die er uns androht.

Jessica: Wir stehen hinter unseren Gesetzen und wir ziehen sie auch durch.

Stella: Was du da vielleicht auch ein bisschen ansprichst, ist ja auch das Providerprivileg

Stella: oder das Plattformen nicht per se für ihre Inhalte dann auch haften.

Jessica: Das Provider-Privileg ist eine ganz große Hürde in der Praxis,

Jessica: weil das Provider-Privileg sagt, als Plattform muss ich die Inhalte,

Jessica: die auf meiner Plattform stehen, nicht kontrollieren.

Jessica: Ich muss mir das nicht anschauen, sondern ich kann mich darauf verlassen,

Jessica: solange mir niemand was erzählt von einem rechtswidrigen Inhalt,

Jessica: dass da auch keine rechtswidrigen Inhalte sind.

Jessica: Also Unwissenheit schützt vor Pflicht sozusagen in dem Fall.

Jessica: Als Nutzer muss ich der Plattform Kenntnis verschaffen von einem rechtswidrigen

Jessica: Inhalt, damit sie überhaupt was dagegen machen muss.

Jessica: Und wir haben Gerichtsurteile gesehen, die sagen, dass die Anforderungen an

Jessica: diese Kenntnisverschaffung total hoch sind.

Jessica: Dass ich da ganz genau erklären muss, warum ist dieser Inhalt rechtswidrig?

Jessica: Gegen welche Gesetze verstößt dieser Inhalt? Wieso summiere ich das darunter?

Jessica: Kann man das als jemand, der nicht Jura studiert hat, überhaupt erfüllen?

Jessica: In letzter Zeit haben wir vor allem gegen TikTok vom Landgericht München 1 zu

Jessica: Fake-Accounts ein paar Beschlüsse erstritten,

Jessica: in denen das Gericht sagt, hey,

Jessica: der Nutzer hat dir gemeldet, dass das ein Fake-Account ist, dass das eine Imitation ist.

Jessica: Das reicht. Mehr muss der Nutzer dir nicht sagen. Damit ist eindeutig,

Jessica: dass es ein rechtswidriger Inhalt ist.

Jessica: Also die Anforderungen daran, wie genau diese Kenntnis verschafft werden muss,

Jessica: damit die Plattform dann tatsächlich haftet für den Inhalt, die sind von Gericht

Jessica: zu Gericht noch ein bisschen unterschiedlich.

Jessica: Und da muss meiner Meinung nach einfach die Hürde niedriger liegen,

Jessica: damit es für die Nutzer nicht so unmöglich ist, das zu erfüllen und dann hinterher

Jessica: gerichtlich durchzusetzen, wenn es nötig wird.

Stella: Also meint es auch aus deiner Sicht eine Anpassung oder eher gesagt,

Stella: dass das Providerprivileg nicht zwangsläufig für Plattformen wie Facebook,

Stella: Instagram, TikTok gilt?

Jessica: Ja, das ist eine Position, die ich vertrete, die wir vertreten, dass...

Jessica: Das Provider-Privileg eigentlich für neutrale Host-Provider geschaffen wurde.

Jessica: Das wurde für so Plattformen geschaffen wie Dropbox, wo ich meine Daten drauf

Jessica: speichere und die Plattform macht damit überhaupt gar nichts.

Jessica: Meiner Meinung nach sind aber soziale Netzwerke wie Meta oder wie X nicht mehr neutral.

Jessica: Die haben diese Stellung verlassen, weil sie nach ihren eigenen Regeln eine

Jessica: Kuratierung der Inhalte vornehmen.

Jessica: Die entscheiden, welche Inhalte landen auf deiner Timeline, welche nicht.

Jessica: Die suchen ganz genau aus. Jetzt neuerdings werten sie auch teilweise die Inhalte

Jessica: aus oder nutzen sie, um ihre eigene KI zu trainieren.

Jessica: Das haben wir neulich erst gesehen.

Jessica: Und meiner Meinung nach geht das alles über eine neutrale Stellung hinaus,

Jessica: sodass wir eigentlich auch von diesem Providerprivileg mal Abstand nehmen müssten.

Jessica: Aber das müssen die Gerichte entscheiden, weil es eine Abwendung wäre von der

Jessica: bisherigen Rechtsprechung.

Jessica: Die Gesetze würden das schon zulassen, dass man mit einer anderen Auslegung

Jessica: jetzt die sozialen Netzwerke dann nicht mehr drunter fasst.

Jessica: Aber wir bräuchten da gerichtliche Entscheidungen dazu.

Stella: Wir nehmen also mit, die Gesetze sind immer nur die Basis, sondern das,

Stella: was dann auch in der Realität entscheidend ist, ist die Rechtsprechung,

Stella: sprich, wie die Gesetze ausgelegt werden. Gerade in diesem sich sehr schnell

Stella: weiterentwickelnden Digitalbereich.

Jessica: Ja, das sehe ich ganz genauso.

Stella: Meine Frage zum Abschluss an dich. Ich als Nutzerin, sowohl als Privatperson

Stella: als auch vielleicht jemand, der Führungsverantwortung in einem Unternehmen trägt.

Stella: Welche Gesetze sollte ich denn kennen oder was sollte ich wissen,

Stella: wenn ich mich im digitalen Raum bewege?

Stella: Was schützt mich? Wir haben Deepfakes ja schon ausführlich angesprochen,

Stella: aber was sollte so auf meiner Liste im Hinterkopf immer vorhanden sein,

Stella: falls Fake-Profile von mir auftauchen, falls Bots über mich herfallen etc.?

Jessica: Die Gesetze, die man kennen muss, sind vor allem, wie die Plattformen reagieren müssen.

Jessica: Also das steht in Artikel 6 und 16 DSA drin.

Jessica: Da steht drin, wenn du meldest, wenn du Kenntnis verschaffst,

Jessica: müssen die Plattformen reagieren, müssen sperren oder löschen.

Jessica: Das ist ganz wichtig. Ansonsten sollte man ein Verständnis von strafbaren Inhalten haben.

Jessica: In dem Bereich spielen oft die Beleidigungsdelikte eine Rolle,

Jessica: Volksverhetzung im Einzelfall und bei einem Deepfake können wir potenziell auch

Jessica: zu einer Strafbarkeit über § 201a StGB kommen.

Jessica: Das ist so unerlaubte Bildnisaufnahme, das allerdings in der Praxis noch nicht getestet.

Stella: Ich merke, wir müssen da noch einiges, wenn du sagst Praxis,

Stella: da hängt noch einiges dran, wie sich das in Zukunft weiterentwickelt.

Stella: Aber ich danke dir jetzt an dieser Stelle erstmal, liebe Jessica,

Stella: für diesen Ausflug in allerlei Jura- und Digitalgesetzgebung.

Jessica: Ja, sehr gerne. Hat Spaß gemacht.

Stella: Das freut mich. Und liebe ZuhörerInnen, ich hoffe, auch euch hat es Spaß gemacht

Stella: und vor allen Dingen was gebracht, damit ihr ein bisschen sattelfester seid

Stella: in all den Digital-Gesetzgebungsthemen und zumindest auch eine grobe Übersicht

Stella: habt, was ihr vielleicht machen könnt,

Stella: wenn ihr hoffentlich nicht mal von etwas betroffen sollt oder Fälle im Umfeld habt.

Stella: Und an dieser Stelle würde ich die Folge für diese Woche beenden,

Stella: aber wir melden uns natürlich bei t3n Interview mit einer neuen Folge in der nächsten Woche.

Stella: Vielen Dank fürs Einschalten und auf Wiederhören. Bei t3n geben wir mit gutem

Stella: Tech-Journalismus Orientierung.

Stella: Unabhängig, kritisch und zukunftsgewandt. Wenn du das feierst,

Stella: unterstütze uns doch mit einem Abo. Den Link gibt's in den Shownotes.