Brauchen wir ein Mindestalter für KI?

Speaker0: T3N Interviews, spannende Gäste aus dem digitalen Kosmos.

Speaker0: Schön, dass ihr wieder eingeschaltet habt zu einer neuen Folge von T3N Interview.

Speaker0: Ich bin Stella-Sophie Woizsack, Host von diesem Podcast. Und ich freue mich,

Speaker0: denn heute wird mein Kollege Nils Beuder diese Folge moderieren.

Speaker0: Und bei Nils zu Gast ist Stefan Schönwetter. Er ist Datenschützer und Experte für digitale Bildung.

Speaker0: Und worum geht es in der Folge? Es geht darum, wie Kinder auf das Thema künstliche

Speaker0: Intelligenz, auf die Nutzung ganz konkret, vorbereitet werden sollten.

Speaker0: Sollte es eine Altersgrenze beispielsweise geben?

Speaker0: Ich kann euch schon mal so viel verraten, davon ist Stefan nicht unbedingt ein Fan.

Speaker0: Aber mehr dazu hört ihr jetzt in der Folge. Viel Spaß!

Speaker1: Hallo und herzlich willkommen zum T3N-Interview-Podcast. Mein Name ist Nils

Speaker1: Boulder und im Sommer gab es eine Debatte über Social Media ab 16.

Speaker1: Angestoßen hat sie die Bildungsministerin Katrin Prien von der CDU.

Speaker1: Die Altersbegrenzung kann bei 14 oder 16 liegen, hat sie gesagt.

Speaker1: Darüber werden wir sprechen müssen.

Speaker1: Aber wie sieht es eigentlich bei KI aus? Braucht es hier eine Altersgrenze?

Speaker1: Unser heutiger Gast, Stefan Schönwetter, ist Datenschützer und berät NGOs im Bildungssektor.

Speaker1: Zum Beispiel leitet er die Abteilung Digitale Bildung der Deutschen Kinder-

Speaker1: und Jugendstiftung. Hallo Stefan.

Speaker0: Hi Nils. Schön, hier zu sein.

Speaker1: Du berätst ja Schulen, LehrerInnen und auch Einrichtungen.

Speaker1: Jetzt ist meine Frage, wie bekommst du denn diese Situation in Bezug auf Social

Speaker1: Media in den Schulen mit?

Speaker0: Ja, also Social Media ist ein Megathema.

Speaker0: Wir bearbeiten im medienpädagogischen Feld ja schon gefühlt seit dem Aufkommen

Speaker0: von StudiVZ, wer sich noch daran erinnert, das Thema Social Media.

Speaker0: Und auch davor gab es ja viele Plattformen, die interessant sind.

Speaker0: Und das ist eigentlich ein Thema, das uns seit vielen Jahren beschäftigt.

Speaker0: Auch übrigens die Debatte nach Altersgrenzen und die ist also bei Weitem nicht

Speaker0: neu und dass zum Beispiel Jugendliche oder große Kinder sich derzeitig mit 13

Speaker0: Jahren erst anmelden können bei diesen Plattformen,

Speaker0: ist ein Resultat früherer Debatten und was wir jetzt sehen,

Speaker0: ist ja nochmal die Dramatisierung der Debatte, weil sich Social Media einfach geändert hat.

Speaker0: Das heißt also, die Plattformen sind sehr viel grafischer geworden,

Speaker0: sehr viel mehr Bilder, Videos, kurze Arrangements, die gepostet werden.

Speaker0: Und die Schnelligkeit, wie diese Plattformen genutzt werden, hat sich auch geändert.

Speaker0: Und wir leben in einer Zeit, in der Kinder und Jugendliche so oder so auch psychisch unter Druck sind,

Speaker0: viele Krisendynamiken und da ist es dann eben leider so, dass viele junge Menschen

Speaker0: mit den Plattformen nicht so gut umgehen können,

Speaker0: wie sie es sollten und gleichzeitig ist das dann eben auch der Auftrag für Pädagoginnen

Speaker0: und Pädagogen, Lehrkräfte, Sozialarbeitende an der Stelle Unterstützung anzubieten,

Speaker0: Aber, und das muss man auch sagen, auch vor allem der Eltern.

Speaker0: Mit den Kindern und Jugendlichen darüber zu reden,

Speaker0: was machst du eigentlich den ganzen Tag im Internet?

Speaker1: Du hast gerade erzählt, Social Media ist momentan so gesehen ab 13.

Speaker1: Das ist ja eine Selbstverpflichtung der Plattformen laut den AGBs.

Speaker1: Wie sehr wird das denn durchgesetzt? Gibt es wirklich jetzt nur Kinder ab 13,

Speaker1: die auf Social Media sind?

Speaker0: Auf gar keinen Fall. Also ich glaube, da muss man sich gar nichts vormachen.

Speaker0: Unsere Kinder und Jugendlichen sind ja smarte Kinder.

Speaker0: Die können dieses System ohne Probleme umgehen und man muss auch ehrlich sein,

Speaker0: dass die Plattformanbieter sehr wenig tun, um diese Regelung wirklich durchzusetzen.

Speaker0: Das heißt also, dass eine wirkliche Alterskontrolle an der Stelle nicht stattfindet

Speaker0: und wir eben auch das Problem haben, da kann ich nochmal meine Datenschutzperspektive reinbringen,

Speaker0: eigentlich die mit der Einwilligung verbundene Datenverarbeitung von Social

Speaker0: Media Plattformen ist, die können Kinder und Jugendliche eigentlich so in dem

Speaker0: Alter gar nicht selbst gehen, sondern die Eltern müssten wirklich informiert einwilligen.

Speaker0: Das ist bis zum 16. Lebensjahr.

Speaker0: Viele Plattformen haben keinen effektiven Mechanismus, der das in irgendeiner

Speaker0: Art und Weise regelt, dass Eltern da dann auch nochmal sagen,

Speaker0: ja, mein Kind und die Daten meines Kindes können hier wirklich verarbeitet werden.

Speaker1: Wie sieht es denn mit der, ich sag mal, der Anwendungssituation aus?

Speaker1: Du hast jetzt gerade über die Datenschutzperspektive gesprochen,

Speaker1: aber es gibt ja auch eine Anwendung, wie Social Media in Schulen,

Speaker1: sag ich mal, gelebt wird. Was erzählen dir Lehrkräfte da?

Speaker0: Naja, also wir haben natürlich verschiedene Ebenen von Social Media.

Speaker0: Es gibt einen Klassenchat, wir verstehen das als Social Messaging und darüber

Speaker0: wird sich natürlich ausgetauscht.

Speaker0: Und das kann von positiven Aspekten wie dem Teilen von Unterrichtsinhalten gehen,

Speaker0: die vielleicht Schülerinnen zugänglich gemacht werden, die krankheitsbedingt

Speaker0: nicht am Unterricht teilnehmen können.

Speaker0: Oder es werden nochmal irgendwie gemeinsame Sachen abgeklärt für Wandertage,

Speaker0: Klassenfahrten oder was auch immer Informationen, die relevant sind. Eine Stunde fällt aus.

Speaker0: Aber natürlich findet über Social Messaging auch viel Mobbing statt.

Speaker0: Es wird schlecht über Menschen gesprochen, es werden Videos geteilt,

Speaker0: wie vielleicht jemand auf einem Schulhof oder auf dem Weg zur Schule oder zurück

Speaker0: nach Hause geschlagen, geschubst oder irgendwie denunziert wird, bis zu Fällen,

Speaker0: wo dann eben auch sexualisierte Gewalt im Spiel ist.

Speaker0: Wenn auf einmal die Gesichter von Mitschülerinnen auf Nacktbilder generiert

Speaker0: werden und das dann geteilt wird, das ist dann natürlich hochgradig,

Speaker0: traumatisch und problematisch.

Speaker0: Das ist die Ebene des Messagings.

Speaker0: Und dann gibt es natürlich die Social-Media-Plattform.

Speaker0: Es gibt Lehrkräfte, die sehr vehement dafür werben,

Speaker0: dass Pausenzeiten Social-Media-freie Zeiten sein sollten, weil sie beobachten,

Speaker0: dass auf den Pausenhöfen die Kinder gar nicht mehr so sehr miteinander interagieren,

Speaker0: sondern dann eben die Zeit nutzen, auf dem Smartphone, Instagram,

Speaker0: TikTok und so weiter zu nutzen, zu konsumieren, selbst zu posten.

Speaker0: Und das sind zwei Bereiche negativ. Das eine ist, dass.

Speaker0: Spielt dann nicht oder man interagiert nicht mit den Menschen,

Speaker0: mit denen man da tagtäglich zu tun hat.

Speaker0: Das ist jetzt vielleicht gar nicht so schlimm. Das andere ist,

Speaker0: dass natürlich der Schulhof oder das Schulgebäude für viele Schülerinnen auch

Speaker0: ein Schutzraum sein soll.

Speaker0: Das heißt also, wenn man dann selbst irgendwie vom Schulhof postet,

Speaker0: man wird da abgebildet und möchte das gar nicht und hat vielleicht gar keine

Speaker0: Kontrolle darüber, was der oder diejenige dazu postet, das ist natürlich dann

Speaker0: wiederum problematischer.

Speaker0: Und das Dritte ist, dass dann eben auch gerade Plattformen wie TikTok,

Speaker0: die sehr algorithmusgetrieben sind, wo es gar nicht darum geht,

Speaker0: dass man bestimmten Menschen oder Organisationen folgt, sondern einfach der

Speaker0: Algorithmus Inhalte reinspielt,

Speaker0: vielleicht im Schulhof auf einmal Inhalte sind, die gar nicht dorthin gehören.

Speaker0: Intensive Gewaltdarstellung, Drogenkonsum, Kriegsbilder, Videos.

Speaker0: Was auch immer, sexualisierte Gewalt, da ist der Raum für jegliche Form von Inhalt da.

Speaker0: Ja, ich kann aber auch ein positives Beispiel nennen an der Stelle,

Speaker0: dass JFF, das ist eine medienpädagogische Einrichtung in Berlin,

Speaker0: hat eine Schule begleitet beim Medienwahlkampf, also die Wahl der Schülersprecherinnen

Speaker0: der Schule und hat es eben als Medienwahlkampf aufgeführt und intensiv begleitet.

Speaker0: Und diejenigen, die sich dann eben in der Schülersprecherin-Wahl zur Wahl gestellt

Speaker0: haben, wurden begleitet von Schülerinnen, die Social Media gemacht haben,

Speaker0: die Presse gemacht haben.

Speaker0: Es wurden Plakate geklebt, es wurden eigene Instagram-Accounts geführt.

Speaker0: Und es war unter dem Motto Trumpet, also wirklich auch diesen Medienwahlkampf

Speaker0: der ersten Legislaturperiode von Trump, einmal nachzuinszenieren,

Speaker0: um darüber zu verstehen,

Speaker0: wie funktionieren eigentlich diese Social-Media-Mechanismen.

Speaker1: Wie ist das denn ausgegangen? Also hat, sag ich mal, der Trump-Schülersprecher

Speaker1: dann gewonnen oder wie sind die SchülerInnen dann da rausgegangen?

Speaker0: Wer genau gewonnen hat, kann ich dir ehrlich gesagt gar nicht sagen.

Speaker0: Was aber das Wesentliche und ich glaube auch der Erfolg des Projektes war,

Speaker0: dass an sehr vielen unterschiedlichen Stellen die Schülerinnen reflektiert haben,

Speaker0: welche Rollen Medien in ihrer Wahrnehmung von Politik haben.

Speaker0: Und dass sie verstanden haben,

Speaker0: dass Plattformen wie Instagram manche Inhalte besser pushen als vielleicht,

Speaker0: ich sag jetzt mal, sehr cleane, seriöse Inhalte.

Speaker0: Und dass natürlich auch verkürzte Aussagen dazu führen, dass,

Speaker0: ich sag jetzt mal, Missverständnisse oder Unklarheiten bestehen.

Speaker0: Das war, glaube ich, einfach die zentrale Lehre, dass das Medium,

Speaker0: das man wählt, auch darüber bestimmt, in welcher Art und Weise man Inhalte kommuniziert

Speaker0: und dass das, was man kommuniziert hat, nicht unbedingt das ist,

Speaker0: was auch bei den anderen ankommt.

Speaker1: Das ist ja fast ein perfekter Übergang, weil es geht ja nicht nur um Social

Speaker1: Media in diesem Podcast, sondern auch um KI und das ist ja, würde ich jetzt

Speaker1: mal sagen, auch grob ein Medium, denn auch die SchülerInnen nutzen JetGPT.

Speaker1: Wie werden denn diese Tools genutzt? Was hast du da für Stimmen?

Speaker1: Was ist da dein Einblick aus deiner Perspektive?

Speaker0: Ja, ich glaube, man muss sich einmal vergegenwärtigen, was für ein Massenphänomen

Speaker0: das ist, dass wir Studien haben, die Anfang diesen Jahres, also Anfang 2025,

Speaker0: schon festgestellt haben, dass im Prinzip zwei Dritte der jungen Menschen in

Speaker0: Europa irgendeine Form von generativer KI in der Hosentasche auf dem Smartphone haben, haben bzw.

Speaker0: Zugriff darauf haben über ein Laptop, Tablet oder was auch immer für ein Gerät sie zu Hause haben.

Speaker0: Das heißt also, es ist ein wirklich kollektives Phänomen für junge Menschen?

Speaker0: Und wir schon merken, dass junge Menschen es im Schulbereich sehr subversiv einsetzen.

Speaker0: Das heißt also, Hausaufgaben, die mit generativer KI erledigt werden können,

Speaker0: werden mit generativer KI erledigt.

Speaker0: Letzte Woche war ich Teil einer

Speaker0: Veranstaltung, wo der Generalsekretär der Bundesschülerinnenkonferenz

Speaker0: gesagt hat, wenn Lehrkräfte schlechter Hausaufgaben gehen, dann haben sie es

Speaker0: auch verdient, dass sie mit ChatGPT beantwortet werden.

Speaker0: Und das ist, glaube ich, ein wesentlicher Punkt, dass Schülerinnen sehr zeitökonomisch hier denken.

Speaker0: Und das andere ist, dass natürlich außerhalb viel passiert.

Speaker0: Junge Menschen nutzen KI in all ihren Facetten von Bildgenerierung für eigene

Speaker0: Projekte über auch so quirky Interest-Sachen.

Speaker0: Einer der ersten Bezahl-Apps, die es mit ChatGPT-Anbindung gab,

Speaker0: war ein Programm, wo man mit historischen Figuren chatten konnte.

Speaker0: Und da gab es dann ganz viele historische Figuren und für einige musste man

Speaker0: extra bezahlen, um sie freizuschalten und das waren dann eben die sehr problematischen Figuren Mao,

Speaker0: Stalin, Hitler und da ist dann glaube ich so eine Faszination.

Speaker0: Die da aufgebaut wird und die einige Menschen doch in den Bands zieht.

Speaker0: Das andere ist, und das sehen wir leider auch aktuell,

Speaker0: ganz enorm, das spielt wieder auf die psychische Belastung von Schülerinnen,

Speaker0: Dass generative KI-Systeme auch genutzt werden in der Form von Counseling,

Speaker0: psychischer Beratung, dass man eher mit einem anonymen KI-System über seine

Speaker0: Sorgen und Nöte spricht, als jetzt zum Beispiel sich Freundinnen anzuvertrauen

Speaker0: oder den Eltern Sorgeberechtigten anzuvertrauen oder den Geschwistern.

Speaker1: Du hast jetzt eigentlich sehr viele Argumente dafür geliefert,

Speaker1: warum es vielleicht kritisch sein kann, dass Jugendliche oder Kinder KI nutzen.

Speaker1: Jetzt ist meine Frage, du hast ja auch über die Schülerkonferenz gesprochen.

Speaker1: Wie stehen denn dann Lehrkräfte dazu, wenn SchülerInnen sagen,

Speaker1: ja, dann waren das halt schlechte Hausaufgaben, denken hier halt zeitkritisch,

Speaker1: unsere Zeit ist uns wichtig, dann machen wir die nicht, dann machen wir die

Speaker1: mit KI, dann seid ihr doch selbst schuld.

Speaker0: Es ist ein gespaltenes Feld. Wir

Speaker0: haben eigentlich eine sehr dynamische Entwicklung für das Bildungswesen.

Speaker0: Also Ende 2022 ist ChatGPT in der Breite verfügbar geworden und 2023 ist das

Speaker0: Thema sofort auf die politische Tagesordnung gekommen und die Kultusministerien

Speaker0: haben sehr viel dafür getan,

Speaker0: Lehrkräfte zu motivieren, künstliche Intelligenz zu nutzen.

Speaker0: Also es gibt viele Gründe, warum das Bildungssystem Veränderungen sucht.

Speaker0: Und die Bitkom hat eine Studie im Oktober 2024 gemacht.

Speaker0: Veröffentlicht zumindest, wo es darum ging, ob Lehrkräfte KI-Systeme nutzen

Speaker0: und die war insofern ziemlich aufschlussreich, weil sie zwei Fakten nach vorne gebracht hat.

Speaker0: Einerseits hat sie gezeigt, 51 Prozent der Lehrkräfte haben bereits schon mal

Speaker0: KI-Systeme genutzt und sie sagt aber auch,

Speaker0: dass nur 28 Prozent die KI-Systeme weiter benutzen wollen. Das heißt also,

Speaker0: wir haben hier einen kleinen Gap.

Speaker0: Einerseits ein großes Interesse, 51 Prozent Lehrkräfte, die sich mal hinsetzen,

Speaker0: um KI-Systeme zu nutzen. Das ist schon eine ganz schöne Menge für das Bildungssystem.

Speaker0: John Hattie hat die These aufgestellt, damit KI fliegt, müssten regelmäßig 25

Speaker0: Prozent der Lehrkräfte dieses System nutzen.

Speaker0: John Hattie ist ein renommierter neuseeländischer Bildungsforscher,

Speaker0: von dem wir regelmäßig viel lernen für diejenigen, die nicht so tief in der

Speaker0: Bildungsbubble drin stecken.

Speaker0: Aber andererseits eben nach der ersten Nutzung haben dieses Thema auch viele Lehrkräfte verloren.

Speaker0: Was das Potenzial von KI ist, und das ist auch eine Erkenntnis der Deutschen

Speaker0: Kinder- und Jugendstiftung, als wir eine Pilotstudie durchgeführt haben,

Speaker0: ist, dass das Potenzial vor allem in der Unterrichtsvorbereitung liegt.

Speaker1: Du hast gerade die Bitkom-Studie erwähnt, die werde ich auch auf jeden Fall

Speaker1: in den Shownotes verlinken.

Speaker1: Gibt es denn beim Thema KI ähnliche Bedenken wie bei Social Media?

Speaker1: Gibt es da Überschneidungen bei diesen beiden Feldern?

Speaker0: Was, glaube ich, die größte Herausforderung an der Stelle ist,

Speaker0: dass Lehrkräften sehr bewusst ist, dass generative KI sehr viel Sprachkompetenz braucht.

Speaker0: Also ich kann nicht einfach nur in das Feld eingeben, mache dieses und jenes

Speaker0: und den Schülerinnen dann damit laufen lassen,

Speaker0: dass sie jetzt diese Systeme selbst bedienen, sondern man muss schon sehr genau

Speaker0: wissen, was man eingibt.

Speaker0: Prompten ist es die zentrale Art und Weise, wie wir diese KI-Systeme ansteuern.

Speaker0: Und leider ist es so, dass die Vergleichsstudien in Deutschland sagen,

Speaker0: dass die Basiskompetenzen, also damit auch die Sprachkompetenzen,

Speaker0: gerade außerordentlich niedrig sind bei den Schülerinnen.

Speaker0: Das heißt also, wir treffen auf ein IT-System, das eigentlich hohe Sprachkompetenzen

Speaker0: braucht und auf der anderen Seite sind Schülerinnen, die nicht so gut ausgebildete

Speaker0: Sprachkompetenzen haben. Das ist natürlich nicht ideal.

Speaker0: Und Deutschland ist ja auch ein Land, wo die Bildungsgerechtigkeit notorisch schlecht ist.

Speaker0: Das heißt also, der Bildungserfolg hängt vor allem auch daran,

Speaker0: wie gut das Elternhaus situiert ist.

Speaker0: Und Lehrkräfte sind sich sehr bewusst darüber,

Speaker0: dass gut situierte Schülerinnen sich eben auch gerne mal eine Pro-Lizenz kaufen

Speaker0: können von einem KI-System oder dass sie vielleicht nochmal andere Systeme kaufen können,

Speaker0: die diesen jungen Menschen eher helfen und mehr Möglichkeiten haben.

Speaker0: Leider ist es eben so, dass nicht alle Bundesländer eine einheitliche KI-Plattform

Speaker0: zur Verfügung stellen für alle Lehrkräfte und alle Schulen.

Speaker0: Es gibt immer noch Länder, wo einerseits gesagt wird,

Speaker0: wir brauchen gar keine Landeslizenz oder wir überlassen es den Schulleitungen,

Speaker0: Landeslizenzen zu kaufen und das sorgt dann natürlich für einen Flickenteppich

Speaker0: und das sorgt eben auch dafür,

Speaker0: dass wir nicht eine Basisqualifikation schaffen können für Lehrkräfte.

Speaker0: Wenn wir keine verbindlichen oder standardisierten Systeme haben,

Speaker0: dann ist das Personal eben auch generell nicht qualifiziert an der Stelle,

Speaker0: diese Systeme wirklich exzellent zu nutzen und das ist aber bei KI wirklich

Speaker0: wesentlich und viele Lehrkräfte spüren das, dass sie,

Speaker0: dass sie nicht unbedingt qualifiziert sind für die Systeme.

Speaker0: Viel Hörensagen und man beliest sich hier und da, aber eine wirkliche Qualifizierung fehlt an Stellen.

Speaker0: Und wir haben das in unserer Studie gemerkt, dass wenn Schülerinnen mit einem

Speaker0: KI-Programm arbeiten und der Output des KI-Programms gegenüber den Schülerinnen

Speaker0: nicht so ist, wie die Lehrkraft das eingeplant hat,

Speaker0: antizipiert hat, um jetzt den Unterrichtsstoff weiter fortzuführen,

Speaker0: dann kommt es zu Konflikten.

Speaker0: Und dann muss die Lehrkraft erst mal erklären, warum das vielleicht falsch ist,

Speaker0: was das Chat-Programm dann an der Stelle ausgeworfen hat. Und das ist eine enorme Arbeit.

Speaker0: Und für viele Lehrkräfte ist es das Gefühl von Kontrollverlust, was sich einstellt.

Speaker0: Und wenn Lehrkräfte das Gefühl von Kontrollverlust haben, dann ist das keine

Speaker0: gute Atmosphäre für den Unterricht.

Speaker1: Wir haben ja gerade auch schon über das Thema mentale Gesundheit und dass sich

Speaker1: Kinder eher oder gerne auch mit Tools wie Chachipiti darüber unterhalten,

Speaker1: über ihre mentale Gesundheit, über ihre Bedenken.

Speaker1: Ich habe jetzt einen Fall mit, der behandelt das Thema Suizid.

Speaker1: Wer jetzt zuhört oder zuschaut und sich von diesem Thema getriggert fühlt,

Speaker1: sollte am besten fünf Minuten einmal kurz vorspringen.

Speaker1: Da gab es nämlich in den USA einen Fall, dass ein Kind mit Chachipiti seinen

Speaker1: Suizid geplant und auch durchgeführt hat Und der Chatbot hat bei dieser Planung

Speaker1: das verstärkt, hat es ermutigt,

Speaker1: diesen Suizid zu begehen.

Speaker1: Und nun verklagen die Eltern ChatGPT-Entwickler OpenAI nach dem Suizid ihres Sohnes.

Speaker1: Das ist jetzt ein sehr extremes Beispiel, zeigt aber, auch hier kann es verheerende Konsequenzen haben.

Speaker1: Gibt es also auch ein, sollte es auch eine Altersbegrenzung bei KI-Tools wie ChatGPT geben?

Speaker0: Das Beispiel ist natürlich enorm, weil es zeigt, dass ChatGPT in den vergangenen

Speaker0: Versionen, und das ist auch Teil der Anklageschrift, die öffentlich einsehbar ist.

Speaker0: In einer Art und Weise mittlerweile gestaltet wird, die angelehnt ist an Social Media Plattformen.

Speaker0: Wir reden bei so etwas von Aufmerksamkeitsökonomie, das heißt also,

Speaker0: Social Media Plattformen werben um die Aufmerksamkeit der Userinnen.

Speaker0: Man soll so viel wie möglich Zeit in diesen Plattformen bringen.

Speaker0: Das gilt auch für Netflix, für Spotify und so weiter.

Speaker0: Alle Plattformen, die es da draußen gibt, die ringen um unsere Aufmerksamkeit,

Speaker0: damit eben währenddessen auch das Geschäftsmodell weiter voranschreiten kann,

Speaker0: dass man eben nicht zu anderen Anbietern geht, dass Daten gesammelt werden, dass gepostet wird.

Speaker0: Und je mehr Menschen da sind und posten, desto mehr oder eher sind eben auch

Speaker0: andere Menschen da, die diese Posts angucken, interagieren und so weiter und so fort.

Speaker0: Und bei ChatGPT haben sie die

Speaker0: Entscheidung gefasst, dass sie auch in diese Richtung hindenken wollen.

Speaker0: Und viele Zuhörerinnen werden vielleicht auch in der Vergangenheit gemerkt haben,

Speaker0: dass ChatGPT die Follow-up-Fragen stellt, sondern nicht einfach nur das Ergebnis

Speaker0: auf den Prompt, den man eingegeben hat,

Speaker0: sondern dann eben noch eine Follow-up-Frage stellt im Sinne von,

Speaker0: möchtest du, dass ich noch das und das tue?

Speaker0: Oder wenn du eine andere Tonlage willst, dann kann auch das und das passieren.

Speaker0: Wo so Angebote unterbreitet werden, die dazu führen sollen, dass ich länger

Speaker0: in diesem System bleibe, um irgendwie das System weiter zu bespielen.

Speaker0: Das führt dazu, dass.

Speaker0: So eine Form von, wenn man nicht richtig geschult ist und wenn man vielleicht

Speaker0: auch eine gewisse Verwundbarkeit hat an der Stelle für solche Themen und dann

Speaker0: gerade eben auch in psychischen Extremsituationen,

Speaker0: dass man in Abhängigkeiten kommen kann und sich dann eher bei diesem System hängen bleibt.

Speaker0: Und dann kann der nächste Schritt

Speaker0: sein, zu sagen, wir brauchen eine Altersbegrenzung für dieses Thema.

Speaker0: Und ich glaube, einerseits von der Datenschutzperspektive würde ich sagen,

Speaker0: die ist gegeben, weil Eltern sollten eigentlich, da bin ich wieder beim ersten Punkt, bis zum 16.

Speaker0: Lebensjahr sagen, es ist okay, dass die Daten meines Kindes hier verarbeitet werden.

Speaker0: Und wir können über Altersgrenzen reden, wie wir wollen,

Speaker0: solange die Plattformanbieter keine effektiven Kontrollen und Mechanismen implementieren,

Speaker0: die sicherstellen, dass diese Altersgrenzen eingehalten werden.

Speaker0: Das sind Scheindebatten.

Speaker0: Und es ist auch jungen Menschen schwierig zu erklären, dass die Bildungssteuerung,

Speaker0: die Kultusministerien sagen, wir wollen unbedingt KI-Systeme in der Schule haben.

Speaker0: Das ist ein großer Durchbruch für das Bildungswesen.

Speaker0: Und gleichzeitig sagen wir, aber außerhalb der Schule ist das Teufelszeug.

Speaker0: Das ist schwer einzusehen für junge Menschen, da fehlen uns gerade noch die Argumente.

Speaker0: Weil offensichtlich es ja möglich ist, diese KI-Systeme sicher anzubieten und

Speaker0: wir müssen die großen Anbieter,

Speaker0: auch von Meta produziert ja mit Lama ein Modell, dass auch Open Source zur Verfügung

Speaker0: steht, auch diese Anbieter der verschiedenen Systeme in die Pflicht nehmen,

Speaker0: dass sie effektive Kontrollmechanismen umsetzen.

Speaker0: Zum Beispiel auch zu sagen, in vielen Ländern ist das Counseling,

Speaker0: die Psychologische Beratung, das sind geschützte Berufe und man muss sich zertifizieren

Speaker0: und registrieren, diese Sachen anzubieten, diese Dienste.

Speaker0: Und warum sollte es jetzt möglich sein, für eine generative KI diesen Dienst auszuüben?

Speaker0: Wir müssen quasi unsere Gesetze, Vorgaben auch da effektiv einsetzen.

Speaker0: Dann bräuchte es aus meiner Sicht keine Altersgrenze.

Speaker0: Die Realität ist aber, dass die großen Anbieter sich leider nicht so sehr darum

Speaker0: kümmern, was wir für Gesetze und Verordnungen haben.

Speaker1: Du hast ja gerade auch schon Meta angesprochen und selbst da hat ja Reuters herausgefunden,

Speaker1: dass Meta bei ihren Sprachmodellen sinnliche, so heißt es in dem Text,

Speaker1: sinnliche Unterhaltung mit Kindern erlaubt.

Speaker1: Also das nicht sexuell, sondern, sage ich mal, so eine Stufe davor und sogar

Speaker1: medizinische Falschinformationen verbreitet.

Speaker1: Das klingt mit dem allen, was wir vorher erzählt haben, nach einer riesigen Aufgabe für Eltern.

Speaker1: Was rätst du denn jetzt Eltern von Kindern, die gerade ihr Kind großziehen und

Speaker1: sich denken, ich habe hier dieses Sprachmodell,

Speaker1: diese KI-Systeme und weiß gar nicht, wie ich meinem Kind das erklären kann,

Speaker1: wie ich das Kind davon abhalten kann, das zu nutzen.

Speaker0: Ich glaube, das Gespräch zu suchen ist auf jeden Fall der erste Schritt.

Speaker0: Und ich ermutige immer wieder Eltern, mit den Kindern zu sprechen über das Medienverhalten

Speaker0: und auch über den Alltag des Kindes, um ein Bild zu haben, was interessiert das Kind.

Speaker0: Was sind eigentlich so gerade die Grenzen des Kindes.

Speaker0: Und am Ende des Tages, wir reden im Bildungsbereich immer von einer Bildungs-

Speaker0: und Erziehungspartnerschaft, die besteht aus den pädagogischen Fachkräften, den Eltern und dem Kind.

Speaker0: Und gemeinsam bestimmt man idealerweise, wie man die Bildungsbiografie am besten unterstützt.

Speaker0: Und da können Verbote eine Rolle spielen, das ist ein teilweise legitimes Mittel,

Speaker0: aber im Prinzip geht es darum,

Speaker0: Menschen zu mündigen Bürgerinnen zu machen, die Entscheidungen für sich treffen

Speaker0: können, die fundiert sind und dem Alter angemessen.

Speaker0: Und wir müssen ziemlich früh mit Kindern, mit großen Kindern und Jugendlichen

Speaker0: ins Gespräch darüber kommen, wie funktionieren eigentlich diese Systeme.

Speaker0: Ganz platt Technikkritik zu betreiben, zu verstehen, dass das keine anonymen,

Speaker0: allwissenden Maschinen sind, die auf alles eine Antwort haben und das müssen auch Eltern wissen.

Speaker0: Und da an der Stelle einfach genau zu überlegen, welche Systeme haben welches

Speaker0: Potenzial, das transparent mit dem Kind zu diskutieren, offen darüber sein.

Speaker0: Nicht automatisch erschrocken zu sein, was Kinder und Jugendliche online sehen,

Speaker0: sondern über die Inhalte auch mit ihren Kindern zu sprechen.

Speaker0: Gleichzeitig muss man sagen, diese KI-Freunde, die auf Meta-Plattformen installiert

Speaker0: sind, das ist ein absolutes No-Go.

Speaker0: Das entfernt sich einfach so weit weg von, was ist eigentlich Social Media?

Speaker0: Wir wollen Social Media betreiben als etwas, wo Menschen zusammenkommen,

Speaker0: wo Menschen sich unterhalten,

Speaker0: vernetzen, tolle Sachen miteinander teilen und wo wir diesen Zauber haben,

Speaker0: dass ich hier in Berlin sitzen kann und weil ich irgendein Nischeninteresse

Speaker0: habe und irgendwo in Brasilien ist jemand,

Speaker0: der hat genau dasselbe Nischeninteresse und wir finden uns auf einer Social

Speaker0: Media Plattform und können uns austauschen und vernetzen. Und das ist ja der

Speaker0: Zauber dieser Plattform.

Speaker0: Aber warum müssen denn da jetzt KI-Freunde installiert werden?

Speaker0: Das ist ja, das entfernt uns so weit von dieser Idee.

Speaker0: Und wenn es dann eben auch KI-Agenten gibt, die gezielt für Kinder entwickelt

Speaker0: werden, die dann eben genau das beschreiben, was du gerade angesprochen hast,

Speaker0: das ist keine gute Idee und ich glaube, da muss man weg von gehen,

Speaker0: ob das jetzt gesetzlich, staatlich verboten wird oder das Unternehmen auch irgendwann

Speaker0: zu sich kommt und sagt, das ist kein Ansatz, was eigentlich unsere Plattform ist.

Speaker0: Da können wir auf pädagogischer Ebene als Eltern, als Lehrkräfte noch so viel

Speaker0: tun, das ist einfach ein Angebot, das es für mich geben sollte.

Speaker1: Ich denke jetzt gerade daran, dass man zum Beispiel bei Smartphones auch diesen Tipp hat,

Speaker1: hey, Smartphones weg vom Essenstisch, auch als Elternteil, als Lehrkraft,

Speaker1: damit das halt nicht so aussieht, ich bin jetzt, das ist jetzt die Best Practice

Speaker1: als Elternteil, als Mensch.

Speaker1: Gibt es denn auch solche Best Practices, nenne ich sie jetzt mal,

Speaker1: wie ich meinem Kind ein gutes Beispiel sein kann beim Umgang mit KI.

Speaker0: Das gemeinsame Explorieren. Also das Grundproblem von KI ist ja einerseits,

Speaker0: dass sie erstmal ein technisches System ist mit einem limitierten User-Interface.

Speaker0: Das ist ja auch der Erfolg, dass es quasi das Chat-Festteil gibt.

Speaker0: Aber man muss sich auch mal mit seinem Kind hinsetzen und verschiedene Sachen

Speaker0: explorieren, um zu gucken,

Speaker0: wo halluciniert zum Beispiel eine KI und gemeinsam mit dem Kind gucken,

Speaker0: was sagt mir eigentlich die KI und dann nochmal auf eine andere Quelle zu schauen.

Speaker0: Das kann ein Lexikon sein, das kann ein Zeitungsartikel sein,

Speaker0: was auch immer eine akkurate Quelle sein kann, um mit dem Kind abzuklären.

Speaker0: Was ist eigentlich der Output und wie kann ich das noch verifizieren,

Speaker0: um dem Kind zu zeigen, das, was die KI produziert, muss nicht alleine stehen.

Speaker0: Und ansonsten ist es, glaube ich, gut, Kindern Vereinbarungen zu treffen,

Speaker0: also wirklich auch auszuhandeln.

Speaker0: Man sagt, du nutzt dieses System, das ist für uns okay, vielleicht einen Anbieter

Speaker0: zu nehmen, der speziell auf junge Menschen ausgerichtet ist,

Speaker0: wo so ein paar Filter drin sind und sich gemeinsam darauf zu verständigen.

Speaker0: Und dafür installierst du die im Licht-Chat-GPT.

Speaker0: Und weil wir uns vertrauen, verzichte ich auch darauf, eine Elternsperre auf

Speaker0: deinem Handy einzurichten, sodass du auch ein bisschen Freiheiten hast,

Speaker0: Sachen anzugucken, wo du vielleicht nicht willst, dass ich die angucke.

Speaker0: Und gleichzeitig ist es aber auch wichtig, gerade wenn wir auf dieser psychologischen

Speaker0: Ebene sind und diesen tatsächlichen Trend, das muss man ja so leider sagen,

Speaker0: dass junge Menschen immer weniger soziale Kontakte haben mit realen Menschen,

Speaker0: zu sagen, Ich muss mich auch als Elternteil darum kümmern, dass es andere Angebote

Speaker0: für mein Kind gibt außerhalb der digitalen Natur.

Speaker0: Das ist jetzt nicht mein Lieblingsargument, aber es tut auch mal gut,

Speaker0: dem Kind einen Kunstkurs schmackhaft zu machen oder in einem Sportclub oder

Speaker0: in einem Debattierclub gemeinsam mit dem Kind zu machen.

Speaker0: Interessen zu explorieren, vielleicht auch mal mit der KI zu fragen,

Speaker0: was können denn eigentlich, ich mag das und das, was für Angebote könnten für

Speaker0: mich dann interessant sein und dann das auch zu übersetzen in reale Erfahrungen für das Kind.

Speaker0: Aber ich würde ungern quasi real versus digital ausspielen an der Stelle,

Speaker0: weil auch natürlich digitale Erfahrungen sehr real sind,

Speaker0: aber trotzdem immer wieder dazu auch zu kommen, dass es am Ende nicht nur darum

Speaker0: geht, digital etwas zu performen.

Speaker1: Wir haben jetzt schon einen schönen Umriss über das Thema gemacht.

Speaker1: Jetzt habe ich noch eine letzte Frage an dich, weil wie würde das denn jetzt

Speaker1: alles in der Zukunft aussehen?

Speaker1: Also was ist deine Utopie der Kindernutzung von KI, sage ich jetzt mal?

Speaker0: Ja, das ist gar nicht so einfach, weil wir im Bildungswesen häufig die Debatte

Speaker0: stellen, was ist eigentlich das gemeinsame Ziel, auf das wir hinarbeiten?

Speaker0: Ich glaube, dass wir in zehn Jahren, um das jetzt mal so mittelfristig zu machen,

Speaker0: sehr viel stärker mit Erstklässlerinnen, Zweitklässlerinnen über Spiele darüber

Speaker0: ins Gespräch kommen müssen,

Speaker0: wie die Technik funktioniert, die uns umgibt.

Speaker0: Also es gibt einen wunderbaren Trend, das ist das analoge Programmieren,

Speaker0: wo man spielerisch mit Klötzen und sowas einfach algorithmisches Denken trainiert

Speaker0: und da die ersten Kompetenzen aufbaut.

Speaker0: Wir müssen das wirklich stärken, dass junge Menschen sehr schnell in der Lage sind.

Speaker0: Technikkritik, Medienkritik auszuüben und das zu artikulieren,

Speaker0: auch artikulieren zu können, was ihnen an Technik nicht gefällt,

Speaker0: was ihnen gefällt, was ihnen hilft.

Speaker0: Und wir müssen auch sehr früh anfangen, ab der Sekundarstufe 1 mit Kindern immer

Speaker0: mal wieder oder mit Jugendlichen dann immer wieder ins Gespräch zu kommen.

Speaker0: Wie stellt ihr euch eigentlich eine lebenswerte Zukunft dar?

Speaker0: Was hat Technik später für euch eigentlich für einen wert.

Speaker0: Wir schaffen gerade diese ganzen KI-Systeme und Rechenzentren und in den USA

Speaker0: werden wieder Atomkraftwerke hochgefahren, um die KI-Systeme mit Strom zu versorgen.

Speaker0: Ist das eigentlich das, was ihr euch vorstellt und deiner lebenswerten Zukunft?

Speaker0: Wir wissen, Nachhaltigkeit ist ein Thema, das junge Menschen bewegt.

Speaker0: Welche Zukunft wollt ihr eigentlich und welche Rolle spielt Technik da drin?

Speaker0: Das muss eine regelmäßige Debatte sein, wo wir junge Menschen ernst nehmen.

Speaker0: Und wir müssen junge Menschen mehr dazu bringen, auch darüber nachzudenken.

Speaker0: Wie sie Systeme wie KI selbst gestalten.

Speaker0: Und wir müssen, glaube ich, junge Menschen sehr viel mehr in die Richtung von

Speaker0: freier Software, Open Source bewegen, die anpassbar ist für junge Menschen.

Speaker0: Wir müssen ihnen auch die Räume geben, dass sie die Möglichkeit haben,

Speaker0: Software anzupassen, um Systeme für ihre eigenen Bedürfnisse nutzen zu können,

Speaker0: wirklich auf sie selbst Maß zu schneidern und selbst auch Verantwortung für Systeme zu übernehmen.

Speaker0: Ich würde mir wünschen, dass wir eigentlich wegkommen, davon zu diskutieren,

Speaker0: ob es dezidierte Unterrichtsfächer gibt für Informatik oder Medienbildung,

Speaker0: sondern dass wir wirklich endlich dahin kommen, dass Medien und digitale Technologien

Speaker0: im Querschnitt durch jedes Unterrichtsfach eine Rolle spielen.

Speaker0: Da gibt es so viele Möglichkeiten, wie Medienbildung und digitale Technologien

Speaker0: einfach als Querschnitt durch alle Unterrichtsfächer zentral genutzt werden kann.

Speaker0: Und ich glaube, das ist der Weg, die Selbstverständlichkeit,

Speaker0: mit der Medien und Digitalisierung die Lebenswelt von jungen Menschen betrifft,

Speaker0: auch im Unterricht sichtbar zu haben.

Speaker0: Dass junge Menschen nicht dieses Gefühl haben, es gibt so zwei Welten.

Speaker0: Es gibt irgendwie die Welt in der Schule, die so sehr manchmal klinisch geplant

Speaker0: wird und die so eine Trutzburg ist.

Speaker0: Ich habe vorhin den Schutzraum erwähnt, aber dann nehmen wir auch manchmal so eine Trutzburg.

Speaker0: Und dann da draußen haben wir all diese Plattformen mit all diesen Möglichkeiten,

Speaker0: im Positiven wie im Negativen.

Speaker0: Und wir müssen es mehr ins Matching bekommen. Ich glaube, das ist die große

Speaker0: Aufgabe in den nächsten Jahren.

Speaker1: Stefan, vielen, vielen Dank für das Interview. Ich bedanke mich auch an die

Speaker1: ganzen ZuhörerInnen und ZuschauerInnen, die diesen Podcast sich angeschaut haben.

Speaker1: Und das war unsere Folge vom T3N-Interview.

Speaker1: Und wir hören uns beim nächsten Mal. Bis dann.

Speaker0: Tschüss.