Für Kinder erklärt: Wer zähmt die KI?

Im Jahr 2023 tauchte an vielen Schulen ein neuer Klassenkamerad auf. In Sekundenschnelle konnte er Deutsch-Aufsätze schreiben oder Referat-Tipps geben. Was ein Dezimalbruch ist, welche Sneaker gut zu Baggy Pants passen und was bei Liebeskummer hilft – er wusste auf alles eine Antwort. So wurde der Neue schnell zum beliebten Hausaufgabenhelfer, für manche sogar zum engen Freund.

Die Rede ist natürlich von Chatbots wie ChatGPT oder Claude, die mittlerweile in vielen Klassenzimmern allgegenwärtig sind. Ihre Verbreitung hat an den Schulen viele Fragen aufgeworfen: Haben Hausaufgaben überhaupt noch einen Sinn? Wie bewertet man Aufsätze, die zum Teil mit KI erstellt wurden? Sollte man Störsender installieren, um Chatbots bei Klassenarbeiten einen Riegel vorzuschieben? Verlernen die Schülerinnen und Schüler nicht das eigenständige Schreiben, Rechnen und Denken? Wie kann man sicherstellen, dass alle von den Vorzügen der KI profitieren? Und wie verhindern wir, dass noch eine Mitschülerin per Deepfake nackt im Klassenchat gezeigt wird?

Solche grundlegenden Diskussionen werden nicht nur an Schulen geführt. In vielen Unternehmen, Parlamenten und Familien fragt man sich: Was darf die KI? Und wer bestimmt eigentlich darüber?

Wenn eine künstliche Intelligenz selbstständig einen Hackerangriff durchführt, wenn sich Teenager in Chatbots verlieben und immer mehr Menschen gegen den Bau von Rechenzentren demonstrieren – dann stellt sich die Frage: Was darf die KI? Und wer bestimmt darüber? Das Kinder-Nachrichten-Magazin DEIN SPIEGEL geht diesem Thema in seiner neuen Ausgabe nach. Junge Leserinnen und Leser erfahren, wie sie KI-Bilder von echten unterscheiden können. Meredith Whittaker, Chefin des US-Messengerdienstes Signal, erzählt, welche Entscheidungen sie der neuen Technologie niemals überlassen würde. DEIN SPIEGEL gibt es am Kiosk, ausgewählte Artikel online. Erwachsene können das Heft auch hier kaufen:

Die Technologie, die maßgeblich im kalifornischen Silicon Valley entwickelt wird, hat weltweite Auswirkungen. »KI ist wie der Klimawandel ein Problem, das nicht von einem Staat allein gelöst werden kann«, sagte Maria Ressa kürzlich in einem Interview . Sie leitet eine Gruppe von Expertinnen und Experten, die den Vereinten Nationen Anfang Juli einen Bericht vorgelegt haben. Darin haben sie die Vor- und Nachteile der KI-Nutzung zusammengetragen.

Bestimmte Krebserkrankungen etwa lassen sich mithilfe der KI schneller erkennen, und die Forschung nach neuen Medikamenten wird beschleunigt. KI kommt als Frühwarnsystem zum Einsatz, um Hungersnöte zu vermeiden. Doch sie wird auch verwendet, um Accounts zu hacken oder Falschinformationen zu verbreiten. Letzteres kann das Vertrauen in die Demokratie zerstören.

Hinzu kommt: Wenn der überwältigende Anteil der Rechenkraft, die zum KI-Training nötig ist, nur den USA und China zur Verfügung steht, droht die weltweite Ungleichheit größer zu werden. In ihrem Bericht kommen die Expertinnen und Experten daher zu dem Fazit: KI ist an sich weder gut noch schlecht. Doch jetzt müssten klare Regeln für den weltweiten Einsatz von KI geschaffen werden. In der Europäischen Union (EU) gibt es bereits ein Regelwerk dafür.