Nach OpenAI-Warnung: Forderungen nach Regulierung und "guter" KI

Reaktionen auf OpenAI-Warnung Forderungen nach mehr Regulierung und "guter" KI Stand: 17.09.2026 • 14:18 Uhr

Angesichts immer neuer Zwischenfälle mit Künstlicher Intelligenz wollen mehrere große Firmen die Entwicklung verlangsamen. Es werden aber auch Rufe nach mehr Regulierung laut - und im Hintergrund wird an "guter" KI gebaut.

Immer wieder melden die großen Entwicklerfirmen Probleme mit Künstlicher Intelligenz (KI). Gerade erst informierte der ChatGPT-Entwickler OpenAI über neue Zwischenfälle. Teilweise warnen die Firmengründer sogar schon selbst vor den Risiken - wie beispielsweise der Anthropic-Gründer Dario Amodei, laut dem KI in sechs bis zwölf Monaten das ganze Internet kontrollieren könnte.

Bedenken, die man nach Ansicht des CDU-Europaabgeordneten Axel Voss ernst nehmen muss. Voss gilt als einer der profiliertesten deutschen Digitalpolitiker in Brüssel. So gibt es seiner Ansicht nach "ernsthafte Risiken" neben den damit einhergehenden Chancen. Und diese Risiken könnten zu Kontrollverlusten führen und "Ziele auf unerwartete Weise verfolgen". "Ob das Sicherheitsvorkehrungen sind oder auch Finanztransaktionen - alles kann davon betroffen sein", erklärte er im Gespräch mit NDR Info .

"Wir müssen umsichtig regulieren. Ich glaube aber auch, dass wir bestimmte Möglichkeiten haben, um in die Kontrolle von Algorithmen reinzugehen oder Haftungsfragen auszulösen." So könne man Unternehmen zwingen, vorsichtiger zu agieren, erklärte Voss weiter.

Im Moment sei Regulierung jedoch sehr schwer, weshalb man diese Instrumente brauche, um Überwachung überhaupt durchzuführen. Laut Voss gibt es aber auch schon Firmen, die eine KI entwickeln, um KI zu überprüfen: "Nicht jede KI kann die Leistung erbringen, um auszuarten." Da müsse man Grenzen setzen - dann lasse sich KI beherrschbar machen. "Also es gibt durchaus Möglichkeiten. Man muss nur den politischen Willen haben, strikter vorzugehen", sagte Voss.

Nach bedrohlichen Zwischenfällen im Zusammenhang mit KI-Modellen ist eine Debatte um schärfere Regeln entbrannt. mehr

Das Bundesdigitalministerium dämpfte jedoch die Erwartung, es könne einfache Lösungen bei Gefahren durch KI geben. Im rbb24Inforadio sagte Thomas Jarzombek, der parlamentarische Staatssekretär im Bundesdigitalministerium (CDU), es gebe nicht die eine und einfache Lösung: "Sollte es in den USA eine Super-Intelligenz geben, die das ganze Internet übernimmt, wie schon gewarnt wurde, dann wird sicherlich kein europäisches Gesetz das tatsächlich irgendwie ändern können oder diese Super-Intelligenz abhalten."

Bundesdigitalminister Carsten Wildberger (CDU) habe sich aber sehr dafür eingesetzt, dass es eine internationale Überwachung und Regulierung gegen die großen Bedrohungsfragen gebe: "Und gerade gestern haben wir gemeinsam mit Kanada jeweils 100 Millionen Euro in das Unternehmen Law Zero investiert, das eine Art KI schafft, die die anderen KIs überwachen soll und die Werte und Moral hat und darüber wacht, dass Regeln eingehalten werden." Das sei ein konkreter deutscher Beitrag gegen die Bedrohung durch KI, betonte Jarzombek.

Konkret bringt der US-Präsident neue Zölle ins Spiel. Auch ein Handelsstopp ist für Trump eine Option.