Neues Institut legt los: Deutsches KI-Sicherheitsinstitut geht in Berlin an den Start

Künstliche Intelligenz dringt in immer mehr Branchen und Lebensbereiche vor.

Die Bundesregierung hat jetzt ein Institut, das sich mit Fragen der KI-Sicherheit beschäftigt, aus der Taufe gehoben.

Ohne Fototermin und großen Bahnhof hat Deutschlands neues Institut für die Sicherheit von Künstlicher Intelligenz (KI) in Berlin die Arbeit aufgenommen.

Mit dem Aufbau des KI-Sicherheitsinstituts werde ein Beschluss des Nationalen Sicherheitsrats vom Juni umgesetzt, heißt es in einer gemeinsamen Mitteilung von Bundesinnenministerium und Digitalministerium.

Zwei Facetten von Sicherheit Aufgabe des Instituts, das den Namen AISI Deutschland tragen wird (AI steht für Artificial Intelligence, SI für Security and Safety Institute), wird es laut Mitteilung sein, Chancen und Risiken, die sich durch KI-Modelle für Deutschland ergeben, zu beurteilen sowie die Widerstandsfähigkeit im Bereich KI nachhaltig zu stärken.

In der Anfangsphase sollen die Bundesnetzagentur und das Bundesamt für Sicherheit in der Informationstechnik (BSI) den Kern der neuen Einrichtung bilden.

Das BSI soll sich um Fragen von Cybersicherheit (Security) kümmern, also darum, wie ein KI-System und seine Daten vor Angriffen und Missbrauch geschützt werden können.

Die Bundesnetzagentur soll die Verantwortung für den Safety-Aspekt tragen.

Hier geht es um unbeabsichtigte Fehler, etwa wenn ein autonomes Fahrzeug ein Hindernis zu spät erkennt oder eine Medizin-KI einen Tumor auf dem Röntgenbild übersieht.

KI-Modelle auf Abwegen In konkreten Einzelfällen ist die Abgrenzung zwischen den verschiedenen Sicherheitsaspekten allerdings nicht immer eindeutig möglich.

Die US-Unternehmen Anthropic und OpenAI hatten zuletzt einräumen müssen, dass ihre KI-Modelle in Tests ungeplant in Computersysteme echter Unternehmen eingedrungen waren.

Dies hat die schon seit Jahren bestehende Sorge vor Cyberattacken mit Hilfe Künstlicher Intelligenz verstärkt.

Deutschland brauche ein leistungsfähiges KI-Sicherheitsinstitut, um mit der technologischen Entwicklungsgeschwindigkeit Schritt zu halten, erklärt Bundesdigitalminister Karsten Wildberger (CDU). „Das AISI Deutschland bietet die Grundlage, um international Anschluss an die Künstliche Intelligenz zu gewinnen“, sagt Innenminister Alexander Dobrindt (CSU).

Es geht auch um weniger digitale Abhängigkeit „Digitalisierung ist Dreh- und Angelpunkt einer sich massiv verändernden Welt mit Aus- und Wechselwirkungen auf Regeln des Miteinanders, Politik, Macht und staatliche Interessen“, sagt BSI-Präsidentin Claudia Plattner.