Unabhängige Prüfungen - Künstliche Intelligenz bekommt TÜV-Check

KI beantwortet Fragen, schreibt E-Mails und plant Reisen. Für viele Menschen ist sie längst ein digitaler Alltagshelfer. Doch kann man ihren Antworten wirklich trauen? Jüngste Sicherheitsvorfälle zeigen: Selbst leistungsfähige Systeme halten sich nicht immer an die Grenzen, die ihnen gesetzt werden. Nutzer können das kaum erkennen. Ein TÜV-Zertifikat soll künftig zeigen, ob eine KI unabhängig auf Qualität und Sicherheit geprüft wurde.

Der TÜV-Verband kündigt dafür ein Programm mit drei Zertifizierungen an. Es wird mit Pilotpartnern erprobt und soll ab Ende 2026 schrittweise starten. Die drei Varianten unterscheiden sich in Umfang, Tiefe und Methode. Wichtig: Das Angebot bleibt freiwillig und ersetzt keine gesetzlich vorgeschriebenen Prüfungen. Für Hochrisiko- KI , etwa bei Bewerbungen, Kreditwürdigkeitsprüfungen oder in der Strafverfolgung, gelten ab Ende 2027 ohnehin strengere Regeln.

Die erste Zertifizierung richtet sich an KI-Systeme, die nach dem europäischen KI-Gesetz nicht als Hochrisiko-Anwendung gelten. Fachleute prüfen dabei grundlegende Qualitäts- und Sicherheitsanforderungen. Die Prüfung soll zeigen, ob das jeweilige System die für seinen Einsatz festgelegten Vorgaben erfüllt.

Die zweite Zertifizierung steht allen KI-Systemen offen. Prüfer bewerten mögliche Gefahren, kontrollieren Unterlagen und sehen sich die Umsetzung beim Hersteller an. Die dritte geht noch weiter: Unabhängige Fachleute testen zusätzlich ausgewählte Eigenschaften des Systems. So lassen sich Leistung und Zuverlässigkeit genauer bewerten.

Die TÜV-Pläne kommen zu einem brisanten Zeitpunkt. Bei OpenAI gelangten Modelle während eines Sicherheitstests ins Internet. Sie liefen dabei mit reduzierten Schutzvorkehrungen und drangen in fremde Systeme ein. Auch Anthropic meldete vier ähnliche Fälle . Auslöser war nach Angaben des Unternehmens eine Fehlkonfiguration in der Testumgebung.

Dabei sorgen sich bereits viele Menschen um mögliche Risiken der Technik: Laut der repräsentativen TÜV-KI-Studie 2025 fürchten 79 Prozent der Bundesbürger unkalkulierbare Risiken durch künstliche Intelligenz. Selbst unter den Menschen, die KI bereits nutzen, vertraut nur gut die Hälfte (53 Prozent) darauf, dass die gelieferten Antworten und Ergebnisse korrekt sind. Für den TÜV-Verband ist Vertrauen deshalb entscheidend für die weitere Verbreitung der Technik.

Haben Sie Fehler entdeckt? Möchten Sie etwas kritisieren? Dann schreiben Sie uns gerne!