Peinliche KI-Panne - Microsoft Copilot verriet eigene Schwachstelle

Ausgetrickst! Ausgerechnet Microsofts KI-Assistent Copilot half Sicherheitsforschern dabei, eine Schwachstelle im eigenen System aufzuspüren. Die Forscher löcherten die KI immer wieder mit Fragen dazu, warum bestimmte Hackerangriffe nicht funktionieren. Mit jeder Antwort gab Copilot weitere technische Details preis – bis die Experten schließlich wussten, wie sich die Sicherheitslücken ausnutzen lassen.

Aufgedeckt wurde das Problem vom amerikanischen IT-Sicherheitsunternehmen Varonis Threat Labs . Statt Fragen zu möglichen Angriffen einfach abzublocken, lieferte Copilot wiederholt technische Erklärungen, warum bestimmte Attacken angeblich nicht funktionieren würden. Genau diese Antworten führten die Varonis-Mitarbeiter schließlich auf die entscheidende Spur.

Die Forscher entdeckten laut eigenen Angaben gleich drei Schwachstellen.

Schwachstelle 1: Normalerweise muss man bei Copilot eine Frage oder einen Befehl selbst in das Eingabefeld tippen und abschicken. Bei der aufgedeckten Sicherheitslücke konnte ein Angreifer seinen Befehl jedoch in einen speziell präparierten Link einbauen – zugestellt etwa per E-Mail, Chat, Phishing-Seite oder QR-Code. Klickt das Opfer auf den Link, öffnet sich Copilot und führt den darin versteckten Befehl automatisch aus. Die Sicherheitsforscher sprechen hier von einer Ein-Klick-Lücke.

Schwachstelle 2: Ein eingeschleuster Befehl konnte die mit Copilot verbundenen Anwendungen wie Gmail, Drive, Kalender und OneDrive nach Daten abfragen. So konnten Angreifer sensible Informationen auslesen und heimlich nach außen übermitteln.

Schwachstelle 3: Copilots dauerhafter Speicher konnte mit Informationen manipuliert werden, die sich auf spätere Anfragen des Nutzers ausgewirkt haben.

Die Sicherheitsexperten von Varonis Threat Labs nannten die Schwachstellen zusammengefasst „CoSnitch“ – ein Wortspiel aus „Copilot“ und dem englischen Wort „snitch“ (auf Deutsch: jemanden verpfeifen).

Im Dezember 2025 meldeten die Forscher die Schwachstellen an Microsoft . Der Konzern reagierte nun und beseitigte die Probleme. Laut Varonis gibt es keine Hinweise darauf, dass Hacker die Lücke aktiv ausnutzten. Trotzdem sehen sie darin eine Warnung: KI-Assistenten, die auf persönliche Daten zugreifen, bieten neue Angriffsmöglichkeiten.

Haben Sie Fehler entdeckt? Möchten Sie etwas kritisieren? Dann schreiben Sie uns gerne!