KI-Modelle in der Medizin: Forscher der TU München entdecken hohes Datenschutzrisiko

Forschende greifen mit einer einfachen Methode erfolgreich medizinische KI-Modelle an und fordern Sicherheitsmaßnahmen – wenn auch nur für spezielle Fälle.

Moritz Knolle von der Technischen Universität München (TUM) forscht im Rahmen seiner Doktorarbeit zur Sicherheit von Gesundheitsdaten – und entdeckte kürzlich eine Lücke, die Hacker mit einfachen Mitteln nutzen könnten. An der Untersuchung waren neben Knolles Kolleg:innen auch Teams des Imperial College London und des Potsdamer Hasso-Plattner-Instituts (HPI) beteiligt. Die Studie zeigt, dass in bestimmten Datensätzen bestimmte Patient:innen mit nahezu hundertprozentiger Wahrscheinlichkeit den Modellen zugeordnet werden können.

Moritz Knolle: Ich wollte wissen, wie groß das Risiko für Missbrauch ist, wenn man Gesundheitsdaten einem KI-Modell anvertraut. Denn bisher sind die Risiken einfach schlecht verstanden, besonders, wenn es ums Individuum geht.

Moritz Knolle, Doktorand an der TU München, plädiert für mehr Datensicherheit in der Medizin. (Quelle: TUM)

Es gibt natürlich schon Studien, die nahelegen, dass Hacker KI-Modelle in der Medizin attackieren können. Auch zu der Art Angriff, die wir uns angeschaut haben – die Membership Inference Attacks oder kurz: MIAs – gibt es umfassende Literatur. Bisher galten gängige Medizin-KI-Modelle aber weitgehend sicher vor solchen MIAs.

Leider haben die entsprechenden Tests immer nur ein durchschnittliches Risiko für alle Patienten ermittelt. Wir haben uns jetzt erstmals das Risiko für individuelle Patienten angeschaut. Und dann ergibt sich doch ein anderes Bild.

Andrea ist Redakteurin beim Magazin MIT Technology Review für die Themen Umwelt, Biotechnologie und Materialien.