ANONY-MED 2
Gesundheitsdaten für KI-Diagnosen: ANONY-MED 2 soll Datenschutz und medizinischen Nutzen verbinden
Medizinische KI ohne Datenleck: ANONY-MED 2 entwickelt neue Anonymisierungstechnologien
Künstliche Intelligenz kann medizinische Diagnosen und personalisierte Therapien verbessern – doch gerade Gesundheitsdaten gehören zu den sensibelsten Informationen überhaupt. Das Forschungsprojekt ANONY-MED 2 will deshalb zeigen, dass Datenschutz und medizinische KI keine Gegensätze sein müssen. Im Mittelpunkt stehen Verfahren, mit denen sowohl klinische Datensätze als auch KI-Modelle so geschützt werden sollen, dass sie weiterhin für Forschung und Diagnose nutzbar bleiben.
Unter Federführung des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC entwickelt ANONY-MED 2 einen Werkzeugkasten für die datenschutzgerechte Nutzung medizinischer Daten in KI-Anwendungen. Gefördert wird das Projekt vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR). Weitere Partner sind die Charité – Universitätsmedizin Berlin und das Software-Unternehmen Smart Reporting GmbH.
Zwei Ebenen des Datenschutzes
Das Projekt verfolgt dabei zwei komplementäre Ansätze. Zum einen sollen medizinische Rohdaten durch datenschutzfreundliche Datensynthese anonymisiert werden. Dabei entstehen künstlich erzeugte Datensätze, die relevante klinische Muster möglichst erhalten, ohne die ursprünglichen Patientendaten offenzulegen.
Zum anderen richtet sich der Blick direkt auf die KI-Modelle. Auch deren Modellparameter können unter bestimmten Umständen Informationen über Trainingsdaten enthalten. ANONY-MED 2 untersucht deshalb Verfahren, mit denen sich diese Parameter absichern lassen, ohne den praktischen Nutzen der Modelle wesentlich einzuschränken.
Damit adressiert das Projekt eine zentrale Herausforderung medizinischer KI: Daten müssen ausreichend geschützt werden, gleichzeitig dürfen Schutzmaßnahmen die Qualität von Diagnose- und Entscheidungsmodellen nicht so stark beeinträchtigen, dass deren medizinischer Nutzen verloren geht.
Confidential Computing trifft Differential Privacy
Technologisch kombiniert ANONY-MED 2 mehrere Sicherheits- und Datenschutzkonzepte. Dazu gehören Confidential Computing, Trusted Execution Environments (TEE) und Homomorphic Encryption. Ergänzt werden sie durch Privacy-Preserving-Machine-Learning-Verfahren wie Differential Privacy und Federated Learning.
Die Konzepte setzen an unterschiedlichen Stellen an. Trusted Execution Environments sollen beispielsweise besonders geschützte Bereiche für Berechnungen bereitstellen, während Homomorphic Encryption grundsätzlich Berechnungen auf verschlüsselten Daten ermöglicht. Beim Federated Learning wiederum müssen Trainingsdaten nicht zwingend in einer zentralen Datenbank zusammengeführt werden.
Gerade diese Kombination ist für den medizinischen Einsatz interessant. Statt Datenschutz lediglich als nachträgliche Absicherung eines KI-Systems zu betrachten, soll er bereits Bestandteil von Datenverarbeitung, Training und Systemarchitektur werden.
Schlaganfalltherapie wird zum Praxistest
Ob diese Konzepte auch unter realistischen Bedingungen funktionieren, wird anhand von Demonstratoren für die Schlaganfalltherapie untersucht. Der Prozess reicht von der Erzeugung synthetischer Daten über das Training geschützter KI-Modelle zur Entscheidungsunterstützung bis hin zu einem KI-basierten Reporting-Werkzeug.
Ein wichtiger Bestandteil des Projekts sind dabei Metriken und Bewertungsverfahren. Sie sollen sichtbar machen, welche Datenschutzrisiken trotz Anonymisierung bestehen bleiben und welchen Einfluss die eingesetzten Verfahren auf die medizinische Nutzbarkeit der Daten und Modelle haben.
Damit berührt ANONY-MED 2 einen entscheidenden Punkt: Anonymisierung ist kein rein technischer Schalter zwischen „sicher“ und „unsicher“. Entscheidend ist vielmehr, wie hoch das verbleibende Re-Identifikationsrisiko ist und ob Daten beziehungsweise Modelle gleichzeitig noch genügend medizinische Aussagekraft besitzen. Ein weiteres Arbeitspaket untersucht deshalb auch, unter welchen Voraussetzungen sich Daten und KI-Modelle datenschutzrechtlich belastbar weitergeben lassen.
Werkzeugkasten soll Krankenhäusern den Einstieg erleichtern
Die Ergebnisse sollen nicht ausschließlich in Forschungsprototypen verbleiben. Geplant ist ein modularer Werkzeugkasten, dessen Bestandteile nach Möglichkeit als offene Software verfügbar gemacht werden.
Vorgesehen sind unter anderem Module zur Erzeugung synthetischer Bild- und Routinedaten, Referenzarchitekturen für geschütztes KI-Training sowie Werkzeuge zur Bewertung von Datenschutzrisiken und Datenqualität. Beispiel-Workflows sollen zusätzlich zeigen, wie sich die Technologien in klinischen Szenarien einsetzen lassen.
Ergänzt wird der technische Baukasten durch ein Praxishandbuch. Damit soll insbesondere Krankenhäusern und Gesundheitseinrichtungen der Zugang zu modernen Anonymisierungstechnologien erleichtert werden, ohne dass sie sämtliche Verfahren selbst entwickeln und bewerten müssen.
Datenschutz wird zur Voraussetzung für skalierbare medizinische KI
Langfristig sollen die Verfahren nicht auf die Schlaganfallbehandlung beschränkt bleiben. Denkbar ist laut Projektteam eine Übertragung auf weitere medizinische Bereiche, beispielsweise die Krebserkennung oder die Behandlung seltener Erkrankungen.
„ANONY-MED 2 strebt einen robusten, skalierbaren Weg an, medizinische Daten datenschutzkonform in KI-gestützte Medizin zu überführen – nicht nur in Deutschland, sondern europaweit“, erklärt Prof. Dr. Gerhard Wunder, Leiter der Abteilung Cognitive Security Technologies am Fraunhofer AISEC.
Die größere Bedeutung des Projekts liegt damit nicht allein in einzelnen Anonymisierungsverfahren. Soll KI künftig breiter in der Medizin eingesetzt werden, braucht sie eine Infrastruktur, die Datenschutz, technische Sicherheit und medizinische Aussagekraft gemeinsam berücksichtigt. ANONY-MED 2 versucht genau dafür übertragbare technische und organisatorische Grundlagen zu schaffen.
Das Projekt ist Teil des Forschungsrahmenprogramms „Digital. Sicher. Souverän.“ und des Forschungsnetzwerks Anonymisierung des BMFTR. Es baut auf den Ergebnissen des Vorgängerprojekts ANONY-MED auf.
