KI in der Medizin: ALAIT präsentiert erste Forschungsergebnisse im KI Trust Dossier

„Von der Diagnose zur Therapie: KI in der medizinischen Bildgebung“ - das erste KI Trust Dossier des Austrian Lab for AI Trust (ALAIT), ein vom österreichischen Bundesministerium für Innovation, Mobilität und Infrastruktur (BMIMI) initiiertes Forschungsprojekt

Im Rahmen des Projektes ALAIT wird das Einsatzrisiko von KI-Technologien in spezifischen Anwendungsfeldern wissenschaftlich analysiert und bewertet sowie die Ergebnisse bis 2027 in zehn Dossiers veröffentlicht. Jedes Dossier beinhaltet die Chancen und Risiken der jeweiligen KI-Technologie im spezifischen Anwendungsgebiet sowie konkrete Empfehlungen für den sicheren und verantwortungsvollen Einsatz in der Praxis. Das erste, nun vorliegende Dossier behandelt die Anwendung von KI-basierter Diagnose- und Therapieunterstützung in der medizinischen Bildgebung (Medical Imaging).

Bewertung laut ALAIT Risikoradar: Relativ hohes Einsatzrisiko lässt sich durch gezielte Strategien minimieren

Eine zentrale Rolle bei der Bewertung der jeweiligen KI-Technologien spielt das ALAIT Risikoradar, eine wissenschaftlich entwickelte Risikomatrix für KI-Technologien in spezifischen Anwendungsgebieten. Das ALAIT Risikoradar ermöglicht es, KI-Anwendungen kontextbezogen und unter Berücksichtigung ihres technischen Autonomiegrades einzustufen, um die Risikosphäre für Anwender:innen sichtbar zu machen.

Der Einsatz von KI in der medizinischen Bildgebung birgt laut ALAIT-Einstufung generell ein hohes Risiko, mitunter, weil bei fehlerhaften Systemen und Anwendungen lebensbedrohliche Auswirkungen für betroffene Menschen entstehen können. Gleichzeitig besteht ein hoher Nutzen von KI-basierter Diagnose- und Therapieunterstützung. Für Patient:innen bedeutet das u.a. die Chance auf frühere und präzisere Diagnosen, etwa bei Tumoren. Das hohe Einsatzrisiko kann durch gezielte Risikoabschätzung und -minimierung reduziert werden. Im Dossier sind dazu sechs konkrete Empfehlungen für die Praxis angeführt, etwa jene, dass medizinisches Fachpersonal und Gesundheitsdienstleister:innen über KI-Kompetenzen verfügen sollten, bzw. dass Patient:innen über den Einsatz von KI bei ihrer Behandlung informiert werden, damit Transparenz, Sicherheit und Akzeptanz gewährleistet sind.

ALAIT Labor als KI-Dialogformat: Wie KI vertrauenswürdig in der Praxis genutzt werden kann

Im Herbst wird der Themenbereich KI in der medizinischen Bildgebung auch in einem neuartigen KI-Dialogformat aufgegriffen. Um Wissen zu fördern und gesellschaftliches Vertrauen in KI aufzubauen, ermöglicht das sogenannte ALAIT Labor Diskussionen über Chancen und Risiken von Künstlicher Intelligenz in verschiedenen Branchen sowie Überlegungen zum vertrauenswürdigen Einsatz in der Praxis. Das Format umfasst die Vermittlung von Wissen zu KI und spezifischen Qualitätsanforderungen sowie die soziotechnische Bewertung von KI-Technologien im jeweiligen Kontext. Weitere themenspezifische Labore folgen.

Das Dossier steht auf der Projektseite zum Download zur Verfügung, dort werden auch die weiteren KI Trust Dossiers veröffentlicht.

Service: Weitere Informationen zum Projekt ALAIT