Medizinische Informatik

Können wir der KI bei der Krebs-Diagnose vertrauen?

Die Entwicklungen in der medizinischen Informatik sind so rasant wie vielversprechend. In Kliniken und Praxen können digitale Patient*innenakten, Roboterassistenten und intelligente Systeme Ärzt*innen bei der Diagnose, Behandlung und Nachsorge unterstützen. Künstliche Intelligenz (KI) soll das Gesundheitswesen effizienter und günstiger machen. Doch wie können Mediziner*innen sicher sein, dass die Maschine keine Fehler macht? Unter anderem damit befasst sich Daniel Sauter am Fachbereich Informatik der Fachhochschule Dortmund.

Der Doktorand ist in seiner finalen Phase am Graduiertenkolleg „WisPerMed“. Forschende der Medizinischen Fakultät der Universität Duisburg-Essen, der Universitätsmedizin Essen und der FH Dortmund arbeiten dort interdisziplinär an Methoden des Maschinellen Lernens zur Diagnose und Therapie des schwarzen Hautkrebses (Malignes Melanom). Für seine Arbeit wurde der 29-Jährige bei der diesjährigen Clusterkonferenz „Innovative Medizin“ des Netzwerks Medizin.NRW mit einem Preis für Nachwuchswissenschaftler*innen ausgezeichnet.

„Ich befasse mich hauptsächlich mit den technischen Herausforderungen bei KI-Anwendungen in der Medizin“, erklärt Daniel Sauter. In seiner Promotion untersucht er, wie Entscheidungen der KI transparent nachvollziehbar gemacht werden können. Er prüft dabei, ob bestehende Erklär-Methoden für KI-Anwendungen auch in der feingeweblichen Untersuchung zur Melanom-Diagnose, der Dermatohistopathologie, nutzbar sind. „Bei sogenannten Black-Box-Algorithmen wie den Neuronalen Netzwerken ist die Entscheidung der KI nicht Teil des programmierten Codes“, erklärt Daniel Sauter. Vielmehr suche die KI eigenständig nach Zusammenhängen in den Daten und treffe daraufhin ihre Entscheidung. „Diese müssen wir verstehen und so die Black-Box knacken.“ Damit soll ausgeschlossen werden, dass es zu Fehldiagnosen kommt, weil die KI ein Muster erkannt hat, das mitunter gar nichts mit dem Krebs zu tun hat.

► Fachbereich Informatik
► Studiengang Medizinische Informatik (Bachelor)
► Studiengang Medizinische Informatik (Master)

„Die Ergebnisse der Untersuchungen zeigen, dass wir die Entscheidungskriterien der KI konkret abbilden konnten und Fehler in den Parametern erkennbar dargestellt wurden“, fasst Daniel Sauter seine Arbeit zusammen. Dies ermögliche es, medizinisch nicht plausible Entscheidungen aus den Modellen herauszunehmen. Parallel dazu arbeitet Daniel Sauter an den Lerntechniken für KI-Modelle – speziell für die Krebs-Diagnose.

„Hier steht die Forschung vor der Herausforderung, dass ein gewisser Mangel an sauber aufbereiteten Trainingsdaten vorliegt“, sagt der Doktorand. Die digitale Aufbereitung der Gewebeproben als Lernvorlage für KI sei aufwendig. Darum werde auf bestehende KI-Modelle zurückgegriffen. „Die haben quasi schon eine Grundausbildung absolviert“, erklärt Daniel Sauter. Ein Teil seiner Doktorarbeit untersucht, wie vorhandene KI-Modelle auf die Besonderheiten in der Erkennung von schwarzem Hautkrebs „umgeschult“ werden können.

Daniel Sauters Promotion wird von Prof. Dr. Markus Kukuk am Fachbereich Informatik betreut.