#18 - Black Box KI

04/01/22 • 14 min

Dr. med. KI - Künstliche Intelligenz in der Medizin

Erklärbarkeit von KI in der Medizin KI-basierte Entscheidungsprozesse können von Anwender:innen oft nicht nachvollzogen werden. Es bleibt im Dunkeln, welche Faktoren bei Vorschlägen, Vorhersagen und Entscheidungen einen Ausschlag geben. Gleichzeitig machen KI-Systeme bereits heute in vielen Fällen weniger Fehler als der Mensch. Sollten diese Systeme auch für den Menschen nicht-nachvollziehbare Entscheidungen treffen dürfen oder sollte Erklärbarkeit eine Voraussetzung für den Einsatz in medizinischen Bereichen sein? Diesen und weiteren Fragen widmen sich Kerstin Ritter und Dr. Marina Höhne, Leiterin der Nachwuchsforscher:innengruppe “Understandable Machine Learning” an der TU Berlin, in der aktuellen Episode von Dr. Med. KI.

Vorherige Episode

#17 - Digitale Diskriminierung

Algorithmen und ihre Vorurteile Vince Madai ist leitender KI-Forscher am QUEST-Zentrum für Responsible Research am Berlin Institute of Health der Charité Berlin sowie Gastprofessor für Medizinische Informatik an der Birmingham City University. Mit Kerstin Ritter spricht er über systematische Verzerrungen (Bias) in Daten und Algorithmen, wenn es beispielsweise um Alter, Geschlecht und Hautfarbe geht. Wie damit umgegangen wird und wie wichtig Transparenz hierbei ist, sind zentrale Themen dieser Podcastfolge.

Nächste Episode

#19 - Black Box KI

Erklärbare KI in der medizinischen Anwendung Im zweiten Teil zu “Black Box KI” sprechen Marina Höhne und Kerstin Ritter über verschiedene Modelle erklärbarer KI, sowie deren Anwendung beispielsweise bei der medizinischen Bild- und Krebserkennung. Hieraus ergeben sich Herausforderungen, wie die Entwicklung standardisierter Metriken, die dabei helfen sollen, die Vertrauenswürdigkeit von ki-basierten Erklärungen und Entscheidungen zu prüfen. Wie man diesen Herausforderungen begegnet und welche Rolle der Mensch bei all dem spielt, sind Themen dieser Podcastfolge.