Alle reden über den Einsatz Künstlicher Intelligenz. In vielen Bereichen der Wirtschaft, aber vor allem auch im Gesundheitssystem, wird sie neue Möglichkeiten eröffnen, stellt aber auch neue Herausforderungen an Entwickler und Anwender.
Inwieweit spielen dabei geschlechterdeterminierte Aspekte bisher überhaupt eine Rolle? Wir sprachen darüber mit Bettina Finzel, wissenschaftliche Mitarbeiterin und Doktorandin an der Otto-Friedrich-Universität Bamberg. Sie ist Mitwirkende bei unserem Workshop „Geschlechtersensible medizinische Aspekte des Trialogs Mensch (m/w/d) Künstliche Intelligenz – Mensch in der Arbeitswelt“ und befasst sich seit einigen Jahren mit KI für die Medizin.

Wo stehen wir nach Ihren Erfahrungen in diesem Prozess?

Finzel: Eine Künstliche Intelligenz (KI), die uns in Zukunft z.B. in der Medizin unterstützt, sollte meiner Meinung nach möglichst genderneutral, dafür aber personalisiert entscheiden. Außerdem brauchen wir Systeme, deren Entscheidungen wir nachvollziehen und steuern können.
Nehmen wir die KI-Entwicklung in der Medizin, die ich mit meiner wissenschaftlichen Arbeit seit längerem begleiten kann.
KI-basierte Ansätze, wie etwa maschinelles Lernen, werden derzeit sehr breit und intensiv auf medizinischen Daten getestet, zum Teil mit sehr guten Ergebnissen, z.B. in der Erkennung maligner Gewebestrukturen. Die Performance maschineller Lernverfahren ist meist deshalb so gut, weil sie in der Menge möglicher Merkmale in den Daten diejenigen identifizieren, die im Allgemeinen ein bestimmtes Krankheitsbild, eine Gewebestruktur etc. charakterisieren (z.B. der erhöhte Blutzuckerwert bei Diabetes). Das ist erst einmal eine wünschenswerte Eigenschaft, wenn durch die Zuhilfenahme einer KI die Genauigkeit in der Diagnose im Vergleich zu anderen Diagnosemethoden gesteigert werden kann.
Es gibt aber auch Fälle, in denen es von Nachteil ist, zu viel zu verallgemeinern. Beispielsweise dann, wenn Ausnahmen „weg-generalisiert“ werden und aufgrund ihres selteneren Vorkommens auch kein nennenswerter Einbruch in der Performance einer KI zu erkennen ist, wenn diese solche Fälle mal nicht erkennt. Die Medizin braucht daher Methoden, die solche unerkannten Ausnahmen nicht ignorieren.
Ein weiterer Aspekt der „maschinell gelernten Verallgemeinerung“ ist, dass Verfahren nur auf den vorhandenen Merkmalen generalisieren. Wenn diese Merkmale nicht vollständig oder sehr ungleich verteilt sind, kann es passieren, dass sich maschinelle Lernverfahren auf die am häufigsten repräsentierten Merkmale stützen, selbst dann, wenn diese medizinisch betrachtet, völlig irrelevant oder nur indirekt korreliert sind, z.B. die Hautfarbe einer Person, oder auch das Geschlecht!

Beide Problemstellungen verstärken sich noch, wenn das genutzte maschinelle Lernverfahren intransparent ist und somit nicht nachvollzogen werden kann, aufgrund welcher Merkmale eine Entscheidung getroffen wurde und wie wichtig diese Merkmale für die Entscheidung waren. Haben Sie dafür ein Beispiel?

Finzel: In einem kleinen Forschungsprojekt, das darauf abzielte, Gesichtsausdrücke zu klinischen Diagnosezwecken automatisiert zu erkennen - Schmerz- und Emotionserkennung für Patient/innen, die sich selbst nicht artikulieren können- haben meine Kolleginnen und ich uns einmal gezielt damit befasst, inwieweit sich das Geschlecht von Personen auf die Erkennung von Gesichtsausdrücken auswirkt. Dabei zeigte sich unter anderem, dass Gesichtsausdrücke bei Frauen weniger gut erkannt wurden, wenn diese in der Menge an Daten, aus denen das maschinelle Lernverfahren generalisiert hat, seltener vertreten waren. Für Männer fiel eine Ungleichverteilung weniger ins Gewicht. Dieses Phänomen lässt sich auch auf andere medizinische Fragestellungen übertragen: Wie erkenne ich einen Herzinfarkt bei Frauen und Männern? Habe ich vergleichbar viele Daten für alle Gruppen? Welche Merkmale treten verstärkt individuell auf, welche im Allgemeinen?

Was bedeutet, noch einmal nachgekakt, in diesem Prozess erklärbares und interaktives maschinelles Lernen?

Finzel: Es spielt eine ganz wichtige Rolle! Um KI möglichst robust gegen solche Probleme zu machen, brauchen wir nicht nur repräsentative Daten, sondern auch Methoden, mit denen wir Entscheidungen bereits während des Entwicklungsprozesses nachvollziehen und präventiv steuern können, sogenannte Methoden des erklärbaren und interaktiven maschinellen Lernens. Meiner Meinung nach bilden solche Methoden die Grundlage für eine personalisierte KI-basierte Unterstützung in der Medizin – und sicher auch in anderen Anwendungsbereichen. Auf den Fall der Erkennung von Schmerzen und Emotionen übertragen, helfen solche Methoden nicht zuletzt dabei, Ausnahmen, bspw. eine falsche Entscheidung der KI aufgrund einer Gesichtslähmung, zu erkennen und diese zu berücksichtigen, indem man z.B. Regeln in das maschinelle Lernverfahren einbaut, die dazu führen, dass die Lähmung anders analysiert wird als andere Fälle. Um solche Systeme umsetzen zu können, braucht es insbesondere Ansätze, die einen wechselseitigen Austausch zwischen Mensch und KI ermöglichen, sodass alle Akteure, die künstlichen und die menschlichen, voneinander profitieren können.