Die Künstliche Intelligenz kommt mit Riesenschritten auf uns zu, auch in der Medizin. Bundesgesundheitsminister Jens Spahn will mit dem geplanten Digitale-Versorgung-Gesetz erreichen, dass Ärzte demnächst auch Apps verschreiben können, zum Beispiel, um damit regelmäßig den Blutdruck zu prüfen oder damit Diabetiker damit ein digitales Tagebuch führen können. Auch in den Kliniken ist die künstliche Intelligenz teilweise schon weiter, als man von außen ahnt. „Wir müssen allerdings überlegen, ob wir alles, was wir können, auch können wollen.“ Das sagte Alena Buyx, Professorin für Ethik der Medizin und Gesundheitstechnologien an der TU München, auf einer Veranstaltung der AOK Niedersachsen.

Foto: Tim Schaarschmidt, AOK

Sie will sich als Ethik-Professorin nicht automatisch den Skeptikern zuordnen, zumal die neuen Technologien ein enormes Potenzial aufwiesen. Die künstliche  Intelligenz sei Ärzten in der Diagnostik bereits jetzt teilweise überlegen. Sie könne zum Beispiel bereits heute Melanome besser diagnostizieren. „Haben wir nicht eine Pflicht, eine Technologie zum Wohle der Patienten weiterzuentwickeln, die präziser ist und weniger Fehler macht als wir Menschen?“, fragte Buyx. Mit künstlicher Intelligenz ließen sich schließlich auch Fehlerquellen, zum Beispiel in Krankenhäusern, ausschalten. Dazu müsse die Qualität der Anwendung sorgfältig gesichert werden.

Je mehr der Algorithmus lernt, desto weniger verstehen wir. Es muss aber immer eine Erklärbarkeit geben. Wir müssen jederzeit wissen, wie das System zu seiner Diagnose kommt.

Die neue Technologie führe aber auch zu neuen Fragen, die so noch nie gestellt worden seien. Zum Beispiel diese: Wer trifft am Ende die Entscheidung, wie ein Patient behandelt werden soll: der Arzt oder der Computer? Je mehr und enger wir mit den Systemen zusammenarbeiten komme man zu der Frage, zu welchem Zeitpunkt der Mediziner doch eingreift. Dabei dürfe die Technik gerade in der Medizin nicht zu einer „Black Box“ werden. „Je mehr der Algorithmus lernt, desto weniger verstehen wir. Es muss aber gerade in der Medizin immer eine Erklärbarkeit geben. Wir müssen jederzeit wissen, wie das System zu seiner Diagnose kommt.“

Noch stellt Buyx große Berührungsängste zwischen Informatikern und Ärzten fest. „Die Grundlage von Ärzten ist die Arbeit mit Menschen, bei IT-Experten ist das weniger der Fall. Wir müssen aber unbedingt lernen, dass beide Seiten mehr miteinander reden und interdisziplinärer arbeiten.“ Auch eine ethisch begleitete Forschung und ein offener Diskurs sowohl über den Nutzen als auch über Schadenspotenziale seien bei der Entwicklung der Technologie wichtig. Große Herausforderungen sieht Buyx zudem in der Ausbildung der Medizin-Studenten. „Ich bin diejenige, die im achten Semester mit Studenten über die Digitalisierung spricht. Das ist viel zu spät.“


Lesen Sie auch:

Künstliche Intelligenz: Dumm ist das neue Schlau


„Die Welt dort draußen entwickelt sich wesentlich schneller, als wir das in unserer Komfortzone wahrhaben wollen“, meinte Jürgen Peter, Vorstandsvorsitzender der AOK Niedersachsen. Google, Apple und Amazon machten Druck, in dem sie Lösungen böten. Man müsse deshalb schneller und besser werden, benötige aber gleichzeitig eine gesamtgesellschaftliche Diskussion über die enormen Potenziale sowie die Risiken der Künstlichen Intelligenz. Man dürfe die aktuellen Herausforderungen nicht übersehen. „Wenn man die nicht in den Griff bekommt, bleibt auch die Begeisterung für die neue Technologie zurückhaltend.“

Bei aller Begeisterung für die künstliche Intelligenz darf man auch Alena Buyx zufolge die heutige Realität in der Gesundheitsversorgung nicht ausblenden. Ein Taxifahrer in München habe sich beklagt, im Klinikum rechts der Isar habe er bei jedem Besuch festgestellt, dass in der Toilette im Eingangsbereich keine Seife im Seifenspender enthalten war. „Wie können Sie über intelligente Roboter nachdenken, wenn es eine Klinik nicht einmal schafft, Seife im Spender nachzufüllen“, habe er ihr mit auf dem Weg gegeben. Für Buyx ist das ein wichtiger Punkt, weil es um Verteilungsgerechtigkeit und Prioritätensetzung gehe.

Auch Kollegen in den Kliniken sagten, sie hätten ganz andere Sorgen, zum Beispiel nicht genügend Krankenpfleger auf den Stationen. Es gebe also viel zu tun – neben der Weiterentwicklung der künstlichen Intelligenz müsse eben auch das Seifenspender-Problem in Angriff genommen werden.