KI IN DER MEDIZIN

KI - eine "Büchse der Pandora"? 
Werden KI-Anwendungen in der Medizin von Patienten schon bald als intelligenter -und aufgrund eines gefälligen Sprachmodus -als "empathiefähiger" als Ärzte aus Fleisch und Blut  interpretiert?

Skeptiker und Philosophen warnen, dass von der KI Gefahren ausgehen, die den Fortbestand der Menschheit gefährden können - auf gleicher Alarm-Stufe, wie die Gefahren, die von Überbevölkerung, einem drohenden Atomkrieg, von Pandemien oder dem sich wandelndem Weltklima ausgehen.

Es hat zumindest  den Anschein, als wären sich die KI-Expertinnen und -Experten darin einig,  dass vor der breiten Anwendung von künstlicher Intelligenz erst einmal eine Periode intensivsten Nachdenkens die Schaffung risikosenkender gesetzlicher Rahmenbedingungen stehen sollte.

Mir fällt es aber derzeit schwer auch nur einen Politiker zu benennen, dem ich die Lösung dieser aanspruchsvollen Aufgabe zutrauen möchte - sind sie doch oft schon am Erlernung eines Berufs gescheitert - oder am erfolgreichen Abschluss eines Studiums oder einer simplen Dissertation. Oder an beidem.
Aussenstehenden drängt sich daher derzeit der deprimierende Verdacht auf, dass die Menschheit, bzw. die eigentlich zuständigen "Experten", einfach nicht gebildet,  intelligent und unkonventionell denkend genug sind, um dieses noch nie dagewesene Problem gedanklich zu durchdringen und sinnvolle Regelwerke auch nur zur konzipieren und dann zur  Diskussion zu stellen.

Die geforderte breite öffentliche Diskussion kann dem Anschein nach nicht stattfinden, da offensichtlich zu wenige Menschen das Problem in seinen breitgefächerten Dimensionen auch nur ansatzweise intellektuell durchdringen - das gilt für bildungsferne und bestenfalls durchschnittlich intelligente Wähler und Gewählte gleichermaßen.

Vielleicht gibt es in Deutschland nur einige Dutzend Menschen, die eine "breite Diskussion" führen können? Oder sind es gar weniger? Und ist eine "breite Diskussion" überhaupt denkbar, an der nur wenige sachkundige Menschen teilnehmen können?

Und wer ist dafür geeignet, um die "Experten" kontrollieren zu können?
Dessen ungeachtet wird auf vielen Ebenen zum Thema KI planlos experimentiert und geforscht. Dabei deutet sich an, dass KI möglicherweise bestimmte Berufsgruppen nicht als Hilfsmittel unterstützen wird, sondern dass die KI - wenn die Büchse der Pandora erst einmal geöffnet ist - möglicherweise angesehene Berufe einfach ausradieren wird.
Berufe, die heute noch als stabile Säulen unserer Kultur gelten. Besonders gefährdet sind akademische Berufe wie Ärzte, Notare, Architekten, Programmierer bzw. Rechtsanwälte. Ist es denkbar, dass in nicht allzu ferner Zukunft weniger als 1% der Akademiker damit beschäftigt sein wird, jene KI-Anwendungen weiter zu optimieren, die sie letztendlich überflüssig machen werden?

In jüngster Zeit deuten wissenschaftliche Untersuchungen darauf hin, dass von KI-Software "belebte" Roboter dem Anschein nach Patienten mit mehr "Empathie" beraten als Ärzte aus Fleisch und Blut.
Oder dass in der Medizin-Diagnostik (z.B. der Radiologie) bestimmte, auf KI basierende Hilfsprogramme mehr zutreffende Diagnosen stellen, als die menschlichen Diagnostiker, die sie eigentlich nur von zeitraubenden Routinearbeiten entlasten sollen.
Mir drängt sich jedenfalls der Eindruck auf, dass es höchste Zeit ist, dass alle Alarmsirenen im Land Laut geben. Doch erst kürzlich fiel der Öffentlichkeit wieder einmal auf, dass die benötigten Warnsirenen in zahllosen Gemeiden längst dem Rotstift zum Opfer gefallen sind.
Und wenn zahllose Schüler die Schulen verlassen ohne richtig lesen und schreiben zu können  - und Studenten zu ungebildet sind,  um Basisvorlesungen folgen zu können, dann muß man wohl befürchten, dass  auch keine KI-Experten nachwachsen werden.
Wozu brauchen wir über viele Jahre weitergebildete Dermatologen, wenn spezialisierte KI-Software schon bald schwarzen Hautkrebs und andere Hautkrankheiten zuverlässiger erkennen kann als die Hautärzte selbst?
Wenn daraufhin KI-Anwendungen optimale Therapien vorschlagen, deren Erfolge wiederum von KI-Software "objektiv" bewertet werden?
Theoretisch könnte in einem einzigen staatlichen Institut die bundesweit anfallende Melanom-Diagnostik durchgeführt werden. Und in der Peripherie fertigen dann nicht etwa Hautärzte die mit KI zu analysierenden Bilder an, sondern medizinisch-technische Assistentinnen und Assistenten.

Die über "sein oder nicht-sein" mitentscheidenden Anamnesen werden von den Patienten selbst durch simples Ankreuzen auf Computer lesbaren Vordrucken dokumentiert. Später werden verdächtig erscheinende Hautproben von OP-Robotern entnommen und von anderen Maschinen für die Histologie aufbereitet um von einer weiteren spezialisierten KI-Anwendung beurteilt zu werden.

Ärzte helfen lediglich nur noch dann aus, wenn der IQ der Patienten nicht ausreicht, um die Vordrucke zu verstehen und richtig auszufüllen. Oder wird selbst diese Aufgabe von spezialisiertem Assistenz-Personal übernommen? Was sollen die Ärzte dann noch machen - Mediziner, die vielleicht noch auf 10% des Wissens zeitnah zurückgreifen können, das sie zum Staatsexamen auswendig gelernt hatten.  Und diese Erinnerungssplitter sind zum Teil längst veraltet. Das sind düstere Aussichten für die Jungen.
Die heute noch beschworene Angst vor Fehldiagnosen wird gegenstandslos, wenn man aufgrund wissenschaftlicher Daten erkannt hat, dass die KI-Anwendungen weniger Fehler machen als die jeweiligen menschlichen Experten. Wer will dann noch Ärzte aus Fleisch und Blut an sich heranlassen? Und was können Ärzte, was medizinisches Assistenzpersonal nicht nach kurzer Einarbeitungszeit auch kann?

Irren ist nicht nur menschlich - sondern auch die Programmierer der KI-Anwendungen machen Fehler, so dass dann auch die KI irrt. Blindes Vertrauen wäre fahrlässig. Doch wer versteht die KI-Anwendung so gut, dass er die Fehler lokalisieren und korrigieren kann?

Für die betroffenen Patienten ist es ohne praktische Bedeutung, wer oder was den Fehler gemacht hat.
Und es kommt erschwerend hinzu, dass die einmal funktionierende KI-Software wahrscheinlich leichter zu optimieren ist als der Wissensstand menschlicher Spezialisten im fortgeschrittenen Lebensalter.
  Es drängt sich die Frage auf, wozu wir noch Radiologen benötigen, wenn diese wissenschaftlich bewiesen bei der Bewertung von Röntggenbildern mehr Fehler machen als eine sorgfältig mit Rohdaten gefütterte KI-Diagnose-Anwendung?

Wer wird sich noch vertrauensvoll von Ärzten beraten lassen, wenn er aus den Medien erfahren hat, dass KI-Software qualitativ hochwertigere Ratschläge erteilt als ein Arzt - und dies auch noch in einer Form, die von vielen Patienten als "empathisch" empfunden wird?
Computer sind im Gegensatz zu Ärzten nie gestresst, übermüdet oder in Zeitnot.

Fragen über Fragen - und wer soll diese stellen und zufriedenstellend beantworten? Die derzeit übliche Vogel-Strauß-Politik nach dem Motto "Es wird schon nicht so schlimm werden" ist ein Zeichen der Hilflosigkeit und sicher keine zielführende Problem-Lösung.

Dr. med. M. Baumgartner