KI-Einsatz beim Recherchieren und Schreiben in der Medizin: Aktuelle Daten, grundlegende Gefahren und ein Workshop-Angebot
Im September halte ich auf einem Medizinerkongress einen Workshop über Recherchieren und Schreiben mit KI. Bei der Vorbereitung – ich arbeite mich auch fachspezifisch immer tief ein – zeigt sich, wie sehr KI bereits in der Medizin verankert ist und wie groß zugleich die Probleme sind.
Das größte Dilemma liegt in der Ausbildung. Zwar nutzen 76% der Medizinstudierenden ChatGPT, aber eine formale KI-Ausbildung haben nur 5% erhalten.
Wie KI klinische Notizen erstellt
In der Medizin können Fehler schwere Folgen haben. Wie überhaupt der Einsatz von KI in der Medizin fachlich & ethisch besonders fundiert sein muss. Was passiert, wenn das nicht gemacht wird, zeigt sich in den USA. (Links im 1. Kommentar)
30% der amerikanischen Ärzte erstellen ihre klinischen Notizen mit KI. Tendenz stark steigend. Was passiert, ist Folgendes:
- Die KI hört über spezielle Tools das Patientengespräch mit.
- Die KI transkribiert und synthetisiert das Gespräch.
- Die KI erstellt eine klinische Notiz. Sie enthält was der Patient gesagt hat, was der Arzt gemessen und beobachtet hat sowie die Diagnose und die Behandlungsempfehlungen des Arztes.
Das Risiko: Denken durchs Schreiben geht verloren
Die KI erstellt zwar nicht die Diagnose, aber sie formuliert den Teil, in dem die Diagnose steht. Der Arzt muss nur noch gegenlesen und unterschreiben. Und genau da wird es problematisch, denn so sehr die KI auch Zeit und Papierkram spart, so sehr spart sie dem Arzt auch eine bestimmte Art des Denkens, nämlich jene, die durchs Schreiben ausgelöst wird.
Wer dagegen nur liest, was die KI geschrieben hat, sucht nur noch Fehler in einem Text, der so souverän klingt, dass es selbst für Ärzte etwas Verlockendes hat, ihn einfach zu unterschreiben. Empirische Daten bestätigen das. Dabei macht die KI in ihren Zusammenfassungen noch viele Fehler.
Gewiss: das weitere Training wird die Fehlerrate senken. Aber mein Punkt ist ein anderer: Wenn wir über KI nachdenken, müssen wir uns fragen, was wir delegieren wollen und was nicht.
Der Workshop: Recherchieren und Schreiben mit KI
In meinem Workshop wird es nicht um Diagnosen und Behandlungsempfehlungen gehen, sondern um das Schreiben wissenschaftlicher Paper. Und um den Weg dorthin: das Recherchieren und Strukturieren der Informationen mit KI.
Aber das Grundproblem ist dasselbe: Was delegieren wir an die KI und was macht das mit uns? Konkret wird es um Fragen gehen wie: Wie findet man valide Daten und aktuelle Literatur mit KI? Wie entgeht man KI-Halluzinationen und wie entdeckt man sie? Und wie bringt man am Ende alle Informationen fundiert zusammen und bleibt dabei kritisch und wachsam?
PS: Der Workshop "KI-Nutzung beim akademischen Schreiben – Chancen, Tools und Grenzen" findet am 12. September 2026 im Rahmen des 36. Deutschen Hautkrebskongress in Leipzig statt. Alle Infos gibt's hier ( Link).
Im Grunde machen Medizinstudenten - und Ärzte, die KI nutzen - das, was Forscher "repair literacy" nennen, d.h. die KI-Bildung entsteht bei ihnen durch eine unstrukturierte Anwendung im Alltag, Reparatur von Fehlern inklusive.
