Künstliche Intelligenz (KI) verändert die Arbeitswelt rasant, so auch in der Medizin. Sie birgt viel Potential für Arbeitserleichterungen und schnelle Informationsbeschaffung, geht aber auch mit etlichen Risiken einher. Daher ist es nur folgerichtig, dass sich aktuelle Tagungen und Kongresse intensiv mit dem Einsatz von KI in der Medizin beschäftigten.

Digitale Transformation in der Medizin

Chancen und Grenzen der Künstliche Intelligenz in der Medizin standen im Fokus des 132. Internistenkongresses der DGIM vom 18. bis 21. April 2026 in Wiesbaden. Denn es handelt sich dabei nicht mehr um eine Zukunftsvision, sondern KI beginnt, den klinischen Alltag konkret zu verändern: KI-Systeme unterstützen bei der Dokumentation, analysieren große Datenmengen und helfen, Therapieentscheidungen individueller zu treffen.

In den USA gibt es bereits speziell auf das Gesundheitswesen zugeschnittene KI-Systeme, etwa Varianten von ChatGPT oder Claude for Healthcare, erklärte Prof. Dr. med. Dr. rer. nat. Jens Kleesiek, Direktor des Instituts für Künstliche Intelligenz in der Medizin am Universitätsklinikum Essen und der Universität Duisburg-Essen. Aber es geht längst darüber hinaus. Die Rede ist von agentischen Systemen – persönlichen Assistenten, die nicht nur zuhören, sondern handeln: Sie schreiben den Arztbrief, melden den Patienten zum CT an. Allein im deutschsprachigen Raum gibt es in diesem Bereich bereits mehr als 100 Start-ups.

Und das ist kein Zufall; in manchen Branchen entkoppelt sich das Wirtschaftswachstum bereits von der Beschäftigung. Das wird auch im Gesundheitswesen kommen müssen, wenn die Versorgung bezahlbar bleiben soll. Wir haben mehr Prozesse, mehr Dokumentationspflichten, mehr bürokratische Hürden – und gleichzeitig einen gravierenden Fachkräftemangel, so Kleesiek. Ohne digitale Unterstützung werden wir das schlicht nicht stemmen.

Was braucht es, um digitale Werkzeuge sinnvoll einzusetzen? Zunächst interoperable Daten. Nicht nur der Mensch muss wissen, welche Daten vorliegen und wie sie zu interpretieren sind – auch die Maschine.

Hierfür gibt es im Gesundheitswesen klare Standards: FHIR und DICOM. Am Universitätsklinikum Essen liegen alle Patientendaten in diesen Formaten vor – mehr als zwei Milliarden Datenpunkte. Am Institut für KI in der Medizin, dem IKIM, entwickeln Kleesiek und Mitarbeiter darauf aufbauend Methoden für Ärzte und Pflegekräfte, aber vor allem auch für Patienten.

Neben der Datenverfügbarkeit braucht es Rechenleistung. Das Rechenzentrum am IKIM verfügt über modernste Hardware, die es ermöglicht, KI-Modelle nicht nur anzuwenden, sondern auch zu trainieren – mit einer Software, wie sie auch in den Rechenzentren von AWS, Google und Microsoft eingesetzt wird. Der entscheidende Unterschied: Die Daten verlassen das Haus nicht, betonte Kleesiek.

Der dritte Baustein sind die Menschen: Vom talentierten KI-Forscher über engagiertes medizinisches Personal bis hin zu einem Vorstand, der Digitalisierung zur Chefsache macht. Kurzum: Es braucht ein Ökosystem aus Menschen, Daten und Maschinen.

Mit einem solchen Ökosystem lassen sich dann digitale Werkzeuge wirklich wirkungsvoll einsetzen. Das reicht von der Diktiersoftware MeDict, welche die Dokumentation erleichtert, über die Erfassung von Kennzahlen wie der Schnitt-Naht-Zeit im OP und medizinischen Verläufen bis hin zu agentischen Sprachmodellen wie „EMR Guard“ – einem System zur Qualitätssicherung, das in Echtzeit prüft, ob eine vom Patienten berichtete Allergie auch strukturiert in der Krankenakte hinterlegt ist.

Inzwischen haben Kleesiek und Mitarbeiter mehr als 80 Software-Produkte für Forschung und Versorgung entwickelt. Vorhersagealgorithmen helfen etwa einzuschätzen, wie viele Blutprodukte in den kommenden Tagen benötigt werden – oder wie ein Patient auf eine Chemotherapie ansprechen wird.

Diese personalisierte Medizin wird durch Echtwelt-Daten möglich, erklärte Kleesiek. Mit erklärbarer KI können außerdem den Einfluss einzelner diagnostischer Maßnahmen und Therapien auf das individuelle Patientenrisiko sichtbar gemacht werden. Gerade erweitere sein Team diese Methoden, um individuelle Krankheitsverläufe vorherzusagen – und dann die entscheidende Frage zu stellen: Was wäre wenn? Was wäre, wenn wir Therapie A statt Therapie B gäben?

Haftungsrechtliche Risiken beim Einsatz von KI in der ärztlichen Praxis

Dabei dürfen aber die Risiken der neuen Technologie nicht vergessen werden. So erklärte Prof. Dr. Steffen Schön, Chefarzt der Medizinischen Klinik I an den Oberlausitz-Kliniken Bautzen, auf dem 20. Allgemeinmedizin-Update-Seminar am 8. und 9. Mai 2026 in Mainz, dass haftungsrechtlich der Einsatz von KI in der (allgemein-)ärztlichen Praxis derzeit noch problematisch ist.

Die aktuelle Literatur beschreibt übereinstimmend, dass KI die klassische Zurechnungslogik des Arzthaftungsrechts komplizierter macht, weil zwischen Entwickler, Anbieter, implementierender Einrichtung und behandelndem Arzt mehrere Verantwortungsebenen treten. Ohne belastbare rechtliche Einordnung kann die praktische Haftung faktisch beim behandelnden Arzt landen, wenn Fehler der KI in die Behandlung einfließen.

Für die Ärzte bedeutet das: Wer eine KI-Empfehlung übernimmt, ohne sie inhaltlich zu prüfen, läuft Gefahr, dass aus einer vermeintlichen Assistenz-Technologie ein haftungsrechtliches Risiko wird. Juristisch besonders relevant ist dabei die Unterscheidung zwischen zugelassener medizinischer KI und generischer, nicht für den klinischen Einsatz bestimmter KI.

Für KI-basierte Medizinprodukte greifen in Europa die Medizinprodukteverordnung („Medical Device Regulation“) beziehungsweise die Verordnung über In-vitro-Diagnostika („In Vitro Diagnostic Regulation“) sowie ergänzend der „AI Act“ der Europäischen Union zur Regulierung von KI. Die Europäische Kommission und die „Medical Device Coordination Group“ (Koordinierungsgruppe für Medizinprodukte) betonen dabei, dass diese Regelwerke ergänzend und gemeinsam angewendet werden sollen.

Das ist für die Praxis bedeutsam, weil damit nicht jede „smarte“ Software automatisch als klinisch validiertes Medizinprodukt gelten darf. Ein frei verfügbares Sprachmodell, das Arztbriefe formuliert oder Differenzialdiagnosen vorschlägt, ist rechtlich und in Bezug auf die Evidenz anders zu bewerten als ein zugelassenes Medizinprodukt mit definierter Zweckbestimmung. Gerade in der Allgemeinmedizin, wo niedrigschwellige digitale Werkzeuge rasch in den Alltag diffundieren, ist diese Unterscheidung wichtig.

Auch aus dokumentationsrechtlicher Sicht entstehen neue Risiken. KI-gestützte Systeme zur Gesprächs-Transkription oder automatischen Notizen-Generierung können einerseits entlasten, andererseits aber sog. Halluzinationen, Auslassungen, semantische Verschiebungen oder Fehler in die Patientenakte eintragen.

In der hausärztlichen Versorgung ist dies besonders heikel, weil die Akte hier nicht nur der aktuellen Konsultation dient, sondern die longitudinale Krankengeschichte strukturiert und spätere Entscheidungen prägt, so Schön. Ein fehlerhaft generierter Eintrag könne dadurch nicht nur die aktuelle Episode, sondern eine gesamte Behandlungskette beeinflussen. Neuere Rahmenmodelle wie FAIR-AI fordern deshalb ausdrücklich eine Evaluation, eine Risiko-Kategorisierung und ein kontinuierliches Monitoring.

KI sollte in der Arztpraxis bevorzugt dort eingesetzt werden, wo die Aufgabe eng umrissen, das Fehlerrisiko begrenzt, die menschliche Überprüfbarkeit hoch und der Nutzen klar belegt ist, etwa bei Dokumentations-unterstützenden Funktionen in geschützten Systemen oder bei spezifischen, regulierten Medizinprodukten mit definierter Zweckbestimmung, fasste Schön den aktuellen Stand zusammen. Dagegen sei Zurückhaltung angezeigt, wenn generische Modelle mit identifizierbaren Gesundheitsdaten gefüttert werden, wenn Black-Box-Empfehlungen unmittelbar in Diagnostik oder Therapie einfließen oder wenn ungeklärt sei, wer Daten verarbeite, wer das System überwache und wer im Schadensfall Verantwortung trage.

KI-gestützte medizinische Gutachten: Wer trägt die Verantwortung für die Qualität?

Die Frage, wer den Qualitätsstandard KI-gestützter medizinischer Gutachten sichert, erörtert ausführlich Prof. Dr. Horst Christoph Broding, Institut und Poliklinik für Arbeits-, Sozial- und Umweltmedizin an der Universitätsmedizin Rostock, in der Zeitschrift „MedSach“, Heft 3/2026 von Mai/Juni 2026 (kostenpflichtig) nach einem Vortrag auf dem MedSach-Forum zum Thema „Künstliche Intelligenz in der Begutachtung“ am 28. Januar 2026. Diese Frage ist von zentraler Bedeutung, da Gutachten erhebliche Auswirkungen etwa auf Versicherungsleistungen, Renten und auch die Existenzsicherung von Betroffenen haben.

So müssen die spezifischen Risiken des KI-Einsatzes in der medizinischen Begutachtung ernst genommen werden. Diese betreffen nicht nur technische Fragen, sondern berühren grundsätzliche Prinzipien der Gerechtigkeit, der ärztlichen Verantwortung und des Rechtsstaats:

• Ein zentrales Problem stellen Qualität und Zusammensetzung der Trainingsdaten der KI dar. KI-Systeme lernen aus historischen Daten – und die historische Begutachtungspraxis ist nicht frei von strukturellen Verzerrungen. So wurden und werden etwa Frauen im arbeitsmedizinischen Kontext häufig anders beurteilt als Männer.
• Ein weiteres grundlegendes Problem betrifft die Erklärbarkeit und Akzeptanz KI-gestützter Einschätzungen. Komplexe Modelle des maschinellen Lernens – insbesondere Deep-Learning-Architekturen – sind in ihrer inneren Logik selbst für Experten oft nicht transparent nachvollziehbar. Dieser „Black-Box-Charakter“ stellt ein ernsthaftes Problem dar: Eine gutachtliche Empfehlung, die auf einem nicht erklärbaren Algorithmus basiert, kann weder von der begutachteten Person noch vom Auftraggeber, etwa einem Gericht, hinterfragt werden.
• Eng damit verknüpft ist das Phänomen des sog. „Automation Bias“, d. h. die Tendenz menschlicher Entscheidungsträger, Empfehlungen automatisierter Systeme weitgehend unkritisch zu übernehmen, insbesondere wenn diese mit numerischer Präzision oder scheinbar objektiver Systematik daherkommen. Im Kontext der medizinischen Begutachtung bedeutet dies, dass Gutachter Vorschläge der KI möglicherweise nicht hinreichend kritisch hinterfragen, weil der Algorithmus eine Art autoritative Aura besitzt.

Unmissverständlich ist dabei die grundlegende berufsrechtliche Position: Der begutachtende Arzt ist und bleibt für den Inhalt und das Ergebnis des Gutachtens verantwortlich, betont Broding. KI gelte rechtlich als Hilfsmittel, welches die Entscheidung unterstütze, aber nicht ersetze. Diese Aussage finde sich sowohl in den Stellungnahmen der Bundesärztekammer als auch in der einschlägigen medizinrechtlichen Literatur und sei als unverrückbares Prinzip zu verstehen.

Daraus ergeben sich verschiedene Forderungen:

Ärzte, die KI in der Begutachtung einsetzen, sind in besonderer Weise gefordert, sich eine fundierte digitale Gesundheitskompetenz anzueignen, welche weit über die bloße Bedienungskompetenz für konkrete Werkzeuge hinausgeht. Entscheidend ist vor allem die Fähigkeit zur kritischen Interpretation von KI-Angaben:

• Welche Trainingsdaten liegen einem System zugrunde?
• Für welche Populationen und unter welchen Randbedingungen wurde es validiert?
• Unter welchen Bedingungen ist seine Leistung nachweislich eingeschränkt oder unsicher?

Hinzu kommt die Notwendigkeit, das eigene Urteilsvermögen aktiv gegen den „Automation Bias“ zu schützen: Die Gutachter müssen sich routinemäßig fragen, ob ihre Einschätzung dem Vorschlag der KI folgt, weil dieser inhaltlich überzeugend begründet ist, oder weil der Widerstand gegen ein algorithmisch zustande gekommenes Ergebnis psychologisch unbequem ist.

Insgesamt, so Broding, ist der Aufbau eines zertifizierten KI-Rahmenwerks speziell für den Bereich der sozialmedizinischen Begutachtung dringend geboten. Ein solches Rahmenwerk sollte Mindestanforderungen an Validierung, Transparenz, Fairness-Monitoring und Auditierbarkeit definieren, die für alle im Begutachtungskontext eingesetzten KI-Systeme verbindlich gelten.

Zudem sollte „KI-Literacy“ – die Kompetenz, algorithmische Werkzeuge informiert, kritisch und verantwortungsbewusst einzusetzen – als fester Bestandteil in die Curricula der ärztlichen Weiterbildung zur ärztlichen Gutachtertätigkeit integriert werden.

Dr. Gerd-Marko Ostendorf
Versicherungsmediziner