Ärzte und medizinisches Personal begegnen oft einer so großen Vielfalt an Krankheitsbildern, dass die Übersicht kaum noch zu wahren ist. Zudem müssen klinische Befunde, Laborwerte und Bildgebung zusammengeführt, Anamnesen niedergeschrieben und Arztbriefe verfasst werden: Hier könnte eine KI-gestützte Anwendungen etwa Wege zur Diagnose aufzeigen und wertvolle Zeit sparen.

So belegen Studienergebnisse, dass textbasierte Dialogsysteme wie ChatGPT Ärzte künftig beim Erstellen von Arztbriefen unterstützen könnten. In einer aktuellen Pilotstudie (Acta Orthopaedica, 2024) lieferte ChatGPT Dokumente von vergleichbarer Qualität wie zwei Ärzte, war dabei aber deutlich schneller: ChatGPT erstellte die Dokumente innerhalb von 2,1 bis 3,8 Minuten. Die Ärzte benötigten dagegen zwischen 22,0 und 33,4 Minuten, also etwa zehnmal so lange. Dennoch war die Qualität vergleichbar.

https://www.aerzteblatt.de/nachrichten/150328/ChatGPT-schreibt-Arztbriefe-zehnmal-schneller?rt=ca76ea356d14f760e890fe5559f10f20

Eine aktuelle Studie aus Großbritannien zeigt zudem, dass das klinische Wissen und das Schlussfolgerungsvermögen des großen KI-Sprachmodells Chat-GPT-4 sich dem Niveau von Fachärzten für Augenheilkunde annähert. Das Sprachmodell (median 69 % richtig) schnitt in dem Test signifikant besser ab als die Assistenzärzte (43 %), deren ophthalmologischer Wissensstand etwa dem eines Allgemeinmediziners entsprach. Im Vergleich zu Ärzten in Facharztausbildung (59 %) sowie Augenfachärzten (76 %) schlug sich Chat-GPT-4 etwa gleich gut.

https://www.aerzteblatt.de/nachrichten/150815/GPT-4-diagnostiziert-und-behandelt-Augenprobleme-aehnlich-gut-wie-Augenaerzte?rt=ca76ea356d14f760e890fe5559f10f20

Tatsächlich wandeln sich durch den Einsatz von KI bereits heute die Arbeitsweisen etwa an sächsischen Kliniken. Darauf hat Ende April der Leiter des Geschäftsfeldes „Healthcare Analytics“ am Fraunhofer IAIS, Dario Antweiler, hingewiesen. „Es gibt eine große Bandbreite an Prozessen im Gesundheitswesen, die durch Digitalisierung und KI verbessert werden können“, sagte er. Im Krankenhaus etwa komme KI bereits für eine optimierte OP-Planung, das Schreiben von Arztbriefen und eine automatisierte Abrechnungscodierung zum Einsatz. Das spare Zeit und ermögliche mehr Zeit für die Behandlung von Patienten.

https://www.aerzteblatt.de/nachrichten/151009/Einsatz-von-KI-veraendert-Arbeitsweisen-an-saechsischen-Kliniken?rt=ca76ea356d14f760e890fe5559f10f20

Doch auch auf dem sensiblen Gebiet der Patienteninformation hat KI das Potenzial, Ärzte zu entlasten. Dies ist ein Ergebnis der ChatSLE-Studie von Forschern aus Hamburg und Marburg, die aktuell in der Fachzeitschrift „Lancet Rheumatology“ veröffentlicht wurde. „Bei der verblindeten Evaluation erreichten die KI-generierten Antworten höhere Qualitätswerte als die der Rheumatologen der Website“, berichtete die Studienleiterin Dr. Isabell Haase, Oberärztin am Hamburger UKE. Auch im Hinblick darauf, wie empathisch die Antworten wirkten, schnitt ChatGPT sehr gut ab und lag mit den Experten-Statements gleichauf.

https://doi.org/10.1016/S2665-9913(24)00056-0

Angesichts des Fachärztemangels, der in der Rheumatologie besonders gravierend ist, könnte hierin langfristig eine Chance zur Verbesserung der Patientenversorgung liegen, erklärte dazu die Deutsche Gesellschaft für Rheumatologie und Klinische Immunologie e.V. (DGRh) dazu am 22. April 2024.

Der Einsatz von KI in der Radiologie war zudem das zentrale Thema auf dem 105. Deutschen Röntgenkongress vom 8. bis 10. Mai 2024 in Wiesbaden unter dem Titel: „Radiologie in Transformation“. Schwerpunkte des Kongresses waren Fragen etwa danach, wie KI die Radiologie verändern wird, welche Vorteile sich aus dem Einsatz von KI im klinischen Alltag ergeben und wie man diese für eine Verbesserung der Gesundheitsversorgung von und Patienten nutzen kann.

Die (zukünftig) enorme Bedeutung von KI in der Medizin erkennt auch die Politik. Das Zusammenspiel von Digitalisierung und Künstlicher Intelligenz (KI) werde die Medizin „komplett verändern“, prognostizierte Bundesgesundheitsminister Karl Lauterbach im Rahmen der Digital-Health-Messe DMEA vom 9. bis 11. April 2024 in Berlin ab.

Er betonte, dies denke man bereits in allen Gesetzgebungsverfahren mit und verfolge mit Blick auf die für KI-Anwendungen nötige Datennutzung seit dieser Legislatur eine entsprechende gesundheitspolitische Strategie. Insbesondere mit dem Gesundheitsdatennutzungsgesetz (GDNG) sowie dem Digitalgesetz (DigiG) wolle man eine Umgebung schaffen, die abgesicherte Datenverarbeitung mit und durch KI-Modelle im großen Maßstab ermögliche.

https://www.aerzteblatt.de/archiv/238592?rt=ca76ea356d14f760e890fe5559f10f20

So haben die EU-Staaten am 21. Juni 2024 schärfere Regeln für KI in der Europäischen Union beschlossen. Es sei das weltweit erste Gesetz dieser Art und könne einen globalen Standard für die Regulierung von KI setzen, wie die Länder mitteilten.

Das Gesetz zielt darauf ab, die Nutzung von KI in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien. Systeme, die als besonders risikoreich gelten und beispielsweise in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen eingesetzt werden, müssen künftig strenge Anforderungen erfüllen.

https://www.aerzteblatt.de/nachrichten/151576/KI-Gesetz-der-Europaeischen-Union-endgueltig-beschlossen?rt=ca76ea356d14f760e890fe5559f10f20

Auch drängten die Delegierten des 128. Deutschen Ärztetages vom 7. bis 10. Mai 2024 in Mainz auf gemeinsame, wertebasierte rechtliche Rahmenbedingungen für die Verwendung von KI in der Medizin. Die KI-Verordnung der Europäischen Union und die KI-Konvention des Europarates seien dafür gute Vorlagen. Der Vorstand der Bundesärztekammer solle sich national und auf europäischer Ebene für eine verantwortungsvolle Entwicklung und Verwendung von KI-Systemen im Bereich der Medizin einsetzen, heißt es in einem mit großer Mehrheit angenommenen Antrag.

Aus heilberuflicher Sicht dürfe die fortschreitende Delegation bestimmter Aufgaben an technische Systeme nicht zum schleichenden Verlust von ärztlichen Kompetenzen und Erfahrungswissen führen. Zudem müsse dem sogenannten „Automation Bias“ entgegengewirkt werden: KI-Empfehlungen dürfe nicht blind gefolgt werden, heißt es im Antrag. Auch müsse der Einsatz von KI im Gesundheitswesen finanzierbar bleiben und dürfe nicht zu einer Zweiklassenmedizin führen, weder für Patienten noch für Ärzte. „KI kann den Arzt oder die Ärztin unterstützen und entlasten, darf ihn oder sie aber nicht ersetzen“, forderten die Delegierten.

https://www.aerzteblatt.de/nachrichten/151383/KI-in-der-Medizin-Aerzteschaft-fuer-verbindlichen-Rechtsrahmen?rt=ca76ea356d14f760e890fe5559f10f20

DGIM Futur – KI als wichtiges Zukunftsthema auf dem Internisten-Kongress

Chancen des Einsatzes von Künstlicher Intelligenz (KI) in der Medizin, aber auch die damit zusammenhängenden Probleme, wurden insbesondere auf dem 130. Kongress der Deutschen Gesellschaft für Innere Medizin e.V. (DGIM) vom 13. bis 16. April 2024 in Wiesbaden ausführlich diskutiert und im Ausstellungsbereich DGIM Futur mit KI- und Virtual Reality-Anwendungen direkt präsentiert.

„Angesichts des wachsenden Fachkräftemangels in der Medizin können technische Hilfsmittel, die den Arbeitsalltag erleichtern, extrem hilfreich dabei sein, unsere Aufmerksamkeit wieder mehr den Patientinnen und Patienten und ihren individuellen Bedürfnissen zuzuwenden“, erklärte dazu der Kongresspräsident Prof. Dr. Andreas Neubauer, Direktor der Klinik für Hämatologie, Onkologie und Immunologie am Universitätsklinikum Gießen und Marburg (UKGM).

Ein zu hohes Maß an Vertrauen kann jedoch dazu führen, dass Ärzte sich zu unkritisch auf diese Technologie verlassen, während zu wenig Vertrauen darin resultieren kann, dass sie die Vorteile dieser Technologie nicht nutzen. „Denn trotz ihrer erheblichen Potentiale muss auch für KI stets die oberste ärztliche Maxime gelten: Primum nil nocere – das Bestmögliche erreichen, ohne zu schaden, und ein unausgewogenes Maß an Vertrauen zu ihr ist ein wichtiger Einflussfaktor“, fügte Prof. Dr. Ivica Grgic, Oberarzt der Klinik für Nephrologie und Mitglied des Instituts für Künstliche Intelligenz (KI) am UKGM in Marburg, hinzu.

Wie weit darf unser Vertrauen in KI gehen?

Daher stellen sich grundsätzliche Fragen:

  • Wieviel Verantwortung sollte eine KI in der Medizin tragen?
  • Wie weit darf und sollte unser Vertrauen in KI-Systeme gehen?

„Die Frage müsste lauten: Entspricht das Vertrauen in die KI dem, was sie leisten kann? Wie bei jedem Hilfsmittel, dass in der Medizin genutzt wird, muss der Behandelnde sich im Klaren darüber sein, was die Hilfe leisten kann – und was eben nicht“, betonte Prof. Dr. Martin Hirsch, der das Institut für KI in Marburg leitet und Mitglied der Kommission Digitale Transformation in der Inneren Medizin der DGIM ist.

Zu dieser Thematik führte M. Sc. Nadine Schlicker, wissenschaftliche Mitarbeiterin von Hirsch am Institut für KI, aus, dass nach § 14 des aktuell von der EU erarbeiteten Artificial Intelligence Act (AI Act / Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz) „natürliche Personen, denen eine menschliche Aufsicht zugewiesen ist, in die Lage versetzt werden, den Umständen entsprechend angemessen und verhältnismäßig zu handeln“, d. h. Menschen müssen in Entscheidungen der KI korrigierend eingreifen können.

Hier ergeben sich nach aktuellem Kenntnisstand allerdings Probleme, gab Schlicker zu bedenken:

  • Menschen greifen zwar ein. Das führt aber in den meisten Fällen nicht zu einer Verbesserung der Entscheidung, sondern es kommt im Gegenteil zu einem „Verschlimmbesserungseffekt“.
  • Gerade bei komplexen Fällen werden Menschen oft unsicher und verlassen sich lieber auf die Entscheidung der Maschine, statt diese in Frage zu stellen.

Es stellt sich daher die Frage, ob bzw. in welchen Fällen die geforderte menschliche Aufsicht wirklich zu einer Reduzierung des Risikos durch die KI führt, so Schlicker.

Damit KI-gestützte Entscheidungshilfen eine echte Erleichterung im Behandlungsalltag werden können und das Vertrauen von Ärzteschaft und Patienten gleichermaßen genießen, gilt es daher, einige Punkte bei deren Etablierung zu beachten, erklärte Hirsch:

  • Ärzte können nicht ersetzt werden! Das Vertrauensverhältnis und der Austausch zwischen Behandelnden und Patienten ist entscheidend für den Behandlungserfolg und darf nicht von Hilfsmitteln ersetzt, sondern lediglich ergänzt werden.
  • Ethische Standards entwickeln und der KI vermitteln: Gerade, aber nicht nur, am Lebensende gewinnt die ethische Komponente bei medizinischen Entscheidungen an Bedeutung. Nicht jede lebensverlängernde Maßnahme, welche die KI vorschlägt, entspricht dem Wunsch des Patienten und nicht alles, was medizinisch möglich ist, bringt einen vertretbaren Nutzen. „Ihre Wirkmächtigkeit für die Medizin kann KI nur entfalten, wenn wir klare ethische Rahmenbedingungen setzen“, betonte Hirsch.
  • KI kann nicht im Sprint Einzug in die Medizin halten: Vor dem Einsatz von KI in der Medizin als Entscheidungshilfe muss die gesellschaftliche Auseinandersetzung zu ethischen Fragen in der Medizin stehen.
  • Von der Behandlung zur Heilung: KI kann im Gesundheitssystem notwendige Freiräume schaffen, wenn wir sie so anlegen, dass sie ethisch geprägt, präventiv ausgerichtet und gesundheitsfördernd ist.

KI-Anwendungen in der Medizin und bei Versicherungen – wie ist die Prognose?

„Die KI wird uns keine schnelle Zeitersparnis bringen, aber mittelfristig echte Gewinne für ein Gesundheitssystem, das derzeit von massivem Fachkräftemangel getrieben ist“, prognostizierte Hirsch.

„KI-Anwendungsfälle müssen gefunden, entwickelt getestet und implementiert werden“, erklärte Prof. Dr. Jens Eckstein, Leitender Arzt an der Klinik für Innere Medizin am Universitätsspital Basel (Schweiz). „Ob die Medizin dadurch menschlicher oder unmenschlicher wird, das liegt an uns.“ So könne etwa die Zeitersparnis durch KI-Anwendungen vom Arzt dafür genutzt werden, mehr Zeit für seine Patienten zu haben.

Dass KI gerade auch in der Versicherungswirtschaft zukünftig eine wesentliche Rolle spielen wird, belegt ein Tagungsbericht von Johanna Scheiper, LL.M., wissenschaftliche Mitarbeiterin an der Forschungsstelle für Versicherungswesen Münster, über den 41. Münsterischen Versicherungstag am 25.11.2023 in der Fachzeitschrift „Versicherungsrecht“ (Heft 8 vom 15. April 2024).

Dort erklärte etwa Anastasia Golz, Executive Assistant to the CEO bei der HDI Versicherung AG, die Bedeutung vom KI sei „riesig“. Sie prognostizierte eine „tiefgreifende Veränderung der gesamten Wertschöpfungskette in Versicherungsunternehmen – und des gesamten täglichen Lebens“ durch generative KI.

Dr. Gerd-Marko Ostendorf
Versicherungsmediziner

 

Hiweis:

Auf dem 15. Kongress für Versicherungsmedizin und Begutachtung am 5.12.2024 in Frankfurt/Main wird Künstliche Intelligenz ein wichtiges Thema sein.

Haben Sie Fragen oder Anmerkungen?

Rufen Sie uns an 0800 7242159 oder nutzen Sie unser Kontaktformular

Unser Fach-Newsletter hält Sie auf dem Laufenden.

Mit Anmeldung zum kostenfreien IVM-Newsletter verpassen Sie keine wichtigen medizinisch gutachterlichen Meldungen! So erhalten Sie regelmäßig Neuigkeiten über Veröffentlichungen und Termine aus dem Institut für Versicherungsmedizin

Einverständnis*
 


Zum Absenden des Formulars muss Google reCAPTCHA geladen werden.
Google reCAPTCHA Datenschutzerklärung

Google reCAPTCHA laden