27. Februar 2024 – Wenn Sie Ihrem Arzt eine Nachricht über einen Termin, eine Rezeptnachfüllung oder die Beantwortung einer Frage senden, antwortet dann tatsächlich künstliche Intelligenz oder eine Person? In manchen Fällen ist es schwer zu sagen.
KI kann jetzt in Ihre Gesundheitsversorgung involviert sein, ohne dass Sie es merken. Viele Patienten informieren ihren Arzt beispielsweise über ein Online-Portal über ihre Krankenakte.
„Und es gibt einige Krankenhaussysteme, die damit experimentieren, dass KI den ersten Entwurf der Antwort erstellt“, sagte I. Glenn Cohen während eines Webinars, das von der National Institute of Health Care Management Foundation veranstaltet wurde.
Die Zuweisung von Verwaltungsaufgaben sei eine relativ risikoarme Möglichkeit, den Einsatz künstlicher Intelligenz im Gesundheitswesen einzuführen, sagte Cohen, Rechtsanwalt und Direktor des Petrie-Flom Center for Health Law Policy, Biotechnology, and Bioethics an der Harvard Law School in Boston. Die Technologie kann den Mitarbeitern mehr Zeit einsparen, die sie jetzt für die Beantwortung von Anrufen oder Nachrichten zu Routineaufgaben aufwenden müssen.
Aber sollten Patienten wissen, dass die KI die erste Antwort generiert, wenn die Technologie klinische Fragen beantwortet? Müssen Patienten eine separate Einwilligungserklärung ausfüllen oder geht das zu weit?
Was ist, wenn ein Arzt eine Empfehlung abgibt, die teilweise auf KI basiert?
Cohen teilte ein Beispiel. Ein Patient und ein Arzt entscheiden, welche Embryonen aus der In-vitro-Fertilisation (IVF) implantiert werden sollen. Der Arzt gibt Empfehlungen ab, die zum Teil auf molekularen Bildern und anderen Faktoren basieren, die durch KI oder ein maschinelles Lernsystem ermittelt werden, diese jedoch nicht offenlegen. „Ist es ein Problem, das Ihnen Ihr Arzt nicht mitgeteilt hat?“
Wo stehen wir in Sachen Haftung?
Klagen können eine gute Möglichkeit sein, die Akzeptanz neuer Technologien zu messen. „Es gab erschreckend wenige Fälle zur Haftung für medizinische KI“, sagte Cohen. „Die meisten von denen, die wir tatsächlich gesehen haben, drehten sich um chirurgische Roboter, bei denen es wohl nicht wirklich die KI ist, die die Probleme verursacht.“
Es sei möglich, dass Fälle außergerichtlich beigelegt würden, sagte Cohen. „Aber im Großen und Ganzen ist es meiner Meinung nach so, dass die Menschen angesichts der Daten die Bedeutung von Haftungsfragen in diesem Bereich wahrscheinlich überschätzen. Aber trotzdem sollten wir versuchen, es zu verstehen.“
Cohen und Kollegen analysierten 2019 die rechtlichen Fragen rund um KI Standpunkt in der Zeitschrift der American Medical Association. Das Fazit für Ärzte: Solange sie sich an den Pflegestandard halten, sind sie wahrscheinlich in Sicherheit, sagte Cohen. Der sicherste Weg, medizinische KI zu nutzen, wenn es um Haftung geht, besteht darin, sie zur Bestätigung von Entscheidungen einzusetzen, anstatt zu versuchen, sie zur Verbesserung der Pflege einzusetzen.
Cohen warnte davor, dass der Einsatz von KI irgendwann in der Zukunft zum Standard der Pflege werden könnte. Wenn dies geschieht, besteht möglicherweise ein Haftungsrisiko nicht mit KI.
Versicherer setzen auf KI
Die Versicherungsgesellschaft Guidewell/Florida Blue führt bereits KI- und maschinelle Lernmodelle in ihre Interaktionen mit Mitgliedern ein, sagte Svetlana Bender, PhD, Vizepräsidentin für KI und Verhaltenswissenschaft des Unternehmens. Modelle identifizieren bereits Planmitglieder, die von einer maßgeschneiderten Aufklärung profitieren könnten, indem Patienten bei Bedarf zur medizinischen Versorgung an andere Gesundheitseinrichtungen als die Notaufnahme weitergeleitet werden. KI kann auch eine schnellere vorherige Autorisierung ermöglichen.
„Wir konnten die Prüfungen von 75 % der vorherigen Autorisierungsanfragen mit KI optimieren“, sagte Bender.
Die höhere Effizienz der KI könnte auch zu Kosteneinsparungen für das Gesundheitssystem insgesamt führen, sagte sie. „Es wird geschätzt, dass wir irgendwo dazwischen sehen könnten 200 $ [billion] auf 360 Milliarden US-Dollar Einsparungen pro Jahr.“
Umgang mit der Komplexität
Über die Verwaltung administrativer Aufgaben und die Empfehlung personalisierterer Interventionen hinaus könnte KI Anbietern, Patienten und Kostenträgern helfen, die mit einer Flut an Gesundheitsdaten konfrontiert sind.
„Die Menge und Komplexität medizinischer und wissenschaftlicher Daten sowie die Menge und Komplexität der Patientendaten selbst haben einfach beispiellos und enorm zugenommen“, sagte Michael E. Matheny, MD, Direktor des Center for Improving the Public’s Health through Informatics am Vanderbilt University Medical Center in Nashville.
„Wir brauchen wirklich Hilfe bei der Verwaltung all dieser Informationen“, sagte Matheny, der auch Professor für biomedizinische Informatik, Medizin und Biostatistik an der Vanderbilt ist.
In den meisten aktuellen Anwendungen überprüfen Menschen die KI-Ausgaben, sei es Hilfe bei der Arzneimittelentdeckung, Bildverarbeitung oder Unterstützung bei klinischen Entscheidungen. Aber in einigen Fällen habe die FDA KI-Anwendungen genehmigt, die ohne die Interpretation eines Arztes funktionieren, sagte Matheny.
Integration gesundheitlicher Chancengleichheit
Einige Experten setzen auf KI, um die Bemühungen um ein gerechteres Gesundheitssystem zu beschleunigen. Bei der Entwicklung von Algorithmen müssen die Trainingsdaten, die in KI- und maschinelle Lernsysteme eingegeben werden, beispielsweise die US-Bevölkerung besser repräsentieren.
Und dann ist da noch das Streben nach einem gerechteren Zugang. „Erhalten alle Patienten, die Daten zum Aufbau des Modells beisteuern, dessen Nutzen?“ fragte Cohen.