Medical Lag in AI

Die Integration künstlicher Intelligenz (KI) in die Medizin verspricht erhebliche Fortschritte in Diagnostik, Therapie und allgemein eine Effizienzsteigerung. Trotz dieser Perspektive hinkt das Gesundheitswesen im Vergleich zu anderen Branchen hinterher. In einer Session im Rahmen der ÖGR-Jahrestagung diskutierten der Rheumatologe Dr. Andreas Kerschbaumer, PhD, und der Software Engineer Edo Rivai, BSc, über die Ursachen für die schleppende Implementierung von digitalen Tools und KI im Gesundheitsbereich und darüber, welche Lösungsansätze erfolgversprechend sein könnten.

Fehlende digitale Grundlagen

Der IT-Experte Edo Rivai verweist auf den Umstand, dass einerseits über hochentwickelte KI-Lösungen diskutiert wird, andererseits aber grundlegende digitale Infrastrukturen fehlen. Aufgrund der schlechten Interkompatibilität und allgemeiner Schwächen der Krankenhausinformationssysteme (KIS) erfolgt in vielen medizinischen Einrichtungen die Kommunikation nach wie vor über ineffiziente, veraltete Technologien wie Faxgeräte (seit Anfang 2025 verboten) oder gar über Messenger-Apps auf privaten Smartphones.

Mangelnde Standardisierung: Die fehlende Standardisierung von Datenformaten und Schnittstellen zwischen verschiedenen Systemen stellt eine erhebliche Herausforderung dar. In vielen Krankenhäusern existieren unterschiedliche IT- bzw. Krankenhausinformationssysteme (KIS), die nur begrenzt miteinander kommunizieren können. Dies führt zu ineffizienten Arbeitsabläufen und erschwert den Einsatz von KI, die auf konsistente und umfassende Daten angewiesen ist. Hier wären (inter-)nationale Standards vonnöten, um eine breitere Einführung zu ermöglichen.

Öffentliche Gesundheit und Datenschutz

Ein weiteres zentrales Thema in der Debatte um KI ist der Datenschutz. Es muss sichergestellt werden, dass sensible Patientendaten nicht in die Hände profitgetriebener Unternehmen gelangen. Staatliche Institutionen sollten eine führende Rolle bei der Bereitstellung sicherer digitaler Infrastrukturen übernehmen, um die öffentliche Gesundheit zu schützen.
Betrachtet man diese Situation, verwundert es kaum, dass laut einer Analyse des US-amerikanischen Thinktanks „Brookings Institution“ die fragmentierte Datenlandschaft eine der größten Barrieren für den Einsatz von KI darstellt.¹

Perfektion als Innovationshemmnis

Ein weiteres Problem stellt das risikoaverse und stark regulierte Wesen des Gesundheitssystems dar. Während in anderen Branchen iteratives Testen und Optimieren zum Standard gehören, wird in der Medizin jede Neuerung erst nach rigorosen Tests akzeptiert.
Das ist in Bereichen, in denen es um Patientensicherheit geht, notwendig und nachvollziehbar, verhindert aber auch in anderen Bereichen die schrittweise Integration der KI.

European AI Act

Im Jahr 2024 wurde der European AI Act als Teil der EU-Digitalisierungsstrategie vom Europäischen Parlament und vom EU-Rat verabschiedet.² Diese Verordnung verfolgt einen risikobasierten Ansatz: KI-Systeme werden in 4 Risikokategorien von minimal/kein bis unannehmbar (gleichbedeutend mit verboten) eingeteilt. Außerdem sind KI-Systeme, die mit Personen interagieren, gewissen Transparenzpflichten unterworfen.
Während vonseiten der betroffenen Unternehmen grundsätzlich begrüßt wird, dass ein Rahmenwerk existiert, sorgt der AI Act auch für Kritik. So wird beklagt, dass der AI Act in seiner aktuellen Form zu Unsicherheiten in Bezug auf die Risikoeinstufung und zu hohen Compliance-Kosten führt und so Innovationen hemmen könnte.

Wie die KI-Integrationgelingen könnte

Neben klaren Regeln durch die Politik (Top-down) erfordert die erfolgreiche Einführung von KI auch einen „Bottom-up“-Ansatz, bei dem medizinisches Personal aktiv in die Entwicklung und Implementierung eingebunden wird. Die Akzeptanz bei Ärzt:innen und Pflegepersonal ist entscheidend, um Vertrauen in die Technologie zu schaffen. Für eine erfolgreiche KI-Adoption in der Medizin braucht es einen „Bottom-up“-Ansatz, bei dem digitale Grundstrukturen zuerst etabliert werden.

Bilderkennung als Positivbeispiel

Mittlerweile existieren bereits viele KI-Anwendungen im medizinischen Bereich. Insbesondere die Bilderkennung hat in den letzten Jahrzehnten eine große Entwicklung durchgemacht. Während frühere Anwendungen auf klassischem maschinellem Lernen beruhten und große Datenmengen mit vordefinierten Bildmerkmalen als Orientierung benötigten, können moderne Systeme selbstständig relevante Merkmale aus Bilddaten lernen. Man spricht von Deep Learning. In vielen Fällen ist heute auch nicht mehr der Vergleich mit Fachärzt:innen die wesentliche Kenngröße, denn es gibt bereits Anwendungsbereiche, in denen die KI dem Menschen nicht nur ebenbürtig, sondern überlegen ist. So untersucht ein Projekt an der Columbia University, ob KI eine zuverlässige Triage von Patient:innen nach einem EKG ermöglichen kann. Die KI wurde darauf trainiert, Patient:innen zu identifizieren, bei denen das 12-Ableitungs-EKG Hinweise für Klappenvitien zeigt. War dies der Fall, wurden die Patient:innen einer Echokardiografie zugeführt. Die KI erkennt in diesem Fall also Muster, die ein Mensch überhaupt nicht wahrnehmen kann.³
In Zeiten mit mangelnden Personalressourcen ist eine möglichst präzise Triage natürlich von hohem Interesse.

Entscheidungshilfe vs. Entscheidungsinstanz

Diese Einsatzmöglichkeiten lassen aber auch gleich an die rechtlichen und ethischen Aspekte denken. Wer haftet, wenn die KI eine Fehldiagnose stellt? Der Konsens in der Fachwelt und auch der ÖGR-Session ist, dass der Mensch weiterhin als letzte Entscheidungsinstanz fungieren muss – ein Prinzip, das als „human in the loop“ bekannt ist.

Ein schrittweiser Weg zur Digitalisierung

Wie die ÖGR-Session „Medical Lag in AI“ demonstrierte, liegt die Verzögerung bei der KI-Einführung nicht an der Technologie, sondern an strukturellen, kulturellen und regulatorischen Hürden. Die Medizin muss sich darauf konzentrieren, zunächst die grundlegenden digitalen Strukturen zu verbessern, bevor komplexere KI-Anwendungen sinnvoll integriert werden können. Ein iterativer, pragmatischer Ansatz – beginnend mit einfachen digitalen Lösungen – könnte die dringend benötigte Transformation des Gesundheitsbereiches vorantreiben.