Der EU AI Act im Krankenhaus: So betten Sie KI in Ihre Radiologie ein

Regulatorische Vorgaben zum Einsatz von Künstlicher Intelligenz erfordern von Kliniken einen Spagat zwischen Innovation und Sicherheit. Mit JiveX vermeiden Sie Medienbrüche, behalten die Kontrolle und speichern Daten rechtskonform.

Die schrittweise in Kraft tretenden Bestimmungen des EU AI Act verändern den Einsatz Künstlicher Intelligenz (KI) im Gesundheitswesen grundlegend. Krankenhäuser sind aufgefordert, den Einsatz von KI-Lösungen transparent, nachvollziehbar und rechtskonform zu gestalten. Damit ist klar: Nicht nur die Leistungsfähigkeit der Algorithmen zählt, sondern auch Governance, Interoperabilität und lückenlose Dokumentation. Sie entscheiden darüber, ob KI sicher, regelkonform und wirtschaftlich in klinische Prozesse einziehen kann.

Kliniken sind als KI-Betreiber in der Pflicht

Der EU AI Act verfolgt einen risikobasierten Ansatz und stellt besonders für Hochrisiko-Anwendungen – zu denen die meisten KI-gestützten Medizinprodukte in der Diagnostik zählen – hohe Hürden auf. Krankenhäuser nehmen dabei meist die Rolle des Betreibers (Deployers) ein und sind damit verpflichtet, den Betrieb systematisch zu überwachen, die Qualität der Eingabedaten zu sichern und die automatisch erzeugten Protokolle (Logs) aufzubewahren.

Hinzu kommt die Nachweispflicht: Kliniken müssen offenlegen, wie ein KI-Ergebnis in die medizinische Entscheidung eingeflossen ist und wie dabei die menschliche Kontrolle erfolgte. Zugriff auf ungeprüfte Ergebnisse dürfen ausschließlich eingewiesene Personen erhalten. Über die Technik hinaus gewinnen ein durchdachtes Berechtigungskonzept, ein strukturiertes KI-Governance-Modell und der Ausbau der KI-Kompetenz im Kollegium (AI Literacy) stark an Gewicht. Die eigentliche Herausforderung liegt also nicht im Algorithmus, sondern in seiner nahtlosen und revisionssicheren Einbettung in den klinischen Alltag.

Compliance: Eine Infrastruktur für alle Vorgaben

Als Baustein der „European strategy for data" ist der EU AI Act eng verzahnt mit weiteren Regelwerken wie der Medical Device Regulation (MDR), der Datenschutz-Grundverordnung (DSGVO) und den IT-Sicherheitsvorgaben der NIS-2-Richtlinie. Krankenhäuser brauchen deshalb eine Plattform, die all das von Haus aus als Infrastrukturleistung mitbringt, statt es für jede Anwendung einzeln nachzurüsten. Zugleich bestimmt die Aufbereitung der Daten über ihre Nutzbarkeit – und damit über die Qualität der Diagnostik. Denn auch im KI-Zeitalter gilt: „Garbage in, garbage out". Nur saubere, einheitlich strukturierte Datenströme führen zu verlässlichen und haftungsrechtlich belastbaren Ergebnissen.

Interoperabilität: Wie Standards KI-Silos aufbrechen

In kaum einem medizinischen Sektor ist die KI-Dichte so hoch wie in der Radiologie: von der Priorisierung kritischer Befunde bis zur automatisierten Detektion von Läsionen. Viele Lösungen arbeiten jedoch als abgeschottete Silos, nutzen eigene Oberflächen oder liefern proprietäre Datenformate. Eine konsistente, abteilungsübergreifende Dokumentation wird so nahezu unmöglich, der Integrationsaufwand steigt.

Etablierte Standards wie DICOM, HL7 FHIR und vor allem das neue IHE-Profil AIRA (AI Result Assessment for Imaging) schlagen hier die Brücke. AIRA legt einheitlich fest, wie sich KI-Ergebnisse im klinischen Kontext bewerten und systemübergreifend protokollieren lassen.

KI dort einsetzen, wo Diagnosen entstehen

Aus unserer Sicht sollte KI idealerweise dort zum Einsatz kommen, wo Radiologinnen und Radiologen arbeiten: direkt im Viewer. Deshalb unterstützt JiveX das IHE-Profil AIRA. Der JiveX Viewer wird dabei zum zentralen Integrationspunkt:

• Einheitliche Visualisierung: Ergebnisse verschiedener KI-Anbieter erscheinen gebündelt im vertrauten Bildkontext – ohne Medienbrüche oder zusätzliche Nutzeroberflächen.
• Human-in-the-Loop: Direkt am Befundarbeitsplatz dokumentieren Ärztinnen und Ärzte im Sinne des AIRA-Profils, ob sie einen KI-Vorschlag übernehmen, anpassen oder verwerfen.
• Auditierbarkeit: Diese strukturierten Interaktions- und Bewertungsdaten werden revisionssicher festgehalten und liefern damit den geforderten Nachweis menschlicher Aufsicht (Human Oversight).

Keine Frage: Der EU AI Act zwingt Krankenhäuser zu einem Spagat zwischen Innovationsdynamik und Rechtssicherheit. Doch mit Hilfe einer Infrastruktur, in der Fortschritt und Compliance Hand in Hand gehen, können Sie diesen Spagat meistern.