Ermündigung



Interessenbekundung
BMG KI-Reallabor Gesundheitswesen





Was bedeutet Ermündigung?

Menschen befähigen, Künstliche Intelligenz selbstbestimmt und verantwortungsvoll einzusetzen!

Ermündigung beschreibt die Befähigung von Menschen, selbstbestimmt Entscheidungen zu treffen, Verantwortung zu übernehmen und aktiv zu handeln.

Für den verantwortungsvollen Einsatz von Künstlicher Intelligenz bedeutet Ermündigung, dass Menschen Entscheidungsträger bleiben.
Künstliche Intelligenz unterstützt, erklärt, strukturiert und erweitert Handlungsmöglichkeiten – sie ersetzt nicht die menschliche Verantwortung.

Wikipedia-Artikel öffnen →

Worum es geht

Das Bundesministerium für Gesundheit (BMG) plant, KI-Entwicklerinnen und -Entwickler — insbesondere kleine und mittlere Unternehmen (KMU) — dabei zu unterstützen, regulatorische Konformität für KI im Gesundheitswesen nicht im Alleingang, sondern gemeinsam mit einschlägigen Expertinnen und Experten zu erarbeiten.

Dies wird in Form eines Blueprints umgesetzt, der im Rahmen eines Konformitätsbewertungs- oder Zertifizierungsverfahrens nutzbar ist.

Voraussetzung für diese Förderung ist, dass entstehende Blueprints vollständig veröffentlicht werden — damit ein Mehrwert auch für nicht-geförderte KI-Entwickler entsteht.

Die folgende Übersicht ist ein erster offener Beitrag zur Ermündigung im Umgang mit Künstlicher Intelligenz.

Sie bietet eine kompakte Einführung in die zentralen Inhalte des Referenzhandbuchs, das kontinuierlich erweitert und an neue fachliche, technische und regulatorische Entwicklungen angepasst wird.

EU KI-VO MDR / IVDR FDA UK MHRA IMDRF ISO 42001

Der regulatorische Rahmen

KI-Systeme im Gesundheitswesen unterliegen je nach Zielmarkt mehreren, teils überlappenden Regimen.
Die folgende Tabelle zeigt den Stand Juni 2026 in den vier wichtigsten Bezugssystemen:

JurisdiktionZentrales InstrumentAktueller Schwerpunkt
EU KI-VO Art. 6/9/43 + MDR/IVDR Digital-Omnibus-Fristverschiebung (Hochrisiko-Pflichten auf Dez. 2027 / Aug. 2028 verschoben, vorbehaltlich finaler Verabschiedung)
USA PCCP + Total-Product-Lifecycle (FDA) QMSR-Umstellung (Feb. 2026), finale Cybersecurity-Guidance, TPLC-Leitlinie in Konsultation
UK AI Airlock + GMLP Phase-2-Abschlussbericht (Juni 2026), Empfehlungen der National Commission ausstehend
International IMDRF GMLP (N88/N81) Entwurf eines Best-Practices-Rahmenwerks für den KI-Lebenszyklus (April 2026) der International Medical Device Regulators Forum (IMDRF).

Mehrere der genannten Fristen und Leitlinien sind noch nicht final.
Vor jedem formalen Verfahren ist der aktuelle Stand bei der zuständigen Behörde bzw. Benannten Stelle zu verifizieren.

Die integrierte Methodik

Der Blueprint verbindet sechs komplementäre, im Beratungsalltag erprobte Instrumente, die jeweils an einer anderen Stelle der Konformitätsbewertung andocken — ohne sich gegenseitig zu duplizieren.

HAIP Auf dem Open Access Wissensportal werden die fünf Pflichtdomänen des HAIP-Frameworks im Detail mit konkretem Bezug zu EU AI Act, MDR/IVDR und DSGVO für die KI-Beschaffung im Krankenhaus dargestellt.

AI Vendor Disclosure Framework — strukturiert die Offenlegungspflichten gegenüber KI-Anbietern in der Lieferkette (Modellherkunft, Trainingsdaten, Validierung, Update-Management).

Den Begriff anklicken, öffnet die Originalseite.

FMEA Auf dem Open Access Wissensportal steht die RPZ-Methodik mit einer 20-Punkte-Compliance-Checkliste bereit, einschließlich AI-gestützter FMEA-Varianten für Betreiber von Hochrisiko-KI.

KI-erweiterte Risikoanalyse nach Art. 9 KI-VO / ISO 14971 — erfasst daten-, modell-, interaktions- und lebenszyklusbezogene Fehlermodi.

Den Begriff anklicken, öffnet die Originalseite.

MEESTAR Auf dem Open Access Wissensportal ist die MEESTAR-Bewertung als praktisches Vorgehen für Qualifizierungs- und Kompetenzkonzepte im Sozial- und Gesundheitswesen aufbereitet, mit Bezug zu BAPID-III-Kompetenzprofilen.

Ethische Bewertung soziotechnischer Auswirkungen entlang sieben Dimensionen — Fürsorge, Autonomie, Sicherheit, Gerechtigkeit, Privatheit, Teilhabe, Selbstverständnis.

Den Begriff anklicken, öffnet die Originalseite.

TRIPOD-LLM Auf dem Open Access Wissensportal ist die TRIPOD-LLM-Checkliste mit den 19 Hauptpunkten und 50 Unterpunkten, eingeordnet für den Einsatz bei klinischen LLM-Validierungen verfügbar.

Validierungs- und Reporting-Standard für LLM-basierte Systeme — Transparenz, Performance-Reporting, klinische Evidenz.

Den Begriff anklicken, öffnet die Originalseite.

DIKW Auf dem Open Access Wissensportal ist die DIKW-Hierarchie nach Ackoff (1989) mit allen vier Ebenen ausgearbeitet, inklusive der Verknüpfung zu AI-Literacy-Pflichten nach Art. 4 KI-VO.

DIKW-Pyramide als Lernframework für KI-Kompetenz nach Art. 4 KI-VO — strukturiert den Weg von Rohdaten zur urteilsfähigen Anwendungskompetenz.

Den Begriff anklicken, öffnet die Originalseite.

KIDELIR Auf dem Open Access Wissensportal sind die fünf partizipativen Formate sowie ein Readiness-Check für partizipative KI-Einführung im Pflegekontext dokumentiert, mit konkreten Bias-Befunden aus der Studie.

Partizipative KI-Entwicklung im klinischen Kontext — bindet Fachpersonal aktiv in Gestaltung und Bewertung von KI-Systemen ein, statt sie nur nachträglich zu testen.

Den Begriff anklicken, öffnet die Originalseite.


Patientenperspektive im Blueprint

Ermündigung berücksichtigt die Perspektive von Patientinnen, Patienten und Angehörigen bereits bei der Konzeption und durchgängig bei der Umsetzung von KI-Tools im Gesundheitswesen — nicht erst nachträglich als Testgruppe, sondern als Mitgestaltende (Co-Design).

Eine Fokusgruppenstudie von Foresman et al. im Journal of Participatory Medicine (2025) zeigt, dass das Vertrauen von Patientinnen und Patienten in KI-Systeme vor allem von einer nachvollziehbaren Validierung der Modelle, einem erkennbaren Nutzen für die Versorgung, Transparenz über den Einsatz der KI, einem sichtbaren Mehrwert für die eigene Behandlung sowie einem verlässlichen Datenschutz abhängt.

Andreoletti M. et al. verdeutlichen im Lancet Digital Health (2026), dass der Nachweis des Nutzens von KI im Gesundheitswesen über technische Leistungskennzahlen hinausgehen muss. Klinische KI-Studien erfassen bislang überwiegend Prozessindikatoren statt tatsächlicher Gesundheitsergebnisse.
Ein belastbarer Validierungsnachweis setzt daher voraus, dass KI-Anwendungen eine nachweisbare Verbesserung der Versorgung und einen konkreten Nutzen für Patientinnen und Patienten belegen.

Auf dieser Evidenzbasis entwickelt Ermündigung einen eigenständigen KI-Blueprint für die Patientenperspektive, der Gesundheitsorganisationen und Leistungserbringern konkrete Leitplanken an die Hand gibt, um KI-Tools verantwortungsvoll und patientenzentriert zu konzipieren, einzuführen und zu betreiben — im Einklang mit den übrigen sechs Instrumenten des Blueprints (HAIP, FMEA, MEESTAR, TRIPOD-LLM, DIKW, KIDELIR).

Studienbefund: Zentrale Themen der Patientenperspektive Validation · Usability · Opportunities · Transparency · Privacy — zur Grafik

Der Workflow auf einen Blick

Neun Schritte verbinden Klassifizierung, Lieferantenbewertung, Risikoanalyse, ethische Bewertung und Validierung zu einem dokumentationsfähigen Konformitätsbewertungsverfahren:

  • Klassifizierung (KI-VO Art. 6, MDR/IVDR-Geräteklasse, FDA-Zulassungsweg)
  • Lieferantenbewertung mit HAIP
  • Risikoanalyse mit FMEA
  • Ethische Bewertung mit MEESTAR
  • Validierung mit TRIPOD-LLM (bei LLM-/generativen Komponenten)
  • Technische Dokumentation (Anhang IV KI-VO, Anhang II/III MDR)
  • Konformitätsbewertungsverfahren (ggf. kombiniert EU/US/UK)
  • Registrierung (EU-Datenbank, EUDAMED)
  • Post-Market-Überwachung und kontinuierliches Monitoring

Leitbild, Souveränität und Ermündigung

Die digitale Transformation des Gesundheits- und Sozialwesens wird zunehmend durch den Einsatz Künstlicher Intelligenz geprägt.
Im Mittelpunkt steht dabei nicht die Technologie selbst, sondern der Aufbau nachhaltiger Handlungskompetenz.
Menschen sollen lernen, KI-Systeme fachlich zu bewerten, Risiken und Chancen einzuordnen und geeignete Lösungen selbstbestimmt auszuwählen — im Einklang mit europäischen Werten, dem EU AI Act und einer „Buy European, Open Source First"-Haltung.

„KI soll Freiheit, Gerechtigkeit und Solidarität stärken und nicht beeinträchtigen."

Genau hier setzt Ermündigung an!
Es werden alle Anwenderinnen und Anwender von KI im Gesundheits- und Sozialwesen ermündigt, selbstbestimmt und verantwortungsvoll Entscheidungen zu treffen, Verantwortung zu übernehmen und KI-Systeme kompetent, kritisch und souverän einzusetzen, statt sich ihnen unreflektiert auszuliefern.
KI unterstützt, erklärt, strukturiert und erweitert Handlungsmöglichkeiten — sie ersetzt nicht die menschliche Verantwortung.

Leitbild lesen →Die vollständige Selbstverpflichtung zu Souveränität, Transparenz und europäischen Werten auf thomas-bade.de.
TransparenzNachvollziehbare KI-Systeme, klare Kennzeichnung KI-generierter Inhalte gemäß Art. 50 KI-VO.
DatenschutzDatensouveränität und DSGVO-Konformität als Grundvoraussetzung im Gesundheits- und Sozialwesen.
MitbestimmungBeteiligung von Beschäftigten und Betroffenen an Auswahl und Gestaltung von KI-Anwendungen.
Europäische WerteAusrichtung an europäischen Grundrechten, dem EU AI Act und der Buy-European-Logik der Apply AI Strategy.