MDR, IVDR und jetzt der AI Act? Behalten Sie den Überblick im EU-Regulierungsdschungel! Wir bieten eine kompakte Übersicht aller für Sie relevanten Veränderungen und neuen Anforderungen (Teil 1) sowie konkrete Handlungsempfehlungen im Folgeartikel (Teil 2).
Inhaltsverzeichnis 1. Eine 5-Punkte-Checkliste für Hersteller
2. Wichtige zusätzliche Anforderungen durch den AI Act
AI Act vs. MDR & IVDR:
Eine 5-Punkte-Checkliste für IVD- und Medizinproduktehersteller
Der im August 2024 in Kraft getretene Artificial Intelligence Act der EU (AI Act bzw. KI-Verordnung) hat signifikante Auswirkungen, mit denen sich In-vitro-Diagnostik- (IVD) und Medizinproduktehersteller unbedingt vertraut machen müssen. Nutzen Sie die unten abgebildete Checkliste, um festzustellen, ob auch Sie unter den gesetzlichen Anwendungsbereich des AI Acts fallen und aktiv werden müssen.
„Anbieter...
Sind Sie ein Anbieter von „Software“ als Medizinprodukt oder IV-Diagnostik, ist die Wahrscheinlichkeit groß, dass Sie von der neuen Verordnung betroffen sind. Der AI Act kennt übrigens das Konzept der Eigenherstellung bzw. Inhouse-IVD nicht. Somit gilt eine Person, die ein KI-System selbst entwickelt und in Betrieb nimmt, nicht als Hersteller, sondern als Anbieter.
eines KI-basierten...
Anders als die bisherigen EU-Verordnungen, MDR und IVDR, liegt beim AI Act ein besonderer Fokus auf KI-basierte Software-Systeme, die bspw. Verfahren des Maschinellen Lernens nutzen (sog. „KI-Systeme“ – siehe genaue Definition hier). Ein Beispiel dafür kann eine KI-basierte Standalone-Software sein, die dazu dient, maligne Hautveränderungen zu diagnostizieren.
IVD- oder Medizinprodukts, das...
Dabei kann es sich um ein KI-basiertes IVD oder Medizinprodukt als Ganzes handeln (ein KI-System als eigenständige Ware) oder lediglich um einen Teilaspekt des Gesamtprodukts (ein Sicherheitsbauteil). Wenn Ihr Produkt also eine KI-Komponente enthält, könnte es ebenfalls unter den gesetzlichen Anwendungsbereich des AI Acts fallen.
(auch wenn sie nicht unbedingt sich verändernd sein sollte)
Viel diskutiert ist auch das Thema selbstlernende KI-Systeme, die sich kontinuierlich selbstständig weiterentwickeln. So bezieht sich die neue Verordnung im Vergleich zu den bisherigen grundsätzlich auch auf die Möglichkeit dynamischer Softwareanpassungen. Infolgedessen müssen sich Anbieter zukünftig näher mit diesem Thema befassen. Dazu weiter unten hilfreiche Hinweise sowie konkrete Handlungsempfehlungen im Folgeartikel.
gemäß dem AI Act unter die Hochrisikoklasse fällt.“
Der AI Act bezieht sich mit seinen Anforderungen vor allem auf KI-Systeme der sog. Hochrisikoklasse. Hierunter fallen, vereinfacht gesagt, alle KI-basierten Produkte der Risikoklassen IIa - III (MDR) bzw. B - D (IVDR). Die KI-Systeme der darunterliegenden MDR- und IVDR-Risikostufen fallen i.d.R. unter die AI Act-Klassifizierung eines minimalen oder erhöhten Risikos. Bezogen auf Letzteres, sind die Anforderung deutlich geringer und betreffen hauptsächlich Transparenzpflichten.
2. AI Act vs. MDR & IVDR:
Wichtige Anforderungen für die Hersteller
Im Nachfolgenden finden Sie einen Überblick über die neuen Anforderungen, die sich aufgrund der KI-Verordnung für KI-basierte Medizinprodukte oder IV-Diagnostika der Hochrisikoklasse ergeben (1).
Tabelle 1: AI Act vs. MDR & IVDR Neue Anforderungen, die einen geschätzten mittelmäßigen bis erheblichen Mehraufwand bedeuten.
AI Act (ausgewählte Artikel) | AI Act Anforderung | Neue Anforderungen gegenüber MDR & IVDR |
|---|---|---|
Konformitätsbewertung (Kapitel III - Abschnitt 4 und 5) | Durchführen der Konformitätsbewertung von einer für den AI Act akkreditierten notifizierenden Behörde. | Unterschiedliche behördliche Zuständigkeiten
(siehe AI Act - Notifizierende Behörde bzw. MDR/IVDR - Benannte Stelle) |
Transparenz von Algorithmen und Datensätzen (Kapitel III, IV - Art.: 13, 50) | Veröffentlichen zusätzlicher Informationen, die über die MDR und IVDR-Anforderungen hinausgehen. | Erhöhter Aufwand und mögliche Konflikte mit Unternehmensinteressen bei Offenlegung von bspw. proprietären Algorithmen. |
Genauigkeit, Robustheit & Cybersicherheit (Kapitel III - Art.: 15) | Detailliertere Anforderungen bezüglich der Cybersicherheit von Hochrisiko-KI-Systemen. | Erhöhte Anforderungen an die Cybersicherheit. |
Menschliche Aufsicht (Kapitel III - Art.: 14) | Einführen einer Mensch-Maschine-Schnittstelle zu Aufsichts- und Monitoring-Zwecken. | Herausforderung, da völlig neuartiger Aspekt im Vgl. zur MDR und IVD. |
Tabelle 2: AI Act vs. MDR & IVDR
Neue Anforderungen mit einem geringen bis mittelmäßigen Mehraufwand.
AI Act (ausgewählte Artikel) | AI Act Anforderungen | Neue Anforderungen gegenüber MDR & IVDR |
Technische Dokumentation (Kapitel III – Art.: 11) | Aufgrund vieler Parallelen, lediglich ergänzende Anpassungen nötig. | Geringer regulatorischer Zusatzaufwand. |
QM-System (Kapitel III – Art.: 17) | Einführen zusätzlicher Anforderungen für KI-spezifische Prozesse unter dem AI Act. | Einige Anpassungen und Erweiterungen nötig, bspw. Implementierung von Prozessen für die Validierung und Überwachung von KI-Algorithmen. |
Risikomanagement & Sicherheit (Kapitel III – Art.: 9) | Einführen zusätzlicher Anforderungen für KI-spezifische Prozesse unter dem AI Act. | Integration KI-spezifischer Risikomanagementprozesse, bspw. Bewertung von Risiken durch Bias oder Fehlentscheidungen der KI und Entwicklung von Minderungsstrategien. |
Daten & Daten-Governance (Kapitel III – Art.: 10) | Etablieren geeigneter Prozesse u.a. zur Daten-erfassung, aber auch zur Untersuchung möglicher Verzerrungen (Bias). | Erweiterung um Bias-Analysen und ethische Überlegungen bspw. Durchführung regelmäßiger Bias-Prüfungen der Trainingsdaten und Anpassung der Datensätze zur Sicherstellung der Fairness. |
Post-Market Surveillance (Kapitel IX – Art.: 72) | Die Überwachung nach dem Inverkehrbringen ist in beiden Verordnungen vorgeschrieben. | Ergänzung der Überwachungsprozesse um KI-spezifische Anforderungen. |
AI Act vs. MDR & IVDR:
Herausforderungen für Hersteller im Überblick
Wie Sie anhand der Abbildung unten sehen können, stellt die Einführung der KI-Verordnung Medizinprodukte- und IVD-Hersteller vor neue Herausforderungen. Die zusätzlichen Anforderungen bedeuten einen nicht zu unterschätzenden Mehraufwand, sowohl organisatorisch als auch finanziell.
Was den finanziellen Aspekt betrifft, so schätzt die EU-Kommission die einmaligen Mehrkosten für KI-Systeme der Hochrisiko-Klasse auf 50.000 - 110.000 €, mit laufenden jährlichen Kosten von etwa 5.000 – 15.000 € (2). Diese Zahlen sind mit Vorsicht zu genießen, geben aber einen Eindruck von der Größenordnung der bevorstehenden Investitionen. Besonders für kleinere Unternehmen und Start-ups kann dies eine erhebliche Belastung darstellen, auch wenn KMUs mit einer Reduzierung der Mehrkosten um etwa 20 % rechnen können.
Was den organisatorischen Teil angeht, so können unter anderem Herausforderungen aufgrund zeitlicher Diskrepanzen und regulatorischer Anforderungen bestehen. Das liegt daran, dass Hersteller während der Übergangsphase bis zum Geltungsbeginn gewisser Teile der Verordnung mit möglichen Modifikationen dieser rechnen müssen. Gerade für Hersteller kann dies Unsicherheiten in der Planung über die nächsten 2-3 Jahre bedeuten. Folgende zwei Geltungsfristen sind dabei besonders relevant:
2026 | Die übrigen Bestimmungen des AI-Gesetzes finden Anwendung, mit Ausnahme von Artikel 6, Absatz 1 und |
2027 | Geltungsbeginn des Art. 6 (1), der sich auf Verpflichtungen für Hochrisiko-KI-Systeme bezieht (das beinhaltet IV-Diagnostika und Medizinprodukte sowie Sicherheitskomponenten). Hier eine detaillierte Übersicht aller Übergangsfristen. |
Trotz der oben beschriebenen Hürden soll die Analyse der verschiedenen Regularien in diesem Beitrag Ansatzpunkte aufzeigen, wie Hersteller in dem Regulierungsdschungel die Übersicht bewahren können. Unternehmen mit bestehenden Qualitäts-managementsystemen können durch vorausschauende Maßnahmen Aufwand und Kosten reduzieren. Die durchaus zahlreichen Parallelen und Überschneidungen zwischen der KI-Verordnung, der MDR und der IVDR erleichtern die Integration der neuen Anforderungen. Mit dem richtigen Ansatz bleiben die organisatorischen und finanziellen Herausforderungen zumindest überschaubar und stemmbar.
Im nächsten Blog-Artikel werden wir konkrete Handlungsempfehlungen vorstellen, die Ihnen dabei helfen, diese Herausforderungen zu meistern. Bleiben Sie dran und behalten Sie den Durchblick!
Die hier vorgestellten neuen Anforderungen erheben nicht den Anspruch der Vollständigkeit, da die verschiedenen Regelwerke zu umfangreich sind, um alle Details zu benennen. Außerdem ist zu beachten, dass der AI Act noch Anpassungen unterliegen kann, bis er auf nationaler Ebene rechtskräftig ist. Wir halten Sie natürlich auf dem Laufenden.
Das könnte Sie auch interessieren:
Comments