Entdecken Sie unsere 5-teilige Handlungsempfehlung, die Ihnen dabei hilft, die Herausforderungen des AI Acts erfolgreich zu meistern. Erfahren Sie, wie ein ganzheitlicher Ansatz und viele weitere Lösungsvorschläge Ihr Unternehmen optimal unterstützen können, um die neuen Regelungen nicht nur zu erfüllen, sondern auch als Chance für Innovation und Wachstum zu nutzen.
Zusammenfassung
|
Inhaltsverzeichnis
Unsere Handlungsempfehlungen
Schauen Sie mit Sorge auf die neue KI-Verordnung? Bereits die neue MDR und IVDR haben zahlreiche zusätzliche Anforderungen mit sich gebracht. Nun stehen vor allem Sie als Hersteller von KI-basierten Medizinprodukten und/oder Diagnostika der Risikoklasse II vor neuen Herausforderungen – eine Kategorie, die besonders stark von betroffen ist. Die entscheidende Frage lautet: Wie können Sie die Anforderungen der KI-Verordnung effizient in Ihre Prozesse integrieren und gleichzeitig den bürokratischen Aufwand so gering wie möglich halten? Wir möchten Ihnen praxisnahe Lösungsansätze aufzeigen.
In diesem Folgeartikel knüpfen wir an unseren vorherigen Beitrag „AI Act vs. MDR & IVDR: Neue Anforderungen für Hersteller (Teil 1)“ an und stellen konkrete Handlungsempfehlungen für IVD- und Medizinproduktehersteller vor. Die gute Nachricht ist, dass sich viele der neuen AI-Act-Anforderungen in die bereits bestehenden der MDR/IVDR integrieren lassen und der Aufwand somit überschaubar bleibt. Ob es um neue regulatorischen Anforderungen, das Risiko der Bias-Bildung, zusätzliche Kosten oder zeitliche Diskrepanzen geht – Ziel dieses Artikels ist es, Ihnen verschiedene Lösungsansätze vorzuschlagen, um den mannigfaltigen Herausforderungen der KI-Verordnung souverän zu begegnen.
1. Handlungsempfehlung: Integrierter Ansatz
Glücklicherweise bringt der AI Act nicht nur völlig neue Anforderungen mit sich – viele davon dürften Ihnen bereits aus Ihrem bestehenden Qualitätsmanagement vertraut sein. Es lohnt sich daher, diese Anforderungen mit den Vorgaben der MDR und IVDR systematisch zu vergleichen.
Wir empfehlen einen integrierten Ansatz zu verfolgen, der die Anforderungen aller relevanten Gesundheitsverordnungen (MDR/IVDR und AI Act) berücksichtigt. Ein solcher Ansatz würde insbesondere folgende Anforderungsbereiche betreffen:
Risikomanagement und Sicherheit |
Sie haben bereits ein Risikomanagement. Damit können Sie leicht ein einheitliches Risikomanagementsystem erstellen, welches die Anforderungen der jeweiligen Regelwerke erfüllt. |
Qualitätsmanagement-System |
Ergänzen Sie Ihr bestehendes QMS, indem Sie die zusätzlichen Anforderungen für KI-spezifische Prozesse des AI Acts mitberücksichtigen. Dies beinhaltet einige Anpassungen und Erweiterungen wie bspw. die Implementierung von Prozessen für die Validierung und Überwachung von KI-Algorithmen. Ein integriertes QM-System kann zu Synergiebildungen führen, indem es Effizienzsteigerungen ermöglicht. |
Technische Dokumentation |
Die technische Dokumentation, die im Rahmen der MDR und IVDR ohnehin erstellt werden muss, weist bereits viele Gemeinsamkeiten mit dem AI Act auf (Produktbeschreibung, Konformitätserklärung, etc.). Daher empfiehlt es sich auch hier, eine integrierte Vorgehensweise zu wählen. Hinweis: Für KMU und Start-ups ist eine vereinfachte Bereitstellung der technischen Dokumentation vorgesehen (Art. 11 (1)). |
Sie können weiterhin Ihr bestehendes Risikomanagement, Ihr Qualitätsmanagement sowie Ihre technische Dokumentation verwenden und lediglich um die vom AI Act geforderten zusätzlichen Aspekte erweitern. Mithilfe eines solchen integrierten Ansatzes können Synergien geschaffen und unnötige Mehr- oder Doppel-Arbeiten verhindert werden, was auch zu Kostenersparnissen führen kann.
2. Handlungsempfehlung: Dokumentation von Algorithmen
Der AI Act verpflichtet IVD- und Medizinproduktehersteller, eine detailliertere Dokumentation vorzulegen. Die damit erweiterte Transparenzpflicht kann möglicherweise mit Unternehmensinteressen, wie dem Schutz von Geschäftsgeheimnissen, kollidieren und verständlicherweise zu Zurückhaltung seitens der Hersteller führen.
Eine mangelnde Einhaltung der Dokumentationspflicht unter dem AI Act kann jedoch zu einem Nichtbestehen der Konformitätsbewertung führen. Eine umfassende Dokumentation ist zudem notwendig, da KI-Systeme durch ihre algorithmische Komplexität, Dynamik und potenziellen ethischen Herausforderungen deutlich höhere Risiken bergen können.
Nachfolgend einige konkrete Dokumentationsempfehlungen speziell im Bezug auf Blackbox-KI-Systeme.
Adressierung der Blackbox-Problematik |
Wägen Sie ab, inwiefern der Aufwand den Nutzen rechtfertigt, ein komplexes KI-System auf Basis von Deep Learning zu entwickeln. Falls möglich sollte eine Whitebox-KI der Blackbox-Variante vorgezogen werden, da die Entscheidungsprozesse bei dieser transparent und nachvollziehbar sind. Dies vereinfacht die Einhaltung regulatorischer und ethischer Anforderungen.
Sollte ein auf Deep Learning basiertes KI-System die besserer Lösung sein, müssen Sie sich mit der sog. Blackbox-Problematik auseinandersetzen. Hierbei geht es um die Herausforderung der Transparenzsicherstellung bei komplexeren KI-Systemen. Nutzen Sie erklärende Methoden wie zum Beispiel Explainable AI (XAI), um die Transparenz Ihres Produktes trotz Blackbox-Herausforderung zu gewährleisten. |
Handlungsempfehlung: Minimierung von KI-Bias
Dynamische KI-Systeme sind vom Risiko einer Bias-Bildung betroffen (Entwicklung von Verzerrungen), was zu Halluzinationen, Algorithmus-Drift oder ungewollten unethischen Entscheidungen führen kann. Da „Ethical AI“ – also KI, die ethische Prinzipien wie Fairness, Transparenz und Nichtdiskriminierung gewährleisten soll – viel diskutiert und hochaktuell ist, sollte man dieses Thema bereits in der Entwicklung berücksichtigen.
Nun ist die Beschaffung hinreichend großer Datensätze schon nicht trivial. Dennoch lässt sich mithilfe einer Reihe von Methoden ein inakzeptables Bias im Datensatz vermeiden und in das Anforderungsprofil integrieren. Wer agiles Projektmanagement betreibt, kann dies bspw. in der Definition of Done als Kriterium einführen. Weitere Handlungsempfehlungen finden Sie hier:
Technische Maßnahmen zur Bias-Minimierung |
|
Weitere nicht-technische Maßnahmen |
|
Transparenz durch Erklärbarkeit schaffen |
|
Kontinuierliche Überwachung sicherstellen |
|
Die oben genannten Maßnahmen sollen dabei helfen, dass systematische Verzerrungen besser erkannt und minimiert werden. Dies trägt entscheidend dazu bei, die Verpflichtung zur Fairness, Nicht-Diskriminierung und Unvoreingenommenheit gemäß dem AI Act zu erfüllen. Eine solch umfassende Bias-Reduktion gewährleistet nicht nur die Einhaltung gesetzlicher Vorgaben, sondern fördert auch die ethische Verantwortung im Einsatz von KI-Systemen.
Handlungsempfehlung: KI-Kompetenzaufbau
Die bisherigen Handlungsempfehlungen zeigen, dass sich die zusätzlichen Anforderungen der KI-Verordnung mit vernünftigen und überschaubarem Aufwand bewältigen lassen. So können beispielsweise die unter dem AI Act neu eingeführten Aspekte mithilfe der Definition-of-Done-Methode gleich in Entwicklungsprozesse miteinbezogen werden.
Zudem helfen Schulungen bei der frühzeitigen Sensibilisierung von Mitarbeitern. Was Entwickler dabei betrifft, so kennen diese die genannten Tools i.d.R. bereits oder können sich schnell mit ihrer Anwendung vertraut machen. Eine pragmatische Umsetzung sowie gezielte Weiterbildungsmaßnahmen können somit dabei helfen, interne Hürden abzubauen und Bias-Analysen als Selbstverständlichkeit zu etablieren.
Handlungsempfehlung: Rechtzeitige Planung
Die KI-Verordnung insbesondere für Hochrisiko-KI-Systeme wird voraussichtlich im August 2027 in Kraft treten. Damit bleibt ausreichend Zeit, sich gezielt auf die Anforderungen des AI Acts vorzubereiten. Unternehmen befinden sich dabei meist in einer von drei typischen Ausgangssituationen: (1) Sie haben bereits ein KI-basiertes Produkt erfolgreich auf den Markt gebracht, (2) Sie stehen kurz vor der Markteinführung oder (3) Sie befinden sich gerade erst in der Entwicklungsphase bzw. mitten in der Umsetzung. Jede dieser Phasen erfordert angepasste Strategien und Maßnahmen, um die neuen Regelungen rechtzeitig und effektiv zu erfüllen (siehe Tabelle).
Mögliche Szenarien für KI-basierte IVD- & Medizinprodukte | MDR/IVDR | AI Act (08/2027) | Integrierter Ansatz |
1. Bereits zugelassen | ✓ | X | ✓ |
2. Während der Entwicklungsphase | (✓) | ✓ | ✓✓ |
3. Am Ende der Entwicklungsphase oder kurz vor der Zulassung | ✓ | ✓ | ✓✓✓ |
Eine rechtzeitige Planung könnte so aussehen, dass gemeinsame Aspekte des AI Acts frühzeitig in die bereits vorhandenen Compliance- and QM-Systeme miteinbezogen sowie in der Entwicklung mitberücksichtigt werden.
Die Übergangsfrist im August 2027 abzuwarten, wenn ein KI-basiertes IV-Diagnostikum oder Medizinprodukt offiziell als „Hochrisiko-Produkt“ gemäß Artikel 6(1) der KI-Verordnung gilt, ist bei bestehenden oder in der späten Entwicklungsphase befindlichen Produkten von abzuraten.
Das nachträgliche Einhalten neuer Regularien ist mit einem ungleich höheren Aufwand verbunden und kann im schlimmsten Fall dazu führen, dass Machine-Learning-Algorithmen mit erweiterten Datensätzen nochmal neu trainiert und validiert werden müssen. Nachfolgend weitere hilfreiche Handlungsempfehlungen:
Frühzeitiges Handeln im Entwicklungsprozess |
Legen Sie zum Zeitpunkt der ursprünglichen Konformitätsbewertung bereits zukünftige Änderungen dynamischer KI-Systeme und deren Leistung in der technischen Dokumentation fest. Damit verhindern Sie, dass es bei wesentlichen Änderungen im Nachhinein zu einer erneuten Durchführung des Konformitätsbewertungsverfahrens kommt. |
Rechtzeitige Auswahl passender Behörden |
Was das Konformitätsbewertungsverfahren speziell betrifft, so empfiehlt es sich eine für die MDR/IVDR als auch den AI Act akkreditierte Behörde rechtzeitig aufzusuchen (siehe benannte Stelle bzw. notifizierende Behörde), um eine umständliche Doppelbewertung auf administrativer Ebene zu vermeiden. |
Flexibles Einplanen von Veränderungen |
Ein gewisser Spielraum in der Planung sollte mitberücksichtigt werden, um auf Modifikationen der KI-Verordnungen flexibel zu reagieren. Ein regelmäßiger Austausch mit den zuständigen Behörden ist dabei wichtig, um auf mögliche Änderungen der regulatorischen Anforderungen vorbereitet zu sein. |
Ein Blick nach vorn: Mit Strategie zum Erfolg unter dem AI Act
Die neuen Anforderungen des AI Acts mögen auf den ersten Blick herausfordernd wirken. Doch mit einer klaren Strategie und gezielten Maßnahmen können Sie diese effektiv umsetzen und dabei sogar einen Mehrwert für Ihr Unternehmen schaffen. Durch frühzeitige Planung, die nahtlose Integration in bestehende Prozesse und gezielten Kompetenzaufbau erreichen Sie nicht nur Konformität, sondern stärken auch die Innovationskraft Ihres Unternehmens. Ihre KI-basierten Medizinprodukte und Diagnostika werden dadurch nicht nur regelkonform, sondern auch sicherer, fairer und transparenter – Eigenschaften, die das Vertrauen Ihrer Kunden und die Akzeptanz Ihrer Produkte erhöhen.
Mit der richtigen Vorbereitung kann der AI Act zur Grundlage für langfristigen Erfolg und Vertrauen in Ihre Produkte werden. Nutzen Sie diese Chance, bleiben Sie innovativ und machen Sie Ihr Unternehmen fit für die Zukunft der KI!
Wenn Ihnen dieser Artikel gefallen hat, freuen wir uns über Ihr Feedback in den Kommentaren. Teilen Sie Ihre Gedanken und lassen Sie uns wissen, wie wir Sie noch besser unterstützen können.
Quellen:
Foto von tungnguyen0905, Pixabay
Das könnte Sie auch interessieren:
コメント