Künstliche Intelligenz und das Medizinprodukterecht

Das Rechtsregime für pharmazeutische Produkte ist in seiner derzeitigen Fassung nicht geeignet die Herausforderungen adaptiver Künstlicher Intelligenz zu meistern. Deshalb fragen wir Rechtsanwalt und Mitautor unseres in Kürze erscheinenden Rechtshandbuch „Künstliche Intelligenz“ (KI) Jean L. Saliba:

 

-1- Welche Herausforderungen stellt KI an das Medizinprodukterecht?

In einer temporeichen Zeit technologischer Innovationen treffen mit KI und dem Medizinprodukterecht zwei nicht altersgleiche Einflussgrößen aufeinander. Zwar erfuhr das Medizinprodukterecht jüngst eine seiner wohl umfassendsten Reformen. Die Neuerungen beschäftigen jedoch weder im Kern noch am Rande mit KI. Entsprechend enthalten weder die von Grund auf neu geschaffene Medical Device Regulation (MDR) noch die In Vitro Diagnostic Regulation (IVDR) Vorschriften, die spezifisch auf KI zugeschnitten sind.

 

Ohne KI-spezifische Vorschriften fällt die medizinprodukterechtliche Handhabe adaptiver KI bisweilen schwer. Ihrer technologischen Natur wohnt der Drang und das Ziel zur Veränderung inne, was wiederum spezifischen Marktzugangserfordernissen, im speziellen dem Konformitätsbewertungsverfahren zuwiderläuft. Adaptive KI strebt danach den einmal erreichten Zustand im Wege der Weiterentwicklung fortwährend zu verlassen, während die die Konformität bestätigende Bewertung – auch nach Marktzugang – auf einen zeitlichen Fixpunkt – vor Marktzugang – rekurriert.

 

Je nach Veränderungsintensität kann auf neuerliche Bewertungs- und Informationspflichten des Herstellers sogar ein Vermarktungsverbot folgen. Insbesondere in Abhängigkeit zur eingesetzten KI-Technologie und zur Anpassungsgeschwindigkeit und Nachvollziehbarkeit der stattfindenden Änderungen, ist es Herstellern mitunter gar nicht möglich den medizinproduktrechtlichen Pflichten nachzukommen.

 

-2- Was muss grundlegend geändert werden?

Während MDR und IVDR spezifische und die EU-Kommission weitergehende Regelungen vermissen lassen, bleibt es zahlreichen untergesetzlichen Initiativen und Normungsvorhaben vorbehalten eine zumindest belastbare Orientierung zu konstruieren. Konstruiert wirken die mitunter bemerkenswerten Normungsvorhaben deshalb, weil sie sich eines Problemfelds annehmen, ohne die notwendige Transparenz und Verlässlichkeit zu schaffen.

 

Der breiten Akzeptanz der in Rede stehenden jungen wie komplexen Technologie täte weniger untergesetzliche Zerklüftung ebenso gut wie Orientierung schaffende Kriterien.

 

Die teils weder über gesetzliche noch untergesetzliche Normen in derzeitiger Fassung zum Ausdruck kommende Differenzierung von KI selbst markiert dabei einen irreleitenden Ansatz. Mitunter fehlt bereits die Unterscheidung zwischen adaptiver und als statische KI bezeichneter Software. Sodann, und in meinen Augen ebenso entscheidend für die Billigung von Qualitätskriterien und Prüfverfahren in etwaigen Rechtsgrundlagen, ist ein Bewusstsein für die breite Welt von KI-Modellen und die Techniken zur Erstellung derselben. Eine den Werdegang der jeweiligen KI aufgreifende Regulierung ließe sich mit etlichen Sicherheitszielen der MDR besser in Einklang bringen.

 

-3- Wo müssen wir ansetzen?

Offenkundig bei geltenden Rechtsgrundlagen. Jedoch nicht erst mit der nächsten großen Reform des Medizinprodukterechts, als dies noch einige Jahre auf sich warten lassen dürfte.

 

Es steht zu befürchten, dass man Regulierungsdefizite auf absehbare Zeit sucht untergesetzlich zu kompensieren. Die für den Medizinproduktemarkt notwendige Verlässlichkeit schafft dies in meinen Augen jedoch nicht. Zentrale Aspekte des Marktzugangs einer nicht endenden Kaskade untergesetzlicher Normungen zu überlassen macht diesen so wichtigen Markt nicht transparenter. Begrüßenswert wäre eine zeitnahe partielle Verlagerung der Regulierung auf die gesetzliche Ebene. Der Unionsgesetzgeber steht hier in der Pflicht. Dies wird nötig sein, um den Wandel einer so gewichtigen Branche sicher gestalten zu können.

 

Die Geschwindigkeit des Wandels verbietet m.E. leider legislative Maßnahmen in uns bekannten Geschwindigkeiten. Die in Entwicklung befindlichen untergesetzlichen Werke sollten sich sinnstiftenderweise zeitnah und detailliert mit der uns heute schon bekannten KI-Welt auseinandersetzen und notwendige Weichenstellungen bezüglich der Verifizierung etwaiger Modelle und der Validierung erzielter Ergebnisse beantworten.