|
letzte Woche habe ich mich ziemlich verschätzt, als ich meine persönliche Hilfe bei der Automatisierung der Prozesse angeboten habe. Dazu weiter unten mehr.
Heute möchte ich Beobachtungen zu unserem regulatorischen System mit Ihnen teilen, insbesondere zu den Normen. Das ermöglicht Ihnen, sich auf die Anforderungen einzustellen.
KI: Der rechtliche Rahmen
Aus aktuellem Anlass beginne ich mit den regulatorischen Anforderungen an Produkte, die Verfahren der künstlichen Intelligenz (KI) nutzen.
a) Unspezifisch für Medizinprodukte
Zum einen gibt es Anforderungen, die unspezifisch für Medizinprodukte sind. Hier ist insbesondere der EU AI Act zu nennen. Dessen Vorgaben sind umstritten und werden zurzeit im sogenannten Trialog-Verfahren diskutiert.
Beispielsweise fordert der ZVEI:
- Der Anwendungsbereich sollte auf Machine Learning eingeschränkt werden. Im anderen Fall läuft jedes softwarebasierte Produkt Gefahr, durch dieses Gesetz reguliert zu werden.
- Es sollte ein „risk-based approach“ genutzt und die Klasse „high-risk“ wirklich nur hochkritischen Produkten zugewiesen werden. Eine trennscharfe Definition ist wichtig.
- Das Gesetz muss mit anderen Gesetzen abgestimmt sein. Dopplungen und gar Widersprüche sind zu vermeiden.
Diese Ansicht teilen wir und hatten diese Forderungen bereits vor über einem Jahr bei der EU eingereicht.
b) Spezifisch für Medizinprodukte
Die BS/AAMI 34971 ergänzt die Liste an Vorgaben
Die Liste regulatorischer Anforderungen an Produkte mit KI wurde um die Norm BS/AAMI 34971 verlängert. Die Norm soll auch als ISO/IEC 34971 publiziert werden. Kenner ahnen bereits aufgrund der Nummer, worum es geht: die Anwendung des Risikomanagements und der ISO 14971 bei Medizinprodukten, die Machine Learning nutzen.
Ob Sie diese Norm lesen und kaufen sollten
Die neue Norm kostet über 250 Euro. Das empfinde ich als teuer. Ist sie das Geld wert?
Die kurze Antwort lautet: „nur bedingt“. Die Norm eignet sich als Checkliste, enthält aber meines Erachtens zu viele Fehler. An einigen Stellen fehlt zudem die konzeptionelle Integrität. Das wird zu Unklarheiten und damit zur Unsicherheit bei Audits und Reviews beitragen.
Die ausführliche Antwort können Sie nachlesen in dem überarbeiteten Fachartikel Regulatorische Anforderungen an Medizinprodukte mit Machine Learning in Kapitel 2.r).
Die Normen: Eine ungute Entwicklung
Damit sind wir mitten im Thema:
a) Probleme mit den Normen
Inzwischen türmen sich so viele Probleme auf, dass sich die Frage nach der künftiger Relevanz von Normen stellt. Beispiele für Probleme sind:
- Heterogene Qualität
Ich möchte die eben erwähnte KI-Norm nicht als ein Beispiel für schlechte Normen anführen, denn sie enthält viele gute Aspekte. Aber sie macht klar, dass bei vielen Normen präzise Modelle fehlen. Dadurch werden die Anforderungen beliebig. Zudem sind die Anforderungen zwischen den Normen nicht ausreichend aufeinander abgestimmt.
- Mangelnde Aktualität
Zur Qualität der Normen trägt auch deren (fehlende) Aktualität bei. Die IEC 62304 beispielsweise stammt in wesentlichen Teilen aus dem Jahr 2005. Erst zwei Jahre später wurde das erste iPhone veröffentlicht. Smartphones, Cloud-Computing und KI hatten damals nicht annähernd eine so große Bedeutung wie heute. Der NSA-Skandal lag noch acht Jahre in der Zukunft.
Soll eine solche Norm den Stand der Technik abbilden?
- Zu hohe Preise
Für unsere Kundinnen und Kunden beobachten über 4000 regulatorische Dokumente. Ein nennenswerter Teil davon sind Normen. Auch wenn der typische Hersteller nur eine Teilmenge benötigt, ist die finanzielle Belastung nennenswert.
- Zögerliche Harmonisierung
2017 trat die MDR in Kraft. Jetzt, über sechs Jahre später, ist nur ein Bruchteil der Normen harmonisiert, die unter MDD und AIMD bereits harmonisiert waren. Analog sieht es bei der IVDR aus.
b) Die Ursachen
Es gibt viele Ursachen für diese Probleme:
- Bürokratie
Einige Normengremien legen sich selbst mit Bürokratie still. Man ist mehr mit Regularien, internen Vorschriften, internationalen Abstimmungen und manchmal auch Streit beschäftigt als mit der eigentlichen Normenarbeit.
- Mangelnde Ressourcen / Kompetenz
Auch deswegen ist es nicht leicht, die Besten eines Fachs für die Normenarbeit zu begeistern. Dabei ist höchste Kompetenz gefragt: Gebraucht werden Domänenexpertise, exzellente wissenschaftliche Methodik und die Fähigkeit, abstrakte Modelle zu entwickeln und gleichzeitig die Praxisrelevanz und Umsetzbarkeit in der Praxis sicherzustellen.
- Konkurrierende Präferenzen
Die EU-Kommission erweckt nicht den Eindruck, als würde sie den Normen heute die gleiche Bedeutung schenken wie in der Vergangenheit. Sie gibt Millionen aus für HAS-Consultants, welche bei mir den Eindruck erwecken, das Prozedere eher zu verschleppen. Zudem hat sich die EU mit den Common Specifications eine Alternative zu den Normen geschaffen, die sie in den eigenen Händen hält.
c) Die Folgen für Hersteller und Benannte Stellen
Die Probleme mit den Normen führen dazu, dass sich Behörden und Benannte Stellen mal auf die Gesetze beziehen, mal auf die jüngsten Versionen der Normen, mal auf die harmonisierten Versionen der Normen, mal auf andere Best Practices und Leitlinien.
Für die Hersteller bedeutet dies:
- Rechtsunsicherheit in Audits und bei Zulassungen
- Mehraufwand für Nachbesserungen
- Höhere Kosten
- Eine längere Time-to-Market
All dies in einem Wettbewerbsumfeld, das die Hersteller bis an oder über die Grenzen fordert.
d) Die Lösungsansätze
Wir sind daher in Europa gut beraten, diese Probleme rasch zu lösen. Dafür gibt es mehrere Ansätze, die wir alle (!) verfolgen sollten.
Zur ursprünglichen Idee zurückkehren
Sehr hilfreich wäre es, wieder Gas zu geben und die Normen zu verbessern, zu aktualisieren, aufeinander abzustimmen und zu bezahlbaren Preisen anzubieten. Wir Mitglieder der Normengremien arbeiten bereits unentgeltlich daran.
Die Wahrscheinlichkeit eines solchen Neustarts ist aber begrenzt, solange der Wille fehlt und eine korrekt gelebte Bürokratie wichtiger erscheint als der Beitrag zum Patientenwohl.
Dennoch oder gerade deshalb meine Bitte: Engagieren Sie sich in den Normengremien!
Effizienz auf Herstellerseite optimieren
Die Aufgaben der Hersteller bestehen aus mehr als dem Konformitätsnachweis ihrer Produkte und Prozesse. Hier gibt es Optimierungsmöglichkeiten:
- Das Rad muss nicht jedes Mal neu erfunden werden: Bei Software lassen sich nicht nur Komponenten und Frameworks wiederverwenden, sondern auch ganze Backend-Services. Mehr darüber erfahren Sie in unserer neuen Podcast-Episode.
- Bei der klinischen Bewertung lässt sich die Literatursuche substanziell beschleunigen. Eine unserer Kundinnen konnte mithilfe des Medical-Writer-Kurses die Anzahl der zu bewertenden Literaturstellen von 1000 unspezifischen auf 60 spezifische reduzieren und entsprechend Aufwände sparen.
- Viele Aufgaben lassen sich durch Automatisierung komplett vermeiden. Dazu gleich mehr.
De-facto-Standards schaffen
Die Entscheidung über die Konformität von Produkten und Prozessen ist binär: konform oder nicht konform? Diese Entscheidung ist wiederum das Ergebnis von vielen Mikro-Entscheidungen. Liegt beispielsweise die geforderte Liste an SOUPs vor? Ja oder nein?
Dieses Modell gilt es, in Algorithmen abzubilden – was wir tun. Wenn es eine Verständigung über diese Algorithmen gibt, ist ein De-facto-Standard geschaffen, damit Rechtssicherheit und schließlich die Basis für die Automatisierung.
Ich hatte meine kostenfreie Hilfe bei der konkreten Umsetzung dieser Automatisierung angeboten. Mein Angebot, drei Firmen zu helfen, und die Nachfrage danach liegen um Größenordnungen auseinander. Noch habe ich keine Lösung für diesen „Mismatch“. Aber wir arbeiten daran. Hoffentlich kann ich nächste Woche schon Konkreteres berichten.
Bis spätestens dann!
|
