Machine learning in medische hulpmiddelen: regelgevingsrichtlijnen voor 2026

Korte samenvatting: Machine learning in medische apparaten maakt gebruik van AI-algoritmen om gegevens uit de gezondheidszorg te analyseren, de nauwkeurigheid van diagnoses te verbeteren en de resultaten voor patiënten te optimaliseren. De FDA heeft in 2024 168 ML-compatibele apparaten van klasse II goedgekeurd, waarvan 74,41 TP3T in de radiologie, na een uitgebreid regelgevingskader, inclusief de principes van Good Machine Learning Practice (GMLP). Fabrikanten moeten voldoen aan strenge validatie-eisen, transparantienormen en vooraf vastgestelde wijzigingsplannen, terwijl ze tegelijkertijd de veiligheid en effectiviteit gedurende de gehele levenscyclus van het apparaat moeten waarborgen.

Kunstmatige intelligentie en machine learning-technologieën transformeren de gezondheidszorg in een ongekend tempo. Deze software-algoritmes leren van het gebruik in de praktijk en verbeteren de prestaties van apparaten in de loop van de tijd, waarbij cruciale inzichten worden verkregen uit de enorme hoeveelheden data die dagelijks tijdens de zorgverlening worden gegenereerd.

Maar ze brengen ook unieke uitdagingen met zich mee. De complexiteit en het iteratieve, datagedreven karakter van ML-ontwikkeling vereisen nieuwe regelgevingsbenaderingen en beste praktijken waarvoor traditionele kaders voor medische hulpmiddelen niet zijn ontworpen.

De inzet is hoog. Fabrikanten van medische apparaten wedijveren om hun producten te innoveren met AI-functionaliteiten die zorgverleners beter ondersteunen en de patiëntenzorg verbeteren. De FDA heeft alleen al in 2024 168 apparaten van klasse II met machine learning-functionaliteit goedgekeurd, waarbij radiologie de boventoon voert met 74,41 TP3T aan goedkeuringen.

De huidige stand van zaken met betrekking tot door machine learning ondersteunde medische apparaten

De markt voor medische hulpmiddelen is drastisch veranderd richting de integratie van machine learning. Volgens gegevens van de FDA heeft de regelgevende instantie in 2024 168 klasse II-apparaten met machine learning-functionaliteit goedgekeurd, bovenop de meer dan 1000 apparaten met AI-functionaliteit die al via de bestaande procedures voor markttoelating zijn goedgekeurd.

Dit is wat de goedkeuringscijfers van 2024 onthullen over de huidige markt:

De dominantie van radiologietoepassingen is niet verrassend. Medische beeldvorming genereert enorme datasets die perfect geschikt zijn voor machine learning-algoritmen om te analyseren, patronen te detecteren en afwijkingen te identificeren die mogelijk aan de menselijke aandacht ontsnappen.

Maar toepassingen op het gebied van cardiovasculaire geneeskunde en neurologie winnen aan populariteit en vertegenwoordigen respectievelijk 6,51 TP3T en 6,01 TP3T van de goedkeuringen in 2024. Deze specialismen maken gebruik van machine learning voor taken zoals ECG-interpretatie, beroertedetectie en voorspelling van epileptische aanvallen.

De gegevens over het regelgevingsproces laten zien dat 94,61 TP3T aan ML-apparaten zijn goedgekeurd via de 510(k)-procedure voor markttoelating, wat een substantiële gelijkwaardigheid met bestaande referentieapparaten aantoont. Slechts 5,41 TP3T vereisten de De Novo-classificatieprocedure voor nieuwe apparaten zonder geschikte referentieapparaten.

Internationale ontwikkelingstrends

Niet-Amerikaanse sponsors waren in 2024 verantwoordelijk voor 57,71 TP3T aan goedkeuringen voor apparaten met machine learning-functionaliteit, wat de wereldwijde aard van innovatie in medische apparaten weerspiegelt. Bedrijven wereldwijd investeren fors in AI-oplossingen voor de gezondheidszorg en concurreren om geavanceerde diagnostische en therapeutische instrumenten op de markt te brengen.

De gemiddelde beoordelingstijd van de FDA voor apparaten met machine learning-functionaliteit werd in 2024 geschat op 162 dagen. Dit biedt fabrikanten een redelijke termijn voor markttoegang, hoewel de De Novo-procedure aanzienlijk meer tijd vereist voor de evaluatie van nieuwe apparaten.

Inzicht in machine learning in toepassingen voor medische apparaten

Machine learning in medische apparaten verschilt fundamenteel van traditionele software. Deze systemen gebruiken algoritmen die leren van data, zich aanpassen op basis van nieuwe informatie en in sommige gevallen hun prestaties verbeteren zonder expliciete herprogrammering.

De software-algoritmen analyseren patronen in enorme datasets die tijdens de zorgverlening worden gegenereerd. Ze identificeren correlaties, doen voorspellingen en ondersteunen klinische besluitvorming op manieren die statische, op regels gebaseerde systemen niet kunnen evenaren.

Eerlijk gezegd: deze aanpasbaarheid creëert zowel kansen als uitdagingen op het gebied van regelgeving. Een apparaat dat zijn gedrag aanpast op basis van gegevens na de marktintroductie vereist ander toezicht dan een statisch apparaat met vaste functionaliteit.

Veelvoorkomende ML-apparaattoepassingen

Fabrikanten van medische apparaten zetten machine learning in op diverse gebieden binnen de gezondheidszorg:

• Diagnostische beeldanalyse: Het opsporen van tumoren, botbreuken of andere afwijkingen op röntgenfoto's, MRI-scans, CT-scans en echografieën.
• Klinische besluitvormingsondersteuning: Het aanbevelen van behandelingsopties op basis van patiëntgegevens, medische geschiedenis en onderzoek naar behandelresultaten.
• Patiëntbewaking: Het vroegtijdig herkennen van waarschuwingssignalen voor verslechtering in IC-omgevingen of bij monitoring op afstand.
• Risicostratificatie: Voorspellen welke patiënten een hoger risico lopen op specifieke aandoeningen of complicaties.
• Behandeling op maat: Het afstemmen van therapieparameters op de individuele kenmerken en reacties van de patiënt.
• Werkstroomoptimalisatie: Het stroomlijnen van klinische processen, het verkorten van wachttijden en het verbeteren van de toewijzing van middelen.

Elke toepassing vereist zorgvuldige validatie om te garanderen dat het ML-algoritme veilig en effectief presteert bij diverse patiëntengroepen en in uiteenlopende klinische omgevingen.

Ondersteun de ontwikkeling van medische apparaten met superieure AI-machine learning. 

Machine learning speelt een steeds grotere rol in de ontwikkeling van medische apparaten door de interpretatie van gegevens, kwaliteitscontroles en voorspellende inzichten te verbeteren. AI Superieur Biedt maatwerk AI- en ML-oplossingen die bedrijven helpen complexe data-uitdagingen aan te pakken en analytische workflows te verbeteren.

Pas AI toe op uw projecten voor medische apparaten.

AI Superior ondersteunt machine learning-toepassingen, zoals:

• Geavanceerde data-analyse en patroonherkenning
• Voorspellende modellen voor trends en prestatie-inzichten
• Automatisering van dataworkflows en kwaliteitscontroleprocessen

👉Neem contact op met AI Superior Vandaag bespreken we hoe hun AI-expertise uw initiatieven op het gebied van medische apparatuur kan ondersteunen.

FDA-regelgevingskader voor ML-medische apparaten

De FDA heeft een alomvattende regelgeving ontwikkeld, specifiek voor AI- en machine learning-technologieën in medische apparaten. Dit kader erkent dat apparaten met machine learning-functionaliteit ander toezicht vereisen dan traditionele, statische software.

Op 7 januari 2025 publiceerde de FDA de conceptrichtlijn: Softwarefuncties voor apparaten met kunstmatige intelligentie: Levenscyclusbeheer en aanbevelingen voor indiening bij de marktintroductie. Dit is de eerste uitgebreide richtlijn die de gehele levenscyclus bestrijkt, van ontwikkeling tot monitoring na marktintroductie.

Principes van goede machine learning-praktijken (GMLP)

In oktober 2021 hebben Health Canada, de Amerikaanse Food and Drug Administration en de Britse Medicines and Healthcare products Regulatory Agency gezamenlijk tien leidende principes voor goede machine learning-praktijken vastgesteld.

Deze GMLP-principes ondersteunen de ontwikkeling van veilige, effectieve en hoogwaardige AI/ML-technologieën die kunnen leren van gebruik in de praktijk en de prestaties van apparaten kunnen verbeteren. De principes houden rekening met de unieke overwegingen die voortvloeien uit de complexiteit en het datagedreven karakter van machine learning-ontwikkeling.

De leidende principes vormen de basis voor de beste werkwijzen gedurende de gehele levenscyclus van het apparaat, van het eerste ontwerp tot de monitoring na de marktintroductie en continue verbetering.

Regulerende trajecten

Medische apparaten die gebruikmaken van machine learning komen via de gebruikelijke regelgeving op de Amerikaanse markt terecht, met aanpassingen om rekening te houden met hun unieke kenmerken.

• 510(k) Premarket Notification: De belangrijkste route voor ML-apparaten, goed voor 94,61 TP3T van de goedkeuringen in 2024. Fabrikanten tonen aan dat het apparaat in wezen gelijkwaardig is aan een wettelijk in de handel gebracht referentieapparaat. De mediane beoordelingstijd bedroeg 151 dagen in 2024. Van de 510(k) ML-apparaten in 2024 verwezen 97,51 TP3T naar identificeerbare referentieapparaten, met een mediane leeftijd van 2,2 jaar. Opvallend is dat 64,51 TP3T van de aangehaalde referentieapparaten zelf ML-apparaten waren, wat de volwassenwording van het ecosysteem van AI-medische apparaten weerspiegelt.
• Nieuwe classificatie: Voor nieuwe ML-apparaten zonder geschikte referentieapparaten biedt de De Novo-procedure markttoegang voor apparaten met een laag tot gemiddeld risico. Deze procedure was verantwoordelijk voor 5,41 TP3T van de 2024 ML-apparaatgoedkeuringen, met een mediane beoordelingstijd van 372 dagen.
• Premarket Approval (PMA): Apparaten met machine learning die een hoog risico met zich meebrengen en waarvoor de meest strenge beoordelingsprocedure vereist is, ondergaan een PMA-evaluatie, hoewel dit traject slechts een klein deel van de autorisaties voor ML-apparaten vertegenwoordigt.

Vooraf vastgestelde wijzigingsbeheerplannen (PCCP's)

Een van de belangrijkste recente ontwikkelingen in de regelgeving voor ML-apparaten is de introductie van vooraf vastgestelde wijzigingsplannen. Deze plannen stellen fabrikanten in staat om specifieke, vooraf goedgekeurde wijzigingen in hun ML-algoritmen door te voeren zonder dat daarvoor nieuwe regelgevingsaanvragen nodig zijn.

PCCP's pakken een cruciale uitdaging aan: ML-algoritmen verbeteren vaak door hertraining met nieuwe data of door verfijningen in het algoritme zelf. Traditionele regelgeving vereiste een nieuwe aanvraag voor elke wijziging, wat knelpunten creëerde die innovatie vertraagden.

In 2024 bevatte 16,71 TP3T van de met machine learning uitgeruste apparaten PCCP's in hun samenvattingen, wat wijst op de vroege acceptatie van dit nieuwe regelgevingsinstrument. Naarmate fabrikanten meer ervaring opdoen met PCCP's en toezichthouders de verwachtingen verfijnen, zal dit percentage waarschijnlijk toenemen.

Beste ontwikkelingspraktijken voor ML-gebaseerde medische apparaten

Het ontwikkelen van veilige en effectieve medische apparaten met machine learning-functionaliteit vereist strenge engineeringpraktijken die zijn afgestemd op de unieke kenmerken van machine learning-systemen.

Gegevensbeheer en -kwaliteit

Machine learning-algoritmen zijn slechts zo goed als de data waarmee ze leren. De kwaliteit, representativiteit en diversiteit van de data hebben een directe invloed op de prestaties van apparaten en mogelijke vertekeningen.

Tot de beste werkwijzen behoren:

• Het verzamelen van trainingsgegevens die de beoogde gebruikerspopulatie vertegenwoordigen, rekening houdend met demografische kenmerken, ziektebeelden en klinische omstandigheden.
• Het documenteren van gegevensbronnen, verzamelmethoden, etiketteringsprocedures en kwaliteitscontroleprocessen.
• Het implementeren van strenge protocollen voor het opschonen en voorbewerken van gegevens.
• Het valideren van data-annotaties door meerdere deskundige beoordelaars.
• Het aanpakken van klasse-onevenwichtigheden en zeldzame aandoeningen in trainingsdatasets.
• Het waarborgen van de herkomst van gegevens en versiebeheer gedurende het gehele ontwikkelingsproces.

De FDA benadrukt dat demografische diversiteit in trainingsdata essentieel is om de prestaties van apparaten in verschillende patiëntengroepen te garanderen. Toch leverde slechts 15,51 TP3T aan met machine learning uitgeruste apparaten demografische gegevens aan in hun goedkeuringsdocumentatie voor 2024, wat een aanzienlijk gebrek aan transparantie aan het licht brengt.

Algoritmeontwikkeling en -validatie

De ontwikkeling van machine learning-algoritmen doorloopt iteratieve cycli van training, testen, verfijnen en valideren. Elke cyclus moet zorgvuldig worden gedocumenteerd ter ondersteuning van indieningen bij regelgevende instanties en monitoring na marktintroductie.

Belangrijke aandachtspunten zijn onder meer:

• Het selecteren van geschikte ML-architecturen voor de klinische taak (supervised learning, unsupervised learning, deep learning, ensemblemethoden)
• Het definiëren van klinisch relevante prestatiemaatstaven die verder gaan dan louter nauwkeurigheid.
• Het implementeren van aparte datasets voor training, validatie en testen, zonder overlapping.
• Externe validatie uitvoeren op gegevens van verschillende instellingen of patiëntenpopulaties.
• Analyse van de prestaties van algoritmen in verschillende demografische subgroepen.
• Het identificeren en verminderen van mogelijke vertekeningen in algoritmevoorspellingen
• Het documenteren van alle hyperparameters, trainingsprocedures en modelversies.

Klinische validatie moet aantonen dat het ML-apparaat veilig en effectief functioneert in de beoogde gebruiksomgeving met de beoogde gebruikers. Prestaties in het laboratorium alleen zijn niet voldoende.

Prestatiecijfers en transparantie

Het definiëren van geschikte prestatiemaatstaven voor medische apparaten die gebruikmaken van machine learning vereist klinische expertise en statistische nauwkeurigheid. Nauwkeurigheid alleen geeft zelden een volledig beeld van de klinische bruikbaarheid.

Relevante meetwaarden zijn vaak sensitiviteit, specificiteit, positief voorspellende waarde, negatief voorspellende waarde, oppervlakte onder de ROC-curve en F1-scores. De geschikte meetwaarden hangen af van de klinische toepassing en de relatieve kosten van vals-positieve versus vals-negatieve resultaten.

De transparantie in de rapportage van prestaties blijft echter inconsistent. Volgens FDA-gegevens uit 2024 rapporteerde slechts 29,2% van de met machine learning uitgeruste apparaten zowel de sensitiviteit als de specificiteit in hun goedkeuringsdocumentatie.

Deze lacune in de rapportage bemoeilijkt de beoordeling door clinici van de mogelijkheden van het apparaat en de juiste toepassingsscenario's.

Transparantie- en rapportagevereisten

Transparantie zorgt ervoor dat informatie die van invloed is op de risico's en uitkomsten voor patiënten, wordt gecommuniceerd naar iedereen die met ML-gestuurde medische apparaten werkt: artsen, patiënten, zorginstellingen en toezichthouders.

Effectieve transparantie voor medische apparaten die gebruikmaken van machine learning omvat het bekendmaken van beperkingen van het algoritme, prestatiekenmerken bij verschillende populaties, geschikte gebruiksscenario's en contra-indicaties.

Huidige transparantielacunes

Ondanks de nadruk van de regelgeving op transparantie, blijven er aanzienlijke lacunes bestaan in de documentatie voor FDA-goedkeuring van ML-apparaten:

Deze lacunes bemoeilijken de klinische besluitvorming. Hoe kan een radioloog beoordelen of een machine learning-algoritme naar behoren presteert voor zijn of haar patiëntenpopulatie zonder demografische prestatiegegevens? Hoe kan een ziekenhuis cyberbeveiligingsrisico's evalueren zonder duidelijke beveiligingsverklaringen?

Beste praktijken voor transparantie

Toonaangevende fabrikanten van medische apparaten op basis van machine learning implementeren uitgebreide transparantiepraktijken:

• Het publiceren van gedetailleerde technische documentatie waarin de algoritmearchitectuur, de kenmerken van de trainingsgegevens en de validatiemethoden worden beschreven.
• Het aanbieden van materiaal voor zorgverleners waarin geschikte gebruiksscenario's, prestatiemaatstaven en beperkingen worden uitgelegd.
• Het openbaar maken van de prestaties van demografische subgroepen om mogelijke vertekeningen te identificeren.
• Het actueel houden van productetiketten die de algoritmeaanpassingen onder PCCP's weerspiegelen.
• Het implementeren van gebruikersinterfaces die de betrouwbaarheidsniveaus en onzekerheid van algoritmen weergeven.
• Het aanbieden van trainingsprogramma's om correct gebruik en interpretatie van het apparaat te garanderen.

Transparantie is niet zomaar een wettelijke verplichting. Het is essentieel voor het opbouwen van vertrouwen bij artsen en het waarborgen van correct medisch hulpmiddelgebruik in de klinische praktijk.

Postmarket surveillance en prestaties in de praktijk

Medische apparaten die gebruikmaken van machine learning vereisen continue monitoring na marktgoedkeuring. De prestaties in de praktijk kunnen afwijken van gecontroleerde validatiestudies als gevolg van verschillen in de populatie, variaties in de werkprocessen of dataverschuivingen.

Datadrift treedt op wanneer de statistische eigenschappen van invoergegevens in de loop van de tijd veranderen, wat de prestaties van algoritmen kan verslechteren. Medische beeldvormingsprotocollen evolueren, patiëntenpopulaties veranderen en ziektebeelden variëren per setting.

Monitoringstrategieën

Effectief postmarket-toezicht voor ML-apparaten omvat:

• Continue prestatiebewaking met behulp van gegevens uit de praktijk
• Het registreren van bijwerkingen en apparaatstoringen.
• Het analyseren van prestaties binnen verschillende demografische subgroepen en klinische omgevingen.
• Het detecteren van datadrift door middel van statistische monitoring.
• Validatie van de prestaties van het algoritme op nieuwe dataverdelingen
• Het verzamelen van feedback van gebruikers over de bruikbaarheid en klinische toepasbaarheid van het apparaat.

Fabrikanten moeten duidelijke drempelwaarden vaststellen voor prestatievermindering die aanleiding geven tot onderzoek en mogelijke hertraining of aanpassing van het algoritme.

Continue Verbeteringscycli

PCCP's stellen fabrikanten in staat om vooraf bepaalde aanpassingen door te voeren op basis van gegevens na marktintroductie, zonder dat daarvoor nieuwe regelgevende aanvragen nodig zijn. Dit creëert een continue verbeteringscyclus waarbij praktijkgegevens de verfijning van algoritmen sturen.

Continue verbetering vereist echter zorgvuldig beheer. Fabrikanten moeten alle aanpassingen documenteren, prestatieverbeteringen valideren en wijzigingen aan gebruikers communiceren via bijgewerkte etikettering en trainingsmateriaal.

Het vinden van de juiste balans tussen innovatiesnelheid en veiligheidstoezicht blijft een centrale uitdaging in de regelgeving voor ML-apparaten. PCCP's vertegenwoordigen een zich ontwikkelende regelgevingsaanpak om deze balans te beheren.

Overwegingen met betrekking tot cyberbeveiliging

Medische apparaten die gebruikmaken van machine learning brengen unieke cyberbeveiligingsrisico's met zich mee. Deze apparaten zijn vaak verbonden met ziekenhuisnetwerken, verzenden gevoelige patiëntgegevens en kunnen op afstand algoritme-updates ontvangen.

Vijandige aanvallen vormen een specifiek probleem voor machine learning-systemen. Zorgvuldig samengestelde invoergegevens kunnen ertoe leiden dat algoritmen onjuiste voorspellingen doen, waardoor de patiëntveiligheid in gevaar kan komen.

Beveiligingsrichtlijnen

Volgens gegevens uit 2024 behandelde 54,21 TP3T aan ML-apparaten cybersecurity-aspecten in hun goedkeuringsdocumentatie – beter dan de transparantie op sommige andere gebieden, maar toch blijft de beveiligingsstatus van bijna de helft van de apparaten onduidelijk.

Robuuste cyberbeveiliging voor ML-medische apparaten omvat:

• Gegevens versleutelen tijdens overdracht en opslag.
• Het implementeren van veilige authenticatie en autorisatie.
• Het bijhouden van auditlogboeken van algoritmeaanpassingen en gebruikerstoegang.
• Validatie van algoritme-updates via beveiligde kanalen
• Algoritmen testen op hun weerstand tegen vijandige aanvallen.
• Implementatie van inbraakdetectie en -monitoring
• Het onderhouden van kwetsbaarheidsbeheer- en patchprocessen.

Cyberbeveiliging is geen eenmalige implementatie. Het vereist voortdurende waakzaamheid, updates om opkomende bedreigingen aan te pakken en coördinatie met IT-systemen in de gezondheidszorg.

Internationaal regelgevingslandschap

De regelgeving voor medische apparaten voor machine learning reikt verder dan de bevoegdheid van de FDA. Fabrikanten die zich op de wereldmarkt richten, moeten zich een weg banen door meerdere regelgevende kaders met uiteenlopende eisen.

Europese Unie

De EU-verordening inzake medische hulpmiddelen (MDR) en de verordening inzake in-vitrodiagnostica (IVDR) regelen de verkoop van medische hulpmiddelen op de Europese markt. Apparaten die gebruikmaken van machine learning vallen onder deze regelgeving, waarbij de classificatie gebaseerd is op het beoogde gebruik en het risiconiveau.

De EU legt de nadruk op klinisch bewijs, post-marketing surveillance en transparantie. Sommige eisen gaan verder dan de verwachtingen van de FDA, met name wat betreft documentatie voor klinische validatie.

Internationale harmonisatie-inspanningen

De gezamenlijke publicatie in 2021 van de principes voor goede machine learning-praktijken door Health Canada, de FDA en de Britse MHRA is een belangrijke stap voorwaarts in de richting van internationale harmonisatie.

Het International Medical Device Regulators Forum (IMDRF) streeft ernaar de regelgeving in verschillende rechtsgebieden op elkaar af te stemmen, dubbele eisen te verminderen en veilige innovatie te versnellen.

Er worden ISO-normen voor machine learning in medische apparaten ontwikkeld, waaronder ISO/DTS 24971-2.2, die richtlijnen biedt voor het toepassen van risicomanagement op medische apparaten met machine learning-functionaliteit.

Desondanks blijven er aanzienlijke verschillen bestaan tussen de verschillende rechtsgebieden wat betreft goedkeuringstermijnen, vereisten voor klinisch bewijs en verplichtingen na marktintroductie.

Klinische validatie en bewijsvereisten

Klinische validatie toont aan dat een medisch apparaat gebaseerd op machine learning veilig en effectief functioneert in de beoogde gebruiksomgeving. Laboratoriumprestatiemetingen alleen geven geen volledig beeld van het daadwerkelijke klinische nut.

De validatievereisten variëren afhankelijk van de risicoclassificatie van het apparaat, het beoogde gebruik en het regelgevingsproces. Apparaten met een hoger risico worden onderworpen aan strengere bewijsvereisten.

Overwegingen bij het ontwerpen van een onderzoek

Sterke klinische validatiestudies voor ML-apparaten vertonen gemeenschappelijke kenmerken:

• Verzamel waar mogelijk prospectief gegevens om vertekeningen door retrospectieve analyse te voorkomen.
• Meerdere onderzoekslocaties die diverse klinische omgevingen vertegenwoordigen.
• Geschikte steekproefgroottes met berekeningen van de statistische power.
• Relevante klinische eindpunten die verder gaan dan technische prestatiemaatstaven
• Vergelijking met de huidige standaardzorg of klinische praktijk
• Analyse van de prestaties van algoritmen in verschillende demografische subgroepen.
• Onafhankelijke validatiegegevenssets, gescheiden van de ontwikkelingsgegevens.
• Blinde evaluatie waar mogelijk om vertekening te verminderen.

Externe validatie met behulp van gegevens van instellingen die niet betrokken waren bij de ontwikkeling van het algoritme, levert sterker bewijs voor generaliseerbaarheid op dan interne validatie alleen.

Bewijs uit de praktijk

Gerandomiseerde, gecontroleerde studies worden beschouwd als de gouden standaard voor klinisch bewijs, maar gegevens uit de praktijk vullen de traditionele onderzoeksgegevens steeds vaker aan voor ML-apparaten.

Praktische gegevens zijn afkomstig uit de dagelijkse klinische praktijk, elektronische patiëntendossiers, registers en post-marketing surveillance. Ze tonen de prestaties van apparaten aan in diverse, ongecontroleerde omgevingen die de werkelijke gebruiksomstandigheden beter weerspiegelen.

De uitdaging bij het verzamelen van gegevens uit de praktijk is het waarborgen van de datakwaliteit en het controleren op verstorende factoren. Observationele data missen de nauwkeurigheid van gecontroleerde studies en vereisen een zorgvuldige analyse om valide conclusies te kunnen trekken.

Risicobeheer voor ML-medische apparaten

ISO 14971 biedt de internationale standaard voor risicomanagement van medische hulpmiddelen. De toepassing van dit raamwerk op apparaten met machine learning vereist aandacht voor de unieke risico's die verbonden zijn aan adaptieve algoritmen.

ML-specifieke risico's

Naast de traditionele risico's die inherent zijn aan apparaten, staan ML-systemen voor specifieke uitdagingen:

• Risico's met betrekking tot de datakwaliteit: Onjuiste, bevooroordeelde of niet-representatieve trainingsgegevens die leiden tot gebrekkige algoritmen.
• Overfitting: Algoritmen die goed presteren op trainingsdata, maar slecht op nieuwe data.
• Gegevensafwijking: Veranderende invoergegevensverdelingen leiden tot een verslechtering van de algoritmeprestaties in de loop van de tijd.
• Algoritmische vooringenomenheid: Systematische fouten die specifieke demografische groepen of klinische presentaties treffen.
• Vijandige aanvallen: Kwaadwillige invoer die is ontworpen om onjuiste voorspellingen te veroorzaken.
• Integratiefouten: Problemen die ontstaan door de interactie van apparaten met klinische werkprocessen of IT-systemen.
• Misverstand van de gebruiker: Klinische artsen die de resultaten van algoritmes verkeerd interpreteren of apparaten op onjuiste wijze toepassen.

Risicobeperkingsstrategieën moeten deze ML-specifieke problemen aanpakken door middel van zorgvuldig ontwerp, validatie, monitoring en gebruikerstraining.

Risico-batenanalyse

Bij goedkeuringsbeslissingen van de FDA worden de voordelen van een apparaat afgewogen tegen de potentiële risico's. Voor medische apparaten die gebruikmaken van machine learning, wordt bij deze beoordeling rekening gehouden met zowel de technische prestaties als het klinisch nut.

Een zeer nauwkeurig algoritme dat de klinische workflow verstoort of leidt tot waarschuwingsmoeheid, levert mogelijk minder netto voordeel op dan een matig nauwkeurig algoritme dat goed is geïntegreerd in de zorgprocessen.

De baten-risicoverhouding kan verschillen per klinische setting, patiëntenpopulatie en toepassing. Een apparaat dat geschikt is voor specialistisch gebruik in academische medische centra, kan onaanvaardbare risico's met zich meebrengen in een gemeenschap met beperkte middelen.

De toekomst van machine learning in medische apparaten

Machine learning in medische apparaten blijft zich snel ontwikkelen. Verschillende trends zullen het vakgebied de komende jaren vormgeven.

Gefedereerd leren

Federated learning maakt het mogelijk om algoritmes te trainen op gedistribueerde datasets zonder patiëntgegevens te centraliseren. Ziekenhuizen werken samen aan de ontwikkeling van algoritmes, terwijl de privacy en beveiliging van gegevens gewaarborgd blijven.

Deze aanpak pakt belemmeringen voor gegevenstoegang aan en maakt training mogelijk met grotere, meer diverse datasets dan individuele instellingen zouden kunnen bieden. Regelgeving wordt aangepast om federatieve leerbenaderingen mogelijk te maken.

Verklaarbare AI

Algoritmen die als een black box werken en voorspellingen doen zonder uitleg, roepen vragen op over de klinische toepassing ervan. Verklaarbare AI-methoden zijn erop gericht om de redenering van algoritmen transparant en interpreteerbaar te maken.

Technieken zoals aandachtmechanismen, saillantiekaarten en analyse van het belang van kenmerken helpen clinici te begrijpen welke factoren de voorspellingen van algoritmen beïnvloeden. Deze transparantie schept vertrouwen en stelt clinici in staat potentiële fouten te identificeren.

Multimodaal leren

Toekomstige medische apparaten die gebruikmaken van machine learning zullen steeds vaker meerdere soorten gegevens integreren — beeldmateriaal, laboratoriumresultaten, klinische aantekeningen, fysiologische monitoring, genomica — om uitgebreidere inzichten te genereren dan algoritmes die slechts één modaliteit gebruiken.

Multimodaal leren biedt zowel kansen als uitdagingen voor validatie, aangezien de complexiteit van geïntegreerde systemen die van eenvoudige beeldvormings- of monitoringstoepassingen overstijgt.

Edge-computers

Het uitvoeren van machine learning-algoritmen op edge-apparaten in plaats van op gecentraliseerde servers vermindert de latentie, verbetert de privacy en maakt realtime besluitvorming mogelijk. Implementatie op edge-apparaten vereist optimalisatie van de algoritmen voor omgevingen met beperkte resources.

Regelgevingskaders moeten zich aanpassen aan implementatiemodellen aan de rand van het netwerk, waarbij algoritme-updates plaatsvinden via gedistribueerde mechanismen in plaats van gecentraliseerde controle.

Praktische aanbevelingen voor fabrikanten

Organisaties die medische apparaten ontwikkelen met machine learning-functionaliteit, zouden prioriteit moeten geven aan een aantal belangrijke werkwijzen:

Begin met duidelijke klinische behoeften. De meest succesvolle ML-apparaten lossen echte klinische problemen op met een aantoonbare impact op de patiëntresultaten, de efficiëntie van de werkprocessen of de kwaliteit van de zorg.

Investeer in hoogwaardige, representatieve trainingsdata. De kwaliteit van de data bepaalt de prestaties van het algoritme meer dan de complexiteit van de architectuur. Diverse data voorkomen demografische vertekeningen.

Voer strenge validatieprocessen in. Externe validatie op onafhankelijke datasets levert sterker bewijs op dan interne tests alleen. Analyseer de prestaties binnen verschillende demografische subgroepen.

Documenteer alles. Voor het indienen van regelgevingsdocumenten is gedetailleerde documentatie vereist van gegevensbronnen, trainingsprocedures, validatiemethoden en prestatiemaatstaven. Stel vroegtijdig documentatiepraktijken vast.

Plan voor monitoring na de marktintroductie. Monitoring van de prestaties in de praktijk en continue verbeteringscycli zijn essentieel voor het succes van ML-apparaten.

Ga vroegtijdig in gesprek met regelgevende instanties. Overleg voorafgaand aan de indiening met de FDA of andere regelgevende instanties verduidelijkt de verwachtingen en verkleint de risico's met betrekking tot de goedkeuringstermijn.

Geef prioriteit aan transparantie. Volledige openbaarmaking van de kenmerken, beperkingen en prestaties van algoritmen vergroot het vertrouwen van artsen en bevordert een correct gebruik van het apparaat.

Overweeg PCCP's. Vooraf vastgestelde wijzigingsplannen maken snellere algoritmeverbeteringen mogelijk op basis van gegevens na de marktintroductie. Ontwikkel PCCP-strategieën vroeg in het apparaatontwikkelingsproces.

Veelgestelde vragen