In de steeds groeiende digitale wereld is er een overvloed aan gegevens, waaronder elektronische patiëntendossiers met daarin aantekeningen van artsen. Het analyseren en sorteren van deze grote hoeveelheid geschreven tekst is een tijdrovende taak, daarom zijn kunstmatige intelligentie (AI) en machine learning technieken ontwikkeld om waardevolle informatie uit medische aantekeningen te extraheren. Het implementeren van deze AI-modellen in de praktijk brengt echter veiligheidszorgen met zich mee, met name vanwege de variatie in medische notities tussen ziekenhuizen, zorgverleners en in de tijd.
Een team van computerwetenschappers van de Johns Hopkins University en Columbia University heeft een plan bedacht om de robuustheid van op AI gebaseerde medische tekstanalyse te verbeteren. Ze presenteerden hun techniek op een conferentie over neurale informatieverwerkingsystemen. De belangrijkste focus van hun aanpak is om schijnbare correlaties aan te pakken die kunnen ontstaan door de analyse van medische tekst.
Een van de belangrijkste factoren die bijdragen aan deze schijnbare correlaties is de variatie in schrijfgewoonten en -stijlen onder verschillende zorgverleners. Artsen maken vaak gebruik van gespecialiseerde sjablonen of hebben onderscheidende schrijfstijlen die niet gerelateerd zijn aan de daadwerkelijke medische analyse. AI-systemen kunnen echter onterecht verbanden leggen tussen deze sjablonen of schrijfstijlen en specifieke diagnoses, wat leidt tot onnauwkeurige resultaten.
Om dit probleem aan te pakken, stellen de onderzoekers voor om grote taalmodellen (LLM’s) te gebruiken om contrafeitelijke gegevens te genereren. Dit betekent dat medische aantekeningen worden herschreven in de stijl van verschillende zorgverleners met behulp van LLM’s. Door de AI-modellen bloot te stellen aan diverse schrijfstijlen in plaats van zich te richten op specifieke kenmerken zoals sjablonen of grammatica, kunnen de modellen leren om inhoud boven stijl te plaatsen. Het team stelt ook voor om aanvullende gegevens, zoals tijdstempels en patiëntgegevens, op te nemen om nauwkeurigere benaderingen van contrafeitelijke gegevens te creëren.
Experimentele resultaten tonen aan dat het overnemen van deze aanpak de generaliseerbaarheid van AI-modellen aanzienlijk verbetert in veiligheidskritieke taken zoals de analyse van medische aantekeningen. Het onderzoek sluit aan bij een lopende inspanning onder leiding van professor Suchi Saria van de Johns Hopkins University om een AI-veiligheidskader voor gezondheidstoepassingen op te zetten in samenwerking met regelgevende instanties zoals de FDA.
Deze innovatieve toepassing van taalmodellen en de focus op causaal gemotiveerde gegevensvermeerdering heeft het potentieel om uitdagingen in de ontwikkeling van robuuste en betrouwbare AI-systemen aan te pakken, met name in veiligheidskritieke domeinen. Door de nadruk te leggen op robuustheid en veiligheid in AI-modellen, kan het medische veld het volledige potentieel van AI-technologie benutten terwijl het nauwkeurige diagnoses en patiëntenzorg waarborgt.
The source of the article is from the blog enp.gr