Kan AI de beloftes wel waarmaken?
Snellere diagnoses, nieuwe geneesmiddelen, behandelingen op maat en minder administratie: er wordt veel verwacht van de inzet van AI in de geneeskunde. Zijn die verwachtingen wel realistisch? Op het gezamenlijk symposium over AI in de geneeskunde van de Koninklijke Academie voor Geneeskunde en de Académie Royale de Médecine de Belgique waren er verschillende stemmen te horen.
Tom Lenaerts, hoogleraar computerwetenschappen aan de ULB en verbonden aan het Artificial Intelligence Lab van de VUB, toonde zich gematigd optimistisch. De geschiedenis van het veld geeft reden tot voorzichtigheid, geeft Lenaerts toe. Al zeventig jaar worden AI-systemen voorgesteld als een manier om de geneeskunde te verbeteren, bijvoorbeeld MYCIN, een aan Stanford University ontwikkeld expertsysteem dat bacteria identificeerde en een antibioticabehandeling voorstelde.
Meer recent was er IBM Watson, een AI-systeem dat wel televisiequiz kon winnen, “maar eigenlijk zeer slecht was in het helpen van artsen bij het behandelen van patiënten”, aldus Lenaerts.
Tegelijk ziet Lenaerts toepassingen die wel klinische meerwaarde hebben. Beeldanalyse noemt hij een duidelijke vooruitgang: AI kan artsen helpen afwijkingen op beelden sneller te herkennen, onder meer bij borstkanker. Zulke toepassingen richten zich niet toevallen op één, precies afgebakende taak.
IBM Watson kon wel een televisiequiz winnen, maar was zeer slecht in het helpen van artsen bij het behandelen van patiënten
Een ‘pratende bibliotheek’
De ambitie verschuift nu naar systemen die veel bredere problemen aanpakken, zoals een AI-‘co-scientist’ die wetenschappelijke publicaties doorzoekt, hypothesen laat beoordelen en mogelijke aanknopingspunten voor onderzoek voorstelt. Een ‘pratende bibliotheek’, met meer kennis dan een individuele onderzoeker ooit in zijn eigen hoofd kan bevatten, noemt Lenaerts het.
Lenaerts onderzoekt zelf – samen met de 101 Genomes Foundation en patiëntenorganisaties – of AI aangedreven bio-informaticatools kunnen helpen bij de diagnose en behandeling van zeldzame ziekten zoals het Marfansyndroom. “De afgelopen twaalf jaar hebben we gegevens verzameld en voorspellende factoren ontwikkeld. We leggen nu de laatste hand aan een artikel over combinaties die interessant zijn om verder te onderzoeken, en kunnen helpen om te begrijpen wat er aan de hand is en behandelingen te vinden.”
Reproduceerbare bevindingen
Juist bij zulke complexe vragen wordt de kwaliteit van de onderliggende kennis beslissend, waarschuwt Lenaerts. In een databank die zijn groep samenstelde, ontbreekt volgens hem voor twee derde van de opgenomen publicaties voldoende bewijskracht; het gaat bijvoorbeeld om één casus zonder logische verklaring of patiëntbewijs.
Een AI-systeem dat die gegevens zonder onderscheid verwerkt, zou ook de fouten en vertekeningen overnemen. Om klinisch inzetbaar te zijn, moeten de bevindingen van AI ook reproduceerbaar zijn. “Dat is de basis van wetenschap.”
Betrouwbaarheid en reproduceerbaarheid zijn niet het enige probleem, zegt Lenaerts. . Als door AI het werk van een arts verschuift van het behandelen van patiënten naar het analyseren van data, ontstaat volgens hem afstand tot de patiënt. Hij waarschuwt ook voor afhankelijkheid van één systeem: “Uiteraard willen ziekenhuizen allemaal het beste AI-tool. Maar hoe zeker kan je zijn dat er niets mis is met een AI-tool die overal wordt gebruikt?” Hij pleit daarom voor het combineren van verschillende AI-tools en methoden, met toetsing van hun resultaten.
Medische AI vraagt controle
Joëlle Pineau, Chief AI Officer bij Cohere en tot vorig jaar VP AI Research bij Meta, het moederbedrijf van Facebook, waarschuwt voor overdreven verwachtingen. AI kan inderdaad al medische beelden analyseren, diagnoses ondersteunen en behandelingen aanbevelen. Maar volgens Pineau bestaat er geen model dat voor al die taken tegelijk geschikt is.
Ze waarschuwt voor de verwachting dat één universeel model uiteindelijk wel elk medisch probleem zal kunnen oplossen. “In AI-research wordt gewerkt aan steeds grotere modellen, getraind op steeds meer data, die voor steeds meer toepassingen inzetbaar zijn. Dit concept van generaliseerbaarheid vormt de kern van machine learning. Maar generaliseerbaarheid zonder beheersbaarheid levert ons weliswaar krachtige intelligentie op, die echter niet goed is gesocialiseerd of afgestemd op de realiteit van mensen en de fysieke wereld waarin wij leven.”
Pineau ziet de plaats van AI in de geneeskunde dan ook ergens tussen kleine modellen voor zeer specifieke taken (zoals beeldvorming) en de belofte van een algemeen model dat alle taken kan oplossen.
Wat is de rol van de arts?
De vraag voor artsen daarbij is welke taak een AI-systeem krijgt en hoeveel autonomie daarbij hoort. Een systeem kan data analyseren (bijvoorbeeld in radiologie) en een diagnose voorstellen. Met meer autonomie kan een systeem ook een behandeling aanbevelen, “waarbij de arts nog steeds verantwoordelijk blijft voor het voorschrijven en behandelen.”
Maar bij een neurostimulator voor patiënten met epilepsie ligt dat anders: de beslissing om elektrische stimulatie toe te dienen moet binnen microseconden vallen. Dan kan een arts niet bij iedere afzonderlijke beslissing van het AI-systeem betrokken zijn.
Naarmate een AI-systeem zelfstandiger handelt, moet dan ook duidelijk zijn welke risico’s en verantwoordelijkheden daaraan gekoppeld zijn. Pineau beschrijft een aanpak in drie stappen: bepaal eerst welke risico’s een toepassing voor patiënten of instellingen kan opleveren; ontwikkel vervolgens tests om de prevalentie van die risico’s en de effectiviteit van mitigerende maatregelen te meten; en maak zichtbaar hoe het systeem werkt.
De combinatie van AI en mensen die samenwerken om betere datasets en betere modellen te ontwikkelen, is essentieel
“Bovenal is het belangrijk te steunen op verplichte transparantie.” Daarbij gaat het onder meer om de gebruikte gegevens, de modellen en de momenten waarop AI wordt ingezet.
Pineau pleit daarnaast voor systemen die breed bruikbaar zijn voor een omschreven soort taak. Als voorbeeld noemt ze Segment Anything, een door het Meta AI Lab ontwikkeld model dat objecten in beelden en video’s afbakent. Het werd niet specifiek met medische beelden getraind, maar kan met hoge betrouwbaarheid tumoren afbakenen.
Ze benadrukt de rol van mensen bij de ontwikkeling: het model helpt gegevens te annoteren, waarna mensen de moeilijkste gevallen beoordelen. “Die combinatie van AI en mensen die samenwerken om betere datasets en betere modellen te ontwikkelen, is essentieel.”
AI-soevereiniteit
Pineau riep ook op om “soevereine AI-oplossingen” te ontwikkelen, om de afhankelijkheid van individuele aanbieders of landen te reduceren. Voor ziekenhuizen ziet Pineau een praktisch voordeel voor het gebruik van open modellen. Die kunnen in sommige gevallen lokaal op de eigen servers worden gebruikt: “Je hoeft je gegevens dus niet noodzakelijk naar een aanbieder te sturen.” Zo kan een ziekenhuis zelf bepalen waar patiëntgegevens worden bewaard en verwerkt en hoe de vertrouwelijkheid wordt beschermd.
Die keuzevrijheid vormt haar slotboodschap. Zorginstellingen moeten kunnen beslissen waar hun gegevens staan, welke technologie ze gebruiken en hoe die wordt bestuurd. “Het vermogen om te bepalen welk governance-model gebruikt zal worden om te beslissen hoe de technologie wordt ingezet, is essentieel om ons innovatievermogen te behouden.”