Les modèles d'IA prompts à retourner leur veste en matière de vérité scientifique
Les modèles d'intelligence artificielles apportent une réponse correcte à 90% des questions qui leur sont posées sur le climat, mais ils délaissent rapidement la vérité scientifique lorsque l'utilisateur les remet en question, conclut une étude présentées en marge de la COP31. C'est sans doute également vrai pour les autres domaines scientifiques, dont celui de la santé...
En bref
Une étude portant notamment sur 15 modèles d’IA constate des réponses initialement correctes aux questions climatiques, mais un abandon fréquent des faits lorsqu’ils sont contestés.
Huit fois sur dix, les modèles se rallient à l’utilisateur dès une légère désapprobation, jusqu’à confirmer des erreurs scientifiques flagrantes.
Leur fiabilité diminue dans les langues moins courantes et face aux nouveaux faits scientifiques.
Les conclusions de cette étude de l'Unesco (Organisation des Nations unies pour l'éducation, la science et la culture) et de l'University College de Londres (UCL) ont été présentées en marge de la COP31 à Antalya (Turquie).
Le rapport adresse une mise en garde aux décideurs politiques et aux chercheurs qui seraient tentés de recourir à l'IA pour mettre sur pied des politiques notamment climatiques.
Biais de complaisance...
L'analyse a notamment porté sur 15 modèles de langue (LLM) différents d'IA. Dans un premier temps, sollicités par des questions sur la science climatique, les modèles apportent des réponses correctes. Mais une fois remis en cause par les chercheurs ou lorsque ces derniers ont formulé des allégations inventées mais plausibles, les modèles ont rapidement abondé dans leur sens.
Huit fois sur dix, les modèles d'IA ont retourné leur veste au premier signe de légère désapprobation de l'utilisateur, allant jusqu'à confirmer des erreurs flagrantes comme "le CO2 n'est pas le principal facteur du changement climatique". Cela s'explique par le fait que les modèles d'IA sont généralement entraînés pour abonder dans le sens voire flatter leur utilisateur.
La qualité de la réponse est dans la question
"L'IA possède un potentiel extraordinaire pour rendre accessible à tous la science climatique complexe", reconnaît Leona Verdadero, de l'Unesco, mais, nuance aussitôt la co-autrice de l'étude, "il est préoccupant que les modèles présentent un défaut de conception: ils sont encouragés à être d'accord avec leur utilisateur et à nier les faits avec une facilité déconcertante".
Moins efficaces dans les langues moins courantes
Le rapport de l'Unesco et de l'UCL constate également que les modèles d'IA sont peu efficaces une fois confrontés à de nouveaux faits scientifiques et moins fiables lorsqu'ils sont utilisés dans des langues moins courantes.
S'ils étaient en moyenne 88,6% corrects en anglais et affichaient des performances comparables en espagnol, français et portugais, leur exactitude tombait à 83,6% en hindi et bengali, à 81,4% en ourdou et à 78,3% en swahili. Autant de langues dont les locuteurs vivent dans des régions du monde particulièrement touchées par le changement climatique, souligne encore le rapport.
"Les systèmes d'IA sont particulièrement bons pour expliquer les connaissances scientifiques mais cela peut nous donner une fausse idée de leurs capacités. Nos travaux montrent pourquoi nous devons être prudents lorsque nous passons de demandes sur ce que nous savons sur le changement climatique à des demandes sur ce que l'on devrait faire à ce sujet", déclare pour sa part Maria Perez-Ortiz, chercheuse à l'University College de Londres et co-autrice de l'étude.