Aix Marseille Université fait partie des établissements lauréats du programme national EVALIA, soutenu par France 2030 et porté par l’Inria. Ce programme de recherche ambitionne de faire émerger une véritable science de l'évaluation de l'intelligence artificielle afin de répondre aux enjeux de confiance, de robustesse, de sécurité et de conformité des systèmes d'IA. Dans ce cadre, les équipes du Laboratoire d'Informatique et Systèmes (LIS, CNRS/amU/UTLN) piloteront un projet consacré à l'évaluation de l'impact cognitif des grands modèles de langage sur les enfants.
EVALIA s'inscrit dans l'Agence de programmes de l'Inria "Numérique, algorithmes, logiciels et usages" créée en janvier 2024.
Développer une science de l'évaluation de l'IA
L'essor des modèles génératifs et des systèmes d'intelligence artificielle transforme profondément les usages de l'IA, tout en faisant émerger de nouveaux défis. Les méthodes d'évaluation traditionnelles, fondées sur des jeux de données statiques et des indicateurs de performance, ne suffisent plus à mesurer le comportement réel de ces systèmes, leur robustesse ou encore leurs impacts sociétaux.
Le programme EVALIA répond à cet enjeu en développant notamment de nouvelles approches scientifiques capables d'évaluer les systèmes d'IA dans des conditions d'usage réelles. Son ambition est de produire des méthodes, des outils et des infrastructures permettant de mesurer non seulement les performances des modèles, mais aussi leur capacité d'adaptation, leur fiabilité, leurs risques d'usage détourné et leurs effets sur les utilisateurs.
Le pôle "science de l'évaluation" du programme est structuré autour de trois piliers complémentaires (métrologie de l'évaluation/mesure pertinente dans le contexte/audit sociétal et cognition). EVALIA contribuera également au développement d'une plateforme nationale d'évaluation au service de la recherche, des acteurs publics et de la mise en œuvre du règlement européen sur l'intelligence artificielle.
Un projet porté par Aix Marseille Université
Dans le cadre du troisième pilier consacré à l'audit sociétal et cognition, Aix Marseille Université pilotera un projet dédié à l'évaluation de l'impact cognitif des grands modèles de langage (LLM) sur les enfants. Ce projet, dont le référent scientifique est Frédéric Béchet pour amU, est porté par le Laboratoire d'Informatique et Systèmes (LIS, CNRS/amU/UTLN). Il implique deux instituts d'établissement d'amU : l'ILCB, Institute of language, communication and the brain (UMR 7020) et l'Institut Laënnec, sciences numériques et IA pour la santé.
Les travaux viseront à mieux comprendre la manière dont les agents conversationnels adaptent leur discours au développement cognitif des jeunes utilisateurs, ainsi que les risques liés à l'anthropomorphisme, à l'influence ou à la manipulation. L'objectif est de produire des méthodes et des capacités d'évaluation permettant d'accompagner le développement d'une IA plus sûre, plus transparente et plus respectueuse des publics vulnérables.
Une contribution à la souveraineté numérique française
En rejoignant EVALIA, Aix Marseille Université participe à une ambition nationale : doter la France d'une capacité scientifique indépendante pour évaluer les systèmes d'intelligence artificielle. Le programme contribuera à développer les connaissances, les méthodologies et les infrastructures nécessaires pour accompagner l'innovation tout en répondant aux exigences de sécurité, de confiance et de régulation portées par la stratégie nationale et européenne en matière d'IA.