AAI

Le deuxième axe de recherche transversal de MAIA concerne le concept d'acceptabilité sociétale de l'IA, et vise à concilier (ou réconcilier) les humains avec les algorithmes. Bien entendu, ce concept peut être considéré sous différents angles qui affectent différentes facettes de la vie en société, comme par exemple les aspects légaux, éthiques, sociologiques et de confiance des nombreuses utilisations de l'IA.

D'une part, nous sommes particulièrement intéressés par les réflexions transdisciplinaires juridiques, éthiques, informatiques et organisationnelles sur l'explicabilité (et toutes les notions associées), dans l'objectif de contribuer à la régulation juridique des algorithmes d'IA. De telles études ont déjà été initiées par N. Nevejans, ce qui lui a valu d'être auditionnée par la Commission spéciale du Parlement européen sur "l'IA à l'ère numérique", en novembre 2021. D'autre part, nous nous intéressons au renforcement de la confiance et de l'éthique de l'IA. Nous explorerons le rôle de la confiance dans le domaine de l'économie, notamment dans le contexte de la numérisation des usages bancaires et financiers, et dans deux domaines spécifiques de la MAIA :

  • la santé. Les bénéfices attendus de l'utilisation de l'IA dans le domaine de la santé sont très importants, mais ne sont pas sans soulever des questions juridiques et éthiques. Face au problème de l'explicabilité, le rôle du droit et de l'éthique est central car il garantit la confiance de tous les acteurs (personnels de santé et patients). En effet, les médecins peuvent tomber dans le piège de prendre des décisions basées sur des croyances plutôt que sur des données réelles. Un objectif scientifique est donc de comprendre comment le personnel hospitalier construit sa confiance dans l'IA, notamment par des études qualitatives (cette question sera abordée avec le CHU Amiens-Picardie). Le projet MAIA permettra également de renforcer la dynamique des travaux initiés sur le sujet ; voir par exemple le "Traité de droit et d'éthique de la robotique civile".
  • L'environnement. Le thème de l'IA, de l'environnement, du droit et de l'éthique est rarement abordé par les chercheurs du monde entier, car il s'agit d'un sujet complexe et à multiples facettes. Notre objectif est de contribuer à l'établissement d'une IA verte et bleue (travail initié au sein de la chaire d'IA de N. Nevejans). MAIA devrait permettre des échanges transdisciplinaires fructueux entre les scientifiques des sciences humaines et de l'environnement.

Dans MAIA, nous mobiliserons également une approche systémique à partir de trois perspectives (psychologique, sociologique et ergonomique) dans le but de limiter les risques psychosociaux induits par les systèmes d'IA. Parmi les risques avérés de l'IA figurent ceux provenant de données biaisées qui sont introduites le plus souvent de manière inconsciente. Sur le plan théorique, nous nous intéresserons aux facteurs à l'origine de ces biais, et à l'impact potentiellement discriminatoire des algorithmes d'IA. Plus généralement, plusieurs actions, telles que des enquêtes, seront menées par les chercheurs en sociologie du MAIA auprès d'usagers et de professionnels (avec une grande opportunité d'impliquer des étudiants et des enseignants). Par exemple, nous sommes intéressés par l'utilisation d'interventions psychosociales afin de renforcer les liens sociaux des jeunes adultes et de contribuer à leur santé mentale. Les ML peuvent nous aider à diagnostiquer les jeunes concernés, à développer et à personnaliser les interventions. Cependant, il faudra certainement étudier comment fournir des garanties d'utilisation afin de rendre cette approche acceptable.

a2u
artois artois artois artois
france2030 france2030