Publié le 11 mars 2022

NUMÉRIQUE

Laurence Devillers : "Il faut intégrer le facteur humain et environnemental dans le développement de l’intelligence artificielle"

Les risques posés par le développement de l’intelligence artificielle et du numérique sont très peu débattus par les candidats à l’élection présidentielle. Éducation, climat, santé… ces technologies sont pourtant présentes dans de nombreux domaines sans qu’un débat sur leur gouvernance ne soit réellement lancé. Laurence Devillers, professeure d’informatique à Sorbonne-Université et directrice de recherche sur les interactions affectives humain-machine au CNRS, a rédigé un manifeste intitulé "Vague IA à l’Élysée" (éditions de l’Observatoire) pour sensibiliser les électeurs.

Laurence Devillers CCO
Laurence Devillers, directrice de recherche sur les interactions affectives humain-machine au CNRS, interpelle les candidats dans son livre "Vague IA à l'Élysée".
@CCO

Éducation, écologie, données personnelles... Pourquoi vouloir alerter les candidats à l’élection présidentielle sur ces questions liées au numérique et à l’intelligence artificielle ?

J’ai voulu alerter sur les questions majeures que posent le numérique et l’intelligence artificielle, en montrant que le levier économique ne peut pas être le seul moteur du développement de ces technologies. Il faut s’appuyer sur plusieurs dimensions, en prenant aussi en compte le facteur humain et environnemental.

Il ne s’agit pas de freiner les projets, mais de voir comment on y intègre des critères responsables et éthiques. Il faut débattre de ces questions. Je fais partie du Partenariat mondial sur l’IA, créé par le Canada et la France réunissant 25 démocraties dans le monde afin de réfléchir à la question d’amener les citoyens et gouvernements à comprendre les bénéfices et les risques posés par ces technologies, notamment sur le futur du travail, la gouvernance des données, l’innovation, etc.

Vous proposez notamment de créer un ministère de l’innovation numérique positive et responsable. C’est un débat politique ?

Il faut créer une entité qui raisonne sur le long terme et qui agrège les différents aspects des impacts du numérique et de l’intelligence artificielle sur la santé, la responsabilité juridique, la défense, le climat, etc. On a tout à gagner à étudier le problème dans sa complexité, c’est-à-dire ses aspects positifs et négatifs. Par exemple, pour l’écologie, ces technologies peuvent permettre de faire des économies d’énergie par une gestion plus efficace, et en même temps elles consomment énormément d’énergie, donc sont très émettrices de gaz à effet de serre.

Je suis professeure d’informatique, je me rends donc bien compte des avancées que ces technologies permettent, mais il faut le faire avec raison et avec éthique. Le principal sujet, c’est comment garder le contrôle sur ces systèmes et les développer au mieux, si on ne veut pas en laisser la gouvernance aux seuls géants du numérique qui le feront pour leur propre richesse.

Je travaille sur la création de normes et de standards européens pour encadrer ces outils. Il s’agit de détecter les risques posés par ces outils numériques, de les mesurer et de les atténuer. Si on établit de telles normes, c’est pour que les industriels puissent développer des outils qui soient différents de ceux proposés par les Américains, qui ont des visées mercantiles, ou par les Chinois, qui visent au contrôle.

Pourquoi pensez-vous que ces problématiques ne sont pas plus prises en compte par les candidats à la présidentielle ?

C’est un sujet absent des préoccupations des Français, qui accèdent aux nouveaux outils numériques sans se poser de questions sur leur fonctionnement. Ce qui intéresse, c’est la gratuité et la désirabilité de ces applications. Le pendant de cela, c’est que ces applications occupent notre attention et en tirent profit notamment par la publicité.

L’Europe s’en préoccupe, notamment à travers le Règlement général sur la protection des données (RGPD). Mais il y a peu d’explication des impacts des technologies d’intelligence artificielle et du numérique sur la société. Cela s’explique notamment parce que les États ne veulent pas louper le coche de l’économie numérique.

Meta, l’ex-Facebook, veut développer le métavers. Que pensez-vous de ces technologies créant des mondes virtuels ?

Ce qui m’inquiète le plus, c’est le côté immersif qui pose des questions éthiques. Les émotions sont beaucoup plus fortes lorsque l’on est immergé dans ces univers virtuels, encore plus que sur les réseaux sociaux. Cela peut être très bien pour sensibiliser sur certains sujets, soigner des pathologies, travailler à distance, etc. Mais on peut aussi craindre que Meta nous rende de plus en plus dépendant de ces outils et capte de plus en plus d’informations personnelles sur les utilisateurs, avec un risque de manipulation.

J’appelle dans ce livre à des débats politiques sur les questions du numérique et de l’IA pour plus de compréhension des enjeux.

Propos recueillis par Arnaud Dumas, @ADumas5


© 2022 Novethic - Tous droits réservés

‹‹ Retour à la liste des articles

NUMÉRIQUE

Données personnelles

Avec Internet et les réseaux sociaux, tous les utilisateurs sèment des gigantesques quantités de données. Données qui sont utilisées à des fins publicitaires et parfois dans un but malveillant. Le RGPD, entré en vigueur le 25 mai 2018, est censé protéger les Européens.

Carrefour Alexandre Bompard metavers

Le métavers, un "far west" qu'il faut réguler

C'est le "turfu" du monde du travail. Le 18 mai, le PDG de Carrefour, Alexandre Bompard s'est réjoui d'avoir réalisé des entretiens d'embauche dans le métavers, cet univers virtuel censé être révolutionnaire. Un symbole de l'engouement des entreprises pour cette nouveauté qui se développe...

Metaverse gafam Fanny PARISE Me lanie Bultez

Fanny Parise : "Le métaverse de Facebook est un risque pour nos démocraties"

Le métaverse, ce terme venu tout droit de la science-fiction, désignant un monde virtuel via un casque de réalité augmentée, prend forme. Facebook vient d'annoncer la création de 10 000 emplois en Europe pour lancer cet Internet de demain. Pour l'anthropologue Fanny Parise, spécialiste de...

Dejan Dundjerski istock vaccination covid

Doctolib, Maiia, Keldoc… Les plateformes numériques françaises se lancent dans la course pour la vaccination

Alors que le gouvernement vise un million de personnes vaccinées d'ici la fin du mois, il a fait le choix de s'appuyer sur des plateformes numériques françaises spécialistes comme Doctolib, Maiia ou encore Keldoc pour booster sa campagne. Ces dernières vont gérer la prise de rendez-vous des citoyens...

Telephone messagerie Pixabay

Pour protéger leur vie privée, les utilisateurs de WhatsApp migrent en masse vers l’application sécurisée Signal

Signal est victime de son succès. L'application de messagerie instantanée sécurisée a vu affluer un nombre exceptionnel de nouveaux utilisateurs au point de créer des problèmes techniques. Une affluence provoquée par l'annonce des nouvelles règles d'utilisation de WhatsApp. À partir du 8 février,...