Éducation, écologie, données personnelles... Pourquoi vouloir alerter les candidats à l’élection présidentielle sur ces questions liées au numérique et à l’intelligence artificielle ?

J’ai voulu alerter sur les questions majeures que posent le numérique et l’intelligence artificielle, en montrant que le levier économique ne peut pas être le seul moteur du développement de ces technologies. Il faut s’appuyer sur plusieurs dimensions, en prenant aussi en compte le facteur humain et environnemental.

Il ne s’agit pas de freiner les projets, mais de voir comment on y intègre des critères responsables et éthiques. Il faut débattre de ces questions. Je fais partie du Partenariat mondial sur l’IA, créé par le Canada et la France réunissant 25 démocraties dans le monde afin de réfléchir à la question d’amener les citoyens et gouvernements à comprendre les bénéfices et les risques posés par ces technologies, notamment sur le futur du travail, la gouvernance des données, l’innovation, etc.

Vous proposez notamment de créer un ministère de l’innovation numérique positive et responsable. C’est un débat politique ?

Il faut créer une entité qui raisonne sur le long terme et qui agrège les différents aspects des impacts du numérique et de l’intelligence artificielle sur la santé, la responsabilité juridique, la défense, le climat, etc. On a tout à gagner à étudier le problème dans sa complexité, c’est-à-dire ses aspects positifs et négatifs. Par exemple, pour l’écologie, ces technologies peuvent permettre de faire des économies d’énergie par une gestion plus efficace, et en même temps elles consomment énormément d’énergie, donc sont très émettrices de gaz à effet de serre.

Je suis professeure d’informatique, je me rends donc bien compte des avancées que ces technologies permettent, mais il faut le faire avec raison et avec éthique. Le principal sujet, c’est comment garder le contrôle sur ces systèmes et les développer au mieux, si on ne veut pas en laisser la gouvernance aux seuls géants du numérique qui le feront pour leur propre richesse.

Je travaille sur la création de normes et de standards européens pour encadrer ces outils. Il s’agit de détecter les risques posés par ces outils numériques, de les mesurer et de les atténuer. Si on établit de telles normes, c’est pour que les industriels puissent développer des outils qui soient différents de ceux proposés par les Américains, qui ont des visées mercantiles, ou par les Chinois, qui visent au contrôle.

Pourquoi pensez-vous que ces problématiques ne sont pas plus prises en compte par les candidats à la présidentielle ?

C’est un sujet absent des préoccupations des Français, qui accèdent aux nouveaux outils numériques sans se poser de questions sur leur fonctionnement. Ce qui intéresse, c’est la gratuité et la désirabilité de ces applications. Le pendant de cela, c’est que ces applications occupent notre attention et en tirent profit notamment par la publicité.

L’Europe s’en préoccupe, notamment à travers le Règlement général sur la protection des données (RGPD). Mais il y a peu d’explication des impacts des technologies d’intelligence artificielle et du numérique sur la société. Cela s’explique notamment parce que les États ne veulent pas louper le coche de l’économie numérique.

Meta, l’ex-Facebook, veut développer le métavers. Que pensez-vous de ces technologies créant des mondes virtuels ?

Ce qui m’inquiète le plus, c’est le côté immersif qui pose des questions éthiques. Les émotions sont beaucoup plus fortes lorsque l’on est immergé dans ces univers virtuels, encore plus que sur les réseaux sociaux. Cela peut être très bien pour sensibiliser sur certains sujets, soigner des pathologies, travailler à distance, etc. Mais on peut aussi craindre que Meta nous rende de plus en plus dépendant de ces outils et capte de plus en plus d’informations personnelles sur les utilisateurs, avec un risque de manipulation.

J’appelle dans ce livre à des débats politiques sur les questions du numérique et de l’IA pour plus de compréhension des enjeux.

Propos recueillis par Arnaud Dumas, @ADumas5