Publié le 06 juin 2018

NUMÉRIQUE

Mis sous pression par ses salariés, Google renonce à un contrat avec l’armée américaine sur l’intelligence artificielle

Google ne reconduira pas le projet Maven mené avec l’armée américaine. Il vise à employer l’intelligence artificielle pour améliorer l’interprétation de l'imagerie vidéo des drones militaires. Les salariés craignaient que cela serve au guidage de missiles. Face à une véritable crise d’identité chez le géant, la direction s’est rangée à l’avis des salariés.

Des drones MQ-25 de l'armée américaine, conçus par Lockheed Martin.
@LockheedMartin

Développer l’intelligence artificielle pour optimiser les systèmes de repérage des drones militaires. Telle est l’ambition du projet Maven que mène Google en collaboration avec le Département de la Défense américaine. Lorsque ce projet a été révélé, par voie de presse, en mars dernier, le sang des salariés du géant d’Internet, dont le mantra est "Don’t Be Evil" (ne faites pas le mal), n’a fait qu’un tour.

Depuis, plus de 4 000 employés (sur 80 000) de la firme de la Silicon Valley ont signé une pétition pour mettre fin au projet. De plus, plusieurs directeurs se sont publiquement opposés à ce programme et des chercheurs ont démissionné avec fracas de la société. Les assurances données par Diane Greene, responsable du Cloud chez Google, sur le fait que ces développements technologiques "ne seront pas utilisés pour faire voler des drones (ou) lancer des missiles", n’ont pas suffi à convaincre.

Crise d’identité

La tension est devenue si importante au sein de l’entreprise que le New-York Times, qui s’est procuré des échanges internes dans l’entreprise et a été contacté par certains des frondeurs du puissant moteur de recherche, parle d’une "crise d'identité chez Google" et de "grande nervosité" sur ce sujet au niveau de la direction.

Dans une note interne, Fei-Fei Li, directrice scientifique sur l’intelligence artificielle chez Google, écrit : "Évitez à tout prix toute mention ou implication de l'intelligence artificielle (…) Son utilisation dans des armes est probablement l'un des sujets les plus sensibles - sinon le plus sensible. C'est de la viande rouge donnée aux médias pour trouver tous les moyens d'endommager Google", rapporte le quotidien américain.

Finalement, début juin, Diane Greene, directrice du département Google Cloud Business, a annoncé que ce programme ne sera pas reconduit en 2019. Si pour l’heure, le géant ne renonce qu’à un contrat de 10 millions de dollars, c’est à un marché potentiellement très profitable que l’entreprise tourne le dos. Google s'attendait à un contrat de plus de 250 millions de dollars annuels. Puis, en cas de commandes, les gains se seraient comptés en milliards. Déjà, d’autres géants comme Amazon sont sur les rangs pour prendre la place de Google.

Le risque de l’intelligence artificielle

Un sacrifice qui devrait permettre à Google de retrouver son calme. Par exemple, Meredith Whittaker, spécialiste de l’intelligence artificielle chez Google et directrice de recherche à l’université de New York, écrit publiquement sur Twitter : "Je suis incroyablement heureuse de cette décision et j'ai un profond respect pour les nombreuses personnes qui ont travaillé et pris des risques pour que cela arrive. Google ne devrait pas être dans le business de la guerre".

 

Au-delà de Google, la question de l’utilisation de l’intelligence artificielle dans le champs militaire inquiète énormément outre-Atlantique. Durant l’été 2017, des grands promoteurs du numérique avaient tiré le signal d’alarme sur le sujet des applications militaires de l’intelligence artificielle. Dans une lettre adressée aux Nations unies, 116 entrepreneurs, dont Elon Musk, fondateur de Tesla et SpaceX, ainsi que Demis Hassabis et Mustafa Suleyman, fondateurs de DeepMind (filiale de Google), appelaient l’organisation internationale à légiférer sur les armes autonomes (armes non dirigées par un être humain).

Ludovic Dupin, @LudovicDupin


© 2020 Novethic - Tous droits réservés

‹‹ Retour à la liste des articles

NUMÉRIQUE

Données personnelles

Avec Internet et les réseaux sociaux, tous les utilisateurs sèment des gigantesques quantités de données. Données qui sont utilisées à des fins publicitaires et parfois dans un but malveillant. Le RGPD, entré en vigueur le 25 mai 2018, est censé protéger les Européens.

Microsoft donnees de sante francais istock

La France choisit Microsoft pour héberger ses données de santé et créé la polémique

C'est un choix qui ne passe pas. Le gouvernement a décidé d'héberger les données de santé des Français de la plateforme Health Data Hub chez Microsoft au détriment d'entreprises françaises comme OVH. Un risque pour la protection des données personnelles qui fait polémique alors que la question de la...

Appli Stop covid

Coronavirus : l'application StopCovid disponible dès ce week-end

Dès ce week-end, les Français vont pouvoir installer l’application StopCovid sur leur téléphone portable. Elle doit permettre à une personne qui tombe malade de le signaler et prévenir ainsi toutes les personnes qu’elle a pu croiser auparavant. Un projet qui a dû surmonter des obstacles législatifs...

Cedric o numerique Stop Covid Ludovic Marin AFP

Souveraineté numérique : le gouvernement se passe d'Apple et Google pour son application Stop Covid

La France est dépendante de la Chine pour, entre autres, la production de masques. Elle l'est aussi des États-Unis concernant le numérique. Pour assurer la protection de ses données, le gouvernement vient d'annoncer que l'application Stop Covid, dont le but est de tracer les malades, serait...

Stopcovid portable coronavirus William87

L’application StopCovid de suivi des Français n’est pas la solution à tout, prévient la Cnil

À l’image des solutions techniques employées en Corée du Sud ou à Singapour pour pister les malades et éviter la propagation du Covid-19, le France veut déployer une application de suivi baptisée Stop Covid. La Cnil, garante de la protection des données de la population, ne s’y oppose pas mais...