Publié le 06 juin 2018

NUMÉRIQUE

Mis sous pression par ses salariés, Google renonce à un contrat avec l’armée américaine sur l’intelligence artificielle

Google ne reconduira pas le projet Maven mené avec l’armée américaine. Il vise à employer l’intelligence artificielle pour améliorer l’interprétation de l'imagerie vidéo des drones militaires. Les salariés craignaient que cela serve au guidage de missiles. Face à une véritable crise d’identité chez le géant, la direction s’est rangée à l’avis des salariés.

Des drones MQ-25 de l'armée américaine, conçus par Lockheed Martin.
@LockheedMartin

Développer l’intelligence artificielle pour optimiser les systèmes de repérage des drones militaires. Telle est l’ambition du projet Maven que mène Google en collaboration avec le Département de la Défense américaine. Lorsque ce projet a été révélé, par voie de presse, en mars dernier, le sang des salariés du géant d’Internet, dont le mantra est "Don’t Be Evil" (ne faites pas le mal), n’a fait qu’un tour.

Depuis, plus de 4 000 employés (sur 80 000) de la firme de la Silicon Valley ont signé une pétition pour mettre fin au projet. De plus, plusieurs directeurs se sont publiquement opposés à ce programme et des chercheurs ont démissionné avec fracas de la société. Les assurances données par Diane Greene, responsable du Cloud chez Google, sur le fait que ces développements technologiques "ne seront pas utilisés pour faire voler des drones (ou) lancer des missiles", n’ont pas suffi à convaincre.

Crise d’identité

La tension est devenue si importante au sein de l’entreprise que le New-York Times, qui s’est procuré des échanges internes dans l’entreprise et a été contacté par certains des frondeurs du puissant moteur de recherche, parle d’une "crise d'identité chez Google" et de "grande nervosité" sur ce sujet au niveau de la direction.

Dans une note interne, Fei-Fei Li, directrice scientifique sur l’intelligence artificielle chez Google, écrit : "Évitez à tout prix toute mention ou implication de l'intelligence artificielle (…) Son utilisation dans des armes est probablement l'un des sujets les plus sensibles - sinon le plus sensible. C'est de la viande rouge donnée aux médias pour trouver tous les moyens d'endommager Google", rapporte le quotidien américain.

Finalement, début juin, Diane Greene, directrice du département Google Cloud Business, a annoncé que ce programme ne sera pas reconduit en 2019. Si pour l’heure, le géant ne renonce qu’à un contrat de 10 millions de dollars, c’est à un marché potentiellement très profitable que l’entreprise tourne le dos. Google s'attendait à un contrat de plus de 250 millions de dollars annuels. Puis, en cas de commandes, les gains se seraient comptés en milliards. Déjà, d’autres géants comme Amazon sont sur les rangs pour prendre la place de Google.

Le risque de l’intelligence artificielle

Un sacrifice qui devrait permettre à Google de retrouver son calme. Par exemple, Meredith Whittaker, spécialiste de l’intelligence artificielle chez Google et directrice de recherche à l’université de New York, écrit publiquement sur Twitter : "Je suis incroyablement heureuse de cette décision et j'ai un profond respect pour les nombreuses personnes qui ont travaillé et pris des risques pour que cela arrive. Google ne devrait pas être dans le business de la guerre".

 

Au-delà de Google, la question de l’utilisation de l’intelligence artificielle dans le champs militaire inquiète énormément outre-Atlantique. Durant l’été 2017, des grands promoteurs du numérique avaient tiré le signal d’alarme sur le sujet des applications militaires de l’intelligence artificielle. Dans une lettre adressée aux Nations unies, 116 entrepreneurs, dont Elon Musk, fondateur de Tesla et SpaceX, ainsi que Demis Hassabis et Mustafa Suleyman, fondateurs de DeepMind (filiale de Google), appelaient l’organisation internationale à légiférer sur les armes autonomes (armes non dirigées par un être humain).

Ludovic Dupin, @LudovicDupin


© 2021 Novethic - Tous droits réservés

‹‹ Retour à la liste des articles

NUMÉRIQUE

Données personnelles

Avec Internet et les réseaux sociaux, tous les utilisateurs sèment des gigantesques quantités de données. Données qui sont utilisées à des fins publicitaires et parfois dans un but malveillant. Le RGPD, entré en vigueur le 25 mai 2018, est censé protéger les Européens.

Dejan Dundjerski istock vaccination covid

Doctolib, Maiia, Keldoc… Les plateformes numériques françaises se lancent dans la course pour la vaccination

Alors que le gouvernement vise un million de personnes vaccinées d'ici la fin du mois, il a fait le choix de s'appuyer sur des plateformes numériques françaises spécialistes comme Doctolib, Maiia ou encore Keldoc pour booster sa campagne. Ces dernières vont gérer la prise de rendez-vous des citoyens...

Telephone messagerie Pixabay

Pour protéger leur vie privée, les utilisateurs de WhatsApp migrent en masse vers l’application sécurisée Signal

Signal est victime de son succès. L'application de messagerie instantanée sécurisée a vu affluer un nombre exceptionnel de nouveaux utilisateurs au point de créer des problèmes techniques. Une affluence provoquée par l'annonce des nouvelles règles d'utilisation de WhatsApp. À partir du 8 février,...

Donald Trump White House

Démocratie, Pouvoir, loi Avia…. Cinq questions ouvertes après la fermeture du compte Twitter de Donald Trump

Twitter a décidé de suspendre le compte personnel de Donald Trump et a même censuré des messages du compte officiel de la Présidence américaine. Un coup tonnerre dans l’expression publique ! Si beaucoup justifient la décision après les violences au Capitole attribuées aux harangues du Président...

Vote electronique a distance CarmenMurillo

[Anticipation] Et si Google organisait l’élection présidentielle de 2022

Imaginez 2022. La nouvelle vague de Covid-19 empêche de tenir l’élection présidentielle et législative physiquement. Il faut de tout urgence organiser un vote à distance et c’est Google qui rafle la mise. En cette période de fêtes, Novethic vous propose une série de récits prospectifs inspirés de...