Publié le 23 août 2017

GOUVERNANCE D'ENTREPRISE

Robots tueurs : les promoteurs de l’intelligence artificielle tirent le signal d’alarme sur les armes autonomes

Une centaine d'entreprises spécialisées dans la robotique, dont Tesla et DeepMind, alertent sur le risque de développement des armes autonomes grâce aux progrès de l’intelligence artificielle. Selon eux, les Nations unies doivent légiférer sur ce sujet avant que ces armes ne tombent entre de mauvaises mains ou ne soient piratées. Ils ont conscience aussi de la responsabilité de leurs entreprises face à ce danger.


@Qinetiq

Décidément, les plus grands cerveaux de cette planète ne nous rassurent pas sur l’inévitable avènement de l’intelligence artificielle. En 2014, le physicien Stephen Hawking craignait qu’elle mette fin à l’humanité. Cette fois-ci, ce sont 116 entrepreneurs, dont Elon Musk, fondateur de Tesla et SpaceX, ainsi que Demis Hassabis et Mustafa Suleyman, fondateurs de DeepMind (filiale de Google), qui appellent à la prudence. Ils adressent une lettre ouverte aux Nations unies pour légiférer sur les armes autonomes (armes non dirigées par un être humain).

Le message, révélé à l’occasion à l'occasion de la conférence IJCAI (International Joint Conference on Artificial Intelligence) à Melbourne, a été publié par le think-tank américain The Future of Life Institute. "Les armes autonomes mortelles menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles permettront des conflits armés à une échelle plus grande que jamais, et à des vitesses trop rapides pour la compréhension humaine", alertent-ils.

Une boîte de pandore

Leur crainte est que ces armes autonomes deviennent des "armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes". Pire, ils craignent le risque de piratage qui conduirait ses armes à "se comporter de manière indésirable".

Et selon eux, le temps presse : "Nous n'avons pas longtemps pour agir. Une fois que cette boîte de Pandore sera ouverte, il sera difficile de la refermer. Nous demandons de trouver un moyen de nous protéger contre ces dangers", expliquent les signataires, au rang desquels on trouve six sociétés françaises (Dibotics, Qucit, Aldebaran Robotics, Heuritech, Enova Robotics, Snips & Ants Open Innovation Labs).

Responsabilité d’entreprise

Le paradoxe de cette lettre est que ces lanceurs d’alertes sont ceux-là mêmes qui sont en train de déployer, à grande échelle, les technologies de l’intelligence artificielle. Certes, ces entreprises ne développent pas d’armes, mais, par exemple, un géant comme Tesla est l’un des acteurs les plus avancés en matière de véhicules autonomes.

La responsabilité de ces compagnies est un élément dont les signataires ont conscience : "En tant qu'entreprises développant les technologies de l'intelligence artificielle et de la robotique qui peuvent être réorientées pour développer des armes autonomes, nous nous sentons particulièrement responsables pour lancer cette alarme", peut-on lire en introduction de la lettre ouverte.

Les Nations unies ont déjà créé un groupe d’experts gouvernementaux au sujet des armes autonomes. Mais leur première réunion initialement prévue pour le 21 août 2017 a été reportée à novembre prochain.

Ludovic Dupin @LudovicDupin


© 2021 Novethic - Tous droits réservés

‹‹ Retour à la liste des articles

GOUVERNANCE D'ENTREPRISE

Entreprises controversées

Quand elles commettent des violations graves et répétées de conventions internationales, les entreprises sont dites controversées. Cela signifie qu’elles peuvent être mises sur des listes noires d’investisseurs et attaquées par des ONG sous des formes diverses.

Cigarette philip Morris DR

Philip Morris France se dote d’une raison d’être : permettre aux fumeurs d’arrêter de fumer

Philipp Morris France s'est doté d'une raison d'être qui pourrait en surprendre plus d'un : "Se mobiliser et innover pour permettre aux fumeurs adultes d’arrêter la cigarette en faisant de meilleurs choix". Ce rôle social sera inscrit dans ses statuts et engage l’entreprise vis-à-vis de ses parties...

Ouighours enquete uniqlo calvision via pixabay

Ouïghours : une enquête ouverte contre quatre géants de l’habillement pour "recel de crimes contre l’humanité"

Zara, Uniqlo, Sandro, Maje... Ces marques ont-elles profité du travail forcé des Ouïghours pour la production de leurs vêtements ? C'est ce que va essayer de déterminer le Parquet national antiterroriste qui mène une enquête pour "recel de crise contre l'humanité" visant quatre géants du textile en...

Amazon invendus istock jetcityimage

Amazon continue de détruire des millions de produits neufs invendus malgré les scandales à répétition

Amazon, dans son entrepôt de Dunfermline au Royaume-Uni, détruit chaque semaine 130 000 produits invendus neufs détruits, selon une enquête de la chaîne britannique ITV. En une année, plus de 6,7 millions de produits seraient ainsi détruits rien que dans cet entrepôt. Une pratique légale au...

Cristiano Ronaldo football euro 2021 BERNADETT SZABO POOL AFP

Ronaldo ruine l’image de Coca-Cola et cela pourrait coûter cher à toute l’industrie de la junk food

L’image de Ronaldo écartant des bouteilles de Coca-Cola pour qu’elles disparaissent de l’écran pendant sa conférence de presse à l’Euro 2021 vaut 4 milliards de dollars. C’est le montant perdu en bourse par la marque. Pire, le joueur de légende a brandi une bouteille d’eau non siglée ruinant, en...