Pourquoi les startups d'IA militaire sont devenues si populaires ces dernières années

Deux semaines après l'éclatement du conflit russo-ukrainien, Alexander Karp, PDG de la société d'analyse de données Palantir, a fait une proposition aux dirigeants européens. Dans une lettre ouverte, il a déclaré que les Européens devraient moderniser leurs armes avec l'aide de la Silicon Valley.

Pour que l’Europe « reste suffisamment forte pour vaincre la menace d’une occupation étrangère », écrit Karp, les pays doivent adopter « la relation entre la technologie et l’État, ainsi que les entreprises disruptives qui cherchent à échapper à l’emprise de la technologie ». entrepreneurs bien établis » Relations de financement avec les ministères du gouvernement fédéral ».

Et les militaires ont commencé à répondre à cet appel. L'OTAN a annoncé le 30 juin qu'elle créait un fonds d'innovation d'un milliard de dollars qui investira dans des start-ups et des fonds de capital-risque pour développer des technologies « prioritaires » telles que l'intelligence artificielle, le traitement des mégadonnées et l'automatisation.

Depuis le conflit russo-ukrainien, le Royaume-Uni a lancé une nouvelle stratégie d'intelligence artificielle dédiée à la défense, et l'Allemagne a alloué près de 5 milliards de dollars à la recherche et à l'intelligence artificielle, après avoir déjà injecté 100 milliards de dollars dans l'armée.

Kenneth Payne, auteur de "I, Warbot: The Dawn of Artificial Intelligence Conflict" et responsable des études de défense au King's College de Londres, a déclaré : "La guerre est un catalyseur de changement."

Le conflit russo-ukrainien a accru l’urgence d’introduire davantage d’outils d’intelligence artificielle sur le champ de bataille. Ceux qui en bénéficieront le plus sont des startups comme Palantir, qui espèrent tirer profit de la course aux militaires pour mettre à jour leurs arsenaux avec les dernières technologies. Mais à mesure que la technologie progresse, les questions éthiques de longue date concernant l’utilisation de l’intelligence artificielle dans la guerre deviennent plus pressantes, et la perspective de limiter et de réglementer son utilisation semble plus lointaine que jamais.

Les relations entre la technologie et l’armée n’ont pas toujours été amicales. En 2018, après les protestations et l'indignation des employés, Google s'est retiré du projet Maven du Pentagone, qui visait à construire un système de reconnaissance d'images pour améliorer les frappes de drones. L’incident a déclenché un débat houleux sur les droits de l’homme et l’éthique du développement de l’intelligence artificielle pour les armes autonomes.

Le projet a également conduit de nombreux chercheurs éminents en IA à s'engager à ne pas travailler sur une IA mortelle. Il s’agit notamment de Yoshua Bengio, lauréat du prix Turing, des fondateurs du laboratoire d’IA de pointe DeepMind Demis Hassabis, Shane Legg et Mustafa Suleyman.

Aujourd'hui, 4 ans plus tard, la Silicon Valley est plus proche que jamais des militaires. Yll Bajraktari, qui était autrefois directeur exécutif du Conseil national de sécurité sur l'intelligence artificielle (NSCAI) et travaille actuellement pour le programme spécial de recherche sur la concurrence, a déclaré que non seulement les grandes entreprises, mais aussi de nombreuses startups commencent désormais à s'impliquer dans ce domaine. . Bajraktari fait pression pour une plus grande adoption de l’IA aux États-Unis.

Pourquoi choisir l'IA

Les entreprises vendant de l'IA militaire affirment que leur technologie peut réaliser un large éventail de fonctions. Les entreprises affirment que l'IA peut aider dans tous les domaines, du « banal » au « mortel », comme le dépistage des cibles, le traitement des données des satellites, l'identification de modèles dans les données, l'aide aux soldats pour prendre des décisions plus rapides sur le champ de bataille, et bien plus encore. Un logiciel de reconnaissance d'images peut aider à identifier les cibles. Les drones autonomes pourraient être utilisés pour la surveillance ou les attaques sur terre, dans les airs ou sur l’eau, ou pour aider les soldats à livrer des fournitures de manière plus sûre que par voie terrestre.

Payne a déclaré que l'utilisation de l'IA sur le champ de bataille en est encore à ses balbutiements et que l'armée traverse une période d'expérimentation au cours de laquelle parfois les technologies ne fonctionnent pas. Il existe d’innombrables exemples d’entreprises d’IA qui ont tendance à faire de grandes promesses sur des technologies qui ne fonctionnent pas comme annoncé, et les zones de guerre peuvent être l’une des zones les plus difficiles à déployer de la technologie d’IA car il existe peu de données de formation pertinentes.

Arthur Holland Michel, expert en drones et autres technologies de surveillance, a noté dans un article rédigé pour l'Institut de recherche sur le désarmement des Nations Unies que cela pourrait conduire à l'échec de systèmes autonomes agissant de « manières complexes et imprévisibles ».

Malgré cela, de nombreuses armées continuent de promouvoir activement la mise en œuvre de l’IA. Dans un communiqué de presse aux termes vagues en 2021, l’armée britannique a fièrement annoncé qu’elle utilisait pour la première fois l’IA dans des opérations militaires pour fournir des informations sur l’environnement et le terrain environnants. Les États-Unis travaillent avec des startups pour développer des véhicules militaires autonomes. À l’avenir, des centaines, voire des milliers de drones autonomes développés par les armées américaine et britannique pourraient s’avérer être des armes puissantes et mortelles.

De nombreux experts s’en inquiètent. Meredith Whittaker, conseillère principale pour l'intelligence artificielle à la Federal Trade Commission et directrice du corps professoral de l'AI Now Institute, a déclaré que cette initiative visait davantage à enrichir les entreprises technologiques qu'à améliorer les opérations militaires.

Dans un article conjoint pour le magazine Prospect avec Lucy Suchman, professeur de sociologie à l'Université de Lancaster, Lucy Suchman, professeur de sociologie à l'Université de Lancaster, affirme que les promoteurs de l'IA attisent les flammes de la rhétorique de la guerre froide et tentent de créer un cadre A qui positionne les grandes entreprises technologiques comme des « pays critiques ». infrastructures » et la réglementation devient donc très importante. Ils avertissent que l’adoption de l’intelligence artificielle par l’armée est une fatalité plutôt que ce qu’elle est réellement : un choix actif impliquant des complexités et des compromis moraux.

Coffres de guerre IA

Alors que la controverse autour de Maven s'est atténuée, les appels à davantage de défenses contre l'IA se sont multipliés au cours des dernières années. L’une des voix les plus fortes a été celle de l’ancien PDG de Google, Eric Schmidt, qui préside le NSCAI et a appelé les États-Unis à adopter une approche plus agressive en matière d’adoption de l’IA militaire.

Le NSCAI a présenté les mesures que les États-Unis devraient prendre pour accélérer le rythme de l'intelligence artificielle d'ici 2025 dans un rapport de l'année dernière, appelant l'armée américaine à investir 8 milliards de dollars par an dans ces technologies, sous peine de prendre du retard sur d'autres pays.

Le département américain de la Défense demande 874 millions de dollars pour l’intelligence artificielle en 2022, a déclaré le département américain de la Défense dans un rapport de mars 2022, bien que ce chiffre ne reflète pas l’investissement total du département dans l’IA.

Il n’y a pas que l’armée américaine qui croit en cette nécessité. Heiko Borchert, codirecteur de l'Observatoire de l'intelligence artificielle de défense à l'Université Helmut Schmidt de Hambourg, en Allemagne, a déclaré que les pays européens ont tendance à être plus prudents lorsqu'ils adoptent de nouvelles technologies et qu'ils investissent également davantage dans l'intelligence artificielle.

La France et le Royaume-Uni ont identifié l’intelligence artificielle comme une technologie clé de défense, et la Commission européenne, l’organe exécutif de l’UE, a réservé 1 milliard de dollars pour développer de nouvelles technologies de défense.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!