Plus d’IA sur Battlefield rendront le brouillard de guerre plus meurtrier

Will Chevalier

L’armée américaine n’est plus la force inégalée qu’elle était autrefois, mais Alexandr Wang, PDG de la startup Scale AI, a déclaré la semaine dernière devant un comité du Congrès qu’elle pourrait établir un nouvel avantage en exploitant l’intelligence artificielle.

"Nous disposons de la plus grande flotte de matériel militaire au monde", a déclaré Wang devant la sous-commission des services armés de la Chambre des représentants sur la cybersécurité, les technologies de l'information et l'innovation. "Si nous pouvons configurer et instrumenter correctement les données générées... alors nous pouvons créer un avantage de données assez insurmontable en matière d'utilisation militaire de l'intelligence artificielle."

L'entreprise de Wang a tout intérêt à cette vision, puisqu'elle travaille régulièrement avec le Pentagone pour traiter de grandes quantités de données de formation pour des projets d'IA. Mais les cercles militaires américains sont convaincus qu’une utilisation accrue de l’IA et de l’apprentissage automatique est pratiquement inévitable – et essentielle. J’ai récemment écrit sur ce mouvement croissant et sur la manière dont une unité du Pentagone utilise des logiciels de robotique et d’IA disponibles dans le commerce pour surveiller plus efficacement de vastes étendues d’océan au Moyen-Orient.

Outre les données militaires sans précédent du pays, Wang a déclaré lors de l'audience au Congrès que les États-Unis avaient l'avantage d'abriter les fabricants de puces d'IA les plus avancés au monde, comme Nvidia, et la meilleure expertise mondiale en matière d'IA. « L'Amérique est le pays de choix pour les scientifiques en IA les plus talentueux du monde », a-t-il déclaré.

L'intérêt de Wang pour l'IA militaire mérite également d'être pris en compte, car Scale AI est à l'avant-garde d'une autre révolution de l'IA : le développement de puissants modèles de langage à grande échelle et de chatbots avancés comme ChatGPT.

Personne n’envisage encore d’enrôler ChatGPT dans le service militaire, bien qu’il y ait eu quelques expériences impliquant l’utilisation de grands modèles de langage dans des jeux de guerre militaires. Mais les observateurs voient les récents progrès des entreprises américaines dans les performances de l’IA comme un autre avantage clé que le Pentagone pourrait exploiter. Étant donné la rapidité avec laquelle la technologie se développe – et à quel point elle reste problématique – cela soulève de nouvelles questions sur les garanties qui pourraient être nécessaires autour de l’IA militaire.

Cette augmentation des capacités de l’IA intervient alors que l’attitude de certaines personnes à l’égard de l’utilisation militaire de l’IA évolue. En 2017, Google a été confronté à une réaction négative pour avoir aidé l'US Air Force à utiliser l'IA pour interpréter les images aériennes via le projet Maven du Pentagone. Mais l’invasion de l’Ukraine par la Russie a adouci l’attitude du public et des politiques à l’égard de la collaboration du secteur privé avec les entreprises technologiques et a démontré le potentiel des drones autonomes bon marché et de l’IA commerciale pour l’analyse des données. Les forces ukrainiennes utilisent des algorithmes d’apprentissage neuronal profond pour analyser les images et les séquences aériennes. La société américaine Palantir a déclaré qu'elle fournissait un logiciel de ciblage à l'Ukraine. Et la Russie se concentre de plus en plus sur l’IA pour les systèmes autonomes.

Angela Coupe-Eau

Julien Chokkattu

Will Chevalier

Joe Ray

Malgré les craintes largement répandues concernant les « robots tueurs », la technologie n’est pas encore suffisamment fiable pour être utilisée de cette manière. Et lors de mon reportage sur les ambitions du Pentagone en matière d'IA, je n'ai rencontré personne au sein du ministère de la Défense, des forces américaines ou de startups axées sur l'IA désireuses de lancer des armes entièrement autonomes.

Mais une utilisation accrue de l’IA entraînera un nombre croissant d’affrontements militaires dans lesquels les humains seront retirés ou exclus de l’équation. Et même si certains ont comparé l’IA aux armes nucléaires, le risque le plus immédiat réside moins dans le pouvoir destructeur des systèmes militaires d’IA que dans leur capacité à approfondir le brouillard de la guerre et à rendre plus probables les erreurs humaines.

Lorsque j'ai parlé à John Richardson, un amiral quatre étoiles à la retraite qui a été chef des opérations navales de la marine américaine entre 2015 et 2018, il était convaincu que l'IA aurait un effet sur la puissance militaire similaire à celui de la révolution industrielle et de l'ère atomique. Et il a souligné que le camp qui a le mieux exploité ces révolutions précédentes a remporté les deux dernières guerres mondiales.

Mais Richardson a également évoqué le rôle des connexions humaines dans la gestion des interactions militaires pilotées par une technologie puissante. Alors qu'il était chef de la Marine, il s'est efforcé de faire connaissance avec ses homologues des flottes d'autres pays. « Chaque fois que nous nous rencontrions ou parlions, nous nous sentions mieux les uns les autres », dit-il. « Ce que je voulais vraiment faire, c'était m'assurer que si quelque chose se produisait – une erreur de calcul ou quelque chose du genre – je pourrais les appeler dans un délai relativement court. Vous ne voulez tout simplement pas que ce soit votre premier appel.