Pourquoi avoir peur de la guerre des robots

Les robots sont politiquement et économiquement rentables pour les décideurs qui les emploient dans les zones de conflit.
Photo: Eduardo Contreras Associated Press Les robots sont politiquement et économiquement rentables pour les décideurs qui les emploient dans les zones de conflit.

Moins d’une décennie après avoir fait leur apparition sur les champs de bataille, les drones de combat ont aujourd’hui envahi les théâtres de guerre. Le président Obama a généralisé le recours aux assassinats ciblés et fait de ces appareils téléguidés son arme de prédilection dans la lutte contre le terrorisme. En 2013, l’armée américaine comptait près de 7500 drones dans son arsenal, ce qui représentait le tiers de sa flotte aérienne. Au terme de son premier mandat, Obama avait autorisé huit fois plus d’attaques de drones que son prédécesseur.

Pourtant, si l’avènement des drones armés constitue une transformation militaire importante, la prolifération des armes sans pilote ne pourrait être que le début de la robotisation de la guerre. Des percées dans le domaine de l’intelligence artificielle permettent désormais d’envisager un avenir dans lequel des machines autonomes pourront repérer et éliminer des cibles ennemies sans intervention humaine. Le scénario imaginé par James Cameron dans son film Terminator pourrait bientôt devenir réalité. La robotique séduit déjà les armées des pays riches, qui sont progressivement entraînés dans une course à l’armement. Or le déploiement de robots prédateurs soulève des enjeux éthiques graves qui devraient interpeller les gouvernements et les citoyens. Est-il souhaitable que des robots perfectionnés se substituent aux soldats et aient un droit de vie ou de mort sur des humains ? Les robots tueurs pourront-ils se conformer au droit international humanitaire et obéir aux lois de la guerre ? Alors que les grandes puissances refusent de décréter un moratoire sur la robotisation militaire, la coalition Campain to Stop Killer Robots milite pour interdire le développement de ces engins de la mort. Christof Heyns, rapporteur spécial des Nations unies, a également exprimé des craintes dans son dernier rapport sur le sujet.

L’automatisation des robots, dont les prototypes pourraient être opérationnels d’ici 20 ans, accomplit une révolution dans les affaires militaires comparable à celle provoquée par l’invention des armes à feu ou de la bombe atomique. Pour leurs partisans, les systèmes automatisés procurent des avantages considérables aux armées qui maîtrisent cette technologie. Les robots sont politiquement et économiquement rentables pour les décideurs qui les emploient dans les zones de conflit. Ils constituent une solution de rechange à l’envoi de troupes au sol et permettent de réaliser la promesse d’une guerre « zéro mort », chère aux opinions publiques occidentales depuis la fin de la guerre du Vietnam. Ils peuvent pénétrer plus profondément derrière les lignes ennemies sans être ravitaillés et peuvent rester déployés plus longtemps qu’un contingent de soldats. Ils peuvent être programmés pour laisser des traces électroniques de leurs interventions, rendant ainsi leur contrôle plus transparent. Ils sont également immunisés contre la peur, la fatigue et les autres facteurs de stress auxquels font face les combattants au front. Puisqu’ils ne craignent pas pour leur survie, les robots ne risquent pas d’utiliser la force par instinct de conservation ou par désir de vengeance. À moins d’être programmés à ces fins, ils n’infligent pas délibérément des violences à des populations civiles et ne pratiquent pas la torture.

En revanche, l’introduction prochaine d’automates sur les champs de bataille soulève des inquiétudes grandissantes. Pour ses détracteurs, la robotisation de la guerre constitue une dérive technologique qui risque de compromettre la paix et la sécurité internationales. En sous-traitant des opérations militaires à des robots, les dirigeants politiques peuvent éprouver moins de répugnance à recourir à la guerre. C’est aussi l’un des paradoxes des drones de combat : parce qu’elle réduit le coût humain de la guerre, la technologie militaire fait tomber un frein à la violence et contribue à banaliser les conflits armés. De plus, malgré les progrès de l’intelligence artificielle, l’utilisation de robots prédateurs risque d’être incompatible avec les principes élémentaires du droit humanitaire. Ces appareils ne sont pas équipés de capteurs capables de reconnaître un combattant ennemi et de le distinguer d’un civil innocent, surtout dans le contexte actuel des guérillas urbaines où les belligérants ne portent pas d’uniforme. Ils ne peuvent pas : déterminer si une personne est blessée et hors de combat, ou si un soldat ennemi souhaite se rendre ; ils ne sont pas programmés pour calculer la proportionnalité de leurs attaques ; ils sont incapables de juger si les pertes civiles anticipées lors d’une frappe sont excessives par rapport à la valeur de la cible militaire visée.

Bien que sensibles à ces enjeux, les partisans de la révolution robotique croient néanmoins que les obstacles techniques peuvent être contournés. Pour assurer le repérage d’une cible militaire légitime, les robots peuvent être réglés pour ne riposter qu’en cas de légitime défense, lorsqu’ils sont victimes d’un tir ennemi. Leur usage peut également être limité aux terrains d’opérations inhabités (mer ou désert). Mais en définitive, les robots autonomes, en décidant eux-mêmes de leur propre utilisation, échappent à toute forme d’autorité hiérarchique et de responsabilité juridique, ce qui est contraire aux Conventions de Genève.

À qui devrait-on attribuer la faute pour un crime de guerre commis par un robot déréglé ou défectueux ? Pourrait-on tenir responsables les programmeurs, les fabricants, les officiers ou les politiques ayant autorisé son utilisation ? La robotique promet de changer le visage de la guerre et marque l’asservissement de l’humain à la machine. La communauté internationale doit éviter le spectre d’un monde dominé par des Frankenstein robotisés et légiférer pour interdire la production de ces engins.

À voir en vidéo