Dès que l’on parle de robot, les 3 lois de la robotique imaginées par Isaac Asimov reviennent immanquablement dans la discussion. Pour cet auteur, probablement le plus célèbre de l’âge d’or de la science-fiction, elles ne représentaient pas seulement le nœud des intrigues qu’il tissait dans ses nouvelles à propos des relations entre les hommes et les robots, mais aussi une sorte de code déontologique pour les scientifiques après Hiroshima et Nagasaki.
La première loi, en effet, stipulait qu’un robot « ne pouvait porter atteinte à un humain ni, en restant passif, permettre qu’un humain soit exposé au danger ».
Non seulement les drones militaires ont déjà rendu ce « tu ne tueras point » d’inspiration biblique obsolète, mais les projets de robotique militaire envisagent une autonomie accrue des systèmes d’armes robotisés dans un futur proche.
Ainsi, à titre d’exemple, la société IAI a présenté à Eurosatory 2016 un impressionnant véhicule blindé autonome de sept tonnes baptisé « RoBattle » capable de se déplacer et de combattre dans des terrains accidentés et difficiles.
Un autre exemple est celui d’essaims de micro-drones largués par un avion de chasse, lui-même robotisé, pour saturer les défenses des forces armées ennemies, comme l’envisage Ashton Carter, le ministre américain de la Défense.
Les applications ne se limitent pas à la réalisation de drones et de robots de plus en plus autonomes, mais aussi à des intelligences artificielles (IA) capables de rivaliser avec les meilleurs experts militaires. Ainsi, il n’y a pas eu que Lee Sedol, le meilleur joueur de Go, qui ait été battu par une IA cette année. Récemment, c’est aussi le Colonel Gene Lee de l’US Air Force, un instructeur de combat aérien ayant « une expertise considérable sur avion de chasse », qui fut systématiquement abattu dans une simulation hyperréaliste d’engagement aérien par « Alpha », « l’IA la plus agressive, dynamique et crédible » qui lui ai été donnée de combattre jusqu’à lors.
Les avancées récentes de la robotique et de l’IA, en particulier dans le domaine de l’apprentissage profond (Deep Learning), ont donc un impact significatif sur les applications en robotique militaire et les systèmes intelligents opérationnels.
Le risque est de voir se dérouler une nouvelle course à l’armement en matière d’armes autonomes, ce qui évoque forcément une sorte de « Skynet » et ses conséquences apocalyptiques, comme l’avait imaginé James Cameron dans la saga des films Terminator.
Le principal argument des partisans de ces projets consiste à remplacer l’homme dans les conflits par des machines afin de limiter le nombre de victimes du côté de celui qui les détient, ce qui est vrai. Toutefois, cela ne pourrait conduire qu’à une escalade (probablement déjà engagée) car ces armes seraient très probablement disponibles assez rapidement commercialement de façon officielle ou sur le marché noir.
Récemment, la communauté scientifique s’est inquiétée de la possibilité d’un tel scénario et un grand nombre de chercheurs en robotique et en IA ont signé une lettre ouverte qui alerte sur le développement de l’IA militaire et les « armes autonomes » capables d’ôter la vie.
Plus que dans tout autre domaine d’application de la robotique et de l’IA, il est urgent d’engager des réflexions éthiques visant à encadrer ces développements et de replacer l’homme au centre des préoccupations.
Jean-Claude Heudin
Directeur de Institut de l’Internet du multimédia (IIM)
Groupe Léonard de Vinci
A propos de Jean-Claude Heudin
Jean-Claude Heudin est directeur de l’IIM (Institut de l’Internet du multimédia). Il est l’auteur de nombreux articles scientifiques au niveau international ainsi que de plusieurs ouvrages dans les domaines l’intelligence artificielle et des sciences de la complexité dont Les 3 lois de la robotique aux éditions Science eBook.