Des experts en IA boycottent un projet de robots tueurs d’une université en Corée du Sud

En partenariat avec le fabricant d’armes Hanwha Systems

Des chercheurs en intelligence artificielle de près de 30 pays ont signé une lettre pour boycotter un projet de l’université sud-coréenne KAIST (Korea Advanced Institute of Science and Technology), en partenariat avec une grande société de défense, visant à développer des armes autonomes.

« À l’heure où les Nations Unies discutent de la manière de contenir la menace que représentent les armes autonomes pour la sécurité internationale, il est regrettable qu’une institution aussi prestigieuse que KAIST cherche à accélérer la course aux armements pour développer de telles armes », mentionnait l’avis de boycott envoyé à KAIST.

Il a été aussi mentionné dans la lettre que « si elles sont développées, les armes autonomes seront la troisième révolution dans la guerre, elles permettront à la guerre d’être menée plus vite et à une échelle plus grande que jamais, elles peuvent être des armes de terreur. […] Les despotes et les terroristes pourraient les utiliser contre des populations innocentes, en supprimant toute restriction éthique. Cette boîte de Pandore sera difficile à fermer si elle est ouverte. »

Le professeur Noel Sharkey, qui dirige la campagne pour arrêter les robots tueurs, a été l’un des premiers à signer la lettre et a salué la réponse de l’université : « Nous avons reçu une lettre du président de KAIST indiquant clairement qu’ils ne contribueraient pas au développement de systèmes d’armes autonomes. » « Les signataires de la lettre auront besoin d’un peu de temps pour discuter de la relation entre KAIST et Hanwha avant de lever le boycott », a-t-il ajouté.

« Il y a beaucoup de choses que vous pouvez faire qui sauvent des vies avec l’IA, y compris dans un contexte militaire, mais déclarer ouvertement que l’objectif est de développer des armes autonomes et d’avoir un partenaire comme celui-ci suscite de vives inquiétudes […] C’est une université très respectée qui s’associe à un partenaire très douteux qui continue de violer les normes internationales », disait Toby Walsh, l’organisateur du boycott, professeur à l’université de New South Wales.

Le boycott va engendrer une réunion des Nations Unies à Genève où les 123 nations membres discuteront des défis posés par les armes autonomes mortelles pendant que plus de 20 de ces pays ont déjà demandé l’interdiction totale des robots tueurs. L’utilisation de l’intelligence artificielle suscite l’inquiétude de tomber dans une situation semblable à celle de Terminator et soulève des questions par rapport à l’exactitude de ces armes et leur capacité à distinguer l’ami de l’ennemi.

Shin Sung-chul, président de l’Institut Coréen de Science et de Technologie (KAIST) affirme une fois de plus que KAIST ne mènera aucune activité de recherche contraire à la dignité humaine, y compris des armes autonomes dépourvues de contrôle humain significatif. « KAIST est significativement conscient des préoccupations éthiques dans l’application de toutes les technologies, y compris l’intelligence artificielle », ajoute-t-il.

Il continue en ajoutant que le projet de l’université avait pour but le développement d’algorithmes pour des systèmes logistiques efficaces, des systèmes de navigation sans pilote et des systèmes de formation aéronautique.

KAIST a ouvert le centre de recherche pour la convergence de la défense nationale et de l’intelligence artificielle le 20 février, Shin ayant déclaré à l’époque que cela « constituerait une base solide pour le développement de la technologie de défense nationale. » L’information à l’une

Le président de KAIST a affirmé que « le développement d’armes autonomes aggraverait la situation sécuritaire dans la péninsule coréenne, pas mieux… Si ces armes sont fabriquées n’importe où, elles finiront certainement par arriver en Corée du Nord et elle n’aura aucun scrupule à les utiliser contre la Corée du Sud. »

La Corée du Sud dispose déjà d’une armée de robots patrouillant la frontière avec la Corée du Nord. Le Samsung SGR-A1 porte une mitrailleuse qui peut être commutée en mode autonome, mais qui est actuellement utilisée par les humains via des liaisons de caméra.

Dans la même rubrique

| 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | ... | 23 |

Actu en image