57 experts et chercheurs dans le domaine de l’intelligence artificielle d’une trentaine de pays ont décidé de boycotter toute collaboration avec une prestigieuse université sud-coréenne, la Korea Advanced Institute of Science and Technology (KAIST), au motif qu’un de ses nouveau laboratoires a établi un partenariat avec un fabricant d’armes. Cette collaboration laisse planer un doute sur la confection de robots tueurs ou d’armes autonomes.
La société en question, Hanwha Systems, est l'un des leaders du secteur de la défense. Elle fabrique depuis près de 40 ans des blindés, des missiles et lance-missiles, des mines ou encore des systèmes de navigation… Son partenariat avec la KAIST répond à des objectifs de sécurité nationale.
La lettre ouverte signée par ces chercheurs du monde entier a été publiée à la fin du mois de mars. Les signataires y dénoncent les risques de ce partenariat. «On peut réaliser des choses formidables avec l’intelligence artificielle, y compris dans un contexte militaire, mais déclarer ouvertement que le but est de créer des armes autonomes et nouer un partenariat comme celui-ci nous alerte fortement», explique Toby Walsh, chercheur à l'université de Sydney cité par The Guardian et signataire de la lettre. Outre la nature du partenariat, c'est la mauvaise réputation d’Hanwha Systems qui est pointée du doigt. La société est en effet accusée de violer les normes internationales, puisqu'elle produit notamment des mines à fragmentation, pourtant bannies de 120 pays à travers le monde par divers traités.
La KAIST avait annoncé en grande pompe le 20 février dernier l’ouverture de son Centre de recherche pour la convergence de la sécurité intérieure et de l’intelligence artificielle. Elle s'était en outre fixée pour ambition de développer des technologies de reconnaissance et de traque grâce à des objets connectés et des systèmes de navigation basés sur l’intelligence artificielle, comme elle l'expliquait dans un message publié sur son site internet. Face à la polémique, la KAIST a depuis retiré cette annonce, laissant une page vide.
Le président de la KAIST, Sung-Chul Shin, a déclaré dans un communiqué qu’il était peiné d’apprendre l'existence d'un mouvement de boycott : «J’aimerais réaffirmer que la KAIST n’a pas l’intention de s’engager dans le développement d’armes autonomes létales et des robots tueurs.»