Financé par la Commission européenne depuis 2016, le projet iBorderCtrl prévoit l’utilisation d’un détecteur de mensonge dopé à l’IA. Si son objectif est d’automatiser le processus de sécurité aux frontières extérieures de l’UE, il fait l’objet de nombreuses critiques.
Un détecteur de mensonge fonctionnant à l’IA pour contrôler les frontières... Ce scénario qui semble tout droit sorti d’une œuvre de science-fiction est en réalité un projet porté par treize partenaires, dont des universités, des entreprises et des organismes publics et financé par la Commission européenne à hauteur de 4,5 millions d'euros.
Lancé en 2016, il a pour objectif d’automatiser le contrôle de sécurité en remplaçant les gardes-frontières par une intelligence artificielle. Cet équivalent d’un détecteur de mensonges est capable de discerner parmi 38 « micromouvements » les déclarations mensongères d'une personne. Pour cela, l’IA pose plusieurs questions au voyageur (nom, pays d'origine, durée de séjour, motif du voyage, contenu du bagage, etc.) face caméra et détermine la véracité des informations en fonction des expressions de son visage. Le système délivre alors un score qui détermine si la personne est potentiellement dangereuse ou non. Si elle est l’est, un contrôle plus approfondi est alors réalisé par un agent physique.
Pourquoi ce système fait-il polémique ?
Testé en Hongrie, en Grèce et en Lituanie en 2018, ce « détecteur de mensonges » dopé à l’IA ne fait pas l’unanimité. D’abord, parce qu’il n'est pas scientifiquement prouvé, bien que les trois chercheurs de l’université de Manchester qui ont développé et breveté le système assurent qu’il « présente un taux de précision de 75 % à 85 % ». L’IA peut détecter du stress, mais il peut être causé par la peur de prendre l’avion. A l’inverse, une personne avec de mauvaises intentions peut paraître tout à fait calme.
Une journaliste italienne, qui s’est fait passée pour une citoyenne lambda, a passé le test pour se rendre de la Serbie à la Hongrie, comme le rapporte nos confrères du Monde. Après avoir répondu aux questions en toute honnêteté, l’IA lui a attribué un score de 48,3 % de réponse véridique au questionnaire, la qualifiant ainsi de « potentiellement dangereuse ».
Autre interrogation, le fait que la Cour de justice de l'Union européenne rejette à plusieurs reprises la demande de l'eurodéputé allemand Patrick Breyer pour accéder aux informations relatives au projet. Selon lui, « l'UE continue de financer le développement et les tests de technologies qui violent les droits fondamentaux et contraires à l'éthique ».
Et la suite ?
Pour le moment, le projet semble au point mort car aucune date de déploiement n’a été communiquée et les dernières actualités sur le site iBorderCtrl datent de 2018. Il n’est pourtant pas le seul à voir le jour. Un projet similaire a été mené en 2017 au Canada. Baptisé AVATAR (pour Automated Virtual Agent for Truth Assessments in Real Time), il vient scanner les réactions d’un passager par le biais d’une conversation avec un avatar présenté sur un borne. Là encore, aucune date de déploiement n'a été publiée.
