Britse reizigers kunnen te maken krijgen met intense ondervraging door een ongebruikelijke grenscontrolebeambte – een leugendetectorsysteem met kunstmatige intelligentie (AI).
De Europese Unie (EU) is naar verluidt van plan om AI te gebruiken als een van haar grensbeveiligingsmaatregelen.
De geavanceerde AI-software zal gezichtsuitdrukkingen, lichaamstaal en andere gedragssignalen analyseren bij het screenen van aankomsten uit het Verenigd Koninkrijk.
Het zou kunnen worden geïmplementeerd tijdens grenscontroles op alle luchthavens en veerbootterminals.
Volgens The Mail zouden de hightech AI-leugendetectoren deel uitmaken van de nieuwe grenscontrolemaatregelen van de EU.
Dit zijn het Entry-Exit System (EES) en het European Travel Information and Authorisation System(ETIAS).
Het EES wordt van kracht op 6 oktober 2024 en het ETIAS volgt in 2025.
Beide reisprogramma’s vereisen dat bezoekers van buiten de EU biografische en biometrische gegevens verstrekken om Schengenlanden binnen te komen.
Hoe AI-leugendetectoren werken
Volgens het rapport moeten reizigers mogelijk een online interview afronden met een computergeanimeerde avatar voordat ze naar de EU gaan.
Tijdens dit interview worden reizigers gevraagd naar het doel van hun reis en andere persoonlijke gegevens.
Het AI-systeem zou gezichtsuitdrukkingen, lichaamstaal en oogbewegingen analyseren om de waarheidsgetrouwheid vast te stellen tijdens interviews.
Als de software tekenen van verdacht of bedrieglijk gedrag detecteert, kan het de reiziger markeren voor een extra screening door menselijke immigratieambtenaren.
De EU heeft al soortgelijke AI-leugendetectietechnologie getest in proefprogramma’s met de codenamen iBorderCtrl en Trespass.
iBorderCtrl is een door de EU gefinancierd project van 4,5 miljoen euro (5,1 miljoen dollar) dat tussen 2016 en 2019 wordt getest in Griekenland, Hongarije en Letland.
Wetenschappers van de Manchester Metropolitan University hebben de technologie ontwikkeld en hun bedrijf, Silent Talker Ltd., brengt deze commercieel op de markt.
Het TRESPASS Consortium testte de software en testte een andere leugendetectorsoftware met dezelfde naam tot november 2021.
Tijdens deze proeven volgden de experimentele systemen de fysieke reacties van de deelnemers terwijl geanimeerde grensagenten hen vragen stelden.
Bij sommige proeven werden zelfs de sociale media-accounts van mensen gescand om vast te stellen of ze een veiligheidsrisico vormden.
Het gebruik van inhoud van sociale media voor een dergelijke screening heeft echter tot bezorgdheid geleid bij voorvechters van burgerrechten over schendingen van de vrijheid van meningsuiting.
Nieuwe EU-inreisregels voor niet-EU-burgers
Het potentieel voor AI-leugendetectiescreening komt op het moment dat de EU zich voorbereidt op strengere toegangsregels.
Twee nieuwe grenscontrolesystemen zullen burgers van het Verenigd Koninkrijk en niet-EU-burgers die Europa bezoeken strenger controleren.
Het EES vereist biometrische gegevens van alle niet-EU-reizigers en zal vingerafdrukken en gezichtsscans opslaan in een EU-databank.
Dit zal worden gebruikt om de in- en uitreis van niet-EU-reizigers uit de Schengenzone te registreren in plaats van hun paspoorten handmatig af te stempelen.
Aan de andere kant is ETIAS vergelijkbaar met het visumontheffingsprogramma van de Verenigde Staten (VS) en de Electronic Travel Authorization (ETA) van het Verenigd Koninkrijk.
Onderdanen van landen zonder visum moeten een ETIAS verkrijgen voor elk bezoek aan de Schengenzone.
Om een ETIAS te krijgen, moeten aanvragers een online formulier invullen met vragen over hun achtergrond en reisgegevens.
Een AI-leugendetectorsoftware zou kunnen worden geïntegreerd in het online aanvraagproces, waarbij reizigers virtueel worden ondervraagd terwijl ze de vereiste informatie verstrekken.
Ethische bezwaren tegen AI-leugendetectoren
Het gebruik van kunstmatige intelligentie om leugens in menselijk gedrag op te sporen heeft veel kritiek en scepsis opgeroepen.
De Artificial Intelligence Act van de EU moet ervoor zorgen dat AI veilig en eerlijk wordt gebruikt.
Het doel is om de rechten en privacy van mensen te beschermen en tegelijkertijd de ontwikkeling van nuttige AI-technologieën mogelijk te maken.
Het verdeelt AI-systemen in risiconiveaus, waarbij sommige als zeer riskant worden beschouwd, zoals systemen die worden gebruikt om emoties te herkennen.
Critici beweren echter dat de AI-verordening van de EU nog steeds het gebruik ervan toestaat bij wetshandhaving en migratiecontrole, zoals blijkt uit een rapport op BiometricUpdate.com.
Sommige experts hebben AI-leugendetectoren afgedaan als onbetrouwbare “pseudowetenschap” die tot oneerlijke discriminatie zou kunnen leiden.
Patrick Breyer, een Duits lid van het Europees Parlement, stelde dat zelfs getrainde menselijke experts leugens niet betrouwbaar kunnen detecteren op basis van alleen gezichtsuitdrukkingen of lichaamstaal.
Hij waarschuwde dat AI-leugendetectoren mensen met een handicap of angststoornissen oneerlijk zouden kunnen aanpakken.
Het zou ook discriminerend kunnen zijn voor verschillende culturele interpretaties van lichaamstaal.
Er is ook bezorgdheid dat dergelijke AI-systemen vooroordelen kunnen vertonen tegen bepaalde etnische groepen of nationaliteiten op basis van de gegevens waarop ze zijn getraind.
Veel critici zien het als een onethische overschrijding van invasieve bewakingstechnologie.
EU-functionarissen hebben de proeven verdedigd als noodzakelijk om de grensbeveiliging te versterken en potentiële bedreigingen te identificeren.