iBorderCtrl war ein von der EU finanziertes Forschungsprojekt, welches von 2016 bis 2019 an den Grenzübergängen in Griechenland, Ungarn und Lettland getestet wurde (vgl. Stoklas 2021, S. 05289) . Es untersuchte mögliche Vorteile einer Einreise in die EU durch Interviews mit einem KI-Grenzbeamten.
Der Prozess sah vor, dass der Einreisende im Vorfeld, in der sogenannten Pre-Registration, alle notwendigen Informationen bereitstellte (Pass, Visa, Nachweis finanzieller Mittel, verwendete Verkehrsmittel) (vgl. Stoklas 2018, S. 06363). Dies konnte bereits zu Hause erledigt werden. In einem nächsten Schritt erhielt der Reisewillige dann Informationen zur Einreise und geltendem Recht.
Am Grenzübergang traf der Einreisende dann auf einen Avatar eines KI-Grenzbeamten auf einem Terminal, welcher an das Geschlecht, an die Ethnie und die Sprache der Person angepasst werden konnte, um eine vertrauensvolle Atmosphäre zu schaffen (vgl. O’Shea 2018). Der Einreisende sollte mit diesem Avatar dann ein Interview durchführen, in dem er Angaben über persönliche Daten und Einreisegrund angeben musste. Während dieses Interviews wurde das Gesicht des Befragten von mehreren Kameras gefilmt und von einer künstlichen Intelligenz ausgewertet. Hier wurde insbesondere ein Augenmerk auf verdächtige Mimik gelegt. Es kam in der Tat gar nicht darauf an, was in dem Interview besprochen wurde, sondern lediglich darauf, wie sich der Interviewte verhielt und bewegte (vgl. Korte 2021, S. 05531 u. Ibold 2024, S. 10).
Diese Auswertung von Mikrogesten fand durch ein sogenanntes Automatic Deception Detection System – ADDS statt. Zudem wurden Reisedokumente automatisch auf ihre Echtheit überprüft (Document Authenticity Analytics Tool – DAAT). All diese Informationen wurden zusammengeführt und daraus ein Risikowert ermittelt (Risk Based Assessment Tool – RBAT), welcher dann einem realen Grenzbeamten in einem Computersystem vorlag (vgl. Stoklas 2021, S. 05289 und Sánchez-Monedero 2020). Anhand dieses Werts, einem Score, konnte der Grenzbeamte sodann die Entscheidung über Einreise oder Einreiseverbot fällen. Die letztendliche Entscheidung wurde also nicht durch die künstliche Intelligenz selbst getroffen, sondern durch einen Menschen.
Evaluation
Das Projekt wurde 2019 abgeschlossen und anschließend evaluiert. Es wurde als erfolgreich eingestuft, da es seine Hauptziele erreichte (vgl. Cordis 2024). Es wurde in der Evaluation angemerkt, dass viele der Funktionen in die von der Europäischen Kommission vorgeschlagenen Entry Exit- und European Travel Information and Authorisation Systeme integriert werden sollen, um die Grenzkontrollverfahren zu verbessern.
Ethische Betrachtung
Neben rechtlichen und administrativen Punkten, sollte auch über die ethischen Komponenten solch eines Projekts nachgedacht werden. Das geplante Interview mit einem virtuellen Polizei-Avatar, bei dem Lügendetektion zum Einsatz kommt, stellt aus dieser Sicht eine besondere Herausforderung dar und es ergeben sich ethische und verfassungsrechtliche Herausforderungen. Die Interaktion mit einer Künstlichen Intelligenz kann Unbehagen auslösen und die Einhaltung der Menschenwürde durch ein empathieloses Computersystem ist in stressbehafteten Situationen wie Grenzkontrollen besonders schwierig. Zudem muss sichergestellt werden, dass keine falschen Ergebnisse aufgrund von Verunsicherung der Betroffenen produziert werden.
Schlussfolgerung
Automatisierte Einzelentscheidungen, die nachteilige Rechtsfolgen haben, unterliegen besonderen Regelungen. Das iBorderCtrl-System trifft zwar keine Entscheidung über eine Zurückweisung, informiert aber über das Risiko eines Reisenden. Aufgrund der möglichen Konsequenzen sind zusätzliche Schutzmaßnahmen erforderlich. Ein vollautomatisiertes System ist daher sowohl aus menschenrechtlicher als auch aus datenschutzrechtlicher Sicht problematisch. Fälle, die zu einem Treffer führen, sollten durch einen Menschen überprüft und das System durch eine unabhängige Ethik-Kommission evaluiert werden.
Quellenangaben
Cordis (2024): Periodic Reporting for period 2 – iBorderCtrl (Intelligent Portable Border Control System). Online unter https://cordis.europa.eu/project/id/700626/reporting [Abruf am 30.12.2024]
Ibold, Victoria (2024): Künstliche Intelligenz im Sicherheitsrecht – Begründungsgebot quo vadis? In: Zeitschrift für das gesamte Sicherheitsrecht, H. 1, S. 10.
Korte, Kai (2021): EU-Parlament: Für ein Verbot der automatisierten Gesichtserkennung. In: ZD-Aktuell, H. 19, S. 05531.
O’Shea, J.; Crockett, K.; Khan, W. (2018): Intelligent Deception Detection through Machine Based Interviewing. In: International Joint Conference on Neural Networks (IJCNN), Online unter https://doi.org/10.1109/IJCNN.2018.8489392 [Abruf am 26.12.2024]
Sánchez-Monedero, J.; Dencik, L. (2020): The politics of deceptive borders: ‘biomarkers of deceit’ and the case of iBorderCtrl. In: Information, Communication & Society, Jg. 25, H.3, S. 413 – 430. Online unter https://doi.org/10.1080/1369118X.2020.1792530 [Abruf am 23.12.2024]
Stoklas, Jonathan (2018): Bessere Grenzkontrollen durch Künstliche Intelligenz. In: ZD-Aktuell, H. 19, S. 06363
Stoklas, Jonathan (2021): Einsatz von Künstlicher Intelligenz bei Grenzkontrollen: Pilotprojekte der EU. In: ZD-Aktuell, H. 19, S. 05289
Bild- und Videoangaben
Abbildung 1: IUK Fraunhofer. Online unter https://www.iuk.fraunhofer.de/de/news-web/2024/neue-podcastfolge–nachgeforscht—die-zukunft-der-gesichtserken/jcr:content/stage/stageParsys/stage_slide/image.img.jpg/1716813262112/kv-podcast-gesichtserkennung.jpg [Abruf am 02.01.2025]
Anhang 1: Youtube / euronews. Online unter https://www.youtube.com/watch?v=_xfErbHoRG4 [Abruf am 05.01.2025]