Borderline decisions?: Lack of justification for automatic deception detection at EU borders.

Between 2016 and 2019, the European Union funded the development and testing of a system called “iBorderCtrl”, which aims to help detect illegal migration. Part of iBorderCtrl is an automatic deception detection system (ADDS): Using artificial intelligence, ADDS is designed to calculate the probability of deception by analyzing subtle facial expressions to support the decision-making of border guards. This text explains the operating principle of ADDS and its theoretical foundations. Against this background, possible deficits in the justification of the use of this system are pointed out. Finally, based on empirical findings, potential societal ramifications of an unjustified use of ADDS are discussed. [ABSTRACT FROM AUTHOR]

Von 2016 bis 2019 wurde mit Fördergeldern der Europäischen Union ein System namens „iBorderCtrl“ entwickelt und getestet. Dieses System soll dabei helfen, illegale Migration zu erkennen. Eine Komponente von iBorderCtrl ist das sog. Automatic-Deception- Detection-System (ADDS). Mithilfe künstlicher Intelligenz soll das ADDS subtile Gesichtsausdrücke analysieren, um die Wahrscheinlichkeit einer Täuschung zu berechnen, die Grenzschutzbeamt*innen als Entscheidungshilfe nutzen können. Im vorliegenden Beitrag werden das Funktionsprinzip des ADDS sowie seine theoretische Basis erläutert. Vor diesem Hintergrund wird auf mögliche Defizite in der Rechtfertigung des Einsatzes von ADDS hingewiesen. Auf der Grundlage empirischer Untersuchungen werden schließlich mögliche soziale Auswirkungen eines ungerechtfertigten Einsatzes von ADDS diskutiert. [ABSTRACT FROM AUTHOR]