Asylbehörde sucht mit Künstlicher Intelligenz nach auffälligen Geflüchteten – und leitet immer mehr Daten von Geflüchteten an den Verfassungsschutz weiter

“Das Bundesamt für Migration und Flüchtlinge setzt mehrere KI-Systeme ein. Eine Software soll interessante Stellen in Anhörungsprotokollen markieren. Das BAMF leitet immer mehr Daten von Geflüchteten an den Verfassungsschutz weiter. „KI ist bei uns keine Zukunft, sondern gelebte Praxis“, sagte Markus Richter im Dezember. Richter ist Vize-Chef des Bundesamtes für Migration und Flüchtlinge (BAMF), früher leitete er die IT-Abteilung des Amtes. Die Behörde, selbsternannter Digitalisierungsvorreiter, testet Künstliche Intelligenz in verschiedenen Bereichen: Algorithmen sollen den digitalisierten Posteingang sortieren, sogenannte Profilanalysen durchführen und Klageandrohungen auch in ironisch formulierten Anwaltsschreiben erkennen. (…) Das BAMF führt derzeit ein Pilotprojekt zur „Profilanalyse“ durch. Laut dem Gruppenleiter für Prozesse und IT wurde die Profilanalyse entwickelt, „um den gesetzlichen Meldeverpflichtungen des BAMF an Sicherheitsbehörden leichter und schneller nachkommen zu können“. (…) Immer häufiger leitet das BAMF Daten an den Verfassungsschutz weiter: Im Jahr 2015 waren es noch gut 500 Fälle, zwei Jahre später bekam der Verfassungsschutz vom BAMF über 10.000 Hinweise. Wie viele tatsächlich relevante Erkenntnisse das bringt, ist nicht öffentlich bekannt. (…) Es besteht die Gefahr, dass Entscheidungen über Menschen Maschinen überlassen werden. Das gibt das Innenministerium zu (…) Dem entgegen steht eine hohe Belastung der Entscheider und sonstiger Mitarbeiter, die dazu verleiten, den vermeintlich neutralen Ergebnissen der Algorithmen zu viel Glauben zu schenken. Das ist bereits vorgekommen. Asylsuchenden wurden falsche Angaben vorgeworfen, ihre Asylanträge zunächst abgelehnt. Außer der Computeranalyse sprach fast alles für ihre Aussagen…” Beitrag von Anna Biselli und Andre Meister vom 19. Juli 2019 bei Netzpolitik mit den Antworten des Innenministeriums zu KI im Bundesamt für Migration und Flüchtlinge zu einer Anfrage der Enquete-Kommission des Bundestages zu Künstlicher Intelligenz