KI bei Asylanträgen: Britische Aufsicht prüft den Einsatz im Home Office

Die unabhängige britische Kontrollinstanz für Grenzen und Einwanderung, der Independent Chief Inspector of Borders and Immigration (ICIBI), prüft eine Untersuchung über den Einsatz generativer künstlicher Intelligenz bei Asylanträgen im britischen Innenministerium. Im Zuge dessen hat die Aufsichtsbehörde die Nichtregierungsorganisation Open Rights Group um zusätzliche Informationen gebeten.

Hintergrund ist der zunehmende Einsatz automatisierter Systeme im UK Home Office. Das Ministerium pilotiert seit Ende 2024 zwei Werkzeuge, die auf OpenAI GPT-4 aus dem Jahr 2023 sowie Microsoft Foundry basieren: das System „Asylum Case Summarisation“ zur Zusammenfassung von Interviewtranskripten und die Anwendung „Asylum Policy Search“ zur Recherche und Zusammenfassung von Länderinformationen.

Fehlerraten und Qualitätsmängel bei der Fallbearbeitung

Nach Regierungsangaben spart der kombinierte Einsatz beider Anwendungen rund eine Stunde Bearbeitungszeit pro Fall ein. Jeden Monat werden durchschnittlich rund 7.000 Zusammenfassungen von Asylinterviews durch die künstliche Intelligenz erstellt. Das Ministerium verweist darauf, dass die Nutzung für die Asylentscheider optional sei, nur geschulte Fallbearbeiter die Beschlüsse fassten und die Software nicht eigenständig agieren könne.

Recherchen der Open Rights Group zeichnen jedoch ein anderes Bild. Nach einer sechsmonatigen Untersuchung, die elf parlamentarische Anfragen, zwei Ministerbriefe und zehn Auskunftsersuchen umfasste, stellte die Organisation fest, dass der tatsächliche Anteil unbrauchbarer Zusammenfassungen deutlich über der in der Pilot-Evaluation ausgewiesenen Fehlerrate von 9 % liegt.

Wer sich mit dem Einsatz neuer Technologien in der Verwaltung befasst, muss die rechtlichen Rahmenbedingungen genau kennen. Dieser kostenlose Leitfaden bietet einen praxisnahen Überblick über die Anforderungen und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Für die politische Suchhilfe existiert zudem keine dokumentierte Qualitätskontrolle. Auch interne Stichproben des Ministeriums ergaben, dass das Werkzeug zur Zusammenfassung grundlegende Genauigkeitstests nicht bestand.

Mangelnde Transparenz und juristische Bedenken

Kritik entzündet sich zudem an der fehlenden Offenlegung. Beide Systeme fehlen im öffentlichen Register für algorithmische Werkzeuge der Regierung, und Asylsuchende werden nicht über die Verwendung der Systeme in ihren Verfahren informiert.

Die Open Rights Group warnt, die Technologie sei nahezu vollständig im Verborgenen in die Behörde integriert worden. Zudem beriefen sich Regierungsvertreter routinemäßig auf Gründe der nationalen Sicherheit, um Anträge nach dem Informationsfreiheitsgesetz abzublocken.

Aus der britischen Politik formiert sich Widerstand. Die Labour-Abgeordnete Bell Ribeiro-Addy fordert die Veröffentlichung von Gleichheits- und Datenschutzprüfungen sowie eine unabhängige Validierung der Systeme.

Die Einführung von KI-Systemen stellt Organisationen vor komplexe Fragen zu Risikoklassen und Dokumentationspflichten. Ein kostenloser Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen KI-Umsetzungsleitfaden herunterladen

Unterstützung erhält sie dabei von Pete Wishart von der Scottish National Party und der Grünen-Abgeordneten Siân Berry. Anwälte der Kanzleien Cloisters und Doughty Street Chambers schätzen den aktuellen Einsatz der KI im Asylverfahren als wahrscheinlich rechtswidrig ein.

Auf einer Fachveranstaltung räumte Samuel O'Sullivan, Evaluierungsleiter für künstliche Intelligenz im Home Office, ein, dass die tatsächliche Nutzung einiger behördlicher Werkzeuge bei einem breiten Rollout viel niedriger als gewünscht ausgefallen sei, obwohl sich manche Instrumente bereits seit zwei bis drei Jahren in der Entwicklung befänden.

Während zivilgesellschaftliche Gruppen strengere Informationsfreiheitsgesetze und ein verpflichtendes Verzeichnis staatlicher KI verlangen, signalisiert die Initiative der ICIBI nun eine genauere behördliche Aufarbeitung der Praxis.