IndienÖffentlicher Sektor2016 – laufendRegierung des Bundesstaats Telangana
Samagra-Vedika-Algorithmus zur Prüfung des Anspruchs auf Sozialleistungen
Eine Recherche von Al Jazeera ergab, dass Telanganas Sozialleistungsalgorithmus in mindestens 7,5 % der überprüfbaren Fälle Lebensmittelkarten zu Unrecht verweigerte
Ausgangslage
Der Bundesstaat wollte nicht berechtigte und mehrfach erfasste Empfänger aus Programmen für Lebensmittel und andere Sozialleistungen ausschließen. Die Daten der Behörden waren über Dutzende Datenbanken verschiedener Ressorts verteilt.
Vorgehen
Posidex Technologies entwickelte Samagra Vedika, das mittels maschinellen Lernens Personen in mehr als 30 staatlichen Datenbanken abgleicht und für jede ein einheitliches Profil erstellt. Das System begann 2016 als Polizeiinstrument, wurde noch im selben Jahr im Programm zur Ernährungssicherung erprobt und erfasste bis 2018 die meisten Sozialprogramme des Bundesstaats. Beamte müssen es vor der Bewilligung von Anträgen konsultieren und folgen in der Praxis meist seinem Ergebnis.
Kennzahlen
Erkenntnis
Die Beamten folgten meist dem Algorithmus; eine gerichtlich angeordnete Überprüfung stellte unrechtmäßige Ablehnungen fest, obwohl der Bundesstaat eine Fehlerquote bei der Zuordnung von unter 5 % geltend machte. Die Überprüfung erfasste nur einen Teil der entzogenen Karten, und der Bundesstaat verweigerte die Herausgabe des Quellcodes.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Finanzen, Risiko und Recht
- Innovationsart
- Prozessinnovation
- KI-Technologie
- Prädiktive Analytik und ML
- Einführung
- Anbieterlösung
- Nachweis
- Presseberichterstattung
Quellen
Quellenzusammenfassungen
Al Jazeera untersuchte das von Posidex entwickelte System und berichtete, dass von 2014 bis 2019 mehr als 1,86 Millionen Lebensmittelkarten entzogen und 142.086 Anträge abgelehnt wurden. Anhand von Daten einer vom Obersten Gericht angeordneten erneuten Prüfung schätzten die Reporter, dass mindestens 7,5 % der abgelehnten Karten zu Unrecht verweigert worden waren. Beamte verteidigten das System, bezifferten die Fehlerquote auf unter 5 % und lehnten Anfragen zur Herausgabe des Quellcodes ab.
Der Oxford Human Rights Hub beschrieb das System als Werkzeug zur Identitätszuordnung, das mehr als 30 Datenbanken nutzt, und berichtete über 1,86 Millionen entzogene Karten und 142.086 Ablehnungen. Seinen Angaben zufolge haben weder der Anbieter noch der Bundesstaat Quellcode oder Genauigkeitsdaten veröffentlicht; Beamte folgen in der Praxis dem Ergebnis. Zudem verwies er auf eine Untersuchung von Amnesty International aus dem Jahr 2024, die menschenrechtliche Bedenken äußerte.
Ausführliche Angaben finden Sie in den Originalquellen.
