USAÖffentlicher Sektor2023–2026Stadt New York
MyCity-Chatbot für Unternehmen
New Yorks Unternehmenschatbot gab Antworten, die gegen städtisches Recht verstießen, und wurde zwei Jahre später abgeschaltet
Ausgangslage
Kleine Unternehmen in New York müssen zahlreiche städtische Vorschriften zu Wohnraum, Arbeitsrecht und Verbraucherschutz beachten, die über viele Webseiten verteilt sind. Die Stadt wollte eine zentrale Anlaufstelle schaffen, an der sie Fragen in Alltagssprache stellen konnten.
Vorgehen
Die Stadtregierung unter Adams startete den MyCity-Chatbot im Herbst 2023 auf Basis von Microsofts Azure AI Services. Er sollte auf mehr als 2.000 Webseiten von NYC Business zurückgreifen. Tests von The Markup und THE CITY im März 2024 ergaben, dass der Bot Vermietern die Ablehnung von Wohngutscheinen, Arbeitgebern die Einbehaltung von Trinkgeldern ihrer Beschäftigten und Geschäften die Ablehnung von Bargeld erlaubte. Sämtliche Antworten widersprachen städtischem Recht. Die Stadt ließ den Bot mit Haftungshinweisen als Betaversion online. Im Januar 2026 bezeichnete Bürgermeister Zohran Mamdani ihn als „praktisch unbrauchbar“ und nannte ihn als möglichen Einsparposten. Bis Anfang Februar gab die Stadt bekannt, der Betatest sei beendet.
Kennzahlen
Erkenntnis
Journalisten fanden die Fehler durch Tests des Bots. Die Stadt hatte sie übersehen und reagierte mit Haftungshinweisen, während sie den Bot weiterbetrieb. Die behördliche Autorität verlieh seinen falschen Rechtsauskünften mehr Gewicht als denen eines Einzelhändlers.
Kategorien
- Größe
- Großunternehmen
- Branche
- Öffentlicher Sektor
- Unternehmensfunktion
- Kundenservice
- Innovationsart
- Produkt- und Dienstleistungsinnovation
- KI-Technologie
- Generative KIDialog- und Sprach-KI
- Einführung
- Anbieterlösung
- Nachweis
- Presseberichterstattung
Quellen
Quellenzusammenfassungen
The Markup berichtet über eigene Tests des MyCity-Chatbots. Dieser gab falsche Antworten zu Wohngutscheinen, dem Aussperren von Mietern, bargeldlosen Geschäften, Trinkgeldern von Beschäftigten und Bestattungspreisen, teils mit unterschiedlichen Antworten für verschiedene Nutzer. Laut The Markup lief der Bot auf Microsofts Azure AI Services und sollte auf mehr als 2.000 städtische Unternehmenswebseiten zurückgreifen. Das Medium zitiert die Stadt, die den Bot als verbesserungsfähigen Pilotversuch bezeichnete, sowie Rechtsbeistände, die bei ungenauen Antworten seine Abschaltung forderten.
The Markup und THE CITY berichten, dass Bürgermeister Mamdani den Chatbot angesichts einer Haushaltslücke von 12 Milliarden US-Dollar als Einsparposten nannte. Er bezeichnete ihn als „praktisch unbrauchbar“ und bezifferte seine Kosten auf rund eine halbe Million US-Dollar. Die Medien verweisen auf einen ABC7-Bericht, wonach der Aufbau seiner technischen Grundlagen nahezu 600.000 US-Dollar gekostet habe. Später berichteten sie, die Stadt habe den Bot bis zum 4. Februar 2026 abgeschaltet und dies mit dem Ende des Betatests begründet.
Futurism berichtet, dass der Ende 2023 auf Basis von Microsofts Azure AI gestartete Chatbot offline sei und seine Seite Besucher auf NYC.gov verweise. Der Aufbau soll mehr als 600.000 US-Dollar gekostet haben. Das Medium erinnert an die von The Markup festgestellten falschen Auskünfte zu Trinkgeldern und bargeldlosen Geschäften. Es verweist auf die Aussage des Bürgermeisters, die Einsparung allein werde die Haushaltslücke der Stadt nicht schließen.
Ausführliche Angaben finden Sie in den Originalquellen.
