美國公部門2023–2026紐約市政府（New York City）
MyCity 商業聊天機器人
紐約市商業聊天機器人提供違反市法的答案，兩年後關閉
問題
紐約市小型企業主必須遵守大量住宅、勞動與消費者保護相關市政規範，而資訊散見於許多網頁。市政府希望提供單一管道，讓業者以日常語言提問。
做法
亞當斯市府於 2023 年秋季推出 MyCity 聊天機器人，以微軟 Azure AI 服務建置，原定參照超過 2,000 個 NYC Business 網頁。2024 年 3 月，The Markup 與 THE CITY 測試發現，機器人告訴使用者，房東可拒收租屋補助券、雇主可拿走員工小費、商店可拒收現金，均與市法牴觸。市府仍以測試版形式維持上線，並附上免責聲明。2026 年 1 月，市長 Zohran Mamdani 稱其「在功能上無法使用」，並將停用列為節省預算的措施；至 2 月初，市府宣布測試版已結束。
主要數據
啟示
記者透過測試發現錯誤；市府先前未察覺，之後以免責聲明回應，仍維持機器人上線。機器人具有政府權威，使錯誤法律答案比零售商提供的答案更具分量。
分類
來源
來源摘要
The Markup 報導自行測試 MyCity 聊天機器人的結果，發現其在租屋補助券、將房客鎖在屋外、無現金商店、員工小費與殯葬價格等問題上提供錯誤答案，有時對不同使用者的回答也不一致。報導指出，機器人採用微軟 Azure AI 服務，原定參照超過 2,000 個市府商業網頁。報導引述市府稱這是會持續改善的試行服務，也引述法律倡議人士表示，若資訊不準確就應下線。
The Markup 與 THE CITY 報導，Mamdani 市長在處理 120 億美元預算缺口時，將停用聊天機器人列為節流措施，稱其「在功能上無法使用」，花費約五十萬美元。報導引述 ABC7 稱，建置其基礎架構耗資近 60 萬美元。兩家媒體其後報導，截至 2026 年 2 月 4 日，市府已將機器人下線，表示測試階段已結束。
Futurism 報導，2023 年底以微軟 Azure AI 推出的聊天機器人已下線，原網頁改為引導訪客前往 NYC.gov；據報建置費用超過 60 萬美元。報導回顧 The Markup 發現其在小費與無現金商店議題上提供的錯誤建議，並提及市長表示，僅靠這項節省仍不足以填補市府預算缺口。
詳細內容請參閱原始資料。
