Comune di Trento
Các dự án nghiên cứu giám sát bằng AI Marvel và Protector
Cơ quan quản lý Ý phạt thành phố Trento 50.000 EUR vì 2 dự án giám sát bằng AI do EU tài trợ dùng micro đường phố và mạng xã hội
Vấn đề
Thành phố tham gia nghiên cứu thành phố thông minh do EU tài trợ về phát hiện rủi ro an toàn công cộng từ camera, micro và các bài đăng trực tuyến.
Cách tiếp cận
Marvel kết hợp camera giám sát hiện có của thành phố với âm thanh từ micro đặt trên đường phố, và AI phân tích để phát hiện các sự kiện rủi ro. Protector dùng camera không có âm thanh cùng các bài đăng mang nội dung thù hận trên mạng xã hội để cảnh báo các mối đe dọa đối với nơi thờ tự. Thành phố cho biết dữ liệu được ẩn danh ngay sau khi thu thập. Ngày 11/1/2024, Garante quyết định rằng thành phố không có cơ sở pháp lý, việc ẩn danh chưa đủ và các thông báo không nêu rằng micro có thể ghi lại cuộc trò chuyện. Cơ quan này cũng nhận thấy không có đánh giá tác động, phạt thành phố và yêu cầu xóa dữ liệu.
Số liệu chính
Bài học
Việc tham gia nghiên cứu của EU không mang lại cho thành phố cơ sở pháp lý để xử lý dữ liệu của cư dân. Cơ quan quản lý cho biết sẵn sàng trao đổi về các dự án AI tuân thủ quy định về quyền riêng tư.
Phân loại
- Ngành
- Khu vực công
- Chức năng kinh doanh
- Sản xuất và chất lượng
- Loại hình đổi mới
- Đổi mới quy trình
- Công nghệ AI
- Thị giác máy tínhPhân tích dự báo và học máy
- Hình thức triển khai
- Chương trình hỗ trợ của nhà nước
- Mục tiêu
- Chất lượng và rủi ro
- Căn cứ
- Cơ quan quản lý, kiểm toán hoặc tòa án
Nguồn
Tóm tắt nguồn
Thông cáo của cơ quan này về quyết định ngày 11/1/2024. Cơ quan phạt Trento 50.000 EUR và yêu cầu xóa dữ liệu xử lý trái pháp luật. Các căn cứ gồm không có cơ sở pháp lý, dữ liệu được chia sẻ với đối tác, biện pháp ẩn danh chưa đầy đủ, thông báo về micro không rõ ràng và không chứng minh được đã thực hiện đánh giá tác động.
Bài của báo địa phương về khoản phạt. Bài mô tả Marvel (camera giám sát cộng micro đường phố) và Protector (camera giám sát cộng thông điệp thù hận trên mạng xã hội), nêu khẳng định của thành phố về việc ẩn danh ngay lập tức và việc Garante bác bỏ khẳng định đó.
Thông tin đầy đủ có trong tài liệu gốc.