ItáliaLogística e transporte2021–2024Foodinho (Glovo)
Gestão algorítmica de entregadores
Autoridade de privacidade da Itália multou a Foodinho, da Glovo, em €5 milhões por algoritmos de gestão de entregadores que os trabalhadores não podiam contestar
Problema
Uma plataforma de entrega de comida precisa distribuir pedidos e turnos a dezenas de milhares de entregadores, verificar quem usa cada conta e lidar com o mau desempenho. Fazer isso à mão, em tal escala, não é viável.
Abordagem
A Foodinho, empresa italiana do grupo Glovo, usava sistemas automatizados para classificar os entregadores com uma pontuação de “excelência”, que dava prioridade na reserva de turnos, para distribuir pedidos dentro de um turno e para bloquear ou desativar contas. Desde julho de 2022, também usava reconhecimento facial para verificar a identidade dos entregadores. O Garante, a autoridade italiana de proteção de dados, já havia multado a empresa em €2,6 milhões em 2021 por causa de seus algoritmos. Uma nova investigação, aberta depois de reportagens segundo as quais a conta de um entregador foi desativada após ele morrer em um acidente de trânsito durante uma entrega, concluiu que os sistemas não tinham revisão humana nem meio de contestar as decisões, e que dados de localização eram coletados mesmo com o aplicativo fechado e compartilhados sem aviso aos entregadores. Em novembro de 2024, o Garante multou a Foodinho em €5 milhões, proibiu o tratamento biométrico e determinou mudanças no aplicativo.
Números principais
Lição
O órgão regulador concentrou-se em decisões sobre turnos e contas que nenhuma pessoa revisava e que os entregadores não podiam questionar. A segunda multa, maior, veio depois de uma sanção anterior que não havia mudado a gestão dos entregadores.
Categorias
- Porte
- Grande empresa
- Função empresarial
- Recursos humanosProdução e qualidade
- Tipo de inovação
- Inovação de processos
- Tecnologia de IA
- Análise preditiva e MLVisão computacional
- Forma de adoção
- Desenvolvimento interno
- Evidência
- Órgão regulador, auditoria ou tribunal
Fontes
Resumos das fontes
O Garante multou a Foodinho em €5 milhões pelo tratamento ilícito dos dados de mais de 35.000 entregadores e proibiu suas verificações de identidade por reconhecimento facial. A investigação começou depois de relatos de que um entregador morto em um acidente de trânsito em 2022 teve a conta desativada e concluiu que a pontuação de excelência e a distribuição de pedidos não tinham revisão humana nem direito de contestação. O órgão exigiu novas mensagens de desativação, verificações por operadores treinados e o desligamento do GPS quando o aplicativo roda em segundo plano.
O Centro de Direitos Humanos da Universidade de Pádua descreve a ordem do Garante de 13 de novembro de 2024 contra a Foodinho, que abrange mais de 35.000 entregadores. Informa que, até agosto de 2023, o aplicativo rastreava os entregadores mesmo quando estavam desconectados e que os entregadores suspensos recebiam uma mensagem automática, sem meio de se explicar ou contestar. Traz a multa de €5 milhões, a multa anterior de €2,6 milhões, de 2021, e os prazos ampliados para a exclusão de dados biométricos e o cumprimento das medidas.
O Posteo informa a multa de €5 milhões e a proibição do reconhecimento facial, que a Foodinho usava em verificações de identidade desde julho de 2022. Descreve a pontuação de excelência, que podia afetar a atribuição de turnos sem revisão humana, e a exigência de permitir que os entregadores contestem a desativação. Informa também a multa de €2,6 milhões, de julho de 2021, por algoritmos de distribuição de pedidos, e observa que a Glovo pertence à Delivery Hero desde 2022.
Os detalhes completos estão disponíveis nas fontes originais.
