Assim que é possível identificar pessoas nas imagens, está a tratar dados pessoais e aplica-se o RGPD. Se as câmaras estiverem instaladas no local de trabalho, precisa de um fundamento jurídico, muitas vezes o interesse legítimo. Tem de informar os trabalhadores e obter a aprovação da comissão de trabalhadores ou dos representantes dos trabalhadores. Não é permitido usar as imagens para controlar a forma como os trabalhadores desempenham as suas funções. O reconhecimento facial é, em regra, proibido, salvo exceção prevista na lei, e o Regulamento da IA proíbe o reconhecimento de emoções no local de trabalho e no ensino, exceto por razões médicas ou de segurança. No caso de monitorização sistemática e em grande escala de espaços acessíveis ao público, é obrigatória uma DPIA.
Por isso, vale a pena conceber o sistema de modo a gerar o mínimo possível de dados pessoais: tratar os dados junto à câmara sempre que possível, guardar apenas contagens e não conservar as imagens se não forem necessárias. Na GVB, as imagens das câmaras de segurança não são vistas nem partilhadas; são apenas analisadas pelo modelo. Cabe ao responsável pela privacidade ou ao jurista avaliar se a sua aplicação é permitida e com que fundamento jurídico.
Um modelo pode ter um desempenho diferente na prática do que no conjunto de teste, e esse desempenho pode mudar: as estações do ano, os novos produtos e as câmaras deslocadas alteram as imagens que recebe. A isso chama-se drift. A monitorização integrada do Azure Machine Learning está orientada para dados tabulares, pelo que, para as imagens, configuramos os nossos próprios indicadores, como a distribuição das pontuações de confiança e o número de deteções por hora. Para a Rijkswaterstaat, desenvolvemos um pacote genérico de monitorização para detetar drift e outliers em modelos em produção.