O InternetLab, um centro de pesquisa interdisciplinar que estuda as interseções entre direito e tecnologia, publicou um relatório chamado “Tecnologias de vigilância e educação: um mapeamento das políticas de reconhecimento facial em escolas públicas brasileiras”. O relatório destacou a falta de transparência nos projetos de reconhecimento facial implementados em escolas, que podem comprometer a privacidade e segurança dos estudantes.
Os pesquisadores identificaram várias iniciativas de uso de reconhecimento facial em escolas públicas brasileiras. Entre elas, o uso de tecnologia para prever quais alunos têm mais chances de reprovar sem especificar os critérios usados para tal diagnóstico. Segundo Clarice Tavares, coordenadora da área de Desigualdades e Identidades do InternetLab, essa prática pode estar associada a estereótipos e questões estruturais como raça, classe e gênero, o que é preocupante, especialmente considerando que crianças e adolescentes precisam de proteção adicional.
A falta de transparência nos projetos é um problema identificado pelos pesquisadores. As informações foram obtidas através de fontes como notícias, sites de prefeituras e governos estaduais, portal da transparência e solicitações com base na Lei de Acesso à Informação (LAI). A equipe do InternetLab destaca a importância de garantir a transparência e a responsabilidade no uso de tecnologias de vigilância em escolas públicas.
Clarice afirmou que um dos principais achados da pesquisa foi a falta de transparência em relação às políticas adotadas pelos municípios. Em muitos casos, as informações encontradas nos sites das prefeituras eram insuficientes, e mesmo após solicitações por meio da LAI, as respostas eram vagas ou não foram obtidas. Isso demonstra uma necessidade de melhorias nos mecanismos de transparência, especialmente no âmbito municipal.
Foram encontradas políticas de reconhecimento facial em escolas do estado de Tocantins (TO) entre outras cidades como Fortaleza (CE), Goiânia (GO), Rio de Janeiro (RJ), Porto Alegre (BH), Mata de São João (BA), Jaboatão dos Guararapes (PE), Águas Lindas (GO), Morrinhos (GO), Betim (MG), Angra dos Reis (RJ), Itanhaém (SP), Potirendaba (SP), Santos (SP) e Xaxim (SC).
Todas as escolas justificam a adoção do reconhecimento facial para registrar a frequência dos alunos, como instrumento de segurança da comunidade escolar, para combater a evasão de estudantes e aprimorar a gestão do ambiente escolar e dos alunos.
Entretanto, os pesquisadores do InternetLab alertam para as possibilidades de desvios de finalidade, que podem levar a discriminação de grupos minorizados, como mulheres, negros e a população LGBTQIA+. Isso reforça a importância de medidas que garantam a proteção de direitos e evitem o uso inadequado da tecnologia de reconhecimento facial.
De acordo com os pesquisadores do InternetLab, diversas pesquisas apontam para a imprecisão das tecnologias de reconhecimento facial quando se trata de pessoas não-brancas e não-masculinas. Isso ocorre porque as ferramentas são treinadas com bancos de dados que possuem pouca diversidade de gênero, raça e registros culturais, o que resulta na reprodução de vieses discriminatórios. Esses erros podem levar a falsos positivos e/ou falsos negativos na operação da tecnologia.
Além disso, o uso do reconhecimento facial pode resultar em inferências discriminatórias, em que a tecnologia não apenas verifica a identidade de uma pessoa, mas também atribui características físicas ou comportamentais a ela, como raça, gênero, humor e temperatura corporal, o que pode levar a conclusões equivocadas e preconceituosas.
Os pesquisadores também destacam a importância da privacidade dos dados coletados na comunidade escolar. Eles recomendam o uso de software livre, o letramento digital de educadores e gestores, a produção de relatórios de impacto na proteção de dados e nos direitos humanos e a participação dos alunos na adoção dessas políticas, a fim de ampliar a compreensão sobre o assunto.
