Equilibrando eficiência e interesse público: o impacto da automação por IA na prestação de benefícios sociais no Brasil

O artigo, de Maria Alejandra Nicolás e do fundador do <labiia_lab> Rafael Cardoso Sampaio , publicado na Internet Policy Review (2024), examina a implementação de sistemas de inteligência artificial pelo INSS brasileiro para automatizar a concessão de benefícios sociais. A partir de relatórios de auditoria de órgãos de controle do governo, analisa tanto os ganhos de eficiência quanto as consequências não intencionais dessa automação — sobretudo o aumento de negativas automáticas e as barreiras criadas para usuários com menos letramento digital, que afetam de forma desproporcional as populações mais vulneráveis.

Principais pontos

O sistema e seu contexto: o INSS é uma autarquia federal com cerca de 37 milhões de beneficiários, mais de 700 mil novos pedidos por mês e cerca de 19.510 servidores em 2023 — número que o sindicato considera insuficiente (seriam necessários ao menos 30 mil). A automação começou em 2017 e, em 2019, a Dataprev lançou o sistema de IA “Isaac“, baseado em aprendizado de máquina e OCR, que cruza bases de dados e usa algoritmos preditivos para conceder, negar ou encaminhar pedidos a servidores. (Os autores notam que o nome “Isaac” deixou de ser divulgado oficialmente, mas continuam usando-o para clareza.)

Os ganhos de eficiência: a análise automática subiu de 17% (2022) para 36% (2023); pensões por morte chegaram a ser concedidas em 12 horas; e o total de decisões anuais cresceu de 7 milhões (2006) para 10,3 milhões (2022).

Os problemas: o aumento das decisões automáticas elevou também as negativas automáticas — em 2022 foram mais de 800 mil rejeições automáticas, crescimento de mais de 300% sobre 2021. Muitos erros decorrem de inconsistências na base CNIS (uma auditoria do TCU encontrou mais de 24 milhões de registros com informações incompletas, inválidas ou inconsistentes) e do desenho inadequado dos formulários — por exemplo, na licença-maternidade urbana, uma pergunta mal interpretada sobre afastamento gerava recusa automática. Houve casos midiáticos, como uma aposentadoria negada em 6 minutos.

A análise pelo referencial PIAI: os autores avaliam o sistema segundo as cinco dimensões da teoria de “IA de interesse público” (Züger & Asghari, 2023):

• Justificação pública: houve uma justificativa defensável (reduzir filas), mas não uma justificação pública aberta nem processo participativo.
• Igualdade e direitos humanos: o sistema reforça desigualdades, prejudicando os mais pobres, idosos e rurais, dada a exclusão digital ainda forte no Brasil.
• Deliberação/co-design: não houve consulta a beneficiários, sindicatos, sociedade civil ou especialistas.
• Salvaguardas técnicas: governança frágil — sem estrutura clara de responsabilidade, pouquíssimos servidores dedicados (cerca de 12) e ausência de planejamento de riscos.
• Abertura à validação: o sistema é uma “caixa-preta”, sem transparência ou documentação suficiente para auditoria externa além dos próprios órgãos de controle.
  

Conclusão

Os autores concluem que, dos cinco critérios para ser um sistema de interesse público, o INSS cumpre apenas um mínimo de justificação pública (o uso pode beneficiar muitas pessoas). A teoria de IA de interesse público permite responder com um “não” categórico: na prática, o sistema atende apenas à necessidade da autarquia de reduzir filas, ignorando riscos e custos, sem considerar o público afetado nem oferecer ao cidadão a opção de escolher entre uma via automatizada mais rápida e um atendimento humano mais cuidadoso. Argumentam que a eficiência não pode ser a justificativa exclusiva para implantar IA no setor público e defendem regulação, transparência, participação cidadã e ferramentas adequadas de monitoramento de risco.