A IA deverá ser um auxiliar do cidadão e não o cidadão auxiliar da IA.

Ainteligência artificial (IA) é um dos maiores desafios da sociedade atual, sendo inevitável a sua utilização na Justiça. Nos últimos anos surgiram as primeiras regulamentações (Ex. Código de Ética, 2018; Livro Branco, 2020; Regulamento (UE) 2024/1689, entre outros), as quais têm por objetivo a garantia dos direitos fundamentais, a proteção de dados, a qualidade, segurança e a transparência, de modo a permitir a confiança do cidadão na utilização da IA.

Uma orientação comum é a de que o aspeto humano deverá manter-se, especialmente ao nível da valoração da prova e imediação (contacto direto do juiz com a prova, em especial as testemunhas), bem como nas decisões e sentenças finais. Ou seja, a IA deverá manter-se como um auxiliar do cidadão e não o cidadão auxiliar da IA.

Escândalo

Todos estamos conscientes de que a IA acarreta risco de erro ou mesmo de fraude, tal como qualquer sistema informático. Em 2012 os Países Baixos utilizaram um programa de IA, que detetou centenas de fraude no IRS por uso indevido de despesas em creches. Em 2019 novas fraudes de IRS foram detetadas com programa de IA, curiosamente, os suspeitos eram famílias de baixos rendimentos e minorias étnicas. Afinal, veio a concluir-se que as fraudes eram infundadas, havia erro no algoritmo da IA.

Fraude

Centenas de chefes de balcões dos Correios de Inglaterra foram acusados de fraude e desvio de dinheiro, entre 1999 e 2015, por montantes que o sistema informático detetava em falta. De nada valeu a negação e a contestação dos acusados, muitos entraram em depressão, alguns até se suicidaram. Constatou-se, posteriormente, de que essas falhas resultavam de erros do programa informático. Sobre este caso passou uma série na RTP 1 - Escândalo nos Correios.

A Autoridade Tributária (AT), em Portugal, tem aletrado para emails de burlões, que se fazem passar pela AT. O mesmo acontece com emails que imitam bancos e outras entidades. As conhecidas burlas das mensagens - olá pai, olá mãe – têm também lesado milhares de cidadãos. Começam a surgir novas burlas por telefone, com recurso à IA que imitam a voz de pessoas próximas da vítima.

Conclusão

A ocorrência de erros ou até fraudes não é motivo para deixarmos de utilizar a IA. Tal como não deixamos de utilizar email devido ao risco de burlas nem eliminamos o automóvel devido ao risco de acidente. É por tudo isso que a legislação tem manifestado especial preocupação pela segurança, qualidade e transparência, de modo a garantir a confiança dos cidadãos na IA.

* Procurador-Geral Adjunto na Procuradoria-Geral Regional de Lisboa.