O Instituto de Engenharia de Sistemas e Computadores, Tecnologia e Ciência (INESC TEC) coordena um projeto que visa colocar humanos e sistemas de inteligência artificial a trabalhar em conjunto para desenvolverem uma ferramenta "confiável e compreensível", foi hoje anunciado.

Em comunicado, o instituto do Porto explica que o projeto, intitulado TRUST-AI, procura "explicar os sistemas de inteligência artificial, tornando-os mais transparentes e confiáveis".

"Será que podemos confiar naquilo que os modelos matemáticos nos estão a dizer para fazer? Porque é que um médico pode confiar num sistema que lhe indica a altura certa para operar um tumor raro? Como é que um retalhista pode ter a certeza de que o algoritmo não favoreceu um fornecedor em detrimento de um concorrente?", questiona o INESC TEC.

Para responder a estas questões, o projeto vai colocar humanos a trabalhar com sistemas de inteligência artificial para juntos encontrarem "melhores soluções", isto é, modelos eficazes e compreensíveis.

O objetivo é desenvolverem uma ferramenta "transparente, inteligente, confiável e imparcial" aplicada a três áreas: na saúde para o tratamento de tumores, no retalho 'online' para selecionar horários de entrega de encomendas e na energia para apoiar previsões de procura em edifícios.

"O projeto pode ser aplicável a outros setores", assegura o instituto, dando como exemplo a indústria, administração pública, o setor bancário e dos seguros.

Citado no comunicado, Gonçalo Figueira, investigador e coordenador do projeto, afirma ser necessário "entender o porquê de determinada escolha" do sistema, o que transmite "confiança e ajuda a melhorar o processo de decisão".

"À medida que as técnicas de inteligência artificial influenciam cada vez mais as decisões, o seu raciocínio passa por etapas demasiado abstratas e complexas para serem compreendidas pelos utilizadores. Estamos a falar de 'caixas pretas', que encontram soluções factualmente excelentes, sem saberem explicar como as conseguem. Isso levanta questões éticas à medida que a IA orienta mais e mais escolhas", acrescenta o investigador.

O projeto é financiado em quatro milhões de euros pelo programa Horizonte 2020 da União Europeia.

Além do INESC TEC, integram este projeto a LTPLabs e mais cinco parceiros de cinco países: Tartu Ulikool (Estónia), Institut National De Recherche Eninformatique Et Automatique (França), Stichting Nederlandse Wetenschappelijk Onderzoek Instituten (Holanda), Applied Industrial Technologies (Chipre) e TAZI Bilisim Teknolojileri A.S. (Turquia).