Na visão da professora, o desenvolvimento tecnológico traz à tona o questionamento sobre a necessidade de repensar o ponto inicial em que se realiza o princípio da presunção de inocência. “Se essas ferramentas preditivas visam a antecipar o futuro, ao fazerem isso determinam o presente”, provocou. Nesse sentido, a palestrante apontou que a previsão oferecida pela inteligência artificial orienta a investigação criminal: “Ela vai para uma certa direção e se volta para um grupo de pessoas que acaba se tornando suspeito”.

Susana Aires de Sousa ainda destacou que os resultados obtidos a partir do uso da IA estão relacionados com a base de dados do sistema. “Por regra, a máquina aprende com dados históricos e eles podem ter a ver, por exemplo, com a população prisional de um determinado país. Portanto, o resultado da máquina pode ser enviesado e discriminatório porque está a olhar para o futuro por um retrovisor com os dados do passado”, alertou a professora. 

O evento, que teve abertura conduzida pela presidente da Comissão de Inteligência Artificial e Inovação do IAB, Ana Amelia Menna Barreto, também contou com a participação do membro do mesmo grupo Matheus Puppe, do diretor de Tecnologia e Inovação do IAB, Bernardo Gicquel, e do membro da Comissão de Direito Autoral Marcelo Conrado. 

De acordo com Matheus Puppe, os impactos tecnológicos no Direito Penal, em específico, estão cada vez mais visíveis. “Quando nos debruçamos sobre a intercessão entre inteligência artificial e o princípio da presunção penal, dentro do universo do Direito Digital, verificamos que vivemos em uma era onde a tecnologia caminha a passos largos. Ela influencia não apenas como vivemos, mas também como interpretamos a lei”, disse o membro do IAB. Ele sublinhou que o sistema jurídico terá desafios inéditos a partir das implicações desse cenário.

A necessidade de conhecer os impactos do uso da inteligência artificial foi defendida por Ana Amelia Menna Barreto. A advogada ressaltou que o Direito não consegue acompanhar as mudanças tecnológicas. Os próprios advogados, disse Menna Barreto, não têm conhecimento do sistema de funcionamento das inteligências artificiais usadas pelo Poder Judiciário. “No que se refere à regulamentação da IA, agora mesmo, no Brasil, estamos sob o perigo de legislar sobre o que não se conhece ou sob o risco de engessar a tecnologia por excesso de regulamentação”, alertou. 

Marcelo Conrado destacou que o tema debatido é uma pauta urgente: “Além de ser um desafio para as democracias, é uma preocupação muito maior em países autoritários. É necessário pensar, inclusive, nos aspectos interacionais que dizem respeito à forma como a inteligência artificial será aumentada em cada contexto”. Já Bernardo Gicquel apontou que tais ferramentas tecnológicas estão sendo usadas por empresas privadas para vender serviços. “Há uma que oferece câmeras de segurança e em sua propaganda coloca que a empresa analisou 3.120 ocorrências. Dessas, 252 pessoas foram presas e sete inocentadas. Ou seja, dentro do que a IA vende para o particular, está o vácuo de segurança do Estado”, exemplificou o diretor.