Recomendações para o uso de IA no Judiciário (Parte I)

Por isso, uma das discussões nas pesquisas sobre IA e direito é a proposta de uma diretriz que informe adequadamente os jurisdicionados acerca da utilização dessa tecnologia no seu caso.

A Comissão Europeia para a Eficiência da Justiça (CEPEJ), criada em 2002, possui o objetivo de aprimorar a eficiência e o funcionamento do Poder Judiciário nos Estados-membros, por meio da definição de instrumentos, métricas de avaliação e elaboração de documentos. A CEPEJ é responsável, dentre outras tarefas, por analisar os resultados dos sistemas judiciais, identificar as dificuldades por eles encontradas, promover assistência e fixar meios concretos para melhorar a avaliação dos resultados e o funcionamento desses sistemas.

Nesse contexto, em dezembro de 2018, adotou o documento “European Ehtical Charter on use of artificial intelligence in judicial systems”, que anuncia conjunto de princípios aptos a guiarem formuladores de políticas públicas, legisladores, profissionais jurídicos, atores públicos e privados responsáveis pelo design e desenvolvimento de sistemas de Inteligência Artificial (IA) envolvendo o processamento de decisões e dados judiciais.

Esse instrumento escrito se estrutura segundo premissas de incentivo ao uso de IA no Poder Judiciário, conformidade com as normas de proteção aos direitos humanos e proteção de dados pessoais, respeito aos direitos fundamentais das pessoas e às exigências de transparência, imparcialidade, equidade, avaliação por especialistas independentes e regularidade certificada.

Isto se explica, segundo a CEPEJ, pela multiplicidade de usos dos sistemas de IA no espaço judicial. No direito civil, comercial e administrativo, o processamento de decisões judiciais pode, por exemplo, contribuir com previsibilidade na aplicação do direito, uniformidade e coerência nas decisões dos Tribunais. Todavia, em matéria penal, o risco de discriminação ligado a utilização de conjunto de dados pouco representativo além do tratamento de dados sensíveis, obrigatoriamente deve ser mitigado, de maneira a se garantir um julgamento justo.

Por isso, uma das discussões nas pesquisas sobre IA e direito é a proposta de uma diretriz que informe adequadamente os jurisdicionados acerca da utilização dessa tecnologia no seu caso, o que implica em transmitir as características do processo de tomada de decisão pela IA, riscos e consequências, de maneira que o sujeito possa optar conscientemente por autorizar ou não esse uso.

Esse instrumento escrito se divide na apresentação dos princípios, percepção do estado de uso da IA no Poder Judiciário dos Estados-membros, aplicações possíveis derivadas de IA nos sistemas judiciais europeus e glossário.

Os princípios se estruturam em cinco eixos: (1) respeito aos direitos fundamentais; (2) não-discriminação; (3) qualidade e segurança; (4) transparência, imparcialidade e equidade; (5) preponderância do controle do usuário.

As aplicações possíveis derivadas de IA dividem-se em: (1) usos para serem encorajados (jurisprudência, acesso à justiça, criação de novas ferramentas estratégicas); (2) aplicações que requerem precauções metodológicas (elaboração de escalas em litígios cíveis, apoio aos métodos adequados de solução de conflitos, “online dispute resolution”, uso de algoritmos na investigação criminal); (3) utilizações que demandam estudos científicos (análise das decisões de cada julgador, análise preditiva de decisões judiciais); e  (4) usos para serem considerados com as reservas mais extremas (algoritmos em questões criminais para criar perfis de indivíduos, disponibilizar a síntese de todas as decisões já tomadas como fundamento a ser utilizado em futuras decisões).

Por: Wilson Sales Belchior