Riscos e recomendações para uma justiça inteligente: o uso da IA no judiciário brasileiro

Parte II - Sobre o Workshop

• Resumo do workshop

  A Inteligência Artificial alcançou o Poder Judiciário. De modo a garantir produtividade e celeridade, o CNJ implementou o Programa Justiça 4.0 para impulsionar a automatização das atividades dos tribunais via soluções de IA. Ocorre que o uso indiscriminado de decisões automatizadas potencializam o risco aos direitos fundamentais. Diante disso, este painel pretende entender o atual nível da IA no judiciário e como isso afeta os direitos fundamentais, recomendando limites para a sua aplicação.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  Esse workshop irá abordar a transformação digital do judiciário brasileiro através do uso da IA, explorando o seu impacto nos direitos fundamentais, que são pilares para um Estado Democrático de Direito, como o devido processo legal e a fundamentação das decisões, e recomendando limites para o uso de tal tecnologia. Para que essa discussão aborde os pontos necessários, os painelistas apresentarão as diferentes perspectivas da gestão do judiciário, da inovação da prestação jurisdicional, do exercício da magistratura e, por fim, do jurisdicionado, afetado diretamente pela inovação. Nesse sentido, pelo ponto de vista da gestão do judiciário, uma representante do poder público demonstrará o atual nível de aplicação de IA nos Tribunais federais e estaduais, como também apresentará a atual estratégia para a inovação do Poder Judiciário brasileiro. Pelo ponto de vista da inovação da prestação jurisdicional, uma representante da iniciativa privada demonstrará as inúmeras possibilidades de inovação da prestação jurisdicional que estão ocorrendo em todo o mundo. Essa é uma perspectiva que possibilita o levantamento crítico de aplicações ainda não implementadas no Brasil mas que podem trazer enormes riscos para os direitos fundamentais A partir do ponto de vista do exercício da magistratura, uma representante da academia, que também já atuou como magistrado, demonstrará como a IA impacta diretamente a atividade fim da justiça e como o uso indiscriminado em área sensíveis pode mitigar a própria autonomia decisória do Juiz. Por fim, pela perspectiva do jurisdicionado, serão demonstrados os riscos que sistemas de IA na justiça provocam nos direitos fundamentais, com ênfase no devido processo legal e nas fundamentações das decisões. Após esse diálogo, será discutido um possível limite para a utilização de sistemas de IA à serviço da justiça brasileira, de modo a desenvolver uma justiça inteligente respeitadora dos direitos fundamentais.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Dados da gestão judiciária do CNJ, referentes ao Relatório Justiça em Números 2021, demonstram uma quantidade superior a 100 milhões de processos em tramitação na justiça brasileira, com uma taxa média de congestionamento superior a 68%. Diante desse cenário, a promessa da automatização relacionada a sistemas de IA ganha destaque na difícil tarefa de gestão do judiciário, de modo que a automatização de atividades promovida pela IA promete aumentar a produtividade e acelerar processos. Não é por menos que, em 2020, pesquisa realizada pela FGV já identificava que o Judiciário contava com 64 projetos de IA em funcionamento ou em processo de implantação ao longo de 47 tribunais em todo o país. Em um primeiro momento, o uso de sistemas de IA para alcançar celeridade processual e duração razoável do processo soa como um desígnio promissor e benevolente. Contudo, deve-se ter em mente que o uso indiscriminado de decisões automatizadas pode acarretar riscos para os direitos fundamentais, que relacionados à atividade jurisdicional pode mitigar o devido processo legal, a fundamentação das decisões judiciais e induzir o magistrado a um determinado comportamento, afetando sua autonomia intelectiva. Isto posto, a atualidade e relevância desse tema demonstra a sua pertinência para a governança da internet por promover uma discussão ampla sobre a aplicabilidade e limites da IA no judiciário. Para a sociedade civil e a academia, essa discussão ganha mais importância com a expansão de sistemas de IA que assumem protagonismo na prestação jurisdicional. Pelo governo, a regulação do tema é pauta central, com votação de um projeto de lei que regula a IA no Brasil, o que demanda da gestão judiciária atenção redobrada sobre os limites da aplicação dessa tecnologia. Pelo setor privado, a inovação deve sempre ser responsável, de modo evitar ativamente o desenvolvimento de sistemas que causem riscos para a sociedade, o que gera também ganho de valor reputacional para as empresas.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  Planejamos um painel de 1h30 de duração, e que consistirá em: - 5 minutos para introdução do tema e apresentação dos painelistas; - 50 minutos destinados para os palestrantes exporem seus temas, sendo, respectivamente, 10 minutos para cada um; - 30 minutos para perguntas online e presenciais (havendo audiência) - 5 minutos para resumos dos pontos abordados e encerramento do painel

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  Um mês antes da realização do painel, lançaremos nas redes sociais informações em vídeo e em texto sobre o tema. Esse ‘aquecimento’ servirá tanto para despertar interesse, curiosidade e dúvidas da audiência. Desde esse momento iremos receber dúvidas e observações que, sendo pertinentes, serão organizadas e repassadas aos painelistas. No dia da apresentação, haverá diferentes formas de engajamento, justamente para respeitar o formato presencial e remoto. Caso o painel ocorra somente em formato remoto, a audiência terá a possibilidade de interagir e realizar perguntas através do chat. Essas perguntas serão organizadas e repassadas aos painelistas para respostas. Caso o painel ocorra presencialmente, a audiência realizará perguntas diretamente aos painelistas nos 30 minutos finais do painel. Haverá possibilidade de engajamento também após o encerramento do painel. As dúvidas não respondidas poderão ser encaminhadas para os painelistas e para nós. Sendo pertinentes, essas dúvidas

  RESULTADOS PRETENDIDOS

  O workshop pretende atingir cinco resultados: 1) dimensionar a amplitude das aplicações de IA no Poder judiciário; 2) perceber como as aplicações de IA podem beneficiar a atividade jurisdicional; 3) identificar quais tipos de aplicação são críticas para os jurisdicionados; 4) entender como as aplicações podem mitigar o devido processo legal, a fundamentação das decisões e a autonomia do próprio magistrado; 5) identificar possíveis limites e recomendações para inibir a utilização de aplicações que podem causar danos generalizados e em grande escala por sistemas de IA no poder judiciário. A discussão não irá se encerrar no fórum, de modo que a sessão será o ponto de partida para ações de continuidade sobre o tema. A partir da identificação dos consensos, dissensos e pontos-chave no relatório da sessão, pretendemos avaliar as novas ações a fim de promover a continuidade do tema, como: realização de oficinas, oferta de cursos, realização de relatório, entre outras.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Inovação

  TEMAS DO WORKSHOP

  DINC – Viés de algoritmos | NTIA – Inteligência Artificial | QJUR – Questões legais e regulatórias |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Outro |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  Os benefícios e os malefícios do uso de sistemas de IA no judiciário brasileiro somente pode ser discutido a partir de uma diversidade étnica e de gênero. Por isso, todos os convidados representarão um aspecto da diversidade, como mulheres, pessoas negras e/ou LGBTQIA+ Considerando aspectos de diversidade étnica, de gênero e de orientação sexual, nossos painelistas irão representar perspectivas de grupos sociais que são, por vezes, mais vulneráveis às decisões automatizadas tomadas por sistemas de IA, e poderão usar desse ponto de vista para indicar limites objetivos das aplicações de IA no poder judiciário. Essa diversidade permite que a discussão sobre a justiça inteligente brasileira alcance todo o seu potencial, pois esse é um tema complexo e que necessita de uma abordagem diferenciada