Inteligência Artificial em Decisões Automatizadas: estabelecendo critérios para a revisão (humana) do art. 20 da LGPD

Parte II - Sobre o Workshop

• Resumo do workshop

  Decisões automatizadas são cada vez mais utilizadas, com impactos em direitos fundamentais, principalmente a partir de discriminações abusivas e ilegítimas. Tal cenário faz com que o direito à revisão do art. 20 da LGPD ganhe protagonismo como ferramenta essencial para a proteção efetiva dos titulares de dados. O painel buscará destrinchar este artigo, com a discussão de questões ainda em aberto, como seu escopo, legitimidade, eventual intervenção humana e os critérios para sua ocorrência.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  Decisões automatizadas cada vez mais impactam nossa realidade. Apesar dos alegados ganhos em eficiência e precisão, o uso de técnicas automatizadas para a tomada de decisão pode ensejar diferentes violações de direitos fundamentais, principalmente a partir de discriminações abusivas e ilegítimas, o que é preocupante quando há pouca ou nenhuma transparência. Neste cenário é que se insere a discussão sobre o direito de revisão de decisões automatizadas. Tal direito pode representar um maior controle de legitimidade das decisões tomadas por processos automatizados, especialmente considerando critérios e parâmetros compreensíveis e contestáveis por humanos. No Brasil, este direito foi concretizado minimamente pelo artigo 20 da LGPD, mas o dispositivo ainda gera muitas dúvidas, inclusive após o veto da expressa possibilidade de revisão humana. Assim, o objetivo deste workshop é pensar conjuntamente critérios adequados para garantir o direito à revisão justa e eficiente de decisões automatizadas no contexto brasileiro, principalmente levando em conta seus impactos mais intensos em grupos marginalizados. Em relação à iniciativa privada, busca-se destacar questões práticas e jurídicas sobre o exercício e a procedimentalização do direito de revisão, considerando questões de segredo industrial e o desenvolvimento tecnológico. Para a sociedade civil, planeja-se explorar impasses de cunho social e ético no uso desse tipo de decisão. Referente à comunidade científica, busca-se analisar os limites e desafios técnicos e jurídicos para a fixação de critérios para o bom exercício do art. 20 da LGPD, inclusive com a discussão de eventual necessidade de intervenção humana. Do ponto de vista governamental, o foco será na compreensão de um panorama de como este direito pode ser compreendido pela ANPD e tribunais. Para todos os setores, será reforçada a importância da fixação de critérios e discutidas as potenciais limitações e desafios para o exercício efetivo deste direito no Brasil.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  A maneira como o art. 20 da LGPD é e será implementado gera consequências relevantes para diferentes áreas da sociedade, já que decisões automatizadas são progressivamente mais comuns. Apesar dos alegados ganhos em eficiência, o uso de técnicas automatizadas para a tomada de decisão pode ensejar violações de direitos, principalmente a partir de discriminações abusivas e ilegítimas. Por ter impacto em diversos setores e reflexos significativos no exercício de direitos, inclusive na Internet, o debate da boa aplicação do art. 20 também deve ser multissetorial e debatido dentro do escopo da Governança da Internet, pois tem como consequência a definição de exercício de direitos essenciais para esse contexto, como o direito à revisão de decisões automatizadas, além da eventual intervenção humana, com definição das responsabilidades e de papéis das instituições. O tema se alinha com os debates da Governança da Internet tendo em vista que tais discussões impactam o exercício de direitos fundamentais que podem ser exercidos pela Internet, além de estar presente nas agendas políticas e econômicas de países globalmente, já que tal direito se relaciona também com a regulação de IA. Assim como a Governança da Internet é coletivamente construída por debates envolvendo tecnologia, políticas de empresas, atuação de instituições sociais na defesa de direitos individuais e de leis nacionais e internacionais, trazer a regulamentação da do art. 20 da LGPD para o âmbito da Governança da Internet asseguraria maior equilíbrio entre economia, inovação, leis e direitos, com destaque especial para o princípio da liberdade, privacidade e direitos humanos. Ainda, ao estimular discussões públicas sobre critérios de revisão de decisões automatizadas, o workshop vincula-se também ao princípio da governança democrática e colaborativa, uma vez que o objetivo do painel é permitir a discussão multissetorial, democrática, participativa e colaborativa sobre o tema.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  O painel será dividido em três etapas principais, além de uma breve introdução do tema e de sua forma de funcionamento pelo moderador nos primeiros 3 minutos. A primeira parte será destinada a perguntas feitas pelo moderador para cada um dos painelistas (2 perguntas para cada um deles), que terão até 5 min de resposta. Tais perguntas serão formuladas de acordo com assuntos previamente identificados como relevantes para a temática, tanto pela organização como pelo público online, que terá a oportunidade de contribuir previamente com sugestões. Posteriormente, será dada a palavra para a audiência presencial e remota por 25 min, que terá a possibilidade de escolher um ou vários painelistas para responder sua questão no prazo de até 5 min. Por fim, cada um dos painelistas contará com mais 5 min para considerações finais que entendam mais importantes de ressaltar ao final do painel, que será fechado pela fala final do moderador pelo prazo de 2 min.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  Ao menos duas semanas antes do FIB, mobilizaremos nossas redes sociais para divulgar algumas curiosidades e informações básicas sobre a temática do painel, possibilitando a aproximação entre as pessoas que compõem a mesa daquelas que acompanharão o evento de forma presencial ou remota, inclusive com a possibilidade de envio prévio de perguntas. Isso será feito, por exemplo, por postagens, caixas de perguntas e enquetes no Instagram e outras redes, utilizando de ferramentas interativas para convocar a participação do público, marcando o próprio CGI também, palestrantes, etc. Tais interações serão mostradas na fala inicial da moderação do painel, o que aproxima ainda mais o público com o conteúdo a ser discutido. Além disso, durante e após o evento, realizaremos postagens sobre os principais pontos abordados no painel de forma resumida, seja por uma thread no Twitter, vídeos no TikTok e YouTube e até mesmo stories e posts orgânicos no Instagram.

  RESULTADOS PRETENDIDOS

  Inicialmente, o painel buscará trazer à discussão conjunta do tema de decisões automatizadas na LGPD, de forma a fomentar o debate e a troca de experiências entre diferentes setores. Diante de tantas incertezas relacionadas ao art. 20 da LGPD, espera-se que o painel possa estabelecer, considerando a noção de justiça procedimental, certos critérios, boas práticas e elementos essenciais para a aplicação deste artigo, especialmente considerando que essas decisões já são amplamente utilizadas, por exemplo, para concessão (ou não) de direitos fundamentais, com impactos significativos para minorias. O painel buscará também trazer subsídios para a futura regulamentação da matéria pela ANPD, já que suas discussões podem servir como material para a futura regulamentação da matéria, que deve ser participativa e responsável. Objetiva-se também reunir especialistas de diferentes campos, como Direito e Tecnologia, para que a discussão seja, além de juridicamente adequada, tecnicamente possivel.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Ambiente legal e regulatório

  TEMAS DO WORKSHOP

  NTIA – Inteligência Artificial | PRIS – Privacidade e proteção de dados pessoais | QJUR – Questões legais e regulatórias |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  Além da diversidade ser elemento essencial para o FIB, em razão da sensibilidade do tema proposto, o painel terá ativamente como um de seus elementos centrais as questões de diversidade de gênero, raça e região. Isso fica demonstrado, primeiro, pela paridade de gênero entre os painelistas e, ademais, também pela presença de painelistas especialistas pretos e pardos. Outro ponto de diversidade será encontrado na composição do painel, que contará com 4 especialistas de diferentes regiões geográficas do Brasil, quais sejam: Centro-Oeste, Sudeste, Sul e Nordeste. Somado a isso, a proposta tem como enfoque questões relacionadas à discriminação de grupos minoritários, o que faz com que esses sejam elementos que serão considerados prioritários na escolha das perguntas, inclusive no momento da interação com a plateia (presencial e virtualmente), quando, novamente, questões de gênero, raça e região serão consideradas na escolha de quem formulará perguntas aos painelistas.