Discriminações algorítmicas: impactos na sociedade, perspectivas e soluções.

Algoritmos influenciam cada vez mais a sociedade da informação e essas tecnologias podem gerar diversas discriminações. Nesse debate, será tratado os verdadeiros impactos que os vieses algorítmicos geram na sociedade, além das várias formas como os vieses podem acontecer em um modelo. Com vários exemplos práticos, será destacado no final a importância da inclusão e a perspectiva para as soluções de cada setor, sejam elas técnicas, éticas, organizacionais ou governamentais.

Os algoritmos são utilizados globalmente para prever resultados e auxiliar em decisões praticamente em todos os setores, seja para aumentar a renda, melhorar o relacionamento com os clientes, reduzir riscos , atingir os consumidores corretos, encontrar efeitos colaterais de medicamentos controlados, determinar onde concentrar recursos governamentais, demitir e contratar pessoas, avaliar o desempenho profissional e acadêmico e muito mais. As possibilidades para a tecnologia são infinitas e cada vez mais ela vai impactar todos os aspectos sociais e econômicos da humanidade.

Contudo, um risco muito grande dentro desse contexto é a construção de algoritmos enviesados, ou seja, capazes de reproduzir ou acentuar desigualdades e preconceitos presentes em nossa sociedade. O primeiro objetivo do workshop é esclarecer alguns dos maiores impactos da construção de algoritmos discriminatórios, através de um debate com representação diversa para entender também como esse impacto pode ser extremamente assimétrico na sociedade.

O segundo objetivo é aprofundar como esses vieses são construídos, seja pela utilização de uma base de dados tendenciosa ou pelos equívocos técnicos e estatísticos dos desenvolvedores, que podem acontecer desde a coleta de dados até fases mais avançadas da inteligência artificial.

Por fim, o terceiro objetivo é compreender melhor quais são as possibilidades e soluções que diferentes setores pensam para essa problemático, sejam elas técnicas, éticas, organizacionais ou governamentais. Será que existem perspectivas em comum? Quais são os desafios?

Os algoritmos têm ditado a internet e a internet tem ditado o mundo. Assim sendo, o tema configura-se não só importante para a Governança da Internet, como a Governança da Internet é também importante para o tema.

A melhor forma de pensar nos impactos assimétricos, nos desafios e nas soluções da problemática dos algoritmos enviesados, é uma discussão interdisciplinar, pois se essa análise for feita de forma singular, tomaremos decisões ineficientes baseadas em perspectivas limitadas que não representam uma perspectiva global. Contudo, na prática, essa interdisciplinaridade não está sendo observada. A polarização e descentralização das discussões entre os setores está distanciando a sociedade cada vez mais de superar os desafios e equilibrar os interesses dentro de um problema global com prejuízos inimagináveis.

Além dessa necessidade de aumentar a pluralidade nas discussões, o debate proposto também vai se apoiar em uma solução que envolve o aumento da diversidade na construção de algoritmos, afinal ele vai influenciar em uma sociedade diversa. Para isso, será preciso articular os princípios da Governança da Internet de forma didática e multissetorial, utilizando de várias perspectivas para encontrar um caminho em comum.

Portanto, consolida-se a relevância do tema para a Governança da Internet e a urgência de iniciar essas discussões em fóruns nacionais e em diferentes espaços da estrutura da nossa sociedade, amadurecendo as várias perspectivas setoriais sobre um tema que preocupa cada vez mais em nível internacional, mas que pouco está sendo feito e discutido no país, principalmente pela dificuldade em engajar simultaneamente as complexas e diferentes perspectivas.

O debate será dividido em 03 blocos. No primeiro bloco será debatido a introdução do problema e a análise dos impactos na sociedade, destacando como são assimétricos. Já no segundo, será aprofundado através de vários exemplos práticos um debate mais técnico, mas simples, a fim de esclarecer aos participantes como algoritmos podem se tornar preconceituosos. Por fim, no terceiro bloco cada palestrante poderá expor como ele, o setor e o contexto do seu trabalho acredita ser a melhor forma de enfrentar o tema. Será debatido também a possibilidade de uma solução em comum, como aumentar a inclusão em times de tecnologia e como cada setor pode contribuir para isso.

Bloco 01
Impactos dos algoritmos - 05 min
Impactos da discriminação - 10 min
Impactos dos algoritmos discriminatórios - 10 min

Bloco 02
Construção de vieses algorítmicos - 10 min
Discussões e polêmicas - 10 min
Desafios do tema em geral - 10 min

Bloco 03
Soluções multissetoriais (05 min por participante) - 30 min

As entidades organizadoras e outros parceiros interessados se comprometeram a contribuir com a divulgação de uma campanha completa para a mobilização sobre a importância da temática.

As redes sociais serão utilizadas para divulgar a campanha e começar as primeiras interações. As pessoas serão estimuladas para engajar no tema antes do evento, enviando comentários, dúvidas e sugestões.Pretendemos fazer menções aos comentários que podem agregar o nosso debate durante o workshop.

A produção de materiais gráficos, os conteúdos técnicos e simples em forma de texto ou vídeo publicados pelas entidades organizadoras ou outros stakeholders meses antes do evento e a mobilização de pessoas para engajarem-se no tema são alguns exemplos da verdadeira comunidade que queremos criar, não só de entusiastas do tema, mas de pessoas empenhadas em discutir, pesquisar e desenvolver soluções para os vários desafios propostos.

O workshop pretende amadurecer a discussão sobre o tema vieses em algoritmos e discriminação no país, dado a criticidade dos desafios. Um dos principais resultados pretendidos é unir os interessados e engajados no assunto de diferentes setores em uma comunidade mais bem definida e aberta de pessoas dedicadas em desenvolver a temática.

Além disso, os relatórios elaborados pelos organizadores do workshop e por outras entidades convidadas para realizar o reporte serão disponibilizados de tal forma que funcione como um “guia” do assunto, com menções para outros debates e discussões possíveis dentro do tema e indicações de iniciativas e bibliografias.

A ideia é mobilizar pessoas para iniciar pesquisas, aplicar o conteúdo abordado no trabalho e engajar iniciativas do tema no país. Por fim, é importante realizar discussões pós evento periódicas e oferecer cursos gratuitos presenciais ou online para dar continuidade no fortalecimento da comunidade e na busca por soluções mais viáveis.

O workshop é multissetorial, além de também possuir representatividade, pois é composto por homens, mulheres, transexuais, pessoas de diferentes regiões do país, diferentes culturas e estilos, diferentes opções sexuais e diferentes etnias. Diversidade é um elemento chave para o debate proposto pelo workshop e a composição dos palestrantes foi escolhida de forma rigorosa para atender esse critério.