Design Ético no contexto de IA

Parte II - Sobre o Workshop

• Resumo do workshop

  O Workshop pretende estimular diálogos sobre a concepção, desenvolvimento e uso ético de sistemas de IA. Assim, considerando que o Brasil é o país que mais usa IA na América Latia (ICM/SAS, 2022), a abordagem "Ética por design" implica que a ética deve ser incorporada desde o início do processo de desenvolvimento, focando em aspectos como equidade, transparência e responsabilidade.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  1. Identificar desafios de implementação de valores éticos em sistemas de IA, desde a concepção: A identificação dos desafios éticos na implementação de sistemas de IA desde a fase de concepção é fundamental para garantir que essas tecnologias não perpetuem vieses discriminatórios. Isso requer um exame crítico das suposições subjacentes aos algoritmos, a conscientização sobre possíveis impactos negativos em diferentes grupos sociais e a consideração cuidadosa de como os padrões éticos podem ser incorporados nas decisões algorítmicas desde o início do processo de desenvolvimento. 2. Levantar propostas para o desenvolvimento de sistemas de IA que sejam éticos e capazes de garantir os pilares de equidade, transparência e accountability: Propor soluções para o desenvolvimento de sistemas de IA éticos é um passo crucial para enfrentar os desafios identificados. Por isso, o painel pretende identificar, a partir das perspectivas das painelistas, como implementar diretrizes relacionadas à equidade, transparência e accountability de sistemas de tomada de decisão automatizada. 3. Debater sobre o uso ético de sistemas de IA, considerando as necessidades do setor privado, setor público, 3º setor e academia: Cada setor possui necessidades e perspectivas únicas que devem ser consideradas na elaboração de diretrizes éticas. Isso implica em promover diálogos interdisciplinares e colaborativos que levem em conta não apenas as questões éticas, mas também as implicações sociais, econômicas e legais do uso de IA em diferentes contextos, como os que este painel propõe.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  A governança da internet é um tópico transversal no mundo contemporâneo, uma vez que a rede mundial de computadores desempenha um papel central em praticamente todos os aspectos da nossa vida. Debater a tecnologia, como um fim em si mesma, não basta: a ética desempenha um papel crucial na garantia de que a internet seja um ambiente seguro e justo para todos. A inteligência artificial (IA) vem se desenvolvendo em nível exponencial, e estudos apontam o Brasil na posição mais elevada considerando o uso de IA na América Latina (IDC/SAS, 2022). Com esse movimento, a concepção e uso inadequado desses sistemas pode resultar em discriminação, injustiça e violações de direitos fundamentais. Desse modo, identificar esses desafios é o primeiro passo para garantir que os sistemas de IA não se tornem uma ameaça ao ser humano. Considerando a conjuntura apresentada, a abordagem "Ethics by design" implica que a ética deve ser incorporada desde o início do processo de desenvolvimento, focando em aspectos como: (a) equidade, ou seja, a garantia de que os algoritmos não discriminem grupos específicos de pessoas; (b) transparência, que envolve tornar as decisões dos algoritmos compreensíveis e auditáveis; (c) accountability, que incentiva que os agentes adotam postura proativa em demonstrar comprometimento com as diretrizes éticas estabelecidos para a concepção e uso da IA Em resumo, o tema "Ethics by design" é de extrema relevância para a governança da internet, uma vez que visa garantir que a inovação tecnológica, inclusive na IA, possa ocorrer sem violar padrões éticos mínimos. Para tanto, o painel será um espaço para identificar os desafios na implementação desses valores éticos, levantar propostas para sistemas de IA éticos e apresentar passos cruciais para assegurar que o desenvolvimento tecnológico seja equitativo, transparente e responsável a todos os seus usuários.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  A participação no workshop será realizada no formato de mesa de debate, a fim de tornar a discussão entre os painelistas mais interativa e engajando também audiência. No início, será realizada uma breve contextualização do tema pela moderação, seguida por uma pergunta chave a um dos painelistas. Na sequência, a pessoa que respondeu será responsável por endereçar uma nova pergunta a um segundo membro da mesa. Essa dinâmica será efetuada até que todos tenham perguntado e respondido, a fim de trazer a percepção de cada palestrante e, por conseguinte, de cada setor. O debate será realizado em dois blocos de 30min cada. No intervalo entre tais, a audiência será convidada a participar, endereçando questões aos painelistas, em um intervalo de 10mins cada. Será valorizada a participação também da audiência virtual.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  1. Antes do evento, nas redes sociais, do proponente e dos painelistas, será feita uma divulgação do evento e do painel, compartilhando as chamadas NIC.br e também as dos participantes e suas instituições. Nessa fase, serão produzidos conteúdos para contextualizar a temática ao público em geral, um “esquenta” das discussões que serão realizadas. 2. Durante o FIB, alguns materiais gráficos serão distribuídos contendo um Código QR que direcionará para um Padlet com: a) materiais diversos sobre design ético de IA; b) uma chamada para o painel com resumo e LinkedIn dos painelistas; c) Uma caixinha de pergunta disparadora que será introduzida na dinâmica do painel. Além disso, durante as exposições, será feito uso do chat da transmissão do Youtube, com reserva de tempo para interações com o público. 3. Após o painel, resumos da discussão, apresentações e links relevantes serão disponibilizados no Padlet do painel e divulgados pelos organizadores do workshop nas redes sociais.

  RESULTADOS PRETENDIDOS

  Inicialmente, espera-se que o painel possa contextualizar e debater questões básicas relacionadas à criação, desenvolvimento e implementação do design ético de IA, entre os diferentes setores envolvidos. Espera-se também que o painel possa levantar possibilidades e boas práticas para a design de IA, estimulando nos participantes da audiência a consciência entre as possibilidades de inovação e o equilíbrio na proteção de direitos humanos. Por fim, a discussão não irá se encerrar no fórum, de modo que a sessão será o ponto de partida para ações de continuidade sobre o tema, através dos consensos, dissensos e pontos-chave no relatório da sessão, pretendemos avaliar as novas ações a fim de promover a continuidade do tema em outras oportunidades.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Inovação

  TEMAS DO WORKSHOP

  DINC – Viés de algoritmos | ISCI – Ética e Internet | NTIA – Inteligência Artificial |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  A diversidade regional garante que preocupações e perspectivas de diferentes lugares do país sejam consideradas. Não há como debater o tema proposto: “Design ético no contexto de IA" desconsiderando as nuances culturais, econômicas e sociais que variam amplamente no Brasil. Do mesmo modo, a inclusão de especialistas de ambos os gêneros em porcentagem equivalente é igualmente crucial. As mulheres têm sido historicamente sub-representadas na área de tecnologia e IA, apesar de contribuírem de maneira significativa para esse campo. Ainda, a diversidade racial e cultural são demarcações necessárias a este debate. O Brasil é uma nação rica em diversidade étnica e cultural, logo, um painel que reflita essa diversidade possibilita e estimula a reflexão coletiva para identificar e mitigar preconceitos inconscientes que podem ser introduzidos em sistemas de IA.