Inteligência Artificial e Atividade Policial: entre o incremento da segurança pública e a criação de novos riscos

Parte II - Sobre o Workshop

• Resumo do workshop

  O uso da Inteligência Artificial na atividade policial é iminente. A sua condição prematura, contudo, levanta questões sobre privacidade e discriminação. Abordar esses desafios é urgente para a proteção de direitos civis e para a Governança da Internet. O workshop proposto visa analisar como a IA está sendo utilizada nessas atividades, destacando seus benefícios e malefícios. A discussão se concentra na sua implementação, razões para adoção, regulamentação e formas de avaliação e controle.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  O objetivo geral do workshop é expor de que forma a Inteligência Artificial (IA) vem sendo adotada nas atividades de policiamento no cenário brasileiro e, a partir disso, quais benefícios e malefícios são vislumbrados. A título de objetivos específicos, tem-se: - abordar as possibilidades de uso da IA em prol da atividade policial e de segurança pública no cenário global e brasileiro, assim como os fatores que legitimam a prática; - expor os possíveis efeitos colaterais decorrentes das ferramentas identificadas, tais como riscos aos direitos a privacidade, igualdade e não discriminação; - explorar o cenário regulatório existente e em discussão a nível legislativo; - refletir acerca dos mecanismos de avaliação e controle dessas ferramentas, em nível técnico e jurídico. Admitindo que o objeto de análise (qual seja, a adoção de mecanismos de Inteligência Artificial com vistas a colaborar com a atividade policial e segurança pública) é uma tendência irrefreável observada em diversos países, será objeto de discussão do painel como esses sistemas têm sido implementados, o que por certo reflete na realidade brasileira. Assim, deveremos discutir também quais são as razões que levam à prática, bem como os benefícios (ou seja, o que leva o poder público e a iniciativa privada a inovarem nesse sentido?) e malefícios vislumbrados (essas ferramentas têm potencial para ofenderem qual/quais esfera/s de direito/os?). A partir disso, partiremos para a análise do arcabouço regulatório existente, assim como as lacunas decorrentes da ausência de regulamentação específica, para posteriormente explorar as formas de avaliação e controle (técnico e jurídico) já implementadas e passíveis de implementação, inclusive no que se refere às salvaguardas, fatores que refletem na acurácia e confiabilidade dessas ferramentas.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Já faz alguns anos que a aplicação da Inteligência Artificial é cada vez mais extensiva e difundida em nossa sociedade através das diversas formas que pode adotar (IA especialista ou generalista). Não demorou para que ela se apresentasse útil à segurança pública e, inclusive, à atividade policial. Neste âmbito, contudo, é ainda consideravelmente prematura, tanto na perspectiva da técnica em si, quanto na perspectiva jurídica e social. Por isso, a sua utilização, quando ainda revestida de tal precocidade, implica em riscos que sequer são totalmente conhecidos. A problemática que envolve a sua utilização parece emanar das mesmas premissas ditas para a sua validação, uma vez que, ainda que apresente potencial de melhorar a eficácia das forças policiais, também levanta preocupações sérias sobre privacidade, discriminação e governança. A vigilância constante e a análise de dados pessoais podem minar a liberdade individual e criar um ambiente de vigilância em massa, que ameaça os direitos civis. Para enfrentar esses desafios, é preciso estabelecer uma Governança da Internet sólida, transparente e plural. E considerando que esta abrange a regulamentação e a supervisão das tecnologias digitais, é preciso aproveitá-las de modo a garantir que sejam usadas de maneira ética e equitativa. Isso demanda a colaboração entre governos, empresas, sociedade civil e especialistas em tecnologia para desenvolver políticas e normas que protejam os direitos humanos e a privacidade e, ao mesmo tempo, promovam a inovação e o uso responsável da IA. É nesta exata medida em que discutir o tema (IA e atividade policial) com representantes dos mais diversos setores da sociedade torna-se tão relevante para o incremento qualitativo da Governança da Internet no Brasil e também no mundo.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  O workshop será dividido em quatro blocos, havendo direcionamento de perguntas para os representantes do setor governamental e empresarial no intuito de (i) abordar as possibilidades de uso da IA em prol da atividade policial e de segurança pública no cenário global e brasileiro; para a representante do terceiro setor acerca dos (ii) possíveis efeitos colaterais decorrentes das ferramentas identificadas e do (iii) cenário regulatório existente e discutido em nível legislativo; e para a representante da comunidade científica e tecnológica para (iv) refletir acerca dos mecanismos de avaliação e controle dessas ferramentas, em nível técnico e jurídico. Após cada resposta, haverá possibilidade dos demais palestrantes contribuírem no que entenderem relevante. Cada bloco de perguntas terá entre quinze e vinte minutos para o seu desenvolvimento, havendo abertura para perguntas do público ao final de todos os blocos.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  Para envolver os participantes presenciais e remotos pretendemos adotar uma abordagem abrangente: - Divulgação nas Redes Sociais: pretendemos aquecer o público sobre o tema nas principais redes sociais, como Twitter, Instagram e LinkedIn, com postagens informativas e caixas de perguntas. Pediremos aos palestrantes que façam o mesmo sem adiantar o conteúdo do debate. - Hashtags Personalizadas: Vamos criar uma hashtag exclusiva para o workshop e encorajar nossos participantes a usá-la em suas postagens. Isso facilitará a organização e acompanhamento das discussões relacionadas ao evento. - Recursos Compartilhados: Considerando que para a realização do workshop será necessário um estudo relevante sobre o assunto, pretendemos criar um informativo que será disponibilizado via QR Code aos participantes que estiverem assistindo o workshop no telão. - Responder perguntas dos participantes presenciais e remotos.

  RESULTADOS PRETENDIDOS

  Dentre os resultados pretendidos, tem-se a conscientização do público em geral acerca da relevância, complexidade e urgência na discussão da temática. Quanto às autoridades públicas responsáveis pela regulamentação da matéria, notadamente o Poder Legislativo e entidades administrativas, pretende-se contribuir com o desenvolvimento da estrutura regulatória ao se colocar em debate os possíveis mecanismos de controle e avaliação das ferramentas debatidas. Para além disso, pretende-se alertar os desenvolvedores de sistemas de IA, especialmente a iniciativa privada, com relação aos riscos decorrentes do mau uso das ferramentas em questão, com vistas a traçar estratégias para evitar e/ou remediar eventuais prejuízos. Por fim e de modo geral, pretende-se traçar limites para a adoção da IA em matéria de segurança pública e atividade policial.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Liberdade, privacidade e direitos humanos

  TEMAS DO WORKSHOP

  NTIA – Inteligência Artificial | PRIS – Privacidade e proteção de dados pessoais | QJUR – Questões legais e regulatórias |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Região | Idade ou geração |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  Os palestrantes possuem características diversas de gênero, região, idade e geração. Tais aspectos permitem a representação de diferentes perspectivas e experiências, promovendo a equidade e estimulando a criatividade e a inovação. O representante do setor governamental tem atuação no núcleo de inovação e comitê estratégico de tecnologia da informação do Ministério Público da Paraíba. O representante do setor empresarial é fundador de uma empresa brasileira que coopera com a atividade policial por meio de um software que analisa imagens em tempo real a partir de câmeras de vigilância. Já a representante do terceiro setor desenvolve pesquisas e atua ativamente na análise de ferramentas discutidas no painel. E a representante da comunidade científica e tecnológica tem expertise técnica acerca dos mecanismos objetos de análise. Os palestrantes, unidos e diversos, enriquecem a discussão proposta e refletem a amplitude da experiência humana diante do tema em discussão.