Design manipulativo: como práticas antiéticas de desenvolvimento podem afetar o bem-estar da criança no ambiente digital

Parte II - Sobre o Workshop

• Resumo do workshop

  Compondo um terço das pessoas usuárias de internet, crianças representam um valioso ativo online. Para atrair e monetizar sua atenção, Big Techs adotam padrões de design manipulativo. Estas práticas antiéticas de desenvolvimento, que incluem restrições de navegação e estímulos para prolongar o tempo de uso ou realizar compras, modificam o conjunto de escolhas e moldam o fluxo de informações. Assim, direitos da criança como liberdade de pensamento, privacidade e lazer são afetados.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  Os padrões manipulativos de design (do inglês, deceptive, manipulative ou dark patterns) são estratégias de desenvolvimento de software adotadas por empresas de tecnologia que costumam negligenciar a proteção, autonomia e, em última instância, o bem-estar das pessoas que consomem ou produzem conteúdo na internet. Quando implementados por Big Techs como Meta ou Google, estes padrões geram um impacto muito maior, dada a “plataformização” de suas tecnologias – o que atrai um conjunto muito mais amplo de parceiros de publicidade ou de software e pessoas usuárias (na faixa dos bilhões no Instagram). Os prejuízos causados por esses padrões variam de acordo com o público, como o uso de interfaces “fofas” (padrão conhecido como cuteness) em jogos ou aplicativos educacionais infantis, que fomentam um apego emocional em crianças com o intuito de gerar uma “miopia de dados”. Com baixa literacia digital, maturidade e cobertura legal (quando atuam como influencers mirins), este público favorece transferências indevidas de dados e violações de privacidade ao interagir com soluções manipulativas, por exemplo. Se consideradas as crianças em situação de pobreza e/ou com difícil acesso a ambientes educacionais adequados, principalmente no Sul Global, o aprisionamento no ecossistema digital apoiado em tais padrões é ainda maior. Neste contexto, o objetivo geral do workshop é incentivar a construção de tecnologias socialmente responsáveis e éticas por meio de uma reflexão sobre padrões obscuros de design na experiência do usuário (UX). Para isto, contemplaremos os seguintes conteúdos na discussão com as pessoas participantes e presentes na audiência: - Conceituação de design manipulativo (definição, tipos e exemplos); - Monopólio, “colonialismo digital” e padrões tecnológicos adotados pelas Big Techs; - Regulação das práticas atuais de desenvolvimento de software por Big Techs; - Direitos das crianças por design no ambiente digital; - Boas práticas e diretrizes para ética em UX.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Observando os impactos dos padrões manipulativos na salvaguarda de dados pessoais, em 2021, a OCDE realizou uma reunião para discutir as diversas técnicas de manipulação em plataformas e seus efeitos no comércio online. Em 2022, o European Data Protection Board lançou o guia “Dark Patterns in Social Media Platform Interfaces: How to Identify and Prevent Them”, com diretrizes para designers e usuários de redes sociais reconhecerem e evitarem práticas enganosas que afetem seus direitos à privacidade e proteção de dados. Nos Estados Unidos, o “Deceptive Experiences to Online Users Reduction Act” e o “California Privacy Rights Act” são esforços legislativos para combater esses artifícios enganosos. Na Europa, autoridades emitiram relatórios e orientações sobre o assunto. O GDPR oferece proteção para os dados e segurança das crianças, mas a preocupação segue alta diante da crescente exploração comercial dos seus dados. Um relatório recente do Conselho do Consumidor da Noruega alerta que muitas empresas de tecnologia de grande porte empregam psicólogos para projetar ambientes online viciantes, adotando captura de atenção como padrão de manipulação para incentivar crianças a passar mais tempo online, aumentando lucros. Na literatura, nomes proeminentes como Sonia Livingstone, indicam que crianças não reconhecem que plataformas podem afetar a sua privacidade. São “especialistas ingênuos”: sabem como implementar certas estratégias de proteção a nível interpessoal, mas são pouco capazes de avaliar ricos online. Sem autoproteção, confiam nas plataformas e pessoas que as formam, sendo alvo fácil padrões de manipulação. Assim, a discussão e proposta de ação contra padrões obscuros de design são altamente relevantes para a governança da internet. Isso está alinhado aos princípios de literacia digital, privacidade, direitos da criança, competição de mercado e, sobretudo, práticas éticas de design – todos essenciais para um ambiente digital justo, seguro e transparente.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  Para além da atuação do moderador, sintetizando e costurando as discussões, o workshop contemplará falas das pessoas representantes da academia, do terceiro setor, da indústria e do governo. No lugar de exposições mais longas e individuais, adotaremos 03 rodadas de 20 minutos reflexão conjunta (5 minutos por participante) sobre temas centrais ao debate sobre design manipulativo de crianças pelas Big Techs (mecanismos persuasivos e as estratégias enganosas nas tecnologias, direitos da criança em sua experiência online, e promoção de regulação e práticas éticas de desenvolvimento), de forma semelhante a um grupo focal. Ao final de cada rodada, teremos um espaço para os participantes responderem perguntas formuladas pela audiência, evitando que esta visão rica e complementar só seja obtida ao final do debate. Reforçaremos a importância de que cada participante apresente uma visão crítica sobre o tema bem como busque, em sua fala, esboçar soluções para problemas levantados.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  Para além da participação do público remoto e presencial a partir de perguntas diretas, buscaremos adotar mecanismos de colaboração que favoreçam o registro de comentários bem como o esboço de ideias. Ferramentas como Mentimeter, com itens (perguntas, votações, seleções, etc.) habilitados via QR Code, permitirão a geração de resultados na forma de rankings, nuvens de palavra ou tão somente caixas de comentários, que enriquecerão o debate bem como a futura elaboração de um relato estruturado a partir de uma visão múltipla e colegiada – ou seja, dados qualitativos poderão ser obtidos além de questionamentos para esclarecimento e discussão in loco. Ao todo, estas ricas dinâmicas de interação (em meio e ao final das falas pelas pessoas participantes) somarão, pelo menos, 30 minutos do workshop.

  RESULTADOS PRETENDIDOS

  Como resultados objetivos deste workshop, pretendemos derivar um conjunto de propostas para tratamento da questão dos padrões de manipulação. Tais propostas serão formuladas como recomendações tanto para o (i) mercado (ex.: melhores práticas em termos de controle parental ou interações com crianças em uma plataforma, ressaltando características das soluções de software que as empresas de tecnologia devem garantir) e (ii) governo (fundamentadas em perspectivas normativas, como bem-estar individual ou autonomia da criança, apoiando responsáveis pela formulação de políticas em ações legislativas e regulatórias para enfrentamento da questão). Já sob a ótica subjetiva, mas igualmente importante, este workshop evitará que o tema seja visto como amorfo e subconceituado. Ou seja, ele promoverá conscientização sobre padrões obscuros de design, destacando seus tipos e impactos negativos para crianças e adolescentes.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Liberdade, privacidade e direitos humanos

  TEMAS DO WORKSHOP

  DINC – Crianças e Adolescentes | ISCI - Direitos sociais, econômicos e culturais | PRIS – Segurança e proteção das crianças online |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  A reflexão sobre funcionalidades manipulativas nas plataformas contemplará diferentes perspectivas em torno da criança. Ou seja, como elas afetam crianças conforme estágio de desenvolvimento (ex.: infância, adolescência); região (ex.: Norte e Sul Global; Nordeste e Sudeste); (iii) escolaridade (ex.: educação infantil, ensino fundamental e ensino médio), (iv) classe social (ex.: classes A, B e C versus classes D/E) e (v) necessidade (ex.: crianças com deficiência). O debate também considerará variados ecossistemas de empresas de TI como Amazon (streaming – Prime, robôs inteligentes – Astro e assistentes virtuais – Alexa) e Meta (mídias sociais – Instagram e gadgets – Oculus Quest 2). Nas participações, temos diversidade de gênero (4 mulheres entre 6 participantes), região (Nordeste, Centro-Oeste e Sudeste) e de raça (rica atuação de duas mulheres pretas neste workshop).