O psicanalista suiço, Carl Gustav Jung (1875-1961), fundador da escola de Psicologia Analítica e responsável por conceitos como personalidade introvertida e extrovertida, arquétipo e do inconsciente coletivo, afirmou uma vez que “tudo aquilo que não enfrentamos em vida, acaba se tornando o nosso destino”. Mas qual a reflexão central que devemos extrair desta famosa afirmação?
Podemos a grosso modo, entender que o “destino” que o psicanalista emprega em sua frase, significa os obstáculos, enfrentamentos e responsabilidades que você terá que arcar no futuro, caso não enfrente no momento correto, tudo aquilo que a vida lhe apresentou como desafio (o que teria como resultado o seu crescimento e evolução).
– “Mas espere um minuto. Falaremos sobre psicanálise agora, Viny? Isso eu resolvo com o meu analista.”
Creio que esta tenha sido a indagação de muitas pessoas ao lerem a introdução deste texto. E em resposta a isso, eu devolvo outra pergunta.
– Mas a vida não seria um enorme divã?
Sim, respondo com outra pergunta, pois o meu intuito aqui não é o de trazer verdades sólidas e incontestáveis, mas o de refletir conjuntamente com vocês sobre os propósitos de nossa existência ou talvez a criação deles. E sabem por qual motivo faço esta reflexão inicial? É que no dia 19 de maio de 2021, o Twitter desabilitou um sistema automatizado de recorte de imagens, após encontrar um viés contra minorias no algoritmo que controla o recurso.
Para quem está mais antenade nessas questões das redes sociais e nas polêmicas envolvendo os seus logaritmos, sabe que são muitas as denúncias de viés no funcionamento das ferramentas de IA na plataforma.
As denúncias eram de que a ferramenta favorecia usuários homens e brancos em detrimento de mulheres e negres. E tinha mais, os algoritmos demonstravam um tendencioso “olhar masculino”, já que concentrava o recorte nos seios ou nas pernas das mulheres. Tudo isso, agora confirmado pelo Twitter publicamente.
Um mês antes de sua declaração pública, o Twitter havia lançado uma iniciativa de equidade algorítmica, como sendo parte de um esforço para reduzir os famosos vieses de automação em sua plataforma. Essa era uma resposta às polêmicas geradas ao longo de 2020, quando as primeiras denúncias vieram à tona com mais intensidade.
Segundo Rumman Chowdhury, o engenheiro-chefe de software da gigante plataforma e especialista em ética e inteligência artificial, o Twitter determinou, após sua análise, que era preferível deixar as decisões de recorte de imagem para os usuários.
“Uma de nossas conclusões é que nem tudo no Twitter é um bom candidato para um algoritmo e, neste caso, a maneira como recortar uma imagem é uma decisão que as pessoas tomam melhor“. Foi assim que se posicionou a poderosa empresa que possui mais de 1,3 bilhões de contas cadastradas. A frase, da forma como foi dita, passa a impressão de que eles estão fornecendo autonomia e liberdade para os seus usuários. Mas no fundo, o que o Twitter fez, foi se isentar de suas responsabilidades em criar uma solução para o problema.
E foi neste instante que eu pensei na declaração desta mesma empresa quando diz querer “assumir a responsabilidade” por decisões algorítmicas com o objetivo de “equidade e justiça de resultados“.
Calma, eu não estou divagando sobre esta informação e muito menos inventando. Nesta mesma matéria, onde eles se posicionam abrindo mão da responsabilidade de trabalhar e ajustar os algoritmos para que façam uma leitura sem vieses, eles afirmam o seu compromisso e responsabilidade com a equidade e a justiça de resultados.
Contraditório, não? E é exatamente aqui que entra Carl Gustav Jung, o famoso psicanalista suíço, e a sua famosa frase, utilizada lá no início deste texto. Vamos pegar o nosso momento atual de pandemia como exemplo. Surgiu um problema inesperado que afetou a humanidade como um todo (sabemos que muito mais uns do que outros, mas deixaremos isso para discutir em um outro texto) e o impacto econômico foi gritante. A comunidade científica, impulsionada pelo desespero global, dedicou-se incessantemente a entender o vírus e a encontrar possíveis vacinas para combatê-lo.
E o que temos um ano após esta corrida? Não apenas quatorze imunizantes aprovados (e muitos já sendo aplicados em massa), como mais de duzentos outros sendo pesquisados por todo o planeta. Mas não é apenas sobre isso. Onde eu quero chegar com esta reflexão é que não estamos produzindo apenas imunizantes contra a Covid19. As pesquisas e descobertas abriram portas para a cura e soluções de muitos outros problemas e desafios que estão postos para a comunidade científica e toda a humanidade há muitos anos, décadas e até séculos. Possibilidades de cura e tratamentos mais eficazes contra o câncer e muitos outros males, já foram apontadas nestas muitas pesquisas e estudos que estão sendo feitos mundo afora.
A pergunta que faço a vocês é a seguinte: De quem era a responsabilidade em desenvolver as pesquisas e encontrar a cura para este mal? É claro que temos uma cadeia de responsáveis. Cada um dentro da sua esfera de atuação. Empresas que deveriam dedicar seus esforços e capital para tal investimento. E governantes que deveriam incentivar estas pesquisas e exaltar a ciência e não o contrário, por exemplo. Mas em última instância, os cientistas e a comunidade científica eram os responsáveis. E foi o que de fato aconteceu. Apesar de, em muitos lugares, o apoio e o incentivo não terem sido os melhores, ou até mesmo sabotados.
Nós, simples mortais, ficamos apenas aguardando e fazendo a nossa parte. Tentando se aglomerar o mínimo possível, fazendo nossas preces, conscientizando outros e assim por diante. E hoje, após es responsáveis assumirem o seu papel, eles nos entregam bem mais do que inicialmente haviam prometido. O produto que aguardávamos, veio com um pacote imensurável de outras possibilidades e possíveis outras curas e melhorias para a existência humana.
Seguindo este raciocínio, vamos pensar se há um ano atrás a comunidade científica, diante deste desafio (que era, em última instância, de sua responsabilidade), tivesse dito: “nem tudo na ciência é um bom candidato para se pesquisar e, neste caso, a alternativa para se auto imunizar, seria uma decisão que as pessoas deveriam tomar por si próprias”.
No mínimo, ficaríamos chocados e desesperados.
Pois foi diante deste enorme desafio (que é o de lapidar seus algoritmos) que o Twitter fugiu da sua responsabilidade. Diante de uma pandemia, nós já aprendemos qual é o preço que se paga por não enfrentarmos nossas responsabilidades. Os números de mortes, impacto econômico e internações depois de um período tão longo de pandemia nos fornecem indicativos assustadores e bem diretos sobre o quanto a ausência de responsabilidade pode destruir e matar. Quantas outras alternativas, soluções e novas pesquisas no campo do refinamento desta rede neural (modelo computacional) que faz o reconhecimento de padrões, poderiam nos beneficiar?
Mas qual foi a decisão do Twitter? A de evitar trabalho, economizar investimentos, ganhar tempo com aquilo que lhe interessa e manter-se em sua zona de conforto, estabelecendo um discurso raso, míope e inconsistente, quando falamos sobre respeito, valorização e importância da Diversidade.
O Twitter preferiu se isentar de tal responsabilidade, mas nós sabemos que isenção também é posicionamento. A gigante do universo das redes sociais optou pela insensibilidade, falta de empatia, ampliação das injustiças, manutenção das desigualdades e pelo desrespeito. Tudo aquilo que ela afirma combater, quando diz que a sua iniciativa requer “assumir a responsabilidade” por decisões algorítmicas com o objetivo de “equidade e justiça de resultados“.
Com esta decisão, a sua plataforma mantém a ordem “natural” das coisas. E todas as mazelas do mundo real continuarão a se replicar no seu universo virtual. Sem nenhuma posição ou intervenção de sua parte para que avanços tecnológicos que combatam as desigualdades sejam produzidos. Ou seja, sabe-se lá até quando teremos algoritmos se comportando de maneira enviesada e impactando na vida das pessoas. Esta seria uma grande oportunidade para um processo maior de mudança. Não somente no que envolve a IA do sistema, mas também de transformações na capacidade das marcas em se posicionar e atrair novos talentos (Employer branding).
As consequências disso já conhecemos. É a morte moral, espiritual e inclusive física, daqueles seus usuários que não se enquadram nos padrões injustamente estabelecidos.
“Tudo aquilo que o Twitter deixa de enfrentar hoje em relação à Diversidade, acabará tornando-se o seu destino”. E depois, ninguém poderá afirmar que Carl Gustav Jung e nós, não avisamos!
Divagando é uma coluna voltada a criar pontes entre o cotidiano e o universo corporativo, criando diálogos e suscitando reflexões.
Viny Belizario é sócio da Diva Inclusive Solutions, pesquisador, educador, formador de gestores, analista comportamental, psicanalista em formação e consultor em diversidade, equidade e inclusão há quase 20 anos. Raça, gênero, psicologia e pedagogia corporativa são suas áreas de pesquisa e interesse, onde apoia suas práticas para a transformação da cultura organizacional.