Racismo algorítmico nas relações de consumo

1. INTRODUÇÃO: VALE DO SILÍCIO - O ADMIRÁVEL MUNDO ALGORÍTMICO E O PERIGO DE UMA HISTÓRIA ÚNICA

De maneira simples, algoritmos são uma sequência de etapas e procedimentos com o objetivo de chegar a algum resultado. Como registra a professora de Matemática Cathy O'Neil, são processos que se valem de informações históricas para predizer o futuro de uma maneira mais eficiente possível, de acordo com o objetivo predeterminado .

Durante muito tempo, a grande dificuldade para se fazer essas predições em diversos setores, como o leitor pode intuir, consistiu em se conseguir as referidas informações históricas para alimentar os algoritmos. Uma forma de os programadores driblarem essa dificuldade era por meio do uso de proxies, ou seja, mecanismos que faziam (e ainda fazem em diversos setores) indicações de proximidade, como ocorre, por exemplo, quando se traçam correlações estatísticas entre o CEP residencial de alguém ou padrões de linguagem potencial de pagar um empréstimo ou conseguir dar conta de um emprego.

Ocorre que, mais recentemente, com o advento das redes sociais, os próprios usuários alimentam dia e noite esses algoritmos com bilhões de dados. A justificar o que ora se traz à baila basta que se observe, p. ex., o número de usuários brasileiros de algumas das principais redes sociais em 2023 (em milhões): Whatsapp (169 milhões); YouTube (142 milhões); Instagram (113 milhões); Facebook (109 milhões); TikTok (82 milhões); Linkedin (63 milhões); Messenger (62 milhões); Kwai (48 milhões); Pinterest (28 milhões); Twitter (24 milhões).

Eis o questionamento motor deste artigo: promover análise crítica não da quantidade de dados extraídos dessas redes sociais, mas sim da qualidade desses.

Começa-se pelas características. Ora, se os algoritmos advêm da matemática e, portanto, são do campo das ciências exatas, características principais dessas redes sociais (planejadas com por meio de algoritmos complexos) podem ser a neutralidade e igualmente a meritocracia entre todos que da internet e desses programas fazem uso, certo ? Errado. Muito errado. Neste sentido, adianta a pesquisadora americana do Oxford Internet Institute, Safyia Umoja Noble:

Parte do desafio de compreender a opressão algorítmica é perceber que as formulações matemáticas que guiam as decisões automatizadas são feitas por seres humanos. Embora frequentemente pensemos em termos como big data e algoritmos como sendo benignos, neutros ou objetivos, eles são tudo menos isso .

É que, posto sejam a priori técnicos, objetivos, os algoritmos também são, do fio ao pavio, o somatório de dados interpretados , como registra Cathy O'Neil e, neste sentido, possuem algumas peculiaridades que o distanciam, e muito, da neutralidade e da meritocracia que permitiriam, num mundo irreal, ampla liberdade de expressão.

Assim, e porque não pode haver texto sem contexto, orteguianamente falando (o homem é ele e suas circunstâncias), necessário é demonstrar, ainda que brevemente, a história muitas vezes não contada da criação da internet e bem assim das redes sociais, como se passa a fazer.

2. A CONSTITUIÇÃO DE VIESES RACISTAS NO VALE DO SILÍCIO

Atento ao que registra Ngozi Chimamanda, isto é, sobre o perigo de uma história única  apenas retratar a história dos dominadores, e não a dos subalternos, a história aqui retratada pretende derrubar mitos acima apontados como basilares do mundo digital.

2.1. Os mitos da neutralidade, da meritocracia e da suposta liberdade de expressão absoluta

Como já trazido à lume, as plataformas virtuais nutrem-se dos dados cadastrados por usuários e, por meio dos algoritmos de machine learning  - que produzem aprendizado de máquina sobre perfis, características e gostos desses milhões de usuários em suas plataformas - fazem predições estatísticas aproximadas. É dentro deste contexto que os criadores dessas redes sociais professaram, por muito tempo, que essas plataformas não possuíam parcialidade, subjetividade, predileções. Eram neutras - ou objetivas - e privilegiavam assim o mérito e a liberdade de expressão absoluta.

Essas ditas profecias, como se mostrará doravante, fazem com o que os fundadores desse admirável mundo novo levem o debate ao campo do irrealizável, uma vez que se utilizam, como certa feita disse Fernando Pessoa: "Da verdade não - [mas somente] da melhor aparência dela..." .

Isso porque, ao contrário do que tentam fazer crer, o somatório de dados constrói os algoritmos de machine learning dessas redes por meio de processos complexos de interpretações e predições, e quem os constitui não são máquinas: são seres humanos - mas não todos, apenas um pequeno e seleto grupo de pessoas. E são estes membros que, consciente ou inconscientemente (na vida se peca ou por ação ou omissão), destilam os mais diversos vieses a esses algoritmos, muitos dos quais expressando o que há de pior no que diz respeito a sentimentos expressados em sociedade, como alerta Safyia Noble:

Parte do desafio de compreender a opressão algorítmica é perceber que as formulações matemáticas que guiam as decisões automatizadas são feitas por seres humanos. Embora frequentemente pensemos em termos como big data e algoritmos como sendo benignos, neutros ou objetivos, eles são tudo menos isso. As pessoas que definem essas decisões detêm todos os tipos de valores, muitos dos quais promovem abertamente racismo, sexismo e noções falsas de meritocracia, o que está bem documentado em estudos sobre o Vale do Silício e outros corredores de tecnologia. (negritou-se)

Afinal: qual é o arquétipo dessas empresas (e de seus membros) que constituíram o Vale do Silício, o qual tem refletido na sociedade de dados até hoje?

Em "A Máquina do Caos" (2023), de autoria do jornalista do New York Times Max Fisher, é registrado que no ano de 1968, com apoio de bolsas da NASA e do Pentágono, o engenheiro-pesquisador da Marinha Douglas Engelbert criou a primeira máquina que usava semicondutores para armazenar e mostrar informações. Tal máquina era prática, ao contrário das anteriores, e possuía uma singela e pioneira interface gráfica. A partir daí engenheiros do Vale do Silício (até então desconhecidos) notaram nesse ramo uma verdadeira possibilidade de uma novíssima indústria, marcada pela contracultura e que "empoderaria" mais indivíduos do que instituições.

Por ratificar a força até então desconhecida desse grupo, em 1971 um periódico empresarial americano cunhou o termo Vale do Silício, fazendo referência ao mercado de transistores de silício inaugurado uma década antes. A revista Rolling Stone, sobre o tema, anotou que "engenheiros como cabeludos excêntricos iam dar liberdade e esquisitice através de um produto, o computador, com que a maioria só havia se deparado como uma máquina sem graça e assustadora no trabalho ou na universidade. "  Criava-se aí um grupo de hackers , nerds (denominações que eles usavam para se cumprimentarem), homogêneo e pequeno.

De maneira abreviada, e a confirmar o poderio desse time, nos anos que se seguiram esses "revolucionários libertários e seus discípulos" criaram uma geração de startups, como a Apple Computer (Steve Jobs), WELL (primeiro protótipo de rede social) e até mesmo a internet. Sobre esta invenção, em 1996 um ex-integrante do WELL escreveu um manifesto pela liberdade de expressão total, o qual até hoje é reproduzido como o texto fundador das mídias sociais .

Para que se tenha ideia de como esse grupo comandou (e comanda) diversas das marcas mais valiosas do mundo atual, veja-se a ramificação percebida por Max Fisher sobre o arquétipo de uma das empresas que fundaram o Vale do Silício: a Schokley Semiconductor Laboratory:

Ainda hoje, Shockley está só a uns quatro ou cinco passos de praticamente toda figura conhecida das redes sociais. Um dos seus primeiros funcionários, um engenheiro chamado Eugene Kleiner, fundou depois a Kleiner Perkins, firma de investimentos que contratou Doerr. Doerr, por sua vez, financiou a Amazon e o Google, onde seus conselhos - que aprendeu com recrutas de Schokley - se tornaram a base para o modelo de negócio do Youtube. Outro pupilo de Doerr, Marc Andreessen, fundador da Netscape, se tornou um grande investidor e integrante da diretoria do Facebook, além de menor pessoal de Mark Zuckerberg. Ele foi um dos fundadores da firma de investimentos que financiou, entre outras, Slack, Pinterest e Twitter.  (negritou-se)

Ora, se o arquétipo das empresas que surgiram a partir desse grupo de engenheiros do Vale do Silício era de pessoas jurídicas que tinham por fundamento a autoproclamada "liberdade de expressão total" e, portanto, neutralidade e meritocracia, qual era o perfil dos engenheiros desse grupo?

Há alguns relatos que dão conta de responder a este questionamento:

Todos parecem nerds brancos machos que trancaram Harvard ou Stanford e têm vida social zero, disse John Doerr, investidor lendário do ramo da tecnologia, a respeito dos fundadores de sucesso, chamando isso de 'molde' que usava para selecionar em quem investir.

(...) um dos fundadores do Paypal disse "parece que indivíduos com inaptidão social ao estilo Asperger têm vantagem no Vale do Silício de hoje".

Max Levchin, que fundou o Paypal comigo, diz que as startups deveriam fazer com que sua primeira equipe fosse o mais parecido possível.

Todos na sua empresa devem ser diferentes do mesmo modo - uma tribo de pessoas com ideias afins e com dedicação feroz à missão da empresa.  (negritou-se)

À toda evidência, portanto, e desvelando os mitos da neutralidade, objetividade e da liberdade de expressão total, o que se verifica de lá para cá é que os produtos do Vale do Silício, notadamente algoritmos, inteligência artificial, redes sociais, plataformas digitais etc. são, conforme Max Fisher: "mais do que apenas gênero e raça, são produtos em um arquétipo rigoroso do homem geek, implacável, lógico, misantropo e branco" .

Portanto, e dando razão a Chimamanda, acima citada, o perigo de uma história única, que conta apenas o conteúdo e não o continente do que é a cultura mundial, como a que tem sido propagada pelos membros do Vale do Silício até hoje, refletem, impulsionam e transportam atitudes racistas da realidade para as telas e mentes de bilhões de consumidores.

3. MUNDO VIRTUAL: ÓDIO E RACISMO PELA VIA ALGORÍTMICA

Para que se tome pé da abrangência global, veja-se que, por exemplo, passada a época da primeira colonização das terras sem lei do mundo digital, em 2023 a rede social mais utilizada mundialmente, o Facebook, conta com nada menos do que 2,95 bilhões de contas ativas  - não é demais lembrar que a população mundial tem pouco mais de 8 bilhões de habitantes.

Ou seja, se até a primeira década do século XXI muito se pregou que o ambiente virtual promovia democracia em larga escala, por se tratar de um ambiente em que alegadamente "se desconsideravam diferenças raciais, desigualdades sociais, sentimentos xenofóbicos, preconceitos e intolerâncias de toda ordem"  (o chamado colour blindness), pesquisas a partir da segunda década deste século têm demonstrado exatamente o oposto, e a razão, como se verá a seguir, tem a ver com o reflexo das ideologias dos primórdios desse mundo digital, como já abordado neste estudo.

Nesse sentido destacam-se, no campo acadêmico, quatro obras que tratam do tema, todas multicitadas neste artigo: a) "Algoritmos de Destruição em Massa", de 2020, da professora de matemática Cathy O'Neil; b) "Algoritmos da Opressão", de 2021, da também professora norteamericana Safyia Noble; c) "Comunidades, Algoritmos e Ativismos Digitais: Olhares Afrodiaspóricos", de 2021, organizado pelo brasileiro Tarcízio Silva; e d) "A Máquina do Caos", de 2023, do jornalista americano Max Fisher.

Isso ocorre na medida em que se tem percebido, em uma ponta, na guerra desenfreada por publicidade nessas relações de consumo travadas em ambiente digital , investimento maciço em algoritmos de machine learning cada vez mais sofisticados para fisgarem e reterem a atenção de consumidores em telas de computadores e celulares (a exemplo do autoplay;

Confira a íntegra do artigo aqui.