COLUNAS

  1. Home >
  2. Colunas >
  3. IA em Movimento >
  4. Inteligência artificial e "Epistemologias do Sul"

Inteligência artificial e "Epistemologias do Sul"

terça-feira, 5 de julho de 2022

Atualizado às 07:17

Com as novas tecnologias digitais o presente vira um eterno agora, subtraindo o passado e antecipando o futuro, os rituais e a sua função de coesão social e memorização de valores e culturas se apagam no tempo do eterno retorno do agora, onde tudo que importa é o consumo imediato de mais e mais informação, um signo amorfo, informe e ágil (inform-e-ação), deslocando-se do mundo da vida, e da fundamentação em algum sentido outro para o viver além da superfície linear e da utilização instrumental e técnica. Mais e mais informação, sem um conhecimento e cognição correspondentes que impliquem em questionar o porquê e para quê, sem nos ajudar a um melhor viver e morrer, girando em um vazio existencial, perpetuador da náusea, angústia, de que já falava Sartre.

Ao invés do "amor fati", compreendendo a vida e a si mesmo no que se tem de bom e de ruim, mas claro sempre tentando alcançar um ideal maior a nos iluminar, superando-se a infância dos povos de que falava Nietzsche, somos convocados verazmente as mídias sociais e ao metaverso, e a beleza e juventude eterna, onde teríamos a morte perfeita, a morte da morte, apostando ainda em um progresso aliado à pura tecnologia, a qual aliada ao capital, rotaciona ainda com mais velocidade o círculo vicioso de exclusão social e iniquidade, como se a própria tecnologia nos pudesse ensinar a nos tornarmos humanos ou pessoas melhores.

A pós-modernidade, com suas razões de forma aperfeiçoadas em uma instância técnico-científica, seguem a linha da modernidade, na sua maior parte, no culto do positivismo e do formalismo cegos, onde a razão entrega-se ao irracional e o método científico converte-se em um fim em si mesmo, como já denunciara a Escola de Frankfurt, e em especial Max Horkheimer e Adorno, separando a razão instrumental e a razão crítica.

O método científico, o positivismo, com seu vínculo e culto ao formalismo, utilizando-se do modelo das ciências naturais empíricas e matemáticas, e ao entender as leis da natureza como inexoráveis, e determináveis com um rigor geométrico, e posteriormente apostando no estudo da política e da ética também com base nestes mesmos critérios, como um sistema de causalidades racionais, com rigorosa exatidão ao se pautar por leis da natureza imutáveis, se fundamenta em um ideal irrealizável na prática. Assim, postula-se pela neutralidade e objetividade, em uma supervalorização do racional, do sujeito do conhecimento como instância última e única da verdade e como meio de domínio da natureza, ensejando ainda mais individualismo, antropocentrismo, eurocentrismo e outros ismos, e a perigosa alienação na técnica de que falava Husserl, quando a razão vira puro cálculo e o saber que importa é o produzido maquinalmente, e com vistas ao mercado.

Contudo, a própria ciência não mais corresponde aos ideais da mecânica clássica de Isaac Newton, já que desde o início do século XX a teoria da relatividade de Einstein, a física quântica de Max Planck e o princípio da incerteza de Heisemberg quebraram as certezas até então tidas como dogmas irrefutáveis, em uma mentalidade mecanicista, desdogmatizando-se certezas, entre elas, a separação radical entre sujeito e objeto do conhecimento, já que a observação do observador influir no resultado observado, ou seja, o objeto se torna tal a partir do olhar do sujeito, sendo insuficiente apenas o conceituar como representação imprópria da coisa, ao contrário da intuição onde teríamos uma representação própria.

Neste sentido também as contribuições de Husserl e a fenomenologia, ao afirmar que não já uma relação pura entre sujeito e objeto, pois é uma relação sempre intencional, reconhecendo-se também o ser humano como um ser de relação, abrindo-se as mônadas e saindo do estado de solipcismo, abrindo-se para o nós.

Ao se propor a total separação da política, do direito, da ética e da religião, tendo como precursores Maquiavel e de certa forma o formalismo e individualismo já presente anteriormente em Okcham, um dos iniciadores da via moderna, ao lado de João Scotus, no sentido de busca da neutralidade e objetividade próprias do pensamento científico e positivista, evita-se o sincretismo metodológico em prol da certeza e objetividade, bem como questionamentos e a crítica, reduzindo-se as oportunidades de mudanças do status quo.

Contudo, a própria matemática, que embasa tais conhecimentos, revela-se fragmentada, como aliás todo o pensamento fruto desta concepção não universalista, mas especializante da ciência moderna, trabalhando com o mundo ideal, não podendo em sua razão crescente de abstração, esquecer-se do movimento de retorno ao problema concreto, momento necessário da síntese.

Há que se ter presente, pois, o divórcio existente entre cálculo e conhecimento, já que a matemática produz uma operação reiterada de signos de signos, apartando-se das evidências sensíveis, em uma crescente abstração e idealização, e sua correspondente pretensão de verdade absoluta, sem sequer assumir tais características e a presença sempre de ideologias por trás de todo ser humano produtor de qualquer tipo de conhecimento que seja.

Outrossim, a teoria dos conjuntos formulada para resolver problemas da falta de fundamentação lógica da teoria das funções e do cálculo infinitesimal acaba por se revelar insuficiente, por apresentar resultados paradoxais, antinomias e contradições, apesar de se observar um procedimento lógica e matematicamente correto. Ou seja, como bem demonstraram os teoremas da incompletude de Kurt Gödel, concluindo que a falta de contradição não pode ser provada para a matemática como um todo, e que não se poderia demonstrar por seus próprios meios a falta de contradição do sistema axiomático, demandando o emprego de meios validados fora do sistema (GUERRA FILHO, Willis Santiago. Filosofia: uma introdução", Petrópolis: Editora Daimon, 2009).

Portanto, além da própria Filosofia em certo momento desvincular-se da necessidade da busca da verdade como fim último, mesmo porque esta se daria sempre de forma relativa, além do seu caráter de aporia, próprio da filosofia, que não se diferencia dos mitos pela obrigatoriedade de formulação de um pensamento com base na razão, sem desvios, sem contradições. Agora vemos a necessidade também da matemática, e das ciências que se baseiam em tal conhecimento, aceitarem as contradições a antinomias, próprias de um discurso auto-referencial, como expos George Spencer-Brown, abandonando paradigmas já superados como o da separação entre sujeito e objeto do conhecimento, substituindo tal separação por uma unidade, ao invés de "ou", "e".

Daí ao se considerar a importância de teorias trans-clássicas com foco na abordagem holística e não reducionista, típica das ciências modernas, como a cibernética, a semiótica, a teoria geral de sistemas, as teorias gerais da informação e da comunicação, e a cibernética de segunda ordem, tal como proposta por H. Von Foerster, ao descrever sistemas cibernéticos dotados de IA que se autorregulam. Ou seja, na base do conhecimento acerca da Inteligência artificial teríamos uma disciplina trans clássica, pós-moderna, fugindo-se do antropocentrismo e olhando para a diferença e o outro.

Em sentido complementar tem-se por superada a compreensão de uma abordagem do Direito e da Filosofia apenas compreendendo as contribuições da sociedade ocidental, e uma perspectiva eurocêntrica, como ao se afirmar por exemplo, que no Oriente não se teria uma filosofia própria sendo esta apenas ocidental, já que a cientificidade necessária estaria atrelada a ideia de uma teoria inclusiva, que demandaria a análise e consideração de um maior número possível de abordagens e perspectivas, de forma democrática.

Assim, os direitos humanos, por exemplo, não podem mais ser vistos sob uma única ótica, universalista, como sempre os mesmos para todo o gênero humano, em uma perspectiva etnocêntrica, ocidental, mas levando-se em consideração as diversas culturas e gêneros, havendo diversas concepções portanto, de direitos humanos, já que há uma diversidade cultural e social (comunitaristas e multiculturalistas). Em sentido complementar, os direitos fundamentais, no plano interno voltam-se também para uma natureza multidimensional, reconhecendo-se seu aspecto individual, coletivo e social, característica que fica clara ao pensamos em um vazamento de dados como equivalente de um vazamento de petróleo no oceano, causando danos muito além de individuais, já que relacionado à cidadania e à igualdade material dos tutelados. Daí se falar em poluição de dados (BEN-SHAHAR, Omri. Data Pollution, p. 133 e ss.), espécie de "direito ambiental da proteção de dados pessoais". Os danos são considerados coletivos, pois todo o ecossistema de dados é afetado pelas ações poluentes. Em sentido complementar Gunther Teubner, traz a advertência de que não basta uma perspectiva individualista na esfera digital, devendo ser buscada sua dimensão coletivo-institucional (TEUBNER, Gunther. 2017, p. 485-510).

Como bem apontam alguns estudos na área de proteção de dados e de inteligência artificial, que analisaram conjuntos de propostas de codificações éticas para tais campos do saber, haveria uma ausência de propostas não eurocêntricas, bem como contradições e não compatibilidade quanto ao conceito de justiça, por exemplo, ou de dignidade humana.

Em sentido complementar expõe Lucia Santaella ao afirmar a necessidade de ser reconhecida a atualidade do pensamento de Foucault, para se pensar os novos desafios e oportunidades da utilização das novas tecnologias digitais, em especial da IA, na interface com as humanidades, já que ele é um "divisor de águas" em relação ao estudo do sujeito e das relações de poder que o atravessam (2016, p. 18 e ss.). Propõe Foucault uma dessubjetivação (desantropologização - Favaretto, 2010, p. 5 e ss.), a partir da dissolução nietzschiana do homem, como uma vacina contra o sujeito antropológico e o "sono antropológico", contra o modelo antropocêntrico.

A preocupação com a ética na área da inteligência artificial estaria já com seus dias contados, diante da possível ocorre^ncia da "lavagem ética" e da insuficie^ncia dos princi'pios éticos? Ocorreria a lavagem ética quando as empresas acabam desvirtuando a atenção acerca da necessidade também de uma regulação jurídica na área da inteligência artificial, ao afirmarem ser suficiente apenas um código de condutas, o que de certa forma não contribuiria para a resolução dos problemas, já que não há a necessária imparcialidade e coercitividade como no caso da heterroregulação, muitas vezes não passando de uma carta de boas intenções.

Diante de tais problemáticas, fala-se no fim da era dos códigos de conduta (Luciano Floridi, "The end of an era: from self-regulation to hard law for the digital industry"). Jess Whittlestone neste sentido aponta para a urgência de se encontrar maneiras de incorporar a ética no desenvolvimento e na aplicação da IA, embora até o momento o catálogo de princípios éticos elaborados por diversos organismos internacionais e empresas tenha se concentrado em princípios gerais, não informando a solução no caso de conflito entre princípios éticos, afirmando a ineficácia dos princípios éticos gerais (TZACHOR, WHITTLESTONE, SUNDARAM, 2020).

Corrobora tais assertivas o estudo denominado "Intelige^ncia Artificial com Princípios: Consenso de Mapeamento", elaborado pelo Berkman Klein Center for Internet & Society da Harvard Law School (FJELD et al., 2020), traçando um panorama mundial de princípios éticos da IA, concluindo pela existência de uma grande distância entre teoria e prática na articulação dos conceitos e a sua realização concreta; inexistência de elaboração de princípios orientados para aplicações específicas de IA; divergências quanto a conceitos essenciais como, por exemplo, acerca do que se entende por "justiça"

É essencial  em uma regulamentação da inteligência artificial, fundada em uma construção epistemológica, que seja levado em consideração o  conceito de ética digital intercultural, as diversas concepções de dignidade humana e de justiça, olhando-se para as particularidades socioculturais do nosso país, fugindo-se de uma lógica ou viés antropocentrista e eurocêntrico, em atenção, outrossim, às Epistemologia do Sul, considerando-se o sul como categoria epistemológica e não geográfica (Boaventura de Souza Santos).

A ética significa em seu sentido grego original "postura", traduzindo em uma postura em relação a` vida, a favor da vida, relaciona-se com a postulação epistemológica em termos de estudo, compreensão e de teoria do direito e da filosofia com fundamento nos valores da "poiesis", e, pois, da poética ( "Teoria Poética do Direito" - Willis S. Guerra Filho, Paola Cantarini), no sentido de abraçar a criatividade, a sensibilidade, a imaginação. Um direito e uma filosofia comprometidos com a alteração da realidade social, com os valores da democracia e da inclusão.

Apesar de alguns filósofos apontarem, a exemplo de Heidegger, para o fim da filosofia após Hegel, é essencial a recuperação do pensamento reflexivo, crítico, interdisciplinar, zetético, indo além de um pensamento reprodutivo de uma série de informações, obtidas em escala crescente, pois este não se confunde com compreensão, cognição e reflexão, havendo em certo sentido uma relação antípoda entre informação e comunicação, isto é, quanto mais informação menos comunicação e compreensão, diante da inexistência de tempo e de silêncio para a construção do pensamento próprio e autóctone.

É o que observou pioneiramente Vilém Flusser ("Vilém Flusser y la cultura de la imagen. Textos escogidos,«Lengua y realidad», Breno Onetto Muñoz, ed., Valdivia (Chile), Universidad Austral de Chile (UACh), 2016) apontando que as coisas estão desaparecendo dando lugar às informações, bem como Byung-Chul Han ("No- cosas") ao afirmar que estamos em uma fase de transição, da era das coisas para a era das não coisas.

Antecipar princípios éticos, que levem em consideração também a diferenca e diversos conceitos de dignidade humana e de justiça, poderá servir para influenciar o design ético da tecnologia, quando valores são designados no design da tecnologia ("ethics by design"). As regulações europeia, canadense e americana já aprovaram princípios para os desenvolvedores de aplicações de IA com vistas ao estabelecimento de "framewoks" de "responsabily-by-design", "privacy-by-design" e "security-by design".

Verifica-se, pois que é essencial a construção de um sistema de proteção proativo, abrangente e sistemicamente seguro, uma proteção sistêmica, o que envolveria a proteção desde a concepção tecnológica ("protection by design"), por meio da criação de arquiteturas de decisão adequadas a` proteção com o auxi'lio da concepção e de ferramentas tecnológicas, como forma de se implementar a segurança ("security by design"), falando-se em transparência do design tecnológico (projeto técnico) e dos algoritmos de IA, e não apenas na coleta e tratamento de dados pessoais. É fundamental se estabelecer um framework adequado de check and balances, de ponderação dentro da arquitetura e design tecnológico das aplicações de IA bem como uma avaliação de testagem, voltada a casos concretos, no que se destaca a importância da abordagem "Sandbox approach", como constante do AI Act da Comissão Europeia de 2021, e também prevista, embora de forma genérica e sem maiores especificações no PL 21/20, em seu artigo 7, VII quando cita os ambientes regulatórios experimentais ao lado da análise de impacto regulatório e das autorregulações setoriais.

Ao invés de pensamos acerca da essência da técnica objeto de reflexões por parte de Heidegger, em especial ao seu texto de 1949 "A questão da técnica", não em um sentido apenas distópico, como fazendo parte dos dispositivos do biopoder ou do capitalismo de dados, mas, no sentido de refletir acerca da tecnodiversidade e da cosmotécnica, reconhecendo a existência de um pluralismo tecnológico e ontológico, evitando-se a simples oposição dualista entre natureza e técnica, como aponta Yuk Hui, sugerindo que seja repensada a descolonização a partir da perspectiva da tecnopolítica.

Tal postulação reconhece e parte da insuficiência de uma visão eurocêntrica e antropocêntrica para se pensar  a relação técnica-humanos, tal como se verifica a exemplo das próprias Declarações Universais dos Direitos Humanos construídas sob uma ótica hegemônica ocidental, não sendo levadas em consideração geralmente as construções das Epistemologias do Sul. Há uma crise quanto aos direitos humanos, como se pode observar do retrocesso que vem ocorrendo em termos de conquista de direitos e preocupações humanitárias.

Daí se falar da necessidade de uma nova compreensão e da reinvenção dos Direitos Humanos e pois, da IA, no sentido de integrar a diversidade cultural e as diversas concepções de justiça e de dignidade humana, a exemplo, das noções de "dharma" Hindu, de "umma" islâmica, de "pachamama" ou o "buen vivir" dos povos indi'genas da América Latina, do "ubuntu africano", do "Sumak Kawsay", ou o "Sumak Qamanã", trazendo o respeito aos direitos da natureza, passando do foco dos deveres ao foco aos direitos, e para uma nova concepção de comunidade, a exemplo da Constituição do Equador de 2008, como constitucionalismo transformador, voltada a concepção da tecnologia a favor da vida na Terra de futuras gerações, não apenas, pois "human-centered Ai", mas "planet centered"ou "life-centered", em uma visão cosmoética.

Perguntas essenciais que devemos nos fazer por exemplo apontam para reflexões como "será que preciso de IA para determinada aplicação, considerando os riscos associados, alto grau e energia envolvido e custos? Será que seria possível resolver meu problema específico de outra forma? Algum efeito negativo poderia ser de fato mitigado com aplicação da prevenção e instrumentos adequados de compliance? O quanto de eficiência precisaria embutir em tal aplicação, em termos de custos ambientais envolvidos, como níveis de liberação de carbono e agressão ao meio ambiente?

Tais propostas refletem e são fundamentadas no respeito à diferença, no respeito pela igualdade na diferença, por meio de um processo político  participativo, na  linha  do  que  se  denomina  de  "constitucionalismo transformador", trazendo a possibilidade de recuperação da cidadania anestesiada ou passiva, transformada em uma cidadania ativa, como exercício de direitos humanos/fundamentais, amplicando-se o acesso das parcelas vulneráveis da população em organismos de checagem de avaliações dentro de organismos independentes que sejam responsáveis por auditorias.

Trata-se de uma renovação do pensamento jurídico à luz de uma Teoria (Fundamental) do Direito digital e da inteligência artificial, a fim de se possibilitar um maior respeito aos Direitos Fundamentais/Humanos, voltando-se a uma visão  dinâmica  do  ordenamento  juri'dico,  a  partir  de  uma  consideração  contextualizada,  caso  a  caso, assegurando-se um procedimento isento, de modo a alcançar decisões aptas a equalizar todos os interesses e/ou valores em conflito, trazendo harmonia e uma solução segura e justa, ante as múltiplas possibilidades de solução.

Neste sentido a importância do princípio da proporcionalidade e da ponderação no caso de colisões de normas de direitos fundamentais, diante de conflitos nas áreas de proteção de dados e diante de aplicações de inteligência artificial. Tal fase e análise estará obrigatoriamente presente dentro da metodologia de um Relatório de Impacto de Direitos Humanos e Fundamentais de aplicações de IA, assim como se faz presente no Relatório de Impacto de proteção de Dados e na Avaliação do Legítimo Interesse.