sábado, 20 de agosto de 2022

COLUNAS

  1. Home >
  2. Colunas >
  3. IA em Movimento >
  4. IA e humanidades: desafios e oportunidades diante dos novos hibridismos e da tecnodiversidade

IA e humanidades: desafios e oportunidades diante dos novos hibridismos e da tecnodiversidade

terça-feira, 22 de fevereiro de 2022

Atualizado em 21 de fevereiro de 2022 15:36

Da mesma forma que importa perguntar porque regular a inteligência artificial, nos cabe questionar o que é ética e o porquê da ética na sua relação com a IA. Os problemas relacionados à IA impõem um diálogo constante entre o Direito, a Filosofia (Ética) e a Tecnologia, já que estamos tratando de temas com características como a da transversalidade, sendo imprescindível a aproximação de campos científicos não jurídicos, resultando numa espécie de equivalente atual do que outrora, ainda há pouco, foi o direito ambiental.

Do que se trata, afinal, é de repensarmos a relação entre as diversas disciplinas e saberes, e de rediscutirmos a inter e a transdisciplinaridade em novas bases diante da dissolução das fronteiras entre as exatas e as humanidades, a exemplo do que ocorre com o Direito Digital, por meio do desenvolvimento de uma teoria inclusiva e democrática, de uma Teoria Fundamental do Direito Digital e da Inteligência Artificial, aplicando-se a tais temáticas a Teoria dos Direitos Fundamentais, de forma a propiciar uma adequada proteção aos direitos fundamentais ("Teoria inclusiva dos direitos fundamentais e direito digital", Paola Cantarini e Willis S. Guerra Filho). 

Vivemos na fase da hiperhistória ou pós-história (Vilém Flusser), na sociedade e economia de dados característica da era da 4ª revolução industrial, da indústria 4.0 ou era do silício, ocorrendo a dependência de nosso bem estar das tecnologias da informação e comunicação, o que diferencia da fase histórica antecedente, na qual indivíduos apenas se relacionavam com tais tecnologias (Luciano Floridi), sem que estivéssemos ainda possuídos por o que se pode chamar de "infomania" (Byung-Chul Han).

A tecnologia e em especial a IA como a mais disruptiva das tecnologias, e a cada dia sendo mais utilizada, produzem efeitos em todos os setores sociais, na cultura, no ser humano, em nossas subjetividades, e no conceito de ser humano, e com isso no conceito do que significa continuar sendo humano, diante dos novos hibridismos e agenciamentos que surgem na interação tecnologia-humanos.

As tecnologias da informação e comunicação se tornam forças ambientais, antropológicas, sociais e interativas, criando e moldando nossa realidade e autocompreensão, modificando a forma como nos relacionamos uns com os outros e com nós mesmos, e a forma como interpretamos o mundo. Surge o po's-humano, transformando a forma como nos relacionamos com o nosso em torno, vivendo em espaços com a abolição da distância, surgindo a paradoxal "simultaneidade da presenc¸a e ause^ncia, presenc¸a ausente, ou ause^ncia presente".  

Nos cabe indagar: os desafios da IA para a ética e o direito serão resolvidos pela própria tecnologia?

O "logos", a linguagem é nossa casa, e esta forma de pensamento reflexivo, criativo, imaginativo e sensível traz um tipo de reflexão impossível às máquinas, já que estas se concentrariam em oferecer respostas com base em regras. Mas o mais importante é saber fazer as perguntas corretas e que interessam, tais como, como queremos viver, o que nos é importante como sociedade? O que significa ser, o que significa ser humano no futuro? Qual o futuro do trabalho na sociedade datificada? Como será o advogado do futuro e quais novas habilidades deverá desenvolver? 

A preocupação com a ética na área da inteligência artificial estaria já com seus dias contados, diante da possível ocorrência da "lavagem ética" e da insuficiência dos princípios éticos? Ocorreria a lavagem ética quando as empresas acabam desvirtuando a atenção acerca da necessidade também de uma regulação jurídica na área da inteligência artificial, ao afirmarem ser suficiente apenas um código de condutas, o que de certa forma não contribuiria para a resolução dos problemas, já que não há a necessária imparcialidade e coercitividade como no caso da heterroregulação, muitas vezes não passando de uma carta de boas intenções. 

Diante de tais problemáticas, fala-se no fim da era dos códigos de conduta (Luciano Floridi, "The end of an era: from self-regulation to hard law for the digital industry"). Jess Whittlestone neste sentido aponta para a urgência de se encontrar maneiras de incorporar a ética no desenvolvimento e na aplicação da IA, embora até o momento o catálogo de princípios éticos elaborados por diversos organismos internacionais e empresas tenha se concentrado em princípios gerais, sem ofertar solução no caso de conflito entre princípios éticos, afirmando a ineficácia dos princípios éticos gerais.

Corrobora tais assertivas o estudo denominado "Inteligência Artificial com Princípios: Consenso de Mapeamento", elaborado pelo Berkman Klein Center for Internet & Society da Harvard Law School traçando um panorama mundial de princípios éticos da IA, concluindo pela existência de uma grande distância entre teoria e prática na articulação dos conceitos e a sua realização concreta; inexistência de elaboração de princípios orientados para aplicações específicas de IA; divergências quanto a conceitos essenciais como, por exemplo, acerca do que se entende por "justiça".

As questões éticas relacionadas com a inteligência artificial, contudo, vão muito além da elaboração de códigos de condutas éticas, de questões atreladas aos veículos automatizados e sua configuração altruísta ou não, no sentido de que vida poupar, ou de configurações de "bots" assistentes pessoais que se relacionam com crianças com aplicações "educativas" voltadas à "ética by design". Neste sentido a aplicação "Pretty Please" embutido no assistente de IA do Google, "ensinando" a criança a melhor se relacionar com seus pais, a exemplo da denominada "politenesse feature", enfatizando a importância do uso das palavras "por favor" e "obrigado" no lugar da predominância de frases impositivas. 

É essencial encontrar alternativas para superar a inefetividade de princípios éticos, bem como a insuficiência de leis principiológicas e a possível ocorrência da lavagem ética de forma a tornar efetiva a regulamentação da inteligência artificial, levando-se em consideração os conceitos de ética digital intercultural, tecnodiversidade, cosmoética, fugindo-se de uma lógica ou viés antropocentrista e eurocêntrico, em atenção, outrossim, às Epistemologia do Sul, considerando-se o sul como categoria epistemológica e não geográfica (Boaventura de Souza Santos). 

A IA vem sendo utilizada para a criação de perfis de publicidade direcionados a cada tipo de personalidade analisada (profiling), elaborando-se scores pelos sistemas de proteção ao crédito, bem como em policiamento preditivo, utilizando-se das análises de tendências via Big Data Analytics, construindo-se estratégias individualizadas, influenciando a opinião e atitudes públicas, além da tecnologia relacionada ao microtargeting, fundamental quando se fala em sistema eleitoral atualmente.

Há um forte impacto da IA na área trabalhista, relacionando-se com o termo "algocracia", traduzindo-se nos efeitos dos algoritmos no campo das relações de trabalho, envolvendo as temáticas da governança de algoritmos. É crescente a utilização da IA na área de recrutamento e seleção, denominado de "recrutamento inteligente", com a utilização de plataformas tecnológicas especializadas no processo seletivo, denominadas de HR Rechs (Human Resources). Com isso afirma-se que são evitados critérios subjetivos ou pessoais na escolha de candidatos, evitando-se, pois, viés (bias), pautando-se em uma neutralidade axiológica, imparcialidade e na redução de erros na triagem dos candidatos (people analytics).

Como a IA irá afetar o futuro do trabalho? Grande parte da população sem condições pessoais, econômicas, e sem tempo para se adaptar as novas oportunidades de emprego viverá como uma classe considerada inútil, diante do massivo desemprego gerado pela substituição de funções desempenhadas por humanos por máquinas. Com isso haverá um enorme tempo em disponibilidade que poderá ser utilizado como ócio criativo em realidades virtuais que ampliam a gamificação da vida, em um eterno mundo virtual, onde tudo é possível e todos os desejos são realizados a um só click, como no caso do metaverso. 

Como se dará a proteção aos direitos fundamentais e humanos e à dignidade humana no metaverso, ao trazer uma maior ou nova vulnerabilidade, diante da maior possibilidade de manipulação comportamental e emotiva, além de uma extraordinária quantidade de dados pessoais coletados e tratados, nem sempre de forma transparente, perceptível ou informada, envolvendo o conceito de captologia.  

Bem vindos ao Congresso Futurista do Real, para aludirmos a dois filmes de ficção científica distópica, o mais conhecido Matrix e menos conhecido, mas não menos importante Congresso Futurista.

O termo captologia foi cunhado em 1990 pela primeira vez por B.J. Fogg, durante seu doutorado na Universidade de Stanford/EUA, e criação do Laboratório "Persuasive Tech Lab", relacionando-se com a manipulação do comportamento humano por meio de tecnologias com potencial persuasivo. Ocorre o incremento de tal potencial em raza~o da utilizac¸a~o do big data e machine learning, por sua característica da ubiquidade e técnica interativa, sem possibilitar a percepção e cognição do seu uso e de suas consequências, diferenciando-se neste aspecto dos meios de comunicação social tradicionais que se utilizavam de táticas de manipulação comportamental, mas sem conseguir produzir um resultado personalizado.

A ética significa em seu sentido grego original "postura", traduzindo em uma postura em relação à vida, a favor da vida, relacionando-se com a postulação epistemológica com fundamento nos valores da "poiesis", e, pois, da poética e da erótica ("Teoria Erótica do Direito", "Teoria Poética do Direito"), no sentido de abraçar a criatividade, a sensibilidade, a imaginação, e o que há de melhor e de pior no ser humano, pois justamente isso que nos faz humanos. Longe de uma busca pela perfeição, beleza, imortalidade e eficiência, objetivos mencionados pela proposta do transhumanismo, de forma a alcançar o crime perfeito: a morte da morte, chegando-se ao "Homo Deus".

Apesar de alguns filósofos apontarem, a exemplo de Heidegger, para o fim da filosofia após Hegel, é essencial a recuperação do pensamento reflexivo, crítico, interdisciplinar, zetético, indo além de um pensamento reprodutivo de uma série de informações, obtidas em escala crescente, havendo uma relação antípoda entre informação e comunicação, isto é, quanto mais informação menos comunicação e compreensão, diante da inexistência de tempo e de silêncio. As coisas estão dando lugar às informações (Vilém Flusser), surgindo a era das não coisas (Byung-Chul Han). 

Antecipar princípios éticos poderá servir para influenciar o design ético da tecnologia, quando valores são designados no design da tecnologia, "ethics by design". As regulações europeia, canadense e americana ao aprovar os princípios para os desenvolvedores de aplicações de IA, com vistas ao estabelecimento de "framewoks" , trazem os conceitos de "responsabily-by-design", "privacy-by-design" e "security-by design". Trata-se da  necessária construção de um sistema de proteção proativo, abrangente e sistemicamente seguro, uma proteção sistêmica, envolvendo a proteção desde a concepção tecnológica ("protection by design"), por meio da criação de arquiteturas de decisão adequadas à proteção com o auxílio da concepção e de ferramentas tecnológicas, implementando-se a segurança ("security by design"), envolvendo a transparência do design tecnológico (projeto técnico) e dos algoritmos de IA, e não apenas no tratamento de dados pessoais. 

Passa-se do paradigma da autodeterminação informativa para uma arquitetura de gerenciamento de riscos, sendo tal modificação atrelada à abordagem via risquificação, adotada na nova regulamentação da EU, o "AI Act", e no anterior "White Paper on AI", trazendo diversos níveis de risco quanto a aplicações de IA. Um dos pontos a se refletir é se um patamar estabelecido a priori e de forma fixa quanto aos diversos níveis de risco, e não uma abordagem mais flexível, diante do caso concreto, seria a melhor abordagem.

Ao invés de pensamos acerca da essência da técnica objeto de reflexões por parte de Heidegger desde 1949 ("A questão da técnica"), em um sentido apenas distópico, como parte dos dispositivos do biopoder ou do capitalismo de dados, visa-se refletir acerca da tecnodiversidade e da cosmotécnica, reconhecendo a existência de um pluralismo tecnológico e ontológico (Yuk Hui), repensando-se a descolonização a partir da perspectiva da tecnopolítica. 

Trata-se da insuficiência de uma visão apenas eurocêntrica e antropocêntrica para se pensar acerca da IA, tal como se verifica a exemplo das próprias Declarações Universais dos Direitos Humanos construídas sob uma ótica hegemônica ocidental, não considerando as contribuições das Epistemologias do Sul. Há uma crise quanto aos direitos humanos, e um retrocesso em termos de conquista de direitos e preocupações humanitárias, a exemplo da Declaração de Filadélfia e de Marrakesh, enfatizando-se uma concepção proprietária e econômica do trabalho, considerando como mercadoria, relegando a um segundo plano os direitos sociais, sendo corroborada pela recente jurisprudência "Viking"da Corte Europeia (Processo C-438/05, International Transport Workers' Federation, Finnish Seamen's Union contra Viking Line ABP).

Seria um retorno sub-repti'cio ao sistema feudal, ao reino da personalidade das leis, ocorrendo a pulverizac¸a~o dos direitos humanos? A pec¸a de teatro "O Rei da Vela" de Oswald de Andrade, em cartaz em 2018 no TreatroOficina, dirigido e atuado por Jose' Celso Martinez Correa, apo's sua estreia e temporada origina'rias meio se'culo antes, um divisor de a'guas na histo'ria de nossa dramaturgia, em pleno regime ditatorial, traz a visão do Brasil como um pai's feudal, onde o cobrador do a'gio vira rei da vela ao explorar a pobreza dos devedores negociando os juros da dívida com um chicote. 

É o reflexo da existência de um mercado legislativo planeta'rio, com as tradic¸o~es juri'dicas sendo postas em concorre^ncia umas com as outras, potencializado pela instrumentalizac¸a~o do Direito pelo ca'lculo, pela estati'stica, pelo pensamento cartesiano que entende ser suficiente a matematização do mundo.

Daí se falar da necessidade de uma nova compreensão e da reinvenção dos Direitos Humanos, no sentido de integrar a diversidade cultural e as diversas concepções de justiça e de dignidade humana, a exemplo, das noc¸o~es de "dharma" Hindu, de "umma" isla^mica, de "pachamama" ou o "buen vivir" dos povos indi'genas da Ame'rica Latina, do "ubuntu africano", do "Sumak Kawsay", do "Sumak Qamana~", a partir de uma nova concepc¸a~o de comunidade, como na Constituic¸a~o do Equador de 2008, à luz do constitucionalismo transformador. 

Tais propostas refletem o respeito à diferença, o respeito pela igualdade na diferenc¸a, por meio de um processo poli'tico participativo, trazendo a possibilidade de recuperac¸a~o da cidadania anestesiada ou passiva, transformada em uma cidadania ativa, como exerci'cio de direitos humanos, com destaque para a importância dos partidos-movimento, ou movimento-partidos, os protestos multitudina'rios globais como novos ativismos, movimentos multissetoriais, "multido~es inteligentes", ou "smart mobs", como o partido "Aam Aadmi Party" (AAP) em Nova Delhi, o "5 Stelle" na Ita'lia, o "Podemos" na Espanha e o movimento "Primavera A'rabe". Outros movimentos paradigma'ticos sa~o os na A'frica do Sul denominados "(hashtag)RhodesMustFall" e "(hash- tag)FeesMust-Fall", movimentos populares na Ame'rica Latina, relacionados ao direito a` educac¸a~o, tais como, os protestos estudantis no Chile, as novas demandas por universidades no Equador, as experie^ncias com instituic¸o~es e conhecimentos indi'genas nos Andes, e a ocupac¸a~o de escolas por estudantes secundaristas no Brasil. 

Uma renovação do pensamento jurídico à luz de uma Teoria (Fundamental) do Direito digital e da IA, a fim de se possibilitar um maior respeito aos Direitos Fundamentais, voltando-se a uma visa~o dina^mica do ordenamento juri'dico, a partir de uma considerac¸a~o contextualizada, caso a caso, assegurando-se um procedimento isento, de modo a alcanc¸ar deciso~es aptas a equalizar todos os interesses e/ou valores em conflito, ante as mu'ltiplas possibilidades de soluc¸a~o. 

Uma filosofia da IA com base nos valores do "homo poietico", uma filosofia liberta do binômio aprisionador sujeito-objeto, comprometida com o múltiplo e o acategórico, no sentido de libertar a diferença, que é o elemento essencial quando se fala em recuperação de diversas características essencialmente humanas. Uma leitura e compreensão poéticas, que levem em conta o não dito, o resto, a heterotopia no sentido foucaultiano, um espaço-outro (Tese de doutorado em Filosofia, Paola Cantarini, PUCSP, 2021, "O teatro Filosófico de Foucault e o Direito"). 

Foucault valoriza a fluidez e a "sfumato poética", técnica utilizada para as pinturas, criando-se uma zona indistinta, provocando uma vibração emotiva que instaura uma atmosfera propícia ao poético, valorizando a energia não verbal, conferindo à experiência estética e ao imaginário um papel privilegiado. No lugar da pretensão de clareza e objetividade, em um discurso neutro e inodoro, típicos do pensamento científico do cálculo, que se tenha a "obscuridade púrpura". 

Tal proposta hermenêutica visa alcançar a perspectiva poética, e não linear, não bidimensional, não polarizada, mas holística e inclusiva, e a favor de se repensar as ambivalências e contradições, voltando-se para uma compreensão que passa pelo pensamento filosófico polifônico, do múltiplo, como uma pragmática do múltiplo, um pensamento plural, aproximando-se do que Luciano Floridi (The Logic of Information: A Theory of Philosophy as Conceptual Design) aponta como uma lógica de design a ser desenvolvida, como fundamento de uma Filosofia da IA, com base nos valores do "homo poietico". Uma mudança de uma compreensão do conhecimento representacionalista (mimético) para um construcionista (poiético), da mimesis à poiesis, numa interpretação poiética dos nossos conhecimentos, desenvolvendo uma lógica de "fazer", de design dos artefatos semânticos para os quais nós somos epistemicamente responsáveis.