Smartphone, smart watch, smart tv, smart contrat, smat toys, smart house, smart city. essas são algumas das expressões que se tornaram comuns em nosso dia a dia.

Utilizada para designar aparelhos ou conjunto de coisas que têm uma tecnologia denominada de Inteligência Artificial (IA), se tornaram tão comuns, para uma parcela da sociedade, que muitas vezes não nos damos conta do quão próxima essa tecnologia está de nós. O indivíduo interage tanto com esses aparelhos que, muitas vezes, questiona-se a sua evolução sem perceber que estão presentes em nossa sala, quarto, bolso e mesmo grudada em nossos corpos.

Principalmente nos últimos anos, muito se tem falado na evolução obtida por grandes empresas e também por startups¹, na criação de algoritmos² que permitem que máquinas realizem tarefas antes realizadas pelo ser humano e agora executadas com muita precisão por esses sistemas.

Interessante apontar que em um país onde temos mais de 6,8% de pessoas acima de 15 anos que não sabem ler e escrever (por volta de 11,3 milhões de pessoas)³ e aproximadamente 30% de analfabetos funcionais⁴, não nos espanta a metodologia de dar conhecimento às máquinas.

Isso porque a maneira de tornar um sistema inteligente é justamente fazendo um treinamento para que ele saiba o que é correto ou incorreto, o que deve ou não fazer, apontar exemplos para que ele saiba diferenciar imagens, inserir palavras para que ele possa desenvolver textos, mostrar diferentes idiomas para que ele possa fazer traduções... dentre muitas outras coisas que podemos ensinar. Semelhante a algo que fizeram conosco, não acha?

Inegável que essa tecnologia vem trazendo inúmeros benefícios e sua utilização vem sendo ampliada de forma exponencial. Sobretudo durante a pandemia da Covid-19 pudemos observar a utilização de robôs e drones⁵ que permitiram o distanciamento de pessoas de grupos com probabilidade de estarem infectados, sistemas integrados de diagnósticos que analisam padrões de radiografias e tomografias para determinar se a doença está desenvolvendo ou mesmo encontrar o seu padrão evolutivo, consulta e acervos científicos com uma velocidade inigualável e que nunca seria alcançada pelo homem.

Cirurgias realizadas por robôs, com ou sem o auxílio do médico, já são uma realidade e geram vários impactos positivos e/ou negativos, pois podem permitir que um procedimento seja realizado por um especialista que esteja em um continente diferente do paciente, contudo pode possibilitar fragilidade das informações transmitidas pelo sistema informático, inconsistências de comunicação ou mesmo invasões que resultariam em um dano grave ou até mesmo na morte do paciente.

Para que a Inteligência Artificial se desenvolva é necessário a inserção de dados, informações para que esses sistemas sejam abastecidos de "conhecimento", muitas vezes entregues por nós sem entender o valor que eles possuem. Afinal, isso inclui desde uma foto ou uma digital até suas orientações partidárias ou sexuais.

Nossos dados são coletados a todo momento sem uma clareza da sua utilização. É possível que ele seja utilizado por um sistema que busca a cura para determinado tipo de câncer ou para direcionar propagandas de departamentos comerciais às suas redes sociais, ou quem sabe, para controlar de forma efetiva a sua bolha social⁶.

Porém, para melhor entendimento, normalmente é colocado em comento situações que julgamos mais concretas, como no caso em que haja decisões autônomas tomadas por máquinas, onde ocorram lesões concretas, como a colisão de um carro inteligente⁷ ou a queda de um avião não tripulado, justamente por nesses casos haver um dano aparente.

Interessante apontar, que já é cediço que o número de acidentes que são causados, em sua maioria, pela ação imprudente, negligente ou imperita do ser humano, bem como por razões fisiológicas⁸ reduziria de maneira acentuada com a utilização de um veículo automotor autônomo. Contudo, passaríamos a nos preocupar com outras questões importantes para a segurança de motoristas e passageiros, como, por exemplo, a invasão dos sistemas por terceiros.

Isso sem entrarmos na relevante questão da tomada de decisão pelo veículo autônomo, em casos que envolvam risco concreto de lesão ou morte de um humano. Como direcionar a tomada de decisão nesses casos? O programador, o fabricante, o usuário final ou a própria máquina deveriam decidir sobre quem deve ser lesionado em casos inevitáveis de colisão com terceiros?⁹

Por mais que sejam elencadas vantagens da utilização de veículos que não necessitam de condutor é importante não se enganar, afinal, é comum que o desenvolvimento desse tipo de tecnologia tenha um viés econômico, já que as empresas desenvolvedoras dessa tecnologia¹⁰ tem a intenção de ampliar o seu faturamento com a utilização de transportes públicos que não envolvam o custo dos motoristas. Desta maneira os carros de propriedade destas marcas possibilitarão mais lucro, bem como a possibilidade de negociar a utilização dos carros comprados pelo consumidor final, por certo percentual, para ampliar sua própria frota, ao argumento da utilização deste carro nos momentos em que estaria parado, gerando um duplo ganho ao desenvolvedor.

A coleta de dados, até para permitir a ação do sistema autônomo de direção, também é intensa (os carros são dotados de câmeras, microfones, sensores, acesso ao GPS, celular, dentre outras), e não sabemos como pode ser utilizada pelos detentores dessas informações.

Tal preocupação com essas informações vem, mais uma vez, da utilização dos algoritmos, que dão base para todo o funcionamento da IA. O tratamento automatizado destes dados tende a exercer controle sobre pessoas ou grupos, sem o devido esclarecimento do que ocorre dentro da caixa preta¹¹ que processa essas informações.

Isso quer dizer que várias definições consideradas subjetivas e feitas por uma pessoa de carne e osso (se é que isso ainda pode ser característica para dizer que a pessoa é humana) passam a ser realizadas por sistemas computacionais. Ou seja, em breve a definição de quem é melhor para uma vaga de emprego; de quanto tempo uma pessoa que infringiu a lei deve ficar preso; se o solicitante merece ou não aquele crédito para realização de um sonho; serão feitas por uma regra matemática que não temos ideia de qual seja.

E o que se começa a perceber é uma possível existência de vieses destes sistemas, onde, por exemplo, o machismo e o racismo estrutural continuam se fazendo presentes, tanto de maneira implícita quanto explícita.

Destaca-se situações de não reconhecimento facial de pessoas negras ou de ampliação da sugestão quantitativa de pena para pessoas dessa raça, não identificação de rostos femininos ou mesmo a negativa de crédito devido a origem do seu nome, principalmente se esse tiver raízes no continente africano.

A chamada mineração de dados¹², que é a forma como sensores ou demais formas de conexões que capturam os dados a serem utilizados para o funcionamento dos sistemas artificiais de inteligência, acontece a todo momento e vem evoluindo para que ocorra de maneira mais direta e fidedigna, havendo projetos que visam captar ondas celebrais para saber a reação do indivíduo ao navegar em sua rede social.

Quanto mais coisas¹³ temos conectadas e transmitindo informações, mais dados circulando e permitindo com que o detentor dessas informações gere perfis de grupos ou de indivíduos, segmentando ou manipulando suas interações, direcionando ao seu desejo, podendo ser esse político, de consumo¹⁴ ou ideológico.

Ocorre neste caso uma possível estigmatização de pessoas ou grupos, que é feita por algoritmos que não temos ideia de como funcionam. O número elevado de informações pode levar aos conceitos que ampliam o preço de mercadorias ou serviços para determinadas pessoas ou mesmo que impeçam a oferta de outras para determinadas regiões. Falhas ou predisposição desse sistema pode impedir a entrada ou saída do país pelos traços do rosto ou pelo comportamento "suspeito" acompanhado pelas câmeras do aeroporto.

O corpo eletrônico construído através desta interação com o meio virtual acaba por nos dar uma nova personalidade que pode se opor a pessoa real, trazendo muitas vezes uma interferência significativa na interação desse indivíduo, já que quase sempre o que é mais exposto à sociedade é sua versão digital, as informações colhidas e exposta tem a possibilidade de restringir sua autonomia¹⁵.

Nesse ponto, considero importante salientar que a tecnologia não é vilã. Os avanços alcançados pelo desenvolvimento da IA nos permitiram melhorar a qualidade de vida de diversas pessoas, assim como o alcance de informações anteriormente restritas, a análise de uma quantidade inimaginável de documentos e produções cientificas, o aumento da produção de produtos industriais e alimentos, dentre muitos outros avanços.

Cabe questionar se o custo desse avanço é ou não elevado. O pensamento crítico para a evolução tecnológica se torna mais necessário quando se indaga a regulamentação legislativa dessas atividades, que demostram a cada dia mais que o direito sozinho não é capaz de enfrentar esse desafio.

Há algum tempo técnicas de compliance vêm sendo introduzidas na administração pública, inclusive na tentativa de modernizar e tornar os governos mais eficientes e digitais¹⁶, também numa clara expectativa de que esse movimento traga reflexos para o legislador.

Verifica-se essa tendência, inclusive, na nossa Lei Geral de Proteção de Dados (LGPD)¹⁷, que nitidamente busca com que aqueles que façam coleta e tratamento de dados pessoais adotem um comportamento de gestão das informações e controle que permitam que todos os envolvidos tenham ciência da importância de seguir o regramento legal, bem como criar uma cultura de cuidado.

Contudo, o desenvolvimento adequado da Inteligência Artificial perpassa por uma necessária interferência da bioética, para uma adoção prática do comportamento dentro de padrões aceitáveis e inclusivos, seja pelo engenheiro que programa o algoritmo, pela equipe responsável pela inserção de dados para o treinamento da tecnologia, pelo gestor dos grandes arquivos de dados ou seja pelo usuário final.

Ademais, a diferente implementação dessa tecnologia nos países com baixo desenvolvimento socioeconômico demanda atenção redobrada dos bioeticistas, pois o controle realizado sobre o indivíduo e a substituição do trabalhador pela máquina tendem a gerar ainda mais impacto, pela discrepância no acesso às tecnologias e principalmente pelo baixo investimento em educação formal e digital para a qualificação da população.

Ou seja, importante fazer com a que a tecnologia sirva ao homem, de uma maneira ética e despretensiosa, na busca do desenvolvimento sustentável e diminuição das diferenças existentes entre os povos. Assim, é possível arguir que o grande dilema, creio eu, não é descobrir se seremos totalmente substituídos pela máquina, mas sim, se continuaremos criando robôs que são a nossa semelhança e refletem a ganância e o preconceito da maioria de nós.

*Willian Pimentel é pós-graduando em Direito Digital pelo ITSRio/UERJ. Graduado em Educação Física. Graduando em Direito. Membro Pesquisador do Grupo de Estudos e Pesquisa em Bioética (GEPBio) do Centro Universitário Newton Paiva.

__________

1 Essa é uma designação dada para empresas inovadoras com rápido crescimento e cujos modelos de negócios podem ser replicados, indicando uma empresa relativamente recente. 

2 Em definição livre, podemos dizer que os algoritmos é uma sequência finita de ações executáveis que visam obter uma solução para um determinado tipo de problema. 

3 Segundo informa o Instituto Brasileiro de Geografia e Estatística (IBGE). 

4 A ONG Ação Educativa e o Instituto Paulo Montenegro desenvolveram e vêm realizando desde o ano 2001, em parceria, o Indicador de Alfabetismo Funcional (Inaf), um estudo para medir os níveis de Alfabetismo da população brasileira de 15 a 64 anos. Podendo ser acessado aqui. 

5 O drone é um veículo aéreo não tripulado. Pode ser controlado remotamente ou, com a evolução tecnológica, fazer deslocamentos de forma autônoma. 

6 Conjunto de pessoas que compartilham os mesmos hábitos, valores, culturas, dentre outros. 

7 Filipe Medon define "um veículo com completamente autônomo (Nível5), quando ele é capaz de desempenhar a tarefa de direção dinâmica (DDT) de maneira completa, bem como assumir uma DDT fallback sem qualquer limitação de design, isto é, em qualquer hipótese que um condutor humano seria capaz de performar". MEDON, Filipe. Inteligencia Artificial e Responsabilidade Civil: autonomia, riscos e solidariedade. Salvador. JusPodivm. 2020. p. 161. 

8 Sono, embriaguez e desatenção podem ser considerados como determinantes fisiológicos. 

9 Sobre esse tema recomenda-se a leitura do item 2.1.4 da obra MEDON, Filipe. Inteligencia Artificial e Responsabilidade Civil: autonomia, riscos e solidariedade. Salvador. JusPodivm. 2020. 

10 Atualmente as empresas Uber e Tesla são noticiadas como as principais desenvolvedoras e investidoras na produção de carros autônomos. 

11 Seguindo a linha de outros autores brasileiros, que estudam o tema, recomenda-se a leitura de V.PASQUALE, Frank. The Black Box Society. The Secret algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015. Ainda não traduzida para o português. 

12 Mineração de dados é o processo de descobrir conhecimento e padrões interessantes a partir de grandes quantidades de dados. As fontes de dados podem incluir bancos de dados, armazéns de dados, a internet, outros repositórios de informações ou dados que foram transmitidos ao sistema dinamicamente. MAGALHÃES, José Davi. Design de interação e mineração de dados: revisão sistemática e desdobramentos futuros. 2019. 89 f., il. Dissertação (Mestrado em Design)-Universidade de Brasília, Brasília, 2019. 

13 Sobre o tema, recomenda-se a leitura de MAGRANI, Eduardo. A Internet da Coisas. Rio de Janeiro: FGV Editora, 2018. 

14 BIONI, Bruno Ricardo. Proteção de dados pessoais; a função e os limites do consentimento. Rio de Janeiro, Forense, 2020. 2 ed. 

15 RODOTÀ, Stefano. A vida na Sociedade da Vigilância - a privacidade hoje. Organização, seleção e apresentação de Maria Celina Bodin de Moraes. Tradução: Danilo Doneda e Luciana Cabral Doneda - Rio de Janeiro: Renovar, 2008. 

16 Sobre esse tema relevante a leitura de FALEIROS JUNIOR, José Luiz de Moura. Administração pública digital: proposições para o aperfeiçoamento do Regime Jurídico Administrativo na Sociedade da Informação. Indaiatuba, SP, Editora Foco, 2020. 424 p. 

17 Lei Federal nº 13.709/2018 que pode ser acessada aqui.