Terça-feira, 22 de janeiro de 2019

ISSN 1983-392X

Por quê precisamos de uma agenda para discutir algoritmos?

sexta-feira, 28 de outubro de 2016

Algoritmos são fórmulas bastante complexas que representam regras, raciocínios ou operações que, aplicados a um certo número de casos, permite resolver problemas semelhantes. Você pode até não saber, mas eles são onipresentes em nossas vidas nos auxiliando encontrar rotas para chegarmos aos lugares onde queremos, selecionando músicas que nos agradam com base no que já ouvimos antes, entre outras funcionalidades.

Por outro lado, eles têm sido utilizados para informar decisão fundamentais em nossas vidas. Há empresas que os utilizam para classificar currículos de candidatos a uma vaga de emprego, outras para ranquear os melhores pagadores e fornecer (ou não) crédito bancário. Até mesmo tribunais já os utilizam, como recentemente se viu em Winsconsin. A Suprema Corte de lá validou uma sentença que havia condenado um homem a uma pena de seis anos de prisão e que, para isso, considerou a análise preditiva do software COMPASS baseada em antecedentes criminais, idade, vida social, nível de escolaridade, utilização de drogas, vínculos sociais, entre outros. Ocorre que o algoritmo é sigiloso e impediu que os advogados contestassem adequadamente seus resultados.

Parece surpreendente? Cada vez mais nos depararemos com situações assim haja vista o surgimento dos carros autônomos, por exemplo.

Fato é que discussões sobre a responsabilidade e transparência no uso de algoritmos ainda são incipientes no Brasil.

Embora fundamentais para a construção da atual sociedade digital, não são comumente auditados e habitam o ordenamento jurídico sem que normas possam reger sua utilização e transparência. Não há, igualmente, diretivas sobre melhores práticas. É, portanto, fundamental haver um diálogo global entre as empresas que se valem deste tipo de tecnologia, consumidores e os reguladores com vistas a garantir que os direitos dos cidadãos sejam devidamente protegidos e que as análises possam ser contestadas.

A conjuntura tecnológica tem rapidamente sido alterada com o advento de poderosíssimos computadores e algoritmos que caminham para um impressionante desenvolvimento de inteligência artificial. Não nos resta qualquer dúvida de que a inteligência artificial revolucionará a prestação de serviços e também a indústria. O problema é que questões éticas precisam ser urgentemente pensadas e discutidas. Ou vamos simplesmente admitir que máquinas nos julguem em processos judiciais? Ou que decidam quem deve viver ou morrer em situações de acidentes que poderiam sofrer intervenções de algum equipamento tecnológico, como os carros autônomos?

A questão transcende e transcenderá a preocupação com quais dados são coletados dos consumidores para se questionar como estes dados são utilizados pelos algoritmos. Apesar da existência de algumas normas protetivas do consumidor, não há mecanismo efetivo disponível a eles que lhes digam, por exemplo, se foram discriminados automaticamente tendo negados empréstimos ou empregos.

Por outro lado, as empresas obviamente têm grande interesse que eles sejam mantidos sob absoluto sigilo porque representam, sob outra ótica, segredos comerciais valiosíssimos e essenciais para os negócios digitais. É este abismo entre o desconhecimento do consumidor e o sigilo das empresas que precisará ser melhor debatido para que se garanta a transparência necessária para assegurar que qualquer processo de tomada de decisão que afeta significativamente os cidadãos não seja simplesmente terceirizada para máquinas.

Recentemente alguns gigantes da tecnologia como o Google, Facebook, Microsoft, Amazon e IBM lançaram uma parceria para tratar de inteligência artificial e como ela poderá afetar e beneficiar as pessoas e a sociedade. Apesar do esforço das referidas empresas, isso ainda não é o suficiente para que a questão dos algoritmos, da inteligência artificial e da ética seja considerada resolvida. A autorregulação não é o bastante para garantir a devida transparência, o que deveria ser feito por alguém absolutamente imparcial.

As ponderações sobre o uso e transparência dos algoritmos transitam por assuntos naturalmente polêmicos como a liberdade de expressão, a concorrência desleal, a privacidade, a democracia e a confiança nas sociedades permeadas pela tecnologia. Indiscutível, portanto, a urgência da criação e disseminação de uma agenda para a sua discussão com vistas a alcançar um equilíbrio entre a transparência para os consumidores e a garantia da inovação para as empresas.

Coriolano Aurélio de Almeida Camargo Santos

Coriolano Aurélio de Almeida Camargo Santos é Ph.D. Advogado. Diretor Titular Adjunto do Departamento Jurídico da FIESP. Conselheiro Estadual eleito da OAB/SP (2013/2018). Presidente da Comissão de Direito Digital e Compliance da OAB/SP. Mestre em Direito na Sociedade da Informação e certificação internacional da "The High Technology Crime Investigation Association (HTCIA)". Doutor em Direito com certificado internacional em Direito Digital pela Caldwell Community College and Technical Institute. Professor e coordenador nacional do programa de pós-graduação em Direito Digital e Compliance da Faculdade Damásio. Professor convidado dos cursos de pós-graduação da USP/PECE, Fundação Instituto de Administração, Univeridade Mackenzie, Escola Fazendária do Governo do Estado de São Paulo Fazesp, Acadepol-SP, EMAG e outras. Desde 2005 ocupa o cargo de juiz do Egrégio Tribunal de Impostos e Taxas do Estado de São Paulo. Professor convidado do curso superior de Polícia da Academia de Polícia Civil de São Paulo. Professor da Escola Nacional dos Delegados de Polícia Federal - EADELTA.

Marcelo Crespo

Marcelo Crespo é sócio no Patricia Peck Pinheiro Advogados. É doutor e mestre em Direito Penal pela USP, com especialização em Direito Penal e também em Segurança da Informação pela Universidade de Salamanca. É Certified Compliance and Ethics Professional International (CCEP-I) pela Society of Corporate Compliance and Ethics (SCCE). É, ainda, coordenador do curso de pós-graduação em Direito Digital e Compliance no IBMEC Damásio e professor na Faculdade de Direito de Sorocaba, onde coordena grupo de estudos em Direito, Tecnologia e Inovação. Também é autor de diversos artigos sobre Direito Digital e colunista do Observatório do Marco Civil da Internet – OMCI.