jusbrasil.com.br
20 de Fevereiro de 2020

É Preciso Evolução Na Inteligência Artificial?

Mecanismos de inteligência artificial são bons, mas nem tanto.

Raphael Wilson L. Stein, Bacharel em Direito
há 6 meses

Em pleno Séc. XXI, estamos cada vez mais conectados com a tecnologia, acompanhando de perto as mudanças e aperfeiçoamento de computadores, telefones celulares, televisores e tudo mais que ela é capaz de atingir.

Dentro desta progressão tecnológica, temos aquilo que se denomina de Inteligência Artificial, conhecida pela sigla IA, que representa uma área da Ciência da Computação.

A Inteligência Artificial nada mais é do que uma criação a partir da tecnologia existente, que visa empregar processos de pensamento, raciocínio e tomada de decisão a mecanismos.

Com este ensinamento, cuja exteriorização chama-se de algoritmo, a máquina se torna capaz de executar determinadas tarefas a partir de processos de aprendizagem com alimentação de dados, Machine Lerning (aprendizado de máquina) e Deep Lerning (aprendizagem profunda).

Em sua seara, a IA é muito densa e abrangente, notadamente por envolver no seu processo de compreensão, construção, aplicação e análise, uma gama de disciplinas, v.g., a neurociência, filosofia, matemática e tantas outras[1].

Ao longo da história tivemos muitos eventos marcantes de mecanismos dotados de inteligência artificial, sendo exemplo a sonda Opportunity, que em 2004 foi enviada pela Nasa à Marte, com intuito de fornecer dados para estudos variados aqui na terra, especialmente sobre a existência/possibilidade de vida no planeta vermelho. A sonda Opportunity operara até 2019.

Na atualidade, a International Business Machines Corporation – IBM criou o mecanismo Watson que já ajuda médicos a realizarem diagnósticos mais precisos e rápidos, máxime no campo da oncologia, com acerto acima dos 90%.

Inclusive, este engenho já tem feito importante registrado no Japão, ao conseguir em 10 minutos diagnosticar um tipo raro de câncer em uma paciente, contrariando anterior diagnóstico médico[2].

A título de informação, o Watson foi implantado no Brasil, junto ao Hospital do Câncer Mãe de Deus, em Porto Alegre, Rio Grande do Sul[3].

Como se vê, estamos vivenciando uma mutação tecnológica irreprimível, cujos avanços vertiginosos expressados nos resultados cada vez mais dinâmicos têm sido acompanhados de perto, e tendem a ser muito do que existirá de inovação no futuro próximo.

Por ser um dos frutos de todo esse avanço, a IA passou a ser formatada para plataformas aplicáveis ao campo jurídico. O sistema Carol, que leva a base do Watson, assessora escritório de advocacia no que tange ao preenchimento de dados processuais, e espera-se que para frente seja capaz de amparar, também, na tarefa de resumir peças processuais[4].

Também com fincas em base tecnológica da IBM, Ross[5][6], intitulado por muitos como o advogado cibernético, é um sistema desenvolvido para consultar milhões de arquivos e responder quais documentos são relevantes para o caso concreto, e isso em poucos segundos.

Não faz muito tempo, a OAB[7] lançou a plataforma gratuita denominada “OABJuris”, para servir como ferramenta rápida e eficiente de pesquisa de jurisprudência com possibilidade de filtragem de resultados desejados por tribunal, relator, ramo do direito, data, com capacidade de auto-aprendizagem.

Diversas instâncias do Poder Judiciário[8] têm aderido à inteligência artificial como forma de melhorar sua automação, e até mesmo para incrementar a sua produtividade decisória frente à infinidade dos acervos de processo, no desiderato de alcançar uma justiça mais célere e funcional.

Neste contexto, é digno de nota que através de mecanismo de IA, o TJ/MG julgou cerca de 280 processos em menos de um segundo em inédita sessão ocorrida perante sua 8ª Câmara Cível, no ano de 2018.[9]

Em parceria com a Universidade de Brasília – UNB, durante a gestão da Min. Carmem Lúcia, o STF lançou mão do programa batizado como VICTOR[10], em homenagem a Victor Nunes Leal, que foi ministro naquela corte na década de 60, e também foi o responsável pela sistematização da jurisprudência no STF através de súmulas.

Dotado de redes neurais, que nada mais são criação de neurônios virtuais similares aos humanos, espera-se que a máquina seja capaz de ajudar imprimindo mais celeridade na tramitação dos feitos, auxiliando ministros em aspectos como a admissibilidade dos recursos extraordinários, e, a depender da sua “acurácia”, nomenclatura que indica a medida de sua eficiência, através de novos aprendizados, poderá ser utilizado em outros Tribunais.

O STJ[11], na gestão do Min. João Otávio de Noronha, lançou mão do projeto-piloto chamado Sócrates, que tem a missão de tentar reduzir em 25% o tempo do processo naquele sodalício do momento da sua distribuição à primeira decisão em sede de Recurso Especial, com fornecimento de informações relevantes sobre o recurso e o acórdão que perfaz seu objeto, apresentando-se ao julgador uma gama de sugestões para decisão.

Mas, mercê da euforia e do entusiasmo que nos chega a partir das janelas que se abrem para aplicação da IA, inclusive no meio jurídico e forense, indaga-se: tal inteligência poderá ser tão boa e proveitosa a ponto de ajudar no progresso humanitário?

Embora a expectativa seja positiva, no desejo forte de que a IA se torne uma sólida ponte para o futuro sonhado com melhorias em todos os sentidos, é preciso cautela na resposta, especialmente quando consideramos que a IA tem sido aplicada em atividades judiciárias.

Deixemos, pois, para responder a pergunta ao final do texto.

A inventividade de uma máquina certamente não é algo simplificado, porque envolve muito conhecimento específico e exaustivos testes no afã de captar o seu nível de eficácia mais seguro.

O complexo trabalho de criação em testilha se torna ainda mais importante quando se objetiva com que máquina aprenda por si própria, e essa é a razão de ser da IA.

Contextualizar tudo isso na imaginação é muito difícil, mas há algo muito claro e de simples percepção: os seres humanos que dão nascimento às máquinas sempre foram susceptíveis ao erro. Afinal, já dizia o ditado que errar é humano.

A falibilidade é um traço indissociável da condição humana, e a mutualidade desse traço nas máquinas é algo incontestável, e talvez essa seja a característica que vincula o homem e a máquina, criador e criação.

As máquinas podem ser melhores do que os seres humanos na execução de algumas tarefas, entretanto, lhes é comum o erro, e, quando o assunto é a IA, é certo afirmar que a qualidade dos dados em seus processos de aprendizagem Machine Lerning e Deep Lerning, será determinante para a sua lisura, e também para identificar seus erros.

Neste contexto, por exemplo, a utilização de dados pautados em critérios do pensamento preconceituoso dos seus criadores e treinadores, fará com o que a máquina adote decisões preconceituosas.

E isso tem nome, ou seja, o erro das máquinas que pode se manifestar de inúmeras formas, denomina-se: “vies algorítmico”.

Como a IA não é nova, subsistem inúmeros exemplos desses vieses algorítimos afetando sistemas e plataformas, em detrimento dos destinatários finais que são os seres humanos.

Todos esses casos podem ser acessados numa rápida pesquisa junto à internet, mas para efeito de enriquecimento deste ensaio um exemplo merece ser dado, e emana dos EUA.

Nos EUA há o sistema COMPAS que é utilizado pelo sistema de justiça criminal para verificar o risco de reincidência dos acusados.

Pesquisa encaminhada pela entidade ProPública relevou que o sistema pendia para classificar negros como maiores reincidente de crimes, do que brancos.[12]

A questão que se coloca não se restringe a um simples prognóstico equivocado, e sim aponta para algo sério, potencialmente injusto e lesivo.

É que as informações prestadas pelo sistema no sentido de classificar negros com maior propensão à reincidência criminal sem critério definido, baseando-se exclusivamente na visão social deturpada dos seus criadores, acredite se quiser, eram tomadas como relevantes à fixação da pena pelos magistrados.

Estados como Arizona, Colorado, Delaware, Kentucky, Louisiana, Oklahoma, Virgínia, Washington e Wisconsin têm essa política criminal através do COMPAS.

O viés do algorítimo do COMPAS foi revelado pela ProPública nos casos de Brisha Borden e Vernon Prater, ela negra e ele branco. Ela foi acusada de roubar uma bicicleta e uma escooter junto com um colega, no valor aproximado de U$ 80,00, e ele foi acusado de roubar ferramentas em uma determinada loja, no valor total de U$ 86,35.

Prater, criminoso experiente, já havia sido condenado anteriormente por assalto à mão armada e tentativa de assalto à mão armada, em relação ao qual cumprira 5 anos de prisão, tendo, ainda, registros de contravenções quando era adolescente.

Ambos foram avaliados pelo sistema COMPAS, sendo que a classificação de Borden foi de que haveria um risco maior de reincidência do que Prater.

Ocorre que tempos depois, em novo processo-crime, Prater foi condenado a 8 anos de prisão, por ter adentrado a um depósito e roubado milhares de dólares em eletrônicos, enquanto que Borden não foi reincidente.

Por conta de problemas como esse, em 2014, o Procurador Geral dos EUA, Eric Holder, pediu à Comissão de Penas dos EUA que estudasse mais afundo os critérios de sistemas como o COMPAS, a fim de evitar injustiças com condenações estereotipadas.

Curiosamente, a resposta da comissão foi de denegar o pedido de Eric, o que gerou, de um lado, regozijo da empresa privada Northpointe, idealizadora e criadora do COMPAS, e de outro lado acendeu ainda mais o alerta em relação a IA, porque é preciso esmiuçar o algoritimo, i.é., saber com a devida propriedade – como se fosse um mapeamento – como a máquina fez para atingir aquele resultado/tomar sua decisão.

Contudo, as empresas que muitas vezes oferecem o sonho de muitas pessoas através de mecanismos de IA revolucionários, cuja promessa é otimizar e aperfeiçoar trabalhos humanos, não transparecem o processo de aprendizado, tolhendo/tornando extremamente difícil o estudo da sua base de dados.

No campo jurídico essa situação não é diferente nas plataformas ofertadas pelas legaltechs e lawtechs.

Por vezes, compra-se o produto sem conhecer a fundo a qualidade do seu serviço que ele é capaz de entregar, em troca de prometidos “bons” resultados.

No atual estágio em que nos encontramos com os aparatos de IA, é possível cogitar ser deveras arriscado dar às máquinas, por exemplo, a tão expressiva responsabilidade de julgar seres humanos, notadamente na seara jurídica.

Juízes são juízes, e seus pronunciamentos são impugnáveis à luz do ordenamento em vigor, e máquinas são máquinas, cuja decisão é de certa maneira inatacável, haja vista a ausência de transparência sobre o que a motivou a tomar aquela determinada decisão, já que nelas não há uma espécie de caixa preta capaz de oferecer todos os dados de compreensão da sua estruturação e desenvolvimento.

Para o futuro, será muito importante a existência de legislação específica à atividade de procedimentos de inteligência artificial, especialmente à definição da devida responsabilização sobre seus atos, suas decisões.

Não foi por outra razão que o Parlamento Europeu, em 16/02/2017, emitiu documento com recomendações à Comissão de Direito Civil Sobre Robótica, abordando-se, em suma, os aspectos elementares a serem observados no desenvolvimento, na programação e na utilização de robôs de IA.

O relevo fica a cargo do artigo 59, F, que propugna pelo engendramento de estatuto jurídico específico para robôs mais aprimorados, verbis:

“59. Insta a Comissão a explorar, analisar e ponderar, na avaliação de impacto que fizer do seu futuro instrumento legislativo, as implicações de todas as soluções jurídicas possíveis, tais como:

F. “Criar um estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autónomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrónicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrónica a casos em que os robôs tomam decisões autónomas ou em que interagem por qualquer outro modo com terceiros de forma independente[13];”

Desta forma, embora a IA seja sedutora e realmente benéfica em alguns procedimentos, o que é inegável, seu sucesso dependerá de uma gama de fatores.

Assim, respondendo-se a indagação feita mais acima, é possível dizer que a IA poderá, sim, ajudar no progresso da humanidade, mas, para isso, será imprescindível muita evolução.


[1] Obra “Inteligência Artificial”, escrita pelo inglês Stuart Russell e pelo norte-americano Peter Norvig, ambos cientistas da computação.

[2] https://itmidia.com/watson-ibm-diagnostica-forma-rara-de-leucemia-em-paciente-no-japao/

[3] https://www.maededeus.com.br/PortalMedico/Noticia/143/hospital-do-cancer-mae-de-deuseo-1o-da-ameri...

[4] https://exame.abril.com.br/tecnologia/inteligencia-artificial-da-ibm-ja-ajuda-advogados-brasileiros/

[5] https://rossintelligence.com/

[6] https://veja.abril.com.br/tecnologia/advogados-saooproximo-alvo-da-inteligencia-artificial/

[7] https://www.oab.org.br/noticia/56879/inteligencia-artificial-oab-lanca-sistema-de-pesquisa-de-jurisp...

[8] http://www.tjes.jus.br/corregedor-geral-da-justiça-desembargador-samuel-meira-brasil-junior-cria-cen...

[9]https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-utiliza-inteligencia-artificial-em-julgamento-virt...

[10] http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038

[11] https://conteudoms.com/site/ver-conteudo/projeto-piloto-do-socrates-programa-de-inteligencia-artific...

[12] https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

[13] http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf

2 Comentários

Faça um comentário construtivo para esse documento.

Não use muitas letras maiúsculas, isso denota "GRITAR" ;)

Ótima abordagem e tema muito curioso. A inteligência se aproxima cada dia mais das rotinas dos escritórios de advocacia e, com certeza, essa prática deve ter demasiada cautela. O texto é perfeitamente esclarecedor, como são todos aqueles desenvolvidos pelo autor. continuar lendo

Obrigado, Karolini. Seus artigos são maravilhosos. Lerei em breve aquele que recentemente escreveu, e não tennho dúvidas que será, como de praxe, destaque no jusbrasil. Um abraço. continuar lendo