jusbrasil.com.br
19 de Setembro de 2019

É Preciso Evolução Na Inteligência Artificial?

Mecanismos de inteligência artificial são bons, mas nem tanto.

Raphael Wilson L. Stein, Bacharel em Direito
mês passado

Em pleno Séc. XXI, estamos cada vez mais conectados com a tecnologia, acompanhando de perto as mudanças e aperfeiçoamento de computadores, telefones celulares, televisores e tudo mais que ela é capaz de atingir.

Dentro desta progressão tecnológica, temos aquilo que se denomina de Inteligência Artificial, conhecida pela sigla IA, que representa uma área da Ciência da Computação.

A Inteligência Artificial nada mais é do que uma criação a partir da tecnologia existente, que visa empregar processos de pensamento, raciocínio e tomada de decisão a mecanismos.

Com este ensinamento, cuja exteriorização chama-se de algoritmo, a máquina se torna capaz de executar determinadas tarefas a partir de processos de aprendizagem com alimentação de dados, Machine Lerning (aprendizado de máquina) e Deep Lerning (aprendizagem profunda).

Em sua seara, a IA é muito densa e abrangente, notadamente por envolver no seu processo de compreensão, construção, aplicação e análise, uma gama de disciplinas, v.g., a neurociência, filosofia, matemática e tantas outras[1].

Ao longo da história tivemos muitos eventos marcantes de mecanismos dotados de inteligência artificial, sendo exemplo a sonda Opportunity, que em 2004 foi enviada pela Nasa à Marte, com intuito de fornecer dados para estudos variados aqui na terra, especialmente sobre a existência/possibilidade de vida no planeta vermelho. A sonda Opportunity operara até 2019.

Na atualidade, a International Business Machines Corporation – IBM criou o mecanismo Watson que já ajuda médicos a realizarem diagnósticos mais precisos e rápidos, máxime no campo da oncologia, com acerto acima dos 90%.

Inclusive, este engenho já tem feito importante registrado no Japão, ao conseguir em 10 minutos diagnosticar um tipo raro de câncer em uma paciente, contrariando anterior diagnóstico médico[2].

A título de informação, o Watson foi implantado no Brasil, junto ao Hospital do Câncer Mãe de Deus, em Porto Alegre, Rio Grande do Sul[3]

Como se vê, estamos vivenciando uma mutação tecnológica irreprimível, cujos avanços vertiginosos expressados nos resultados cada vez mais dinâmicos têm sido acompanhados de perto, e tendem a ser muito do que existirá de inovação no futuro próximo.

Por ser um dos frutos de todo esse avanço, a IA passou a ser formatada para plataformas aplicáveis ao campo jurídico. O sistema Carol, que leva a base do Watson, assessora escritório de advocacia no que tange ao preenchimento de dados processuais, e espera-se que para frente seja capaz de amparar, também, na tarefa de resumir peças processuais[4].

Também com base em base tecnológica da IBM, Ross[5][6], intitulado por muitos como o advogado cibernético, é um sistema desenvolvido para consultar milhões de arquivos e responder quais documentos são relevantes para o caso concreto, e isso em poucos segundos.

Não faz muito tempo, a OAB[7] lançou a plataforma gratuita denominada “OABJuris”, para servir como ferramenta rápida e eficiente de pesquisa de jurisprudência com possibilidade de filtragem de resultados desejados por tribunal, relator, ramo do direito, data, com capacidade de auto-aprendizagem.

Diversas instâncias do Poder Judiciário[8] têm aderido à inteligência artificial como forma de melhorar sua automação, e até mesmo para incrementar a sua produtividade decisória frente à infinidade dos acervos de processo, no desiderato de alcançar uma justiça mais célere e funcional.

Neste contexto, é digno de nota que através de mecanismo de IA, o TJ/MG julgou cerca de 280 processos em menos de um segundo em inédita sessão ocorrida perante sua 8ª Câmara Cível, no ano de 2018.[9]

Em parceria com a Universidade de Brasília – UNB, durante a gestão da Min. Carmem Lúcia, o STF lançou mão do programa batizado como VICTOR[10], em homenagem a Victor Nunes Leal, que foi ministro naquela corte na década de 60, e também foi o responsável pela sistematização da jurisprudência no STF através de súmulas.

Dotado de redes neurais, que nada mais são criação de neurônios virtuais similares aos humanos, espera-se que a máquina seja capaz de ajudar imprimindo mais celeridade na tramitação dos feitos, auxiliando ministros em aspectos como a admissibilidade dos recursos extraordinários, e, a depender da sua “acurácia”, nomenclatura que indica a medida de sua eficiência, através de novos aprendizados, poderá ser utilizado em outros Tribunais.

O STJ[11], na gestão do Min. João Otávio de Noronha, lançou mão do projeto-piloto chamado Sócrates, que tem a missão de tentar reduzir em 25% o tempo do processo naquele sodalício do momento da sua distribuição à primeira decisão em sede de Recurso Especial, com fornecimento de informações relevantes sobre o recurso e o acórdão que perfaz seu objeto, apresentando-se ao julgador uma gama de sugestões para decisão.

Mas, mercê da euforia e do entusiasmo que nos chega a partir das janelas que se abrem para aplicação da IA, inclusive no meio jurídico e forense, indaga-se: tal inteligência poderá ser tão boa e proveitosa a ponto de ajudar no progresso humanitário?

Embora a expectativa seja positiva, no desejo forte de que a IA se torne uma sólida ponte para o futuro sonhado com melhorias em todos os sentidos, é preciso cautela na resposta, especialmente quando consideramos que a IA tem sido aplicada em atividades judiciárias.

Deixemos, pois, para responder a pergunta ao final do texto.

A inventividade de uma máquina certamente não é algo simplificado, porque envolve muito conhecimento específico e exaustivos testes no afã de captar o seu nível de eficácia mais seguro.

O complexo trabalho de criação em testilha se torna ainda mais importante quando se objetiva com que máquina aprenda por si própria, e essa é a razão de ser da IA.

Contextualizar tudo isso na imaginação é muito difícil, mas há algo muito claro e de simples percepção: os seres humanos que dão nascimento às máquinas sempre foram susceptíveis ao erro. Afinal, já dizia o ditado que errar é humano.

A falibilidade é um traço indissociável da condição humana, e a mutualidade desse traço nas máquinas é algo incontestável, e talvez essa seja a característica que vincula o homem e a máquina, criador e criação.

As máquinas podem ser melhores do que os seres humanos na execução de algumas tarefas, entretanto, lhes é comum o erro, e, quando o assunto é a IA, é certo afirmar que a qualidade dos dados em seus processos de aprendizagem Machine Lerning e Deep Lerning, será determinante para a sua lisura, e também para identificar seus erros.

Neste contexto, por exemplo, a utilização de dados pautados em critérios do pensamento preconceituoso dos seus criadores e treinadores, fará com o que a máquina adote decisões preconceituosas.

E isso tem nome, ou seja, o erro das máquinas que pode se manifestar de inúmeras formas, denomina-se: “vies algorítmico”.

Como a IA não é nova, subsistem inúmeros exemplos desses vieses algorítimos afetando sistemas e plataformas, em detrimento dos destinatários finais que são os seres humanos.

Todos esses casos podem ser acessados numa rápida pesquisa junto à internet, mas para efeito de enriquecimento deste ensaio um exemplo merece ser dado, e emana dos EUA.

Nos EUA há o sistema COMPAS que é utilizado pelo sistema de justiça criminal para verificar o risco de reincidência dos acusados.

Pesquisa encaminhada pela entidade ProPública relevou que o sistema pendia para classificar negros como maiores reincidente de crimes, do que brancos.[12]

A questão que se coloca não se restringe a um simples prognóstico equivocado, e sim aponta para algo sério, potencialmente injusto e lesivo.

É que as informações prestadas pelo sistema no sentido de classificar negros com maior propensão à reincidência criminal sem critério definido, baseando-se exclusivamente na visão social deturpada dos seus criadores, acredite se quiser, eram tomadas como relevantes à fixação da pena pelos magistrados.

Estados como Arizona, Colorado, Delaware, Kentucky, Louisiana, Oklahoma, Virgínia, Washington e Wisconsin têm essa política criminal através do COMPAS.

O viés do algorítimo do COMAS foi revelado pela ProPública nos casos de Brisha Borden e Vernon Prater, ela negra e ele branco. Ela foi acusada de roubar uma bicicleta e uma escooter junto com um colega, no valor aproximado de U$ 80,00, e ele foi acusado de roubar ferramentas em uma determinada loja, no valor total de U$ 86,35.

Prater, criminoso experiente, já havia sido condenado anteriormente por assalto à mão armada e tentativa de assalto à mão armada, em relação ao qual cumprira 5 anos de prisão, tendo, ainda, registros de contravenções quando era adolescente.

Ambos foram avaliados pelo sistema COMPAS, sendo que a classificação de Borden foi de que haveria um risco maior de reincidência do que Prater.

Ocorre que tempos depois, em novo processo-crime, Prater foi condenado a 8 anos de prisão, por ter adentrado a um depósito e roubado milhares de dólares em eletrônicos, enquanto que Borden não foi reincidente.

Por conta de problemas como esse, em 2014, o Procurador Geral dos EUA, Eric Holder, pediu à Comissão de Penas dos EUA que estudasse mais afundo os critérios de sistemas como o COMPAS, a fim de evitar injustiças com condenações estereotipadas.

Curiosamente, a resposta da comissão foi de denegar o pedido de Eric, o que gerou, de um lado, regozijo da empresa privada Northpointe, idealizadora e criadora do COMPAS, e de outro lado acendeu ainda mais o alerta em relação a IA, porque é preciso esmiuçar o algoritimo, i.é., saber com a devida propriedade – como se fosse um mapeamento – como a máquina fez para atingir aquele resultado/tomar sua decisão.

Contudo, as empresas que muitas vezes oferecem o sonho de muitas pessoas através de mecanismos de IA revolucionários, cuja promessa é otimizar e aperfeiçoar trabalhos humanos, não transparecem o processo de aprendizado, tolhendo/tornando extremamente difícil o estudo da sua base de dados.

No campo jurídico essa situação não é diferente nas plataformas ofertadas pelas legaltechs e lawtechs.

Por vezes, compra-se o produto sem conhecer a fundo a qualidade do seu serviço que ele é capaz de entregar, em troca de prometidos “bons” resultados.

No atual estágio em que nos encontramos com os aparatos de IA, é possível cogitar ser deveras arriscado dar às máquinas, por exemplo, a tão expressiva responsabilidade de julgar seres humanos, notadamente na seara jurídica.

Juízes são juízes, e seus pronunciamentos são impugnáveis à luz do ordenamento em vigor, e máquinas são máquinas, cuja decisão é de certa maneira inatacável, haja vista a ausência de transparência sobre o que a motivou a tomar aquela determinada decisão, já que nelas não há uma espécie de caixa preta capaz de oferecer todos os dados de compreensão da sua estruturação e desenvolvimento.

Para o futuro, será muito importante a existência de legislação específica à atividade de procedimentos de inteligência artificial, especialmente à definição da devida responsabilização sobre seus atos, suas decisões.

Não foi por outra razão que o Parlamento Europeu, em 16/02/2017, emitiu documento com recomendações à Comissão de Direito Civil Sobre Robótica, abordando-se, em suma, os aspectos elementares a serem observados no desenvolvimento, na programação e na utilização de robôs de IA.

O relevo fica a cargo do artigo 59, F, que propugna pelo engendramento de estatuto jurídico específico para robôs mais aprimorados, verbis:

“59. Insta a Comissão a explorar, analisar e ponderar, na avaliação de impacto que fizer do seu futuro instrumento legislativo, as implicações de todas as soluções jurídicas possíveis, tais como:

F. “Criar um estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autónomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrónicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrónica a casos em que os robôs tomam decisões autónomas ou em que interagem por qualquer outro modo com terceiros de forma independente[13];”

Desta forma, embora a IA seja sedutora e realmente benéfica em alguns procedimentos, o que é inegável, seu sucesso dependerá de uma gama de fatores.

Assim, respondendo-se a indagação feita mais acima, é possível dizer que a IA poderá, sim, ajudar no progresso da humanidade, mas, para isso, será imprescindível muita evolução.


[1] Obra “Inteligência Artificial”, escrita pelo inglês Stuart Russell e pelo norte-americano Peter Norvig, ambos cientistas da computação.

[2] https://itmidia.com/watson-ibm-diagnostica-forma-rara-de-leucemia-em-paciente-no-japao/

[3] https://www.maededeus.com.br/PortalMedico/Noticia/143/hospital-do-cancer-mae-de-deuseo-1o-da-ameri...

[4] https://exame.abril.com.br/tecnologia/inteligencia-artificial-da-ibm-ja-ajuda-advogados-brasileiros/

[5] https://rossintelligence.com/

[6] https://veja.abril.com.br/tecnologia/advogados-saooproximo-alvo-da-inteligencia-artificial/

[7] https://www.oab.org.br/noticia/56879/inteligencia-artificial-oab-lanca-sistema-de-pesquisa-de-jurisp...

[8] http://www.tjes.jus.br/corregedor-geral-da-justiça-desembargador-samuel-meira-brasil-junior-cria-cen...

[9]https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-utiliza-inteligencia-artificial-em-julgamento-virt...

[10] http://www.stf.jus.br/portal/cms/verNoticiaDetalhe.asp?idConteudo=380038

[11] https://conteudoms.com/site/ver-conteudo/projeto-piloto-do-socrates-programa-de-inteligencia-artific...

[12] https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

[13] http://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_PT.pdf

2 Comentários

Faça um comentário construtivo para esse documento.

Não use muitas letras maiúsculas, isso denota "GRITAR" ;)

Ótima abordagem e tema muito curioso. A inteligência se aproxima cada dia mais das rotinas dos escritórios de advocacia e, com certeza, essa prática deve ter demasiada cautela. O texto é perfeitamente esclarecedor, como são todos aqueles desenvolvidos pelo autor. continuar lendo

Obrigado, Karolini. Seus artigos são maravilhosos. Lerei em breve aquele que recentemente escreveu, e não tennho dúvidas que será, como de praxe, destaque no jusbrasil. Um abraço. continuar lendo