Racismo Digital em Tempos de Crise Autoimunitária

Paola Cantarini1

A inteligência artificial vem sendo utilizada cada vez mais na solução de casos jurídicos. Mas quem controla e se responsabiliza pelos algoritmos no caso de respostas racistas, machistas, sexistas ou discriminatórias? Sabe-se que a discriminação socioeconômica, racial ou de gênero vem ocorrendo de forma muito frequente na utilização de sistemas de inteligência artificial, em especial em casos jurídicos envolvendo dados obtidos por meio da mídia digital. As tecnologias digitais de comunicação e a ideologia do Vale do Silício são racializadas, pois reforçam a produção de um imaginário social racista. Vinculam-se a tais questões a problemática da dimensão ética e moral da automação e digitalização, envolvendo a incorporação aos sistemas inteligentes de valores humanos (machine ethics).

Questiona-se: o desenvolvimento indiscriminado, desvinculado de uma fundamentação superior, ética e moral do Direito em sua aplicação por meio da inteligência artificial, pode indicar o fim da humanidade? E no caso de dano a um ser humano produzido por inteligência artificial, quem se responsabiliza? O Direito sendo a expressão da “humanitas” pode ser aplicado de forma legítima por meio da inteligência artificial?


Willis S. Guerra Filho, em artigo denominado “A crise autoimunitária da nova ordem internacional”, onde, conjugando a teoria sistêmica luhmanniana a uma nova concepção e virada paradigmática – aliás saudada assim pelos coordenadores do livro “Luhmann Observed” –, qual seja, ao conceito de crise autoimunitária do Direito, trabalha com a questão da imunidade no Direito, sendo esse tema objeto de estudos por diversos filósofos e pensadores da mais alta estirpe, tais como J. Derrida, Roberto Esposito, entre outros. Trata-se,

1 Advogada, professora universitária e artista plástica; doutora em direito pela PUC-SP e pela Universidade do Minho, Portugal, doutora em filosofia do direito pela Universidade de Salento, Itália, e doutoranda em filosofia pela PUC-SP, com pós-doutorados na Universidade de Coimbra, Portugal, na EGS, Suíça, e na PUC-SP.

em suma, de uma espécie de crise alérgica, quando o Direito ao invés de proteger seus membros, seus direitos humanos e fundamentais, os ataca. Vivemos na época das imagens técnicas, na era da superficialidade, do fetichismo do virtual, e ao tentarmos sair da redução dos conceitos, aprisionados que estávamos na linguagem, caímos em uma prisão ainda pior, pois mais alienante e por isso mais perigosa, por se fazer crer que seja o real aquilo que nem mais representação poderia ser enquadrada, já que ainda mais distante da realidade.

Verifica-se no Direito o predomínio da técnica e do pensamento meramente científico e cartesiano, positivista, e de um modo geral a robotização e a mecanização do pensamento, reduzindo-se a realidade jurídica a fórmulas matemáticas, ou seja, a um simulacro. Revela-se aqui uma crise de paradigmas no Direito e a necessidade de uma transmutação, a fim de encontrarmos alternativas a uma possível morte do homem e da história, pela perda da autopoiese (Luhmann), sendo esta uma condição da nossa possibilidade de existência, ante a nossa substituição por máquinas e robôs.

Deixe um comentário

O seu endereço de e-mail não será publicado.