[pt] DIREITO E TECNOLOGIA EM PESPECTIVA AMEFRICANA: AUTONOMIA, ALGORITMOS E VIESES RACIAIS

[en] LAW AND TECHNOLOGY IN AMEFRICAN PERSPECTIVE: AUTONOMY, ALGORITHMIC BIAS AND RACIALITY

[pt] BIANCA KREMER NOGUEIRA CORREA

[pt] TECNOLOGIA

[pt] SOCIEDADE DA INFORMACAO

[pt] RACISMO

[pt] AUTONOMIA

[pt] ALGORITMO

[en] TECHNOLOGY

[en] INFORMATION SOCIETY

[en] RACISM

[en] AUTONOMY

[en] ALGORITHM

[pt] O trabalho consiste em uma análise sobre os efeitos do que se convencionou denominar novas tecnologias sobre corpos e experiências não brancas no exercício de sua autonomia, mais precisamente os vieses algorítmicos oriundos de sistemas de inteligência artificial (IA) aplicados a produtos e serviços digitais. Dentro de um cenário global de intensa conectividade, associado a técnicas sofisticadas de IA e uso predatório de dados pessoais, tem-se reproduzido, reforçado e ocultado dinâmicas de discriminação racial em plataformas e ferramentas de busca, políticas de vigilância e acesso a produtos e serviços. Há uma crença eficiente na neutralidade do direito e da tecnologia. No contexto brasileiro, essa crença ainda se apresenta aliada ao compartilhamento do mito da democracia racial, dos pactos narcísicos e do racismo por denegação, de modo que o enfrentamento das desigualdades raciais por tecno-regulação, governança algorítmica, ou mesmo à luz de desafios ético-jurídicos, se mantém esvaziado. Para explorar o fenômeno dos vieses raciais algorítmicos, propõe-se uma reflexão sobre os efeitos da colonialidade na interseção entre direito e tecnologia a partir da categoria políticocultural da amefricanidade, desenvolvida por Lélia Gonzalez. Parte-se da premissa de que, tanto o direito, quanto as novas tecnologias, seguem lidos e construídos sob o signo da branquitude por trás de uma suposta neutralidade e igualdade formal: um lugar de privilégio de racialidade não nomeada. Sob o manto da desigualdade formal mantida pelo direito, a suposta indiferença de algoritmos e autômatos face à identidade racial dos indivíduos reproduz a perversa utilização de características étnico-raciais como mecanismo de exclusão. A construção normativa do direito e os valores éticos que permeiam a construção de uma governança tecnológica, por sua vez, se produzem a partir da experiência da zona do ser. A partir da perspectiva amefricana radicada na experiência brasileira, pretende-se oferecer uma narrativa que reposicione o papel do direito e os desafios ético-jurídicos sobre os processos de violência da zona do não-ser no ambiente digital.

[en] This paper consists of analysis about the effects of what may be called new technologies on not-white bodies and experiences when exercising their autonomy, more precisely algorithmic biases derived from Artificial Intelligence (AI) systems applied to digital products and services. In a global scenario of intense connectivity, associated with sophisticated AI techniques and predatory use of personal data, racial discrimination dynamics is being reproduced, reinforced, and hidden in search platforms and engines, monitoring politics, and products and services access. There is an efficient belief in law and technology neutrality. In the Brazilian scenario, this belief still shows allied to sharing the myth of racial democracy, narcissistic pacts, and racism denial, in a way that confronting racial inequalities by techno-regulation, algorithmic governance, or even to the light of ethical-legal challenges is still devoided. To explore the algorithmic racial bias phenomenon, it is proposed a reflection about coloniality effects in the intersection between law and technology from the Amefricanity politician-cultural category, developed by Lélia Gonzalez. Starting from the premise that law and new technologies keep being read and built on whiteness sign behind supposed neutrality and formal equality: a place of privilege related to not-identified raciality. Under a formal inequality mantle kept by law, the supposed indifference of algorithms and automatons in face of racial identity of individuals reproduces a devilish use of ethnic-racial characteristics as an exclusion mechanism. Right normative construction and ethical values that surface the construction of technological governance, in turn, are produced from the experience included in the being zone. From the Amefrican perspective ingrained in Brazilian experience, it is intended to offer a narrative that re-establish the role law performs and ethical-legal challenges on violence processes found on the not-being zone in digital environment.

MARIA CELINA BODIN DE MORAES

CAITLIN SAMPAIO MULHOLLAND

MARIA CELINA BODIN DE MORAES

CAITLIN SAMPAIO MULHOLLAND

THULA RAFAELA DE OLIVEIRA PIRES

THAMIS ÁVILA DALSENTER VIVEIROS DE CASTRO

EDER FERNANDES MONICA

SERGIO AVILA NEGRI

2022-05-13

2021-03-31

[pt] TEXTO

application/pdf

PORTUGUÊS

https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=58993@1

https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=58993@2

https://doi.org/10.17771/PUCRio.acad.58993