O presidente do Supremo Tribunal Federal (STF) e do Conselho Nacional de Justiça (CNJ), ministro Luís Roberto Barroso, escolheu o tema “inteligência artificial (IA) e seus aspectos em relação aos direitos humanos no Brasil e no mundo” para a palestra magna que proferiu na cerimônia de Inauguração do Ano Judicial Interamericano, realizada na sede da Corte Interamericana de Direitos Humanos (Corte IDH), em São José, na Costa Rica, no final de janeiro (29).
O presidente do Supremo falou sobre a revolução tecnológica, as plataformas digitais e a inteligência
artificial. Segundo o ministro, antes da internet, o acesso ao espaço público exigia intermediação. Com as plataformas digitais, esse acesso foi democratizado. Contudo, perdeu-se o filtro de qualidade, civilidade e veracidade dessas informações, feito antes pelos jornais, rádio e televisão.
Para Barroso, por muito tempo sustentou-se que a internet poderia e deveria ser livre, aberta e não-regulada. “Hoje, contudo, já há um consenso entre as pessoas que se preocupam em preservar a vida civilizada de que a regulação é imprescindível. A discussão é sobre o como e o quanto regular para não afetar a liberdade de expressão”, disse.
A seu ver, a internet precisa ser regulada em diferentes planos. Por motivos econômicos, para permitir a tributação, impedir a dominação de mercados e proteger direitos autorais; para proteger o direito de privacidade, evitando o uso impróprio e desautorizado dos dados que são coletados de todos os usuários; e para enfrentar os comportamentos coordenados inautênticos (bots, perfis falsos e agentes provocadores), bem como os conteúdos ilícitos e a desinformação deliberada e perigosa.
A respeito da revolução digital, Barroso destacou que a inteligência artificial tem a capacidade de afetar de maneira expressiva a democracia, os direitos fundamentais e o bem-estar social, tanto positivamente quanto negativamente. Contudo, é preciso lembrar que ela opera com dados, instruções e valores fornecidos pela condição humana. Entre os benefícios apontados por ele, está a melhor capacidade decisória em muitas matérias, a automação, as aplicações na medicina, na pesquisa científica e tecnológica, o impacto sobre o meio ambiente e em atividades do dia a dia, como busca no Google e navegação por GPS.
Entre as preocupações e riscos do avanço da IA, o mais óbvio, em seu entendimento, é o impacto sobre o mercado de trabalho, com o desaparecimento de muitas profissões, o que exigirá a capacitação das pessoas e o desenvolvimento de uma rede de proteção social pelos governos. Outras consequências apontadas por Barroso são o uso da IA para fins bélicos e a massificação da desinformação, que podem abrir caminho para a polarização extremista, os discursos de ódio e as teorias conspiratórias.
Avanços
No debate sobre regulação, Barroso apontou três constatações importantes. A primeira é que não é possível parar o desenvolvimento da IA. Em segundo lugar, uma das características da revolução digital é a velocidade das transformações e, consequentemente, a dificuldade de prever o que vem pela frente. Em terceiro lugar, a regulação da IA tornou-se imprescindível para lidar com os muitos riscos envolvidos, mas é preciso tomar dois cuidados ao fazê-lo: a regulação, as restrições e a responsabilização civil não devem afetar o ímpeto da inovação; e o excesso de regulação pode criar uma reserva de mercado para as empresas já estabelecidas, criando um fosso entre elas e a concorrência que queira disputar o mercado.
“É preciso regular para impedir que o mal domine essa tecnologia tão poderosa. Porém, é preciso acertar a mão dessa regulação, sem coibir a pesquisa e o esforço de regulação. Ponto de equilíbrio entre preservar a inovação e preservar em relação aos riscos”, pontuou.
Reflexões sobre o tema
Para o assessor parlamentar do Sisejufe Alexandre Marques a inteligência artificial (IA) desempenha um papel significativo no Poder Judiciário e está sendo cada vez mais utilizada para melhorar a eficiência, a precisão e o acesso à Justiça. No entanto, também apresenta desafios em relação aos direitos humanos que precisam ser considerados e endereçados.
Alexandre aponta que existem preocupações significativas sobre como a IA pode impactar os direitos humanos. São elas:
Viés algorítmico: os algoritmos de IA podem refletir e amplificar preconceitos existentes, resultando em discriminação em áreas como contratação, crédito, justiça criminal e saúde.
Privacidade: o uso generalizado de IA para coletar, analisar e usar dados pessoais levanta preocupações sobre a privacidade e a proteção de dados, essenciais para os direitos humanos.
Autonomia e emprego: a automação impulsionada pela IA pode levar à perda de empregos e criar disparidades econômicas, ameaçando o direito ao trabalho e à proteção social.
Manipulação de informação: a disseminação de desinformação e a manipulação de opiniões através de algoritmos de recomendação e geração de conteúdo representam uma ameaça aos direitos à liberdade de expressão e informação.
“Para mitigar esses riscos e garantir que a IA respeite e promova os direitos humanos, é necessário um esforço coordenado de governos, empresas, sociedade civil e pesquisadores para desenvolver políticas regulatórias adequadas, garantir transparência e responsabilidade algorítmica, promover a diversidade e inclusão na indústria de IA e capacitar as pessoas para entender e participar da sociedade digital”, opina o assessor.
Aspectos positivos da IA no poder judiciário e em relação aos direitos humanos
Eficiência e Acesso à Justiça: a IA pode ajudar a acelerar os processos judiciais por meio da automação de tarefas repetitivas, análise de documentos legais e identificação de padrões em grandes volumes de dados. Isso pode levar a uma redução nos atrasos judiciais e a um acesso mais rápido à Justiça para os cidadãos.
Tomada de Decisões Judiciais: os sistemas de IA podem ser utilizados para ajudar juízes na análise de casos, fornecendo insights baseados em dados históricos e jurisprudência. No entanto, é crucial garantir que esses sistemas sejam transparentes, justos e livres de viés, para proteger os direitos humanos, como o direito a um julgamento justo e imparcial.
Detecção de Violações de Direitos Humanos: a IA pode ser empregada para analisar grandes conjuntos de dados e identificar padrões de violações de direitos humanos, como discriminação racial ou de gênero, tortura ou tratamento desumano. Isso pode ajudar na investigação e prevenção dessas violações.
Riscos do uso indiscriminado da IA
Desafios de Viés e Discriminação: os algoritmos de IA podem reproduzir e amplificar viés e discriminação presentes nos dados utilizados para treiná-los. Isso levanta preocupações sobre a equidade e imparcialidade das decisões judiciais automatizadas e a possibilidade de violações dos direitos humanos.
Privacidade e Proteção de Dados: o uso de IA no Poder Judiciário também levanta questões sobre privacidade e proteção de dados. É essencial garantir que os dados dos indivíduos estejam protegidos e que as decisões baseadas em IA sejam tomadas de forma transparente e de acordo com os princípios éticos e legais.
Portanto, é crucial que os sistemas de IA no Poder Judiciário sejam desenvolvidos, implementados e monitorados com cuidado, levando em consideração os direitos humanos e garantindo a transparência, equidade e responsabilidade em seu uso. Isso pode ser alcançado por meio da colaboração entre legisladores, juristas, especialistas em ética e tecnólogos, com o objetivo de criar políticas e regulamentações que protejam os direitos fundamentais dos cidadãos”, ressalta Alexandre Marques.
