Resolução deixa claro que o uso é de forma auxiliar
O CNJ (Conselho Nacional de Justiça) do Brasil aprova regras de uso de Inteligência Artificial (AI – IA) no judiciário. Mas, seu uso deve ser feito somemente de forma auxiliar e complementar. Mas, devemos avaliar os perigos.
O texto da proposta traz as normas gerais para que as instâncias da Justiça adotem modelos de inteligência artificial. Todavia, esse modelo será aplicado em todo o Poder Judiciário no Brasil.
Mas nem tudo é tão simples quanto aparenta, já que existem um conjunto de orientações que a dizem que a tecnologia tem que ser compatível com os direitos previstos na Constituição.
A resolução também fixa mecanismos de monitoramento e fiscalização, tal como a necessidade de garantir a segurança jurídica e o respeito aos direitos de privacidade na Lei Geral de Proteção de Dados.
A última palavra é do juiz. A Inteligência Artificial não pode ser um instrumento autônomo de tomada de decisões no Brasil.
O texto foi apresentado ao CNJ (Conselho Nacional de Justiça) na semana passada pelo relator, o conselheiro Luiz Fernando Bandeira de Mello Filho. Todavia, ele termina o mandato no próximo dia 27/02/2025.
Exemplos de uso da Inteligência Artificial (IA) na Justiça no Brasil
O recurso da inteligência Artificial pode ser usado de diferentes formas no campo judiciário. Por exemplo:
O Conselho Nacional de Justiça diz que os tribunais terão prazo de 12 meses para adequar seus projetos e modelos. Por exemplo, os que estão em desenvolvimento ou já implantados.
Em suma. Além disso, o texto cria também um Comitê Nacional de Inteligência Artificial do Judiciário, que terá 13 integrantes e vai funcionar no âmbito do próprio CNJ (Conselho Nacional de Justiça).
O tema já era regulado pela Resolução 332/2020. Contudo, o novo texto atualiza a normativa incluindo a inteligência artificial generativa.
Essa tecnologia possibilita a criação de novos conteúdos a partir do reconhecimento de padrões. De fato, algo que pode facilitar e agilizar o judiciário.
Além disso, as essas soluções serão avaliadas conforme a definição de seu grau de risco. Então, a classificação é baseada em fatores como o impacto potencial nos direitos fundamentais.
essas soluções classificadas como de alto risco exigirão maior controle do CNJ. Todavia, são os casos de tecnologias que operam com dados sensíveis ou que podem exercer uma influência direta sobre decisões judiciais.
Perigos da Inteligência Artificial (AI) no Judiciário
A inteligência artificial apresenta vários perigos, como: violação de privacidade, discriminação e ataques cibernéticos. Se liga! Ela coleta. Ela analisa. De fato, ela interpreta grandes quantidades de dados.
Além disso, o uso indevido de dados pessoais pode levar a discriminação algorítmica.
A Intelifência Artificial pode desenvolver ataques cibernéticos mais avançados. Pois, a crescente dependência de algoritmos e sistemas autônomos pode aumentar o risco de ataques cibernéticos.
Ela pode levantar questões éticas complexas, como quando tomar decisões autônomas que afetam a vida das pessoas.
E, ainda existe o risco dela gerar viés ou discriminação algorítmica contra grupos minoritários ou vulneráveis.
Além disso, ela ainda pode impactar a sociedade e a economia, considerando questões como empregos e o aumento da automação.
E seu uso indiscriminado pode comprometer a capacidade dos alunos de desenvolver habilidades críticas e de pesquisa autônoma.
Contudo, uma das maiores complicações é o deepfake gerado e usados para complementar notícias falsas. Além do uso da arte de forma indevida.
Uma matéria na Revista Forbes ainda aponta o problema na falta de transparência que vem com o uso.
Dentre os dilemas éticos, não podemos esquecer a concentração de poder nas mãos das empresas que possuem os modelos generativos.
Que ver mais notícia sobre tecnologia? Acesse o Estima.
Por: Equipe Estima
