Esse é o alerta de um novo relatório da ONU, que afirma que avanços na neurotecnologia podem ameaçar os direitos humanos.
Uso da IA para “decodificação” de pensamentos
O documento foi apresentado na Assembleia-Geral, na quinta-feira, pela secretária-geral-assistente da ONU para os Direitos Humanos, Claudia Fuentes Julio.
Ela afirmou que essa tecnologia pode ameaçar a privacidade, a liberdade de pensamento e o direito a um julgamento justo, especialmente para pessoas marginalizadas.
O novo relatório examina o uso crescente da neurotecnologia nos sistemas de justiça e os riscos decorrentes de sua convergência com a inteligência artificial, IA.
Algumas pesquisas afirmam que certas neurotecnologias, quando combinadas com a IA, poderiam gerar perfis psicológicos individualizados, aplicados para prever comportamentos.
O documento da ONU afirma ser provável que a neurotecnologia seja usada para processo de “decodificação”, no qual algoritmos de inteligência artificial tentam traduzir sinais cerebrais em informações legíveis sobre pensamentos, intenções ou memórias.
Detecção de mentiras por ressonância magnética
Atualmente, o uso mais comum da neurotecnologia em contextos judiciais é a apresentação de neuroimagens como prova médica ou pericial, para comprovar deficiência psicossocial ou questões relacionadas à capacidade.
Mas a neurotecnologia também tem sido usada em contextos de interrogatório, especialmente para a detecção de mentiras com base na atividade cerebral, por meio de ressonância magnética.
Outras técnicas relacionadas, porém distintas, são os testes de “admissão da culpa” ou de “informação oculta”.
A indústria global de jogos foi avaliada em quase US$ 200 bilhões em 2023
Dados coletados por jogos e aplicativos
Outra preocupação é que, à medida que a neurotecnologia se torna cada vez mais comercializada, grandes volumes de dados neurais estariam sendo coletados por empresas de tecnologia voltadas ao consumidor.
Isso inclui dispositivos vestíveis de eletroencefalografia, comercializados para fins de bem-estar, jogos ou produtividade. Tais dados de consumidores poderiam ser acessados por autoridades estatais ou apresentados como prova em processos judiciais.
Esse risco é amplificado em contextos de contraterrorismo e segurança nacional, nos quais os critérios legais para acesso a dados são mais flexíveis.
Do uso médico ao uso judicial
A neurotecnologia é originalmente usada para diagnósticos ou tratamentos médicos, medindo, monitorando, analisando, prevendo ou modulando o sistema nervoso.
São recursos com capacidade de coletar dados neurais, definidos como informações qualitativas e quantitativas sobre a estrutura, atividade e função do sistema nervoso.
O relatório afirma que se esses sinais cerebrais forem tratados como indicadores diretos de pensamentos, intenções ou veracidade, “o uso de dados neurais poderá comprometer a forma como entendemos e valorizamos cada um de nós como seres humanos”.
Embora essas novas tecnologias sejam promissoras, Fuentes Julio afirmou que quando aplicadas em tribunais, esses dados desenvolvidos para uso médico são reaproveitados sem as devidas garantias de direitos humanos.
Ela defendeu proibições de usos coercitivos e abusivos, salvaguardas legais e éticas mais rigorosas, consentimento informado, validação científica, supervisão, responsabilização e proteção de dados neurais.
source
Com informações da ONU
