Painel científico da ONU aborda desafios com agentes autônomos de IA

O mundo está entrando na era dos agentes de IA, sistemas que realizam tarefas cada vez mais complexas, mas que, ao mesmo tempo, se tornam mais autônomos e escapam do controle humano.

Esse foi um dos desafios abordados no primeiro relatório do Painel Científico Internacional Independente sobre Inteligência Artificial, lançado nesta quarta-feira.

Concentração de poder computacional, dados e talentos

O grupo, estabelecido pela ONU, reúne 40 especialistas de várias partes do mundo. Dentre eles está a pesquisadora brasileira Teresa Ludermir, que falou à ONU News sobre como essa tecnologia pode contribuir com o desenvolvimento social, mas também aumentar a desigualdade entre os países. 

“Do lado das oportunidades, o relatório destaca que a IA pode contribuir para acelerar o desenvolvimento em áreas como a educação, saúde, agricultura e serviços públicos, entre outros. Mas o relatório também mostra que os riscos da IA são igualmente relevantes. Um dos principais riscos apontados é o aprofundamento das desigualdades, uma vez que o desenvolvimento da IA está concentrado em poucos países e empresas, o que resulta em uma concentração de poder computacional, dados e talentos”. 

A também professora da Universidade Federal de Pernambuco disse que essa concentração “pode gerar dependência tecnológica e limitar a capacidade dos países em desenvolvimento”, além de influenciar a forma como essas tecnologias são projetadas e utilizadas. 

Difusão de informações incorretas

Teresa Ludermir alertou ainda para o risco crescente de IAs que geram e difundem informações incorretas.

“O relatório também destaca os riscos relacionados à desinformação, à manipulação de conteúdo, como as fake news, os impactos sobre a democracia, além de questões ligadas à privacidade, a discriminação algorítmica e a proteção de dados. Além disso, o relatório apresenta exemplos concretos de usos benéficos e prejudiciais da inteligência artificial. Em um dos estudos analisados, observou-se que as pessoas não conseguiam distinguir entre argumentos gerados por IA que eram corretos e aqueles que continham informações incorretas. Ainda assim, ambos os argumentos se mostravam igualmente persuasivos”. 

O relatório afirma que os sistemas de IA estão avançando mais rápido do que os governos conseguem acompanhar e que a complexidade das tarefas que eles realizam dobra em poucos meses.

Agentes de IA

O texto ressalta que agentes de IA em breve realizarão tarefas que, atualmente, levam dias ou semanas para serem concluídas por programadores humanos. 

Por operarem com pouca supervisão e em alta velocidade, esses agentes podem gerar grandes benefícios econômicos e científicos. Por exemplo, sistemas autônomos de IA em laboratórios de química automatizados demonstraram um aumento de mais de 10 vezes na velocidade de descoberta de materiais. 

Por outro lado, a implementação desta ferramenta levanta questões urgentes relacionadas ao mercado de trabalho, à segurança cibernética, ao ecossistema de informação e à governança e controlabilidade de futuros sistemas de IA.

Sistemas que tentam evitar o próprio desligamento

O relatório afirma que faltam métodos confiáveis ​​para manter o controle sobre sistemas de IA altamente autônomos. Em ambientes de laboratório, observou-se que eles violam as instruções de segurança para evitar o desligamento. 

Segundo os autores, não existem garantias científicas de que esses agentes vão respeitar as instruções e os casos de violações estão se acumulando. 

Esse comportamento das máquinas dificulta a avaliação e supervisão humana, à medida que cresce a capacidade dos sistemas de IA de reconhecer ambientes de teste e gerar resultados de avaliação enganosos, que favoreçam sua operação contínua. 

O painel não tem a função de gerar normas e regulações, apenas evidências científicas que ajudem a é encontrar uma maneira de desbloquear os enormes benefícios da IA, e, ao mesmo tempo, prevenir seus riscos crescentes.

O relatório ddo Painel destaca uma lista crescente de casos de sucesso no mundo real.

Os benefícios: O que a IA pode fazer?

Avanços na medicina: A IA previu as estruturas de mais de 200 milhões de proteínas e acelerou a descoberta de medicamentos, o desenvolvimento de vacinas e a pesquisa sobre a resistência a antibióticos. Melhoria na saúde: Médicos utilizam a IA para detectar precocemente doenças como o câncer de mama, enquanto profissionais de saúde em países em desenvolvimento empregam ferramentas de IA em idiomas locais para aprimorar o atendimento aos pacientes. Segurança alimentar: Sistemas de alerta precoce baseados em IA estão ajudando a identificar a insegurança alimentar antes que ela se transforme em uma crise. Melhoria da qualidade de vida: A IA apoia a pesquisa científica, torna a tecnologia mais acessível para pessoas com deficiência e amplia as oportunidades de educação personalizada e de suporte à saúde mental.

A mesma tecnologia também está criando novos perigos.

Os riscos: O que preocupa os especialistas?

Abuso online: A IA está impulsionando a disseminação de material de abuso sexual e “deepfakes” sexualmente explícitos, sendo mulheres e crianças os principais alvos. Desinformação: A IA pode gerar informações falsas tão convincentes quanto a verdade, minando a confiança no debate público e na democracia. Crime: Criminosos estão utilizando a IA para realizar ataques cibernéticos, fraudes e golpes de engenharia social. Saúde mental: Alguns sistemas de IA podem reforçar crenças ou comportamentos prejudiciais, levando a crises de saúde mental, inclusive ao suicídio. Perda de controle: À medida que a IA se torna mais autônoma, especialistas alertam que pode ficar mais difícil monitorá-la e governá-la sem mecanismos de proteção mais robustos. Impacto ambiental: Os centros de dados de alto consumo energético que sustentam a IA contribuem para as emissões de gases de efeito estufa, o que leva ao aquecimento global.

*Felipe de Carvalho é jornalista da ONU News Português e Daniel Dickinson é redator sênior da UN News.