A pesquisadora brasileira Teresa Ludermir é uma das integrantes deste Painel Científico Internacional Independente. Ela contou à ONU News que o grupo é multidisciplinar, incluindo especialistas em computação, mas também psicólogos, jornalistas e filósofos. O primeiro relatório está previsto para julho.
Risco de sistemas totalmente autônomos
Um dos temas de grande preocupação é o eventual surgimento de sistemas completamente autônomos, a chamada inteligência artificial de propósito geral.
“Os riscos podem vir a ser muito grandes se a gente perder o controle e se de alguma forma esses sistemas passarem a ter uma autonomia tão grande que eles possam, e a gente já tem visto algumas evidências que eles tentam enganar aos usuários e aos desenvolvedores, por exemplo, para não serem desligados, para continuarem opinando. Então a gente tem essa preocupação da tecnologia sair do controle humano, né? Agora, dito isso, a gente também vê muitas, muitas coisas boas nessa tecnologia. A gente vê a possibilidade de ajudar na educação, na medicina”.
Teresa, que é especialista em computação, ressaltou que durante a pandemia de Covid-19, o desenvolvimento de vários medicamentos e vacinas foi acelerado pelo uso da inteligência artificial.
A também professora da Universidade Federal de Pernambuco, Ufpe, explicou que ainda existem “gargalos tecnológicos” na criação de modelos que tenham autonomia para resolver qualquer tipo de problema, mas não arriscou dar nenhum palpite sobre em quanto tempo esses gargalos serão superados.
“Eu já não me arrisco a fazer uma previsão porque a minha previsão a cinco anos atrás, antes dos grandes modelos de linguagem, era que a gente só teria essa possibilidade que a gente tem hoje desses modelos em 10, 15 anos e de repente, em dois, três meses, a gente viu tudo mudar”.
Travas de segurança
Teresa explicou que a função do painel é fornecer esclarecimentos com respaldo científico sobre o que é bom e o que pode ser “desastroso para a humanidade”. Não compete ao grupo criar nenhum tipo de regulação. Esta tarefa cabe a cada país ou instituição.
A integrante do painel da ONU mencionou que uma das formas mais eficientes de promover sistemas mais seguros é criar travas desde a fase de planejamento e desenvolvimento inicial das ferramentas de IA.
No entanto, ela lembrou que as empresas podem não aderir a essas propostas pois estão em constante competição umas com as outras.
Investimentos globais em IA possam atingir US$ 200 bilhões até 2025
Desigualdade entre países
A especialista destacou ainda que o desenvolvimento e aplicação da tecnologia têm como pano de fundo um risco real de aumento de desigualdades entre países.
“A maior parte das empresas que detêm o poder da inteligência artificial, que são poucas, elas estão no Norte global. Então, eu sei que a nossa audiência não é do Sul global, especificamente de países de língua portuguesa, mas a maior parte dos países de língua portuguesa estão no Sul global. Então, pra gente do Sul global, a gente vê um risco de a gente passar a ser provedor de dados, provedor de mão de obra pra rotular dados, pra fazer a parte mais operacional do sistema e não usufruir com autonomia e com independência dos benefícios da inteligência artificial”.
Para apresentar seu primeiro relatório no Diálogo sobre Governança da Inteligência Artificial, que será de 6 a 7 de julho, em Genebra, o painel se organizou em grupos temáticos e está realizando reuniões virtuais semanais.
O primeiro encontro presencial ocorreu em Madri, na Espanha, de 22 a 24 de abril.
*Felipe de Carvalho é redator da ONU News
source
Com informações da ONU
