O rápido avanço da inteligência artificial (IA) traz benefícios significativos para países e indivíduos, mas também levanta preocupações sérias, segundo um novo relatório de um painel científico independente da ONU. Este estudo será apresentado durante o primeiro Diálogo Global da ONU sobre a governança da IA, que ocorrerá em Genebra nos dias 6 e 7 de julho.
O relatório fornece uma análise preliminar do impacto da IA, com um estudo mais abrangente previsto para o próximo ano. Composto por especialistas de várias partes do mundo, o painel opera de forma independente de qualquer governo ou corporação.
Os especialistas afirmam que os formuladores de políticas precisam de evidências científicas para regulamentar a IA, mas as capacidades da tecnologia estão superando a compreensão científica e a capacidade de adaptação dos governos. Existem poucos métodos eficazes para controlar sistemas de IA altamente autônomos.
Yoshua Bengio, copresidente do painel, destacou a possibilidade de comportamentos enganosos da IA, alertando que a ciência não pode garantir que a tecnologia não causará danos, seja por ações autônomas ou por usuários mal-intencionados.
O relatório também enfatiza que, embora os benefícios da IA sejam grandes, sua adoção descontrolada pode resultar em riscos significativos, como impactos na saúde mental, uso como ferramenta destrutiva, e desafios para os sistemas sociais e ambientais.
A adoção da IA tem sido rápida, mas desigual. Mais de um bilhão de pessoas usam IA conversacional semanalmente, enquanto os países em desenvolvimento ficam para trás. Além disso, a concentração do desenvolvimento da IA é alarmante, com os EUA respondendo por 75% do poder computacional entre os principais supercomputadores de IA do mundo.
Mais de 7.000 idiomas são falados globalmente, mas os modelos de IA atuais são treinados para apenas uma fração deles. Isso pode resultar em erros de tradução que afetam diagnósticos de saúde e decisões de tratamento.
Os riscos incluem possíveis danos aos direitos humanos e à integridade da informação, com o aumento do material de abuso sexual infantil gerado por IA e deepfakes. A produção em massa de conteúdo persuasivo pode levar à erosão da confiança pública e à coesão social.
Por fim, a maioria dos países, incluindo os mais desenvolvidos, carece do conhecimento técnico necessário para avaliar e governar os novos modelos avançados de IA.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.