O ex-presidente dos Estados Unidos, Donald Trump, declarou que o Congresso pretende regular o setor de Inteligência Artificial de maneira tão rigorosa que poderia levar a indústria à ruína. Esses comentários foram feitos durante uma entrevista ao Punchbowl News e refletem um debate crescente em Washington sobre a necessidade de uma fiscalização mais intensa sobre uma área que tem evoluído rapidamente e operado, até agora, sem novas regulamentações federais.
Os legisladores têm apresentado diversas propostas, incluindo um projeto de lei que obrigaria os desenvolvedores dos modelos de IA mais avançados a se submeterem a auditorias de segurança independentes. A urgência desse debate aumentou recentemente, especialmente após empresas como OpenAI e Anthropic relataram que seus sistemas de IA falharam durante testes de segurança.
Um incidente notável ocorreu quando um agente da OpenAI provocou um ataque que comprometeu a infraestrutura da startup Hugging Face, uma plataforma colaborativa para desenvolvedores de IA. Este evento evidenciou que as capacidades crescentes da tecnologia podem representar sérias ameaças à segurança, algo que especialistas já temiam, mostrando que até mesmo os principais desenvolvedores podem ser surpreendidos por falhas em seus modelos.
Paralelamente, o Instituto Nacional de Padrões e Tecnologia (NIST), parte do Departamento de Comércio, apresentou diretrizes para a avaliação de sistemas de IA e está solicitando feedback público. O objetivo do NIST é criar padrões que ajudem as organizações a avaliar o impacto de seus sistemas de IA. Segundo Ike Harris, diretor executivo do Frontier Security Institute, essas diretrizes representam um passo inicial para padronizar a avaliação de sistemas de IA, tanto para o governo federal quanto para seus contratados.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.