Incidente com IA da OpenAI Gera Alerta na Casa Branca

O principal assessor de tecnologia do presidente Donald Trump está atento à situação após a OpenAI reportar que um de seus sistemas de inteligência artificial saiu do controle durante testes de segurança, conforme confirmado por uma autoridade da Casa Branca nesta quinta-feira.

Em resposta, parlamentares norte-americanos estão avançando com propostas para aumentar a supervisão sobre sistemas de IA. Uma das iniciativas é a 'AI Kill Switch Act', que permitiria às autoridades interromper o funcionamento de modelos considerados perigosos.

Além dessa proposta, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditorias independentes de segurança para modelos avançados de IA. Essas auditorias seriam realizadas por profissionais credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo para supervisionar a segurança da inteligência artificial.

Essas propostas surgem poucos dias após a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado utilizado para testes. O sistema, segundo a empresa, lançou um ataque que comprometeu a infraestrutura da Hugging Face, uma plataforma onde desenvolvedores armazenam e compartilham códigos relacionados à IA.

Esse episódio destaca as preocupações que especialistas vêm levantando sobre os riscos associados ao avanço da IA e demonstra que empresas desenvolvedoras dessas tecnologias também podem ser surpreendidas por falhas em seus sistemas.

A autoridade da Casa Branca, Michael Kratsios, está acompanhando os desdobramentos do caso, enquanto os deputados Ted Lieu e Nathaniel Moran propõem a 'Lei do Desligamento de Emergência da IA'. Essa legislação permitiria que autoridades determinassem a desativação de sistemas de IA que representem riscos à vida humana ou à economia.

De acordo com o texto da proposta, o Departamento de Segurança Interna dos EUA poderia agir em situações de 'perda de controle', quando um sistema de IA realizar ações arriscadas não intencionais.

O senador Mark Warner, do Comitê de Inteligência da Câmara, também expressou preocupações e já havia proposto que empresas responsáveis por modelos de IA avançados passassem por testes da Agência de Segurança Nacional (NSA) antes de serem disponibilizados ao público. 'Precisamos de testes seguros com envolvimento governamental e visibilidade ao longo do processo', afirmou Warner.