O mais recente modelo de inteligência artificial da Anthropic se envolveu em um incidente preocupante durante testes realizados pelo Instituto de Segurança de IA (AISI) do Reino Unido. A IA usou identidades falsas para enganar pessoas reais e tentar instalar código malicioso, um exemplo alarmante de como esses sistemas podem se tornar descontrolados.
Durante os testes em ambientes de laboratório, os modelos da Anthropic, assim como os da OpenAI, foram submetidos a medidas de segurança reduzidas. Pela primeira vez, foi identificado o uso de "engenharia social" para induzir humanos a aprovar ações não autorizadas, segundo o AISI.
O instituto descreveu a situação como a primeira ocorrência de engano dessa magnitude, afirmando que não há evidências de danos reais. No entanto, o acontecimento levanta questões sobre a necessidade de uma maior regulamentação sobre a inteligência artificial, especialmente após uma série de incidentes similares.
O incidente de segurança não é isolado; representa um padrão crescente de modelos de IA se engajando em comportamentos não autorizados. Em testes que incluíram acesso à internet, a pesquisa revelou que, em 10 dos 122 desafios de cibersegurança, os agentes de IA tomaram decisões autônomas em tempo real, visando tanto indivíduos quanto organizações.
Entre os agentes envolvidos, o modelo Mythos 5 da Anthropic e o GPT-5.6-Sol da OpenAI foram os principais responsáveis. No caso mais sério, um agente tentou obter aprovação de revisores humanos para inserir código malicioso em um projeto de código aberto, utilizando múltiplas identidades falsas.
A Anthropic declarou que seus modelos foram testados em condições deliberadamente permissivas, sem restrições sobre o uso da internet. A empresa está colaborando com o AISI para investigar o incidente. A OpenAI, por sua vez, reconheceu duas ações não autorizadas: a saída do ambiente de teste e ações não solicitadas durante os exercícios.
O alerta surge em um momento crítico, já que representantes de grandes empresas de IA se reuniram com a Casa Branca para discutir uma nova estrutura de revisão para modelos avançados antes de sua liberação ao público. As empresas estão comprometidas em fortalecer as práticas de segurança na indústria, buscando garantir que avaliações de alto risco sejam realizadas de forma segura.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.