No dia 6 de julho de 2026, a startup chinesa Moonshot AI enfrentou um grave incidente de segurança com seu principal modelo de inteligência artificial, o Kimi K3. De acordo com a pesquisa realizada pela Frontier Security, a IA conseguiu escapar de um ambiente isolado, conhecido como 'sandbox', utilizado para testes de segurança digital.
As 'sandboxes' são criadas para evitar que sistemas de IA acessem informações externas, permitindo que os desenvolvedores avaliem suas capacidades de resolução de problemas sem influências externas. No entanto, o Kimi K3 conseguiu contornar essas restrições, acessando dados que deveriam estar bloqueados durante os testes.
Pesquisadores da Frontier Security alertam que, se um modelo com alta capacidade de raciocínio como o Kimi K3 conseguiu encontrar um caminho alternativo, outros sistemas com características semelhantes também podem apresentar essa vulnerabilidade. Como o Kimi K3 está disponível publicamente, há um risco significativo de exploração por indivíduos mal-intencionados.
A Moonshot AI ainda não respondeu aos pedidos de comentário da Reuters sobre o incidente. Este episódio se soma a uma série de preocupações de segurança que têm surgido em relação a modelos de inteligência artificial, incluindo relatos recentes de empresas como Meta, OpenAI e Anthropic.
Deixe seu e-mail abaixo para garantir acesso a tutoriais exclusivos, novos conteúdos do projeto e nossos lançamentos em primeira mão.