Meta e a Detecção de Conteúdo de IA

A Meta apresentou recentemente uma nova ferramenta para detectar conteúdo gerado por inteligência artificial, juntamente com seu modelo de geração de imagens, o Muse Image. Contudo, uma análise realizada pela Reuters apontou que a ferramenta enfrenta dificuldades em reconhecer algumas das imagens criadas pela sua própria tecnologia após edições simples, como recortes.

A análise revelou que, ao testar 40 imagens geradas, a ferramenta da Meta conseguiu identificar corretamente todas as versões originais. No entanto, a taxa de reconhecimento caiu para 45% após as imagens serem recortadas para aproximadamente um terço ou metade de seu tamanho original.

No site da Meta, a empresa afirmou que a versão preliminar da ferramenta é capaz de identificar imagens geradas por seus modelos mesmo após edições, devido à implementação de uma marca d'água invisível chamada Content Seal. Esta tecnologia foi projetada para ajudar os usuários a verificar a origem das imagens geradas pela IA da Meta.

Em resposta às descobertas da Reuters, a Meta esclareceu que a ferramenta ainda está em fase de pré-visualização. A empresa reconheceu que a marca d'água foi desenvolvida para resistir a edições comuns, mas pode ser comprometida por recortes mais severos.

Outras empresas, como Google e OpenAI, também já reconheceram que suas ferramentas de detecção não conseguem identificar todas as formas de manipulação de imagens. Em março, o Conselho de Supervisão da Meta, um órgão independente, solicitou à empresa que intensificasse seus esforços no combate à disseminação de conteúdo enganoso produzido por IA e recomendou investimentos em ferramentas de detecção mais eficazes.

Siwei Lyu, professor de ciência da computação na Universidade Estadual de Nova York, comentou sobre as limitações dos sistemas baseados em marcas d'água. Ele destacou que esses métodos podem ser eficazes enquanto o sinal permanece intacto, mas qualquer edição que o comprometa pode diminuir sua eficácia.

Sarah Barrington, pesquisadora de IA na Universidade da Califórnia em Berkeley, ressaltou que, apesar das limitações, a tecnologia de marca d'água é promissora. Ela acredita que, mesmo que a ferramenta detecte apenas 90% dos casos, isso já representa um avanço significativo na identificação de conteúdo gerado por IA.