Pontos principais
- Classificador de Imagens: A OpenAI está desenvolvendo um classificador para identificar se uma imagem foi criada pelo DALL-E 3, com uma precisão de até 98%.
- Marca d’água Resistente à Violação: Uma nova marca d’água invisível que pode ser incorporada em áudios para identificar conteúdo gerado por IA.
- Colaboração com a C2PA: OpenAI se junta a Microsoft e Adobe na Coalizão de Proveniência e Autoridade de Conteúdo (C2PA) para reforçar a identificação de conteúdo gerado por IA.
O Poder e as Limitações dessa ferramenta
A OpenAI está disponibilizando acesso à sua nova ferramenta de detecção de imagens geradas por IA para pesquisadores independentes. O objetivo é avaliar sua eficácia, analisar sua utilidade prática e determinar como ela pode ser usada.
Nos testes internos, a ferramenta identificou corretamente cerca de 98% das imagens criadas pelo DALL-E 3 e classificou erroneamente apenas 0,5% das imagens não geradas por esse modelo.
Porém, a história muda quando as imagens são modificadas. Alterações menores, como compressão, corte e ajustes de saturação, tiveram pouco impacto na precisão da ferramenta. Entretanto, modificações mais significativas, como mudanças na tonalidade, reduziram consideravelmente o desempenho.
Desafios Adicionais
Além disso, a ferramenta teve dificuldades para analisar imagens criadas por modelos de IA de outras empresas. Nesse caso, ela conseguiu identificar apenas 5% a 10% dessas imagens externas. E quando essas imagens eram modificadas, a taxa de acerto despencava ainda mais.
Por que Isso é Importante?
Imagens geradas por IA podem ser usadas para enganar e disseminar informações falsas, especialmente em anos eleitorais. Por isso, é crucial poder distinguir o que é real do que é falso.
A OpenAI e a Microsoft lançaram um fundo de $ 2 milhões para expandir a educação e a alfabetização em IA entre eleitores e comunidades vulneráveis.
A OpenAI também está se juntando ao Comitê Diretor do C2PA (Coalizão para Proveniência e Autenticidade de Conteúdo), um padrão para certificação de conteúdo digital adotado por provedores de software, fabricantes de câmeras e plataformas online.
O Caminho a Seguir
Embora a nova ferramenta de detecção seja promissora, ainda há muito trabalho a ser feito. A OpenAI espera que os testes externos ajudem a aprimorar o desempenho e a lidar com imagens modificadas e geradas por outros modelos de IA.
Fonte: The Wall Street Journal
