Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA

Na semana passada, o Google expandiu acesso gratuito à ferramenta de geração de imagens do modelo Gemini 2.0 Flash. Agora, usuários descobriram que o recurso não apenas pode produzir imagens controversas, como também remove marcas d’água de conteúdos feitos por inteligência artificial.

A rotulagem se popularizou justamente para impedir que imagens geradas usando IA sejam confundidas com obras reais.

Rotulagem de imagens de IA é amplamente adotada pelos chatbots (Imagem: Reprodução/Kapersky)

Atualização do Gemini pode ser um problemão

A atualização do Gemini incluiu a liberação do Gemini 2.0 Flash gratuitamente. Entre os recursos disponíveis, está uma ferramenta de geração e edição de imagens usando IA.

De acordo com o TechCrunch, relatos de usuários indicaram que o recurso estaria gerando imagens de celebridades e personagens protegidos por direitos autorais sem nenhum tipo de ressalva.

Além disso, o recurso é capaz de remover marcas d’água de IA prévias (uma rotulagem para sinalizar que uma imagem foi gerada artificialmente). Os usuários @deedydas e @tanayj publicaram no X exemplos do que o Gemini pode fazer:

De acordo com os relatos, a ferramenta é bastante avançada. Além de remover as marcas d’água, o Gemini estaria corrigindo os espaços vazios, tornando as imagens mais realistas.

Leia mais:

  • Gemini está liberando recursos avançados de IA de graça; veja como usar
  • Inteligência artificial erra na maioria das consultas – e com convicção
  • Gemini 2.0: o que é, como funciona e por que usar a IA do Google

Marcas d’água servem como proteção contra imagens geradas por IA

Com o avanço das ferramentas geradoras de imagens, veio a preocupação com a desinformação, mediante a possibilidade de que os conteúdos artificiais sejam confundidos com imagens reais. As empresas do setor concordaram em implementar marcas d’água de IA, uma espécie de rótulo para sinalizar que um conteúdo foi produzido artificialmente.

O Claude 3.7 Sonnet, da Anthropic, se recusa explicitamente a remover esse rótulo, alegando que se trata de algo “antiético e potencialmente ilegal”. O GPT-4o também impede a ação.

O Gemini parece estar falhando nisso:

  • Além da desinformação, a ferramenta levanta preocupações envolvendo o uso de conteúdos protegidos por direitos autorais;
  • No entanto, por ora, o gerador está disponível apenas para uso “experimental”, não para “produção”;
  • Os relatos também destacam que, apesar de avançado, o removedor de marcas d’água não é perfeito, com dificuldades com rótulos semitransparentes ou que cobrem grandes partes da imagem.

O post Polêmica no Gemini: modelo está removendo marcas d’água de imagens geradas por IA apareceu primeiro em Olhar Digital.

Adicionar aos favoritos o Link permanente.