Google testa marca d'água para sinalizar imagens criadas por IA :betgalera

O desenvolvimento cada vez mais rápido das ferramentasbetgalerainteligência artificial (IA) tem criado um temor crescente: o aperfeiçoamento das imagens "deep fake" a um pontobetgaleraque seja quase impossível diferenciá-lasbetgaleraregistros reais.

Para tentar combater isso, o Google está testando uma marca d’água digital para detectar e sinalizar imagens feitas por IA.

Desenvolvido pela Deepmind, o braçobetgaleraIA do Google, o SynthID identificará imagens geradas por máquinas.

Ele funciona incorporando alteraçõesbetgalerapixels individuais nas imagens,betgaleramodo que as marcas d'água sejam invisíveis ao olho humano, mas detectáveis pelos computadores.

Mas a DeepMind disse que o sistema não é "infalível contra a manipulação extremabetgaleraimagens".

À medida que a tecnologia evolui, torna-se cada vez mais complexo saber a diferença entre imagens reais e imagens geradas artificialmente, como mostra o questionário,betgalerainglês, AI ou Real da BBC Bitesize.

Os geradoresbetgaleraimagensbetgaleraIA se tornaram populares, como a famosa ferramenta Midjourney, que ostenta o númerobetgaleramaisbetgalera14,5 milhõesbetgalerausuários.

Eles permitem que as pessoas criem imagensbetgalerasegundos, inserindo instruçõesbetgaleratexto simples. Isso levanta questões sobre direitos autorais e propriedadebetgaleratodo o mundo.

O Google possui seu próprio geradorbetgaleraimagens chamado Imagen. O novo sistemabetgaleracriação e verificaçãobetgaleramarcas d'água só se aplica a imagens criadas com esta ferramenta.

Invisível

Marcas d'água são normalmente um logotipo ou texto adicionado a uma imagem para mostrar a propriedade, alémbetgaleraparcialmente dificultar a cópia e uso da imagem sem permissão.

Elas estão nas imagens usadas no site da BBC News, que geralmente incluem uma marca d'águabetgaleradireitos autorais no canto inferior esquerdo.

Mas esses tiposbetgaleramarcas d'água não são adequados para identificar imagens geradas por Al porque podem ser facilmente editadas ou recortadas.

As empresasbetgaleratecnologia usam uma técnica chamada hashing para criar "impressões digitais"betgaleravídeosbetgaleraabuso conhecidos, para que possam identificá-los e removê-los rapidamente, caso comecem a se espalhar online.

Mas esses também podem ser corrompidos se o vídeo for cortado ou editado.

O sistema do Google cria uma marca d'água efetivamente invisível, que permitirá que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.

Pushmeet Kohli, chefebetgalerapesquisa da DeepMind, disse à BBC que seu sistema modifica imagensbetgaleramaneira tão sutil "que para você e para mim, para um ser humano, não muda nada".

Ao contrário do hashing, disse ele, mesmo depois que a imagem é posteriormente cortada ou editada, o software da empresa ainda pode identificar a presença da marca d'água.

"Você pode mudar a cor, pode mudar o contraste, pode até redimensioná-lo... [e o DeepMind] ainda será capazbetgaleraidentificar que é gerado por IA", disse ele.

Mas ele alertou que este é um "lançamento experimental" do sistema e que a empresa precisa que pessoas o utilizem para entender o quão robusto ele é.

Padronização

Em Julho, o Google foi uma das sete empresas líderesbetgalerainteligência artificial a assinar um acordo voluntário nos Estados Unidos para garantir o desenvolvimento e utilização seguros da IA, que incluía garantir que as pessoas fossem capazesbetgaleradetectar imagens feitas por computador por meio da implementaçãobetgaleramarcasbetgaleraágua.

Kohli disse que essa foi uma medida que reflete esses compromissos, mas Claire Leibowicz, do grupo Partnership on AI, disse que é preciso haver mais coordenação entre as empresas.

"Acho que a padronização seria útil para a área", disse ela.

"Existem diferentes métodos que estão sendo testados, precisamos monitorar o seu impacto – como podemos obter melhores relatórios sobre quais estão funcionando e para que fim?"

"Muitas instituições estão explorando métodos diferentes, o que acrescenta dois grausbetgaleracomplexidade, já que nosso ecossistemabetgalerainformação dependebetgaleramétodos diferentes para interpretar e definir se o conteúdo é gerado por IA", disse ela.

A Microsoft e a Amazon estão entre as grandes empresasbetgaleratecnologia que, assim como o Google, se comprometeram a colocar marcas d’águabetgaleraalguns conteúdos gerados por IA.

Além das imagens, a Meta publicou um artigobetgalerapesquisa para seu geradorbetgaleravídeo inédito Make-A-Video, que afirma que marcas d'água serão adicionadas aos vídeos gerados para atender a demandas semelhantesbetgaleratransparênciabetgaleratrabalhos gerados por IA.

A China proibiu completamente as imagens geradas por IA sem marcas d'água no início deste ano, com empresas como a Alibaba aplicando-as a criações feitas com a ferramentabetgaleraconversãobetgaleratextobetgaleraimagembetgalerasua divisãobetgaleranuvem, a Tongyi Wanxiang.