SynthID para identificar conteúdos gerados por IA
SynthID é uma ferramenta desenvolvida pelo Google DeepMind para inserir marca d’água e identificar conteúdo gerado por IA. Por enquanto, a ferramenta tem sido aplicada especialmente em produtos do próprio Google. Entre os vários produtos do Google que usam a ferramenta estão o Imagen, o ImageFX, o VideoFX e os aplicativos Gemini.
SynthID é o resultado de esforços para encontrar uma solução robusta para marcar conteúdos gerados por IA sem comprometer sua qualidade, precisão e carácter criativo. Ele incorpora marcas d’água digitais diretamente nos conteúdos gerados por IA, incluindo imagens, áudios, textos e vídeos. As marcas d’água são imperceptíveis para os humanos. Porém, elas são detectáveis por algoritmos de identificação. Além disso, elas foram projetadas para permanecerem robustas contra modificações comuns. Para serem eficientes, a forma das marcas d’água varia conforme o arquivo.
Vídeo de introdução do SynthID.
Marca d'água em textos
Para textos, a equipe da DeepMind desenvolveu uma técnica que incorpora uma marca d’água diretamente na geração de textos feita por modelos grandes de linguagem (LLMs). Um LLM gera textos produzindo um token por vez. Os tokens podem representar um único caractere, palavra ou parte de uma frase. Para criar uma sequência de texto coerente, o modelo prevê o próximo token mais provável a ser gerado. Suas previsões são baseadas nas palavras anteriores e nas pontuações de probabilidade atribuídas a cada token potencial. Como consequência desse processo, uma única frase pode conter dez ou mais pontuações de probabilidade ajustadas. O padrão final de pontuações para as opções de palavras do modelo são usadas para inserir a marca d’água. Essa técnica pode ser usada em textos com apenas três frases. Contudo, à medida que o texto aumenta de tamanho, a robustez e a precisão do SynthID aumentam.
O SynthID aplica marcas d’água em textos gerados pelos modelos Gemini.
Marcas d'água em imagens e vídeos
Para imagens e vídeos, o SynthID adiciona uma marca d’água diretamente nos píxeis gerados por IA. Elas são invisíveis ao olho humano, mas podem ser detectadas por algoritmos de identificação.
O tipo de marca d’água usada foi projetado para não comprometer a qualidade da imagem ou do vídeo. Além disso, uma marca d’água permanece robusta mesmo após modificações como cortes, adição de filtros, alteração de cores, alteração de taxas de quadros (para vídeos) e salvamentos em outros formatos.
Segundo a DeepMind, SynthID identifica imagens geradas com IA mesmo em casos de manipulações como uso de filtros (fonte).
Arquivos de áudio
A primeira implantação do SynthID em áudios ocorreu no Lyria, o modelo do Google de geração de música de IA. Todos os áudios gerados por IA com o Lyria têm uma marca d’água SynthID incorporada diretamente em sua forma de onda.
A inserção dessa marca d’água é simples. O SynthID converte a onda de áudio em um espectrograma. Um espectrograma é uma visualização bidimensional que mostra como o espectro de frequências em um som evolui ao longo do tempo. Uma vez que o espectrograma é calculado, a marca d’água digital é adicionada a ele. Depois, o espectrograma é convertido novamente em áudio.
A marca d’água inserida é inaudível ao ouvido humano.
Limitações
SynthID ainda não é infalível. Ele apresenta limitações especialmente contra manipulações extremas. Evidentemente, ele tem dificuldades em lidar com textos que foram extensivamente modificados. Até porque, nesses casos, já é difícil dizer que eles foram gerados por IA. SynthID também é menos eficaz com de textos curtos e factuais. Adicionalmente, seu desempenho é inferior com textos traduzidos.
