A IA do Facebook visa identificar imagens falsas e rastrear seus criadores

Por

Imagem padrão do novo cientista

Imagens Deepfake criadas por https://thispersondoesnotexist.com/

Karras et al. e Nvidia

O Facebook desenvolveu uma inteligência artificial que afirma poder detectar imagens falsas e até fazer engenharia reversa delas para descobrir como foram feitas e talvez rastrear seus criadores.

Deepfakes são imagens totalmente artificiais criadas por uma IA. A nova IA do Facebook analisa as semelhanças entre uma coleção de deepfakes para ver se eles têm uma origem compartilhada, procurando padrões únicos, como pequenas manchas de ruído ou pequenas esquisitices no espectro de cores de uma imagem.

Ao identificar as pequenas impressões digitais em uma imagem, a IA do Facebook é capaz de discernir detalhes de como a rede neural que criou a imagem foi projetada, como o tamanho do modelo ou como ele foi treinado.

“Achei que não ia funcionar de jeito nenhum”, diz Tal Hassner, do Facebook. “Como poderíamos, só de olhar para uma foto, saber quantas camadas uma rede neural profunda tinha ou com que função de perda ela foi treinada?”

Hassner e seus colegas testaram a IA em um banco de dados de 100.000 imagens deepfake geradas por 100 modelos generativos diferentes, gerando 1.000 imagens cada. Algumas dessas imagens foram usadas para treinar a modelo, enquanto outras foram retidas e apresentadas à modelo como imagens de origem desconhecida.

Isso ajudou a testar a IA em seu objetivo final. “O que estamos fazendo é olhar para uma foto e tentar estimar qual é o design do modelo generativo que a criou, mesmo que nunca tenhamos visto esse modelo antes”, diz Hassner. Ele se recusou a compartilhar a precisão das estimativas da IA, mas diz que “somos muito melhores do que aleatórios”.

“É um grande passo para a impressão digital”, diz Nina Schick, autora de Deep Fakes e o Infocalypse. Mas ela aponta – assim como Hassner e seus colegas – que a IA só funciona em imagens que foram geradas totalmente artificialmente, enquanto muitos deepfakes são vídeos criados pela colagem de um rosto no corpo de outra pessoa.

Schick também se pergunta o quão eficaz a IA seria fora dos ambientes de laboratório, encontrando deepfakes na “selva”. “O tipo de modelo de detecção de rosto que vemos é amplamente baseado em conjuntos de dados acadêmicos e são implantados em ambientes controlados”, diz ela.

Hassner se recusou a falar sobre como o Facebook usaria sua nova IA, mas diz que esse tipo de trabalho é um jogo de gato e rato contra pessoas que criam falsificações. “Estamos desenvolvendo melhores modelos de identificação, enquanto outros estão desenvolvendo modelos cada vez melhores de geração”, diz ele. “Não tenho dúvidas de que em algum momento haverá um método que nos enganará completamente.”

Mais sobre esses tópicos:

Leave a Reply

Your email address will not be published. Required fields are marked *