Deepfake, sabe como identificar? Olhe para as estrelas (dos olhos)
E tempos onde a geração de imagens por IA já está ao alcance das massas (e com as eleições chegando aí no Brasil), a capacidade de poder detectar imagens falsas (Deepfake) é algo realmente importante.
E se você pudesse saber apenas olhando para os olhos de alguém?
A verdade está nas estrelas
Esta é uma descoberta convincente de uma nova investigação divulgada no Encontro Nacional de Astronomia da Royal Astronomical Society, em Hull (Inglaterra), que sugere que falsificações geradas por IA podem ser detectadas através da análises dos olhos humanos, da mesma forma que os astrônomos estudam imagens de galáxias.
O ponto central do trabalho, do estudante de mestrado da Universidade de Hull, Adejumoke Owolabi, é sobre o reflexo nos globos oculares de uma pessoa.
Se os reflexos forem similares, provavelmente a imagem seja de um ser humano real. Se forem diferentes, provavelmente trata-se de um deepfake.
Na imagem acima, a pessoa da esquerda (a atriz Scarlett Johansson) é real, enquanto que a pessoa da direita foi gerada por IA. “Os reflexos nos olhos são consistentes para uma pessoa real, mas incorretos (de ponto de vista físico) para a pessoa da imagem falsa“, disse Kevin Pimbblet, professor de astrofísica e dirfetor do Centro de Excelência para a Ciência de Dados, Inteligência Artificial e Modelagem na Universidade de Hull.
Mais detalhes sobre o estudo e a relação com a astronomia
Os pesquisadores ao analisarem os reflexos da luz nos olhos das pessoas em imagens reais e geradas por IA, empregaram métodos normalmente utilizados na astronomia, para quantificar as reflexões e verificar uma consistência entre os reflexos do olho esquerdo e direito.
As imagens falsas muitas vezes carecem de consistência nos reflexos entre cada olho, enquanto que as imagens reais geralmente mostram os mesmos reflexos em ambos os olhos.
“Para medir as formas das galáxias, analisamos se são centralmente compactas, se são simétricas e quão suaves são. Analisamos a distribuição da luz“, disse o Professor Pimbblet.
“Detectamos os reflexos nos olhos de forma automatizada e analisamos suas características morfológicas por meio dos índices CAS (concentração, assimetria e suavidade) e Gini, para comparar a similaridade entre os olhos esquerdo e direito. As descobertas mostram que os deepfakes têm algumas diferenças entre os dois.”
O coeficiente de Gini é normalmente usado para medir como a luz da imagem de uma galáxia é distribuída entre seus pixels. Esta medição é feita ordenando os pixels que compõem a imagem de uma galáxia em ordem crescente de fluxo e depois comparando o resultado com o que se espera de de uma distribuição uniforme perfeita.
Um valor de Gini de 0 é uma galáxia na qual a lux está distribuída uniformemente por todos os pixels da imagem, enquanto que um Gini de 1 é uma galáxia com com toda a luz concentrada em um único pixel.
Os pesquisadores também testaram os índices CAS, uma ferramenta originalmente desenvolvida por astrônomos para medir a distribuição de luz das galáxias e determinar sua morfologia,, mas descobriram que não funcionava bem com olhos falsos.
“É importante notar que esta não é uma solução mágica para detectar imagens falsas”, acrescentou o professor Pimbblet.
“Existem falsos positivos e falsos negativos, não conseguiremos tudo, mas este métodos nos fornece uma base, um plano de ataque, nessa corrida “armamentista” para detectar deepfakes“.
Créditos:
https://ras.ac.uk/news-and-press/news/want-spot-deepfake-look-stars-their-eyes
Créditos da imagem uasada na capa do post:
https://www.lerdetudo.com.br/o-que-e-deepfake-saiba-como-se-proteger/
O post Deepfake, sabe como identificar? Olhe para as estrelas (dos olhos) apareceu primeiro em Canal Hacker.