O avanço da tecnologia trouxe uma série de benefícios, mas também desafios consideráveis, especialmente no âmbito da identificação e autenticação de informações e pessoas. Um dos desafios contemporâneos mais significativos é a proliferação dos deep fakes, que consistem em manipulações digitais avançadas capazes de criar mídias falsas extremamente convincentes, como vídeos, áudios e imagens, com o potencial de ludibriar até mesmo observadores atentos. Este artigo explora os desafios enfrentados na identificação em um cenário onde os deep fakes estão se tornando cada vez mais prevalentes.
Mas afinal, o que são Deep Fakes?
Deep fake é um termo derivado da combinação das palavras “deep learning” (aprendizado profundo) e “fake” (falso). Refere-se a uma técnica na qual algoritmos de inteligência artificial, particularmente aqueles baseados em redes neurais profundas, são empregados para criar ou alterar conteúdos de mídia de maneira que aparentem autenticidade, mas que, na realidade, são fabricados.
Essas criações podem ser utilizadas para diversos fins, tais como campanhas de desinformação e fraudes sofisticadas. Até mesmo campanhas publicitárias se aproveitam do potencial da IA, como por exemplo, a utilização de figuras que já faleceram em campanhas atuais.
Como então confiar no que estamos vendo, especialmente quando é possível criar imagens realistas de qualquer pessoa, mesmo aquelas que já faleceram?
O que impulsiona os Deep Fakes?
Desconfiança na Autenticidade: a disseminação de deep fakes gera um clima de desconfiança em relação à autenticidade de qualquer conteúdo de mídia. Agora é necessário avaliar cuidadosamente os vídeos, fotos e áudios que recebemos, uma vez que podem ter sido manipulados para representar eventos ou declarações que nunca ocorreram.
Difusão de Desinformação e Manipulação Política: existe um enorme potencial de utilização dos deep fakes como ferramenta para criar conteúdos falsos e disseminar desinformação. Por isso, é fundamental verificar cuidadosamente a fonte e pesquisar se o que foi recebido reflete de fato a realidade.
Já parou para refletir sobre como os Deep Fakes podem abalar nossas relações de confiança com as pessoas? A capacidade de criar vídeos com a utilização de qualquer pessoa coloca em dúvida se estamos realmente interagindo com aquela pessoa e se as informações são verdadeiras. Basta pesquisar no YouTube para encontrar uma série de vídeos com o Silvio Santos cantando diversas músicas, inclusive internacionais. Isso impacta a confiança em relação aos outros, mesmo que sejam nossos melhores amigos.
Tudo isso apresenta enormes desafios na verificação de identidade e destaca a necessidade de soluções e tecnologias avançadas para a verificação de identidade, tanto em ambientes online quanto offline. Essas soluções e tecnologias devem ser capazes de identificar sinais de manipulação no conteúdo de mídia, funcionando essencialmente como uma perícia online que distingue mídias autênticas de manipuladas.
Podemos concluir que os deep fakes representam um desafio significativo para a identificação e autenticação em um mundo cada vez mais digitalizado. A disseminação dessas manipulações digitais levanta preocupações sobre a confiabilidade das informações, a estabilidade das instituições e a integridade das relações sociais. Para enfrentar esses desafios, é crucial investir em tecnologias de detecção avançadas, promover a alfabetização digital e desenvolver políticas e regulamentações que abordem o uso malicioso dos deep fakes. Somente com esforços coordenados e colaborativos podemos mitigar os impactos negativos dos deep fakes e preservar a integridade da identificação e autenticação em nosso mundo digital em constante evolução
Bruno César Teixeira de Oliveira, com uma carreira sólida na gestão de riscos, compliance e prevenção a fraudes em instituições financeiras.
