Um estudo sobre a criação de conteúdo falso com inteligência artificial

Abstract

Este trabalho apresenta um estudo teórico sobre a criação de conteúdo falso com o uso de Inteligência Artificial (IA), com ênfase em deepfakes. O problema central aborda os impactos sociais, éticos e políticos causados pela disseminação de conteúdo falso, especialmente vídeos manipulados por IA. O objetivo principal é investigar as técnicas utilizadas para gerar deepfakes, explorar os desafios legais e éticos envolvidos e propor soluções para mitigar seus efeitos prejudiciais. A metodologia foi dividida em duas fases: uma pesquisa bibliográfica sobre as tecnologias e plataformas que geram deepfakes e um estudo de caso de três exemplos notáveis de deepfakes, incluindo vídeos manipulados de Barack Obama, Volodymyr Zelensky e Mark Zuckerberg. As principais ideias discutidas incluem o papel das redes neurais e algoritmos de aprendizado profundo na criação de deepfakes e as possíveis ferramentas de detecção. Conclui-se que, embora a tecnologia de deepfakes ofereça potenciais criativos, ela representa uma ameaça à integridade da informação e à confiança pública. Para combater esses efeitos, é essencial o desenvolvimento de tecnologias de detecção mais avançadas, regulamentações adequadas e a conscientização do público sobre os riscos associados à IA.

This research presents a theoretical study on the creation of fake content using Artificial Intelligence (AI), with an emphasis on deepfakes. The central problem addresses the social, ethical and political impacts caused by the dissemination of fake content, especially videos manipulated by AI. The main objective is to investigate the techniques used to generate deepfakes, explore the legal and ethical challenges involved and propose solutions to mitigate their harmful effects. The methodology was divided into two phases: a literature search on the technologies and platforms that generate deepfakes and a case study of three notable examples of deepfakes, including manipulated videos of Barack Obama, Volodymyr Zelensky and Mark Zuckerberg. The main ideas discussed include the role of neural networks and deep learning algorithms in the creation of deepfakes and possible detection tools. It concludes that while deepfake technology offers creative potential, it poses a threat to information integrity and public trust. To combat these effects, the development of more advanced detection technologies, appropriate regulations and public awareness of the risks associated with AI are essential.