Manipulação digital em rede: deepfakes, bots e milícias virtuais como desafios contemporâneos à segurança da informação

Abstract

A expansão acelerada das tecnologias de inteligência artificial transformou profundamente a forma como indivíduos interagem, se informam e constroem percepções no ambiente digital. Nesse contexto, práticas como deepfakes, bots inteligentes e milícias digitais deixaram de ser fenômenos isolados para se tornarem parte de um cenário cotidiano, no qual a fronteira entre o que é autêntico e o que é fabricado torna-se cada vez mais difícil de distinguir. Este estudo busca compreender, de maneira crítica e sensível, como essas formas de manipulação exploram fragilidades humanas — como confiança, curiosidade e urgência — e como se aproveitam da velocidade das redes sociais para produzir impactos reais na vida das pessoas, nas instituições e nas relações sociais. A pesquisa analisa casos documentados no Brasil e no exterior, evidenciando que a ação coordenada de conteúdos sintéticos compromete não apenas a segurança da informação, mas também valores democráticos e direitos fundamentais. Examina-se, ainda, o arcabouço jurídico brasileiro, que, embora disponha de instrumentos importantes, revela-se insuficiente frente à sofisticação dessas novas ameaças. A partir dessa leitura integrada, o trabalho evidencia que enfrentar a manipulação digital não depende apenas de mecanismos tecnológicos ou de punições legais, mas de um conjunto articulado de estratégias que inclui educação midiática, transparência algorítmica, cultura de prevenção e fortalecimento da capacidade crítica dos usuários. Conclui-se que a construção de um ambiente digital mais seguro exige não apenas normas e ferramentas, mas também um olhar humano atento às vulnerabilidades emocionais, sociais e informacionais que tornam possível a expansão desses fenômenos, reforçando a necessidade de respostas colaborativas e de consciência coletiva para preservar a integridade do ecossistema digital.The rapid expansion of artificial intelligence technologies has profoundly transformed the way individuals interact, access information, and form perceptions in digital environments. In this context, practices such as deepfakes, intelligent bots, and digital militias have ceased to be isolated phenomena and have become part of a daily landscape in which the boundary between what is authentic and what is fabricated grows increasingly difficult to discern. This study seeks to understand, through a critical and human-centered perspective, how these forms of manipulation exploit emotional vulnerabilities—such as trust, curiosity, and urgency—and how they take advantage of the speed and reach of social networks to generate concrete impacts on people’s lives, institutions, and social relations. The research examines documented cases in Brazil and abroad, showing that the coordinated action of synthetic content compromises not only information security but also democratic values and fundamental rights. It also analyzes the Brazilian legal framework, which, although it offers relevant instruments, remains insufficient in the face of the sophistication of these emerging threats. From this integrated perspective, the study demonstrates that confronting digital manipulation depends not only on technological mechanisms or legal sanctions but on an articulated set of strategies that include media literacy, algorithmic transparency, preventive culture, and the strengthening of users’ critical awareness. The findings conclude that building a safer digital environment requires more than norms and tools; it demands a human perspective attentive to the emotional, social, and informational vulnerabilities that enable the expansion of these phenomena, reinforcing the need for collaborative responses and collective awareness to preserve the integrity of the digital ecosystem.