A exploração da inteligência artificial em engenharia social e cibersegurança: análise de vulnerabilidades e estratégias de mitigação de deepfakes

Abstract

O avanço exponencial da Inteligência Artificial (IA) Generativa introduziu uma nova e sofisticada superfície de ataque na Cibersegurança: os deepfakes. Este artigo tem como objetivo analisar a exploração de mídias sintéticas em campanhas de Engenharia Social, investigando como a manipulação audiovisual compromete a confiança digital e facilita fraudes corporativas. A metodologia adotada consistiu em uma revisão bibliográfica de natureza exploratória-descritiva, complementada por demonstrações práticas que evidenciaram a acessibilidade e o realismo na manipulação de imagens biométricas utilizando ferramentas públicas. Os resultados indicam que as soluções técnicas de detecção passiva, como rastreamento de metadados e marcas d’água, apresentam limitações críticas de durabilidade frente à aprendizagem adversarial. A análise aponta que a mitigação eficaz não reside em uma solução tecnológica isolada, mas na integração entre a evolução da forense digital, a aprovação de marcos regulatórios brasileiros — especificamente os Projetos de Lei nº 2.630/2020 e nº 2.338/2023 — e, fundamentalmente, na educação do usuário. Conclui-se que, diante da volatilidade das ferramentas de detecção, a conscientização e a adoção de uma postura de "confiança zero" constituem a defesa mais resiliente contra a vulnerabilidade humana explorada por essas ameaças.

The exponential advancement of Generative Artificial Intelligence (AI) has introduced a new and sophisticated attack surface in Cybersecurity: deepfakes. This article aims to analyze the exploitation of synthetic media in Social Engineering campaigns, investigating how audiovisual manipulation compromises digital trust and facilitates corporate fraud. The methodology employed consisted of an exploratory-descriptive literature review, complemented by practical demonstrations that evidenced the accessibility and realism in the manipulation of biometric images using public tools. The results indicate that technical passive detection solutions, such as metadata tracking and watermarking, present critical durability limitations in the face of adversarial learning. The analysis points out that effective mitigation does not lie in an isolated technological solution, but in the integration between the evolution of digital forensics, the approval of Brazilian regulatory frameworks — specifically Bills No. 2,630/2020 and No. 2,338/2023 — and, fundamentally, user education. It is concluded that, given the volatility of detection tools, awareness and the adoption of a "zero trust" posture constitute the most resilient defense against the human vulnerability exploited by these threats.