Exploração maliciosa do ChatGPT para ataques cibernéticos.

Abstract

Este artigo investiga a viabilidade de manipular o ChatGPT, uma ferramenta de inteligência artificial desenvolvida e lançada pela OpenAI em 2022. O ChatGPT oferece respostas que abrangem uma ampla gama de tópicos e, apesar de estar programado para não fornecer orientações sobre ataques à segurança da informação, percebe-se que cibercriminosos têm procurado explorar suas possíveis vulnerabilidades, representando ameaças significativas à segurança cibernética. Sendo assim, este estudo averigua a possibilidade de um indivíduo, sem conhecimento especializado em práticas criminosas, utilizar o ChatGPT para gerar conteúdo malicioso, em especial ataques de phishing e, dessa forma, comprometer instituições e indivíduos. A relevância deste estudo fundamenta-se na importância de compreender os riscos de potenciais vulnerabilidades e ameaças da inteligência artificial no contexto da segurança cibernética. Os resultados deste estudo são valiosos, pois fornecerão insights sobre como mitigar possíveis ameaças decorrentes da manipulação do ChatGPT e outros sistemas de IA semelhantes.

This article investigates the feasibility of manipulating ChatGPT, an artificial intelligence tool developed and launched by OpenAI in 2022. ChatGPT provides responses that cover a wide range of topics, and although it is programmed not to provide guidance on information security attacks, it is observed that cybercriminals have sought to exploit its potential vulnerabilities, posing significant threats to cybersecurity. Therefore, this study explores the possibility of an individual, without specialized knowledge in criminal practices, using ChatGPT to generate malicious content, particularly in phishing attacks, thus compromising institutions and individuals. The relevance of this study lies in understanding the risks associated with potential vulnerabilities and threats of artificial intelligence in the context of cybersecurity. The results of this study are valuable as they will provide insights into mitigating potential threats arising from the manipulation of ChatGPT and other similar AI systems.