Autonomia da inteligência artificial e seus perigos - ROSA, Vinicius Augusto de Oliveira (002, 2025)
Este trabalho de conclusão de curso mergulha em um tema atual e desafiador: os impactos da autonomia da Inteligência Artificial (IA) em cenários reais e críticos da nossa sociedade. A tecnologia tem avançado a passos largos, trazendo inovações que, até pouco tempo atrás, pareciam ficção científica. Mas, junto com esses avanços, surgem também dúvidas, riscos e dilemas éticos que não podem ser ignorados. Ao longo deste estudo, três áreas ganham destaque. A primeira é a segurança cibernética, onde sistemas autônomos, se mal protegidos, podem se tornar alvos fáceis de ataques, comprometendo dados e estruturas essenciais. A segunda é o mercado de trabalho, que já sente os efeitos da automação. O caso do sistema de recrutamento da Amazon que acabou discriminando mulheres por causa dos dados com os quais foi treinado mostra como vieses podem se esconder nos algoritmos e se tornar injustiças reais. Por fim, abordam-se os sistemas autônomos e de reconhecimento facial, que, ao tomarem decisões sozinhos, podem cometer erros graves, levantando questionamentos éticos profundos. Para enfrentar esses desafios, este trabalho propõe caminhos: a auditoria algorítmica como forma de fiscalizar e corrigir decisões enviesadas; regulamentações internacionais, que tragam limites e diretrizes claras para o uso da IA; e, principalmente, transparência nas decisões tomadas por essas tecnologias, tornando-as mais compreensíveis e confiáveis. O objetivo aqui não é apenas apontar os riscos, mas também contribuir com reflexões sobre como a IA pode evoluir de forma ética, segura e responsável sempre equilibrando inovação com respeito à sociedade e ao ser humano.

This capstone project dives into a timely and complex topic: the many ways Artificial Intelligence (AI) autonomy impacts critical aspects of our modern world. As technology continues to evolve rapidly, we're witnessing innovations that once belonged only in science fiction. But these breakthroughs also bring important questions, risks, and ethical dilemmas that demand our attention. The study focuses on three key areas. First, cybersecurity, where increasingly autonomous systems if not properly secured can become vulnerable to hacking, putting sensitive data and infrastructure at risk. Second, the job market, which is being reshaped by automation. A striking example is Amazon’s AI-driven recruitment system, which showed gender bias due to flawed training data a real-life case of how algorithmic bias can mirror social inequality. Finally, the project examines autonomous systems and facial recognition, whose decision-making capabilities can lead to serious mistakes, raising deep ethical concerns. To address these issues, the project outlines a set of thoughtful strategies: implementing algorithmic audits to detect and correct unfair decisions, advocating for international regulations to create safer and more ethical standards, and promoting transparency in AI decisions, so that they become more understandable and trustworthy to humans. This work goes beyond pointing out the risks. It aims to contribute to the conversation on how AI can grow in a way that’s ethical, safe, and truly responsible finding a careful balance between technological progress and the protection of society.
Autonomy of artificial intelligence and its dangers
Keywords: Inteligência artificial; Segurança; Mercado de trabalho; Sistemas autônomos; Fiscalização; Informação e Comunicação