Phishing e IA Generativa: Uma Proposta de Arquitetura Inteligente para a Defesa Contra Ataques de Phishing Impulsionados por IA

Resumo

Os avanços tecnológicos têm desempenhado um papel significativo no aprimoramento da experiência dos usuários, embora também exponham tanto indivíduos quanto organizações a riscos cibernéticos cada vez mais sofisticados. O phishing, em particular, destaca-se como uma das principais ameaças, explorando a confiança e a ingenuidade dos usuários para obter informações sensíveis (VAYANSKY; KUMAR, 2018). Com um investimento crescente em estratégias mais direcionadas, conhecidas como spear phishing, os ciberatacantes conferem maior autenticidade aos seus ataques (ALEROUD; ZHOU, 2017), explorando a suscetibilidade dos usuários e evidenciando uma tendência de crescimento e aprimoramento dessas ameaças ao longo do tempo. Com a maior parte dos ataques voltada ao furto de informações de cartões de crédito, os cibercriminosos buscam aumentar a efetividade de suas investidas explorando novas tecnologias na criação de suas fraudes. No ano de 2023, houve um crescimento significativo no uso de Large Language Models (LLMs) que geram linguagem de maneira contextualizada para interagir com seres humanos, impulsionado pelo sucesso do ChatGPT e outras ferramentas baseadas em IA generativa (HAZELL, 2023). Esses modelos têm sido utilizados para uma variedade de tarefas, desde a geração de texto até a análise de sentimentos e tradução automática. No entanto, essa mesma capacidade pode ser explorada de maneira distorcida pelos atacantes para aprimorar campanhas de phishing e a extração de informações por meio de engenharia social. Apesar dos resultados notáveis obtidos por esses modelos, as pesquisas voltadas à detecção de ataques dessa natureza ainda não abordam completamente a aplicação desses mecanismos no aprimoramento do golpe. Diante desse cenário, este projeto propõe a construção e a avaliação de uma arquitetura inteligente baseada em IA Generativa capaz de lidar com as técnicas empregadas em phishing provenientes da mesma origem. O objetivo é promover maior adaptabilidade e precisão no detector, proporcionando uma defesa mais robusta contra as ameaças emergentes no cenário digital. O objetivo geral desta pesquisa é desenvolver uma solução baseada em IA Generativa que possa ser aplicada em problemas de detecção de phishings criados por IA. Os objetivos específicos incluem demonstrar a eficácia da abordagem desenvolvida, investigando e avaliando técnicas e algoritmos existentes no campo da IA generativa para detecção de phishing, identificando as melhores práticas e adaptando-as para melhorar a eficiência, escalabilidade e personalização dos modelos treinados nessas áreas. Os resultados esperados desta pesquisa incluem o desenvolvimento de uma solução eficiente e adaptável para a detecção de phishing utilizando IA Generativa, demonstrando alta eficácia contra ataques sofisticados. Espera-se que os algoritmos e técnicas desenvolvidas possam ser aplicados em diversos domínios, aumentando a segurança cibernética em diferentes setores, incluindo financeiro, governamental e educacional. Com isso, o estudo não apenas contribuirá para o avanço do conhecimento em IA Generativa e segurança cibernética, mas também fornecerá ferramentas práticas para combater uma das ameaças mais persistentes e evolutivas do ambiente digital atual. A mitigação dos impactos dos ataques de phishing resultará em uma maior proteção da privacidade dos usuários e na preservação da integridade das informações.