Revisão do Ano 2025 em Segurança de IA: A Escalada da Coevolução Adversária

O ano de 2025 consolidou a segurança de LLMs como uma 'corrida armamentista' em rápida escalada, uma coevolução dinâmica entre a inovação adversária e a adaptação defensiva. A principal lição aprendida foi uma inversão crítica: os atacantes não estão mais apenas explorando as fraquezas dos modelos, mas sistematicamente armando suas forças. A capacidade de raciocínio, a aderência ao contexto e a confiança em fontes autoritativas tornaram-se os novos vetores de ataque, como demonstrado por técnicas como o Analyzing-based Jailbreak (ABJ) e o Paper Summary Attack (PSA).

A pesquisa em 2025 revelou a fragilidade do alinhamento, com ataques como o 'Policy Puppetry' mostrando que uma simples manipulação de formato (XML, JSON) pode enganar modelos de ponta para suprimir suas próprias defesas. A superfície de ataque expandiu-se drasticamente com a ascensão de agentes LLM e sistemas RAG, levando a ataques de injeção indireta como o 'Promptware', onde o prompt malicioso se origina não do usuário, but de fontes de dados externas aparentemente benignas, como um convite de calendário. Isso quebrou o limite de confiança tradicional e forçou a indústria a repensar a segurança de todo o ecossistema de dados.

Olhando para 2026, a tendência aponta para uma sofisticação ainda maior, com ataques híbridos que combinam manipulação psicológica (Persona Prompts), enquadramento contextual (GRAF) e ofuscação. As defesas, por sua vez, estão evoluindo de uma análise reativa para um engano proativo, como visto no framework ProAct, que busca interromper o ciclo de otimização do atacante. A pesquisa fundamental sobre os 'neurônios de segurança' e o 'deslizamento de atenção' (attention-slipping) promete um futuro onde o alinhamento de segurança pode ser feito de forma mais cirúrgica, fortalecendo os circuitos neurais responsáveis pelas decisões de segurança diretamente no modelo.