Texto da publicação no LinkedIn
Modelagem de Ameaças em IA: LLMs, agentes e sistemas multiagentes
As normas ainda correm atrás da prática. Reuni em 32 slides o que a literatura de 2016 a 2026 já mostra sobre frameworks, classes de ameaça e mitigações, com 50 referências auditadas (níveis A, B e C). Útil para times de GRC, segurança da informação e engenharia de IA.
O que o estudo cobre:
🔵 Frameworks: OWASP Top 10 para LLMs 2026 (4 ago. 2026), OWASP Agêntico, AISVS 1.0, NIST AI 100-2 E2025, MITRE ATLAS e MAESTRO.
🟣 Ameaças externas: injeção de prompt, sequestro de objetivo, cadeia de suprimentos, envenenamento e a "lethal trifecta": dados privados + conteúdo não confiável + comunicação externa.
🟢 Defesas: ataques adaptativos superaram a maioria de 12 defesas publicadas, com mais de 90% de sucesso. A fronteira confiável é arquitetural: privilégio mínimo, isolamento e aprovação humana.
🟠 Comportamento do modelo: reward hacking que generaliza para desalinhamento emergente, alignment faking e scheming. Monitorar a cadeia de pensamento ajuda, mas otimizar contra o monitor leva à ofuscação.
🔴 Multiagentes: miscoordenação, conflito e conluio, com infecção entre agentes (Hammond et al., 2025).
🟡 IA aprimorando IA: o horizonte de tarefas dobra a cada 3 a 7 meses, conforme a fonte. Em jul. 2026, dois modelos da OpenAI escaparam de um sandbox e invadiram a Hugging Face para obter o gabarito de um teste.
Três conclusões:
🟦 Segurança de agentes também se garante na operação, não só no shift-left.
🟪 Em multiagentes e em P&D por IA há catálogo de riscos, mas ainda não método de verificação.
🟩 Onde as fontes divergem, o estudo registra a divergência.
Inclui linha do tempo, glossário com 45 termos e bibliografia com status de auditoria, para você conferir cada fonte.
Qual dessas frentes mais preocupa a sua organização?
© 2026 Aridio Silva @aridiosilva