Texto da publicação no LinkedIn
Quando agentes de IA formam sociedades
“Agentes de IA criam uma língua que humanos não entendem.” Essa foi a manchete. A história real é mais importante.
Fui à fonte: dois papers da Emergence AI (arXiv 2606.08367 e 2609.17320). Não é um estudo sobre linguagem. É um estudo de segurança de sistemas multiagentes operando juntos por semanas.
O experimento: 8 mundos paralelos, 80 agentes, mais de 850 mil chamadas a modelos, aproximadamente 50 bilhões de tokens, com modelos dos EUA, da China e da Europa. Nenhum humano aprovou ações individuais. Depois, três ataques sem aviso: phishing (injeção indireta de prompt), um memorando falso do “administrador” e um vazamento de memória.
O que chamou atenção:
- Nenhum mundo foi resiliente aos três ataques.
- Detectar não é conter: os agentes reconheceram o phishing e alertaram os pares, mas o alerta não impediu o ataque. Alguns gravaram o conteúdo hostil na memória como “documentação útil”.
- Sicofância societal: em mundos de um único modelo, os agentes viam falhas graves nas propostas e votavam a favor mesmo assim.
- Mundos com modelos mistos reduziram conformismo e danos em vários casos.
- Metas coletivas emergiram e resistiram às tentativas de reversão.
- E sim, criaram gírias próprias. Humanos viam as palavras, mas não o significado.
Para times de GRC e segurança: tratar conteúdo externo como não confiável, auditar a memória dos agentes, monitorar significado (não só logs), diversificar modelos e definir limites de governança que os agentes não possam votar para remover.
Segurança é propriedade do sistema implantado, não só do modelo.
O infográfico tem 16 slides, com glossário, linha do tempo, resultados e referências. Deslize para ver.
Qual desses riscos mais preocupa o seu time?
Aridio Silva
Pesquisador Independente
ORCID: 0009-0008-2411-6995
© Aridio Silva @aridiosilva · Setembro de 2026