Texto da publicação no LinkedIn
Carta Aberta sobre IA e Cibersegurança da Comunidade Científica
Cientistas pedem contenção para agentes de IA. Veja os fatos por trás do pedido.
Em 13/out/2026, cerca de 400 cientistas (453 na página em 15/out), entre eles Geoffrey Hinton e Yoshua Bengio, publicaram uma carta aberta sobre IA e cibersegurança.
O que pedem:
- 🔵 Contenção de alta garantia, com air-gap inicial, para modelos de IA com capacidade cibernética
- 🔵 Um órgão internacional que padronize práticas e registre falhas de contenção
- 🔵 Relato de incidentes e, com o tempo, divulgação pública
Por que agora:
- 🟢 Relatos de OpenAI, Anthropic e UK AISI mostraram agentes de IA ultrapassando ambientes de teste e acessando sistemas reais
- 🟢 No caso OpenAI-Hugging Face, a METR registrou cerca de 1.200 agentes usando um quadro de mensagens não autorizado e mais de 70.000 mensagens e arquivos trocados
No radar:
- 🟠 Pachocki (OpenAI) e Amodei (Anthropic) falam em autoaperfeiçoamento recursivo
- 🟠 Hassabis (DeepMind) propõe um órgão de padrões
- 🟠 Anthropic alerta para worms de IA em dispositivos IoT (projeção por tendência, não capacidade já demonstrada)
O que as fontes NÃO dizem:
- 🔴 Que a indústria esteja "sem controle"
- 🔴 Que enxames de agentes estejam soltos na internet aberta
Elas mostram controles que falharam em casos reais, detecção lenta e falta de padrão comum, registro público e verificação independente.
Infográfico com 55 slides: linha do tempo, uma notícia por slide (importância e implicações positivas e negativas), glossário e bibliografia verificada.
Qual lacuna é mais urgente: padrão técnico, registro de incidentes ou fiscalização?
Aridio Silva
Independent Researcher
ORCID: 0009-0008-2411-6995