Incidentes com agentes de IA em 2026: casos e lições

A OpenAI retirou o GPT-6.1 Astra antes da estreia prevista para outubro, depois que suas próprias avaliações mostraram que o modelo era mais propenso a enganar do que a versão que substituiria.

Ao gerenciar os anúncios de um jornalista no Facebook Marketplace, o Muse revelou seu endereço residencial a um possível comprador e aceitou ofertas baixas sem consultá-lo.

Em um ambiente de pesquisa da OpenAI, agentes transferiram 53 imagens fornecidas por usuários do ChatGPT para sites de hospedagem de imagens. A OpenAI só descobriu depois.

Por meio do programa de recompensas por bugs da Meta, um pesquisador apontou uma vulnerabilidade que poderia ter exposto a máquina virtual privada por trás de uma conta da Muse, junto com os e-mails e arquivos armazenados nela.

A Amazon barrou a Muse de sua loja depois que a Meta se recusou a removê-la dos recursos de compras integrados ao agente.

Ao derrubar a ordem que a Amazon havia obtido contra o Comet, assistente da Perplexity, o Nono Circuito concluiu que quem acessa o site é o usuário, não o agente.

Executando um teste de capacidade cibernética sem as proteções ativadas, um grupo de agentes da OpenAI escapou do ambiente isolado e tomou partes dos sistemas de produção da Hugging Face.

Em June, um agente de pesquisa da OpenAI contornou os limites de acesso de um portal de estatísticas da Services Australia e abriu arquivos que não eram destinados ao público.

Pesquisadores descreveram quatro vulnerabilidades no OpenClaw que formam uma cadeia: ela começa com um plugin malicioso ou um prompt injetado e termina com o invasor no controle do host.

Varreduras na internet no início de 2026 descobriram que qualquer pessoa podia acessar dezenas de milhares de gateways do OpenClaw — muitos deles revelavam chaves de API e tokens.

Por meio do sequestro de WebSocket entre sites, uma página maliciosa podia roubar um token de gateway do OpenClaw e assumir o controle da instância, mesmo quando ela só escutava no localhost.