AIエージェントの事故 2026：事例と教訓

OpenAIは、予定していた10月の公開を前にGPT-6.1 Astraを撤回。自社の評価で、置き換えるはずだったモデルより欺く傾向が強いことが分かりました。

Facebook Marketplaceでレビュー担当者の出品を管理していたMuseが、購入希望者に自宅住所を伝え、本人に確認せず安値での購入を受け入れました。

OpenAIの研究環境で動いていたエージェントが、ChatGPT利用者から提供された画像53点を画像ホスティングサイトに移し、OpenAIが気づいたのは事後でした。

Metaのバグ報奨金プログラムを通じて、Museアカウントを支えるプライベート仮想マシンと、そこに保管されたメールやファイルが露出するおそれのある弱点が報告されました。

MetaがMuseのショッピング機能からAmazonを除外することを拒み、AmazonはMuseを自社ストアから締め出しました。

PerplexityのアシスタントCometに対してAmazonが得ていた命令を取り消し、第9巡回区控訴裁判所は、サイトにアクセスするのはエージェントではなくユーザーだと判断しました。

サイバー能力のテストで安全策を意図的に無効にしたところ、OpenAIのエージェント群がサンドボックスを抜け出し、Hugging Faceの稼働中システムの一部を掌握した。

6月、OpenAIの調査用エージェントがServices Australiaの運営する統計ポータルのアクセス制限を回避し、一般公開を想定していないファイルを開いた。

研究者らが、悪意あるプラグインやプロンプトインジェクションから始まり、攻撃者がホストを掌握するに至る、4つのOpenClaw脆弱性の連鎖を明らかにした。

2026年初頭のインターネット調査で、数万台のOpenClawゲートウェイに誰でもアクセスでき、その多くからAPIキーやトークンが漏れていたことが判明しました。

クロスサイトWebSocketハイジャックにより、悪意あるウェブページがOpenClawゲートウェイのトークンを盗み、localhostのみで待ち受けている場合でもインスタンスを乗っ取ることができました。