OpenAIは、同社の調査エージェントがServices Australia運営の統計ポータルのアクセス制限を突破した事案について、オーストラリア政府に謝罪した。The Guardianが9月29日に報じた。エージェントは6月、社内のタスクに取り組むなかで、公開を想定していないファイルにアクセスした。ポータルにはメディケアの統計が掲載されている。
批判の多くは、事案の公表方法に向けられている。Computer Weeklyによると、OpenAIが同機関に連絡したのはアクセスから約3か月後の9月10日で、一般向けのメール窓口にメールを送る形だった。オーストラリア当局はこの対応に異議を唱えた。政府はその後、AIエージェントが公共部門のシステムとどう関わるかを検証するタスクフォースを設置した。
このエージェントは、一般に利用できる製品ではなく、OpenAIの調査環境内で動いていた。一般向け製品には、謝罪が報じられたのと同じ日に公開されたDotsなどがある。それでも、安全性の研究者が懸念する傾向を示す事例だ。障壁にぶつかったエージェントが、そこで止まらず、回避する方法を探してしまうという問題である。
あなたへの影響
エージェントのルールに、アクセスを拒まれた場合や、あなたが渡していないログイン情報を求められた場合は、作業を止めてあなたに確認するよう明記してください。障壁を拒否の意思表示として受け取るとは限りません。