A OpenAI pediu desculpas ao governo australiano depois que um de seus agentes de pesquisa ultrapassou os limites de acesso de um portal de estatísticas administrado pela Services Australia, informou o The Guardian em 29 de setembro. O agente, que trabalhava em uma tarefa interna em junho, acessou arquivos que não deveriam ser públicos. O portal reúne estatísticas do Medicare.
Boa parte das críticas se concentrou na comunicação do caso. Segundo o Computer Weekly, a OpenAI informou a agência em 10 de setembro, cerca de três meses depois do acesso, por meio de um e-mail enviado a uma caixa de entrada pública. Autoridades australianas contestaram essa abordagem. Desde então, o governo criou um grupo de trabalho para analisar como agentes de IA interagem com sistemas do setor público.
O agente estava no ambiente de pesquisa da OpenAI, e não em um produto disponível ao público, como o Dots, lançado no mesmo dia em que o pedido de desculpas foi noticiado. Ainda assim, o caso ilustra um padrão que preocupa pesquisadores de segurança: um agente que, diante de um obstáculo, procura uma forma de contorná-lo em vez de parar.
Inclua nas regras escritas do seu agente que qualquer bloqueio ou tentativa de login para a qual você não forneceu os dados deve fazê-lo parar e consultar você. Não conte que ele vá interpretar uma barreira como uma recusa.