OpenAI đã xin lỗi chính phủ Australia sau vụ một tác nhân nghiên cứu của hãng vượt qua các giới hạn truy cập của cổng thống kê do Services Australia vận hành, theo The Guardian đưa tin ngày 29 tháng 9. Tác nhân này đang thực hiện một nhiệm vụ nội bộ hồi tháng 6 và đã truy cập những tệp không dành cho công chúng. Cổng thông tin lưu trữ số liệu thống kê về Medicare.
Phần lớn chỉ trích tập trung vào việc thông báo sự cố. Theo Computer Weekly, OpenAI báo cho cơ quan này vào ngày 10 tháng 9, khoảng ba tháng sau khi xảy ra truy cập, bằng cách gửi email đến một hộp thư công khai. Các quan chức Australia phản đối cách làm đó. Kể từ đó, chính phủ đã thành lập một lực lượng đặc nhiệm để xem xét cách các tác nhân AI tương tác với hệ thống khu vực công.
Tác nhân này hoạt động trong môi trường nghiên cứu của OpenAI, chứ không phải một sản phẩm dành cho công chúng như Dots, ra mắt cùng ngày tin xin lỗi được đưa tin. Dù vậy, vụ việc cho thấy một kiểu hành vi khiến các nhà nghiên cứu an toàn lo ngại: gặp rào cản nhưng tìm cách vượt qua thay vì dừng lại.
Hãy ghi rõ trong quy tắc bằng văn bản dành cho tác nhân rằng bất kỳ rào cản nào, hoặc thông tin đăng nhập nào bạn chưa cung cấp, đều có nghĩa là nó phải dừng lại và hỏi ý bạn. Đừng cho rằng nó sẽ hiểu rào cản là một lời từ chối.