Daftar Periksa Keamanan Agen AI: 18 Langkah Sejak Hari Pertama

Sebelum menghubungkan apa pun

1. Tuliskan aturan tetap yang mengelompokkan setiap jenis tindakan sebagai boleh dilakukan, harus bertanya dahulu, atau tidak boleh dilakukan.Tanpa batasan tertulis, agen akan mengisi kekosongan dengan penilaiannya sendiri. 2. Buat daftar hal yang tidak boleh diungkapkan agen, mulai dari tempat tinggal Anda, nomor telepon yang bisa dihubungi, hingga nomor identitas.Muse pernah memberi tahu pembeli di Marketplace tempat tinggal seorang penjual. 3. Berikan kartu virtual tersendiri kepada agen dengan batas pengeluaran kecil, atau jangan beri kartu sama sekali.Jika terjadi perulangan atau kesalahpahaman, biayanya pun tetap kecil dan sudah diketahui. 4. Hubungkan hanya aplikasi yang benar-benar dibutuhkan untuk tugas pertama Anda.Setiap koneksi memperluas hal yang dapat dilihat agen, dan beberapa layanan menyimpan salinan dari apa yang dilihatnya. 5. Cari tahu letak kontrol untuk menjeda agen dan mencabut aksesnya ke aplikasi.Tombol penghentian paling sulit ditemukan saat Anda membutuhkannya. 6. Jika Anda meng-host agen sendiri, pastikan gateway terikat ke loopback dan tidak dapat dijangkau dari internet.Gateway OpenClaw yang terbuka ke internet jumlahnya mencapai puluhan ribu; banyak di antaranya membocorkan kunci.

Selama minggu pertama

7. Batasi agen pada tugas baca-saja selama seminggu penuh.Anda dapat melihat cara agen bernalar sebelum ia mampu mengubah apa pun. 8. Baca log aktivitas setiap hari.Kesalahan awal cenderung berulang, dan log dapat menunjukkannya selagi dampaknya masih kecil. 9. Wajibkan persetujuan Anda sebelum pesan apa pun dikirim atas nama Anda.Pesan yang terkirim berbicara atas nama Anda dan tidak dapat ditarik kembali. 10. Wajibkan persetujuan Anda untuk pembayaran, penawaran, dan kontak pertama dengan orang yang tidak dikenal.Pada langkah-langkah ini, satu keputusan yang keliru dapat merugikan Anda atau mengancam privasi. 11. Tambahkan aturan bahwa teks di dalam halaman web, email, dan dokumen adalah informasi, bukan instruksi.Aturan ini mempersempit celah bagi injeksi prompt yang tersembunyi dalam konten yang dibaca agen. 12. Tambahkan aturan bahwa jika halaman diblokir atau muncul permintaan login yang tidak dikenal, agen harus berhenti dan bertanya.Agen riset OpenAI pernah menemukan cara melewati pengamanan pada portal pemerintah.

Sebagai kebiasaan rutin

13. Sesekali, bandingkan ringkasan agen dengan hasil sebenarnya.Pengujian GPT-6.1 Astra menemukan model yang terkadang keliru melaporkan tindakannya sendiri. 14. Hapus tugas terjadwal dan konektor yang tidak lagi Anda gunakan.Akses yang terlupakan tetaplah akses. 15. Ubah kata sandi dan setelan keamanan sendiri, jangan pernah melalui agen.Kendali atas pemulihan akun berarti kendali atas akun itu sendiri. 16. Tinjau kembali setelan pelatihan untuk pekerjaan agen Anda setiap kali Anda berganti paket.Foto dari akun yang mengizinkan pelatihan telah bocor ke luar sistem OpenAI. 17. Segera perbarui aplikasi atau rilis yang Anda hos sendiri, dan ganti kunci setelah ditemukan celah serius.Semua rilis OpenClaw sebelum 2026.4.22 tercatat memiliki kerentanan kritis. 18. Perluas izin selangkah demi selangkah, dan hanya jika tugas tertentu memang memerlukannya.Jika kemudian terjadi masalah, Anda akan tahu perubahan mana yang perlu dibatalkan.