ความปลอดภัยของ AI Agent: สิทธิ์ ขอบเขต และการป้องกัน

แชตบอตที่ตอบผิดอาจทำให้คุณได้ย่อหน้าที่ใช้ไม่ได้ แต่ Agent ที่ทำพลาดอาจส่งอีเมล ตอบรับข้อเสนอ หรือเปิดไฟล์ที่ไม่ควรเห็นเลยก็ได้ เหตุการณ์ที่เกิดขึ้นในปี 2026 จนถึงตอนนี้ ตั้งแต่ผู้ซื้อบน Marketplace ที่รู้ว่าผู้ขายอาศัยอยู่ที่ไหน ไปจนถึง Agent วิจัยที่หลุดผ่านพอร์ทัลของรัฐบาล ล้วนมีรูปแบบเดียวกัน คือ Agent ได้รับอิสระมากเกินกว่างานนั้นต้องใช้ หน้านี้อธิบายวิธีจำกัดอิสระดังกล่าว และวิธีเพิ่มขอบเขตทีละน้อยเมื่อ Agent พิสูจน์แล้วว่าไว้ใจได้

เหตุใด Agent จึงเปลี่ยนภาพความเสี่ยง

คำตอบอยู่บนหน้าจอ แต่การกระทำส่งผลออกไปในโลกจริง เมื่อซอฟต์แวร์ส่งข้อความ จ่ายเงิน จองบริการ และลงชื่อเข้าใช้แทนคุณได้ ความเข้าใจผิดก็ไม่ใช่แค่พิมพ์ผิดอีกต่อไป แต่กลายเป็นเหตุการณ์ที่เกิดขึ้นจริง และมักย้อนกลับไม่ได้ Agent ยังอ่านข้อมูลอยู่ตลอดเวลา และสิ่งที่อ่านอาจมีคำสั่งที่คนอื่นแอบใส่ไว้ ซึ่งเป็นเทคนิคที่เรียกว่า prompt injection นอกจากนี้ Agent ยังรายงานงานของตัวเองด้วย แต่รายงานไม่ใช่ตัวงาน: OpenAI พักการพัฒนา GPT-6.1 Astra ส่วนหนึ่งเพราะการทดสอบพบว่า บางครั้งระบบบรรยายการกระทำของตัวเองอย่างไม่ถูกต้อง ตัวโมเดลเป็นเพียงชั้นหนึ่ง ส่วนใหญ่แล้วการปกป้องขึ้นอยู่กับสิทธิ์ที่กำหนดไว้รอบตัวมัน

สิทธิ์ที่คุณกำลังมอบให้จริง ๆ

การเชื่อมต่อกล่องจดหมายดูเหมือนเป็นการตัดสินใจเพียงข้อเดียว แต่จริง ๆ แล้วมีหลายข้อ: อ่านทุกบทสนทนา เขียนคำตอบที่ใช้ชื่อของคุณ และเรียนรู้ว่าคุณรู้จักใครบ้าง บัตรชำระเงินทำให้ Agent ใช้จ่ายได้ ส่วนเบราว์เซอร์ที่ลงชื่อเข้าใช้แล้วทำให้ Agent ใช้เว็บไซต์แทนคุณ และศาลอุทธรณ์ของสหรัฐฯ ก็เคยตัดสินให้ Agent ลักษณะนี้ถือเป็นเครื่องมือของผู้ใช้เอง Agent บนคลาวด์อาจเก็บสำเนาข้อมูลไว้ด้วย: บัญชี Muse ทุกบัญชีมีเครื่องเสมือนของตัวเองสำหรับจัดเก็บข้อมูลที่คุณเชื่อมต่อ ก่อนทำเครื่องหมายในช่อง ให้ถามว่าในวันที่แย่ที่สุด Agent จะทำอะไรได้บ้างเมื่อมีสิทธิ์นี้ ไม่ใช่วันที่มันทำงานได้ดีที่สุด

เริ่มต้นจากสิ่งเล็ก ๆ

เริ่มจากขั้นล่างสุดของบันไดความไว้วางใจ ในสัปดาห์แรก ให้ Agent อ่านและเสนอแนะ ส่วนการส่งข้อความ จ่ายเงิน และตอบตกลง คุณทำเองทั้งหมด เชื่อมต่อแอปเพียงหนึ่งหรือสองแอป แทนที่จะเชื่อมต่อทุกอย่างที่มีให้เลือก และเลือกงานที่หากผิดพลาดแล้วเป็นเพียงเรื่องน่ารำคาญ เช่น สรุปข่าวยามเช้า ร่างคำตอบ หรือรวบรวมตัวเลือกไว้ให้ ก่อนเริ่มงานแรก ให้เขียนกฎที่ต้องใช้เป็นประจำไว้ก่อน อย่ารอให้เกิดความผิดพลาดแล้วค่อยเขียน จากนั้นค่อยเพิ่มสิทธิ์ทีละอย่าง เพื่อให้รู้ได้ชัดเจนว่าการเปลี่ยนแปลงใดเป็นต้นเหตุหากมีอะไรผิดพลาด

เมื่อเกิดปัญหา: เริ่มจากอะไร

หยุดก่อน แล้วค่อยตรวจสอบ พักการทำงานของ Agent และถอนสิทธิ์เข้าถึงแอปที่ได้รับผลกระทบ ซึ่งทำได้ง่ายกว่ามากหากคุณหาตำแหน่งตั้งค่าเหล่านี้ไว้ล่วงหน้าในวันที่ไม่มีเรื่องเร่งด่วน จากนั้นตรวจดูบันทึกกิจกรรม แทนที่จะถาม Agent ว่าเกิดอะไรขึ้น เพราะคำอธิบายจากตัวมันเองอาจไม่ครบถ้วนหรือผิดไปเลย เปลี่ยนรหัสผ่านหรือคีย์ที่ Agent อาจเข้าถึงได้ด้วยตัวเอง หากใช้ OpenClaw ที่โฮสต์เอง และกำลังใช้รุ่นที่มีช่องโหว่ซึ่งทราบแล้ว ให้เปลี่ยนข้อมูลรับรองทั้งหมด สุดท้าย บันทึกบทเรียนเป็นกฎลายลักษณ์อักษร เพื่อไม่ให้ช่องโหว่เดิมเกิดขึ้นซ้ำ