Nếu bạn ẩn đi lời nhắc hệ thống và mô tả công cụ cho đại lý LLM của bạn, điều bạn thực sự đang làm là lấy bộ tài liệu chi tiết nhất cho dịch vụ của bạn và cố tình ẩn nó khỏi những người dùng tinh vi nhất của bạn!
Lớp tấn công mới tinh vi được định nghĩa bởi @wunderwuzzi23: "Tăng cường quyền hạn giữa các tác nhân"
Nếu ai đó có cả Claude Code và GitHub Copilot trên máy của họ, bạn có thể tiêm lệnh vào một trong hai và khiến nó chỉnh sửa cấu hình cho cái còn lại nhằm tăng cường quyền hạn của cuộc tấn công!