Memory & Context Poisoning, Ancaman yang Sulit Dideteksi di AI
Seiring meningkatnya penggunaan agen AI yang mampu bekerja secara mandiri, ancaman Memory & Context Poisoning menjadi perhatian serius. Serangan ini tidak hanya memengaruhi satu respons AI, tetapi juga merusak memori jangka panjang yang menjadi dasar pengambilan keputusan. Akibatnya, agen AI dapat terus menghasilkan tindakan yang salah tanpa menyadari bahwa informasi yang digunakannya telah dimanipulasi oleh penyerang.
