Artikel Terbaru AI Agents

AI Agents

Ilustrasi Cyber AI

Memory & Context Poisoning, Ancaman yang Sulit Dideteksi di AI

Pengetahuan Dasar

|

  • 4 hari yang lalu

Seiring meningkatnya penggunaan agen AI yang mampu bekerja secara mandiri, ancaman Memory & Context Poisoning menjadi perhatian serius. Serangan ini tidak hanya memengaruhi satu respons AI, tetapi juga merusak memori jangka panjang yang menjadi dasar pengambilan keputusan. Akibatnya, agen AI dapat terus menghasilkan tindakan yang salah tanpa menyadari bahwa informasi yang digunakannya telah dimanipulasi oleh penyerang.