Mengungkap Ancaman dan Potensi AI Generatif dalam Keamanan Siber

CrowdStrike, sebuah perusahaan keamanan siber terkemuka, telah mengungkapkan bahaya dan potensi dari AI Generatif bagi keamanan siber. Teknologi kecerdasan buatan (Artificial Intelligence) telah membawa manfaat yang besar dalam berbagai bidang, namun di sisi lain, juga membawa potensi bahaya yang serius terutama dalam keamanan Siber. Dihimpun dari wawancara infokomputer dengan Scott Jarkoff, Director Strategic Threat Advisory Group APJ & EMEA, memaparkan bagaimana AI generatif dapat menjadi senjata berbahaya bagi penjahat siber.

Menurut Jarkoff, keberagaman bahasa di Asia Tenggara sebenarnya menjadi penghambat bagi penjahat siber global dalam menipu konsumen. Meskipun ada alat penerjemah, namun alat-alat tersebut tidak mampu mereplikasi gaya dan istilah dalam bahasa lokal secara realistis. Hal ini membuat pesan phising semakin sulit untuk dikenali karena AI generatif dapat menghasilkan konten yang nyaris tidak dapat dibedakan dari konten aslinya.

Kehadiran generative AI atau AI generatif seperti "berkah" bagi para penjahat siber, memungkinkan mereka untuk memanfaatkan large language model (LLM) guna menciptakan pesan tertulis, visual, atau audio yang hampir tidak bisa dibedakan dari konten aslinya. Kemampuan ini tidak hanya membuat konten-konten tersebut diciptakan secara instan, tetapi juga memungkinkan penjahat siber untuk merespons pesan dari korbannya secara real-time, meningkatkan efektivitas serangan yang dilakukan.

“Hal yang membuat AI generatif sangat berbahaya adalah teknologi ini dapat mempelajari gaya dari berbagai bahasa, dialek, bahkan bahasa gaul dan bahasa sehari-hari dari kumpulan data yang besar, sehingga memungkinkan pelaku menghasilkan komunikasi yang terdengar autentik. Dengan adanya AI generatif, para penjahat siber skala besar dapat membuat konten dengan mudah, bahkan dapat dimanfaatkan oleh orang awam untuk mengeksploitasinya,” Scott Jarkoff menjelaskan.

Sebelum kehadiran AI generatif, mengidentifikasi pesan atau email yang mengandung phising relatif lebih mudah dilakukan dengan memperhatikan petunjuk-petunjuk khas, seperti kesalahan ejaan atau tata bahasa yang mencurigakan. Selain itu, para penjahat siber biasanya mengirimkan email phising dalam bahasa global seperti bahasa Inggris, karena menggunakan bahasa ini memberikan keuntungan skala ekonomi yang lebih besar bagi mereka.

“Namun kini, dengan AI generatif yang canggih, kesalahan yang ada pada pesan tersebut dapat diminimalisasi dan kemampuan untuk menerjemahkan konten ke berbagai bahasa secara cepat juga meningkat pesat,” ujar Jarkoff. 

Selain pesan tertulis, AI generatif juga dapat membuat gambar dan video yang sangat realistis. Hal ini dimanfaatkan oleh pelaku kejahatan siber untuk menyebarkan disinformasi dan kampanye-kampanye yang bertujuan untuk mengganggu layanan dan menimbulkan kekacauan. Dengan memasangkan AI generatif dengan alat komunikasi massa seperti media sosial, para pelaku kejahatan dapat menyebarkan berita manipulatif dan mempengaruhi persepsi publik dengan cepat dan anonim.

Salah satu contoh kampanye operasi informasi yang sukses menggunakan gambar yang dihasilkan oleh AI generatif dan mencapai tingkat popularitas yang tinggi berasal dari kelompok China-nexus Adversaries. Scott Jarkoff memperingatkan bahwa kelompok ini kemungkinan besar akan menggunakan teknologi AI generatif untuk melancarkan operasi informasi di negara-negara di sekitar Asia Tenggara, menggarisbawahi potensi dampak yang dapat mereka ciptakan melalui penggunaan teknologi ini.

CrowdStrike menyarankan sejumlah langkah yang dapat dilakukan organisasi dan perusahaan untuk mengantisipasi ancaman siber yang lebih canggih akibat penggunaan AI generatif. Langkah-langkah tersebut antara lain:

 

• Bersikap Kritis

 

Sikap kritis sangat penting dalam penggunaan AI generatif. Organisasi harus memperhatikan dengan cermat proses perolehan, pelatihan, dan pengaturan teknologi ini. Tim keamanan harus memiliki pemahaman yang mendalam tentang risiko yang terkait dan mematuhi prinsip-prinsip akurasi, privasi, dan keamanan untuk memastikan penggunaan yang etis dan bertanggung jawab.

 

• Waspadai Informasi yang Tidak Akurat

 

Dalam menggunakan AI generatif, organisasi harus selalu waspada terhadap informasi yang tidak akurat, terutama informasi terkait keamanan yang dapat membawa risiko serius. Penting untuk memahami sumber data yang digunakan dan memastikan bahwa jawaban yang dihasilkan oleh AI generatif dapat diaudit secara berkala untuk menjamin keakuratan dan keandalannya.

 

• Pahami Data yang Dibagikan ke Pihak Ketiga

 

Aspek privasi juga harus dipertimbangkan dengan seksama. Pengguna harus memahami data apa yang dibagikan ke pihak ketiga dan bagaimana data tersebut digunakan dalam model bahasa yang digunakan oleh AI generatif. Hal ini penting untuk menjaga keamanan data dan privasi pengguna.

• Pertimbangkan Risiko Internal dan Eksternal

Selain itu, organisasi perlu mempertimbangkan risiko internal dan eksternal yang dapat timbul akibat eksposur data yang tidak sah, serangan dari pihak lain, prompt injection, atau kebocoran prompt. Langkah-langkah mitigasi risiko harus diimplementasikan secara proaktif untuk melindungi sistem dan informasi sensitif.

Di luar itu, CrowdStrike menekankan pentingnya peran manusia dalam pendekatan keamanan. “Terutama dalam penggunaan AI generatif, kemampuan manusia dalam memberikan konteks dan memvalidasi kebenaran menjadi krusial,” jelas Scott Jarkoff.

CrowdStrike sendiri telah menggunakan AI generatif untuk keamanan siber lebih dari satu dekade. Dengan perkembangan AI generatif saat ini, CrowdStrike mengembangkan Charlotte AI sebagai mesin yang mendukung portofolio kemampuan AI generatifnya di seluruh platform. Melalui Charlotte AI, para analis keamanan siber dapat memperoleh insight secara real-time dan mengambil keputusan berbasis risiko dengan lebih baik.

Dengan demikian, peran AI generatif dalam keamanan siber menimbulkan tantangan yang serius namun juga memberikan peluang bagi perusahaan keamanan untuk mengembangkan solusi yang lebih canggih dan efektif dalam menghadapi ancaman yang semakin kompleks.