Kecerdasan buatan (AI) memang menghadirkan kemudahan yang luar biasa. Ia bisa menerapkan otomatisasi untuk segala bidang hingga analisis data yang lebih cepat.
Namun, di balik kecanggihannya, ada beberapa risiko keamanan pada AI yang kompleks dan sulit dideteksi.
Celah ini dapat disalahgunakan untuk pencurian data, manipulasi hasil analisis, hingga merusak reputasi bisnis Anda.
Oleh karena itu, Anda perlu memahami berbagai ancaman baru pada sistem AI untuk mengambil langkah pencegahan sejak dini.
Baca juga: Kecerdasan Buatan: Pengertian dan Implementasinya
1. Prompt Injection
Serangan prompt injection karena adanya seseorang yang menyisipkan instruksi tersembunyi ke dalam input agar model AI melakukan hal di luar niat penggunanya.
Misalnya, mereka memerintahkan AI untuk membocorkan data sensitif atau menulis perintah yang berbahaya tanpa terdeteksi. Ini menyebabkan manipulasi hasil output atau pelanggaran privasi data internal.
Untuk mencegahnya, Anda perlu memfilter input secara ketat, menerapkan whitelist command, serta menggunakan sandbox agar AI tidak bisa mengeksekusi perintah berisiko.
2. Pengungkapan Informasi Sensitif (Sensitive Information Disclosure)
Biasanya, AI digunakan untuk menganalisis data-data penting seperti data pengguna atau kredensial sistem. Tanpa perlindungan yang tepat, mereka bisa saja tidak sengaja mengungkapkan data ini saat diminta menjawab pertanyaan tertentu.
Untuk mengatasinya, Anda harus melakukan sanitasi data sebelum digunakan, menerapkan kontrol akses yang ketat, serta menambahkan lapisan keamanan seperti enkripsi dan tokenisasi data.
3. Supply Chain Risks
Teknologi AI bergantung pada berbagai komponen eksternal, seperti dataset, model pre-trained, atau library pihak ketiga.
Ketika mengandung malware atau celah keamanan, komponen tersebut meningkatkan risiko serangan supply chain.
Sebagai langkah mitigasi, lakukan audit keamanan untuk setiap sumber eksternal. Jangan lupa untuk memverifikasi integritas model dan unduhlah komponen ini dari sumber resminya saja.
4. Data dan Model Poisoning
Data poisoning terjadi ketika data-data yang digunakan untuk melatih AI telah disisipi elemen berbahaya. Sementara itu, model poisoning membuat model dapat memberikan hasil yang salah atau bias secara sengaja.
Serangan ini sangat berbahaya karena sulit dideteksi dan mengubah perilaku AI tanpa menimbulkan keanehan yang kasat mata.
Untuk mencegahnya, Anda dapat menggunakan data yang tervalidasi, melakukan analisis integritas dataset, serta memantau performa model secara berkelanjutan. Ini dilakukan untuk mendeteksi anomali sejak dini.
5. Penanganan Output yang Tidak Tepat (Improper Output Handling)
Tidak semua output dari AI bisa langsung digunakan secara aman, terutama dalam chatbot, AI, atau aplikasi bisnis. Tanpa validasi, AI bisa menghasilkan perintah atau skrip yang berpotensi berbahaya.
Mereka bisa memberikan output yang bisa langsung dieksekusi di server. Ini tentu menjadi pintu masuk dari injeksi kode berbahaya.
Untuk mencegah hal ini, Anda perlu menambahkan lapisan validasi sebelum output dan membatasi hak akses eksekusi di sisi server.
6. Excessive Agency
Masalah excessive agency muncul ketika AI diberikan terlalu banyak kendali terhadap sistem. Misalnya, ia diizinkan mengakses sistem keuangan tanpa adanya batas. Ini bisa menimbulkan kesalahan transaksi akibat bug atau manipulasi data.
Jika dibiarkan, AI bisa menjadi ancaman terhadap reputasi bisnis Anda. Sebagai solusinya, berikan izin terbatas pada AI, gunakan sandbox environment, dan aktifkan sistem logging untuk memantau seluruh tindakan AI.
7. Kebocoran System Prompt
Risiko keamanan pada AI selanjutnya adalah system prompt, sebuah instruksi internal yang mengatur perilaku AI. Kebocoran pada system prompt menjadi celah untuk serangan siber lanjutan.
Penyerang dapat membaca struktur instruksi, memahami cara kerja sistem, hingga menyisipkan perintah tersembunyi untuk merusak output AI.
Maka dari itu, lindungilah system prompt Anda dengan enkripsi, mengisolasi layer sistem dari user, dan membatasi akses internal hanya pada pengembang tertentu.
8. Kelemahan pada Vektor dan Embedding
Jika tidak diamankan, sistem berbasis AI yang menggunakan embedding atau vector database lebih rentan terhadap manipulasi.
Penyerang bisa memasukkan data berbahaya yang mengubah hasil pencarian atau rekomendasi AI. Lebih parahnya lagi, mereka bisa mengeksploitasi vektor untuk mengakses data sensitif.
Untuk itu, Anda perlu menggunakan enkripsi pada database embedding, memantau aktivitas abnormal, dan menerapkan validasi hasil retrieval untuk memastikan tidak ada penyimpangan data.
9. Misinformasi
Meskipun bisa membuat konten, AI generative bisa menghasilkan misinformasi yang tidak sesuai fakta.
Mereka bisa menghasilkan output yang menyesatkan pengguna, merusak reputasi perusahaan, hingga menciptakan isu sosial.
Untuk mengatasinya, gunakanlah mekanisme human-in-the-loop agar setiap output AI akan divalidasi sebelum disebarkan. Gunakan juga sumber data yang terpercaya untuk menghasilkan output yang akurat dan kredibel.
Baca juga: Konten Deepfake: Arti, Ciri-ciri, dan Cara Mendeteksinya
10. Konsumsi Sumber Daya Tidak Terbatas (Unbounded Consumption)
Tanpa kontrol yang tepat, AI bisa mengambil resource komputasi secara berlebihan. Ini akan mengakibatkan lonjakan biaya dan penurunan performa sistem.
Dalam skenario terburuk, penyerang bisa memanfaatkan kondisi ini untuk melancarkan serangan denial-of-service (DoS) terhadap server yang digunakan AI.
Cara menghindarinya adalah menetapkan batasan penggunaan CPU dan memori serta mekanisme pembatasan kuota untuk setiap proses. Lakukan juga pemantauan sumber daya secara real-time juga untuk mendeteksi penggunaan abnormal.
Lindungi AI Anda dengan Praktik Keamanan Terbaik
Ternyata, AI juga memiliki beberapa risiko keamanan. Dengan memahami berbagai risiko keamanan pada AI di atas dan cara mengatasinya, Anda bisa melindungi teknologi AI yang digunakan.
Untuk melindungi AI, Anda perlu memahami cara mendeteksi potensi ancaman digital. Mari ikuti kelas introduction to blue team dari Cyber Studio!
Di sini, Anda akan mempelajari tentang jenis-jenis ancaman, cara mendeteksinya, hingga cara menghadapinya–atau tips berkarier di bidang ini.
Dengan panduan dari mentor berpengalaman dan studi kasus nyata dari industri, kami membantu Anda agar tetap unggul di dunia profesional.
Kunjungi halaman learning path kami dan tingkatkan pengetahuan Anda dalam mencegah serangan siber terkini!