Shady AI: Bahaya AI yang Disetujui Berperilaku Menyimpang

Memahami Ancaman Shady AI di Lingkungan Perusahaan

Selama bertahun-tahun, tim keamanan siber berfokus menghentikan teknologi tidak resmi agar tidak masuk ke organisasi. Kemudian muncul fenomena Shadow AI, di mana karyawan atau pengembang menggunakan alat AI tanpa persetujuan tim IT. Sekarang, tantangan tata kelola baru telah muncul, yaitu Shady AI.

Berbeda dengan Shadow AI, Shady AI tidak selalu melibatkan alat yang terlarang. Platform AI mungkin sudah disetujui secara resmi, menggunakan lisensi perusahaan, dan karyawan memiliki izin untuk menggunakannya. Namun, masalah muncul pada cara AI tersebut digunakan, akses apa yang dimilikinya, dan tindakan apa yang diizinkannya.

Istilah ini menggambarkan situasi di mana alat atau agen AI yang disetujui digunakan dengan cara yang tidak diharapkan atau diatur dengan buruk. Jika Shadow AI beroperasi di luar visibilitas, maka Shady AI beroperasi di dalam lingkungan yang disetujui, di mana tim keamanan sering kali menganggapnya aman.

Dari Alat Resmi Menjadi Aktor yang Tidak Terkendali

Aplikasi tradisional biasanya menjalankan fungsi yang relatif dapat diprediksi. Agen AI sangat berbeda. Agen dapat menafsirkan permintaan, merumuskan rencana, memanggil alat, mengakses sumber daya perusahaan, dan menjalankan berbagai tindakan dengan sedikit keterlibatan manusia.

Kemampuan agen juga dapat berkembang seiring waktu saat terhubung ke aplikasi, basis data, atau API baru. Pertimbangkan asisten AI korporat yang awalnya disetujui hanya untuk meringkas dokumen. Seiring berjalannya waktu, asisten tersebut mungkin mendapatkan kemampuan untuk:

  • Mencari di repositori pengetahuan internal.
  • Membaca pesan email dan komunikasi kolaborasi.
  • Memeriksa informasi pelanggan atau karyawan.
  • Terhubung ke aplikasi bisnis inti.
  • Memodifikasi catatan dan mengambil tindakan atas nama karyawan.

Secara perspektif keamanan, identitas, hak istimewa, dan koneksi AI tersebut telah berubah secara signifikan. Inilah saat AI yang disetujui berubah menjadi Shady AI. Risiko ini tidak selalu memerlukan niat jahat. Seringkali, karyawan hanya mencoba mengotomatiskan proses bisnis, namun tanpa sadar mengekspos informasi sensitif.

Shadow AI vs Shady AI: Dua Sisi Masalah yang Sama

Shadow AI dan Shady AI tidak boleh diperlakukan sebagai program keamanan yang terpisah. Shadow AI pada dasarnya adalah masalah penemuan (discovery), sementara Shady AI adalah masalah kontrol dan perilaku. Organisasi mungkin tahu AI tersebut ada, tetapi tidak memahami apa yang sebenarnya dilakukan agen tersebut.

Batas antara kategori ini sering kali kabur. Agen Shadow AI mungkin akhirnya ditemukan dan disetujui tanpa tinjauan keamanan yang memadai. Begitu pula agen yang disetujui dapat berubah menjadi “nakal” jika penyerang memanipulasi instruksinya atau meracuni memorinya. Oleh karena itu, klasifikasi statis sudah tidak lagi memadai.

Mengapa Shady AI Sangat Sulit Diatur?

Ada beberapa alasan mengapa ancaman ini sulit dikendalikan oleh tim IT:

1. Persetujuan Sering Dianggap sebagai Keputusan Sekali Pakai

Organisasi biasanya menyetujui teknologi pada satu titik waktu tertentu. Namun, kemampuan AI dapat berkembang jauh lebih cepat daripada proses peninjauan konvensional. Persetujuan awal tetap berlaku, meskipun profil risiko yang sebenarnya telah berubah drastis.

2. Izin yang Terlalu Luas

Agen AI sering beroperasi dengan kredensial karyawan. Akibatnya, agen dapat mewarisi akses ke lebih banyak informasi daripada yang dibutuhkan untuk tugas spesifiknya. Izin yang berlebihan meningkatkan potensi dampak kesalahan konfigurasi atau perilaku yang tidak disengaja.

3. Tindakan yang Tampak Legal Bisa Berakibat Buruk

Shady AI tidak selalu terlihat dalam satu tindakan jahat yang nyata. Setiap langkah dalam alur kerja agen mungkin tampak sah jika diperiksa secara terpisah. Risiko mungkin hanya terlihat ketika seluruh urutan tindakan dipertimbangkan secara utuh.

Konsekuensi Mengabaikan Shady AI

Ketika AI yang disetujui beroperasi di luar batas yang diinginkan, konsekuensinya bisa sangat merugikan. Ini mencakup paparan data sensitif, tindakan bisnis tidak sah, hingga masalah kepatuhan regulasi. Selain itu, ini memperluas permukaan serangan di mana setiap API atau integrasi baru bisa menjadi jalur masuk bagi pihak yang tidak bertanggung jawab.

Bagaimana Radware Membantu Mengatasi Shady AI

Shady AI memerlukan lebih dari sekadar kebijakan penggunaan yang dapat diterima. Dibutuhkan visibilitas berkelanjutan ke dalam ekosistem AI dan pemahaman waktu nyata tentang perilaku agen. Solusi Radware Agentic AI Protection menyediakan pendekatan siklus hidup yang menggabungkan penemuan AI, pemetaan hubungan, tata kelola, dan keamanan perilaku aktif.

Dengan menganalisis niat dan tindakan agen secara real-time, Radware membantu organisasi mengidentifikasi kapan AI yang sah mulai beroperasi di luar batas yang ditentukan. Approval bukanlah akhir dari proses tata kelola AI, melainkan awal dari pengawasan yang berkelanjutan.

Radware Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi Radware. Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.