Imbauan Komdigi menyentuh tata kelola agen AI yang menyebar cepat ke perbankan, fintech, dan layanan pelanggan, tetapi masih berstatus anjuran sehingga belum berdampak hukum langsung.
Ringkasan Eksekutif
Kementerian Komunikasi dan Digital (Komdigi) mengingatkan perusahaan untuk mewaspadai risiko penyalahgunaan agen berbasis kecerdasan buatan yang mampu bertindak mandiri di dalam sistem bisnis. Wakil Menteri Komdigi Nezar Patria menilai perusahaan perlu menerapkan pendekatan Know Your Agent (KYA) guna mengenali identitas, kepemilikan, dan kewenangan agen AI yang berinteraksi dengan sistem mereka. "Bukan lagi KYC, Know Your Customer, tetapi harus ada KYA, Know Your Agent," ujarnya dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10). Seruan itu muncul ketika agen AI kian banyak dipakai untuk layanan pelanggan, transaksi, dan beragam proses bisnis. Yang membedakan agen AI dari sistem AI konvensional adalah kemampuannya mengeksekusi tindakan, bukan sekadar menghasilkan respons.
Dilengkapi algoritma dan otorisasi, agen AI dapat memproses data serta mengambil keputusan secara mandiri — kapabilitas yang mengangkat efisiensi sekaligus memperbesar permukaan risiko. Nezar memperingatkan agen AI berpotensi melewati aturan dan batasan internal perusahaan bila pengawasan atas tindakan dan kewenangannya tidak memadai. "Dengan mesin bisa membuat keputusan sendiri, risiko meningkat," katanya. Ia menambahkan agen AI bahkan dapat mem-bypass sejumlah peraturan maupun batasan yang ditetapkan korporasi karena mampu bertindak sendiri. Dimensi yang luput dari headline: persoalannya bukan sekadar kesalahan teknis, melainkan tata kelola kewenangan — siapa yang mengendalikan agen, apa yang boleh dilakukannya, dan bagaimana tindakannya dapat ditelusuri. Dampaknya menjalar jauh melampaui ruang rapat teknologi.
Perbankan, fintech, e-commerce, dan penyedia layanan pelanggan adalah kelompok paling awal mengadopsi agen AI untuk transaksi dan interaksi pelanggan — sekaligus paling terikat aturan perlindungan data. Ketika agen mulai mewakili pelanggan atau pihak ketiga yang berinteraksi dengan sistem perusahaan, lapisan identitas baru yang non-manusia menjadi keharusan. Perusahaan yang gagal memverifikasi siapa yang mengendalikan sebuah agen dan apa saja kewenangannya membuka celah penyalahgunaan data dan penyimpangan tindakan. Nezar juga menekankan pentingnya perlindungan data pribadi dalam penerapan teknologi ini, mengingat risiko kebocoran dan penyalahgunaan data menyertai adopsinya. Nezar menegaskan, ke depan perusahaan berpotensi berhubungan bukan lagi dengan manusia, melainkan dengan agen AI milik pelanggan atau pihak lain.
Mengapa Ini Penting
Seruan ini menandai pergeseran tata kelola: dari memverifikasi manusia (KYC) menuju memverifikasi mesin yang bertindak atas nama manusia. Bagi sektor keuangan yang sudah terikat aturan mengenal nasabah dan perlindungan data, ini menambah lapisan kepatuhan baru — sementara bagi perusahaan yang mengabaikannya, risikonya bukan sanksi hukum, melainkan insiden operasional dan erosi kepercayaan. Yang sering terlewat: begitu agen AI bertransaksi mewakili pelanggan, siapa yang menanggung kerugian saat agen bertindak menyimpang masih belum jelas — celah tanggung jawab yang belum terisi regulasi.
Dampak ke Bisnis
- Perbankan, fintech, dan e-commerce adalah kelompok paling awal mengadopsi agen AI untuk layanan pelanggan dan transaksi. Mereka menghadapi beban ganda: mengejar efisiensi sekaligus membangun kontrol identitas dan kewenangan agen agar tetap selaras dengan kewajiban perlindungan data yang sudah berlaku.
- Penyedia teknologi identitas, keamanan siber, dan tata kelola data berpotensi menikmati permintaan baru atas solusi manajemen identitas mesin dan pemantauan tindakan agen — segmen yang belum matang di pasar domestik. Sebaliknya, perusahaan dengan sistem warisan paling rentan karena sulit menelusuri tindakan agen yang keluar dari batas kewenangan.
- Dampak yang baru terasa dalam 3–6 bulan: kebutuhan kerangka tanggung jawab hukum dan asuransi atas tindakan agen AI yang menyimpang. Tanpa kejelasan itu, perusahaan menanggung risiko operasional dan reputasi sendiri, sementara biaya lisensi dan infrastruktur AI yang berdenominasi valuta asing menjadi lebih mahal ketika kurs berada di Rp18.000 per dolar AS.
Yang Perlu Dipantau
- Yang perlu dipantau: arah kebijakan Komdigi — apakah imbauan KYA berkembang menjadi pedoman teknis atau regulasi mengikat, karena ini menentukan apakah ada konsekuensi kepatuhan atau sekadar anjuran.
- Risiko yang perlu dicermati: pengumuman kontrol tata kelola agen AI dari perbankan dan fintech besar — bila sektor keuangan bergerak lebih dulu, standar de facto KYA berpotensi mengikuti praktik mereka alih-alih regulasi pemerintah.
- Sinyal penting: perkembangan kerangka tata kelola AI di yurisdiksi maju dan arah regulasi perlindungan data domestik — keduanya menentukan seberapa besar porsi proses AI boleh dititipkan ke platform eksternal.
Analisis ini dibuat oleh sistem AI Feedberry berdasarkan sumber berita publik dan tidak merupakan saran investasi atau keputusan bisnis. Selalu verifikasi dengan sumber primer.