Perkembangan kecerdasan artifisial memasuki fase baru di sektor jasa keuangan. Teknologi tidak lagi hanya digunakan untuk membantu analisis atau menghasilkan rekomendasi, tetapi berkembang menuju agentic AI yang dapat menjalankan rangkaian tindakan berdasarkan kewenangan yang diberikan kepadanya.

Wakil Menteri Komunikasi dan Digital Nezar Patria menilai perkembangan tersebut membawa persoalan tata kelola yang perlu diantisipasi sejak dini. Ketika sistem AI semakin mampu mengambil keputusan dan melakukan tindakan, pertanyaan mengenai batas kewenangan, pengawasan manusia, keamanan data, serta pihak yang bertanggung jawab ketika terjadi kesalahan menjadi semakin penting.

Pernyataan tersebut disampaikan dalam OJK Digination Day 2026 di Jakarta pada Kamis, 27 Agustus 2026.

Risiko meningkat ketika AI mulai bertindak

Agentic AI berbeda dari penggunaan AI yang hanya menghasilkan jawaban atau rekomendasi. Sistem semacam ini dapat dirancang untuk merencanakan dan menjalankan beberapa tindakan untuk menyelesaikan suatu tujuan.

Dalam sektor keuangan yang memiliki regulasi ketat dan mengelola data serta transaksi bernilai tinggi, peningkatan kemampuan tersebut menimbulkan kebutuhan tata kelola yang lebih kuat.

Kemkomdigi sebelumnya juga menegaskan bahwa risiko AI berubah ketika teknologi tidak lagi sekadar menghasilkan informasi, tetapi mulai melakukan tindakan yang dapat memengaruhi transaksi, data, proses persetujuan, atau layanan yang dijalankan secara otomatis.

Karena itu, pengawasan manusia tetap menjadi salah satu prinsip penting, terutama untuk keputusan yang mempunyai dampak besar.

Pemerintah menyiapkan kerangka tata kelola AI

Pemerintah saat ini sedang menyiapkan kerangka regulasi berupa Peraturan Presiden tentang Peta Jalan AI Nasional dan Etika AI.

Kerangka yang sedang disiapkan tersebut diarahkan pada pendekatan AI yang berpusat pada manusia dan tata kelola berbasis risiko. Sistem dengan risiko tinggi direncanakan memperoleh perhatian lebih besar sejak tahap perancangan hingga penggunaannya.

Untuk sektor strategis, termasuk jasa keuangan, mitigasi risiko juga perlu disesuaikan dengan karakter penggunaan teknologi pada masing-masing sektor.

Akuntabilitas menjadi persoalan penting

Perkembangan agentic AI membuat persoalan akuntabilitas menjadi semakin kompleks. Ketika sebuah sistem memperoleh kewenangan menjalankan tindakan tertentu, perlu terdapat kejelasan mengenai sejauh mana kewenangan tersebut diberikan dan kapan intervensi manusia diperlukan.

Tata kelola juga perlu memastikan bahwa penggunaan AI dapat diawasi dan, untuk keputusan yang berdampak penting, memiliki mekanisme pertanggungjawaban yang jelas.

Kebutuhan tersebut menjadi semakin relevan seiring perusahaan teknologi mengembangkan agen AI untuk berbagai alur kerja di sektor keuangan, seperti analisis informasi, penilaian risiko, dan pengelolaan data.

Bukan berarti transaksi sepenuhnya diserahkan kepada AI

Pernyataan pemerintah mengenai agentic AI tidak berarti seluruh institusi keuangan Indonesia saat ini telah menyerahkan keputusan atau transaksi kepada sistem AI secara penuh.

Isu utama yang disoroti adalah meningkatnya kemampuan sistem AI dan kebutuhan agar regulasi, keamanan, pengawasan manusia, serta mekanisme akuntabilitas berkembang bersamaan dengan adopsi teknologi.

Dengan kemampuan AI yang semakin otonom, tantangan kebijakan tidak lagi hanya menyangkut apa yang dapat dilakukan teknologi, tetapi juga siapa yang memberikan kewenangan, bagaimana tindakan sistem diawasi, dan siapa yang bertanggung jawab ketika terjadi kesalahan.

Bagi sektor keuangan, pertanyaan tersebut menjadi penting karena penggunaan AI berhubungan langsung dengan data, keputusan, layanan, dan kepercayaan masyarakat.