Belum lama ini, Trian Ferianto menulis tentang bagaimana akal imitasi dapat membantu auditor bekerja. (Baca: Protokol Sederhana Audit Berbantuan Akal Imitasi – Birokrat Menulis)
Gagasannya sederhana: auditor memiliki keterbatasan. Kita lelah, kehilangan konsentrasi, dan tidak mungkin membaca ribuan dokumen sekaligus. Sementara itu, akal imitasi tidak memiliki masalah itu. Ia dapat membantu menyisir regulasi, memetakan risiko, sampai menguji hubungan antara kondisi dan kriteria.
Akan tetapi, Trian memberi satu pagar yang penting: keputusan tetap milik auditor. Mesin membantu, sedangkan manusia yang sepenuhnya bertanggung jawab.
Saya tertarik pada kemungkinan sebaliknya.
Bagaimana jika suatu hari yang menggunakan akal imitasi bukan lagi auditor, melainkan organisasi yang kita audit? Dan bagaimana jika akal imitasi itu tidak lagi menunggu manusia memberikan pertanyaan?
Ia membaca data sendiri, memilih tindakan sendiri, menggunakan aplikasi lain, lalu mengambil keputusan berikutnya berdasarkan hasil tindakannya sendiri. Di situlah kita mulai berbicara tentang Agentic Artificial Intelligence atau Agentic AI.
Maka, persoalan audit menjadi sedikit lebih rumit.
Ketika AI Tidak Lagi Menunggu Perintah
Kita terbiasa menggunakan AI seperti menggunakan pegawai yang sangat pintar tetapi pasif. Kita bertanya, ia menjawab. Kita meminta ringkasan, ia membuat ringkasan. Kita meminta analisis, ia memberikan analisis.
Agentic AI melangkah lebih jauh.
Ia dapat diberi tujuan, kemudian menentukan sendiri rangkaian pekerjaan untuk mencapai tujuan tersebut. Ia dapat mengakses alat tertentu, mengambil informasi, menilai hasilnya, mengubah strategi, bahkan berkomunikasi dengan agen AI lain. Apakah Anda sudah mencoba berinteraksi dengan kecanggihan AI yang sudah sejauh ini?
Christian dan koleganya (2025) menyebut perkembangan ini membawa persoalan yang berbeda dari AI konvensional. Ketika sebuah sistem dapat melakukan serangkaian tindakan secara relatif mandiri, persoalannya bukan lagi semata apakah jawaban AI benar.
Persoalannya adalah: siapa yang mengendalikan tindakannya?
Bayangkan sebuah instansi menggunakan Agentic AI untuk memantau belanja pemerintah. Tujuannya baik: mendeteksi transaksi berisiko sedini mungkin.
Mula-mula AI membaca data transaksi dan memberi tanda pada pembayaran yang tidak biasa. Hal ini tidak terlalu berbeda dengan analitik data yang selama ini kita kenal.
Kemudian kemampuannya ditambah. AI boleh menentukan sendiri transaksi mana yang perlu diperiksa lebih lanjut. Setelah itu, ia diberi akses ke basis data lain untuk mencari informasi pendukung. Kemudian ia boleh mengirim notifikasi kepada pejabat terkait. Karena dianggap cukup akurat, rekomendasinya kemudian digunakan untuk menahan sementara transaksi tertentu.
Sebenarnya, tidak ada satu keputusan besar yang tiba-tiba menyerahkan kekuasaan kepada mesin. Kewenangan itu tumbuh sedikit demi sedikit. Hingga pada suatu hari, sebuah pembayaran tertahan. Program terlambat dan pelayanan terganggu.
Auditor datang dan bertanya, “Mengapa transaksi ini dihentikan?”
Orang-orang menjawab: sistem yang memutuskan.
Nah, masalahnya, sistem bukan pejabat yang bisa kita panggil ke ruang rapat.
Mengaudit Keputusan, Bukan Hanya Hasil
Di sinilah audit terhadap Agentic AI menjadi menarik.
Selama ini kita cukup akrab dengan jejak audit. Sebuah transaksi seharusnya dapat ditelusuri: siapa yang memasukkan data, siapa yang memverifikasi, siapa yang menyetujui, dan berdasarkan kewenangan apa keputusan dibuat.
Logika yang sama mestinya berlaku ketika sebagian pekerjaan dilakukan AI.
Christian dkk. (2025) menyebut prinsip pertama sebagai explainable autonomy: semakin mandiri sebuah AI bertindak, semakin penting kemampuannya menjelaskan tindakan tersebut.
Bagi auditor, istilahnya boleh canggih, tetapi pertanyaannya sebenarnya sangat biasa.
- Apa yang dilakukan sistem?
- Mengapa ia melakukannya?
- Data apa yang digunakannya?
- Apa saja yang dapat diaksesnya?
- Siapa yang memberi kewenangan?
- Dan, ketika ia keliru, siapa yang dapat menghentikannya?
Pertanyaan terakhir mungkin yang terpenting.
Sebab otonomi tanpa batas kewenangan bukan kecerdasan. Dalam bahasa audit, itu kelemahan pengendalian.
Lima Pertanyaan Sederhana
Christian dkk. menawarkan lima prinsip untuk membangun AI otonom yang dapat dipercaya: explainable autonomy, dynamic adaptability, secure collaboration, proactive resilience, dan ethical alignment by design (Christian et al., 2025).
Bahasanya terdengar seperti urusan insinyur komputer. Padahal bagi auditor, lima prinsip itu dapat diterjemahkan menjadi pertanyaan yang sangat familiar.
- Bisakah keputusannya ditelusuri?
- Kalau sistem belajar dan berubah, siapa yang mengendalikan perubahan itu?
- Kalau ia berbagi data atau bekerja dengan agen lain, sampai di mana batas aksesnya?
- Kalau ia salah atau diserang, bisakah kerusakannya dibatasi?
- Dan akhirnya: adakah keputusan yang tetap tidak boleh diambil mesin?
Pertanyaan-pertanyaan tersebut sesungguhnya bukan barang baru bagi profesi audit. Kita sebagai auditor telah akrab dengan istilah otorisasi. Kita mengenal pemisahan fungsi, pembatasan akses, dan manajemen perubahan. Kita juga mengenal pengendalian preventif dan korektif.
Jadi, memang teknologinya berubah, semakin cerdas dan melampaui kebanyakan ketelatenan serta kecepatan manusia biasa. Namun, logika pengendaliannya tidak sepenuhnya berubah.
Yang berubah adalah objek yang harus dikendalikan.
Auditor Tidak Perlu Menjadi Programmer
Ini mungkin kabar baiknya. Auditor tidak harus memahami setiap baris kode untuk mulai mengaudit Agentic AI. Sebagaimana auditor tidak harus mampu merakit mesin anjungan tunai mandiri untuk mengaudit pengendalian transaksi perbankan.
Namun auditor perlu memahami di mana keputusan dibuat, siapa yang memiliki kewenangan, bagaimana keputusan dapat ditelusuri, dan apa yang terjadi ketika pengendalian gagal.
Penelitian Albate (2025) menunjukkan bahwa AI dapat memperkuat penilaian risiko dalam audit internal. Artinya, AI memang dapat berada di sisi meja auditor. Tetapi perkembangan Agentic AI menunjukkan bahwa AI juga akan semakin banyak berada di sisi meja yang lain: sebagai bagian dari proses bisnis yang kita audit.
Pada titik itu, kita mungkin perlu memperluas pengertian tentang auditee. Auditee tidak lagi hanya manusia, dokumen, transaksi, aplikasi, dan prosedur. Di dalam proses bisnis dapat terdapat agen digital yang mengamati, memilih, memutuskan, dan bertindak.
Oleh karena itu, pertanyaan audit di masa depan mungkin bukan hanya, “Siapa yang menyetujui transaksi ini?” Tapi kita mungkin perlu bertanya, “Manusia atau mesin?”
Jika jawabannya mesin, pertanyaan berikutnya tidak boleh berhenti pada, “Apakah mesinnya pintar?”
Justru kita perlu bertanya: siapa yang memberinya kuasa, seberapa jauh kuasa itu diberikan, dan siapa yang tetap bertanggung jawab ketika ia salah?
Sebab teknologi boleh menjadi semakin mandiri.
Akuntabilitas tidak.
Daftar Pustaka
Albate, L. B. (2025). Recent Advancements and Emerging Trends in the Use of Artificial Intelligence for Risk Assessment in Internal Auditing. International Journal of Computing and Digital Systems, 18(1).
Christian, R., Babu P., D., Patel, H., & Modi, K. (2025). Building Trustworthy Autonomous AI: Essential Principles beyond Traditional Software Design. Applied Cybersecurity & Internet Governance, 4(1). DOI: 10.60097/ACIG/208710.
Ferianto, T. (2026). Protokol Sederhana Audit Berbantuan Akal Imitasi. Birokrat Menulis, 25 September 2026.
0 Comments