Pemanfaatan AI yang BerAKHLAK: Bentuk Pertanggungjawaban dan Perlindungan atas Hak Publik

Dalam penerapannya, perkembangan teknologi hampir selalu memiliki dampak positif dan dampak negatif. Di dunia Aparatur Sipil Negara (ASN) hal tersebut juga berlaku, ketika terjadi pembaharuan dalam administrasi perkantoran dari penggunaan mesin ketik untuk menghasilkan dokumen ke penggunaan komputer misalnya.

Penggunaan komputer sebagai alat bantu dalam pelaksanaan tugas administrasi di satu sisi terbukti sangat efektif dan efisien dalam meminimalisir kesalahan dalam hasil akhir sebuah dokumen, meningkatkan kecepatan dalam penyelesaian tugas, serta memudahkan dalam hal dokumentasi.

Namun, juga perlu diingat bahwa keberadaan komputer sebagai alat bantu pelaksanaan tugas cukup lama menimbulkan stigma bahwa ASN dalam mengisi waktu luangnya (juga jam kerjanya) seringkali memainkan games yang terdapat dalam komputer.

Perkembangan terbaru dalam dunia teknologi yang mendapat perhatian cukup pesat adalah Artificial Intelligence (AI), kehadiran AI yang mulai merasuk ke dalam banyak sektor kehidupan kita saat ini menyebabkan penggunaannya dalam tata kelola pelayanan publik hampir pasti tidak terhindarkan.

Reformasi birokrasi dan modernisasi dalam pelayanan publik mulai melirik pemanfaatan AI. Jika belum pada tataran instansi, namun setidaknya pada tataran individu, ASN sudah mulai mencoba untuk memanfaatkan AI.

Sebagaimana penjelasan mengenai AI, sebagai sebuah kemampuan dari sistem komputasi untuk menjalankan tugas yang pada umumnya membutuhkan kecerdasan manusia seperti mempelajari, berargumentasi, sampai dengan memecahkan permasalahan, maka penggunaan AI dalam tata kelola sektor publik dapat mengakselerasi tugas-tugas administratif ASN.

Mulai dari pengolahan data, informasi, dan/atau dokumen secara massal, melakukan analisis dan memberikan alternatif solusi atas hasil analisis, hingga penggunaan chatbot untuk layanan informasi publik.

Dalam hal ini, AI menawarkan tingkat efisiensi yang cukup tinggi. Namun dalam pemanfaatannya tersebut, perlu dicermati mengenai bagaimana pertanggungjawaban secara hukum dan secara etika atas keputusan administratif yang diambll berdasarkan algoritma AI serta kepastian perlindungan terhadap hak-hak publik yang terdampak. 

Ketika keputusan administratif—seperti penetapan kelayakan penerima bantuan sosial, perizinan, hingga Penilaian Kinerja Pegawai—mulai melibatkan masukan dari algoritma AI, muncul pertanyaan mendasar:

Siapa yang bertanggung jawab secara hukum jika terjadi kekeliruan, dan bagaimana masyarakat dapat melakukan upaya keberatan atas keputusan yang dihasilkan oleh sistem otomatis tersebut?

Risiko Algoritma AI: Kualitas Data hingga Dampak Hak Publik

Pemanfaatan AI kerap diidentikkan dengan peningkatan efisiensi pengolahan data. Meski demikian, klaim bahwa AI “selalu akurat” juga dirasa tidak tepat. Berdasarkan studi literatur dan temuan empiris di ranah administrasi publik, risiko AI perlu dipahami melalui aspek teknis dan operasional berikut:

1. Kualitas Data dan Potensi Bias 

AI bekerja berdasarkan data input, AI mengolah dan menganalisis data input sebagai training data untuk dijadikan algoritma dasar apabila terdapat data baru yang perlu dianalisis.

Jika data yang telah terinput sebelumnya memuat bias diskriminatif atau kekeliruan pencatatan, AI akan mereproduksi dan memperkuat bias tersebut. Terkait dengan hal ini terdapat pelajaran penting yang dapat dipetik dari kasus System Risk Indication (SyRI) di Belanda.

Pada kasus tersebut, penggunaan algoritma prediktif untuk mendeteksi kecurangan bantuan sosial terbukti memunculkan bias diskriminatif terhadap kelompok masyarakat berpenghasilan rendah dan minoritas, hingga akhirnya dihentikan oleh pengadilan karena dianggap melanggar Hak Asasi Manusia.

2. Ketidakpastian Ketentuan Layanan (Terms of Service)

Penggunaan platform AI milik pihak ketiga terikat pada Terms of Service (ToS) yang dapat berubah sewaktu-waktu.

Hal ini memicu risiko ketidakpastian kepemilikan data yang telah terunggah dan tersimpan pada cloud/server milik pihak ketiga, terutama jika pihak ketiga tersebut memiliki hak yang terselubung untuk menggunakan masukan (input) data sebagai bahan pemrosesan model mereka.

3. Risiko Kebocoran Informasi Kedinasan

Pengunggahan dokumen kedinasan atau data personal warga ke platform AI milik pihak ketiga berbasis cloud/server tanpa proteksi enkripsi privat melanggar prinsip Data Protection by Design sebagaimana diatur dalam Artikel 25 General Data Protection Regulation pada Uni Eropa dan juga teradopsi dalam Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP).

Hal ini berpotensi memicu paparan dari dokumen-dokumen yang bersifat privat milik warga, rahasia negara, atau rahasia jabatan kepada pihak yang tidak berwenang.

4. Ancaman Automation Bias terhadap Keputusan Publik

Penelitian psikologi kognitif menunjukkan adanya fenomena automation bias, yaitu kecenderungan manusia untuk mempercayai dan menerima keluaran sistem otomatis secara mentah-mentah tanpa melakukan verifikasi mandiri, meskipun terdapat bukti atau kejanggalan pada hasil keluaran tersebut.

5. Hilangnya Akuntabilitas Terkait Pengambilan Keputusan

Keputusan publik yang bersumber dari sistem AI berarsitektur rumit sering kali bersifat black-box, dimana alur penalarannya sulit dijelaskan secara logika hukum manusia. Ketidaktransparanan ini menyulitkan masyarakat untuk mengetahui dasar pertimbangan dari suatu keputusan administratif yang berdampak pada kehidupannya.

Pemanfaatan AI Secara BerAKHLAK

ASN dan birokrasi memang diharapkan dapat terus beradaptasi dengan setiap perkembangan, khususnya di era digital ini. Namun, mengadopsi AI ke dalam jantung administrasi pemerintahan bukanlah tanpa risiko, sebagaimana telah diuraikan di atas.

Untuk memastikan pemanfaatan AI berada dalam koridor etis dan hukum, keberadaan teknologi ini harus diselaraskan secara langsung dengan nilai-nilai dasar ASN  yaitu BerAKHLAK, diantaranya sebagai berikut:

1. Berorientasi Pelayanan

Warga negara merupakan stake holder ASN dalam kerangka pelayanan publik. Sehingga sebagai bentuk pelayanan, maka ASN harus dapat menjamin kepastian hak warga atas transparansi keputusan yang didasarkan pada algoritma AI (explainable AI).

Hal ini selaras dengan Pasal 16 UU PDP yang menyebutkan bahwa subjek data pribadi berhak untuk menguji, mengajukan keberatan, atau menolak keputusan yang semata-mata didasarkan pada pemrosesan secara otomatis (automated decision-making) yang menimbulkan akibat hukum bagi dirinya.

2. Akuntabel

Berdasarkan pada nilai akuntabel, maka perlu ditegaskan bahwa AI hanyalah alat bantu (co-pilot). Merujuk pada pandangan Organisation for Economic Co-operation and Development (OECD) AI Principles, tanggung jawab formal, legal, dan etis atas keluaran atau tindakan administrasi tetap melekat penuh pada pejabat ASN pemegang wewenang (human liability), bukan pada algoritma.

3. Kompeten

Nilai ini menuntut ASN untuk memiliki tingkat literasi digital dan kognitif yang memadai guna memitigasi automation bias. ASN yang kompeten wajib memiliki kapabilitas untuk menguji, mengklarifikasi, dan mengoreksi rekomendasi AI sebelum akhirnya disahkan menjadi keputusan administratif.

4. Loyal

Sebagai bentuk penerapan nilai loyal, maka ASN wajib menjaga kerahasiaan dan keamanan data, informasi, dan/atau dokumen negara.

Khususnya, ASN berkewajiban melindungi informasi berklasifikasi rahasia/terbatas dengan tidak memasukkan data sensitif warga atau dokumen kedinasan internal ke dalam mesin AI milik pihak ketiga tanpa adanya jaminan enkripsi dan lisensi resmi.

Langkah Strategis Pemanfaatan AI di Sektor Publik

Mengadaptasi praktik terbaik internasional (seperti Artificial Intelligence Act, Uni Eropa), tata kelola AI di lingkungan birokrasi sektor publik dapat diterapkan secara terukur melalui lima langkah sebagai berikut:

1. Klasifikasi Penggunaan AI Berbasis Tingkat Risiko (Risk-Based Approach)

Mengadopsi kerangka Artificial Intelligence Act Uni Eropa, penggunaan AI dikategorikan menjadi:

• Risiko Rendah, misal dalam penyusunan konsep surat dinas dan pembuatan resume atas dokumen formal.
• Risiko Tinggi, misal dalam sistem penilaian kualifikasi bantuan sosial, penilaian kinerja pegawai, dan analisis prediktif perizinan. Dalam kategori ini, maka wajib melalui pengawasan yang memadai.

2. Larangan Pengunggahan Data Sensitif ke Platform AI Milik Pihak Ketiga

Perlu dilakukan pengaturan mengenai larangan penginputan data pribadi warga negara yang bersifat spesifik dan/rahasia (seperti data kesehatan, keuangan, atau data anak sesuai UU PDP) serta rahasia negara ke platform AI publik bebas pakai (unencrypted public cloud).

3. Penerapan Mandatory Human-in-the-Loop (HITL) untuk Keputusan yang bersifat krusial

Menjadikan proses reviu, validasi, dan otentifikasi dillakukan oleh ASN (human oversight) sebagai syarat terkait dengan keabsahan keputusan publik yang berbasis AI.

4. Pencatatan Log (Audit Trail) dan Pengujian Bias Berkala

Diwajibkan adanya pencatatan log histori atas pemrosesan data oleh sistem AI untuk keperluan audit forensik jika terjadi sengketa hukum di kemudian hari, disertai uji bias (algorithmic auditing) secara berkala terhadap model yang digunakan.

5. Penyediaan Mekanisme Keberatan (Administrative Redress)

Membangun saluran pengaduan dan tata cara penyampaian keberatan yang mudah diakses oleh warga untuk mengajukan koreksi atas keputusan administratif yang diproses dengan bantuan sistem AI, guna menjamin prinsip keadilan dan tata kelola pemerintahan yang baik (Good Corporate Governance).

Human in the Loop

Sebagai suatu kesimpulan, mengingat kebermanfaatan yang dapat diberikan oleh penggunaan teknologi AI, maka menolak kemajuan teknologi secara total (luddite) tentu bukan pilihan. Jalan tengah yang dapat ditempuh adalah dengan menerapkan tata kelola AI yang bertumpu pada prinsip Human-in-the-Loop (HITL).

Maka dalam hal ini, AI harus diposisikan sebagai alat bantu (co-pilot) dalam proses pengolahan data, informasi, dan/atau dokumen serta memberikan analisis awal, sementara keputusan akhir, validasi etis, dan tanggung jawab hukum tetap berada penuh di tangan pejabat ASN sebagai manusia.

Untuk mewujudkan hal tersebut, pemerintah perlu segera menyusun peraturan mengenai penggunaan AI di sektor publik untuk memastikan bahwa penggunaan AI berada dalam koridor tata kelola pelayanan publik yang aman, serta meningkatkan literasi digital ASN secara masif sebagai langkah pencegahan dari risiko yang mungkin ditimbulkan dari penggunaan AI dalam tata kelola pelayanan publik.

Pada akhirnya, teknologi AI harus diposisikan sebagai instrumen penunjang, dan keberhasilan reformasi birokrasi serta peningkatan tata kelola pelayanan publik tetap bertumpu pada ASN yang bersandar pada pondasi budaya kerja BerAKHLAK.