Yang Perlu Diketahui Dinas Sebelum Memasang AI di Layanan Publik

Beberapa bulan terakhir saya beberapa kali diajak bicara oleh orang dari dinas dan lembaga daerah yang sedang mempertimbangkan memasang chatbot atau asisten AI di layanan publik mereka. Pertanyaannya hampir selalu sama: "vendornya bilang tinggal pasang, bagaimana menurut Bapak?"

Jawaban saya juga hampir selalu sama: yang ditawarkan vendor itu biasanya benar secara teknis dan berbahaya secara tata kelola, karena mereka menjual pola yang dipakai di sektor swasta, langsung ke konteks yang aturannya berbeda.

Saya menyebut ini Kesalahan Salin-Tempel dari Swasta. Di bisnis swasta, kalau chatbot salah menjawab, akibatnya paling buruk pelanggan kecewa dan pindah ke kompetitor. Di layanan publik, kalau sistem AI salah menjawab soal syarat izin usaha, jadwal vaksinasi, atau status bantuan sosial, akibatnya menyentuh hak warga yang tidak punya kompetitor untuk pindah.

Bedanya bukan soal AI-nya boleh atau tidak boleh dipakai di layanan publik. Saya percaya sebaliknya — di banyak titik layanan publik, antrean panjang dan informasi yang tidak konsisten justru pantas diperbaiki dengan otomasi. Bedanya soal pengawasan yang wajib ada sebelum tombol "aktifkan" ditekan, yang jarang ditanyakan vendor karena bukan mereka yang menanggung akibatnya.

Kerangka yang saya pakai untuk memeriksa kesiapan ini saya sebut Tiga Lapis Pengawasan. Lapis pertama, transparansi keputusan — warga yang berinteraksi dengan sistem AI berhak tahu bahwa ia sedang bicara dengan sistem, bukan pegawai, dan berhak tahu dasar jawaban yang diberikan sistem itu berasal dari mana.

Lapis kedua, jalur banding manusia — setiap jawaban otomatis yang menyangkut hak atau kewajiban warga wajib punya jalur eksplisit untuk diajukan ulang ke manusia, dengan waktu tanggap yang dijanjikan, bukan "silakan datang ke kantor" tanpa kepastian siapa yang menerima.

Lapis ketiga, audit berkala — catatan percakapan dan keputusan yang diambil sistem AI diperiksa secara rutin oleh pihak yang bukan tim yang memasangnya, untuk menemukan pola jawaban salah sebelum pola itu sempat merugikan ratusan warga, bukan sesudah ada yang komplain ke media.

Tiga lapis ini terdengar seperti pekerjaan tambahan yang memperlambat peluncuran. Memang begitu, dan itu yang benar. Layanan publik yang meluncur cepat lalu ditarik kembali karena masalah tata kelola jauh lebih mahal — secara biaya dan secara kepercayaan publik — daripada layanan yang meluncur sedikit lebih lambat dengan tiga lapis ini sudah terpasang.

Ada dimensi kedua yang sering terlewat: talenta. Memasang sistem AI di layanan publik tanpa menyiapkan orang yang mengawasinya sama dengan memasang mesin canggih di ruangan tanpa operator yang tahu cara membacanya. Saya sering menemukan dinas yang sudah membeli lisensi sistemnya, tapi belum menunjuk satu pun staf yang tugas hariannya memeriksa keluaran sistem itu.

Ini bukan soal merekrut tim IT baru. Ini soal menunjuk, dari staf yang sudah ada, satu peran baru — bukan pembuat kode, tapi pembaca hasil. Orang yang tugasnya membaca sampel percakapan sistem tiap minggu, dan punya wewenang untuk menghentikan sistem itu sementara kalau menemukan pola jawaban yang berbahaya.

Upskilling yang paling dibutuhkan di titik ini bukan pelatihan cara memakai AI generatif seperti yang sering ditawarkan pelatihan-pelatihan umum. Yang dibutuhkan pelatihan cara membaca dan mengevaluasi keluaran sistem — keterampilan yang jauh lebih jarang diajarkan, dan jauh lebih penting bagi pengawas layanan publik daripada bagi pengguna biasa.

Saya juga sering ditanya soal ekonomi digital daerah — apakah memasang AI di layanan publik akan menghilangkan lapangan kerja tenaga administrasi setempat. Jawaban jujur saya: sebagian pekerjaan administrasi berulang memang akan berpindah ke sistem, dan menyangkalnya tidak membantu siapa pun.

Yang bisa dilakukan dinas adalah menyiapkan jalur perpindahan itu lebih dulu, bukan menunggu sampai terjadi lalu bingung menanganinya. Staf yang tugasnya mengetik ulang formulir yang sama berulang kali bisa dipindah ke peran pengawas kualitas jawaban sistem — peran yang justru lebih dibutuhkan begitu sistem itu berjalan, bukan lebih sedikit.

Langkah tujuh hari yang saya sarankan untuk dinas mana pun yang sedang mempertimbangkan atau sudah memasang sistem AI: buat daftar semua titik layanan yang saat ini memakai bot atau balasan otomatis, lalu untuk tiap titik, cek satu pertanyaan saja — kalau sistem ini menjawab salah hari ini, warga tahu ke mana harus mengadu, dan berapa lama jawabannya akan datang?

Kalau jawabannya tidak jelas untuk satu pun titik dalam daftar itu, itu bukan alasan mematikan sistemnya. Itu daftar prioritas pertama yang harus diperbaiki minggu ini juga, sebelum menambah satu titik layanan baru pun.

Otomasi di layanan publik yang dijalankan dengan tiga lapis pengawasan ini bukan jadi lambat karena birokrasi. Justru sebaliknya — begitu lapisan itu ada, dinas punya alasan yang kuat untuk mempercepat otomasi ke titik layanan lain, karena sudah ada bukti bahwa risikonya terkelola, bukan cuma diasumsikan aman.

Saya juga menyarankan tiga lapis ini ditulis sebagai satu halaman kebijakan internal, bukan cuma dipahami secara lisan oleh tim yang memasang sistemnya. Kepala dinas berganti, staf IT bisa dimutasi, tapi dokumen satu halaman yang menjelaskan siapa yang mengawasi, ke mana warga mengadu, dan kapan audit dijalankan, akan tetap ada — dan itu yang ditanyakan pertama kali kalau suatu saat ada pemeriksaan dari inspektorat atau ombudsman.

Kalau dinas Anda ingin memakai alat yang sama untuk memetakan sendiri di titik mana layanan yang paling berisiko dan paling siap diotomasi, saya membuka alat swa-nilai ini untuk siapa saja, termasuk lembaga pemerintah, di /alat/tingkat-otomasi.