Seorang pelamar menelepon dan bertanya kenapa lamarannya tidak diteruskan. Enam bulan lalu, sistem penilaian berbantuan AI Anda memberinya skor di bawah ambang.
Pertanyaannya sederhana. Yang jarang tersedia adalah bahan untuk menjawabnya.
Hak yang sudah berlaku
Pasal 10 UU PDP memberi subjek data hak untuk mengajukan keberatan atas tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan padanya.
Penolakan lamaran kerja, penolakan pengajuan kredit, dan penetapan harga yang berbeda antarorang adalah contoh yang lugas dari “berdampak signifikan”. Bila keputusan semacam itu di perusahaan Anda diambil sepenuhnya oleh sistem, hak ini berlaku.
Seperti Pasal 56 tentang transfer ke luar negeri, pasal ini menyerahkan tata cara pengajuan keberatannya kepada Peraturan Pemerintah — yang sampai tulisan ini dibuat belum ditandatangani. Pola yang sama berulang: haknya mengikat, mekanismenya belum ada. Yang tidak berubah adalah bahwa Anda tetap harus bisa menjawab ketika seseorang bertanya.
Satu kata yang menentukan: “hanya”
Pasal itu tidak berbicara tentang keputusan yang dibantu pemrosesan otomatis. Ia berbicara tentang keputusan yang hanya didasarkan padanya.
Perbedaannya besar, dan justru karena itu ia mudah disalahgunakan. Menempelkan seorang manusia yang menekan tombol setuju pada apa pun yang diusulkan sistem tidak mengubah siapa yang sebenarnya memutuskan. Yang berubah hanya siapa yang mengetiknya.
Keterlibatan manusia baru berarti bila memenuhi tiga hal:
- Orangnya berwenang membatalkan. Bila mengabaikan usulan sistem menuntut izin khusus atau meninggalkan jejak yang merepotkan, kewenangan itu ada di atas kertas saja.
- Orangnya melihat bahan mentahnya, bukan hanya skornya. Yang cuma disodori angka tidak sedang menimbang; ia sedang meneruskan.
- Orangnya punya waktu. Seorang penelaah dengan tiga ratus berkas sehari secara praktis adalah stempel, apa pun yang tertulis di prosedurnya.
Satu hal perlu tegas: keterlibatan manusia yang sungguhan memindahkan Anda ke luar jangkauan hak keberatan Pasal 10. Ia TIDAK menghapus kewajiban lainnya — dasar pemrosesan, penilaian dampak, keamanan, dan pemberitahuan kebocoran tetap berlaku sama persis.
Posisi itu pula yang dipegang Pintarin AI Recruitment: sistem menganalisis, memberi skor, dan memeringkat kandidat, sementara keputusan akhir tetap berada pada recruiter atau hiring team.
Kenapa catatan biasa tidak cukup
Sistem pada umumnya menyimpan hasilnya: skor akhir, keputusan akhir, dan waktunya. Itu cukup untuk operasi, dan tidak cukup untuk menjawab pertanyaan pelamar tadi.
Alasannya: model berubah. Penyedia memperbarui modelnya, tim Anda mengubah instruksinya, ambang batasnya digeser. Menjalankan ulang berkas yang sama hari ini bisa menghasilkan angka yang berbeda dari enam bulan lalu — dan itu bukan bukti sistemnya rusak, melainkan sifat wajar sistem yang hidup.
Karena itu satu-satunya cara menjawab pertanyaan tentang keputusan lama adalah mencatatnya saat keputusan itu diambil. Menyusunnya ulang belakangan tidak mungkin.
Tujuh hal yang layak dicatat per keputusan
- Kapan keputusan diambil, dengan zona waktu.
- Masukan apa yang dipakai — dokumen dan bidang datanya, bukan seluruh isinya. Menyimpan salinan penuh setiap masukan menciptakan timbunan data pribadi baru yang punya kewajibannya sendiri.
- Versi apa yang menghasilkannya: model, instruksi, dan ambang batas yang berlaku saat itu.
- Keluaran mentahnya — skor atau peringkat sebelum ada penyesuaian.
- Siapa yang meninjau, dan apakah ia mengikuti atau membatalkan usulan sistem.
- Keputusan akhirnya, yang bisa berbeda dari keluaran mentahnya.
- Dasar pemrosesan yang berlaku untuk tujuan ini.
Butir kelima yang paling sering hilang, dan justru itu yang membuktikan keterlibatan manusia Anda nyata. Catatan yang menunjukkan penelaah membatalkan usulan sistem sekali pun dalam setahun jauh lebih meyakinkan daripada prosedur yang menyatakan ia boleh.
Catatan juga punya batas waktu
Catatan keputusan itu sendiri berisi data pribadi. Ia tunduk pada kewajiban yang sama: perlu dasar pemrosesan, perlu diamankan, dan perlu punya masa simpan.
Menyimpan segalanya selamanya bukan kehati-hatian, melainkan memindahkan risiko dari satu bentuk ke bentuk lain. Tetapkan berapa lama catatan itu disimpan, kaitkan dengan alasan yang jelas — misalnya lamanya sengketa masih mungkin diajukan — lalu hapus setelahnya, secara otomatis.
Ini bagian yang paling sering dirancang lalu tidak pernah dijalankan. Penghapusan yang bergantung pada seseorang mengingat untuk menjalankannya adalah penghapusan yang tidak terjadi. Menjaga hal semacam ini tetap berjalan setelah sistemnya menyala adalah bagian dari pengelolaan AI jangka panjang.
Dua pertanyaan untuk menguji kesiapan
- Bila seseorang menanyakan sebuah keputusan dari enam bulan lalu, berapa lama waktu yang tim Anda butuhkan untuk menjawabnya — dan apakah jawabannya akan sama bila ditanyakan lagi bulan depan?
- Bisakah Anda menunjukkan, dari data dan bukan dari prosedur, bahwa penelaah manusia Anda pernah tidak sependapat dengan sistem?
Gambaran utuh kewajibannya ada di tulisan tentang UU PDP dan AI, dan pemilihan dasar pemrosesannya dibahas di tulisan tentang data karyawan dan kandidat.
Batas tulisan ini
Ini penjelasan, bukan nasihat hukum. Menilai apakah sebuah keputusan di perusahaan Anda tergolong “hanya didasarkan pada pemrosesan otomatis” perlu ditimbang bersama penasihat hukum Anda. Naskah lengkap Undang-Undang Nomor 27 Tahun 2022 tersedia di JDIH resmi.