Undang-undang kebebasan informasi adalah kunci untuk mengungkap kesalahan AI. Sistem yang ada saat ini tidak mampu melakukan tugasnya

Ada banyak diskusi tentang bagaimana kecerdasan buatan (AI) akan mempengaruhi setiap bagian dari masyarakat kita, mulai dari tugas sekolah hingga industri musik.

Namun ketika para pengambil kebijakan terus memperdebatkan cara terbaik untuk mengatur AI, ada pertanyaan yang kurang mendapat perhatian: seberapa siap undang-undang kebebasan informasi kita untuk menghadapi teknologi baru?

Undang-undang kebebasan informasi penting karena membantu menjaga akuntabilitas dan transparansi pemerintah. Tanpa mereka, kesalahan-kesalahan utama akan tetap menjadi rahasia.

Seiring dengan perkembangan teknologi yang pesat, inilah saatnya untuk memikirkan kembali secara mendasar rezim kebebasan informasi di Australia agar sesuai dengan tujuan pada tahun 2024 dan seterusnya.

Undang-undang transparansi merupakan kunci dalam permasalahan otomasi

Anda mungkin bertanya-tanya apa hubungan undang-undang kebebasan informasi (FOI) dengan AI dan otomatisasi. Contoh yang baik tentang bagaimana keduanya bekerja sama adalah skandal Horizon yang baru-baru ini terjadi di Inggris.

Skandal ini terjadi ketika sistem akuntansi komputer bernama Horizon salah mengidentifikasi kekurangan keuangan kantor pos di seluruh Inggris. Otoritas Kantor Pos Inggris menuntut 700 master kantor pos sebagai akibat dari temuan sistem tersebut. Beberapa masuk penjara karena penipuan dan pencurian, dan banyak lainnya yang mengalami kehancuran finansial.

Hal ini digambarkan sebagai “kemungkinan kegagalan keadilan terbesar dalam sejarah Inggris.”

Yang penting, para aktivis di Inggris memanfaatkan FOI secara ekstensif untuk memperoleh informasi tentang sistem tersebut. Misalnya, permintaan dari aktivis terkemuka berujung pada terungkapnya dokumen Kantor Pos yang menggunakan istilah-istilah ofensif dan rasis untuk mengkategorikan sub-kepala kantor pos yang sedang diselidiki.

Permintaan FOI lainnya menemukan bahwa otoritas pemerintah diberitahu tentang kemungkinan masalah pada sistem pada bulan Mei 2013.

Bencana ini harus menjadi pengingat bagi Australia mengenai implikasi penggunaan AI dan otomatisasi dalam sistem pemerintahan.

Hal ini juga harus menimbulkan pertanyaan apakah undang-undang kita cocok untuk menghadapi tantangan teknologi, terutama karena undang-undang transparansi di Australia lebih ketat dibandingkan undang-undang di Inggris. Tidak ada pengecualian mutlak untuk dokumen kabinet di Inggris.

Reformasi sangat diperlukan

Peraturan AI di Australia baru-baru ini menjadi berita karena dirilisnya tanggapan sementara pemerintah terhadap konsultasi AI yang bertanggung jawab.

Meskipun ini merupakan inisiatif yang penting, hanya sedikit perhatian yang diberikan terhadap perlunya memperbarui beberapa mekanisme transparansi utama kami.

Misalnya, pemerintah menolak menerapkan rekomendasi penting dari laporan Robodebt Royal Commission tahun 2023. Dewan ini merekomendasikan agar pengecualian kabinet (ketentuan yang memperbolehkan dokumen kabinet dikecualikan dari pengungkapan) dalam Undang-Undang Kebebasan Informasi harus dicabut.

Meskipun menyatakan bahwa pihaknya “menerima atau menerima secara prinsip seluruh 56 rekomendasi” dalam laporan tersebut, pemerintah tidak secara resmi menerima rekomendasi kebebasan informasi. Dalam tanggapannya, mereka mengatakan hal ini disebabkan oleh kebutuhan untuk melindungi kerahasiaan kabinet, tanggung jawab kolektif dan pemberian “nasihat yang jujur ​​dan tanpa rasa takut dari para Menteri dan pegawai negeri senior.”

Laporan komisi kerajaan juga mencatat bahwa masyarakat yang terkena dampak dan kelompok advokasi menghadapi kesulitan yang signifikan dalam memperoleh informasi tentang pengoperasian skema Robodebt, termasuk melalui Freedom of Information Act. Temuan-temuan ini penting karena klasifikasi informasi pemerintah yang berlebihan merupakan salah satu alasan mengapa Robodebt dibiarkan terus mendapatkan impunitas dalam jangka waktu yang lama.

Apa yang perlu terjadi sekarang?

Meningkatnya penggunaan otomatisasi dan AI di pemerintahan membutuhkan keterbukaan yang lebih besar dengan masyarakat. Untuk mencapai keseimbangan antara transparansi dan kerahasiaan kabinet, makalah kami merekomendasikan perubahan-perubahan berikut:

• pengecualian kabinet harus dilengkapi dengan uji kepentingan publik yang diatur dan seruan kepada Komisaris Informasi, seperti di Inggris
• mempersempit ruang lingkup dokumen yang dicakup oleh kerahasiaan kabinet
• pengurangan jangka waktu pengungkapan dari 30 tahun menjadi sepuluh tahun, sejalan dengan beberapa negara bagian Australia.

Namun kami juga menyerukan peninjauan lebih besar dan modernisasi Undang-Undang Kebebasan Informasi.

Undang-undang tersebut disahkan pada tahun 1982, ketika dokumen dalam bentuk cetak sudah menjadi hal yang lumrah dan proses online pemerintah masih dalam tahap awal. Meskipun telah mengalami beberapa perubahan kecil sejak saat itu, namun belum mengalami perombakan besar-besaran untuk mengakui kemajuan teknologi besar yang telah terjadi.

Seperti argumen kami dan pihak lain sebelumnya dalam makalah tahun 2020 tentang teknologi dan hukum, reformasi di masa depan harus mencakup perluasan cakupan Undang-undang tersebut untuk memungkinkan keterbukaan yang lebih besar dan mengurangi pengecualian untuk rahasia dagang (untuk memungkinkan pengungkapan informasi komersial yang digunakan untuk otomatisasi. teknologi). Kami juga menyarankan agar lembaga pemerintah diwajibkan untuk lebih proaktif dalam mengungkapkan rincian teknologi otomatis yang mereka gunakan. Hal ini akan membantu menjadikan rezim FOI kita sesuai dengan tujuannya—pada tahun 2024 dan seterusnya.

Artikel ini diterbitkan ulang dari The Conversation di bawah lisensi Creative Commons. Baca artikel aslinya.