Autopen menunjukkan bahaya otomatisasi dalam komunikasi

Jauh sebelum orang-orang mengkhawatirkan dampak ChatGPT terhadap komunikasi pribadi dan norma-norma sosial, sudah ada autopen dan pendahulunya—mesin tanda tangan otomatis—yang dikhawatirkan akan disalahgunakan untuk memalsukan tanda tangan dan menandatangani deklarasi perang serta rancangan undang-undang lainnya.

Dalam sebuah analisis baru, para peneliti Cornell telah memeriksa tiga kontroversi autopen untuk melihat apa yang terungkap mengenai kapan boleh dan tidak boleh mengotomatisasi komunikasi. Mereka menemukan bahwa meskipun autopen membuat komunikasi lebih cepat, penggunaannya menimbulkan ketidakpercayaan dan mengurangi nilai yang dirasakan dari barang yang ditandatangani. Mereka menyamakannya dengan kekhawatiran saat ini seputar ChatGPT, yang penggunaannya dapat memberikan hasil serupa.

“Alat-alat semacam ini bisa sangat berguna dan efektif dalam membuat jenis komunikasi tertentu menjadi lebih efisien,” namun konteksnya penting, kata Pegah Moradi, seorang mahasiswa doktoral di bidang ilmu informasi dan penulis pertama studi baru ini. “Rasanya seperti kamu telah ditipu ketika mengetahui bahwa barang-barang ini ditandatangani dengan autopen.”

Studinya, “‘A Fountain Pen Come to Life’: The Anxieties of the Autopen,” muncul pada 1 Januari di Jurnal Komunikasi Internasional. Karen Levy, profesor ilmu informasi di Cornell Ann S. Bowers College of Computing and Information Science dan anggota asosiasi fakultas Hukum, adalah penulis senior dalam penelitian ini.

Meskipun pemerintah AS secara rutin menggunakan otopen untuk menandatangani kontrak, surat, dan memo, kontroversi dapat muncul ketika selebriti diam-diam menggunakannya untuk tanda tangan.

Misalnya, pada tahun 2022, Bob Dylan mengeluarkan koleksi esai yang ditandatangani seharga $599, yang dilengkapi dengan surat yang menyatakan “buku yang Anda pegang telah ditandatangani dengan tangan oleh Bob Dylan.” Itu sebenarnya ditandatangani dengan autopen saat Dylan menderita vertigo. Ketika penggemar yang jeli menemukan tanda tangan yang direplikasi dan mengeluh, Dylan meminta maaf dan penerbit menawarkan pengembalian dana penuh.

Penggunaan autopen di sini dianggap sebagai pelanggaran oleh penggemar karena nilai dari benda yang ditandatangani tersebut berasal dari Dylan yang memegangnya sebentar di tangannya. “Hal ini membuat artefak itu menjadi langka—nilai yang tidak akan Anda dapatkan jika itu adalah replika tanda tangan,” kata Moradi.

Dalam skandal lain, banyak yang marah ketika mengetahui bahwa pada tahun 2004, Menteri Pertahanan Donald Rumsfeld menandatangani lebih dari 1.000 surat belasungkawa melalui autopen untuk keluarga yang orang tercintanya tewas dalam Perang Irak. Pembelaan Rumsfeld adalah bahwa mesin tersebut memungkinkan dia mengirimkan surat dengan lebih cepat. Namun, seperti yang ditunjukkan oleh Moradi dan Levy, upaya yang diperlukan untuk menandatangani setiap surat justru membuat surat-surat tersebut menjadi penting.

“Bahwa Anda benar-benar meluangkan waktu untuk menuliskannya adalah hal yang penting dalam kasus ini,” kata Moradi. “Ketika Anda menghindari hal tersebut dengan teknologi, Anda mengurangi nilai tersebut.”

Hal ini serupa dengan kemarahan ketika pegawai Universitas Vanderbilt menggunakan ChatGPT untuk membuat surat belasungkawa yang dikirimkan kepada mahasiswa setelah penembakan massal di Michigan State University tahun lalu, kata Moradi. Banyak siswa yang marah karena mereka tidak meluangkan waktu untuk menulis pesan sederhana sekalipun.

Dalam kasus ketiga, koki selebriti Gordon Ramsay berusaha menghindari tanggung jawab membayar sewa pub London miliknya dengan mengklaim kontrak sewa tidak sah karena ayah mertuanya, yang juga agennya, menandatanganinya dengan autopen. Namun pembelaannya gagal, karena tanda tangan elektronik adalah sah—itu adalah “simbol dari proses persetujuan,” tulis Moradi dan Levy. Bahkan Departemen Kehakiman AS menetapkan sebuah RUU sah jika tanda tangan presiden ditambahkan melalui autopen.

Penggunaan dan kesadaran yang lebih besar terhadap autopen telah menimbulkan ketidakpercayaan yang lebih besar terhadap keaslian tanda tangan selebriti, kata Moradi. Dalam fenomena serupa, yang disebut “liar’s dividen”, penggunaan kecerdasan buatan generatif (AI) untuk menyebarkan informasi yang salah dan gambar palsu menyebabkan orang menjadi skeptis terhadap barang palsu dan barang asli.

Meskipun para ahli tidak dapat memprediksi bagaimana AI generatif akan mengubah ekspektasi sosial di masa depan, para peneliti menyarankan agar pengguna mengambil pelajaran dari autopen, dan berhati-hati ketika mereka memilih untuk mengorbankan keaslian demi efisiensi.

“Tentu saja, teknologi baru ini dapat melakukan banyak hal dan membuka potensi yang mungkin tidak terpikirkan oleh kita 100 tahun yang lalu,” katanya. “Tetapi banyak perubahan yang terjadi sangat mirip dengan perubahan yang terjadi sepanjang sejarah manusia. Kita dapat memperoleh banyak wawasan baru dari teknologi lama.”