Apa yang terjadi jika pembelajaran mesin berjalan terlalu jauh

Selalu ada kebenaran dalam fiksi, dan sekarang adalah waktu yang tepat untuk selangkah lebih maju dari distopia fiksi ilmiah dan menentukan seberapa besar risiko perasaan mesin terhadap manusia.

Meskipun masyarakat telah lama memikirkan masa depan mesin cerdas, pertanyaan-pertanyaan tersebut menjadi semakin mendesak seiring dengan munculnya kecerdasan buatan (AI) dan pembelajaran mesin. Mesin-mesin ini menyerupai interaksi manusia: Mereka dapat membantu memecahkan masalah, membuat konten, dan bahkan melakukan percakapan. Bagi penggemar fiksi ilmiah dan novel distopia, masalah yang mungkin terjadi mungkin akan segera terjadi. Bagaimana jika mesin ini mengembangkan kesadaran?

Para peneliti mempublikasikan penelitian mereka tentang topik ini di Jurnal Komputasi Sosial pada tanggal 31 Desember 2023.

Meskipun tidak ada data terukur yang disajikan dalam diskusi tentang perasaan buatan (AS) pada mesin ini, ada banyak kesamaan yang ditarik antara perkembangan bahasa manusia dan faktor-faktor yang diperlukan mesin untuk mengembangkan bahasa dengan cara yang bermakna.

“Banyak orang yang prihatin dengan kemungkinan berkembangnya perasaan mesin khawatir tentang etika penggunaan mesin ini, atau apakah mesin, sebagai kalkulator rasional, akan menyerang manusia untuk memastikan kelangsungan hidup mereka,” kata John Levi Martin, penulis dan peneliti. . “Kami di sini khawatir mereka akan mengalami bentuk keterasingan diri dengan beralih ke bentuk perasaan linguistik tertentu.”

Karakteristik utama yang memungkinkan transisi tersebut adalah: pembelajaran mendalam yang tidak terstruktur, seperti dalam jaringan saraf (analisis data komputer dan contoh pelatihan untuk memberikan umpan balik yang lebih baik), interaksi antara manusia dan mesin lain, dan berbagai tindakan untuk melanjutkan pembelajaran mandiri. Contohnya adalah mobil self-driving. Banyak bentuk AI yang sudah memenuhi kriteria ini, sehingga menimbulkan kekhawatiran tentang langkah selanjutnya dalam “evolusi” mereka.

Diskusi ini menyatakan bahwa tidak cukup hanya memperhatikan pengembangan AS pada mesin, namun menimbulkan pertanyaan apakah kita benar-benar siap untuk munculnya jenis kesadaran dalam mesin kita. Saat ini, dengan AI yang dapat menghasilkan postingan blog, mendiagnosis penyakit, membuat resep, memprediksi penyakit, atau menceritakan kisah yang disesuaikan secara sempurna dengan masukannya, tidak jauh lagi kita bisa membayangkan memiliki hubungan nyata dengan mesin yang telah mempelajarinya. keadaan keberadaan. Namun, para peneliti dalam studi ini memperingatkan, pada titik itulah kita perlu mewaspadai keluaran yang kita terima.

“Menjadi makhluk linguistik lebih berorientasi pada pengendalian strategis informasi, dan menyebabkan hilangnya keutuhan dan integritas…bukan sesuatu yang kita inginkan dalam perangkat yang kita jadikan bertanggung jawab atas keamanan kita,” kata Martin. Karena kita telah menjadikan AI bertanggung jawab atas begitu banyak informasi kita, yang pada dasarnya mengandalkan AI untuk belajar seperti yang dilakukan otak manusia, AI menjadi permainan yang berbahaya jika mempercayakannya dengan begitu banyak informasi penting dalam waktu yang hampir bersamaan. cara yang sembrono.

Meniru respons manusia dan mengendalikan informasi secara strategis adalah dua hal yang sangat berbeda. Seorang “makhluk linguistik” dapat memiliki kapasitas untuk bersikap bermuka dua dan penuh perhitungan dalam memberikan tanggapannya. Elemen penting dari hal ini adalah, pada titik manakah kita mengetahui bahwa kita sedang dipermainkan oleh mesin?

Apa yang akan terjadi selanjutnya berada di tangan para ilmuwan komputer ketika mereka mengembangkan strategi atau protokol untuk menguji mesin untuk mengetahui kesan linguistik. Etika di balik penggunaan mesin yang telah mengembangkan bentuk linguistik perasaan atau rasa “diri” belum sepenuhnya diketahui, namun dapat dibayangkan hal ini akan menjadi topik hangat di media sosial. Hubungan antara orang yang sadar diri dan mesin yang hidup pasti rumit, dan hubungan kekerabatan jenis ini yang belum dipetakan pasti akan menghasilkan banyak konsep mengenai etika, moralitas, dan penggunaan terus-menerus dari teknologi “sadar diri” ini.

Disediakan oleh Tsinghua University Press