Ketika desainer menggunakan penggambaran tubuh manusia yang tidak akurat, penggunaan kecerdasan buatan dalam beberapa aplikasi mungkin tidak aman bagi mereka yang tidak cocok dengan tipe tubuh tersebut, menurut sebuah studi baru yang diposting ke arXiv server pracetak.
Asumsi yang salah ini mendefinisikan apa yang dianggap sebagai norma bagi tubuh manusia, dan telah diterapkan pada AI melalui penangkapan gerak, kata rekan penulis studi Abigail Jacobs, asisten profesor di Sekolah Informasi UM dan Pusat Studi Sistem Kompleks.
Studi tersebut menunjukkan bagaimana AI memainkan peran penting dalam desain, pengembangan, dan implementasi sistem penangkapan gerak, yang menyimpulkan pergerakan manusia, hewan, dan objek di luar angkasa.
Dengan menggunakan sensor dan/atau kamera, sistem ini mengumpulkan data yang kemudian dapat dimodelkan pada komputer untuk membuat “kerangka digital” yang dapat digunakan untuk menganimasikan video game, mendiagnosis kondisi kesehatan, atau mensimulasikan ergonomi tempat kerja.
“Sistem ini digunakan dalam berbagai aplikasi mulai dari merancang lantai produksi yang aman, augmented reality, dan kendaraan otonom,” kata Jacobs. “Mereka bergantung pada asumsi-asumsi yang salah dan salah, misalnya tentang siapa tubuh manusia yang ‘standar’ atau ‘representatif’.”
Dalam studi yang sama, Jacobs dan rekannya juga menyelidiki praktik sejarah sejak tahun 1930-an, dan mengungkapkan tren yang mengkhawatirkan: Ketergantungan yang berlebihan pada pria dewasa yang sehat untuk mewakili tubuh dan gerakan yang “tipikal”. Garis dasar lainnya yang masih menjadi bagian dari sistem modern dan canggih mengandalkan tubuh orang yang telah meninggal, di mana simulasi pergerakan mayat yang dibekukan menggantikan pergerakan langsung. Hal ini menyebabkan representasi dan asumsi yang menyimpang, kata para peneliti.
Seiring berjalannya waktu, asumsi-asumsi ini dimasukkan ke dalam perangkat lunak modern, sehingga menyebabkan potensi kerugian pada cara sistem penangkapan gerak merepresentasikan tubuh. Hal ini serupa dengan bagaimana fotografi warna dikembangkan untuk hanya menangkap warna kulit cerah, namun kerugiannya adalah bagaimana kamera modern menampilkan tubuh berkulit gelap.
“Pertimbangkan praktik historis penggunaan boneka uji tabrak yang didasarkan pada tubuh laki-laki yang normatif, sehingga menyebabkan tingkat cedera yang lebih tinggi pada perempuan dan anak-anak,” kata Jacobs. “Mengingat beragamnya penerapan sistem penangkapan gerak, hal ini berpotensi membahayakan jika tubuh dianggap bergerak dan terlihat seperti, misalnya, pria muda yang atletis atau mayat yang membeku.”
Studi ini memaparkan kerangka analitis yang dapat diterapkan pada teknologi lain dengan memperhatikan bagaimana asumsi dibangun dalam perangkat keras dan AI, bagaimana tubuh direpresentasikan dalam sistem AI, dan bagaimana asumsi tersembunyi—yang sering kali merupakan asumsi lama dan tidak berdasar—terbentuk saat ini. teknologi, kata Jacobs.
Informasi lebih lanjut:
Emma Harvey dkk, Mayat dalam Mesin: Praktik Sosial Pengukuran dan Validasi dalam Teknologi Penangkapan Gerakan, arXiv (2024). DOI: 10.48550/arxiv.2401.10877
Disediakan oleh Universitas Michigan
Kutipan: AI dan tubuh manusia: Asumsi tersembunyi dalam penangkapan gerak dapat berdampak serius (2 Februari 2024) diambil 2 Februari 2024 dari https://techxplore.com/news/2024-02-ai-human-body-hidden-assumptions .html
Dokumen ini memiliki hak cipta. Terlepas dari transaksi wajar untuk tujuan studi atau penelitian pribadi, tidak ada bagian yang boleh direproduksi tanpa izin tertulis. Konten disediakan untuk tujuan informasi saja.
______
Diterjemahkan dari techxplore.com