Pemandu Trans Sedang Dikunci Daripada Akaun Uber Mereka

Uber mungkin tidak sabar-sabar untuk menerima teknologi canggih dalam usahanya untuk menguasai jalan raya, tetapi insiden baru-baru ini melibatkan pemandu transgender dan ciri keselamatan pengecaman muka apl rideshare mendedahkan salah satu daripada banyak perangkap bergantung pada algoritma komputer. Janey Webb, pemandu Uber trans di Iowa, mendapati dirinya terkunci daripada apl bulan lalu apabila ciri itu gagal mengenalinya, menyebabkan dia terlepas bekerja dan pendapatan hari-hari, Laporan CNBC .



Sistem pengecaman muka Uber, Semakan ID Masa Nyata , dilancarkan pada September 2016 dan memerlukan pemandu menyerahkan swafoto sekejap-sekejap untuk mengesahkan identiti mereka. Menggunakan Perkhidmatan Kognitif Microsoft, ciri keselamatan membandingkan swafoto dengan foto pemandu yang disimpan oleh Uber dalam fail (disediakan pada masa pendaftaran pemandu dan proses pengesahan awal dengan apl) dan menggantung akaun pemandu buat sementara waktu jika foto tidak sepadan .

Itu kelihatan seperti ciri keselamatan yang baik, melainkan, seperti dalam kes Webb, anda trans dan dalam proses peralihan. CNBC melaporkan bahawa Webb mula bekerja untuk Uber pada Oktober 2017, pada masa yang sama dia mula beralih. Perubahan dalam penampilannya akhirnya menimbulkan bendera merah dalam algoritma Semakan ID Masa Nyata.



Webb memberitahu CNBC bahawa dia mengambil langkah untuk mendokumentasikan peralihannya dengan tekun dalam apl untuk mengelakkan masalah dengan ciri keselamatan dan memastikan bakal penumpang dikemas kini. Tetapi ini tidak mencukupi. Sejurus sebelum hujung minggu keempat bulan Julai yang terkenal padat lalu lintas, akaun Webb telah dibekukan, dan dia telah digesa memandu selama dua jam ke satu-satunya pusat sokongan peribadi Uber di Iowa untuk menyelesaikan isu itu. Dia didakwa diberitahu bahawa isu itu mungkin timbul lagi.



'Orang trans tidak boleh dijangka mengemas kini lesen mereka setiap tiga bulan atau lebih hanya untuk mengelak daripada dinyahaktifkan,' kata Webb kepada CNBC. Uber masih belum membalas permintaan mereka untuk mendapatkan ulasan.

Walau bagaimanapun, di luar Uber, isu Webb dengan Semakan ID Masa Nyata menyentuh kebimbangan yang semakin meningkat mengenai masa depan teknologi pengecaman muka dan algoritma komputer secara umum, yang pada umumnya tidak mengambil kira komuniti terpinggir. Google bekerjasama dengan GLAAD untuk membantu membina AI inklusif LGBTQ selepas mendapati bahawa istilah tidak berbahaya seperti saya gay secara automatik didaftarkan sebagai negatif apabila pengguna menyiarkan ke platform media sosial seperti Twitter dan Facebook.

Tahun lepas, kontroversi tercetus apabila YouTuber transgender mendapati bahawa penyelidik mengusahakan teknologi pengecaman muka telah menggunakan video mereka untuk menyediakan data untuk AI, untuk membantu mengajarnya mengenali wajah orang yang menjalani peralihan perubatan. Ini dilakukan tanpa pengetahuan atau persetujuan YouTubers.



Ramai orang dalam komuniti terpinggir kekal curiga terhadap AI dan teknologi pengecaman muka secara umum. Pada September tahun lalu, laporan oleh Universiti Stanford yang mendakwa bahawa teknologi pengecaman muka boleh mengenal pasti seseorang sebagai LGBTQ+ menyebabkan kontroversi, kedua-duanya untuk yang didakwa penemuan yang cacat dalam laporan itu, dan untuk tanggapan bahawa teknologi itu boleh digunakan untuk mengatasi golongan LGBTQ+.

Ahli akademik seperti Sherry Turkle, seorang profesor di Massachusetts Institute of Technology, berkata dalam sebuah temu bual dengan NBC OUT bahawa orang aneh adalah tepat untuk menemui teknologi pengecaman muka sedemikian dengan keraguan. Maklumat itu boleh digunakan untuk membantu kerajaan membina pendaftaran golongan LGBTQ+, satu langkah yang beberapa negara sudah melaksanakan.

'Pertama sekali, siapa yang memiliki teknologi ini, dan siapa yang mempunyai hasilnya?' Turkle berkata. 'Isunya sekarang ialah 'teknologi' ialah frasa yang benar-benar bermaksud 'komoditi.' Maksudnya, teknologi anda boleh memberitahu seksualiti saya daripada melihat wajah saya, dan anda boleh membeli dan menjual maklumat ini dengan tujuan kawalan sosial.'

Perdebatan etika mengenai teknologi ini mungkin akan terus hangat kerana ciri seperti Semakan ID Masa Nyata menjadi perkara biasa. Penggantungan akaun Webb mempunyai kesan yang ketara terhadap pendapatannya, dan dia tidak akan menjadi wanita transgender terakhir yang mengalami pengalaman sedemikian. AI berkembang pada kadar yang pantas, membina data kumulatif apabila ia berkembang, yang hanya akan menjadi lebih sukar untuk kembali dan berubah mengikut masa. Tetapi di kedua-dua belah bencana itu, nampaknya terdapat kata sepakat tentang satu perkara: Akibat bagi orang yang terpinggir harus di hadapan dan di tengah.