Pengemudi Uber Mengatakan Algoritma ‘Rasis’ Membuat Mereka Tidak Bekerja – Majalah Time.com

  • Bagikan
banner 468x60


Abiodun Ogunyemi telah menjadi pengemudi pengiriman Uber Eats sejak Februari 2020. Tapi sejak Maret dia tidak bisa bekerja karena apa serikat pekerja yang mendukung pengemudi klaim adalah algoritma yang bias rasial. Ogunyemi, yang berkulit hitam, telah mengirimkan foto dirinya untuk mengonfirmasi identitasnya di aplikasi, tetapi ketika perangkat lunak gagal mengenalinya, dia diblokir dari mengakses akunnya karena “penggunaan aplikasi Uber yang tidak semestinya.”

Ogunyemi adalah satu dari lusinan pengemudi Uber yang dilarang bekerja karena apa yang mereka katakan sebagai teknologi verifikasi wajah “rasis”. Uber menggunakan perangkat lunak Microsoft Face API pada aplikasinya untuk memverifikasi identifikasi pengemudi, meminta pengemudi untuk mengirimkan foto baru secara teratur. Menurut serikat pekerja, Serikat Pekerja Independen Britania Raya (IWGB) dan driver Uber, perangkat lunak ini mengalami kesulitan mengenali orang dengan warna kulit lebih gelap secara akurat.
[time-brightcove not-tgx=”true”]

Pada tahun 2018, versi serupa dari perangkat lunak Microsoft ditemukan gagal satu dari lima wajah wanita berkulit lebih gelap dan satu dari 17 wajah pria berkulit lebih gelap. Di London sembilan dari 10 pengemudi sewa swasta mengidentifikasi sebagai Black atau Black British, Asia atau Asia British, atau ras campuran, menurut data Transport for London. Ini menimbulkan masalah potensial bagi mereka yang bekerja untuk Uber.

Dalam email ke TIME, juru bicara Uber mengatakan bahwa perangkat lunak verifikasi wajahnya adalah “dirancang untuk melindungi keselamatan dan keamanan semua orang yang menggunakan aplikasi Uber dengan membantu memastikan pengemudi yang benar berada di belakang kemudi.” Dalam sebuah surat kepada App Drivers & Couriers Union (ADCU) pada bulan April, Microsoft menulis bahwa mereka sedang menguji perangkat lunaknya dengan fokus pada “keadilan” dan “akurasi di seluruh kelompok demografis,” menurut BBC.

Algoritma ‘rasis’

Minggu lalu sekitar 80 pengemudi dan pengunjuk rasa Uber berkumpul di luar kantor pusat aplikasi ride-hailing London di Aldgate untuk melambai-lambaikan plakat bertuliskan “Singkirkan algoritma rasis” dan “Hentikan penghentian yang tidak adil,” untuk memprotes tentang peran perangkat lunak yang secara tidak proporsional mengarah pada penghentian driver warna, di antara kekhawatiran lainnya.

Ogunyemi—yang tidak dapat menghadiri protes karena dia tinggal di Manchester—memiliki tiga anak, dan sejak Maret dia mengatakan istrinya telah bekerja penuh waktu untuk menghidupi keluarga. Meski begitu, dia telah menunggak pembayaran pinjaman dan hipotek, katanya.

KesopananPengemudi pengiriman Uber Eats Abiodun Ogunyemi mengatakan akunnya ditangguhkan setelah perangkat lunak pengenalan wajah Uber gagal memverifikasi fotonya.

Pengemudi pengiriman, yang hingga saat ini memiliki peringkat pelanggan 96%, telah mengalami kesulitan dengan perangkat lunak identifikasi wajah otomatis sebelumnya. Pengemudi diberi pilihan untuk mengirimkan foto mereka ke komputer atau karyawan Uber untuk ditinjau dan Ogunyemi sering harus menunggu verifikasi manusia tambahan setelah mengirimkan fotonya. Ketika Uber menolak fotonya pada bulan Maret, katanya, situasinya berubah menjadi “mimpi buruk.”

Setelah bandingnya atas keputusan Uber ditolak, Ogunyemi meminta untuk berbicara dengan seseorang yang lebih senior, tetapi permintaannya ditolak, katanya. Sejak saat itu IWGB menggantikan Ogunyemi, mengirimkan bukti ke Uber atas namanya. Bulan lalu, dia menerima pesan dari Uber yang mengatakan bahwa akunnya telah diaktifkan kembali dan fotonya awalnya ditolak oleh anggota staf karena “kesalahan manusia.” Namun, ketika Ogunyemi mencoba mengakses akunnya, dia diminta mengunggah foto lain untuk verifikasi. Dia segera mengirimkan foto baru, yang ditolak. Akunnya tetap diblokir.

“Setiap hari saya tidak bisa bekerja berdampak negatif pada keluarga saya,” katanya kepada TIME melalui telepon. “Anak-anak saya harus sekolah, saya harus memberi mereka uang saku. Saya harus membayar tiket bus mereka.”

Juru bicara Uber mengatakan bahwa sistemnya “mencakup tinjauan manusia yang kuat untuk memastikan bahwa algoritma ini tidak membuat keputusan tentang mata pencaharian seseorang dalam ruang hampa, tanpa pengawasan,” tetapi tidak membahas kasus Ogunyemi.

Ogunyemi mengatakan dia tahu lima pengemudi lain, semuanya berkulit hitam, yang akunnya dihentikan karena masalah identifikasi wajah. IWGB mengatakan bahwa 35 pengemudi telah melaporkan insiden serupa kepada serikat pekerja.

Masalah identitas pengemudi

Uber mulai menggunakan perangkat lunak bermasalah setelah lisensinya untuk beroperasi di London dicabut pada November 2019 di tengah masalah keamanan. Pihak berwenang menemukan bahwa lebih dari 14.000 perjalanan telah dilakukan dengan 43 pengemudi yang telah menggunakan identitas palsu. Ada 45.000 pengemudi Uber berlisensi di London pada saat itu. Setahun kemudian, Uber memenangkan banding agar lisensinya dipulihkan, tetapi berjanji untuk membasmi pengemudi yang tidak terverifikasi dengan menggunakan prosedur identifikasi wajah biasa.

Minggu lalu dilaporkan bahwa seorang pengemudi Uber Black British yang tidak disebutkan namanya membawa perusahaan itu ke pengadilan menuduh diskriminasi ras tidak langsung karena perangkat lunak pengenalan wajah mencegahnya bekerja. Menurut klaim pengemudi, dia mengirimkan dua foto dirinya, yang ditolak oleh platform. IWGB, yang mendukung klaimnya bersama Black Lives Matter UK, mengatakan akunnya kemudian dinonaktifkan dan dia menerima pesan yang mengatakan: “Tim kami melakukan penyelidikan menyeluruh dan keputusan untuk mengakhiri kemitraan telah dibuat secara permanen.” Dikatakan bahwa masalah itu “tidak dapat ditinjau lebih lanjut.” NS ADCU juga memukau aksi legal terhadap Uber atas pemecatan pengemudi dan kurir karena perangkat lunak gagal mengenali mereka.

Di Amerika, kasus serupa dibawa ke pengadilan Missouri pada 2019, diajukan di bawah hukum hak-hak sipil. Penggugat, William Fambrough, mengklaim bahwa dia dipaksa untuk meringankan foto yang dia kirimkan untuk verifikasi segera, karena dia bekerja “larut malam” untuk Uber dan perangkat lunak tidak dapat mengidentifikasi wajahnya dalam “kegelapan”. Perusahaan mengatakan foto-foto itu palsu dan akunnya ditangguhkan. Klaim Fambrough pada akhirnya tidak berhasil.

Menurut Profesor Toby Breckon, seorang insinyur dan ilmuwan komputer di Universitas Durham, Inggris, perangkat lunak pengenalan wajah dirancang untuk foto dengan pencahayaan yang baik. Dia mengatakan bahwa orang dengan warna kulit lebih terang cenderung lebih mudah dikenali oleh perangkat lunak, bahkan di lingkungan dengan penerangan yang buruk. Data tentang bias rasial dalam perangkat lunak Uber “sangat buruk”, meskipun saat ini tidak ada perangkat lunak tanpa bias rasial, kata Breckon. Tim penelitinya, yang bekerja untuk mengurangi bias rasial dalam algoritme pengenalan wajah, telah menemukan bahwa warna kulit bukan satu-satunya faktor: teknologi sama-sama berjuang untuk mengidentifikasi berbagai fitur wajah dan jenis rambut.

Baca lebih lajut: Kecerdasan Buatan Memiliki Masalah Dengan Bias Gender dan Ras. Begini Cara Mengatasinya

Pada protes di London, para pengemudi mengungkapkan kemarahan tentang pemecatan rekan-rekan mereka, yang diyakini beberapa orang sebagai gejala rasisme sistemik di dalam perusahaan. George Ibekwe, seorang pengemudi Uber yang akunnya ditangguhkan setelah seorang pelanggan mengeluh bahwa dia telah berdebat dengan pengemudi lain selama perjalanan, mengatakan kepada TIME bahwa dia percaya rasisme berperan ketika akunnya ditangguhkan tanpa penyelidikan lebih lanjut. Juru bicara Uber tidak mengomentari kasus Ibekwe.

“Saya tidak memiliki catatan kriminal dalam hidup saya,” katanya. “Ini benar-benar menghancurkan. Itu mempengaruhi saya secara pribadi, finansial, dan mental.” Tanpa penghasilan, dia mengatakan dia telah dipaksa untuk mengklaim tunjangan pengangguran.

Pengemudi lain dalam protes tersebut, yang meminta untuk tidak disebutkan namanya, mengklaim bahwa dia diberhentikan setelah seorang pelanggan mengeluh bahwa dia “menatap” mereka. Dia mengatakan “tidak ada bukti, tidak ada penyelidikan, dan tidak ada wawancara” sebelum akunnya ditangguhkan.

Juru bicara Uber tidak berkomentar tentang tuduhan ini ketika ditanya oleh TIME.

Hak pengemudi Uber

Pengemudi Uber telah lama berjuang melawan gaji yang memburuk (meskipun tarif naik) karena biaya layanan yang lebih tinggi dan kondisi kerja yang tidak aman. Pada bulan Februari, Mahkamah Agung Inggris diatur bahwa pengemudi Uber harus diperlakukan sebagai pekerja, bukan wiraswasta, yang memberi mereka hak untuk mendapatkan upah minimum dan mengambil cuti liburan berbayar. Putusan tersebut merupakan puncak dari perjuangan hukum yang berlangsung lama atas tanggung jawab perusahaan terhadap pengemudinya. Upaya serupa sedang dilakukan di negara-negara lain di seluruh dunia, termasuk Spanyol, NS Belanda, dan Afrika Selatan, sementara di California, perselisihan hukum atas hak pengemudi berbagi tumpangan sedang berlangsung.

Menurut Alex Marshall, presiden IWGB, putusan Mahkamah Agung Inggris telah membuka pintu bagi pengemudi yang menuntut Uber atas dasar bahwa perusahaan telah gagal melindungi mereka dari diskriminasi. Dia mengatakan bahwa sejak pengadilan yang menuduh diskriminasi ras tidak langsung terhadap seorang pengemudi diluncurkan, “Uber tampaknya sedikit tertinggal.”

“Kami mengirim email [about facial identification errors], dan kami mendengar keputusan dibatalkan jauh lebih cepat daripada sebelumnya,” katanya.

Hasil dari kasus pengadilan yang akan datang mungkin memiliki implikasi besar bagi proses identifikasi wajah Uber, dan dapat menjadi preseden untuk penggunaan teknologi tersebut. “Kami melihat gerakan ini berkembang,” kata Marshall. “Kami melihat sakelar daya kembali ke pengemudi dan kami akan terus berjuang.”

Ogunyemi akan mengawasi pengadilan pengemudi lain dengan cermat dan mengatakan dia sedang mempertimbangkan apakah akan mendekati seorang pengacara sendiri. “Sudah enam bulan sejak saya tidak bekerja,” katanya. “Saya telah mencoba segala kemungkinan secara manusiawi untuk bernalar dengan Uber. Saya tidak akan duduk-duduk lagi menunggu mereka.”

Sumber Berita





Source link

  • Bagikan