Etika Pengenalan Wajah: Masalah dan Solusi Utama

Pengenalan wajah dianggap sebagai salah satu keajaiban teknologi yang menarik.

Memang benar, karena dapat mengenali wajah manusia dari foto, video, atau secara real time. Sistem pengenalan gambar telah berkembang jauh dari awal hingga diadopsi dalam penegakan hukum dan digunakan secara luas di perangkat konsumen dalam hal akurasi, kecepatan, dan algoritme.

Mengingat banyak kontroversi seputar etika pengenalan wajah, seperti penipuan identitas dan masalah pelanggaran privasi yang disuarakan oleh kritikus dan pendukung privasi, kami disambut dengan pertanyaan jutaan dolar: Apakah pengenalan wajah memerlukan perhitungan etis untuk membuatnya lebih adil dan berdampak?

Apa masalah etika menggunakan teknologi pengenalan wajah?

Dalam beberapa tahun terakhir, para kritikus mempertanyakan akurasi dan peran sistem pengenalan wajah dalam penipuan identitas. Lembaga penegak hukum secara keliru melibatkan orang yang tidak bersalah dalam kerusuhan dalam beberapa kasus. Selain itu, manajemen dan penyimpanan identitas tetap dipertanyakan bagi banyak orang, menghantui para pendukung privasi di seluruh dunia. Tampaknya rumit, bukan?

Sumber: AMA Journal of Ethics

Enam masalah etika teratas yang terkait dengan sistem pengenalan wajah termasuk bias rasial dan informasi yang salah, diskriminasi rasial dalam penegakan hukum, privasi, kurangnya persetujuan dan transparansi, pengawasan massal, pelanggaran data, dan dukungan hukum yang tidak efisien. Mari kita periksa masing-masing secara rinci.

1. Bias rasial karena ketidakakuratan pengujian

Bias rasial tetap menjadi salah satu perhatian utama sistem pengenalan wajah. Meskipun algoritma pengenalan wajah memastikan akurasi klasifikasi lebih dari 90%, hasil ini tidak universal.

Perkembangan mengkhawatirkan yang menantang etika pengenalan wajah telah muncul berulang kali di masa lalu. Lebih dari setengah orang dewasa Amerika, atau hampir 117 juta orang, memiliki foto di jaringan pengenalan wajah penegak hukum. Namun, sangat mengganggu bahwa kesalahan yang terdeteksi dalam sistem pengenalan wajah lebih sering terjadi pada wajah berkulit gelap, tetapi lebih sedikit kesalahan saat mencocokkan wajah berkulit terang.

Pada Juli 2020, Institut Standar dan Teknologi Nasional (NIST) melakukan penilaian independen untuk mengonfirmasi hasil ini. Dilaporkan bahwa teknologi pengenalan wajah untuk 189 algoritma menunjukkan bias rasial terhadap wanita kulit berwarna. NIST juga menyimpulkan bahwa bahkan algoritma pengenalan wajah terbaik yang dipelajari tidak dapat dengan benar mengidentifikasi orang yang memakai topeng hampir 50% dari waktu.

2. Diskriminasi rasial dalam penegakan hukum

Dalam sebuah pengungkapan baru-baru ini, pemerintah Federal Amerika Serikat merilis sebuah laporan yang mengkonfirmasi masalah diskriminasi dalam algoritme pengenalan wajahnya. Sistemnya biasanya bekerja secara efektif untuk wajah pria kulit putih setengah baya tetapi buruk untuk orang kulit berwarna, orang tua, wanita, dan anak-anak. Algoritme yang bias rasial dan rawan kesalahan ini dapat mendatangkan malapetaka, termasuk penangkapan yang salah, penahanan yang lama, dan bahkan kekerasan polisi yang mematikan.

Lembaga penegak hukum seperti Polisi Capitol Amerika Serikat mengandalkan database mugshot untuk mengidentifikasi individu yang menggunakan algoritma pengenalan wajah. Hal ini mengarah ke loop feed-forward, di mana strategi kepolisian rasis menghasilkan penangkapan yang tidak proporsional dan tidak bersalah.

Secara keseluruhan, data pengenalan wajah tidak sempurna. Hal ini dapat mengakibatkan hukuman untuk kejahatan yang tidak dilakukan. Misalnya, sedikit perubahan pada sudut atau tampilan kamera, seperti gaya rambut baru, dapat menyebabkan kesalahan.

3. Privasi data

Privasi adalah salah satu perhatian masyarakat umum, terutama karena kurangnya transparansi dalam bagaimana informasi disimpan dan dikelola. Pengenalan wajah melanggar hak bawaan warga negara untuk berada di bawah pengawasan pemerintah secara konstan dan menyimpan gambar mereka tanpa persetujuan.

Pada tahun 2020, Komisi Eropa melarang teknologi pengenalan wajah di ruang publik hingga lima tahun untuk membuat perubahan pada kerangka hukum mereka dan memasukkan pedoman tentang privasi dan penyalahgunaan etika.

Masalah privasi seputar pengenalan wajah berhubungan dengan praktik penyimpanan data tanpa jaminan yang dapat mengekspos data pengenalan wajah dan potensi ancaman keamanan lainnya. Sebagian besar organisasi terus meng-host data wajah mereka di server lokal, yang mengarah ke kerentanan keamanan dan kurangnya profesional keamanan TI untuk memastikan keamanan jaringan.

Teknologi pengenalan wajah dapat memastikan keamanan data maksimum saat dihosting di cloud. Namun, integritas data hanya dapat dijamin melalui enkripsi yang tepat. Menyebarkan personel keamanan siber TI sangat penting untuk penyimpanan data yang tepat sambil memberikan kontrol konsumen untuk meningkatkan akuntabilitas dan mencegah lalu lintas berbahaya.

Sisi baiknya, produk konsumen yang dilengkapi dengan teknologi pengenalan wajah tidak terlalu kontroversial, diberikan opsi untuk menonaktifkan atau tidak menggunakan fitur tersebut. Namun, perusahaan barang konsumen masih menjadi korban larangan karena erosi privasi. Namun mereka terus menawarkan produk wajah yang sarat teknologi dengan memasarkannya sebagai fitur keamanan tingkat lanjut.

Tekad untuk menempuh jalur hukum terbuka untuk perangkat yang memungkinkan korban mencari kompensasi finansial atas pelanggaran privasi. Misalnya, raksasa media sosial Facebook menyelesaikan gugatan class action senilai $650 juta di Illinois karena mengumpulkan foto yang tidak tersedia untuk umum untuk pengenalan wajah.

Namun, privasi masih menjadi masalah bagi lembaga penegak hukum yang menggunakan teknologi pengenalan wajah untuk memantau, memindai, dan melacak warga tanpa sepengetahuan mereka demi keselamatan dan keamanan publik. Ini telah memicu banyak protes yang menyerukan peraturan yang lebih ketat untuk memberi warga lebih banyak kontrol atas partisipasi dan transparansi seputar penyimpanan dan tata kelola.

4. Kurangnya persetujuan dan transparansi

Privasi adalah masalah dengan segala bentuk penambangan data, terutama online, di mana sebagian besar informasi yang dikumpulkan dianonimkan. Algoritme pengenalan wajah bekerja lebih baik saat diuji dan dilatih pada kumpulan data gambar yang besar, idealnya diambil beberapa kali dalam kondisi dan sudut pencahayaan yang berbeda.

Sumber gambar terbesar adalah situs online, terutama gambar Flickr publik, yang diunggah di bawah lisensi hak cipta yang memungkinkan penggunaan kembali secara bebas dan terkadang platform media sosial yang tidak sah.

Para ilmuwan di Microsoft Research yang berbasis di Washington mengumpulkan kumpulan data terbesar di dunia, MSCeleb5, yang berisi hampir 10 juta gambar dari 100.000 orang, termasuk musisi, jurnalis, dan akademisi, yang diambil dari internet.

Pada tahun 2019, situs web seniman Adam Harvey yang berbasis di Berlin bernama MegaPixels menandai ini dan kumpulan data lainnya. Bersama teknolog dan programmer, Jules LaPlace, ia menunjukkan bahwa sebagian besar pengunggah telah membagikan foto mereka secara terbuka. Tapi mereka disalahgunakan untuk mengevaluasi dan meningkatkan produk pengawasan komersial.

5. Pengawasan massal

Ketika digunakan bersama kamera dan analitik data di mana-mana, pengenalan wajah mengarah pada pengawasan massal yang dapat membahayakan kebebasan dan hak privasi warga negara. Sementara teknologi pengenalan wajah membantu pemerintah dengan penegakan hukum dengan melacak penjahat, itu juga membahayakan hak privasi dasar orang biasa dan tidak bersalah.

Baru-baru ini, Komisi Eropa menerima surat terbuka dari 51 organisasi yang menyerukan larangan menyeluruh pada semua alat pengenalan wajah untuk pengawasan massal. Dalam pergantian peristiwa lainnya, lebih dari 43.000 warga Eropa menandatangani petisi Reclaim Your Face yang menyerukan larangan praktik pengawasan massal biometrik di UE.

Serentetan peristiwa baru-baru ini telah menantang etika teknologi pengenalan wajah karena penggunaan kecerdasan buatan (AI) yang tidak terkendali untuk memanipulasi dan mengancam orang, lembaga pemerintah, dan demokrasi kolektif.

AI dan pembelajaran mesin (ML) adalah teknologi yang mengganggu yang dapat memanfaatkan teknologi pengenalan wajah yang aman. Sangat penting untuk menarik garis merah sebelum disalahgunakan untuk pencurian identitas dan penipuan.

6. Pelanggaran data dan dukungan hukum yang tidak efektif

Pelanggaran data dapat menimbulkan masalah privasi yang serius bagi publik dan pemerintah.

Sementara pelanggaran keamanan menjadi perhatian utama warga, perkembangan teknologi ini telah membawa kemajuan dalam keamanan siber dan peningkatan penggunaan penyimpanan berbasis cloud. Dengan lapisan keamanan tambahan seperti enkripsi, data yang disimpan di cloud dapat dilindungi dari penggunaan yang berbahaya.

Pada konferensi peretas Black Hat tahunan yang diselenggarakan oleh peneliti keamanan di Las Vegas, peretas memecahkan otentikasi pengguna iPhone FaceID Apple hanya dalam 120 detik.

Peristiwa semacam itu meningkatkan kerentanan data yang disimpan terhadap peretas, yang pada akhirnya meningkatkan kemungkinan pencurian ID Wajah dalam kejahatan serius. Korban pencurian wajah memiliki pilihan hukum yang relatif lebih sedikit untuk dikejar.

Peraturan Perlindungan Data Umum (GDPR) UE tidak memberikan dasar hukum kepada peneliti untuk mengumpulkan foto wajah orang untuk penelitian biometrik tanpa persetujuan mereka. Amerika Serikat memiliki undang-undang yang berbeda mengenai penggunaan informasi biometrik individu tanpa persetujuan mereka.

Cara menggunakan alat pengenalan wajah secara etis

Pengguna pengenalan wajah dapat mengadopsi prinsip-prinsip berikut yang diusulkan oleh American Civil Liberties Union (ACLU) untuk memastikan penggunaan teknologi ini secara etis:

• Pengumpulan: Institusi harus mendapatkan informasi, persetujuan tertulis dari warga sebelum memasukkan data biometrik mereka ke dalam basis data pengenalan wajah.
• Penggunaan: Pengguna harus menahan diri untuk tidak menggunakan sistem pengenalan wajah untuk menentukan warna kulit, ras, agama, asal negara, jenis kelamin, usia, atau kecacatan seseorang.
• Pengungkapan: Hasil dari sistem pengenalan wajah tidak boleh diperdagangkan atau dibagikan tanpa persetujuan tertulis yang diinformasikan dari subjek data.
• Akses: Warga negara harus memiliki hak untuk mengakses, mengedit, dan menghapus informasi wajah mereka, bersama dengan catatan perubahan apa pun yang dilakukan pada data.
• Penyalahgunaan: Organisasi yang menampung catatan yang tersedia untuk umum terkait dengan identitas individu harus mengambil tindakan proaktif dan kontrol yang tepat untuk mencegah penyalahgunaannya membangun basis data cetak wajah. Beberapa tindakan termasuk membatasi akses otomatis ke database sensitif dan secara kontrak mengharuskan mitra untuk mematuhi pedoman penggunaan etis.
• Keamanan: Organisasi harus memiliki profesional keamanan khusus untuk menampung, mengelola, dan mengamankan informasi pengenalan wajah.
• Akuntabilitas: Pengguna akhir harus mempertahankan jejak audit yang mencakup pengumpulan informasi, penggunaan, dan detail pengungkapan bersama dengan cap tanggal dan waktu serta detail pengguna yang meminta informasi.
• Akses pemerintah: Organisasi dapat memberikan akses kepada pemerintah ke informasi rahasia di bawah Undang-Undang Perlindungan Data 1974 atau setelah menerima surat perintah kemungkinan penyebab.
• Transparansi: Organisasi harus menetapkan kebijakan untuk kepatuhan dan penggunaan data sambil menawarkan langkah-langkah teknis yang diperlukan untuk memverifikasi akuntabilitas.

Contoh penggunaan etis teknologi pengenalan wajah

Teknologi pengenalan wajah merupakan inti dari sebagian besar perusahaan teknologi yang berfokus pada keselamatan pelanggan sekaligus melindungi sistem mereka dari potensi ancaman keamanan. Mari kita periksa tiga contoh perusahaan yang menggunakan pengenalan wajah secara etis.

IBM

Raksasa teknologi IBM memberlakukan pembatasan besar-besaran pada penjualan teknologi pengenalan wajah untuk peraturan federal di Amerika Serikat. Selain itu, IBM mengusulkan rekomendasi khusus kepada Departemen Perdagangan AS untuk memberlakukan pembatasan yang lebih ketat pada ekspor sistem pengenalan wajah dalam beberapa kasus.

Ini juga mendorong regulasi presisi, sebuah langkah untuk memberlakukan pembatasan yang lebih ketat pada penggunaan akhir dan pengguna yang dapat menyebabkan kerugian sosial yang signifikan. Itu juga mengusulkan enam perubahan dalam cara kerja teknologi pengenalan wajah untuk menemukan kecocokan, termasuk:

• Membatasi teknologi pengenalan wajah yang menggunakan penggunaan akhir pencocokan "1-ke-banyak" untuk pengawasan massal, profil rasial, dan area sensitif lainnya yang dapat melanggar hak asasi manusia
• Membatasi ekspor sistem "1-ke-banyak" dengan mengontrol ekspor kamera resolusi tinggi dan algoritme yang digunakan untuk mengumpulkan dan menganalisis data terhadap database
• Memaksakan pembatasan pada pemerintah asing tertentu dalam pengadaan komponen komputasi awan skala besar untuk sistem pengenalan wajah terintegrasi.
• Membatasi akses ke database gambar online yang dapat digunakan untuk melatih sistem pengenalan wajah 1-ke-banyak
• Memperbarui catatan hak asasi manusia terbaru dari kelompok memerangi kejahatan Departemen Perdagangan dan menerapkan kontrol ketat atas ekspor teknologi pengenalan wajah yang mendukung sistem pencocokan "1-ke-banyak"
• Akhirnya, membatasi kemampuan rezim represif untuk mendapatkan teknologi terkendali di luar perbatasan AS melalui mekanisme seperti Kesepakatan Wassenaar

Microsoft

Microsoft telah menetapkan beberapa prinsip untuk mengatasi masalah etika sistem pengenalan wajah. Ini telah merilis sumber daya pelatihan dan materi baru untuk membantu pelanggannya menjadi lebih sadar akan penggunaan etis dari teknologi ini.

Selain bekerja sama dengan pelanggannya, Microsoft bekerja keras untuk meningkatkan kemampuan teknologi untuk mengenali wajah di berbagai usia dan warna kulit. Teknologi pengenalan wajah Microsoft baru-baru ini dievaluasi oleh NIST, yang melaporkan bahwa algoritmenya dinilai sebagai yang paling akurat atau mendekati paling akurat dalam 127 tes.

Microsoft mendorong undang-undang baru untuk menangani transparansi dan pengujian dan perbandingan pihak ketiga. Untuk mendorong transparansi, Microsoft mengusulkan agar perusahaan teknologi menyediakan layanan dokumentasi dan pengenalan wajah untuk menggambarkan kemampuan dan keterbatasan teknologi.

Ini juga menyoroti perlunya undang-undang untuk mempekerjakan penyedia pihak ketiga untuk secara independen menguji penyedia layanan pengenalan wajah komersial dan mempublikasikan hasilnya untuk mengatasi masalah yang terkait dengan bias dan diskriminasi.

Amazon

Pada tahun 2020, Amazon memberlakukan moratorium satu tahun atas penggunaan teknologi pengenalan wajah oleh penegak hukum "Amazon Rekognition". Selain itu, Amazon telah memvalidasi penggunaannya dalam skenario keselamatan publik dan penegakan hukum untuk mempersempit potensi kecocokan.

Amazon juga telah mengajukan paten untuk meneliti lapisan otentikasi tambahan untuk memastikan keamanan maksimum. Beberapa di antaranya termasuk meminta pengguna untuk melakukan tindakan seperti tersenyum, berkedip, atau memiringkan kepala.

Apakah pengenalan wajah invasif?

Masalah utama dan kegagalan teknologi pengenalan wajah berasal dari kurangnya kemajuan, keragaman dalam kumpulan data, dan penanganan sistem yang tidak efisien. Namun, mengadopsi beberapa prinsip etika dapat menghindari membuatnya invasif.

Hilangkan ketidakberpihakan dalam pengenalan wajah untuk mencegah atau meminimalkan bias dengan memperbaiki kesalahan dalam aplikasi penegakan hukum, memberikan transparansi tentang cara kerja kecerdasan buatan secara internal, menegakkan akuntabilitas pemangku kepentingan, memantau dengan persetujuan dan pemberitahuan sebelumnya, dan memberlakukan undang-undang yang lebih ketat untuk menghindari pelanggaran hak asasi manusia.

Teknologi pengenalan wajah memiliki potensi tak terbatas untuk berbagai aplikasi dalam kebutuhan dunia nyata. Namun, mengatasi masalah etika teknologi ini sangat penting untuk menjadikannya anugerah bagi umat manusia.

Apa yang harus dilakukan jika terjadi insiden keamanan? Tangani dan kelola dengan respons insiden untuk membatasi kerusakan dan menghemat waktu dan uang.