Yüz Tanıma Etiği: Temel Sorunlar ve Çözümler

Yüz tanıma, büyüleyici teknolojik harikalardan biri olarak kabul edilir.

Haklı olarak, çünkü bir fotoğraftan, videodan veya gerçek zamanlı olarak bir insan yüzünü tanıyabilir. Görüntü tanıma sistemleri, başlangıcından kolluk kuvvetlerinde benimsenene ve tüketici cihazlarında doğruluk, hız ve algoritmalar açısından yaygın kullanıma kadar uzun bir yol kat etti.

Kimlik sahtekarlığı ve mahremiyet eleştirmenleri ve savunucuları tarafından dile getirilen mahremiyet ihlali endişeleri gibi yüz tanıma etiğini çevreleyen birçok tartışma göz önüne alındığında, milyon dolarlık bir soru ile karşılaşıyoruz: Yüz tanımanın daha adil ve daha adil olması için etik bir hesaba ihtiyacı var mı? etkili?

Yüz tanıma teknolojisini kullanmanın etik sorunları nelerdir?

Son yıllarda eleştirmenler, yüz tanıma sistemlerinin doğruluğunu ve kimlik sahtekarlığındaki rolünü sorguladı. Kolluk kuvvetleri bazı durumlarda yanlışlıkla masum insanları ayaklanmalara bulaştırdı. Ek olarak, kimlik yönetimi ve depolama, dünya çapında pek çok, musallat gizlilik savunucusu için şüpheli olmaya devam ediyor. Karmaşık görünüyor, değil mi?

Kaynak: AMA Etik Dergisi

Yüz tanıma sistemleriyle ilgili en önemli altı etik kaygı, ırksal önyargı ve yanlış bilgilendirme, kolluk kuvvetlerinde ırk ayrımcılığı, mahremiyet, bilgilendirilmiş onay ve şeffaflık eksikliği, toplu gözetim, veri ihlalleri ve verimsiz yasal destektir. Her birini ayrıntılı olarak inceleyelim.

1. Test hataları nedeniyle ırksal önyargı

Irk önyargısı, yüz tanıma sistemlerinin temel endişelerinden biri olmaya devam ediyor. Yüz tanıma algoritmaları %90'ın üzerinde sınıflandırma doğruluğu sağlasa da, bu sonuçlar evrensel değildir.

Yüz tanıma etiğine meydan okuyan endişe verici gelişmeler, yakın geçmişte tekrar tekrar ortaya çıktı. Amerikalı yetişkinlerin yarısından fazlasının veya yaklaşık 117 milyon insanın, kolluk kuvvetlerinin yüz tanıma ağında fotoğrafları var. Ancak, yüz tanıma sisteminde tespit edilen hataların koyu tenli yüzlerde daha yaygın olması, ancak açık tenli yüzleri eşleştirirken daha az hata olması rahatsız edici.

Temmuz 2020'de Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bu sonuçları doğrulamak için bağımsız değerlendirmeler yaptı. 189 algoritma için yüz tanıma teknolojilerinin, beyaz olmayan kadınlara karşı ırksal önyargı gösterdiğini bildirdi. NIST ayrıca, incelenen en iyi yüz tanıma algoritmalarının bile, maske takan bir kişiyi zamanın yaklaşık %50'sinde doğru bir şekilde tanımlayamadığı sonucuna varmıştır.

2. Kolluk kuvvetlerinde ırk ayrımcılığı

Yakın tarihli bir vahiyde, Amerika Birleşik Devletleri Federal hükümeti, yüz tanıma algoritmalarındaki ayrımcılık sorunlarını doğrulayan bir rapor yayınladı. Sistemi genellikle orta yaşlı beyaz erkeklerin yüzleri için etkili bir şekilde çalıştı, ancak beyaz olmayan insanlar, yaşlılar, kadınlar ve çocuklar için zayıftı. Bu ırkçı önyargılı, hataya açık algoritmalar, haksız tutuklamalar, uzun hapis cezaları ve hatta ölümcül polis şiddeti dahil olmak üzere ortalığı kasıp kavurabilir.

Amerika Birleşik Devletleri Capitol Police gibi kolluk kuvvetleri, yüz tanıma algoritmalarını kullanan kişileri tanımlamak için mugshot veritabanlarına güvenir. Bu, ırkçı polislik stratejilerinin orantısız ve masum tutuklamalarla sonuçlandığı bir ileri besleme döngüsüne yol açar.

Genel olarak, yüz tanıma verileri kusurludur. İşlenmemiş suçlar için cezalara neden olabilir. Örneğin, yeni bir saç modeli gibi kamera açısında veya görünümünde küçük bir değişiklik hatalara yol açabilir.

3. Veri gizliliği

Gizlilik, temel olarak bilgilerin nasıl saklandığı ve yönetildiğine ilişkin şeffaflık eksikliğinden dolayı genel halk endişelerinden biridir. Yüz tanıma, vatandaşların sürekli devlet gözetimi altında olma ve görüntülerini rızası olmadan saklama hakkını ihlal eder.

2020'de Avrupa Komisyonu, yasal çerçevelerinde değişiklik yapmak ve mahremiyet ve etik kötüye kullanımla ilgili yönergeler eklemek için kamusal alanlarda yüz tanıma teknolojisini beş yıla kadar yasakladı.

Yüz tanımayla ilgili gizlilik endişeleri, yüz tanıma verilerini ve diğer olası güvenlik tehditlerini açığa çıkarabilecek güvenli olmayan veri depolama uygulamalarıyla ilgilidir. Çoğu kuruluş, yüz verilerini yerel sunucularda barındırmaya devam ederek, güvenlik açıklarına ve ağ güvenliğini sağlamak için BT güvenlik uzmanlarının eksikliğine yol açar.

Yüz tanıma teknolojileri, bulutta barındırıldığında maksimum veri güvenliği sağlayabilir. Ancak, veri bütünlüğü yalnızca uygun şifreleme ile garanti edilebilir. Hesap verebilirliği artırmak ve kötü niyetli trafiği önlemek için tüketici kontrolü sağlarken, uygun veri depolama için BT siber güvenlik personelinin görevlendirilmesi esastır.

İşin daha iyi yanı, özelliği devre dışı bırakma veya kullanmama seçeneği göz önüne alındığında, yüz tanıma teknolojileriyle donatılmış tüketici ürünleri daha az tartışmalı. Bununla birlikte, tüketim malları şirketleri, mahremiyet erozyonu nedeniyle hala yasakların mağduru. Ancak yüz teknolojisi yüklü ürünleri gelişmiş bir güvenlik özelliği olarak pazarlayarak sunmaya devam ediyorlar.

Yasal yoldan gitme kararlılığı, mağdurun mahremiyet ihlali için maddi tazminat talep etmesine izin veren cihazlara açıktır. Örneğin, sosyal medya devi Facebook, yüz tanıma için halka açık olmayan fotoğrafları toplamak için Illinois'de 650 milyon dolarlık bir toplu dava açtı.

Bununla birlikte, gizlilik, kamu güvenliği ve güvenliği için vatandaşları bilgisi olmadan izlemek, taramak ve izlemek için yüz tanıma teknolojisini kullanan kolluk kuvvetleri için hala bir sorundur. Bu, vatandaşlara katılım üzerinde daha fazla kontrol ve depolama ve yönetişim konusunda şeffaflık sağlamak için daha katı düzenlemeler talep eden çok sayıda protestoya yol açtı.

4. Bilgilendirilmiş onay ve şeffaflık eksikliği

Gizlilik, özellikle toplanan bilgilerin çoğunun anonimleştirildiği çevrimiçi olmak üzere, herhangi bir veri madenciliği biçimiyle ilgili bir sorundur. Yüz tanıma algoritmaları, ideal olarak farklı aydınlatma koşulları ve açıları altında birden çok kez yakalanan büyük görüntü veri kümeleri üzerinde test edildiğinde ve eğitildiğinde daha iyi çalışır.

En büyük görsel kaynakları, çevrimiçi siteler, özellikle de telif hakkı lisansları altında yüklenen, liberal yeniden kullanıma ve bazen gayri meşru sosyal medya platformlarına izin veren halka açık Flickr görüntüleridir.

Washington merkezli Microsoft Research'teki bilim adamları, müzisyenler, gazeteciler ve akademisyenler de dahil olmak üzere 100.000 kişinin yaklaşık 10 milyon görüntüsünü içeren, dünyanın en büyük veri kümesi olan MSCeleb5'i bir araya getirdi ve internetten kazındı.

2019 yılında Berlin merkezli sanatçı Adam Harvey'in MegaPixels adlı web sitesi bu ve diğer veri kümelerini işaretledi. Bir teknoloji uzmanı ve programcı olan Jules LaPlace ile birlikte çoğu yükleyicinin fotoğraflarını açıkça paylaştığını gösterdi. Ancak ticari gözetim ürünlerini değerlendirmek ve geliştirmek için kötüye kullanılıyorlardı.

5. Kitle gözetimi

Her yerde bulunan kameralar ve veri analitiği ile birlikte kullanıldığında, yüz tanıma, vatandaşların özgürlük ve mahremiyet haklarını tehlikeye atabilecek kitlesel gözetime yol açar. Yüz tanıma teknolojisi, suçluların izini sürerek hükümetlere kolluk kuvvetleri konusunda yardımcı olurken, aynı zamanda sıradan ve masum insanların temel gizlilik haklarından da ödün veriyor.

Son zamanlarda, Avrupa Komisyonu 51 kuruluştan toplu gözetleme için tüm yüz tanıma araçlarının genel olarak yasaklanması çağrısında bulunan bir açık mektup aldı. Başka bir olayda, 43.000'den fazla Avrupa vatandaşı, AB'deki biyometrik kitlesel gözetim uygulamalarının yasaklanması için çağrıda bulunan Yüzünüzü Geri Alın dilekçesini imzaladı.

Son zamanlarda yaşanan olaylar, insanları, devlet kurumlarını ve kolektif demokrasiyi manipüle etmek ve tehdit etmek için yapay zekanın (AI) asi kullanımı nedeniyle yüz tanıma teknolojisinin etiğine meydan okudu.

Yapay zeka ve makine öğrenimi (ML), güvenli yüz tanıma teknolojilerinden yararlanabilen yıkıcı teknolojilerdir. Kimlik hırsızlığı ve dolandırıcılık için kötüye kullanılmadan önce kırmızı çizgiler çizmek önemlidir.

6. Veri ihlalleri ve etkisiz hukuki destek

Veri ihlalleri hem halk hem de hükümet için ciddi gizlilik endişeleri doğurabilir.

Güvenlik ihlalleri vatandaşlar için büyük bir endişe olsa da, bu teknolojinin gelişimi siber güvenlikte ilerlemelere ve bulut tabanlı depolama kullanımının artmasına neden oldu. Şifreleme gibi ek güvenlik katmanıyla, bulutta depolanan veriler kötü amaçlı kullanımdan korunabilir.

Las Vegas'ta güvenlik araştırmacıları tarafından her yıl düzenlenen Black Hat hacker konferansında hackerlar, Apple'ın iPhone FaceID kullanıcı kimlik doğrulamasını sadece 120 saniyede kırdı.

Bu tür olaylar, depolanan verilerin bilgisayar korsanlarına karşı savunmasızlığını artırır ve bu da sonunda ciddi suçlarda Face ID hırsızlığı olasılığını artırır. Yüz hırsızlığı mağdurlarının takip etmek için nispeten daha az yasal seçeneği vardır.

AB Genel Veri Koruma Yönetmeliği (GDPR), araştırmacılara, biyometrik araştırmalar için insanların yüzlerinin fotoğraflarını rızaları olmadan toplamaları için yasal bir temel sağlamaz. Amerika Birleşik Devletleri, bir bireyin biyometrik bilgilerini rızası olmadan kullanma konusunda farklı yasalara sahiptir.

Yüz tanıma araçları etik olarak nasıl kullanılır?

Yüz tanıma kullanıcıları, bu teknolojinin etik kullanımını sağlamak için Amerikan Sivil Özgürlükler Birliği (ACLU) tarafından önerilen aşağıdaki ilkeleri benimseyebilirler:

• Toplama: Kurumlar, biyometrik verilerini yüz tanıma veri tabanına eklemeden önce vatandaşlardan bilgilendirilmiş, yazılı izin almalıdır.
• Kullanım: Kullanıcılar, bir kişinin ten rengini, ırkını, dinini, ulusal kökenini, cinsiyetini, yaşını veya engelini belirlemek için yüz tanıma sistemlerini kullanmaktan kaçınmalıdır.
• İfşa: Bir yüz tanıma sisteminin sonuçları, veri sahibinin bilgilendirilmiş, yazılı rızası olmadan takas edilmemeli veya paylaşılmamalıdır.
• Erişim: Vatandaşlar, verilerde yapılan herhangi bir değişikliğin kayıtları ile birlikte yüz bilgilerine erişme, düzenleme ve silme hakkına sahip olmalıdır.
• Kötüye Kullanım: Bir bireyin kimliğiyle ilgili kamuya açık kayıtları barındıran kuruluşlar, kötüye kullanımlarının bir yüz izi veritabanı oluşturmasını önlemek için proaktif önlemler ve uygun kontroller almalıdır. Bazı önlemler, hassas veritabanlarına otomatik erişimin kısıtlanmasını ve ortakların etik kullanım yönergelerine uymasını sözleşmeyle şart koşmayı içerir.
• Güvenlik: Kuruluşlar, yüz tanıma bilgilerini barındırmak, yönetmek ve güvenceye almak için özel güvenlik uzmanlarına sahip olmalıdır.
• Hesap Verebilirlik: Son kullanıcılar, bilgi toplama, kullanma ve açıklama ayrıntılarının yanı sıra tarih ve saat damgalarını ve bilgileri talep eden kullanıcıların ayrıntılarını içeren bir denetim izi tutmalıdır.
• Devlet erişimi: Kuruluşlar, 1974 tarihli Veri Koruma Yasası uyarınca veya olası bir neden emrinin alınması üzerine hükümete gizli bilgilere erişim izni verebilir.
• Şeffaflık: Kuruluşlar, hesap verebilirliği doğrulamak için gerekli teknik önlemleri sunarken verilerin uyumluluğu ve kullanımı için politikalar tanımlamalıdır.

Yüz tanıma teknolojisinin etik kullanımına ilişkin örnekler

Yüz tanıma teknolojisi, sistemlerini potansiyel güvenlik tehditlerinden korurken müşteri güvenliğine odaklanan çoğu teknoloji şirketinin kalbinde yer alır. Yüz tanımayı etik olarak kullanan bu tür üç şirket örneğini inceleyelim.

IBM

Teknoloji devi IBM, Amerika Birleşik Devletleri'ndeki federal düzenleme için yüz tanıma teknolojisi satışlarına kapsamlı kısıtlamalar getirdi. Ayrıca IBM, bazı durumlarda yüz tanıma sistemlerinin ihracatına daha katı kısıtlamalar getirmek için ABD Ticaret Bakanlığı'na özel önerilerde bulundu.

Aynı zamanda, son kullanımlar ve kullanıcılar üzerinde önemli toplumsal zarara neden olabilecek daha katı kısıtlamalar getirme hareketi olan hassas düzenlemeyi de zorladı. Ayrıca, yüz tanıma teknolojilerinin eşleşmeleri bulmak için nasıl çalıştığına dair altı değişiklik önerdi:

• Kitlesel gözetim, ırksal profil oluşturma ve insan haklarını ihlal edebilecek diğer hassas alanlar için "1'den çoğa" eşleşen son kullanımları kullanan yüz tanıma teknolojilerini kısıtlamak
• Hem yüksek çözünürlüklü kameraların hem de bir veritabanına karşı veri toplamak ve analiz etmek için kullanılan algoritmaların dışa aktarımını kontrol ederek "1'den çoğa" sistemlerin dışa aktarımını sınırlama
• Entegre yüz tanıma sistemleri için büyük ölçekli bulut bilişim bileşenleri tedarik eden bazı yabancı hükümetlere kısıtlamalar getirilmesi.
• 1'den çoğa yüz tanıma sistemlerini eğitmek için kullanılabilecek çevrimiçi görüntü veritabanlarına erişimi kısıtlamak
• Ticaret Bakanlığı'nın suçla mücadele gruplarının en son insan hakları kayıtlarını güncellemek ve "1'den çoğa" eşleştirme sistemlerini destekleyen yüz tanıma teknolojilerinin ihracatı üzerinde en katı denetimi uygulamak
• Son olarak, Wassenaar Anlaşmaları gibi mekanizmalar yoluyla baskıcı rejimlerin ABD sınırlarının ötesinde kontrollü teknolojiler tedarik etme kabiliyetini sınırlamak

Microsoft

Microsoft, yüz tanıma sistemlerinin etik sorunlarını ele almak için çeşitli ilkeler belirlemiştir. Müşterilerinin bu teknolojinin etik kullanımı konusunda daha bilinçli olmalarına yardımcı olmak için eğitim kaynakları ve yeni materyaller yayınladı.

Microsoft, müşterileriyle yakın çalışmaya ek olarak, teknolojinin çok çeşitli yaş ve ten rengindeki yüzleri tanıma yeteneğini geliştirmek için çok çalışıyor. Microsoft'un yüz tanıma teknolojileri yakın zamanda NIST tarafından değerlendirildi ve algoritmalarının 127 testte en doğru veya en doğruya yakın olarak derecelendirildiğini bildirdi.

Microsoft, şeffaflığı ve üçüncü taraf testlerini ve karşılaştırmasını ele alan yeni yasalar için bastırıyor. Şeffaflığı teşvik etmek için Microsoft, teknoloji şirketlerinin teknolojinin yeteneklerini ve sınırlamalarını tanımlamak için belgeler ve yüz tanıma hizmetleri sağlamasını önermektedir.

Ayrıca, ticari yüz tanıma hizmeti sağlayıcılarını bağımsız olarak test etmek ve önyargı ve ayrımcılıkla ilgili sorunları ele almak için sonuçlarını yayınlamak için üçüncü taraf sağlayıcıları işe almak için mevzuat ihtiyacının altını çizdi.

Amazon

2020'de Amazon, kolluk kuvvetlerinin yüz tanıma teknolojisi “Amazon Rekognition”ı kullanmasına bir yıllık moratoryum uyguladı. Ayrıca Amazon, olası eşleşmeleri daraltmak için kamu güvenliği ve kanun uygulama senaryolarında kullanımını doğrulamıştır.

Amazon ayrıca maksimum güvenlik sağlamak için ek kimlik doğrulama katmanlarını araştırmak için bir patent başvurusunda bulundu. Bunlardan bazıları, kullanıcılardan gülümseme, göz kırpma veya başlarını eğme gibi eylemleri gerçekleştirmelerini istemeyi içerir.

Yüz tanıma invaziv mi?

Yüz tanıma teknolojisinin temel sorunları ve başarısızlıkları, ilerleme eksikliğinden, veri kümelerindeki çeşitlilikten ve verimsiz sistem yönetiminden kaynaklanmaktadır. Bununla birlikte, bazı etik ilkeleri benimsemek, onu istilacı yapmaktan kaçınabilir.

Kolluk uygulamalarındaki aksaklıkları düzelterek, yapay zekanın dahili olarak nasıl çalıştığına dair şeffaflık sağlayarak, paydaşların hesap verebilirliğini zorunlu kılarak, rıza ve önceden bildirimle izleme ve insan hakları ihlallerini önlemek için daha katı yasalar çıkararak önyargıyı önlemek veya en aza indirmek için yüz tanımada tarafsızlığı ortadan kaldırın.

Yüz tanıma teknolojisi, gerçek dünyadaki ihtiyaçlarda çeşitli uygulamalar için sonsuz potansiyele sahiptir. Bununla birlikte, bu teknolojinin etik kaygılarını ele almak, onu insanlık için bir nimet haline getirmek için hayati önem taşımaktadır.

Bir güvenlik olayı durumunda ne yapılmalı? Hasarı sınırlamak ve zamandan ve paradan tasarruf etmek için olay müdahalesiyle ele alın ve yönetin.