Ethik der Gesichtserkennung: Schlüsselfragen und Lösungen

Die Gesichtserkennung gilt als eines der faszinierenden technologischen Wunderwerke.

Zu Recht, denn es kann ein menschliches Gesicht anhand eines Fotos, Videos oder in Echtzeit erkennen. Bilderkennungssysteme haben in Bezug auf Genauigkeit, Geschwindigkeit und Algorithmen einen langen Weg von ihrer Einführung bis zur Einführung in der Strafverfolgung und der weit verbreiteten Verwendung in Verbrauchergeräten zurückgelegt.

Angesichts der vielen Kontroversen um die Ethik der Gesichtserkennung, wie z. B. Identitätsbetrug und Bedenken hinsichtlich der Verletzung der Privatsphäre, die von Datenschutzkritikern und -befürwortern geäußert werden, werden wir mit der Millionen-Dollar-Frage begrüßt: Braucht die Gesichtserkennung eine ethische Abrechnung, um sie gerechter zu machen? wirkungsvoll?

Was sind die ethischen Probleme bei der Verwendung von Gesichtserkennungstechnologie?

In den letzten Jahren haben Kritiker die Genauigkeit von Gesichtserkennungssystemen und ihre Rolle bei Identitätsbetrug in Frage gestellt. Strafverfolgungsbehörden haben in mehreren Fällen fälschlicherweise unschuldige Menschen in Unruhen verwickelt. Darüber hinaus bleibt die Identitätsverwaltung und -speicherung für viele Datenschutzbefürworter weltweit fragwürdig. Scheint kompliziert, nicht wahr?

Quelle: AMA Journal of Ethics

Zu den sechs wichtigsten ethischen Bedenken im Zusammenhang mit Gesichtserkennungssystemen gehören rassistische Vorurteile und Fehlinformationen, Rassendiskriminierung bei der Strafverfolgung, Datenschutz, Mangel an informierter Zustimmung und Transparenz, Massenüberwachung, Datenschutzverletzungen und ineffiziente rechtliche Unterstützung. Lassen Sie uns jeden von ihnen im Detail untersuchen.

1. Rassenbedingte Voreingenommenheit aufgrund von Testungenauigkeiten

Rassische Voreingenommenheit bleibt eines der Hauptanliegen von Gesichtserkennungssystemen. Obwohl Gesichtserkennungsalgorithmen eine Klassifizierungsgenauigkeit von über 90 % gewährleisten, sind diese Ergebnisse nicht universell.

Besorgniserregende Entwicklungen, die die Ethik der Gesichtserkennung in Frage stellen, sind in der jüngeren Vergangenheit immer wieder aufgetaucht. Mehr als die Hälfte der amerikanischen Erwachsenen oder fast 117 Millionen Menschen haben Fotos im Gesichtserkennungsnetzwerk der Strafverfolgungsbehörden. Es ist jedoch beunruhigend, dass im Gesichtserkennungssystem erkannte Fehler häufiger bei dunkelhäutigen Gesichtern auftraten, aber weniger Fehler beim Abgleich hellhäutiger Gesichter.

Im Juli 2020 führte das National Institute of Standards and Technology (NIST) unabhängige Bewertungen durch, um diese Ergebnisse zu bestätigen. Es wurde berichtet, dass Gesichtserkennungstechnologien für 189 Algorithmen rassistische Vorurteile gegenüber farbigen Frauen zeigten. NIST kam auch zu dem Schluss, dass selbst die besten untersuchten Gesichtserkennungsalgorithmen eine maskentragende Person in fast 50 % der Fälle nicht korrekt identifizieren konnten.

2. Rassendiskriminierung bei der Strafverfolgung

In einer kürzlich veröffentlichten Enthüllung veröffentlichte die Bundesregierung der Vereinigten Staaten einen Bericht, der Diskriminierungsprobleme in ihren Gesichtserkennungsalgorithmen bestätigte. Sein System funktionierte normalerweise effektiv für die Gesichter weißer Männer mittleren Alters, aber schlecht für Farbige, ältere Menschen, Frauen und Kinder. Diese rassistisch voreingenommenen, fehleranfälligen Algorithmen können Chaos anrichten, darunter unrechtmäßige Verhaftungen, langwierige Inhaftierungen und sogar tödliche Polizeigewalt.

Strafverfolgungsbehörden wie die United States Capitol Police verlassen sich auf Mugshot-Datenbanken, um Personen mithilfe von Gesichtserkennungsalgorithmen zu identifizieren. Dies führt zu einer Feed-Forward-Schleife, in der rassistische Polizeistrategien zu unverhältnismäßigen und unschuldigen Verhaftungen führen.

Insgesamt sind die Gesichtserkennungsdaten unvollkommen. Es könnte Strafen für nicht begangene Verbrechen zur Folge haben. Beispielsweise kann eine geringfügige Änderung des Kamerawinkels oder des Aussehens, wie z. B. eine neue Frisur, zu Fehlern führen.

3. Datenschutz

Der Datenschutz ist eines der Anliegen der Allgemeinheit, hauptsächlich aufgrund mangelnder Transparenz bei der Speicherung und Verwaltung von Informationen. Die Gesichtserkennung verstößt gegen das angeborene Recht der Bürger, unter ständiger staatlicher Überwachung zu stehen und ihre Bilder ohne Zustimmung zu behalten.

Im Jahr 2020 verbot die Europäische Kommission die Gesichtserkennungstechnologie im öffentlichen Raum für bis zu fünf Jahre, um Änderungen an ihrem Rechtsrahmen vorzunehmen und Richtlinien zu Datenschutz und ethischem Missbrauch aufzunehmen.

Datenschutzbedenken bei der Gesichtserkennung beziehen sich auf ungesicherte Datenspeicherungspraktiken, die Gesichtserkennungsdaten und andere potenzielle Sicherheitsbedrohungen offenlegen könnten. Die meisten Unternehmen hosten ihre Gesichtsdaten weiterhin auf lokalen Servern, was zu Sicherheitslücken und einem Mangel an IT-Sicherheitsexperten führt, um die Netzwerksicherheit zu gewährleisten.

Gesichtserkennungstechnologien können maximale Datensicherheit gewährleisten, wenn sie in der Cloud gehostet werden. Die Datenintegrität kann jedoch nur durch eine ordnungsgemäße Verschlüsselung gewährleistet werden. Der Einsatz von IT-Cybersicherheitspersonal ist für eine ordnungsgemäße Datenspeicherung unerlässlich und bietet gleichzeitig Verbraucherkontrolle, um die Rechenschaftspflicht zu verbessern und böswilligen Datenverkehr zu verhindern.

Auf der positiven Seite sind Verbraucherprodukte, die mit Gesichtserkennungstechnologien ausgestattet sind, weniger umstritten, da sie die Möglichkeit haben, die Funktion zu deaktivieren oder nicht zu verwenden. Konsumgüterunternehmen sind jedoch immer noch Opfer von Verboten aufgrund der Aushöhlung der Privatsphäre. Aber sie bieten weiterhin mit Gesichtstechnik beladene Produkte an, indem sie sie als fortschrittliche Sicherheitsfunktion vermarkten.

Die Entschlossenheit, den legalen Weg zu gehen, steht Geräten offen, die es einem Opfer ermöglichen, eine finanzielle Entschädigung für die Verletzung der Privatsphäre zu verlangen. Beispielsweise hat der Social-Media-Riese Facebook eine Sammelklage in Höhe von 650 Millionen US-Dollar in Illinois wegen des Sammelns von Fotos, die nicht öffentlich für die Gesichtserkennung verfügbar sind, beigelegt.

Der Datenschutz ist jedoch immer noch ein Problem für Strafverfolgungsbehörden, die Gesichtserkennungstechnologie verwenden, um Bürger ohne deren Wissen für die öffentliche Sicherheit zu überwachen, zu scannen und zu verfolgen. Dies hat zahlreiche Proteste ausgelöst, die strengere Vorschriften fordern, um den Bürgern mehr Kontrolle über die Teilnahme und Transparenz in Bezug auf Speicherung und Verwaltung zu geben.

4. Fehlende Einverständniserklärung und Transparenz

Datenschutz ist ein Problem bei jeder Form von Data Mining, insbesondere online, wo die meisten gesammelten Informationen anonymisiert werden. Gesichtserkennungsalgorithmen funktionieren besser, wenn sie an großen Datensätzen von Bildern getestet und trainiert werden, die idealerweise mehrfach unter verschiedenen Lichtbedingungen und Winkeln aufgenommen werden.

Die größten Bildquellen sind Online-Sites, insbesondere öffentliche Flickr-Bilder, die unter Urheberrechtslizenzen hochgeladen werden, die eine liberale Wiederverwendung ermöglichen, und manchmal illegitime Social-Media-Plattformen.

Wissenschaftler des in Washington ansässigen Microsoft Research haben den weltweit größten Datensatz, MSCeleb5, angehäuft, der fast 10 Millionen Bilder von 100.000 Menschen enthält, darunter Musiker, Journalisten und Akademiker, die aus dem Internet gekratzt wurden.

Im Jahr 2019 wurden diese und andere Datensätze auf der Website des in Berlin lebenden Künstlers Adam Harvey namens MegaPixels gekennzeichnet. Zusammen mit einem Technologen und Programmierer, Jules LaPlace, zeigte er, dass die meisten Uploader ihre Fotos offen geteilt hatten. Aber sie wurden missbraucht, um kommerzielle Überwachungsprodukte zu bewerten und zu verbessern.

5. Massenüberwachung

Zusammen mit allgegenwärtigen Kameras und Datenanalysen führt die Gesichtserkennung zu einer Massenüberwachung, die die Freiheits- und Datenschutzrechte der Bürger beeinträchtigen könnte. Während die Gesichtserkennungstechnologie Regierungen bei der Strafverfolgung hilft, indem sie Kriminelle aufspürt, gefährdet sie auch die grundlegenden Datenschutzrechte von einfachen und unschuldigen Menschen.

Kürzlich erhielt die Europäische Kommission einen offenen Brief von 51 Organisationen, in denen ein pauschales Verbot aller Gesichtserkennungstools für die Massenüberwachung gefordert wurde. In einer weiteren Wendung der Ereignisse haben mehr als 43.000 europäische Bürger eine Reclaim Your Face-Petition unterzeichnet, in der ein Verbot biometrischer Massenüberwachungspraktiken in der EU gefordert wird.

Die jüngste Flut von Ereignissen hat die Ethik der Gesichtserkennungstechnologie aufgrund des widerspenstigen Einsatzes künstlicher Intelligenz (KI) zur Manipulation und Bedrohung von Menschen, Regierungsbehörden und der kollektiven Demokratie in Frage gestellt.

KI und maschinelles Lernen (ML) sind disruptive Technologien, die sichere Gesichtserkennungstechnologien nutzen können. Es ist wichtig, rote Linien zu ziehen, bevor sie für Identitätsdiebstahl und Betrug missbraucht werden.

6. Datenschutzverletzungen und unwirksame rechtliche Unterstützung

Datenschutzverletzungen können sowohl für die Öffentlichkeit als auch für die Regierung ernsthafte Datenschutzbedenken aufwerfen.

Während Sicherheitsverletzungen ein großes Problem für die Bürger darstellen, hat die Entwicklung dieser Technologie zu Fortschritten in der Cybersicherheit und einer verstärkten Nutzung von Cloud-basiertem Speicher geführt. Mit der zusätzlichen Sicherheitsebene wie Verschlüsselung können in der Cloud gespeicherte Daten vor böswilliger Nutzung geschützt werden.

Auf der von Sicherheitsforschern in Las Vegas organisierten jährlichen Black-Hat-Hacker-Konferenz brachen Hacker Apples iPhone FaceID-Benutzerauthentifizierung in nur 120 Sekunden.

Solche Ereignisse erhöhen die Anfälligkeit der gespeicherten Daten für Hacker, was schließlich die Wahrscheinlichkeit eines Face-ID-Diebstahls bei schweren Verbrechen erhöht. Opfer von Gesichtsdiebstahl haben relativ weniger rechtliche Möglichkeiten, um sie zu verfolgen.

Die EU-Datenschutz-Grundverordnung (DSGVO) gibt Forschern keine Rechtsgrundlage, um ohne deren Zustimmung Fotos von Gesichtern von Personen für die biometrische Forschung zu sammeln. Die Vereinigten Staaten haben unterschiedliche Gesetze bezüglich der Verwendung der biometrischen Daten einer Person ohne deren Zustimmung.

Wie man Gesichtserkennungstools ethisch einsetzt

Benutzer der Gesichtserkennung können die folgenden von der American Civil Liberties Union (ACLU) vorgeschlagenen Prinzipien übernehmen, um eine ethische Nutzung dieser Technologie sicherzustellen:

• Sammlung: Institutionen sollten eine informierte, schriftliche Zustimmung der Bürger einholen, bevor sie ihre biometrischen Daten in die Gesichtserkennungsdatenbank aufnehmen.
• Verwendung: Benutzer sollten davon absehen, Gesichtserkennungssysteme zu verwenden, um Hautfarbe, Rasse, Religion, nationale Herkunft, Geschlecht, Alter oder Behinderung einer Person zu bestimmen.
• Offenlegung: Die Ergebnisse eines Gesichtserkennungssystems sollten ohne die informierte, schriftliche Zustimmung der betroffenen Person nicht gehandelt oder weitergegeben werden.
• Zugriff: Die Bürger sollten das Recht haben, auf ihre Gesichtsinformationen zuzugreifen, sie zu bearbeiten und zu löschen, zusammen mit Aufzeichnungen über alle an den Daten vorgenommenen Änderungen.
• Missbrauch: Organisationen, die öffentlich zugängliche Aufzeichnungen in Bezug auf die Identität einer Person hosten, sollten proaktive Maßnahmen und geeignete Kontrollen ergreifen, um deren Missbrauch durch den Aufbau einer Datenbank für Gesichtsabdrücke zu verhindern. Einige Maßnahmen umfassen die Einschränkung des automatisierten Zugriffs auf sensible Datenbanken und die vertragliche Verpflichtung von Partnern, sich an ethische Nutzungsrichtlinien zu halten.
• Sicherheit: Organisationen sollten über dedizierte Sicherheitsexperten verfügen, die Gesichtserkennungsinformationen hosten, verwalten und sichern.
• Rechenschaftspflicht: Endbenutzer müssen einen Audit-Trail führen, der Details zur Informationssammlung, -nutzung und -offenlegung zusammen mit Datums- und Zeitstempeln und Details der Benutzer enthält, die die Informationen anfordern.
• Zugang der Regierung : Organisationen können der Regierung Zugang zu vertraulichen Informationen gemäß dem Datenschutzgesetz von 1974 oder nach Erhalt einer Anordnung aus wahrscheinlichem Grund gewähren.
• Transparenz: Unternehmen müssen Richtlinien für die Einhaltung und Verwendung von Daten definieren und gleichzeitig die erforderlichen technischen Maßnahmen zur Überprüfung der Verantwortlichkeit anbieten.

Beispiele für den ethischen Einsatz von Gesichtserkennungstechnologie

Die Gesichtserkennungstechnologie ist das Herzstück der meisten Technologieunternehmen, die sich auf die Kundensicherheit konzentrieren und gleichzeitig ihre Systeme vor potenziellen Sicherheitsbedrohungen schützen. Lassen Sie uns drei solcher Beispiele von Unternehmen untersuchen, die die Gesichtserkennung ethisch vertretbar einsetzen.

IBM

Der Technologieriese IBM verhängte weitreichende Beschränkungen für den Verkauf seiner Gesichtserkennungstechnologie für die Bundesregulierung in den Vereinigten Staaten. Darüber hinaus schlug IBM dem US-Handelsministerium konkrete Empfehlungen vor, den Export von Gesichtserkennungssystemen teilweise strenger zu beschränken.

Es drängte auch auf eine präzise Regulierung, ein Schritt zur Auferlegung strengerer Beschränkungen für Endverwendungen und Benutzer, die erheblichen gesellschaftlichen Schaden anrichten könnten. Es schlug auch sechs Änderungen in der Funktionsweise von Gesichtserkennungstechnologien vor, um Übereinstimmungen zu finden, darunter:

• Einschränkung von Gesichtserkennungstechnologien, die „1-to-many“-Matching-Endverwendungen für Massenüberwachung, Racial Profiling und andere sensible Bereiche verwenden, die Menschenrechte verletzen könnten
• Begrenzung des Exports von „1-to-many“-Systemen durch Kontrolle des Exports sowohl von hochauflösenden Kameras als auch von Algorithmen, die zum Sammeln und Analysieren von Daten gegen eine Datenbank verwendet werden
• Auferlegung von Beschränkungen für bestimmte ausländische Regierungen, die groß angelegte Cloud-Computing-Komponenten für integrierte Gesichtserkennungssysteme beschaffen.
• Einschränkung des Zugriffs auf Online-Bilddatenbanken, die zum Trainieren von 1-zu-vielen-Gesichtserkennungssystemen verwendet werden können
• Aktualisierung der neuesten Menschenrechtsaufzeichnungen der Verbrechensbekämpfungsgruppen des Handelsministeriums und Umsetzung der strengsten Kontrolle über den Export von Gesichtserkennungstechnologien, die "1-zu-viele"-Abgleichsysteme unterstützen
• Schließlich die Einschränkung der Fähigkeit repressiver Regime, kontrollierte Technologien über die US-Grenzen hinaus durch Mechanismen wie die Wassenaar-Abkommen zu beschaffen

Microsoft

Microsoft hat mehrere Grundsätze aufgestellt, um die ethischen Probleme von Gesichtserkennungssystemen anzugehen. Es hat Schulungsressourcen und neue Materialien veröffentlicht, um seinen Kunden zu helfen, sich der ethischen Verwendung dieser Technologie bewusster zu werden.

Neben der engen Zusammenarbeit mit seinen Kunden arbeitet Microsoft hart daran, die Fähigkeit der Technologie zu verbessern, Gesichter über ein breites Spektrum von Altersgruppen und Hautfarben hinweg zu erkennen. Die Gesichtserkennungstechnologien von Microsoft wurden kürzlich von NIST bewertet, das berichtete, dass seine Algorithmen in 127 Tests als die genauesten oder nahezu die genauesten bewertet wurden.

Microsoft drängt auf neue Gesetze, um Transparenz und Tests und Vergleiche durch Dritte zu regeln. Um die Transparenz zu fördern, schlägt Microsoft vor, dass Technologieunternehmen Dokumentations- und Gesichtserkennungsdienste bereitstellen, um die Fähigkeiten und Grenzen der Technologie aufzuzeigen.

Es wurde auch die Notwendigkeit einer Gesetzgebung hervorgehoben, um Drittanbieter damit zu beauftragen, kommerzielle Anbieter von Gesichtserkennungsdiensten unabhängig zu testen und ihre Ergebnisse zu veröffentlichen, um Probleme im Zusammenhang mit Voreingenommenheit und Diskriminierung anzugehen.

Amazonas

Im Jahr 2020 verhängte Amazon ein einjähriges Moratorium für die Verwendung seiner Gesichtserkennungstechnologie „Amazon Rekognition“ durch Strafverfolgungsbehörden. Darüber hinaus hat Amazon seine Verwendung in Szenarien der öffentlichen Sicherheit und der Strafverfolgung validiert, um potenzielle Übereinstimmungen einzugrenzen.

Amazon hat auch ein Patent angemeldet, um zusätzliche Authentifizierungsebenen zu erforschen, um maximale Sicherheit zu gewährleisten. Einige davon umfassen das Auffordern von Benutzern, Aktionen wie Lächeln, Blinzeln oder Neigen des Kopfes auszuführen.

Ist die Gesichtserkennung invasiv?

Die Hauptprobleme und -fehler der Gesichtserkennungstechnologie ergeben sich aus dem Mangel an Fortschritt, der Vielfalt der Datensätze und der ineffizienten Systemhandhabung. Die Übernahme einiger ethischer Grundsätze kann jedoch verhindern, dass sie invasiv wird.

Beseitigen Sie die Unparteilichkeit bei der Gesichtserkennung, um Vorurteile zu verhindern oder zu minimieren, indem Sie Störungen in Strafverfolgungsanwendungen beheben, Transparenz darüber schaffen, wie künstliche Intelligenz intern funktioniert, die Verantwortlichkeit der Interessengruppen durchsetzen, mit Zustimmung und vorheriger Ankündigung überwachen und strengere Gesetze erlassen, um Menschenrechtsverletzungen zu vermeiden.

Die Gesichtserkennungstechnologie hat unendliches Potenzial für verschiedene Anwendungen in der realen Welt. Es ist jedoch unerlässlich, die ethischen Bedenken dieser Technologie anzugehen, um sie zu einem Segen für die Menschheit zu machen.

Was tun bei einem Sicherheitsvorfall? Behandeln und verwalten Sie sie mit der Reaktion auf Vorfälle, um Schäden zu begrenzen und Zeit und Geld zu sparen.