Getäuschte Gesichtserkennung - heise online

Forscher gaukelten einem Identifizierungssystem, wie es an Flughäfen und in anderen Hochsicherheitsszenarien vorkommt, vor, dass andere Menschen vor ihm stehen.

Forscher des Cybersicherheitsunternehmens McAfee haben gezeigt, dass sich ein modernes Gesichtserkennungssystem mit einem Hackerangriff dazu bringen lässt, jemand anderes zu sehen als den Menschen vor der Kamera.

Dafür erstellten sie mithilfe von Maschinenlernen ein Bild, das für das menschliche Auge wie eine echte Person aussah, aber vom Gesichtserkennungsalgorithmus als jemand anderes identifiziert wurde.

Um den Algorithmus zu täuschen, verwendeten die Forscher einen Bildübersetzungsalgorithmus namens CycleGAN, mit dem sich Fotos von einem Stil in einen anderen verwandeln lassen.

Nach der Erzeugung von Hunderten von Bildern erstellte das CycleGAN schließlich ein gefälschtes Bild, das mit bloßem Auge wie Person A aussah, für die Gesichtserkennung jedoch wie Person B aussah.

Erstens hatten die Forscher keinen Zugriff auf das eigentliche System, mit dem Flughäfen Passagiere identifizieren, und verwendeten stattdessen einen hochmodernen Open-Source-Algorithmus.

Ein Team der Universität von Chicago hat kürzlich ein Werkzeug namens „Fawkes“ veröffentlicht, mit dem sich Gesichter tarnen lassen, indem man seine Fotos in sozialen Medien leicht verändert, um die KI-Systeme zu täuschen, die auf Datenbanken mit Milliarden solcher geschürften Bilder angewiesen sind.

Forscher der KI-Firma Kneron haben auch gezeigt, wie Masken die weltweit bereits verwendeten Gesichtserkennungssysteme täuschen können die weltweit bereits verwendeten Gesichtserkennungssysteme täuschen können.

Forscher gaukelten einem Identifizierungssystem, wie es an Flughäfen und in anderen Hochsicherheitsszenarien vorkommt, vor, dass andere Menschen vor ihm stehen