Vision AI Face Pass

Use Case Beschreibung

Das KI-System ermöglicht den kamerabasierten biometrischen Abgleich von Personen an Zutrittspunkten nicht-öffentlicher Bereiche, beispielsweise in Fitnessstudios, Yoga-Studios oder Indoor-Sportanlagen. Dabei werden Gesichtsdaten mit einer lokalen Referenzdatenbank autorisierter Personen abgeglichen. Sowohl die Datenbank als auch die KI-Modelle werden lokal betrieben, um Sicherheit und Datenschutz zu gewährleisten.

Rechtliche Einordnung

• KI-System nach AI Act
• Nach der derzeitigen Auslegung ist davon auszugehen, dass es sich um ein Hochrisiko-KI-System im Sinne von Anhang III Nr. 1 lit. a KI-VO handelt, da eine biometrische Identifizierung mittels Eins-zu-n-Abgleich gegen eine Referenzdatenbank erfolgt.

Besondere Herausforderungen

• Da das KI-System der Zutrittskontrolle berechtigter Personen dient, könnte man zunächst von einer „biometrische Verifizierung“ im Sinne von Art. 3 Nr. 36 KI-VO ausgehen, die grundsätzlich nicht als hochriskant gilt.
• Eine biometrische Verifizierung liegt jedoch ausweislich der Definition in Art. 3 Nr. 36 KI-VO nur bei einem automatisierten Eins-zu-eins-Abgleich vor. Da das System vorliegend hingegen einen Eins-zu-n-Abgleich durchführt, spricht mehr für die Einordnung als eine biometrische Identifizierung im Sinne von Art. 3 Nr. 41 KI-VO, womit zugleich von einer Hochrisiko-Einstufung auszugehen ist.