V britských obchodech narůstá používání systémů automatického rozpoznávání obličejů k odhalování osob údajně podezřelých z krádeže. Technologie slibuje rychlou identifikaci známých pachatelů, avšak není bezchybná — někdy označí za podezřelé i nevinné zákazníky. Výsledkem mohou být nepříjemné konfrontace, zásahy do soukromí nebo zbytečné administrativní prodlevy.
Jeden z popisovaných případů ilustruje typický problém: systém vygeneroval upozornění na „shodu“ se seznamem osob považovaných za rizikové, místo okamžitého a vstřícného vysvětlení následovala dlouhá komunikace s provozovatelem technologického řešení a vyjasňování situace přímo v prodejně. Taková zkušenost ukazuje, jak automatické varování může spustit řetězec nedorozumění a stresu, pokud chybí jasné postupy pro lidský zásah.
Dodavatelé těchto řešení často uvádějí vysoká procenta „přesnosti“ v propagačních materiálech, někdy dosahující téměř 100 %. Odborníci však upozorňují, že reálná spolehlivost závisí na mnoha faktorech: kvalitě záznamu, rozlišení a úhlu kamery, osvětlení, stáří databáze, parametrech porovnávání a také demografickém složení testovacích vzorků. Systémy mohou vykazovat demografické zkreslení, tedy vyšší míru chyb pro určité věkové nebo etnické skupiny. Ve větších provozech navíc může být počet upozornění stovky až tisíce měsíčně, což zvyšuje pravděpodobnost falešných pozitivních hlášení a zatěžuje personál.
Kritika se proto soustředí na několik rizik: možné diskriminační důsledky, nedostatečnou transparentnost použití technologií a zásahy do soukromí zákazníků. Někteří lidé popisují, že byli při konfrontaci vyzváni k prokázání totožnosti nebo jim byla do vyjasnění situace odepřena obsluha. Provozovatelé a obchody naopak tvrdí, že technologie pomáhají předcházet krádežím a jsou nástrojem v boji proti organizovanému drobnému zločinu.
Do diskuse vstupují i právní a etické otázky. Rozpoznávání obličejů pracuje s biometrickými údaji, které podle evropského nařízení GDPR podléhají zvláštní ochraně a jejich zpracování vyžaduje přísné právní odůvodnění a princip přiměřenosti. Regulační orgány a obhájci spotřebitelských práv volají po přísnějších pravidlech: veřejném oznámení použití technologie v provozovnách, jasném právním základu zpracování, nezávislých auditech přesnosti a testování na demografických vzorcích, uchovávání a mazání záznamů a mechanismu rychlého nápravného řízení pro chybně označené osoby.
Rozumné nasazení těchto systémů proto vyžaduje kompromis mezi bezpečností provozu a ochranou práv zákazníků. Doporučení odborníků zahrnují zavedení lidského dohledu nad rozhodnutími systému („human-in-the-loop“), transparentní informování zákazníků o použitých technologiích, školení zaměstnanců pro korektní zacházení s upozorněními a spolupráci s regulátory na vytvoření technických a etických standardů. Pouze tak lze omezit rizika falešných obvinění, minimalizovat diskriminaci a snížit prostor pro zneužití citlivých osobních údajů.
