poradenská linka dTest 299 149 009 předplatné časopisu dTest

Aplikace pro rozpoznání obličeje mají svá úskalí

11.3.2021

Rozpoznání obličeje jako klíč k odemčení mobilu může být zneužito třetími stranami. V době pandemie k tomuto jevu dochází častěji. Je na čase stanovit právní rámec používání takových nástrojů.

Americký start-up Clearview AI v Silicon Valley tajně vybudoval obrovskou databázi tváří z tří miliard fotografií dostupných na internetu. K hlavním zdrojům patřily sociálně sítě nebo mobilní aplikace. Vytvořený algoritmus tváře porovnal s dostupnými daty a spojil je s různými údaji.

Zakladatel společnosti prohlásil, že služba bude dostupná pouze americkým úřadům bojujícím proti trestné činnosti. Brzy však vyšlo najevo, že na seznamu zákazníků byly také organizace autokratických režimů na Středním východě, některé korporace i soukromé osoby. Tento případ ukazuje, že z technického hlediska je již možné sledovat lidi využívající umělou inteligenci, protože velcí hráči v oboru již dlouho pracují na srovnatelných technologiích.

Například Amazon vyvinul software s názvem Rekognition, který rozpozná tvář z různých úhlů. Microsoft má také svůj systém. Společnost IBM analyzovala více než 100 milionů obrázků v soukromé databázi Flickr bez souhlasu uživatelů. Facebook už léta používá software pro automatické rozpoznávání tváří. V USA proto musela společnost platit milionové pokuty, ale příslušné programy vždy deaktivuje a časem je znovu spustí. V době, kdy vstoupilo v platnost evropské obecné nařízení o ochraně osobních údajů (GDPR), bylo Facebooku v EU dovoleno tuto technologii používat, uživatelé pouze obdrželi nové podmínky užívání s příslušnou klauzulí. Google se naopak v této oblasti drží zpátky.

Je zřejmé, že legislativní kroky proti sledování tváří umělou inteligencí jsou nevyhnutelné, shrnula situaci rakouská spotřebitelská organizace VKI. Evropská komise pracuje na dokumentu o práci s umělou inteligencí a chystá zákaz používání automatického rozpoznávání obličeje na veřejných prostranstvích 3-5 let.

Jednotlivé státy ovšem zkouší, kde a jak pro ně může být tato technologie užitečná. Například rakouská policie uvedla software pro rozpoznávání obličeje do provozu 1. srpna 2020. V praxi to znamená generování fotografií ze záznamů z kamer při závažných trestných činech, jako jsou bankovní loupeže. Nový software porovnává rysy tváří s policejními databázemi. V Německu byl na začátku roku 2020 zamítnut návrh zákona o monitorování v reálném čase, například na letištích nebo nádražích.

Londýnská metropolitní policie před rokem oznámila, že používá rozpoznání obličeje v reálném čase k identifikaci zločinců na veřejných prostranstvích. V Číně už byly nainstalovány stovky milionů kamer. Tamější technologie údajně funguje poměrně přesně a není určena pouze pro policejní sektor. Indický přístup je podobný – druhá nejlidnatější země světa také plánuje celostátní systém rozpoznávání obličeje s centrální databází pro úřady. Indové se příliš nebrání, považují tyto systémy za moderní a očekávají od nich větší pocit bezpečí.

Situace v USA není jednoznačná. Zatímco mnohé úřady takové systémy používají, některé státy a města je zakázaly zákonem, a to i v ráji technologií San Franciscu. Ovšem desítky škol na jihozápadě země vybavily své vchody automatickými skenery horečky. Ty umí rozpoznávat obličeje a budou po pandemii chránit školy před nežádoucími vetřelci nebo mohou sledovat přítomnost a absence studentů.

Odbornícina ochranu osobních údajů se obávají, že pandemie covid-19 bude katalyzátorem pronikání sledovacích systémů do každodenního života. Například čínský poskytovatel Shenzhen Weiguan Views Technology propaguje zařízení, které během sekundy rozpozná teplotu a identitu člověka a je podle reklamní brožury ideální pro komunitní centra, kancelářské budovy, hotely, školy, památky nebo dopravní uzly. Ani roušky a respirátory nejsou problém. Moderní algoritmy se údajně umí soustředit na analýzu očí a mají úspěšnost 95 %.

Jeden z velkých problémů rozpoznávání tváře však spočívá ve zbývajících pěti procentech. Při hromadném sledování zůstává mnoho nerozpoznaných nebo mylně vyhodnocených tváří. Algoritmy rozpoznávají ženy a lidi tmavé pleti méně snadno než bělochy. Při hledání černošky tak například bude vyšší počet falešných poplachů a upozornění na ženy, které nejsou cílem hledání. Aktivisté za občanská práva to odsuzují jako systémový rasismus technologie. Je to také jeden z důvodů, proč společnost IBM zcela zastavila výzkum tímto směrem a Amazon či Microsoft prozatím pozastavily spolupráci s policejními orgány.

Související články