„Je jen otázkou času, než se naše biometrické údaje dostanou na trh,“ varuje německý aktivista žádající výmaz své tváře z databáze

Autor: Hynek / IuRe
(rozhovor vyšel v tištěném zpravodaji Digitální svobody, který si můžete koupit či objednat)

S Matthiasem Marxem jsme se seznámili v rámci kampaně Reclaim Your Face. V té jsme spolu s dalšími evropskými organizacemi sbírali podpisy pod petici požadující zákaz kamer rozpoznávajících tváře. Matthiase ale možná znáte i vy – o jeho „kouscích“ psala média po celém světě.

Matthias se v roce 2020 dozvěděl o společnosti ClearView AI. Ta stahuje z internetu miliardy fotografií a vytváří z nich databázi obličejů, ve které lze pak pohodlně hledat – nahrajete fotografii dané osoby a systém vám vyplivne další fotografie, na kterých se tato osoba nachází. Identifikace obličeje je až děsivě přesná. ClearView AI je služba placená, obdobnou službu s názvem PimEyes však může využít každý.

Zní to jako sci-fi, ale v podobných databázích je dost pravděpodobně i vaše tvář. Bohatě stačí, aby fotografii z narozenin, školního plesu či třeba demonstrace, kde jen postáváte v pozadí, někdo nahrál na internet.

Problém však je, že tato proměna tváře na vyhledávací výraz není legální. Matthias proto poslal společnosti ClearView e-mail s dotazem, jaké všechny fotografie s jeho obličejem skladuje. O měsíc později obdržel odpověď s dvěma přiloženými snímky: fotografie byly téměř deset let staré, ale na obou byl on. V modrém tričku se zrovna účastnil inženýrské soutěže společnosti Google. Matthias podal stížnost, dle které porušila společnost ClearView zákon o ochraně osobních údajů GDPR. Po roce nařídil příslušný úřad společnosti, aby Matthiasovy fotografie smazala. Případ však dosud nebyl uzavřen a stále běží.

Nejen o tomto případu, ale i o druhém Matthiasově kousku jsme si povídali na konci února 2023.

Jak by ses představil někomu, kdo tě vůbec nezná?

Pracoval jsem na univerzitě jako výzkumník věnující se ochraně soukromí on-line. Posledního půl roku pracuji jako konzultant IT bezpečnosti v jedné soukromé firmě. Jsem něco mezi konzultantem a etickým hackerem (smích).

Jaká je tvoje vnitřní motivace zabývat se ochranou soukromí?

Posledních deset let cítím, že je to důležité téma, nejenom pro mě, ale pro celou společnost. Mám zkrátka spoustu otázek a snažím se najít odpovědi. Otázkou ostatně začala celá kauza s ClearView.

Jak tě vůbec napadlo pídit se po tom, zda a jaké fotografie s tvým obličejem společnost ClearView má?

Začalo to celé novinovým článkem, kde jsem se o ClearView dočetl. Tak jsem se zeptal a k mému vlastnímu překvapení mi odpověděli, že ano, že s mým obličejem bez mého dovolení pracují. Bylo to přesně před třemi lety, podal jsem stížnost a začaly se dít věci. Mezitím byla společnost ClearView pokutována v Itálii, ve Francii, ale úřad v Hamburku se před dvěma měsíci vyjádřil, že nijak nezakročí. Ale tím to nekončí, nemůžu teď moc prozrazovat, ale budeme dál vyvíjet tlak, aby se praxe změnila.

Je to něco, co můžou udělat lidé i v Česku?

Ano, prosím! Na stránkách ClearView můžete vyplnit žádost, je jen potřeba zaslat fotografii a občanku – na té lze zamazat nepotřebná data. Pokud ClearView odpoví, že data o vás schraňuje, můžete podat stížnost na Úřad pro ochranu osobních údajů.

Díky za inspiraci. S tvým bojem souvisí Akt o umělé inteligenci, který se aktuálně chystá v rámci Evropské unie. Jaký bude mít podle tebe vliv na rozšířenou praxi obličejových vyhledávačů?

Bojím se, že vliv bude minimální. Tyto společnosti totiž nesídlí v Evropské unii a postihovat je tak bude velmi obtížné. V Německu je výrazně větší občanský tlak na ochranu soukromí než v Česku.

Petici ReclaimYourFace tam podepsal násobně větší počet lidí. Čím myslíš, že to je?

To je dobrá otázka. Je tu velmi silná komunita, organizací, které pracují na ochraně soukromí, je tu spousta. Určitě je to dáno i historií Německa, je tu zkušenost s nacistickým režimem, který s daty a jejich zneužíváním pracoval. Obecně je tu o podobných věcech poměrně velká veřejná diskuze.

Možná to nevíš, ale i v českých médiích se psalo o tvém dalším „kousku“. Podle zveřejněných zpráv jsi koupil na serveru eBay stroj americké armády na snímání otisků, ve kterém však byla paměťová karta obsahující jména, státní příslušnost, fotografie, otisky prstů a snímky oční duhovky 2 632 lidí z Afghánistánu či Iráku. Věděl jsi to, když jsi přístroj kupoval?

Opět to začalo poměrně nevinně novinovým článkem o tom, že americká armáda někde nechala přístroje shromažďující biometrické údaje. To mě zaujalo. Našel jsem o podobných přístrojích spoustu informací na WikiLeaks, ale i videa na YouTube, a následně jsem uviděl nabídku na prodej takového zařízení. Když přístroj přišel, žádná data na něm nebyla. I tak bylo ale neuvěřitelné držet takový přístroj v ruce.

Už jsem do toho byl ponořený a už jsem byl v kontaktu i s novináři, kteří se o to téma zajímali. A pak se na eBay objevil další přístroj. Objednal jsem ho, podívali jsme se dovnitř a tentokrát tam data byla.

Jak si to má někdo jako já, IT nevzdělanec, vlastně představit? Je to prostě disk s daty, nebo je to komplikovanější?

Bohužel to právě není příliš komplikované. V zásadě jsme zmáčkli enter a byli jsme tam. Komplikovanější bylo až samotné forenzní šetření a práce s daty.

V novinách se psalo o tom, že se ozvali lidé z Pentagonu, kteří chtěli zařízení vrátit.

Je to pochopitelně problém, protože velmi citlivá data nebyla vůbec nijak chráněná. Kontaktovali jsme ty, kdo jsou za to zodpovědní. Americké ministerstvo obrany nám poděkovalo s tím, ať se obrátíme na výrobce. Ten ale nikdy neodpověděl. Až poté, co o tom informovala média, kontaktovala americká strana jednoho z novinářů, který o tom psal. Až ten nám přetlumočil vzkaz o navrácení. Nás přímo však nikdo neoslovil.

Takže teď žádná komunikace neběží?

Ne. Už se nám nikdo neozval.

Překvapilo tě něco v tomto celém příběhu?

Upřímně jsem nečekal, jak velkou pozornost si celá věc získá. Rychle to ale opadlo. Myslím, že je opravdu závažný problém, že velmi citlivá data lidí, kteří jsou v těch databázích, nejsou vůbec chráněná. Politici by se o to do budoucna měli zajímat víc. Je potřeba si uvědomit, že toto je pouze příklad jedné takové databáze. Obávám se, že v budoucnu můžeme čekat podobných příběhů více – budou však horší o to, komu se taková data dostanou do rukou. Biometrická data by se takto na jednom místě prostě vůbec shromažďovat neměla.

Očekáváš, že se takto dostanou ven třeba i databáze ClearView či PimEyes?

Rozhodně, je to jen otázkou času. Pak si každý bude moci chodit s mobilem a identifikovat si, koho chce, včetně třeba účastníků demonstrací.

Máš nějaká doporučení, jak by lidé měli s fotografiemi zacházet?

Já se jednoduše snažím nezveřejňovat takové fotografie, ze kterých je zřejmé, kdo a kde byl. Zároveň se ale nesnažím tomu nějak uzpůsobovat své chování – snažím se normálně pohybovat a fungovat. Nicméně oba příběhy, o kterých jsem mluvil, mi pomáhají uvědomit si, jak technologie kolem nás fungují. Když vidím kameru, pracuji s tím, co může zaznamenat a kam se ta data mohou dostat. To mě také motivuje pokračovat v práci na tomto tématu.

Díky za rozhovor.

Nástroj na „vyhledávání obličejů“ PimEyes, o kterém je v rozhovoru řeč, je veřejně dostupný. Na webu www.pimeyes.com můžete zkusit vyhledat váš vlastní obličej. S nástrojem nakládejte opatrně a citlivě – s vědomím, že můžete nalézt i fotografie, o kterých jste netušili, že existují.

Tento rozhovor vyšel v našem tištěném zpravodaji. Objednejte si kompletní zpravodaj a podpořte tak naší činnost. Podpořit nás můžete i jednorázovým či pravidelným příspěvkem.