Společnost Apple oznámila, že příští verze systému iOS od verze 15 bude automaticky kontrolovat zprávy odesílané dětmi a také skenovat fotografie uživatelů na iCloudu, aby vyhledala dětskou pornografii a zabránila šíření takových souborů. Iniciativa se na Západě setkala s masivními protesty. Bulvární tisk vyčítá společnosti, že se chce dostat do telefonů a k osobním fotografiím uživatelů pod věrohodnou záminkou.
Sergej Kuzmenko, hlavní specialista na testování digitálních produktů v Centru digitální expertízy společnosti Roskatchestvo
„Problém sexuálního zneužívání dětí, který se společnost Apple snaží řešit, je velmi závažný a akutní, a to jak pro USA, tak pro zbytek světa. A implementace technologie analýzy obrazu – alespoň tak, jak ji v současnosti popisuje společnost – znamená pro majitele zařízení Apple maximální soukromí a bezpečnost.“.
Pokud můžete říct, bude to fungovat takto:
1 Společnost ve fázi zasílání zpráv zkontroluje, zda dítě někomu neposílá upřímnou fotografii, a poté zobrazí několik varování a upozorní rodiče. Ochrana dětí v iMessage bude fungovat pouze na rodinných účtech s dětmi do 12 let a bude ji třeba aktivovat ručně. Úřadům nebudou poskytnuty žádné informace.
2 vyhledávací služby Siri a Search budou poskytovat seznamy kódových slov a dotazů souvisejících s dětskou pornografií, po jejichž zadání se uživatelům zobrazí varovná lišta o škodlivosti takových zájmů a odkazy na partnerské stránky pro pomoc. Zatím není jasné, zda budou tyto žádosti předány úřadům.
3 Nejskandálnější část: při nahrávání fotografií na iCloud pokud je funkce aktivována, děje se tak automaticky bude neuronová síť společnosti fotografie před nahráním skenovat a porovnávat je s existující databází dětského porna. Fotografie by byly zaheslovány tj. převedeny na posloupnost znaků, kterou by cizí osoba nemohla rozluštit a algoritmus by je porovnal s databází podobných řetězců znaků. Proces je automatický a pouze v případě shody se známými vzorky se zapojí lidský moderátor.
4 Pokud se zjistí, že uživatel má známé obrázky ve více případech, nebo pokud k incidentu stahování takových obrázků dojde více než jednou, vyhrazuje si společnost Apple právo předat jeho údaje příslušným orgánům. Společnost zdůrazňuje, že pokud uživatel zakázal nahrávání, systém nebude fungovat a funkce nebude kontrolovat soukromou knihovnu fotografií v zařízení.
Otázkou samozřejmě zůstává, do jaké míry bude společnost dodržovat stanovená pravidla ochrany osobních údajů, zda je technologie rozpoznávání skutečně spolehlivá a zda nebude v budoucnu využívána i k jiným účelům. V současné podobě je však možné uznání pedofilních účtů považováno za výhodu.
Je třeba také poznamenat, že funkce je spuštěna pouze v USA, v ostatních zemích bude zaváděna postupně s ohledem na místní právní rámec.
Zajímá mě, jaký skandál Apple komentovalo Roskachestvo a jaké jsou důsledky této situace?