Google chce zabránit choulostivým omylům. Android rozpozná nahé fotografie

3
Google chce zabránit choulostivým omylům. Android rozpozná nahé fotografie
Fotografie: Petr Vojtěch, mobilenet.cz
  • Google pracuje na propojení systémového výběru fotografií se službou SafetyCore
  • Nahé snímky a videa by telefon rozpoznával přímo v zařízení
  • Funkce zatím nebyla oznámena a její výsledná podoba zůstává neznámá

Odeslání nesprávné fotografie může být otázkou jediného nepozorného klepnutí. Android by proto mohl při výběru snímku s nahotou zobrazit varování a dát uživateli příležitost své rozhodnutí ještě změnit. Kontrola má probíhat přímo v telefonu, aniž by citlivé fotografie putovaly na servery Googlu.

Na připravovanou novinku upozornila redakce Android Authority při rozboru kódu systému Android 17 QPR2 Beta 4. Objevila v něm zmínku o propojení systémového nástroje Photo Picker se službou Android System SafetyCore. Funkci se zatím nepodařilo zprovoznit, nalezený řetězec nicméně přímo hovoří o aktivaci integrace SafetyCore ve výběru fotografií (viz androidauthority.com).

Varování by mohlo fungovat napříč aplikacemi

Photo Picker je systémové rozhraní Androidu, pomocí kterého uživatel vybírá fotografie a videa určené ke sdílení s konkrétní aplikací. Ta díky němu nemusí získat přístup k celé galerii, ale pouze k vybraným souborům. Nástroj využívá řada komunikačních služeb, sociálních sítí a dalších aplikací (viz developer.android.com).

Právě jeho systémová povaha dělá připravované propojení zajímavým. Aplikace by v budoucnu mohla požádat Photo Picker o prověření vybraného snímku nebo videa. Pokud by SafetyCore rozpoznal nahotu, Android by uživatele před pokračováním upozornil. Nemuselo by přitom záležet na tom, jestli obsah odesílá prostřednictvím aplikace od Googlu, nebo služby jiného vývojáře.

Přesný průběh zatím známý není. Android by mohl pouze zobrazit upozornění, podobně jako to dnes dělají Zprávy Google, případně nabídnout aplikacím možnost nastavit přísnější omezení. To by mohlo posloužit například k ochraně nezletilých uživatelů. Z dostupného kódu ale nelze určit, zda bude kontrola automatická, volitelná, nebo ji budou muset jednotlivé aplikace výslovně aktivovat.

Fotografie nemají opustit telefon

Rozpoznávání citlivého obsahu má zajišťovat služba Android System SafetyCore, kterou Google poskytuje pro zařízení s Androidem 9 a novějším. Analýza probíhá přímo v telefonu a podle Googlu se na jeho servery neposílá zkoumaný obsah, identifikovatelné údaje ani výsledek klasifikace. SafetyCore se navíc aktivuje pouze tehdy, když jej podporovaná aplikace výslovně požádá o prověření obsahu (viz support.google.com).

Stejnou technologii již využívají Zprávy Google. Jejich ochrana dokáže rozmazat příchozí fotografii nebo video s nahotou a varovat uživatele před jeho zobrazením. Upozornění se objeví také před odesláním nebo přeposláním podobného obsahu, uživatel však může po potvrzení pokračovat. Google zároveň připouští, že detekce není neomylná a může citlivý obsah přehlédnout nebo naopak chybně označit neškodný snímek (viz support.google.com).

Stačilo by fotografii odeslat jinak

Případná ochrana ve Photo Pickeru by měla také poměrně zřejmé omezení. Fungovala by pouze v aplikacích, které systémový výběr médií používají a kontrolu podporují. Uživatel by ji mohl obejít například odesláním fotografie jako běžného souboru prostřednictvím jiného správce dokumentů. Nešlo by tedy o plošnou kontrolu všech obrázků ukládaných nebo odesílaných z telefonu.

Funkce navíc zatím nebyla oficiálně oznámena. Její stopy se objevily pouze v rozpracovaném kódu a Google ji může před vydáním výrazně změnit, odložit nebo zcela odstranit. Pokud se však integrace dostane k uživatelům, mohla by ochránit nejen před nechtěným zobrazením citlivého obsahu, ale také před podstatně trapnější situací – jeho odesláním nesprávnému člověku.

androidauthority.com, developer.android.com