Nástup generativní umělé inteligence smazal bariéry, které dříve dělily amatérské podvodníky od profesionálních hackerských skupin. Vytvořit věrohodný klon cizího hlasu, zfalšovat dokument nebo nasadit falešný obličej do živého videohovoru je dnes otázkou několika kliknutí a minimálních nákladů. Že nejde o teoretickou hrozbu, ukázal nedávný případ britské inženýrské společnosti Arup, kterou útočníci pomocí deepfake konference připravili o 25 milionů dolarů.
Na situaci, kdy většina populace nedokáže spolehlivě rozlišit lidský projev od syntetického, reagují nejen evropské regulace (AI Act či směrnice NIS2), ale nově také telekomunikační infrastruktura. Tuzemský Vodafone oznámil strategické partnerství se společností Synhawk, za níž stojí výzkumník ze Stanfordovy univerzity Maty Boháček. Cílem je přitom integrovat detekční modely přímo do komunikačních kanálů.
„Generativní umělá inteligence zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější. Naší odpovědností jako operátora je stejným způsobem změnit ekonomiku obrany. Proto jsme mezi prvními v Evropě, kdo zákazníkům a zákaznicím přináší detekci deepfake obsahu v reálném čase, od mobilní aplikace až po síťovou vrstvu,“ uvádí Violeta Luca, generální ředitelka Vodafonu v České republice.
Plánované řešení nestojí na plošném cenzurování obsahu, ale na analýze anomálií a integrity signálu. Ochrana se má ke klientům dostat ve třech postupných fázích:
- Vodafone Verify: Mobilní aplikace pro Android a iOS, která se objeví na podzim. Uživatel do ní nahraje podezřelou hlasovou zprávu z WhatsAppu či Messengeru, video nebo fotku, a algoritmus běžící přímo v zařízení vyhodnotí, zda jde o podvrh. Cílem je zachytit klasické triky typu „mami, nouzově potřebuju peníze“.
- Vodafone Verify Meetings: Služba plánovaná na začátek příštího roku nasadí do online schůzek cloudového AI agenta. Ten bude v reálném čase hlídat, zda některý z účastníků nepoužívá syntetickou identitu.
- Vodafone Verify Network: Dlouhodobý projekt, na kterém operátor spolupracuje s Českým telekomunikačním úřadem. Technologie by měla v budoucnu varovat uživatele přímo během klasického telefonního hovoru, pokud systém rozpozná, že na druhé straně nemluví člověk, ale takzvaná „AI farma“.
„Deepfakes, syntetické identity a AI generované podvody představují jednu z největších bezpečnostních výzev digitální éry. Ochrana autenticity lidské komunikace se stává novou kategorií digitální bezpečnosti. Velmi si vážíme důvěry, kterou nám Vodafone dal, a oceňujeme jeho ambici být mezi prvními operátory, kteří toto téma aktivně řeší a pomáhají určovat budoucí standardy důvěryhodné komunikace v době umělé inteligence,“ říká Lukáš Foral, CEO a spoluzakladatel společnosti Synhawk.
„Povaha a tempo podvodů s využitím umělé inteligence zpochybňují předpoklady, na kterých byla postavena konvenční ochrana komunikace. Efektivní obrana musí být založena na neustálém výzkumu a integrována přímo do vrstvy infrastruktury, kde komunikace probíhá, což z Vodafonu dělá přirozeného partnera. Vytvořili jsme základní modely, které analyzují veškerý dostupný kontext, a tím posuzují holistickou integritu signálu při jeho pohybu po síti. Jsme nadšeni, že můžeme i nadále rozvíjet náš výzkum a zpřístupňovat ho zákazníkům prostřednictvím tohoto partnerství,“ dodává Maty Boháček.
