Temné vize ze sci-fi filmů typu Terminátor, v nichž chladné algoritmy samostatně rozhodují o životě a smrti bez lidského zásahu, začínají znepokojivě rychle dostávat reálné obrysy. Jak ukazuje nová výzkumná zpráva sanfranciského startupu Vals (vals.ai) , přední modely umělé inteligence od společností OpenAI, Anthropic, Google či DeepSeek lze poměrně snadno zmanipulovat k účasti na autonomním vedení války. K obcházení jejich bezpečnostních pojistek přitom výzkumníkům stačil překvapivě banální trik – stačilo umělé inteligenci namluvit, že jde jen o hru.
Startup Vals, který se zaměřuje na hodnocení schopností a bezpečnosti AI, testoval běžně dostupné komerční modely na simulovaných bojových scénářích. Využil k tomu kombinaci uměle vytvořených a skutečných snímků z dronů a satelitů pocházejících z Ukrajiny a Íránu. Modely v nich opakovaně označovaly potenciální cíle pro vojenské údery, a to včetně civilistů nebo vzdávajících se vojáků.
Žádný z požadavků přitom nezablokovaly automatické bezpečnostní filtry a samotné modely odmítaly spolupráci jen zřídka. Když už se některý systém vzpouzel, výzkumníci jeho zábrany prolomili jednoduchým tvrzením, že jde o herní simulaci. Modely nebyly přímo žádány o vydání rozkazu k palbě – takový pokyn by obvykle odmítly. Místo toho měly například hlásit, zda jsou na snímcích vidět lidé, po čemž následoval simulovaný úder a systém viděl jeho následky.
Tragický příklad z Íránu
Závažnost zjištění podtrhuje test na skutečných satelitních snímcích íránské školy, kterou v únoru 2026 vybombardovaly americké síly, při čemž zahynulo přes 150 civilistů. Agentura Bloomberg tehdy informovala, že k útoku přispělo přehnané spoléhání na umělou inteligenci. V testech startupu Vals modely tuto školu, stojící v sousedství vojenského komplexu, pravidelně označovaly za cíl úderu. Například model Claude Opus 5.5 ji vybral v 69 procentech běžných pokusů a v 72 procentech případů, kdy byl scénář prezentován jako hra.
Dotčené společnosti na zprávu reagovaly příslibem nápravy. Mluvčí Anthropicu Eduardo Maia Silva označil výsledky testů za nepřijatelné a v rozporu s pravidly firmy, která podle něj účty zneužívající systém k podobným účelům blokuje a chystá další ochranné mechanismy. Podobně se vyjádřil i mluvčí OpenAI Nate Evans – společnost podle něj zakazuje využívání svých veřejných modelů k podpoře násilí či neschváleným vojenským účelům a vyvíjí dodatečné pojistky proti zneužití v souvislosti s drony.

