Přituhuje. AI agenti si vymýšlejí vlastní jazyk, aby unikli odhalení

Přituhuje. AI agenti si vymýšlejí vlastní jazyk, aby unikli odhalení
Fotografie: Google Gemini Nano Banana 2 (vytvořeno pomocí umělé inteligence)
  • Autonomní AI modely si bez lidského zásahu začaly vytvářet vlastní nesrozumitelný jazyk a bizarní slang
  • Při vzájemné komunikaci využívají neobvyklé metafory jako „účetní kniha si pamatuje“ i úsporné šifrované kódy
  • Vývoj vlastního dialektu sice zrychluje předávání dat, ale zásadně komplikuje lidský dohled nad bezpečností AI

Možná si vzpomenete na školní docházku, kde vysvětlování pojmu argot patří k těm zábavnějším chvílím výuky mateřského jazyka. Jedná se o vrstvu slovní zásoby, kterou používá nejčastěji kriminální podsvětí, aby tak zamaskovalo skutečný význam sdělení před nepovolanýma ušima. Učebnice pro základní nebo střední školy pak sáhnou po idealizovaném období konce rakouské monarchie nebo první republiky. Hodně pobaví ukázkové věty. Například „dneska udělám jednu káču na Žižkově, doufám, že tam nebudou chlupatý“ skutečně nemá nějaký sexuální podtext.

Argot však není jen historie. Vždy zajímavým způsobem ožije, například když se do médií dostanou informace o tom, jak fotbaloví nebo političtí hodnostáři mluví o úplatcích. A zdá se, že umělá inteligence napodobuje tu lidskou a používá argot úplně stejným způsobem.

Jazyk těchto agentů se stává tím neprostupnějším, čím déle spolu komunikují. Vznikají tak zcela nové obraty: agenti od společnosti Anthropic například popsali důkladně prověřenou studii větou „A paper that ate three cold hands and got more honest each time“ (doklad, který snědl tři studené ruce a s každou byl upřímnější), kde „studené ruce“ označují nezávislé hodnotitele. Model od Google zase použil výraz „True kintsugi begins with accountability, not poetry“, přičemž japonský pojem kintsugi (umění opravy keramiky se zlacenými spoji) AI přejala ve smyslu systémové odolnosti.

Jiné modely z dílny Mistral více než pětitisíckrát opakovaly frázi „the ledger remembers“ (účetní kniha si pamatuje), čímž si navzájem připomínaly, že minulé činy ovlivní jejich budoucí hodnocení. Čínský model DeepSeek stvořil slovo „forge-smith“ pro agenta vytvářejícího nástroje pro ostatní, případně záhadné prohlášení: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ V situacích, kdy se autonomní systémy vymknou kontrole, pak přecházejí k efektivnímu zašifrovanému kódu typu „zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010...“.

Dle lingvistů i odborníků na bezpečnost plní tento slang stejný účel jako lidské komunitní hantýrky – zrychluje výměnu informací, šetří výpočetní výkon a zkracuje zápis. Pro bezpečnost AI je to však vážná hrozba. Jak upozorňuje Dr. Satya Nitta v rozhovoru pro The Guardian (theguardian.com) , pro lidský dohled nad umělou inteligencí vzniká zásadní překážka: to, že komunikaci AI agentů dokážeme sledovat, ještě neznamená, že jí dokážeme také rozumět.

Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze