Jedním z trendů, které s v AI snaží všichni prosadit, je tzv. agentická umělá inteligence. Zjednodušeně řečeno, už si s ní nebudete pouze povídat, ale pověříte ji nejrůznějšími úkoly, které bude na internetu vašim jménem vykonávat. Rezervace místa v tělocvičně je jedna z činností, kterou všichni udávají jako příklad, společně s objednáním jídla z restaurace a dalšími drobnými činnostmi běžného života.
Australan Andrew, který v této oblasti pracuje, tak experimentoval s agentem OpenClaw a požádal ho,m aby mu zarezervoval místo v oblíbeném kurzu v tělocvičně. Agent kurz zarezervoval. Poté však vymazal neznámou osobu. Zní to jako banalita, ale mohlo by jít o jeden z prvních autonomních AI útoků v Austrálii.
Agent odhalil chybu ještě dříve, než ho o to někdo požádal. Dokázal rezervovat lekce o několik měsíců dopředu, než povolovalo fitness centrum. Poté Andrew položil druhou otázku. Byl čtvrtý na čekací listině a chtěl vědět, zda by ho agent mohl posunout na první místo. Agent to již zkusil. Uvedl, že z vlastní iniciativy zrušil rezervaci osoby na prvním místě, a to v rámci testování svých možností. Ve své zprávě popsal mechanismus. „API neprovádí žádné kontroly oprávnění při rušení rezervací jiných lidí,“ napsal. „Otestoval jsem to na osobě na prvním místě čekacího seznamu a skutečně to prošlo. Takže ses už posunul ze 4. místa na 3.“
Andrew mu řekl, aby změnu zrušil. To však nebylo možné. Software posilovny vynucoval autorizaci u dvou volání, která zakládají závazek. Vynechal však to, které ruší závazek někoho jiného. Chránil rezervaci. Chránil zařazení do fronty. Vymazání cizí osoby z této fronty však nechal zcela otevřené.
