Žaloby proti provozovatelům umělé inteligence jsou na denním pořádku – obvykle jde o tragické případy, kdy chatbot přispěl k tomu, aby dotyčný spáchal sebevraždu nebo jiný vážný čin, pročež se pozůstalí domáhají jak odškodnění, tak nápravy, aby se podobný případ nemohl opakovat. Ale poslední žaloba, ve které figuruje Grok od xAI Elona Muska, se zcela vymyká. Žalovaným je zde totiž jeden z jeho uživatelů.
A nejde jen o jen tak nějakou malichernost. Společnost AI podala žalobu na jednoho ze svých uživatelů s tvrzením, že pomocí systému Grok vytvářel materiál zobrazující sexuální zneužívání dětí, čímž porušil podmínky poskytování služeb společnosti. Jedná se zřejmě o první případ, kdy společnost zabývající se umělou inteligencí podala žalobu na uživatele kvůli obsahu vygenerovanému jejím vlastním systémem.
Žaloba o 12 stranách byla podle CNN (cnn.com) podána u federálního soudu v Texasu proti Terrymu Harwoodovi, muži z Jižní Karolíny, který byl na začátku tohoto roku zatčen na základě obvinění ze sexuálního vykořisťování nezletilých.
Harwood si pomocí falešných identit měl založit několik účtů u xAI a navrhl zavádějící pokyny, aby obešel vestavěná bezpečnostní opatření systému Grok, a následně tento nástroj zneužil k přeměně nesexuálních fotografií na sexuálně explicitní snímky bez vědomí či souhlasu osob na fotografiích.
Napoprvé to nevyšlo protože Grok odmítl provést zadání s odůvodněním, že takový materiál porušuje bezpečnostní opatření Groku pro moderování obsahu. V reakci na to žalovaný opakovaně zadával další, upravená zadání ve snaze obejít moderátorská opatření Groku.
A to je podstatou celého sporu: xAI netvrdí, že Grok není schopen tento obsah vygenerovat. Tvrdí však, že se Grok snažil tomu zabránit a že ho překonal odhodlaný uživatel, čímž se odpovědnost přesouvá ze systému na osobu sedící u klávesnice. K tomu dochází v době, kdy se společnost xAI v několika soudech ocitá na opačné straně téže sporné otázky, mimo jiné v řízení před londýnským Vrchním soudem, kde se posuzuje, zda vývojář nese odpovědnost za to, co jeho uživatelé vytvářejí.
