Je to ožehavý problém, o kterém se mluví stále častěji. Vliv umělé inteligence na dospívající ještě nebyl plně prozkoumán a případy, které skončily tragédií, vyvolávají debaty o tom, jestli si by nebylo lepší považovat AI stejně jako sociální sítě za něco, co by se nemělo dostat do rukou dětem. OpenAI (openai.com) proto přišla s „ChatGPT for Teens“, která má tyto obavy rozptýlit.
Nová platforma byla navržena tak, aby rozvíjela kritické myšlení a sloužila jako doučovatel mimo školní třídu. Vývojáři se vědomě zaměřili na to, aby AI za studenty jednoduše nevypracovávala domácí úkoly. Srdcem systému je speciální studijní režim (Study Mode), který při řešení příkladů či nejasných konceptů nepředkládá přímo hotové odpovědi, ale vede studenty krok za krokem pomocí naváděcích otázek.
Součástí jsou také nová připomenutí pro odpovědný přístup k úkolům. Pokud systém rozpozná, že se dospívající snaží náročnou práci zkratkovitě obejít, automaticky jej přesměruje k interaktivnímu řešení. Nechybí ani generátor kvízů, vizualizace látky či možnost nastavení pevných studijních hodin. K rozvoji AI gramotnosti na školách navíc OpenAI navázala partnerskou spolupráci s organizací CodeAI.
Přísná ochrana a stopka nevhodným vztahům s AI
Pokud systém vyhodnotí uživatele jako mladšího 18 let, přechází automaticky do zabezpečeného režimu. Ten obsahuje automatické filtry zaměřené na vyšší rizika, jako jsou sebeubližování, poruchy příjmu potravy, násilí nebo explicitní obsah.
Zásadní novinkou jsou striktní pravidla pro chování samotného modelu. ChatGPT má zakázáno vůči teenagerům používat romantický jazyk, vyvolávat v nich emocionální závislost nebo naznačovat, že disponuje vlastními pocity či vědomím. Nástroj tak má podporovat zdravé vztahy v reálném světě a zřetelně dávat najevo svůj strojový původ. Dospívající navíc systém varuje před nahráváním citlivých osobních fotografií a v pravidelných intervalech jim doporučuje přestávky v používání.
Významnou roli hrají i rozšiřující se rodičovské kontroly. Rodiče propojených účtů mohou spravovat vybrané funkce, nastavovat časové limity pro používání nebo dostávat notifikace v případě bezpečnostních rizik.
