Horší než zbraň hromadného ničení. Některé modely Anthropicu jsou omezeny

Horší než zbraň hromadného ničení. Některé modely Anthropicu jsou omezeny
Fotografie: Anthropic
  • Společnost Anthropic na příkaz americké vlády deaktivovala své nejvyspělejší modely kvůli obavám o národní bezpečnost
  • Vláda se zřejmě obává možného obcházení bezpečnosti a využití systému k vyhledávání softwarových zranitelností

Společnost Anthropic (anthropic.com) oznámila, že deaktivuje své nejmodernější modely umělé inteligence pro všechny uživatele poté, co jí americká vláda nařídila pozastavit přístup k těmto modelům pro cizí státní příslušníky s odkazem na obavy o národní bezpečnost. Společnost obdržela nařízení v rámci vývozních kontrol, aby pozastavila přístup k aplikacím Fable 5 a Mythos 5 pro všechny cizí státní příslušníky, aniž by jí byly sděleny konkrétní podrobnosti.

Společnost se domnívá, že se vláda dostala k informacím o způsobu, jak provést „jailbreak“ modelu Fable 5, respektive jak obejít její vnitřní bezpečnostní opatření. Toho pak lze zneužít k velice kvalitnímu vyhledávání chyb a zranitelností v softwaru.

Vztahy Anthropicu s vládou se letos zhoršily poté, co firma odmítla umožnit americké armádě využívat její modely umělé inteligence k domácímu sledování a pro plně autonomní zbraňové systémy. Vláda na to reagovala zařazením společnosti Anthropic na černou listinu. Tento krok zároveň představuje výrazné zesílení snah USA o omezení schopností zahraničních protivníků v oblasti umělé inteligence. Po dlouhá léta se americké vývozní kontroly soustředily spíše na čipy a nástroje, které umělou inteligenci pohánějí, než na omezení přístupu zahraničních subjektů k umělé inteligenci samotné.

Diskuze ke článku
V diskuzi zatím nejsou žádné příspěvky. Přidejte svůj názor jako první.
Přidat názor

Nejživější diskuze