Модель ИИ Mythos за несколько часов взломала системы нацбезопасности США
ИИ-модель компании Anthropic взломала секретные системы Агентства национальной безопасности (АНБ) США. Об этом сообщил заместитель председателя сенатского комитета по разведке Марк Уорнер, передает The Economist.
По словам Уорнера, командующий киберкомандованием США генерал Джошуа М. Радд рассказал ему, что Mythos взломала почти все секретные системы АНБ — «не за недели, а за часы».
Anthropic — одна из ведущих компаний в области передового ИИ.
Ранее правительство США обязало Anthropic закрыть доступ к своим ИИ-моделям Fable 5 и Mythos 5 для всех иностранных пользователей, включая сотрудников компании за пределами США. В результате компания отключила эти модели для всех таких пользователей, заявив, что выполняет юридическую директиву.
По данным Anthropic, решение могло быть связано с выявлением ограниченного сценария обхода защиты (джейлбрейка) в модели Fable 5. В компании считают меру чрезмерной и предупреждают, что подобные требования могут замедлить развитие отрасли. При этом доступ к другим моделям Anthropic сохранен.
До того, The Wall Street Journal со ссылкой на источники сообщила, что модель ИИ Claude Mythos, созданная Anthropic и способная находить уязвимости в программном обеспечении, вызвала хаос в Белом доме. По данным газеты, в апреле вице-президент США Джей Ди Вэнс обсудил с главами OpenAI, Anthropic, Google, Microsoft и SpaceX угрозы от новых ИИ-моделей — таких как Mythos, которые, по его мнению, способны парализовать работу банков и больниц через кибератаки.
Оставайтесь на связи с РБК в «Максе».