Два дня назад американская технологическая компания Anthropic, один из мировых лидеров в сфере искусственного интеллекта, закрыла для пользователей доступ к двум своим самым мощным ИИ-моделям – Fable 5 и Mythos 5.
Это может показаться обычной новостью из мира ИИ-бизнеса, но на самом деле произошедшее событие гораздо важнее, чем видится на первый взгляд.
Важно понимать одну вещь: это было не решение самой Anthropic. По словам компании, запрос на отключение поступил от правительства США. Американские власти потребовали ограничить доступ к этим моделям для иностранных граждан из-за соображений национальной безопасности. Выполнить такие требования быстро и выборочно оказалось сложно, поэтому Anthropic временно отключила Fable 5 и Mythos 5 для всех пользователей.
Тут стоит упомянуть еще одну знаковую деталь: Anthropic находится в конфликте с Белым домом и Пентагоном. Политика компании запрещает использование ее ИИ-модели Claude для внутреннего наблюдения и в летальном автономном оружии. Для американских же военных подобные ограничения неприемлемы. Дональд Трамп обвинил корпорацию в "левом радикализме", а в феврале этого года правительственным учреждениям США было приказано прекратить использование ее моделей. И вот теперь противостояние между Anthropic и Вашингтоном вышло на новый уровень.
Причем повод выглядит довольно показательным. По данным компании, власти обеспокоены тем, что был найден способ обойти защитные механизмы Fable 5, так называемый джейлбрейк. То есть модель можно было заставить выполнять действия, от которых ее специально ограничивали разработчики. Речь идет прежде всего о поиске уязвимостей в программном обеспечении.
Однако Anthropic утверждает, что найденный способ позволял обнаруживать лишь относительно простые и уже известные уязвимости, а похожие результаты способны показывать и другие современные ИИ-модели. Однако для правительства США этого оказалось достаточно, чтобы вмешаться и потребовать ограничить доступ.
И вот тут начинается самое интересное.
Последние несколько лет мы привыкли слышать про ограничения на поставки чипов. США запрещали экспортировать передовые процессоры в некоторые страны, чтобы замедлить развитие искусственного интеллекта у конкурентов. Это выглядело логично: нет мощного железа — нет мощного ИИ.
Но на этот раз произошло нечто принципиально новое: впервые ограничения наложены не на чипы и серверы — под запрет попал сам интеллект.
Фактически американские власти говорят: проблема уже не в том, на чем работает модель, проблема в том, что она умеет делать в целом. Если нейросеть слишком хорошо пишет код, анализирует уязвимости или решает сложные задачи, то ее начинают рассматривать как стратегическую технологию.
Именно поэтому нынешняя история с Fable 5 и Mythos 5 выглядит такой важной. Она показывает, что государства начинают относиться к искусственному интеллекту примерно так же, как раньше относились к ядерным технологиям, спутникам или криптографии.
И это только начало.
Сегодня ограничения коснулись одной компании по требованию правительства. Завтра похожие распоряжения могут получить и другие разработчики. Более того, вполне возможно, что через несколько лет доступ к самым мощным моделям будет зависеть не от того, сколько вы готовы заплатить, а от того, в какой стране живете и какое у вас гражданство.
Получается довольно странная картина. Еще недавно создатели ИИ предупреждали правительства о том, насколько мощными становятся их системы. Теперь правительства услышали эти предупреждения и начали предпринимать попытки контроля и ограничений.
Парадокс в том, что поводом для отключения стала не реальная атака, не масштабный инцидент и не доказанный ущерб, а только опасение, что возможности ИИ-модели в области поиска уязвимостей могут быть использованы не только исследователями безопасности, но и злоумышленниками.
Возможно, через пару недель Anthropic восстановит доступ и вся эта история забудется. Но куда вероятнее, что через несколько лет именно этот момент будут вспоминать как начало новой эпохи — когда государства начали контролировать экспорт не железа, а интеллекта.
Причина проста: технологии такого уровня становятся вопросом национальной безопасности для стран, которые их создают. Передовой ИИ все активнее интегрируется в оборонный сектор, разведку, кибербезопасность и государственное управление. И чем выше его возможности, тем меньше желания у государств свободно делиться такими инструментами с внешним миром.
Поэтому зависимость от внешних ИИ-технологий становится стратегическим риском. Если ключевые решения создаются за пределами страны, то доступ к самым передовым возможностям всегда будет ограничен политическими, коммерческими или военными соображениями.
В результате возникают риски технологического разрыва: страны, обладающие собственными передовыми ИИ-системами, получают преимущества в скорости принятия решений, автоматизации, анализе данных и оборонных технологиях, а остальные будут вынуждены догонять.
Оценили 6 человек
8 кармы