Американские власти потребовали немедленно ограничить доступ к новейшим моделям искусственного интеллекта Fable 5 и Mythos 5, разработанным компанией Anthropic (разработчик популярной нейросети Claude). В результате сервисы были отключены для пользователей по всему миру, несмотря на то что изначально ограничения касались доступа иностранных лиц к этим системам.
Как следует из опубликованной информации, решение было принято на фоне опасений, связанных с национальной безопасностью США. По данным американских властей, был выявлен способ обхода встроенных ограничений моделей, позволяющий использовать их для поиска уязвимостей в программном обеспечении и проведения потенциально опасных киберопераций.
В Anthropic резко раскритиковали решение регуляторов. Компания заявила, что власти предоставили лишь ограниченные доказательства существования проблемы и фактически потребовали остановить работу передовых моделей без полноценной процедуры оценки рисков. По мнению разработчиков, обнаруженный метод не является уникальным для Fable 5 и Mythos 5, а аналогичные подходы потенциально могут применяться и к другим современным нейросетям.
Представители компании подчеркивают, что абсолютной защиты от так называемых «джейлбрейков» – способов обхода ограничений ИИ – на сегодняшний день не существует. По их словам, если практика полного отключения моделей после обнаружения подобных уязвимостей станет нормой, это может существенно замедлить развитие всей индустрии искусственного интеллекта и фактически заблокировать вывод новых систем на рынок.
Ситуация выглядит особенно резонансной на фоне недавнего запуска Fable 5. Модель была представлена всего несколько дней назад как первая публично доступная версия ИИ нового класса Mythos. Anthropic позиционировала её как одну из самых мощных систем для программирования, научных исследований и решения сложных аналитических задач. При этом компания заранее внедрила дополнительные защитные механизмы, ограничивающие использование модели в чувствительных областях, связанных с кибербезопасностью и биологическими исследованиями.
В самой Anthropic ранее признавали, что семейство Mythos обладает выдающимися возможностями по поиску программных уязвимостей. В рамках проекта Glasswing эти модели использовались для анализа критически важного программного обеспечения и выявления потенциальных угроз безопасности. Именно эти способности, как считают наблюдатели, могли стать одной из причин повышенного внимания со стороны американских властей.
Произошедшее может стать важным прецедентом для всей отрасли. Впервые экспортные ограничения США фактически затронули не только аппаратное обеспечение для ИИ, но и сами передовые модели искусственного интеллекта. Если подобный подход будет распространён на другие разработки, это может существенно изменить правила глобального рынка ИИ.
Источник: https://topcor.ru/72044-vlasti...
Оценили 2 человека
4 кармы