Белый дом отменил запрет на ИИ-модели разработчика Claude

Правительство США отменило экспортные ограничения в отношении ведущих моделей Anthropic, положив конец длительному противостоянию между компанией в сфере искусственного интеллекта с капитализацией 1 трлн долларов и администрацией Трампа.

Об этом сообщает Financial Times.

По информации лиц, осведомленных об этом деле, во вторник вечером Министерство торговли США сообщило Anthropic об отмене запрета на доступ иностранцев к моделям Mythos и Fable. Это решение позволяет компании вновь выпустить свою последнюю модель, Fable 5, для широкой публики.

На прошлой неделе правительство разрешило Anthropic повторно выпустить Mythos 5 — модель с меньшим количеством защитных мер, предназначенную для корпоративных клиентов, — для около 100 предварительно проверенных партнеров.

В письме к соучредителю Anthropic Тому Брауну, с которым ознакомилось издание FT, министр торговли Говард Лутник отметил, что отменяет запрет после того, как Anthropic "согласилась активно выявлять и устранять риски безопасности, связанные с этими моделями".

Лицо, близкое к Anthropic, отметило, что компания "внедрила новый защитный механизм", который конкретно решает проблемы, ставшие причиной запрета. Этот механизм был протестирован и одобрен правительственным Центром стандартов и инноваций в сфере искусственного интеллекта.

Лутник ввёл экспортные ограничения в отношении Anthropic 12 июня после того, как правительство обнаружило "джейлбрейк", то есть способ обхода встроенных в модель мер безопасности. Это вынудило Anthropic удалить свои мощные модели для всех пользователей по всему миру.

Этот инцидент обострил напряженность между Белым домом и Кремниевой долиной, которая критиковала ситуативный подход правительства к регулированию передовых технологий искусственного интеллекта. Это также вызвало негативную реакцию со стороны иностранных правительств, которые обвинили США в наказании своих союзников путем введения запрета.

Напомним:

Модель искусственного интеллекта Mythos компании Anthropic вызвала хаос в стратегии Белого дома: открывая широкие возможности, модель также может находить уязвимые места в системах, что беспокоит Белый дом.