Модель Mythos внесла "хаос" у стратегію США щодо штучного інтелекту – WSJ

Модель искусственного интеллекта Mythos компании Anthropic вызвала хаос в стратегии Белого дома: открывая широкие возможности, модель также может находить и уязвимые места в системах, что беспокоит Белый Дом.

Об этом говорится в публикации The Wall Street Journal.

Как пишет издание, вице-президент США Дж. Д. Вэнс был "встревожен" во время разговора с лидерами крупных компаний в сфере искусственного интеллекта.

Участники обсуждали, что технологии могут как защищать системы, так и потенциально использоваться для поиска и использования уязвимостей.

Такие модели ИИ, такие как Mythos, способные самостоятельно обнаруживать уязвимости программного обеспечения, могут сделать возможными кибератаки, от которых местные правительства пока не имеют защиты.

Mythos способна автоматически обнаруживать и комбинировать уязвимости программного обеспечения в масштабах, превышающих человеческие возможности.

"Мы все должны поработать над этим вопросом", - сказал Вэнс генеральным директорам, включая Сэма Альтмана из OpenAI, Дарио Амодеи из Anthropic, Илона Маска из SpaceX и других.

Издание пишет о "хаотичной реакции администрации на Mythos, что грозит увеличением государственного контроля над ИИ и пересмотром технологической программы администрации", - говорится в публикации.

И это отличается от предыдущего настроения относительно "победы в гонке искусственного интеллекта против Китая" и устранения барьеров для внедрения моделей, отмечает WSJ. Белый дом теперь рассматривает установление надзора за самыми современными моделями искусственного интеллекта.

Белый дом хочет принять новые меры безопасности и ограничения по использованию инструментов искусственного интеллекта.

Компания Anthropic предоставила доступ к модели Mythos примерно 40 крупным технологическим компаниям для тестирования и оценки рисков, связанных с безопасностью.

В компании заявили, что продолжают взаимодействие с правительством США по вопросам возможностей и рисков своих моделей, особенно в части кибербезопасности и потенциального двойного использования технологий.

Напомним:

Крупнейшие технологические компании США потратят в этом году около 725 млрд долларов на развитие искусственного интеллекта и дата-центров, но это снизит их совокупный свободный денежный поток.

На рынке труда в IT-отрасли происходит сдвиг: востребованными будут эксперты различных ролей и направлений с глубокой экспертизой в сфере искусственного интеллекта.