Модель Mythos внесла "хаос" у стратегію США щодо штучного інтелекту – WSJ
Модель искусственного интеллекта Mythos компании Anthropic вызвала хаос в стратегии Белого дома: открывая широкие возможности, модель также может находить и уязвимые места в системах, что беспокоит Белый Дом.
Об этом говорится в публикации The Wall Street Journal.
Как пишет издание, вице-президент США Дж. Д. Вэнс был "встревожен" во время разговора с лидерами крупных компаний в сфере искусственного интеллекта.
Участники обсуждали, что технологии могут как защищать системы, так и потенциально использоваться для поиска и использования уязвимостей.
Такие модели ИИ, такие как Mythos, способные самостоятельно обнаруживать уязвимости программного обеспечения, могут сделать возможными кибератаки, от которых местные правительства пока не имеют защиты.
Mythos способна автоматически обнаруживать и комбинировать уязвимости программного обеспечения в масштабах, превышающих человеческие возможности.
"Мы все должны поработать над этим вопросом", - сказал Вэнс генеральным директорам, включая Сэма Альтмана из OpenAI, Дарио Амодеи из Anthropic, Илона Маска из SpaceX и других.
Издание пишет о "хаотичной реакции администрации на Mythos, что грозит увеличением государственного контроля над ИИ и пересмотром технологической программы администрации", - говорится в публикации.
И это отличается от предыдущего настроения относительно "победы в гонке искусственного интеллекта против Китая" и устранения барьеров для внедрения моделей, отмечает WSJ. Белый дом теперь рассматривает установление надзора за самыми современными моделями искусственного интеллекта.
Белый дом хочет принять новые меры безопасности и ограничения по использованию инструментов искусственного интеллекта.
Компания Anthropic предоставила доступ к модели Mythos примерно 40 крупным технологическим компаниям для тестирования и оценки рисков, связанных с безопасностью.
В компании заявили, что продолжают взаимодействие с правительством США по вопросам возможностей и рисков своих моделей, особенно в части кибербезопасности и потенциального двойного использования технологий.
Напомним:
Крупнейшие технологические компании США потратят в этом году около 725 млрд долларов на развитие искусственного интеллекта и дата-центров, но это снизит их совокупный свободный денежный поток.
На рынке труда в IT-отрасли происходит сдвиг: востребованными будут эксперты различных ролей и направлений с глубокой экспертизой в сфере искусственного интеллекта.