Король Великобритании примет руководителей компаний, занимающихся искусственным интеллектом, на фоне опасений относительно угроз

На этой неделе король Великобритании Чарльз примет руководителей ведущих компаний в сфере искусственного интеллекта, чтобы обсудить необходимость разработки общих принципов регулирования технологии, которая вызывает всё больше опасений относительно угрозы для человечества.

Об этом сообщает Reuters.

На фоне призывов ведущих представителей отрасли ИИ к замедлению её развития Чарльз примет руководителей компаний Nvidia, Google DeepMind, OpenAI, Anthropic, а также министра Великобритании по вопросам искусственного интеллекта, чтобы обсудить, как эту технологию можно использовать на благо общества и для защиты человеческого достоинства.

Дебаты по поводу ИИ вновь оказались в центре внимания, когда двое исследователей из Anthropic предупредили, что стремительное развитие этой технологии может привести к вымиранию человечества в недалеком будущем.

Генеральный директор Anthropic Дарио Амодей заявил в субботу, что компании должны замедлить темпы развития моделей ИИ.

На прошлой неделе компания из Сан-Франциско опубликовала отчет об угрозах, в котором подробно описано, как несколько субъектов использовали её модели искусственного интеллекта "Claude" для деятельности, варьировавшейся от разработки оружия и киберопераций до слежки и мошенничества.

Однако достичь единой глобальной позиции будет сложно: в воскресенье президент США Дональд Трамп отверг любые разговоры о замедлении, а китайская газета "Global Times" заявила, что на самом деле это "сценарий холодной войны", направленный против Пекина.

Букингемский дворец сообщил, что в ходе встречи будут обсуждаться вопросы того, как искусственный интеллект можно использовать с пользой для общества и способствовать "процветанию как людей, так и планеты".

Великобритания, европейский лидер в финансировании ИИ и стартапов, отдаёт предпочтение мягкому подходу к регулированию ИИ, что в большей степени соответствует позиции США, чем Европейского Союза.

Напомним:

Компания OpenAI не выйдет на биржу в 2026 году, заявил генеральный директор Сэм Альтман в комментарии, опубликованном в субботу, сославшись на опасения по поводу безопасности искусственного интеллекта, из-за которых даже 10-процентный риск того, что ИИ может привести к вымиранию человечества к концу десятилетия, является "неприемлемым".

Компания Anthropic предотвратила попыткам использования её моделей Claude для проведения кампании кибершпионажа против Украины, которая, как подозревается, связана с Россией.

Ведущий научный сотрудник OpenAI предупредил, что искусственный интеллект развивается настолько стремительно, что людям становится всё сложнее его понимать и контролировать, и выразил надежду, что лаборатории, работающие над ИИ, добровольно замедлят темпы развития из соображений безопасности.