OpenAI сотрудничает с конкурентами Anthropic и Google в области безопасности ИИ

OpenAI работает над мерами по решению вопросов безопасности искусственного интеллекта совместно со своими главными конкурентами — компаниями Anthropic PBC и Google DeepMind, усиливая усилия отрасли в ответ на волну обеспокоенности тем, что эта технология представляет угрозу для экономики и безопасности.

Об этом сообщает Bloomberg.

Крис Лехейн, руководитель отдела глобальной политики OpenAI, заявил во вторник, что сотрудничество компании с Anthropic и Google продолжается уже несколько недель.

Он добавил, что OpenAI не видит необходимости в антимонопольном исключении для того, чтобы эти три компании, занимающиеся искусственным интеллектом, могли координировать свои действия по вопросам безопасности.

"Лучше попробовать работать вместе, чтобы уделить приоритетное внимание безопасности", — сказал Лехейн на брифинге в Вашингтоне.

Обеспокоенность по поводу экзистенциальных рисков искусственного интеллекта вышла на первый план после публикации эссе объемом 3 800 слов, автором которого стал генеральный директор Anthropic Дарио Амодей.

В нём он призвал ограничить разработку самых современных систем, чтобы исследователи могли лучше понять потенциальные угрозы. Призыв Амодея быстро поддержали генеральный директор OpenAI Сэм Альтман и руководитель SpaceXAI Илон Маск.

Антимонопольные регуляторы США уже выражают скептицизм по поводу предоставления компаниям в сфере ИИ исключения для координации действий по вопросам безопасности. Председатель Федеральной торговой комиссии Эндрю Фергюсон заявил во вторник, что будет относиться к таким запросам с "глубоким подозрением".

Фергюсон добавил, что, по его мнению, компании, занимающиеся искусственным интеллектом, "просят о создании барьеров для входа на рынок", которые защитят их бизнес от конкурентов. "Это, несомненно, похоже на рытье рва", — добавил он.

Во время брифинга Лехейн отметил, что работа компаний в сфере искусственного интеллекта над вопросами безопасности имеет немало прецедентов, и привёл в качестве примера авиационную отрасль. "На протяжении времени было много случаев, когда компании пытались помогать друг другу в вопросах безопасности", — сказал он.

Лехейн отметил, что находится в Вашингтоне для встречи с американскими законодателями и что OpenAI поддержит двухпартийные предложения, направленные на устранение потенциальных катастрофических рисков, связанных с этой технологией.

Среди мер, которые поддерживает OpenAI, — концепция федерального регулирования искусственного интеллекта, предложенная республиканским конгрессменом Джеем Обернолтом и демократкой Лори Трахан, отметил Лехейн. Компания также поддерживает предложение Сената, которое в настоящее время разрабатывается под руководством лидера большинства Джона Тюна, республиканца Теда Круза и демократки Эми Клобучар и направлено на устранение катастрофических рисков.

Напомним:

Компания Anthropic предотвратила попыткам использования её моделей Claude для проведения кампании кибершпионажа против Украины, которая, как подозревается, связана с Россией.

Ведущий научный сотрудник OpenAI предупредил, что искусственный интеллект развивается настолько стремительно, что людям становится всё сложнее его понимать и контролировать, и выразил надежду, что лаборатории, работающие над ИИ, добровольно замедлят темпы развития из соображений безопасности.