Перед увольнением Альтмана сотрудники OpenAI предупредили руководство об открытии, которое может представлять угрозу - СМИ
Накануне увольнения генерального директора OpenAI Сэма Альтмана несколько исследователей написали письмо совету директоров, предупреждая о мощном открытии искусственного интеллекта, которое, по их словам, может угрожать человечеству.
Об этом сообщает Reuters со ссылкой на два источника, знакомых с этим вопросом.
Источники назвали это письмо одним из факторов в длинном списке жалоб правления, которые привели к освобождению Альтмана, среди которых были обеспокоенность коммерциализации авансов к пониманию последствий
Отказавшийся от комментариев OpenAI признал во внутреннем сообщении для сотрудников проект под названием Q* и письмо к правлению перед событиями на выходных, сказал один из собеседников.
Представитель OpenAI сказал, что сообщение, посланное давним руководителем Мирой Мурати, предупредило персонал об определенных историях СМИ, не комментируя их точность.
Некоторые сотрудники OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поисках сверхинтеллекта, также известного как общий искусственный интеллект (AGI).
Учитывая огромные вычислительные ресурсы новая модель способна решать определенные математические задачи, сообщил человек на условиях анонимности.
Несмотря на то, что задачи решаются на уровне начальной школы, это дало исследователям очень оптимистичные ожидания будущего успеха Q*, сообщил собеседник агентства.
Исследователи считают математику на грани. развития генеративного ИИ Пока генеративный искусственный интеллект хорошо справляется с написанием и переводом языка, статистически предполагая следующее слово, и ответы на тот же вопрос могут сильно отличаться.
В отличие от калькулятора, который может производить ограниченное количество операций, AGI может обобщать, изучать и понимать.
В своем письме в правление исследователи отметили мастерство и потенциальную опасность искусственного интеллекта, сообщили источники, не уточняя точных проблем безопасности, указанных в письме.
Среди компьютерщиков давно идет дискуссия об опасности, которую представляют высокоинтеллектуальные машины, например, если они решат, что в их интересах уничтожение человечества.
Напомним:
Сэм Альтман по решению совета директоров покинул пост CEO OpenAI, а Мира Мурати, действующий технический директор, временно возглавит компанию.
Крупнейшие инвесторы OpenAI, среди которых Microsoft, требовали вернуть Сэма Альтмана в должности генерального директора после неожиданного решения совета директоров уволить его.
20 ноября стало известно, что бывший СЕО OpenAI Сэм Альтман и президент компании Грег Брокман вместе присоединятся к Microsoft, где возглавят новую передовую исследовательскую группу искусственного интеллекта.
Позже стало известно, что соучредитель OpenAI Сэм Альтман вернется на должность СЕО компании после того, как его уволили 17 ноября. Стороны достигли принципиального согласия по его возвращению в компанию.