Перед звільненням Альтмана співробітники OpenAI попередили керівництво про відкриття, яке може нести загрозу - ЗМІ

getty images

Напередодні звільнення генерального директора OpenAI Сема Альтмана кілька дослідників написали лист до ради директорів, попереджаючи про потужне відкриття штучного інтелекту, яке, за їхніми словами, може загрожувати людству.

Про це повідомляє Reuters з посиланням на два джерела, знайомих із цим питанням.

Джерела назвали цей лист одним із факторів у довгому списку скарг правління, які призвели до звільнення Альтмана, серед яких були занепокоєння щодо комерціалізації авансів до розуміння наслідків

OpenAI, який відмовився від коментарів, визнав у внутрішньому повідомленні для співробітників проект під назвою Q* і лист до правління перед подіями на вихідних, сказав один із співрозмовників.

Представник OpenAI сказав, що повідомлення, надіслане давнім керівником Мірою Мураті, попередило персонал про певні історії ЗМІ, не коментуючи їх точність.

Деякі співробітники OpenAI вважають, що Q* (вимовляється як Q-Star) може стати проривом у пошуках надінтелекту, також відомого як загальний штучний інтелект (AGI). 

Враховуючи величезні обчислювальні ресурси, нова модель здатна вирішувати певні математичні завдання, повідомила людина на умовах анонімності.

Попри те, що задачі вирішуються лише на рівні початкової школи, це дало дослідникам дуже оптимістичні очікування щодо майбутнього успіху Q*, повідомив співрозмовник агентства.

Дослідники вважають математику меже. розвитку генеративного ШІ. Наразі генеративний штучний інтелект добре справляється з написанням і перекладом мови, статистично передбачаючи наступне слово, і відповіді на те саме запитання можуть сильно відрізнятися. 

На відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI може узагальнювати, вивчати та розуміти.

У своєму листі до правління дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту, повідомили джерела, не уточнюючи точних проблем безпеки, зазначених у листі. 

Серед комп’ютерників давно точиться дискусія про небезпеку, яку становлять високоінтелектуальні машини, наприклад, якщо вони вирішать, що в їхніх інтересах знищення людства.

Нагадаємо: 

Сем Альтман за рішенням ради директорів залишив посаду CEO OpenAI, а Міра Мураті, чинна технічна директорка, тимчасово очолить компанію.

Найбільші інвестори OpenAI, серед яких Microsoft, вимагали повернути Сема Альтмана на посаді генерального директора після несподіваного рішення ради директорів звільнити його.

20 листопада стало відомо, що колишній СЕО OpenAI Сем Альтман і президент компанії Грег Брокман разом приєднаються до Microsoft, де очолять нову передову дослідницьку групу штучного інтелекту. 

Пізніше стало відомо, що співзасновник OpenAI Сем Альтман повернеться на посаду СЕО компанії після того, як його звільнили 17 листопада. Сторони досягли принципової згоди щодо його повернення в компанію.