Ексспівробітник OpenAI, відповідальний за безпеку, розкритикував компанію

Колишній співробітник OpenAI, відповідальний за безпеку, Девід Робінсон, який нещодавно звільнився, розкритикував підхід компанії до безпеки штучного інтелекту, стверджуючи, що культура, орієнтована на стрімкий розвиток, підвищує ризик збоїв.

Про це повідомляє Reuters.

У статті "Я звільнився з OpenAI, бо її культура не працює", опублікованій у суботу в журналі "The Atlantic", Девід Робінсон зазначив, що компанії, які займаються штучним інтелектом, зокрема OpenAI, не виявляють "навіть близько достатньої обережності" і повинні приділяти більшу увагу експертизі та дослідженням у сфері безпеки, перш ніж розробляти більш потужні системи.

"Час проб і помилок минув", — написав Робінсон, стверджуючи, що передові системи штучного інтелекту потребують заходів безпеки, більш схожих на ті, що застосовуються в таких галузях, як атомна енергетика та авіація.

Робінсон зазначив, що OpenAI значною мірою покладається на те, що компанія називає "ітеративним розгортанням", випускаючи системи та посилюючи заходи безпеки, коли виникають проблеми.

Ці коментарі підсилюють дискусію в галузі штучного інтелекту щодо того, чи не рухаються компанії занадто швидко у напрямку розробки дедалі потужніших систем. OpenAI та її конкурент Anthropic опинилися під пильною увагою після інцидентів, під час яких заходи безпеки не спрацювали або експериментальні системи поводилися несподівано.

Робінсон, який, за його словами, пропрацював у OpenAI 3,5 роки, допомагав розробляти концепцію готовності компанії та курирував звіти з безпеки для 12 запусків передових моделей, написав: "Оскільки компанія мчить від одного запуску до іншого, їй не вдається досягти того рівня обережності, який, на мою думку, є необхідним".

Нагадаємо:

Президент США Дональд Трамп підписав указ про перейменування штучного інтелекту на "суперінтелект" у межах спроби змінити імідж цієї технології на тлі закликів обмежити її розвиток.