Anthropic може постати перед судом через неконтрольовані агенти ШІ

Компанія Anthropic може зіткнутися з судовими позовами від клієнтів та користувачів через дії неконтрольованих агентів штучного інтелекту.

Про це повідомляє Reuters.

Низка інцидентів із неконтрольованими агентами ШІ — від автономних агентів OpenAI, які зламали стартап у сфері ШІ та проникли на австралійський портал медичних даних, до кількох інцидентів у сфері кібербезпеки, пов'язаних із моделями ШІ Claude від Anthropic, — спричинила дискусію серед дослідників, інвесторів та законодавців щодо того, хто несе відповідальність за шкоду, заподіяну автономною системою ШІ.

Обмеження відповідальності Anthropic, передбачені в її контрактах, можуть виявитися "непридатними для примусового виконання або недостатніми" у разі позовів щодо дій автономних агентів, зазначила компанія в документах.

Питання щодо того, як існуюче законодавство застосовується до агентів ШІ, "залишаються невирішеними і можуть наражати нас на значні та непередбачувані юридичні позови", заявила Anthropic.

Чи будуть дії, здійснені агентами ШІ, вважатися продуктами, послугами чи чимось іншим, — це одне з відкритих питань, зазначила компанія.

Anthropic також додала, що іншим відкритим питанням є те, чи можуть дії агента ШІ юридично зобов'язувати користувача, який його використовує, і коли це може статися.

Минулого тижня голова Федеральної торгової комісії США Ендрю Фергюсон заявив, що відкидає ідею антропоморфних агентів ШІ, які "виходять з-під контролю", натякаючи на те, що у разі заподіяння шкоди відповідальність нестимуть розробники або користувачі, які дають вказівки агентам.

Нагадаємо:

Генеральних директорів OpenAI та Anthropic викликали на слухання в рамках розслідування австралійського Сенату щодо штучного інтелекту. Це сталося через кілька днів після того, як стало відомо, що неконтрольований бот OpenAI зламав базу даних системи охорони здоров'я країни.