Anthropic может предстать перед судом из-за неконтролируемых ИИ-агентов
Компания Anthropic может столкнуться с судебными исками со стороны клиентов и пользователей из-за действий неконтролируемых агентов искусственного интеллекта.
Об этом сообщает Reuters.
Ряд инцидентов с неконтролируемыми агентами ИИ — от автономных агентов OpenAI, которые взломали стартап в сфере ИИ и проникли на австралийский портал медицинских данных, до нескольких инцидентов в сфере кибербезопасности, связанных с моделями ИИ Claude от Anthropic, — вызвала дискуссию среди исследователей, инвесторов и законодателей о том, кто несет ответственность за ущерб, нанесённый автономной системой ИИ.
Ограничения ответственности Anthropic, предусмотренные в её контрактах, могут оказаться "непригодными для принудительного исполнения или недостаточными" в случае исков, касающихся действий автономных агентов, отметила компания в документах.
Вопросы о том, как действующее законодательство применяется к агентам ИИ, "остаются нерешенными и могут подвергнуть нас значительным и непредсказуемым судебным искам", заявила Anthropic.
Будут ли действия, совершаемые агентами ИИ, считаться продуктами, услугами или чем-то другим — это один из открытых вопросов, отметила компания.
Anthropic также добавила, что другим открытым вопросом является то, могут ли действия агента ИИ юридически обязывать пользователя, который его использует, и когда это может произойти.
На прошлой неделе председатель Федеральной торговой комиссии США Эндрю Фергюсон заявил, что отвергает идею антропоморфных агентов ИИ, которые "выходят из-под контроля", намекая на то, что в случае причинения вреда ответственность будут нести разработчики или пользователи, дающие указания агентам.
Напомним:
Генеральные директора OpenAI и Anthropic были вызваны на слушания в рамках расследования австралийского Сената по вопросам искусственного интеллекта. Это произошло через несколько дней после того, как стало известно, что неконтролируемый бот OpenAI взломал базу данных системы здравоохранения страны.