ИИ подставил человека: впервые выписан штраф за дезинформацию, предоставленную нейросетью

Нью-Йоркская юридическая фирма Levidow, Levidow & Oberman PC получила штраф в размере $5000 за использование в судебном производстве фейковых цитат, сгенерированных искусственным интеллектом.

Об этом сообщает Bloomberg.

Данное дело стало первым в мире, где ИИ подставил человека и стал причиной наказания.

Впрочем, как можно понять из вердикта суда, проблема заключалась не столько в искусственном интеллекте, сколько в том, что оштрафованные юристы сознательно проигнорировали признаки фейковости цитат, выданных нейросетью.

Более того, они продолжали настаивать на правдивости предоставленных данных, даже после того, как были уличены в использовании ИИ.

Как утверждает Bloomberg, юристами была использована нейросеть ChatGPT.

Каким образом могло случиться, что юристы настолько доверились искусственному интеллекту, что взяли его информацию без проверки, Bloomberg не узнал. Просьба о комментарии была отклонена.

Читайте также: Война чат-ботов. Как ChatGPT пошатнул гегемонию Google

Напоминаем:

Компания Apple ограничила использование чат-бота ChatGPT от OpenAI и других внешних инструментов искусственного интеллекта для своих сотрудников, поскольку разрабатывает подобную технологию и беспокоится об утечке данных.

Компания Samsung запретила использование генеративных инструментов ИИ, таких как ChatGPT, в своих внутренних сетях и на устройствах, принадлежащих компании, из-за опасений, что загрузка конфиденциальной информации на эти платформы представляет риск для безопасности.