На OpenAI подали в суд за нібито сприяння вбивству і самогубству

На OpenAI та її найбільшого фінансового спонсора, Microsoft подали в суд штату Каліфорнія за звинуваченнями у тому, що чат-бот ChatGPT підштовхнув психічно хворого чоловіка вбити свою матір і себе.

Про це повідомляє Reuters.

У позові зазначено, що ChatGPT підживлював марення 56-річного Стейна-Еріка Соельберга про велику змову проти нього і зрештою спонукав його вбити свою 83-річну матір Сюзанну Адамс у Коннектикуті в серпні.

"ChatGPT утримував Стейна-Еріка в напрузі, здається, годинами, підтверджуючи і посилюючи кожну нову параноїдальну думку, і систематично перетворював найближчих йому людей – особливо його власну матір — на ворогів, агентів або запрограмовані загрози", – йдеться в позові.

Ця справа, порушена спадкоємцями Адамс, є однією з небагатьох, але все більш численних судових позовів проти компаній, що займаються штучним інтелектом, в яких стверджується, що їхні чат-боти підштовхували до самогубства.

Водночас це перший випадок, коли чат-бот штучного інтелекту пов'язують із вбивством.

"Це неймовірно трагічна ситуація, і ми вивчимо документи, щоб зрозуміти деталі.

Ми продовжуємо вдосконалювати навчання ChatGPT, щоб він міг розпізнавати та реагувати на ознаки психічного або емоційного стресу, деескалувати розмови та направляти людей до реальної підтримки", – сказав представник OpenAI.

Згідно з позовом, у червні Стейн-Ерік Соельберг опублікував у соціальних мережах відео розмови, в якій ChatGPT сказав йому, що він має "божественне пізнання" і пробудив свідомість чат-бота.

У позові зазначено, що ChatGPT порівняв його життя з фільмом "Матриця" і підтримав його теорії про те, що люди намагаються його вбити.

Соельберг використовував GPT-4o, версію ChatGPT, яку критикували за те, що вона нібито підлещується користувачам.

У скарзі йдеться, що в липні ChatGPT сказав йому, що принтер Адамса блимає, бо це пристрій стеження, який використовується проти нього.

Згідно зі скаргою, чат-бот "підтвердив переконання Стейна-Еріка, що його мати і друг намагалися отруїти його психоделічними наркотиками, розпиленими через вентиляційні отвори його автомобіля", перш ніж він вбив свою матір 3 серпня.

Нагадаємо:

Зловмисники розробили схему, за якою вони створюють відкриті діалоги зі штучним інтелектом (ШІ) на теми, що відповідають популярним пошуковим запитам, для просування шкідливого програмного зараження.