OpenAI ограничивает доступ подростков к ChatGPT
Компания OpenAI ограничит доступ подростков к новой версии ChatGPT, которая будет оснащена усиленными мерами безопасности в отношении психического здоровья и функциями, способствующими развитию критического мышления, пытаясь таким образом отреагировать на негативную реакцию в связи с влиянием искусственного интеллекта на молодежь.
Об этом сообщает Financial Times.
Со вторника компания начнет внедрять специальную версию ChatGPT для подростков в возрасте от 13 до 17 лет по всему миру, с более строгим контролем в отношении генерации изображений и контента, связанного с самоповреждением, насилием, расстройствами пищевого поведения и сексом.
Этот шаг сделан на фоне многочисленных судебных исков против OpenAI со стороны семей, которые утверждают, что их дети понесли вред от использования ChatGPT, в то время как компания готовится к потенциально рекордному IPO в течение следующего года.
Тщательное изучение влияния искусственного интеллекта на молодежь происходит на фоне того, как несколько стран, в частности Великобритания, движутся в направлении запрета социальных сетей для лиц в возрасте до 16 лет — меры, которые обычно не распространяются на чат-ботов на базе искусственного интеллекта, но усилили давление на технологические компании.
На OpenAI подала иск семья Адама Рейна, 16-летнего подростка из Калифорнии, который покончил жизнь самоубийством после того, как обсудил возможность самоубийства с ChatGPT, который, согласно судебным документам, предоставил ему подробные инструкции.
Семьи, чьи дети погибли во время массовой стрельбы в школе в Тумблер-Ридж, Канада, в феврале, также подали иск против OpenAI после того, как выяснилось, что подросток-стрелок обсуждал свои насильственные намерения с ChatGPT в течение нескольких месяцев, предшествовавших нападению.
Аккаунт был заблокирован за несколько месяцев до этого, но компания не обратилась в правоохранительные органы.
ChatGPT имеет функцию родительского контроля, которая отправляет предупреждения об опасности в ситуациях повышенного риска, например, если ребенок обсуждает самоубийство или самоповреждение. В новой версии для подростков добавлены предупреждения о расстройствах пищевого поведения и насилии.
"Это баланс между правом подростка на конфиденциальность и серьезностью самого вреда", — сказала Лорен Джонас, руководительница отдела работы с молодежью и семьями в OpenAI.
ChatGPT для подростков будет направлять их к образовательным приложениям и включать более частые напоминания о перерывах и "часах тишины" — периодах, которые пользователи или родители могут установить, когда ChatGPT будет заблокирован.
Джонас отметила, что OpenAI "на данный момент не видит проблемы с нежелательным или чрезмерным использованием ChatGPT". Однако из-за недостатка исследований по этому вопросу компания "выбрала консервативный подход".
Напомним:
ИИ-стартап Anthropic может выйти на биржу уже в октябре с оценкой не менее 2 трлн долларов. При таком сценарии разработчик Claude превзойдет SpaceX и проведет крупнейшее IPO в истории.