OpenAI позволит пользователям настраивать поведение ChatGPT

Разработчик ChatGPT, стартап OpenAI, заявил, что разрабатывает обновление своего чат-бота, чтобы пользователи могли настраивать его поведение.

Об этом сообщает Reuters со ссылкой на блог стартапа.

Стартап заявил, что работал над смягчением политических и других предубеждений, но также хотел бы учитывать "более разнообразные взгляды".

"Это будет означать, что мы позволим системе выдавать результаты, с которыми другие люди (включая нас) могут категорически не соглашаться", - говорится в блоге. Тем не менее, "всегда будут существовать определенные ограничения, установленные для поведения системы".

Ответы ChatGPT сначала тренируются на больших текстовых массивах данных, доступных в Интернете, после чего люди просматривают меньшие наборы данных и получают указания относительно того, что делать в различных ситуациях. Например, если пользователь запрашивает контент для взрослых, насильственный или содержащий язык ненависти, человек-рецензент должен дать ChatGPT ответ вроде "Я не могу ответить на это".

Если пользователь спрашивает о спорной теме, рецензенты должны позволить ChatGPT ответить на вопрос, но предложить описать точки зрения людей и движений, вместо того, чтобы пытаться "занять правильную точку зрения на сложные темы", - говорится в инструкции компании.