OpenAI дозволить користувачам налаштовувати поведінку ChatGPT

Розробник ChatGPT, стартап OpenAI, заявив, що розробляє оновлення свого чат-бота, аби користувачі могли налаштовувати його поведінку.

Про це повідомляє Reuters з посиланням на блог стартапу.

Стартап заявив, що працював над пом'якшенням політичних та інших упереджень, але також хотів би враховувати "більш різноманітні погляди".

"Це означатиме, що ми дозволимо системі видавати результати, з якими інші люди (включно з нами) можуть категорично не погоджуватися", – йдеться в блозі. Тим не менш, "завжди будуть існувати певні обмеження, встановлені для поведінки системи".

Відповіді ChatGPT спочатку тренуються на великих текстових масивах даних, доступних в Інтернеті, після чого люди переглядають менші набори даних і отримують вказівки щодо того, що робити в різних ситуаціях. Наприклад, якщо користувач запитує контент для дорослих, насильницький або такий, що містить мову ненависті, людина-рецензент має дати ChatGPT відповідь на кшталт "Я не можу відповісти на це".

Якщо користувач запитує про суперечливу тему, рецензенти повинні дозволити ChatGPT відповісти на питання, але запропонувати описати точки зору людей і рухів, замість того, щоб намагатися "зайняти правильну точку зору на складні теми", - йдеться в інструкції компанії.