Чатбот, який може стати твоїм другом або забере твою роботу. Чим небезпечна нова розробка OpenAI?

Як і все в цьому світі, що створила людина, OpenAI є благородною та альтруїстичною ініціативою.

Організація, яка започатковувалася для дослідження штучного інтелекту (ШІ), у своїй місії заявляє, що автономні системи, які перевершують людей у більшості економічно цінних робіт, мають приносити користь людству.

Проте з розвитком сервісів компанії доступ до них обмежувався на користь корпорації Microsoft, а неприбутковий статус замінили плани заробити у 2024 році мільярд доларів.

Бот, який максимально подібно до людини відповідає на запитання, може зруйнувати освітню систему в США, позбавити мільйони людей роботи і стерти межу між текстами, які написали людина та програма.

Страх перед грандіозним провалом: як створювалася OpenAI

У 2015 році Ілон Маск, співзасновник платіжної системи Paypal Пітер Тіль та колишній президент бізнес-інкубатора Y Combinator Сем Альтман оголосили про створення компанії OpenAI.

Спочатку вона позиціювалася як некомерційна структура з відкритими для суспільства патентами.

Ідея OpenAI полягала в проведенні досліджень та розробок у сфері ШІ, що принесе користь людству. У компанії переконують, що розуміння розвитку нейромереж допоможе створити безпечний та корисний штучний інтелект.

Маска важко назвати технологічним песимістом, однак від його заяв щодо перспектив розвитку ШІ завжди віяло стриманим оптимізмом.

Виступаючи у 2014 році перед студентами Массачусетського технологічного інституту, він назвав штучний інтелект найбільшою екзистенційною загрозою для людства і порівняв його з викликанням демона.

Сем Альтман, один із засновників OpenAI, теж стурбований можливими перспективами розвитку ШІ. Він вважає, що в найближчі кілька десятиліть людство попрямує до самознищення або нащадки людей колонізують Всесвіт.

Їх побоювання не були безпідставними. Відомий учений-астрофізик Стівен Гокінг, розмірковуючи про вплив ШІ, запевняв, що помилки при його створенні можуть призвести до катастрофічних наслідків.

Маск навіть пропонував уряду США створити спеціальний комітет, який вивчатиме проблеми штучного інтелекту перед ухваленням профільних регуляторних рішень.

Основним конкурентом OpenAI вважається компанія DeepMind, якою володіє Google.

Її розробки AlphaGo та AlphaZero викликали в Маска занепокоєння через відсутність нормативних стандартів підзвітності при роботі над складними та потужними системами штучного інтелекту.

До речі, Маск у 2018 році вийшов з ради директорів OpenAI, посилаючись на можливий конфлікт інтересів через розробку штучного інтелекту для автопілотів Tesla.

Дітище OpenAI

Як і зазначала компанія, її перші розробки побудовані на дослідженні способів розвитку штучного інтелекту. Зазвичай дослідження OpenAI зосереджуються на навчанні з підкріпленням (Reinforcement learning).

Першим продуктом у цій сфері став GYM – тренажер для ШІ. Платформа задумувалася як стандарт для порівняльного аналізу певних видів алгоритмів штучного інтелекту та місце, де люди можуть ділитися своїми результатами.

Наступним результатом дослідження OpenAI стала більш потужна форма машинного навчання RoboSumo, де віртуальні борці сумо повинні швидко навчатися в мінливому середовищі.

У 2018 році компанія представила Debate Game, де машини обговорюють примітивні питання з людиною-суддею. Мета гри – дослідити, чи може такий підхід допомогти в перевірці рішень штучного інтелекту.

У OpenAI є багато напрацювань щодо напрямків розвитку ШІ та його контролю. Це була основна ціль компанії з моменту її створення, але потім з’явився GPT.

GPT і його "вбивця професій" ChatGPT

ChatGPT компанія представила в листопаді 2022 року. Чат-бот працює на базі GPT3.5, яка є генеративною моделлю тренувань мови. Для OpenAI це вже четверта нейромережева модель, за допомогою якої ChatGPT і став популярним.

Основним заданням таких моделей є вивчення і розуміння світу через аналіз суцільних частин тексту. Відповідно, штучний інтелект з кожним новим поколінням опрацьовував дедалі більші обсяги тексту.

Можливості чат-бота вражають. Він може не просто змістовно відповідати на запитання користувачів, а й виконувати певні завдання.

Нейромережа здатна генерувати тексти різного стилю, наприклад, скласти корпоративний лист, написати есе чи підготувати змістовний пост для соціальних сторінок.

За перший тиждень функціонування бота його послугами скористалися понад мільйон користувачів.

Компанія OpenAI обмежила доступ до ChatGPT в Україні, тому перевірити роботу нейромережі можна за допомогою сервісів, які реєструуть користувачів як громадян інших країн.

Чат-боту можна ставити будь-які запитання. Відповідає він максимально розгорнуто та зрозуміло.

Для генерації тексту користувачу необхідно вказати тему повідомлення і його параметри. Далі ChatGPT генерує текст з дотриманням структури та відмінною граматикою, якщо користувач не дає завдання зробити кілька помилок.

Інша людина, яка прочитає такий текст, не здатна точно сказати, хто його написав. Саме цей аспект викликав занепокоєння серед представників освітньої сфери.

Тепер школярі й студенти можуть генерувати домашні завдання за допомогою чат-боту і не боятися провалу під час перевірки тексту на плагіат. ШІ будує переконливі логічні конструкції з використанням прикладів чи історичних фактів.

Через це управління освіти штату Нью-Йорк вирішило обмежити доступ до ChatGPT для студентів та вчителів на пристроях закладів освіти.

У приціл штучного інтелекту потрапили професії, повʼязані з текстами. Чат-бот може миттєво згенерувати контент для соцмереж компанії чи бренду.

Навіть українські ІТ-спеціалісти використовують можливості ChatGPT, делегуючи йому написання планів робіт, технічну документацію, звіти, ділові листи. Останнє економить час для комунікації з міжнародними партнерами.

Коли чат-бота попросили згенерувати фрагмент коду певною мовою програмування, він виконав завдання і переконливо аргументував свої дії.

Проте, як і його конкуренти в Google чи Meta, ChatGPT часто помиляється: перекручує деталі або генерує тексти з неправдивою інформацією. Нейромережа може давати правдоподібні відповіді, але за змістом це буде нісенітниця.

Через це сайт запитань і відповідей для програмістів Stack Overflow заборонив публікувати відповіді, згенеровані ChatGPT, оскільки його пропозиції найчастіше були неправильними.

Користувачі могли легко отримувати відповіді та видавати їх за свої для підвищення власного рейтингу на сайті. Відповіді були підкріплені переконливою аргументацією, що не дозволяло одразу помічати хибність коду.

Як Stack Overflow планує модерувати контент, невідомо, оскільки відрізнити машинну відповіть від відповіді людини неможливо.

Альтруїзм перетворився на бізнес

Від початку заснування організація існувала на кошти її фундаторів. Проте у 2019 році була створена компанія OpenAI LP як поєднання комерційної та некомерційної організації з "обмеженим прибутком".

Новою компанією зацікавилася Microsoft, яка інвестувала в неї 1 млрд дол. Для Microsoft та її хмарної платформи Azure це був стратегічний крок у конкуренції з Google, Amazon та іншими гравцями на ринку технологій ШІ.

Через відносний успіх ChatGPT на базі GPT3.5 Microsoft обговорює інвестування в OpenAI 10 млрд дол. Зазначається, що до участі в раунді будуть залученні інші інвестори, а ціна компанії може зрости до 29 млрд дол.

Ще одним успішним проєктом монетизації OpenAI є DALL-E 2. Це нейромережа, яка створює зображення за текстовим описом.

Усі користувачі після реєстрації отримують 50 безплатних кредитів, а потім ще 15 щомісяця. Якщо безплатні кредити закінчилися, додаткові 115 можна придбати за 15 дол.

Для Microsoft це чудовий момент посунути за допомогою ChatGPT та DALL-E 2 гегемона інтернет-пошуків Google своєю пошуковою системою Bing.

За інформацією Reuters, у 2023 році OpenAI планує отримати 200 млн дол доходу, а у 2024 році – 1 млрд дол.