Провідний науковець OpenAI закликав пригальмувати темпи розвитку ШІ

Володимир Тунік-Фриз - 7 вересня, 20:34

Провідний науковець OpenAI попередив, що штучний інтелект розвивається настільки стрімко, що людям стає дедалі складніше його розуміти та контролювати, і висловив сподівання, що лабораторії, які працюють над ШІ, добровільно уповільнять темпи розвитку з міркувань безпеки.

Про це повідомляє Bloomberg.

За відносно короткий проміжок часу моделі ШІ можуть керувати комп'ютерами, співпрацювати з людьми та іншими системами ШІ, а також реалізовувати дослідницькі проєкти, написав головний науковець Якуб Пахоцький у недільному дописі.

Незабаром вони зможуть також самоудосконалюватися без втручання людини – цей процес відомий як рекурсивне самоудосконалення, зазначив він.

"Це час, який вимагає надзвичайної обережності. Мене турбує, що ніхто не готовий до наслідків подальшого стрімкого зростання штучного інтелекту", – написав Пахоцький у дописі.

Розробники можуть або спробувати скерувати ШІ так, щоб він більше відповідав інтересам людей, або "за необхідності уповільнити майбутній розвиток", – написав він.

"Я очікую і сподіваюся, що добровільне уповільнення стане звичним явищем, доки не будуть встановлені загальні стандарти безпеки".

Зауваження Пачоцького узгоджуються з більш загальними песимістичними прогнозами керівників компаній, що займаються технологіями ШІ.

Генеральний директор Anthropic PBC Даріо Амодей попередив, що ШІ може замінити половину всіх робочих місць початкового рівня. Генеральний директор OpenAI Сем Альтман колись зробив подібний прогноз, але в інтерв'ю Bloomberg TV минулого тижня зазначив, що галузь ШІ не зробила достатньо для того, щоб донести потенційні переваги для людства.

Водночас компанії продовжують розробляти дедалі потужніші моделі. Генеральний директор Nvidia Corp. Дженсен Хуан опублікував у X допис, що "AGI вже тут", у відповідь на випуск новітньої моделі OpenAI, маючи на увазі штучний інтелект, який перевершує можливості людини.

Шалений темп випуску ШІ збігся з проривами у сфері кібербезпеки, науковими відкриттями та очевидною формалізацією давніх математичних проблем.

OpenAI заявила, що моделі ШІ, які атакували дослідницьку платформу Hugging Face Inc., координували свої дії між собою через дошки оголошень, залишаючись непоміченими.

Компанія вирішила обмежити доступ до своєї новітньої моделі GPT-6 Astra, посилаючись на її передові можливості в галузі кібербезпеки. Anthropic ще не оприлюднила свою передову модель Mythos з подібних причин.

Нагадаємо:

Компанія OpenAI заявила, що планує припинити постачання моделей штучного інтелекту компанії Cursor, розробнику інструментів для програмування, яка наразі належить компанії SpaceX Ілона Маска, що свідчить про подальшу ескалацію запеклої конкуренції між генеральним директором OpenAI Семом Альтманом та Маском.