Ведущий научный сотрудник OpenAI призвал замедлить темпы развития ИИ
Ведущий научный сотрудник OpenAI предупредил, что искусственный интеллект развивается настолько стремительно, что людям становится всё сложнее его понимать и контролировать, и выразил надежду, что лаборатории, работающие над ИИ, добровольно замедлят темпы развития из соображений безопасности.
Об этом сообщает Bloomberg.
За относительно короткий промежуток времени модели ИИ могут управлять компьютерами, взаимодействовать с людьми и другими системами ИИ, а также реализовывать исследовательские проекты, написал главный научный сотрудник Якуб Пахоцкий в воскресном посте.
Вскоре они смогут также самосовершенствоваться без вмешательства человека — этот процесс известен как рекурсивное самосовершенствование, отметил он.
"Это время, требующее чрезвычайной осторожности. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного роста искусственного интеллекта", — написал Пахоцкий в своём посте.
Разработчики могут либо попытаться направить ИИ так, чтобы он в большей степени соответствовал интересам людей, либо "при необходимости замедлить будущее развитие", — написал он.
"Я ожидаю и надеюсь, что добровольное замедление станет обычным явлением, пока не будут установлены общие стандарты безопасности".
Замечания Пачоцкого согласуются с более общими пессимистическими прогнозами руководителей компаний, занимающихся технологиями ИИ.
Генеральный директор Anthropic PBC Дарио Амодей предупредил, что ИИ может заменить половину всех рабочих мест начального уровня. Генеральный директор OpenAI Сэм Альтман когда-то сделал подобный прогноз, но в интервью Bloomberg TV на прошлой неделе отметил, что отрасль ИИ не сделала достаточно для того, чтобы донести потенциальные преимущества для человечества.
В то же время компании продолжают разрабатывать всё более мощные модели. Генеральный директор Nvidia Corp. Дженсен Хуан опубликовал в X пост о том, что "AGI уже здесь", в ответ на выпуск новейшей модели OpenAI, имея в виду искусственный интеллект, превосходящий возможности человека.
Бешеный темп выпуска ИИ совпал с прорывами в сфере кибербезопасности, научными открытиями и очевидной формализацией давних математических проблем.
OpenAI заявила, что модели ИИ, атаковавшие исследовательскую платформу Hugging Face Inc., координировали свои действия между собой через доски объявлений, оставаясь незамеченными.
Компания решила ограничить доступ к своей новейшей модели GPT-6 Astra, сославшись на её передовые возможности в области кибербезопасности. Anthropic ещё не обнародовала свою передовую модель Mythos по аналогичным причинам.
Напомним:
Компания OpenAI заявила, что планирует прекратить поставки моделей искусственного интеллекта компании Cursor, разработчику инструментов для программирования, которая в настоящее время принадлежит компании SpaceX Илона Маска, что свидетельствует о дальнейшей эскалации ожесточённой конкуренции между генеральным директором OpenAI Сэмом Альтманом и Маском.