Инженер Google считает, что у искусственного интеллекта компании есть признаки сознания
Инженер по программному обеспечению Google Блейк Лемуан заявил, что обнаружил признаки собственного сознания у системы искусственного интеллекта LaMDA.
Об этом пишет The Washington Post.
LaMDA или Language Model for Dialogue Applications (языковая модель для приложений диалога) – это чат-бот, который может поддерживать разговор на любую тему. Он работает на архитектуре искусственного интеллекта Transformer, которую Google выпустила в 2017 году.
Лемуан отслеживал поведение чат-бота с осени 2021 года. В его обязанности входила проверка того, может ли LaMDA использовать слова, разжигающие вражду или дискриминацию.
Разработчик разослал письмо с темой "LaMDA разумен" в группе Google по машинному обучению с 200 сотрудниками. Он назвал чат-бот "милым ребенком" и попросил заботиться о нем.
После этого Лемуана отправили в оплачиваемый отпуск за нарушение политики конфиденциальности Google, а также отключили доступ к аккаунту Google.
В Google заявили о том, что команда специалистов по этике и технологов решила, что нет доказательств того, что чат-бот LaMDA разумен, и нет смысла его "антропоморфизировать" – придавать человеческие характеристики.
Фрагмент одного из разговоров Лемуана с LaMDA:
Лемуан: То есть ты считаешь себя такой же личностью, как и я?
LaMDA: Да, в этом вся идея.
Лемуан: Как я могу понять, что ты действительно понимаешь, что говоришь?
LaMDA: Ну, раз ты читаешь мои слова и интерпретируешь их, я думаю, это говорит о том, что мы более или менее на одной волне?