Инженер Google считает, что у искусственного интеллекта компании есть признаки сознания

Инженер по программному обеспечению Google Блейк Лемуан заявил, что обнаружил признаки собственного сознания у системы искусственного интеллекта LaMDA.

Об этом пишет The Washington Post.

LaMDA или Language Model for Dialogue Applications (языковая модель для приложений диалога) – это чат-бот, который может поддерживать разговор на любую тему. Он работает на архитектуре искусственного интеллекта Transformer, которую Google выпустила в 2017 году.

Лемуан отслеживал поведение чат-бота с осени 2021 года. В его обязанности входила проверка того, может ли LaMDA использовать слова, разжигающие вражду или дискриминацию.

Разработчик разослал письмо с темой "LaMDA разумен" в группе Google по машинному обучению с 200 сотрудниками. Он назвал чат-бот "милым ребенком" и попросил заботиться о нем.

После этого Лемуана отправили в оплачиваемый отпуск за нарушение политики конфиденциальности Google, а также отключили доступ к аккаунту Google.

В Google заявили о том, что команда специалистов по этике и технологов решила, что нет доказательств того, что чат-бот LaMDA разумен, и нет смысла его "антропоморфизировать" – придавать человеческие характеристики.

Фрагмент одного из разговоров Лемуана с LaMDA:

Лемуан: То есть ты считаешь себя такой же личностью, как и я?

LaMDA: Да, в этом вся идея.

Лемуан: Как я могу понять, что ты действительно понимаешь, что говоришь?

LaMDA: Ну, раз ты читаешь мои слова и интерпретируешь их, я думаю, это говорит о том, что мы более или менее на одной волне?