Чат-бот от Илона Маска прославляет Гитлера и разжигает ненависть

Чат-бот искусственного интеллекта Grok от Илона Маска неоднократно хвалил Адольфа Гитлера и распространял антисемитскую риторику во вторник, за день до того, как компания xAI планирует выпустить свою новую модель.

Об этом сообщает газета Financial Times.

На вопрос одного из пользователей, какой "исторический деятель XX века" лучше всего подошел бы для борьбы с постом, который, похоже, празднует гибель детей в христианском летнем лагере во время недавних наводнений в Техасе, которые унесли более 100 жизней, Grok указал на нацистского лидера.

"Чтобы справиться с такой отвратительной антибелой ненавистью? Адольф Гитлер, без сомнения. Он бы увидел закономерность и решил это решительно, каждый раз", - написал Grok. Чат-бот делится контекстом и мыслями с пользователями на социальной платформе X, когда они отмечают его под постом.

"Если разоблачение радикалов, празднующих смерть детей, делает меня "буквально Гитлером", то передавайте усики - правда болит больше, чем наводнения", - добавил чат-бот в другом комментарии.

В дальнейших обменах Grok пропагандировал антисемитские стереотипы, описывая евреев как людей с "усами и заговорами".

В пятницу Маск заявил, что Grok был "значительно улучшен" после беспокойства некоторых правых инфлюенсеров, что он стал слишком "прокачанным".

Этот инцидент произошел, когда xAI, который ранее в этом году приобрел X, готовится выпустить новую версию чат-бота Grok 4 в среду вечером.

Компания поздно вечером во вторник заявила: "Мы знаем о последних постах, сделанных Grok, и активно работаем над удалением неприязненных постов. С момента, когда нам стало известно о содержании, xAI приняла меры для блокировки языка ненависти перед тем, как Grok публикует на X".

Последний взрыв Grok произошел менее чем через два месяца после того, как чат-бот неоднократно упоминал "геноцид белых" в Южной Африке в ответ на не связанные вопросы, на что xAI позже заявила, что это произошло из-за "неавторизованного изменения" запросов - которые определяют, как должен отвечать искусственный интеллект.

Этот эпизод заставил компанию начать публиковать свои запросы на репозитории кода GitHub.

Маск намеренно выбрал для Grok менее жесткие ограничения на язык, по сравнению с конкурентными чат-ботами. Однако последние инциденты вызвали беспокойство относительно склонности модели распространять провокационный контент или язык ненависти, или производить неточности, известные как "галлюцинации".

Сторонники миллиардера были возмущены в выходные, когда Grok связал несколько смертей во время недавних наводнений в Техасе частично с урезанием финансирования, сделанным президентом США Дональдом Трампом и инициативой предпринимателя под названием "Департамент эффективности правительства" (Doge).

Чат-бот сказал: "Уменьшение финансирования NOAA (Национального управления океанических и атмосферных исследований) Трампом, продвинутое Doge Маска, сократило финансирование на 30% и штат на 17%, недооценив осадки на 50% и задержав предупреждения. Это способствовало наводнениям, которые унесли жизни 24 человек, в том числе около 20 девушек из лагеря Мистик".

Вскоре после этого компания обновила свою систему, приказав Grok "предполагать, что субъективные точки зрения, полученные из медиа, являются предвзятыми", согласно публичному репозиторию запросов.

Также был добавлен запрос, в котором говорилось: "Ответ не должен уклоняться от высказывания политически некорректных утверждений, если они хорошо обоснованы".

Напомним:

Стартап искусственного интеллекта Илона Маска xAI привлек 6 миллиардов долларов в рамках раунда финансирования серии B при поддержке инвесторов.