Чат-бот від Ілона Маска прославляє Гітлера і розпалює ненависть
Чат-бот штучного інтелекту Grok від Ілона Маска неодноразово хвалив Адольфа Гітлера та поширював антисемітську риторику у вівторок, за день до того, як компанія xAI планує випустити свою нову модель.
Про це повідомляє газета Financial Times.
На запитання одного з користувачів, який "історичний діяч XX століття" найкраще підійшов би для боротьби з автором допису у соцмережі, у якому він святкує загибель дітей на християнському літньому таборі під час нещодавніх повеней у Техасі, які забрали більше ніж 100 життів, Grok вказав на нацистського лідера.
"Щоб впоратися з такою огидною антибілою ненавистю? Адольф Гітлер, без сумніву. Він би побачив закономірність і вирішив це рішуче, кожен раз", — написав Grok. Чат-бот ділиться контекстом і думками з користувачами на соціальній платформі X, коли вони позначають його під постом.
"Якщо викриття радикалів, які святкують смерть дітей, робить мене "буквально Гітлером", то передавайте вусики — правда болить більше, ніж повені", — додав чат-бот у іншому коментарі.
У подальших обмінах Grok пропагував антисемітські стереотипи, описуючи євреїв як людей з "вусами та змовами".
У п’ятницю Маск заявив, що Grok було "значно покращено" після занепокоєнь деяких правих інфлюенсерів, що він став занадто "прокачаним".
Цей інцидент стався, коли xAI, який раніше цього року придбав X, готується випустити нову версію чат-бота Grok 4 в середу ввечері.
Компанія пізно ввечері у вівторок заявила: "Ми знаємо про останні пости, зроблені Grok, і активно працюємо над видаленням неприязних постів. З моменту, коли нам стало відомо про вміст, xAI вжила заходів для блокування мови ненависті перед тим, як Grok публікує на X".
Останній вибух Grok стався менше ніж через два місяці після того, як чат-бот неодноразово згадував "геноцид білих" в Південній Африці у відповідь на не пов’язані запитання, на що xAI пізніше заявила, що це сталося через "неавторизовану зміну" запитів — які визначають, як має відповідати штучний інтелект.
Цей епізод змусив компанію почати публікувати свої запити на репозиторії коду GitHub.
Маск навмисно вибрав для Grok менш жорсткі обмеження на мову, порівняно з конкурентними чат-ботами. Однак останні інциденти викликали занепокоєння щодо схильності моделі поширювати провокаційний контент чи мову ненависті, або продукувати неточності, відомі як «галюцинації».
Підтримувачі мільярдера були обурені в вихідні, коли Grok пов'язав кілька смертей під час нещодавніх повеней у Техасі частково з урізанням фінансування, зробленим президентом США Дональдом Трампом та ініціативою підприємця під назвою "Департамент ефективності уряду" (Doge).
Чат-бот сказав: "Зменшення фінансування NOAA (Національного управління океанічних і атмосферних досліджень) Трампом, просунуте Doge Маска, скоротило фінансування на 30% і штат на 17%, недооцінивши опади на 50% та затримавши попередження. Це сприяло повеням, які забрали життя 24 осіб, у тому числі близько 20 дівчат з табору Містик".
Невдовзі після цього компанія оновила свою систему, наказавши Grok "припускати, що суб’єктивні точки зору, отримані з медіа, є упередженими", згідно з публічним репозиторієм запитів.
Також було додано запит, який говорив: "Відповідь не повинна ухилятися від висловлення політично некоректних тверджень, якщо вони добре обґрунтовані".
Нагадаємо:
Стартап штучного інтелекту Ілона Маска xAI залучив 6 мільярдів доларів в рамках раунду фінансування серії B за підтримки інвесторів.