ИИ против пропаганды: как стартап Mantis Analytics борется с российской дезинформацией
Стратегічна поразка Росії за майже два роки великої війни нівелювала статус її армії як однієї з найсильніших у світі. Однак російська пропаганда, на відміну від її військ, продовжує доводити свою ефективність, впливаючи на світову політику.
Хоча для українців пропаганда росіян виглядає примітивно, її систематичний вплив не залишається безслідним. Росіяни навчилися знаходити чи навіть самостійно створювати теми, мета яких – послабити українське суспільство.
Інформаційний простір є справжнім полем бою, поразка на якому позначиться на реальній війні. В умовах такого протистояння українські розробники створили платформу Mantis Analytics, яка за допомогою штучного інтелекту (ШІ) дозволяє моніторити інформаційне середовище в режимі реального часу.
Цей стартап народився як волонтерська ініціатива, яка почала допомагати державі протистояти російським вкиданням. Щодня команда готує для Ради національної безпеки та оборони звіти щодо інформаційного впливу РФ.
За допомогою ШІ платформа щоденно моніторить по 600 тис повідомлень, які можна виводити на карту для географічної привʼязки подій. Mantis аналізує 13 тис телеграм-каналів. За час робити стартап зберіг понад 350 млн повідомлень, що дозволяє в історичній перспективі відстежувати тренди російської пропаганди.
Команда Mantis Analytics має намір працювати не тільки з державою, а й планує розвивати B2B-напрямок. Стартап має близько десяти пілотних проєктів, деякі з них перебувають на стадії узгодження комерційних контрактів.
Як працює Mantis Analytics
Технологія передбачає чотири етапи. На першому фахівці збирають великі обсяги даних із соцмереж та ЗМІ. Перелік джерел можна змінювати. На наступному етапі дані очищають та обробляють. "Під час обробки ми ділимо події на фізичні та ментальні", – пояснює директор з експертизи Mantis Analytics Антон Тарасюк.
Фізичні події стосуються інформації, яка позначає реальні явища, наприклад, влучання ракети. Ментальна інформація найчастіше спрямована на зміну публічної думки та може не мати прямої привʼязки до подій.
У Mantis Analytics зізнаються, що наразі краще вдається працювати з фізичними подіями, але стартап хоче допрацювати технологію так, щоб у користувача була можливість проводити кореляції між ментальними та фізичними подіями.
Третій етап – обробка й аналіз даних. Тут використовуються NLP та LLM-моделі.
NLP (Natural Language Processing) – це галузь комп'ютерної науки, яка обробляє та аналізує мовлення. LLM (Large Language Model) – галузь NLP, навчена на величезній кількості текстових даних. LLM-моделі здатні генерувати текст, перекладати, створювати творчий контент та відповідати на запитання.
На цьому етапі ШІ дозволяє виокремити певні тенденції наративів чи пропаганди або ж, якщо йдеться про фізичні події, встановити їх геолокації на карті.
За четвертий етап відповідають люди, які розміщують аналіз на платформі. Вона передбачає два варіанти подання інформації: дашборди та карти. Однак команда може готувати результати аналізу і у вигляді звичайного звіту.
Аби зрозуміти, що Соловйов – пропагандист, ШІ не потрібен
Mantis приділяє особливу увагу методологічній коректності. Не можна визначати новину як дезінформацію, навіть якщо це здається очевидним, пояснює Тарасюк. "Наша експертиза в тому, щоб бути чіткими в методології. Ми повинні бути обережними з висловлюваннями. Від того, як ми атрибутуємо інформацію, називаючи її неправдивою, можуть бути серйозні наслідки", – наголошує він.
Аналізуючи контент, стартап намагається розділяти пропаганду і дезінформацію. Як визначити пропаганду? Команда спирається на визначення піонера в галузі зв'язків з громадськістю Едварда Бернейза – батька сучасної пропаганди.
"Бернейз казав, що пропаганда – це маніпуляція з метою вплинути на поведінку та думки мас. Для нас ключовим словом є маніпуляція, оскільки вплив на суспільство досягається за допомогою маніпулятивних технік. Щоб навчити ШІ бачити в тексті пропаганду, ми використовуємо 18 науково обґрунтованих маніпулятивних технік, на яких і тренується наша модель", – пояснює Тарасюк.
У результаті модель швидше за людину аналізує дані і визначає в них рівень застосування маніпулятивних технік. У Mantis наголошують, що використання таких інструментів для аналізу індивідуального контенту не має сенсу. Щоб зрозуміти, які маніпулятивні техніки використовує Соловйов, ШІ не потрібен.
Справжній потенціал моделі розкривається, коли потрібно проаналізувати десятки тисяч текстів. "Наприклад, відбувається інформаційна кампанія щодо Криму чи Донбасу. За допомогою ШІ ми можемо порівняти, наскільки різні теми насичені маніпулятивними техніками: з приводу Криму – на рівні 10%, Донбасу – 20%, а от з приводу західної допомоги – 45%", – розповідає Тарасюк.
Платформи дозволяє комунікаційнику краще розуміти ситуацію і правильно прораховувати свої наступні кроки. Команда Mantis щодня готує для РНБО звіти стосовно десятків таких кампаній, для кожної з яких ШІ автоматично визначає три провідні меседжі. Також показується динаміка розвитку кожної кампанії за певний проміжок часу, її охоплення та відсоток від загального обсягу інформації.
Можливості Mantis Analytics в умовах інформаційної війни дозволяють якісніше розуміти ситуацію та чіткіше розставляти пріоритети. Крім того, це дозволяє звільнити людський ресурс. Замість планування контркампанії комунікаційники часто займаються аналізом, який ШІ здатен робити за хвилини.
"У НАТО для протистояння дезінформації та пропаганді є проста хороша схема understand and engage, тобто розумій та взаємодій. Ми беремо на себе understand, а наші клієнти займаються engage", – підсумовує Тарасюк.
99% дезінформації – це сміття
Дезінформація відрізняється від пропаганди. Щоб віднести повідомлення до дезінформації, воно має бути і шкідливим, і хибним. З використанням ШІ пошук дезінформації складається з двох рівнів. На першому модель виокремлює з масиву даних контент, де може бути дезінформація. На другому потрібно залучати людину, яка остаточно визначає, чи є контент дезінформаційним.
"За допомогою ШІ виявляємо підозрілі кейси. Це те, що можна автоматизувати, оскільки є набір параметрів, за якими вони стають підозрілими. Але автоматично сказати, що щось є або не є дезінформацією, неможливо. Якщо хтось стверджує протилежне, то він або шахрай, або наївна людина", – підкреслює Тарасюк.
У команді Mantis додають, що більшість дезінформаційних вкидань – це просто сміття, яке мало хто бачить. Однак збільшення масштабів вкидань також піднімає ймовірність того, що одне з них набуде розголосу.
Пошук контенту, який може містити дезінформацію, спрощує життя командам, які займаються фактчекінгом, адже вручну це зробити неможливо. ШІ розгрібає тонни сировини, знаходячи по-справжньому цінний для аналітики контент.
"Коли Сергій Волинський (позивний "Волина") та інші командири полку "Азов" перебували в Туреччині, російські телеграм-канали написали, що "Волина" сказав турецьким ЗМІ про перебування з ними на "Азовсталі" американських генералів. Тоді ми швидко перевірили цю історію і турецька газета, на яку вони посилалися, усе спростувала. Проте росіяни спробували її поширити", – пригадує Тарасюк.
Аналіз у реальному часі
Mantis Analytics не просто збирає великі обʼєми даних, а обробляє їх тут і зараз. Це дозволяє швидко виводити на карти інформацію щодо фізичних подій. Коли відбуваються аварія, пограбування чи ракетний обстріл, скоріш за все, про це спершу напишуть у соцмережах. Відповідно, у межах Києва чи іншого міста технологія стартапу може стати джерелом інформації для швидкого реагування.
"Якщо припинив працювати якийсь публічний сервіс, прорвало трубу чи звалився пам'ятник, про це хтось напише. Ми можемо все це моніторити і в режимі реального часу виводити на картах з описом цієї події", – пояснює Тарасюк.
У команді пригадують, що одного разу до них звернулися іноземні журналісти з проханням відстежити, на яких напрямках українська армія найбільше використовує касетні боєприпаси. Адже про їхнє застосування часто пишуть, однак не зрозуміло, де це відбувається. Тобто, це також допомагає розслідувачам.
"Це первинна робота з розслідування. Вони це потім додатково перевіряли, але цю географічно важливу інформацію ми можемо знайти в контенті соцмереж. Найбільш вагомий тут Telegram. Це основна платформа, де люди пишуть про якісь події у своїх населених пунктах", – пояснюють у команді Mantis Analytics.
Журналісти одного з німецьких видань просили команду допомогти проаналізувати головні причини падіння літака Пригожина, про які говорять в РФ. "Ми буквально за дві-три години проаналізували понад 23 тисячі одиниць контенту і виділили десять основних причин падіння", – розповідає Тарасюк.
Як працює російська пропаганда
У Mantis відзначають, що інформаційна робота РФ проти України комплексна. На її пропаганду впливає політичний режим. Оскільки Росія – це інформаційна автократія, вона може контролювати всі комунікаційні ланцюжки завдяки владі. У результаті будь-яке її вкидання одразу зʼявляється на всі можливих платформах.
Росіяни не придумують надто складі техніки для маніпулювання. Головним показником для них є масовість меседжів. З часом кількість може дати результат. Крім того, в РФ добре орієнтуються в українському інформаційному середовищі.
"Ми для них прозорі, вони знають наші болючі теми, які можна підсилювати, створюючи для нас складні ситуації. Найпростіший приклад – корупція. Коли росіяни "розганяють" цю тему, вона бʼє по нас у двох вимірах.
Перший – репутаційна шкода перед партнерами. Другий – зростання зневіри серед українського населення, що може призвести до подальшого несприйняття цієї теми громадянським суспільством", – пояснюють у Mantis.
У 2024 році понад 2 мільярди людей проголосують. Уже зараз всі хвилюються через ШІ. Що відбувається?
Росіяни добре володіють класичними засобами пропаганди, такими як використання ботів. Вони також освоюють нові технології. Аналітики команди Mantis спостерігають, як росіяни переймають досвід Китаю і починають створювати фейкові акаунти, де все згенероване штучним інтелектом.
Крім того, Росія використовує проти України відомих людей. Так, Ілон Маск із заявами про необхідність припинення війни став популярним у російських телеграм-каналах. Інформаційний вплив Росії не виділяється яскравими кампаніями. Це систематична робота, яка нагадує штурми їхньої армії.