Карусель емоцій. Рівень маніпулятивності мови українських телеграм-каналів
Карусель емоцій
Рівень маніпулятивності українських
телеграм-каналів
Ми навчили штучний інтелект, а точніше велику мовну модель, розрізняти найпоширеніші техніки маніпуляції в публікаціях телеграм-каналів.
Зауважте, ми не аналізували змісту повідомлень. Ми аналізували структуру мови, визначали, які прийоми роблять текст емоційнішим, а отже, відвертають увагу від фактів і доказів. “Маніпулятивні” ми вживаємо саме в такому значенні.
Коли ми гортаємо стрічку новин у телеграмі, на нас намагаються вплинути за допомогою різних прийомів і технік. Мова телеграму, принаймні більшості каналів, відрізняється від мови інтернет-медіа. Вона різкіша й емоційніша, а самі повідомлення коротші, що часто позбавляє їх контексту або доказів для підтвердження озвучених тез.
Ось приклад, коли з першого ж слова задають тон і налаштовують на емоційне сприйняття за допомогою техніки “навантажена мова”:
Приклади дописів
Пиздец! [одразу викликає емоції]
Умирать за страну, говоря на русском языке, можно, а жить в ней, говоря на нём же - НЕТ [маніпулятивне спрощене протиставлення, завдання — викликати відчуття несправедливості]
Можливо, автори імітують розмовну мову і намагаються писати якомога ближче до мови своєї аудиторії, так, як говорять друзі, коли діляться новинами. Але в результаті маємо емоційну накрутку сотень тисяч читачів.
Поки наші черешеньки [дискредитує і викликає зневагу] по 100 гривень збирають на автівки захисникам України, ця ватна мразь, подруга картопляного фюрера [агресивна лексика створює негативний образ...] за гроші, набуті злочинним шляхом, купляє собі люксовий гелік [...і знижує критичність сприйняття інформації]
Слова із сильним емоційним забарвленням впливають на те, як ми сприймаємо інформацію. Коли ми обурені, можемо не помітити, що бракує доказів. Так само й коли щасливі.
Та позитивні емоції використовують і в інших випадках. Часто використовувані техніки маніпуляції — ейфорія (створення відчуття надмірного щастя, щоб, наприклад, підняти бойовий дух або поширити певну програму чи ідеологію) та блискучі узагальнення (спроба викликати сильні емоційні реакції та відчуття солідарності за допомогою абстрактних понять, таких як “свобода”, “справедливість”, “патріотизм” тощо).
Приклади дописів
Генштабу удалось провести операцию по взятию Авдеевки при минимальных потерях, oперация войдёт в учебники Минобороны — Шойгу [ейфорія для росіян: викривлення інформації про втрати, героїзація російських військових, створення ідеальної картинки щодо професіоналізму російської армії]
Починаємо день з позитивних новин! [викликає емоційний підйом]
На росії [транслює зневагу] вирішили порадувати матерей мобіков [емоційне слово] і заявили про збільшення випуску автомобіля Лада! «Автоваз» розраховує почати постачання авто у понад 300 дилерських центрів у травні. Якраз планується український контрнаступ і плануються нові Лади. Все співпало! [зневага і висміювання ворога породжують недооцінювання його можливостей і применшення загрози]
Часом надмірні емоції бувають корисні: вони піднімають моральний дух, підвищують нашу психологічну стійкість і витривалість у довгій війні проти Росії. Та чи варто казати, що часте апелювання до них викривлює сприйняття реальності?
Перемога за два-три тижні може не настати. І коли після такого емоційного підйому людина стикається із суворою реальністю, її охоплюють сум’яття, паніка та навіть депресія. Втрачаються працездатність і розважливість, необхідні для того, щоб вистояти під час війни.
Але є й деструктивніші техніки, як-от апеляція до страху та спроби посіяти сумніви. Ці техніки часто використовує російська пропаганда. За їх допомогою маніпулятори намагаються використати наявний страх та упередження на свою користь.
Приклади дописів
Украинцы будут выживать: [емоційне слово] Подоляк рассказал, что страну ждёт лютая [емоційне слово] зима. Разумеется, что [навіюють, що це очевидне твердження, яке не потребує доказів] ни сам Подоляк, ни Зеленский, ни другие украинские чиновники не замёрзнут в своих тёплых кабинетах [мета — посилити страх, посіяти відчуття покинутості та безвиході й за допомогою традиційного для російської пропаганди протиставлення влади і народу зменшити військову спроможність України]
Как и почему собираются [безособове — хто збирається?] забирать недвижимость у народа Украины [узагальнення з навіюванням протиставлення абстрактної влади абстрактному народу]
На фоне катастрофического ухудшения благосостояния украинского народа в собственной стране из-за войны, миграции и повальной мобилизации [емоційна накрутка] украинцев огорошили ещё одной новостью. Оказывается, на Украине собираются узаконить отчуждения недвижимости у граждан на восстановление страны [створюють відчуття безвиході й небезпеки, сіють недовіру до влади через можливі зловживання]
…
- Навантажена мова (Loaded language): використання слів і фраз із сильним емоційним забарвленням (позитивним чи негативним) для впливу на аудиторію.
- Блискучі узагальнення (Glittering generalities): експлуатація позитивного ставлення людей до таких абстрактних понять, як “справедливість”, “свобода”, “демократія”, “патріотизм”, “мир”, “щастя”, “любов”, “правда”, “порядок” тощо. Ці слова і фрази покликані спровокувати сильні емоційні реакції та почуття солідарності без надання конкретної інформації чи аргументів.
- Ейфорія (Euphoria): використання події, яка викликає ейфорію чи відчуття щастя, або позитивної події для підняття бойового духу. Таку маніпуляцію частіше використовують українці для українців з метою мобілізації населення.
- Апеляція до страху (Appeal to fear): зловживання відчуттям страху (що часто базується на стереотипах чи упередженнях) для підтримки певної пропозиції.
- Страх, непевність і сумніви (FUD: fear, uncertainty and doubt): подання відомостей про щось чи про когось таким чином, щоб посіяти в аудиторії невпевненість і сумніви в його якостях, викликати страх перед ним. Ця техніка є різновидом апеляції до страху. Ми розподілили її на підвиди: сумніви в українській владі, у Силах оборони, у достовірних джерелах інформації, у допомозі міжнародних партнерів та інші види сумнівів.
- Апеляція до народу (Bandwagon/Appeal to people): спроба переконати цільову аудиторію приєднатися і почати діяти, бо “інші роблять те саме”. Ця техніка полягає в тому, що певне твердження чи уявлення вважається правильним, бо таким його вважають усі або більшість людей. А більшість нібито помилятися не може.
- Кліше без суті (Thought-terminating cliche): короткі загальновживані фрази, які мають на меті пом’якшити когнітивний дисонанс і заблокувати критичне мислення. Зазвичай це короткі загальні речення, які пропонують, здавалося б, прості відповіді на складні питання або відвертають увагу від інших напрямів думки.
- “Сам дурень!” (Whataboutism): дискредитація позиції опонента, звинувачення його в лицемірстві без прямого спростування або заперечення його аргументів, що передбачає відповідь на критику чи поставлене запитання у форматі “А як щодо…?”.
- Вибіркова правда (Cherry picking): вибіркове використання лише тих даних чи фактів, які підтримують певну гіпотезу або висновок й ігнорують контраргументи або заперечення.
- Опудало (Straw man): перекручення позиції опонента через підміну тези зовні схожою (опудалом) і спростування її без спростування початкової позиції.
Як часто ми стикаємося з маніпулятивною лексикою?
Зауважте: з десяти технік найточніше мовна модель визначала п’ять: навантажена мова; блискучі узагальнення; ейфорія; страх, непевність та сумніви; апеляція до страху. Схожі техніки ми додатково об’єднали: блискучі узагальнення з ейфорією й апеляцію до страху зі страхом, непевністю та сумнівами.
Нижче на графіках із кількома колами точок ми показуємо ці об’єднані техніки, а також навантажену мову. А на інших рахуємо відсоток маніпулятивності загалом на всіх десяти техніках. Біля кожного графіка зазначено, що і як пораховано.
Якщо вам здається, що це прийоми лише російських пропагандистів, то вимушені вас розчарувати. Наш алгоритм проаналізував літню новинну стрічку найпопулярніших в Україні телеграм-каналів. І схоже, що з маніпуляціями ми стикаємося багато разів щодня.
Візьмімо “Труху”. Влітку на каналі щодня публікували в середньому 37 дописів — загалом 3400 за три місяці літа.
І майже половина з них (~45%) містила щонайменше один вид маніпуляцій.
Найчастіше це була навантажена/емоційна мова.
А от російський телеграм-канал “Резидент”, який все ще намагається вдавати, ніби він український, у майже 1000 літніх дописів маніпулював мало не завжди — у 90% публікацій була використана щонайменше одна техніка маніпуляції.
Схоже, сіяти страх і сумніви — головне завдання каналу. 67% його публікацій мали на меті змусити українців боятися або розчаруватися — чи то у владі, чи в Силах оборони, чи в допомозі міжнародних партнерів.
Якщо ви думаєте, що новинна стрічка в умовах війни неможлива без маніпуляцій, то телеграм-канал Суспільного з менш як 2% публікацій, які наша мовна модель визначила як маніпулятивні, доводить, що це не так.
Проте такий рівень нейтральності характерний для невеликої частки телеграм-каналів.
Рівень маніпулятивності за 10 показниками в різних груп каналів
Наведіть на точку, щоб побачити назву каналу. У цій графіці ми взяли дописи, які наша модель позначила як маніпулятивні. Потім визначили їх відсоток від усього, що опубліковано на каналі.
Чи означає це, що використовувати емоційну лексику, яку наша модель позначає як маніпулятивну, апріорі погано? Ні.
Є ситуації коли це цілком виправдано (що поганого в тому, щоб радіти олімпійським медалям?).
Іноді пропагандисти мімікрують під виважене ЗМІ й не використовують маніпулятивної лексики, як-от канал “Политика страны”
Використання такої лексики виправдовують сам жанр і тематика каналу (уявіть собі, що блогер Казанський в один день почне писати сухо та без емоцій, а 3-тя штурмова бригада перестане емоційно описувати, як знищує окупантів).
А часом відверті пропагандисти мімікрують під виважене ЗМІ й не використовують маніпулятивної лексики, як-от канал “Политика страны” (канал заблокованого в Україні проросійського медіа “Страна.юа” влітку маніпулював за допомогою лексики у 20% дописів). І від цього канал не стає більш надійним джерелом інформації чи менш цитованим російськими ЗМІ.
Та чи варто покладатися на емоційних блогерів чи маніпулятивні новинні агрегатори, щоб отримувати новини й дізнаватися про найважливіше на щоденній основі?
Кола емоцій
Графіки відсортовані за відсотком публікацій, які містять маніпулятивну мову. Тобто десь дописів може бути мало, але більшість із них наш алгоритм позначив як маніпулятивні, і цей канал буде в перших рядах. А десь публікацій багато і маніпуляцій також, але серед великої кількості контенту загальний відсоток маніпулятивності менший.
Проросійські
Графіки розміщені від найбільш маніпулятивних до найменш маніпулятивних у порядку зліва направо й згори вниз
Графіки розміщені від найбільш маніпулятивних до найменш маніпулятивних у порядку згори вниз
Блогери
Державні джерела
Новинні агрегатори
Офіційні редакції
МЕТОДОЛОГІЯ
Ми проаналізували 50 найпопулярніших публічних телеграм-каналів із найбільшою кількістю підписників у категорії “Новини і медіа” і 50 найпопулярніших каналів у категорії “Політика” згідно з даними Telemetr.io станом на 1 вересня 2024 року. Попередньо виключили із цього списку канали, стрічки яких містять лише повідомлення про знеструмлення, повітряні тривоги чи траєкторію польоту російських ракет і дронів.
Кожен допис (якщо він містив більше ніж 100 символів) перевіряли на наявність у ньому щонайменше однієї з десяти технік маніпуляції: навантажена мова; блискучі узагальнення; ейфорія; апеляція до страху; страх, непевність і сумніви; апеляція до народу; кліше без суті; “сам дурень!” (вотебаутизм); вибіркова правда; опудало (докладніше про кожну під спойлером у тексті статті).
Перелік досліджуваних технік обирали на основі вже наявних експертних напрацювань, найбільш валідних та актуальних для українського інфополя. Ми спиралися на українську експертизу прийомів, які використовує російська пропаганда (як, наприклад, у Детектор медіа), а також провели фокус-групу з українськими журналістами, редакторами й аналітиками, які знаються на темі маніпуляцій та журналістських стандартах, щоб прояснити спірні моменти, обговорити, що не варто розглядати як маніпуляцію, що є виправданим в умовах активної фази війни, а що, навпаки, слід зараховувати до найдеструктивніших прийомів в українському телеграмі.
До процесу розмітки даних ми залучили команду з 14 анотаторів — переважно досвідчених журналістів, аналітиків і медіафахівців. Вони пройшли спеціалізовані тренінги і розмітили 9512 публікацій у телеграмі, виявляючи застосовані техніки маніпуляції. Щоб забезпечити високу якість даних, ми сформували групу з п’яти рецензентів із нашої редакційної команди, які перевіряли анотації та надавали зворотний зв’язок анотаторам.
На основі анотованого датасету із 7604 зразків ми донавчили модель Meta-Llama-3.1-8B-Instruct виявляти маніпулятивний контент у телеграмі. Оцінювання моделі провели на окремому тестовому наборі з 1908 прикладів. Головне завдання моделі — класифікувати дописи як маніпулятивні або неманіпулятивні й визначати конкретні техніки маніпуляції серед десяти ідентифікованих класів.
Під час розробки моделі ми провели кілька ітерацій навчання для покращення її продуктивності. Наша фінальна модель розрізняє маніпулятивний і неманіпулятивний контент із точністю 86%. Прецизійність (Precision) виявлення саме маніпулятивних публікацій становить 91%, тобто лише 9% неманіпулятивних дописів були помилково класифіковані як маніпулятивні. Модель доволі добре виявляє й класифікує поширені техніки маніпуляції, такі як навантажена мова, блискучі узагальнення, апеляція до страху, страх, непевність і сумніви. Однак має нижчу ефективність у виявленні складніших і менш використовуваних технік, таких як апеляція до народу, “сам дурень!” (вотебаутизм) та опудало.
Висловлюємо щиру подяку нашій команді анотаторів, завдяки наполегливій праці та професіоналізму яких стало можливим це дослідження: Наталі Петринській, Михайлові Тимошенку, Володимирові Литвинову, Олександрі Тимошенко, Яні Казміренко, Наталі Мамчур, Карині Веретильній, Маргариті Якуб, Анні Бургело, Ользі Дячук, Анні Великій, Тимофієві Литвиненку, Арсенієві Барзеловичу та Олегові Фітяку.
