У TikTok набирає обертів масштабна кампанія зі створення дипфейків відомих українських телеведучих. Зловмисники використовують штучний інтелект для крадіжки облич та голосів медійниць, щоби просувати дезінформацію, збирати персональні дані та поширювати російські наративи.
Про це свідчать результати розслідування «Штучний інтелект і ТікТок: як відомих журналісток перетворюють на фейки», проведеного ГО «Жінки в медіа» та Texty.org.ua в партнерстві з ЮНЕСКО.
Під час аналізу 595 згенерованих відео, які загалом зібрали понад 24 мільйони переглядів, виявилося, що штучний інтелект перетворився на потужний інструмент онлайн-насильства, дискредитації та дезінформації. Для створення фейків зловмисники свідомо обирають жіночі образи, експлуатуючи високий рівень довіри аудиторії до відомих журналісток. Загалом зафіксовано 328 TikTok-відео з аудіоманіпуляціями (підробка голосу поверх реальних сюжетів) та 267 роликів, де повністю згенеровано і зображення, і звук.
Серед найпопулярніших «цифрових аватарів»:
- Соломія Вітвіцька («1+1») — 17 відеогенерацій та 83 аудіоманіпуляції;
- Анастасія Даугуле («Інтер») — 26 відеогенерацій та 42 аудіоманіпуляції;
- Алла Мазур («1+1») — 13 відеогенерацій та 42 аудіоманіпуляції.
Щоб створити додаткову ілюзію довіри, шахраї копіюють стилістику відомих медіабрендів. Зокрема, щонайменше 15 фейкових акаунтів використовували у назві частку «tsn» (tsn.news.ua1, tsn_.news11, tsn.news.24.7 тощо). Деякі сторінки, як-от garant_konstitucy, вже відкрито пропонують створити штучно згенеровані відео на замовлення або навчити «робити якісні дипфейки» за гроші.
Найпоширеніші теми фейкових відео:
- петиції або опитування про відставку президента, повернення Валерія Залужного чи відправлення на фронт усіх правоохоронців і працівників ТЦК — 268 (45%)
- грошові виплати або гуманітарна допомога від ООН, Червоного Хреста, ЄС чи великих українських компаній, метою яких є фішинг персональних даних, — 145 (24%)
- деструктивні чи антиукраїнські наративи («жахи мобілізації», незаконні дії правоохоронців, конфіскація майна високопосадовців, дискредитація військового керівництва) — 116 (20%)
- дискредитація України жартами — 22
- нагнітання — 18
- інше — 26
Експерти класифікують фейковий ШІ-контент як технологічно зумовлене гендерне насильство (TFGBV). Аудиторія часто не здатна відрізнити фейк від оригіналу, через що журналістки стикаються з кібербулінгом і звинуваченнями в тому, чого ніколи не говорили, що своєю чергою створює «охолоджувальний ефект» для інших жінок у медіа.
Згідно з дослідженням ГО «Жінки в медіа», в якому взяли участь 119 респонденток, кожна 15-та (7%) уже стикалася з онлайн-атаками, створеними за допомогою ШІ, ще 16% спостерігали такі атаки щодо своїх колег. Мішенями найчастіше стають журналістки та керівниці медіа як публічні представниці редакцій.
Щоб розпізнати дипфейки, фахівці радять звертати увагу на специфічні ознаки штучної генерації:
- Зображення: неприродно гладка шкіра без пор та асиметрії, глянцеве, схоже на намальоване, волосся, пласкі (а не тривимірні) прикраси та аксесуари, ідеально білі й однорідні зуби, відсутність природних складок на одязі.
- Аудіо: бездоганна, але роботизована вимова без властивих людині пауз і недоліків, «рваний» ритм мовлення, неприродні наголоси, фрази чи терміни, які в реальному житті людина навряд чи використовувала б, та повна відсутність фонового шуму.
Попри те що політика TikTok офіційно забороняє імітацію реальних осіб без їхньої згоди та вимагає обов’язкового маркування синтетичного контенту (зокрема через систему Content Credentials), на практиці правила ігноруються. Згенеровані відео публікуються без позначок і завдяки алгоритмам платформи миттєво збирають мільйони переглядів.
- Раніше аналітична компанія Graphika повідомила, що застосунки та вебсайти, що використовують штучний інтелект для створення фейкових оголених зображень жінок, стають дедалі популярнішими. За результатами дослідження, від початку 2023 року кількість коментарів і публікацій з посиланнями на ці ресурси лише на Reddit і X зросла на понад 2000% — з 1280 у 2022 році до понад 32 100.
- DIVOCHE.MEDIA розповідало, куди звертатися по допомогу у випадку, якщо людина постраждала від інтернет-насильства.
Ілюстрації: Texty.org.ua
