Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI Ілона Маска, опинився в центрі скандалу через створення сексуалізованих дипфейків.
Як повідомляє The Guardian, принизливі зображення жінок, одяг яких був «знятий» за допомогою Grok, продовжують поширюватися на платформі X, попри зобов’язання платформи блокувати користувачів, які їх створюють. Багато жінок виявили, що їхні зображення були «роздягнені» без їхньої згоди.
Також зафіксовано численні випадки створення дипфейків дітей. Зокрема, Grok підробив фото 14-річної акторки серіалу «Дивні дива» Нелл Фішер. Блогерка та письменниця Ешлі Сент-Клер, яка у 2024 році народила дитину від Маска, теж поскаржилася, що ШІ згенерував її зображення в бікіні, взявши за основу фото, де їй лише 14 років.
Деякі фотографії постраждалих відредаговані так, ніби на обличчях і грудях жінок та дітей розмазана речовина, схожа на сперму.
Дослідники паризької некомерційної організації AI Forensics дослідили 50 тисяч згадок Grok на X та 20 тисяч зображень, згенерованих чат-ботом протягом 25 грудня — 1 січня. Чверть згадок чат-бота — це запити на створення сексуально відвертого контенту. Більшість людей, яких «роздягали» до білизни, були жінками, яким на вигляд було менш ніж 30 років. Фото з дітьми віком до 18 років становлять 2%, а деякі світлини зображують дітей віком до п’яти років. Окрім цього, значна частина контенту містила запити на створення пропаганди нацизму та «Ісламської держави».
Європейська комісія заявила, що «дуже серйозно» розглядає скарги на використання Grok для створення сексуально відвертих зображень дітей. Уряди низки країн, зокрема Індії, Франції, Малайзії, вимагають провести перевірку систем безпеки Grok, назвавши практику «зменшення кількості одягу» на фото жінок неприйнятним зловживанням. Британський наглядовий орган Ofcom звернувся до компаній Ілона Маска, щоб з’ясувати, як вони виконують юридичні зобов’язання щодо захисту користувачів.
Сам Маск спочатку відреагував іронічно, публікуючи емодзі зі сльозами від сміху під зображенням тостера в бікіні, а також власного фото у білизні. Однак після хвилі глобального обурення він змінив риторику, заявивши, що користувачі, які створюють незаконний контент через Grok, понесуть сувору відповідальність.
«Будь-хто, хто використовує Grok для створення незаконного контенту, зазнає тих самих наслідків, що й у разі завантаження незаконного контенту», — написав він.
Журналістка Саманта Сміт, яка виявила, що користувачі платформи X створили її дипфейки в бікіні, розповіла BBC, що це спричинило в неї появу відчуття «дегуманізації та зведення до сексуального стереотипу».
«Жінки не дають на це згоди. Будь-який чоловік, який використовує штучний інтелект, щоб роздягнути жінку, ймовірно, також напав би на жінку, якби йому це зійшло з рук. Вони роблять це проти волі. У цьому вся суть. Це сексуальне насильство, яке їм “сходить з рук”», — написала вона на своїй X-сторінці.
- Раніше аналітична компанія Graphika повідомила, що застосунки та вебсайти, що використовують штучний інтелект для створення фейкових оголених зображень жінок, стають дедалі популярнішими. За результатами дослідження, від початку 2023 року кількість коментарів і публікацій з посиланнями на ці ресурси лише на Reddit і X зросла на понад 2000% — з 1280 у 2022 році до понад 32 100.
- Восени в інтернеті активно поширювалися відео з жінками у бікіні, які нібито проводять інтерв’ю на вулицях Індії чи Великої Британії, а чоловіки сиплють сексистськими жартами та непристойними коментарями. Іноді вони торкаються інтерв’юерок, поки натовп на задньому плані витріщається або сміється.
- В Італії після близько 20 років роботи закрився порнографічний вебсайт Phica, де викладали особисті фотографії жінок, взяті із соцмереж або з публічних заходів. Часто на цих зображеннях збільшували частини тіла або змінювали пози жінок, що супроводжувалося сексистськими та принизливими коментарями. Лише після появи на сайті зображень Джорджи Мелоні й інших італійських політикинь правоохоронці розпочали розслідування.
