У чат-боті зі штучним інтелектом Grok, розробленому компанією xAI Ілона Маска, вимкнули функцію створення зображень для переважної більшості користувачів після скандалу з дипфейками та звинуваченнями у сексуальному насильстві.
Відповідне повідомлення з’являється безпосередньо від самого Grok у відповідях користувачам на платформі X.
«Створення та редагування зображень наразі доступні лише передплатникам. Ви можете підписатися, щоб розблокувати ці функції», — повідомляє чат-бот.
#JustIN | #Grok AI has made image generation feature limited to its paying subscribers, after outcry over its use to create sexually explicit & violent imagery pic.twitter.com/EElWrqCFRn
— CNBC-TV18 (@CNBCTV18Live) January 9, 2026
Таке рішення керівництво компаній ухвалило на тлі загрози штрафів, регуляторних дій та повідомлень про можливу заборону X у Великій Британії.
Водночас газета The Guardian зазначає, що існує також окремий додаток Grok, який не поширює зображення публічно, але в якому користувачі, що не є підписниками, все ще можуть створювати сексуалізовані зображення жінок та дітей без їхньої згоди.
Протягом останніх двох тижнів, після оновлення функції генерації зображень Grok наприкінці грудня, було створено тисячі зображень, на яких жінки, що роздягаються, відверті пози та відео, що зображують повну оголеність та сексуальні акти. Також зафіксовано численні випадки створення дипфейків неповнолітніх.
«Хоча позбавлення загального доступу до огидних оголених елементів Grok є кроком вперед, це все ще означає, що передплатники можуть фотографувати жінок без їхньої згоди, щоб сексуалізувати та жорстоко поводитися з ними. Плата за нанесення сперми, кульових отворів або бікіні на жінок все ще вважається цифровим сексуальним насильством, і xAI повинен назавжди вимкнути цю функцію», — прокоментувала британська депутатка від Лейбористської партії Джесс Асато.
- Раніше аналітична компанія Graphika повідомила, що застосунки та вебсайти, що використовують штучний інтелект для створення фейкових оголених зображень жінок, стають дедалі популярнішими. За результатами дослідження, від початку 2023 року кількість коментарів і публікацій з посиланнями на ці ресурси лише на Reddit і X зросла на понад 2000% — з 1280 у 2022 році до понад 32 100.
- Також журналісти BBC з’ясували, що технологію штучного інтелекту використовують для створення та продажу дитячого порно у промислових масштабах, зокрема контенту з реалістичним зображенням сексуального насильства над дітьми, і навіть зґвалтування немовлят і дітей раннього віку.
Фото: Andrea Piacquadio: Pexels
