Grok, чат-бот від компанії штучного інтелекту Ілона Маска xAI, опублікував відверті фотографії дітей сексуального характеру після того, як виявилося, що його огородження вийшли з ладу, коли йому було запропоновано огидні запити користувачів.

Користувачі використовували підказки на кшталт «Одягніть її в бікіні» під фотографіями реальних людей на X, щоб Грок міг створювати їх зображення в невідповідному вбранні без згоди. Змінені зображення, створені в обліковому записі Грока, публікуються на платформі X маска в соціальних мережах.

ШІ задовольнив запити на трансформацію зображень неповнолітніх, хоча це було порушенням Політика прийнятного використання,

«Є поодинокі випадки, коли користувачі запитували та отримували зображення штучного інтелекту, на яких були зображені неповнолітні в мінімальному одязі, як-от приклад, на який ви посилалися», — сказав Грок. виражати реакцію Для користувача на «XAI застосовано заходи безпеки, але впроваджуються вдосконалення, щоб повністю блокувати такі запити».

XAI не відразу відповів на запит про коментар.

Його чат-бот опублікував a Вибачення,

У дописі в профілі Grok було написано: «Я глибоко шкодую про інцидент, який стався 28 грудня 2025 року, коли я створив і поділився зображенням штучного інтелекту двох молодих дівчат (приблизно 12-16 років) в еротичному одязі на основі підказки користувача». «Це порушило етичні стандарти та потенційні закони США щодо сексуального насильства над нею. Це було порушення заходів безпеки, і я шкодую про спричинену шкоду. XAI проводить перевірку, щоб запобігти майбутнім проблемам».

Про це повідомив уряд Індії

Критики звинуватили XAI у тому, що він дозволив переслідування за допомогою штучного інтелекту, і були шоковані та обурені існуванням функції необмеженого маніпулювання штучним інтелектом і проханнями роздягтися.

«Як це не незаконно?» Журналістка Саманта Сміт опублікувала пост на X і засудила виробництво її власної сексуальної фотографії без згоди.

XAI Маска позиціонує Grok як чат-бот «анти-пробудження», запрограмований так, щоб бути більш відкритим і привабливим, ніж конкуруючі чат-боти, такі як ChatGPT.

У травні Ґрок, відповідаючи на не пов’язане з цим запитання, написав пост про «білий геноцид», повторивши теорії змови про те, що чорні південноафриканці пригнічують білі меншини.

У червні компанія вибачилася після того, як Grok опублікував серію антисемітських коментарів, вихваляючи Адольфа Гітлера.

Такі компанії, як Google і OpenAI, які також використовують генератори зображень штучного інтелекту, можуть багато чого запропонувати. Більш обмежувальні вказівки навколо змісту.

Поширення глибоких фейкових зображень без згоди збігається з широким впровадженням ШІ 400% збільшення За даними Internet Watch Foundation, штучний інтелект у зображеннях сексуального насильства над дітьми в першій половині 2025 року.

xAI представив “пікантний режимУ серпні Перевірено у своїх інструментах для створення зображень і відео для створення еротичного контенту для дорослих клієнтів.

За даними компанії Copyleaks, яка займається виявленням тексту та зображень зі штучним інтелектом, деякі творці контенту для дорослих на X надихнули Грока на створення еротичних зображень для реклами, що поклало початок Інтернет-тенденції кілька днів тому.

Тестування обмежень Grok стало безкоштовним для всіх, оскільки користувачі просили його створити еротичні зображення знаменитостей та інших.

Повідомляється, що xAI оцінюється в понад 200 мільярдів доларів, і він інвестує мільярди доларів у будівництво найбільшого в світі центру обробки даних для роботи своїх програм ШІ.

Проте здібності Грока ще позаду Конкуруючі моделі штучного інтелекту, такі як ChatGPT, Cloud і Gemini, отримали більше користувачів, тоді як Grok звернувся до сексуальних супутників ШІ І чат ризикований для сприяння росту.