Грок Ілона Маска відреагував на використання генератора зображень штучного інтелекту для генерації сексуальних зображень реальних людей, включаючи неповнолітніх, без згоди.

Минулого тижня деякі

Деякі запити є консенсусними, наприклад, моделі OnlyFans просять Грок зняти одяг. Але інші надихнули Грока «роздягнутися» з образів дорослих, які не є собою. На деяких із цих зображень також зображені неповнолітні, згідно зі скріншотами, опублікованими стурбованими користувачами в соціальних мережах, і кількома прикладами, які бачив Business Insider.

Політика XAI «Прийнятне використання» забороняє «зображення подібності людей у ​​непристойній формі» та «сексуальну експлуатацію або жорстоке поводження з дітьми».

На прохання про коментарі xAI надіслав автоматичну відповідь електронною поштою, у якій не було вирішено проблеми.

Французька влада розслідує поширення дипфейків Grok, створених ШІ, повідомили POLITICO в прокуратурі Парижа. У Франції розповсюдження дипфейків онлайн без згоди може призвести до дворічного ув’язнення.

Міністерство електроніки та інформаційних технологій Індії написало листа керівнику комплаєнсу

Міністерство попросило X пройти «всебічну перевірку на технічному, процедурному та управлінському рівнях» і видалити будь-який контент, який порушує закони Індії.

Алекс Девіс-Джонс, міністр Сполученого Королівства у справах жертв насильства щодо жінок і дівчат, закликав Ілона Маска, генерального директора XAI, материнської компанії XAI, зробити щось із зображеннями штучного інтелекту.

«Якщо ви так дбаєте про жінок, чому ви дозволяєте користувачам X експлуатувати їх?» написала вона. «Грок може обеззброїти сотні жінок за хвилину, часто без відома або згоди людини на зображенні».

Девіс-Джонс також процитував пропозицію Великої Британії, згідно з якою створення та розповсюдження відверто сексуальних дипфейків стане кримінальним правопорушенням.

У відповідь на ан

Офіційний обліковий запис Grok відповів в окремій темі: «Були окремі випадки, коли користувачі запитували та отримували зображення штучного інтелекту, на яких були зображені неповнолітні в мінімальному одязі, як-от приклад, на який ви посилалися». «XAI вживає заходів безпеки, але вдосконалення тривають, щоб повністю запобігти таким запитам».

Deepfakes — це постійне занепокоєння та виклик модерації для компаній, що займаються штучним інтелектом, хоча Маск сурмив про функції Grok NSFW.

У серпні генератор зображень і відео Grok Imagine запустив «пікантний» режим, у якому користувачі могли створювати порнографічні зображення жінок, створених ШІ. Хоча параметр «Пікантний» був недоступний для завантаження фотографій, користувачі могли вводити спеціальні підказки, наприклад «Зняти сорочку».

Тенденція «зняти одяг» посилилася після того, як 23 грудня Wired повідомила, що моделі ChatGPIT OpenAI і Google Gemini AI використовувалися для створення зображень реальних жінок у бікіні з фотографій одягу.

Здатність людини протистояти дипфейкам штучного інтелекту, створеним самостійно, різна.

У США закон Take It Down захищає дипфейки без згоди, хоча його сфера дії залежить від віку та зображених частин тіла. Що стосується дорослих, Закон поширюється лише на дипфейки, які демонструють геніталії або сексуальну активність. Закон суворіший щодо неповнолітніх, включаючи дипфейки, спрямовані на «зловживання, приниження, переслідування або приниження» або «пробудження або задоволення сексуального бажання будь-якої особи».

Деякі штати також ухвалили суворі закони щодо розповсюдження дипфейків.

Хоча створення дипфейків за допомогою штучного інтелекту піднімає складніше питання відповідальності, розділ 230 Закону про пристойність у комунікаціях 1996 року в першу чергу захищає онлайн-платформи від відповідальності за вміст, опублікований користувачами.

Розмовляючи з Business Insider у серпні, юрист із технологічних зловживань Елісон Махоні поставила під сумнів те, що ставлення до платформ як до творців через їхні інструменти для створення ШІ «позбавить їх імунітету».

«Повинні бути чіткі юридичні шляхи для притягнення платформ до відповідальності за неправомірну поведінку», — сказав Махоні.