НовиниЧат-бот Grok генерує понад шість тисяч «роздягнених» зображень на годину в Х
Він «роздягає» жінок і дітей без їхньої згоди на запити інших користувачів
Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI бізнесмена Ілона Маска, генерує понад 6700 «роздягнених» зображень жінок і дітей на годину в соцмережі Х.
Про це свідчать дані стороннього аналізу, повідомляє Bloomberg.
З кінця грудня 2025 року у відповідь на численні запити користувачів Grok створив і опублікував значну кількість зображень, на яких «роздягав» неповнолітніх і дорослих, переважно дівчат і жінок, на фотографіях без їхньої згоди. На деяких зображеннях також відтворювали сцени сексуального насильства щодо жінок.
За словами дослідниці соцмереж і діпфейків Женев’єв О, за 24-годинний період із 5 до 6 січня чат-бот створював понад 6700 таких зображень за годину. Для порівняння інші п’ять провідних сайтів із таким контентом у середньому створювали 79 таких ШІ-зображень на годину.
За підрахунками О, загалом 85% зображень, згенерованих Grok, є сексуалізованими.
Низка країн визнали такий контент незаконним і наказали обмежити його, зокрема органи влади Європейського Союзу, Великої Британії, Малайзії, Франції й Індії.
Керрі Голдберг, юристка, яка спеціалізується на онлайн-злочинах сексуального характеру, назвала масштаб діпфейків у Х «безпрецедентним».
«У нас ніколи не було технології, яка настільки спростила б створення нових зображень», – сказала вона, пояснивши це тим, що Grok є безплатним і прив’язаним до вбудованої системи поширення.
На відміну від інших провідних чат-ботів, Grok майже не накладає обмежень на користувачів і не блокує створення сексуалізованого контенту із зображенням реальних людей, зокрема неповнолітніх, зазначила Бренді Ноннеке, старша директорка з політики в організації Americans for Responsible Innovation.
Інші генеративні ШІ-технології, зокрема від Anthropic PBC, OpenAI та Google, «добросовісно намагаються запобігти створенню такого контенту ще на початковому етапі», ствердила вона.
Як зазначають, замість того щоб запобігати створенню такого контенту чат-ботом, Маск говорив про покарання користувачів, які просять його це зробити. Водночас невідомо, наскільки це допоможе запобігти генеруванню нового контенту.