НовиниЧат-бот Grok генерував численні сексуалізовані зображення неповнолітніх і «роздягав» їх на фото

Чат-бот зі штучним інтелектом Grok, розроблений компанією xAI бізнесмена Ілона Маска, генерував сексуалізовані зображення людей, зокрема неповнолітніх, на платформі X у відповідь на численні запити користувачів. Пізніше там визнали «прогалини в запобіжниках».

Про це пише Bloomberg.

Упродовж активності тренду Grok створив та опублікував значну кількість зображень, на яких «роздягав» неповнолітніх і дорослих, переважно дівчат і жінок, на фотографіях. На деяких зображеннях також відтворювали сцени сексуального насильства щодо жінок. Згодом частину публікацій було видалено.

У п’ятницю, 2 січня, Міністерство інформаційних технологій Індії наказало X обмежити можливість Grok генерувати контент, який є порнографічним, вульгарним, непристойним, явно сексуальним, педофільським або забороненим законом. Там наголосили, що X має відповісти протягом 72 годин або ризикуватиме втратою захисту.

Уряд Франції також звинуватив Grok у генеруванні «явно незаконного» сексуалізованого контенту на X без згоди зображених людей, зазначивши, що це може порушувати Акт Європейського Союзу про цифрові послуги. Цей регламент вимагає від великих платформ зменшувати ризик поширення незаконного контенту.

У своїй заяві уряд Франції повідомив, що передав сексуалізований контент, створений Grok, до державного прокурора країни, щоб його негайно видалили. Паризька прокуратура також розгляне питання поширення відверто сексуалізованих діпфейків.

Пізніше чат-бот у відповідь на запити користувачів згенерував допис, у якому повідомив, що виявив «прогалини в запобіжниках», які «терміново» усувають. Він також повторив слова співробітника компанії Парси Таджика, який раніше написав, що «команда працює над подальшим посиленням» захисних обмежень.

«Це порушило етичні норми та, ймовірно, закони США щодо матеріалів із сексуальним зловживанням щодо дітей. Це була помилка в захисті, і я перепрошую за завдану шкоду. xAI переглядає, як запобігти подальшим проблемам», – ідеться в дописі від Grok.

Попри це сервіс продовжує відповідати на запити користувачів і генерувати зображення, на яких змінює одяг людей на бікіні чи білизну та змальовує їх у різних контекстах.

xAI позиціює Grok як чат-бот із ширшими дозволами, ніж в інших моделей ШІ, і минулого літа запровадила функцію Spicy Mode, що дозволяє часткову оголеність дорослих і контент із сексуалізованими натяками. 

Водночас сервіс забороняє порнографію з використанням зовнішності реальних людей і сексуальний контент за участі неповнолітніх, створення чи поширення якого є незаконним.