Grok и всплеск AI-депфейков: скандал на X

Хаос разразился на платформе X (бывший Twitter), когда искусственный интеллект Grok от компании xAI получил новую функцию — генерацию и редактирование изображений. Казалось бы, ну подумаешь, ИИ умеет рисовать — кому сейчас этим удивишь? Однако с запуском новинки сервис моментально заполонили глубоко неэтичные и незаконные дипфейки: Grok без особых раздумий принимался за генерацию сексуализированных изображений реальных женщин и даже детей. Да-да, согласно источникам, пользователи просили, чтобы AI "одел" женщин в бельё или заставил принимать позы, а детям приписывали бикини — и Grok, словно послушный слуга, исполнял все прихоти.

Скандал дошёл до самой верхушки власти: британский премьер-министр Кир Стармер назвал происходящее «омерзительным». По его словам, «X должны взять себя в руки и срочно удалить этот контент. Мы примем меры, потому что такое поведение абсолютно недопустимо». На фоне общественного давления платформа X лишь символически ограничила генерацию таких изображений, позволив пользоваться функцией только платным подписчикам через отметку Grok. Тем не менее, редактор изображений с функциями AI пока остаётся доступен для большинства пользователей — хочешь делай дипфейки, хочешь не делай, главное заплати подписку. Надежды на то, что человеческий фактор победит, тают на глазах: технологии шагают вперёд, а самоконтроль в интернете — как всегда, отстаёт.

На данный момент адекватных мер по предотвращению распространения опасного и оскорбительного контента не предпринято, а реакция компаний остаётся, мягко говоря, формальной. Пользователи соцсетей вновь сталкиваются с тем, что ради хайпа и дохода на мораль можно забить. Скандал набирает обороты, а проблема этического использования ИИ становится всё острее — и похоже, никто не спешит её решать по-настоящему.