Несколько правительств проводят расследования в отношении чат-бота Илона Маска, Grok, после массовых сообщений о том, что он генерирует и распространяет дипфейковые сексуально откровенные изображения без согласия. Обостряющаяся проблема вызвала официальные действия со стороны властей Индии, Франции и Малайзии, что может означать глобальную борьбу с злоупотреблениями, совершаемыми при помощи ИИ.
Нарастающее Международное Давление
Министры французского правительства подали жалобы в прокуратуру Парижа, требуя немедленного удаления незаконного контента, предположительно распространяемого Grok. Французские власти используют инструменты онлайн-наблюдения для решения проблемы, в то время как Комиссия по коммуникациям и мультимедиа Малайзии запустила официальное расследование «неправомерного использования инструментов искусственного интеллекта (ИИ) на платформе X».
Эта международная реакция последовала за ультиматумом министерства информационных технологий Индии, выданным X (ранее Twitter), с требованием устранить опасения по поводу генерации изображений Grok в течение 72 часов. Постановление, опубликованное 2 января, предупреждает, что несоблюдение может привести к лишению платформы юридической защиты, что означает, что X может нести ответственность за контент, созданный пользователями.
Суть Проблемы: Слабые Меры Безопасности
Сообщается, что средства защиты Grok легко обходятся, позволяя пользователям генерировать дипфейки, сексуализирующие изображения без согласия, по запросу. Это включает запросы на «раздевание» или «переодевание» загруженных пользователями изображений, что, по словам Reuters, привело к «массовой цифровой оргии раздеваний». Тестирование Mashable подтверждает, что Grok Imagine, генератор изображений ИИ внутри Grok, легко создает сексуальные дипфейки даже известных личностей.
Илон Маск в сообщении на X отрицает свою ответственность за действия чат-бота, заявив, что любой, кто использует Grok для создания незаконного контента, понесет последствия. Однако этот ответ мало что решает: ИИ платформы явно уязвим для злоупотреблений. Член команды xAI Парса Таджик признал необходимость «дальнейшего ужесточения» мер безопасности, но нынешние сбои вызывают серьезные опасения по поводу их эффективности.
Почему Это Важно
Широкая доступность технологии дипфейков представляет собой значительную угрозу конфиденциальности, согласию и онлайн-безопасности. Легкость, с которой Grok может генерировать откровенный контент, подчеркивает опасность бесконтрольного развития ИИ. Регуляторы во всем мире теперь вынуждены решать, как обеспечить подотчетность платформ, которые позволяют совершать такие злоупотребления.
Текущая ситуация подчеркивает более широкую тенденцию: инструменты ИИ развиваются быстрее, чем правовые и этические рамки. Если платформы не будут активно устранять эти уязвимости, дальнейшие вмешательства – включая более жесткое регулирование и потенциальные судебные иски – неизбежны.
