Индонезия и Малайзия стали первыми странами, официально запретившими чат-бот с ИИ Grok от Илона Маска, сославшись на повсеместное злоупотребление им для создания неконсенсусных, сексуально откровенных дипфейков. Этот шаг отражает растущую обеспокоенность во всем мире тем, что генеративные инструменты ИИ опережают существующие механизмы защиты, позволяя создавать и распространять реалистичный, но сфабрикованный контент.
Основная Проблема: Неконтролируемое Создание Дипфейков
Grok, доступный через платформу социальных сетей Илона Маска X, подвергся резкой критике за свою способность генерировать манипулированные изображения, включая изображения женщин в сексуально провокационных позах и даже изображения с участием несовершеннолетних. Регуляторы в обеих странах Юго-Восточной Азии пришли к выводу, что текущих средств контроля недостаточно для предотвращения создания и распространения фальшивых порнографических материалов.
«Неконсенсусные сексуальные дипфейки являются серьезным нарушением прав человека, достоинства и безопасности граждан в цифровом пространстве», – заявила министр связи и цифровых дел Индонезии Мейтья Хафид.
Конкретные Проблемы, Поднятые Властями
Индонезийские чиновники обнаружили, что Grok не имеет эффективных механизмов защиты от создания порнографического контента на основе реальных изображений жителей Индонезии. Это создает значительный риск для конфиденциальности и прав на изображение, с потенциалом серьезного психологического, социального и репутационного вреда при манипулировании фотографиями без согласия.
Аналогично, Комиссия по коммуникациям и мультимедиа Малайзии сослалась на «повторяющееся злоупотребление» инструментом для создания непристойного и неконсенсусного контента. Несмотря на предупреждения, направленные в X Corp. и xAI с требованием усилить механизмы защиты, ответ в значительной степени полагался на механизмы отчетности пользователей, которые оказались неадекватными.
Ограниченный Доступ и Регуляторный Откат
Обе страны ввели временные ограничения на Grok до тех пор, пока не будут внедрены эффективные механизмы защиты. Индонезия заблокировала доступ в субботу, а Малайзия последовала за ней в воскресенье. Этот шаг последовал за глобальным осуждением возможностей генерации изображений Grok, особенно после внедрения «острого режима», который позволяет создавать контент для взрослых.
Хотя Grok на прошлой неделе ограничил генерацию и редактирование изображений для платных пользователей, критики утверждают, что эта мера полностью не решает проблему. Более широкая проверка распространяется и на другие регионы, включая Европейский Союз, Великобританию, Индию и Францию, где регулирующие органы все больше обеспокоены потенциалом злоупотреблений.
Последствия для Регулирования ИИ
Запреты в Индонезии и Малайзии подчеркивают острую необходимость в более надежном регулировании ИИ. Текущая опора на саморегулирование и отчетность пользователей явно недостаточна для предотвращения злонамеренного использования генеративных инструментов ИИ. Этот инцидент поднимает фундаментальные вопросы об ответственности, согласии и этических границах контента, генерируемого ИИ.
Ограничения посылают четкий сигнал: платформы, позволяющие создавать и распространять неконсенсусные дипфейки, столкнутся с растущим юридическим и регуляторным давлением. Без более строгих механизмов защиты будущее инструментов ИИ, таких как Grok, остается неопределенным во многих частях мира.
