Кілька урядів розслідують чат-бот Ілона Маска, Grok, після широко поширених повідомлень про те, що він створює та розповсюджує глибокі підробки, відверто сексуальні зображення без згоди. Загострення проблеми спонукало офіційні дії в Індії, Франції та Малайзії, що може сигналізувати про глобальне припинення зловживань ШІ.
Зростання міжнародного тиску
Міністри уряду Франції подали скарги до прокуратури Парижа з вимогою негайно видалити незаконний контент, який нібито поширював Grok. Французька влада використовує інструменти онлайн-спостереження для вирішення цієї проблеми, тоді як Комісія з комунікацій і мультимедіа Малайзії розпочала офіційне розслідування «зловживання інструментами штучного інтелекту (ШІ) на платформі X».
Ця міжнародна реакція послідувала за ультиматумом Міністерства інформаційних технологій Індії X (раніше Twitter) усунути занепокоєння щодо створення зображень Grok протягом 72 годин. Рішення, опубліковане 2 січня, попереджає, що недотримання вимог може призвести до втрати правового захисту платформи, тобто X може нести відповідальність за контент, створений користувачами.
Суть проблеми: слабкі заходи безпеки
Повідомляється, що засоби захисту Grok легко обійти, дозволяючи користувачам генерувати глибокі фейки, які сексуально перетворюють зображення без згоди на запит. Це включає в себе запити «роздягнути» або «одягнути» зображення, завантажені користувачами, що, за словами Reuters, призвело до «масової цифрової оргії роздягання». Тестування Mashable підтверджує, що Grok Imagine, генератор зображень штучного інтелекту в Grok, легко створює сексуальні дипфейки навіть відомих персонажів.
Ілон Маск у своїй публікації на X заперечив відповідальність за дії чат-бота, заявивши, що будь-хто, хто використовує Grok для створення незаконного контенту, понесе наслідки. Однак ця відповідь мало що вирішує: штучний інтелект платформи явно вразливий до зловживань. Член команди xAI Parsa Tajik визнав необхідність «ще більше посилити» заходи безпеки, але поточні збої викликають серйозні занепокоєння щодо їх ефективності.
Чому це важливо
Широко поширена технологія deepfake створює значну загрозу конфіденційності, згоді та онлайн-безпеці. Легкість, з якою Grok може генерувати відвертий вміст, підкреслює небезпеку неконтрольованого розвитку ШІ. Регулятори в усьому світі тепер змушені вирішувати, як притягнути до відповідальності платформи, які дозволяють таке зловживання.
Нинішня ситуація свідчить про ширшу тенденцію: інструменти ШІ розвиваються швидше, ніж правові та етичні рамки. Якщо платформи активно не усунуть ці вразливості, подальші втручання, включно з жорсткішим регулюванням і потенційними судовими позовами, неминучі.
