Індонезія та Малайзія стали першими країнами, які офіційно заборонили чат-бот Ілона Маска зі штучним інтелектом Grok, посилаючись на широке зловживання ним для створення без згоди відверто сексуальних дипфейків. Цей крок відображає зростаючу стурбованість у всьому світі тим, що генеративні інструменти ШІ випереджають існуючі механізми захисту, дозволяючи створювати та розповсюджувати реалістичний, але сфабрикований контент.
Основна проблема: неконтрольоване створення Deepfakes
Grok, доступний через соціальну медіа-платформу Ілона Маска X, зазнав критики за його здатність генерувати маніпульовані зображення, включаючи зображення жінок у сексуально провокаційних позах і навіть зображення за участю неповнолітніх. Регулятори в обох країнах Південно-Східної Азії дійшли висновку, що поточного контролю недостатньо для запобігання створенню та розповсюдженню фальшивої порнографії.
«Діпфейки сексуального характеру без згоди є серйозним порушенням прав людини, гідності та безпеки громадян у цифровому просторі», — заявив міністр зв’язку та цифрових питань Індонезії Мейтя Хафід.
Конкретні проблеми, які піднімає влада
Індонезійські чиновники виявили, що Grok не мав ефективних механізмів захисту від створення порнографічного контенту на основі реальних зображень індонезійців. Це створює значний ризик для конфіденційності та прав на зображення з можливістю серйозної психологічної, соціальної шкоди та шкоди репутації, коли фотографії маніпулюють без згоди.
Подібним чином комісія Малайзії із зв’язку та мультимедіа повідомила про «неодноразове неправильне використання» інструменту для створення непристойного та неконсенсусного контенту. Незважаючи на попередження, надіслані X Corp. і xAI щодо посилення механізмів безпеки, відповідь значною мірою покладалася на механізми звітування користувачів, які виявилися неадекватними.
Обмежений доступ і нормативний відкат
Обидві країни встановили тимчасові обмеження щодо Grok, поки не будуть запроваджені ефективні механізми захисту. Індонезія заблокувала доступ у суботу, а потім Малайзія в неділю. Цей крок став результатом глобального засудження можливостей Grok створювати зображення, зокрема після введення «гострого режиму», який дозволяє створювати контент для дорослих.
Хоча Grok минулого тижня обмежив створення та редагування зображень для платних користувачів, критики кажуть, що цей крок не повністю вирішує проблему. Більш широкий контроль поширюється на інші регіони, включаючи Європейський Союз, Великобританію, Індію та Францію, де регулятори все більше стурбовані можливістю зловживань.
Наслідки для регулювання ШІ
Заборони в Індонезії та Малайзії підкреслюють нагальну потребу в посиленні регулювання ШІ. Поточна опора на саморегулювання та підзвітність користувачів явно недостатня для запобігання зловмисному використанню генеративних інструментів ШІ. Інцидент піднімає фундаментальні питання щодо відповідальності, згоди та етичних меж контенту, створеного ШІ.
Обмеження надсилають чітке повідомлення: платформи, які дозволяють створювати та розповсюджувати неконсенсусні дипфейки, стикатимуться з посиленням правового та регуляторного тиску. Без більш потужних механізмів захисту майбутнє таких інструментів ШІ, як Grok, залишається невизначеним у багатьох частинах світу.
