L’Indonésie et la Malaisie sont devenues les premiers pays à interdire officiellement le chatbot Grok AI d’Elon Musk, invoquant une utilisation abusive généralisée pour créer des deepfakes non consensuels et sexuellement explicites. Cette décision reflète une préoccupation mondiale croissante selon laquelle les outils d’IA générative dépassent les garanties existantes, permettant la production et la diffusion de contenus réalistes mais fabriqués.
Le problème principal : la génération de Deepfake non contrôlée
Grok, accessible via la plateforme de médias sociaux X de Musk, a été fortement critiqué pour sa capacité à générer des images manipulées, notamment des représentations de femmes dans des poses sexuellement suggestives et même des images impliquant des mineurs. Les régulateurs des deux pays d’Asie du Sud-Est ont déterminé que les contrôles actuels étaient insuffisants pour empêcher la création et la distribution de faux matériel pornographique.
« Les deepfakes sexuels non consensuels constituent une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique », a déclaré le ministre indonésien de la Communication et des Affaires numériques, Meutya Hafid.
Préoccupations spécifiques soulevées par les autorités
Les autorités indonésiennes ont constaté que Grok manquait de garanties efficaces pour empêcher les utilisateurs de créer du contenu pornographique basé sur des images réelles de résidents indonésiens. Cela pose un risque important pour la vie privée et le droit à l’image, avec un potentiel de graves préjudices psychologiques, sociaux et de réputation lorsque les photos sont manipulées sans consentement.
De même, la Commission malaisienne des communications et du multimédia a évoqué une « utilisation abusive répétée » de l’outil pour générer du contenu obscène et non consensuel. Malgré les avertissements adressés à X Corp. et à xAI exigeant des mesures de protection plus strictes, la réponse s’est largement appuyée sur des mécanismes de signalement des utilisateurs, qui se sont révélés inadéquats.
Accès limité et réaction négative en matière de réglementation
Les deux pays ont imposé des restrictions temporaires à Grok jusqu’à ce que des garanties efficaces soient mises en œuvre. L’Indonésie a bloqué l’accès samedi, tandis que la Malaisie a emboîté le pas dimanche. Cette action fait suite à une réaction mondiale contre les capacités de génération d’images de Grok, en particulier après l’introduction d’un « mode épicé » qui permet la création de contenu explicite.
Bien que Grok ait limité la semaine dernière la génération et l’édition d’images aux utilisateurs payants, les critiques affirment que cette mesure ne résout pas complètement le problème. Cette surveillance plus large s’étend à d’autres régions, notamment à l’Union européenne, à la Grande-Bretagne, à l’Inde et à la France, où les régulateurs sont de plus en plus préoccupés par les risques d’abus.
Implications pour la réglementation de l’IA
Les interdictions en Indonésie et en Malaisie soulignent le besoin urgent d’une réglementation plus stricte en matière d’IA. Le recours actuel à l’autorégulation et aux rapports des utilisateurs est clairement insuffisant pour empêcher l’utilisation malveillante des outils d’IA générative. L’incident soulève des questions fondamentales sur la responsabilité, le consentement et les limites éthiques du contenu généré par l’IA.
Les restrictions envoient un message clair : les plateformes permettant la création et la diffusion de deepfakes non consensuelles sont confrontées à une pression juridique et réglementaire croissante. Sans mesures de protection plus solides, l’avenir des outils d’IA comme Grok reste incertain dans de nombreuses régions du monde.
