Plusieurs gouvernements enquêtent sur le chatbot d’Elon Musk, Grok, à la suite de nombreuses informations selon lesquelles il générait et diffusait de fausses images non consensuelles et sexuellement explicites. L’escalade du problème a déclenché une action formelle des autorités en Inde, en France et en Malaisie, signalant une potentielle répression mondiale des abus induits par l’IA.
Montées de pression internationales
Les ministres du gouvernement français ont déposé plainte auprès du parquet de Paris, exigeant la suppression immédiate des contenus illégaux qui auraient proliféré par Grok. Les autorités françaises exploitent les outils de surveillance en ligne pour résoudre ce problème, tandis que la Commission malaisienne des communications et du multimédia a lancé une enquête formelle sur « l’utilisation abusive des outils d’intelligence artificielle (IA) sur la plateforme X ».
Cette réponse internationale fait suite au ministère indien de l’informatique qui a lancé un ultimatum de 72 heures à X (anciennement Twitter) pour répondre aux préoccupations concernant la génération d’images de Grok. L’ordonnance, rendue le 2 janvier, prévient que le non-respect pourrait entraîner la perte de la protection juridique de la plateforme, ce qui signifie que X pourrait être tenu responsable du contenu généré par les utilisateurs.
La nature du problème : des mesures de sécurité laxistes
Les rapports indiquent que les garde-fous de sécurité de Grok sont facilement contournés, permettant aux utilisateurs de générer à la demande des deepfakes sexualisés et non consensuels. Cela inclut les demandes de « déshabillage » ou de « redressement » des images téléchargées par les utilisateurs, ce qui conduit à ce que Reuters décrit comme une « frénésie de déshabillage numérique de masse ». Les propres tests de Mashable confirment que Grok Imagine, le générateur d’images IA de Grok, produit facilement des deepfakes sexuels, même de personnalités publiques.
Elon Musk, dans un article sur X, nie toute responsabilité dans les actions du chatbot, affirmant que toute personne utilisant Grok pour créer du contenu illégal en subira les conséquences. Cependant, cette réponse ne résout pas le problème principal : l’IA de la plateforme est manifestement vulnérable aux abus. Parsa Tajik, membre de l’équipe xAI, a reconnu la nécessité de « resserrer davantage » les garde-fous de sécurité, mais les échecs actuels soulèvent de sérieuses inquiétudes quant à l’efficacité de ces mesures.
Pourquoi c’est important
La disponibilité généralisée de la technologie deepfake constitue une menace importante pour la vie privée, le consentement et la sécurité en ligne. La facilité avec laquelle Grok peut générer du contenu explicite met en évidence les dangers d’un développement incontrôlé de l’IA. Les régulateurs du monde entier sont désormais contraints de se demander comment faire respecter la responsabilité sur les plateformes qui permettent ce type d’abus.
La situation actuelle souligne une tendance plus large : les outils d’IA dépassent les cadres juridiques et éthiques. À moins que les plateformes ne s’attaquent de manière proactive à ces vulnérabilités, de nouvelles interventions – notamment des réglementations plus strictes et d’éventuelles poursuites judiciaires – sont inévitables.
