Dérives sexuelles sur la plateforme Grok d'Elon Musk : "C'est épouvantable et dégoûtant"

"Le Far West, c'est fini"

Sans surprise, cette dernière polémique a déclenché une réaction en chaîne du côté des autorités européennes. Lors du point presse de la Commission ce lundi, le porte-parole Thomas Regnier a résumé la position de l'UE : "Nous ne voulons pas de cela dans l'Union européenne… c'est épouvantable, c'est dégoûtant". Avant d'ajouter une formule qui commence doucement à devenir un leitmotiv : "Le Far West, c'est fini en Europe".

"Toutes les entreprises ont l'obligation de faire le ménage chez elles, et cela commence par la responsabilité et la suppression des contenus illégaux générés par leurs outils d'IA". Les responsables européens rappellent aussi que le Digital Services Act (DSA) impose aux plateformes de retirer rapidement les contenus illégaux et de prévenir les risques. Un cadre qui peut exposer X à de lourdes sanctions financières, comme ça a déjà été le cas précédemment, si des manquements sont établis.

Des enquêtes dans le monde entier

En France, la justice a lancé une enquête après des signalements sur X pour "diffusion de montages sexuels sans consentement", un délit passible de prison et d'amende. Des députés ont saisi le parquet et le gouvernement a alerté les autorités compétentes afin d'examiner d'éventuels manquements de X à ses obligations.

Mais cette levée de boucliers ne se limite pas à l'UE. Au Royaume-Uni, la secrétaire d'État à la Technologie, Liz Kendall, a qualifié la situation d'"absolument épouvantable". "Nous ne pouvons pas et ne permettrons pas la prolifération de ces images dégradantes", a-t-elle insisté auprès du média anglais, soutenant l'intervention du régulateur anglais Ofcom, qui a pris "contact urgent" avec xAI afin d'éclaircir les soupçons d'images dénudées produites par le chatbot.

"Il ne s'agit pas de restreindre la liberté d'expression, mais de faire respecter la loi". Le gouvernement britannique a d'ailleurs classé la diffusion non consentie d'images intimes et l'exhibitionnisme en ligne parmi les infractions prioritaires, y compris lorsque les images sont générées par intelligence artificielle.

Ailleurs dans le monde, la liste des procédures s'allonge. En Malaisie, le régulateur des communications a ouvert une enquête et convoqué des représentants de X. En Inde, des vérifications sont également en cours.

Au Brésil, une élue a même demandé la suspension temporaire de Grok tant que les investigations ne sont pas terminées. Une demande qui doit être examinée, mais à prendre malgré tout au sérieux. Pour rappel, le 30 août 2024, le gouvernement avait déjà suspendu le réseau social pendant plus d'un mois après qu'Elon Musk a refusé de se conformer aux décisions judiciaires brésiliennes sur la lutte contre la désinformation.

Les principaux concernés minimisent

Face à la montée des critiques de toute part, le réseau social assure prendre le sujet au sérieux. "Nous prenons des mesures contre les contenus illégaux sur X, y compris les contenus pédopornographiques, en les supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales et les forces de l'ordre si nécessaire", a indiqué la plateforme dans un communiqué. "Quiconque utilise Grok ou incite à créer du contenu illégal subira les mêmes conséquences que s'il téléchargeait lui-même du contenu illégal". Mais force est de constater que cela n'empêche pas certains utilisateurs de poursuivre leurs activités et la plateforme permet toujours de déshabiller numériquement des femmes.

Grok, de son côté, minimise, parlant de "cas isolés", et affirme que "des améliorations sont en cours". Mais le pire vient certainement d'Elon Musk, qui préfère rire de la situation. Ce dernier a partagé une image générée par Grok le représentant en bikini, accompagnée d'émojis rieurs. Une posture qui tranche avec la gravité des accusations.

En attendant, pour les autorités, l'urgence est là. Tant que des images sexuelles générées par IA continuent de circuler, la pression ne retombera certainement pas du côté des régulateurs. Sur X, les signalements se multiplient et les régulateurs accélèrent leurs contrôles. Grok, présenté par Elon Musk comme un outil d'IA grand public innovant, se retrouve donc, encore une fois, au centre d'un dossier pour le moins explosif.