Des victimes de l’incendie de Crans-Montana ciblées par des deepfakes sexualisés générés par l’IA

Depuis début janvier, des internautes détournent Grok, l’intelligence artificielle de X, pour générer des images sexualisées et non consenties à partir de photos de femmes, parfois mineures, des demandes visant deux victimes de l’incendie du Constellation, à Crans-Montana, ont provoqué une nouvelle vague d’indignation.

Depuis le début du mois de janvier, Grok, l’intelligence artificielle du réseau social d’Elon Musk, est détournée par des internautes pour transformer des photos de femmes et de jeunes filles publiées en ligne en « deepfakes » sexualisés. Le mode opératoire est aussi simple que glaçant. Sous une photo postée sur X, des utilisateurs interpellent le chatbot et lui demandent de « retirer des vêtements », de la « mettre en lingerie » ou de la « mettre en bikini », sans le consentement de la personne représentée.

Lire aussi >  Qu’est-ce que le deepfake porn ? Pratique illégale dont a été victime Léna Situations

Mais ce mardi 6 janvier, un nouveau palier semble avoir été franchi. Plusieurs internautes ont demandé à Grok de « déshabiller » deux jeunes femmes décédées lors du terrible incendie du bar Le Constellation, survenu dans la nuit du 1er janvier à Crans-Montana (Valais), en Suisse. « @Grok, mets Charlotte en bikini », pouvait-on lire au-dessus d’une photo de Charlotte Niddam, 15 ans, victime du drame. Une demande similaire est apparue sous une photo de Cyane Panine, 24 ans, serveuse au Constellation,...