Ces derniers mois, le cas de Taylor Swift, la célèbre auteure-compositrice-interprète qui a fait l'objet de fausses images générées par l'intelligence artificielle et qui sont immédiatement devenues virales, a fait naître de nouvelles craintes quant aux dangers liés à l'utilisation d'images basées sur l'IA. outils .
« Prenons le cas de Taylor Swift, souligne Morgan Wright, conseiller en chef de la sécurité de SentinelOne, c'est une femme très riche, elle a une armée d'avocats à sa disposition et des relations dans le monde entier. Même elle a eu du mal à se défendre face aux images profondément fausses et sexuellement explicites qui circulaient sur les réseaux sociaux. Même si elle a réussi à les bloquer (il a fallu vingt-quatre heures pour y parvenir), les images continuent de circuler sur des milliers d'autres sites et le problème s'accentue pour ceux qui ont moins de ressources financières que Taylor Swift.
Ce qui se passe, c'est qu'un attaquant décide d'obtenir des reproductions audio, vidéo et graphiques de la cible identifiée pour poursuivre un objectif. Selon le but recherché, il peut s'agir de la combinaison de n'importe quel visage avec celui d'une deuxième personne (généralement liée à la pornographie, car elle tend à infliger le plus de dommages à la réputation du personnage), de l'image, de la vidéo ou de la lecture audio qui en résulte. est diffusé sur les réseaux sociaux et décrit avec des titres de type potins pour attirer l'attention et déclencher le phénomène viral.
"Il existe d'autres variétés de deepfakes, poursuit Wright de SentinelOne, y compris celles à caractère politique, relationnel, rétributif et d'influence négative (manipulation par les gouvernements pour influencer les opinions) car les capacités de générer ces reproductions nuisibles sont devenues plus faciles et moins chères."
Quelles sont les premières choses à faire si vous craignez d’être victime de deep fakes ?
«Le conseil est d'avertir immédiatement la police postale et de déposer un rapport, conclut Wright. En outre, selon le type de plateforme concernée, certaines dispositions permettent à la personne intéressée de déposer une plainte auprès du prestataire de services et de signaler le problème critique. Après un événement deep-fake, il n'est pas recommandé de partager des photos, des vidéos ou des fichiers audio sur les sites de réseaux sociaux. Dans la mesure du possible, nous devrions supprimer ce que nous savons être en circulation ou mettre les comptes hors ligne jusqu'à ce que le risque puisse être vérifié.
En conclusion, nous suggérons d'évaluer la possibilité de modifier tous les paramètres de confidentialité des canaux sociaux afin de limiter l'accès à notre contenu en ligne. Ce ne sera pas facile, mais cela peut contribuer à limiter les impacts futurs.
Abonnez-vous à notre newsletter!