Avec le recul, la publication sur Instagram aurait dû déclencher davantage de signaux d’alarme. L’image prétendait montrer l’actrice Mia Goth, quelques jours seulement après avoir demandé le divorce de l’acteur et cinéaste Shia LaBeouf, posant dans un T-shirt avec un message pointu : MON EX EST MON PLUS GRAND FAN. Pour bien faire comprendre le message, la chanson «Single Ladies (Put a Ring on It)» de Beyoncé a été ajoutée au message.
Cela n’aurait pas été dans le caractère de la star de Perlequi n’a pas beaucoup de présence sur les réseaux sociaux, voire aucune. Mais le compte Instagram qui l’a publié, @miagoth_, comptait plus d’un million de followers et était marqué d’une coche bleue « vérifié ». En quelques jours, l’image a accumulé près de 500 000 likes, y compris de la part de pairs de l’industrie du divertissement, bien que la page soit étiquetée comme compte de fan.
L’image, comme Le bord rapporté, a été généré par l’IA, publié par un compte dont le représentant de Goth a déclaré qu’ils s’étaient déjà plaints sur Instagram pour avoir publié des « images contrefaites d’IA » de Goth. Meta permet aux utilisateurs d’acheter des coches bleues « vérifiées », même si le compte n’est pas géré par une personnalité éminente ou n’est pas une page officielle.
“Le fait que ce compte de fan réponde aux critères d’Instagram pour bénéficier d’un ‘chèque bleu’ est fondamentalement déconcertant”, a déclaré Christine Tripicchio, représentante de Goth. Le bord dans un e-mail. “Au-delà de cela, il est incompréhensible qu’Instagram donne manifestement la priorité à la diffusion d’images falsifiées et manipulées plutôt qu’à la protection et à l’intégrité de l’image d’une personnalité publique.”
En raison de l’annonce de son divorce, la publication s’est répandue dans les médias à potins sur les célébrités, et cette couverture a à son tour propagé la publication via la recherche Google. Les recherches de l’actrice et de la chemise ont déclenché un aperçu généré par l’IA indiquant que Goth « s’en prenait clairement à son ex, Shia LaBeouf, à la suite de leur récente demande de divorce », citant à son tour les blogs susmentionnés. Une section dans les résultats de recherche Google intitulée « Mia Goth fait tourner les têtes sur Instagram en portant un t-shirt impertinent « Mon ex est mon plus grand fan » » figurait en bonne place, ainsi que des liens vers des publications sur les réseaux sociaux discutant de l’image. Instagram a finalement supprimé le compte pour avoir usurpé l’identité d’une personnalité publique.
Depuis que les outils d’IA générative grand public sont devenus disponibles il y a plusieurs années, certains des cas d’utilisation les plus mémorables – et controversés – ont impliqué des personnes célèbres. Historiquement, les sujets humains en question n’ont pas bien réagi au clonage numérique et à leur utilisation comme jouets : une chanson au son similaire à Drake générée par l’IA a été effacée de YouTube à la suite de violations de droits d’auteur. Scarlett Johansson a embauché une équipe juridique après qu’OpenAI ait publié une voix pour ChatGPT qui lui ressemblait sans son consentement. Ariana Grande aurait bloqué un compte publiant du contenu généré par l’IA d’elle l’année dernière. Taylor Swift a publiquement soutenu Kamala Harris à la présidence en 2024, affirmant qu’elle avait été amenée à clarifier sa position après que Donald Trump ait publié de fausses images suggérant qu’elle le soutenait.
Il fut un temps où tout le monde, même les riches et les célèbres, était aux prises avec les normes liées à une nouvelle technologie. Aujourd’hui, le creux du contenu de l’IA en ligne ne fait que croître – et il n’est pas clair si quelqu’un essaie ou est capable de l’arrêter.
Le contenu de l’IA représentant des personnalités publiques féminines est souvent ouvertement sexuel. Un profil qui publie exclusivement des images de Johansson générées par l’IA – souvent avec les pieds nus bien en évidence – comprenait des informations de contact permettant aux entreprises de faire de la publicité sur le compte, ainsi que des liens vers les chaînes Patreon et Telegram vendant des abonnements. Le contenu hors plate-forme utilisait le nom et l’image (IA) de Johansson pour promouvoir du contenu pour adultes. Un autre compte publie des images réalistes générées par l’IA d’acteurs et de musiciens comme Millie Bobby Brown, Zendaya et Grande, toujours partiellement déshabillés ou dans des positions sexualisées. Certains comptes ont leur propre niche, comme «Choses étranges les acteurs se marient entre eux.
Après Le bord a interrogé Meta sur huit comptes publiant du contenu deepfake de célébrités, le porte-parole Alex Dziedzan a déclaré que la société avait supprimé certains de ces comptes. Deux d’entre eux – celui de Goth et celui de Johansson – semblent avoir été démontés.
“Nous n’autorisons pas les comptes à utiliser l’image d’une personne pour se faire passer pour cette personne, que le contenu soit authentique ou généré par l’IA”, a déclaré Dziedzan dans un e-mail.
Taylor Swift tient un verre, rappant sur « Burning Bridges » de Drake, avec des jurons et tout. “Je pars d’un [Quaalude]”Ça fait picoter mon corps”, chante-t-elle, portant la robe du moment fatidique des VMA de 2009. La vidéo est évidemment une IA. Elle a été vue 1,8 million de fois sur Instagram.
“Je ne pense pas que son équipe de relations publiques aimerait qu’elle prononce le mot N”, a commenté quelqu’un.
Instagram regorge de vidéos comme celle-ci, suivant souvent inexplicablement des formats très spécifiques. Un clip d’AI Shrek faisant la même chose qu’AI Swift a été visionné 3,1 millions de fois. Voici Steve Jobs, se pavanant sur une autre chanson de Drake, une bouteille de champagne à la main (371 000 vues). Il existe également une version identique de Lionel Messi (2,1 millions de vues) publiée par un autre compte. Voici les pilotes de Formule 1 Lewis Hamilton et Max Verstappen en lipsync sur « APT » de Bruno Mars et Rosé (2,9 millions de vues). Un autre clip montre le mariage d’AI Swift avec AI Travis Kelce au AI Madison Square Garden.
« ai, il portait un smoking blanc », a utilement vérifié un fan.
En l’absence de lois nationales sur le droit à la publicité, les contenus générés par l’IA mettant en scène de vraies personnes font l’objet de litiges au niveau de la plateforme. (La loi américaine Take It Down, promulguée en 2025, criminalise spécifiquement la distribution d’images intimes non consensuelles, y compris le contenu généré par l’IA, et oblige les plateformes à les supprimer dans les 48 heures.)
YouTube dispose d’un système de détection de ressemblance, peut-être le système de surveillance et de suppression des deepfakes le plus robuste. Dans le cadre de ce programme, YouTube analysera sa plate-forme à la recherche de correspondances visuelles pour une personne – et, depuis récemment, de sons similaires – et lui permettra de demander le retrait de contenu. Toutes les demandes de retrait ne sont pas acceptées ; la société affirme qu’elle prend en compte l’intérêt public, l’intérêt médiatique et le consentement lors de l’évaluation des retraits. Le programme était initialement ouvert aux personnalités publiques telles que les célébrités, les créateurs de contenu, les politiciens et les journalistes, mais couvre désormais tous les adultes disposant d’un compte YouTube. Dans le passé, la société a déclaré que le nombre de demandes de retrait qu’elle recevait était relativement faible. Les créateurs veulent être au courant de ce qui a été publié à leur sujet sur YouTube, mais cela finit souvent par être « assez inoffensif ou additif à leur activité globale », a déclaré Amjad Hanif, vice-président des produits pour créateurs, lors d’un point de presse en mars.
Le porte-parole de YouTube, Jack Malon, a noté dans un e-mail adressé à Le bord que la détection de ressemblance de l’entreprise a été développée en partenariat avec l’industrie du divertissement. Malon a déclaré qu’au cours du premier semestre 2026, YouTube avait supprimé plus de 95 % des vidéos signalées via le programme pour retrait.
Les images fixes sont exemptées des exigences d’étiquetage IA de Meta
Le contenu généré par l’IA sur les méta-plateformes porte souvent des étiquettes l’identifiant comme tel. Certains contenus, comme les vidéos réalistes de personnes ou l’audio de voix générées par l’IA, doivent avoir une étiquette IA. Les images fixes, en revanche, sont exemptées de l’obligation d’étiquetage, ce qui signifie que la fausse image de Mia Goth n’aurait pas nécessité de divulgation selon les règles de Meta. La société a également introduit des étiquettes de « profil généré par l’IA » qui s’appliquent à l’ensemble d’un compte où l’avatar représenté n’existe pas dans le monde réel après qu’un afflux de types d’influenceurs IA ait inondé la plateforme.
Mais il existe une industrie artisanale de comptes qui génèrent des images de personnes réelles générées par l’IA que l’algorithme semble apprécier. Une partie du contenu n’est évidemment pas néfaste, mais plutôt étrange : il existe par exemple sur Facebook un genre de vidéos de première de film générées par l’IA, dans lesquelles les acteurs originaux (en costume) parcourent le tapis rouge aux côtés des acteurs pour une version refondue. Un profil annonce des cours en ligne à 29 $ par mois sur la façon de gagner de l’argent grâce au contenu d’IA.
Le contenu de célébrités généré par l’IA a également la capacité de vraiment tromper les gens en leur faisant croire qu’il est réel, comme dans le cas de l’image (et du compte) représentant Goth. Le message spécifique devenu viral suggérait que l’actrice se moquait de LaBeouf, qui a été accusé d’abus par un autre ex-partenaire et a été filmé en 2015 en disant qu’il « aurait tué [Goth]” s’il avait continué à se disputer avec elle. La fausse image était accrocheuse, douteuse et opportune – en d’autres termes, parfaite pour la viralité des médias sociaux mais une responsabilité potentielle pour les parties impliquées. L’incident illustre les échecs des dispositions de confiance et de sécurité qui sont censées protéger contre ce genre de confusion.
Sur les réseaux sociaux, le contenu de l’IA se mêle librement aux rediffusions classiques d’images réelles. Et même lorsqu’une page est supprimée, d’autres continuent à diffuser du contenu : un autre compte Instagram – toujours en ligne – avec plus de 300 000 abonnés publie un flux constant de photos et de vidéos de Johansson, qui semblent être un mélange d’images authentiques et de contenu généré par l’IA. L’un de ses articles les plus populaires est ce qui semble être une image IA de Johansson avec près d’un demi-million de likes. Il n’y a aucune divulgation de l’IA, conformément aux règles de Meta. Le Johansson deepfake est allongé sur un canapé, les pieds nus bien en évidence. Ce n’est pas elle, évidemment – mais ses fans dans les commentaires ne le savent pas, ou ne le savent pas. soins.
