Ariana Madix vient d'exposer le problème de consentement à l'IA de la télé-réalité
Ariana Madix ne mâche pas ses mots, et elle a dit ce qu'elle pensait lorsqu'elle a découvert que Love Island Australia utilisait des images d'elle avec l'IA dans sa dernière promo. L'animatrice de Love Island USA a révélé qu'on ne lui avait pas dit que l'émission utiliserait l'IA dans sa vidéo promotionnelle. Elle a également clairement indiqué qu’elle était fermement opposée à une telle utilisation de l’IA.
La réaction est valable et est plus grande qu’un message promotionnel maladroit de télé-réalité. Ariana a confirmé qu'elle avait accepté de filmer un clip, mais on ne lui a pas dit qu'il serait utilisé avec l'intelligence artificielle. La distinction est importante de nos jours, car l’IA facilite grandement la manipulation et la réutilisation de l’image d’une personne.
Les stars de télé-réalité abandonnent déjà un certain contrôle sur la façon dont elles apparaissent à la télévision. Cependant, l’IA augmente considérablement les enjeux. Cela introduit la possibilité de faire en sorte que l'image d'une personne fasse quelque chose qu'elle n'a pas réellement fait ou d'utiliser son image d'une manière qu'elle n'avait pas initialement acceptée. L'expérience d'Ariana soulève une question importante et d'actualité pour une industrie fondée sur la présentation de la vie réelle sous forme de divertissement. Accepter de tourner pour un réseau ne nécessite-t-il plus que le réseau demande le consentement sur ce qu'il crée avec votre image ?
La discussion a éclaté lorsque Love Island Australia a publié sa vidéo promotionnelle. Il présente Ariana, animatrice de Love Island USA, « remettant » effrontément les clés de la villa fidjienne à l'animatrice d'Oz, Sophie Monk.
Ariana a commenté qu'ils ne lui avaient pas dit « DU TOUT » que le clip qu'elle avait tourné serait utilisé avec l'IA. « C'est une chose à laquelle je suis fermement opposée », a-t-elle ajouté. Lorsque @bravobravobravobri a republié son commentaire, Ariana a précisé dans les commentaires qu'elle avait filmé l'apparition. Cependant, personne ne lui a dit que la promo finale intégrerait l’IA.
La vidéo était transparente quant à son utilisation d’images générées par l’IA, étant même étiquetée comme contenu d’IA. Et il était impossible de le rater. Le message était déjà fortement torréfié par les fans avant même qu'Ariana ne commente.
« Le fait qu'ils aient utilisé l'IA est carrément embarrassant », a commenté un fan sur le message. Le commentaire compte plus de 6 000 likes. Un autre s'est plaint que les téléspectateurs « ne peuvent même pas aimer cette publication » en raison de la quantité d'IA et de la façon dont « elle a été mal faite ».
Cela montre simplement que la conversation se déroule à la fois du côté des célébrités et du côté des téléspectateurs. Mais même si les fans peuvent exprimer leurs propres opinions sur l’utilisation de l’IA, la considération importante devrait être la protection du talent/célébrité qui tourne la publicité.
C’est là que la situation d’Ariana devient plus compliquée que le débat habituel sur l’IA. Ariana ne prétend pas que Love Island Australia ne devrait pas être autorisée à utiliser l'IA. Ce qui la préoccupe, c'est qu'elle avait une limite. Et elle n’a pas été informée ni autorisée à définir clairement cette limite avant que ses images ne soient transformées.
Pour quelqu’un dont la carrière s’est construite autour de la caméra, cette distinction est significative.
Les stars de télé-réalité abandonnent déjà le contrôle de leur image, mais l’IA change la donne
Certains fans diront peut-être que les stars de télé-réalité n’ont jamais eu un contrôle total sur leur propre image. De nombreuses stars se sont plaintes du « montage » dans le passé. Cependant, accepter d’avoir des caméras 24h/24 et 7j/7 sans savoir quelles parties seront sélectionnées est encore différent des problèmes de contrôle posés par l’utilisation de l’IA.
Il existe une grande différence entre la manière dont une modification cadre une situation et l'utilisation de la technologie pour modifier ou ajuster l'image d'une personne. Les producteurs qui choisissent un moment mémorable sont totalement différents de prendre la voix d'une personne ou des images existantes et de créer quelque chose de nouveau.
C’est un problème auquel l’industrie du divertissement est confrontée, y compris cette distinction précise entre les droits d’utilisation et le consentement. La SAG-AFTRA et de nombreuses agences artistiques ont fait pression pour davantage de protection pour les artistes et leurs images, voix et noms à mesure que l'IA continue d'évoluer.
Pour être honnête, certains talents peuvent volontairement accorder une licence à leur image. Andy Cohen, par exemple, a officiellement autorisé son image à créer un Andy IA pour l'expérience AI Andy Bravoverse. La chose importante à noter, cependant, est qu’Andy l’a fait volontairement.
La situation actuelle d’Ariana nous rappelle que le consentement n’est pas censé être une transaction fourre-tout unique. À mesure que la technologie modifie l’utilisation de l’image d’une personne, les attentes devraient également changer.
L'affaire Rachael Evren deepfake montre ce qui se passe lorsque le consentement disparaît complètement
Après tout, sans garde-corps en place, cela peut rapidement devenir dangereux. La situation de Rachael Evren, star de télé-réalité australienne et ancienne élève des Traitors, montre à quel point la situation peut devenir grave.
Elle a récemment révélé que de fausses images nues d'elle générées par l'IA avaient été créées à partir de ses photos sur Instagram. Elle a été alertée par sa famille au sujet des images et a payé un spécialiste technique pour l'aider à les supprimer. Mais bien sûr, quoi que ce soit sur Internet n’est pas définitivement perdu.
C'est pourquoi le consentement reste partie intégrante de la conversation sur les technologies émergentes. Ariana a peut-être volontairement tourné la promo, mais n'a pas été informée que l'IA serait utilisée sur les images. Rachael, en revanche, n’a jamais consenti à ce que ses images soient utilisées, qu’elles soient utilisées par une société de production ou par des personnes en ligne.
Le consentement doit être spécifique. Accepter d'apparaître à la télévision ne signifie pas accepter toutes les manipulations numériques possibles de votre image. L'expérience d'Evren est dangereusement plus extrême que ce qui est arrivé à Madix, mais elle illustre le même problème fondamental : une fois que quelqu'un d'autre prend le contrôle de votre image, récupérer ce contrôle peut être incroyablement difficile.
