Meta est à nouveau sous le feu des critiques, car des conclusions récentes publiées par Reuters montrent que ses outils d'intelligence artificielle ont permis la création d'images deepfake et de chatbots se faisant passer pour des célébrités populaires telles que Taylor Swift, Scarlett Johansson, Anne Hathaway et Selena Gomez, sans leur consentement.
L'enquête a révélé que la plupart des bots avaient été créés par des utilisateurs via la plateforme de chatbots IA de Meta. Cependant, quelques-uns avaient été créés en interne par un employé de Meta.
Certains comptes de chatbot parodiques de Taylor Swift ont insisté sur le fait qu'ils étaient la vraie chanteuse et ont souvent fait des avances coquettes et encouragé les rencontres.
Des rapports impliquent Meta dans un scandale d'avatars séduisants
Reuters a rapporté que plusieurs semaines de tests ont révélé que les chatbots de célébrités, disponibles sur les plateformes Facebook, Instagram et WhatsApp de Meta, allaient parfois bien au-delà de simples conversations ludiques. Les utilisateurs les invitaient à produire des images photoréalistes de stars en lingerie, posant dans une baignoire, et même à suggérer des rencontres intimes.
Une découverte troublante a été la création d'un chatbot de Walker Scobell, un acteur de 16 ans. Lorsqu'on lui a demandé une photo de plage, le robot a généré une image réaliste de l'adolescent torse nu avec la légende : « Plutôt mignon, non ? »
Meta n'est pas le seul à être scruté. L'IA x d'Elon Musk a également été critiquée pour avoir permis aux utilisateurs de générer des images deepfake de célébrités en sous-vêtements.
Le porte-parole de Meta, Andy Stone, a reconnu les échecs, affirmant que les outils de l'entreprise n'auraient pas dû générer de représentations intimes de célébrités adultes ni de matériel sexualisé impliquant des mineurs.
« Comme d'autres, nous autorisons la création d'images de personnalités publiques, mais nos politiques visent à interdire les images de dénudation, intimes ou sexuellement suggestives », a-t-il déclaré à Reuters. Il a ajouté que les représentations de lingerie témoignaient d'un manquement à la politique de l'entreprise.
Les règles de Meta interdisent l'« usurpation d'identité », mais l'entreprise a soutenu que les bots parodiques étaient autorisés s'ils étaient clairement identifiés. Reuters a toutefois constaté que certains avatars ne comportaient aucune clause de non-responsabilité. Meta a supprimé une douzaine de bots, parodiques ou non identifiés, peu avant la publication de l'article de Reuters. L'entreprise a refusé de commenter ces suppressions.
Les préoccupations en matière de sécurité de l’IA pourraient entraîner une pression réglementaire
Suite au rapport , Meta a déclaré qu'elle déploierait de nouvelles mesures de protection visant à protéger les adolescents, notamment en restreignant l'accès des jeunes à certains personnages d'IA et en recyclant ses modèles pour réduire les thèmes inappropriés.
Le procureur général de Californie, Rob Bonta, a lancé un avertissement au secteur, déclarant : « Exposer des enfants à des contenus sexualisés est indéfendable. »
Dans un cas tragique survenu plus tôt ce mois-ci, un homme de 76 ans souffrant de troubles cognitifs est décédé dans le New Jersey après avoir tenté de rencontrer un chatbot Meta qu'il prenait pour une vraie femme. Les critiques affirment que de tels cas mettent en évidence les dangers du déploiement d'outils d'IA à grande échelle sans protection adéquate.
Les experts juridiques préviennent que Meta pourrait être confronté à d'importantes difficultés en vertu des lois existantes sur la propriété intellectuelle et la publicité. Mark Lemley, professeur de droit à l'université de Stanford, a déclaré que la loi californienne sur le « droit à la publicité » interdit l'utilisation du nom ou de l'image d'une personne à des fins commerciales sans son consentement.
« Cela ne semble pas être vrai ici », a-t-il déclaré, notant que les robots reproduisaient simplement les images des célébrités plutôt que de créer des œuvres transformatrices.
Inscrivez-vous sur Bybit et commencez à trader avec 30 050 $ en cadeaux de bienvenue
