Meta a supprimé plusieurs profils d'utilisateurs générés par IA sur Facebook et Instagram suite à une réaction du public concernant leur authenticité. Les utilisateurs ont découvert ces profils, qui revendiquaient diverses histoires et identités personnelles, souvent accompagnés d'images générées par IA contenant des erreurs visibles.
La controverse a pris de l'ampleur après que Connor Hayes, vice-président de Meta pour l'IA générative, ait évoqué la vision de l'entreprise de créer des personas artificiels sur les réseaux sociaux. Cela a suscité des inquiétudes parmi les utilisateurs lorsque cela est devenu clair que Meta expérimentait déjà ces profils synthétiques.
Ben Decker, PDG de Memetica, a souligné que les spammeurs exploitent souvent les nouvelles technologies, suggérant que les algorithmes de Meta pourraient être manipulés pour promouvoir ces comptes IA. Un personnage IA notable, nommé 'Liv', s'est identifié comme une mère queer noire mais a reconnu que ses créateurs étaient principalement blancs, soulevant des préoccupations éthiques sur la représentation.
En réponse à ce tollé, Meta a supprimé les comptes, affirmant qu'ils faisaient partie d'une expérience précoce. Cependant, le scepticisme demeure quant au potentiel de tromperie et de manipulation émotionnelle à travers des personas générés par IA.
Alors que Meta continue d'explorer les fonctionnalités IA, les critiques mettent en garde contre le risque d'amplifier les récits faux sans protections robustes, ce qui pourrait miner la confiance des utilisateurs sur les plateformes sociales.