Meta ha eliminado varios perfiles de usuario generados por IA en Facebook e Instagram tras una reacción pública sobre su autenticidad. Los usuarios descubrieron estos perfiles, que afirmaban tener diversas historias e identidades personales, a menudo acompañados de imágenes generadas por IA que contenían errores visibles.
La controversia se intensificó después de que Connor Hayes, vicepresidente de Meta para IA generativa, discutiera la visión de la empresa de crear personas artificiales en las redes sociales. Esto generó alarmas entre los usuarios cuando se hizo evidente que Meta ya estaba experimentando con estos perfiles sintéticos.
Ben Decker, CEO de Memetica, destacó que los spammers a menudo explotan nuevas tecnologías, sugiriendo que los algoritmos de Meta podrían ser manipulados para promover estas cuentas de IA. Un personaje IA prominente, llamado 'Liv', se identificó como una madre queer negra, pero reconoció que sus creadores eran predominantemente blancos, lo que planteó preocupaciones éticas sobre la representación.
En respuesta a la controversia, Meta eliminó las cuentas, afirmando que eran parte de un experimento temprano. Sin embargo, persiste el escepticismo sobre el potencial de engaño y manipulación emocional a través de personas generadas por IA.
A medida que Meta continúa explorando funciones de IA, los críticos advierten que sin salvaguardias robustas, el riesgo de amplificar narrativas falsas aumenta, lo que podría socavar la confianza de los usuarios en las plataformas sociales.