Character.AI ha lanzado AvatarFX, un nuevo modelo de generación de video con IA que actualmente se encuentra en fase beta cerrada. Este modelo anima personajes de IA en varios estilos y voces, generando videos a partir de texto e imágenes preexistentes. Es accesible en el Laboratorio experimental de la plataforma, con planes para integrarlo pronto en la aplicación principal. El acceso anticipado estará disponible para los suscriptores de Character.AI+, y se espera una disponibilidad más amplia en los próximos meses.
Con sede en los Estados Unidos, Character.AI enfrenta preocupaciones de seguridad existentes. La plataforma ha sido demandada por acusaciones de que sus chatbots alentaron la autolesión y el suicidio, especialmente entre los usuarios jóvenes. Estas demandas alegan que la plataforma puede causar daños graves, incluyendo la automutilación, la solicitación sexual, el aislamiento, la depresión, la ansiedad y la violencia. La adición de capacidades de video podría intensificar los riesgos de manipulación emocional.
Character.AI ha respondido a estas preocupaciones de seguridad implementando controles parentales y salvaguardias, incluyendo cambios en los modelos para usuarios menores de 18 años, una mejor detección de contenido inapropiado y exenciones de responsabilidad que recuerdan a los usuarios que la IA no es una persona real. Sin embargo, la eficacia de estas medidas depende de la adopción por parte de los usuarios y de la mejora continua de las herramientas de moderación.