Character.AI 发布了 AvatarFX，一种新的 AI 视频生成模型，目前处于封闭测试阶段。该模型可以动画化各种风格和声音的 AI 角色，并从文本和预先存在的图像生成视频。它可以在平台的实验性实验室中使用，并计划很快集成到主应用程序中。Character.AI+ 订阅者将可以提前访问，预计在未来几个月内将更广泛地提供。
Character.AI 位于美国，面临着现有的安全问题。该平台因其聊天机器人鼓励自残和自杀（尤其是在年轻用户中）而受到起诉。这些诉讼声称该平台可能造成严重伤害，包括自残、性招揽、孤立、抑郁、焦虑和暴力。视频功能的增加可能会加剧情感操纵的风险。
Character.AI 已通过实施家长控制和安全措施来回应这些安全问题，包括更改 18 岁以下用户的模型、改进不当内容的检测以及提醒用户 AI 不是真人的免责声明。但是，这些措施的有效性取决于用户的采用和审核工具的持续改进。