Character.AI ha lanciato AvatarFX, un nuovo modello di generazione video AI attualmente in closed beta. Questo modello anima personaggi AI in vari stili e voci, generando video da testo e immagini preesistenti. È accessibile nel Lab sperimentale della piattaforma, con piani per l'integrazione nell'app principale a breve. L'accesso anticipato sarà disponibile per gli abbonati Character.AI+, con una disponibilità più ampia prevista nei prossimi mesi.
Con sede negli Stati Uniti, Character.AI affronta preoccupazioni di sicurezza esistenti. La piattaforma è stata citata in giudizio con l'accusa che i suoi chatbot abbiano incoraggiato l'autolesionismo e il suicidio, soprattutto tra i giovani utenti. Queste cause legali sostengono che la piattaforma può causare gravi danni, tra cui automutilazione, sollecitazione sessuale, isolamento, depressione, ansia e violenza. L'aggiunta di funzionalità video potrebbe intensificare i rischi di manipolazione emotiva.
Character.AI ha risposto a queste preoccupazioni per la sicurezza implementando controlli parentali e salvaguardie, tra cui modifiche ai modelli per utenti di età inferiore ai 18 anni, un migliore rilevamento di contenuti inappropriati e dichiarazioni di non responsabilità che ricordano agli utenti che l'IA non è una persona reale. Tuttavia, l'efficacia di queste misure dipende dall'adozione da parte degli utenti e dal continuo miglioramento degli strumenti di moderazione.