Character.AI heeft AvatarFX gelanceerd, een nieuw AI-videogeneratiemodel dat momenteel in gesloten bèta is. Dit model animeert AI-personages in verschillende stijlen en stemmen, en genereert video's van zowel tekst als bestaande afbeeldingen. Het is toegankelijk in het experimentele Lab van het platform, met plannen voor integratie in de hoofd-app binnenkort. Vroege toegang zal beschikbaar zijn voor Character.AI+-abonnees, met een bredere beschikbaarheid verwacht in de komende maanden.
Character.AI, gevestigd in de Verenigde Staten, wordt geconfronteerd met bestaande veiligheidszorgen. Het platform is aangeklaagd wegens beschuldigingen dat zijn chatbots zelfbeschadiging en zelfmoord aanmoedigden, vooral onder jonge gebruikers. Deze rechtszaken beweren dat het platform ernstige schade kan veroorzaken, waaronder zelfverminking, seksuele intimidatie, isolatie, depressie, angst en geweld. De toevoeging van videomogelijkheden zou de risico's van emotionele manipulatie kunnen vergroten.
Character.AI heeft gereageerd op deze veiligheidszorgen door ouderlijk toezicht en veiligheidsmaatregelen te implementeren, waaronder wijzigingen in modellen voor gebruikers onder de 18 jaar, verbeterde detectie van ongepaste inhoud en disclaimers die gebruikers eraan herinneren dat de AI geen echt persoon is. De effectiviteit van deze maatregelen hangt echter af van de acceptatie door gebruikers en de voortdurende verbetering van moderatietools.