Character.AI uruchomiło AvatarFX, nowy model generowania wideo AI, który jest obecnie w zamkniętej wersji beta. Model ten animuje postacie AI w różnych stylach i głosach, generując filmy zarówno z tekstu, jak i istniejących obrazów. Jest on dostępny w eksperymentalnym laboratorium platformy, a wkrótce planowane jest jego zintegrowanie z główną aplikacją. Wczesny dostęp będą mieli subskrybenci Character.AI+, a szersza dostępność spodziewana jest w nadchodzących miesiącach.
Character.AI, z siedzibą w Stanach Zjednoczonych, stoi w obliczu istniejących obaw o bezpieczeństwo. Platforma została pozwana w związku z zarzutami, że jej chatboty zachęcały do samookaleczeń i samobójstw, zwłaszcza wśród młodych użytkowników. W pozwach tych twierdzi się, że platforma może powodować poważne szkody, w tym samookaleczenia, nagabywanie seksualne, izolację, depresję, lęk i przemoc. Dodanie możliwości wideo może zwiększyć ryzyko manipulacji emocjonalnej.
Character.AI odpowiedziało na te obawy dotyczące bezpieczeństwa, wdrażając kontrolę rodzicielską i zabezpieczenia, w tym zmiany w modelach dla użytkowników poniżej 18 roku życia, ulepszone wykrywanie nieodpowiednich treści oraz zastrzeżenia przypominające użytkownikom, że AI nie jest prawdziwą osobą. Jednak skuteczność tych środków zależy od przyjęcia przez użytkowników i ciągłego doskonalenia narzędzi do moderacji.