Character.AI запустила AvatarFX, нову модель генерації відео на основі штучного інтелекту, яка зараз перебуває на стадії закритого бета-тестування. Ця модель анімує персонажів штучного інтелекту в різних стилях і голосах, генеруючи відео як з тексту, так і з попередньо існуючих зображень. Вона доступна в експериментальній лабораторії платформи, і найближчим часом планується інтегрувати її в основний додаток. Ранній доступ буде доступний для передплатників Character.AI+, а ширша доступність очікується в найближчі місяці.
Character.AI, що базується в Сполучених Штатах, стикається з існуючими проблемами безпеки. Платформу подали до суду за звинуваченнями в тому, що її чат-боти заохочували самопошкодження та самогубства, особливо серед молодих користувачів. У цих позовах стверджується, що платформа може завдати серйозної шкоди, включаючи самокалічення, сексуальні домагання, ізоляцію, депресію, тривогу та насильство. Додавання відеоможливостей може посилити ризики емоційного маніпулювання.
Character.AI відреагувала на ці занепокоєння щодо безпеки, запровадивши батьківський контроль і запобіжні заходи, включаючи зміни в моделях для користувачів віком до 18 років, покращене виявлення неналежного контенту та застереження, що нагадують користувачам, що штучний інтелект не є реальною людиною. Однак ефективність цих заходів залежить від прийняття користувачами та постійного вдосконалення інструментів модерації.