Meta удалила несколько профилей пользователей, сгенерированных ИИ, с Facebook и Instagram после общественного недовольства по поводу их аутентичности. Пользователи обнаружили эти профили, которые утверждали, что имеют различные личные истории и идентичности, часто сопровождаемые изображениями, сгенерированными ИИ, содержащими заметные ошибки.
Контроверсия обострилась после того, как Коннор Хейз, вице-президент Meta по генеративному ИИ, обсудил видение компании по созданию искусственных персонажей в социальных медиа. Это вызвало беспокойство среди пользователей, когда стало ясно, что Meta уже экспериментировала с этими синтетическими профилями.
Бен Декер, генеральный директор Memetica, отметил, что спамеры часто используют новые технологии, предполагая, что алгоритмы Meta могут быть манипулированы для продвижения этих аккаунтов ИИ.
В ответ на общественное возмущение Meta удалила аккаунты, заявив, что они были частью раннего эксперимента. Тем не менее, сохраняется скептицизм относительно потенциала обмана и эмоциональной манипуляции через персонажи, сгенерированные ИИ.
Пока Meta продолжает исследовать функции ИИ, критики предупреждают, что без надежных мер защиты риск усиления ложных нарративов возрастает, что может подорвать доверие пользователей к социальным платформам.