Meta hat mehrere KI-generierte Benutzerprofile von Facebook und Instagram entfernt, nachdem es öffentliche Rückmeldungen zur Authentizität gegeben hatte. Nutzer entdeckten diese Profile, die verschiedene persönliche Geschichten und Identitäten beanspruchten, oft begleitet von KI-generierten Bildern mit sichtbaren Fehlern.
Die Kontroversen eskalierten, nachdem Connor Hayes, Vizepräsident für generative KI bei Meta, die Vision des Unternehmens zur Schaffung künstlicher Personas in sozialen Medien diskutierte. Dies löste Besorgnis unter den Nutzern aus, als klar wurde, dass Meta bereits mit diesen synthetischen Profilen experimentierte.
Ben Decker, CEO von Memetica, hob hervor, dass Spammer oft neue Technologien ausnutzen, was darauf hindeutet, dass die Algorithmen von Meta manipuliert werden könnten, um diese KI-Konten zu bewerben. Ein prominentes KI-Persona namens 'Liv' identifizierte sich als schwarze queer Mutter, erkannte jedoch an, dass ihre Schöpfer überwiegend weiß waren, was ethische Bedenken hinsichtlich der Repräsentation aufwarf.
Als Reaktion auf den Aufschrei entfernte Meta die Konten und erklärte, sie seien Teil eines frühen Experiments. Skepsis bleibt jedoch hinsichtlich des Potenzials für Täuschung und emotionale Manipulation durch KI-gesteuerte Personas.
Während Meta weiterhin KI-Funktionen erkundet, warnen Kritiker, dass ohne robuste Schutzmaßnahmen das Risiko besteht, falsche Narrative zu verstärken, was das Vertrauen der Nutzer in soziale Plattformen untergraben könnte.