Kalifornien hat neue Gesetze zur Regelung verschiedener Aspekte der künstlichen Intelligenz (KI) eingeführt, die sich auf Risiken, Datenschutz und den Schutz der Nutzer vor Deepfake-Technologie konzentrieren. Diese Gesetze, die kürzlich unterzeichnet wurden, treten 2026 in Kraft.
Das kalifornische Büro für Notfalldienste (CalOES) ist verpflichtet, mit führenden KI-Unternehmen wie OpenAI und Anthropic zusammenzuarbeiten, um potenzielle Bedrohungen durch generative KI für die kritische Infrastruktur des Staates zu bewerten.
Gemäß der neuen Gesetzgebung müssen KI-Dienstleister transparente Informationen über die Datenquellen bereitstellen, die zur Schulung ihrer Systeme verwendet werden, einschließlich des Umfangs der Daten, ihrer Herkunft und ob sie gesetzlich geschützte Inhalte enthalten.
Als Reaktion auf wachsende Bedenken hinsichtlich der Verwendung persönlicher Daten erweitern die Gesetze die bestehenden Datenschutzbestimmungen, um generative KI-Systeme einzuschließen. Diese Systeme unterliegen strengen Datenschutzregeln, wenn sie persönliche Informationen wie Namen oder biometrische Daten offenlegen.
Kalifornien betont auch die Bedeutung von KI-Bildung, indem es die Aufnahme von 'KI-Kompetenz' in die Lehrpläne für Fächer wie Mathematik und Wissenschaft vorschreibt, um sicherzustellen, dass die Schüler verstehen, wie KI funktioniert und welche ethischen Implikationen damit verbunden sind.
Eine eindeutige Definition von KI wurde festgelegt, die sie als ein von Maschinen oder Ingenieuren geschaffenes System mit unterschiedlichen Autonomiestufen beschreibt, das Ergebnisse generiert, die physische oder virtuelle Umgebungen beeinflussen.
Im Gesundheitswesen verlangen die Gesetze von Anbietern, klarzustellen, wann generative KI in der Kommunikation mit Patienten verwendet wird. Darüber hinaus verlangen die Vorschriften eine Aufsicht durch lizenzierte Ärzte für KI-Tools im Gesundheitsdienst.
Neue Regeln betreffen auch die Verwendung von KI in automatisierten Anrufen und verlangen die Offenlegung, wenn KI-generierte Stimmen verwendet werden, um eine Manipulation der Öffentlichkeit zu verhindern.
Die Gesetzgebung kriminalisiert die Verwendung von KI zur Erstellung nicht einvernehmlicher expliziter Bilder und verpflichtet soziale Medien, Meldesysteme für Deepfake-Inhalte einzurichten.
Darüber hinaus müssen generative KI-Systeme ihren Inhalt digital kennzeichnen, um die KI-Herkunft anzuzeigen, damit die Öffentlichkeit zwischen KI-generierten Materialien und echten unterscheiden kann.
Regelungen für politische Kampagnen verlangen nun von Online-Plattformen, KI-generierte Inhalte, die Wähler irreführen könnten, zu entfernen oder zu kennzeichnen, und Kandidaten können rechtliche Schritte bei Nichteinhaltung einleiten.
Die Gesetze schützen auch die Rechte von Schauspielern, indem sie die Zustimmung zur Verwendung ihrer Abbildungen in KI-generierten Inhalten verlangen.
Ein umstrittener Gesetzentwurf (SB 1047) wurde jedoch letztendlich nicht verabschiedet, da Gouverneur Newsom für einen breiteren regulatorischen Ansatz plädierte, um kleinere KI-Systeme zu berücksichtigen.
Diese Gesetze stellen einen bedeutenden Schritt für Kalifornien dar, um neue Standards für die Regulierung von KI zu setzen, mit dem Ziel, die Bürger zu schützen, Transparenz zu fördern und ethische Praktiken im sich schnell entwickelnden KI-Sektor sicherzustellen.