Калифорния ввела новые законы, касающиеся различных аспектов искусственного интеллекта (ИИ), сосредоточив внимание на рисках, конфиденциальности и защите пользователей от технологии deepfake. Эти законы, подписанные недавно, вступят в силу в 2026 году.
Калифорнийское управление по чрезвычайным ситуациям (CalOES) обязано сотрудничать с ведущими ИИ-компаниями, такими как OpenAI и Anthropic, для оценки потенциальных угроз, которые генеративный ИИ может представлять для критической инфраструктуры штата.
Согласно новой законодательной инициативе, поставщики услуг ИИ должны раскрывать прозрачную информацию о источниках данных, использованных для обучения их систем, включая объем данных, их происхождение и наличие защищенного законом контента.
В ответ на растущие опасения по поводу использования личных данных законы расширяют существующие правила конфиденциальности, включая генеративные ИИ-системы. Эти системы будут подлежать строгим правилам конфиденциальности, если они раскрывают личную информацию, такую как имена или биометрические данные.
Калифорния также подчеркивает важность образования в области ИИ, требуя включения 'грамотности в ИИ' в учебные программы по предметам, таким как математика и наука, обеспечивая понимание студентами работы ИИ и его этических последствий.
Установлено уникальное определение ИИ, описывающее его как систему, созданную машинами или инженерами с различными уровнями автономии, которая может генерировать результаты, влияющие на физические или виртуальные среды.
В сфере здравоохранения законы требуют от поставщиков четко указывать, когда используется генеративный ИИ в коммуникациях с пациентами. Кроме того, правила требуют надзора со стороны лицензированных врачей за инструментами ИИ в медицинских услугах.
Новые правила также касаются использования ИИ в автоматизированных звонках, требуя раскрытия информации, когда используются голоса, сгенерированные ИИ, чтобы предотвратить манипуляцию общественным мнением.
Законодательство криминализирует использование ИИ для создания несанкционированных откровенных изображений и обязывает социальные сети внедрять системы отчетности для контента deepfake.
Кроме того, генеративные ИИ-системы должны цифровым образом маркировать свой контент, чтобы указать на его происхождение от ИИ, помогая общественности различать материалы, сгенерированные ИИ, и реальные.
Правила для политических кампаний теперь требуют от онлайн-платформ удаления или маркировки контента, сгенерированного ИИ, который может ввести в заблуждение избирателей, а кандидаты могут обращаться за юридической помощью в случае несоответствия.
Законы также защищают права актеров, требуя согласия на использование их образов в контенте, созданном с помощью ИИ.
Однако спорный законопроект (SB 1047) в конечном итоге не был принят, губернатор Ньюсом выступил за более широкий регулирующий подход, чтобы охватить меньшие ИИ-системы.
Эти законы представляют собой значительный шаг для Калифорнии в установлении новых стандартов для регулирования ИИ, направленных на защиту граждан, содействие прозрачности и обеспечение этических практик в быстро развивающемся секторе ИИ.