California ha introducido nuevas leyes que abordan diversos aspectos de la inteligencia artificial (IA), enfocándose en los riesgos, la privacidad y la protección de los usuarios contra la tecnología deepfake. Estas leyes, firmadas recientemente, entrarán en vigor en 2026.
La Oficina de Servicios de Emergencia de California (CalOES) está obligada a colaborar con empresas líderes en IA como OpenAI y Anthropic para evaluar las amenazas potenciales que la IA generativa puede representar para la infraestructura crítica del estado.
Bajo la nueva legislación, los proveedores de servicios de IA deben divulgar información transparente sobre las fuentes de datos utilizadas para entrenar sus sistemas, incluidos el volumen de datos, sus orígenes y si contienen contenido protegido por la ley.
En respuesta a las crecientes preocupaciones sobre el uso de datos personales, las leyes amplían las regulaciones de privacidad existentes para incluir sistemas de IA generativa. Estos sistemas estarán sujetos a estrictas reglas de privacidad si exponen información personal como nombres o datos biométricos.
California también enfatiza la importancia de la educación sobre IA, exigiendo la inclusión de 'alfabetización en IA' en los planes de estudio escolares para materias como matemáticas y ciencias, asegurando que los estudiantes comprendan el funcionamiento de la IA y sus implicaciones éticas.
Se ha establecido una definición única de IA, describiéndola como un sistema creado por máquinas o ingeniería con diferentes niveles de autonomía que puede generar resultados que afectan a entornos físicos o virtuales.
En el sector de la salud, las leyes exigen que los proveedores aclaren cuándo se utiliza IA generativa en las comunicaciones con los pacientes. Además, las regulaciones requieren supervisión por parte de médicos licenciados para las herramientas de IA en los servicios de salud.
Nuevas reglas también abordan el uso de IA en llamadas automatizadas, exigiendo divulgación cuando se utilizan voces generadas por IA para prevenir la manipulación del público.
La legislación criminaliza el uso de IA para crear imágenes explícitas no consensuadas y manda a las plataformas de redes sociales implementar sistemas de reporte para el contenido deepfake.
Además, los sistemas de IA generativa deben marcar digitalmente su contenido para indicar su origen de IA, ayudando al público a distinguir entre materiales generados por IA y reales.
Las regulaciones de campañas políticas ahora exigen que las plataformas en línea eliminen o etiqueten el contenido generado por IA que pueda engañar a los votantes, y los candidatos pueden buscar recursos legales en caso de incumplimiento.
Las leyes también protegen los derechos de los actores, exigiendo consentimiento para usar sus imágenes en contenido generado por IA.
Sin embargo, un proyecto de ley controvertido (SB 1047) no fue finalmente aprobado, con el gobernador Newsom abogando por un enfoque regulatorio más amplio para incluir sistemas de IA más pequeños.
Estas leyes representan un paso significativo para California en el establecimiento de nuevos estándares para la regulación de la IA, con el objetivo de proteger a los ciudadanos, promover la transparencia y garantizar prácticas éticas en el sector de la IA en rápida evolución.