La Comisión Temporal Interna sobre Inteligencia Artificial (CTIA) del Senado brasileño ha presentado una versión revisada del Proyecto de Ley 2.338/2023, conocido como el Marco de la IA. El nuevo texto, presentado por el senador Eduardo Gomes, está programado para votación el 3 de diciembre.
Los cambios significativos incluyen una reducción en la clasificación de sistemas de IA como 'alto riesgo', especialmente en relación con los sistemas de evaluación de crédito privados, que han sido eliminados de esta categoría. La ley ahora se centra en la biometría gubernamental y los riesgos potenciales para los derechos fundamentales.
Según la nueva propuesta, se prohíbe el desarrollo de sistemas de IA que puedan comprometer severamente la seguridad o los derechos. Esto incluye deepfakes y tecnologías que podrían manipular procesos electorales.
El proyecto revisado también modifica las regulaciones sobre el uso público de la IA, permitiendo el uso de reconocimiento facial y sistemas biométricos con autorización judicial, en lugar de la prohibición general anterior.
Además, los algoritmos de recomendación en redes sociales siguen clasificados como de alto riesgo debido a preocupaciones sobre la moderación de contenido y la manipulación del discurso público. Las IA generativas ahora deben identificar sus productos con marcas de agua y divulgar las fuentes de datos de entrenamiento.
Algunos puntos que antes eran obligatorios se han convertido en 'buenas prácticas', y la supervisión humana ahora solo es obligatoria para las IA que podrían tener impactos irreversibles.