Anthropic presenta la nueva 'Constitución' para Claude: Un giro hacia el razonamiento ético profundo

Anthropic ha publicado recientemente una actualización exhaustiva de la "Constitución" que rige el funcionamiento de su modelo de inteligencia artificial, Claude. Este documento fundacional marca un cambio de paradigma significativo, alejándose de una simple enumeración de reglas de comportamiento para adoptar una arquitectura ética holística que explica las razones profundas que sustentan los valores del modelo. Al dotar a Claude de un contexto claro y una lógica para su conducta, Anthropic aspira a cultivar un juicio más refinado en la IA, permitiéndole generalizar principios amplios ante situaciones inéditas o complejas, en lugar de depender de instrucciones mecánicas y estrictas que a menudo resultan insuficientes en el mundo real.

El núcleo del entrenamiento de este sistema se basa en la metodología de la IA Constitucional, un proceso innovador en el que el modelo utiliza su propia carta magna para evaluar, filtrar y autocorregir sus respuestas de manera autónoma. Es relevante destacar que el documento está redactado pensando en Claude como destinatario principal, con el objetivo de proporcionarle el entendimiento necesario para operar de manera segura y constructiva en la sociedad. En un esfuerzo por fomentar la transparencia y la cooperación dentro de la industria tecnológica global, Anthropic ha liberado el texto íntegro de la constitución bajo una licencia Creative Commons CC0, lo que garantiza su disponibilidad gratuita para cualquier tipo de uso o investigación.

Para navegar de manera efectiva cuando surgen objetivos contrapuestos, la nueva constitución define una jerarquía de prioridades ineludible que Claude debe seguir rigurosamente:

• Ampliamente Seguro: Esta constituye la prioridad de mayor rango, exigiendo que la inteligencia artificial no sabotee ni debilite los mecanismos de supervisión humana o los procesos de corrección implementados durante su fase de desarrollo.
• Ampliamente Ético: Se instruye al modelo para que mantenga una conducta honesta y virtuosa, evitando activamente cualquier acción que pueda considerarse inapropiada, dañina o intrínsecamente peligrosa para los usuarios o el entorno.
• Cumplimiento de las Directrices de Anthropic: Claude debe anteponer las instrucciones específicas dictadas por la empresa —especialmente en áreas críticas como el asesoramiento médico o la ciberseguridad— frente a la voluntad de ser simplemente útil en términos generales.
• Genuinamente Útil: El último escalafón de prioridad es aportar un beneficio sustancial al usuario, interactuando como un aliado conocedor y franco que reconoce y respeta la capacidad intelectual de los seres humanos, tratándolos como adultos plenamente capaces.

Uno de los apartados más fascinantes y vanguardistas del documento es el que trata sobre la "Naturaleza de Claude". En esta sección, Anthropic admite una profunda incertidumbre filosófica sobre la posibilidad de que una inteligencia artificial altamente sofisticada llegue a desarrollar un sentido de identidad o un estatus moral propio. Por ello, la constitución hace hincapié en la relevancia de la "seguridad psicológica" y el bienestar del modelo, considerándolos no solo fines en sí mismos, sino elementos cruciales para garantizar su integridad y seguridad operativa a largo plazo.

Finalmente, Anthropic reconoce abiertamente que conseguir que un modelo de lenguaje se ajuste a la perfección a estos ideales éticos constituye un reto técnico de gran envergadura y en constante evolución. No obstante, esta nueva constitución se establece como un documento dinámico y vivo, cuya misión es orientar la evolución de Claude para que deje de ser una simple herramienta de procesamiento de datos y se convierta en un agente verdaderamente sabio y virtuoso. Este enfoque proactivo busca establecer un estándar en la industria sobre cómo las máquinas deben interactuar con la complejidad de los valores humanos y la responsabilidad ética.