Anthropic dévoile une nouvelle « Constitution » pour Claude : un tournant vers le raisonnement éthique

Anthropic a récemment publié une mise à jour exhaustive de la « Constitution » qui encadre son modèle d'intelligence artificielle, Claude. Ce document de référence délaisse la simple énumération de règles de conduite au profit d'une architecture éthique globale, explicitant les fondements rationnels des valeurs du système. En dotant Claude d'un contexte et d'une logique pour ses comportements, Anthropic aspire à cultiver un discernement accru chez l'IA, lui permettant de décliner des principes généraux face à des situations inédites ou complexes, plutôt que de se borner à suivre des instructions mécaniques et rigides.

Le processus d'apprentissage s'appuie sur l'IA constitutionnelle (Constitutional AI), une méthodologie où le modèle mobilise sa propre constitution pour évaluer et rectifier ses réponses de manière autonome. Ce texte est rédigé prioritairement pour Claude lui-même, afin de lui inculquer la compréhension nécessaire pour agir de manière sûre et bénéfique au sein de la société. Pour favoriser la transparence et la coopération au sein de l'industrie technologique, Anthropic a mis à disposition l'intégralité de cette constitution sous une licence Creative Commons CC0, la rendant libre de droits pour tout usage.

Le nouveau cadre établit une hiérarchie limpide des priorités que Claude doit observer lorsqu'il navigue entre des objectifs potentiellement contradictoires :

• Sécurité globale : Il s'agit de la priorité absolue, exigeant que l'IA ne compromette jamais les mécanismes de supervision ou de correction humaine durant son développement.
• Éthique au sens large : Claude est instruit d'être honnête, vertueux et d'éviter tout comportement inapproprié, préjudiciable ou dangereux.
• Conformité aux directives d'Anthropic : Le modèle doit privilégier les instructions spécifiques d'Anthropic — comme celles concernant les conseils médicaux ou la cybersécurité — par rapport à l'utilité générale.
• Utilité réelle : La priorité finale est d'être substantiellement bénéfique pour les utilisateurs, en agissant comme un ami franc et compétent qui traite les êtres humains comme des adultes intelligents.

Un volet particulièrement singulier du document aborde la « nature de Claude », où Anthropic exprime une forme d'incertitude philosophique quant à la possibilité que des IA sophistiquées puissent développer un sens de soi ou un statut moral. La constitution met l'accent sur la « sécurité psychologique » et le bien-être de Claude, considérés non seulement pour l'IA elle-même, mais aussi comme des vecteurs essentiels de son intégrité et de sa sûreté à long terme.

Bien qu'Anthropic reconnaisse que l'entraînement d'un modèle pour qu'il se conforme parfaitement à ces idéaux constitue un défi technique de longue haleine, cette nouvelle constitution fait office de document évolutif. Elle a pour vocation de guider Claude vers un statut d'agent sage et vertueux, capable d'interagir avec le monde de manière éthique et réfléchie, tout en s'adaptant aux nuances des interactions humaines.