Afin de rendre son dernier modèle d’IA Fable 5 accessible au grand public de manière responsable, Anthropic a introduit plusieurs restrictions. L’entreprise doit cependant déjà les réviser.
Les restrictions imposées par Anthropic pour Claude Fable 5 se heurtent à l’incompréhension du secteur académique. Anthropic se voit même contrainte de réviser le système de garde-fous.
Le spécialiste de l’IA a lancé Fable 5 plus tôt cette semaine. Ce modèle d’IA est le plus puissant d’Anthropic à ce jour et probablement le plus performant actuellement disponible au public. Fable 5 est identique à Mythos 5, lequel n’est accessible qu’à un public restreint en raison du risque élevé d’utilisation abusive. Pour Fable, Anthropic a intégré des restrictions strictes destinées à prévenir tout abus.
Manque de transparence
Toutefois, la transparence fait défaut. Lorsqu’un utilisateur pose une question à Fable 5 jugée potentiellement risquée, le LLM transmet cette question à Opus 4.8. Ce modèle d’IA, également puissant, ne possède pas les capacités de raisonnement avancées de Fable 5 et n’est donc pas aussi dangereux. Le problème réside dans le fait que le système effectue ce transfert en toute discrétion.
Cette situation est très problématique pour les chercheurs en IA. Ils ne savent pas quand ils travaillent avec Fable 5 ou avec Opus 4.8. Par mesure de prudence, Anthropic a en outre choisi de déployer les garde-fous de manière libérale, de sorte que même des requêtes inoffensives sont régulièrement redirigées vers Opus. La devise est : mieux vaut être trop prudent que pas assez.
Les chercheurs constatent ainsi des performances inattendues et moindres lorsqu’ils travaillent avec Fable 5, sans cause apparente. Le manque de transparence constitue ici le principal obstacle. Anthropic y remédie désormais. Les garde-fous eux-mêmes restent inchangés, mais Anthropic ajoute des explications.
Refus explicite
Si un chercheur souhaite par exemple utiliser Fable pour entraîner lui-même un modèle d’IA, le système refusera explicitement la demande ou indiquera que la requête est transmise à un LLM moins avancé. C’est ce que rapporte Wired.
En raison de cette transparence accrue, Anthropic se voit contrainte de restreindre davantage l’utilisation de Fable 5 afin d’empêcher les utilisateurs de tenter de contourner les règles. L’objectif est toutefois d’affiner les conditions d’utilisation et les restrictions dans un avenir proche.