Percée de l'explicabilité anthropique : Claude a une pensée « espace de travail global » à l'intérieur

L'équipe Anthropic Interpretability a publié l'étude « Un espace de travail global dans les modèles de langage » le 6 juillet : un « espace de travail mental » a émergé à l'intérieur de Claude, contenant une pensée interne qui n'apparaît pas dans le résultat ; fournir de nouvelles preuves pour comprendre le mécanisme de raisonnement LLM.

Le 6 juillet 2026, l'équipe Anthropic Interpretability a publié l'étude « Un espace de travail global dans les modèles de langage » et a fait une découverte plutôt subversive : Claude Un "espace de travail mental" a émergé à l'intérieur, qui contient une pensée interne qui n'apparaît pas dans la sortie du modèle.

Ce que cette étude a révélé

En termes simples, les chercheurs ont découvert que dans le processus de génération de réponses, Claude n'est pas simplement « une entrée, une sortie » en interne, mais il existe un « espace de travail » indépendant du résultat final, où le modèle effectuera une réflexion interne qui n'est pas directement présentée à l'utilisateur. Cette découverte fournit de nouvelles preuves pour comprendre le mécanisme de raisonnement des grands modèles de langage : le modèle ne « récite pas la réponse », mais « opère » dans un espace interne pour donner une conclusion.

Pour la recherche sur l'interprétabilité, cela revêt une grande importance : si le « processus de réflexion » du modèle peut être localisé et lu, il y aura alors un nouveau point de départ pour l'alignement, l'audit de sécurité et le diagnostic des erreurs - non plus seulement en regardant le résultat, mais aussi le « processus ».

Résultats intensifs de recherches sur l'explicabilité au cours de l'année écoulée

Le fait de replacer cette recherche dans le calendrier de recherche d'Anthropic pour 2026 montre son investissement continu :

Dates Étude
Copyright : Contenu source Recherche officielle anthropique . Cette plateforme a compilé et organisé ce contenu à des fins d'information et d'échange éducatif. Pour tout problème de droit d'auteur, veuillez nous contacter.

Avis

  • Chargement des avis...