Durchbruch in der anthropischen Erklärbarkeit: Claude verfügt über ein „globales Arbeitsraum“-Denken
Das Anthropic Interpretability Team veröffentlichte am 6. Juli die Studie „Ein globaler Arbeitsbereich in Sprachmodellen“: In Claude entstand ein „mentaler Arbeitsbereich“, der internes Denken enthält, das in der Ausgabe nicht erscheint; Bereitstellung neuer Erkenntnisse zum Verständnis des LLM-Argumentationsmechanismus.
Am 6. Juli 2026 veröffentlichte das Anthropic Interpretability-Team die Studie „Ein globaler Arbeitsbereich in Sprachmodellen“ und machte eine ziemlich subversive Entdeckung: Claude Im Inneren entstand ein „mentaler Arbeitsbereich“, der internes Denken enthält, das in der Modellausgabe nicht auftaucht.
Was diese Studie herausgefunden hat
Laienhaft ausgedrückt stellten die Forscher fest, dass Claude beim Generieren von Antworten nicht einfach intern „ein Input, ein Output“ ist, sondern dass es einen „Arbeitsbereich“ gibt, der unabhängig vom endgültigen Output ist und in dem das Modell internes Denken ausführt, das dem Benutzer nicht direkt präsentiert wird. Diese Entdeckung liefert neue Beweise für das Verständnis des Argumentationsmechanismus großer Sprachmodelle – das Modell „rezitiert nicht die Antwort“, sondern „operiert“ in einem internen Raum, um eine Schlussfolgerung zu ziehen.
Für die Interpretierbarkeitsforschung ist dies von großer Bedeutung: Wenn der „Denkprozess“ des Modells lokalisiert und gelesen werden kann, dann gibt es einen neuen Ausgangspunkt für Ausrichtung, Sicherheitsüberprüfung und Fehlerdiagnose – und zwar nicht mehr nur auf den Output, sondern auch auf den „Prozess“.
Intensive Ergebnisse der Erklärbarkeitsforschung im vergangenen Jahr
Die erneute Einbeziehung dieser Forschung in den Forschungszeitplan von Anthropic für 2026 zeigt, dass das Unternehmen kontinuierlich investiert:
| Datum | Studieren |
|---|
Bewertungen