„Token Legend“, oder: wie Meta 73,7 Billionen Tokens verbrannte und dabei versehentlich ein Experiment durchführte

Irgendwo in Menlo Park lief in den vergangenen Wochen ein KI-Agent stundenlang vor sich hin, recherchierte Dinge, die niemand lesen würde, produzierte Ergebnisse, die niemand brauchte, und sein Besitzer war vermutlich längst zu Hause. Der Agent arbeitete trotzdem weiter, denn jeder verschwendete Token brachte seinen Besitzer der begehrtesten Auszeichnung näher, die Meta intern zu vergeben hatte: dem Titel „Token Legend“.

Die Zahlen dahinter sind so absurd, dass man sie zweimal lesen muss. Metas Belegschaft verbrauchte innerhalb von 30 Tagen 73,7 Billionen KI-Tokens, was zu Listenpreisen etwa 221 Millionen Dollar entspricht, pro Monat. Ein internes Dashboard namens „Claudeonomics“ rankte die 250 größten Verbraucher unter mehr als 85.000 Mitarbeitenden und vergab Ehrentitel wie „Token Legend“, „Cache Wizard“ und „Session Immortal“. Der Spitzenreiter kam allein auf 281 Milliarden Tokens. Und laut SemiAnalysis ließen manche Mitarbeitende ihre Agenten stundenlang Aufgaben abarbeiten, die kein Ergebnisziel hatten, einzig um im Ranking zu klettern. Als The Information darüber berichtete, war das Leaderboard binnen Tagen abgeschafft, und CTO Andrew Bosworth ließ einen Satz nach, den man sich einrahmen sollte: „All motion is not progress and token usage alone is not a measure of impact of any kind.“

Der Reflex ist jetzt, über Meta zu lachen. Ich schlage etwas Interessanteres vor: Meta hat uns gerade, unfreiwillig und unter Laborbedingungen, eines der teuersten verhaltenswissenschaftlichen Experimente der Wirtschaftsgeschichte geschenkt, und wir sollten die Ergebnisse ernster nehmen als die Pointe.

Der Plan war makellos, und funktionierte trotzdem nicht

Zunächst zur Verteidigung der Leute, die das Leaderboard gebaut haben, denn ihre Logik war makellos. Wenn KI-Nutzung Produktivität steigert, und wenn Tokens KI-Nutzung messen, dann sollte man Tokenverbrauch belohnen, und weil Menschen auf Ranglisten reagieren wie Motten auf Licht, baut man eine Rangliste. Jeder Technokrat der Welt hätte diesen Plan abgenickt, er ergibt vollkommen Sinn. Nur funktioniert er eben nicht, und in meinem Geschäft lernt man früh, dass nicht alles, was Sinn ergibt, funktioniert, und nicht alles, was funktioniert, Sinn ergibt.

Was hier passiert ist, hat einen Namen, und der ist älter als jedes Sprachmodell. Als die französische Kolonialverwaltung in Hanoi um 1902 eine Rattenplage bekämpfen wollte, zahlte sie eine Prämie pro abgeliefertem Rattenschwanz, woraufhin die Bewohner begannen, Ratten zu züchten, ihnen die Schwänze abzuschneiden und die Tiere wieder freizulassen, damit sie sich weiter vermehrten. Die Kennzahl explodierte, das Problem wuchs. Goodharts Gesetz, wie wir das Muster heute nennen, besagt in der Formulierung von Marilyn Strathern: Sobald eine Messgröße zum Ziel wird, hört sie auf, eine gute Messgröße zu sein. Ein Token ist ein Rattenschwanz mit besserer Presse.

So weit, so bekannt. Die eigentlich interessante Frage ist eine andere: Warum passiert das ausgerechnet Meta?

Warum ausgerechnet Meta

Denn machen wir uns nichts vor, Meta ist kein Unternehmen, das zufällig auch etwas mit Verhalten zu tun hat. Meta ist das vermutlich ambitionierteste angewandte Behaviorismus-Projekt der Menschheitsgeschichte, ein Konzern, dessen gesamtes Geschäftsmodell darauf beruht, mit variablen Belohnungsschemata, Streaks, Likes und fein austarierten Notification-Rhythmen das Verhalten von Milliarden Menschen zu formen. Skinners Tauben pickten auf Hebel, Metas Nutzer wischen über Glas, das Prinzip ist dasselbe und Meta beherrscht es besser als jede Universität. Wenn irgendein Unternehmen auf diesem Planeten wissen müsste, wie Anreize wirken, dann dieses.

Und genau dieses Unternehmen baut intern ein Anreizsystem, das ein Student der Verhaltensökonomie im dritten Semester als Klausuraufgabe zerlegen könnte.

Hier ist der Punkt: Das ist kein Widerspruch, sondern die Auflösung des Rätsels. Metas gesamte Expertise gilt quantitativer Verhaltenssteuerung, also mehr Zeit auf der Plattform, mehr Klicks, mehr Scrolltiefe, mehr Sessions, und für dieses Ziel ist der Behaviorismus ein wunderbares Werkzeug, weil es dem Geschäftsmodell herzlich egal sein kann, welches Verhalten gezeigt wird, solange der Zähler steigt. Ob jemand aus Freude scrollt, aus Langeweile oder aus Zwang, ist für die Werbeeinnahmen dieselbe Zeile in derselben Tabelle. Bei den eigenen Mitarbeitenden brauchte Meta aber plötzlich etwas völlig anderes, nämlich qualitative Verhaltensänderung: besseres Urteilsvermögen, klügerer Werkzeugeinsatz, durchdachterer Code. Und für diese Art von Verhalten gilt eine andere Wissenschaft, eine, die im Silicon Valley offenbar niemand im Haus hat.

Die Wissenschaft ist seit fünfzig Jahren eindeutig

Diese Wissenschaft ist seit über fünfzig Jahren erstaunlich eindeutig. Edward Deci zeigte 1971, dass Studierende, die für das Lösen von Puzzles bezahlt wurden, in der unbezahlten Pause früher aufhörten zu spielen als die unbezahlte Vergleichsgruppe, die Belohnung hatte das Interesse nicht verstärkt, sondern ersetzt. Lepper, Greene und Nisbett wiederholten das 1973 mit Kindergartenkindern und Filzstiften: Wer für sein Malen eine angekündigte Urkunde bekam, malte danach in der freien Spielzeit deutlich weniger als die Kinder, die einfach nur gemalt hatten. Und Sam Glucksberg hatte schon 1962 demonstriert, dass Geldanreize Menschen beim Kerzenproblem, einer Aufgabe, die einen kleinen kreativen Umweg im Denken verlangt, im Schnitt langsamer machten statt schneller, weil Belohnung den Blick verengt, was bei simplen Fleißaufgaben hilft und bei allem, was Denken erfordert, schadet. Extrinsische Anreize funktionieren prächtig, solange das Zielverhalten simpel, repetitiv und zählbar ist, sie werden wirkungslos, sobald Qualität ins Spiel kommt, und sie werden giftig, sobald man Urteilskraft braucht.

Der eine Test, der das Etikett vom Verhalten trennt

In meiner Arbeit nenne ich Systeme wie das Meta-Leaderboard Bestechungsdesign, und es gibt einen einfachen Falsifikationstest, mit dem jeder Vorstand jedes Incentive-Programm in fünf Minuten prüfen kann: Nimm die Belohnung weg und schau, was vom Verhalten übrig bleibt. Stirbt das Verhalten, dann hast du nie Verhalten verändert, sondern nur Aktivität gemietet, und Miete läuft bekanntlich nur, solange man zahlt. Das Elegante am Fall Meta ist, dass der Konzern diesen Test gerade öffentlich für uns durchgeführt hat: Leaderboard abgeschaltet, und das Tokenmaxxing verdampft, die stundenlang leerlaufenden Agenten verschwinden, weil die Tokens nie der Punkt waren, sondern der Rang. Ein Verhalten, das man ausschließlich mit einer Rangliste erzeugt hat, kann man mit derselben Rangliste restlos wieder löschen, und genau daran erkennt man, dass nichts gelernt, nichts verinnerlicht und nichts verändert wurde.

Verhaltenskapital, die Vermögensklasse ohne Bilanzposition

Man könnte das alles für eine Silicon-Valley-Anekdote halten, wäre da nicht die unbequeme Rechnung dahinter. Unternehmen lassen ihre Finanzen auf den Cent genau auditieren, ihre Lieferketten zertifizieren und ihre Software penetrationstesten, aber das Verhalten ihrer Leute, also den Rohstoff, aus dem Leistung überhaupt erst entsteht, gestalten sie nach Bauchgefühl und mit Werkzeugen, deren Unwirksamkeit seit den Siebzigern dokumentiert ist. Für dieses Vermögen gibt es nicht einmal eine Bilanzposition, dabei wäre Verhaltenskapital der ehrlichste Name dafür, und was Meta damit angestellt hat, würde man in jeder anderen Vermögensklasse fahrlässiges Handeln nennen. Wenn schon das Unternehmen mit der größten Dichte an Verhaltensdaten und Behavioristen der Welt beim ersten internen Versuch qualitativer Verhaltensänderung einen Klassiker aus dem Lehrbuch reproduziert, dann lohnt sich die Frage, was gerade in den KI-Rollouts der Unternehmen passiert, die nicht einmal ein Dashboard dafür haben.

Bosworth hat ja recht, Bewegung ist kein Fortschritt. Aber der Satz kam nach der Rechnung über 73,7 Billionen Tokens, und die günstigere Reihenfolge wäre die umgekehrte gewesen.