Claude erklärt, wie die Erkennung seiner Texte funktionieren wird, und es ist nicht das, was wir erwartet hatten

Anthropic hat erklärt, wie das Wasserzeichen funktionieren wird, das Claude in die Texte einbauen wird, die es produziert oder die auf irgendeine Weise über den Dienst laufen. Jetzt wissen wir, dass das Signal in den eigenen Schreibentscheidungen des Modells liegen wird, etwas sehr anderes als versteckte Zeichen und etwas, das für viele die Erwartungen an ein Sprachmodell verändert.

Eine statistische Spur in der Wortwahl

Laut Anthropic wird Claude eine Variante des SynthID-Text-Systems verwenden, das Google schon vor einigen Monaten für Entwickler freigegeben hat. Die Idee von Anthropic ist, dass, wenn mehrere Wörter für einen Satz passend sind, das System die Wortwahl statistisch in Richtung bestimmter Optionen lenken wird und dabei einem geheimen Schlüssel folgt. Bei einem Text, der genügend Tokens aufweist, sodass kürzere Texte ausscheiden, wird Anthropic das Muster, das dieser Schlüssel hinterlässt, rekonstruieren können und daraus die Beteiligung von Claude an der Erstellung, an Änderungen, Korrektur usw. bestimmen.

Das genaue Wort ist auch Teil der Botschaft

Der Kern der Sache liegt darin, dass, während Anthropic behauptet, diese Entscheidungen bewahrten Bedeutung, Kreativität und Lesbarkeit, und obwohl der Unterschied minimal sein kann, zwei richtige Wörter als vollkommen austauschbar zu behandeln völlig dem widerspricht, was gutes Schreiben ausmacht. „Grau“ und „bedeckt“, die Beispiele, die Anthropic anführt, können denselben Himmel beschreiben, aber sie zeichnen ein ganz anderes Bild.

Beim Schreiben hängt die Qualität zu einem großen Teil davon ab, das genaueste Wort zu wählen oder direkt dasjenige, das unsere Absicht vermittelt —hat ein LLM so etwas?—. Eine weitere Priorität hinzuzufügen, in diesem Fall eine statistische Signatur zu hinterlassen, beeinträchtigt, wenn auch noch so subtil, das Streben nach Präzision, in der die KIs schon hinter den Menschen zurückliegen.

Teil des Problems, Teil der Lösung

Anthropic bereitet eine API vor, um Texte zu überprüfen. Claude hat das Problem geschaffen, zusammen mit anderen KIs natürlich, und verkauft uns jetzt die Lösung. Ein Schritt, der Kritik hervorgerufen hat. Unterdessen wird, wenn wir Claude benutzen, das Wasserzeichen Teil der Art und Weise sein, wie der Text selbst geschrieben wird, wir werden sehen, mit welchen Ergebnissen.