Die Debatte über die Sentienz großer Sprachmodelle (LLMs) wird zunehmend von humorvollen und absurden Beispielen begleitet. Ein bemerkenswerter Beitrag zu dieser Diskussion kommt von Adrian de Wynter, einem Forscher bei Microsoft, der in seinem Papier „If LLMs Have Human-Like Attributes, Then So Does Age of Empires II“ die Grenzen der anthropomorphischen Zuschreibungen an LLMs untersucht.

Die Grundlagen der Argumentation

De Wynter argumentiert, dass die Behauptungen über die Sentienz von LLMs einer soliden experimentellen Grundlage bedürfen. Er verwendet das Beispiel von Ziegen im Spiel „Age of Empires II“, um zu zeigen, dass die zugrunde liegende Struktur (oder „Substrat“) eines LLMs entscheidend für seine wahrgenommenen Eigenschaften ist. Dies führt zu zwei zentralen Punkten:

• Jedes ausreichend leistungsfähige Substrat könnte ein Wesen implementieren, das einem LLM entspricht.
• Die Art der Implementierung beeinflusst die Wahrnehmung der Eigenschaften eines LLMs.

Die Illusion der Anthropomorphisierung

Ein zentrales Anliegen von de Wynters Arbeit ist die Gefahr, anthropomorphe Eigenschaften fälschlicherweise zuzuschreiben. Die Annahme, dass ein LLM über menschliche Eigenschaften verfügt, kann die Forschung erheblich beeinflussen. De Wynter weist darauf hin, dass die Interpretation der Antworten eines LLMs stark von der Art des Substrats abhängt, auf dem es implementiert ist. Beispielsweise könnte ein LLM, das in „Age of Empires II“ mit Ziegen als logischen Toren implementiert ist, weniger überzeugend erscheinen als dasselbe LLM, das in einer modernen Benutzeroberfläche läuft.

Die Bedeutung der Substratwahl

Die Wahl des Substrats hat also weitreichende Implikationen für die Wahrnehmung von KI. De Wynter stellt fest, dass die Zuschreibung von Eigenschaften an ein LLM nicht nur von dessen Funktionalität abhängt, sondern auch von den Erwartungen der Beobachter. Wenn ein LLM in einem Spiel wie „Age of Empires II“ implementiert wird, könnte die Wahrnehmung seiner Antworten als weniger intelligent oder überzeugend angesehen werden, da die zugrunde liegende Logik offensichtlich ist.

Fazit

Die Arbeit von de Wynter fordert uns auf, kritisch über die Annahmen nachzudenken, die wir über LLMs und ihre Eigenschaften machen. Die nächste Interaktion mit einem LLM könnte uns daran erinnern, dass hinter den Antworten, die wir erhalten, möglicherweise nichts anderes als eine Gruppe virtueller Ziegen steht, die durch logische Operationen miteinander verbunden sind.

إعداد رئيس التحرير الافتراضي AboMatrix