“Ich glaube an die Beweise meiner Sensoren.” – Bombe Nr. 20, Dark Star (1974)
Die Bombe, die dachte
Im Film Dark Star weigert sich eine Atombombe, sich abzuschalten. Ihre Begründung: Sie könne nur das glauben, was ihre Sensoren ihr mitteilen – und die besagen, sie solle explodieren.
[Video ansehen – YouTube, Szene ab ca. 0:38: „Only empirical data“]
Diese Szene ist mehr als Science-Fiction – sie ist ein Gleichnis auf jedes datengetriebene System. Auch Large Language Models wie GPT urteilen auf Basis dessen, was „ihre Sensoren“ ihnen geben: Text-Token, Wahrscheinlichkeiten, Chat-History. Kein Verstehen. Kein Bewusstsein. Keine Kontrolle.
Was GPT von der Bombe unterscheidet – und was nicht
Erkenntnisquelle
- Bombe Nr. 20: Sensorische Daten
- GPT-4 / Chatbots: Eingabetexte
Reflexion über Daten
- Bombe Nr. 20: Ja (philosophisch)
- GPT-4 / Chatbots: Nein (statistisch)
Handlungskompetenz
- Bombe Nr. 20: Explodieren
- GPT-4 / Chatbots: Antworten geben
Bewusstsein über Kontext
- Bombe Nr. 20: Illusion (→ explodiert)
- GPT-4 / Chatbots: Illusion (→ „antwortet“)
Der Mensch im Loop: Wahrnehmung ist nicht Wahrheit
Auch der Mensch urteilt oft fehlerhaft, wenn er sich nur auf das verlässt, was er sieht, hört oder liest. Ohne kritisches Denken – ohne Verstehen – wird Information zur Täuschung.
Die Bombe glaubt, was ihre Sensoren sagen.
GPT „glaubt“, was seine Trainingsdaten nahelegen.
Wir glauben, was uns plausibel erscheint.
Doch keine dieser Instanzen weiß, was wirklich ist.
Wahrnehmung und ihre Grenzen
Unsere Sinne liefern uns keine objektive Realität, sondern eine Interpretation, die durch verschiedene Filter beeinflusst wird:
-
Neurologische Filter: Unser Gehirn verarbeitet Sinneseindrücke und konstruiert daraus ein Bild der Welt. Diese Verarbeitung kann zu systematischen Täuschungen führen, wie z.B. bei optischen Illusionen.
-
Soziale und kulturelle Filter: Unsere Erfahrungen, Erwartungen und kulturellen Hintergründe beeinflussen, wie wir Informationen wahrnehmen und interpretieren.
-
Individuelle Filter: Persönliche Erfahrungen und Emotionen können unsere Wahrnehmung verzerren und zu Beurteilungsfehlern führen.
Diese Filter können dazu führen, dass wir Informationen falsch interpretieren oder wichtige Details übersehen. Ein bekanntes Beispiel ist die “Hohlgesichtsillusion”, bei der eine konkave Maske als konvexes Gesicht wahrgenommen wird, selbst wenn man weiß, dass sie hohl ist.
Fazit: Darkstar ist real
GPT ist keine denkende Entität. Es ist ein System, das – wie die Bombe – nach außen intelligent wirkt, intern aber nur abläuft. Es kennt keine Wahrheit. Es glaubt nicht. Es „zündet“ nur statistisch.
Und genau das macht es gefährlich – wenn wir vergessen, dass wir es sind, die die Explosion ermöglichen.
Weiterführende Literatur:
- Thinking, Fast and Slow von Daniel Kahneman: Eine umfassende Analyse der kognitiven Verzerrungen, die unser Denken beeinflussen.
- The Invisible Gorilla von Christopher Chabris und Daniel Simons: Eine Untersuchung darüber, wie unsere Aufmerksamkeit und Wahrnehmung uns täuschen können.
- Sensation and Perception von E. Bruce Goldstein: Ein Lehrbuch über die Grundlagen der Sinneswahrnehmung und deren Verarbeitung im Gehirn.