Es ist März 2026, und ich habe das Gefühl, in einem permanenten Zustand von „gleich um die Ecke“ zu leben. Nicht die aufregende Art, wie die Eröffnung eines neuen Cafés, sondern die Art, bei der die Zukunft sowohl nah als auch ständig unerreichbar erscheint. Besonders wenn es um KI geht.
Wir haben die anfänglichen Hype-Zyklen hinter uns gelassen, die atemlosen Vorhersagen von Skynet am Dienstag und Utopie bis Freitag. Jetzt befinden wir uns in einer unklareren Phase. Die KI-Modelle sind unglaublich leistungsstark, da besteht kein Zweifel. Sie schreiben Code, generieren Bilder, beantworten komplexe Fragen mit alarmierender Flüssigkeit. Aber sie lügen auch, halluzinieren und lassen einen gelegentlich fragen, ob man tatsächlich mit einem sehr ausgefeilten Papagei spricht. Und das, meine Freunde, bringt uns zum Kern des heutigen Ausbruchs: Die Agency-Lücke – Warum unsere KI-Tools sich immer noch nicht wie Agenten anfühlen.
Für agntzen.com verbringen wir viel Zeit damit, zu analysieren, was es bedeutet, ein Agent zu sein. Intention, Autonomie, Verantwortung, die Fähigkeit, effektiv in einer Umgebung zu agieren. Und während unsere derzeit verfügbaren KI-Modelle viele dieser Facetten nachahmen können, zeigen sie oft Mängel, die eine grundlegende Diskrepanz verdeutlichen. Sie sind unglaubliche Werkzeuge, aber dennoch Werkzeuge. Sie *wollen* nichts tun. Es ist ihnen *egal*, ob sie erfolgreich sind. Und diese Unterscheidung, so argumentiere ich, wird immer wichtiger, während wir versuchen, sie in komplexere Arbeitsabläufe zu integrieren.
Die Illusion der Intention: Was wir sehen vs. was ist
Denk an deine Interaktionen mit ChatGPT oder Claude. Du gibst einen Befehl, es gibt dir eine Antwort. Es fühlt sich wie ein Gespräch an. Es fühlt sich an, als ob es versteht. Aber dieses „Verstehen“ ist eine statistische Vorhersage, kein echtes Verständnis. Es ist eine hochentwickelte Mustererkennungsmaschine, die auf riesigen Mengen menschlicher Daten trainiert wurde, um statistisch wahrscheinliche Wortfolgen zu produzieren.
Vor ein paar Wochen habe ich versucht, eine mühsame Aufgabe zu automatisieren: eine Reihe leicht variierter Social-Media-Beiträge für verschiedene Plattformen zu erstellen, die jeweils einen einzigartigen Ton und eine Zeichenbeschränkung benötigen. Ich habe einem KI-Modell eine Persona für jede Plattform und eine zentrale Botschaft gegeben. Es hat einen anständigen Job gemacht. Aber als ich darum bat, die Beiträge „rebellischer klingen zu lassen“, tauschte es einfach ein paar Adjektive aus. Als ich es bat, „darüber nachzudenken, was eine Punkrockband dazu twittern würde“, gab es mir etwas, das mehr wie ein Marketingpraktikant klang, der versucht, punkrockig zu wirken.
Meine menschliche Assistentin, Sarah, würde, wenn ich ihr denselben Befehl gegeben hätte, wahrscheinlich erklärende Fragen stellen: „Rebellisch in welcher Hinsicht? Politisch? Ästhetisch? Wie ein Punk der 70er oder ein moderner?“ Sie würde auf ihr eigenes Weltverständnis, ihre eigenen Erfahrungen mit der Punkkultur (oder zumindest ihre Fähigkeit, dies schnell zu recherchieren und zu synthetisieren) und ihre eigene Fähigkeit zur kreativen Interpretation zurückgreifen. Die KI hat das nicht gemacht. Sie hat einfach die Eingabe verarbeitet und eine Ausgabe basierend auf dem Verständnis von „rebellisch“ in ihren Trainingsdaten generiert.
Das Problem des „Gut Genug“
Das soll nicht heißen, dass die aktuelle KI nicht nützlich ist. Sie ist es absolut. Sie ist unglaublich gut bei den „gut genug“ Aufgaben. Entwirf einen ersten Entwurf. Fasse ein langes Dokument zusammen. Generiere Standard-Code. Das sind alles Dinge, die früher menschlichen Aufwand erforderten, und jetzt kann die KI sie im großen Maßstab produzieren. Aber wenn die Aufgabe echtes Initiative, echtes Verständnis der Welt oder nuancierte Entscheidungsfindungen über das hinaus erfordert, was in ihren Trainingsdaten kodiert ist, dann wird die Agency-Lücke zu einem Abgrund.
Ich arbeitete an einem kleinen Skript, um spezifische Daten von einer öffentlichen API abzurufen. Ich gab der KI die API-Dokumentation und ein klares Ziel. Es generierte ein Python-Skript, das zu 90 % korrekt war. Die 10 % waren eine subtile Fehlinterpretation, wie ein spezifischer Abfrageparameter formatiert sein sollte – eine Nuance, die ein menschlicher Entwickler schnell erkannt hätte, indem er die Beispielanfragen gelesen hat. Die KI hingegen folgte blind einem Muster, das sie anderswo gesehen hatte, was zu einer frustrierenden Reihe von 400-Fehlern führte. Sie „realisierten“ nicht, dass sie scheiterten. Sie führten einfach den Code aus, den sie erzeugt hatte.
Dies ist eine entscheidende Unterscheidung. Ein Agent hat, wenn er scheitert, oft Mechanismen, um dieses Versagen zu erkennen, es zu diagnostizieren und seinen Ansatz anzupassen. Aktuelle KI-Modelle können zwar angestoßen werden, um ihren eigenen Code zu debuggen oder ihre Ausgaben zu verfeinern, besitzen jedoch keinen intrinsischen selbstkorrigierenden, zielgerichteten Kreislauf in derselben Weise. Sie erfahren kein „Frustration“ oder „Verwirrung“, die sie dazu führen könnte, ihre Strategie zu überdenken.
Praktische Beispiele: Die Lücke überbrücken (unvollkommen)
Was tun wir also gegen diese Agency-Lücke? Wir können aktuellen Modellen kein echtes Bewusstsein oder Verlangen einflößen (zumindest noch nicht und wahrscheinlich nicht auf die Art und Weise, wie wir denken). Aber wir können unsere Systeme und unsere Interaktionen so gestalten, dass sie *verhalten* ähnlich wie Agenten, und entscheidend, menschliche Aufsicht und Interventionspunkte integrieren.
1. Entwerfen für iterative Verfeinerung und Rückkopplungsschleifen
Anstatt KI als „schwarze Box“ zu behandeln, der du einen Befehl gibst und eine perfekte Antwort erwartest, betrachte sie als einen Junior-Assistenten, der klare Anweisungen und Feedback benötigt. Das bedeutet, komplexe Aufgaben in kleinere, handhabbare Schritte zu zerlegen und explizite Rückkopplungsschleifen einzubauen.
Beispiel: Content-Generierungs-Workflow
# Schritt 1: Erster Entwurf
ai_response = llm_model.generate_draft(topic="Die Zukunft des Quantencomputings", tone="akademisch aber zugänglich")
# Schritt 2: Menschliche Überprüfung und spezifisches Feedback
human_feedback = "Die Einleitung ist zu trocken. Füge einen Aufhänger über eine reale Anwendung hinzu. Erweitere die ethischen Implikationen."
# Schritt 3: KI-Überarbeitung basierend auf Feedback
revised_ai_response = llm_model.revise_text(ai_response, feedback=human_feedback)
# Schritt 4: Iteration...
# Diese Schleife geht weiter, bis der Mensch zufrieden ist.
Das ist nicht die KI, die spontan beschließt, ihre Einleitung zu verbessern. Es ist der menschliche Agent, der explizite Anweisungen zur Verbesserung gibt. Die KI ist ein leistungsstarkes Werkzeug zur Umsetzung dieser Anweisungen, nicht um autonom zu entscheiden, was „besser“ bedeutet.
2. Orchestrierungsebenen für „zielgerichtetes“ Verhalten
Hier kommen Frameworks wie LangChain oder AutoGen ins Spiel. Sie geben der KI keine wahre Agency, aber sie *orchestrieren* eine Reihe von KI-Aufrufen und Werkzeugverwendungen in einer Weise, die *zielgerichtetes* Verhalten *vermischt*. Sie schaffen einen Meta-Agenten, der einzelne KI-Modelle als Komponenten nutzt.
Stell dir vor, du willst, dass eine KI „mir den besten Flug von NYC nach London nächsten Dienstag findet, der unter 800 $ bleibt, und eine Hotelempfehlung einschließt.“ Ein einzelner LLM-Aufruf wird das nicht zuverlässig tun. Aber eine Orchestrierungsebene könnte:
- Ein LLM verwenden, um die Anfrage in strukturierte Abfragen (Flugdaten, Budget, Hotelbedarf) zu zerlegen.
- Eine Flugsuch-API mit den extrahierten Details aufrufen.
- Eine Hotelsuch-API mit dem Reiseziel und den Budgetbeschränkungen aufrufen.
- Das LLM erneut verwenden, um die Ergebnisse in eine lesbare Empfehlung zu synthetisieren.
- (Entscheidend) einen Menschen die endgültige Empfehlung vor der Buchung überprüfen lassen.
In diesem Szenario ist der „Agent“ das gesamte System, mit dem Menschen im Loop als dem letztendlichen Entscheidungsträger und Qualitätskontrolleur. Die einzelnen KI-Komponenten reagieren weiterhin nur auf Befehle, aber das System als Ganzes *scheint* auf ein Ziel hinzuarbeiten.
3. Explizite Rahmenbedingungen und menschliche Übersteuerung
Für jedes System, in dem KI Entscheidungen trifft, die reale Konsequenzen haben, sind explizite Rahmenbedingungen und einfache menschliche Übersteuerungsmechanismen unverzichtbar. Es geht nicht nur darum, katastrophale Fehler zu vermeiden; es geht darum, die inhärente fehlende Agency und Verantwortung in der KI selbst anzuerkennen.
Beispiel: Automatisierter Finanzberater-Bot (hypothetisch)
# Bot empfiehlt einen Aktienkauf basierend auf Marktdaten und dem Risiko-Profil des Nutzers
recommendation = advisor_bot.generate_recommendation(user_portfolio, market_data)
# Entscheidender menschlicher Genehmigungsschritt
if user_approves_purchase(recommendation):
execute_trade(recommendation)
else:
log_disapproval_reason(user_input)
# Möglicherweise dies für zukünftige Verfeinerung an den Bot zurückführen (menschlich gesteuertes Lernen)
Der Bot ist es *egal*, ob der Nutzer Geld verliert. Er führt einfach seine programmierte Funktion aus. Der Mensch hingegen kümmert sich darum, und das Systemdesign muss diesen Unterschied in Agency und Verantwortung widerspiegeln.
Die Zukunft von KI und Agency
Ich glaube nicht, dass wir kurz vor wahrer AGI stehen, oder zumindest nicht in der Art, die echtes subjektives Erleben und Intention besitzt. Der aktuelle Entwicklungsweg der KI fühlt sich, obwohl beeindruckend, eher wie der Bau immer ausgeklügelterer Spiegel an, anstatt neue Köpfe zu erschaffen.
Was das für uns bedeutet, als Nutzer und Entwickler, ist eine Verantwortung, mit klaren Augen zu sehen, was diese Werkzeuge sind und was sie nicht sind. Sie sind phänomenale Erweiterungen unserer eigenen Fähigkeiten, Verstärker unserer Intelligenz und Kreativität. Aber sie ersetzen nicht unsere Agency. Sie befreien uns nicht von der Last der Verantwortung. Sie *wollen* nichts. Sie *glauben* nichts. Sie *leiden* oder *freuen* sich nicht.
Je mehr wir KI in unser Leben und unsere Arbeit integrieren, desto wichtiger wird es, diese Agency-Lücke zu verstehen. Systeme zu entwerfen, die die Stärken der KI nutzen und ihre Schwächen mindern. Die Realität zu akzeptieren, dass der „Agent“ in „KI-Agent“ oft den Menschen bezeichnet, der das gesamte Geschehen orchestriert und überwacht.
Handlungsorientierte Erkenntnisse: Wie man mit Nicht-Agenten arbeitet
- Sei explizit: Gehe nicht davon aus, dass die KI Nuancen oder Kontexte versteht, die über das hinausgehen, was du direkt bereitgestellt hast. Zerlege komplexe Aufgaben.
- Baue Rückkopplungsschleifen: Behandle KI-Ausgaben als Entwürfe, nicht als Endprodukte. Plane für iterative Verfeinerung basierend auf menschlicher Überprüfung.
- Entwirf für Aufsicht: Bei jeder kritischen Aufgabe sollte ein Mensch im Loop sein, um Genehmigungen, Korrekturen oder Übersteuerungen vorzunehmen.
- Verstehe die Grenzen: KI brilliert in der Mustererkennung und Vorhersage, nicht im echten Verständnis, der Intention oder dem gesunden Menschenverstand. Bitte fordere sie nicht auf, Dinge zu tun, die sie grundlegend nicht kann.
- Orchestriere, delegiere nicht vollständig: Nutze Frameworks und benutzerdefinierte Codes, um KI-Funktionen und andere Werkzeuge miteinander zu verknüpfen. Das schafft ein mehr agentenähnliches System, aber der Mensch bleibt der Architekt.
- Bild dich selbst und dein Team: Das größte Risiko besteht nicht darin, dass KI zu schlau wird, sondern darin, dass Menschen die aktuellen Fähigkeiten überschätzen und fälschlicherweise Agency zuschreiben.
Lasst uns weiterhin erstaunliche Werkzeuge entwickeln, aber lasst uns nie vergessen, wo die wahre Agency, die wahre Verantwortung und der wahre Funke der Intention letztendlich liegt: bei uns.
🕒 Published: