KI-Agenten erstellen: schnell gebaut, aber hilft er in vier Wochen noch?

Einen KI-Agenten zu erstellen ist technisch einfach geworden. Fast jedes KI-Werkzeug hat dafür inzwischen eine Eingabemaske, und die erste Version steht schnell. Schwieriger ist die Frage, was ein Agent braucht, damit er auch nach ein paar Wochen noch brauchbare Ergebnisse liefert.

Braucht es noch einen Artikel rund um das Thema Agenten? Die Aufbaustruktur ändert sich alle paar Monate, Begrifflichkeiten wie Playbooks tauchen plötzlich auf und man muss wieder alles sortieren. Wir packen unsere Sicht trotzdem mal in einen Artikel, Schreiben „klärt“ und hilft beim Strukturieren und Optimieren.

Darum geht es in diesem Beitrag. Sie bekommen sieben Schritte, vier für den Kern und drei für den Ausbau + eine Zeichnung, die zeigt, wie die Teile zusammenhängen.

Was braucht ein KI-Agent?

Im Kern drei Dinge:

• ein Sprachmodell,
• eine Anweisung
• und Werkzeuge.

So beschreibt es OpenAI in seinem Leitfaden, und Anthropic sieht es ähnlich.

Ein Agent ist dort ein Sprachmodell, das Werkzeuge benutzt und in einer Schleife arbeitet: Er plant einen Schritt, führt ihn aus, prüft das Ergebnis und entscheidet, wie es weitergeht. Ein Chatbot, der nur antwortet, ist nach dieser Definition noch kein Agent. Im Alltag wird trotzdem beides so genannt, und für den Einstieg ist das auch in Ordnung.

Um diesen Kern herum gibt es Bausteine, die einen Agenten besser machen, die aber nicht jeder Agent vom ersten Tag an braucht:

• Skills,
• ein Gedächtnis
• und gemeinsames Firmenwissen.

KI-Agenten erstellen: die sieben Schritte

Bauen wir doch einfach mal los.

Schritt 1. Prüfen, ob es einen Agenten braucht, und das Ziel festlegen

Nicht jede Aufgabe braucht einen Agenten. OpenAI empfiehlt ihn dort, wo Entscheidungen von vielen Umständen abhängen, wo Regelwerke kaum noch zu pflegen sind oder wo viel unstrukturierter Text verarbeitet wird.

Für alles andere reicht oft ein fester Ablauf oder ein gut gemachter einzelner Prompt.

Wenn es ein Agent sein soll, schreiben Sie als Erstes auf, woran Sie ein gutes Ergebnis erkennen. Früher hatte man eher Denkschritte (Chain of Thought) und Beispiele eingebaut. Heute sieht es bei vielen LLMs so aus, als ob sie ihren Weg lieber selbst entscheiden - nur dann braucht es eher ein Ziel.

Also: Legen Sie ein Ziel fest

UND

Überlegen Sie, wie man bei der Zielerreichung das Ergebnis bewerten kann. Wann ist der Output gut, mittel, schlecht?

Erst beides zusammen, Ziel und Zielmessung, bringen den gewünschten Erfolg.

Aufgabe:    Wochenpaket für meinen Blog
Ziel:       Die Texte gehen mit wenig Korrekturen in die persönliche Bearbeitung und Ergänzung der Themen
Messgröße:  Korrekturrunden je Paket, die Grundstruktur ist gut und muss nicht geändert werden
Schwelle:   höchstens 2
Nachweis:   Korrekturzähler im Redaktionsregister

Fällt Ihnen keine Messgröße ein, ist die Aufgabe meist noch zu unscharf. Der beste Tipp: Fragen Sie das LLM.

Schritt 2. Das KI-Werkzeug wählen

Nehmen Sie für den ersten Agenten das KI-Werkzeug = LLM (Modell), das in Ihrem Unternehmen schon freigegeben ist. Die meisten KI-Berater sind sich zwischenzeitlich einig, dass die Unterschiede zwischen den Anbietern am Anfang kleiner sind als die Unterschiede zwischen einer guten und einer schlechten Anweisung.

Persönlich bin ich Fan von Claude, nutze aber parallel im Vergleich immer wieder ChatGPT, Mistral, Google Gemini und auch mal Perplexity.

Schritt 3. Die Anweisung schreiben

Die Anweisung ist der Text, den das Modell vor jeder Aufgabe liest. Fangen Sie dafür nicht mit einem leeren Blatt an. OpenAI rät, vorhandene Unterlagen zu nehmen: Arbeitsanweisungen, Leitfäden, gute Beispiele von früher. Wie daraus eine Anleitung für die KI wird, steht in Playbook, SOP, Handbuch.

In die Anweisung gehört (siehe Beispiel oben), was der Agent tun soll, woran er ein fertiges Ergebnis erkennt, was er allein entscheiden darf und was er tut, wenn ihm eine Angabe fehlt. Der letzte Punkt wird oft vergessen. Ein Agent fragt von sich aus selten nach, er füllt die Lücke lieber selbst.

Viele Anleitungen empfehlen außerdem eine Rolle, etwa „Du bist ein freundlicher Assistent für das Onboarding“.

Offiziell gilt für das aktuell: „Für den Ton ist das nützlich. Genauer wird ein Agent dadurch nicht: Forscher der Wharton School haben Ende 2025 geprüft, ob eine Expertenrolle bei schwierigen Fachfragen hilft, und keinen verlässlichen Effekt gefunden. Die Rolle darf also drinstehen, sie ersetzt aber nicht die klare Aufgabe.“

Ich finde aber einen anderen Aspekt wichtig. Wir lernen mit AI neu zu arbeiten. Ganz ehrlich, da arbeite ich aber auch weiterhin gerne im Team. Deshalb bekommen meine Agenten alle Namen. Finde ich viel angenehmer im Daily Business. Anfang des Jahres hatten sie zusätzlich noch „psychologische“ Raster wie analytisch, kreativ, kommunikativ. War nett, PRO- oder CONTRA-Effekt konnte man nie feststellen, das ist jetzt rausgefallen.

Schritt 4. Werkzeuge, erstes Wissen und Leitplanken festlegen

• Geben Sie dem Agenten nur die Werkzeuge, die er für seine Aufgabe braucht, zum Beispiel die Suche im Web, den Zugriff auf einen Ordner oder den Zugriff - nennt sich häufig Konnektor - zu einem anderen System wie Microsoft Outlook mit Kalender, Asana Tasklisten, etc.

Beschreiben Sie genau, wofür jedes Werkzeug da ist und was damit zu tun ist. Das muss dann später technisch auch verbunden werden. Ich finde, das hilft später, Dinge besser nachzuvollziehen.

Dazu kommt erstes Wissen in Form einiger Dateien, die der Agent lesen/nutzen darf.

Da wir alle dazulernen, gehört in der Zwischenzeit bei diesen Basiseinstellungen schon dazu, dass Sie ein paar Grenzen einziehen (nennt sich Guardrails). Schreiben Sie rein, was der Agent NICHT darf.

Damit läuft der Kern. Bevor Sie weiterbauen, lassen Sie den Agenten an echten Aufgaben arbeiten und zählen Sie mit, wie oft Sie nachbessern. Langdock gibt dafür einen guten Tipp: Probieren Sie Grenzfälle aus und lassen Sie absichtlich Angaben weg.

Nur wenn das steht, empfiehlt es sich, den Agenten noch mal ein ganzes Stück besser und leistungsfähiger zu machen.

Für die folgenden drei Schritte gilt ein Rat, den Anthropic und OpenAI übereinstimmend geben: erst erweitern, wenn es das Ergebnis nachweislich besser macht.

Schritt 5. Wissen & Können auslagern: Skills

Wenn die Anweisung immer länger wird, weil Vorlagen, Beispiele und feste Abläufe dazukommen, ist es Zeit für Skills. Ein Skill ist eine ausgelagerte Anleitung für eine wiederkehrende Aufgabe. Der Agent kennt zunächst nur ihren Namen und lädt den Inhalt erst, wenn er ihn braucht. Die Anweisung bleibt kurz, und derselbe Skill kann mehreren Agenten dienen.

Das Prinzip setzt sich gerade durch. Und auch der Name „Skill“ zieht bei immer mehr LLMs ein und löst alte, eigene Bezeichnungen ab.

Wir packen in die Skills beispielsweise:

• Brand Guidelines des Unternehmens, damit man den Firmennamen nicht immer wiederholen muss
• Best Practices zu einem Thema. Natürlich zuerst recherchiert, dann das Passende übernommen
• Prozessabläufe. Evtl. soll der Agent ja mehrere Ergebnisse abliefern.

Schritt 6. Ein Gedächtnis geben

Ein Agent beginnt jede Sitzung ohne Erinnerung an die letzte. Für einmalige Aufgaben ist das egal. Bei einem Projekt, das über Wochen läuft, erklären Sie ohne Gedächtnis jedes Mal von vorn, wo Sie stehen.

Gedächtnis (memory) ist ein bisschen komplizierter, weil man das unterschiedlich lösen kann. Vom integrierten Gedächtnis im LLM über eine Art Logfile, ein Second Brain oder die Verknüpfung zu einem Company Brain. Hier nur ein kurzer Auszug dazu.

• Die einfachste Form ist eine Datei, die der Agent am Anfang liest und am Ende ergänzt: Was war zuletzt, was ist offen, was wurde entschieden.

Wichtig ist, dass das Gedächtnis außerhalb des Agenten liegt, damit es einen Neustart oder den Wechsel des KI-Werkzeugs übersteht.

Schritt 7. Vom einzelnen Dokument zum Company Brain

Am Anfang bekommt jeder Agent seine eigenen Dateien. Das funktioniert, solange es wenige Agenten sind. Danach liegen dieselben Preislisten, Regeln und Ausnahmen an fünf Stellen, und keine davon ist aktuell.

Die Antwort darauf ist eine gemeinsame Wissensschicht, auf die alle Agenten zugreifen. Wir nennen sie Company Brain. Sie haben vielleicht schon mal das Wort Kontext gehört, das meint dasselbe. Entscheidend ist die Idee dahinter: Firmenwissen wird einmal gepflegt und von allen genutzt. Mehr dazu in Company Brain und in Wissenslandkarte mit KI.

Alles schon komplex genug. Das Schwierige dabei ist, dass sich das kontinuierlich ändert, die Begriffe kunterbunt verwendet werden und die Agentenregeln heute sicher nicht die sind von morgen. Als Beispiel haben wir mitgebracht, was sich bei uns alleine in den letzten 9 Monaten geändert hat.

Was hat sich bei uns seit Januar geändert?

Meine ersten Agenten vom Januar bestanden aus einer Beschreibung mit Namen, Charakter, Aufgabenliste und ein paar Hinweisen, kompletter Kontext drin im „Agenten-Prompt“. Das war okay und hat gut funktioniert.

Viele Anleitungen empfehlen diesen Aufbau bis heute. Im Lauf des Jahres ist einiges dazugekommen:

Man sollte sich nicht verrückt machen lassen. Wichtig ist, dass die Agenten funktionieren und dass wir am Ball bleiben, wenn sich etwas Neues tut. Gerade läuft bei uns die nächste Überarbeitungsrunde.

Wenn Sie das mit Ihrem Team an eigenen Aufgaben üben möchten: Wie unsere Schulungen ablaufen, steht auf der Seite KI-Schulung für Unternehmen.