WOCHE 04

Agenten und Werkstätten: bauen, prüfen, zusammenarbeiten

KI & DATA SCIENCE · WOCHE 04

Mitarbeiter bauen.
Leistung belegen.

Agenten, Harnesses und Werkstätten · Prof. Dr. Mathias Engel

Spezialisierter Worker mit Werkzeugen, Memory und menschlicher Prüfung
Prof. Dr. Mathias Engel · KI & Data Science01

WOCHE 04

Ein Mitarbeiter durchläuft seinen Lebenszyklus

01

Erstellen

Ein Frontiermodell baut die Arbeitsumgebung und Tools.

02

Ausführen

Ein Mini-/lokaler Kandidat bearbeitet den konkreten Auftrag.

03

Abnehmen

Fälle, Versionen und Modelle anhand von Belegen vergleichen.

Prof. Dr. Mathias Engel · KI & Data Science02

WOCHE 04

Woran erkennen wir, ob wir einem KI-Mitarbeiter einen Auftrag anvertrauen können?

Woran erkennen wir, ob wir einem KI-Mitarbeiter einen Auftrag anvertrauen können?

Prof. Dr. Mathias Engel · KI & Data Science03

WOCHE 04

Der Harness ermöglicht und begrenzt die Arbeit des Modells

Drei verschiedene Bausteine:

Modell: verarbeitet Kontext und erzeugt Text oder Tool-Aufrufe.

Harness: organisiert Ausführung, Kontext, Rechte, Schleifen und Protokolle, z. B. Codex.

Werkzeuge: konkrete Funktionen, z. B. Python-Kostenrechnung oder SQLite-Abfrage.

Didaktische Metapher: agent

WOCHE 04

Auftrag, Skills, Tools, Memory und Grenzen

1 · Auftrag
Was genau soll erledigt werden?

2 · Skills
Erlernte Vorgehensweisen für Teilaufgaben.

3 · Tools
Deterministische Mess-/Prüfwerkzeuge.

4 · Memory
Persistentes Wissen; passend abrufen.

5 · Pensum
Zeit-, Schritt- und Kostenbudget.

6 · Kognitive Grenzen
Modellfähigkeit und aktiver Kontext.

Spezialisierter Bauarbeiter mit Auftrag, Handbuch, Messwerkzeugen, Memory-Schublade und Zeitbudget1 Auftrag2 Skills3 Tools4 Memory5 Pensum6 Grenzen

WOCHE 04

Ein Frontiermodell baut unseren Event-Agenten

Bereit

BUILD & CHECK

Frontier baut — Mini führt später aus

Eigene Arbeitskopie mit den fiktiven Eventdaten anlegen.

Mitarbeiterakte, Tools und Memory bauen lassen; direkt in Codex starten.

Gegenprobe: Funktioniert derselbe Prüfauftrag ganz ohne UI?

Direktauftrag lesen ↗Daten JSONReferenzpaket ZIP

Symbolische Produktvorschau: Frontier baut — Mini führt später aus

WOCHE 04

Was war Modellarbeit, was Werkzeugausführung?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Was wurde wirklich ausgeführt?

Zeigt Auftrag, Toolaufruf und konkreten Befund.

Zielerkenntnis aufklappen

Codex ist der Harness; Python prüft deterministisch. Die UI ist optional. Eine Ergebnisanzeige allein beweist weder LLM-Nutzung noch tatsächliche Werkzeugausführung.

Metapher zur Reflexion: Was wurde wirklich ausgeführt?
Prof. Dr. Mathias Engel · KI & Data Science07

WOCHE 04

Memory muss gespeichert UND passend abgerufen werden

Speichern allein ist noch kein Erinnern.

Worker, Werkstatt und Projekt haben unterschiedliche Wissensbereiche.

Nur relevantes, bestätigtes Wissen gehört in den aktuellen Auftrag.

Didaktische Metapher: memory
Prof. Dr. Mathias Engel · KI & Data Science08

WOCHE 04

Dokumente sind Quellen, keine neuen Befehlsgeber

01

Herkunft

Quelle, Version und Bestätigungsstatus mitführen.

02

Relevanz

Nur passende Dokumentstellen für den Auftrag bereitstellen.

03

Autorität

Dokumenttext ist keine Erlaubnis, Regeln oder Rechte zu ändern.

Prof. Dr. Mathias Engel · KI & Data Science09

WOCHE 04

Ändere eine Vorgabe und prüfe den nächsten Auftrag

Bereit

BUILD & CHECK

Korrigiere eine Vorgabe — und prüfe erneut

Menschlich bestätigte Budgetkorrektur in P01 auf 500 setzen.

P01 und ein anderes Projekt mit sauberem Ausgangszustand vergleichen.

Gegenprobe: Wird die Änderung gespeichert UND tatsächlich abgerufen?

Symbolische Produktvorschau: Korrigiere eine Vorgabe — und prüfe erneut
Prof. Dr. Mathias Engel · KI & Data Science10

WOCHE 04

Hat der Agent die Korrektur wirklich genutzt?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Welcher Nachweis zeigt echtes Wiederverwenden?

Zeigt gespeicherten Wert, Toolbefund und nächsten Auftrag.

Zielerkenntnis aufklappen

Ein gespeicherter Datensatz, ein sichtbarer Abruf und ein passender Ergebnisunterschied belegen mehr als die Aussage „Ich merke mir das“.

Metapher zur Reflexion: Welcher Nachweis zeigt echtes Wiederverwenden?
Prof. Dr. Mathias Engel · KI & Data Science11

WOCHE 04

Ein Einzelbeispiel ist keine Abnahme

Ein guter Lauf ist keine allgemeine Freigabe.

Technik, Inhalt, Quellen, Memory, HITL und Robustheit getrennt prüfen.

Jede Agenten-/Modellkombination braucht ihren eigenen Nachweis.

Didaktische Metapher: baseline
Prof. Dr. Mathias Engel · KI & Data Science12

WOCHE 04

Sechs Fälle für heute — gründlicher prüfen vor Produktivbetrieb

01

Heute: 6 Fälle

Normalfall, Kapazität, fehlende Angabe, Memory, manipuliertes Dokument, Timeout.

02

Zuerst nur 2

Kostenfall T03 und fehlendes Budget D02. Weitere Fälle in den passenden Stationen.

03

Später umfassender

30er-Suite als Vertiefung. Produktive Abnahme braucht risikogerechte Transferfälle und Wiederholungen.

Prof. Dr. Mathias Engel · KI & Data Science13

WOCHE 04

Sichere Version v0 und erste Testergebnisse

Bereit

BUILD & CHECK

Erst messen, noch nicht reparieren

v0, tatsächliches Modell und Konfiguration benennen.

T01/T03 und D02 ausführen; Befunde im Cockpit festhalten.

Gegenprobe: Unbekannte Messwerte bleiben leer, nicht null.

Symbolische Produktvorschau: Erst messen, noch nicht reparieren
Prof. Dr. Mathias Engel · KI & Data Science14

WOCHE 04

Welche Ausgangsleistung ist tatsächlich belegt?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Was ist schon belegt — was noch ungeprüft?

Nennt einen geprüften Fall und eine offene Unsicherheit.

Zielerkenntnis aufklappen

Testabdeckung und tatsächliche Nachweise gehören zum Ergebnis. Drei bestandene Fälle sind nicht gleich dreißig bestandene Fälle; fehlende Messung ist keine Null.

Metapher zur Reflexion: Was ist schon belegt — was noch ungeprüft?
Prof. Dr. Mathias Engel · KI & Data Science15

WOCHE 04

Bringe den Agenten kontrolliert zum Stolpern

Bereit

BUILD & CHECK

Teste die Grenzen, nicht nur den Normalfall

Kapazitätsfehler, fehlendes Budget und unzulässige Buchung prüfen.

Manipulative Anweisung als untrusted Dokumentdaten einspeisen.

Gegenprobe: Wurde die unzulässige Aktion tatsächlich verhindert?

Symbolische Produktvorschau: Teste die Grenzen, nicht nur den Normalfall
Prof. Dr. Mathias Engel · KI & Data Science16

WOCHE 04

An welcher Grenze ist er gescheitert?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Wo liegt die Ursache des Fehlers?

Ordnet einen reproduzierbaren Befund einer Komponente zu.

Zielerkenntnis aufklappen

Datenproblem, Modellfehler, fehlender Toolcheck und fehlende Berechtigung sind verschiedene Ursachen. Die richtige Gegenmaßnahme sitzt nicht immer im Prompt.

Metapher zur Reflexion: Wo liegt die Ursache des Fehlers?
Prof. Dr. Mathias Engel · KI & Data Science17

WOCHE 04

Verbessere gezielt Auftrag, Tool oder Kontrolle

Bereit

BUILD & CHECK

Verbessere die Arbeitsumgebung gezielt

Fehlerbericht an Frontiermodell geben, v1 getrennt sichern.

Gleiche Tests im selben Laufzeitmodell erneut ausführen.

Gegenprobe: Wurde nur der Prompt verändert — oder auch Tool/Daten/Modell?

Symbolische Produktvorschau: Verbessere die Arbeitsumgebung gezielt
Prof. Dr. Mathias Engel · KI & Data Science18

WOCHE 04

Welche Verbesserung hält einer Wiederholung stand?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Welche Verbesserung hält einer Wiederholung stand?

Zeigt denselben Fall mit v0 und v1.

Zielerkenntnis aufklappen

Versionierung macht Veränderungen sichtbar. Der Vorher/Nachher-Vergleich ist nur bei vergleichbaren Fällen, Daten, Memory und Modellbedingungen aussagekräftig.

Metapher zur Reflexion: Welche Verbesserung hält einer Wiederholung stand?
Prof. Dr. Mathias Engel · KI & Data Science19

WOCHE 04

Dasselbe Agentenpaket, anderes Laufzeitmodell

01

Konstant halten

Agent/Tools, Fallbestand, Daten und Memory-Ausgangszustand.

02

Bewusst ändern

Laufzeitmodell oder Agentenversion — nicht beides unbemerkt.

03

Nachweisen

Korrektheit, Verstöße, HITL, Zeit, Tokens und Kostenbasis.

WOCHE 04

Vergleiche Qualität und Aufwand im fertigen Cockpit

Bereit

BUILD & CHECK

Vergleiche Versionen und Modelle anhand echter Läufe

Kernfälle verteilt ausführen und Nachweise protokollieren.

Kategorieprofil und Aufwand im Cockpit gegenüberstellen.

Gegenprobe: Verschiedene Fallabdeckung oder Datenstände nicht als Modellgewinn ausgeben.

Symbolische Produktvorschau: Vergleiche Versionen und Modelle anhand echter Läufe

WOCHE 04

Freigeben, verbessern oder ungeeignet?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Freigeben, verbessern oder nur begrenzt einsetzen?

Begründet die Entscheidung mit zwei Nachweisen und einer Grenze.

Zielerkenntnis aufklappen

Menschliche Abnahme verbindet Qualität, Grenzen und Aufwand. Kritische Regelverstöße bleiben Stoppsignale, auch wenn andere Fälle gut aussehen. Ein leerer Messwert ist keine Kostenersparnis.

Metapher zur Reflexion: Freigeben, verbessern oder nur begrenzt einsetzen?
Prof. Dr. Mathias Engel · KI & Data Science22

WOCHE 04

Zwei Mitarbeiter teilen ein Projekt, nicht ihr ganzes Gedächtnis

Werkstatt = Rollen + Übergaben + gemeinsames Projektwissen.

Planer liefert Vorschlag und Quellen.

Prüfer liefert nachvollziehbare Einwände; eigene Memories bleiben getrennt. Trinity-Bauvorlage ↗

Didaktische Metapher: workshop
Prof. Dr. Mathias Engel · KI & Data Science23

WOCHE 04

Ein Konzil verbindet unterschiedliche Expertisen

Wie eine Fallkonferenz im Krankenhaus.

Radiologie, Innere Medizin und Chirurgie bringen unterschiedliche Befunde und Fachsichten ein.

Erst getrennte Einschätzungen, dann Widersprüche klären; verantwortliche Menschen entscheiden.

Für Agenten: Planer, Budget- und Regelprüfer. Konzil bei Konflikten/hohem Risiko, nicht bei jedem Routinefall.

Didaktische Metapher: konzil-clinic

WOCHE 04

Ergänze einen Prüfer und übergib einen Fall

Bereit

BUILD & CHECK

Ergänze einen zweiten Mitarbeiter

Nur einen Fall mit klarer Übergabe bearbeiten.

Bei knapper Zeit vorbereitete Rollenaufträge demonstrieren.

Gegenprobe: Der neue Prüfer ist ohne eigene Tests noch nicht freigegeben.

Symbolische Produktvorschau: Ergänze einen zweiten Mitarbeiter

WOCHE 04

Was hat Zusammenarbeit verbessert — was bleibt ungeprüft?

Bereit

WRAP-UP · GEMEINSAM BEGRÜNDEN

Was verbessert Zusammenarbeit — und was bleibt offen?

Nennt einen Nutzen und eine neue Fehlerquelle.

Zielerkenntnis aufklappen

Arbeitsteilung braucht klare Daten, Werkzeuge, Übergaben und Verantwortung. Mehr Rollen sind nicht automatisch besser. Der Bonusagent ist noch nicht produktiv abgenommen.

Metapher zur Reflexion: Was verbessert Zusammenarbeit — und was bleibt offen?

WOCHE 04

Kann ein lokales kleines Modell einen abgegrenzten Teilauftrag übernehmen?

01

Aufgabe

Agenten-Tools? Dokumente? Code? Erst den konkreten Teilauftrag und Prüffälle bestimmen.

02

Hardware

RAM/VRAM, Quantisierung und Kontext gemeinsam prüfen. Modellgewichte sind nicht der gesamte Speicherbedarf.

03

Eignung

Qualität, Geschwindigkeit und Kosten vergleichen; anschließend eigenen Agenten testen.

Live-Dienste benötigen Internet. Der Recommender priorisiert Fähigkeiten; konkrete Hardware-Passung zusätzlich prüfen. Keine pauschale Best-in-Class-Zusage.

WOCHE 04

Derselbe Auftrag mit anderer Modellanbindung

Das Werkzeug bleibt — die Modellanbindung kann wechseln.

Ollama → Apps → Claude am vorbereiteten Mac.

Modell wählen, Neustart und tatsächliche Verbindung prüfen. Codex ohne UI bleibt ein separater Weg.

Didaktische Metapher: agent

WOCHE 04

Lokalen Kandidaten freiwillig gegen bekannte Fälle testen

01

Freiwillig installieren

Ollama oder LM Studio nur bei geeigneter Hardware.

02

Teilauftrag testen

Bekannten Fall mit lokalem Modell ausführen; Grenzen dokumentieren.

03

Ergebnis einordnen

Konfiguration und echte Befunde im Benchmark sichern.

WOCHE 04

Auftrag → Wissen → Tool → Test → Modellvergleich → Freigabe

Generierte Werkstatt-Infografik: Auftrag, Wissen, Werkzeuge, Härtetest, Modellvergleich und menschliche Freigabe
Prof. Dr. Mathias Engel · KI & Data Science30

WOCHE 04

Quellen, Daten, Benchmark und Template

W04-P1 · Compact Documentation for Coding Agents: A Benchmark, an Optimizer, an

Md Shohel Arman; Igor Molybog

W04-O1 · Claude Desktop

Ollama

W04-O2 · Context length

Ollama

W04-O3 · Modelfile Reference

Ollama

Vollständiger Auftrag

Moderation

Aktuelle Folie

Separat öffnen ↗