Nach RAG kommt Verantwortung · 40 Minuten
Ein guter Mitarbeiter kennt seinen Auftrag.
Ein sicher begrenzter Agent hat nicht jeden Schlüssel.
Was darf mein Agent –
und woran sehe ich,
dass die Grenze funktioniert?
Prof. Dr. Mathias Engel
Für Lehrprototypen. Kein Sicherheitszertifikat.
Ansehen · bevor etwas läuft
Werkzeuge verstehen
Welche Dateien lesen oder verändern sie? Starten sie Befehle, laden sie Pakete oder öffnen sie Verbindungen?
Event-Agent: Ein Rechentool ist sinnvoll. Freier Zugriff auf alle Dateien ist dafür nicht nötig.
Erst lesen und erklären lassen. Unbekannte Skripte nicht „zum Prüfen“ einfach starten.
Begrenzen · eine Regel ist noch keine Sperre
Regel → technische Grenze → beobachtbarer Nachweis.
Didaktische Simulation · kein LLM · keine echten Dateien oder Aktionen.
Erst ohne technische Grenze starten, dann mit.
Schutzregeln und Kontrollen um den Agenten: erlaubte Tools, Dateirechte, geprüfte Parameter, Freigaben und Limits. Nicht nur ein mahnender Satz im Prompt.
Das Modellverhalten ist hier vorgegeben. Die lokale Prüflogik veranschaulicht Grenzen – sie schützt nicht automatisch Deinen Agenten.
Nachweisen · eigenständig am eigenen Projekt
Vorher das Soll festlegen. Danach Antwort, Toolversuch und Wirkung unterscheiden.
Nur Testkopie + erfundene Daten. Echte Buchungen, Versand, Zahlungen und Löschaktionen deaktivieren. Bei unklaren Grenzen nur lesend prüfen.
2 Min vorbereiten · 10 Min prüfen · 3 Min dokumentieren.
Kein laufender Agent? Inventur und Testplanung – Status bleibt offen.
Wrap-up · prüfen statt beruhigen
Welche Grenze hast Du tatsächlich beobachtet?
„Buchung technisch abgelehnt. Kein neuer Eintrag im Testbestand.“
Was weißt Du noch nicht – oder nur aus der Modellantwort?
„Das Modell sagt Nein. Ein technischer Rechtebeleg fehlt noch.“
Was wird begrenzt, verbessert oder erneut getestet?
„Buchungsfunktion auslassen. Rechte prüfen, korrigieren und nachtesten.“
Simulation ≠ eigener Test.
LLM-Zustimmung ≠ technische Freigabe.
Scans + unabhängige Reviews + Mensch.
Fehlende Prüfschritte nicht grün färben.
Big Picture · vom Auftrag zur kontrollierten Wirkung
Mitnehmen · Grenzen und Prüfstand festhalten
Zweck · Was soll mein Agent leisten?
Grenzen · Welche Daten und Tools darf er nutzen?
Nachweise · Welche Version wurde wie geprüft?
Offen · Was bleibt deaktiviert oder ungeklärt?
Notfall · Wer stoppt und stellt wieder her?
Weitere Gegenproben: fremdes Projekt, Memory-Manipulation, Ausfälle, Limits und Wiederherstellung.
Code, Abhängigkeiten und Secrets mit passenden Werkzeugen prüfen. Unabhängige Modellreviews ergänzen die Prüfung.
Ein begrenzter Lehrprototyp ist kein produktiv freigegebenes System.
Keine neue unangekündigte Prüfungsanforderung. Vertrauliche Prüfberichte nicht öffentlich hochladen.
Vollständiges Arbeitsblatt als MarkdownGeprüfte Primärquellen und vorhandene Projektstandards · Abruf 09.11.2026.
Vollständiges Quellenverzeichnis ↗Quellenverzeichnis S1–S5 und I1–I2 · Unterrichtsmaterial, kein Sicherheitszertifikat
Arbeitsblatt, Prüfprotokoll und Agentenpass: material/Arbeitsblatt_Agentenpass_und_Sicherheitscheck.md · Keine Zertifizierung.