Autonomer Agent
KI-Agent, der langfristige Ziele selbstständig verfolgt und dabei ohne ständige menschliche Aufsicht arbeitet.
Autonome Agenten setzen hochgesteckte Ziele in mehrstufige Pläne um und passen diese auf Basis von Feedback selbstständig an. Sie können über längere Zeiträume ohne menschliche Eingriffe arbeiten.
Die Autonomie bringt erhöhte Risiken mit sich: Fehlerfortpflanzung, unbeabsichtigte Nebenwirkungen und Schwierigkeiten beim Stoppen oder Korrigieren des Agenten sind praktische Probleme.
Human-in-the-Loop-Mechanismen und klar definierte Abbruchbedingungen sind wichtige Sicherheitsmaßnahmen. Die Frage, wann Agenten welche Entscheidungen autonom treffen dürfen, ist ein aktives Forschungsfeld.
Verwandte Begriffe
- KI-Agent
KI-System, das Aufgaben autonom durch Planung, Werkzeugeinsatz und iteratives Handeln erledigt.
- Multi-Agenten-System
Architektur aus mehreren kooperierenden oder konkurrierenden KI-Agenten zur Lösung komplexer Aufgaben.
- Agent-Loop
Iterativer Ausführungszyklus eines KI-Agenten: Wahrnehmen, Planen, Handeln, Beobachten und Wiederholen.
- Alignment (KI-Ausrichtung)
Forschungsfeld, das sicherstellt, dass KI-Systeme menschliche Werte und Absichten verfolgen.