KI-Agenten: sichere Integration, Datengrenzen und Prüfung

KI-Agenten verbinden ein Sprachmodell mit Tools, Datenquellen und Berechtigungen, damit sie Aktionen ausführen und nicht nur Fragen beantworten. Diese größere Reichweite bringt Risiken wie Prompt Injection, unbeabsichtigte Datenfreigabe und Tool-Missbrauch mit sich.

Diese Leitfäden erläutern diese Risiken, die Integration eines Agenten mit klaren Berechtigungsgrenzen, die Abgrenzung der Daten eines Wissensassistenten sowie die Rolle von Governance, Sicherheitsprüfung und laufender Betreuung beim Betrieb von Agenten in der Produktion.