Retrieval-Augmented Generation (RAG) ermöglicht es einem KI-Assistenten, Fragen anhand Ihrer eigenen Dokumente zu beantworten: Richtlinien, Verfahren, Produktinformationen, Verträge oder Support-Historie. Das ist eine der praktischsten Anwendungen von KI im Unternehmen. Es ist aber auch einer der einfachsten Wege, Informationen den falschen Personen zugänglich zu machen, denn ein Assistent, der alles durchsuchen kann, fasst bereitwillig alles zusammen. Datengrenzen, die vor Beginn der Indexierung festgelegt werden, machen einen RAG-Assistenten nützlich und sicher. Dieser Leitfaden erklärt, wie Sie sie festlegen.
Was es ist
Ein RAG-System hat drei Hauptphasen. Bei der Aufnahme werden Dokumente aus freigegebenen Quellen gesammelt, in Abschnitte (Chunks) zerlegt und in einem Suchindex gespeichert, oft einer Vektordatenbank. Beim Abruf werden die Abschnitte gefunden, die für die Frage eines Nutzers am relevantesten sind. Bei der Generierung werden diese Abschnitte an ein Sprachmodell übergeben, das eine Antwort verfasst und dabei idealerweise seine Quellen nennt. Datengrenzen gelten in jeder Phase. Bei der Aufnahme entscheiden Sie, welche Quellen und Dokumenttypen zugelassen und welche ausgeschlossen sind. Beim Abruf muss das System dieselben Berechtigungen respektieren, die Nutzer in den Ursprungssystemen haben; kann ein Nutzer ein Dokument auf dem Dateiserver nicht öffnen, sollte der Assistent es für ihn nicht abrufen. Bei der Generierung entscheiden Sie, was das Modell mit abgerufenen Inhalten tun darf und was es ablehnen sollte. All das wird von Aufbewahrungsregeln für Indizes, Prompts und Protokolle sowie von den Richtlinien externer Modellanbieter zum Umgang mit übermittelten Daten umrahmt.
Für wen es gedacht ist
Dieser Leitfaden richtet sich an:
- Organisationen, die einen internen Assistenten für Mitarbeiterwissen, HR, IT oder Betrieb planen
- Teams, die einen kundenorientierten Assistenten auf Basis von Produkt- oder Support-Inhalten entwickeln
- Datenschutz- und Sicherheitsverantwortliche, die ein geplantes RAG-Projekt prüfen
- Führungskräfte, die entscheiden, welche Inhalte von KI durchsuchbar sein sollen und welche nicht
Was es zu klären hilft
Das Festlegen von Grenzen hilft zu klären:
- welche Wissensquellen freigegeben, verantwortet und aktuell genug sind, um ihnen zu vertrauen
- ob der Abruf die Berechtigungen jedes einzelnen Nutzers berücksichtigt
- wo personenbezogene, vertrauliche oder regulierte Daten in den Index gelangen könnten
- wie lange indexierte Daten, Prompts und Antworten aufbewahrt werden und wo
Was ist enthalten
- Infrage kommende Quellen auflisten und jeder eine verantwortliche Person zuweisen, die die Aufnahme freigibt
- Standardmäßig ausschließen: HR-Fallakten, Rechtsangelegenheiten, Gehaltsabrechnung, Gesundheitsdaten, Zugangsdaten und Vorstandsunterlagen, sofern kein konkreter, freigegebener Bedarf besteht
- Veraltete Dokumente entfernen oder archivieren, damit der Assistent keine überholten Richtlinien zitiert
- Dokumentberechtigungen in den Index übernehmen und den Abruf nach den Zugriffsrechten des aktuellen Nutzers filtern
- Mit Nutzern in verschiedenen Rollen testen, um zu bestätigen, dass sie nur sehen, was sie sehen sollen
- Personenbezogene Daten und Secrets bei der Aufnahme erkennen und behandeln
- Verlangen, dass Antworten Quellen nennen, und Nutzern ermöglichen, das Originaldokument zu öffnen
- Den Assistenten anweisen zu sagen, wenn er etwas nicht weiß, statt zu raten
- Aufbewahrung für Index, Prompts und Protokolle festlegen sowie, wie Löschungen in Quellsystemen übernommen werden
- Die Bedingungen des Modellanbieters zu Datenverarbeitung und Aufbewahrung prüfen
- Feedback zu falschen oder nicht hilfreichen Antworten sammeln und jemanden mit der Bearbeitung beauftragen
Was nicht enthalten ist
- Die Behauptung, dass die Antworten des Assistenten stets korrekt sind
- Rechtsberatung zu Datenschutzpflichten
- Indexierung von Quellen, die von ihren Verantwortlichen nicht freigegeben wurden
- Zertifizierung oder behördliche Zulassung
Wann man es wählt
Legen Sie Grenzen ganz am Anfang fest, bei der Auswahl der Quellen, nicht erst nach der ersten Demo. Berechtigungsfilter nachträglich hinzuzufügen ist schwieriger, als sie von vornherein einzuplanen, und eine einzige fehlerhafte Antwort, die vertrauliche Informationen preisgibt, kann das Vertrauen in das gesamte Projekt beschädigen. Überprüfen Sie die Grenzen, wenn neue Quellen, Nutzergruppen oder Modellanbieter hinzukommen.
Unser Ansatz
Beginnen Sie klein und gut gesteuert. Wählen Sie eine begrenzte Auswahl freigegebener, aktueller Quellen mit klarer Verantwortung und Zielgruppe, etwa eine IT-Hilfebibliothek oder eine Produktwissensdatenbank. Bauen Sie den berechtigungsbewussten Abruf von Anfang an ein, auch wenn die erste Zielgruppe breit ist. Testen Sie mit realistischen Fragen aus verschiedenen Rollen und nehmen Sie Fragen auf, die der Assistent ablehnen sollte. Unser Service Internal Knowledge Assistant richtet einen Assistenten rund um freigegebene Wissensquellen, Zugriffsgrenzen, verlässlichen Abruf und kontrollierte Nutzung durch Mitarbeitende ein. AI Governance, Policy & Data Safety kann die Nutzungsregeln und Datengrenzen dafür festlegen, und ein LLM & AI Agent Security Review kann Risiken beim Abruf und Datenexposition in einem bestehenden Assistenten untersuchen. Messen Sie den Erfolg an vertrauenswürdigen, mit Quellen belegten Antworten auf häufige Fragen, nicht an der Zahl indexierter Dokumente.
Häufig gestellte Fragen
Verwandte Artikel
Erste Schritte
Sie planen einen Wissensassistenten auf Basis eigener Inhalte?
Nennen Sie uns die vorgesehenen Quellen, die geplanten Nutzer und etwaige Bedenken zu sensiblen Daten. Wir schlagen einen abgegrenzten ersten Schritt vor.
Schriftlichen Scope anfordern