RAG steht für Retrieval-Augmented Generation: Vor der Antwort werden passende Passagen aus einer Wissensbasis abgerufen und dem Sprachmodell als Kontext mitgegeben. So antwortet die KI aus Ihren Inhalten statt aus ihrem Trainingswissen.

CAG steht für Cache-Augmented Generation: Ein komplettes, kompaktes Wissensbündel liegt vorgewärmt im Prompt-Cache des Sprachmodells und wird jeder Frage als Ganzes mitgegeben – besonders schnell und nach dem Aufwärmen sehr günstig.

Brauche ich für RAG eine Vektordatenbank?

Ja, für den semantischen Abruf werden die Inhalte als Vektoren gespeichert. Das muss aber kein neues System sein: dAi Pro nutzt PostgreSQL mit der offenen Erweiterung pgvector – auf Ihrer eigenen Infrastruktur.

Halluziniert ein RAG-Chatbot?

Deutlich seltener als ein Modell ohne Wissensbasis, aber ein Restrisiko bleibt. Strenges Grounding (nur aus den Quellen antworten), Quellenangaben und Protokolle machen das Risiko klein und kontrollierbar – ehrliche Anbieter versprechen keine Null.

Sind neue Inhalte sofort im Chatbot?

Bei RAG: ja, direkt nach der Indexierung – auf dieser Website dauert das nach einer Seitenänderung typischerweise wenige Minuten. CAG-Bündel werden im Hintergrund automatisch neu aufgebaut.

Was ist besser: RAG oder Fine-Tuning?

Für Faktenwissen fast immer RAG: aktuell, belegbar, löschbar und günstiger im Betrieb. Fine-Tuning lohnt für Stil und Verhaltensmuster – Fakten gehören in die Wissensbasis, nicht ins Modellgewicht.

Wie groß darf die Wissensbasis sein?

Bei RAG praktisch unbegrenzt – pro Frage reisen ohnehin nur die relevanten Ausschnitte zum Modell. CAG ist durch das Kontextfenster begrenzt und eignet sich für kompakte, thematisch geschlossene Bestände; dAi Pro kombiniert deshalb beide Verfahren.

Welche KI-Modelle eignen sich für RAG?

Grundsätzlich alle aktuellen Chat-Modelle. Wichtig sind ein solides Embedding-Modell für den Abruf und ein Chat-Modell, das Anweisungen (Grounding!) zuverlässig befolgt. dAi Pro unterstützt Mistral, OpenAI, Anthropic und Google Gemini – unser RAG-Vergleich misst sie laufend an derselben Wissensbasis.

Ist RAG DSGVO-konform machbar?

Ja, RAG ist sogar die datenschutzfreundlichste KI-Architektur: Die Wissensbasis bleibt im eigenen Haus, zum Anbieter gehen nur Frage und relevante Passagen. Mit EU-Anbietern wie Mistral und Auftragsverarbeitungsvertrag entsteht ein sauberes Gesamtbild.

Was kostet ein RAG-Chatbot im Betrieb?

Die laufenden Kosten bestehen im Wesentlichen aus KI-Aufrufen (Cent-Bruchteile bis wenige Cent pro Antwort, je nach Modell) plus Hosting der Vektordatenbank. Antwort-Cache und CAG senken die Aufrufkosten deutlich; dAi Pro weist jeden Aufruf in Euro aus. Die Tokenpreise der Anbieter vergleicht unsere RAG-Vergleich-Seite.

RAG und CAG: So antwortet KI aus Ihrem eigenen Wissen

Sprachmodelle wie Mistral Large oder GPT beeindrucken – aber über Ihr Unternehmen, Ihre Produkte und Ihre Dokumente wissen sie nichts. RAG (Retrieval-Augmented Generation) und CAG (Cache-Augmented Generation) sind die beiden Verfahren, die diese Lücke schließen: Sie geben dem Modell zur Antwortzeit genau das Wissen mit, das es braucht. Diese Seite erklärt beide Verfahren von Grund auf – und zeigt, wie unsere Plattform dAi Pro sie kombiniert.

Das Grundproblem: Sprachmodelle kennen Ihr Wissen nicht

Ein Sprachmodell lernt sein Wissen im Training – aus öffentlichen Texten, mit einem festen Redaktionsschluss. Drei Folgen:

Wissenslücken – interne Dokumente, Produktdetails und aktuelle Preise kommen im Training schlicht nicht vor.
Halluzinationen – gefragt nach Dingen, die es nicht weiß, erfindet ein Modell plausibel klingende Antworten, statt zu schweigen.
Veralten – was nach dem Trainingsstand passiert ist, existiert für das Modell nicht.

Der Ausweg ist immer derselbe: Man gibt dem Modell das relevante Wissen zur Laufzeit mit – als Kontext zur Frage. RAG und CAG unterscheiden sich nur darin, wie dieses Wissen ausgewählt und übergeben wird.

Was ist RAG (Retrieval-Augmented Generation)?

RAG heißt wörtlich „durch Abruf angereicherte Erzeugung“ und läuft in vier Schritten:

1. Frage verstehen – die Besucherfrage wird in einen Vektor übersetzt (siehe Embeddings weiter unten).
2. Abruf (Retrieval) – die Wissensbasis wird nach den Passagen durchsucht, die der Frage inhaltlich am nächsten kommen.
3. Anreicherung (Augmentation) – die besten Treffer werden dem Sprachmodell zusammen mit der Frage übergeben.
4. Erzeugung (Generation) – das Modell formuliert die Antwort ausschließlich aus dem mitgelieferten Material.

Der Charme: Die Wissensbasis kann beliebig groß sein, denn pro Frage reisen nur die relevanten Ausschnitte zum Modell. Neue Inhalte sind sofort nutzbar – ganz ohne neues Training.

Die Bausteine: Chunking, Embeddings, Vektordatenbank

Damit der Abruf funktioniert, wird die Wissensbasis vorbereitet:

Chunking – Dokumente werden in sinnvolle Abschnitte zerlegt. Gutes Chunking respektiert Überschriften, Absätze und Tabellen; schlechtes zerschneidet Sätze und zerstört Zusammenhänge. dAi Pro nimmt Überschriften als Kontext in jeden Abschnitt mit, damit auch ein einzelner Treffer verortbar bleibt.
Embeddings – jeder Abschnitt wird von einem Embedding-Modell (etwa mistral-embed) in einen Vektor aus Hunderten Zahlen übersetzt. Inhaltlich ähnliche Texte landen nahe beieinander – „Garantiezeit“ und „Gewährleistungsfrist“ sind im Vektorraum Nachbarn, obwohl sie kein Wort teilen.
Vektordatenbank – die Vektoren liegen in einer darauf spezialisierten Datenbank. dAi Pro nutzt PostgreSQL mit der offenen Erweiterung pgvector – bewährte Technik auf Ihrer eigenen Infrastruktur statt eines fremden Cloud-Index.
Ähnlichkeitssuche – zur Frage werden die nächstgelegenen Vektoren gesucht (Nearest-Neighbour-Suche) und als Kandidaten zurückgegeben.

Hybrid-Suche: Vektor und Volltext kombiniert

Reine Vektorsuche hat eine Schwäche: Exakte Begriffe – Artikelnummern, Produktnamen, Fachtermini – gehen in der Bedeutungswolke manchmal unter. Reine Volltextsuche hat die umgekehrte Schwäche: Sie findet nur, was wörtlich dasteht. Die Lösung ist die Hybrid-Suche: Beide Verfahren laufen parallel, ihre Ergebnislisten werden verschmolzen (etwa per Reciprocal Rank Fusion), sodass sowohl bedeutungsähnliche als auch wortgenaue Treffer vorn landen. dAi Pro arbeitet durchgehend hybrid – im Chat wie in der Website-Suche.

Grounding: belegbare Antworten statt Behauptungen

RAG macht Antworten überprüfbar – wenn man es konsequent umsetzt:

Strenges Grounding – das Modell wird angewiesen, ausschließlich aus den mitgelieferten Passagen zu antworten. Steht die Antwort nicht im Material, sagt der Chat das ehrlich, statt zu raten.
Quellenangaben – weil bekannt ist, welche Dokumente die Antwort speisten, kann jede Antwort ihre Quellen verlinken. Besucher springen direkt zur Ursprungsseite oder zum Dokument.
Nachvollziehbarkeit – im Protokoll lässt sich prüfen, welche Frage mit welchen Quellen beantwortet wurde.

Genau dieses Prinzip erleben Sie auf dieser Website: Der Chat unten beantwortet Fragen aus den Inhalten von dreistein.de – mit klickbaren Quellen, auch auf diese Wissensseite.

Was ist CAG (Cache-Augmented Generation)?

CAG geht den umgekehrten Weg: Statt pro Frage Passagen zu suchen, wird ein komplettes Wissensbündel vorbereitet und dem Modell als Ganzes mitgegeben – möglich geworden durch große Kontextfenster (128.000 Token und mehr) und durch Prompt-Caching: Der Anbieter merkt sich den unveränderten Wissensblock zwischen den Anfragen, sodass er nicht jedes Mal neu verarbeitet und neu bezahlt werden muss.

Vorteil Geschwindigkeit – der Abruf-Schritt entfällt komplett; die Antwort beginnt schneller.
Vorteil Überblick – das Modell sieht das ganze Bündel und kann Zusammenhänge über Dokumentgrenzen hinweg herstellen.
Grenze Größe – das Bündel muss ins Kontextfenster passen; CAG eignet sich für kompakte, thematisch geschlossene Wissensbestände.
Pflege – ändert sich das Wissen, wird das Bündel neu aufgebaut und der Cache aufgewärmt; dAi Pro erledigt das automatisch im Hintergrund.

RAG oder CAG? Der direkte Vergleich

Beide Verfahren haben ihr Terrain:

Wissensgröße – RAG skaliert auf beliebig große Bestände; CAG braucht ein Bündel, das ins Kontextfenster passt.
Antwortzeit – CAG antwortet ohne Abruf-Schritt meist schneller; RAG bezahlt den Abruf mit etwas Latenz.
Kosten – CAG lebt vom Prompt-Cache (der Wissensblock kostet nach dem Aufwärmen nur noch Bruchteile); RAG hält die Kontexte klein und damit günstig.
Fragetyp – Überblicks- und Querschnittsfragen liegen CAG; Detailfragen in großen Beständen liegen RAG.
Aktualität – RAG nutzt neue Inhalte sofort nach der Indexierung; bei CAG erneuert sich das Bündel im Hintergrund.

Die richtige Antwort ist deshalb selten „entweder–oder“, sondern „beides, automatisch gewählt“ – genau das macht dAi Pro.

Automatisches Routing: der Klassifikator entscheidet

In dAi Pro prüft ein vorgeschalteter Anfrage-Klassifikator jede Frage: Ist sie eine Detailfrage, die gezielten Abruf braucht? Eine Überblicksfrage fürs Bündel? Small Talk, der gar keine Wissensbasis braucht? Je nach Befund wird per RAG, per CAG oder direkt geantwortet – und bei Bedarf mitten im Gespräch gewechselt. Für Besucher ist das unsichtbar; sichtbar ist nur das Ergebnis: schnelle, passende, belegte Antworten. Welche Strategie geantwortet hat, hält das Protokoll fest – so bleibt das Verhalten auswertbar.

Kosten und Geschwindigkeit in der Praxis

RAG und CAG sind auch ökonomisch interessant:

Kleine Kontexte statt Riesenprompts – RAG übergibt nur relevante Passagen; das hält jeden Aufruf günstig.
Prompt-Caching – bei CAG kostet das aufgewärmte Bündel nur einen Bruchteil des Normalpreises je Anfrage.
Antwort-Cache – wiederkehrende Fragen beantwortet dAi Pro ganz ohne Modellaufruf.
Volle Transparenz – jeder Aufruf wird mit Token-Verbrauch und Kosten in Euro protokolliert.

Wie schnell die Verfahren mit verschiedenen Modellen antworten, zeigt unser RAG-Vergleich – vier Anbieter, dieselbe Wissensbasis, laufend live gemessen.

Die Wissensbasis: Einlesen, Aufbereiten, Frischhalten

RAG ist nur so gut wie seine Wissensbasis. Drei Aufgaben entscheiden:

Einlesen – Inhalte kommen aus Websites, TYPO3, PDFs, Office-Dateien und Systemen wie Confluence, SharePoint oder Datenbanken. dAi Pro bringt dafür 16 Datenquellen-Typen mit.
Aufbereiten – sauberes Auslesen entscheidet über die Antwortqualität: OCR für Scans, strukturierte Tabellen, beschriebene Abbildungen, saubere Absatzstruktur.
Frischhalten – Quellen ändern sich. Automatische Abgleiche erkennen Neues, Geändertes und Gelöschtes; ein Frische-Wächter räumt tote Inhalte ab, damit der Chat nie Veraltetes zitiert.

Mehrsprachigkeit in RAG und CAG

Mehrsprachige Websites stellen besondere Anforderungen: Jedes Dokument trägt seine Sprache, Embeddings funktionieren sprachübergreifend, und trotzdem soll ein deutscher Besucher deutsche Quellen sehen – ein englischer die englischen. dAi Pro führt die Wissensbasis deshalb je Sprache, erkennt die Sprache jeder Frage (bei kurzen Nachrichten hilft der Gesprächsverlauf) und antwortet samt Quellen in der Besuchersprache, mit definiertem Fallback, wenn eine Fassung fehlt. CAG-Bündel existieren ebenfalls je Sprache.

Grenzen und Fallstricke – ehrlich betrachtet

RAG und CAG sind der Stand der Technik – aber keine Magie:

Abruf kann danebengehen – wenn die passende Passage nicht gefunden wird, fehlt sie der Antwort. Hybrid-Suche und gutes Chunking senken das Risiko, eliminieren es nicht.
Müll rein, Müll raus – widersprüchliche oder veraltete Dokumente erzeugen widersprüchliche Antworten. Bestandspflege gehört zum Betrieb; Werkzeuge wie der Lücken-Radar von dAi Pro zeigen, wo Fragen unbeantwortet blieben.
Restrisiko Halluzination – auch mit Grounding kann ein Modell Formulierungen zuspitzen. Strenge Prompts, Quellenangaben und Protokolle machen das kontrollierbar.
Kein Rechenwerk – für Preisberechnungen oder Lagerabfragen gehört ein Werkzeugaufruf (Function Calling) an ein echtes System, nicht die Textbasis.

RAG und CAG vs. Fine-Tuning

„Können wir das Modell nicht einfach mit unseren Daten nachtrainieren?“ – die häufigste Alternative-Frage. Die kurze Antwort: Fine-Tuning eignet sich für Stil und Verhalten, nicht für Fakten. Nachtrainierte Fakten veralten sofort wieder, sind teuer zu erneuern, nicht belegbar und schwer zu löschen – Quellenangaben gibt es nicht. RAG/CAG halten Wissen und Modell getrennt: Inhalte bleiben aktuell, nachvollziehbar und DSGVO-sauber löschbar. Wo ein bestimmter Ton oder ein Antwortmuster gewünscht ist, reichen meist Assistenten-Profile und Beispielantworten – so macht es dAi Pro.

Datenschutz: warum RAG die DSGVO-freundliche Architektur ist

RAG ist datensparsam by Design: Die Wissensbasis – Originale, Abschnitte, Vektoren – bleibt vollständig in Ihrer Infrastruktur. Zum KI-Anbieter reisen pro Frage nur die Besucherfrage und die wenigen relevanten Passagen; niemals der Gesamtbestand. Mit einem europäischen Anbieter wie Mistral AI (EU-Verarbeitung, Auftragsverarbeitungsvertrag nach Art. 28 DSGVO) entsteht so eine Architektur ohne US-Drittlandtransfer. Details zur Gesamtarchitektur: DSGVO-konforme KI.

RAG und CAG in dAi Pro

Unsere Plattform dAi Pro setzt alles Beschriebene in einem Produkt um: Hybrid-Suche über pgvector, strenges Grounding mit Quellenangaben, CAG-Bündel mit automatischem Aufwärmen, Klassifikator-Routing, Antwort-Cache, 16 Datenquellen-Typen, Frische-Wächter, Mehrsprachigkeit und Kostenprotokoll in Euro – als TYPO3-Erweiterung oder eigenständige Web-Anwendung, mit frei wählbaren KI-Anbietern. Den kompletten Umfang zeigt die Funktionsliste; den kostenlosen Einstieg macht dAi mit RAG und CAG für TYPO3-Seiten.

Häufige Fragen zu RAG und CAG

: RAG steht für Retrieval-Augmented Generation: Vor der Antwort werden passende Passagen aus einer Wissensbasis abgerufen und dem Sprachmodell als Kontext mitgegeben. So antwortet die KI aus Ihren Inhalten statt aus ihrem Trainingswissen.
: CAG steht für Cache-Augmented Generation: Ein komplettes, kompaktes Wissensbündel liegt vorgewärmt im Prompt-Cache des Sprachmodells und wird jeder Frage als Ganzes mitgegeben – besonders schnell und nach dem Aufwärmen sehr günstig.
: Ja, für den semantischen Abruf werden die Inhalte als Vektoren gespeichert. Das muss aber kein neues System sein: dAi Pro nutzt PostgreSQL mit der offenen Erweiterung pgvector – auf Ihrer eigenen Infrastruktur.
: Deutlich seltener als ein Modell ohne Wissensbasis, aber ein Restrisiko bleibt. Strenges Grounding (nur aus den Quellen antworten), Quellenangaben und Protokolle machen das Risiko klein und kontrollierbar – ehrliche Anbieter versprechen keine Null.
: Bei RAG: ja, direkt nach der Indexierung – auf dieser Website dauert das nach einer Seitenänderung typischerweise wenige Minuten. CAG-Bündel werden im Hintergrund automatisch neu aufgebaut.
: Für Faktenwissen fast immer RAG: aktuell, belegbar, löschbar und günstiger im Betrieb. Fine-Tuning lohnt für Stil und Verhaltensmuster – Fakten gehören in die Wissensbasis, nicht ins Modellgewicht.
: Bei RAG praktisch unbegrenzt – pro Frage reisen ohnehin nur die relevanten Ausschnitte zum Modell. CAG ist durch das Kontextfenster begrenzt und eignet sich für kompakte, thematisch geschlossene Bestände; dAi Pro kombiniert deshalb beide Verfahren.
: Grundsätzlich alle aktuellen Chat-Modelle. Wichtig sind ein solides Embedding-Modell für den Abruf und ein Chat-Modell, das Anweisungen (Grounding!) zuverlässig befolgt. dAi Pro unterstützt Mistral, OpenAI, Anthropic und Google Gemini – unser RAG-Vergleich misst sie laufend an derselben Wissensbasis.
: Ja, RAG ist sogar die datenschutzfreundlichste KI-Architektur: Die Wissensbasis bleibt im eigenen Haus, zum Anbieter gehen nur Frage und relevante Passagen. Mit EU-Anbietern wie Mistral und Auftragsverarbeitungsvertrag entsteht ein sauberes Gesamtbild.
: Die laufenden Kosten bestehen im Wesentlichen aus KI-Aufrufen (Cent-Bruchteile bis wenige Cent pro Antwort, je nach Modell) plus Hosting der Vektordatenbank. Antwort-Cache und CAG senken die Aufrufkosten deutlich; dAi Pro weist jeden Aufruf in Euro aus. Die Tokenpreise der Anbieter vergleicht unsere RAG-Vergleich-Seite.