Cloudflare AI Search mit GLM-5.3 Flash: Funktionsweise und Praxiseinsatz

Was Cloudflare konkret an Cloudflare AI Search geändert hat

Cloudflare AI Search ist ein verwalteter Suchdienst für Ihre eigenen Inhalte. Sie verknüpfen eine Website, ein R2-Bucket (den Objektspeicher von Cloudflare) oder hochgeladene Dateien. Der Dienst parst diese Inhalte, teilt sie in sinnvolle Abschnitte (Chunks), indiziert sie und ruft die relevanten Textstellen ab, sobald Nutzer eine Frage stellen. Workers AI stellt dabei den gehosteten Modelldienst bereit, der GLM-5.3 Flash innerhalb dieses Workflows ausführt.

Dieses Architekturmuster heißt Retrieval-Augmented Generation (RAG). Einfach ausgedrückt: Das System sucht zuerst nach Quellpassagen und beauftragt erst im zweiten Schritt ein Modell damit, basierend auf diesen Textstellen eine fundierte Antwort zu verfassen.

GLM-5.3 Flash greift genau in dieser zweiten Phase. Das Modell crawlt weder Ihre Website noch generiert es Embeddings (die numerischen Vektoren zur semantischen Ähnlichkeitssuche). Es führt keine Keyword-Suche durch und übernimmt auch kein Reranking zur Neubewertung von Treffern. Es nimmt schlicht den ermittelten Kontext auf und formuliert die Antwort. Die hybride Suche kombiniert dabei semantischen Vektorabgleich mit exakter Keyword-Suche.

Diese strikte Trennung ist der Kern des Designs. Sie können das Generierungsmodell wechseln, ohne den Index neu aufzubauen oder das Embedding-Modell zu verändern. Cloudflare erlaubt es, das Modell global in den Einstellungen einer Instanz festzulegen oder für einzelne Requests flexibel zu überschreiben.

Warum das Kontextfenster von 1,048,576 Token wichtig ist – und warum es täuschen kann

Das Kontextfenster des neuen Modells ist achtmal so groß wie das mit 131,072 Token angegebene Fenster von GLM-4.7 Flash in der Liste unterstützter Modelle von AI Search. Der Kontext umfasst das gesamte Material, das ein Modell in einem Request verarbeiten kann: Anweisungen, abgerufene Quellpassagen, den bisherigen Gesprächsverlauf und die erzeugte Antwort.

Diese vergrößerte Obergrenze bietet AI Search deutlich mehr Spielraum für umfangreiche Quellabschnitte und lange Dialoge. Das ist wertvoll für technische Handbücher, Compliance-Richtlinien oder komplexe Support-Threads, in denen sich die Lösung über mehrere Dokumente verteilt.

Es bedeutet jedoch nicht, dass AI Search nun bei jedem Prompt Ihre gesamte Wissensdatenbank übergibt. Die Retrieval-Stufe wählt nach wie vor eine begrenzte Menge an Chunks aus. Das Workers-Binding liefert standardmäßig 10 Ergebnisse zurück und erlaubt Werte zwischen 1 und 50. Ein Kontextfenster von einer Million Token kompensiert weder schlechte Indexierung noch falsche Filter oder einen zu restriktiven Schwellenwert, der wichtige Passagen vorab verwirft.

Ein weiteres Detail ist wesentlich: Das direkte Workers AI-Modell unterstützt Reasoning, Function Calling und Bildanalyse (Vision). In AI Search wurde es jedoch spezifisch als Modell für die Textgenerierung eingebunden. Bilder in Ihren Quelldaten werden während der Indexierung vor der Generierungsphase in Markdown umgewandelt; das Update macht AI Search also nicht zu einem Endpunkt für Bildanalysen.

Wer diese Funktion sofort nutzen kann

Solo-SaaS-Gründer mit wachsendem Support-Rückstau

Indizieren Sie Ihre öffentliche Produktdokumentation, wählen Sie GLM-5.3 Flash für die Generierung und hinterlegen Sie den resultierenden Chat hinter Ihrem Hilfe-Button. Der Mehrwert ist kein generischer Chatbot, sondern eine deterministische, verwaltete Pipeline von der Kundenfrage über die Quellpassage bis zur Antwort.

Sie können diese Logik direkt im Dashboard testen, bevor Sie Code schreiben.

Agenturen mit Wissensdatenbanken für Kunden

Trennen Sie die Inhalte jedes Kunden in einer separaten AI Search-Instanz und standardisieren Sie die Generierungsschicht auf GLM-5.3 Flash, sobald das Modell die internen Tests besteht. Der praktische Vorteil ist operativer Natur: Ihr Team pflegt ein einheitliches Indexierungs- und Retrieval-System, während Kunden eigene Inhalte, Prompts und Freigabezeitpunkte behalten.

Mischen Sie Kundendaten nicht, nur um die Modellverwaltung zu vereinheitlichen. Die Modellauswahl lässt sich direkt pro Instanz konfigurieren. Zudem unterstützt Cloudflare Namespaces, um mehrere Instanzen über ein einziges Binding zu verwalten.

Operations-Teams für interne Runbooks

Verbinden Sie Ihre in R2 hinterlegten Betriebshandbücher, nutzen Sie hybrides Retrieval für exakte Fehlercodes und semantisch ähnliche Abläufe, und lassen Sie GLM-5.3 Flash die Schritte lesbar zusammenfassen. Das verkürzt die Reaktionszeit im Incident-Fall, während die Quelldokumente transparent nachvollziehbar bleiben.

Zeigen Sie bei sicherheitskritischen Abläufen stets die zugrunde liegenden Textpassagen neben der generierten Antwort an. Ein generierter Text dient der Orientierung, stellt aber keine ungeprüfte Handlungsanweisung für Produktionssysteme dar.

Platform Engineers für risikofreie Modellvergleiche

Nutzen Sie das model-Feld auf Request-Ebene, um einen definierten Prozentsatz des Datenverkehrs an GLM-5.3 Flash weiterzuleiten. Erfassen Sie Input-Token, Output-Token, abgerufene Chunks, Akzeptanzraten und Latenzen. Der restliche Produktivverkehr läuft stabil auf dem Instanzstandard weiter.

Das erlaubt faire A/B-Tests, da Indexierung, Retrieval-Parameter und Datenbasis identisch bleiben – lediglich das Antwortmodell wird variiert.

Benötigt Ihr KI-Agent Zugriff auf das öffentliche Web statt auf vorab indizierte Daten, erfordert dies ein anderes Toolset. Unser Leitfaden zu KI-Such-APIs stellt spezialisierte Anbieter für diesen Anwendungsfall vor.

Praxisbeispiel: Ein lauffähiger Worker mit GLM-5.3 Flash

Die offizielle Workers-Anleitung von Cloudflare startet mit einem TypeScript-Worker:

npm create cloudflare@latest -- ai-search-tutorial
cd ai-search-tutorial

Fügen Sie ein Namespace-Binding in der Datei wrangler.jsonc hinzu. Ein Binding verknüpft Ihren Worker mit Cloudflare-Ressourcen. Der Parameter remote: true ist zwingend, da AI Search nicht lokal ausgeführt wird. Wrangler leitet Anfragen während der Entwicklung an den Remote-Dienst weiter.

{
  "$schema": "./node_modules/wrangler/config-schema.json",
  "ai_search_namespaces": [
    {
      "binding": "AI_SEARCH",
      "namespace": "default",
      "remote": true
    }
  ]
}

Ersetzen Sie anschließend den Inhalt von src/index.ts durch folgenden Code. Rufen Sie den Endpunkt /setup einmalig auf, um die Instanz zu erstellen und ein Beispieldokument zu indizieren. Jeder reguläre Request sucht nach passenden Inhalten und lässt GLM-5.3 Flash die Antwort formulieren.

export interface Env {
	AI_SEARCH: AiSearchNamespace;
}

export default {
	async fetch(request, env): Promise<Response> {
		const url = new URL(request.url);

		if (url.pathname === "/setup") {
			const instance = await env.AI_SEARCH.create({ id: "my-instance" });
			const item = await instance.items.uploadAndPoll(
				"getting-started.md",
				"AI Search indexes uploaded content for retrieval.",
			);
			return Response.json({ created: "my-instance", status: item.status });
		}

		const query = url.searchParams.get("q") ?? "What does AI Search do?";

		const response = await env.AI_SEARCH.get("my-instance").chatCompletions({
			messages: [
				{
					role: "system",
					content: "Answer only from the indexed content. If the answer is missing, say so.",
				},
				{ role: "user", content: query },
			],
			model: "@cf/zai-org/glm-5.3-flash",
			ai_search_options: {
				retrieval: { max_num_results: 5 },
			},
		});

		return Response.json(response);
	},
} satisfies ExportedHandler<Env>;

Testen Sie den Code lokal mittels npx wrangler dev. Nach erfolgreicher Prüfung nutzen Sie npx wrangler login und npx wrangler deploy.

Dank des Bindings benötigt Ihr Worker-Code kein separates API-Token für AI Search. Falls Sie stattdessen die REST-API direkt ansprechen, muss das Token zwingend die Berechtigungen AI Search:Edit und AI Search:Run enthalten.

Der häufigste Fehler beim Debuggen: Das Modell wird optimiert, obwohl die Quelle im Retrieval-Schritt verloren ging. Prüfen Sie immer zuerst response.chunks, bevor Sie System-Prompts umschreiben, mehr Kontext übergeben oder dem Modell Ungenauigkeiten zuschreiben. Ein Modell kann nur Informationen wiedergeben, die es tatsächlich als Input erhalten hat.

Kosten und Limits transparent durchgerechnet

AI Search selbst ist während der Open Beta kostenlos, sofern die Grenzwerte des Workers-Tarifs eingehalten werden. Die Nutzung von Workers AI wird separat abgerechnet; auch AI Gateway verursacht bei Aktivierung eigene Kosten. Cloudflare kündigt an, mindestens 30 Tage vor Beginn einer kostenpflichtigen Phase für AI Search zu informieren.

GLM-5.3 Flash kostet $0.15 pro Million Input-Token und $0.50 pro Million Output-Token. Eine Anfrage mit 5,000 ungecachten Input-Token und 500 Output-Token berechnet sich wie folgt:

0.005 × $0.15 + 0.0005 × $0.50 = $0.001

Bei 20,000 identisch aufgebauten Anfragen belaufen sich die Kosten für die Workers AI-Generierung auf $20. Dies ist ein Rechenbeispiel, keine Prognose. Da Ihr Input den System-Prompt, den Chatverlauf und alle abgerufenen Chunks umfasst, treibt ein zu weit gefasstes Retrieval die Gesamtrechnung schneller nach oben, als die niedrigen Basistarife vermuten lassen.

Der kostenfreie Workers Free-Tarif erlaubt 20,000 AI Search-Anfragen pro Monat, 100 Instanzen, 100,000 Dateien je Instanz sowie 500 gecrawlte Webseiten pro Tag. Die maximale Dateigröße liegt bei 4 MB. Der Workers Paid-Tarif erweitert das Limit auf 5,000 Instanzen, hebt das monatliche Abfragelimit sowie das tägliche Crawl-Limit auf und unterstützt 1 Million Dateien pro Instanz (500,000 bei aktivierter Hybridsuche). Die Grenze von 4 MB pro Datei bleibt bestehen.

Cloudflare nennt für dieses Modell keine isolierten Latenz- oder Qualitätswerte innerhalb von AI Search. Die Modelldokumentation beschreibt zwar Architektur und Benchmarks, spiegelt aber nicht das Verhalten auf Ihren eigenen Daten wider. Testen Sie standardisierte Testfragen mit bekannten Zielantworten vor dem Produktivgang – insbesondere bei Compliance-, Finanz-, Medizin- oder Supportdaten.

Nächste Schritte für Entwickler und Teams

Reagieren Sie zeitnah, wenn Sie AI Search Chat Completions einsetzen, ein von Cloudflare gehostetes Generierungsmodell bevorzugen und reproduzierbare Abfragen vorliegen haben. Fixieren Sie GLM-5.3 Flash auf einer Testinstanz oder überschreiben Sie das Modell pro Request. Vergleichen Sie gefundene Chunks, Akzeptanzraten, Token-Verbrauch und Latenz mit Ihrem aktuellen Setup.

Warten Sie ab, wenn Smart Default Ihre Qualitäts- und Kostenanforderungen bereits voll erfüllt. Ein neues Modell ist kein zwingender Migrationsgrund. Warten Sie ebenfalls ab, wenn Ihre Datenbasis noch Indexierungsprobleme aufweist – ein anderes Generierungsmodell repariert weder fehlerhafte Chunks noch fehlende Inhalte.

Arbeiten Sie unverändert weiter, wenn Sie lediglich den Search-Endpunkt ansprechen und die Textgenerierung in einer eigenen Infrastruktur durchführen. Dasselbe gilt, wenn Sie AI Search bisher nicht nutzen: GLM-5.3 Flash lässt sich zwar isoliert über Workers AI ansprechen, der Kern dieser Neuerung liegt jedoch in der nahtlosen Integration in die RAG-Pipeline von AI Search.

Wenn Sie tiefergehende Analysen für Entwickler und Betreiber suchen, abonnieren Sie den Newsletter.