Cloudflare AI Search et GLM-5.3 Flash : Fonctionnement et guide complet

Ce que Cloudflare a réellement modifié dans AI Search

Cloudflare AI Search est un service de recherche managé conçu pour vos propres contenus. Vous lui fournissez un site web, un bucket R2 (le stockage objet de Cloudflare) ou des fichiers téléversés. Il analyse ce contenu, le découpe en segments utiles, indexe ces segments et récupère les éléments pertinents dès qu'un utilisateur pose une question. Workers AI est le service de modèles hébergé qui exécute GLM-5.3 Flash au sein de cette architecture.

Ce schéma d'architecture est appelé RAG (retrieval-augmented generation ou génération augmentée par récupération). En clair : le système commence par trouver les passages sources pertinents, puis demande dans un second temps à un modèle de formuler une réponse à partir de ces extraits.

GLM-5.3 Flash intervient uniquement lors de cette seconde étape. Il n'explore pas le site web. Il ne crée pas les embeddings (ces représentations numériques servant à mesurer la similarité des textes). Il n'exécute pas la recherche par mots-clés et ne recalcule pas le score de pertinence des résultats (reranking). Il prend simplement le contexte extrait et rédige la réponse. La recherche hybride combine quant à elle la recherche sémantique vectorielle et la recherche textuelle exacte par mots-clés.

Cette séparation nette en constitue tout l'intérêt. Vous pouvez changer le modèle de génération sans devoir réindexer vos documents ni modifier le modèle d'embedding. Cloudflare vous permet de configurer le modèle une fois pour toutes dans les paramètres de l'instance ou de le surcharger sur une seule requête.

Pourquoi la fenêtre de 1,048,576 tokens compte, et pourquoi elle peut tromper

La fenêtre contextuelle annoncée pour ce nouveau modèle est huit fois supérieure aux 131,072 tokens indiqués pour GLM-4.7 Flash dans la liste des modèles pris en charge par AI Search. Le contexte correspond à l'ensemble des éléments qu'un modèle peut traiter en une seule requête : les instructions, les passages récupérés, l'historique de conversation et la réponse générée.

Ce plafond rehaussé donne à AI Search plus de latitude pour gérer de longs passages extraits et des historiques de discussion volumineux. Cela s'avère utile pour des manuels techniques, des référentiels réglementaires ou des tickets de support où la réponse dépend de détails dispersés dans plusieurs documents sources.

Cela ne signifie pas pour autant qu'AI Search injecte l'intégralité de votre base de connaissances dans chaque prompt. La phase de récupération continue d'extraire un nombre délimité de segments. Le binding Workers renvoie 10 résultats par défaut et autorise une plage de 1 à 50. Une fenêtre d'un million de tokens ne compensera jamais une indexation médiocre, des filtres mal configurés ou un seuil de pertinence qui écarterait le passage clé.

Une autre nuance technique mérite d'être soulignée. Le modèle direct Workers AI prend en charge le raisonnement, le function calling et la vision. Dans AI Search, cette mise à jour l'intègre spécifiquement pour la génération de texte. Les images de vos documents sources sont converties en Markdown dès l'étape d'indexation, avant la génération de la réponse ; cette nouveauté ne transforme donc pas le chat d'AI Search en endpoint d'analyse d'images brutes.

Qui peut utiliser cette configuration dès demain ?

Un fondateur de SaaS solo avec un support client saturé

Indexez votre documentation publique, sélectionnez GLM-5.3 Flash pour la génération et intégrez le chat obtenu derrière votre bouton d'aide. L'intérêt ne réside pas dans un chatbot générique, mais dans un circuit entièrement managé reliant la question de l'utilisateur à un extrait documentaire sourcé, puis à une réponse claire.

Vous pouvez tester ce pipeline directement dans le tableau de bord avant d'écrire la moindre ligne de code applicatif.

Une agence gérant les bases de connaissances de plusieurs clients

Isolez le contenu de chaque client dans sa propre instance AI Search, puis standardisez la couche de génération sur GLM-5.3 Flash là où les tests de validation du client sont concluants. L'avantage est opérationnel : votre équipe conserve une infrastructure unique d'indexation et de récupération, tout en laissant à chaque client ses propres contenus, prompts et plannings de déploiement.

Ne regroupez pas les données de clients distincts simplement pour simplifier la sélection du modèle. Celui-ci se configure au niveau de chaque instance, et Cloudflare prend également en charge les namespaces si vous devez piloter plusieurs instances depuis un même binding.

Une équipe d'exploitation consultant des runbooks internes

Connectez vos runbooks stockés sur R2, activez la recherche hybride pour intercepter à la fois les codes d'erreur exacts et les procédures sémantiquement équivalentes, et laissez GLM-5.3 Flash synthétiser les étapes trouvées en une réponse lisible. Le gain réside dans un accès plus rapide à la bonne manipulation, tout en gardant les segments sources sous les yeux pour vérification.

Dans le workflow de gestion d'incident, affichez toujours ces extraits sources à côté de la réponse. Le paragraphe généré n'est qu'une aide à la lecture, pas l'autorité finale habilitée à modifier un système en production.

Un platform engineer testant un modèle sans migrer toute la stack

Exploitez le paramètre model au niveau de chaque requête pour router une fraction définie du trafic vers GLM-5.3 Flash. Mesurez les tokens d'entrée, les tokens de sortie, la pertinence des segments, le taux d'acceptation des réponses et la latence. Maintenez le modèle habituel de l'instance pour le reste des requêtes.

Cette approche garantit une comparaison rigoureuse, car l'index, les paramètres de recherche et le corpus documentaire restent rigoureusement identiques. Seul le modèle de rédaction varie.

Si votre agent requiert une recherche web en temps réel plutôt qu'une interrogation sur vos documents déjà indexés, il s'agit d'un autre cas d'usage. Notre guide des API de recherche IA détaille les solutions spécialisées pour ce besoin.

Exemple d'un Worker prêt à l'emploi avec GLM-5.3 Flash

Le guide Workers de Cloudflare démarre sur un projet TypeScript minimal :

npm create cloudflare@latest -- ai-search-tutorial
cd ai-search-tutorial

Ajoutez une liaison de namespace dans wrangler.jsonc. Un binding est une connexion déclarative permettant à votre Worker d'appeler une autre ressource Cloudflare. L'option remote: true est indispensable, car AI Search ne tourne pas dans votre processus local. Wrangler relaie ainsi les requêtes vers le service déployé pendant le développement en local.

{
  "$schema": "./node_modules/wrangler/config-schema.json",
  "ai_search_namespaces": [
    {
      "binding": "AI_SEARCH",
      "namespace": "default",
      "remote": true
    }
  ]
}

Remplacez ensuite le contenu de src/index.ts par cet exemple complet. Appelez /setup une première fois pour instancier le service et indexer un document d'exemple. Chaque requête suivante effectuera une recherche sur le contenu pertinent et sollicitera GLM-5.3 Flash pour formuler la réponse.

export interface Env {
	AI_SEARCH: AiSearchNamespace;
}

export default {
	async fetch(request, env): Promise<Response> {
		const url = new URL(request.url);

		if (url.pathname === "/setup") {
			const instance = await env.AI_SEARCH.create({ id: "my-instance" });
			const item = await instance.items.uploadAndPoll(
				"getting-started.md",
				"AI Search indexes uploaded content for retrieval.",
			);
			return Response.json({ created: "my-instance", status: item.status });
		}

		const query = url.searchParams.get("q") ?? "What does AI Search do?";

		const response = await env.AI_SEARCH.get("my-instance").chatCompletions({
			messages: [
				{
					role: "system",
					content: "Answer only from the indexed content. If the answer is missing, say so.",
				},
				{ role: "user", content: query },
			],
			model: "@cf/zai-org/glm-5.3-flash",
			ai_search_options: {
				retrieval: { max_num_results: 5 },
			},
		});

		return Response.json(response);
	},
} satisfies ExportedHandler<Env>;

Lancez le serveur en local avec npx wrangler dev. Une fois vos tests locaux validés, utilisez npx wrangler login puis npx wrangler deploy.

L'utilisation du binding évite à votre code Worker de manipuler un token d'API AI Search. En revanche, si vous interagissez directement avec l'API REST, le token devra impérativement disposer des permissions AI Search:Edit et AI Search:Run.

L'erreur classique consiste à chercher un défaut dans le modèle alors que l'information n'a jamais franchi l'étape de récupération. Inspectez systématiquement response.chunks avant de retoucher votre prompt, d'injecter du contexte superflu ou de remettre GLM en cause. Une réponse fiable ne peut pas s'appuyer sur un passage que le modèle n'a jamais reçu.

Calcul honnête des coûts et passage en revue des limites

AI Search est gratuit pendant la phase de bêta ouverte, dans le cadre des quotas de votre forfait Workers. L'utilisation de Workers AI reste toutefois facturée séparément, et AI Gateway peut ajouter ses propres coûts si vous l'activez. Cloudflare s'engage à émettre un préavis d'au moins 30 jours avant le début de la facturation d'AI Search.

GLM-5.3 Flash est facturé $0.15 par million de tokens en entrée et $0.50 par million de tokens en sortie. Une requête standard comprenant 5,000 tokens d'entrée non mis en cache et 500 tokens de sortie revient à $0.001 :

0.005 × $0.15 + 0.0005 × $0.50 = $0.001

Pour 20,000 requêtes présentant exactement ce profil, la génération sur Workers AI vous coûtera $20. Il s'agit d'un cas d'école, pas d'une estimation contractuelle. Vos tokens d'entrée englobent le prompt système, l'historique et les extraits récupérés : une récupération trop verbeuse fera grimper la facture bien plus vite que ne le suggèrent les prix d'appel attractifs.

L'offre Workers Free autorise 20,000 requêtes AI Search par mois, 100 instances, 100,000 fichiers par instance et l'indexation de 500 pages web par jour via crawler. La taille maximale d'un fichier est fixée à 4 MB. Le forfait Workers Paid porte le plafond à 5,000 instances, lève les restrictions mensuelles de requêtes et de crawl quotidien, et autorise 1 million de fichiers par instance (ou 500,000 fichiers si la recherche hybride est active). La limite de 4 MB par fichier reste en vigueur.

La documentation de Cloudflare ne publie pas de mesures de latence ni de benchmarks de qualité propres à AI Search pour ce modèle. La fiche technique détaille son architecture et ses capacités intrinsèques, mais cela ne préjuge en rien de son comportement sur vos documents métier. Testez une série de questions aux réponses vérifiées avant d'ouvrir les vannes en production, en particulier pour les documents légaux, financiers, médicaux ou les procédures critiques d'incident.

Que faire dès maintenant ?

Prenez des mesures cette semaine si vous exploitez déjà AI Search Chat Completions, souhaitez un modèle de génération hébergé sur l'infrastructure Cloudflare et disposez d'un jeu de tests de référence. Figez GLM-5.3 Flash sur une instance hors production ou surchargez-le par requête, puis confrontez la pertinence des segments, les réponses acceptées, la consommation de tokens et la latence par rapport à votre modèle actuel.

Patientez si la configuration Smart Default satisfait déjà vos exigences de qualité et de coût. La disponibilité d'une option n'impose aucune obligation de migration. Temporisez également si votre corpus documentaire présente des soucis d'indexation : remplacer le modèle de rédaction finale ne corrigera jamais des documents sources manquants ou mal segmentés.

Vous n'êtes pas concerné si vous interrogez uniquement l'endpoint Search brut pour générer vos réponses via votre propre couche d'inférence. Vous n'êtes pas concerné non plus si vous n'utilisez pas AI Search. Bien que GLM-5.3 Flash soit accessible directement dans Workers AI, la nouveauté réside ici dans son intégration clé en main au sein de l'étape de génération d'AI Search.

Pour recevoir nos analyses techniques approfondies dès que l'écosystème évolue, rejoignez la newsletter.