Cloudflare AI Search com GLM-5.3 Flash Explicado

O que a Cloudflare realmente mudou no Cloudflare AI Search

O Cloudflare AI Search é um serviço de busca gerenciado para o seu próprio conteúdo. Você aponta para um site, um bucket R2 (o armazenamento de objetos da Cloudflare) ou arquivos enviados. Ele processa esse conteúdo, divide-o em pedaços úteis, indexa essas partes e recupera as mais relevantes quando alguém faz uma pergunta. O Workers AI é o serviço de modelos hospedados que executa o GLM-5.3 Flash dentro dessa estrutura.

Esse padrão é chamado de geração aumentada por recuperação, ou RAG (Retrieval-Augmented Generation). Em termos simples: o sistema primeiro localiza os trechos de origem e, em seguida, pede para um modelo responder com base nesses trechos.

O GLM-5.3 Flash entra nessa segunda etapa. Ele não faz o crawling do site. Ele não cria os embeddings, que são representações numéricas usadas para encontrar textos semelhantes. Ele não executa a busca por palavras-chave nem faz o reranking dos resultados (a reavaliação de relevância). Ele recebe o contexto recuperado e redige a resposta. A busca híbrida combina a correspondência semântica vetorial com a busca exata por palavras-chave.

Essa separação é o ponto central. Você pode trocar o modelo de geração sem precisar reconstruir o índice ou alterar o modelo de embeddings. A Cloudflare também permite definir o modelo uma vez nas Configurações da instância ou sobrescrevê-lo em uma requisição individual.

Por que a janela de 1,048,576 tokens importa e por que ela pode enganar você

A janela de contexto declarada do novo modelo é oito vezes maior que a de 131,072 tokens informada para o GLM-4.7 Flash na lista de modelos suportados do AI Search. Contexto é o volume de dados que um modelo consegue processar em uma única requisição, incluindo instruções, trechos recuperados, histórico de conversa e a própria resposta gerada.

Esse limite maior oferece mais espaço para o AI Search trabalhar com trechos longos recuperados e conversas mais extensas. Isso é útil para manuais técnicos, bibliotecas de políticas corporativas ou tickets de suporte em que a resposta depende de detalhes espalhados por várias fontes.

Isso não significa que o AI Search passa a injetar toda a sua base de conhecimento em cada prompt. A recuperação continua selecionando um conjunto delimitado de blocos. O binding do Workers retorna 10 resultados por padrão e aceita entre 1 e 50. Uma janela de contexto de um milhão de tokens não salva uma indexação fraca, filtros incorretos ou um limiar de recuperação que descarte o trecho que realmente importava.

Há outra diferença prática importante. O modelo direto no Workers AI suporta raciocínio, chamadas de função (function calling) e visão computacional. Dentro do AI Search, esse lançamento o adiciona especificamente como o modelo de geração de texto. Imagens em seu material de origem são convertidas para Markdown durante a indexação antes da fase de resposta, portanto essa atualização não transforma o chat do AI Search em um endpoint direto de análise de imagens.

Quem pode colocar isso em prática amanhã

Fundador solo de SaaS com fila de suporte acumulada

Indexe sua documentação pública, selecione o GLM-5.3 Flash para geração e conecte o chat resultante ao seu botão de ajuda. O ganho não é ter um chatbot genérico, mas sim um caminho direto e gerenciado: da dúvida do cliente até o trecho de origem recuperado e, por fim, a resposta.

Você pode validar esse fluxo diretamente no painel antes de escrever qualquer código na sua aplicação.

Pequenas agências gerenciando bases de conhecimento de clientes

Mantenha o conteúdo de cada cliente em sua própria instância do AI Search e padronize a camada de geração no GLM-5.3 Flash onde ele for aprovado nos testes do cliente. A vantagem prática é operacional: seu time mantém um único sistema de indexação e recuperação, enquanto cada cliente pode ter seu próprio conteúdo, prompt e ritmo de adoção.

Não unifique dados de clientes diferentes apenas para simplificar a escolha do modelo. A configuração de modelo pode ser feita por instância, e a Cloudflare também suporta namespaces quando você precisa gerenciar várias instâncias a partir de um único binding.

Equipe de operações buscando em runbooks internos

Conecte os runbooks armazenados no R2, use recuperação híbrida para capturar tanto códigos de erro exatos quanto procedimentos semanticamente equivalentes, e deixe o GLM-5.3 Flash transformar as etapas recuperadas em uma resposta legível. O benefício é o acesso mais ágil ao procedimento correto, mantendo os blocos retornados visíveis para verificação da fonte.

Em fluxos de resposta a incidentes, exiba esses blocos de origem ao lado da resposta. O parágrafo gerado é um facilitador, não a autoridade final para alterar um sistema em produção.

Engenheiro de plataforma avaliando modelos sem migrar a stack

Use o campo model por requisição para direcionar uma fatia controlada do tráfego para o GLM-5.3 Flash. Meça tokens de entrada, tokens de saída, blocos retornados, taxa de aceitação da resposta e latência. Mantenha o modelo padrão atual da instância para o restante do tráfego.

Isso fornece uma comparação isolada e justa, já que índice, configurações de recuperação e a base de documentos permanecem rigorosamente idênticos. Apenas o modelo que responde é alterado.

Se o seu agente precisa de buscas na web pública em tempo real, em vez de pesquisar conteúdo que você já indexou, o cenário é outro. O guia de APIs de busca para IA aborda provedores projetados para essa finalidade.

Um Worker funcional com GLM-5.3 Flash

O guia de Workers atual da Cloudflare começa com um projeto TypeScript puro para Workers:

npm create cloudflare@latest -- ai-search-tutorial
cd ai-search-tutorial

Adicione um binding de namespace ao arquivo wrangler.jsonc. Um binding é uma conexão nomeada que permite ao seu Worker chamar outro recurso da Cloudflare. O parâmetro remote: true é necessário porque o AI Search não roda no processo local da sua máquina. O Wrangler faz o proxy da requisição para o serviço em produção durante o desenvolvimento local.

{
  "$schema": "./node_modules/wrangler/config-schema.json",
  "ai_search_namespaces": [
    {
      "binding": "AI_SEARCH",
      "namespace": "default",
      "remote": true
    }
  ]
}

Em seguida, substitua o arquivo src/index.ts por este exemplo completo. Acesse /setup uma vez para criar a instância e indexar um documento de teste. Todas as outras requisições recuperam o conteúdo correspondente e solicitam que o GLM-5.3 Flash elabore a resposta.

export interface Env {
	AI_SEARCH: AiSearchNamespace;
}

export default {
	async fetch(request, env): Promise<Response> {
		const url = new URL(request.url);

		if (url.pathname === "/setup") {
			const instance = await env.AI_SEARCH.create({ id: "my-instance" });
			const item = await instance.items.uploadAndPoll(
				"getting-started.md",
				"AI Search indexes uploaded content for retrieval.",
			);
			return Response.json({ created: "my-instance", status: item.status });
		}

		const query = url.searchParams.get("q") ?? "What does AI Search do?";

		const response = await env.AI_SEARCH.get("my-instance").chatCompletions({
			messages: [
				{
					role: "system",
					content: "Answer only from the indexed content. If the answer is missing, say so.",
				},
				{ role: "user", content: query },
			],
			model: "@cf/zai-org/glm-5.3-flash",
			ai_search_options: {
				retrieval: { max_num_results: 5 },
			},
		});

		return Response.json(response);
	},
} satisfies ExportedHandler<Env>;

Execute localmente com npx wrangler dev. Após a verificação local, faça login com npx wrangler login e publique com npx wrangler deploy.

Graças ao binding, o código do Worker não precisa armazenar um token de API do AI Search. Se você preferir consumir a API REST diretamente, o token precisará de permissões tanto de AI Search:Edit quanto de AI Search:Run.

O erro mais comum é tentar debugar o modelo quando a informação de origem sequer passou pela recuperação. Verifique o conteúdo de response.chunks antes de alterar o prompt, expandir o contexto ou culpar o GLM. Uma resposta precisa não pode se basear em um trecho que o modelo nunca chegou a receber.

Custos reais e limites na ponta do lápis

O AI Search em si é gratuito durante o beta aberto, respeitando os limites do seu plano do Workers. O consumo do Workers AI é cobrado à parte, e o AI Gateway pode gerar custos adicionais se estiver ativado. A Cloudflare afirma que avisará com pelo menos 30 dias de antecedência antes de iniciar a cobrança do AI Search.

O GLM-5.3 Flash custa $0.15 por milhão de tokens de entrada e $0.50 por milhão de tokens de saída. Uma requisição com 5,000 tokens de entrada sem cache e 500 tokens de saída totaliza $0.001:

0.005 × $0.15 + 0.0005 × $0.50 = $0.001

Em um volume de 20,000 requisições com esse padrão exato, a geração via Workers AI custaria $20. Trata-se de uma simulação, não de uma previsão fixa. Sua entrada inclui o prompt de sistema, o histórico de conversa e os blocos recuperados; portanto, uma recuperação prolixa encarece a fatura muito mais rápido do que a taxa nominal baixa sugere.

O plano Workers Free permite 20,000 consultas no AI Search por mês, 100 instâncias, 100,000 arquivos por instância e 500 páginas de sites rastreadas por dia. O tamanho máximo por arquivo é de 4 MB. O plano Workers Paid eleva o limite para 5,000 instâncias, remove as restrições mensais de consultas e de páginas rastreadas por dia, e aceita 1 milhão de arquivos por instância (ou 500,000 quando a busca híbrida está ativada). O teto de 4 MB por arquivo continua o mesmo.

A documentação da Cloudflare não divulga métricas de latência ou benchmarks de qualidade de resposta específicos do AI Search para este modelo. A página do modelo detalha sua arquitetura e capacidades, mas isso não reflete o desempenho sobre a sua base documental específica. Teste perguntas com respostas de referência conhecidas antes de direcionar tráfego de produção, em especial para áreas críticas como conformidade, finanças, saúde ou resposta a incidentes.

O que fazer agora

Vale a pena agir esta semana se você já utiliza o AI Search Chat Completions, busca um modelo de geração hospedado na Cloudflare e tem um conjunto de perguntas de teste bem definidas. Fixe o GLM-5.3 Flash em uma instância de homologação ou use o override por requisição, comparando os trechos recuperados, a qualidade das respostas, o uso de tokens e a latência em relação ao modelo em produção.

Espere caso o Smart Default já cumpra suas metas de qualidade e orçamento. Uma nova opção no catálogo não impõe uma migração imediata. Da mesma forma, aguarde se a sua base ainda apresenta problemas na indexação, pois trocar o modelo final não vai corrigir blocos ausentes ou divisões mal estruturadas.

Você não precisa fazer nada se utiliza apenas o endpoint de Search e gera respostas na sua própria camada externa de modelos. Também não há impacto se você não usa o AI Search. O GLM-5.3 Flash está acessível diretamente no Workers AI, mas a relevância deste anúncio está na sua integração direta à etapa de geração do AI Search.

Se você quer análises práticas e diretas para desenvolvedores sobre as novidades do ecossistema, assine a newsletter.