INTEGRITY Dokumentace

← Vytvářejte agenty na Cloudflare / agents / tools

AI Search

Agents mohou používat AI Search k načtení relevantních informací z indexovaného obsahu a jejich použití k rozšíření volání modelů AI. AI Search za vás spravuje pipeline vyhledávání, včetně indexování, vyhledávání a volitelných dokončení chatu nad vaším obsahem.

Používejte AI Search, pokud chcete, aby agent:

Základní vzor

Navažte AI Search na svůj Worker a poté se z metody agenta dotazujte na danou instanci.

import { Agent, callable } from "agents";

export class SearchAgent extends Agent {
	@callable()
	async searchKnowledge(query) {
		const instance = this.env.AI_SEARCH.get("my-instance");

		const results = await instance.search({
			messages: [{ role: "user", content: query }],
		});

		return results;
	}
}
import { Agent, callable } from "agents";

type Env = {
	AI_SEARCH: AiSearchNamespace;
};

export class SearchAgent extends Agent<Env> {
	@callable()
	async searchKnowledge(query: string) {
		const instance = this.env.AI_SEARCH.get("my-instance");

		const results = await instance.search({
			messages: [{ role: "user", content: query }],
		});

		return results;
	}
}

Pro generování odpovědi použijte chatCompletions() k načtení relevantního obsahu a vygenerování odpovědi v jediném volání.

const instance = this.env.AI_SEARCH.get("my-instance");

const response = await instance.chatCompletions({
	messages: [{ role: "user", content: "How do I deploy an Agent?" }],
	model: "@cf/meta/llama-3.3-70b-instruct-fp8-fast",
	ai_search_options: {
		retrieval: {
			max_num_results: 5,
		},
	},
});
const instance = this.env.AI_SEARCH.get("my-instance");

const response = await instance.chatCompletions({
	messages: [{ role: "user", content: "How do I deploy an Agent?" }],
	model: "@cf/meta/llama-3.3-70b-instruct-fp8-fast",
	ai_search_options: {
		retrieval: {
			max_num_results: 5,
		},
	},
});

Konfigurace

Použijte ai_search_namespaces vazbu, pokud agent potřebuje přistupovat k instancím AI Search podle názvu.

{
	"ai_search_namespaces": [
		{
			"binding": "AI_SEARCH",
			"namespace": "default",
			"remote": true
		}
	]
}
[[ai_search_namespaces]]
binding = "AI_SEARCH"
namespace = "default"
remote = true

Použijte remote: true k dotazování nasazených instancí AI Search během lokálního vývoje pomocí wrangler dev.

AI Search

Vytvářejte spravované pipeline pro vyhledávání nad webovými stránkami, buckety R2 a nahranými soubory.

Workers binding

Dotazujte se na AI Search přímo z kódu Workers.

Vytvořte instanci AI Search

Vytvořte svou první instanci AI Search a spusťte svůj první dotaz.