← Přehled / ai-search / configuration
Modely
AI Search používá modely ve více fázích. Můžete nastavit, které modely se použijí, nebo nechat AI Search, aby za vás automaticky zvolila chytrou výchozí hodnotu.
Využití modelů
AI Search využívá modely Workers AI v následujících fázích:
- Konverze obrázků do Markdownu (pokud zdroj dat obsahuje obrázky): převádí obsah obrázků do Markdownu pomocí modelů pro detekci objektů a generování popisků.
- Embedding: Převádí vaše dokumenty a dotazy na vektorové reprezentace pro sémantické vyhledávání.
- Přepis dotazu (volitelné): Přeformuluje uživatelský dotaz, aby se zlepšila přesnost vyhledávání.
- Přeřazení (volitelné): Přeřadí načtené výsledky podle sémantické relevance pomocí modelu cross-encoder.
- Generování: Vytváří konečnou odpověď z načteného kontextu.
Poskytovatelé modelů
Všechny instance AI Search podporují modely od Workers AI. V AI Search můžete používat i jiné poskytovatele (například OpenAI nebo Anthropic) tak, že jejich API klíče přidáte do AI Gateway a připojením této brány k vaší AI Search.
Chcete-li používat AI Search s jinými poskytovateli modelů:
-
Přidejte klíče poskytovatele do AI Gateway.
-
Připojte bránu k AI Search.
- Při vytváření nové instance AI Search vyberte AI Gateway s klíči vašich poskytovatelů.
- U existující instance AI Search přejděte do Nastavení a přepněte na bránu, která má vaše klíče v Zdroje.
-
Vybrat modely
- Embedding model: Lze změnit pouze při vytváření nové instance AI Search.
- Generační model: Lze vybrat při vytváření nové instance AI Search a kdykoli změnit v Nastavení.
AI Search podporuje podmnožinu modelů, které byly vybrány tak, aby poskytovaly nejlepší možnou zkušenost. Podívejte se na seznam podporované modely.
Smart default
Pokud zvolíte Smart Default ve výběru modelu, AI Search vybere doporučený model Cloudflare a bude jej postupem času automaticky aktualizovat za vás. Na explicitní konfiguraci modelu můžete kdykoli přepnout na Nastavení.
Přepsání generativního modelu pro jednotlivý požadavek
Generační model lze nastavit globálně na úrovni instance AI Search, ale je také možné ho přepsat pro jednotlivé požadavky v AI Search API. To se hodí, když potřebujete generující modely vybírat dynamicky podle kontextu nebo preferencí uživatele.
Ukončování podpory modelů
AI Search může ukončit podporu daného modelu, aby uvolnila místo výkonnějším modelům s lepšími schopnostmi. Když je model označen jako zastaralý, oznámíme tuto změnu a stanovíme datum konce podpory, po kterém již model nebude dostupný. Aplikace závislé na AI Search proto mohou čas od času vyžadovat aktualizaci, aby fungovaly spolehlivě i nadále.
Životní cyklus modelu
Modely AI Search se řídí definovaným životním cyklem, který zajišťuje stabilitu a předvídatelné ukončování podpory:
- Produkce: Model je aktivně podporován a doporučen k použití. Je součástí Smart Defaults a průběžně dostává aktualizace a údržbu.
- Oznámení a přechod: Model zůstává k dispozici, ale byl označen jako zastaralý. Datum ukončení podpory se oznamuje v dokumentaci, poznámkách k vydání a dalších oficiálních kanálech. V tomto období se uživatelům doporučuje přejít na doporučený náhradní model.
- Automatický upgrade (pokud je relevantní): Pokud jste vybrali možnost Smart Default, AI Search automaticky převede požadavky na doporučenou náhradu.
- Konec životnosti: Model již není k dispozici. Každý požadavek na vyřazený model vrátí jasnou chybovou zprávu a model je odstraněn z dokumentace i ze Smart Defaults.
Další informace o modelech a stavu jejich životního cyklu najdete v podporované modely.
Osvědčené postupy
- Pravidelně kontrolujte poznámka k vydání pro aktualizace.
- Naplánujte kroky migrace podle oznámeného data ukončení životnosti.
- Před datem ukončení podpory přejděte na doporučené náhradní modely a otestujte je.