INTEGRITY Dokumentace

Modely

AI Search používá modely ve více fázích. Můžete nastavit, které modely se použijí, nebo nechat AI Search, aby za vás automaticky zvolila chytrou výchozí hodnotu.

Využití modelů

AI Search využívá modely Workers AI v následujících fázích:

Poskytovatelé modelů

Všechny instance AI Search podporují modely od Workers AI. V AI Search můžete používat i jiné poskytovatele (například OpenAI nebo Anthropic) tak, že jejich API klíče přidáte do AI Gateway a připojením této brány k vaší AI Search.

Chcete-li používat AI Search s jinými poskytovateli modelů:

  1. Přidejte klíče poskytovatele do AI Gateway.

  2. Připojte bránu k AI Search.

    • Při vytváření nové instance AI Search vyberte AI Gateway s klíči vašich poskytovatelů.
    • U existující instance AI Search přejděte do Nastavení a přepněte na bránu, která má vaše klíče v Zdroje.
  3. Vybrat modely

    • Embedding model: Lze změnit pouze při vytváření nové instance AI Search.
    • Generační model: Lze vybrat při vytváření nové instance AI Search a kdykoli změnit v Nastavení.

AI Search podporuje podmnožinu modelů, které byly vybrány tak, aby poskytovaly nejlepší možnou zkušenost. Podívejte se na seznam podporované modely.

Smart default

Pokud zvolíte Smart Default ve výběru modelu, AI Search vybere doporučený model Cloudflare a bude jej postupem času automaticky aktualizovat za vás. Na explicitní konfiguraci modelu můžete kdykoli přepnout na Nastavení.

Přepsání generativního modelu pro jednotlivý požadavek

Generační model lze nastavit globálně na úrovni instance AI Search, ale je také možné ho přepsat pro jednotlivé požadavky v AI Search API. To se hodí, když potřebujete generující modely vybírat dynamicky podle kontextu nebo preferencí uživatele.

Ukončování podpory modelů

AI Search může ukončit podporu daného modelu, aby uvolnila místo výkonnějším modelům s lepšími schopnostmi. Když je model označen jako zastaralý, oznámíme tuto změnu a stanovíme datum konce podpory, po kterém již model nebude dostupný. Aplikace závislé na AI Search proto mohou čas od času vyžadovat aktualizaci, aby fungovaly spolehlivě i nadále.

Životní cyklus modelu

Modely AI Search se řídí definovaným životním cyklem, který zajišťuje stabilitu a předvídatelné ukončování podpory:

  1. Produkce: Model je aktivně podporován a doporučen k použití. Je součástí Smart Defaults a průběžně dostává aktualizace a údržbu.
  2. Oznámení a přechod: Model zůstává k dispozici, ale byl označen jako zastaralý. Datum ukončení podpory se oznamuje v dokumentaci, poznámkách k vydání a dalších oficiálních kanálech. V tomto období se uživatelům doporučuje přejít na doporučený náhradní model.
  3. Automatický upgrade (pokud je relevantní): Pokud jste vybrali možnost Smart Default, AI Search automaticky převede požadavky na doporučenou náhradu.
  4. Konec životnosti: Model již není k dispozici. Každý požadavek na vyřazený model vrátí jasnou chybovou zprávu a model je odstraněn z dokumentace i ze Smart Defaults.

Další informace o modelech a stavu jejich životního cyklu najdete v podporované modely.

Osvědčené postupy