← Agent Memory / agent-memory / concepts

Jak funguje Agent Memory

Agent Memory je spravovaná služba, která vašim aplikacím poskytuje trvalou paměť poháněnou AI. Surové konverzace automaticky proměňuje ve strukturované znalosti a v okamžiku potřeby načte správný kontext.

Agent Memory zařazuje každý extrahovaný paměťový záznam do jednoho ze čtyř typů:

• Fakta : Stabilní znalosti o osobě, projektu nebo nástroji. Preference, identity, vztahy a cíle. Facts se v čase vyvíjejí prostřednictvím nahrazení: když novější fact nahradí starší na stejné téma, stará verze zůstává zachována, ale ve výsledcích vyvolání se zobrazí ta nejnovější.
• Události : Dokončené akce ukotvené k určitému okamžiku. Nasazení, rozhodnutí, milníky a pozorování. Events se hromadí a vzájemně si neodporují.
• Instrukce : Opakovaně použitelné postupy, pracovní postupy a konvence. Stejně jako facts, i instructions při aktualizaci podporují nahrazení.
• Úkoly : Krátkodobé položky vázané na relaci, jako jsou aktivní šetření a následné kroky. Tasks mají po skončení relace nižší prioritu.

Když zavoláte ingest(), Agent Memory zpracuje konverzaci v několika fázích:

1. Extrakce : AI přečte konverzaci a identifikuje jednotlivé, zapamatovatelné položky. Každá položka představuje samostatný poznatek s jasným shrnutím a podpůrným obsahem.

2. Klasifikace : Každá extrahovaná položka je zařazena do typu paměti (fact, event, instruction nebo task) a je jí přiřazen klíč tématu, klíčová slova a vyhledávací dotazy pro pozdější vyvolání.

3. Deduplikace : Systém kontroluje duplicity jak v rámci aktuální dávky, tak mezi již uloženými záznamy paměti. Facts a instructions se stejným klíčem tématu nahrazují starší verze místo vytváření duplicit.

4. Úložiště : Záznamy paměti se zapisují do trvalého úložiště s fulltextovými vyhledávacími indexy. Záznamy, které nejsou typu task, se navíc ukládají jako vektory pro sémantické vyhledávání.

Původní zprávy z konverzace se vždy ukládají doslovně vedle extrahovaných paměťových záznamů, čímž se zachovává původní přepis pro fulltextové vyhledávání.

Když zavoláte recall(), Agent Memory spustí paralelně několik strategií vyhledávání:

1. Analýza dotazu : AI analyzuje váš dotaz, aby určila nejlepší způsob vyhledávání, a vygeneruje klíčová slova, klíče témat a vektory pro sémantické vyhledávání.

2. Paralelní vyhledávání : Systém současně prohledává indexy klíčových slov, vyhledávání podle klíče tématu, sémantické vektorové indexy a nezpracované zprávy z konverzace.

3. Hodnocení a řazení : Výsledky ze všech zdrojů se sloučí a seřadí tak, aby se zobrazily nejrelevantnější záznamy paměti při zachování rozmanitosti metod vyhledávání.

4. Syntéza : AI vygeneruje odpověď v přirozeném jazyce z nejlépe hodnocených záznamů paměti, založenou na skutečně uloženém obsahu.

Pokud dotazu neodpovídá žádný paměťový záznam, recall() vrátí prázdnou odpověď, místo aby si odpověď vymyslel.

Agent Memory je navržena pro bezpečný opakovaný příjem:

• Zprávy jsou adresovány podle svého obsahu. Každá zpráva získá deterministické ID odvozené od jejího obsahu a relace. Odeslání stejné zprávy dvakrát nevytvoří duplicitní záznam.

• Relace jsou deterministické. Pokud neuvedete sessionId, jeden se odvodí z obsahu zprávy. Stejná konverzace se vždy mapuje na stejnou relaci.

• Fakta a instrukce se v čase vyvíjejí. Pokud nový záznam paměti sdílí klíč tématu s existujícím záznamem (například "editor preference"), je starý záznam označen jako nahrazený. Ve výsledcích vyvolání se zobrazí nejnovější verze, ale celá historie zůstává zachována.