Paměť s vlastní optimalizací pro agenty

Populárním mentálním modelem v oblasti AI je představovat si agenta jako pracovníka. Nová schopnost může odpovídat "absolventu vysoké školy" nebo "analytikovi v druhém ročníku". Není to sice nejlepší způsob, jak přemýšlet o schopnostech AI, ale ilustruje to zásadní koncept AI při práci: kdykoli si najmete jakéhokoli pracovníka, očekáváte od něj, že se bude v průběhu práce učit a rozvíjet.

Agenti AI by měli dělat totéž. To vybízí k bližšímu pohledu na to, co "paměť" v AI vlastně znamená.

Představujeme Brain

Dnes uvádíme na trh zcela nový přístup k paměti v AI. Nazýváme ho Brain.

Brain je systém paměti s vlastní optimalizací. Buduje kontextový graf práce, kterou Computer vykonává. V nastavených intervalech, například přes noc, Brain kontroluje kontextový graf a sám se učí, jak práci provádět lépe.

Čím více práce uděláte, tím lepší a efektivnější Brain váš Computer učiní.

Lepší model pro paměť v AI

Pro paměť v AI jsou důležité dvě osy. První je, čeho se paměť týká, a druhá je, k čemu paměť slouží.

Tradičně se paměť v AI týkala vás, uživatele. Vašich preferencí, vkusu, pracovních stylů, kontaktů, role a dalších věcí. Brain přináší zcela nový a mnohem efektivnější model pro agenty AI: Brain si pamatuje, co agent udělal. Pamatuje si, co fungovalo a co selhalo a jaké opravy byly v práci provedeny. Učí se odvádět lepší práci.

Za druhé, paměť AI týkající se uživatele slouží k tomu, abyste se cítili více propojeni s agentem AI. Pracovní paměť, jako je Brain, slouží k tomu, aby se agent v práci zlepšoval. To je nejdůležitější účel paměti.

Tento přístup k paměti postupem času zlepšuje výkon Computeru. Každý den má Computer s Brainem lepší výchozí bod pro každý nový úkol. Je to proto, že Brain vytváří aktuální mapu toho, čeho se uživatel s největší pravděpodobností snaží dosáhnout na základě minulých relací, toho, co fungovalo a co ne.

To znamená, že Computer se může rychleji dostat k odpovědím, přistupovat k nejspolehlivějším zdrojům a vyhnout se plýtvání časem a tokeny.

Rekurzivní vlastní optimalizace

Brain se zlepšuje s tím, jak používáte Computer. Agenti jsou efektivnější při aktualizaci kontextu, protože se učí o projektech, konektorech, artefaktech a dalších zdrojích, které vedou k nejlepším výstupům.

Učí se také ze svých chyb a pamatují si, kdy uživatel provedl opravu nebo kdy byl některý zdroj slepou uličkou. Výsledkem je méně kroků, méně volání modelů a lepší výstupy.

Tato zpětná vazba zajišťuje, že se Brain neustále sám zdokonaluje.

Pro uživatele to znamená, že se agenti lépe orientují v kontextu, který potřebují znát k vykonávání práce. Znamená to také, že současná spotřeba tokenů je investicí do efektivnější spotřeby tokenů v budoucnu.

Kontextový graf

Brain vytváří pro Computer živý kontextový graf vytvořením sledovatelného grafu, který pomáhá Computeru porozumět světu uživatele, poučit se z jeho práce a tuto práci aplikovat na budoucí úkoly.

Kontextová vrstva má podobu wiki LLM, která se automaticky načte do sandboxu agenta. Stránky wiki LLM uživatele odrážejí nápady, lidi, projekty a další prvky, které tvoří jeho svět, což umožňuje Computeru procházet touto sítí osobních informací.

Wiki je systémem Brain v noci přírůstkově aktualizována, protože syntetizuje relace uživatele spolu s výsledky konektorů, změnami ve zdrojových dokumentech a provedenými opravami.

Tento neustále se obnovující kontext poskytuje Computeru silnější signál o tom, co dělat, kde hledat a jak uživateli poskytnout výstupy.

Zlepšený výkon

Zvětšit

První výsledky měření ukazují, že Brain zvyšuje správnost odpovědí o 25 % u úkolů, které Computer již dříve viděl. A vybavování se zvyšuje o 16 %.

Stejné výsledky ukazují, že Brain snižuje náklady na úkoly vyžadující historický kontext o 13 %. A výsledky uživatelů, kteří používají Brain déle, se zlepšují, jak se agenti učí jejich svět.

Brain také ukazuje svou práci, podobně jako jiné výstupy generované službou Perplexity. Každá položka paměti odkazuje zpět na relaci, soubor nebo zdroj, ze kterého pochází.

Podpora proaktivní AI

Pouze díky neustálému učení se Computer stává proaktivní AI, kterou po nás uživatelé a firmy požadují. Agenti se učí a pamatují si práci a to, jak se v ní zlepšovat.

Přední AI je individuální systém, který pro AI budujete ve vlastní organizaci. Když se agenti aktivně učí z práce, kterou děláme, mohou odhalit příležitosti, na které jsme se neptali, nebo upozornit na problém dříve, než si toho kdokoli všimne.

Tato verze Brainu je teprve začátek. Brzy oznámíme nové schopnosti.

Brain je dnes uváděn pro předplatitele programů Max a Enterprise Max v rámci náhledu pro výzkum.