Samodoskonaląca się pamięć dla agentów

Popularnym modelem mentalnym w AI jest traktowanie agenta jako pracownika. Nowa funkcja może być odpowiednikiem „świeżego absolwenta” lub „analityka drugiego roku”. Nie jest to najlepszy sposób myślenia o możliwościach AI, ale ilustruje kluczową koncepcję AI w pracy: zatrudniając każdego pracownika, oczekujesz, że będzie się uczył i rozwijał w trakcie pracy.

Agenci AI powinni robić to samo. Wymaga to dokładniejszego przyjrzenia się temu, co „pamięć” naprawdę oznacza w AI.

Przedstawiamy Brain

Dzisiaj wprowadzamy całkowicie nowe podejście do pamięci w AI. Nazywamy je Brain.

Brain to samodoskonalący się system pamięci. Buduje graf kontekstowy pracy wykonywanej przez Computer. W określonych odstępach czasu, na przykład w nocy, Brain analizuje graf kontekstowy i uczy się, jak lepiej wykonywać daną pracę.

Im więcej pracy wykonujesz, tym lepszym i wydajniejszym Brain czyni Twój Computer.

Lepszy model pamięci AI

Istnieją dwie osie znaczenia pamięci w AI. Pierwsza dotyczy tego, czego dotyczy pamięć, a druga tego, czemu służy.

Tradycyjnie pamięć AI dotyczyła Ciebie, użytkownika. Twoich preferencji, gustów, stylów pracy, kontaktów, roli i innych. Brain wprowadza znacznie bardziej efektywny model dla agentów AI: Brain zapamiętuje, co zrobił agent. Pamięta, co zadziałało, a co zawiodło oraz jakie poprawki wprowadzono w pracy. Uczy się wykonywać lepszą pracę.

Po drugie, pamięć AI o użytkowniku służy sprawieniu, byś czuł się bardziej zaangażowany w pracę z agentem AI. Pamięć pracy, taka jak Brain, służy pomocy agentowi w lepszym wykonywaniu zadań. Jest to najważniejszy cel pamięci. Razem to podejście do pamięci poprawia wydajność Computer w czasie. Każdego dnia Computer z Brain ma lepszy punkt wyjścia dla każdego nowego zadania. Dzieje się tak, ponieważ Brain tworzy świeżą mapę tego, co użytkownik prawdopodobnie chce osiągnąć, na podstawie przeszłych sesji, tego, co zadziałało, a co nie.

Oznacza to, że Computer może szybciej docierać do odpowiedzi, korzystać z najbardziej wiarygodnych źródeł oraz unikać marnowania czasu i tokenów.

Rekurencyjne samodoskonalenie

Brain staje się lepszy, gdy używasz Computer. Agenci stają się bardziej skuteczni w aktualizowaniu kontekstu, ucząc się projektów, łączników, artefaktów i innych źródeł, które prowadzą do najlepszych wyników.

Uczą się również na swoich błędach, zapamiętując, kiedy użytkownik dokonał korekty lub kiedy źródło było ślepym zaułkiem. Skutkuje to mniejszą liczbą kroków, mniejszą liczbą wywołań modelu i lepszymi wynikami.

Ta pętla zwrotna sprawia, że Brain jest stale samodoskonalącym się systemem.

Dla użytkowników agenci stają się lepsi w rozumieniu kontekstu, który muszą znać, aby wykonać pracę. Oznacza to również, że bieżące zużycie tokenów jest inwestycją w bardziej wydajne zużycie tokenów w przyszłości.

Graf kontekstowy

Brain tworzy żywy graf kontekstowy dla Computer, tworząc możliwy do prześledzenia graf, który pomaga Computer zrozumieć świat użytkownika, uczyć się na podstawie jego pracy i stosować tę pracę w przyszłych zadaniach.

Warstwa kontekstowa ma formę wiki LLM, która jest automatycznie ładowana do piaskownicy agenta. Strony wiki LLM użytkownika odzwierciedlają pomysły, ludzi, projekty i inne elementy, które składają się na jego świat, pozwalając Computer poruszać się po tej sieci danych osobowych.

Wiki jest stopniowo aktualizowana przez system Brain w nocy, gdy syntetyzuje on sesje użytkownika wraz z wynikami łączników, zmianami w dokumentach źródłowych i wprowadzonymi korektami.

To stale odświeżane kontekst daje Computer silniejszy sygnał co do tego, co robić, gdzie szukać i jak dostarczać wyniki użytkownikowi.

Ulepszona wydajność

Powiększ

Wczesne wyniki pomiarów pokazują, że Brain zwiększa poprawność odpowiedzi o 25% w przypadku zadań, które Computer już widział. A trafność wzrasta o 16%.

Te same wyniki pokazują, że Brain obniża koszt zadań wymagających kontekstu historycznego o 13%. Wyniki dla osób, które dłużej korzystają z Brain, poprawiają się, ponieważ agenci poznają ich świat.

Brain pokazuje również swoją pracę, podobnie jak inne wyniki generowane przez Perplexity. Każdy wpis w pamięci odsyła do sesji, pliku lub źródła, z którego pochodzi.

Wspieranie proaktywnego AI

Tylko poprzez ciągłe uczenie się Computer staje się proaktywnym AI, o które proszą nas użytkownicy i firmy. Agenci uczą się i zapamiętują pracę oraz to, jak lepiej ją wykonywać.

Frontier AI to indywidualny system, który budujesz dla AI we własnej organizacji. Kiedy agenci aktywnie uczą się na podstawie pracy, którą wykonujemy, mogą identyfikować możliwości, o które nie pytaliśmy, lub zasygnalizować problem, zanim ktokolwiek go zauważy.

Ta wersja Brain to dopiero początek. Wkrótce ogłosimy nowe możliwości.

Brain jest udostępniany dzisiaj subskrybentom Max i Enterprise Max w ramach Research Preview.