Bộ nhớ tự cải thiện cho các tác nhân

Brain là hệ thống bộ nhớ tự cải thiện của Perplexity dành cho Computer, giúp học hỏi từ công việc trước đây để mang lại kết quả nhanh hơn và chính xác hơn theo thời gian.

Image of a globe against a dark background with nodes on it.

Một mô hình tư duy phổ biến trong lĩnh vực AI là coi một tác nhân như một nhân viên. Một năng lực mới có thể tương đương với “một sinh viên mới tốt nghiệp đại học” hoặc “một nhà phân tích năm thứ hai”. Đây không phải là cách tốt nhất để suy nghĩ về các năng lực của AI, nhưng nó minh họa một khái niệm quan trọng của AI trong công việc: bất cứ khi nào bạn thuê bất kỳ nhân viên nào, bạn đều kỳ vọng họ học hỏi và phát triển trong quá trình làm việc.

Các tác nhân AI cũng nên làm như vậy. Điều này đòi hỏi phải xem xét kỹ hơn ý nghĩa thực sự của “bộ nhớ” trong AI.

Giới thiệu về Brain

Hôm nay, chúng tôi đang ra mắt một cách tiếp cận hoàn toàn mới đối với bộ nhớ trong AI. Chúng tôi gọi đó là Brain.

Brain là một hệ thống bộ nhớ tự cải thiện. Hệ thống này xây dựng một biểu đồ ngữ cảnh về công việc mà Computer thực hiện. Vào các khoảng thời gian cố định, chẳng hạn như qua đêm, Brain sẽ xem xét biểu đồ ngữ cảnh và tự học cách thực hiện công việc tốt hơn.

Bạn càng làm nhiều việc, Brain càng làm cho Computer của bạn trở nên tốt hơn và hiệu quả hơn.

Một mô hình tốt hơn cho bộ nhớ AI

Có hai trục quan trọng đối với bộ nhớ trong AI. Trục thứ nhất là bộ nhớ nói về điều gì, và trục thứ hai là bộ nhớ dùng để làm gì.

Theo truyền thống, bộ nhớ AI thường xoay quanh bạn, người dùng. Các sở thích, gu thẩm mỹ, phong cách làm việc, danh bạ, vai trò của bạn, v.v. Brain tiên phong trong một mô hình hiệu quả hơn nhiều cho các tác nhân AI: Brain ghi nhớ những gì tác nhân đã làm. Nó ghi nhớ những gì đã thành công và những gì đã thất bại, và những điều chỉnh nào đã được thực hiện đối với công việc. Nó học cách làm việc tốt hơn.

Thứ hai, bộ nhớ AI về người dùng phục vụ mục đích giúp bạn cảm thấy gắn kết hơn với tác nhân AI. Bộ nhớ công việc như Brain phục vụ mục đích giúp tác nhân làm việc tốt hơn. Đây là mục đích quan trọng nhất của bộ nhớ.

Nhìn chung, cách tiếp cận bộ nhớ này cải thiện hiệu suất của Computer theo thời gian. Mỗi ngày, Computer có tích hợp Brain đều có điểm khởi đầu tốt hơn cho mỗi tác vụ mới. Đó là vì Brain tạo ra một bản đồ mới về những gì người dùng có khả năng muốn hoàn thành nhất dựa trên các phiên trước đó, những gì đã thành công và những gì chưa thành công.

Điều đó có nghĩa là Computer có thể đưa ra câu trả lời nhanh hơn, truy cập các nguồn đáng tin cậy nhất và tránh lãng phí thời gian và token.

Tự cải thiện đệ quy

Brain trở nên tốt hơn khi bạn sử dụng Computer. Các tác nhân trở nên hiệu quả hơn trong việc cập nhật ngữ cảnh khi chúng tìm hiểu các dự án, trình kết nối, tạo phẩm và các nguồn khác dẫn đến các kết quả tốt nhất.

Chúng cũng học hỏi từ những sai lầm của mình, ghi nhớ khi người dùng thực hiện điều chỉnh hoặc khi một nguồn đi vào ngõ cụt. Điều đó dẫn đến ít lượt tương tác hơn, ít lệnh gọi mô hình hơn và kết quả tốt hơn.

Vòng lặp phản hồi này chính là yếu tố giúp Brain không ngừng tự cải thiện.

Đối với người dùng, các tác nhân trở nên giỏi hơn trong việc hiểu ngữ cảnh mà chúng cần biết để thực hiện công việc. Điều đó cũng có nghĩa là việc sử dụng token hiện tại là sự đầu tư để sử dụng token hiệu quả hơn sau này.

Biểu đồ ngữ cảnh

Brain hình thành một biểu đồ ngữ cảnh sống động cho Computer bằng cách tạo ra một biểu đồ có thể truy xuất nguồn gốc giúp Computer hiểu thế giới của người dùng, học hỏi từ công việc của họ và áp dụng công việc đó vào các tác vụ trong tương lai.

Lớp ngữ cảnh có dạng một wiki LLM được tự động tải lên sandbox của tác nhân. Các trang wiki LLM của người dùng phản ánh các ý tưởng, con người, dự án và các yếu tố khác tạo nên thế giới của họ, cho phép Computer duyệt qua mạng lưới thông tin cá nhân này.

Wiki được cập nhật gia tăng bởi hệ thống Brain qua đêm khi hệ thống tổng hợp các phiên của người dùng cùng với kết quả từ trình kết nối, các thay đổi trong tài liệu nguồn và các điều chỉnh đã thực hiện.

Ngữ cảnh được làm mới liên tục đó cung cấp cho Computer tín hiệu mạnh mẽ hơn về việc phải làm gì, tìm kiếm ở đâu và cách cung cấp kết quả cho người dùng.

Hiệu suất được cải thiện

Kết quả đo lường ban đầu cho thấy Brain làm tăng độ chính xác của câu trả lời lên 25% đối với các tác vụ mà Computer đã gặp trước đó. Và khả năng gợi nhớ tăng 16%.

Các kết quả tương tự cho thấy Brain cắt giảm chi phí của các tác vụ đòi hỏi ngữ cảnh lịch sử đi 13%. Và kết quả đối với những người sử dụng Brain lâu hơn sẽ được cải thiện khi các tác nhân tìm hiểu thế giới của họ.

Brain cũng thể hiện công việc của mình, giống như các kết quả đầu ra khác do Perplexity tạo ra. Mỗi mục bộ nhớ liên kết ngược lại với phiên, tệp hoặc nguồn mà nó xuất phát.

Thúc đẩy AI chủ động

Chỉ thông qua việc học hỏi liên tục, Computer mới trở thành AI chủ động mà người dùng và các doanh nghiệp yêu cầu ở chúng ta. Các tác nhân học hỏi và ghi nhớ công việc cũng như cách để làm tốt hơn.

AI biên là hệ thống cá nhân mà bạn xây dựng cho AI trong tổ chức của riêng mình. Khi các tác nhân tích cực học hỏi từ công việc chúng ta làm, chúng có thể xác định các cơ hội mà chúng ta không yêu cầu, hoặc cảnh báo một vấn đề trước khi bất kỳ ai nhận ra.

Phiên bản Brain này chỉ là khởi đầu. Chúng tôi sẽ sớm công bố các tính năng mới.

Brain đang được triển khai vào hôm nay cho những người đăng ký Max và Enterprise Max trong Bản xem trước nghiên cứu.