Cách chúng tôi xây dựng hệ thống nghiên cứu đa tác tử (multi-agent) của mình
Claude hiện đã có khả năng **Nghiên cứu** cho phép nó tìm kiếm trên web, Google Workspace và các tích hợp khác để thực hiện các tác vụ phức tạp.
Hành trình từ nguyên mẫu đến sản phẩm của hệ thống đa tác tử này đã dạy chúng tôi những bài học quan trọng về kiến trúc hệ thống, thiết kế công cụ và kỹ thuật prompt. Một hệ thống đa tác tử bao gồm nhiều tác tử (các LLM tự động sử dụng công cụ trong một vòng lặp) làm việc cùng nhau. Tính năng Nghiên cứu của chúng tôi liên quan đến một tác tử lập kế hoạch quy trình nghiên cứu dựa trên truy vấn của người dùng, sau đó sử dụng các công cụ để tạo ra các tác tử song song tìm kiếm thông tin đồng thời. Các hệ thống có nhiều tác tử đặt ra những thách thức mới trong việc phối hợp, đánh giá và độ tin cậy của tác tử.
Bài viết này phân tích các nguyên tắc đã hiệu quả với chúng tôi—hy vọng bạn sẽ thấy chúng hữu ích khi xây dựng hệ thống đa tác tử của riêng mình.
Công việc nghiên cứu liên quan đến các vấn đề mở, nơi rất khó dự đoán trước các bước cần thiết. Bạn không thể mã hóa cứng một lộ trình cố định để khám phá các chủ đề phức tạp, vì quy trình vốn dĩ động và phụ thuộc vào đường đi. Khi con người tiến hành nghiên cứu, họ có xu hướng liên tục cập nhật cách tiếp cận dựa trên những khám phá, theo đuổi các hướng mới nảy sinh trong quá trình điều tra.
Sự khó đoán này khiến các tác tử AI đặc biệt phù hợp với các tác vụ nghiên cứu. Nghiên cứu đòi hỏi sự linh hoạt để chuyển hướng hoặc khám phá các kết nối liên quan khi cuộc điều tra diễn ra. Mô hình phải hoạt động tự động qua nhiều bước, đưa ra quyết định về hướng đi dựa trên các phát hiện trung gian. Một pipeline tuyến tính, một lần không thể xử lý các tác vụ này.
Bản chất của tìm kiếm là nén: chắt lọc thông tin chi tiết từ một khối lượng lớn dữ liệu. Các tác tử phụ hỗ trợ nén bằng cách hoạt động song song với các cửa sổ ngữ cảnh riêng, khám phá các khía cạnh khác nhau của câu hỏi đồng thời trước khi cô đọng các token quan trọng nhất cho tác tử nghiên cứu chính. Mỗi tác tử phụ cũng cung cấp sự phân tách trách nhiệm—các công cụ, prompt và quỹ đạo khám phá riêng biệt—giúp giảm sự phụ thuộc vào đường đi và cho phép các cuộc điều tra độc lập, kỹ lưỡng.
Khi trí thông minh đạt đến một ngưỡng nhất định, các hệ thống đa tác tử trở thành cách quan trọng để mở rộng hiệu suất. Ví dụ, mặc dù từng cá nhân con người đã trở nên thông minh hơn trong 100.000 năm qua, nhưng xã hội loài người đã trở nên **có năng lực hơn theo cấp số nhân** trong kỷ nguyên thông tin nhờ **trí thông minh tập thể** và khả năng phối hợp của chúng ta. Ngay cả các tác tử có trí thông minh tổng quát cũng phải đối mặt với giới hạn khi hoạt động riêng lẻ; các nhóm tác tử có thể đạt được nhiều hơn thế.
Các đánh giá nội bộ của chúng tôi cho thấy các hệ thống nghiên cứu đa tác tử đặc biệt xuất sắc đối với các truy vấn theo chiều rộng, liên quan đến việc theo đuổi nhiều hướng độc lập đồng thời. Chúng tôi phát hiện rằng một hệ thống đa tác tử với Claude Opus 4 làm tác tử chính và các tác tử phụ Claude Sonnet 4 vượt trội hơn Claude Opus 4 đơn lẻ 90,2% trong đánh giá nghiên cứu nội bộ của chúng tôi. Ví dụ, khi được yêu cầu xác định tất cả thành viên hội đồng quản trị của các công ty trong Information T
Công nghệ S&P 500, hệ thống đa tác tử đã tìm ra câu trả lời chính xác bằng cách phân rã vấn đề thành các nhiệm vụ cho các tác tử phụ, trong khi hệ thống đơn tác tử thất bại trong việc tìm ra câu trả lời với các tìm kiếm tuần tự chậm chạp.
Hệ thống đa tác tử hoạt động hiệu quả chủ yếu vì chúng giúp dành đủ token để giải quyết vấn đề. Trong phân tích của chúng tôi, ba yếu tố giải thích 95% sự khác biệt về hiệu suất trong đánh giá BrowseComp (kiểm tra khả năng của các tác tử duyệt web trong việc xác định thông tin khó tìm). Chúng tôi phát hiện ra rằng việc sử dụng token tự nó giải thích 80% sự khác biệt, với số lượng lệnh gọi công cụ và lựa chọn mô hình là hai yếu tố giải thích còn lại. Phát hiện này xác nhận kiến trúc của chúng tôi, vốn phân phối công việc giữa các tác tử với các cửa sổ ngữ cảnh riêng biệt để tăng thêm dung lượng cho suy luận song song. Các mô hình Claude mới nhất hoạt động như những bộ nhân hiệu quả lớn cho việc sử dụng token, vì việc nâng cấp lên Claude Sonnet 4 mang lại lợi ích hiệu suất lớn hơn so với việc tăng gấp đôi ngân sách token trên Claude Sonnet 3.7. Kiến trúc đa tác tử mở rộng hiệu quả việc sử dụng token cho các nhiệm vụ vượt quá giới hạn của các tác tử đơn lẻ.
Có một mặt trái: trong thực tế, các kiến trúc này đốt cháy token rất nhanh. Trong dữ liệu của chúng tôi, các tác tử thường sử dụng lượng token gấp khoảng 4 lần so với tương tác trò chuyện, và hệ thống đa tác tử sử dụng lượng token gấp khoảng 15 lần so với trò chuyện. Để khả thi về mặt kinh tế, hệ thống đa tác tử yêu cầu các nhiệm vụ có giá trị đủ cao để bù đắp cho hiệu suất tăng lên. Hơn nữa, một số lĩnh vực yêu cầu tất cả các tác tử phải chia sẻ cùng một ngữ cảnh hoặc liên quan đến nhiều phụ thuộc giữa các tác tử không phù hợp với hệ thống đa tác tử hiện nay. Ví dụ, hầu hết các nhiệm vụ lập trình liên quan đến ít nhiệm vụ có thể song song hóa thực sự hơn so với nghiên cứu, và các tác tử LLM chưa giỏi trong việc phối hợp và ủy quyền cho các tác tử khác trong thời gian thực. Chúng tôi nhận thấy rằng hệ thống đa tác tử xuất sắc trong các nhiệm vụ có giá trị liên quan đến song song hóa nặng, thông tin vượt quá các cửa sổ ngữ cảnh đơn lẻ và giao tiếp với nhiều công cụ phức tạp.
Hệ thống Nghiên cứu của chúng tôi sử dụng kiến trúc đa tác tử với mô hình người điều phối-công nhân, trong đó một tác tử chính điều phối quy trình trong khi ủy quyền cho các tác tử phụ chuyên biệt hoạt động song song.
Khi người dùng gửi một truy vấn, tác tử chính phân tích nó, phát triển một chiến lược và tạo ra các tác tử phụ để khám phá các khía cạnh khác nhau đồng thời. Như được hiển thị trong sơ đồ trên, các tác tử phụ hoạt động như các bộ lọc thông minh bằng cách sử dụng lặp đi lặp lại các công cụ tìm kiếm để thu thập thông tin, trong trường hợp này là về các công ty tác tử AI vào năm 2025, và sau đó trả về một danh sách các công ty cho tác tử chính để nó tổng hợp một câu trả lời cuối cùng.
Các phương pháp tiếp cận truyền thống sử dụng Tạo sinh tăng cường truy xuất (RAG) sử dụng truy xuất tĩnh. Nghĩa là, chúng lấy một tập hợp các đoạn văn bản giống nhất với một truy vấn đầu vào và sử dụng các đoạn văn bản này để tạo ra phản hồi. Ngược lại, kiến trúc của chúng tôi sử dụng tìm kiếm đa bước, tự động tìm thông tin liên quan, thích ứng với các phát hiện mới và phân tích kết quả để xây dựng các câu trả lời chất lượng cao.
Hệ thống đa tác tử
Có những khác biệt chính so với hệ thống đơn tác tử, bao gồm sự gia tăng nhanh chóng về độ phức tạp trong phối hợp. Các tác tử ban đầu mắc lỗi như tạo ra 50 tác tử con cho các truy vấn đơn giản, lùng sục web không ngừng để tìm các nguồn không tồn tại, và làm phiền lẫn nhau bằng các cập nhật quá mức. Vì mỗi tác tử được điều khiển bởi một prompt, kỹ thuật prompt là đòn bẩy chính của chúng tôi để cải thiện các hành vi này. Dưới đây là một số nguyên tắc chúng tôi đã học được khi tạo prompt cho các tác tử:
Chiến lược tạo prompt của chúng tôi tập trung vào việc thấm nhuần các heuristic tốt thay vì các quy tắc cứng nhắc. Chúng tôi đã nghiên cứu cách con người có kỹ năng tiếp cận các nhiệm vụ nghiên cứu và mã hóa các chiến lược này vào prompt của mình—các chiến lược như phân rã các câu hỏi khó thành các nhiệm vụ nhỏ hơn, đánh giá cẩn thận chất lượng của các nguồn, điều chỉnh cách tiếp cận tìm kiếm dựa trên thông tin mới, và nhận biết khi nào nên tập trung vào chiều sâu (điều tra một chủ đề chi tiết) so với chiều rộng (khám phá nhiều chủ đề song song). Chúng tôi cũng chủ động giảm thiểu các tác dụng phụ không mong muốn bằng cách thiết lập các rào chắn rõ ràng để ngăn các tác tử vượt khỏi tầm kiểm soát. Cuối cùng, chúng tôi tập trung vào một vòng lặp lặp nhanh với khả năng quan sát và các trường hợp kiểm thử.
Các đánh giá tốt là điều cần thiết để xây dựng các ứng dụng AI đáng tin cậy, và các tác tử cũng không ngoại lệ. Tuy nhiên, việc đánh giá các hệ thống đa tác tử đặt ra những thách thức độc đáo. Các đánh giá truyền thống thường giả định rằng AI tuân theo các bước giống nhau mỗi lần: với đầu vào X, hệ thống nên đi theo đường dẫn Y để tạo ra đầu ra Z. Nhưng các hệ thống đa tác tử không hoạt động theo cách này. Ngay cả với các điểm khởi đầu giống hệt nhau, các tác tử có thể đi theo các đường dẫn hợp lệ hoàn toàn khác nhau để đạt được mục tiêu của mình. Một tác tử có thể tìm kiếm ba nguồn trong khi một tác tử khác tìm kiếm mười nguồn, hoặc chúng có thể sử dụng các công cụ khác nhau để tìm ra cùng một câu trả lời. Vì chúng ta không phải lúc nào cũng biết các bước đúng là gì, thông thường chúng ta không thể chỉ kiểm tra xem các tác tử có tuân theo các bước "đúng" mà chúng ta đã định trước hay không. Thay vào đó, chúng ta cần các phương pháp đánh giá linh hoạt để xác định liệu các tác tử có đạt được các kết quả đúng đắn hay không, đồng thời cũng phải...
