Giao thức quan trọng nhất của AI đang trở nên dễ sử dụng hơn một chút

Giao thức Ngữ cảnh Mô hình (MCP) là một trong những khối xây dựng cơ bản của khả năng tương tác AI, cung cấp cho các mô hình AI một cách an toàn để truy cập vào các nguồn dữ liệu và dịch vụ bên ngoài. Nó giống như hệ thống ống nước cho phép chatbot kết nối với lịch của bạn, cơ sở dữ liệu của bạn hoặc các công cụ nội bộ, thay vì các kỹ sư phải xây dựng các đường ống tùy chỉnh cho từng kết nối. Tuần tới, giao thức này sẽ nhận được một bản cập nhật quan trọng, và mặc dù có thể không được người dùng cuối chú ý, nhưng nó có thể tạo ra sự khác biệt lớn trong cách hệ sinh thái phát triển.

Thông số kỹ thuật chính thức cho phiên bản mới đã được công bố từ tháng 5, nhưng chúng tôi đã nhận được một lời giải thích rõ ràng bất thường về những thay đổi vào sáng thứ Hai từ đội ngũ tại Arcade — một startup hai năm tuổi đã xây dựng toàn bộ hoạt động kinh doanh xung quanh việc làm cho các tác nhân AI thực sự hoạt động bên trong các công ty thực tế, cho phép chúng kết nối an toàn và hành động trên các công cụ như Gmail, Slack và Salesforce.

Arcade đã huy động được 60 triệu đô la vào tháng 6 dựa trên ý tưởng rằng hầu hết các tác nhân AI thất bại không phải vì các mô hình cơ bản yếu kém, mà vì cơ sở hạ tầng xung quanh chúng chưa sẵn sàng, và đây chính là điều mà bản cập nhật này đang cố gắng giải quyết. Về cơ bản, MCP đang thay đổi cách nó xử lý các ID phiên — những mã thông báo nhỏ mà máy chủ sử dụng để ghi nhớ "à, đây là cùng một cuộc trò chuyện như năm giây trước" — để các máy chủ có thể hoạt động dễ dàng hơn ở quy mô lớn hơn.

Như người sáng lập Arcade, Nate Barbettini, đã nói:

[Trong hệ thống hiện tại] Lần đầu tiên một máy khách MCP như Claude kết nối với máy chủ, nó gửi một lời chào: Tôi là Claude, đây là phiên bản của tôi, đây là khả năng của tôi. Máy chủ trả lời với khả năng của chính nó và đưa lại một ID phiên… Từ đó trở đi, máy khách gửi ID phiên đó trong mọi yêu cầu để máy chủ biết đó là cùng một cuộc trò chuyện. Đôi khi ID hết hạn, vì vậy máy khách phải nhận thấy, yêu cầu một ID mới và tiếp tục…

Hãy tưởng tượng một triển khai thực tế. Bạn đang chạy một máy chủ cho hàng triệu người dùng, phía sau một bộ cân bằng tải có nhiệm vụ duy nhất là định tuyến mỗi yêu cầu đến bất kỳ máy chủ nào trong cụm có sẵn, đôi khi ở một khu vực khác. Bây giờ mỗi máy trong số đó phải biết về một ID phiên mà một máy khác đã cấp. Điều này không phải là không thể, nhưng nó là một cơn đau đầu nghiêm trọng, và nó chống lại bộ cân bằng tải thay vì làm việc cùng với nó.

Nói cách khác, thiết lập hiện tại giả định rằng một máy chủ nhớ bạn, nhưng các công ty thực tế phân phối lưu lượng truy cập qua hàng chục máy chủ không nói chuyện với nhau theo mặc định, vì vậy các máy chủ MCP ngày nay phải làm thêm công việc chỉ để theo dõi ai là ai. Điều này đã là một cơn đau đầu đáng kể cho bất kỳ ai chạy máy chủ MCP ở quy mô lớn, và là một phần lý do tại sao chúng ta chưa thấy nhiều công ty triển khai các tích hợp MCP quy mô lớn, của bên thứ nhất, bất chấp tất cả sự cường điệu xung quanh AI tác nhân trong năm nay.

Trong hệ thống mới, giao thức sẽ áp dụng một cách tiếp cận lỏng lẻo hơn, "không trạng thái" đối với các ID phiên ở phía máy chủ, tương tự như cách hầu hết các trang web thông thường đã hoạt động, điều này sẽ làm cho toàn bộ hệ thống dễ bảo trì hơn nhiều và về mặt lý thuyết, rẻ hơn để chạy ở quy mô lớn.

Đó là tất cả.

Khá kỹ thuật, nhưng đây là lời nhắc nhở quan trọng rằng không phải mọi khía cạnh của phát triển AI đều đang tiến triển với tốc độ chóng mặt. Trong khi việc huấn luyện mô hình đang bứt phá nhanh chóng, thì phần lớn hạ tầng kỹ thuật mà các mô hình đó cần vẫn phải chịu sự chậm chạp của quá trình đồng thuận từ các tổ chức tiêu chuẩn. Nó thực sự đang diễn ra; chỉ là hơi chậm hơn thôi!