Đây là lý do tại sao Anthropic đang thúc đẩy các bang quản lý AI nhanh hơn

Anthropic đã ủng hộ làn sóng đầu tiên của các đạo luật an toàn AI tiên phong tại Hoa Kỳ vào năm ngoái, đảm bảo các yêu cầu minh bạch mới ở California và New York mà phần lớn Thung lũng Silicon đã phản đối, cho rằng chúng sẽ kìm hãm sự bùng nổ AI. Nhưng Anthropic cho biết những đạo luật đó có thể đã lỗi thời, và công ty hiện đang thúc đẩy các tiểu bang áp dụng các quy định thậm chí còn khắt khe hơn.

"Các dự luật an toàn tập trung vào minh bạch năm 2025 là một khởi đầu thực sự quan trọng, nhưng khi khả năng của các hệ thống AI tiếp tục tiến bộ nhanh chóng—các phản ứng chính sách cần phải theo kịp," Cesar Fernandez, người đứng đầu bộ phận quan hệ chính quyền tiểu bang và địa phương của Anthropic tại Mỹ, nói với WIRED trong một cuộc phỏng vấn. "Chúng tôi cho rằng minh bạch và tự báo cáo không còn là biện pháp an toàn đủ cho các hệ thống AI mạnh nhất."

Việc ủng hộ quy định mạnh mẽ như vậy là một thông điệp kỳ lạ đến từ một công ty khởi nghiệp hiện được định giá gần 1 nghìn tỷ đô la. Nhưng Anthropic là một công ty kỳ lạ. Như chúng tôi đã viết trước đây, các nhà lãnh đạo của Anthropic tin rằng công ty cần xây dựng một doanh nghiệp lớn dựa trên việc phát triển và bán quyền truy cập vào trí tuệ nhân tạo tiên tiến để hoàn thành sứ mệnh sáng lập: "đảm bảo rằng thế giới chuyển đổi an toàn qua AI mang tính cách mạng."

Khi Anthropic phát triển, công ty đã bắt đầu ủng hộ một số đề xuất quy định khắc nghiệt nhất của quốc gia đối với các công ty AI tiên phong. Nhiều quy tắc trong số này được thiết kế để giảm thiểu rủi ro AI thảm khốc, bao gồm khả năng các mô hình tiên tiến có thể góp phần vào thảm họa tài chính hoặc tử vong hàng loạt.

Ngoài các đạo luật tự báo cáo ở California và New York, Anthropic cũng đã ủng hộ một biện pháp của Illinois yêu cầu các phòng thí nghiệm AI phải có quy trình an toàn của họ được đánh giá bởi các kiểm toán viên bên thứ ba. Gần đây nhất, công ty đã tán thành một chính sách của Massachusetts cũng yêu cầu kiểm toán bên thứ ba cho các phòng thí nghiệm AI—và trao quyền cho tổng chưởng lý tiểu bang để yêu cầu biện pháp khẩn cấp từ các công ty không tuân thủ.

Tôi đã ngồi lại với Fernandez trong tuần này để hiểu các chính sách AI của công ty đang đi về đâu. Fernandez gia nhập Anthropic đầu năm nay, sau khi từng là người đứng đầu quan hệ chính quyền tiểu bang Mỹ cho gã khổng lồ cá cược thể thao FanDuel và là cộng tác viên chính sách công cấp cao tại Uber. Ông đã giúp cả hai công ty giành chiến thắng trong các cuộc chiến chính sách ở các tiểu bang trên khắp đất nước. Chuyên môn của ông có thể sẽ chứng tỏ giá trị đối với Anthropic, khi Quốc hội tiếp tục trì hoãn việc thông qua quy định AI và các tiểu bang đang dẫn đầu.

Trong khi chương trình ủng hộ quy định của Anthropic đã được các nhóm an toàn AI, công đoàn lao động và các đồng minh khác của công ty ca ngợi, một số nhà lãnh đạo Thung lũng Silicon lại giải thích các nỗ lực chính trị của công ty qua một lăng kính đen tối hơn.

David Sacks, cựu quan chức AI của Nhà Trắng và hiện là cố vấn công nghệ cho Tổng thống Donald Trump, đã tuyên bố rằng Anthropic về cơ bản đang cố gắng thông qua các đạo luật rườm rà để gài bẫy các công ty AI khởi nghiệp nhỏ hơn trong các thủ tục hành chính, qua đó củng cố vị thế dẫn đầu của mình trong cuộc đua AI.

"Anthropic đang thực hiện một chiến lược chiếm đoạt quy định tinh vi dựa trên nỗi sợ hãi—

“mongering,” Sacks đã viết trong một bài đăng trên mạng xã hội vào năm ngoái. “Nó chịu trách nhiệm chính cho sự điên cuồng quản lý của các bang đang gây tổn hại cho hệ sinh thái khởi nghiệp.”

Fernandez thẳng thừng phủ nhận cáo buộc này, lưu ý rằng Anthropic chỉ ủng hộ các dự luật AI của bang áp dụng cho “các nhà phát triển mô hình AI lớn,” một thuật ngữ được định nghĩa khác nhau trong mỗi dự luật, nhưng nhìn chung đề cập đến các công ty đã chi hàng trăm triệu đô la cho phát triển AI và có doanh thu hàng năm hơn 500 triệu đô la. “Thật khó để tưởng tượng một công ty khởi nghiệp nào đáp ứng được ngưỡng đó,” Fernandez nói.

Nhưng trong một thế giới mà hàng tỷ đô la vốn hiện nay là cần thiết để phát triển một mô hình AI tiên tiến cạnh tranh, có thể cho rằng có một số ít công ty khởi nghiệp đầy hứa hẹn có thể sớm đáp ứng các ngưỡng đó. Kể tên một vài cái tên, Safe Superintelligence, Thinking Machines Lab và Mistral đều đã huy động được hàng tỷ đô la từ các nhà đầu tư, mặc dù doanh thu của họ vẫn thấp hơn nhiều so với Anthropic hay OpenAI. Tất nhiên, đây không phải là những công ty khởi nghiệp thông thường, nhưng họ là những đối thủ cạnh tranh tiềm năng của Anthropic.

Tôi nghĩ phiên bản dễ bảo vệ hơn của lập luận của Fernandez là bất kỳ công ty nào đủ lớn để phát triển một mô hình AI mạnh mẽ đều phải chịu cùng một quy định, bởi vì các rủi ro cơ bản của công nghệ là như nhau. Fernandez lưu ý rằng một phần mục tiêu của Anthropic là “truyền cảm hứng cho một cuộc đua lên đỉnh cao trong việc phát triển các hệ thống AI an toàn và bảo mật nhất,” điều mà công ty cho rằng bao gồm việc thúc đẩy luật pháp của chính phủ.

“Sứ mệnh của chúng tôi là đảm bảo rằng quá trình chuyển đổi sang một thế giới với AI tiên tiến diễn ra tốt đẹp cho người Mỹ và nhân loại,” Fernandez nói. “Nếu bạn là một nhà phát triển mô hình AI đang phát triển các hệ thống AI mạnh mẽ, có những yêu cầu phải minh bạch với mọi người về những gì bạn đang xây dựng, khả năng của mô hình và các rủi ro liên quan đến mô hình đó đối với cơ sở hạ tầng quan trọng ở các bang—tất cả những điều đó nên được ưu tiên hàng đầu.”

Tuy nhiên, có những giới hạn về những gì Anthropic cho rằng các bang nên làm khi thiếu quy định liên bang. Trong một tài liệu chính sách mà Anthropic công bố tháng trước, công ty khuyến nghị rằng các chính phủ nên có một cơ chế để ngăn chặn các công ty triển khai các mô hình AI mới nếu họ cho rằng chúng không an toàn. Đề xuất này hơi mỉa mai, vì chính quyền Trump gần đây đã yêu cầu Anthropic đình chỉ quyền truy cập vào hai mô hình AI mạnh nhất của mình đối với công dân nước ngoài, và công ty không mấy ưa thích động thái này.

Anthropic cho rằng quyền ngăn chặn việc triển khai các mô hình AI không an toàn nên được dành cho chính phủ liên bang, chứ không phải các nhà lập pháp bang—mặc dù Fernandez lưu ý rằng đây là một cuộc trò chuyện đang phát triển. Sau khi chính quyền Trump gửi một chỉ thị kiểm soát xuất khẩu tới Anthropic khiến công ty phải đưa các mô hình Mythos và Fable 5 của mình ngoại tuyến cho tất cả mọi người, công ty đã viết trong một bài đăng trên blog rằng việc ngăn chặn triển khai mô hình AI chỉ nên diễn ra thông qua một quy trình đánh giá công bằng và minh bạch.

Fernandez sẽ không nói nhiều về công việc chính sách liên bang của Anthropic, vì nó không

Tuy nhiên, công ty cũng đang hoạt động tích cực trong lĩnh vực đó. Tháng trước, họ đã gửi một lá thư cho chính phủ Mỹ, cáo buộc gã khổng lồ công nghệ Trung Quốc Alibaba thực hiện một cuộc tấn công "chưng cất" (distillation attack) – về cơ bản là trích xuất thông tin từ các mô hình của Anthropic thông qua việc đưa ra các câu lệnh có hệ thống để phát triển các công cụ AI của riêng mình. Một số nhà nghiên cứu AI đã bác bỏ những cáo buộc này, cho rằng đó chỉ là một hình thức "chiếm đoạt quyền quản lý" (regulatory capture) khác. Họ lập luận rằng mục tiêu thực sự của Anthropic là thuyết phục chính phủ Mỹ cấm các mô hình AI mã nguồn mở của Trung Quốc, điều này có thể khiến hàng nghìn doanh nghiệp Mỹ đang phụ thuộc vào chúng phải chuyển sang sử dụng các sản phẩm dành cho doanh nghiệp của Anthropic. Đáng chú ý, CEO của Anthropic, Dario Amodei, trước đây đã từng cảnh báo Quốc hội Mỹ về những nguy hiểm của AI mã nguồn mở.

Ở cấp tiểu bang, Fernandez cho biết Anthropic chưa từng nhắm mục tiêu cụ thể vào các mô hình AI mã nguồn mở trong bất kỳ đạo luật nào mà họ ủng hộ. Ông giải thích: "Vấn đề không nằm ở cách xây dựng mô hình mà nằm ở khả năng của mô hình. Khi chúng đạt đến một mức độ nhất định, chúng cần được quản lý trong các khuôn khổ pháp lý của tiểu bang."

Dù bạn có tin vào sự chân thành của Anthropic hay không, công ty này vẫn đang đóng một vai trò quan trọng trong việc định hình tương lai của chính sách AI. Các bản phát hành mô hình mới nhất của họ đã đưa khả năng an ninh mạng của AI tiên tiến vào tầm ngắm quốc gia. Trước đó, công ty đã dành nhiều năm để cảnh báo các nhà lập pháp trên khắp nước Mỹ về những rủi ro thảm khốc của AI tiên tiến.

Những mối lo ngại về AI thường được cử tri Mỹ nêu ra, chẳng hạn như nguy cơ mất việc làm do công nghệ này, tác động tiêu cực của việc xây dựng trung tâm dữ liệu trong cộng đồng của họ, và ảnh hưởng của chatbot đối với trẻ em, lại không truyền cảm hứng cho một chiến dịch lập pháp tương tự từ các phòng thí nghiệm AI tiên tiến. Anthropic và một số đối thủ cạnh tranh đã hứa rằng những người nộp thuế bình thường sẽ không phải gánh chịu chi phí xây dựng trung tâm dữ liệu, và Anthropic đã công bố các đề xuất nhằm ứng phó với tình trạng mất việc làm do AI gây ra trong tương lai. Tuy nhiên, ngành công nghiệp này đã đầu tư ít hơn đáng kể về mặt chính trị vào các vấn đề cấp tiểu bang.