中国实验室月之暗面（Moonshot）推出的Kimi K3——目前最大的开源权重大语言模型——其令人瞩目的能力引发了一场争论，这场争论将两个不同的问题混为一谈：美国人工智能巨头的经济前景，以及大语言模型作为一项技术的未来。
OpenAI战略未来负责人迪恩·W·鲍尔（Dean W. Ball）甚至主张，美国政府应寻找借口，围绕这些新模型制造监管上的恐惧、不确定性和不信任，因为开源权重模型必然会抑制前沿实验室的资本支出。
人们对此感到恐慌，科技界知名人士如扬·勒昆（Yann LeCun）和马丁·卡萨多（Martin Casado）则主张，开源软件可以加速创新，并与专有项目共存。鲍尔很快收回了他的主张，即监管打压是白宫的“最佳策略”，以及开源权重模型必然会减缓该技术的进步。
然而，Axios报道称，特朗普政府正考虑应美国前沿实验室的要求，禁止K3及其他先进的中国模型。Politico的另一篇报道则称，商务部短期内不会采取这一步骤。
对主要人工智能公司而言，好处显而易见：在独立基础设施或大型企业内部运行的开源权重模型，提供的智能服务比Anthropic或OpenAI的顶级模型更便宜。如果用户越来越多地将支出转向封闭实验室之外，就意味着这些实验室在模型训练上的巨额投资回报将减少。
这种观点远不止OpenAI一家持有。“强大、达到前沿水平的开源模型将挤压利润空间，并拉低前沿公司的价格，”Snorkel AI联合创始人、Laude Institute研究合伙人布拉登·汉考克（Braden Hancock）对TechCrunch表示。“这未必意味着人工智能的使用量会减少。你知道，显然恰恰相反。”
对于没有持有Anthropic和OpenAI股份的人来说，这不是问题。人工智能仍将蓬勃发展。那么，政府有什么理由阻止美国人在我们表面上自由的市场中购买某些东西呢？
对中国模型的担忧有多种形式。一是保护美国数据免受中国政府的获取；美国曾因数据收集方面的担忧而禁止进口中国现代电动汽车。但专家们倾向于认为，在美国服务器上运行的开源权重模型不太可能将数据泄露回中国，尽管并非不可能发生这种情况。
另一个担忧是，这些模型可能隐含对中华人民共和国的偏见——但尚不清楚这对例如编码任务意味着什么。
第三个常见的担忧是，中国模型缺乏美国政府通过不透明程序强制要求的安全护栏，这些护栏旨在防止美国领先的大语言模型被用于利用封闭计算机系统或制造武器。然而，同样的安全护栏可能使美国公司更加脆弱：风险投资家、特朗普顾问大卫·萨克斯（David Sacks）一直在分享美国公司的案例。
chuyển sang sử dụng các LLM của Trung Quốc để lấp đầy các lỗ hổng bảo mật khi các mô hình tiên phong của Mỹ từ chối thực hiện các tác vụ đó.
Nhưng động lực quan trọng nhất để hạn chế các mô hình này là nỗi lo rằng Trung Quốc sẽ có thể vượt qua Mỹ nếu các phòng thí nghiệm tiên phong chậm lại.
Sam Bresnick, một nghiên cứu viên chuyên về Trung Quốc tại Trung tâm An ninh và Công nghệ Mới nổi của Đại học Georgetown, cho biết tầm quan trọng ngày càng tăng của AI đối với các hoạt động quân sự của Mỹ là lý do để Mỹ tiếp tục hỗ trợ đầu tư vào AI tại các phòng thí nghiệm tiên phong. Nhưng toàn bộ vấn đề, theo ông, đầy rẫy khó khăn.
"Tại sao chính phủ Mỹ lại phải nhắm mục tiêu bảo vệ các công ty này khỏi các đối thủ cạnh tranh đang bị khóa khỏi thị trường Mỹ dựa trên nguồn gốc của họ?" Bresnick đặt câu hỏi.
Những người ủng hộ AI mở cho rằng các công ty tiên phong đang tạo ra một sự phân đôi sai lầm giữa đổi mới và các mô hình đóng.
"Tác động lớn hơn của việc có các mô hình nguồn mở từ Trung Quốc không phải là chúng lẻn vào qua cửa sau, mà là chúng đang nắm giữ sự đổi mới," Hancock nói với TechCrunch. "Cuối cùng, bạn có một lực lượng lao động mở rộng trên mô hình của mình. PyTorch đã trở thành tiêu chuẩn ngành vì nó là nguồn mở, và vì vậy toàn bộ cộng đồng có thể đóng góp vào nó thay vì chỉ một công ty, và nó ngày càng phát triển, và tất cả các thư viện học sâu khác gần như chết yểu khi so sánh."
Hancock và những người ủng hộ khác lo ngại rằng các LLM của Trung Quốc sẽ trở thành trung tâm của nghiên cứu quốc tế. Hiện tại, các chương trình sau đại học của Mỹ chủ yếu xây dựng trên các mô hình trọng lượng mở của Trung Quốc, và Hancock cho biết một nửa số bài báo sinh viên nghiên cứu đến từ các tổ chức Trung Quốc, trong khi các phòng thí nghiệm tiên phong của Mỹ ngày càng dè dặt trong việc chia sẻ rộng rãi công trình của họ.
"Hạn chế các mô hình mở sẽ không làm cho AI an toàn hơn," Clem Delangue, CEO của Hugging Face, một nền tảng hợp tác AI mở, cho biết. "Nó chỉ đơn giản là che giấu rủi ro, tập trung quyền lực vào tay một số ít người và khiến cho thế hệ tiếp theo của các nhà xây dựng, nhà nghiên cứu, học viện, tổ chức phi lợi nhuận, chính phủ khó tham gia hơn vào việc làm cho AI an toàn hơn và có lợi hơn cho tất cả mọi người."
Bresnick cho rằng cách thực sự để làm chậm Trung Quốc là tập trung nhiều hơn vào các biện pháp kiểm soát xuất khẩu chip. Một cách tốt hơn để duy trì vị thế dẫn đầu AI của Mỹ là ngừng bán bộ xử lý Nvidia H200 cho Trung Quốc. "Điều đó," ông nói, "có thể giúp chúng ta tránh khỏi cuộc tranh luận gai góc này về việc cấm các công nghệ nguồn mở mà một lượng lớn các công ty Mỹ muốn sử dụng."
Một phần của vấn đề là sự không chắc chắn xung quanh kinh tế AI. "Mô hình kinh doanh mở, mô hình kinh doanh độc quyền – cả hai đều chưa được giải quyết. Các công ty AI đang vật lộn để tìm ra cách kiếm tiền từ các công cụ của họ, đặc biệt là khi chi phí đào tạo cần phải tăng lên," Bresnick chỉ ra.
Những thách thức tương tự đang diễn ra ở Mỹ cũng đang diễn ra ở Trung Quốc, nơi các công ty AI cũng đang vật lộn để tạo ra doanh thu và tiếp cận sức mạnh tính toán, và chính phủ được cho là khuyến khích phát hành mở vì lý do chính sách bất chấp thách thức trong
tận dụng chúng.
Một số công ty Mỹ, bao gồm Thinking Machines Lab và Nvidia, đang cố gắng xây dựng mô hình kinh doanh xoay quanh việc phát hành các mô hình mở. Hancock chỉ ra rằng Nvidia sẽ hoạt động tốt hơn “nếu có hàng chục hoặc hàng trăm công ty xây dựng AI thay vì chỉ hai hoặc ba công ty có đủ vốn để tự sản xuất chip,” đây là một trong những lý do đằng sau khoản đầu tư của họ vào Nemotron, một bộ sưu tập các mô hình mở.
“Vấn đề chính là Mỹ sẽ được hưởng lợi rất nhiều nếu có các mô hình mở mạnh mẽ và rẻ hơn nhiều của riêng mình,” Bresnick nói. “Điều này chỉ mâu thuẫn với cách tiếp cận mà các phòng thí nghiệm tiên phong đã áp dụng.”
Với sự đóng góp báo cáo bổ sung từ Rebecca Bellan.
The impressive capabilities of Chinese lab Moonshot’s Kimi K3, the biggest open-weight large language model, has kicked off a debate that conflates two things: the economic possibilities of American AI giants and the future of LLMs as a technology.
OpenAI’s head of strategic futures, Dean W. Ball, went so far as toarguethat the US government should find a pretext to create regulatory fear, uncertainty, and distrust around the new models, since open-weight models must necessarily deter capital spending by the frontier labs.
Peoplefreaked out, with tech luminaries likeYann LeCunandMartin Casadoarguing that open software can accelerate innovation and coexist with proprietary projects. Ball soonretractedhis claims that a regulatory crackdown was the White House’s “best strategy” and that open-weight models necessarily slow down advances in the technology.
However, Axiosreportsthat the Trump administration is considering banning K3 and other advanced Chinese models at the behest of American frontier labs. Anotherreportfrom Politico said that the Department of Commerce would not take that step anytime soon.
The benefit for major AI companies is clear: Open-weight models, running on independent infrastructure or inside major enterprises, offers cheaper intelligence than Anthropic or OpenAI’s class-leading models. If users increasingly spend more outside the closed labs, that means smaller return on their massive investments in model training.
That view extends far beyond OpenAI. “Strong, frontier-caliber open source models will place a squeeze on the margins and will bring down the prices of the frontier companies,” Braden Hancock, the co-founder of Snorkel AI and a research partner at the Laude Institute, told TechCrunch. “It will not necessarily mean that the amount of AI usage goes down a little bit. You know, obviously, quite the opposite.”
That’s not a problem for people without shares in Anthropic and OpenAI. AI will still proliferate. So what’s the justification for the government to block Americans from purchasing something in our ostensibly free markets?
Concerns over Chinese models come in several flavors. One is protecting US data from the Chinese government; the US banned the import of modern Chinese EVs over concerns about their data gathering. But experts tend to think that open-weight models run on US servers are unlikely to leak data back to China, although it’s not impossible that such a thing could be done.
Another is that the models may have implicit bias toward the PRC — but it’s not clear what that might mean for, say, coding tasks.
A third common worry is that Chinese models lack the guardrails that the US government has mandated (through an opaque process), which aim to prevent leading US LLMs from being used to exploit closed computer systems or create weapons. However, those same guardrails may make US companies more vulnerable: David Sacks, the venture capitalist and Trump adviser, has beensharing casesof US companies turning to Chinese LLMs to close security gaps when US frontier models refuse to do the tasks.
But the most significant motivation for restricting the models is that fear that China will be able to outpace the US if the frontier labs slow down.
Sam Bresnick, a China-focused research fellow at Georgetown’s Center for Security and Emerging Technology, says the growing importance of AI to the US military operations gives the US a reason to support continued investment in AI at the frontier labs. But the whole question, he says, is fraught.
“Why should the weight of the U.S. government be aimed at protecting these these companies from competitors that are being locked out from the U.S. market based on their origins?” Bresnick asks.
Advocates for open AI say that the frontier companies are creating a false binary between innovation and closed models.
“The bigger impact of having these open source models come from China is less that they’re sneaking in back doors, and more that they are owning the innovation,” Hancock told TechCrunch. “You end up with, effectively, an expanded workforce on your model. PyTorch became the industry standard because it was open source, and so the whole community could contribute to it rather than just one company, and it grew and grew, and all the rest of the deep learning libraries kind of died in comparison.”
Hancock and other advocates fear that Chinese LLMs will become the locus of international research. Already, US graduate programs mainly build on open-weight Chinese models, and Hancock says that half of the papers students study are coming from Chinese institutions, with American frontier labs increasingly reticent about sharing their work widely.
“Restricting open models wouldn’t make AI safer,” said Clem Delangue, the CEO of Hugging Face, a platform for open AI collaboration. “It would simply hide the risks, concentrate power in the hands of a few and make it harder for the next generation of builders, researchers, academia, non-profits, governments to participate in making AI safer and more beneficial for all.”
Bresnick says that the real way to slow China would be to focus more on chip export controls. A better way to preserve US AI leadership would be to stop selling Nvidia H200 processors to China. “That,” he says, “could potentially keep us out of this thorny debate about banning open source technologies that huge numbers of US companies want to use.”
Part of the problem is that uncertainty around AI economics. “The open business model, the proprietary business model — neither one is figured out. AI companies are struggling to figure out how to make money on their tools, especially as training costs need to go up and up,” Bresnick points out.
The same challenges that play out in the US are also playing out in China, where AI companies are also struggling to generate revenue and access compute power, and the government is seen as encouraging open releases for policy reasons despite the challenge in capitalizing on them.
Some US companies, including Thinking Machines Lab and Nvidia, are trying to make a business around releasing open models. Hancock points out that Nvidia would do better “if there are dozens or hundreds of companies building AI than rather than two or three that are well capitalized enough to make their own chips,” which is one reason behind its investment inNemotron, a collection of open models.
“The main point is the U.S. would be very well served to have its own very capable, much less expensive open models,” Bresnick said. “It just clashes with the approach the frontier labs have taken.”
With additional reporting from Rebecca Bellan.
