Khoảng cách tính toán AI: Các doanh nghiệp đang mua hạ tầng nhanh hơn khả năng đo lường chi phí của nó

Trên 107 doanh nghiệp, chi tiêu cho hạ tầng AI đang tăng tốc vượt xa khả năng nhìn thấy hoặc kiểm soát kinh tế học của nó. Hầu hết tổ chức vận hành AI trên nền tảng quen thuộc gồm các hyperscaler và API của nhà cung cấp mô hình, nhưng đồng đô la tiếp theo lại nhắm vào tính toán chuyên biệt mà hầu như không ai dùng hiện tại; đa số có ý định chuyển đổi hoặc thêm nhà cung cấp trong năm, nhiều người trong vòng một quý. Quyết định mua hàng xoay quanh tích hợp và tổng chi phí sở hữu thay vì giá token công bố — điều may mắn, vì hầu hết doanh nghiệp chưa thể thấy rõ kinh tế đơn vị của mình: GPU hoạt động ở mức một nửa công suất hoặc thấp hơn, và chưa đến một nửa theo dõi chặt chẽ chi phí thực tế của tính toán. Kết quả là một khoảng trống tính toán — đầu tư nặng, nhanh chóng vượt xa tầm nhìn cần thiết để kiểm soát.

Làn sóng Nghiên cứu Pulse của VentureBeat này xem xét hạ tầng AI doanh nghiệp và tính toán: nơi tổ chức đang trong hành trình triển khai, họ chạy AI trên gì hiện tại, mức độ hài lòng, điều gì khiến họ chuyển đổi, nơi họ dự định đánh giá đầu tư, và — tiết lộ nhất — họ đo lường và kiểm soát kinh tế học của tính toán bên dưới tốt đến đâu.

Phát hiện trung tâm là khoảng trống tính toán — khoảng cách giữa mức độ doanh nghiệp đầu tư mạnh mẽ vào hạ tầng AI và mức độ ít ỏi họ có thể thấy kinh tế học của nó. Chỉ khoảng một phần năm (21%) chạy AI trong sản xuất ở quy mô lớn, nhưng ý định chi tiêu đang vượt quá sự trưởng thành đó: lĩnh vực lớn nhất mà doanh nghiệp dự định đánh giá trong năm tới là đám mây chuyên biệt AI (45%), một lớp mà hầu như không doanh nghiệp nào dùng hiện tại. Trong khi đó, tính toán đã có sẵn hoạt động lạnh — 83% báo cáo mức sử dụng GPU 50% hoặc thấp hơn — và chưa đến một nửa (44%) có thể theo dõi chặt chẽ chi phí tính toán AI của họ. Doanh nghiệp đang mua nhiều hạ tầng hơn nhanh hơn khả năng họ có thể giải trình cho những gì họ đã sở hữu.

Doanh nghiệp cũng chưa ổn định với nhà cung cấp hạ tầng của mình: Một đa số rõ ràng (64%) dự định chuyển đổi hoặc thêm nhà cung cấp hạ tầng trong vòng mười hai tháng, và 38% trong quý tới — tỷ lệ chuyển đổi cao bất thường cho một danh mục cơ bản như vậy. Khi họ chọn, họ chọn dựa trên tích hợp với ngăn xếp hiện có (41%) và tổng chi phí sở hữu (35%), không phải giá công bố: chi phí mỗi triệu token là yếu tố quyết định chỉ cho 8%. Và ràng buộc biên giới sẽ định hình vòng quyết định tiếp theo — sự chuyển dịch từ tính toán GPU sang băng thông bộ nhớ khi suy luận mở rộng — hầu như chưa được chú ý, với khoảng một phần năm doanh nghiệp không biết hoặc chưa giải quyết nó.

VentureBeat thực hiện khảo sát này như một phần của loạt Nghiên cứu Pulse đang diễn ra, khảo sát này tập trung vào hạ tầng AI doanh nghiệp, tính toán và kinh tế suy luận. Phản hồi được lọc cho các tổ chức có hơn 100 nhân viên (n=107; nhóm kích thước nhỏ nhất, 1–100 nhân viên, bị loại trừ), lấy từ một đợt duy nhất Q2 2026 (tháng Sáu). Vì đây là một đợt thay vì mẫu tổng hợp nhiều tháng, báo cáo đọc theo mặt cắt ngang và không suy luận xu hướng tháng qua tháng. Một số câu hỏi là chọn nhiều, vì vậy các tỷ lệ đó có thể cộng lại hơn 100%.

Theo quy mô tổ chức, mẫu tập trung vào thị trường trung bình: 101–250 nhân viên (36%) và 251–1.000 (27%) dẫn đầu, với 1.001–5.000 (22%), 5.001–10.000 (8%), và 10.001+ (7%) ở trên. Theo vai trò, nó trải dài từ quản lý (38%), người đóng góp cá nhân (28%), phó chủ tịch và giám đốc (19%), và C-suite (13%); về thẩm quyền mua hàng,

Đây là bản dịch tiếng Việt:

Điều này có độ tin cậy cao từ phía người mua, với 45% là người ra quyết định cuối cùng và 30% là người đề xuất hoặc gây ảnh hưởng cho các giải pháp AI. Công nghệ/Phần mềm là ngành lớn nhất chiếm 26%, tiếp theo là Chăm sóc sức khỏe/Khoa học đời sống (15%), Dịch vụ tài chính (13%), và Bán lẻ/Thương mại điện tử (12%).

Với 107 người trả lời, mẫu này đủ lớn để đọc theo hướng, nhưng cần được coi là tín hiệu định hướng thay vì đo lường chính xác; nó được tự chọn và không phải là mẫu xác suất. Mẫu cũng nghiêng về thị trường trung bình và những người áp dụng sớm, vì vậy tốt nhất nên đọc như góc nhìn từ các tổ chức đang tích cực xây dựng hạ tầng AI thay vì từ các nhà khai thác siêu quy mô lớn nhất.

Chỉ một phần năm chạy AI trong sản xuất ở quy mô lớn

Chúng tôi hỏi các tổ chức đang ở đâu trong hành trình triển khai AI. Hầu hết vẫn đang xây dựng hướng tới sản xuất thay vì vận hành ở quy mô lớn.

Phát hiện 1 — Tham vọng vượt xa sản xuất

Đường cong trưởng thành bị lệch về phía trước. Ba phần tư doanh nghiệp (76%) đang thử nghiệm hoặc chỉ chạy một số khối lượng công việc trong sản xuất, và chỉ 21% mô tả AI trong sản xuất ở quy mô lớn. Điều này quan trọng cho mọi thứ tiếp theo: các quyết định hạ tầng trong báo cáo này phần lớn được đưa ra bởi các tổ chức vẫn còn ở giai đoạn đầu triển khai, có dấu chân tính toán — và chi phí — sắp tăng lên. Các ý định đánh giá và chuyển đổi trong Phát hiện 3 và 4 là mũi nhọn của quá trình xây dựng đó, không phải là sở thích ổn định của các nhà khai thác đã tìm ra giải pháp hiệu quả.

Các đám mây GPU chuyên biệt hầu như không được ghi nhận — hiện tại

Chúng tôi hỏi các nhà cung cấp và nền tảng nào mà doanh nghiệp hiện đang sử dụng để chạy AI. Câu trả lời là một câu quen thuộc: các nhà cung cấp hiện tại.

Phát hiện 2 — Doanh nghiệp chạy trên các siêu quy mô và API mô hình

Ngăn xếp hiện tại là siêu quy mô và API. Google Cloud dẫn đầu với 48%, và các đám mây đa năng (Google, Microsoft, AWS, Oracle) cùng với các API mô hình lớn (Gemini, OpenAI, Anthropic) chiếm hầu hết triển khai hiện tại. Các nhà cung cấp GPU "neocloud" chuyên biệt thống trị các tiêu đề hạ tầng AI — CoreWeave, Lambda, Crusoe, Nebius và các đối thủ — được ghi nhận ở mức gần bằng không trong số các doanh nghiệp này hiện nay. Chỉ 6% chạy cụm GPU tại chỗ riêng và 4% chạy ngăn xếp mã nguồn mở tùy chỉnh. Doanh nghiệp, hiện tại, đang chạy AI trên các nhà cung cấp mà họ đã mua từ trước — điều này làm cho các ý định đánh giá trong Phát hiện 3 càng trở nên nổi bật hơn.

(Lưu ý về cách đọc các tỷ lệ này. Như đã mô tả trong phần phương pháp luận, mẫu này được tự chọn và nghiêng về thị trường trung bình, và câu hỏi này đếm mọi nhà cung cấp mà người trả lời sử dụng — trung bình 2,1 lựa chọn mỗi người — vì vậy các con số đo lường sự hiện diện trong ngăn xếp thay vì chi tiêu hoặc trạng thái chính. Một mẫu được xây dựng theo cách này sẽ cho thấy sự pha trộn nhà cung cấp khác so với một cuộc điều tra dân số có trọng số chi tiêu của thị trường rộng lớn hơn; ví dụ, sức mạnh của Google ở đây phù hợp với vị trí lâu dài của nó trong số các doanh nghiệp nhỏ hơn đang xây dựng trên AI. Đọc các tỷ lệ này như một bức chân dung về những gì nhóm hoạt động AI này đang chạy hôm nay, và coi khoảng cách giữa các con số này và ước tính thị phần toàn ngành là một thuộc tính của mẫu thay vì mâu thuẫn với cả hai.)

Các đám mây chuyên biệt AI đứng đầu danh sách đánh giá

Chúng tôi hỏi doanh nghiệp dự định đánh giá hạ tầng AI trong 12 tháng tới ở đâu. Câu trả lời của họ chỉ ra sự khác biệt so với ngăn xếp họ đang chạy hiện tại.

Phát hiện 3 — Đồng đô la tiếp theo sẽ đến hạ tầng họ chưa chạy

Đây là sự căng thẳng rõ rệt nhất của báo cáo. Điều được trích dẫn nhiều nhất trong các kế hoạch đánh giá

Khu vực đánh giá — các đám mây chuyên dụng cho AI, ở mức 45% — chính là hạng mục mà hầu như không doanh nghiệp nào sử dụng hiện nay (Phát hiện 2). Gần một phần ba (32%) có ý định đánh giá các bộ tăng tốc không phải của Nvidia, và 28% đánh giá silicon Nvidia thế hệ tiếp theo; thậm chí các mạng tính toán phi tập trung (16%) và tính toán có chủ quyền (11%) cũng thu hút sự quan tâm đáng kể. So với mức sử dụng hiện tại, đây không phải là sự gia tăng dần dần — mà là bước tiên phong của một cuộc tái cấu trúc nền tảng. Câu hỏi về hướng đi cũng kể cùng một câu chuyện: mọi phương pháp tiếp cận hạ tầng đều đang mở rộng ròng, nhưng các đám mây AI chuyên dụng có động lực ròng cao nhất (+24), vượt qua cả các nhà cung cấp siêu quy mô (+22). Các doanh nghiệp đang chuẩn bị chuyển một phần đáng kể khối lượng tính toán AI ra khỏi đám mây đa năng.

Điều này tiếp nối xu hướng chúng tôi thấy trong đợt khảo sát tháng 4-5. Khi đó, mức sử dụng các đám mây chuyên dụng cho AI cũng không đáng kể — CoreWeave ở mức 3%, Lambda ở mức 4%, Crusoe ở mức 2% doanh nghiệp. Khi chúng tôi hỏi các doanh nghiệp về thay đổi dự kiến trong hạ tầng AI của họ