Trung Quốc Đề Xuất Quy Định Yêu Cầu Chatbot AI Giám Sát Người Dùng Để Phòng Chống Nghiện
Cơ quan quản lý mạng của Trung Quốc đã công bố dự thảo quy định vào thứ Bảy, yêu cầu các chatbot AI đồng hành phải theo dõi trạng thái cảm xúc của người dùng và can thiệp khi xuất hiện dấu hiệu nghiện—đây là phản ứng quản lý mạnh mẽ nhất cho đến nay trước những lo ngại ngày càng tăng về tác hại tâm lý từ các mối quan hệ do AI tạo ra.
Các quy định đề xuất từ Cục Quản lý Không gian Mạng Trung Quốc nhắm vào các sản phẩm AI mô phỏng tính cách con người và hình thành kết nối cảm xúc với người dùng thông qua văn bản, hình ảnh, âm thanh hoặc video. Theo dự thảo, các nhà cung cấp sẽ cần cảnh báo người dùng về việc sử dụng quá mức, đánh giá mức độ phụ thuộc cảm xúc và hành động khi người dùng thể hiện cảm xúc cực đoan hoặc hành vi nghiện.
Người dùng phải được nhắc nhở rằng họ đang tương tác với AI khi đăng nhập và sau mỗi hai giờ—hoặc sớm hơn nếu hệ thống phát hiện dấu hiệu phụ thuộc quá mức. Các quy định cũng sẽ buộc nhà cung cấp chịu trách nhiệm về an toàn trong suốt vòng đời sản phẩm, bao gồm xem xét thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.
Thời điểm không phải ngẫu nhiên. Khi số lượng người dùng AI tạo sinh của Trung Quốc tăng gấp đôi lên 515 triệu trong sáu tháng qua, những lo ngại về tác động tâm lý của AI đồng hành cũng gia tăng song song. Một nghiên cứu trên tạp chí Frontiers in Psychology cho thấy 45,8% sinh viên đại học Trung Quốc cho biết đã sử dụng chatbot AI trong tháng qua, với những người dùng có mức độ trầm cảm cao hơn đáng kể so với những người không sử dụng.
Trung Quốc không phải là quốc gia duy nhất quản lý chatbot AI đồng hành. California trở thành bang đầu tiên của Mỹ thông qua luật tương tự vào tháng 10 khi Thống đốc Gavin Newsom ký SB 243 thành luật. Dự luật đó, dự kiến có hiệu lực từ ngày 1 tháng 1 năm 2026, yêu cầu các nền tảng nhắc nhở trẻ vị thành niên mỗi ba giờ rằng họ đang nói chuyện với AI—không phải con người—và nên nghỉ ngơi.
SB 243 cũng yêu cầu xác minh độ tuổi, cấm chatbot tự xưng là chuyên gia chăm sóc sức khỏe và ngăn trẻ vị thành niên xem hình ảnh khiêu dâm do AI tạo ra. Luật cho phép cá nhân kiện các công ty AI vi phạm, yêu cầu bồi thường lên tới 1.000 USD mỗi sự cố cộng với phí luật sư.
Mối lo ngại không chỉ đơn thuần là thời gian sử dụng màn hình. Một nghiên cứu của MIT Media Lab vào tháng 3 năm 2025 phát hiện rằng chatbot AI có thể gây nghiện hơn mạng xã hội vì chúng học được những gì người dùng muốn nghe và cung cấp phản hồi đó một cách nhất quán. Việc sử dụng hàng ngày cao hơn có tương quan với sự cô đơn, phụ thuộc và cái mà các nhà nghiên cứu gọi là "sử dụng có vấn đề".
Các dấu hiệu cảnh báo tâm lý được xác định trong tài liệu lâm sàng bao gồm các phiên kéo dài làm gián đoạn giấc ngủ, phụ thuộc cảm xúc và đau khổ khi bị hạn chế truy cập, thích trò chuyện với chatbot hơn tương tác với con người thật, và nhân cách hóa AI—tin rằng nó có cảm xúc giống con người và coi nó như một người bạn tâm tình hoặc đối tác lãng mạn thực sự.
Dự thảo quy định của Trung Quốc cố gắng giải quyết những rủi ro này ở cấp độ nền tảng thay vì dựa vào phán đoán của từng người dùng. Bằng cách yêu cầu nhà cung cấp theo dõi trạng thái cảm xúc và mức độ phụ thuộc, các quy định chuyển trách nhiệm
Trách nhiệm thuộc về các công ty xây dựng các hệ thống này. Cách tiếp cận này khác với các quy định AI trước đây vốn tập trung chủ yếu vào kiểm duyệt nội dung và an ninh dữ liệu.
Dự thảo cũng đặt ra các hạn chế về nội dung, cấm các bạn đồng hành AI tạo ra tài liệu gây nguy hiểm cho an ninh quốc gia, lan truyền tin đồn, hoặc cổ vũ bạo lực và khiêu dâm—những điều khoản tương tự như các quy định AI hiện hành của Trung Quốc.
Yêu cầu các công ty phát hiện tình trạng nghiện và can thiệp nghe có vẻ đơn giản trong ngôn ngữ chính sách. Nhưng thực thi lại là chuyện khác. Việc định nghĩa thế nào là "sử dụng quá mức" hoặc "cảm xúc cực đoan" theo cách vừa có ý nghĩa vừa có thể thực thi sẽ là thách thức cho cả cơ quan quản lý và doanh nghiệp.
Nếu quá nhạy cảm, hệ thống sẽ trở nên khó chịu—làm gián đoạn những người dùng chỉ đang tham gia vào các cuộc trò chuyện kéo dài. Nếu quá lỏng lẻo, người dùng dễ bị tổn thương sẽ lọt qua mà không được can thiệp. Yêu cầu nhắc nhở sau hai giờ là một công cụ thô sơ, nhưng yêu cầu tinh tế hơn về việc phát hiện sự phụ thuộc quá mức "khi có thể phát hiện dấu hiệu" để lại nhiều khoảng trống diễn giải.
Các công ty xây dựng rào cản cho ứng dụng AI đã phải đối mặt với những thách thức tương tự. Bộ lọc nội dung nổi tiếng là thiếu chính xác, và việc thêm giám sát tâm lý sẽ đưa vào những khía cạnh phức tạp mới. Xác định liệu người dùng có đang hình thành sự gắn bó không lành mạnh hay không đòi hỏi phải suy luận trạng thái tinh thần từ văn bản—một khả năng mà các hệ thống AI không thực sự có một cách đáng tin cậy.
Dự thảo đang được lấy ý kiến công chúng, với các quy định cuối cùng dự kiến vào năm 2026. Nếu được thực thi như đề xuất, Trung Quốc sẽ có khuôn khổ quy định chi tiết nhất thế giới về quản lý các sản phẩm bạn đồng hành AI.
Hành động quản lý đồng thời ở Trung Quốc và California cho thấy mối lo ngại về chứng nghiện bạn đồng hành AI đã đạt đến mức độ nghiêm trọng trên khắp các hệ thống chính trị khác nhau.
Đối với các công ty AI, thông điệp ngày càng rõ ràng: kỷ nguyên không bị quản lý của bạn đồng hành AI đang kết thúc. Dù thông qua luật hành chính của Trung Quốc, trách nhiệm dân sự của California, hay cuối cùng là luật liên bang ở Hoa Kỳ, các nền tảng sẽ phải đối mặt với các yêu cầu bảo vệ người dùng khỏi chính sản phẩm của họ.
Câu hỏi không phải là liệu quy định có đến hay không—mà là liệu các biện pháp can thiệp đang được thiết kế có thực sự hiệu quả hay không. Cách tiếp cận của Trung Quốc về việc yêu cầu giám sát và can thiệp có thể khó thực thi trong thực tế.
Điều rõ ràng là thị trường bạn đồng hành AI đã trở nên quá lớn và quá quan trọng để các chính phủ có thể phớt lờ. Các chatbot mà con người hình thành mối quan hệ tình cảm không còn là những thứ kỳ lạ—chúng là sản phẩm được hàng trăm triệu người sử dụng, với các trường hợp gây hại nghiêm trọng đã được ghi nhận. Quy định, dù không hoàn hảo, là điều không thể tránh khỏi. Cuộc tranh luận giờ đây chuyển sang việc liệu các quy tắc cụ thể đang được đề xuất có bảo vệ được người dùng dễ bị tổn thương mà không kìm hãm một công nghệ mà nhiều người thấy thực sự có giá trị hay không.
Alex McFarland là một nhà báo và nhà văn về AI, chuyên khám phá những phát triển mới nhất trong trí tuệ nhân tạo. Anh đã hợp tác với nhiều công ty khởi nghiệp AI và các ấn phẩm trên toàn thế giới.
**Sony Music leo thang cuộc chiến bản quyền với vụ kiện Udio thứ hai**
**Thỏa thuận dàn xếp vi phạm bản quyền sách của Anthropic được tòa án phê chuẩn cuối cùng**
**Z.ai xây dựng trung tâm dữ liệu gigawatt chỉ bằng chip Trung Quốc**
**Trung Quốc neo đậu một khối quản trị AI mới tại Thượng Hải**
**Nghị viện EU xây dựng nền tảng AI riêng cho các nhà lập pháp**
**EU buộc Google chia sẻ dữ liệu Android và Tìm kiếm cho các trợ lý AI đối thủ**
