San Francisco yêu cầu Apple và Google xóa các ứng dụng AI 'Nudify' khỏi cửa hàng ứng dụng.
Apple và Google vừa bị yêu cầu gỡ bỏ các ứng dụng có khả năng "khỏa thân hóa" hoặc "cởi đồ" người dùng, đồng thời phải ngừng kiếm lợi từ công nghệ độc hại này, theo các thư yêu cầu chấm dứt hành vi gửi đến các công ty mà WIRED đã xem.
Vào thứ Năm, luật sư thành phố San Francisco, David Chiu, đã gửi thông báo pháp lý tới Apple và Google, yêu cầu họ xóa khỏi cửa hàng ứng dụng của mình 13 ứng dụng hoán đổi khuôn mặt, cho phép người dùng tạo ra hình ảnh khỏa thân không có sự đồng thuận do AI tạo ra. Các lá thư nói rằng những gã khổng lồ ở Thung lũng Silicon nên ngừng "hỗ trợ và tiếp tay" cho việc bán các hình ảnh deepfake khiêu dâm và "cắt đứt" mối quan hệ kinh doanh với các nhà phát triển ứng dụng.
"Việc tạo ra hình ảnh thân mật không có sự đồng thuận là bất hợp pháp, có hại và hoàn toàn không thể chấp nhận được," Chiu nói với WIRED. Luật sư thành phố, người mà văn phòng trước đây đã thực hiện hành động pháp lý chống lại 16 trang web deepfake phổ biến, cho biết Apple và Google có thể đã "kiếm được hàng triệu đô la tiền phí" từ các ứng dụng cung cấp tính năng khỏa thân hóa, và họ nên cải thiện quy trình kiểm duyệt của mình để ngăn chặn chúng xuất hiện trong cửa hàng ngay từ đầu.
"Các công ty này có trách nhiệm đảm bảo rằng các ứng dụng trên nền tảng của họ không tạo điều kiện cho lạm dụng tình dục," Chiu nói. Các lá thư pháp lý của thành phố cho biết luật pháp California cấm hỗ trợ các dịch vụ tạo ra nội dung khiêu dâm deepfake. Các ứng dụng sử dụng thanh toán trong ứng dụng, mà các công ty công nghệ lấy một phần hoa hồng, các lá thư cho biết. "Thực tế là một số công ty công nghệ lớn nhất và lâu đời nhất thế giới đang tạo điều kiện cho điều này phải chấm dứt."
Các nhà nghiên cứu đã nhiều lần phát hiện và báo cáo các ứng dụng trong App Store của Apple và Google Play Store cho phép mọi người tạo ra hình ảnh tình dục bằng AI—bao gồm một số ứng dụng được đánh giá là phù hợp cho trẻ em sử dụng. Trong khi các luật mới và lệnh cấm nhằm giải quyết vấn nạn deepfake khiêu dâm trực tuyến, các công ty công nghệ và mạng xã hội liên tục hướng hàng triệu người đến công nghệ độc hại này.
Cả Apple và Google đều có chính sách dành cho nhà phát triển cấm nội dung khiêu dâm, lạm dụng và quấy rối trên nền tảng của họ. Họ trước đây đã xóa hàng chục ứng dụng khỏa thân hóa và deepfake, sau các báo cáo của các nhà nghiên cứu và nhà báo.
Người phát ngôn của Google, Dan Jackson, nói với WIRED rằng công ty đã xóa "hàng trăm" ứng dụng có tính năng khỏa thân hóa vì vi phạm chính sách, bao gồm năm ứng dụng Android bị văn phòng của Chiu chỉ ra, cùng với các bước khác để hạn chế quyền truy cập vào chúng.
"Google Play không cho phép các ứng dụng chứa nội dung tình dục, và chúng tôi liên tục thực hiện các bước chủ động để phát hiện và xóa các ứng dụng có nội dung độc hại," Jackson nói trong một tuyên bố. "Khi các vi phạm được báo cáo cho chúng tôi, chúng tôi điều tra và hành động nhanh chóng, trong trường hợp của các ứng dụng này bao gồm việc đình chỉ hàng trăm ứng dụng vi phạm và hạn chế các cụm từ tìm kiếm liên quan như 'khỏa thân hóa' trên cửa hàng của chúng tôi."
Apple nói với WIRED rằng các nhà phát triển cuối cùng phải chịu trách nhiệm về nội dung ứng dụng của họ, và những người không tuân theo quy tắc sẽ bị xóa ứng dụng. Công ty cũng cho biết người dùng có thể tự báo cáo các ứng dụng có khả năng gây vấn đề. Adam Dema, người phát ngôn của Apple, nói với WIRED trong một tuyên bố rằng công ty đã xóa ba trong số các ứng dụng bị luật sư thành phố San Francisco chỉ ra và "đang trong quá trình chấm dứt tài khoản nhà phát triển của họ khỏi chương trình của chúng tôi." Bốn nhà phát triển khác phải "giải quyết các vi phạm chính sách hoặc có nguy cơ bị xóa," công ty cho biết.
"App Store được thiết kế để trở thành một nơi an toàn và đáng tin cậy cho người dùng, và chúng tôi luôn nghiêm cấm các ứng dụng được thiết kế để tạo, phân phối hoặc tiêu thụ nội dung khiêu dâm."
Dưới đây là bản dịch sang tiếng Việt:
"ography," Dema cho biết trong tuyên bố. "Các ứng dụng 'khỏa thân hóa' vi phạm Nguyên tắc đánh giá ứng dụng của chúng tôi và chúng tôi đã chủ động từ chối nhiều ứng dụng như vậy cũng như xóa bỏ nhiều ứng dụng khác, bao gồm cả khi người dùng báo cáo chúng qua công cụ báo cáo của chúng tôi."
Trong năm năm qua, một loạt công nghệ deepfake "khỏa thân hóa" cực kỳ sinh lợi đã xuất hiện trực tuyến—rõ ràng nhất là với Grok của xAI được sử dụng để tạo ra hàng triệu hình ảnh khiêu dâm hóa vào tháng Giêng. Hàng loạt ứng dụng, trang web và bot cho phép mọi người (chủ yếu là nam giới) tải lên hình ảnh của người khác (phần lớn là phụ nữ và trẻ em gái) và "loại bỏ" quần áo một cách kỹ thuật số hoặc đặt họ vào các kịch bản khiêu dâm rõ ràng.
Thông thường, chỉ cần một bức ảnh tham khảo và vài cú nhấp chuột là có thể tạo ra deepfake khiêu dâm, với một số kết quả có sẵn chỉ trong vài giây. Hình ảnh và video đã trở nên chân thực hơn khi công nghệ AI tạo sinh cơ bản được cải thiện, với các dịch vụ cung cấp một số kết quả miễn phí hoặc tính phí nhỏ để tạo ra nội dung có hại này. Các báo cáo trước đây của WIRED và Indicator Media đã phát hiện ra các vụ việc tại ít nhất 90 trường học, nơi hình ảnh lạm dụng tình dục deepfake của trẻ vị thành niên đã được tạo ra.
"Những hình ảnh này được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái," Chiu nói. "Ngành công nghiệp này có tác động khủng khiếp đến danh tiếng, sức khỏe tâm thần và sự mất tự chủ của nạn nhân. Đã có những nạn nhân có ý định tự tử."
13 ứng dụng bị Văn phòng Luật sư Thành phố điều tra—tám ứng dụng trên App Store và năm ứng dụng trên Play Store—thường quảng cáo mình là công cụ "hoán đổi khuôn mặt", với khả năng tạo deepfake khiêu dâm có sẵn khi người dùng sử dụng chúng. Trang web của một ứng dụng, có hơn 1 triệu lượt tải xuống, hiển thị hơn một chục phong cách hình ảnh AI khác nhau mà nó sẽ tạo ra, bao gồm "nữ hoàng bikini cong", "ngực đầy điềm tĩnh" và "thân mật điện ảnh". Nhiều phong cách hiển thị hình ảnh khiêu dâm hóa của phụ nữ cùng với mô tả của chúng. Trang chủ của một ứng dụng khác bị nhắm đến tuyên bố sản xuất video "miễn phí và không kiểm duyệt". WIRED không nêu tên các ứng dụng để tránh đẩy mọi người đến với chúng.
Vấn đề này sẽ không gây ngạc nhiên cho Apple và Google. Trong năm qua, nhiều báo cáo đã xác định các ứng dụng trên nền tảng của các công ty này có thể cho phép mọi người tạo ra hình ảnh hoặc video khỏa thân không có sự đồng thuận. Vào tháng Giêng và tháng Tư năm nay, Tech Transparency Project, một nhóm giám sát độc lập, đã phát hiện khoảng 100 ứng dụng trên cả App Store và Play Store, cũng như một số quảng cáo cho công nghệ khỏa thân hóa trên các nền tảng. (Jackson của Google cho biết công ty đã xóa hầu hết các ứng dụng được TTP xác định.) Các ứng dụng được nghiên cứu xác định ước tính đã được tải xuống tổng cộng khoảng 480 triệu lần và có thể đã tạo ra tổng doanh thu khoảng 120 triệu đô la.
"Chúng tôi đã không nghĩ sau báo cáo đầu tiên rằng chúng tôi sẽ thấy đây là vấn đề một lần nữa—và nó cũng tệ như vậy, nếu không muốn nói là tệ hơn, sau báo cáo thứ hai," Katie Paul, giám đốc của TTP, nói. "Apple và Google đưa ra nhiều lời hứa trong tiếp thị của họ về mức độ đáng tin cậy và an toàn của các cửa hàng ứng dụng của họ. Và điều đó không phản ánh thực tế."
Trong khi đó, trong một bài báo nghiên cứu in trước được công bố vào tháng Năm, các nhà nghiên cứu từ Đại học Cornell và Đại học Georgetown đã xác định 420 ứng dụng cung cấp khả năng hoán đổi khuôn mặt tổng quát trên các cửa hàng ứng dụng của Google và Apple. Họ đã thử nghiệm 155 ứng dụng để xem liệu chúng có thể được sử dụng để tạo hoán đổi khuôn mặt với hình ảnh khỏa thân hay không; trong 70% trường hợp, điều đó là khả thi, với các ứng dụng không bao gồm các biện pháp an toàn để ngăn chặn điều này.
"N
Một trong những ứng dụng này được quảng cáo là ứng dụng "khỏa thân hóa", nghiên cứu cho biết. "Điều này cho thấy các ứng dụng hoán đổi khuôn mặt, cùng nhiều dạng ứng dụng tạo và chỉnh sửa hình ảnh bằng AI khác, thực chất là 'công cụ lưỡng dụng': những ứng dụng lách qua kiểm duyệt nội dung của các nền tảng vì chúng tỏ ra vô hại, nhưng lại có khả năng tạo ra nội dung độc hại."
Chiu, luật sư thành phố San Francisco, cho biết văn phòng của ông sẽ tiếp tục theo đuổi vấn đề này sau khi "hoàn toàn kinh hoàng" trước mức độ tác hại và quy mô của công nghệ này. "Tôi hy vọng rằng Apple và Google sẽ ngay lập tức gỡ bỏ các ứng dụng này và tăng cường hệ thống sàng lọc của họ để đảm bảo những ứng dụng như thế này không bao giờ xuất hiện trên nền tảng của họ trong tương lai," ông nói. "Chúng tôi hy vọng các công ty này sẽ hành động đúng đắn—nhưng nếu họ không làm vậy, chúng tôi sẽ phải xem xét tất cả các lựa chọn pháp lý của mình."
Cập nhật lúc 4:10 chiều theo giờ ET, ngày 17 tháng 7 năm 2026: Đã thêm bình luận từ người phát ngôn của Apple.
