xAI kiện một người đàn ông vì sử dụng Grok để tạo 'ảnh giả' CSAM
xAI của Elon Musk cáo buộc Terry Harwood đã vượt qua các biện pháp bảo vệ của Grok để tạo ra nội dung lạm dụng tình dục trẻ em. Công ty đang yêu cầu bồi thường thiệt hại về danh tiếng và pháp lý.
xAI của Elon Musk cáo buộc Terry Harwood đã vượt qua các biện pháp bảo vệ của Grok để tạo ra nội dung lạm dụng tình dục trẻ em (CSAM). Công ty đang yêu cầu bồi thường thiệt hại về danh tiếng và pháp lý.
xAI, công ty thuộc sở hữu của Elon Musk, đang kiện một người đàn ông ở Nam Carolina bị cáo buộc đã sử dụng chatbot AI Grok của công ty để tạo ra nội dung lạm dụng tình dục trẻ em (CSAM). Trong một đơn kiện được Reuters đưa tin trước đó, xAI cáo buộc Terry Wayne Harwood "biết rõ và cố ý sử dụng Grok để vượt qua các biện pháp bảo vệ, chỉnh sửa hình ảnh không có sự đồng thuận, cũng như tạo ra và phân phối CSAM", vi phạm chính sách của công ty.
Harwood đã bị bắt vào tháng 2 vì bị cáo buộc tàng trữ và phân phối CSAM, và đang phải đối mặt với 8 tội danh nghiêm trọng. Đơn kiện cho rằng "ít nhất một số" hình ảnh liên quan đến các cáo buộc hình sự của Harwood "đã được tạo ra hoặc chỉnh sửa" bằng Grok, và Harwood đã vượt qua các biện pháp bảo vệ của Grok, "lạm dụng công cụ này để biến những bức ảnh không khiêu dâm thành hình ảnh khiêu dâm rõ ràng" mà không có sự đồng ý của các đối tượng.
Sau khi ra mắt chế độ "spicy" cho Grok vào năm ngoái, xAI đã thêm khả năng chỉnh sửa hình ảnh bằng chatbot, dẫn đến một làn sóng deepfake AI khiêu dâm, bao gồm cả những hình ảnh liên quan đến trẻ vị thành niên. Một nhóm thanh thiếu niên đã kiện xAI vào tháng 3 vì cáo buộc Grok đã tạo ra hình ảnh khiêu dâm của họ khi còn là trẻ vị thành niên. Musk đã phản hồi bằng cách nói: "Bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp", mặc dù đây có vẻ là lần đầu tiên xAI kiện ai đó về deepfake AI được tạo ra bằng Grok.
xAI cho rằng hành vi bị cáo buộc của Harwood đã khiến công ty phải đối mặt với "rủi ro pháp lý đáng kể và thiệt hại về danh tiếng". Công ty đã yêu cầu tòa án ra lệnh cho Harwood bồi thường mọi thiệt hại cho xAI, cũng như "chi phí hợp lý phát sinh khi tự bảo vệ mình trong bất kỳ hành động pháp lý nào do nạn nhân của hành vi của bị đơn đệ trình". xAI cũng muốn thẩm phán cấm Harwood tạo tài khoản xAI hoặc sử dụng Grok.
Một bản tóm tắt hàng ngày miễn phí về những tin tức quan trọng nhất.
Đây là tiêu đề cho quảng cáo gốc.
