16 trang web giúp lột trần truồng qua DEEPFAKE AI phổ biến trên Internet đang bị kiện ở California

[trungthuc]

16 trang web cho phép đăng hình người thật để cho mô hình AI deepfake tạo ra những tấm ảnh khiêu dâm được coi là có số lượng truy cập nhiều nhất, vừa bị văn phòng Công tố thành phố San Francisco, California đệ đơn kiện với mục đích cho đóng cửa những trang web này.

(Minh họa)

Bà Yvonne Meré, phó Chánh án ở thành phố San Francisco, mẹ của một nữ sinh 16 tuổi, đã đưa ra ý tưởng kiện tụng này sau khi đọc được về thực trạng những cậu học sinh trung học sử dụng hình ảnhcủa các bạn học nữ cùng lớp, đưa lên những trang web sử dụng Deepfake để tạo ra những tấm hình có tính cách khiêu dâm trắng trợn. Nữ công tố viên này đã kêu gọi những đồng nghiệp cho khởi kiện để giúp đóng cửa 16 trang web cho "lột đồ" bằng AI Deepfake phổ biến nhất.

Theo đơn kiện này, 16 trang web này đã có đến 200 triệu lượt truy cập chỉ trong 6 tháng đầu của năm 2024. Thậm chí, một trong những trang web này còn đưa ra lời quảng cáo vô cùng táo tợn: "Tốn mất thời gian mời cô ấy đi hẹn hò làm gì, khi bạn có thể dùng trang web này tạo ra hình khỏa thân tuyệt đẹp của cô ấy?"

Những mô hình AI được vận hành trên những trang web này được huấn luyện từ những hình ảnh khiêu dâm và những hình ảnh mô tả việc lạm dụng tình dục trẻ em. Nếu những tấm hình xấu này tạo ra bằng Deepfake được lan truyền trên mạng Internet, việc xác định ra trang web cụ thể nào đã tạo ra chúng là rất khó khăn.

Theo các cáo buộc trong đơn kiện, những trang web này đã vi phạm luật pháp của tiểu bang và luật liên bang có dính líu đến nội dung khiêu dâm.

Thực trạng về mô hình Deepfake AI đang bị lạm dụng để tạo ra hình ảnh khỏa thân mà không được sự cho phép của người trong hình đã thấy xuất hiện từ năm 2020 và khiến cho các nạn nhânnày phải trải qua những khủng hoảng to lớn về tinh thần, chi phối đến đời sống của họ một cách nặng nề.

Những tiến bộ của kỹ thuật AI ở thời điểm hiện tại khiến cho những hình ảnh được tạo ra càng lúc càng chân thực đã khiến cho tình trạng vi phạm luật pháp này trở nên nghiêm trọng hơn.

Một con bot trên Telegram được cho là đã tạo ra hơn 100 ngàn tấm hình dựa trên những hình ảnh người có tài khoản được đăng tải trên các mạng xã hội. Và hiện tượng phi pháp trắng trợn này cần phải được chấm dứt và chận đứng ngay càng sớm càng tốt.