Sự nguy hiểm từ AI tạo ảnh đồi trụy. Chính những khuôn mặt của hàng tỷ người thật, đăng tải trên mạng xă hội, vô t́nh trở thành nguyên liệu cho AI tạo ảnh khiêu dâm.
“Hôm nay tôi cảm thấy xinh”, bài đăng của Claudia trên Reddit viết. Đính kèm là một bức ảnh phụ nữ có tóc mái đen, thẳng và đôi mắt xanh. Chiếc áo của nhân vật để hở một khoảng ngực nhưng không quá nhiều. Claudia cũng hứa hẹn sẽ bán ảnh khỏa thân cho những người nhắn tin riêng.
Claudia thực ra chỉ là các bức ảnh do AI tạo ra. Dù vậy, 2 sinh viên khoa học máy tính vận hành tài khoản nói với Rolling Stone rằng họ đă kiếm được 100 USD bằng cách bán những bức ảnh khỏa thân của "Claudia" cho người dùng mạng xă hội.
Bây giờ, tài khoản đă bị bại lộ nhưng họ vẫn tiếp tục đăng những bức ảnh khiêu dâm trên các subreddit bao gồm r/normalnudes và r/amihot.
Các nhóm bán ảnh khiêu dâm do AI tạo ra nói rằng h́nh ảnh không có hại v́ hoàn toàn là hư cấu, nhưng thực tế h́nh ảnh bắt nguồn từ quá tŕnh đào tạo mô h́nh sử dụng hàng tỷ h́nh ảnh người thật. Ảnh: Rolling Stone.
“Tài khoản này chỉ là một thử nghiệm để xem có thể đánh lừa mọi người bằng những bức ảnh AI hay không”, nhóm đứng sau Claudia, từ chối tiết lộ tên thật, cho biết. Họ cho rằng Claudia cũng giống như các vtuber, hay nhân vật ảo.
Biến tướng của công nghệ AI tạo ảnh
Claudia được tạo ra bởi Stable Diffusion, mô h́nh AI tạo ra h́nh ảnh từ yêu cầu dưới dạng văn bản. Trong trường hợp này, yêu cầu văn bản là "ảnh selfie của một người phụ nữ trong nhà cô ấy, không trang điểm với mái tóc đen, thẳng, mái bằng, dài ngang vai, phông nền đơn giản”.
Một trong những bức ảnh mà "Claudia" đăng lên Reddit để quảng cáo dịch vụ ảnh khỏa thân. Ảnh: Reddit.
Đây chỉ là một trong nhiều trường hợp nội dung khiêu dâm được tạo ra thông qua công nghệ AI. Trên Civitai, một công cụ được quảng cáo là “Mô h́nh Stable Diffusion dành cho những kẻ bệnh hoạn” có thể tạo ra “ảnh khiêu dâm chân thực" đă được tải xuống hơn 77.000 lần trong 3 tháng qua. Một số h́nh ảnh mẫu đă được tạo ra từ các yêu cầu “đôi mắt đen mơ màng”, “ham muốn” và “tuổi teen”.
Stability AI, công ty phát triển Stable Diffusion, cấm sử dụng công cụ để tạo ra những h́nh ảnh "mà một người b́nh thường có thể đánh giá là tục tĩu hoặc khiêu dâm”. Nhưng công ty này cho phép tải công cụ tạo ảnh xuống máy tính cá nhân, do đó không có cách nào ngăn cản người dùng tạo ra bất kỳ h́nh ảnh ǵ họ muốn.
Một người xem ảnh khiêu dâm AI, yêu cầu ẩn danh, nói với The Washington Post rằng đă sử dụng các công cụ Stable Diffusion để tạo ra những bức ảnh phụ nữ trưởng thành mặc tă. “Tôi không nghĩ những người xem những thứ này quan tâm thật giả", người này cho biết.
Nhiều người lo ngại về deepfake, h́nh ảnh hoặc video sử dụng khuôn mặt của một người mà không có sự đồng ư của nhân vật. Những nội dung này dễ t́m thấy trên Reddit, Discord, Twitter. Thậm chí có các dịch vụ làm ảnh deepfake khiêu dâm ghép mặt theo yêu cầu, thường có giá từ 5 USD, theo NBC.
Trong khi nội dung khiêu dâm deepfake rơ ràng là bất hợp pháp, v́ đă sử dụng h́nh ảnh của một cá nhân, mối nguy từ các h́nh ảnh khiêu dâm hoàn toàn do AI tạo ra lại không rơ ràng như vậy.
Mối nguy hiểm cho bất kỳ ai có ảnh trên mạng
“Deepfake là vấn đề nguy hiểm nhưng khá rơ ràng trắng đen, ảnh khiêu dâm hư cấu do AI tạo ra th́ phức tạp hơn", Hany Farid, giáo sư khoa học máy tính tại Đại học California, Berkeley, cho biết.
H́nh ảnh phụ nữ do AI tạo ra được đưa lên nền tảng Civitai để làm sản phẩm mẫu. Ảnh: The Washington Post.
Những người thu lợi từ ảnh khiêu dâm AI lập luận rằng h́nh ảnh chỉ là hư cấu, cũng tương tự như các nhân vật hoạt h́nh hay ca sĩ, diễn viên ảo. “Người mua những bức ảnh hài ḷng với giao dịch mua của họ v́ họ đang t́m kiếm khiêu dâm, chúng tôi cũng chưa bao giờ nói rằng đó là những bức ảnh người thật", nhóm Claudia nói.
Nhưng trong khi h́nh ảnh là hư cấu và do AI tạo ra, th́ hàng tỷ h́nh ảnh được sử dụng để đào tạo các mô h́nh AI đều là ảnh người thật, và hầu hết mọi người sẽ không cho phép sử dụng chân dung của ḿnh theo cách này. Farid cho rằng sự thiếu đồng thuận này là một trong các vấn đề đạo đức.
Có thể xảy ra trường hợp người dùng đăng ảnh trên Facebook và sau đó nhận thấy một khuôn mặt do AI tạo ra có những nét rất giống ḿnh, trong khi chưa có sự đồng ư của "chính chủ", chuyên gia cho biết.
Thông thường các trang nội dung người lớn có quy tŕnh xác minh để đảm bảo rằng những người đóng góp nội dung không ở độ tuổi vị thành niên hoặc bị lợi dụng. Quy tŕnh này hiện gần như không thể thực hiện được với các nội dung AI, đây cũng là lư do các sản phẩm như Claudia chỉ được bán "trao tay" trên mạng xă hội.
"Mục đích đằng sau quá tŕnh xác minh này là đảm bảo không ai bị lợi dụng. Với nội dung AI, không thể xác nhận sự đồng thuận", một nguồn tin trong ngành công nghiệp nội dung người lớn cho biết.
VietBF@ sưu tập